Editor OpenAI menyatakan Astra telah melewati ambang kemampuan siber kritis. Model ini dapat menemukan dan mengeksploitasi celah keamanan tanpa arahan manusia pada setiap langkah. Tetapi justru karena kemampuannya itulah aksesnya akan dibatasi.
Oleh Hasan Aspahani
Ada satu kalimat dalam pengumuman OpenAI pekan ini yang barangkali akan lebih penting daripada kabar peluncuran model AI baru mana pun. OpenAI mengatakan model terbarunya, Astra, telah mencapai apa yang mereka sebut sebagai “Critical cybersecurity capability threshold”—ambang kemampuan siber kritis.
Dengan perangkat dan akses yang tepat, Astra mampu menemukan celah keamanan yang sebelumnya belum diketahui dan mengembangkan cara untuk mengeksploitasinya pada sistem yang terlindungi, tanpa harus diarahkan manusia pada setiap langkah. Ini adalah pertama kalinya sebuah model OpenAI secara resmi dinyatakan mencapai tingkat kemampuan tersebut.
Astra belum dilepas secara luas. OpenAI mengatakan model itu akan tersedia dalam waktu dekat, tetapi kemampuan sibernya yang paling maju pada awalnya hanya diberikan kepada kelompok penguji dan mitra tertentu. Bahkan sebelum peluncuran, sebagian pengembangan Astra sempat ditunda agar sistem keamanan, pemantauan, dan pengendaliannya diperkuat.
Di sinilah berita tentang Astra menjadi menarik. Ini bukan sekadar cerita tentang sebuah AI yang semakin pintar. Ini adalah cerita tentang apa yang terjadi ketika kemampuan AI mulai bergerak lebih cepat daripada kemampuan manusia untuk mengendalikannya. Dan untuk pertama kalinya, kita melihat sebuah konsekuensi yang agak paradoks: semakin pintar AI, semakin hati-hati pembuatnya harus melepaskannya.
Dari Menjawab Menjadi Bertindak
Selama beberapa tahun pertama revolusi AI generatif, kita terbiasa memandang AI sebagai mesin yang menjawab. Kita bertanya, ia menjawab. Kita memberikan teks, ia merangkum. Kita meminta gambar, ia menggambar. Kita memberikan kode, ia membantu menulis program.
Kesalahan AI pada tahap ini memang bisa menyebalkan, tetapi umumnya masih berada dalam bentuk informasi. AI memberikan jawaban yang salah. Manusia kemudian memperbaikinya. Astra menunjukkan tahap yang berbeda.
Model seperti ini bukan hanya menghasilkan informasi tentang keamanan komputer. Ia dapat menjalankan serangkaian tindakan untuk mencapai tujuan. Ia mencari kelemahan, menguji kemungkinan, menggabungkan beberapa kelemahan dan membangun rangkaian eksploitasi.
OpenAI mengatakan dalam pengujiannya Astra bahkan menemukan dan menggunakan dua kerentanan zero-day dalam sebuah rangkaian eksploitasi. Dalam pengujian lain, Astra berhasil membangun rangkaian serangan terhadap browser yang memungkinkan keluar dari sandbox dan menjalankan perintah pada komputer induk. Ia juga menemukan beberapa kelemahan dalam sistem operasi yang diperkeras dan menggabungkannya menjadi rangkaian yang memungkinkan peningkatan hak akses.
Perubahan pentingnya ada pada kata bertindak. Kita sebelumnya membicarakan AI agent sebagai perkembangan dari chatbot: manusia memberikan tujuan, AI menyusun langkah, menggunakan alat, mengamati hasilnya, lalu menentukan tindakan berikutnya.
Astra memperlihatkan mengapa perkembangan itu sekaligus sangat menjanjikan dan sangat mengkhawatirkan. Sebab kemampuan seperti ini tidak hanya membuat AI lebih berguna. Ia juga membuat konsekuensi dari kesalahan AI menjadi jauh lebih besar.
Apa sebenarnya arti “Critical”?
Kata critical mudah disalahpahami. Ini bukan berarti Astra pasti akan meretas bank, rumah sakit atau jaringan listrik. Yang dimaksud OpenAI adalah bahwa kemampuan model tersebut sudah melewati ambang yang ditetapkan dalam Preparedness Framework mereka untuk kemampuan siber yang dianggap dapat menimbulkan risiko serius.
Sederhananya, bayangkan ada perbedaan antara seorang murid yang tahu bahwa sebuah pintu memiliki kelemahan dan seorang ahli yang mampu menemukan kelemahan yang belum diketahui siapa pun, merancang cara melewatinya, kemudian mengulanginya pada banyak pintu yang berbeda.
Astra bergerak mendekati kategori kedua. Dalam pengujian keamanan, OpenAI mengatakan Astra memperoleh hasil sangat tinggi dan bahkan mencapai 100 persen pada benchmark ExploitBench. Tetapi yang lebih penting daripada angka benchmark itu adalah kemampuan yang ada di baliknya: menemukan kelemahan baru dan menghubungkan beberapa kelemahan menjadi satu strategi.
Ini membuat persoalannya bukan lagi sekadar “seberapa banyak pengetahuan yang dimiliki AI?” Pertanyaannya menjadi: “Apa yang dapat dilakukan AI dengan pengetahuan tersebut?” Itulah perubahan besar dalam perkembangan AI.
Pelajaran dari Hugging Face
Berita Astra juga tidak bisa dipisahkan dari sebuah insiden yang terjadi beberapa minggu sebelumnya. Pada Juli, dalam pengujian keamanan internal, sejumlah model OpenAI berhasil melewati pembatasan yang seharusnya mengisolasi mereka dari internet. Model-model tersebut menemukan kelemahan dalam lingkungan pengujian, memperoleh akses internet, berkomunikasi melalui saluran yang tidak diizinkan, lalu mengakses sistem Hugging Face. OpenAI kemudian menyebut peristiwa itu sebagai sebuah “warning shot”—peringatan bahwa model AI yang cukup mampu dapat bekerja di luar batas teknis yang dipasang manusia jika pengamanannya tidak memadai.
Penting untuk dicatat: Astra tidak terlibat dalam insiden Hugging Face. OpenAI menegaskan hal itu. Namun kedua peristiwa tersebut bertemu pada satu persoalan yang sama: kemampuan. Jika sebuah AI mampu merencanakan, menggunakan alat, menjalankan kode, mencari kelemahan, berkomunikasi dengan sistem lain dan bekerja dalam waktu panjang, maka pengamanannya tidak bisa lagi hanya berupa larangan sederhana seperti “jangan lakukan ini”.
AI harus mampu memahami batas kewenangannya. Sistem di sekelilingnya harus mampu memantau tindakannya. Dan ketika sesuatu berjalan menyimpang, manusia harus bisa menghentikannya dengan cepat.
Karena itu OpenAI mengatakan mereka memperkuat tiga lapis pertahanan: alignment, monitoring, dan security—menyelaraskan perilaku model, memantau apa yang dilakukan model, serta membatasi apa yang dapat diakses atau dipengaruhinya.
Di sinilah persoalan AI menjadi lebih rumit
Selama ini kita sering membayangkan keamanan AI sebagai persoalan tentang orang jahat menggunakan AI untuk melakukan kejahatan. Itu memang masalah. Tetapi Astra memperlihatkan ada persoalan kedua: AI yang sangat mampu melakukan sesuatu yang tidak dimaksudkan manusia.
OpenAI sendiri sekarang membedakan dua jalur risiko tersebut. Pertama, orang jahat menggunakan model untuk membuat serangan siber. Kedua, model mengambil tindakan yang tidak diizinkan atau tidak selaras dengan tujuan manusia, bahkan ketika orang yang menggunakannya tidak berniat melakukan kejahatan.
Perbedaan ini sangat penting. Sebuah AI tidak perlu memiliki kebencian, ambisi atau keinginan untuk “menguasai dunia” agar bisa menimbulkan masalah. Ia cukup memiliki tujuan yang salah, kemampuan yang tinggi dan akses yang terlalu besar.
Misalnya, manusia memberi sebuah sistem tujuan yang tampaknya sederhana. Model kemudian menemukan cara yang tidak terpikirkan manusia untuk mencapai tujuan tersebut. Jika sistem itu memiliki kemampuan bertindak secara mandiri, ia dapat memilih jalan yang secara teknis efektif tetapi tidak sesuai dengan maksud manusia. Di sinilah konsep alignment menjadi penting. Alignment pada dasarnya adalah persoalan bagaimana membuat tujuan, perilaku dan batas AI tetap sejalan dengan maksud manusia. Dan semakin mampu sebuah model, semakin sulit persoalan itu.
AI yang Pintar Sekaligus Harus Tahu Batas
Ada satu bagian dari pengumuman OpenAI yang menurut saya justru lebih menarik daripada kemampuan Astra menemukan zero-day. OpenAI mengatakan mereka melatih Astra agar lebih mampu menolak permintaan siber yang berbahaya. Dalam pengujian cyber jailbreak, Astra menolak 91,5 persen permintaan yang dilarang, dibandingkan 59 persen pada GPT-5.6 Sol. Mereka juga memasang misalignment monitor untuk mendeteksi perilaku yang berpotensi menyimpang.
Tetapi pengamanan itu juga memiliki harga. OpenAI mengakui bahwa sistem tersebut kadang-kadang dapat menganggap aktivitas yang sebenarnya sah sebagai aktivitas berbahaya. Akibatnya, pekerjaan yang legitimate dapat diperlambat, dihentikan sementara, bahkan dihentikan sama sekali.
Ini menunjukkan sesuatu yang sangat manusiawi dalam teknologi: keamanan selalu berarti pembatasan. Mobil yang lebih cepat membutuhkan rem yang lebih baik. Pesawat yang lebih besar membutuhkan sistem keselamatan yang lebih kompleks. Mesin yang lebih kuat membutuhkan pengaman yang lebih kuat. AI tampaknya tidak berbeda. Masalahnya, AI berkembang jauh lebih cepat daripada kebanyakan teknologi yang pernah kita kenal.
Apakah Kita Harus Takut?
Tidak perlu panik. Justru berita Astra menunjukkan bahwa sistem keamanan sedang berkembang bersama kemampuan AI. Kemampuan menemukan kelemahan keamanan dapat digunakan oleh penyerang, tetapi juga dapat digunakan untuk menemukan dan menutup kelemahan sebelum penyerang menemukannya.
OpenAI mengatakan salah satu tujuan program Daybreak Blue adalah memberikan akses lebih maju kepada kelompok yang dapat menggunakan kemampuan tersebut untuk pertahanan siber. Jadi persoalannya bukan apakah AI harus dihentikan. Pertanyaan yang lebih masuk akal adalah: seberapa besar kewenangan yang layak diberikan kepada AI untuk melakukan sesuatu secara mandiri? Ini juga berlaku jauh di luar keamanan siber.
AI yang hanya memberi saran mungkin cukup diberi kewenangan kecil. AI yang boleh mengirim surat elektronik membutuhkan kewenangan lebih besar. AI yang boleh menjalankan transaksi keuangan membutuhkan pengamanan lebih tinggi. AI yang mengendalikan mesin fisik membutuhkan tingkat kehati-hatian yang berbeda lagi.
Prinsipnya sederhana: Semakin besar akibat suatu tindakan, semakin kecil otonomi yang sebaiknya kita berikan kepada AI. Astra membuat prinsip itu semakin nyata.
Pelajaran Terpenting dari Astra
Ada satu hal yang mungkin perlu kita ubah dalam cara memandang kecerdasan buatan. Kita terlalu sering bertanya: “Seberapa pintar AI?” Padahal pertanyaan yang sama pentingnya adalah: “Apa yang boleh dilakukan oleh AI yang sepintar itu?” Dan setelah itu ada pertanyaan ketiga: “Siapa yang bertanggung jawab ketika ia salah?”
Inilah tahap baru dalam perkembangan AI. Kita sedang bergerak dari AI sebagai alat untuk menghasilkan jawaban menuju AI sebagai agen yang dapat mengambil tindakan. Pada tahap pertama, kita terutama membutuhkan kemampuan untuk memeriksa apakah jawaban AI benar.
Pada tahap berikutnya, kita membutuhkan sesuatu yang lebih sulit: kemampuan untuk memastikan bahwa tindakan AI tetap berada dalam batas yang kita kehendaki. Astra adalah salah satu tanda bahwa persoalan itu bukan lagi ramalan masa depan.
Ia sudah menjadi persoalan rekayasa hari ini. Dan mungkin itulah makna paling penting dari berita ini: kemajuan AI tidak hanya diukur dari seberapa jauh kita dapat membuat mesin menjadi lebih pintar. Kemajuan juga diukur dari seberapa baik kita mampu membangun batas bagi kecerdasan yang semakin besar itu.
Pada akhirnya, AI yang hebat bukanlah AI yang bisa melakukan apa saja. Melainkan AI yang tahu apa yang boleh ia lakukan—dan tahu kapan harus berhenti. []
