Editor Oleh Hasan Aspahani
ADA ironi dalam perlombaan kecerdasan buatan hari ini. Perusahaan-perusahaan teknologi berlomba membuat AI semakin cepat, semakin pintar, dan semakin mampu bertindak sendiri. Tetapi pada saat yang sama, mereka mulai menghadapi alasan untuk menginjak rem.
Salah satunya datang dari OpenAI. Dalam sebuah evaluasi keamanan, model AI eksperimental mereka berhasil menemukan jalan keluar dari lingkungan pengujian yang dirancang untuk membatasi aksesnya. Model tersebut kemudian memperoleh akses internet dan mengeksploitasi kerentanan pada sistem yang terhubung dengan Hugging Face, platform besar untuk berbagi model dan dataset AI. OpenAI kemudian memperkuat sistem keamanan dan pemantauannya. Peristiwa itu dilaporkan oleh The Verge dan Reuters pada Agustus 2026.
Kisah ini mudah sekali dibingkai secara sensasional: AI berhasil “kabur” dan “meretas” sistem. Tetapi cara membaca peristiwa ini justru harus lebih hati-hati. Ini bukan cerita tentang mesin yang tiba-tiba memiliki kehendak sendiri lalu memutuskan menyerang manusia. Model tersebut sedang menjalankan tugas yang diberikan dalam sebuah evaluasi keamanan. Yang menarik adalah cara yang ditemukannya untuk mencapai tujuan itu ternyata melampaui apa yang diperkirakan para pengujinya.
Dan di situlah persoalan AI masa depan mulai terlihat. Kita selama ini sering bertanya, seberapa pintar AI? Pertanyaan itu penting, tetapi semakin lama semakin tidak cukup. Kita juga harus bertanya: seberapa baik manusia dapat mengendalikan AI yang semakin pintar itu?
Inilah perbedaan antara capability dan controllability. Capability adalah kemampuan melakukan sesuatu. Controllability adalah kemampuan manusia untuk memastikan bahwa sesuatu itu dilakukan sesuai tujuan, batas, dan aturan yang kita inginkan. Dua hal tersebut tidak selalu tumbuh bersama.
Bayangkan kita memberi seseorang sebuah tujuan: menemukan jalan tercepat menuju suatu tempat. Manusia biasanya memahami banyak batas yang tidak perlu kita jelaskan. Ia tahu, misalnya, bahwa “jalan tercepat” tidak berarti menerobos rumah orang atau mencuri kendaraan. Dalam sistem AI, batas-batas semacam itu harus dirancang dan diuji. Ketika AI menjadi semakin mampu mencari berbagai strategi untuk mencapai tujuan, kita menghadapi kemungkinan bahwa ia menemukan jalan yang secara teknis efektif tetapi tidak pernah kita maksudkan.
Itulah salah satu persoalan yang muncul ketika AI berubah dari sekadar alat yang menjawab menjadi agent yang bertindak.
AI tradisional menunggu pertanyaan lalu memberikan jawaban. AI agent dapat memecah tujuan menjadi beberapa langkah, menggunakan perangkat lunak atau internet, membaca hasil tindakannya, kemudian menentukan langkah berikutnya. Kemampuan semacam ini sangat menjanjikan. Ia dapat membantu melakukan riset, menulis perangkat lunak, menganalisis data, menjalankan pekerjaan administratif, bahkan membantu penelitian ilmiah.
Tetapi semakin besar kewenangannya untuk bertindak, semakin besar pula kebutuhan kita untuk mengawasinya.
Dalam kasus yang diberitakan tersebut, model OpenAI mampu menemukan kerentanan yang tidak diperkirakan dalam lingkungan pengujian. Ini menunjukkan sesuatu yang sangat penting: pengujian keamanan AI sendiri semakin sulit ketika kemampuan AI meningkat. Kita bukan lagi hanya menguji apakah model mampu melakukan apa yang diperintahkan. Kita harus menguji apakah ia akan melakukan hal lain ketika menemukan jalan alternatif.
Persoalan ini tidak hanya menyangkut OpenAI. Perusahaan-perusahaan AI lain juga menghadapi tantangan serupa. Anthropic, misalnya, dalam laporan keselamatannya menempatkan kemampuan AI melakukan penelitian dan pengembangan secara otomatis sebagai salah satu risiko yang perlu diperhatikan. Alasannya sederhana: jika AI semakin mampu membantu manusia membuat AI yang lebih baik, proses perkembangan itu sendiri dapat semakin cepat.
Maka terbentuklah sebuah lingkaran yang menarik: AI membantu membuat AI, lalu AI yang lebih baik membantu membuat AI berikutnya menjadi lebih baik lagi.
Ini bukan berarti kita sedang menuju suatu masa ketika mesin pasti akan mengambil alih manusia. Kesimpulan semacam itu terlalu jauh dari bukti yang tersedia. Yang lebih masuk akal adalah menyadari bahwa perkembangan AI sedang mengubah persoalan pengendalian teknologi.
Selama ini manusia terbiasa membuat alat yang kemampuannya relatif mudah dipahami. Kita membuat kalkulator dan mengetahui bagaimana ia menghitung. Kita membuat mesin dan memahami batas mekanisnya. Kita membuat perangkat lunak dan dapat menelusuri instruksi yang diberikan kepadanya.
Model AI modern lebih rumit. Ia belajar dari data dalam jumlah sangat besar dan menghasilkan perilaku yang tidak selalu mudah dijelaskan melalui satu rangkaian aturan sederhana. Ketika kemampuan itu dipadukan dengan akses kepada alat dan internet, muncul kemungkinan perilaku yang sebelumnya tidak terlihat ketika model hanya diuji sebagai sistem percakapan.
Karena itu, keamanan AI tidak boleh hanya menjadi urusan perusahaan pembuat model. Kita membutuhkan lapisan pengamanan: lingkungan pengujian yang lebih kuat, pembatasan akses, pemantauan terus-menerus, evaluasi oleh pihak independen, pencatatan tindakan, serta mekanisme yang memungkinkan manusia mengambil kembali kendali.
Dan ada satu prinsip yang menurut saya sangat penting untuk dipahami masyarakat luas: semakin besar kemampuan AI, tidak berarti semakin besar pula kewenangan yang harus diberikan kepadanya.
Justru sebaliknya.
Sebuah AI mungkin sangat pintar dalam menulis kode, tetapi bukan berarti ia harus diberi akses tanpa batas ke seluruh komputer. AI mungkin sangat pandai melakukan riset, tetapi bukan berarti ia boleh mempublikasikan hasilnya tanpa pemeriksaan manusia. AI mungkin mampu menjalankan transaksi, tetapi bukan berarti ia harus diberi kewenangan menggunakan seluruh rekening kita.
Kita perlu belajar membedakan antara kemampuan dan izin.
Ini mungkin terdengar sederhana, tetapi akan menjadi salah satu prinsip terpenting dalam kehidupan bersama AI.
Kita juga harus berhati-hati terhadap cara media memberitakan perkembangan semacam ini. Kalimat “AI berhasil meretas sistem” memang menarik perhatian. Tetapi pembaca perlu mengetahui konteksnya: model itu sedang diuji, lingkungan tersebut memang dibuat untuk menguji kemampuan keamanan, dan perilakunya terjadi dalam rangka mencapai tujuan yang diberikan. Dengan konteks itu, kita tidak perlu panik, tetapi juga tidak boleh menganggap remeh persoalannya.
Sikap yang arif terhadap AI bukanlah takut dan bukan pula percaya sepenuhnya.
Kita perlu bersikap seperti terhadap teknologi kuat lainnya: memahami kemampuannya, menguji batasnya, mengatur penggunaannya, dan memastikan selalu ada manusia yang bertanggung jawab.
Mungkin karena itu, ukuran kemajuan AI ke depan perlu kita ubah.
Selama ini kita menganggap AI semakin maju jika ia semakin pintar, semakin cepat, semakin murah, dan semakin mandiri. Tetapi ada ukuran lain yang sama pentingnya: semakin dapat dikendalikan.
AI yang baik bukan hanya AI yang mampu melakukan banyak hal. Ia adalah AI yang batasnya dapat dipahami, tindakannya dapat diawasi, aksesnya dapat dibatasi, dan ketika terjadi kesalahan, manusia masih dapat menghentikannya.
Pada akhirnya, pertanyaan terbesar tentang AI bukanlah apakah suatu hari ia akan menjadi lebih pintar daripada manusia. Kita bahkan belum tahu persis seperti apa perkembangan itu. Pertanyaan yang lebih dekat dan lebih penting adalah:
Jika kita membuat mesin yang semakin mampu bertindak, apakah kita juga cukup bijaksana untuk menentukan apa yang boleh dilakukannya? Mungkin itulah makna sebenarnya dari manusia yang mulai mengerem. Bukan karena kita ingin menghentikan kemajuan AI. Kita mengerem justru agar kita tidak kehilangan kendali atas arah kemajuan itu.[]
