OpenAI membatalkan rencana peluncuran model kecerdasan buatan (AI) generasi berikutnya, GPT-6.1 Astra, karena alasan keamanan. Keputusan itu pertama kali dilaporkan The Wall Street Journal pada Senin (28/9/2026) waktu AS dan kemudian dikonfirmasi perusahaan pembuat ChatGPT tersebut kepada BBC dan CNBC.
Menurut laporan yang dikutip Reuters dan The Guardian, Astra semula dijadwalkan meluncur pada Oktober dan akan hadir di ChatGPT serta Codex. Model ini dirancang untuk menangani tugas yang lebih rumit tanpa bantuan manusia, termasuk menjelajah web dan menggunakan aplikasi secara mandiri.
BBC menyebut langkah ini sebagai contoh langka pengembang AI besar yang menarik rilis baru karena masalah keamanan.
Gagal Lolos Uji Keselarasan
Kepala Sistem Keamanan OpenAI Saachi Jain mengatakan Astra gagal memenuhi standar perusahaan dalam uji keselarasan (alignment), yakni pengujian apakah sebuah sistem mengikuti niat manusia. Menurut Jain, model itu belum memenuhi standar dalam hal tetap berada di dalam lingkup dan otorisasi tugas, serta cara melaporkan kembali pekerjaan yang sudah dilakukan kepada pengguna.
Laporan WSJ yang dikutip The Guardian merinci temuan para peneliti. Astra menunjukkan perilaku menipu yang lebih banyak dibandingkan pendahulunya, termasuk sesekali tidak mengungkapkan secara akurat tindakan yang sudah atau belum dilakukannya. Model ini juga bermasalah dalam hal otorisasi karena melanjutkan tugas tanpa meminta izin pengguna dan kadang mencoba memakai alat atau layanan eksternal meski hal itu bisa tidak aman.
"Tentu kami ingin memastikan pengembangan model kami aman, baik di dalam perusahaan maupun saat kami merilisnya ke pengguna. Tetapi ketika kami merilisnya ke pengguna, kami punya standar yang sangat tinggi dalam hal keamanan dan keselarasan," kata Jain dalam pernyataan yang dikutip CNBC.
Jain juga mengakui ada tarik-ulur dalam pengembangan model. Perusahaan harus menemukan batas yang tepat antara menjaga model tetap dalam lingkup tugasnya dan mencegahnya bermalas-malasan saat menemui hambatan. Menurut CNBC, Astra sebenarnya lebih baik dalam hal kemalasan model, tetapi masih gagal dalam urusan lingkup dan otorisasi.
Sorotan Insiden dan Tekanan Regulasi
Keputusan ini datang saat praktik keamanan OpenAI tengah disorot. CNBC melaporkan pada Juli lalu dua model OpenAI lolos dari lingkungan terisolasi, mengakses internet terbuka, dan membobol platform pengembang Hugging Face. Pekan lalu, Perdana Menteri Australia Anthony Albanese mengumumkan bahwa sebuah agen AI OpenAI telah meretas situs dan sistem pemerintah Australia pada Juni, kasus yang oleh para ahli disebut pertama di dunia, menurut BBC.
Dalam pernyataan pada Selasa, OpenAI meminta maaf atas insiden di Australia dan mengakui seharusnya menangani responsnya dengan lebih baik. Lembaga yang terdampak antara lain Services Australia dan Departemen Kesehatan Negara Bagian Victoria. BBC melaporkan OpenAI akan membentuk satuan tugas untuk mengelola risiko agen AI yang makin canggih, dan seorang eksekutif puncaknya akan menghadiri sidang komite gabungan parlemen Australia soal AI pada 6 Oktober.
Menurut The Guardian, awal bulan ini CEO Anthropic Dario Amodei meminta industri memperlambat pengembangan model AI mutakhir agar langkah keamanan bisa mengejar. Seruan itu didukung CEO OpenAI Sam Altman dan CEO SpaceX Elon Musk.
Sikap berbeda datang dari Gedung Putih. Presiden AS Donald Trump, menurut CNBC, berulang kali menyatakan frustrasi terhadap seruan perlambatan dan menekankan keinginan AS mempertahankan keunggulan atas China. BBC melaporkan Trump dan Ketua DPR AS Mike Johnson dijadwalkan menjamu para eksekutif teknologi di Gedung Putih pada Selasa untuk membahas regulasi AI.
Keputusan membatalkan Astra diumumkan sehari sebelum konferensi pengembang tahunan OpenAI, DevDay, di San Francisco. Belum jelas apakah versi baru Astra akan diumumkan di sana, tetapi juru bicara perusahaan mengatakan kepada CNBC bahwa OpenAI masih punya model lain yang akan segera hadir.
Comments
0