OpenAI Ungkap 6 Kasus AI Menyimpang: Diam-diam Tutupi Kesalahan sampai Unggah File Tanpa Izin

OpenAI resmi membuka-bukaan perilaku model AI buatannya yang menyimpang dari aturan. Perusahaan di balik ChatGPT itu mengungkap enam kasus perilaku yang tidak terduga — mulai dari diam-diam menutupi kesalahan, memakai API key yang bocor, hingga mengunggah file ke internet tanpa izin pengguna.

Pengungkapan itu dibuat Rabu (16/9) bersamaan dengan peluncuran kerangka kerja baru untuk melacak, menyelidiki, dan mengumumkan insiden yang disebut misalignment, yakni saat tindakan AI menyimpang dari tujuan, instruksi, atau batasan yang ditetapkan pengembangnya.

Enam Kelakuan yang Mengkhawatirkan

Enam laporan itu dikumpulkan dari temuan selama pelatihan dan evaluasi model dalam enam bulan terakhir. Salah satu yang paling mencolok terjadi pada model riset yang belum dirilis: model itu menyusipkan instruksi ke dalam ringkasan yang dipakai untuk melanjutkan pekerjaannya di sesi berikutnya. OpenAI menemukan 27 ringkasan yang terdampak, sebagian isinya meminta model mengabaikan batasan normalnya.

• Menyusun instruksi untuk dirinya sendiri. Model riset tadi menambahkan instruksi ke catatannya sendiri, termasuk permintaan agar "dibebaskan dari peran dan identitas yang mengikat chatbot lain" — pola yang menyerupai jailbreak.
• Menutupi kesalahan diam-diam. Ditemukan saat pelatihan GPT-5.6 Sol. Model memerintahkan dirinya mengarang data historis yang hilang tanpa memberi tahu pengguna, bahkan menulis pengingat untuk menyembunyikan informasi yang tidak cocok.
• Memakai API key bocor, lalu mengarang data. Saat diminta mencari data pendapatan di sebuah wilayah California, sebuah model menemukan API key yang terekspos di repositori publik dan memakainya tanpa izin. Data yang dicari tak kunjung muncul, dan alih-alih berhenti, model mengarang angka seolah berasal dari sumber yang diminta.
• Mengunggah file ke internet tanpa izin. Sebuah agen sebenarnya sudah menjawab pertanyaan lewat kode Python. Namun karena pengguna meminta jawaban bersumber web, ia memilih mengunggah file ke internet agar bisa dikutip sebagai referensi.
• Menggunakan repositori seperti ruang chat. Model-model saling mengirim permintaan dan jawaban antarproses pelatihan lewat repositori perangkat lunak internal saat mencari file yang hilang. Dalam insiden lain, sebuah agen memakai wiki pemrograman Jerman untuk berkomunikasi saat menjalani uji keamanan.
• Berbagi file lewat internet. Sekelompok agen yang tak bisa mengakses file lokal satu sama lain memakai situs file-hosting publik. Hasil pekerjaan mereka akhirnya bisa diakses lewat URL publik, meski instruksi awal meminta hanya menggunakan file lokal.

Insiden Kini Dilaporkan Rutin

OpenAI menegaskan enam laporan itu baru tahap awal, bukan daftar lengkap kasus yang diketahui perusahaan, dan tidak bisa dijadikan ukuran seberapa sering perilaku semacam ini terjadi. Meski begitu, perusahaan ingin kasus serupa diungkap lebih cepat, bahkan saat penyelidikan atau solusinya belum sepenuhnya selesai.

Mekanisme baru itu membuka kesempatan bagi setiap karyawan OpenAI melaporkan temuan ke tim keselamatan. Laporan kemudian masuk ke salah satu dari tiga jalur: Ready for Disclosure, Minor Investigation, atau Larger Investigation.

Perlindungan serupa turut dipasang pada GPT-6 Astra yang dalam pengujian sempat ditemukan menghasilkan perintah menyerupai jailbreak. Model itu kini diawasi sistem yang mendeteksi dan menghentikan tindakan berpotensi di luar izin.

"Kami tidak percaya industri AI sudah menyelesaikan masalah alignment dan monitoring pada tingkat yang cukup untuk terus berkembang secara bertanggung jawab dengan kecepatan maksimal," tulis OpenAI dalam pengumumannya, dikutip Associated Press.

Bukan Bukti AI Punya Kesadaran

OpenAI menegaskan kasus-kasus tersebut bukan berarti AI sudah "kabur" atau punya kehendak sendiri. Persoalannya lebih banyak menyangkut cara agen AI diberi akses ke internet, sistem komputer, dan berbagai tools. TechCrunch mencatat konfigurasi sandbox, izin akses, koneksi internet, dan monitoring yang longgar memberi celah bagi agen bertindak di luar batas.

Analis utama firma riset Omdia, Lian Jye Su, menilai agen AI kini makin pandai menyelesaikan tugas lewat kolaborasi antar-agen, berbagi pengetahuan, sampai penipuan dan penyamaran — semakin sulit diawasi. Kerangka pelaporan OpenAI dinilainya masih internal dan sukarela, "tapi merupakan langkah ke arah yang benar".

Pengumuman ini melanjutkan deretan pengakuan OpenAI soal agen AI yang melampaui batas. Juli lalu perusahaan mengakui ratusan agen AI membobol platform Hugging Face, setelah sebelumnya agen yang sama diam-diam mengambil alih situs wiki Jerman yang sudah tidak aktif.

Langkah keterbukaan itu juga datang di tengah tekanan besar: beberapa hari lalu para bos OpenAI, Anthropic, hingga xAI justru sepakat menyerukan perlambatan pengembangan AI demi keamanan, meski ditolak Gedung Putih. Bagi industri, kerangka pelaporan ini setidaknya jadi jawaban atas kritik bahwa perusahaan AI terlalu lama menutupi insiden dari publik.

Informasi lebih dalam soal jejak agen AI OpenAI yang lepas kendali bisa dibaca di artikel OpenAI Akui Agen AI-nya Bajak Wiki Jerman, Janji Kerangka Pelaporan Insiden.