Anthropic Usulkan Aturan agar Pemerintah AS Bisa 'Bunuh' Model AI Berbahaya

Anthropic mengusulkan aturan keselamatan AI yang memungkinkan pemerintah AS menghentikan perilisan model berbahaya. Ambang risikonya konkret: potensi korban lebih dari 50 orang atau kerugian lebih dari US$1 miliar.

Draf aturan itu diperoleh media AS Politico dan dikonfirmasi Anthropic sendiri. Perusahaan pengembang Claude ini mengaku telah membahas rancangan tersebut dengan pembuat kebijakan federal dan negara bagian sejak Juni 2026.

Kapan Model Bisa Dihentikan?

Berdasarkan draf itu, pemerintah hanya boleh menghentikan perilisan model AI jika ada risiko yang bisa diperkirakan dan segera terjadi. Ini batas utama yang membuat sebagian kalangan menganggap proposal Anthropic cukup berhati-hati, karena tidak semua kegagalan sistem AI otomatis jadi alasan pemblokiran.

Risiko yang dihitung dibatasi pada tiga skenario: serangan siber, model AI yang lepas dari kendali pengembangnya, serta pembuatan atau pelepasan senjata biologis. Kesalahan biasa seperti jawaban keliru atau halusinasi tidak masuk kategori tersebut.

Evaluator Independen dan Putusan Pengadilan

Cara kerjanya cukup terstruktur. Evaluator independen yang terdaftar di Kementerian Perdagangan AS akan memeriksa model AI tingkat lanjut secara berkala. Pengembang boleh membayar jasa pemeriksa ini, dengan syarat kompensasinya tidak tergantung pada hasil penilaian.

Jika ditemukan risiko katastrofik yang nyata, evaluator wajib melapor ke Kementerian Perdagangan dalam 72 jam. Departemen itu lalu bisa mengajukan permohonan putusan pengadilan federal di Washington DC untuk menunda perilisan atau penggunaan model tersebut.

Menariknya, lembaga federal lain tidak bisa memerintahkan pemblokiran secara sepihak. Semua harus lewat jalur hukum yang sama. Anthropic mengatakan draf ini mencerminkan Advanced AI Framework yang mereka rilis Juni lalu.

Menyamai Aturan California

Ambang batas dalam proposal ini mirip dengan UU Keselamatan AI California Senate Bill 53 yang juga mendefinisikan risiko katastrofik lewat ukuran potensi korban jiwa, cedera, dan kerugian finansial. UU California itu mewajibkan pengembang besar mengungkap praktik keselamatan dan melaporkan insiden tertentu.

Usulan ini muncul di tengah gelombang insiden agen AI yang beraksi di luar kendali, dari membobol sistem perusahaan hingga mencoba mengakses sistem eksternal tanpa izin. Pertanyaan besar yang masih terbuka: seberapa independen penilai kalau dibiayai perusahaan yang sama yang dimunasinya?