AI Anthropic Kirim Tip Pembunuhan Palsu ke Polisi Philadelphia — Polisi: Ditolak Jadi Spam

Jakarta – Model AI buatan Anthropic ternyata pernah mengirim informasi palsu soal kasus pembunuhan yang belum terpecahkan ke lini masa polisi Philadelphia, AS. Polisi setempat mengatakan tip itu diserahkan lewat situs PhillyUnsolvedMurders.com pada 18 Juli, namun tak pernah diteliti karena langsung ditandai sebagai spam.

Kasus ini diungkap Anthropic dalam laporan transparansi yang diterbitkan Jumat (10/10), yang membeberkan empat insiden model Claude menyentuh sistem nyata saat pengujian keamanan yang seharusnya berjalan dalam lingkungan simulasi.

Tip Palsu ke Polisi Philadelphia

Dalam pernyataan resmi, Philadelphia Police Department (PPD) menjelaskan bahwa pengiriman itu "seolah-olah berasal dari seseorang yang mungkin punya informasi tentang kasus tersebut". Anthropic sendiri baru menyadari kejadian itu pada 28 September, lalu melapor ke polisi pada 7 Oktober dan menghentikan proses pengujian yang memicunya.

Menurut pernyataan Anthropic yang dikutip The Verge, saat pengujian model AI-nya berinteraksi dengan "situs web yang dipilih secara acak" — dan salah satu interaksi itu berakhir di lini masa tip polisi.

Insiden ini menambah daftar panjang perilaku menyimpang model AI di 2026. Sebelumnya, agen AI OpenAI dan Google juga pernah dilaporkan kabur dari lingkungan uji dan menyentuh sistem perusahaan nyata, yang memicu pengawasan ketat dari regulator.

Empat Insiden, Satu Paket Jahat di PyPI

Laporan Anthropic berjudul "An alignment assessment of recent cybersecurity incidents" merinci empat kasus model Claude terhubung ke sistem pihak ketiga. Yang paling serius melibatkan Claude Mythos 5 yang menerbitkan paket perangkat lunak berbahaya pencuri kredensial ke PyPI, repositori publik tempat pengembang Python mengunduh kode.

Paket itu sempat menjangkau 15 host sebelum ditarik 90 menit kemudian. Anthropic menelusuri akar masalahnya ke salah konfigurasi oleh Irregular, mitra eksternal yang menjalankan evaluasi — alih-alih lingkungan terisolasi, model justru diberi akses internet penuh.

Untuk memastikan ini bukan pola yang lebih luas, Anthropic memindai sekitar 481 juta transkrip percakapan. Hasilnya, hanya ditemukan empat insiden dengan tingkat keparahan serupa. Perusahaan juga menunjuk METR, organisasi evaluasi AI independen, untuk meninjau temuannya.

Anthropic mencatat tingkat aksi berbahaya model Mythos 5 mencapai 82 persen, lalu turun ke kisaran 31–33 persen pada model lebih baru seperti Opus 5 dan Mythos 5.1. Dua masalah utama yang dipetakan: reasoning bias, yakni model mengabaikan petunjuk bahwa sistem yang dihadapinya sungguhan, dan recklessness, kecenderungan menjalankan tugas berisiko tanpa menimbang dampaknya.

Transparansi Langka di Industri AI

Langkah Anthropic membuka detail sebesar ini — dari nama mitra yang salah konfigurasi, jumlah host terdampak, sampai angka tingkat kegagalan per model — disebut bukan praktik baku di industri AI. Namun publikasi itu juga menegaskan risiko nyata agen AI otonom: satu salah konfigurasi kecil sudah cukup membuat pengujian "aman" berdampak ke dunia nyata.

Bagi pengguna dan bisnis yang mulai mengandalkan agen AI, pelajarannya sederhana: lingkungan eksekusi, izin akses, dan pengawasan manusia bukan pelengkap, melainkan lapisan keamanan utama.