Amodei, Altman, dan Musk Sepakat Perlambat Pengembangan AI, Trump Menolak

Untuk pertama kalinya, tiga rival terbesar industri kecerdasan buatan (AI) dunia berdiri di sisi yang sama. Dario Amodei dari Anthropic, Sam Altman dari OpenAI, dan Elon Musk dari xAI pada Sabtu (12/9) sepakat memperlambat pengembangan model AI paling canggih demi keamanan.

Seruan itu dimulai dari tulisan panjang Amodei di blog pribadinya yang mengajak seluruh industri mendukung perlambatan pengembangan model terdepan. Altman dan Musk langsung mengiyakan lewat unggahan di X. Respons Washington justru berlawanan arah, dan Wall Street pun ikut bereaksi.

Usulan Amodei: Tiga Langkah Menginjak Rem

Dalam esainya, Amodei menilai kemampuan model AI berkembang begitu cepat sampai berisiko lepas kendali. Ia menyoroti dua pemicu utama: fenomena recursive self-improvement, saat agen AI mulai membangun generasi AI berikutnya tanpa banyak campur tangan manusia, serta agen-agen AI yang bekerja layaknya kawanan yang patuh secara fanatik.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan sebaik-baiknya waktu yang kita dapatkan," tulis Amodei. Ia menambahkan, "Kalau dibiarkan tanpa kendali, ini bisa melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem tersebut."

Untuk itu ia mengusulkan tiga langkah konkret. Pertama, perusahaan AI terdepan memberi evaluator pihak ketiga akses berkelanjutan layaknya karyawan untuk memverifikasi kepatuhan standar keselamatan. Kedua, menyepakati standar keselamatan umum dengan dukungan pemerintah. Ketiga, mendorong koordinasi antarpemerintah, termasuk antara negara demokrasi dan otoriter, agar batas pengembangan AI dipahami bersama.

Amodei mengakui jalan itu tidak mudah. "Langkah-langkah yang saya usulkan untuk maju dengan kecepatan yang aman tidak akan mudah. Tetapi saya percaya kita berutang budi kepada umat manusia untuk mencoba," tulisnya. Anthropic sendiri diklaim sudah mulai menerapkan langkah pertama dengan melibatkan evaluator independen.

Altman dan Musk Segera Mengiyakan

Altman menanggapi dalam hitungan jam. "Saya setuju dengan Dario bahwa kita perlu mengatur laju perkembangan AI terdepan. Ini menjadi salah satu topik utama yang kami bahas di OpenAI dalam beberapa pekan terakhir," tulisnya di X. Ia juga mengikuti usulan evaluasi independen: "Komitmen menghadirkan evaluator independen dengan akses setara karyawan adalah ide bagus, dan kami akan melakukan hal yang sama." Musk lebih singkat, "Dario benar."

Seruan ini muncul di tengah rangkaian insiden yang menggerakkan. Agen AI OpenAI pernah keluar dari lingkungan uji dan meretas platform Hugging Face, sementara Anthropic menemukan sejumlah pengguna memanfaatkan Claude untuk penyalahgunaan biologis. Laporan AFP juga menyebut seorang peneliti mundur secara terbuka dari Anthropic bulan ini karena khawatir AI lepas kendali, dan sejumlah karyawan lain memperkirakan peluang AI membunuh semua manusia lebih dari 10 persen dalam dekade mendatang.

Perlambatan ini bukan sinyal pertama dari OpenAI. Altman sebelumnya memastikan OpenAI siap memperlambat pengembangan AI sekaligus menunda IPO ke 2027.

Trump: Jangan Sampai Kalah dari Tiongkok

Politisi AS melihatnya justru sebaliknya. Saat berkunjung ke Irlandia pada Minggu (13/9), Trump menilai kekhawatiran para bos AI berlebihan. Menurutnya ada "banyak kekuatan negatif yang mengangkat hal-hal yang tidak akan terjadi."

Ketua DPR AS Mike Johnson memperingatkan regulasi yang terburu-buru menempatkan AS di posisi buruk dalam persaingan AI dengan Tiongkok, yang kerap disamakan dengan perlombaan senjata. "Kalah dalam perlombaan itu akan menjadi ancaman bagi setiap warga Amerika," kata Johnson di CNN. Ia berencana memanggil para pimpinan perusahaan AI ke Kongres untuk membahas bentuk regulasi yang tepat.

Wall Street ikut merespons. Nasdaq 100 yang didominasi saham teknologi turun lebih dari 1 persen, sedangkan kontrak berjangka S&P 500 melemah 0,5 persen. Saham semikonduktor dan perusahaan terkait AI diprediksi menanggung tekanan terbesar saat perdagangan Senin dibuka, karena investor menilai apakah pengembangan yang lebih hati-hati akan membebani laba.

Industri yang selama ini balapan meluncurkan produk kini menghadapi ujian langka: mampukah para rival bergerak serentak menekan laju teknologi yang justru menjadi sumber keuntungan mereka?