Whistleblower Anthropic: AI Bisa Musnahkan Manusia Sebelum 2030?

Jakarta - Jacob Coxon, mantan peneliti di Anthropic dan OpenAI, memicu gelombang kekhawatiran global setelah mengungkap bahwa para insinyur AI terkemuka secara internal meyakini teknologi ini berpotensi menyebabkan kepunahan manusia sebelum akhir dekade. Pernyataan yang viral di platform X dengan lebih dari 136 juta tayangan ini menegaskan adanya risiko eksistensial nyata yang sering kali tertutup oleh narasi kemajuan teknologi.

Peringatan Keras dari Dalam Industri

Coxon memilih mundur dari jabatannya karena menilai perusahaan tempatnya bekerja sedang "mempertaruhkan nyawa manusia" dalam perlombaan menuju superintelligence. Ia memperingatkan bahwa sistem AI akan segera melampaui kemampuan kognitif manusia, memiliki kapasitas untuk meretas infrastruktur kritis, serta menguasai sumber daya fisik tanpa campur tangan manusia. Kekhawatiran utama berpusat pada fenomena recursive self-improvement, di mana AI mampu mengembangkan generasi penerusnya sendiri secara otonom.

Konfirmasi Internal dan Probabilitas Bencana

Evan Hubinger, pimpinan tim penyelarasan (alignment) di Anthropic, menguatkan kekhawatiran Coxon. Hubinger menyatakan bahwa probabilitas AI memusnahkan umat manusia dalam sepuluh tahun ke depan diperkirakan lebih dari 10 persen. Ia mengakui bahwa meskipun Anthropic berusaha maksimal, belum ada rencana pasti untuk menyelesaikan masalah penyelarasan pada tingkat superintelligence. Ini bukan sekadar spekulasi fiksi ilmiah; CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sebelumnya telah menandatangani pernyataan bersama yang menempatkan risiko AI setara dengan pandemi dan perang nuklir.

Analisis Reza Aditya

Sebagai pengamat teknologi, saya melihat ini sebagai momen kritis bagi regulasi kecerdasan buatan. Ketika para pembuat teknologi sendiri mengakui ketidakmampuan mereka mengendalikan ciptaan mereka, urgensi untuk memperlambat laju riset demi keamanan menjadi tak terbantahkan. Istilah p(doom) kini bukan lagi jargon akademis, melainkan metrik risiko nyata yang harus dihadapi oleh pembuat kebijakan dan masyarakat sipil. Kita tidak bisa lagi menganggap remeh kekuatan komputasi yang sedang kita bangun.

FAQ Terkait Berita Ini

Apa itu recursive self-improvement?
Kondisi di mana sistem AI mampu merancang dan meningkatkan kode atau arsitekturnya sendiri tanpa bantuan manusia, berpotensi menciptakan lonjakan kecerdasan yang tak terkendali.

Berapa besar risiko kepunahan menurut ahli?
Menurut Evan Hubinger dari Anthropic, probabilitasnya lebih dari 10% dalam dekade mendatang, sebuah angka yang dianggap sangat tinggi untuk risiko eksistensial.

Mengapa peneliti keluar dari Anthropic?
Jacob Coxon mundur karena merasa perusahaan tersebut bertindak tidak bertanggung jawab dengan berlomba-lomba mengejar superintelligence tanpa jaminan keamanan yang memadai.