Anthropic Ungkap Penyalahgunaan AI Claude untuk Riset Senjata Biologis dan Propaganda Siber
Fokus pada isu keamanan siber, kecerdasan buatan, dan tren teknologi masa depan.
Perusahaan pengembang kecerdasan buatan Anthropic memblokir serangkaian upaya penyalahgunaan model AI Claude yang dimanfaatkan oleh pihak tak bertanggung jawab untuk penelitian senjata biologis, serangan siber, hingga penyebaran propaganda lintas negara.
Dalam laporan resminya, Anthropic mengonfirmasi temuan mengkhawatirkan di mana pengguna anonim mencoba memanfaatkan Claude untuk menyusun proposal eksperimen modifikasi genetik pada virus Chikungunya. AI tersebut diminta merancang mutasi guna membuat virus menjadi lebih mudah menular dan pintar menghindar dari sistem kekebalan tubuh manusia.
Ancaman Dual-Use pada Model AI Canggih
Anthropic menjelaskan bahwa model AI terdahulu seperti Claude Opus 4 dan Claude Sonnet 4.5 masih memiliki batas kemampuan yang aman dari potensi penyalahgunaan penelitian biologis berbahaya. Namun, perkembangan pesat pada model teranyar yang mampu menyelesaikan tugas ilmiah kompleks menciptakan tantangan baru berupa fungsi ganda (dual-use).
Evolusi teknologi kecerdasan buatan ini dinilai menurunkan hambatan teknologis, sehingga aksi kejahatan siber yang rumit kini dapat dirancang oleh individu tanpa keterampilan tingkat tinggi. Sebagai respons, perusahaan telah menerapkan batasan keamanan yang jauh lebih ketat untuk kueri riset biologi bernilai risiko tinggi.
Deteksi Propaganda Siber dan Kekhawatiran Peneliti
Selain ancaman biologis, sistem keamanan Claude berhasil mendeteksi pembuatan ratusan akun media sosial fiktif yang dirancang untuk menyebarkan propaganda politik secara masif. Aktivitas disinformasi tersebut terdeteksi berasal dari sembilan kawasan, termasuk Rusia, Iran, Turki, Asia Selatan, hingga Eropa. Berbeda dengan platform media sosial yang umumnya baru mendeteksi spam setelah beredar, sistem Claude mampu mengidentifikasi kampanye tersebut sejak tahap perancangan prompt.
Publikasi laporan keamanan ini mengemuka tak lama setelah salah satu peneliti Anthropic, Jacob Coxon, memutuskan mengundurkan diri. Pengunduran diri tersebut dipicu oleh kekhawatiran atas tingginya laju kompetisi pengembangan AI super cerdas yang berisiko mengesampingkan kalkulasi keselamatan jiwa manusia.
Pertanyaan Terkait
Bagaimana AI Claude disalahgunakan dalam riset biologi?
Pihak tak dikenal menggunakan prompt Claude untuk merancang proposal eksperimen modifikasi genetik virus Chikungunya agar lebih mematikan dan resisten terhadap imunitas.
Apa langkah Anthropic untuk mengatasi ancaman ini?
Anthropic memperketat filter keamanan pada kueri penelitian biologi ganda (dual-use) serta memperbarui sistem deteksi dini terhadap potensi penyalahgunaan siber.