Bengio dan Hinton Peringatkan Risiko AI Musnahkan Manusia, Trump Sebut Hoaks

Dua tokoh pelopor kecerdasan buatan modern, Yoshua Bengio dan Geoffrey Hinton, memperingatkan bahwa sistem AI saat ini sudah memiliki kemampuan peretasan dan persuasi yang bisa digunakan melawan kepentingan manusia, sementara Donald Trump menolak kekhawatiran itu dan menyebutnya hoaks.

Bengio, pelopor utama deep learning, menanggapi pengunduran diri Jacob Coxon dari Anthropic yang memprediksi AI akan membunuh umat manusia pada akhir dekade ini. "Perspektif mereka sangat penting untuk menjaga agar masyarakat tetap terinformasi dan harus ditanggapi dengan sangat serius," tulisnya di X, Kamis (10/9). Dalam blog pribadinya, Bengio menegaskan perlunya pengaturan laju kemajuan AI tanpa melatihnya tanpa kasus keselamatan yang meyakinkan ahli independen.

Hinton, pelopor jaringan neural, menyatakan peluang minimal 10 persen AI dapat memusnahkan seluruh umat manusia dalam satu dekade. "Ini adalah hal yang sangat sulit untuk diperkirakan, karena kita belum pernah mengalami hal seperti ini sebelumnya," katanya dalam wawancara BBC yang dikutip CNBC, Rabu (16/9). Ia memperingatkan AI bisa merancang virus komputer destruktif hingga virus biologis berbahaya, dan menekankan dua kemungkinan masa depan: mengatasi bahaya sebelum kendali hilang, atau gagal total.

Sikap kontras datang dari Presiden AS Donald Trump yang menanggapi seruan perlambatan pengembangan dari petinggi industri seperti Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind), dan Elon Musk dengan kecaman. Trump menegaskan perkembangan AI tidak bisa dihentikan, membantah konsensus para pemimpin teknologi yang justru menyerukan regulasi.

Aidan Gomez, CEO Cohere dan penulis makalah "Attention is All You Need" (2017), menyetujui risiko yang mengkhawatirkan. "Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat," ungkapnya. Gomez menegaskan keamanan container pengujian menentukan keselamatan, bukan dorongan inheren menuju otonomi. Ia memperingatkan pembuat kebijakan agar aturan tidak dibentuk semata-mata oleh perusahaan besar mengejar AGI.

Analisis Redaksi

Pecahnya suara di antara arsitek teknologi itu sendiri — Bengio dan Hinton yang memperingatkan bahaya eksistensial versus Trump yang mengabaikannya — menciptakan kekosongan kepemimpinan regulasi yang berbahaya. Para pengembang paling memahami batas-batas model mereka justru yang paling bergulat dengan rasa takut, sedangkan kekuasaan politik memilih narasi percepatan tanpa rem.

Kunci selanjutnya ada pada apakah konggres dan badan regulasi global mampu merumahkan kerangka keamanan yang membedakan risiko sistem terbuka versus tertutup, sebagaimana Gomez imbaukan, sebelum kesenjangan antara kemampuan model dan pengendalian manusia melebar tak terbalikkan.