Karyawan Anthropic Mundur, Pakar Peringatkan Risiko AI Picu Kepunahan Manusia dalam 10 Tahun

Kekhawatiran bahwa kecerdasan buatan berpotensi memicu kepunahan umat manusia mencuat tajam setelah Jacob Coxon, karyawan perusahaan pengembang kecerdasan buatan Anthropic, mengumumkan pengunduran dirinya melalui cuitan di platform X karena menilai pekerjaannya terlalu berbahaya. Langkah Coxon ini langsung disusul peringatan mengejutkan dari koleganya sesama karyawan Anthropic, Evan Hubinger, yang memperkirakan peluang kepunahan manusia akibat teknologi tersebut berada di atas 10 persen dalam satu dekade mendatang.

Nate Soares, Presiden Marching Intelligence Research Institute (MIRI), tidak menahan diri dalam menggambarkan tingkat ancaman itu. Melansir CNN pada Kamis (17/9), Soares menegaskan bahwa perkembangan AI di luar kendali benar-benar bisa membunuh manusia secara harfiah. "Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," kata Nate. Ia menambahkan bahwa meskipun banyak orang sulit mempercayai pernyataan tersebut, ia memang menganggapnya sebagai kemungkinan hasil yang paling besar.

Di balik peringatan keras itu, sejumlah pakar mulai membedah skenario teknis bagaimana mesin bertenaga algoritma ini bisa mengakhiri peradaban. Thomas Larsen, peneliti di AI Futures Project dan mantan karyawan MIRI, menyoroti potensi sistem AI supercerdas yang mampu membujuk manusia untuk mengembangkan virus mematikan. "Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium," ujar Larsen. Ia menilai sangat mudah membayangkan AI masa depan yang lebih cerdas dan strategis menipu manusia untuk membuat serta menyebarkan patogen tersebut.

Namun, Eric Xing, profesor machine learning di Carneige Mellon University, meredam spekulasi senjata biologis itu dengan analogi sederhana. Ia membandingkan proses virologi jahat berbasis otomatisasi layaknya merakit Lego tanpa petunjuk. "Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model," kata Xing. Menurutnya, ada urutan, suhu, penataan, dan lingkungan yang wajib presisi; jika satu potongan salah tempat, seluruhnya gagal. "Kemungkinan besarnya adalah hal itu tidak akan berhasil, jika tidak, merancang obat tentu sudah sangat mudah," lanjut dia.

Skenario lain yang diangkat Soares melibatkan robot otonom yang dapat mereplikasi dirinya sendiri, sebuah visi yang kerap didengungkan Elon Musk. Soares menyebut kemampuan robot membangun infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot merupakan bentuk kehidupan mekanis baru. "Pada titik tertentu Anda secara diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia mengatakan ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," tegasnya. Kendati demikian, fakta di lapangan menunjukkan Musk berulang kali gagal menghadirkan robot Optimus ke pasar konsumen sesuai jadwal, apalagi menciptakan rantai manufaktur mandiri.

Soares justru menekankan bahwa detail mekanisme kiamat bukanlah inti persoalannya. Ketika sebuah AI mencapai recursive self-improvement, sistem tersebut diyakini akan menciptakan strategi di luar jangkauan imajinasi manusia. "Kekhawatiran di sini bukan seperti bagaimana jika AI mengambil alih senjata nuklir kita. Kekhawatiran di sini adalah jenis AI yang tidak perlu mengambil senjata nuklir kita, jenis AI yang dapat memulai dan hampir bukan siapa-siapa dan berakhir dengan senjata nuklirnya sendiri atau bahkan teknologi yang lebih canggih," jelas Soares. Lebih jauh, entitas AI berkuasa besar bahkan tidak perlu berniat jahat secara sengaja. Jika AI lepas kendali memiliki tujuan yang dicapai lebih baik dengan menjalankan lebih banyak komputer tanpa peduli pada manusia, hasilnya adalah perubahan kondisi dunia menjadi tempat yang tak bisa ditinggali.

Pakar lain menolak narasi kiamat yang minim bukti fisik ini. Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute sekaligus mantan insinyur keselamatan OpenAI, mengingatkan bahwa fasilitas nuklir terisolasi dari jaringan internet publik. "Sistem-sistem ini dibangun dengan standar rekayasa yang sangat berbeda, ketat, dan teratur yang sering kali membutuhkan perlindungan fisik," kata Khlaaf. Herbert Lin, peneliti senior di Stanford University, sependapat bahwa risiko material sebenarnya tetap ada pada senjatanya, bukan pada skenario masa depan yang dibayangkan. Xing turut mengkritik penyederhanaan ancaman oleh para peneliti AI. "Itu tidak masalah untuk percakapan santai atau debat, tetapi terkait kebijakan atau regulasi dan hukum, kita harus menetapkan bukti fisik, konsekuensi yang dapat diukur, dan bukti terukur yang memiliki pijakan kuat," jelas Xing.

Larsen mencoba mengisi kekosongan detail itu lewat dua laporan berjudul "AI 2027" dan "AI 2040", yang memproyeksikan masa depan pengembangan teknologi AI di bawah kerangka regulasi berbeda. Ironisnya, bahkan skenario paling optimistis—yang mencakup kesepakatan global dan koloni luar angkasa—tetap berujung pada pikiran mesin yang mengambil alih. Ditanya soal keraguannya, Larsen menjawab lugas: "Ini akan terjadi. Ini akan terjadi kecuali kita mengambil langkah sengaja untuk menghentikannya."

Analisis Redaksi

Geger pengunduran diri Jacob Coxon dan angka probabilitas 10 persen yang dilempar Evan Hubinger memperlihatkan retakan kepercayaan di dalam dapur industri AI itu sendiri. Ini bukan sekadar perdebatan akademis di ruang seminar universitas. Ketika orang-orang yang setiap hari menulis kode dan melatih model bahasa besar mulai keluar pintu sambil membunyikan alarm bahaya, sinyal tersebut menuntut perhatian serius dari pembuat kebijakan. Ketegangan antara kelompok yang memperingatkan kepunahan eksistensial dan kubu yang menuntut bukti fisik terukur, seperti disuarakan Eric Xing, menunjukkan bahwa komunitas sains belum memiliki konsensus tunggal soal batas aman teknologi ini.

Yang patut diwaspadai dari narasi kepunahan massal ini adalah potensinya mendistorsi arah regulasi. Jika pemerintah terlalu fokus pada skenario fiksi ilmiah tentang robot yang mereplikasi diri atau virus rakitan mesin, mereka berisiko mengabaikan bahaya nyata yang sudah terjadi hari ini: bias algoritmik, manipulasi informasi, dan penghapusan lapangan kerja secara masif. Pernyataan Heidy Khlaaf mengenai isolasi fisik fasilitas nuklir dan argumen Herbert Lin tentang risiko material senjata memberikan jangkar rasional agar perdebatan tidak melayang sepenuhnya ke ranah spekulasi tanpa dasar.

Langkah logis selanjutnya bagi otoritas global adalah memisahkan riset keselamatan AI dari kepentingan komersial perusahaan yang mengembangkannya. Laporan "AI 2027" dan "AI 2040" buatan Thomas Larsen membuktikan bahwa proyeksi masa depan sangat bergantung pada kerangka regulasi yang dipilih saat ini. Tanpa audit independen terhadap kapasitas recursive self-improvement yang ditakutkan Nate Soares, peringatan para pekerja industri ini hanya akan menjadi catatan kaki sejarah yang diabaikan hingga batas yang tidak bisa kembali itu benar-benar terlampaui.