Eks Pakar Google Nate Soares Setop Nabung Pensiun karena Takut Kepunahan Manusia Akibat AI

Mantan pakar kecerdasan buatan (AI) Google, Nate Soares, membuat pernyataan mengejutkan dengan mengaku telah berhenti menyisihkan dana untuk masa pensiun selama satu dekade terakhir. Keputusan finansial radikal ini didorong oleh keyakinannya bahwa teknologi AI berpotensi memicu kepunahan umat manusia dalam waktu dekat, dengan probabilitas lebih dari 50% dalam kurun 10 tahun ke depan.

Pernyataan tersebut disampaikan Soares melalui podcast bersama CEO The Atlantic, Nicholas Thompson, di mana ia menekankan urgensi risiko eksistensial yang ditimbulkan oleh pengembangan AI supercerdas. Sebagai Presiden Machine Intelligence Research Institute (MIRI), organisasi nirlaba berbasis di Berkeley, Soares memandang ancaman ini setara dengan bahaya perang nuklir namun dengan skala dampak yang jauh lebih totalitas.

Ketakutan Eksistensial dan Perubahan Gaya Hidup

Soares menjelaskan bahwa pandangannya berakar pada konsep AI doomerism, yaitu keyakinan bahwa AI yang melampaui kapasitas manusia dapat menjadi ancaman fatal jika tidak dikendalikan secara ketat. Ia membandingkan situasi saat ini dengan era awal mobilisasi, di mana kuda-kuda mungkin meremehkan potensi kendaraan bermotor sebelum akhirnya tergantikan sepenuhnya.

• Probabilitas kepunahan manusia akibat AI diprediksi >50% dalam 10 tahun.
• Soares menolak menabung pensiun sejak sekitar 10 tahun lalu karena menganggapnya sia-sia jika akhir zaman tiba.
• Fokus utama ketakutan bukan pada pengangguran massal, melainkan kelangsungan hidup spesies manusia.

Dalam wawancaranya, Soares menegaskan bahwa dirinya tidak khawatir soal hilangnya lapangan kerja, melainkan kematian seluruh umat manusia. "Saya adalah orang yang khawatir AI akan membunuh seluruh manusia," ujarnya, menambahkan bahwa jika skenario terburuk terjadi, manusia justru akan berada dalam kondisi tingkat pekerjaan penuh sesaat sebelum musnah.

Solusi Pembatasan Pengembangan AI Superintelligence

Menghadapi skeptisisme dari Thompson yang menilai AI masih memiliki keterbatasan teknis signifikan, Soares mengusulkan langkah pencegahan konkret berupa pembatasan upaya scaling up atau peningkatan skala kemampuan AI. Menurutnya, penggunaan AI untuk tujuan spesifik seperti penemuan obat kanker masih dapat diterima dan bermanfaat bagi kemanusiaan.

Namun, ia bersikeras bahwa mengejar pengembangan AI yang mampu meniru sekaligus melampaui kecerdasan manusia adalah kesalahan strategis yang berbahaya. "AI yang berusaha meniru dan melampaui kecerdasan manusia bukanlah sesuatu yang kita inginkan. Kita seharusnya tidak mengejar hal tersebut," tegas Soares. Pandangan ini mengajak masyarakat global untuk tetap menjalani kehidupan sehari-hari sambil gencar melakukan advokasi regulasi guna mencegah bencana eksistensial yang tak terhindarkan.