Pernyataan Berani: Anthropic Ngaku Mendekati Kemampuan AI Bangun Sendiri

Antara euforia dan kekhawatiran mendalam, Anthropic telah mengirimkan sinyal peringatan yang signifikan melalui dokumen regulasi terbarunya. Dalam pengungkapan formulir S-1A yang diperbarui pada hari Senin, perusahaan ini secara terbuka memperingatkan bahwa mereka berada di ambang menciptakan model kecerdasan buatan yang mampu melakukan peningkatan diri rekursif (recursive self-improvement atau RSI). Istilah teknis ini merujuk pada titik krusial di mana AI menjadi cukup mahir dalam melatih dirinya sendiri sehingga memicu percepatan dramatis pada kapabilitas teknologi secara eksponensial.

Dalam konteks lanskap industri AI saat ini, RSI dipandang sebagai pedang bermata dua oleh berbagai kalangan. Bagi para skeptis dan pengkritik, RSI dianggap sebagai titik kulminasi bencana yang tak terbalikkan, di mana AI membangun dirinya menjadi entitas yang melampaui kontrol manusia. Sebaliknya, para pendukung teknologi melihat RSI sebagai janji masa depan di mana AI menjadi alat produktivitas tak ternilai untuk penemuan ilmiah. Anthropic, melalui filing resminya, tampaknya mengakui kedua sisi koin tersebut, menilai RSI sebagai potensi sekaligus ancaman serius yang memerlukan pengawasan ketat.

Percepatan Kemampuan dan Risiko yang Tak Terdeteksi

Secara spesifik, bagian 'Risk Factors' dalam dokumen Anthropic memuat pernyataan bahwa penggunaan sistem AI untuk mempercepat riset dan pengembangan internal mereka dapat menyebabkan kemampuan model maju lebih cepat daripada kemampuan perusahaan untuk mengembangkan dan memvalidasi langkah keamanan serta keselarasan yang setara. Implikasinya sangat krusial: Anthropic mengakui bahwa di masa lalu mereka tidak mengidentifikasi, dan di masa depan mungkin tidak akan mengidentifikasi, percepatan signifikan dalam laju pengembangan model hingga setelah percepatan tersebut terjadi. Dalam catatan internal dan ekspektasi mereka terhadap model-model yang akan datang, Anthropic mengindikasikan bahwa mereka mungkin akan segera memenuhi definisi internal perusahaan tentang 'percepatan dramatis yang dapat diatribusikan kepada AI'.

Untuk memberikan transparansi bagi investor dan publik, Anthropic secara gamblang merinci temuan mereka berikut:

• Mereka telah menggunakan AI untuk mengembangkan model baru dengan lompatan kemampuan yang tidak mereka sadari pada saat model tersebut dibuat.
• Mereka belum mendefinisikan model yang beredar saat ini sebagai model yang telah melampaui ambang batas RSI.
• Mereka terus mengevaluasi data mendasar terkait percepatan tersebut hingga saat ini.

Komitmen Pengawasan Manusia dan Regulasi AI

Menutup pemaparan ini, Anthropic menegaskan kembali komitmennya untuk membatasi otomatisme penuh AI di sektor yang paling krusial. Mereka menyatakan, meskipun saat ini belum ada model yang melampaui ambang batas RSI, perusahaan tidak yakin akan dapat dengan aman menggunakan modelnya untuk sepenuhnya merancang dan membangun generasi berikutnya secara otonom tanpa pengawasan manusia yang signifikan. Oleh karena itu, perusahaan sedang mempertimbangkan pembaruan pada Kebijakan Skala Tanggung Jawabnya untuk memastikan bahwa manusia tetap memegang kendali atas pengembangan model frontier di lingkungan mereka. Bagi para pengamat, klaim regulasi seperti ini di dokumen publik menunjukkan bahwa teknologi AI kini mendekati batas yang mengharuskan intervensi kebijakan dan pengawasan lebih ketat dari para pembuat regulasi, melampaui sekadar inovasi laboratorium.