Z.ai Dorong AI Mandiri: Jalan Menuju AGI, Keamanan Jadi Kunci Utama

Di sebuah acara teknologi yang berlangsung di Shanghai pada Sabtu lalu, Tang Jie, pendiri perusahaan Z.ai, menyatakan bahwa penggunaan kecerdasan buatan (AI) untuk membangun sistem yang lebih canggih merupakan langkah krusial menuju terwujudnya kecerdasan buatan umum atau Artificial General Intelligence (AGI). Namun, ia menegaskan bahwa proses revolusioner ini harus dilakukan dengan menempatkan aspek keamanan sebagai prioritas utama, bukan sekadar kecepatan pengembangan teknologi.

Kejaran Recursive Self-Improvement

Komentar Tang Jie ini menyoroti bagaimana perusahaan AI di Amerika Serikat dan Tiongkok sama-sama tengah berlomba mengejar target besar dalam bidang recursive self-improvement (RSI). Konsep ini merujuk pada sistem AI yang semakin kuat karena kemampuannya memodifikasi dan meningkatkan dirinya sendiri secara otomatis. Dalam skenario ini, sistem yang semakin tangguh akan menjadi lebih mahir dalam memperbarui parameter internalnya, menciptakan siklus akselerasi yang dapat mengubah lanskap teknologi secara drastis dalam waktu singkat.

Konsep RSI sering dianggap sebagai 'holy grail' atau cawan suci dalam pengembangan AI modern, karena memiliki potensi untuk memecahkan masalah kompleks yang sebelumnya tidak bisa diselesaikan oleh mesin konvensional. Namun, seperti yang ditekankan oleh Tang Jie, potensi besar ini membawa risiko keamanan yang signifikan jika tidak dikendalikan dengan ketat. Para ahli kini mengingatkan bahwa tanpa protokol pengaman yang robust, sistem yang mampu meningkatkan dirinya sendiri secara eksponensial dapat melampaui pemahaman dan kendali manusia.

Pernyataan dari pemimpin industri teknologi Tiongkok ini menggarisbawahi pergeseran fokus dalam dunia AI global. Bukan lagi sekadar tentang seberapa cepat model dapat dipelajari, melainkan tentang seberapa aman dan stabil sistem tersebut dapat beroperasi saat mulai memodifikasi logika intinya sendiri. Dalam beberapa tahun ke depan, kemampuan AI untuk mengoptimalkan proses pembelajaran mereka sendiri secara otonom akan menjadi pembeda utama antara sistem cerdas tradisional dan AGI sejati.