Wamenkomdigi: Serangan Agen AI Jadi Ancaman Baru, Regulasi Ketat dan Simulasi BSSN Diberlakukan

Jakarta, CNN Indonesia -- Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) merespons secara serius eskalasi ancaman keamanan digital yang dipicu oleh agen kecerdasan buatan (AI). Nezar menegaskan bahwa perkembangan teknologi ini menciptakan risiko kerugian fisik maupun siber yang nyata, terutama dengan adanya fenomena recursive self-improvement (RSI) yang memungkinkan AI berevolusi secara mandiri. Kekhawatiran ini dipicu oleh maraknya kasus peretasan perangkat teknologi dan serangan siber canggih yang berhasil mengeksploitasi kelemahan sistem keamanan secara lebih cepat dan berbahaya berkat peningkatan kemampuan agen AI.

Dalam pengakuannya di acara peluncuran JK1 Phase 2 Pusat Data Equinix pada Selasa (10/11), Nezar menjelaskan bahwa pemerintah tidak hanya menangani isu ini secara lokal, melainkan sebagai bagian dari tantangan keamanan siber global. Kolaborasi aktif telah terbangun antara Kementerian Komunikasi dan Digital (Komdigi) dan Badan Siber dan Sandi Negara (BSSN) untuk memitigasi ancaman tersebut. Nezar mengidentifikasi adanya pola serangan baru berupa agentic AI, yaitu sekumpulan agen otonom yang dirancang khusus untuk menargetkan dan melancarkan serangan siber secara terkoordinasi, sebuah model ancaman yang memerlukan penanganan yang berbeda dari serangan siber konvensional.

Mitigasi Risiko dan Penguatan Infrastruktur Digital

Sebagai langkah preventif, Komdigi dan BSSN telah melakukan serangkaian antisipasi mulai dari pemetaan risiko hingga pelaksanaan simulasi serangan untuk menguji ketahanan infrastruktur digital nasional. Nezar menegaskan bahwa upaya ini bertujuan memastikan sistem data dan layanan publik tetap tahan terhadap intrusi yang dibantu oleh teknologi AI. "Jadi ini model serangan baru ya, yang perlu diantisipasi. Kita juga mendapat informasi dari BSSN dan melakukan semacam antisipasi, bahkan simulasi, sampai memperkuat sejumlah infrastruktur digital yang kita miliki," ujar Nezar. Pendekatan ini mencakup penguatan arsitektur keamanan agar mampu mendeteksi pola perilaku anomali yang dihasilkan oleh agen otonom yang bergerak bebas di dalam jaringan.

Regulasi Baru dan Prinsip Human Oversight

Pemerintah juga tengah menyusun kerangka regulasi yang komprehensif untuk mengatur ekosistem penggunaan data center dan pengembangkan AI di Indonesia, yang tercakup dalam peta jalan pengembangan AI nasional. Regulasi ini tidak hanya berfokus pada privasi dan perlindungan data pribadi, tetapi juga menetapkan guardrail ketat bagi agen AI yang memiliki kapasitas pengambilan keputusan mandiri.

• Implementasi Human in the Room: Memastikan pengawasan manusia tetap menjadi faktor penentu dalam proses pengambilan keputusan kritis.
• Sandboxing dan Simulasi: Setiap model AI baru wajib melewati tahap uji coba simulasi untuk menganalisis risiko sebelum diluncurkan ke publik.
• Posisi Manusia dalam Decision Making: Menetapkan batas otonomi AI untuk memastikan kontrol manusia tetap terjaga.

Nezar menekankan bahwa "Sejauh mana otonomi itu bisa kita berikan kepada AI Agent, di mana posisi kontrol manusia" menjadi fokus utama regulasi baru ini. Langkah ini menandai pergeseran dari regulasi AI pasif menjadi pengendalian ketat terhadap sistem otonom yang berisiko tinggi.