PBB Peringatkan Risiko AI Militer dan Bentuk Forum untuk Susun Pedoman Industri
Fokus pada isu keamanan siber, kecerdasan buatan, dan tren teknologi masa depan.
Perserikatan Bangsa-Bangsa (PBB) memperingatkan bahwa penggunaan kecerdasan buatan (AI) di bidang militer berisiko menggeser peran manusia dalam pengambilan keputusan serta memperburuk kondisi perang. Peringatan ini disampaikan oleh United Nations Institute for Disarmament Research (UNIDIR) seiring meluasnya penerapan teknologi tersebut untuk tugas-tugas teknis.
Menurut keterangan UNIDIR, AI militer saat ini telah digunakan untuk analisis intelijen, identifikasi target, pengoperasian drone, hingga perancangan serangan siber. Teknologi ini mampu meningkatkan kecepatan operasi penyerangan secara signifikan. Namun, peningkatan kecepatan tersebut juga membawa potensi risiko kesalahan dan eskalasi konflik yang tidak disengaja.
Direktur UNIDIR Robin Geiss menyampaikan kekhawatiran itu di Markas Besar PBB pada Selasa (20/10). Ia mempertanyakan apakah dunia akan membiarkan mesin menargetkan dan membunuh manusia. Menurut Robin, hilangnya peran manusia dalam menilai serangan secara bijak dapat menimbulkan berbagai kerugian, termasuk dalam konteks senjata nuklir.
Sekretaris Jenderal PBB dilaporkan telah berulang kali menyerukan regulasi yang lebih ketat terhadap AI militer. Seruan tersebut mencakup pengaturan sistem senjata otonom yang mematikan agar penggunaannya tidak melampaui batas moral manusia.
Sebagai langkah konkret mengatasi risiko tersebut, Centre of Excellence on AI, Peace and Security yang berada di bawah UNIDIR telah membentuk sebuah forum berisi pemangku kepentingan. Forum ini akan membahas pemanfaatan AI dalam perdamaian, keamanan internasional, dan sektor militer.
Fokus utama forum tersebut adalah menyusun kerangka kerja bagi pelaku industri sebagai pedoman dalam mendesain dan mengembangkan alat militer berbasis AI secara lebih bertanggung jawab. Selain itu, mereka akan mengembangkan leksikon istilah keamanan AI untuk mengklarifikasi konsep seperti otonomi, keselamatan, dan keamanan guna menghindari ambiguitas komunikasi antarpihak.
Forum ini juga ditujukan untuk mengatasi risiko penyalahgunaan AI oleh kelompok bersenjata non-negara. Berdasarkan keterangan UNIDIR, kelompok tersebut dikhawatirkan memanfaatkan teknologi AI untuk mendukung perencanaan operasional, pelaksanaan, hingga logistik.
