Risiko Halusinasi LLM Mengintai Anak SD, Pakar UGM Desak Evaluasi Kurikulum AI

Pengenalan teknologi kecerdasan buatan secara langsung kepada murid sekolah dasar memicu peringatan keras dari kalangan akademisi. Dosen Hubungan Internasional Universitas Gadjah Mada (UGM), Dedy Permadi, menilai langkah tersebut berpotensi membahayakan perkembangan kognitif anak karena sistem berbasis large language model (LLM) kerap memproduksi informasi keliru yang tidak mampu diverifikasi oleh siswa usia dini.

Kekhawatiran ini disampaikan Dedy saat menjadi pembicara dalam lokakarya Indonesian Next Generation Journalist Network on Korea (IKJN) di Jakarta, Jumat (30/10). Ia menyoroti bahwa aplikasi populer seperti ChatGPT, Copilot, dan Gemini dapat menghasilkan berita palsu apabila digunakan tanpa pendampingan serta fondasi literasi digital yang kuat dari orang dewasa.

Pembedaan Krusial antara Pemanfaatan dan Pengajaran AI

Dedy menggarisbawahi pentingnya memisahkan dua konsep penerapan teknologi di ruang kelas, yakni pemanfaatan AI untuk mendukung pembelajaran (AI for education) dan pengajaran materi AI itu sendiri kepada peserta didik (AI education). Konsep pertama dinilai sangat bermanfaat, terutama untuk membantu siswa penyandang disabilitas memahami materi atau menyesuaikan metode ajar dengan kapasitas masing-masing anak guna menutupi keterbatasan keterampilan tenaga pengajar.

• Pemerintah Indonesia pada 2024 sempat merancang integrasi pembelajaran AI ke dalam kurikulum generasi muda, termasuk level SD, sebuah rencana yang langsung dikritik oleh Dedy agar dievaluasi ulang.
• Paparan layar berlebihan akibat penggunaan AI tanpa batas dikhawatirkan memicu penurunan kemampuan kognitif atau yang ia istilahkan sebagai cognitive death.
• Jepang baru memperkenalkan AI pada tingkat SMA dengan pengawasan guru ketat, menggunakan perangkat khusus berakses terbatas, serta menyediakan kelas terpisah bagi siswa berbakat.

Model Pembatasan Akses ala Jepang dan Prinsip Kendali Manusia

Sebagai bahan perbandingan, Dedy membagikan hasil pengamatannya selama mengunjungi Jepang setahun setelah wacana integrasi AI di Indonesia bergulir. Di negara tersebut, pengenalan teknologi hanya dilakukan di bangku sekolah menengah atas melalui perangkat khusus yang membatasi kanal akses siswa sesuai arahan guru. Pendekatan ini memastikan perlindungan menyeluruh bagi anak-anak secara umum, sembari tetap membuka jalur pengembangan keterampilan melalui kurikulum khusus bagi mereka yang memiliki bakat istimewa di bidang AI.

Melihat berbagai risiko tersebut, Dedy menegaskan kembali urgensi penerapan prinsip human-centered AI dalam setiap kebijakan pendidikan. Ia mengingatkan bahwa manusia wajib memegang kendali penuh dan terlibat aktif di seluruh tahapan pengembangan maupun penggunaan teknologi, sebab mesin tidak boleh dibiarkan mengambil keputusan secara mandiri. Apabila terjadi kesalahan akibat keluaran sistem otomatis, tanggung jawab mutlak tetap berada di tangan manusia, bukan algoritma.