Ancaman Halusinasi AI: Referensi Palsu Mengancam Integritas Penelitian Ilmiah

Fenomena halusinasi AI kini menjadi ancaman serius bagi integritas akademik di Indonesia. Kecerdasan buatan atau artificial intelligence (AI) mampu menghasilkan daftar referensi ilmiah yang tampak lengkap dan kredibel, namun faktanya banyak dari artikel tersebut tidak pernah diterbitkan. Kasus ini diungkap oleh ANTARA, di mana mahasiswa yang mengandalkan AI untuk proposal penelitian menemukan bahwa Digital Object Identifier (DOI) yang dihasilkan sering kali mengarah ke artikel dengan judul dan penulis yang berbeda, atau bahkan tidak ada sama sekali.

Model bahasa besar atau large language model (LLM) seperti ChatGPT bekerja dengan mempelajari pola bahasa dari data pelatihan masif. Meskipun mampu menyusun tulisan yang terstruktur dan meyakinkan, sistem ini tidak dilengkapi mekanisme verifikasi kebenaran secara intrinsik. Akibatnya, AI sering kali menggabungkan fakta yang benar dengan informasi keliru, menciptakan ilusi keilmiahan yang berbahaya bagi proses penelusuran literatur dan penyusunan manuskrip.

Mekanisme Kesalahan: Mengapa AI 'Berbohong' dengan Meyakinkan

Penelitian terbaru oleh Kalai dan rekan-rekannya (2025) dalam jurnal Why Language Models Hallucinate menjelaskan akar masalah ini. Sistem penilaian dalam pelatihan AI cenderung menghargai jawaban yang tampak benar dibandingkan pengakuan ketidakpastian. Hal ini mendorong model untuk 'menebak' jawaban ketika bukti data tidak mencukupi, mirip dengan mahasiswa yang memilih menebak saat ujian. Namun, tebakan AI disampaikan dengan bahasa yang sangat lancar dan menggunakan terminologi teknis, sehingga sulit dibedakan dengan informasi valid oleh pengguna awam.

Pengalaman nyata juga tercatat ketika seorang peneliti menemukan namanya tercantum sebagai penulis artikel yang tidak pernah ia tulis dalam daftar pustaka proposal mahasiswa. Kasus serupa semakin mengkhawatirkan karena komunitas ilmiah internasional, termasuk publikasi di jurnal Nature pada 2025 dan 2026, telah mulai menyoroti persoalan sitasi yang dihasilkan AI sebagai risiko sistemik dalam dunia riset.

Implikasi Akademik dan Langkah Verifikasi Wajib

Kesalahan bibliografi akibat AI dapat merusak fondasi penelitian, mulai dari interpretasi data hingga validitas metodologi. Untuk memitigasi risiko ini, para peneliti dan mahasiswa wajib melakukan verifikasi silang. Keberadaan DOI tidak otomatis menjamin keaslian referensi; setiap nomor tersebut harus diperiksa melalui Crossref atau situs penerbit resmi untuk memastikan kesesuaian judul, nama penulis, tahun, dan isi publikasi.

Langkah-langkah krusial untuk menjaga integritas ilmiah di era AI meliputi:

• Memeriksa setiap DOI melalui basis data Crossref atau website penerbit jurnal.
• Memastikan kesesuaian metadata: judul, penulis, tahun terbit, dan abstrak artikel.
• Tidak menerima output AI sebagai fakta final tanpa proses fact-checking manual.
• Menggunakan AI hanya sebagai alat bantu brainstorming, bukan sumber referensi utama.

Integritas ilmiah kini menuntut ketelitian ekstra. Teknologi AI adalah alat yang ampuh, namun tanpa pengawasan manusia yang kritis, potensi halusinasi dapat menggerus kepercayaan publik terhadap hasil penelitian akademik.