Anthropic Rilis FlashProve: Bukti Kriptografi untuk Memastikan Identitas Model AI

Anthropic baru saja mengumumkan pengembangan sistem sumber terbuka bernama FlashProve, sebuah inovasi yang dirancang untuk memverifikasi secara definitif model kecerdasan buatan (AI) mana yang menghasilkan suatu keluaran tertentu. Diluncurkan melalui unggahan blog pada hari Selasa, sistem ini menawarkan apa yang oleh para peneliti disebut sebagai "inferensi yang dapat dibuktikan" (provable inference), yaitu jaminan matematis dalam bentuk bukti kriptografis yang memastikan bahwa sebuah output benar-benar berasal dari model spesifik yang dimaksud, bukan dari peniru atau model lain.

Prinsip kerja FlashProve menyerupai tanda tangan surat elektronik kriptografis, di mana penerima dapat memverifikasi bahwa pesan benar-benar berasal dari pengirim yang diklaim. Dalam konteks AI, hal ini memungkinkan pengguna untuk mengonfirmasi bahwa jawaban yang mereka terima bukan berasal dari model yang disamarkan. Pendekatan ini dirancang agar sangat tangguh terhadap upaya manipulasi, bahkan ketika pelaku penipuannya adalah laboratorium AI itu sendiri yang membangun dan menjalankan model tersebut.

Mekanisme Verifikasi dan Implikasi untuk Industri AI

Para peneliti menekankan bahwa sistem ini memiliki dampak signifikan dalam mencegah praktik curang di industri, seperti upaya sebuah perusahaan AI secara diam-diam mengganti model kelas tinggi dengan model yang lebih murah untuk memangkas biaya, atau sebaliknya, menggunakan model yang lebih mahal untuk menggelembungkan hasil kinerja. FlashProve juga dapat memvalidasi klaim pihak ketiga; misalnya, ketika sebuah pengembang mengklaim pustaka perangkat lunangnya telah dipindai oleh model siber keamanan tingkat batas (frontier), pengguna kini memiliki alat untuk memverifikasi klaim tersebut secara independen.

Dalam teknis, sistem ini mensyaratkan laboratorium AI untuk mempublikasikan "sidik jari" (fingerprint) dari setiap model yang dirilis. Yang penting, sidik jari ini tidak mengungkap bobot model (weights) atau angka internal yang mendefinisikan perilaku AI—aset rahasia yang dijaga ketat oleh pembuat model tertutup seperti Anthropic dan OpenAI. Dengan cara ini, laboratorium dapat mempublikasikan sidik jari tanpa menyerahkan aset paling berharga mereka, sehingga sistem ini tetap efektif untuk model komersial. Rincian mekanisme FlashProve meliputi:

• Penggunaan bukti kriptografis untuk jaminan matematis identitas model.
• Desain sistem yang ringan sehingga verifikasi dapat dilakukan di perangkat lokal.
• Pembiian spesifikasi teknis dan kode kerja yang terbuka di platform GitHub.

Tahap Penelitian dan Peluncuran Sumber Terbuka

Seperti diumumkan dalam rilis tersebut, penelitian mengenai FlashProve masih terus berlangsung dan saat ini belum ada rencana untuk melaksanakannya secara resmi di Anthropic atau laboratorium AI lainnya. Riset ini dipublikasikan dengan lisensi sumber terbuka, yang mencakup spesifikasi teknis yang terperinci serta kode kerja untuk berbagai elemen sistem, tersedia untuk umum. Para peneliti menjelaskan secara eksplisit bahwa posting ini dimaksudkan untuk berbagi kemajuan menengah, bukan agenda penelitian yang telah selesai. Dengan membagikan kemajuan ini secara terbuka, tujuan utama adalah mendorong komunitas pengembang dan peneliti lain untuk meninjau, mengadopsi, dan menyempurnakan sistem yang ada.