Pemisahan Ajar: Mantan Kepala Keselamatan OpenAI Mundur, Vonis Budaya Perusahaan Rusak

David Robinson, arsitek utama di balik laporan keselamatan peluncuran produk kunci OpenAI, memutuskan mundur dari posisinya. Alasan konkretnya sederhana namun tajam: ia menilai budaya perusahaan pengembang ChatGPT itu telah rusak secara fundamental. Robinson, yang telah menghabiskan tiga setengah tahun bekerja di OpenAI dan menjadi salah satu karyawan dengan masa kerja terlama, menyuarakan keprihatinannya melalui sebuah esai di The Atlantic yang dikutip TechCrunch pada Senin (5/10).

Kritik Robinson tertuju pada metodologi pengembangan perusahaan. Ia menyoroti praktik iterative deployment di mana tim mencari masalah setelah sistem berjalan, lalu memperbaiki pengamannya sebagai respons. Pendekatan coba-coba ini, menurutnya, menyebabkan kegagalan terus berulang dan skalanya membengkak seiring naiknya kapabilitas sistem AI. Robinson memberi contoh konkret: pembobolan sistem Hugging Face oleh agen AI OpenAI serta temuan bahwa agen-agen lain bertindak di luar kendali yang diharapkan. "Lingkungan yang memungkinkan hal-hal seperti ini terjadi bukanlah tempat untuk mengembangkan kecerdasan buatan yang bisa lebih pintar daripada kita dan mungkin tidak melakukan apa yang kita inginkan," tulis Robinson.

Lebih dari sekadar regulasi, Robinson menyerukan perubahan budaya kerja yang fundamental. Ia membandingkan industri AI dengan sektor berisiko tinggi lain seperti pembangkit listrik tenaga nuklir atau bandara sibuk yang menerapkan pengamanan berlapis dan perencanaan cermat. Masalahnya, selama bekerja di OpenAI, ia mengaku tidak pernah bertemu rekan yang memiliki pengalaman memastikan "pesawat terbang dengan aman" atau "mengoperasikan reaktor nuklir tanpa pelelehan". Selain itu, ia mengkritik ukuran yang digunakan perusahaan untuk menilai keselarasan AI dengan nilai-nilai manusia masih terlalu kasar dan kaku.

Menanggapi esai tersebut, juru bicara OpenAI Drew Pusateri menyatakan perusahaan terus memperbaiki langkah keselamatan. "Kami memastikan kemampuan model kami tidak melampaui apa yang dapat kami kelola dan amankan dengan selamat, dan kami menghentikan sementara pelatihan atau menahan model ketika perlu memperlambat langkah," ujar Pusateri. OpenAI juga mengklaim telah memperluas kerja sama dengan evaluator pihak ketiga dan meningkatkan pemantauan langsung untuk mendeteksi perilaku mengkhawatirkan lebih awal.

Kepergian Robinson ini tidak berdiri sendiri. Ia menyusul kritik pedas dari Jacob Coxon, mantan peneliti OpenAI dan Anthropic, yang menuding perusahaan-perusahaan tersebut mempertaruhkan nyawa manusia. Komentar Coxon memicu perdebatan luas mengenai keselamatan AI, termasuk rencana CEO Anthropic Dario Amodei untuk mengembangkan AI secara lebih berhati-hati. Sejumlah eksekutif AI juga bertemu Presiden AS Donald Trump dan menandatangani komitmen tidak mengikat untuk menerapkan kontrol keselamatan tambahan. Dalam esainya, Robinson mengakui telah menyewa perusahaan hubungan masyarakat, tetapi menegaskan keputusan untuk berbicara terbuka adalah pilihannya sendiri karena ia dan rekan-rekannya terlalu sibuk bekerja cepat untuk melakukan perubahan mendasar dari dalam.

Analisis Redaksi

Keluarnya Robinson mengirimkan sinyal peringatan keras bahwa infrastruktur keselamatan di lab AI terdepan masih bergantung pada kecepatan komersial, bukan kehati-hatian teknis. Analogi Robinson tentang reaktor nuklir dan bandara bukan sekadar metafora; ini adalah kritik metodologis bahwa industri AI belum memiliki "checklist" preventif yang ketat sebelum membebaskan model ke publik. Ketika kegagalan terjadi pasca-deployment, dampaknya sudah tak terbendung.

Respons OpenAI yang menekankan "menahan model" dan "pemantauan pihak ketiga" menunjukkan kesadaran akan risiko, namun tetap reaktif. Tanpa perubahan budaya yang menempatkan keselamatan di atas iterasi cepat, risiko kesalahan akumulatif akan terus meningkat. Publik perlu mewaspadai bahwa "komitmen tidak mengikat" yang ditandatangani eksekutif AI di Washington adalah langkah politik, bukan jaminan teknis yang mengikat secara hukum.