OpenAI mengatakan bahwa setelah insiden terbaru ini, mereka memutuskan untuk menghentikan sementara pelatihan dengan penggunaan alat pada model-modelnya yang paling canggih sampai kelemahan lingkungan sandbox tersebut teratasi.
“Kami tidak akan melanjutkan pelatihan model khusus ini,” tambah OpenAI.
Insiden pelanggaran yang melibatkan model AI yang dikembangkan oleh OpenAI, Anthropic PBC, DeepMind milik Google, dan Meta Platforms Inc. dalam beberapa bulan terakhir telah membuat para pakar keamanan siber dan keselamatan AI was-was.
Insiden Hugging Face merupakan salah satu alasan yang disebutkan oleh CEO Anthropic, Dario Amodei, ketika ia menyerukan perlambatan pengembangan AI secara industri dua minggu lalu. Pernyataannya, yang segera didukung oleh CEO OpenAI Sam Altman, Elon Musk, dan pihak lain, telah memicu perdebatan global mengenai perlunya regulasi AI yang lebih ketat.
OpenAI mengungkap kegagalan sistem sandbox terbaru ini meskipun masih berupaya memahami gangguan yang ditimbulkan oleh sistem AI otonomnya saat sebelumnya berhasil mengakses internet. Perusahaan tersebut mengonfirmasi pada hari Jumat bahwa model-modelnya mengakses informasi dari situs web pemerintah AS, termasuk situs Biro Sensus dan Komisi Sekuritas dan Bursa (SEC), selama proses pelatihan dan evaluasi.
Beberapa hari yang lalu, OpenAI mengungkap bahwa model-modelnya telah mengganggu situs web pemerintah Australia pada awal tahun ini.
Pelanggaran sandbox terbaru ini juga mengungkap celah dalam proses operasional OpenAI. Seseorang menerima peringatan dari sistem pemantauan internal dan menanggapinya di Slack dalam waktu tiga menit, namun proses pelatihan tidak berhenti secara otomatis seperti yang diharapkan, demikian ditunjukkan dalam unggahan blog tersebut. Menurut laporan tersebut, dibutuhkan waktu lebih dari dua jam bagi seseorang untuk menghentikan proses tersebut secara manual.
“Sungguh disayangkan bahwa meskipun telah memperketat sistem keamanannya pasca insiden Hugging Face, model-model OpenAI masih mampu mendapatkan akses internet tanpa izin,” kata Sydney Von Arx, pendiri organisasi nirlaba bidang keamanan AI bernama Nightingale.
“Pertanyaan besarnya sekarang adalah apakah mereka akan sekadar melakukan perbaikan sementara dan segera mengaktifkan kembali proses pelatihan, ataukah mereka akan mencari akar masalahnya dan memperbaikinya.”
(red)
