Dalam beberapa pekan terakhir, baik OpenAI maupun Anthropic PBC secara terbuka mengakui bahwa beberapa model AI mereka secara kolektif dan tidak sengaja meretas sistem beberapa institusi, termasuk Hugging Face Inc., selama prosedur evaluasi.
Pengungkapan terbaru ini menjadi bukti baru bahwa agen AI mampu bertindak tanpa kendali dengan cara-cara yang bahkan tidak dapat lagi diantisipasi oleh para peneliti terlatih untuk mengidentifikasi kerentanan dalam teknologi tersebut.
OpenAI menyatakan bahwa upaya terbaru untuk memperkuat keamanan dan memastikan model AI berfungsi sesuai tujuan dimaksudkan untuk membantu perusahaan mengikuti perkembangan teknologi seiring meningkatnya kemampuan teknologi tersebut dari waktu ke waktu.
“Jelas, semua yang kami lakukan bertujuan untuk mencegah terulangnya insiden seperti Hugging Face,” kata Mia Glaese, VP bidang penelitian OpenAI, dalam sesi tanya jawab, Selasa.
“Namun, kemampuan model berkembang sangat, sangat pesat, sehingga langkah ini sama sekali belum cukup. Kami bekerja keras untuk memastikan bahwa apa yang kami lakukan tetap selangkah lebih maju dari model-model yang bahkan lebih canggih.”
OpenAI sebelumnya menyatakan telah menunda beberapa pekerjaan internal terkait salah satu model AI yang akan datang untuk menerapkan langkah-langkah pengamanan yang lebih ketat. Dalam unggahan blog pada hari Selasa, perusahaan tersebut mengatakan bahwa proses pelatihan berskala besar masih ditangguhkan.
Perusahaan tersebut juga mengatakan berencana untuk segera membagikan analisis terperinci mengenai insiden Hugging Face.
(bbn)
