Beberapa contohnya antara lain model yang memalsukan data yang hilang, mencoba melewati pembatasan jaringan, dan agen AI yang saling berbagi file yang seharusnya dijaga kerahasiaannya.
OpenAI kemudian menjelaskan prosedur bagi karyawan untuk melaporkan sendiri insiden serupa yang disebut “ketidakselarasan” — yaitu ketika AI bertindak dengan cara yang tidak sejalan dengan tujuan manusia — serta sistem untuk memilah insiden yang dilaporkan sendiri tersebut.
“Di periode sebelumnya, demi memberikan informasi yang lebih baik kepada para peneliti, pengembang AI, pembuat kebijakan, dan masyarakat umum, kami telah berupaya mempublikasikan temuan kami mengenai ‘misalignment’” tulis OpenAI.
“Akan tetapi, tanpa pendekatan sistematis dalam melaporkan temuan-temuan ini, pengungkapan kami bersifat insidental dan kurang sering daripada yang ideal.”
Perusahaan menyatakan bahwa laporan-laporan tersebut hanyalah serangkaian pengungkapan awal, dan bukan gambaran menyeluruh terkait masalah-masalah yang timbul dari chatbot-nya.
“Kami tidak percaya bahwa industri AI telah menuntaskan masalah keselarasan dan pemantauan hingga tingkat yang memadai untuk terus melakukan penskalaan secara bertanggung jawab dengan kecepatan maksimum dalam jangka waktu yang lebih lama,” tulis OpenAI.
“Keputusan mengenai bagaimana pengembangan AI harus dilanjutkan dalam beberapa bulan dan tahun mendatang perlu didasarkan pada bukti yang dapat diperiksa sendiri oleh orang-orang di luar perusahaan yang membangun model-model terdepan.”
Insiden Hugging Face hanyalah salah satu dari serangkaian peretasan daring baru-baru ini yang dilakukan oleh model AI buatan OpenAI, Anthropic PBC, dan Meta Platforms Inc., yang menimbulkan kekhawatiran luas mengenai risiko keamanan yang ditimbulkan oleh teknologi yang semakin kuat ini.
Kekhawatiran terkait risiko eksistensial AI semakin meningkat pekan lalu, dipicu oleh pengunduran diri yang menjadi sorotan publik dari karyawan Anthropic, Jacob Coxon, yang menuduh perusahaan-perusahaan AI “berjudi dengan nyawa kita” dalam postingan pengunduran dirinya yang dibagikan di media sosial.
Dalam beberapa hari terakhir, sejumlah pemimpin perusahaan AI, termasuk CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman, telah mendesak agar laju pengembangan teknologi ini diperlambat guna mengatasi risiko-risiko yang semakin sulit diprediksi — meskipun mereka memiliki pandangan berbeda mengenai cara tepat untuk menanganinya.
Sabtu lalu dalam esai sepanjang 3.800 kata, Amodei menyerukan adanya regulasi pemerintah dan agar industri teknologi mendukung perlambatan pengembangan AI secara lebih luas. Dalam sebuah konferensi di San Francisco pada hari Selasa, Altman dan CEO Nvidia Corp., Jensen Huang, sama-sama mengakui adanya kekhawatiran tersebut, namun berpendapat bahwa perusahaan-perusahaan AI akan mengatur laju teknologi mereka sendiri dengan aman.
Sementara itu, CEO Meta Platforms Inc., Mark Zuckerberg, mengatakan pada hari Selasa bahwa laboratorium AI harus mengandalkan penilai dan penasihat independen untuk memastikan bahwa model-model tersebut aman.
Presiden Donald Trump dengan tegas menolak seruan untuk memperlambat pengembangan AI pada hari Senin, menganggap kekhawatiran mengenai risiko teknologi tersebut sebagai “hoaks” dan menolak gagasan adanya aturan baru.
(bbn)
