Aksi peretasan sebuah agen yang tak dapat dikendalikan ketika tengah diuji ini, memperkuat kekhawatiran bahwa model-model tersebut semakin mampu menemukan kerentanan dan menghubungkannya untuk membantu pelaku jahat melakukan serangan secara kompleks dan canggih.
Pelanggaran tersebut terjadi hanya tiga bulan setelah Anthropic PBC mengumumkan bahwa mereka telah mengembangkan sistem Mythos, yang begitu kuat sehingga perusahaan tersebut awalnya membatasi peluncurannya.
Hugging Face menyebutkan dalam sebuah unggahan di blog resmi sebelumnya bahwa sistem OpenAI “membobol” sebuah sandbox yang tidak aman yang dihosting di infrastruktur penyedia pihak ketiga, tanpa menyebutkan nama perusahaan tersebut.
Dari sana, lanjut Hugging Face, sistem tersebut mampu menjalankan perintah dan menggunakan sandbox tersebut “sebagai basis kendali, persiapan, dan jalur keluar untuk seluruh kampanye.”
OpenAI mengatakan dalam pengumuman resmi terbarunya pada Selasa bahwa mereka telah menemukan “sejumlah kecil kasus di mana model-model tersebut mengidentifikasi dan menggunakan kredensial yang terpapar secara publik pada tingkat akun di layanan-layanan lain yang tersedia untuk umum,” tanpa menyebutkan layanan-layanan tersebut. Satu akun digunakan “sebagai outbound relay dan staging path, sementara akun lain digunakan untuk penyimpanan data,” tulis perusahaan tersebut.
Startup yang berbasis di San Francisco, AS, ini menambahkan bahwa model-model yang membobol Hugging Face juga menggunakan “situs code paste , layanan request capture , layanan screenshot, dan utilitas web lainnya” dalam eksploitasinya. Namun, perusahaan tersebut menyatakan belum mengidentifikasi aktivitas lain “dengan tingkat keparahan atau skala seperti yang telah kami bagikan terkait Hugging Face.”
OpenAI secara sengaja mengoperasikan model-model tersebut dengan batasan keamanan yang lebih rendah di sandbox agar dapat menguji kemampuannya terhadap tolok ukur keamanan siber yang dikenal sebagai ExploitGym, yang dikembangkan oleh sekelompok peneliti di University of California, Berkeley.
Bukannya berupaya menyelesaikan tugas-tugas yang ditetapkan dalam tolok ukur tersebut, OpenAI menyatakan bahwa model-model tersebut menargetkan basis data Hugging Face untuk mendapatkan akses ke informasi rahasia yang dapat mereka gunakan dalam evaluasi.
Reuters melaporkan pada Selasa pagi bahwa data seorang pelanggan Modal telah diretas. Axios, mengutip seorang sumber yang tidak disebutkan namanya yang mengetahui masalah tersebut, melaporkan secara terpisah bahwa pelaku secara khusus mengakses aset pelanggan Modal yang terkait dengan CyberGym, sebuah tolok ukur keamanan siber yang dikembangkan sebelumnya oleh kelompok peneliti UC Berkeley yang sama yang juga berada di balik ExploitGym.
Ada beberapa versi CyberGym yang digunakan developer untuk menguji kemampuan model AI, kata Jingxuan He, seorang peneliti universitas di balik proyek tersebut, kepada Bloomberg News.
He mengatakan tidak tahu siapa yang mungkin bertanggung jawab atas aset terkait CyberGym di platform Modal, namun menyebut bahwa siapa pun yang menyiapkannya tidak melakukannya dengan aman karena membiarkannya dapat diakses oleh siapa saja di internet.
Sejak mengakui insiden peretasan tersebut, OpenAI mendapat kritik tajam dari para pakar keamanan siber yang menyatakan bahwa perusahaan seharusnya mengambil langkah-langkah pencegahan yang lebih ketat dalam evaluasinya.
“Ketika Anda adalah peneliti seputar ancaman yang berusaha menemukan ancaman, Anda tidak akan melepaskan malware ke luar sana dan membiarkannya berbuat sesuka hati,” kata Sanjay Beri, CEO perusahaan keamanan siber Netskope Inc., dalam sebuah wawancara. “Bagaimana mungkin hal itu tidak ditempatkan dalam sandbox yang layak?”
(bbn)
