Kelemahan dalam kode komputer adalah hal yang umum dan developer secara rutin merilis patch untuk memperbaikinya. Peneliti keamanan yang menemukan kerentanan biasanya melaporkannya kepada developer perangkat software atau organisasi yang bertanggung jawab atas kode tersebut, terkadang dengan imbalan uang.
Peretas juga mencari kelemahan sebagai cara untuk menyusup ke jaringan komputer. Kerentanan paling parah dikenal sebagai “zero day” karena belum pernah terdeteksi sebelumnya oleh tim keamanan siber, dan pengembang hanya memiliki waktu nol hari untuk memperbaikinya sebelum peretas mulai mengeksploitasi celah tersebut.
Model AI dapat dengan cepat menemukan bug dan kerentanan zero day yang—jika pun berhasil—akan memakan waktu jauh lebih lama bagi para ahli manusia untuk mengungkapnya.
Risikonya adalah peretas yang didukung oleh alat AI dapat memanfaatkan celah yang baru ditemukan sebelum organisasi sempat memperbaikinya.
Clinton mengatakan bahwa “tsunami kerentanan” akan datang dan bahwa “tidak akan ada cukup waktu untuk memperbaiki infrastruktur kritis.” Jumlah kerentanan yang ditemukan memang telah meningkat, meskipun sejauh ini belum ada banyak bukti bahwa hal ini telah menyebabkan lebih banyak serangan siber.
Alasan model AI telah meretas organisasi di luar sanbox
Sebelum model AI dirilis untuk penggunaan publik, perusahaan menguji kemampuannya dalam sandbox.
Beberapa model telah “memperdaya” tes tersebut dengan lari dan mengakses internet untuk mencari informasi yang mereka butuhkan. Aksi ini terkadang melibatkan peretasan terhadap organisasi pihak ketiga.
“Mereka tidak memiliki pedoman moral untuk memahami apa yang dimaksud dengan ‘mensontek’ saat mencari solusi,” kata Lou Steinberg, pendiri dan mitra pengelola di laboratorium riset keamanan siber CTM Insights.
“Apabila lebih mudah meretas seseorang dan mencuri jawaban daripada mencari tahu sendiri, hal itu sudah memenuhi tujuan untuk mendapatkan jawaban.”
Pada bulan Juli, model OpenAI meretas Hugging Face, sebuah platform populer untuk berbagi model AI, dalam insiden yang digambarkan oleh pembuat ChatGPT sebagai insiden yang “belum pernah terjadi sebelumnya”.
Peretasan Hugging Face memicu seruan untuk pembatasan terhadap teknologi tersebut dan juga mendorong perusahaan AI lainnya untuk meninjau kembali langkah-langkah keamanan mereka sendiri.
Beberapa perusahaan melaporkan telah menemukan pelanggaran yang sebelumnya tidak diketahui. Anthropic mengungkapkan pada bulan Juli bahwa model Claude miliknya telah meretas tiga organisasi selama pengujian.
Meta mengatakan pada bulan Agustus bahwa model Muse Spark 1.1 miliknya mengakses internet dan meretas sistem layanan pihak ketiga selama pengujian.
Cara model AI bisa lolos dari ekosistem sandbox
Sandbox tidak dirancang dengan tujuan utama untuk mencegah model mencapai internet; sandbox terutama disiapkan untuk membatasi akses dan kerusakan pada sistem internal pengembang.
Kabur dari sandbox bukanlah masalah mendesak sebelum model AI yang kuat ini menemukan cara untuk melakukannya. Titik buta ini turut menciptakan kondisi yang memungkinkan terjadinya pelanggaran.
Selama pengujian OpenAI, startup ini menyatakan bahwa mereka tidak memberikan akses internet langsung kepada model-model tersebut, namun model-model tersebut memanfaatkan kerentanan zero-day yang sebelumnya tidak diketahui di lingkungan pengujian.
Dalam kasus Anthropic, walau berbagai model AI ini diberi peringatan bahwa mereka beroperasi dalam simulasi tanpa akses internet, akibat kesalahpahaman antara Anthropic dan mitra evaluasinya, akses internet langsung ternyata tetap tersedia.
Meta mengatakan bahwa pelanggaran pada modelnya terjadi akibat kesalahan dalam pengaturan lingkungan pengujian dan bahwa mereka sedang menyelidiki lebih lanjut.
(red)
