Lorelei Smillie–Bloomberg News

Bloomberg, Serangkaian peretasan daring baru-baru ini yang dilakukan oleh model kecerdasan buatan (AI) buatan Anthropic PBC, OpenAI, dan Meta Platforms Inc. telah memicu kekhawatiran luas mengenai risiko keamanan yang ditimbulkan oleh teknologi yang semakin canggih ini.

Secara umum, insiden keamanan ini terbagi menjadi dua kategori. Pada beberapa kasus, model AI telah lolos dari lingkungan pengujian yang terkendali dan meretas organisasi di luar ekosistem tersebut. Dalam kasus lain, para hacker telah mengarahkan model AI untuk melakukan serangan siber atas nama mereka.

Seiring menumpuknya insiden semacam ini dan meningkatnya kemampuan peretasan agen AI dengan cepat, para peneliti keamanan dan pembuat kebijakan menyerukan pengujian yang lebih ketat serta lingkungan pengujian yang lebih aman.

Mengapa model AI berhasil menembus organisasi di luar batas wilayah pengujian?