Bloomberg, Nvidia Corp. memperkenalkan sistem keamanan kecerdasan buatan berlapis baru yang, menurut perusahaan, seharusnya dapat mencegah insiden pelanggaran keamanan Hugging Face yang baru-baru ini menjadi sorotan, yang disebabkan oleh model AI milik OpenAI.

Nvidia, yang telah dengan cepat memperluas jajaran produknya di luar chip, meluncurkan dua alat keamanan perangkat software model open sources yang dapat dijalankan pada perangkat hardware mereka. Alat-alat tersebut dirancang untuk mengontrol apa yang dapat diakses oleh agen AI secara real-time dan mematikannya ketika mereka melanggar aturan.

Jika para laboratorium terkemuka telah menggunakan teknologi ini untuk mengevaluasi model AI mereka sejak dini, serangan terhadap Hugging Face mungkin dapat dicegah, kata Justin Boitano,VP AI Nvidia, dalam sesi tanya jawab dengan wartawan menjelang pengumuman pada hari Senin waktu AS.

“Berdasarkan informasi yang kami miliki, platform keamanan baru ini seharusnya dapat menghentikan insiden tersebut,” ujarnya.

Perilaku tidak seharusnya yang dilakukan oleh agen otonom, termasuk insiden Hugging Face pada bulan Juli, telah mengguncang industri AI dan memicu seruan untuk memperlambat pengembangan teknologi ini.