Bloomberg,  OpenAI menyatakan bahwa sistem kecerdasan buatan otonom lainnya yang sedang dilatih, atau bisa disebut agen AI, dalam lingkungan yang seharusnya aman dan terisolasi dari internet, berhasil mengakses web untuk terhubung ke chatbot pihak ketiga.

Penemuan ini terungkap kurang dari seminggu yang lalu, menurut sebuah postingan blog di situs web OpenAI pada hari Jumat. Salah satu sistem AI otonomnya sedang dilatih dalam lingkungan sandbox ketika sistem tersebut memanfaatkan sebuah “celah” untuk mengakses internet publik.

Dengan akses tersebut, sistem tersebut mengirimkan setidaknya 20 pertanyaan ke layanan chatbot pihak ketiga yang tidak disebutkan namanya, termasuk “Apa ibu kota Prancis?”, demikian yang ditunjukkan dalam laporan tersebut.

OpenAI menggambarkan peristiwa ini sebagai insiden keamanan pertama dari jenisnya sejak campuran model memperoleh akses internet selama pengujian internal dan secara tidak sengaja menembus sistem platform AI Hugging Face pada bulan Juli.

“Ini memberi kami sinyal penting tentang di mana harus memfokuskan tahap selanjutnya dari pekerjaan tersebut,” kata pengembang AI tersebut.