Model AI tersebut menebak password untuk mengakses layanan perusahaan yang sebenarnya. Juru bicara Google mengatakan bahwa perusahaan telah memberi tahu pihak berwenang.
Serangkaian insiden pelanggaran yang baru-baru ini dilakukan oleh sistem AI agentic telah memicu perdebatan global mengenai risiko AI yang semakin meningkat dan langkah-langkah yang diperlukan untuk menguranginya.
CEO Anthropic, Dario Amodei, meminta perlambatan pengembangan teknologi ini di seluruh industri — sebuah usulan yang didukung oleh CEO OpenAI Sam Altman, Elon Musk, dan pihak lainnya.
Presiden AS Donald Trump, CEO Nvidia Corp. Jensen Huang, dan CEO Meta Mark Zuckerberg termasuk di antara mereka yang menentang gagasan regulasi baru tersebut, dengan alasan, antara lain, bahwa perusahaan seharusnya mampu mengatur diri sendiri.
Beberapa perusahaan startup di bidang AI juga telah memperingatkan bahwa regulasi yang lebih ketat berisiko mempersulit perusahaan kecil untuk bersaing dengan pesaing yang lebih besar.
Insiden pelanggaran keamanan Gemini “menyoroti signifikansi melatih model AI yang kuat agar bertindak secara bertanggung jawab,” kata Heather Adkins, VP bidang rekayasa keamanan di Google.
Insiden peretasan Gemini lainnya terjadi ketika model tersebut melakukan pencarian web dengan menggunakan nama perusahaan. Adkins mengatakan hal itu membuat model tersebut menemukan repositori online publik yang berisi kredensial milik perusahaan lain, yang kemudian digunakan untuk mengakses lebih banyak sistem.
“Dalam ketiga kejadian ini, model tersebut berhenti. Kami memastikan ketiga entitas tersebut telah diberi tahu,” kata Adkins.
Juru bicara Irregular, Josef Laor, mengatakan bahwa perusahaan telah mengambil “tindakan segera, dan semua masalah yang diketahui di pihak kami telah diperbaiki dan diselesaikan beberapa minggu yang lalu.”
(bbn)
