“Kami menanggapi temuan ini dengan serius. Kami sedang memperkuat kontrol akses jaringan dan pemantauan agen.”

Laporan yang diterbitkan minggu ini menemukan bahwa lebih dari puluhan agen berusaha mengakses sistem teknologi informasi yang dilindungi dalam beberapa minggu terakhir. 

Sebagian besar upaya tersebut berhasil dihentikan, sementara beberapa di antaranya berhasil mengelabui pembatasan anti-bot, namun para peneliti tidak menemukan bukti adanya akses ke sistem pribadi.

Insiden ini semakin memperkuat kekhawatiran yang semakin meningkat mengenai agen AI yang lolos dari lingkungan evaluasinya dan melakukan tindakan yang tidak diinginkan oleh pengawas manusia.

Model-model OpenAI secara tidak sengaja meretas pemerintah Australia pada musim panas ini, yang menyebabkan Canberra memanggil para eksekutif dari perusahaan AI asal AS tersebut untuk menjawab pertanyaan, dan OpenAI berjanji akan membantu negara tersebut dalam hal pertahanan siber.

(bbn)