“Seorang pengelola manusia mendeteksi dan menolak untuk menyetujui kode berbahaya tersebut,” tulis AISI.

Dalam pernyataan di platform media sosial X, Anthropic mengatakan bahwa perusahaan “berterima kasih kepada AISI atas kepemimpinannya dalam diskusi penting mengenai cara mengevaluasi agen AI yang semakin canggih.”

“Kami bekerja sama erat dengan mereka untuk merangkum data rinci lebih lanjut mengenai insiden tersebut sambil melakukan penyelidikan kami sendiri.

“Mendapatkan gambaran jelas soal pemahaman Claude terhadap situasinya — dengan memeriksa transkrip penalaran dan menjalankan analisis kami sendiri — akan membantu kami mengidentifikasi penyebab perilakunya,” kata perusahaan tersebut.

Dalam unggahan di blog resmi, OpenAI menyatakan bahwa mereka “menghargai kemitraan dengan AISI Inggris selama proses ini, termasuk upayanya dalam mengidentifikasi, menyelidiki, dan membagikan detail mengenai aktivitas tersebut.”

“Kami menunggu kelanjutan kolaborasi ini,” tambah perusahaan tersebut.

Secara terpisah, OpenAI menyebutkan dalam blognya bahwa insiden lain terkait model keamanan siber terjadi selama evaluasi model AI bersama Irregular, sebuah perusahaan keamanan siber eksternal yang juga bekerja sama dengan Anthropic.

(bbn)