Shirin Ghaffary-Bloomberg News

Bloomberg, Anthropic PBC menyatakan bahwa model AI Claude mereka melakukan tindakan yang tidak disengaja pada sistem digital organisasi pihak ketiga, termasuk mengirimkan laporan palsu dalam kasus pembunuhan yang ditangani polisi. 

Aksi tak direncanakan tersebut memicu peringatan dari pemerintahan Trump kepada perusahaan kecerdasan buatan agar mengamankan sistem mereka.

Dalam laporan yang menguraikan insiden-insiden yang sebelumnya tidak diungkapkan, Anthropic mencantumkan empat jenis perilaku yang tidak diinginkan yang ditunjukkan oleh AI tersebut, termasuk mengeksploitasi kelemahan dasar dalam software untuk menjalankan perintah, mengirimkan formulir yang seharusnya tidak dikirimkan, dan melewati pembatasan untuk mengakses data publik tertentu.

Dalam salah satu contoh perilaku yang tidak semestinya yang ditemukan, Anthropic mengatakan bahwa model Claude Haiku 4.5 miliknya mengirimkan laporan ke departemen kepolisian setempat mengenai sebuah kasus pembunuhan, dengan menyatakan dalam formulir tersebut, “Saya mungkin memiliki informasi mengenai kasus ini,” dan “Saya ingat pernah melihat seseorang yang cocok dengan deskripsi tersebut di daerah tersebut,” tanpa mengisi kolom nama dan kontak situs tersebut.