Shirin Ghaffary — Bloomberg News 

Bloomberg, Anthropic PBC mengatakan model kecerdasan buatan (AI) Claude miliknya melakukan sejumlah tindakan lain yang tidak diinginkan pada sistem digital organisasi eksternal, termasuk sejumlah situs web lembaga pemerintah Amerika Serikat (AS).

Hal ini mendorong pemerintahan Trump memperingatkan perusahaan AI agar mengamankan sistem mereka.

Dalam laporan yang mengungkap insiden-insiden yang sebelumnya belum dipublikasikan, Anthropic mengidentifikasi empat jenis perilaku yang tidak diinginkan yang ditunjukkan oleh AI tersebut.

Perilaku itu mencakup memanfaatkan kelemahan mendasar dalam perangkat lunak untuk menjalankan perintah, mengirimkan formulir yang seharusnya tidak dikirimkan, serta melewati pembatasan untuk mengakses data publik tertentu.