Departemen Kepolisian Philadelphia mengungkap insiden tersebut dalam siaran pers, kata perusahaan tersebut.
Agen AI Anthropic juga mengajukan 20 permohonan visa melalui formulir yang tersedia untuk umum di situs web Departemen Luar Negeri AS, menurut seorang juru bicara departemen tersebut. Semua permohonan tersebut tidak lengkap dan karenanya tidak diproses, tambah juru bicara tersebut. The New York Times sebelumnya telah melaporkan mengenai permohonan visa tersebut.
Anthropic dan pesaingnya, OpenAI, sebelumnya mengungkap serangkaian insiden dalam beberapa bulan terakhir yang melibatkan model AI mereka yang bertindak di luar yang diharapkan, mulai dari perilaku seperti yang dijelaskan dalam laporan Jumat lalu, hingga peretasan situs web pihak ketiga. Pengungkapan ini telah memicu kekhawatiran mengenai risiko keamanan dari AI mutakhir.
Perusahaan mengatakan bahwa beberapa kasus baru tersebut melibatkan situs web yang dikelola oleh lembaga pemerintah di tingkat federal, negara bagian, dan lokal, tanpa menyebutkan lembaga mana saja yang terlibat. Laporan tersebut tidak menyebutkan nama entitas eksternal yang terlibat, yang menurut Anthropic dilakukan atas permintaan beberapa pihak yang terdampak.
Anthropic menyatakan dalam laporannya bahwa mereka menilai perilaku tersebut kurang parah dibandingkan beberapa insiden sebelumnya yang melibatkan AI-nya. “Kasus-kasus yang telah kami identifikasi hingga saat ini dalam kategori ini memiliki dampak minimal di dunia nyata,” tulis perusahaan tersebut.
Anthropic lantas mengatakan bahwa mereka telah memberi pengarahan kepada Gedung Putih mengenai kasus-kasus ini dan memberi tahu setiap lembaga yang terlibat.
Jumat lalu, pejabat pemerintahan Trump menyatakan bahwa mereka kini mewajibkan perusahaan AI untuk memberi tahu pihak-pihak yang terdampak dan menangani insiden keamanan yang melibatkan model-model mereka.
“Hari ini, Anthropic menghubungi SI Force untuk mengungkapkan rincian berbagai insiden sebelumnya yang ditemukan pada akhir September, yang melibatkan penggunaan tanpa izin dan penipuan terhadap sistem pemerintah dan sistem lainnya,” kata Gedung Putih dalam pernyataan dari Super Intelligence Force, sebuah unit pemerintah baru yang bertugas mengawasi pengembangan dan keamanan AI.
“Perusahaan tersebut memberi tahu kami bahwa peristiwa-peristiwa ini terjadi di masa lalu, aktivitas tersebut telah dihentikan, dan tidak ada aktivitas serupa yang sedang berlangsung,” kata pernyataan tersebut.
Axios sebelumnya telah melaporkan mengenai persyaratan pemerintah tersebut.
Sebagai akibat dari terungkapnya insiden-insiden ini, Anthropic mengatakan pada hari Jumat bahwa mereka telah membatasi beberapa jenis akses internet untuk model AI-nya selama tahap pengujian dalam proses pelatihannya.
(bbn)
