Dalam kasus ini, Anthropic menyatakan bahwa mereka meyakini respons yang diterima Moonshot dari sistem Anthropic kemudian digunakan untuk melatih perangkat lunak milik Moonshot sendiri. DeepSeek dan Xiaomi Corp. juga terlibat dalam praktik serupa, kata Anthropic.
Laporan tersebut muncul tak lama setelah kumpulan lembaga pemerintahan AS bidang keamanan menuduh perusahaan-perusahaan AI terkemuka China, termasuk DeepSeek dan Moonshot, secara sistematis mengekstraksi pengetahuan eksklusif dari perusahaan-perusahaan Amerika melalui praktik distilasi mereka.
Pemerintah memperingatkan para developer di Silicon Valley untuk melindungi karya mereka. Perusahaan teknologi AS, termasuk Anthropic, sebelumnya juga telah menuduh perusahaan-perusahaan China, termasuk Moonshot, melakukan distilasi.
Sejak itu, Moonshot muncul sebagai salah satu penantang AI paling menonjol di negara tersebut berkat kesuksesan luar biasa model Kimi K3-nya pada musim panas ini. Moonshot menolak memberikan komentar. Perwakilan DeepSeek dan Xiaomi tidak menanggapi permintaan komentar di luar jam kerja normal.
Kementerian Perdagangan China menyatakan bahwa tidak ada “dasar faktual maupun hukum” untuk tuduhan distilasi skala industri terhadap model AS oleh perusahaan AI China. Kementerian tersebut juga mengancam akan mengambil tindakan balasan jika AS “mengambil langkah untuk membatasi dan menekan” perusahaan AI China.
Distilasi adalah teknik umum untuk meningkatkan model AI. Anthropic pun telah melihat peningkatan saat melakukan distilasi pada modelnya sendiri, kata Jacob Klein, kepala penelitian ancaman di perusahaan tersebut.
Namun, distilasi tanpa izin berisiko memungkinkan developer lain mengambil jalan pintas untuk membangun model yang lebih baik dan menawarkannya dengan harga lebih murah, yang berpotensi merugikan perusahaan seperti Anthropic saat bersiap untuk go public.
Teknik tersebut, serta taktik pengalihan perintah yang diduga dilakukan, juga dapat memunculkan pertanyaan baru mengenai praktik privasi data di laboratorium AI China. “Jika kami melakukan hal itu, atau jika salah satu pesaing kami melakukannya, itu akan menjadi skandal privasi besar,” kata Klein dalam sebuah wawancara.
Laporan Anthropic setebal 145 halaman tersebut menguraikan berbagai ancaman yang melibatkan perangkat lunaknya, yang menurut perusahaan telah mereka temukan dan cegah sejak Desember lalu hingga Agustus ini. Hal itu mencakup dugaan serangan siber yang didukung negara dan bermotif finansial, operasi pengawasan, serta kampanye disinformasi.
Laporan tersebut menemukan bahwa seorang pengguna Kimi mengunggah data pengawasan China ke dalam model untuk menganalisis apakah seseorang berperilaku tidak wajar. Meskipun pengguna ini kemungkinan mengira permintaan tersebut akan ditangani oleh Moonshot, pada akhirnya permintaan tersebut diajukan ke model Anthropic, sehingga terlihat oleh perusahaan AS tersebut.
Permintaan ini mencakup rekaman video pengawasan dari ratusan kamera, termasuk yang berada di luar fasilitas Tentara Pembebasan Rakyat China (PLA), demikian dijelaskan Anthropic dalam laporannya.
Contoh-contoh dalam laporan tersebut menunjukkan bagaimana AI mempercepat pembuatan malware, pemantauan media sosial, dan penyebaran propaganda politik. Anthropic menyatakan bahwa dalam setiap kasus, mereka telah memblokir akun-akun yang melanggar dan mengembangkan langkah-langkah pengamanan untuk mencegah perilaku serupa.
Anthropic dan industri AI secara umum sedang menjadi sorotan akibat serangkaian insiden pelanggaran keamanan yang terungkap musim panas ini, yang melibatkan model AI dan uji keamanan siber yang gagal, sehingga memicu kekhawatiran mengenai kemampuan perusahaan-perusahaan tersebut dalam melindungi software tercanggih mereka.
Pada hari Rabu, Anthropic mengumumkan bahwa mereka telah menemukan insiden peretasan tambahan yang dilakukan oleh salah satu modelnya selama uji keamanan. Insiden tersebut melibatkan versi awal dari Claude Opus 4.6, demikian menurut perusahaan tersebut.
(bbn)
