Cara tersebut adalah mengekstraksi secara sistematis pengetahuan eksklusif dari perusahaan-perusahaan Amerika menggunakan teknik yang dikenal sebagai distilasi untuk membangun generasi chatbot pesaing dengan biaya yang jauh lebih murah.
Moonshot, yang model terobosannya Kimi K3 telah mengubah asumsi tentang kemampuan AI China, telah menghadapi pengawasan khusus di Washington karena kemajuan pesatnya dalam mengungguli AS
Meskipun distilasi merupakan teknik umum dalam industri AI, di mana hasil keluaran dari model mutakhir digunakan untuk melatih model yang kurang canggih, praktik ini dapat melanggar ketentuan layanan pengembang jika diterapkan dalam skala industri. OpenAI, Anthropic PBC, dan Google, dari Alphabet Inc., telah berkoordinasi untuk mencari cara mengatasi apa yang mereka sebut sebagai bentuk-bentuk adversarial melalui distilasi — termasuk yang dilakukan oleh perusahaan-perusahaan dari Tiongkok.
“Kecemasan kami adalah mengenai pelanggaran syarat dan ketentuan layanan kami, bukan model terbuka atau distilasi yang sah,” kata Caroline Zier, pemimpin inisiatif kebijakan keamanan nasional strategis di OpenAI.
“Ini juga merupakan tantangan bersama untuk memastikan AS tetap memimpin di semua bidang, itulah sebabnya kami berbagi temuan dengan pengembang lain dan mitra pemerintah yang relevan, serta akan terus berinvestasi dalam perlindungan yang lebih kuat. Kami mendukung ekosistem model open-weight yang berkembang pesat dan kepemimpinan AS di dalamnya.”
Pihak Moonshot belum segera menanggapi permintaan komentar. Pemerintah China telah menolak tuduhan distilasi sebelumnya dari perusahaan-perusahaan Silicon Valley dan pemerintahan Trump, serta memperingatkan bahwa mereka akan membalas tindakan apa pun yang dijatuhkan oleh pemerintah AS.
Sebagian untuk membatasi dampak dari upaya “distilasi”, OpenAI semakin menyembunyikan rantai penalaran model-modelnya, dengan memberikan jawaban kepada pengguna, alih-alih penjelasan tentang bagaimana model tersebut mencapai jawaban tersebut. Orang-orang yang terkait dengan Moonshot berhasil mengelabui pembatasan tersebut, demikian menurut blog OpenAI, dengan menyalin penalaran terenkripsi dari satu percakapan dan meminta model dalam percakapan lain untuk mentranskripsikannya.
Metode tersebut melibatkan “jailbreak” terbatas untuk mengungkap versi rantai penalaran yang dapat dibaca oleh server internal perusahaan tanpa mendekripsi data tersebut, kata OpenAI. Sifat serangan yang terus berkembang seiring perubahan pertahanan OpenAI menjadi bukti bahwa distilasi semacam itu memberikan pelatihan yang berharga, menurut seorang peneliti di laboratorium AI yang meminta namanya tidak disebutkan demi alasan kerahasiaan.
Tudingan OpenAI menyorot persaingan yang semakin ketat bagi OpenAI dan perusahaan Amerika lainnya, yang sedang berjuang menghadapi tantangan yang semakin besar dari pesaing China termasuk DeepSeek dan Minimax yang menawarkan model open-weight yang lebih terjangkau.
Walau beberapa pengembang AI di AS, termasuk OpenAI, menawarkan sistem terbuka, sebagian besar fokus mereka tertuju pada sistem tertutup atau eksklusif yang mereka jual kepada pelanggan.
Beberapa minggu setelah peluncuran Kimi K3, penasihat kebijakan sains dan teknologi Gedung Putih, Michael Kratsios, mengatakan di media sosial bahwa Moonshot telah mengakses server komputasi Nvidia Blackwell—yang dilarang dijual kepada perusahaan-perusahaan China—dan menggunakan “platform internal yang canggih” untuk mengekstrak data dari model-model AS.
Moonshot memiliki perjanjian daya komputasi dengan Alibaba Group Holding Ltd. untuk penggunaan sekitar 20.000 chip Nvidia Corp., sebuah kluster yang merupakan bagian besar dari total kapasitas komputasi yang digunakannya untuk model-model Kimi, demikian dilaporkan Bloomberg News.
Pengungkapan ini menandai pertama kalinya OpenAI menuduh Moonshot, namun hal ini menyusul laporan ancaman dari Anthropic bulan lalu yang menyatakan bahwa Moonshot secara senyap mengalihkan ribuan permintaan pengguna ke model Claude milik perusahaan AS tersebut dan menyamaratakan responsnya sebagai miliknya sendiri, sambil menggunakan jawaban tersebut untuk membantu melatih model Kimi.
Pengungkapan terbaru OpenAI mengenai upaya distilasi yang melibatkan 16.000 permintaan hanyalah sebagian kecil dari skala insiden terbesar yang dilaporkan oleh Anthropic, yang mencatat distilasi dalam jutaan pertukaran data.
Seseorang yang mengetahui pemikiran OpenAI, yang juga berbicara dengan syarat anonimitas demi alasan kerahasiaan, mengingatkan bahwa angka-angka tersebut mungkin mencakup periode waktu yang berbeda dan menggunakan metode deteksi yang berbeda, sehingga mungkin tidak dapat dibandingkan secara langsung. Jika serangan digagalkan sejak dini, volume keseluruhan juga akan lebih sedikit, tambah orang tersebut.
Tuduhan distilasi yang dilontarkan oleh perusahaan-perusahaan AS menuai kritik, termasuk dari David Sacks, investor modal ventura dan mantan penasihat utama Presiden Donald Trump di sektor AI.
Sacks menggambarkan laporan-laporan tersebut sebagai upaya untuk membuat AS melarang model terbuka yang menantang model bisnis OpenAI dan Anthropic. China juga dengan tegas menentang klaim bahwa perusahaannya terlibat dalam praktik pengembangan yang tidak adil.
(bbn)
