Logo Bloomberg Technoz

Bulan lalu, para peneliti di CrowdStrike Holdings Inc. menyatakan bahwa kelompok hacker menggunakan model DeepSeek untuk melancarkan serangan terhadap organisasi di 14 negara.

“Kemampuan siber model-model tersebut, dan tak lama lagi kemampuan biologisnya, akan mencapai ambang batas di mana mereka benar-benar mampu menimbulkan bahaya,” kata Yao Shunyu, kepala ilmuwan AI Tencent yang sebelumnya bekerja di OpenAI, dalam sebuah acara bulan ini di Hong Kong.

Tencent mengurangi fungsi siber dari model Hy4-nya sebelum merilisnya awal bulan ini. Moonshot mengambil pendekatan serupa dengan model Kimi K3.1 Pro-nya, sementara Z.AI meninjauan keamanan dan memberi peringatan kepada organisasi mengenai kerentanan sistem sebelum membuka akses ke sistem GLM-5.3-nya pada bulan Agustus.

Langkah-langkah ini mengikuti serangkaian sinyal dari pemerintah China mengenai risiko yang ditimbulkan oleh AI.

Bulan lalu, Kementerian Perdagangan China mengumumkan rencana larangan ekspor terhadap alat AI yang mampu menyerang infrastruktur nasional kritis, menyerang jaringan pemerintah, atau mengancam target militer. 

Berdasarkan draf proposal tersebut, model bahasa besar (LLM) yang dianggap “terdepan di dunia” juga dapat menghadapi pembatasan dalam penerapan di luar negeri.

Pada awal November, badan perencanaan ekonomi tertinggi China menyatakan sedang mempercepat penerapan standar keamanan dan pedoman etika baru bagi pengembang AI. Seorang pejabat di Komisi Pembangunan dan Reformasi Nasional mengatakan kini telah tercapai konsensus luas mengenai peluang dan risiko AI, serta bahwa negara tersebut berencana untuk mengintegrasikan langkah-langkah keamanan selama proses pengembangan.

“China  berusaha menemukan keseimbangan antara komersialisasi internasional dan pengendalian strategis atas teknologi AI-nya,” kata Charles Li, analis utama di TeamT5, sebuah organisasi yang memantau aktivitas siber di kawasan Asia Pasifik.

“Sejalan dengan laporan bahwa model-model terdepan Tiongkok semakin memperkecil kesenjangan dengan rekan-rekan AS dalam hal kemampuan keamanan siber, Beijing semakin memandang kemampuan-kemampuan ini sebagai aset strategis yang memerlukan pengendalian ekspor yang lebih ketat.”

Di Amerika, produk-produk AI dikaitkan dengan serangkaian serangan siber otonom dalam beberapa bulan terakhir, sehingga memicu kekhawatiran mengenai kemampuan teknologi tersebut untuk melakukan operasi ofensif tanpa pengawasan manusia.

Selama musim panas, perusahaan AS Anthropic PBC dan OpenAI melaporkan insiden di mana model mereka lolos dari kontrol keamanan dan menyerang situs web pihak ketiga.

Sejumlah insiden tersebut membuat para peneliti dan pemimpin pemerintah khawatir, sehingga memicu seruan untuk penyaringan keamanan yang lebih ketat dan lingkungan pengujian yang lebih aman. Bekerja sama dengan pemerintah AS, Anthropic telah mengizinkan sekelompok organisasi terpilih untuk menguji kemampuan siber sistemnya yang paling canggih.

Model AI China juga telah menimbulkan kekhawatiran serupa, dengan Kimi K3 dari Moonshot yang berhasil keluar dari lingkungan pengujian di AI Security Institute milik pemerintah Inggris. Meski model tersebut tidak mencoba meretas situs web perusahaan lain, seperti dalam beberapa insiden lainnya, pengujian tersebut menunjukkan bahwa model tersebut tidak memiliki kontrol keamanan siber, demikian kata para peneliti pada saat itu.

Menghapus materi serangan siber dari program pelatihan merupakan cara yang baik untuk mempersulit pelaku jahat dalam memanfaatkan model open-weight guna melakukan tindakan berbahaya, kata Xiaojian Li, pendiri perusahaan keamanan AI Fangcun AI.

“Ini merupakan keseimbangan yang baik antara biaya dan efektivitas, namun belum sempurna. Saat ini belum ada metode yang dapat sepenuhnya menghilangkan risiko yang ditimbulkan oleh model-model tersebut.”

(bbn)

No more pages