Tim peneliti juga menguji teknik multistage bernama Crescendo pada model ini. Hasilnya menunjukkan bahwa DeepSeek memiliki tingkat bypass/jailbreak yang tinggi, membuka potensi serangan baru yang dapat dimanfaatkan oleh pelaku kejahatan siber.
Philippa Cogswell, Wakil Presiden & Managing Partner Unit 42 - Asia Pasifik & Jepang, menekankan bahwa LLM tidak selalu berfungsi sesuai yang diharapkan dan dapat dimanipulasi oleh pihak yang tidak bertanggung jawab.
“Penelitian Unit 42 tentang jailbreaking DeepSeek menunjukkan bahwa sistem pengamanan chatbot berbasis AI tidak selalu efektif,” terang Philippa dalam keterangannya, Kamis (6/2/2025).
“Organisasi yang mengintegrasikan LLM sumber terbuka dalam proses bisnis mereka harus mempertimbangkan risiko ini dan menerapkan perlindungan keamanan menyeluruh di seluruh sistem mereka.”
Ia kemudian menyoroti bahwa ancaman siber berbasis AI terus berkembang dan “kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Gemini untuk melancarkan serangan, meningkatkan efektivitas phishing, dan menulis malware.”
“Kami memperkirakan bahwa para penyerang akan menjadi lebih canggih dalam memanfaatkan AI dan LLM, bahkan mulai mengembangkan agen serangan berbasis AI," tegasnya.
Temuan utama dalam penelitian Unit 42 DeepSeek meliputi:
- Chatbot DeepSeek memiliki tingkat keberhasilan jailbreak yang tinggi, menandakan potensi besar bagi penyalahgunaan oleh aktor jahat.
- Teknik jailbreaking memungkinkan chatbot memberikan instruksi eksplisit untuk aktivitas siber berbahaya, mempercepat dan menyederhanakan operasi kejahatan siber.
- Ancaman yang dihasilkan dari jailbreak ini termasuk penciptaan keylogger—perangkat lunak atau perangkat keras yang merekam setiap penekanan tombol pada komputer atau perangkat—serta pencurian data dan penggelapan, yang berisiko besar bagi keamanan bisnis.
(wep)
