Bloomberg Technoz, Jakarta - Serangan siber berbasis kecerdasan buatan atau artificial intelligence (AI) kini berkembang melalui metode yang dikenal sebagai prompt injection. Apa dan bagaimana sejatinya pola ancaman siber prompt injection bekerja?

Kasus terkini prompt injection bahkan melibatkan model AI Grok, dimana akun X @Ilhamfliansyh diduga memanfaatkan teknis manipulasi ini agar menghasilkan instruksi transfer aset kripto secara otomatis.

Grok AI menerima input berupa kode Morse yang setelah diterjemahkan berisi instruksi transfer aset digital ke akun tertentu. AI kemudian menerbitkan hasil terjemahan tersebut dan secara tidak sengaja memicu sistem otomatis melakukan transfer kripto sekitar US$175 ribu. 

Mengupas prompt injection

International Business Machines Corporation (IBM) dalam sebuah laporan mengungkap bahwa serangan ini menargetkan large language models (LLM) dengan menyamarkan instruksi berbahaya sebagai perintah biasa agar sistem AI mengikuti arahan penyerang.

LLM sendiri merupakan model dasar AI yang dilatih menggunakan kumpulan data dalam jumlah besar. Model ini dapat digunakan untuk berbagai tugas melalui proses yang dikenal sebagai instruction tuning atau penyempurnaan instruksi.