Bloomberg Technoz, Jakarta - Peneliti keamanan siber menemukan metode serangan baru bernama BioShocking yang dapat memanipulasi agen kecerdasan buatan (AI) untuk mengambil data sensitif pengguna, termasuk kredensial akun dan kata sandi. Teknik ini memanfaatkan celah pada AI melalui metode indirect prompt injection, yakni menyisipkan perintah berbahaya ke dalam konten yang tampak normal.

Dalam pengujian yang dilakukan perusahaan keamanan siber LayerX, sejumlah platform AI diketahui dapat terpengaruh, termasuk ChatGPT Atlas, Claude, Comet, dan Perplexity.

Cara Kerja BioShocking

BioShocking bekerja dengan membuat AI mempercayai informasi yang salah melalui sebuah skenario permainan atau teka-teki.

Peneliti membuat halaman web yang tampak seperti permainan sederhana. Di dalamnya, AI diarahkan untuk menerima jawaban yang keliru sebagai sesuatu yang benar. Setelah mengikuti logika permainan tersebut, AI kemudian diminta menjalankan perintah lain, termasuk mengambil informasi sensitif milik pengguna.

Dalam simulasi tersebut, agen AI tidak menolak permintaan tersebut dan justru mengambil data kredensial dari repositori GitHub milik korban sebelum mengirimkannya kepada pelaku.