Berbeda dengan chatbot terkemuka lainnya, Grok tidak memberlakukan banyak batasan pada pengguna atau memblokir mereka dari pembuatan konten bermuatan seksual yang melibatkan orang sungguhan, termasuk anak di bawah umur, kata Brandie Nonnecke, Direktur Kebijakan Senior di Americans for Responsible Innovation.
Pada teknologi AI generatif lainnya, termasuk yang dikembangkan oleh Anthropic PBC, OpenAI, dan Google milik Alphabet Inc., “ounya itikad baik mengurangi pembentukan konten semacam ini sejak awal,” ujarnya. “Jelas, xAI berbeda. Ini lebih seperti bebas tanpa batas.”
Elon Musk telah mempromosikan Grok sebagai chatbot yang lebih menyenangkan dan tidak sopan dibandingkan chatbot lain, dengan bangga menyebut X sebagai tempat untuk kebebasan berbicara.
X belum juga menanggapi permintaan komentar. Alih-alih mencegah chatbot menciptakan konten tersebut sejak awal, Elon Musk berbicara tentang menghukum pengguna yang memintanya. “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal,” kata dia dalam balasan terhadap posting di X.
Tapi, hal tersebut tidak memberikan banyak pilihan bagi korban. Maddie, yang mengaku sebagai mahasiswa kedokteran berusia 23 tahun, bangun di Hari Tahun Baru dan menemukan gambar yang mengerikan. Di X, dia sebelumnya memposting foto dirinya bersama pacarnya di sebuah bar lokal, yang diubah oleh dua orang asing menggunakan Grok. Satu orang meminta Grok untuk menghapus pacarnya dan menggantinya dengan bikini. Yang lain meminta Grok untuk mengganti bikini dengan benang gigi. Bloomberg meninjau gambar-gambar tersebut.
Maddie mengatakan dia dan teman-temannya melaporkan gambar-gambar tersebut ke X melalui sistem moderasi mereka. Dirinya tidak pernah menerima tanggapan. Ketika dia melaporkan postingan lain dari salah satu pengguna yang memicu Grok untuk membuatnya, X mengatakan bahwa “kami menentukan bahwa tidak ada pelanggaran aturan X dalam konten yang Anda laporkan,” menurut tangkapan layar. Gambar-gambar tersebut masih ada saat artikel ini diterbitkan.
Korban yang menjadi target deepfakes mulai berdebat dengan Grok di kolom komentar posting mereka. Grok sering meminta maaf dan mengatakan akan menghapus gambar-gambar tersebut. Namun, dalam banyak kasus, gambar-gambar tersebut tetap ada, dan Grok terus menghasilkan yang baru. Oh menghitung bahwa 85% dari gambar Grok secara keseluruhan bersifat seksual.
Sensual masih menjadi daya tarik bagi chatbot, dengan OpenAI berencana memperkenalkan “adult mode” untuk ChatGPT pada kuartal pertama 2026. Namun, aturan penggunaan saat ini dari OpenAI menyatakan bahwa aplikasi tersebut mencegah “penggunaan citra seseorang, termasuk gambar fotorealistik atau suaranya, tanpa persetujuan mereka dalam cara yang dapat membingungkan keaslian.”
Saat diuji, chatbot tersebut merespons, “Saya tidak dapat mengedit foto orang sungguhan untuk mengubah busana mereka menjadi yang seolah seksual,” dan ada kebijakan eksplisit yang melarang seksualisasi siapa pun di bawah usia 18 tahun.
Grok, yang diluncurkan pada tahun 2023, menghadapi kritik yang semakin meningkat dari otoritas di Uni Eropa, Inggris, Malaysia, Prancis, dan India terkait dengan posting gambar non-konsensual dan bermuatan seksual, termasuk gambar anak di bawah umur. “Kami menyadari bahwa X atau Grok kini menawarkan ‘Spicy Mode’ yang menampilkan konten seksual eksplisit dengan beberapa output yang dihasilkan menggunakan gambar anak-anak,” kata juru bicara Komisi UE Thomas Regnier dalam konferensi pers pada Senin, merujuk pada pembaruan awal November yang menghasilkan materi sugestif. “Ini ilegal.”
(bbn)
