Kemampuan tool AI Grok memiliki risiko menggiring tindakan serupa ke arus utama, disampaikan Ngaire Alexander, kepala layanan pengaduan IWF, dilaporkan Bloomberg News.
IWF jadi bagian dari pemerintahan Inggris yang diberi kewenangan mengidentifikasi dan mengklasifikasikan materi pelecehan seksual anak. Keputusan lembaga ini memicu penghapusan wajib konten serta memberikan klasifikasi yang dibutuhkan oleh lembaga penegak hukum untuk mengejar pelaku kejahatan.
Para ahli keselamatan anak kini justru khawatir bahwa pengguna menggunakan platforms dan situs Grok untuk menghasilkan materi yang lebih ekstrem secara pribadi dan membagikannya.
Anggota dark web menjelaskan bahwa gambar bermuatan pornografi mereka hasilkan melalui tool Grok Imagine, untuk kemudian memprosesnya kembali melalui platform AI lain yang tidak teridentifikasi. Artinya dampak merugikan ini “menyebar luas,” kata Alexander.
Grok AI Terancam Blokir di Indonesia
Dirjen Pengawasan Ruang Digital Kemkomdigi RI Alexander Sabar menyatakan pihaknya sudah mengidentifikasi kemampuan Grok AI memproduksi dan menyebarkan konten asusila.
Dugaan penyalahgunaan tool AI Grok di platform X — keduanya milik Elon Musk — termasuk tindakan pelanggaran serius atas privasi dan hak citra diri (right to one’s image). Sabar menyebut Grok AI belum mempunyai pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi.
Penegak hukum dari Bareskrim Polri menegaskan penyalahgunaan AI, termasuk juga diduga dilakukan Grok, bisa berpotensi terkena hukum pidana. Direktur Tindak Pidana Siber Brigjen Pol Himawan Bayu Aji menyinggung jenis perbuatan tersebut masuk dalam tindakan manipulasi data elektronik.
Perkembangan teknologi AI harus memiliki batasan yaitu tidak boleh disalahgunakan untuk aktivitas menyimpang hingga merugikan masyarakat. “Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” urai Aji.
Komisi Eropa hingga Otoritas India
Aliansi negara-negara di Eropa (EU) tengah menyelidiki arus perkembangan penggunaan tool AI Grok yang dipakai untuk menghasilkan gambar bermuatan pornofrafi. Foto — perempuan kerap ditemukan — dengan menghilangkan pakaian terpampang di platform media sosial populer dipastikan “ilegal” terang juru bicara EU Thomas Regnier.
Anggota parlemen Belanda, Jeroen Lenaers, mengutuk konten pornografi yang dihasilkan oleh AI dan apabila platform melakukan pembiaran maka perlu ada upaya serius untuk melakukan pencegahan.
Lenaers menyebut tindakan Grok untuk menghapus unggahan pasca tindakan terjadi “bukanlah solusi sama sekali, karena kerusakan pada korban sudah terjadi dan tidak dapat dibalikkan.”
Otoritas media asal Inggris, Ofcom, awal pekan ini juga menyuarakan design kepada X dan xAI. Langkah serius wajib dilakukan, tidak semata mematuhi aturan namun melindungi pengguna internet di Inggris. Otoritas Prancis bahkan menyinggung adanya peluang oleh X dan xAI atas pelanggaran Undang-Undang Layanan Digital UE.
Dari Asia, lembaga di Malaysia juga mengaku tengah menyelidiki kasus gambar hasil Grok yang telah menjadi keluhan publik karena diduga menyalahgunakan teknologi AI. Komisi Komunikasi dan Multimedia Malaysia disebut akan menyelidiki pengguna X yang diduga melanggar hukum dan akan memanggil perwakilan perusahaan.
Akhir pekan lalu India memerintahkan X melakukan tinjauan terhadap chatbot AI. Surat yang dikirimkan otoritas terkait tersebut guna memastikan tidak menghasilkan konten yang mengandung “konten eksplisit seksual, atau konten ilegal lainnya,” laporan Bloomberg yang mendapati salinan surat perintah tertanggal 2 Januari tersebut.
xAI diminta mengirimkan laporan atas permintaan tersebut kepada Ministry of Electronics and Information Technology India dalam tempo 72 jam. Negara di Asia Barat ini juga menyampaikan langkah hukum pidana dan terkait teknologi informasi terkait permintaan tinjauan tersebut.
Pemerintah India mengatakan mungkin akan mempertimbangkan regulasi terhadap platform media sosial untuk konten AI yang tidak pantas. “Komite Parlemen telah merekomendasikan undang-undang yang kuat untuk mengatur media sosial,” kata Menteri Teknologi Informasi India, Ashwini Vaishnaw, dalam wawancara dengan CNBC-TV 18. “Kami sedang mempertimbangkannya,” dilaporkan 4 Januari 2026.
Hingga artikel ini dimuat xAI belum memberikan komentarnya.
Elon Musk pekan sebelumnya mengeklaim platform X dan Grok mengambil tindakan terhadap materi ilegal dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pejabat terkait jika diperlukan.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal,” berdasarkan unggahan Musk di X.
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
— Elon Musk (@elonmusk) January 3, 2026
xAI dipandang menetapkan posisi platform Grok dengan ketentuan yang lebih longgar dibandingkan tool sejenis, terkait larangan gambar dan video seksual. Sistem pada xAI mengizinkan penggambaran ketelanjangan dewasa sebagian dan gambar yang bersifat seksual, meskipun melarang pornografi eksplisit yang melibatkan kemiripan orang sungguhan dan konten seksual yang melibatkan anak di bawah umur.
- Dengan asistensi Olivia Solon, Alex Wickham, Cecilia D'Anastasio
(far/wep)
