Tol AI memang telah mengaburkan batas antara konten yang berisiko dan ilegal, dengan kritik publik yang semakin meningkat usai para ahli memperingatkan bahwa alat tersebut digunakan untuk menciptakan materi pelecehan seksual anak. Platform media sosial utama berisiko dikenai denda atau pemblokiran jika gagal menghapus konten semacam itu dengan cepat dan proaktif.
Kantor Perdana Menteri Inggris Keir Starmer mengatakan pembatasan tersebut tidak cukup jauh. Langkah terbaru ini “hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium: Ini bukan solusi,” kata juru bicara Starmer, Geraint Ellis, kepada wartawan dalam briefing pada Jumat. “Ini menghina korban misogini dan kekerasan seksual. Yang dibuktikan adalah X dapat bertindak cepat ketika ingin melakukannya.”
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
— Elon Musk (@elonmusk) January 3, 2026
Internet Watch Foundation, badan yang ditunjuk oleh pemerintah Inggris untuk mengidentifikasi materi pelecehan seksual anak, mengatakan menemukan gambar “kriminal” di dark web yang diduga dihasilkan oleh Grok. Starmer mengatakan regulator media dan internet Inggris, Ofcom, memiliki dukungan penuh pemerintah untuk mengambil tindakan.
Ofcom mengatakan dalam pernyataan pada Jumat bahwa X telah menanggapi pertanyaan mereka terkait Grok dan sedang “melakukan penilaian.”
Di Amerika Serikat, tiga senator Demokrat mendesak Apple Inc. dan Google milik Alphabet Inc. untuk menghapus aplikasi X dan Grok dari toko aplikasi mereka, dengan alasan bahwa gambar-gambar tersebut melanggar ketentuan distribusi. Para legislator menuntut penghapusan aplikasi tersebut “sampai pelanggaran kebijakan X ditangani,” menurut surat yang dikirim pada Jumat yang ditujukan kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai.
“Tidak peduli atas perilaku X yang sangat buruk akan mengolok-olok praktik moderasi Anda,” tulis Senator Ron Wyden, Ben Ray Lujan, dan Edward Markey. “Tidak mengambil tindakan akan melemahkan klaim Anda di publik dan di pengadilan bahwa toko aplikasi Anda menawarkan pengalaman pengguna yang lebih aman.”
Apple dan Google belum memberi komentar.
Uni Eropa memerintahkan X untuk menyimpan dokumen internal terkait Grok hingga akhir tahun, kata juru bicara selama konferensi pers pada Kamis. Uni Eropa telah mengutuk beberapa gambar eksplisit anak-anak di platform tersebut sebagai ilegal.
X tidak lagi mempublikasikan data komprehensif tentang pengguna aktif bulanan dan pengguna berbayar. Pada Maret 2024, mereka mengatakan memiliki 550 juta pengguna bulanan. Hanya sebagian kecil dari jumlah tersebut yang merupakan pengguna berbayar.
(bbn)
