Bloomberg Technoz, Jakarta - Kementerian Komunikasi dan Digital atau Kemkomdigi  mendalami dugaan penyalahgunaan Grok AI di platform X, yang digunakan untuk memproduksi dan menyebarkan konten asusila termasuk manipulasi foto pribadi (deepfake) bersifat sensitif tanpa persetujuan pemiliknya.

Kemkomdigi RI bakal memberikan sanksi administratif hingga pemutusan akses layanan fitur kecerdasan buatan (artificial intelligence/AI) dan platform media sosial tersebut, jika tidak patuh terhadap Undang-Undang (UU) atau menunjukkan sikap yang tak kooperatif.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi RI Alexander Sabar menyebut bahwa hasil penelusuran awal memperlihatkan Grok AI belum mempunyai pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.

Kondisi tersebut memiliki potensi melanggar hak privasi dan hak atas citra diri atau right to one’s image, khususnya saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Dirjen Sabar dalam keterangan tertulis, Rabu (7/1/2026).