ICT: AI Produksi Konten Asusila Adalah Pelanggaran Etika Serius
Dihubungi terpisah, Direktur Eksekutif Information and Communication Technology (ICT) Institute, Heru Sutadi memandang fitur kecerdasan buatan Grok AI di X yang dapat memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi (deepfake) bersifat sensitif tanpa persetujuan pemiliknya di platform medsos milik Elon Musk tersebut adalah pelanggaran etika serius. Menurut dia, masalah itu tak sekadar terkait teknologi, namun terdapat risiko pada privasi dan harga diri manusia khususnya bagi perempuan dan anak.
“Fitur modifikasi gambar Grok AI memang dirancang untuk mendukung kreativitas bebas, tapi begitu saya menilai bahwa kemampuannya memproduksi konten asusila seperti deepfake tanpa persetujuan merupakan pelanggaran etika serius. Persoalan ini bukan hanya soal teknologi yang bersifat netral, tapi juga ancaman terhadap privasi dan martabat manusia, terutama perempuan dan anak-anak,” kata Heru kepada Bloomberg Technoz, Jumat malam (9/1/2026).
Dia menuturkan, meski kini Grok AI sudah dibatasi dan dimoderasi prompt—intruksi untuk kecerdasan buatan—tertentu, dengan prompt lainnya masih juga bisa dimodifikasi seseorang berpakaian lengkap menjadi tak senonoh. Terkait hal tersebut, Heru mengatakan kebebasan berekspresi harus dibatasi oleh hukum dan moral, sebab jika tidak, AI seperti Grok AI berpotensi memperburuk soal pelecehan seksual daring (online).
“Pemerintah Indonesia berhak menuntut akuntabilitas dari Elon Musk untuk mencegah penyalahgunaan ini,” ujar Heru.
Sebelumnya, Kemkomdigi RI mendalami dugaan penyalahgunaan Grok AI ini dan bakal memberikan sanksi administratif hingga pemutusan akses layanan fitur AI dan platform medsos tersebut, jika tak patuh terhadap Undang-Undang (UU) atau menunjukkan sikap yang tidak kooperatif. Heru menimbang langkah pemerintah itu seperti menyelidikinya sampai bot percakapan (chatbot) kecerdasan buatan terancam pemblokiran merupakan amat tepat.
Menurut dia, ini adalah respons proaktif terhadap ancaman yang melanggar UU terkait Informasi dan Teknologi Elektronik (ITE), serta membentur hak privasi warga Indonesia. Pasalnya, Pemerintah RI mempunyai kewajiban melindungi masyarakat dari konten berbahaya, terutama yang bersifat seksual tanpa konsensual.
“Namun, bukannya langsung blokir, Kemkomdigi sebaiknya prioritaskan dialog dengan X untuk implementasi filter AI lebih ketat dan transparansi. Jika tidak kooperatif, sanksi tegas diperlukan,” tutur Heru.
Selain itu, kata dia, masyarakat Indonesia harus diedukasi untuk memanfaatkan kecerdasan buatan secara positif, membuat prompt untuk hal positif. “Kemudian juga, nampaknya Indonesia perlu menyiapkan UU Kecerdasan Artifisial agar pengaturan penggunaan AI yang sudah ke semua sektor, kesehatan, pemerintahan, keuangan, perdagangan, industri dan lainnya bisa lebih jelas batasan-batasannya dan tanggung jawab bilamana ada kasus seperti ini,” imbuh Heru.
Teranyar, pemerintah lewat Kemkomdigi RI mengambil langkah berupa pemutusan akses sementara Grok AI. Pemblokiran ini bertujuan untuk pelindungan terhadap perempuan, anak, dan masyarakat Indonesia dari ancaman konten pornografi yang diciptakan oleh kecerdasan buatan.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Menkomdigi RI Meutya Hafid dalam keterangan tertulis, Sabtu (10/1/2026).
Dia menerangkan, tindakan pemutusan akses dilakukan berdasarkan kewenangan Kemkomdigi RI sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika (Permenkominfo) Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya pada Pasal 9 beleid tersebut. Pasal itu mewajibkan setiap PSE memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Kemudian dia mengeklaim pihaknya pun sudah meminta platform X untuk secepatnya hadir guna memberikan klarifikasi soal dampak negatif penggunaan Grok AI. “Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia (HAM), martabat, serta keamanan warga negara di ruang digital,” pungkas Meutya.
(bbn/lav)
