Bloomberg Technoz, Jakarta - Badan Reserse Kriminal Kepolisian atau Bareskrim Polri mengklaim akan mengkaji potensi penerapan pasal pidana pada pengguna internet yang menyalahgunakan kecerdasan buatan ata artificial intelligence (AI) untuk memproduksi konten pornografi atau asusila di media sosial.

Hal ini diungkap usai marak pembicaraan tentang Grok AI di platform X yang digunakan untuk membuat konten pornografi dan manipulasi lainnya seperti deepfake secara ilegal.

“Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” ujar Direktur Tindak Pidana Siber Bareskrim Polri, Brigadir Jenderal Himawan Bayu Aji dikutip, Jumat (09/01/2026).

Menurut dia, Polri menilai perkembangan AI merupakan konsekuensi dari kemajuan teknologi. Namun, pemanfaatannya tidak boleh disalahgunakan untuk aktivitas menyimpang yang berpotensi menimbulkan kerugian moral bagi masyarakat.

“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” kata dia.

Dia pun menyoroti sejumlah penyimpangan tersebut kerap berupa manipulasi foto atau gambar seseorang hingga menampilkan visual bermuatan asusila dan pornografi tanpa persetujuan pihak terkait.

“Atas dasar itu, kami sedang melakukan pendalaman dari sisi hukum. Penanganan penyalahgunaan AI ini menjadi salah satu fokus Direktorat Tindak Pidana Siber,” kata Himawan.

Bareskrim mencatat, di platform media sosial X, Grok AI digunakan secara masif oleh sejumlah akun untuk memanipulasi gambar atau foto individu. Dalam sejumlah kasus, perintah yang diberikan kepada AI tersebut mengarah pada pengubahan visual menjadi vulgar dan bermuatan pornografi.