Indikasi tindakan manipulasi konten pengguna direpoduksi melalui teknologi AI Grok telah banyak dikecam sejumlah negara. Khusus Indonesia, aparat penegak hukum telah mengancam memproses pidana pengelola Grok pasca Kementerian Komdigi melaporkan tindakan manipulasi foto pribadi atau deepfake bersifat sensitif tanpa persetujuan pemiliknya.
Penyebaran manipulasi konten asusila bagi pendiri Indonesia Cyber Security Forum (ICSF) Ardi Sutedja adalah bentuk ancaman serius keamanan digital, serta kehormatan individu setiap warga negara. Chatbot yang dikembangkan oleh perusahaan milik Elon Musk tersebut dipandang lebih “bebas” dalam membuat konten termasuk mengedit foto menjadi tak senonoh.
“Bayangkan foto Anda atau keluarga Anda tiba-tiba muncul di media sosial dalam bentuk yang vulgar dan merendahkan martabat, padahal Anda tidak pernah berpose seperti itu. Inilah kenyataan mengerikan yang kini mengintai masyarakat kita dengan hadirnya teknologi kecerdasan buatan yang semakin canggih seperti chatbot Grok,” kata Ardi dalam keterangan tertulis, dikutip Jumat (9/1/2026).
Ardi menjelaskan, belakangan ini Grok AI menjadi sorotan karena fiturnya yang kontroversial. Berbeda dengan ChatGPT atau Gemini yang mempunyai batasan ketat, chatbot di platform media sosial (medsos) X (dulu Twitter) tersebut justru didesain untuk lebih “bebas”.
“Kemampuan ini bukan sekadar masalah teknis, tetapi ancaman serius terhadap keamanan digital dan kehormatan pribadi setiap warga negara Indonesia,” ungkap Ardi. Dengan jumlah pengguna internet di Indonesia sebesar 212 juta orang, maka dianggap sebagai pasar digital yang amat besar dan menggiurkan. Namun, di balik angka fantastis tersebut tersimpan kerentanan yang mengkhawatirkan.
Ardi mengutip survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) memperlihatkan sekitar 64% pengguna internet di Tanah Air belum memahami risiko keamanan digital secara komprehensif. Kondisi ini diperparah dengan minimnya edukasi tentang bahaya manipulasi konten berbasis AI.
Zona Abu-Abu di Regulasi Pelindungan Data Pribadi
Dia menyebut bahwa Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (PDP) yang telah disahkan pada Oktober 2022 lalu seharusnya bisa menjadi benteng pertahanan Indonesia. Akan tetapi hingga kini, peraturan pelaksanaannya masih belum juga rampung.
“Celah ini menciptakan zona abu-abu yang dimanfaatkan oleh pihak tidak bertanggung jawab untuk melakukan kejahatan digital. Ketiadaan aturan teknis membuat penegakan hukum terhadap penyalahgunaan AI seperti Grok menjadi sulit,” sebut Ardi.
“Bagaimana mungkin kita bisa melindungi masyarakat jika instrumen hukumnya sendiri belum lengkap? Sementara teknologi bergerak dengan kecepatan luar biasa, respons regulasi kita masih tertatih-tatih di garis start,” imbuh dia.
Menurut Ardi, apa yang dilakukan Grok bukan hanya masalah privasi individual, melainkan ancaman terhadap stabilitas sosial dan keamanan nasional. “Bayangkan jika teknologi ini disalahgunakan untuk memanipulasi foto pejabat negara, tokoh agama, atau publik figur lainnya. Dampaknya bisa memicu konflik horizontal, menurunkan kepercayaan publik, hingga destabilisasi politik,” kata Ardi.
Di era informasi yang serba cepat, konten manipulatif dapat menyebar dalam hitungan detik dan meninggalkan kerusakan reputasi yang permanen. “Bahkan setelah konten dihapus, jejak digitalnya bisa tetap beredar dan merusak kehidupan korban selama bertahun-tahun,” ujar Ardi.
“Tanpa regulasi yang tepat, kita sedang menyaksikan awal dari tsunami kejahatan digital yang akan semakin sulit dibendung. Teknologi seperti Grok yang memiliki kemampuan mengedit foto menjadi vulgar bisa menjadi senjata ampuh di tangan pelaku kejahatan siber,” pungkas dia.
- Dengan asistensi Farid Nurhakim dan Whery Enggo Prayogi.
(art/red)
