Platform X milik Elon Musk mendapat kritik bulan lalu setelah Grok milik perusahaan digunakan untuk membuat dan menyebarkan gambar-gambar bermuatan seksual dari orang sungguhan yang mengenakan pakaian dalam atau baju renang. Kelompok-kelompok perlindungan anak menemukan gambar-gambar bermuatan seksual yang dihasilkan AI dari anak-anak di dark web.
X membatasi akses ke Grok dan memblokir fitur yang disebut “bikini mode” setelah protes dari pemerintah di seluruh dunia, dan menekankan bahwa mereka menghapus konten ilegal dari situsnya. Namun, hal ini memicu tindakan regulasi terhadap perusahaan dan menjadi penyulut bagi gerakan untuk membatasi perusahaan media sosial secara lebih luas. Beberapa pemerintah di Eropa kini mempertimbangkan untuk melarang media sosial bagi remaja muda, berdasarkan undang-undang yang disahkan di Australia tahun lalu.
Baca Juga: Komdigi Ancam Blokir Permanen Grok Jika tak Patuhi Aturan
Membagikan gambar indentik dengan pornografi tanpa persetujuan dinyatakan ilegal di Inggris. Hal ini didefinisikan sebagai berbagi gambar orang dalam “keadaan intim,” seperti tindakan seksual, yang telanjang atau setengah telanjang, atau yang berada dalam “keadaan intim secara budaya,” seperti seorang wanita Muslim yang melepas hijabnya.
Inggris mengusulkan menambahkan aturan baru sebagai amandemen terhadap RUU kejahatan dan kepolisian, memberikan polisi wewenang lebih besar untuk menegakkan tindakan penghapusan konten.
Layanan Bantuan Pornografi Balas Dendam Inggris (UK’s Revenge Porn Helpline), organisasi yang membantu orang-orang menghapus konten semacam ini, menyatakan bahwa meskipun berhasil lebih dari 90% kasus, platform-platform tidak selalu mematuhi permintaan, dan terkadang diperlukan beberapa kali permintaan.
“Ketika tim membantu korban, saya terus diingatkan bahwa ketika mereka membutuhkan bantuan dan dukungan, mereka menginginkannya sekarang juga. Mereka ingin konten mereka dihapus sekarang, bukan dalam beberapa jam atau beberapa hari,” kata David Wright, Direktur Eksekutif UK Safer Internet Centre dalam laporan kepada Parlemen tahun lalu.
(bbn)
