Amy Thomson dan Lucy White-Bloomberg News

Bloomberg, xAI, yang dikuasai oleh Elon, Musk membatasi fitur AI image-generation Grok untuk sebagian besar pengguna di platform media sosial X usai tool kecerdasan buatan tersebut menuai kecaman luas karena menghasilkan gambar perempuan dan anak-anak bermuatan sensual.

Hingga Jumat, Grok memberitahu pengguna di X bahwa mereka memerlukan langganan berbayar untuk menghasilkan dan mengedit gambar. Fitur-fitur tersebut awalnya diperkenalkan di X secara gratis dengan batasan harian. Aplikasi Grok yang berdiri sendiri (beroperasi terpisah dari jaringan sosial) masih memungkinkan pengguna untuk menghasilkan gambar tanpa berlangganan. 

Kemampuan Grok dalam menghasilkan gambar telah menjadi sorotan dalam beberapa minggu terakhir pasca pengguna mulai meminta tol tersebut untuk mengedit foto orang — sebagian besar perempuan — untuk dibuat seolah memakain bikini. Lebih banyak pengguna memanfaatkan fitur tersebut untuk menciptakan gambar-gambar seksual dari perempuan dan anak-anak di X. Alat tersebut digunakan untuk menghasilkan ribuan gambar telanjang orang per jam, banyak di antaranya tanpa persetujuan subjek. 

Juru bicara xAI tidak memberikan komentar segera. Elon Musk mengatakan dalam posting di X pekan lalu bahwa “siapapun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal.” Konten yang menampilkan seksualisasi dan eksploitasi anak-anak juga dilarang di X berdasarkan syarat dan ketentuan layanannya saat ini.