Cecilia D'Anastasio–Bloomberg News

Bloomberg, Platform X milik Elon Musk telah menjadi situs utama untuk gambar orang yang tanpa persetujuan ditelanjangi oleh AI, menurut analisis pihak ketiga, dengan ribuan kasus setiap jam selama sehari awal pekan ini.

Sejak akhir Desember, pengguna X semakin sering meminta Grok, chatbot AI yang terhubung dengan platform tersebut, untuk mengubah gambar yang diunggah oleh pengguna. Selama analisis 24 jam terhadap gambar yang diunggah akun @Grok ke X, chatbot tersebut menghasilkan sekitar 6.700 gambar per jam yang diidentifikasi sebagai gambar yang bersifat seksual atau telanjang, menurut Genevieve Oh, peneliti media sosial dan deepfake.

Lima situs web teratas lain untuk konten serupa rata-rata menghasilkan 79 gambar AI telanjang baru per jam selama periode 24 jam, dari 5 hingga 6 Januari, seperti yang ditemukan Oh.

Skala deepfake di X “belum pernah terjadi sebelumnya,” kata Carrie Goldberg, salah seorang pengacara dengan spesialisasi kejahatan seksual online. “Kami  belum pernah memiliki teknologi yang membuatnya begitu mudah untuk menghasilkan gambar baru,” tambahnya, karena Grok gratis dan terhubung dengan sistem distribusi bawaan.