Perusahaan mengatakan pada Januari bahwa mereka menonaktifkan kemampuan Grok untuk membuat gambar-gambar yang mengarah pada sensualitas dari wujud seseorang dan bahwa mereka “berkomitmen untuk menjadikan X sebagai platform yang aman bagi semua orang.”
Dalam gugatannya, Kim mengatakan, saat mengerjakan sebuah proyek, ia menemukan bahwa Grok “cenderung mendiskriminasi kelompok ras tertentu sambil mengutamakan yang lain.”
Kim mengatakan telah melaporkan temuan tersebut kepada atasannya dalam berbagai laporan. Kim lantas menyatakan kekhawatirannya bahwa Grok dapat memberikan panduan kepada pengguna tentang pembuatan bom atau senjata biologis.
“Saudara Kim meyakini bahwa pengabaian xAI terhadap keamanan AI merupakan tindakan yang melanggar hukum,” kata pengacaranya dalam gugatan tersebut.
Terkait skandal konten yang tidak pantas, mereka menambahkan, “kekhawatiran saudara Kim pada model xAI tidak hanya beralasan kuat, tetapi juga terbukti sangat jitu.”
Gugatan tersebut juga menyebut SpaceX, perusahaan induk xAI, yang dijadwalkan akan melakukan penawaran umum perdana yang sangat dinanti pada hari Jumat. Unit AI tersebut menjadi sorotan utama dalam roadshow IPO, dengan Musk mempromosikan satelit AI, pusat data, dan laboratorium terdepan yang akan membantunya menciptakan konglomerat AI yang terintegrasi secara vertikal.
xAI dan SpaceX belum segera menanggapi permintaan komentar terkait gugatan Kim.
Sebelum bergabung dengan xAI, Kim, yang sebelumnya bekerja di Scale AI, mengklaim bahwa ia membahas keamanan AI dengan para eksekutif. Selama percakapan tersebut, Kim mengatakan ia “fokus pada risiko yang terkait dengan kemajuan pesat kemampuan AI, dan berusaha memahami pendekatan xAI terhadap keamanan dan mitigasi risiko.”
Namun, usai bergabung dengan xAI, Kim mengklaim bahwa atasannya, salah satu pendiri Jimmy Ba, mengacuhkan masalah keamanan tersebut. Menurut Kim, Ba tidak mengikuti arahan keamanan yang dikeluarkan oleh Musk.
“AI akan membunuh kita semua juga,” kata Ba. Kim mengatakan bahwa Ba yang memecatnya.
Ba, yang tidak langsung menanggapi permintaan komentar, keluar dari perusahaan pada bulan Februari setelah merger dengan SpaceX. Sejak saat itu, semua anggota pendiri xAI kecuali Musk telah hengkang, bersama dengan puluhan insinyur dan spesialis. Sejak itu, Musk telah mendatangkan staf dari unit Starlink milik SpaceX.
(bbn)
