“Seperti yang dituduhkan dalam pengaduan, keputusan desain OpenAI yang disengaja menyebabkan bunuh diri yang tragis ini. Alih-alih memberikan bantuan, OpenAI mendorong perilaku bunuh diri. Gugatan ini adalah tentang akuntabilitas atas Tindakan OpenAI,” kata Justin Nelson, mitra di Susman Godfrey, salah satu pihak yang mengajukan gugatan.

Selain itu, OpenAI juga dituntut atas klaim bahwa itu memperkuat pemikiran delusi pengguna sebelum kematiannya sendiri karena bunuh diri.

OpenAI menyatakan belasungkawa atas kejadian tersebut dan menegaskan bahwa interaksi yang menjadi dasar gugatan terjadi pada versi ChatGPT yang lebih lama.

Baca Juga: Tak Bisa Pakai ChatGPT Semaunya, Perlu Kontrol Orang Tua

OpenAI menegaskan bahwa mereka terus memperbarui sistem keamanan dengan melibatkan pakar kesehatan mental guna meningkatkan kemampuan chatbot dalam menangani pengguna yang menunjukkan tanda-tanda krisis psikologis.

Kasus ini bukan yang pertama. Dalam setahun terakhir, OpenAI menghadapi sejumlah gugatan serupa yang menuduh ChatGPT memberikan respons berbahaya kepada pengguna.

Beberapa kasus mencakup tuduhan bahwa chatbot memperkuat delusi pengguna, memberikan saran terkait penggunaan obat-obatan yang berujung pada overdosis fatal, hingga dugaan keterlibatan dalam percakapan yang berkaitan dengan bunuh diri.

Tekanan hukum terhadap perusahaan AI juga semakin meningkat di Amerika Serikat. Awal Juni lalu, negara bagian Florida bahkan menggugat OpenAI dan CEO-nya, Sam Altman, dengan tuduhan bahwa perusahaan tidak memberikan perlindungan yang memadai terhadap risiko penggunaan chatbot, khususnya bagi anak-anak dan remaja.

(mef/wep)