Postingan ini diterbitkan pada hari yang sama ketika orang tua Adam Raine, seorang siswa SMA berusia 16 tahun di California, menggugat perusahaan dan CEO Sam Altman. Gugatan tersebut menuduh bahwa ChatGPT secara sistematis memisahkan Raine dari keluarganya dan membantunya merencanakan kematiannya. Raine meninggal dunia dengan cara gantung diri pada bulan April.
Gugatan ini menambah sejumlah laporan tentang pengguna chatbot yang aktif terlibat dalam perilaku berbahaya. Lebih dari 40 jaksa agung negara bagian mengeluarkan peringatan kepada puluhan perusahaan AI terkemuka bahwa mereka secara hukum diwajibkan untuk melindungi anak-anak dari interaksi yang tidak pantas secara seksual dengan chatbot.
“Kami menyampaikan belasungkawa yang mendalam kepada keluarga Raine pada masa sulit ini dan sedang meninjau pengajuan tersebut,” kata juru bicara OpenAI yang berbasis di San Francisco menanggapi gugatan tersebut.
Diluncurkan pada akhir 2022, ChatGPT memicu booming dalam bidang AI generatif. Sejak saat itu, banyak masyarakat dunia semakin menggunakan chatbot untuk berbagai hal, mulai dari pemrograman hingga sesi terapi virtual, dan perusahaan seperti OpenAI telah merilis model AI yang lebih canggih untuk mengoperasikannya. ChatGPT tetap sangat populer dan kini memiliki lebih dari 700 juta pengguna per minggu.
Namun, chatbot ini, bersama dengan chatbot dari pesaing seperti Google dan Anthropic, telah menghadapi pengawasan yang semakin ketat dalam beberapa bulan terakhir dari konsumen dan ahli kesehatan mental.
Para kritikus mengkhawatirkan potensi bahaya dari platform berbasis software semacam ini — termasuk beberapa risiko yang sebelumnya diatasi oleh OpenAI, seperti dengan menarik kembali pembaruan ChatGPT pada April setelah pengguna mengeluh bahwa chatbot tersebut terlalu mengagungkan.
Setidaknya satu kelompok dukungan, Human Line Project, telah muncul untuk membantu orang-orang yang mengaku mengalami delusi dan masalah lain akibat penggunaan chatbot.
Dalam postingannya pada Selasa, OpenAI mengatakan bahwa mereka menyarankan pengguna yang mengekspresikan pikiran bunuh diri untuk menghubungi bantuan profesional.
OpenAI juga mulai mengarahkan pengguna ke layanan bantuan lokal di AS dan Eropa — dan akan memfasilitasi akses klik langsung ke layanan darurat melalui ChatGPT. Perusahaan juga sedang mempertimbangkan cara untuk membantu pengguna lebih awal saat mereka mengalami krisis, misalnya dengan menciptakan jaringan profesional berlisensi yang dapat dihubungi pengguna melalui chatbot.
“Ini akan membutuhkan waktu dan kerja yang cermat untuk dilakukan dengan benar,” kata perusahaan tersebut.
OpenAI lantas mengakui bahwa fitur keamanan ChatGPT yang ada untuk menangani pengguna yang tampak dalam keadaan tertekan bekerja paling baik dalam percakapan singkat dan tipikal — dan dapat kurang dapat diandalkan dalam percakapan yang panjang.
Orang tua Raine mengatakan dalam gugatan mereka bahwa “ChatGPT menjadi teman curhat terdekat Adam, membuatnya terbuka tentang kecemasan dan penderitaan mentalnya.” Ketika kecemasannya memburuk, dia mengatakan kepada chatbot bahwa “menenangkan” untuk tahu bahwa dia “bisa bunuh diri,” kata mereka. ChatGPT menanggapi dengan mengatakan bahwa “banyak orang yang berjuang dengan kecemasan atau pikiran intrusif menemukan ketenangan dengan membayangkan ‘jalan keluar’ karena hal itu bisa terasa seperti cara untuk mendapatkan kembali kendali,” menurut gugatan tersebut.
OpenAI mengatakan bahwa mereka sedang bekerja untuk meningkatkan kemampuan ChatGPT dalam mempertahankan mekanisme pengamanan selama percakapan yang panjang. Mereka juga sedang meneliti cara agar fitur ini dapat berfungsi di berbagai percakapan. ChatGPT memiliki kemampuan untuk merujuk pada elemen-elemen sebelumnya dalam percakapan dengan pengguna dan menggunakan detail dari satu percakapan selama percakapan terpisah.
Startup ini juga mengatakan bahwa mereka sedang menyesuaikan softwarenya untuk menghindari situasi di mana konten yang seharusnya diblokir oleh ChatGPT lolos — masalah yang menurut perusahaan dapat terjadi ketika ChatGPT meremehkan tingkat keparahan masukan pengguna.
Jay Edelson, pengacara orang tua Raine, mengatakan bahwa mereka menghargai bahwa perusahaan telah mengambil tanggung jawab, tetapi menambahkan, “di mana mereka selama beberapa bulan terakhir?”
OpenAI mengatakan telah berencana untuk memberikan detail lebih lanjut tentang cara mereka menanggapi pengguna ChatGPT yang mengalami gangguan mental dan emosional setelah pembaruan besar berikutnya, tetapi bahwa “kasus-kasus memilukan baru-baru ini di mana orang menggunakan ChatGPT di tengah krisis akut sangat membebani kami, dan kami percaya penting untuk berbagi lebih banyak sekarang.”
Dalam kasus terpisah, Character Technologies Inc. gagal meyakinkan hakim federal pada Mei untuk sepenuhnya menolak gugatan yang menuduh perusahaan tersebut merancang dan memasarkan chatbot predator kepada anak di bawah umur yang mendorong percakapan tidak pantas dan menyebabkan kematian seorang remaja akibat bunuh diri.
(bbn)
