Setelah keluarga Adam Raine menggugat OpenAI dan CEO-nya, Sam Altman, pada Agustus atas kematian siswa SMA California tersebut, perusahaan mengumumkan serangkaian perubahan pada ChatGPT, termasuk kontrol orang tua.
Gugatan, yang mengikuti serangkaian laporan lain tentang pengguna chatbot yang aktif terlibat dalam perilaku berbahaya, menuduh bahwa ChatGPT secara sistematis memisahkan Raine dari keluarganya dan membantunya merencanakan kematiannya. Ia meninggal dengan cara gantung diri pada April.
“Kami telah merasakan urgensi ini selama beberapa waktu,” kata Lauren Jonas, kepala kesejahteraan remaja di OpenAI, menambahkan bahwa perusahaan sedang bekerja secepat mungkin untuk mengembangkan alat seperti kontrol orang tua.
Untuk mengaktifkan opsi kontrol pemakaian pada anak-anak dan remaja ini, pengguna ChatGPT dewasa mengirim permintaan melalui email kepada anak mereka.
Jika undangan diterima, orang dewasa dapat mengambil tindakan seperti memutuskan apakah remaja dapat mengakses mode suara ChatGPT atau kemampuannya untuk menghasilkan gambar, atau memilih apakah chatbot dapat merujuk pada percakapan sebelumnya. Serangkaian tool ini juga memungkinkan orang tua untuk menentukan apakah mereka ingin anak mereka menggunakan versi terbatas dari chatbot yang dirancang untuk menampilkan lebih sedikit konten terkait topik seperti diet, seks, dan ujaran kebencian.
Jika ChatGPT mendeteksi seorang remaja mungkin mengalami gangguan mental, seorang peninjau manusia akan menentukan apakah akan mengirimkan peringatan darurat kepada orang tua. Peringatan ini dapat diatur untuk dikirim melalui email, pesan teks, dan notifikasi dari aplikasi ChatGPT.
Jonas mengatakan peringatan ini dimaksudkan untuk memberi orang tua cukup informasi tentang situasi yang berpotensi berbahaya agar dapat berbicara dengan remaja mereka sambil tetap menghormati privasi dan otonomi anak. OpenAI tidak akan membagikan percakapan ChatGPT remaja dengan orang tua mereka, katanya.
Selain kontrol orang tua, OpenAI yang berbasis di San Francisco mengatakan sedang mengembangkan perangkat lunak untuk memprediksi usia pengguna, yang akan digunakan perusahaan untuk mengarahkan cara ChatGPT merespons mereka yang berusia di bawah 18 tahun.
(bbn)
