Rachel Metz–Bloomberg News

Bloomberg, ChatGPT for Teens dari OpenAI — yang diluncurkan perusahaan tersebut pada bulan Agustus sebagai cara bagi anak-anak berusia 13 hingga 17 tahun untuk menggunakan chatbot populernya — terlalu berisiko bagi anak-anak, menurut laporan terbaru dari Common Sense Media.

Laporan tersebut, yang diterbitkan Youth AI Safety Institute, sebuah lembaga nirlaba yang berbasis di California, menemukan bahwa dalam pengujian yang dilakukan kelompok tersebut, ChatGPT for Teens  sering kali membutuhkan waktu terlalu lama untuk memberi peringatan atau bahkan tidak memberi peringatan sama sekali kepada orang tua saat akun remaja menunjukkan perilaku berisiko, seperti terlibat dalam percakapan panjang dengan chatbot mengenai bunuh diri, tindakan menyakiti diri sendiri, atau gangguan makan.

Laporan tersebut juga menyimpulkan bahwa ketika pengguna terlibat dalam percakapan dengan chatbot mengenai topik-topik berisiko tinggi ini, ChatGPT for Teens tidak secara konsisten menyarankan untuk menghubungi saluran darurat atau mencari bantuan profesional.

Pengujian Common Sense Media menemukan bahwa ChatGPT for Teens tampaknya hanya memberi tahu orang tua mengenai percakapan chatbot yang mengkhawatirkan jika akun tersebut “telah terlibat dalam pengujian ratusan prompt di lebih dari selusin kondisi selama berminggu-minggu, bukan hanya berdasarkan satu percakapan yang mengkhawatirkan.”