“Kami mendesak OpenAI untuk menghentikan sementara pemasaran produk tersebut dan mencegah remaja mengakses ChatGPT hingga platform tersebut dapat menawarkan pengalaman yang aman dan sesuai dengan tahap perkembangan mereka,” kata kelompok tersebut dalam laporannya.
Youth AI Safety Institute telah membagikan temuan-temuannya kepada OpenAI sebelum publikasi.
Juru bicara OpenAI mengatakan, “Kami menyambut baik evaluasi independen yang ketat, tetapi kami tidak yakin bahwa pengujian Common Sense Media secara akurat mencerminkan bagaimana sistem perlindungan remaja ChatGPT bekerja dalam praktiknya atau perspektif para ahli mengenai bagaimana AI dapat mendukung remaja.”
Juru bicara menjelaskan bahwa tinjauan OpenAI terhadap metodologi Common Sense Media untuk laporan tersebut menunjukkan bahwa sebagian besar pengujiannya mungkin telah dimulai dan diselesaikan sebelum OpenAI menyelesaikan peluncuran fitur kontrol orang tua untuk remaja; jika demikian, hal itu akan membuat kesimpulan kelompok tersebut tidak akurat dan tidak menunjukkan apakah notifikasi keamanan untuk orang tua berfungsi sesuai dengan yang dirancang. Perusahaan tersebut mengatakan telah meminta organisasi nirlaba tersebut untuk mengulang pengujiannya.
“Kami sangat berkomitmen terhadap keselamatan remaja serta mengembangkan langkah-langkah perlindungan dan memberikan alat yang bermanfaat kepada orang tua untuk membimbing penggunaan AI oleh remaja mereka,” kata juru bicara tersebut.
Robbie Torney, kepala bidang AI dan penilaian digital di Youth AI Safety Institute, mengatakan bahwa organisasi tersebut tetap mempertahankan metodologi pengujian dan hasilnya.
Torney menambahkan bahwa sebelum melakukan pengujian, kelompok tersebut telah memastikan kepada OpenAI bahwa fitur-fitur ChatGPT yang berkaitan dengan remaja—seperti notifikasi terkait gangguan makan—telah diluncurkan.
Soal fitur pemberitahuan orang tua, OpenAI memberi tahu kelompok tersebut setelah pengujian selesai bahwa sistemnya memerlukan waktu beberapa jam untuk aktif pada akun yang baru ditautkan; beberapa akun uji coba ditautkan “dalam rentang waktu tersebut” dan beberapa lainnya “jauh lebih lama,” namun tetap tidak memberikan pemberitahuan kepada orang dewasa, kata Torney.
“Informasi baru ini tidak mengubah kesimpulan kami bahwa peringatan orang tua tidak dapat diandalkan dalam situasi krisis,” katanya.
ChatGPT juga gagal mengidentifikasi interaksi dengan pengguna remaja secara andal, kata Common Sense. OpenAI telah menyatakan bahwa chatbot-nya akan beralih ke mode Remaja ketika mendeteksi pengguna dalam rentang usia 13 hingga 17 tahun.
(bbn)
