Berbeda dengan media sosial, layanan chatbot AI tidak akan langsung dikenakan pembatasan usia 16 tahun. Saat mengumumkan rancangan undang-undang tersebut, Miller menjelaskan bahwa dampak chatbot AI terhadap pengguna muda belum dipahami sedalam dampak media sosial.
“Chatbot belum diteliti sedalam dampak buruk yang ditimbulkan oleh platform media sosial. Chatbot juga tidak memiliki peran sosial yang sama,” kata Miller.
Meski tidak dibatasi oleh aturan usia yang sama, chatbot AI tetap menjadi bagian dari regulasi baru tersebut. Safe Social Media Act memasukkan ketentuan khusus, mengharuskan platform AI mengurangi risiko chatbot dalam konten berbahaya atau terlibat dalam perilaku yang dapat membahayakan pengguna.
Perusahaan AI juga diharapkan memiliki langkah-langkah darurat untuk menangani situasi krisis yang melibatkan pengguna.
Engadget melaporkan bahwa ketentuan lebih rinci mengenai kewajiban platform akan ditentukan oleh Digital Safety Commission of Canada, lembaga regulator baru yang dibentuk melalui undang-undang terpisah.
Komisi tersebut nantinya akan bertugas mengawasi pelaksanaan aturan, menegakkan regulasi, sekaligus memberikan pengecualian kepada platform yang dianggap memiliki perlindungan memadai bagi anak-anak.
Dengan mekanisme tersebut, tidak semua layanan media sosial otomatis dilarang untuk pengguna di bawah 16 tahun. Platform masih dapat memperoleh pengecualian apabila regulator menilai mereka memiliki perlindungan yang memadai untuk menjaga keamanan anak-anak saat menggunakan layanan tersebut.
(mef/wep)
