Rachel Metz–Bloomberg News

Bloomberg, Startup kecerdasan buatan Character.AI akan melarang anak-anak berinteraksi dengan chatbot di platformnya setelah tekanan yang semakin besar dari para pembuat undang-undang dan serangkaian gugatan hukum yang menuduh karakter-karakter yang disebut-sebut oleh perusahaan tersebut bertanggung jawab atas kerugian yang dialami anak-anak.

Character.AI mengumumkan pada Rabu bahwa mulai 25 November, mereka akan menghentikan pengguna di bawah usia 18 tahun untuk melakukan percakapan terbuka dengan chatbot-nya, yang dapat dibuat dan diajak bicara oleh pengguna. Karakter-karakter tersebut meliputi representasi digital dari pahlawan video game populer hingga tiruan selebriti seperti miliarder Elon Musk.

Sebelum larangan berlaku, perusahaan mengatakan akan membatasi waktu yang dapat dihabiskan anak-anak untuk berinteraksi dengan chatbot-nya; ini akan dimulai dari dua jam per hari dan berkurang secara bertahap dalam beberapa minggu ke depan.

Layanan seperti Character.AI, yang memungkinkan pengguna berusia 13 tahun ke atas di AS, populer di kalangan remaja. Menurut survei oleh organisasi nirlaba Common Sense Media, lebih dari 70% remaja telah menggunakan AI sebagai teman berieraksi.