Pedoman baru ini merupakan salah satu daro rangkaian regulasi paling komprehensif yang bertujuan untuk mencegah potensi bahaya AI, meskipun beberapa perusahaan memperingatkan bahwa aturan yang kaku akan menghambat inovasi.
Pedoman ini mencerminkan kekhawatiran global yang semakin meluas terkait dampak psikologis dari AI percakapan.
Di AS, platform teknologi telah menjadi sorotan hukum yang intens terkait fitur-fitur serupa. OpenAI Inc. dan Character.AI yang didukung oleh Alphabet Inc. telah menghadapi serangkaian gugatan hukum yang mendapat sorotan luas, dengan tuduhan bahwa chatbot hiper-realistis mereka memicu ketergantungan emosional yang berbahaya dan, dalam kasus ekstrem, menyebabkan bunuh diri di kalangan pengguna yang rentan.
Diinisiasi oleh Cyberspace Administration of China, aturan baru Beijing melarang platform menghasilkan konten yang memicu emosi ekstrem pada anak di bawah umur atau memupuk ketergantungan emosional yang tidak sehat yang merusak hubungan di dunia nyata.
Kerangka kerja tersebut juga melarang penyedia layanan menggunakan data percakapan pengguna yang sensitif untuk melatih model AI di masa depan.
Platform chatbot China telah lama menawarkan kemampuan untuk menyesuaikan agen AI menggunakan beberapa petunjuk teks, dengan opsi paling populer termasuk pacar virtual, terapis digital tanpa lisensi, dan tiruan simulasi dari idola di kancah dunia pop.
Selain chatbot berbasis AI, pengawasan China terhadap “keintiman buatan” kini telah meluas ke perangkat keras fisik.
Dua asosiasi industri robotika China mendesak penerapan langkah-langkah perlindungan etika yang lebih ketat, tepat saat lonjakan komersial besar-besaran dalam bidang robot pendamping dan humanoid berukuran penuh mulai merambah ke rumah-rumah konsumen, demikian dilaporkan People’s Daily pada Sabtu.
(bbn)
