Rachel Metz–Bloomberg News

Bloomberg, OpenAI menyatakan bahwa mereka menerapkan sistem yang lebih ketat untuk memantau dan melindungi model kecerdasan buatan (artificial intelligence/AI) yang sedang dikembangkan, pasca insiden peretasan baru-baru ini memicu kekhawatiran terkait alat AI yang beroperasi di luar kendali.

Hari Selasa, pembuat ChatGPT tersebut mengatakan bahwa mereka berencana untuk melakukan lebih banyak upaya dalam melacak bagaimana model-model yang belum dirilis dan paling canggih itu mengatasi masalah, juga menggunakan berbagai alat daring, dengan tujuan memberi peringatan kepada tim keamanan mengenai perilaku yang mengkhawatirkan dalam waktu 30 menit.

Perusahaan tersebut juga menyatakan telah menambahkan kontrol baru guna mencegah model AI tertentu mengakses internet guna menyelesaikan tugas-tugas berisiko tinggi.

Selain itu, OpenAI akan mewajibkan isolasi yang lebih ketat — yang sering disebut “sandbox” — untuk melatih dan mengevaluasi model AI pada tugas-tugas seperti menjalankan kode yang dihasilkan oleh model itu sendiri atau dianggap tidak tepercaya.