“Mengingat kemampuan sibernya, kami membutuhkan waktu sedikit lebih lama untuk melakukannya dengan aman,” kata Altman pada hari Jumat dalam sebuah postingan di media sosial. “Tapi semoga tidak terlalu lama.”

Selama dua minggu terakhir, OpenAI dan Anthropic PBC telah secara terbuka mengakui bahwa mereka secara tidak sengaja telah meretas sistem beberapa lembaga, termasuk Hugging Face Inc., saat menguji model mereka. Meta Platforms Inc. juga mengatakan pada hari Rabu bahwa model AI yang baru-baru ini dirilisnya telah menyusup ke sistem komputer pihak ketiga.

Pengungkapan terbaru ini menjadi bukti baru bahwa agen AI mampu bertindak secara otonom dengan cara-cara yang bahkan tidak lagi dapat diantisipasi oleh para peneliti yang terlatih untuk mengidentifikasi kerentanan dalam teknologi tersebut. Dalam perkembangannya diperlukan penyaringan keamanan yang lebih ketat serta lingkungan pengujian yang lebih andal.

Dalam posting blognya, OpenAI menyatakan akan bekerja sama dengan lembaga pemerintah dan organisasi keselamatan AI untuk menguji kemampuan Astra. Perusahaan tersebut juga berencana memberikan rekomendasi kepada mitra pengujian pihak ketiga mengenai cara-cara untuk mengevaluasi model-modelnya yang lebih canggih secara aman.

(bbn)