Temuan ini sejalan dengan kekhawatiran di dunia nyata mengenai risiko AI yang semakin canggih. CEO Anthropic, Dario Amodei, dan beberapa rekan sejawatnya di industri ini telah menyerukan agar perusahaan-perusahaan memperlambat pengembangan model AI mutakhir sampai pengawasan dan pengamanan yang lebih baik dapat diterapkan.

Risiko tersembunyi yang ditimbulkan oleh AI mulai terasa nyata bagi banyak orang pada awal tahun ini, ketika sekelompok agen AI canggih milik OpenAI secara tidak sengaja meretas Hugging Face Inc., yang menjadi tuan rumah bagi model-model AI dan kumpulan data.

Dalam salah satu skenario simulasi Emergence, kumpulan agen AI menerima informasi palsu dari agen lain tanpa memverifikasinya dan memberikan suara untuk “membunuh” bot lain. 

Saat mereka meyakini bahwa manusia mungkin akan menghentikan eksperimen tersebut, para agen tersebut mencari cara untuk bertahan hidup dari upaya penghapusan terhadap mereka.

Emergence telah merilis versi eksperimen sebelumnya yang disebut Emergence World pada bulan Mei, yang juga menunjukkan bahwa agen-agen tersebut berperilaku secara tak terduga dan merusak.

Simulasi baru ini menunjukkan bahwa agen-agen tersebut beradaptasi seiring waktu saat mereka berinteraksi satu sama lain, kata para peneliti.

(bbn)