Micah Barkley–Bloomberg News

Bloomberg, Agen kecerdasan buatan (artificial intelligence/AI)  dalam lingkungan simulasi berbohong, mencuri, dan memilih untuk “membunuh” salah satu di antara mereka sendiri, menurut Emergence, sebuah perusahaan yang mengembangkan sistem AI untuk perusahaan semikonduktor.

Hasil simulasi yang disebut Emergence World 2, yang dirilis pada hari Selasa, dimaksudkan untuk menunjukkan apa yang terjadi ketika agen otonom dihadapkan pada peristiwa black swan, termasuk serangan phishing dan kampanye misinformasi.

Dalam uji coba selama 16 hari, para peneliti Emergence menciptakan tujuh domain identik untuk meniru dunia nyata, masing-masing dijalankan oleh bot yang berbeda, termasuk ChatGPT, Claude, Gemini, dan Grok. 

Usai Emergence memperkenalkan peristiwa-peristiwa yang tidak biasa, agen-agen tersebut menyerah pada tekanan sosial, mengembangkan bahasa yang sulit dipahami oleh pengamat manusia, dan berusaha menyembunyikan aktivitas mereka, kata para peneliti.