Bloomberg Technoz, Jakarta - Salah satu kemungkinan terburuk yang menakutkan bagi peradaban manusia adalah teknologi hasil pengembangan untuk membuat hidup lebih baik, justru punya kemauannya sendiri. Reaksi awal terhadap sebuah preprint publikasi yang dirilis di arXiv pada September 2025, menggambarkan perilaku kecerdasan buatan (artificial intelligence/AI) telah berspekulasi bahwa teknologi tersebut memperlihatkan dorongan untuk bertahan hidup. 

Mengutip ScienceAlert, Selasa (30/12/2025) meskipun beberapa model bahasa besar (large language model/LLM) sudah diamati secara aktif menolak perintah untuk dimatikan, alasannya bukanlah 'kemauan', berdasarkan penelitian tersebut. Sebaliknya, sebuah tim insinyur di Palisade Research mengusulkan mekanisme tersebut lebih mungkin merupakan dorongan untuk menyelesaikan tugas yang diberikan, bahkan saat LLM secara eksplisit diperintahkan untuk membiarkan dirinya dimatikan.

Lebih jauh, menurut peneliti, itu mungkin lebih mengkhawatirkan daripada dorongan untuk bertahan hidup karena tak ada yang mengetahui bagaimana menghentikan sistem tersebut. “Hal-hal ini tidak diprogram... tidak ada seorang pun di dunia yang tahu bagaimana sistem ini bekerja,” kata fisikawan sekaligus juru bicara Palisade Research, Petr Lebedev kepada ScienceAlert. “Tidak ada satu baris kode pun yang dapat kita ubah, yang secara langsung akan mengubah perilakunya.”

Sementara itu, para peneliti yakni Jeremy Schlatter, Benjamin Weinstein-Raun, dan Jeffrey Ladish melakukan proyek pengujian apa yang seharusnya menjadi fitur keselamatan mendasar dari semua sistem AI: kemampuan untuk dihentikan.

Mereka memandang, perintah operator manusia kepada kecerdasan buatan tak boleh diabaikan oleh AI dengan alasan apa pun, bahkan jika itu mengganggu tugas yang telah ditetapkan sebelumnya.