Micah Barkley -- Bloomberg News

Bloomberg, Jika kecerdasan buatan atau artificial intelligence (AI) menjadi terlalu kuat untuk dikendalikan oleh penciptanya, mungkinkah kita cukup menekan tombol untuk mematikannya?

Pertanyaan tersebut menjadi semakin mendesak setelah munculnya serangkaian peringatan keras dalam beberapa pekan terakhir dari kalangan industri AI mengenai ancaman eksistensial yang ditimbulkan oleh model-model AI canggih. Para pembuat kebijakan di AS mulai mendorong kewajiban bagi perusahaan AI untuk memiliki kemampuan mematikan sistem secara menyeluruh.

Gubernur California Gavin Newsom menandatangani perintah eksekutif pada bulan September yang mewajibkan pejabat negara bagian untuk mengkaji aturan yang mengharuskan perusahaan AI menciptakan kill switch atau tombol pemutus darurat untuk model-model AI terdepan.

Masalahnya, menurut para ahli, menghentikan operasi model AI canggih mungkin tidak sesederhana sekadar menekan tombol.