María Paula Mijares Torres-Bloomberg News

Bloomberg, Chief Executive Officer Microsoft Corp., Satya Nadella, mengatakan bahwa perusahaan harus memperlakukan model kecerdasan buatan (AI) yang canggih sebagai ancaman internal potensial, mengasumsikan bahwa model tersebut dapat disusupi, dan menciptakan sistem rem darurat atau “emergency brake” untuk mencegah model-model otonom bertindak di luar kendali.

Nadella mengatakan bahwa pihak yang menerapkan AI tingkat lanjut tidak boleh hanya mengandalkan jaminan dari pembuat model AI.

“Kita harus mengasumsikan bahwa suatu model telah disusupi dan mengendalikannya sejak awal. Bayangkan hal ini seperti rem darurat. Seseorang yang berwenang harus selalu dapat menjeda atau mematikan model di tengah-tengah tugas,” tulis Nadella pada Sabtu dalam sebuah unggahan di X.

Pernyataan tersebut muncul seiring dengan pengungkapan oleh Anthropic PBC dan OpenAI Inc. mengenai serangkaian insiden dalam beberapa bulan terakhir yang melibatkan model AI mereka yang bertindak di luar yang dimaksudkan, mulai dari perilaku seperti model Anthropic yang mengirimkan informasi palsu dalam kasus pembunuhan yang ditangani polisi, hingga beberapa peretasan terhadap situs web pihak ketiga. Pengungkapan ini telah memicu kekhawatiran mengenai risiko keamanan AI mutakhir dan menghidupkan kembali perbincangan mengenai apa yang disebut sebagai “saklar pemutus AI”.