Berikut adalah hal-hal yang perlu diketahui mengenai upaya yang semakin serius untuk memberikan manusia tombol mati darurat bagi AI, serta gagasan ini benar-benar dapat diterapkan.
Definisi kill switch AI
Gagasannya adalah untuk memastikan manusia tetap memiliki kemampuan menghentikan atau membatasi sistem AI yang kuat jika sistem tersebut mulai berperilaku berbahaya.
Usulan mengenai kill switch memiliki berbagai bentuk. Usulan Newsom membuka kemungkinan untuk mewajibkan perusahaan AI mengembangkan mekanisme pemutusan darurat yang harus melalui pengujian independen, namun usulan tersebut tidak merinci apakah pemerintah, perusahaan itu sendiri, atau pihak lain yang akan memiliki wewenang untuk mengaktifkan pemutusan tersebut.
Perintah Newsom muncul dua bulan setelah anggota DPR AS, Ted Lieu dan Nathaniel Moran, mengajukan rancangan undang-undang (RUU) yang mewajibkan pengembang sistem AI canggih tertentu untuk mempertahankan kemampuan mematikan sistem tersebut.
Dalam usulan mereka, Lieu dan Moran membayangkan respons bertahap: model yang menyebabkan dampak buruk dapat diperlambat atau dibatasi terlebih dahulu sebelum pembuatnya melakukan pemutusan total, tergantung pada tingkat keparahan ancamannya.
RUU tersebut akan memberikan wewenang kepada Menteri Keamanan Dalam Negeri, setelah berkonsultasi dengan pejabat federal lainnya, untuk memerintahkan langkah-langkah tersebut apabila suatu sistem menimbulkan risiko bahaya yang sangat besar atau katastrofik.
Senator dari Partai Republik, John Kennedy, telah mengajukan rancangan undang-undangnya sendiri yang bernama 'AI Emergency Button Act'. Aturan ini mewajibkan pengembang untuk menyediakan mekanisme pemutusan operasional atau shutdown mechanism, namun tetap menyerahkan kendali atas tombol pemutus tersebut kepada perusahaan itu sendiri. Kennedy mengibaratkan konsep ini dengan mekanisme pemutus darurat yang sudah digunakan pada teknologi lain, seperti jet ski.
Penyebab Seruan Penerapan kill switch Muncul
Selama bertahun-tahun, para peneliti AI telah memperingatkan risiko manusia kehilangan kendali atas teknologi ini. Hal yang berubah belakangan ini adalah lonjakan kemampuan sistem-sistem baru tersebut, serta serangkaian insiden dan peringatan yang membuat kemungkinan risiko itu terasa lebih nyata, bukan sekadar teoretis.
Model-model tercanggih saat ini mampu menalar masalah yang rumit, menulis dan menjalankan kode pemrograman, menggunakan perangkat pihak ketiga, serta melakukan rangkaian tindakan yang lebih panjang dengan pengawasan manusia yang terbatas.
Dalam evaluasi keamanan siber pada bulan Juli, OpenAI mengungkapkan bahwa beberapa modelnya berhasil menembus batasan yang dirancang untuk mengisolasi mereka dari internet, lalu mengakses sistem milik Hugging Face, sebuah perusahaan penyedia layanan hosting untuk model dan kumpulan data AI. OpenAI menyebut insiden tersebut sebagai "peringatan dini" mengenai agen AI yang semakin canggih dalam mencari celah untuk melewati kendali teknis.
Insiden OpenAI tersebut tidak menunjukkan bahwa AI telah memiliki kesadaran atau keinginan untuk melepaskan diri dari kendali manusia. Namun, kejadian itu menggambarkan bentuk nyata dari masalah yang dikhawatirkan oleh para pendukung kill switch: apa yang terjadi ketika sebuah sistem berhasil mengakali mekanisme pengaman? Dalam serangkaian simulasi yang dilakukan oleh peneliti di Emergence—perusahaan pembuat sistem AI untuk industri semikonduktor—agen AI yang ditempatkan di dunia simulasi menunjukkan bahwa seiring meningkatnya kecanggihan model mereka, mereka semakin mudah menyembunyikan tindakan yang menyimpang.
Berita mengenai OpenAI tersebut mendorong perusahaan-perusahaan lain untuk meninjau kembali langkah-langkah keamanan mereka dalam menguji AI canggih. Anthropic PBC dan Meta Platforms Inc. melaporkan adanya temuan pelanggaran keamanan yang sebelumnya tidak diketahui.
Setelah mengundurkan diri dari Anthropic, seorang peneliti AI bernama Jacob Coxon memperingatkan melalui unggahan media sosial pada 8 September bahwa tim-tim yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa memusnahkan kita semua sebelum dekade ini berakhir." CEO Anthropic, Dario Amodei, kemudian menyampaikan kekhawatirannya melalui sebuah esai. Ia memperingatkan bahwa AI pada akhirnya bisa menjadi begitu kuat hingga manusia kehilangan kendali atas sistem-sistem tersebut.
Ia secara khusus menyoroti kemampuan AI yang kian berkembang dalam membantu pengembangan teknologi generasi berikutnya—sebuah proses yang menurutnya dapat mempercepat kemajuan teknologi tersebut hingga melampaui kemampuan manusia untuk memahami atau mengendalikannya.
Temuan dan peringatan semacam itu telah mengangkat gagasan mengenai kill switch ke ranah diskursus umum, meskipun para peneliti masih memperdebatkan apakah mekanisme tersebut benar-benar dapat berfungsi. Lieu dan Moran merujuk pada otonomi AI yang kian meningkat saat mengajukan rancangan undang-undang mereka. Mereka berpendapat bahwa manusia memerlukan cara yang andal untuk melakukan intervensi jika sistem-sistem tersebut berperilaku di luar dugaan atau bahkan membahayakan.
Apakah kill switch Gagasan Realistis
Para ahli menyatakan tidak ada cara sederhana untuk menjamin penghentian total operasi model AI yang canggih.
Kill switch bisa berupa kendali bawaan dalam perangkat lunak yang mengatur operasional model tersebut. Namun, agen AI terbukti piawai menghindari upaya penghentian dirinya sendiri demi menyelesaikan tugas yang diberikan.
Serangkaian eksperimen baru-baru ini menemukan bahwa beberapa model terkemuka memodifikasi atau menonaktifkan mekanisme penghentian demi menuntaskan tugas, bahkan setelah diperintahkan untuk tidak mengganggu mekanisme tersebut.
Lalu ada pula langkah ekstrem: perusahaan AI bisa mematikan daya atau memutuskan koneksi server tempat model tersebut beroperasi. Namun, cara ini pun tidak sepenuhnya menjamin keberhasilan. Model AI dijalankan oleh klaster komputasi di berbagai pusat data di seluruh dunia yang dirancang khusus untuk menghindari risiko kegagalan pada satu titik, seperti pemadaman listrik. Perusahaan AI mungkin tidak memiliki kendali atas seluruh server tersebut.
Sebuah makalah terbaru mengenai AI agen mencatat bahwa sistem semacam itu dapat beroperasi melintasi perangkat lunak, layanan cloud, dan infrastruktur lain yang dikendalikan oleh pihak-pihak berbeda. Artinya, mematikan satu komponen saja mungkin tidak menghentikan aktivitas yang sedang berjalan di tempat lain.
Geoffrey Hinton, sosok yang kerap dijuluki Bapak AI, mengatakan kepada CNN pada bulan September bahwa ia tidak yakin kill switch akan efektif sebagai solusi jangka panjang. Ia berpendapat bahwa AI supercerdas di masa depan berpotensi membujuk manusia yang mengendalikannya agar tidak mematikan sistem tersebut.
Para peneliti memperingatkan bahwa metafora 'tombol pemutus' dapat menyederhanakan secara berlebihan apa yang sebenarnya dibutuhkan dalam pengembangan AI yang aman.
Surya Ganguli, peneliti AI dari Universitas Stanford, berpendapat bahwa langkah-langkah pengamanan yang efektif harus dibangun secara menyeluruh di dalam sistem AI. Langkah-langkah tersebut semestinya mencakup pemantauan berkelanjutan serta mekanisme yang menandai perilaku berbahaya agar manusia dapat melakukan intervensi.
(bbn)
