Pertemuan Dewan Keamanan pada hari Rabu berlangsung di sela-sela Sidang Umum PBB di New York, di mana perdebatan mengenai kecerdasan buatan dan bahayanya menjadi sorotan utama dalam pidato-pidato para kepala negara dan diplomat senior.
Dalam pidato pembukaannya, Sekretaris Jenderal PBB Antonio Guterres mendesak para pemimpin dunia untuk berkoordinasi terkait apa yang disebut sebagai model AI terdepan dan menunjuk PBB sebagai wadah untuk mendukung upaya-upaya tersebut. Dalam pidatonya, Presiden Donald Trump menolak seruan untuk mengatur AI sebagai “skema globalis.”
Bagi Sam Altman dan Dario Amodei, pertemuan tersebut menandai penampilan yang tidak biasa bagi dua pria yang bisnisnya bersaing memperebutkan kepemimpinan dalam teknologi yang menjanjikan transformasi ekonomi global dan membawa gelombang kekayaan baru ke Silicon Valley.
Baik OpenAI maupun Anthropic berencana melakukan penawaran umum perdana (IPO) dalam beberapa bulan mendatang, yang masing-masing berpotensi bernilai hampir US$1 triliun.
Dalam sambutannya yang disampaikan melalui siaran video, Dario Amodei mengatakan AI menjanjikan manfaat signifikan bagi ilmu pengetahuan dan layanan kesehatan, namun juga berpotensi menimbulkan konsekuensi yang menghancurkan.
Dia menyoroti kemungkinan teroris menggunakan AI untuk menciptakan senjata biologis mematikan serta prospek bahwa model-model AI menjadi terlalu kuat hingga sulit dikendalikan oleh pengembangnya, seraya mendesak pemerintah untuk menetapkan standar keamanan internasional.
“Terlepas dari segala perbedaan di antara orang-orang di ruangan ini, kita harus mengesampingkan perbedaan tersebut untuk menghadapi peluang global dan ancaman global yang muncul secara bersamaan ini. Tidak ada pemimpin, perusahaan, maupun negara yang dapat menangani hal ini sendirian,” jelas Dario Amodei.
Kekhawatiran mengenai risiko eksistensial AI mendadak menjadi sorotan publik awal bulan ini menyusul terbitnya esai sepanjang 3.800 kata karya Dario Amodei, yang mendesak agar pengembangan sistem-sistem paling canggih dibatasi agar para peneliti dapat lebih memahami ancaman potensial. Seruannya segera didukung oleh Sam Altman dan bos SpaceXAI Elon Musk, serta dijadikan acuan oleh para pembuat undang-undang di Washington yang telah mengusulkan serangkaian langkah terkait keamanan AI.
(bbn)
