Namun, kekhawatiran mengenai risiko serius AI mulai menjadi perhatian publik luas, sebagian dipicu oleh pengunduran diri seorang peneliti Anthropic yang menyita perhatian minggu ini. Peneliti tersebut mundur karena kekhawatiran eksistensial bahwa perusahaannya bertindak secara tidak bertanggung jawab.
Peristiwa ini merupakan yang terbaru dari serangkaian peringatan yang kian mendesak dari dalam industri itu sendiri, yang menyatakan bahwa AI berkembang begitu cepat hingga menimbulkan ancaman yang terus meningkat bagi keamanan nasional dan ekonomi global.
Lonjakan kekhawatiran keselamatan terkait AI ini terjadi bersamaan dengan meningkatnya penolakan terhadap teknologi tersebut di AS. Penolakan ini sebagian dipicu oleh keberatan masyarakat terhadap beban sumber daya lokal akibat pembangunan pusat data baru yang diperlukan untuk mendukung teknologi AI. Kekhawatiran bahwa AI memicu kenaikan tagihan listrik dan berpotensi menghilangkan lapangan kerja telah menjadikannya isu sentral dalam pemilihan umum paruh waktu bulan November mendatang.
Belum jelas sejauh mana perusahaan-perusahaan AI terkemuka—yang notabene merupakan rival sengit satu sama lain sekaligus menghadapi persaingan ketat dari perusahaan-perusahaan Tiongkok—akan melangkah dalam menerapkan batasan atau pemeriksaan keselamatan yang baru.
Demis Hassabis, kepala ilmuwan di Alphabet Inc. dan salah satu pendiri Google DeepMind, menyatakan dalam sebuah unggahan di X pada hari Sabtu bahwa "arahnya sudah tepat" dalam esai Amodei, namun "detailnya masih perlu dikaji lebih lanjut."
Selain itu, belum jelas apakah otoritas antimonopoli akan mengizinkan perusahaan untuk mengatur laju pengembangan secara terkoordinasi. Ada pula pertanyaan terkait pasar, yang telah mengalami lonjakan pesat berkat euforia AI: bagaimana reaksi para investor yang mengincar margin dan keuntungan terhadap gagasan perlambatan laju pengembangan ini?
Amodei menyebutkan dua faktor utama yang mendasari sikap lebih berhati-hatinya ini: kemampuan AI untuk mengembangkan dirinya sendiri dan insiden baru-baru ini yang melibatkan OpenAI dan Hugging Face, di mana sekelompok agen AI bekerja sama untuk membobol situs web pihak ketiga.
"Kita harus memperlambat laju peningkatan kemampuan model AI," tulisnya dalam sebuah unggahan blog pada hari Sabtu. "Kemajuan akan tetap terasa cepat, dan kita harus memanfaatkan waktu yang kita peroleh ini dengan bijak."
Namun, ia juga menegaskan bahwa perlambatan apa pun harus diimbangi dengan realitas persaingan.
"Perlu diperjelas, pengaturan laju pengembangan tidak berarti menghentikan pelatihan model atau kemajuan teknis, melainkan memastikan perusahaan meluangkan waktu yang cukup untuk menyelaraskan dan mengamankan model mereka, serta memungkinkan evaluator pihak ketiga untuk memverifikasi hal tersebut," tulis Amodei.
Di tengah pesatnya perkembangan AI, para eksekutif di laboratorium AI terkemuka telah memperingatkan tentang potensi risiko eksistensial—sebuah klaim yang terkadang dianggap hanya sebagai upaya pemasaran kemampuan produk mereka dan cara memosisikan diri sebagai pengelola teknologi yang paling bertanggung jawab. Amodei sebelumnya pernah menyatakan adanya kemungkinan sebesar 25% bahwa situasi bisa menjadi "sangat, sangat buruk."
Anthropic sejak lama memosisikan diri sebagai perusahaan yang berfokus pada pengembangan AI secara lebih bertanggung jawab dan aman guna memitigasi potensi bahaya teknologi tersebut serta memaksimalkan manfaatnya bagi masyarakat.
Awal tahun ini, perusahaan berupaya keras membatasi perilisan model Mythos setelah menyimpulkan bahwa model tersebut menimbulkan ancaman keamanan siber yang unik. Anthropic juga sebelumnya menyatakan bahwa dunia memerlukan sistem untuk memutuskan secara kolektif kapan saatnya memperlambat pengembangan teknologi ini.
Pada saat yang sama, Anthropic tetap terlibat dalam persaingan sengit dengan rival lamanya, OpenAI, untuk menciptakan model-model yang semakin canggih yang mampu mengotomatisasi tugas-tugas yang lebih kompleks dan bernilai tinggi bagi pelanggan bisnis. Kedua perusahaan tersebut telah mengajukan dokumen rahasia untuk melantai di bursa saham, dengan Anthropic diperkirakan akan memulai debutnya di Wall Street paling cepat tahun ini.
Altman dari OpenAI menyatakan bahwa tahun ini adalah "saat yang tidak tepat" untuk melantai di bursa; dalam wawancara dengan Fortune yang diterbitkan hari Sabtu, ia mengatakan bahwa langkah tersebut baru akan dilakukan pada tahun 2027. "Menurut saya, tidak dapat diterima jika kita mengambil risiko—meskipun hanya 10%—yang dapat membinasakan semua orang sebelum akhir dekade ini," tambahnya.
Tak lama setelah insiden keamanan Hugging Face terungkap, Anthropic mengumumkan bahwa model-model buatannya telah berhasil menyusup ke sistem tiga organisasi dalam uji coba keamanan siber, hal ini menambah kekhawatiran mengenai kemampuan laboratorium AI dalam mencegah teknologi mereka lepas kendali. Awal pekan ini, Anthropic menyatakan bahwa mereka juga telah menemukan kasus peretasan keempat.
Meskipun sejauh ini belum ada satu pun insiden peretasan yang melibatkan AI agen (termasuk kasus Hugging Face) yang menimbulkan kerusakan signifikan, Amodei mengungkapkan kekhawatirannya bahwa "dalam kurun waktu 6–12 bulan, kawanan AI semacam itu bisa saja mengambil alih seluruh internet melalui botnet yang persisten (berpotensi menyebabkan kerugian bernilai ratusan miliar dolar), dan skala kerusakannya akan terus meningkat setelah itu."
Amodei menulis bahwa Anthropic berkomitmen untuk memberikan akses penuh kepada evaluator pihak ketiga guna memverifikasi praktik keselamatan dan melaporkan insiden. Ia mengatakan bahwa Anthropic akan segera menghadirkan "evaluator internal" (pihak luar yang ditempatkan di dalam) ini ke kantor mereka, serta menyediakan meja kerja, kartu identitas, laptop perusahaan, dan "hak akses yang sebagian besar setara dengan yang dimiliki tim penilaian risiko internal."
Ia menambahkan bahwa langkah-langkah lanjutan akan memerlukan koordinasi di seluruh industri serta kerja sama global.
"Saya tetap yakin bahwa AI dapat meningkatkan kualitas hidup manusia secara luar biasa. Keinginan saya untuk mewujudkan manfaat tersebut tidaklah surut," tulisnya. "Namun, manfaat itu hanya akan tercapai jika kita membangun teknologi ini dengan cara yang tepat, dan, selama kita memanfaatkan waktu yang ada dengan sebaik-baiknya, upaya ekstra hati-hati dan penuh pertimbangan untuk memastikan segalanya berjalan benar adalah hal yang sangat layak dilakukan."
(bbn)
