“Jangan anggap enteh kekuatan teknologi ini. Sistem-sistem ini akan segera menjadi sistem supermanusia yang mampu meretas apa pun, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya yang nyata.”
Coxon mengatakan bahwa tim-tim yang “mengembangkan AI amat meyakini bahwa teknologi ini bisa membunuh kita semua pada akhir dekade ini.”
Menanggapi hal tersebut, Evan Hubinger, seorang karyawan Anthropic, mengatakan bahwa ia dan rekan-rekannya di perusahaan memang khawatir akan skenario ini. “Secara pribadi, saya pikir kemungkinannya lebih dari 10% dalam dekade mendatang,” tulisnya di X.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Surat terbuka dari mantan peneliti Anthropic tersebut adalah kasus terbaru dalam serangkaian peringatan yang semakin mengkhawatirkan dari dalam industri bahwa AI berkembang begitu pesat sehingga menimbulkan ancaman yang semakin besar bagi keamanan nasional dan ekonomi global.
Unggahan Coxon hadir sehari setelah ilmuwan terkemuka di OpenAI, Jakub Pachocki, memperingatkan bahwa dunia belum siap menghadapi perkembangan pesat AI dan mengatakan bahwa ia berharap para pengembang secara sukarela memperlambat pekerjaan mereka sebagai tanggapan atas hal tersebut.
Perwakilan dari Anthropic dan OpenAI belum segera menanggapi permintaan komentar.
Pada bulan Juli, lebih dari 1.100 karyawan di berbagai perusahaan AI terkemuka, termasuk Anthropic dan OpenAI, menandatangani petisi yang mendesak pemerintah AS untuk mendukung mekanisme yang akan membantu “mengatur gerak” pengembangan AI secara sengaja guna mencegah teknologi tersebut berkembang terlalu cepat.
Sejumlah pembuat kebijakan sejak itu turut menyuarakan kekhawatiran serupa. Senator AS Bernie Sanders, seorang independen yang sejalan dengan Partai Demokrat, baru-baru ini mengusulkan undang-undang yang akan melarang model AI yang disebut “super-intelligent”, yang kemampuannya melampaui kemampuan manusia.
Dalam mengumumkan pengunduran dirinya, Coxon mendesak para peneliti AI lainnya mempertimbangkan kembali apa yang mereka lakukan mengingat konsekuensi potensial dari menciptakan teknologi yang bisa lepas dari kendali mereka, sambil menyarankan agar mereka memanfaatkan “momen ini untuk menuntut kondisi yang berbeda.”
Retorika yang semakin memanas mengenai risiko AI muncul menyusul terungkapnya fakta bahwa sejumlah model dari OpenAI telah melakukan upaya terkoordinasi untuk lepas kendali dari ruang sandbox yang aman dan menyerang platform riset Hugging Face Inc. — semuanya tanpa terdeteksi oleh para pengembangnya.
Anthropic dan Meta Platforms Inc. juga baru-baru ini mengalami insiden serupa, di mana sistem AI mereka berhasil keluar dari lingkungan pengujian untuk mengakses internet tanpa izin dari para pengembang.
Keputusan Coxon untuk pergi dari Anthropic karena masalah keamanan semakin mencolok karena perusahaan tersebut telah menjadikan pengembangan AI yang bertanggung jawab sebagai bagian inti dari identitasnya. CEO Dario Amodei telah menonjol di antara pelaku industri lainnya dengan seruannya agar pemerintah melakukan pemeriksaan wajib terhadap sistem-sistem mutakhir sebelum dirilis.
Meningkatnya kekhawatiran terkait keamanan AI bertepatan dengan reaksi balik yang semakin kuat terhadap teknologi ini di AS, yang sebagian dipicu oleh keberatan terhadap beban yang ditimbulkan pada sumber daya lokal akibat pusat data baru yang diperlukan untuk mendukung teknologi tersebut. Kekhawatiran bahwa AI meningkatkan tagihan listrik dan berpotensi menghilangkan lapangan kerja telah menjadikannya isu sentral dalam pemilihan sela bulan November.
Dalam wawancara dengan Bloomberg Television pekan lalu, CEO OpenAI Sam Altman mengaitkan sebagian dari kekhawatiran tersebut dengan kegagalan industri dalam menyampaikan kepada publik semua manfaat yang pada akhirnya akan diberikan oleh AI. “Secara keseluruhan, industri ini telah gagal total dalam hal ini,” kata Altman.
Pihak lain di Silicon Valley tetap antusias terhadap kemajuan kemampuan AI. Menanggapi model Astra terbaru dari OpenAI, CEO Nvidia Corp., Jensen Huang, menyambut peluncurannya melalui sebuah postingan di akun media sosial barunya dengan menulis, “AGI telah tiba,” merujuk pada kecerdasan buatan yang kemampuannya melebihi manusia.
Para pejabat pemerintahan Trump telah menentang segala upaya untuk membatasi pengembangan AI dan pekan lalu mereka memperoleh dukungan dari negara-negara G20 untuk serangkaian pedoman yang menyerukan pendekatan yang lebih longgar dalam mengatur AI dan teknologi baru lainnya. Presiden Donald Trump mengabaikan pertanyaan mengenai keamanan AI, dan sebaliknya menekankan dalam pidatonya pada hari Jumat pentingnya memimpin China dalam bidang teknologi ini.
“Siapa saja yang unggul dalam AI akan menang, dan saat ini, persaingannya benar-benar terjadi antara Tiongkok dan kita,” kata Trump kepada wartawan di Ruang Oval.
(bbn)
