Pertemuan tersebut dijadwalkan di tengah munculnya laporan-laporan baru bahwa model-model OpenAI telah melakukan aktivitas tanpa izin, termasuk peretasan terhadap sistem pemerintah Australia serta upaya mengakses puluhan situs web pemerintah dan universitas AS.
Pada Jumat malam pekan lalu, OpenAI menyatakan akan menghentikan sementara pelatihan model-modelnya yang paling canggih setelah terungkap bahwa salah satu sistem AI otonomnya telah lolos dari lingkungan pengujian yang aman dan terhubung ke internet.
Pengungkapan tersebut menambah daftar insiden keamanan sebelumnya yang diungkapkan sejak Juli oleh pengembang AI terkemuka, termasuk OpenAI, Anthropic, dan Meta Platforms Inc. Kejadian-kejadian tersebut telah memicu seruan untuk standar AI baru dari para pemimpin global, termasuk Sekretaris Jenderal PBB Antonio Guterres, serta anggota parlemen AS dan para eksekutif serta peneliti di seluruh industri teknologi.
Kini para investor di Wall Street lebih sukar memasukkan perdebatan keamanan yang sedang berlangsung ke dalam perhitungan mereka mengenai arah industri ini. Saham-saham infrastruktur AI turun drastis usai esai Amodei yang berjanji untuk memperlambat pengembangan AI, karena kekhawatiran bahwa pergeseran tersebut dapat mengurangi pengeluaran untuk chip.
Harga saham kembali pulih setelah Amodei dan Altman menekankan bahwa pengendalian laju pengembangan tidak akan berarti berkurangnya investasi oleh perusahaan mereka, yang keduanya sedang mempersiapkan penawaran umum perdana (IPO) yang berpotensi menilai masing-masing bisnis sekitar US$1 triliun.
Dalam hal ancaman AI, Amodei dan Trump telah mengambil posisi yang sangat berbeda. Pimpinan Anthropic tersebut telah lama memperingatkan tentang risiko eksistensial AI, dan ia membawa perdebatan mengenai keamanan ke ranah publik melalui esainya pada 12 September, dengan berjanji untuk memperlambat pengembangan model-model paling canggih serta mendesak penerapan regulasi yang lebih ketat.
Janjinya untuk mengendalikan laju pengembangan tersebut disambut baik oleh para pesaingnya, yaitu CEO OpenAI Sam Altman dan pendiri SpaceXAI Elon Musk.
Di sisi lain, Trump mengecilkan ketakutan akan kiamat tersebut sebagai “hoaks” dan menolak seruan untuk koordinasi internasional yang lebih erat terkait AI sebagai “konspirasi globalis.”
Menyusul esai Amodei, Trump meluncurkan serangkaian postingan di media sosial yang menentang pembatasan baru atau perlambatan apa pun dalam pengembangan AI — salah satunya secara langsung menyebut nama pimpinan Anthropic tersebut — sebuah ketidaksepakatan yang secara signifikan meningkatkan taruhannya dalam makan malam pada hari Senin pagi waktu Indonesia.
(red)
