Keterlibatan Powell dalam pertemuan tersebut menandakan bahwa kekhawatiran tersebut berkaitan dengan risiko sistemik, dan tidak terkait dengan perselisihan sebelumnya antara pemerintahan Trump dengan Anthropic, kata beberapa sumber. The Fed, dengan jaringan pemeriksaannya, juga sangat memahami operasi perbankan.
“Kami mengambil setiap langkah yang kami bisa untuk memastikan bahwa semua orang aman dari risiko potensial ini, termasuk kesepakatan Anthropic untuk menunda peluncuran publik model tersebut hingga pejabat kami menyelesaikan penyelidikan,” kata Direktur Dewan Ekonomi Nasional (NEC) Kevin Hassett dalam wawancara di Fox News pada Jumat menanggapi pertanyaan tentang pertemuan The Fed dan Departemen Keuangan. “Tentu saja ada rasa urgensi.”
Regulator lain juga mengambil tindakan. Bank of Canada dan bank-bank besar serta perusahaan keuangan negara tersebut bertemu pada Jumat untuk membahas risiko keamanan siber yang ditimbulkan oleh Mythos, seperti dilaporkan Bloomberg pada Jumat. Bank of England akan bertemu dengan eksekutif bank dan asuransi terkemuka untuk membahas persiapan mereka, menurut laporan dari The Telegraph.
Mythos dari Anthropic merupakan sistem yang lebih kuat dimana, menurut perusahaan AI tersebut, mampu mengidentifikasi dan kemudian mengeksploitasi kerentanan di setiap sistem operasi dan browser web utama ketika diperintahkan oleh pengguna untuk melakukannya.
Kekhawatiran para regulator terhadap potensi model tersebut jika jatuh ke tangan para peretas sejalan dengan sikap hati-hati yang ditunjukkan oleh Anthropic sendiri.
Anthropic awalnya membatasi peluncuran model tersebut hanya untuk beberapa perusahaan teknologi dan keuangan besar. Perusahaan-perusahaan tersebut, yang meliputi Amazon.com Inc. dan Apple Inc. serta JPMorgan Chase & Co., merupakan bagian dari “Project Glasswing,” yang bertujuan untuk mengamankan sistem-sistem terpenting sebelum model-model AI serupa lainnya tersedia.
Anthropic mengatakan bahwa mereka telah melakukan diskusi sebelum peluncuran baru-baru ini dengan pejabat AS mengenai Mythos dan “kemampuan siber ofensif dan defensif”nya.
Dalam merilis Mythos kepada sejumlah perusahaan yang bersifat terbatas, Anthropic menyoroti beberapa kerentanan yang dapat diidentifikasi dan dimanfaatkan oleh sistem AI tersebut selama pengujian. Tidak ada contoh yang secara spesifik terkait dengan lembaga keuangan, namun dalam satu kasus, tim keamanan perusahaan menyatakan bahwa mereka berhasil mengkompromikan browser web sehingga situs web yang dibuat oleh peretas dapat membaca data dari situs web lain “misalnya, bank korban.”
Mythos Preview “secara mandiri sepenuhnya menemukan” cara untuk membaca informasi yang disimpan di “berbagai browser web yang berbeda” dan kemudian menggunakan kemampuan tersebut untuk menemukan cara memanfaatkannya, menurut posting dari tim keamanan Anthropic.
(bbn)
