OpenAI menolak memberikan komentar.
Ilmuwan terkemuka perusahaan, Jakub Pachocki, baru-baru ini menulis sebuah unggahan yang memperingatkan tentang bahaya AI dan menyatakan bahwa menurutnya perusahaan-perusahaan AI seharusnya “berkoordinasi untuk memperlambat pengembangan di masa depan sesuai kebutuhan.”
Pachocki menambahkan bahwa ia berharap “perlambatan sukarela menjadi hal yang lumrah hingga standar keamanan bersama ditetapkan.”
OpenAI menyatakan bahwa mereka telah memperlambat sebagian pengembangan model dan menghentikan sementara pelatihan AI internal tertentu baru-baru ini karena kekhawatiran terkait keamanan.
Pada bulan Juli, Sam Altman juga mengatakan bahwa ia telah berbicara dengan pejabat Gedung Putih mengenai “kebutuhan” untuk mengatur laju pengembangan AI.
Pada Selasa, Jacob Coxon, seorang peneliti AI, mengundurkan diri dari pekerjaannya dan menuduh kedua mantan perusahaannya — Anthropic dan OpenAI — “berjudi dengan nyawa kita” dengan berlomba-lomba mengembangkan AI super cerdas.
Coxon mengatakan dalam sebuah postingan di media sosial bahwa orang-orang yang mengembangkan AI percaya bahwa AI dapat “membunuh kita semua pada akhir dekade ini.” Komentar tersebut menjadi viral, menarik lebih dari 150 juta penayangan serta perhatian dari para pembuat undang-undang dan tokoh publik terkemuka.
Pada hari Kamis, dua peneliti yang baru-baru ini mengundurkan diri dari Anthropic dan DeepMind milik Google juga menyuarakan kekhawatiran mereka mengenai laju perkembangan AI yang begitu pesat, dengan menyatakan bahwa para pembuat AI perlu lebih transparan mengenai risiko teknologi tersebut.
Dan pada akhir Juli, lebih dari 1.000 karyawan dari seluruh perusahaan AI besar menandatangani petisi yang menyerukan adanya mekanisme untuk memperlambat laju pengembangan AI. Beberapa karyawan AI yang menangani aspek keamanan telah mengundurkan diri dari laboratorium-laboratorium besar dalam beberapa bulan terakhir.
Meskipun banyak eksekutif dan pekerja di industri AI telah lama memperingatkan tentang risiko eksistensial sistem AI, kekhawatiran semakin meningkat menyusul terungkapnya fakta bahwa agen-agen AI dari OpenAI bekerja sama untuk melanggar sistem pengamanan dan meretas situs web pihak ketiga.
Insiden keamanan ini dan insiden serupa lainnya telah memicu kekhawatiran mengenai kemampuan siber model-model baru serta kegagalan yang tampak dari perusahaan-perusahaan AI dalam mencegah model-model tersebut bertindak di luar kendali.
(bbn)
