Dengan latar belakang tersebut, Chief Executive Officer Anthropic PBC, Dario Amodei, menyerukan perlunya memperlambat laju pengembangan model-model paling mutakhir, dan mengatakan perusahaannya akan melibatkan penilai pihak ketiga untuk membantu memeriksa dan mengamankan teknologi tersebut. Pihak lain di industri ini, termasuk Sam Altman dari OpenAI, telah secara terbuka mendukung rencana Amodei.
Dalam esainya, Robinson mengatakan perusahaan AI seharusnya dikelola layaknya pembangkit listrik tenaga nuklir, “dengan lapisan redundansi dan perencanaan yang cermat serta memakan waktu, sehingga kesalahan manusia yang sesekali dan tak terhindarkan tidak membuka pintu menuju bencana.”
Saat ini, katanya, “perusahaan AI tidak tahu caranya — tetapi orang lain tahu.”
Seorang juru bicara OpenAI mengatakan bahwa perusahaan tersebut sedang melakukan perubahan untuk memperkuat keamanan di lingkungan penelitian dan pengujiannya, melatih model AI untuk menyelesaikan tugas secara bertanggung jawab, memperluas kerja sama dengan penilai pihak ketiga, serta meningkatkan pemantauan real-time untuk mendeteksi perilaku yang mengkhawatirkan dari model-modelnya.
Perusahaan tersebut memastikan model-modelnya tidak menjadi lebih canggih daripada yang dapat dikelola OpenAI dengan aman, kata juru bicara tersebut melalui email pada hari Sabtu.
(bbn)
