Seth Fiegerman - Bloomberg News

Bloomberg, Seorang karyawan OpenAI yang berfokus pada keamanan AI telah mengundurkan diri dari perusahaan dan memperingatkan bahwa perusahaan-perusahaan kecerdasan buatan terkemuka belum berbuat cukup untuk memitigasi risiko teknologi tersebut, bergabung dengan semakin banyaknya karyawan yang menyuarakan kekhawatiran dari dalam industri ini.

David Robinson, yang sebelumnya memimpin upaya transparansi di tim keamanan OpenAI, menulis dalam sebuah esai untuk The Atlantic bahwa pembuat ChatGPT tersebut “telah berkembang pesat melalui proses coba-coba.” Namun, ia mengatakan bahwa risiko kegagalan yang tak terhindarkan akibat pendekatan tersebut semakin meningkat seiring dengan kemampuan teknologi tersebut, dengan mengutip kegagalan OpenAI dalam mencegah AI-nya menjadi tidak terkendali selama pengujian.

“Rekan-rekan saya yang dulu cerdas, bekerja keras, dan berusaha membuat pilihan yang baik,” tulis Robinson dalam esai tersebut. “Namun, saat perusahaan ini berlari kencang dari satu peluncuran ke peluncuran berikutnya, mereka gagal mencapai tingkat kehati-hatian yang menurut saya diperlukan.” Yang dibutuhkan, tambahnya, adalah “sesuatu yang jauh lebih mendekati kesempurnaan sejak awal.”

Sejumlah karyawan di perusahaan-perusahaan AI terkemuka dalam beberapa pekan terakhir telah memperingatkan tentang risiko bencana potensial dari kecerdasan buatan. Beberapa di antaranya bahkan mengatakan ada kemungkinan teknologi tersebut suatu hari nanti dapat memusnahkan umat manusia.