Michael Shepard—Bloomberg News

Bloomberg, Seorang peneliti kecerdasan buatan (artificial intelligence/AI) telah mengundurkan diri dari Anthropic PBC dan menyerukan kepada rekan-rekan kerjanya untuk mempertimbangkan kembali pekerjaan mereka.

Sang peneliti beralasan terdapat kekhawatiran bahwa perusahaan tersebut dan pesaing utamanya, OpenAI, bertindak tidak bertanggung jawab dalam upaya jor-joran mereka mengembangkan teknologi yang menimbulkan risiko eksistensial bagi umat manusia.

Jacob Coxon, yang mengaku telah bekerja di Anthropic dan OpenAI selama tiga tahun terakhir, memperingatkan dalam sebuah unggahan di media sosial pada Selasa malam bahwa kedua perusahaan tersebut terus mengembangkan model AI “yang dapat meningkatkan diri sendiri” yang berpotensi menjadi terlalu kuat untuk dikendalikan oleh manusia.

“Mereka berlomba-lomba menuju kecerdasan super yang dapat memperbaiki diri sendiri dan mempertaruhkan nyawa kita,” tulis Coxon dalam serangkaian pesan di X.