Sang ilmuwan menyerukan kepada rekan-rekannya untuk mempertimbangkan kembali pekerjaan mereka, dengan menyatakan bahwa perusahaan tersebut dan pesaing utamanya, OpenAI, bertindak tidak bertanggung jawab dalam menggunakan teknologi yang menimbulkan ancaman eksistensial bagi manusia.
Jacob Coxon, yang mengaku telah bekerja di Anthropic dan OpenAI selama tiga tahun terakhir, mengunggah di media sosial bahwa kedua perusahaan tersebut sedang mendorong model AI “yang dapat meningkatkan diri sendiri” yang berpotensi menjadi liar.
“Mereka berlomba-lomba menuju kecerdasan super yang dapat meningkatkan diri sendiri dan mempertaruhkan nyawa kita,” tulis Coxon di X.
“Jangan meremehkan kekuatan teknologi ini. Sistem-sistem ini akan segera menjadi sistem supermanusia yang dapat meretas apa saja, merevolusi bidang apapun dalam semalam, serta memperoleh kekuasaan dan sumber daya yang nyata.”
Coxon mengatakan bahwa tim-tim yang “mengembangkan AI sungguh-sungguh meyakini bahwa AI bisa membunuh kita semua pada akhir dekade ini.”
Menanggapi hal itu, Evan Hubinger, seorang karyawan Anthropic, mengatakan ia sependapat. “Secara pribadi, saya pikir kemungkinannya lebih dari 10% dalam dekade mendatang,” tulisnya di X.
Beberapa eksekutif di bidang AI telah mengakui kekhawatiran tersebut. CEO OpenAI, Sam Altman, mengatakan kepada para karyawannya pekan ini bahwa perusahaan sedang mempertimbangkan untuk memperlambat pengembangan model AI mutakhir dan berharap perusahaan lain akan melakukan hal yang sama, menurut sumber yang mengetahui masalah ini yang meminta anonimitas untuk membahas pernyataan pribadi tersebut.
(bbn)
