Bloomberg, Perdebatan mengenai sejauh mana dan seberapa cepat kecerdasan buatan (artificial intelligence/AI) berkembang menimbulkan dilema serius bagi para eksekutif teknologi. 

Mereka sangat ingin menyampaikan kekhawatiran mengenai potensi bahaya teknologi ini dan telah mengusulkan berbagai solusi, termasuk memperlambat perkembangannya. Akan tetapi, setelah mengucurkan ratusan miliar dolar AS ke sektor AI, mereka berusaha menenangkan publik tanpa membuat investor dan pelanggan cemas.

Diskusi publik semakin memanas pekan lalu setelah peneliti Anthropic PBC, Jacob Coxon, mengundurkan diri dan memperingatkan bahwa para peneliti yang mengembangkan AI “dengan sungguh-sungguh meyakini bahwa teknologi ini dapat membunuh kita semua pada akhir dekade ini.” 

Kekhawatirannya disuarakan secara terbuka oleh staf Anthropic lainnya, termasuk kepala alignment science, Evan Hubinger, yang mengatakan bahwa ia meyakini ada kemungkinan lebih dari 10% bahwa teknologi tersebut dapat menyebabkan kepunahan manusia dalam dekade mendatang.

Presiden Donald Trump ikut angkat bicara, menolak perlunya batasan bagi AI dan menyerang CEO Anthropic, Dario Amodei, yang dalam sebuah postingan blog pada Sabtu lalu berpendapat bahwa kemampuan AI berkembang lebih cepat daripada kemampuan sistem pengaman untuk mengikutinya.