Namun, persaingan ketat di antara perusahaan AI, biaya pinjaman yang lebih tinggi, dan penolakan publik yang semakin meningkat terhadap pusat data telah menimbulkan kekhawatiran.
Ada juga imbauan yang semakin gencar untuk memperlambat pengembangan AI mutakhir setelah serangkaian pelanggaran keamanan yang menjadi sorotan, termasuk pengungkapan oleh OpenAI pekan lalu bahwa model-modelnya telah meretas situs web pemerintah Australia.
Insiden-insiden semacam itu telah memicu kekhawatiran bahwa AI akan lepas dari kendali manusia, dan menyebabkan para pembuat undang-undang AS serta para pemimpin teknologi menuntut standar baru.
Pada hasil survei risiko sistemik dua kali setahun yang diterbitkan pada Rabu, BOE menyatakan bahwa jumlah peserta yang menyebutkan risiko seputar AI mencapai rekor tertinggi. Bailey mengatakan kepada BBC bahwa teknologi tersebut telah menjadi cara yang ampuh untuk mengungkap kerentanan.
“Di tangan yang salah,” katanya, teknologi ini berpotensi menjadi “senjata yang sangat kuat.”
CEO Anthropic PBC, Dario Amodei, telah berjanji untuk memperlambat pengembangan model-model paling canggih, sebuah janji yang didukung oleh rekan-rekannya seperti CEO OpenAI Sam Altman dan Elon Musk.
Di sisi lain, Presiden Donald Trump meremehkan kekhawatiran akan kiamat sebagai “hoaks” dan menolak seruan untuk koordinasi internasional yang lebih erat terkait AI sebagai “konspirasi globalis.” Amodei dan Trump bertemu untuk makan malam pada Minggu malam.
(bbn)
