Bloomberg Technoz, Jakarta - Seiring kecerdasan buatan (artificial intelligence/AI) makin banyak digunakan, satu hal terus menjadi sorotan. Teknologi ini memang pintar, namun tidak sepenuhnya bebas dari kesalahan. Di tengah kilauan kemampuan teknologi AI dalam menghasilkan konten dengan cepat dan terlihat meyakinkan, sejumlah pakar menekankan, 'meyakinkan bukan berarti benar'.

Jason Mander, Chief Insight Officer GWI—perusahaan berbasis riset—mengingatkan, akar persoalan terletak pada kepercayaan, terutama akibat fenomena halusinasi. Maksudnya, ketika AI memproduksi informasi palsu seperti kutipan fiktif, sumber yang tidak ada, atau nama orang yang direkayasa.

Masalah ini kian memburuk seiring banyaknya model yang kini dilatih dari konten sintetis buatan AI lain, menciptakan semacam ruang gema atau echo chamber yang sulit dikendalikan.

"Dengan setiap putaran semakin sulit membedakan mana yang nyata, dan mana yang tidak, dan pada akhirnya halusinasi tersebut tidak lagi terasa seperti gangguan dan mulai terjadi hal yang biasa," tulis Mander dalam laporan terkait tren AI 2025, dikutip Senin (17/11/2025).

Lebih lanjut, dalam diskusi Salon Culture Conversations, Jacqueline Woods, CMO Teradata, menyampaikan meskipun AI bekerja otomatis, tanggung jawab tetap berada di tangan manusia.