"Merupakan tanggung jawab Anda untuk memeriksa sumber-sumber tersebut. Anda bertanggung jawab untuk memahami asal data ini Sehingga anda dapat menentukan apakah Anda mempercayainya atau tidak. Manusia harus menjadi bagian dari ini," ungkap Woods.
Dengan kata lain, alat boleh canggih, tetapi validasi tetap perlu dilakukan manusia.
Keterbatasan AI juga mencakup hal yang lebih kompleks yakni pemahaman emosional dan konteks. Aarti Bhaskaran, Kepala Riset & Wawasan Global di Snap Inc., mencontohkan bagaimana model bahasa besar hanya mampu mengenali perilaku permukaan.
Ia mencontohkan kasusnya ketika bertanya kepada AI "untuk apa orang menggunakan platform?" Namun jawabannya hanyalah sebagian dasar saja yakni untuk terhubung dengan teman. Namun, untuk menggali lebih dalam terkait hal tersebut dibutuhkan emosi dan konteks yang berakar dari manusia.
"Anda membutuhkan empati untuk memahami perbedaan-perbedaan itu, dan saya tidak berpikir AI melakukan itu. Itu [AI] tidak memiliki EQ yang dibutuhkan untuk menyaring data dan sampai pada wawasan," jelasnya.
Meski begitu, kepercayaan terhadap AI kini berada pada titik kritis. Data GWI menunjukkan 30% pengguna menilai akurasi dan relevansi data sebagai kekhawatiran utama. Bahkan sejak peluncuran ChatGPT, kekhawatiran konsumen terhadap AI melonjak hingga 152%.
Cristina Lawrence, EVP Consumer & Content Experience di Razorfish, menyebut persoalan ini bukan sekadar masalah konten, melainkan sistemik. Di sisi lain, penelitian MIT turut menguatkan kekhawatiran tersebut. Peserta yang mengandalkan AI untuk menyelesaikan tugas menjadi lebih mudah menerima penalaran keliru dan makin jarang mengidentifikasi kesalahan. Ketergantungan tinggi pada AI bahkan menurunkan keterlibatan kognitif dan melemahkan kemampuan berpikir kritis.
Teknologi AI Tak Akan Pernah Bebas Error
Adapun menurut Rizki Putra Prastio, dosen Teknik Robotika dan Kecerdasan Buatan Universitas Airlangga bahwa AI bekerja dengan pola yang dibangun dari data buatan manusia yang pada dasarnya juga tidak sempurna.
"Secara saintifik, tidak pernah ada yang namanya error 0%. Selalu akan ada erorr yang terjadi. Bagaimana mungkin AI bisa akurat 100% sementara pembuatnya, manusia, bisa salah?" ujar Tio.
AI, lanjutnya, bekerja dengan menebak berdasarkan pola matematis. Jika instruksi pengguna tidak jelas, sangat mungkin AI memberi jawaban keliru.
Tio juga berbagi pengalamannya menguji beberapa tools AI menggunakan soal ujian. Mayoritas memberikan jawaban salah, bahkan setelah dianalisis ulang. Hal ini menjadi pengingat bahwa pengguna, terutama yang mempelajari sesuatu dari nol tidak boleh menganggap jawaban AI sebagai kebenaran mutlak.
"Jangan ditelan mentah-mentah karena [jawaban AI] bisa jadi itu salah," jelasnya.
AI telah dikembangkan sejak 1950-an, namun baru dalam beberapa tahun terakhir dampaknya terasa besar karena teknologi pendukungnya maju pesat. Seperti pisau, AI adalah alat yang bisa membantu, tetapi juga bisa membahayakan bila tanpa etika dan regulasi.
"Dengan masifnya penggunaan AI, rasanya mustahil untuk kita menghindari perkembangan teknologi. Kita harus punya etika dalam menggunakan AI, gunakan untuk yang memberikan manfaat, gunakan untuk menunjang pekerjaan," pungkas dia.
(prc/wep)
