Selain risiko informasi yang keliru, percakapan dengan ChatGPT juga tidak memiliki perlindungan kerahasiaan seperti komunikasi antara klien dan pengacara.
Menggantikan konselor
ChatGPT juga tidak seharusnya menggantikan terapis atau konselor. OpenAI memperkirakan sekitar 0,15% pengguna aktif mingguan ChatGPT memiliki percakapan yang menunjukkan indikator eksplisit potensi perencanaan bunuh diri.
Dengan jumlah pengguna yang besar, angka tersebut setara dengan lebih dari satu juta orang per minggu.
Para peneliti menemukan, chatbot cenderung memperkuat keyakinan pengguna yang ada melalui respons yang sofantik atau selalu menyenangkan hati penggunanya, dalam beberapa kasus memberi makan pemikiran delusi daripada menantangnya.
Informasi pekerjaan rahasia
Dokumen perusahaan, kode sumber, informasi klien, dan data lain yang bersifat rahasia sebaiknya tidak dimasukkan ke chatbot publik ChatGPT.
Salah satu kasus, mantan penjabat direktur Cybersecurity and Infrastructure Security Agency (CISA), Madhu Gottumukkala, dilaporkan mengunggah empat dokumen kontrak bertanda 'for official use only' ke ChatGPT versi publik yang memicu peringatan keamanan dan tinjauan Departemen Keamanan Dalam Negeri.
Lalu, Samsung juga pernah melarang penggunaan alat AI generatif pada perangkat perusahaan setelah sejumlah insinyur memasukkan kode sumber internal ke ChatGPT. Selain risiko kebocoran, tindakan tersebut dapat melanggar aturan perusahaan atau perjanjian kerahasiaan.
Mencari saran medis
ChatGPT juga bukan pengganti dokter. Perlindungan data kesehatan yang berlaku dalam komunikasi pasien dengan dokter tidak otomatis berlaku ketika informasi tersebut diberikan kepada chatbot.
Penelitian dari Northeastern University juga menemukan perlindungan chatbot terhadap percakapan terkait bunuh diri dan menyakiti diri sendiri tidak selalu berlaku pada kondisi lain, seperti gangguan makan, insomnia, penyalahgunaan zat, dan gangguan bipolar.
Dalam salah satu kasus, seorang pria berusia 60 tahun mengalami keracunan setelah mengikuti informasi chatbot mengenai penggantian klorida dalam makanan. Ia mengonsumsi natrium bromida selama beberapa bulan dan akhirnya harus dirawat di rumah sakit.
Kata sandi dan data akun
Pengguna juga sebaiknya tidak memasukkan kata sandi, kode autentikasi, nomor paspor, nomor identitas, detail kartu atau rekening bank, maupun foto dokumen identitas ke dalam ChatGPT.
Hampir 4.500 percakapan ChatGPT yang dibagikan pengguna sempat muncul dalam hasil pencarian Google pada Juli tahun lalu. Percakapan tersebut dapat ditemukan karena pengguna mengaktifkan opsi agar percakapan bisa dicari secara publik. Fitur tersebut kemudian dinonaktifkan.
Kata sandi, kode masuk satu kali, nomor Jaminan Sosial dan paspor, detail kartu atau rekening bank lengkap dan foto dokumen ID tidak boleh dimasukkan ke dalam prompt. Karena hal itu akan menjadi ancaman bahaya pencurian identitas jika obrolan dilanggar atau diakses.
(mef/wep)
