Jawaban sering kali disampaikan dengan penuh keyakinan dan kepastian, meskipun tidak ada chatbot yang menghasilkan daftar referensi secara lengkap dan akurat sebagai tanggapan atas pertanyaan apa pun, kata para peneliti. Hanya ada dua penolakan untuk menjawab pertanyaan, keduanya dari Meta AI.
Hasil ini menyoroti meningkatnya kekhawatiran terkait bagaimana orang menggunakan platform AI generatif, yang tidak memiliki lisensi untuk memberikan saran medis dan tidak memiliki penilaian klinis untuk membuat diagnosis.
Pertumbuhan pesat chatbot AI telah menjadikannya tool ini populer di kalangan masyarakat. Mereka mencari petunjuk soal keluhan kesehatan tubuh, dan OpenAI menyatakan bahwa lebih dari 200 juta orang mengajukan pertanyaan seputar kesehatan dan kesejahteraan kepada ChatGPT setiap minggunya.
Platform ChatGPT mengumumkan pada bulan Januari serangkaian tool kesehatan untuk pengguna secara general maupun tenaga medis, sementara Anthropic mengumumkan pada bulan yang sama bahwa produk Claude-nya akan meluncurkan layanan kesehatan baru.
Baca Juga: ChatGPT Health Bisa Gantikan Peran Dokter & Perawat?
Risiko utama dari penerapan chatbot tanpa edukasi dan pengawasan secara publik adalah bahwa chatbot tersebut dapat memperluas disinformasi, kata para penulis studi BMJ Open.
Temuan ini “menekankan limitasi perilaku yang penting dan kebutuhan untuk mengevaluasi kembali bagaimana chatbot AI diterapkan dalam komunikasi kesehatan dan medis yang berhadapan dengan publik,” tulis mereka.
Sistem ini dapat menghasilkan “tanggapan yang terdengar otoritatif namun berpotensi keliru,” disebutkan dalam paparan studi BMJ Open.
(red)
