Studi: Saran Kesehatan dari Chatbot AI Sering Tidak Akurat dan Berisiko

Ilustrasi orang meminta saran kesehatan pada chatbot AI. (Freepik)

INDOZONE.ID - Sebuah studi yang dipublikasikan di jurnal Nature Medicine mengungkap bahwa saran kesehatan dari chatbot berbasis kecerdasan buatan atau AI, kerap tidak akurat. Ini berpotensi menimbulkan risiko, terutama ketika terdapat sedikit perubahan dalam susunan kata pertanyaan yang diajukan pengguna.

Mengutip laporan Channel News Asia, penelitian tersebut melibatkan 1.200 responden di Inggris yang sebagian besar tidak memiliki latar belakang medis. Para peserta diberikan skenario medis rinci, mencakup gejala, riwayat kesehatan, serta gaya hidup.

Mereka kemudian diminta berkonsultasi dengan chatbot untuk menentukan langkah yang sebaiknya diambil, seperti apakah perlu memanggil ambulans atau cukup melakukan perawatan mandiri di rumah.

Akurasi Rendah dalam Kondisi Nyata

Hasilnya, peserta hanya memilih tindakan yang dianggap “benar” oleh panel dokter dalam kurang dari 50 persen kasus. Sementara itu, kemampuan mereka mengidentifikasi diagnosis yang tepat, misalnya batu empedu atau perdarahan subarachnoid, hanya sekitar 34 persen.

Baca juga: Laporan Khawatir soal Dampak ChatGPT pada Kesehatan Mental

Peneliti menemukan bahwa hampir separuh kesalahan terjadi karena pengguna tidak memasukkan informasi penting atau gejala yang relevan. Akibatnya, chatbot memberikan saran berdasarkan data yang tidak lengkap.

Sebaliknya, ketika peneliti memasukkan skenario medis secara utuh dan detail langsung ke dalam sistem, chatbot mampu menghasilkan diagnosis yang benar hingga 94 persen.

Dunia Medis Tidak Sesederhana Prompt

Adam Mahdi, profesor di Oxford Internet Institute sekaligus penulis senior studi tersebut, menilai pertanyaan medis yang bersih dan terstruktur tidak mencerminkan kondisi nyata pasien.

“Kedokteran tidak seperti itu. Kedokteran itu berantakan, tidak lengkap, dan bersifat stokastik,” ujarnya.

Dr. Robert Wachter, Ketua Departemen Kedokteran di University of California, San Francisco, menambahkan bahwa proses diagnosis membutuhkan kemampuan memilah informasi yang relevan dan mengabaikan yang tidak penting, keterampilan yang dibangun dari pengalaman klinis.

Baca juga: YouTube Hadirkan Fitur Baru untuk Remaja: Pusat Konten Kesehatan Mental yang Lebih Aman dan Terpercaya

“Ada banyak keajaiban kognitif dan pengalaman yang dibutuhkan untuk menentukan elemen-elemen penting dari suatu kasus yang kemudian dimasukkan ke dalam bot,” katanya.

Perlu Kemampuan Bertanya Balik

Andrew Bean, mahasiswa pascasarjana Oxford dan penulis utama studi tersebut, berpendapat bahwa tanggung jawab tidak seharusnya sepenuhnya dibebankan kepada pengguna untuk merancang pertanyaan yang sempurna. Menurutnya, chatbot idealnya mampu mengajukan pertanyaan lanjutan, sebagaimana dokter menggali informasi dari pasien.

Para ahli juga menyoroti kecenderungan AI memberikan saran yang terlalu berhati-hati atau sebaliknya, meremehkan gejala yang sebenarnya serius.

Berdasarkan temuan tersebut, para peneliti menyimpulkan bahwa model AI yang diuji masih belum siap digunakan secara langsung dalam praktik perawatan pasien, terutama tanpa pengawasan tenaga medis profesional.