Jakarta (KABARIN) - Studi yang baru-baru ini diterbitkan Nature Medicine menyebutkan saran kesehatan dari chatbot kecerdasan buatan atau AI sering kali tidak akurat dan bisa menimbulkan risiko unik dalam menyajikan informasi tergantung pada sedikit perubahan dalam susunan kata pertanyaan.
Ditulis laman Channel News Asia, Minggu (22/2) waktu setempat, studi ini meneliti 1.200 peserta asal Inggris, yang sebagian besar tidak memiliki pelatihan medis, diberi skenario medis terperinci, lengkap dengan gejala, detail gaya hidup umum, dan riwayat medis.
Para peneliti meminta peserta untuk mengobrol dengan bot untuk mengetahui langkah selanjutnya yang tepat, seperti apakah harus memanggil ambulans atau melakukan perawatan sendiri di rumah.
Para peneliti menemukan bahwa peserta memilih tindakan yang "benar" – yang telah ditentukan sebelumnya oleh panel dokter – kurang dari setengah waktu. Dan pengguna mengidentifikasi kondisi yang benar, seperti batu empedu atau perdarahan subarachnoid, sekitar 34 persen dari waktu.
Penelitian lebih dalam dilakukan dengan melihat interaksi dengan chatbot, mereka menemukan bahwa sekitar setengah dari kesalahan tampaknya disebabkan oleh kesalahan pengguna.
Para peserta tidak memasukkan informasi yang cukup atau gejala yang paling relevan, dan chatbot dibiarkan memberikan saran dengan gambaran masalah yang tidak lengkap.
Sebaliknya, ketika para peneliti memasukkan skenario medis lengkap langsung ke dalam chatbot, mereka berhasil mendiagnosis masalah tersebut dengan benar sebanyak 94 persen.
Dalam tiga tahun sejak chatbot AI tersedia untuk umum, pertanyaan tentang kesehatan telah menjadi salah satu topik paling umum yang ditanyakan pengguna kepada chatbot tersebut.
Seorang profesor di Oxford Internet Institute dan penulis senior studi Nature Medicine terbaru Adam Mahdi, menduga bahwa pertanyaan-pertanyaan medis yang bersih dan lugas ini bukanlah indikator yang baik untuk seberapa efektifnya pertanyaan-pertanyaan tersebut bagi pasien sebenarnya.
“Kedokteran tidak seperti itu. Kedokteran itu berantakan, tidak lengkap, dan bersifat stokastik,” katanya.
Sementara Dr Robert Wachter, Ketua Departemen Kedokteran di Universitas California, San Francisco, yang mempelajari AI dalam perawatan kesehatan mengatakan dalam menegakkan diagnosa harus mengenali detail mana yang relevan dan mana yang harus diabaikan.
“Ada banyak keajaiban kognitif dan pengalaman yang dibutuhkan untuk menentukan elemen-elemen penting dari suatu kasus yang kemudian dimasukkan ke dalam bot,” kata Watcher.
Namun Andrew Bean, seorang mahasiswa pascasarjana di Oxford dan penulis utama makalah tersebut, mengatakan bahwa beban untuk merancang pertanyaan yang sempurna seharusnya tidak selalu dibebankan kepada pengguna. Ia mengatakan bahwa chatbot seharusnya mengajukan pertanyaan lanjutan, serupa dengan cara dokter mengumpulkan informasi dari pasien.
Para ahli juga menyoroti bahwa AI cenderung memberikan saran yang terlalu berhati-hati atau bahkan sebaliknya, terlalu meremehkan gejala yang serius.
Para peneliti juga menyimpulkan model AI yang diteliti masih belum siap untuk diterapkan dalam perawatan pasien secara langsung.
Editor: Raihan Fadilah
Copyright © KABARIN 2026