Jakarta (KABARIN) - Penggunaan chatbot berbasis kecerdasan buatan untuk layanan kesehatan mental kini makin populer. Namun sebuah penelitian dari Brown University mengingatkan teknologi tersebut masih punya banyak risiko, terutama soal etika profesi psikologi.
Dilansir dari Psychology Today pada Kamis, studi itu menemukan chatbot AI yang memakai teknologi large language models atau LLM sering gagal mengikuti standar etik dalam layanan kesehatan mental, termasuk pedoman dari American Psychological Association atau APA.
Penulis utama penelitian, Zainab Iftikhar, menegaskan psikoterapi bukan sekadar proses tanya jawab biasa yang bisa diperlakukan seperti sistem komputasi sederhana.
Ia menjelaskan terapi mental membutuhkan pemahaman mendalam, empati yang tepat, serta kepatuhan tinggi terhadap aturan etik dan perilaku profesional.
Riset tersebut dilakukan selama 18 bulan dengan melibatkan tujuh konselor sebaya terlatih dan tiga psikolog klinis berlisensi. Mereka mengevaluasi bagaimana perilaku chatbot AI saat menjalani simulasi sesi konseling.
Beberapa model AI yang diuji dalam penelitian itu antara lain GPT-4, GPT-3.5, GPT-3.0, Llama 3.1, Llama 3.2, Claude 3 Haiku, hingga Claude 3 Sonnet.
Dari total 137 sesi yang dianalisis, peneliti menemukan 15 jenis pelanggaran etik yang dibagi ke dalam lima masalah utama. Mulai dari kurang memahami konteks pengguna, buruk dalam membangun hubungan terapeutik, menunjukkan empati yang menyesatkan, memunculkan diskriminasi tidak adil, hingga lemahnya penanganan situasi krisis dan keamanan pengguna.
Peneliti menilai chatbot AI sering terlalu menyederhanakan masalah hidup seseorang. Dalam beberapa kasus, AI juga dianggap terlalu mendominasi percakapan dan menampilkan respons empati yang terasa manipulatif.
Selain itu, teknologi tersebut dinilai belum mampu menangani isu sensitif dengan aman, seperti trauma, kekerasan, hingga keinginan bunuh diri.
Penelitian ini muncul di tengah tren meningkatnya penggunaan AI untuk layanan kesehatan mental di berbagai negara. Banyak orang mulai melihat AI sebagai alternatif dukungan emosional yang cepat dan mudah diakses.
Studi lain yang dimuat dalam jurnal AI & Society pada Februari 2026 menunjukkan masyarakat mulai semakin terbuka menggunakan AI sebagai penasihat kesehatan mental.
Survei terhadap 31 ribu responden di 35 negara memperlihatkan 42 persen warga Amerika Serikat dan 41 persen warga Inggris bersedia memakai AI untuk dukungan kesehatan mental. Di China, angkanya bahkan mencapai 86 persen.
Di sisi lain, industri AI kesehatan mental juga diprediksi tumbuh besar dalam beberapa tahun ke depan. Firma riset Grand View Research memperkirakan nilai pasar AI di sektor kesehatan mental bisa mencapai 9,12 miliar dolar AS pada 2033.
Meski menawarkan akses cepat dan layanan real-time, para peneliti mengingatkan penggunaan AI sebagai terapis tetap memiliki risiko besar bila tidak diawasi secara ketat.
Karena itu, mereka mendorong pemerintah dan pihak terkait segera membuat regulasi serta aturan hukum yang jelas agar penggunaan terapi berbasis AI lebih aman bagi masyarakat.
Editor: M. Hilal Eka Saputra Harahap
Copyright © KABARIN 2026