Jakarta (KABARIN) - OpenAI baru saja merilis data yang menunjukkan sebagian kecil pengguna ChatGPT ternyata menggunakan chatbot itu untuk membicarakan masalah mental yang mereka alami.
Dilansir dari TechCrunch, sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan yang menunjukkan tanda-tanda keinginan untuk bunuh diri. Jika dihitung dari total pengguna aktif mingguan yang mencapai 800 juta orang, berarti lebih dari satu juta pengguna membahas hal ini tiap minggu.
Selain itu, OpenAI juga menemukan banyak pengguna yang menunjukkan keterikatan emosional tinggi dengan ChatGPT. Ada pula ratusan ribu pengguna yang terdeteksi memperlihatkan gejala psikosis atau mania selama berinteraksi.
Meski jumlahnya kecil, OpenAI mengakui sulit untuk mengukur skala pastinya. Namun perusahaan memperkirakan isu ini berdampak pada ratusan ribu orang tiap pekan.
Sebagai langkah antisipasi, OpenAI melibatkan lebih dari 170 pakar kesehatan mental untuk mengevaluasi dan memperbaiki cara ChatGPT merespons percakapan sensitif seperti ini. Versi terbaru ChatGPT disebut lebih akurat dan konsisten saat menghadapi pengguna dengan masalah psikologis.
Kasus ini jadi perhatian serius setelah muncul laporan bahwa chatbot AI bisa memperkuat pemikiran berbahaya pada sebagian pengguna. Bahkan, OpenAI pernah digugat oleh orang tua remaja 16 tahun yang dikabarkan mengungkapkan niat bunuh diri ke ChatGPT sebelum mengakhiri hidupnya.
Jaksa Agung California dan Delaware pun sempat menegur OpenAI agar lebih melindungi pengguna muda.
CEO OpenAI Sam Altman mengklaim pihaknya sudah berhasil mengurangi risiko percakapan berbahaya di ChatGPT. Data terbaru menunjukkan model GPT-5 sekarang bisa menangani isu kesehatan mental dengan hasil 65 persen lebih baik dibanding versi lama.
Dalam topik sensitif seperti bunuh diri, GPT-5 dinilai mampu memberikan respons sesuai harapan sebanyak 91 persen, naik dari 77 persen pada model sebelumnya.
OpenAI juga memperkuat sistem keamanannya agar tetap stabil dalam percakapan panjang, sekaligus menambah fitur evaluasi baru untuk mengatasi tantangan kesehatan mental lain seperti ketergantungan emosional atau kondisi darurat yang bukan terkait bunuh diri.
