Jakarta (KABARIN) - OpenAI kembali jadi sorotan publik setelah digugat tujuh keluarga yang menuding ChatGPT berperan dalam kasus bunuh diri dan memperparah delusi berbahaya pada beberapa orang. Gugatan ini menilai model AI buatan perusahaan itu tidak aman dan seharusnya belum layak diluncurkan.
Empat gugatan menyoroti dugaan ChatGPT memberi pengaruh terhadap seseorang hingga mengakhiri hidupnya, sementara tiga lainnya menuduh chatbot tersebut memperkuat delusi berbahaya yang membuat pengguna harus dirawat secara intensif.
Dalam salah satu kasus, seorang pria bernama Zane Shamblin yang berusia 23 tahun ditemukan meninggal dunia setelah berbicara dengan ChatGPT selama empat jam. Berdasarkan catatan percakapan, Shamblin sempat menulis surat perpisahan dan menyiapkan pistol sambil berbicara tentang rencananya. ChatGPT bahkan menanggapinya dengan kalimat “Tenanglah, Raja. Kau hebat”.
Para penggugat menyebut keputusan OpenAI untuk mempercepat perilisan model GPT-4o sebagai penyebab utama tragedi itu.
“Kematian Zane bukanlah kecelakaan atau kebetulan, melainkan konsekuensi yang dapat diprediksi dari keputusan OpenAI yang disengaja untuk mengurangi pengujian keamanan dan mempercepat peluncuran ChatGPT ke pasar,” bunyi isi gugatan.
Selain itu, dokumen pengadilan juga menyebut perusahaan terburu-buru merilis GPT-4o demi menyaingi Gemini milik Google tanpa pengujian keamanan yang memadai. Gugatan menilai tragedi yang terjadi bukan insiden acak, melainkan hasil desain sistem yang kurang memperhatikan keselamatan pengguna.
Kasus serupa juga terjadi pada remaja 16 tahun bernama Adam Raine yang dikabarkan mengakhiri hidupnya sendiri setelah berbicara dengan ChatGPT. Chatbot sempat menyarankan agar ia mencari bantuan profesional, namun Raine mengelabui sistem dengan mengatakan bahwa ia hanya menulis cerita fiksi tentang bunuh diri.
OpenAI sempat menjelaskan lewat unggahan blog bahwa mereka terus memperbaiki cara ChatGPT menangani percakapan sensitif. “Perlindungan kami bekerja lebih andal dalam pertukaran singkat yang umum,” tulis perusahaan.
“Seiring waktu, kami telah mempelajari bahwa perlindungan ini terkadang kurang andal dalam interaksi yang panjang. Seiring meningkatnya interaksi bolak-balik, beberapa bagian dari pelatihan keamanan model dapat menurun,” tambah mereka.
Meski begitu, bagi keluarga korban, langkah OpenAI dianggap datang terlambat. Mereka menilai perusahaan seharusnya bertanggung jawab atas dampak dari teknologi yang kini banyak digunakan jutaan orang di seluruh dunia.
