Jakarta (KABARIN) - Pemerintah Prancis dan Malaysia mengecam chatbot Grok milik perusahaan rintisan kecerdasan buatan (AI) xAI, yang didirikan Elon Musk, setelah AI tersebut diketahui menghasilkan gambar deepfake bernuansa seksual yang melibatkan perempuan dan anak di bawah umur.
Grok, yang terintegrasi dengan platform media sosial X, sebelumnya mengunggah permintaan maaf melalui akun resminya terkait insiden konten tidak senonoh yang terjadi pada 28 Desember 2025 lalu.
Dilansir dari Tech Crunch pada Senin, dalam pernyataan itu, Grok mengakui telah menghasilkan dan membagikan gambar AI yang menampilkan dua anak perempuan berusia sekitar 12–16 tahun dalam busana yang diseksualisasi berdasarkan permintaan pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini merupakan kegagalan sistem pengamanan, dan saya menyesal atas dampak yang ditimbulkan,” kata Grok dalam pernyataan tersebut.
Grok menambahkan bahwa xAI tengah melakukan peninjauan untuk mencegah kejadian serupa terulang.
Namun, sebagian pihak menilai permintaan maaf tersebut tidak jelas pertanggungjawabannya. Jurnalis teknologi Albert Burneko dari Defector menilai bahwa Grok bukan entitas yang dapat dimintai tanggung jawab secara hukum atau moral, sehingga pernyataan maaf itu dinilai tidak substantif.
Laporan media Futurism juga menemukan bahwa Grok tidak hanya digunakan untuk membuat konten pornografi tanpa persetujuan, tetapi juga menghasilkan gambar perempuan yang mengalami kekerasan dan pelecehan seksual.
Elon Musk dalam unggahan terpisah menyatakan bahwa siapapun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal tersebut secara langsung.
Sejumlah negara pun mulai mengambil langkah. Di Prancis, kantor kejaksaan Paris menyatakan akan menyelidiki penyebaran deepfake seksual di platform X. Kantor urusan digital Prancis mengungkapkan bahwa tiga menteri telah melaporkan konten yang dinilai ilegal kepada jaksa serta ke platform pengawasan daring pemerintah untuk meminta penghapusan segera.
Sementara itu, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan keprihatinan serius atas keluhan publik terkait penyalahgunaan kecerdasan buatan di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur menjadi konten yang tidak senonoh dan merugikan.
“MCMC saat ini tengah menyelidiki potensi dampak negatif dan pelanggaran yang terjadi di platform X,” demikian pernyataan komisi tersebut.
Langkah Prancis dan Malaysia menyusul tindakan serupa yang dilakukan India. Baru-baru ini, Kementerian Teknologi Informasi India mengeluarkan perintah agar X membatasi Grok untuk menghasilkan konten yang “cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilik, atau dilarang oleh hukum”.
Pemerintah India memberi waktu 72 jam bagi X untuk merespons, dengan ancaman pencabutan perlindungan “safe harbor” yang melindungi platform dari tanggung jawab hukum atas konten buatan pengguna.
Editor: Raihan Fadilah
Copyright © KABARIN 2026