Jakarta (KABARIN) - Badan pengawas media Inggris, Ofcom, resmi membuka penyelidikan terhadap platform media sosial X menyusul laporan penyalahgunaan chatbot kecerdasan buatan Grok. Chatbot tersebut diduga digunakan untuk membuat dan menyebarkan konten pornografi serta pelecehan seksual terhadap anak.
Mengutip laporan Engadget pada Senin (12/1), penyelidikan ini dilakukan berdasarkan Undang-Undang Keamanan Daring Inggris. Fokus utama Ofcom adalah menilai apakah X telah “mematuhi kewajiban untuk melindungi orang-orang di Inggris dari konten yang ilegal di Inggris.”
Dalam penyelidikan tersebut, Ofcom akan mengecek sejumlah hal krusial. Mulai dari apakah X sudah mengambil langkah yang tepat untuk mencegah pengguna di Inggris mengakses konten ilegal, seperti materi pelecehan seksual anak dan gambar intim tanpa persetujuan. Regulator juga menilai seberapa cepat platform itu menghapus konten ilegal setelah mengetahuinya, serta apakah X melakukan penilaian risiko terbaru sebelum melakukan perubahan besar pada platformnya.
Tak hanya itu, Ofcom turut menyelidiki apakah X telah menilai risiko yang ditimbulkan platformnya terhadap anak-anak di Inggris. Termasuk juga apakah perusahaan memiliki sistem verifikasi usia yang efektif untuk mencegah anak-anak mengakses konten pornografi.
Regulator Inggris menyatakan telah menghubungi X pada 5 Januari dan menerima tanggapan dari perusahaan tersebut sesuai tenggat pada 9 Januari 2026. Saat ini, Ofcom tengah melakukan penilaian cepat terhadap bukti yang tersedia dan juga meminta xAI memberikan klarifikasi soal langkah-langkah yang diambil untuk melindungi pengguna di Inggris.
"Laporan tentang penggunaan Grok untuk membuat dan menyebarkan gambar intim ilegal tanpa persetujuan serta materi eksploitasi seksual anak sangat mengkhawatirkan," kata juru bicara Ofcom.
"Platform harus melindungi masyarakat di Inggris dari konten yang ilegal di Inggris, dan kami tidak akan ragu untuk menyelidiki jika kami mencurigai perusahaan gagal dalam menjalankan tugasnya, terutama jika ada risiko yang membahayakan anak-anak," lanjutnya.
Jika X terbukti melanggar aturan, Ofcom bisa memerintahkan platform tersebut untuk menjalankan langkah-langkah korektif sesuai ketentuan hukum. Regulator juga memiliki kewenangan menjatuhkan denda hingga 18 juta poundsterling atau 10 persen dari pendapatan global platform.
Selain denda, Ofcom dapat meminta perintah pengadilan untuk menghentikan kerja sama penyedia layanan pembayaran atau pengiklan dengan X. Bahkan, penyedia layanan internet di Inggris bisa diwajibkan memblokir akses ke platform tersebut.
Pemerintah Inggris menyatakan akan mendukung penuh langkah Ofcom apabila tindakan penegakan hukum memang diperlukan.
Di luar Inggris, penyelidikan serupa juga dilakukan oleh regulator di Uni Eropa dan India terkait penyalahgunaan Grok. Sementara itu, Malaysia dan Indonesia sudah lebih dulu memblokir akses ke Grok.
Otoritas di Indonesia menilai Grok belum memiliki sistem pengamanan yang efektif untuk mencegah pembuatan dan penyebaran konten pornografi deepfake eksplisit. Hal senada disampaikan Komisi Komunikasi dan Multimedia Malaysia, yang menyebut adanya penyalahgunaan Grok secara berulang untuk membuat deepfake eksplisit non-konsensual, termasuk yang melibatkan perempuan dan anak-anak.
Regulator Malaysia menegaskan pemblokiran Grok akan tetap berlaku sampai X Corp dan xAI menerapkan langkah pengamanan yang dinilai memadai.
Editor: Raihan Fadilah
Copyright © KABARIN 2026