Jakarta (KABARIN) - Upaya menjaga ruang digital tetap aman dan beretika kembali menjadi sorotan. Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutuskan memutus akses sementara aplikasi Grok, sebuah platform berbasis kecerdasan buatan (AI), sebagai langkah perlindungan terhadap perempuan, anak, dan masyarakat luas dari maraknya konten pornografi palsu berbasis teknologi deepfake.
Kebijakan ini diumumkan langsung oleh Menteri Komunikasi dan Digital Meutya Hafid dalam pernyataan resminya di Jakarta, Sabtu (10/1). Menurutnya, langkah tersebut merupakan bentuk tanggung jawab negara dalam memastikan ruang digital Indonesia tetap aman, manusiawi, dan menghormati hak asasi setiap warganya.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya.
Ia menegaskan bahwa pemanfaatan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi objek merupakan bentuk kekerasan berbasis digital. Dampaknya tidak hanya merusak reputasi korban, tetapi juga berpotensi menimbulkan tekanan psikologis, masalah sosial, hingga konsekuensi hukum yang panjang.
Pemutusan akses terhadap Grok, lanjut Meutya, bersifat sementara. Langkah ini diambil sebagai upaya preventif sekaligus korektif, sambil pemerintah memastikan bahwa setiap platform digital yang beroperasi di Indonesia memiliki sistem pengamanan yang memadai dan bertanggung jawab.
Tak hanya itu, Komdigi juga secara resmi memanggil Platform X selaku pihak terkait untuk memberikan klarifikasi. Pemerintah ingin mendapatkan penjelasan menyeluruh mengenai dampak penggunaan Grok serta langkah mitigasi yang akan dilakukan agar penyalahgunaan teknologi serupa tidak kembali terjadi.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata Meutya.
Dari sisi regulasi, kebijakan ini memiliki dasar hukum yang jelas. Komdigi menjalankan kewenangannya sesuai Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam aturan tersebut, setiap PSE diwajibkan memastikan sistemnya tidak memuat atau memfasilitasi konten yang dilarang oleh peraturan perundang-undangan.
Grok sendiri sebelumnya telah menuai kritik global. Aplikasi ini disorot karena memungkinkan pembuatan gambar bernuansa pornografi menggunakan AI. Meski pihak Grok menyatakan fitur tersebut hanya dapat diakses pelanggan berbayar di X, banyak pihak menilai celah penyalahgunaan tetap terbuka bagi publik.
Kritik keras datang dari berbagai negara, termasuk Inggris, Uni Eropa, dan India. Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait chatbot tersebut, sementara pemerintah India dilaporkan mendesak X segera melakukan pembenahan atau menghadapi risiko kehilangan perlindungan safe harbor. Otoritas komunikasi Inggris pun mengonfirmasi telah menghubungi xAI untuk meminta penjelasan.
Langkah Indonesia ini memperlihatkan bahwa isu keamanan digital, etika AI, dan perlindungan korban kini menjadi perhatian serius pemerintah di tengah pesatnya perkembangan teknologi.
Sumber: ANTARA
