Undang-undang baru ini akan memastikan sistem AI dapat diamankan sejak awal, mencegah kerentanan yang dapat membahayakan anak-anak..
London (KABARIN) - Pemerintah Inggris resmi mengumumkan aturan baru untuk mencegah penyalahgunaan teknologi kecerdasan buatan atau AI yang digunakan dalam pembuatan konten pelecehan seksual terhadap anak. Kebijakan ini dianggap sebagai langkah besar dalam melindungi anak-anak dari bahaya dunia digital yang terus berkembang.
Dalam kebijakan tersebut, Menteri Teknologi dan Menteri Dalam Negeri Inggris akan memiliki wewenang baru untuk bekerja sama dengan para pengembang AI serta lembaga pelindungan anak, termasuk Internet Watch Foundation (IWF). Mereka akan diberi akses untuk menguji sistem AI agar bisa memastikan model tersebut tidak disalahgunakan untuk membuat materi ilegal.
Langkah ini diambil setelah laporan IWF menunjukkan peningkatan signifikan kasus pelecehan anak yang melibatkan gambar hasil AI. Selama satu tahun terakhir, laporan semacam itu melonjak dari 199 kasus pada 2024 menjadi 426 kasus pada 2025. Lebih mengkhawatirkan lagi, ditemukan peningkatan gambar bayi berusia di bawah dua tahun, dari lima kasus menjadi 92.
Dari segi data, anak perempuan masih menjadi korban utama dengan persentase mencapai 94 persen dari total gambar ilegal yang dihasilkan AI tahun ini. Meskipun begitu, jumlah kasus yang melibatkan anak laki-laki juga dilaporkan meningkat.
Sebelumnya, undang-undang pidana Inggris memang sudah melarang pembuatan dan kepemilikan konten pelecehan seksual anak. Namun, aturan tersebut belum memungkinkan pengembang untuk meneliti sistem AI dalam kondisi aman sebelum muncul potensi penyalahgunaan.
Melalui undang-undang baru ini, pemerintah akan memberikan izin kepada penguji resmi untuk meneliti model AI dalam lingkungan terkendali agar perlindungan bisa dilakukan sejak awal.
"Kami tidak akan membiarkan kemajuan teknologi melampaui kemampuan kami untuk menjaga keamanan anak-anak. Undang-undang baru ini akan memastikan sistem AI dapat diamankan sejak awal, mencegah kerentanan yang dapat membahayakan anak-anak," ujar Menteri Teknologi Liz Kendall dalam pernyataannya.
Ia menambahkan bahwa dengan memberi wewenang kepada organisasi terpercaya untuk meneliti model AI, keamanan anak akan menjadi bagian dari desain utama sistem AI, bukan hanya tambahan di akhir proses.
Langkah Inggris ini juga disebut sebagai salah satu upaya paling progresif di dunia dalam memastikan bahwa inovasi teknologi tetap berpihak pada keselamatan dan kemanusiaan, bukan justru membuka celah bagi kejahatan baru di era digital.
