Melbourne (KABARIN) - Para peneliti Universitas Monash di Australia bekerja sama dengan Kepolisian Federal Australia (AFP) mengembangkan alat kecerdasan buatan baru untuk melawan penyebaran gambar deepfake yang semakin meresahkan.
Deepfake sendiri adalah teknik memanipulasi foto atau video menggunakan AI agar terlihat asli, sampai-sampai banyak orang sulit membedakannya dari konten nyata.
Dalam pernyataan resmi Monash pada Senin (10/11), dijelaskan bahwa alat ini punya fungsi luas, termasuk menghambat para pelaku kejahatan dalam membuat material pelecehan anak berbasis AI, gambar deepfake, hingga video manipulatif lainnya.
Teknologi baru tersebut menggunakan teknik yang dikenal sebagai peracunan data (data poisoning). Lewat cara ini, data diubah secara halus untuk membuat proses pembuatan atau manipulasi gambar oleh AI menjadi jauh lebih sulit. AiLECS, proyek kolaborasi Monash dan AFP, menjelaskan bahwa AI dan model pembelajaran mesin sangat bergantung pada kumpulan data daring. Jika data-data itu dirusak, model akan memproduksi output yang salah, rusak, atau tidak akurat.
Dampaknya tidak hanya mengacaukan hasil manipulasi para pelaku, tetapi juga membantu penyidik mengurangi jumlah konten palsu yang harus mereka teliti.
Alat pengacau AI tersebut diberi nama Silverer. Saat ini masih berbentuk prototipe, namun dirancang agar nantinya mudah digunakan masyarakat Australia yang ingin melindungi foto-fotonya di media sosial.
“Sebelum seseorang mengunggah gambar ke media sosial atau internet, mereka dapat memodifikasinya menggunakan Silverer. Hal ini akan mengubah piksel untuk mengecoh model AI, dan hasil produksinya akan memiliki kualitas yang sangat rendah, dipenuhi pola buram, atau bahkan tidak dapat dikenali sama sekali,” ujar Elizabeth Perry, peneliti dan pemimpin proyek AiLECS sekaligus kandidat PhD di Universitas Monash.
Kekhawatiran terhadap penyalahgunaan deepfake makin menguat karena AFP mencatat adanya peningkatan signifikan dalam produksi material pelecehan anak berbasis AI. Menurut Campbell Wilson, ahli forensik digital sekaligus direktur AiLECS, konten ini sangat mudah dibuat dan disebarkan lewat teknologi open-source yang aksesnya nyaris tanpa batas.
