Ancaman yang dibawa oleh teknologi Deepfake berbahaya kian menganga di depan mata. Dengan kemampuan kecerdasan buatan (AI) untuk menciptakan video dan audio yang sangat meyakinkan dari apa yang tidak pernah terjadi, semakin banyak orang yang terjebak dalam lubang hitam manipulasi digital ini. Pertanyaannya, apa langkah konkret pemerintah, khususnya Kementerian Komunikasi dan Digital (Komdigi), untuk menangkal bahaya yang mengintai di ruang siber?
Tiga Pilar Strategi Komdigi Melawan Gelombang Deepfake
Wamenkomdigi Nezar Patria mengungkapkan bahwa Komdigi tidak berdiam diri. Pihaknya terus memperkuat benteng perlindungan masyarakat di ruang digital melalui tiga strategi utama: peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak.
“Komdigi bertekad untuk membangun ekosistem digital yang aman bagi semua. Kami gencar melakukan literasi digital, melakukan takedown terhadap konten negatif, dan bekerja sama dengan aparat penegak hukum untuk menindak kejahatan digital,” tegas Nezar dalam keterangan resminya, Jumat (25/7).
Nezar mengakui bahwa tantangan terbesar saat ini datang dari penyalahgunaan teknologi AI yang semakin canggih, terutama deepfake. KKonten audio dan visual yang menipu ini tidak hanya mengecoh masyarakat, tetapi juga secara khusus menyasar kelompok yang paling rentan, yaitu perempuan dan anak-anak.
Deepfake, berasal dari algoritma pembelajaran mendalam (deep learning), memungkinkan AI untuk belajar dari kumpulan data besar dan menciptakan konten palsu yang tampak sangat nyata dari orang sungguhan. “Gelombang inovasi teknologi menciptakan kesempatan luar biasa, tetapi juga menghadirkan risiko yang merusak kepercayaan antar individu,” ungkap Nezar.
Data Mengkhawatirkan dan Dampak Fatal pada Kelompok Rentan
Angka-angka menunjukkan urgensi masalah ini. Nezar mengutip laporan Sensity AI yang mengindikasikan lonjakan kasus deepfake sebesar 550 persen sejak 2019, dengan 90 persen di antaranya digunakan untuk tujuan berbahaya.
“Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 perempuan berusia 15 sampai 29 tahun telah mengalami kekerasan berbasis gender secara online sejak mereka masih muda,” katanya, menjaikan sorotan pada kenyataan pahit yang ada. Dampak deepfake tidak hanya sebatas penipuan finansial atau disinformasi politik, tetapi telah merambah ke ranah kekerasan berbasis gender online yang menghancurkan.
Menanggapi kondisi genting ini, Komdigi telah menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 (PP TUNAS). Regulasi ini secara khusus mengatur penyelenggaraan sistem elektronik untuk perlindungan anak. “Dalam hal ini, kami berharap di tingkat daerah sosialisasinya bisa lebih intensif untuk semua pemangku kepentingan, terutama di sekolah dan komunitas,” tutur Nezar, menekankan pentingnya kolaborasi lintas sektor.
Literasi digital ditekankan sebagai keterampilan dasar yang vital, mencakup kemampuan kritis dalam memilah informasi dan menjaga privasi data. “AI hendaknya menjadi sahabat dalam berkreasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain,” ujarnya.
Deepfake: Alat Kriminalitas Global
Bahaya deepfake jauh melampaui batas negara. Kepolisian Inggris, misalnya, telah memperingatkan bahwa AI semakin sering digunakan untuk berbagai kejahatan, mulai dari penipuan, pelecehan seksual, hingga eksploitasi anak. Alex Murray, Kepala Polisi Nasional bidang AI di Inggris, menyoroti aksesibilitas teknologi ini sebagai faktor kunci peningkatan penggunaannya oleh pelaku kriminal.
Sejarah kepolisian menunjukkan bahwa para pelaku kejahatan kreatif dan akan memanfaatkan segala sesuatu untuk melakukan tindakan kriminal. “Murray mengatakan, ‘Mereka kini memanfaatkan AI untuk melakukan kejahatan,’ seperti yang dilaporkan oleh The Guardian.”
Kejahatan AI ini dapat beroperasi dalam skala internasional maupun individu. Salah satu bentuk yang berkembang pesat adalah penipuan berskala besar menggunakan video deepfake untuk menyamar sebagai eksekutif perusahaan. Namun, yang paling mengkhawatirkan adalah penggunaan AI Deepfake berbahaya untuk menciptakan konten pelecehan anak.
Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal dan sangat meresahkan.
Ancaman deepfake bukan lagi fiksi ilmiah. Dengan langkah-langkah konkret dari pemerintah dan peningkatan kesadaran masyarakat, diharapkan ruang digital kita bisa menjadi tempat yang lebih aman. Baca berita lain di sini.
