Ancaman teknologi kecerdasan buatan (AI) deepfake semakin nyata, dengan semakin banyak orang menjadi korban hasil akal imitasi tersebut. Kementerian Komunikasi dan Digital (Komdigi) telah mengidentifikasi tiga strategi utama untuk melindungi masyarakat di ruang digital, yaitu meningkatkan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak. Wamenkomdigi Nezar Patria menyatakan komitmen pihaknya dalam menciptakan ruang digital yang aman bagi semua, dengan melakukan literasi digital, takedown konten negatif, dan bekerja sama dengan aparat penegak hukum dalam menindak kejahatan digital.
Nezar mengungkapkan bahwa salah satu tantangan terbesar saat ini berasal dari penyalahgunaan teknologi deepfake AI yang semakin canggih. Deepfake menggunakan AI untuk membuat konten visual dan audio yang manipulatif, dapat menyesatkan, dan menyasar kelompok rentan seperti perempuan dan anak. Penggunaan teknologi deepfake selama ini menunjukkan jumlah kasus yang meresahkan, dengan 90 persen digunakan untuk tujuan berbahaya.
Terobosan dalam teknologi membawa manfaat besar, namun juga membawa risiko besar bagi masyarakat. Kemampuan AI dapat dimanfaatkan untuk berbagai kejahatan seperti penipuan, pelecehan seksual, hingga eksploitasi anak. Polisi Inggris mengungkapkan bahwa teknologi deepfake digunakan oleh pelaku kriminal sebagai alat untuk kejahatan mereka. Penipuan berskala besar dan konten pelecehan anak adalah contoh paling mengkhawatirkan dari penyalahgunaan teknologi deepfake.
Pemerintah Indonesia melalui Komdigi telah menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 untuk mengatur sistem perlindungan anak di ranah digital. Dengan meningkatkan literasi digital, diharapkan masyarakat dapat memahami pentingnya kritis dalam mengonsumsi informasi dan menjaga privasi data mereka. Semua pihak, terutama di tingkat daerah, dihimbau untuk intensif dalam sosialisasi program literasi digital ini agar semua pemangku kepentingan teredukasi secara merata.
