Teknologi deepfake semakin menjadi sorotan karena kemampuannya menghasilkan video atau audio yang sangat realistis, namun sebenarnya rekayasa atau palsu. Pemanfaatan teknologi deepfake pun kini marak untuk berbagai kepentingan mulai produksi konten di media sosial, film, iklan, dan lainnya.
Akan tetapi, teknologi ini tidak lepas dari penyalahgunaan yang bisa membahayakan individu, kelompok, bahkan negara karena menjadi alat produksi propaganda. Satu contoh penggunaan deepfake yang menyebabkan kegaduhan warganet yakni video mantan Menteri Keuangan Sri Mulyani pada Agustus 2025 lalu. Saat itu Sri Mulyani yang masih menjabat Menteri Keuangan menjadi korban video deepfake.
Dalam video itu, Sri Mulyani dimanipulasi dengan menyampaikan bahwa guru adalah beban negara. Video palsu itu langsung mendapat reaksi negatif dari para warganet yang tidak mengetahui jika video tersebut deepfake.
Kasus lain penyalahgunaan deepfake yang terjadi baru-baru ini yakni seorang mahasiswa, Chiko Radityatama Agung Putra, melakukan manipulasi gambar dan video (deepfake) wajah sejumlah siswi dan guru SMA Negeri 11 Semarang tersebut dengan konten vulgar di akun X.
Pada 20 Oktober 2025, siswa dan alumni SMA Negeri 11 Semarang menggelar unjuk rasa setelah muncul kabar bahwa pelaku yang memproduksi konten pornografi dengan mengedit wajah korbannya menggunakan artificial intelligence (AI) merupakan alumnus sekolah itu sendiri.
Contoh kasus itu menunjukkan dampak nyata dari bahaya deepfake. Teknologi itu tidak sekadar memproduksi konten hoaks di media massa, tapi pelanggaran privasi. kekerasan digital kepada kelompok rentan, hingga alat propaganda yang membahayakan negara.
Teknologi deepfake mulai dikenal sekitar tahun 2017. Belakangan pemanfaatan teknologi ini semakin meningkat tajam. Di Indonesia sudah ada beberapa regulasi yang berkaitan dengan penyalahgunaan teknologi seperti Deepfake. Misalnya UU ITE, UU Perlindungan Data Pribadi, dan UU tentang Pornografi. Tetapi belum ada regulasi spesifik dan komprehensif yang secara eksklusif mengatur deepfake sebagai kategori tersendiri.
Wakil Menteri Komunikasi dan Digital Nezar Patria meminta platform digital global menghadirkan fitur pengecekan dalam mengenali konten yang dibuat oleh kecerdasan AI untuk membantu masyarakat menangkal hoaks dan deepfake.
“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” kata Nezar dalam Talkshow Bentara Nusantara bertajuk Urun Daya Tangkal Hoax dan Deepfake AI di kantor RRI, Jakarta, dikutip Komdigi.go.id, Selasa (09/09/2025).
Dia menilai fenomena deepfake kian mengkhawatirkan. Data Sensity AI mencatat peningkatan 550 persen konten deepfake dalam lima tahun terakhir.
“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” tegas Nezar.
Nezar Patria menyatakan platform memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.
“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” jelasnya.
Nezar menekankan pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.
Saat ini, pemerintah juga menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Selain regulasi, Kementerian Komdigi juga menggandeng ekosistem luas, termasuk Mafindo dan media, dalam program cek fakta.
Teknologi deepfake jika dibiarkan tanpa pengawasan sangat mungkin mengancam privasi hingga menjadi alat propaganda yang mengakibatkan keributan. Bagi individu yang menjadi korban deepfake sangat mungkin mengalami trauma dan merusak. Korban bisa menjadi target bullying, stigma , atau kecemasan panjang akibat konten yang tersebar.
Deepfake juga bisa menimbulkan disinformasi massal. Hal ini mengingat Deepfake dapat digunakan untuk menyebarkan berita palsu, memanipulasi opini publik atau kepercayaan masyarakat terhadap institusi.
Salah satu cara agar tidak termanipulasi konten deepfake yaitu dengan mengenli ciri-cirinya. Beberapa tanda yang bisa dicurigai deepfake yakni gerakan bibir tidak selaras dengan suara, ekspresi wajah atau mata tampak aneh atau kaku, dan suara terdengar seperti robot atau agak datar.
Leave a Reply