Penipuan Deepfake AI Capai Rp700 miliar, Mengapa Anak Muda Harus Bertindak?

Bayangkan jika suatu pagi, wajah seorang tokoh publik muncul di media sosial, mengucapkan pernyataan kontroversial yang memicu amarah warganet. Videonya terlihat nyata baik intonasi, gerak bibir, bahkan ekspresi wajahnya tampak meyakinkan.

Semua orang percaya. Lalu menyimpulkan bahwa tokoh publik tersebut kontroversial. Semua mencaci, membagikannya ke sosial media mereka, dan ditonton oleh pengikut dan sanak saudara mereka.

Sayangnya, semua itu palsu. Video tersebut adalah hasil rekayasa deepfake, teknologi berbasis kecerdasan buatan (AI) yang mampu meniru suara dan wajah seseorang dengan presisi nyaris sempurna.

Fenomena seperti ini kini bukan lagi fiksi ilmiah. Di berbagai negara, termasuk Indonesia, deepfake telah digunakan untuk penipuan finansial, pencemaran nama baik, hingga kampanye disinformasi politik. Hal ini merugikan baik secara ekonomi maupun sosial.

Pada KUMPUL Connect for Change Summit 2025 di Ritz-Carlton Mega Kuningan, Jakarta Selatan, Wakil Menteri Komunikasi dan Digital Nezar Patria memaparkan sejumlah tantangan baru dalam lanskap dunia digital. Utamanya terkait maraknya penyalahgunaan teknologi kecerdasan buatan (AI) untuk kejahatan siber.

Ia menyoroti fenomena deepfake, yakni manipulasi visual dan suara berbasis AI yang kini kian mudah dibuat dan sulit dibedakan dari konten asli. Menurutnya, tanpa kesiapan literasi digital yang kuat, masyarakat bisa menjadi korban penipuan digital yang kian canggih dan merugikan.

“Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat,” kata Nezar dikutip dari komdigi.go.id.

Nezar menjelaskan, laporan terbaru menunjukkan kerugian akibat penipuan berbasis AI di Indonesia telah mencapai sekitar Rp700 miliar, angka yang mencerminkan betapa seriusnya ancaman ini terhadap keamanan digital masyarakat. Memang, pemerintah kini tengah menyusun Peta Jalan AI Nasional sebagai langkah mitigasi dan penguatan tata kelola teknologi agar lebih akuntabel dan etis.

Namun, siapa saja yang harus bertanggung jawab menjaga literasi digital dan pemanfaatan AI secara etis? Dan mengapa generasi muda harus berada di garis depan?

Beberapa pihak memegang tanggung jawab penting dalam menjaga ekosistem digital yang aman dan etis. Jika pemerintah bertanggung jawab merumuskan regulasi, peta jalan AI nasional, dan pengawasan dan penegakan hukum, maka pengembang dan platform teknologi juga wajib memastikan akuntabilitas dan mengedepankan etika dalam pengembangan AI dan platform digital.

Selain dua kutub besar itu, masyarakat umum dan pengguna internet juga harus meningkatkan literasi digital, mengenali konten manipulatif, dan bersikap kritis terhadap konten daring.

Tiap kali membuka ponsel, sebenarnya maka pengguna tengah berinteraksi dengan kecerdasan buatan (AI)? Saat Spotify memutar lagu yang pas dengan suasana hati, Google Maps memilihkan rute tercepat, atau ChatGPT membantu menyusun ide tugas kuliahmu.

Bagi generasi muda, teknologi ini telah menjadi bagian dari hidup sehari-hari. Mereka tumbuh bersama algoritma, akrab dengan data, dan terbiasa dengan kecepatan informasi.

Kedekatan ini membuat anak muda bukan sekadar pengguna teknologi, tetapi juga calon penggerak utama transformasi digital Indonesia. Dengan kemampuan berpikir kritis, kreativitas tinggi, dan rasa ingin tahu yang besar, mereka memiliki potensi menjadi agen perubahan yang memastikan teknologi tidak sekadar canggih, tetapi juga beretika, bermanfaat, dan berpihak pada kemanusiaan.

Karena itu, memahami literasi digital dan AI bukan lagi pilihan, melainkan keharusan. Supaya generasi muda tak hanya mengikuti arus, tapi juga mampu mengarahkannya ke masa depan yang lebih adil dan cerdas secara sosial.

Namun, cukupkah anak muda hanya sekadar paham? Atau harus lebih jauh lagi?

Jika memang harus lebih dari sekadar paham, maka pertanyaannya adalah bagaimana generasi muda bisa menjadi agen perubahan yang memastikan teknologi tidak hanya canggih, tetapi juga beretika, bermanfaat, dan berpihak pada kemanusiaan?

Anak muda perlu membangun sense of skepticism. Tidak mudah percaya pada semua yang mereka lihat di internet. Kasus deepfake yang menyerupai tokoh publik, misalnya, bisa dengan mudah menyesatkan opini publik jika tidak disertai kemampuan verifikasi.

Misalnya, sebelum menyebarkan video sensitif, biasakan mengecek sumber di media arus utama atau lewat fitur reverse image search di Google.

AI bukan sekadar alat, tapi juga cerminan nilai pembuatnya. Ketika anak muda menggunakan ChatGPT, Midjourney, atau aplikasi AI lainnya, penting untuk mencantumkan keterangan bahwa karya tersebut dihasilkan dengan bantuan AI. Ini melatih tanggung jawab dan kejujuran digital.

Kreator konten yang menulis deskripsi “gambar dibuat dengan bantuan AI” menunjukkan kesadaran etika yang menghargai audiens.

Anak muda perlu paham bagaimana data mereka dikumpulkan dan digunakan. Dalam dunia yang serba terkoneksi, data pribadi adalah aset penting yang bisa disalahgunakan.

Ketika mendaftar akun di sebuah aplikasi atau platform, penting untuk memahami pengaturan privasi aplikasi, tidak asal klik “setuju”, serta rutin meninjau izin akses kamera dan mikrofon di smartphone.

Menjadi agen perubahan juga berarti aktif menciptakan ruang digital yang sehat. Anak muda bisa memulai dari hal sederhana: melawan ujaran kebencian, cyberbullying, atau hoaks di media sosial.

Ini bisa diwujudkan dengan bergabung dalam komunitas literasi digital atau menjadi relawan edukasi digital di kampus/sekolah.

Teknologi seharusnya membantu manusia, bukan menggantikannya. Anak muda dengan semangat start-up mindset bisa menciptakan solusi digital yang berpihak pada kemanusiaan. Entah di bidang lingkungan, pendidikan, atau disabilitas.

Jika mempunyai keterampilan dalam IT, hal ini bisa diwujudkan dengan membuat aplikasi berbasis AI yang membantu tunanetra membaca teks, atau platform belajar daring yang memanfaatkan machine learning untuk menyesuaikan gaya belajar tiap siswa.