Pada 2024, teknologi AI generatif telah menjadi komoditas yang mudah diakses siapa saja. Kini, tanpa keahlian teknis, siapa pun dapat membuat gambar, video, dan audio yang realistis hanya dengan mendeskripsikan hasil yang diinginkan.

Lebih mengkhawatirkan lagi, wajah dan suara siapa pun di dunia dapat dikloning hanya dari satu foto dan rekaman suara singkat. Kemudahan ini telah dimanfaatkan oleh para pelaku kejahatan siber, hacktivist, negara-negara adversarial, penipu, outlet berita palsu, dan tentara siber.

Preseden ini lebih cepat dari yang diantisipasi sektor publik maupun swasta. Laporan “The State of Deepfakes 2024” dari Sensity AI mengungkap skala ancaman yang mengkhawatirkan ini. Perusahaan visual threat intelligence ini didirikan pada 2018, berbasis di Amsterdam, Belanda.

Berdasarkan data yang dikumpulkan Sensity AI, ekosistem teknologi deepfake telah berkembang pesat dengan ribuan alat yang tersedia secara bebas di internet:

• 2.298 alat untuk AI face swap, lip sync, face reenactment, dan AI-avatar
• 10.206 alat untuk generasi gambar AI
• 1.018 alat untuk generasi dan kloning suara AI
• 47 alat untuk injeksi deepfake KYC

Angka-angka ini mencakup repositori publik, proyek open source, alat gratis, dan layanan berbayar dengan harga di bawah $50 per bulan—membuatnya sangat mudah diakses.

Tiga Ancaman Utama Deepfake

1. Kampanye Pengaruh (Influence Campaigns)

Kampanye pengaruh menggunakan deepfake merupakan salah satu instrumen destabilisasi paling berdampak untuk memengaruhi opini publik. Konten termanipulasi ini disebarkan melalui media sosial dan platform digital lainnya untuk memperluas perpecahan sosial dan merusak stabilitas struktur politik, ekonomi, atau sosial suatu negara.

Target utama berturut-turut adalah Politisi: 39,2%; Selebritas: 29,4%; Pelaku bisnis: 19,6%; Teroris: 6,9%; dan Militer: 4,9%.

Wilayah dengan dampak sangat tinggi meliputi Amerika Serikat, Eropa Timur, dan beberapa negara Asia. Kampanye dirancang sangat terstruktur, mulai dari pengumpulan intelijen, analisis audiens target, identifikasi vektor, narasi, hingga pemilihan waktu untuk penyebaran.

Contoh kasus:

• Dalam konflik Israel-Hamas, kedua pihak menggunakan AI untuk propaganda: Hamas membuat gambar AI yang menampilkan warga Gaza di reruntuhan, sementara propaganda Israel membuat video deepfake yang menggabungkan lip sync dan kloning suara, menampilkan selebriti global menyatakan dukungan mereka.
• Pada Pemilihan AS 2024, ditemukan 48 video deepfake yang menampilkan Ron DeSantis selama kampanye Partai Republik, dengan salah satu video palsu menunjukkan DeSantis mengumumkan pengunduran dirinya dari pemilihan—menyebar sebelum pengunduran diri yang sebenarnya.

2. Penipuan Deepfake (Deepfake Scams)

Penipuan menggunakan deepfake memanfaatkan video dan audio yang sangat meyakinkan untuk meniru entitas atau individu terpercaya, menipu orang agar memberikan data pribadi atau melakukan pembayaran palsu.

Industri yang paling ditargetkan:

• Trading: 35,6%
• Retail: 15,4%
• Gambling: 14,4%
• Subsidi publik: 12,5%
• Kesehatan: 9,6%
• Dating: 6,7%
• Kripto: 5,8%

Kasus Quantum AI Scam: Salah satu penipuan paling canggih adalah Quantum AI Scam yang menggunakan kombinasi lip sync deepfake dan kloning suara untuk mereplikasi tokoh terkenal seperti Elon Musk, Justin Trudeau, dan Rishi Sunak.

Penipuan ini mengklaim menggunakan AI dan komputasi kuantum untuk menghasilkan keuntungan tinggi bagi investor. Skemanya disebarkan melalui iklan media sosial dan artikel berita palsu yang disesuaikan untuk setiap negara.

Mereka menggunakan tokoh reporter lokal palsu yang berinteraksi dengan tokoh global untuk memberikan legitimasi. Penipuan ini menargetkan 48 negara, terutama di Asia, Eropa, dan Amerika Utara.

3. Penipuan KYC (KYC Frauds)

Penipuan KYC menggunakan deepfake melibatkan manipulasi video dan gambar yang canggih untuk mengalahkan sistem pengenalan wajah dan deteksi liveness yang digunakan dalam proses onboarding digital.

Sektor yang paling diserang:

• Fintech: 38%
• Kripto: 18%
• Trading: 15%
• Pembayaran: 14%
• Gambling: 11%
• Telekomunikasi: 4%

Berdasarkan bukti yang dikumpulkan selama tiga tahun terakhir, kelompok penipu di Amerika Latin telah menguasai teknik ini dengan sangat baik. Asia Tenggara dan Afrika juga mengalami dampak besar dari serangan ini.

Cara kerja serangan: Penyerang menggunakan emulator mobile dan kamera virtual untuk mengubah streaming video secara meyakinkan, melewati pengenalan wajah dan pemeriksaan liveness selama proses verifikasi identitas online.

Mereka mengumpulkan paspor dan foto korban, kemudian menggunakan perangkat lunak canggih untuk melakukan face-swapping secara real-time.

Aktor di Balik Ancaman Deepfake

Sensity AI mengklasifikasikan pelaku ancaman deepfake menjadi enam kategori:

1. Penjahat Siber (Cyber Criminals): Menggunakan deepfake untuk penipuan dan pemerasan
2. Tentara Siber (Cyber Soldiers): Digunakan oleh negara atau organisasi untuk perang siber dan menyebarkan disinformasi
3. Badan Adversarial (Adversary Agencies): Badan intelijen yang menggunakan deepfake untuk operasi paramiliter siber
4. Outlet Berita Palsu (Fake News Outlets): Spesialis dalam pembuatan dan penyebaran konten deepfake untuk menyesatkan publik
5. Penipu (Fraudsters): Mengeksploitasi teknologi AI untuk mencuri biometrik wajah dan suara guna melewati verifikasi KYC
6. Hacktivist: Menggunakan deepfake untuk memajukan agenda politik atau sosial

Tantangan ke Depan

Laporan ini memperingatkan beberapa tantangan yang akan dihadapi di masa depan:

• Listing palsu berbasis AI di marketplace perjalanan dapat mengikis kepercayaan konsumen
• Manipulasi klaim asuransi oleh AI dapat menyebabkan kerugian finansial signifikan
• Penipuan romantis deepfake menimbulkan risiko emosional dan finansial yang parah
• Peniruan identitas selama panggilan video mengancam integritas komunikasi jarak jauh
• Kloning suara real-time untuk penipuan telepon memperkenalkan tingkat kecanggihan baru dalam aktivitas penipuan

Menghadapi ancaman ini, diperlukan upaya bersama dari pembuat kebijakan, pengembang teknologi, dan masyarakat untuk melindungi dari potensi penyalahgunaan deepfake. Teknologi deteksi berlapis yang canggih, pendidikan literasi digital, dan kerangka regulasi yang kuat menjadi kunci untuk memastikan pengembangan teknologi AI yang bertanggung jawab.

Sensity AI sendiri menawarkan tiga lapisan perlindungan: verifikasi media (analisis tingkat piksel dan forensik file), keamanan KYC (pencegahan injeksi deepfake), dan intelijen ancaman (pemantauan berkelanjutan terhadap konten deepfake di internet).

Tahun 2024 menandai titik kritis teknologi AI generatif, menurunkan hambatan masuk secara drastis untuk produksi konten sintetis. Sementara demokratisasi teknologi ini membawa inovasi, ia juga membuka pintu bagi penyalahgunaan dalam skala massal.

Dari kampanye pengaruh yang merusak proses demokrasi, penipuan yang merugikan jutaan orang, hingga peretasan sistem verifikasi identitas—ancaman deepfake telah berkembang jauh melampaui kekhawatiran teoretis.

Ini adalah ancaman nyata yang memerlukan respons nyata dan segera dari semua pemangku kepentingan.

^{*Photo by Nellie Adamyan via Unsplash}