Aplikasi dan situs web “nudify” untuk menciptakan gambar dan video eksplisit non-konsensual kian menjamur. Aplikasi yang memanfaatkan akal imitasi (AI) ini, bisa mendulang omzet miliaran per tahun.

Fenomena ini sering menargetkan perempuan dan anak perempuan. Kini berkembang menjadi industri gelap yang meraup jutaan dolar, bahkan dengan dukungan (seringkali tanpa disadari) dari layanan teknologi raksasa.

Penelitian terbaru dari Indicator, sebuah publikasi yang fokus pada penipuan digital, mengungkap skala masalah yang mengejutkan, dari 85 situs “nudify” dan “undress” yang mereka analisis. Layanan begituan menarik biaya langganan mulai dari $7-$50 per bulan.

Situs-situs tersebut secara kolektif menarik rata-rata 18,5 juta pengunjung setiap bulan selama enam bulan terakhir dan berpotensi menghasilkan hingga $36 juta per tahun, atau sekitar Rp587 miliar.

Yang lebih mencengangkan, sebagian besar situs “penelanjangan” ini bergantung pada infrastruktur teknologi dari perusahaan besar seperti Google, Amazon, dan Cloudflare untuk tetap beroperasi.

Amazon dan Cloudflare dituding menyediakan layanan hosting atau pengiriman konten untuk 62 situs, sementara sistem sign-on Google digunakan di 54 situs.

Alexios Mantzarlis, salah satu pendiri Indicator, mengkritik pendekatan “laissez-faire” Silicon Valley terhadap AI generatif yang memungkinkan bisnis menguntungkan ini terus berlanjut.

“Perusahaan teknologi seharusnya tidak tutup mata, dan berhenti menyediakan layanan kepada aplikasi ‘nudifier’ AI, yang jelas-jelas penggunaannya untuk pelecehan seksual,” tegasnya.

Deepfake non-konsensual belakangan ini tengah menjadi sorotan, salah satunya berkat temuan para peneliti terhadap puluhan ribu model AI yang dibuat secara ilegal.

Bagaimana Situs Nudify Bekerja

Situs-situs penelanjangan bekerja dengan menggunakan AI untuk memanipulasi foto dan video, mengubahnya menjadi konten eksplisit (porno) tanpa persetujuan si empunya foto.

Mereka seringkali menghasilkan uang dengan menjual “kredit” atau langganan supaya pengguna bisa membuat gambar-gambar ini. Gelombang generator gambar AI generatif dalam beberapa tahun terakhir telah mempercepat penyebaran teknologi ini.

Dampak dari konten semacam ini sangat merusak. Foto-foto dari media sosial sering dicuri dan digunakan untuk membuat gambar-gambar yang melecehkan. Ini memperingatkan kepada pengguna media sosial agar tidak mengunggah foto sembarangan.

Remaja laki-laki di seluruh dunia bahkan telah menciptakan gambar teman sekelas mereka, menciptakan bentuk cyberbullying dan pelecehan baru. Bahkan dengan cara lama, tindakan tak terpuji seperti ini bisa berdampak fatal bagi korban.

Pelecehan gambar intim sangat menyiksa korban, menyebabkan trauma mendalam dan risiko psikologis berkepanjangan seperti depresi, kecemasan, hingga kecenderungan bunuh diri. Lebih parah lagi, gambar-gambar ini sangat sulit dihapus sepenuhnya dari internet.

Upaya Penegakan Hukum

Di Indonesia, masalah penyalahgunaan deepfake untuk konten pornografi non-konsensual juga menjadi perhatian serius, meskipun ada regulasi seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Pornografi.

Para ahli hukum menyoroti belum adanya ketentuan yang secara spesifik mengatur penggunaan teknologi deepfake. Hal ini menciptakan celah hukum yang dapat dimanfaatkan pelaku kejahatan, mempersulit penegakan hukum dalam aspek pembuktian dan pertanggungjawaban.

Beberapa upaya hukum yang relevan di Indonesia antara lain:

• Undang-Undang Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual (UU TPKS): Pasal 4 UU TPKS dapat menjadi dasar perlindungan hukum bagi korban deepfake porn berbasis AI, terutama dalam kategori pelecehan seksual non-fisik. Korban juga berpotensi mendapatkan restitusi (ganti rugi) atau kompensasi.
• UU ITE dan UU Pornografi: Meskipun belum spesifik mengatur deepfake, pasal-pasal terkait penyebaran konten melanggar kesusilaan (Pasal 27 ayat 1 UU ITE) dan produksi/penyebarluasan pornografi (Pasal 4 ayat 1 UU Pornografi) dapat digunakan untuk menjerat pelaku. Pelaku yang memalsukan data pribadi menggunakan teknologi deepfake juga dapat dijerat dengan sanksi pidana berdasarkan Pasal 68 UU PDP.

Pemerintah Indonesia, melalui Kementerian Komunikasi dan Informatika (Kemkomdigi), menyatakan akan menyiapkan regulasi guna mengatasi ancaman deepfake AI. Selain itu, upaya peningkatan literasi digital di masyarakat menjadi krusial agar individu lebih kritis menghadapi deepfake.

Tindakan dan Seruan untuk Merespons

Secara global, sudah ada inisiatif untuk mengatasi masalah ini. Jaksa kota San Francisco menggugat 16 layanan pembuatan gambar non-konsensual.

Microsoft mengidentifikasi pengembang di balik deepfake selebriti, dan Meta bahkan mengajukan gugatan terhadap perusahaan di balik aplikasi “nudify” yang berulang kali mengiklankan diri di platformnya.

Di AS, Take It Down Act yang baru diundangkan, mewajibkan perusahaan teknologi segera menghapus pelecehan gambar non-konsensual, sementara pemerintah Inggris menjadikan pembuatan deepfake eksplisit ilegal.

Para ahli seperti Henry Ajder, seorang pakar AI dan deepfake, menekankan bahwa meskipun ada aksi, tindakan yang lebih komprehensif diperlukan. Ia menyatakan industri “nudifier” telah berkembang dari proyek sampingan recehan menjadi bisnis ilegal profesional dengan jutaan pengguna.

Ajder berpendapat perusahaan yang memfasilitasi “layanan menyimpang” aplikasi “nudifier” harus mengambil tindakan tegas. Bila tidak, sulit mencegahnya diakses publik dan pengembangnya mendapat untung.

Mantzarlis menambahkan bahwa jika perusahaan teknologi lebih proaktif dan ketat dalam menegakkan kebijakan mereka, kemampuan “nudifier” untuk berkembang akan berkurang.

Meskipun konten semacam ini mungkin bermigrasi ke sudut-sudut internet yang sulit diatur, jika situs web lebih sulit ditemukan, diakses, dan digunakan, audiens dan pendapatan mereka akan menyusut.

Dengan demikian, masalah bawaan era AI generatif ini mungkin tidak dapat sepenuhnya dihilangkan, tetapi cakupannya tentu saja dapat dikurangi secara drastis.

^{*Photo by Louis Hansel on Unsplash}