Ratusan ribu bahkan jutaan model AI generatif tersebar di platform penyedia yang bisa diunduh publik. Kemudahan akses mungkin bagus bagi kreativitas, tetapi menjadi masalah ketika model AI disalahgunakan untuk menghasilkan konten eksplisit.

Model yang bisa memproduksi konten Not Safe For Work (NSFW) tersebut termasuk deepfake yang meresahkan. Fenomena ini telah mengubah lanskap platform penyedia model AI dan memicu perdebatan sengit tentang etika, regulasi, dan tanggung jawab.

Riset menemukan hampir 35.000 varian model deepfake diunduh hampir 15 juta kali. Model itu menargetkan berbagai karakter, mulai dari selebriti global hingga pengguna Instagram dengan kurang dari 10.000 pengikut. Satu model misalnya, secara khusus bisa menghasilkan karakter tertentu.

Model-model AI NSFW bertebaran di berbagai platform bahkan sebagian bisa diunduh gratis. Bayangkan bila model-model tersebut jatuh ke tangan publik atau masyarakat awam tanpa pemahaman yang memadai tentang risiko dan implikasinya.

Tak perlu jadi ahli untuk menjalankan model AI generatif ini, pun tidak harus punya perangkat keras canggih. Saking mudahnya, mungkin semua orang yang bisa mengakses internet pun bisa menjalankan model ini di komputer rumahnya.

Menggunakan model yang diunduh, pengguna hanya perlu perangkat lunak khusus seperti Automatic1111 Stable Diffusion WebUI atau ComfyUI, serta komputer dengan kartu grafis (GPU) yang cukup kuat dengan VRAM memadai (minimal 8GB, idealnya 12GB ke atas).

Setelah mengunduh model, pengguna tinggal menempatkannya di folder yang telah ditentukan. Mereka langsung bisa menulis perintah (prompt), mengatur parameter model, jenis-jenis sumber daya tambahan, dan siap bereksperimen dalam proses iteratif untuk mendapatkan hasil yang optimal.

Ini bukan sekadar konten eksplisit, juga potensi penyalahgunaan untuk penipuan, intimidasi, bahkan eksploitasi, yang merusak individu dan tatanan sosial. Seseorang di kamar kerjanya, dengan komputer rumahannya, bisa memproduksi gambar-gambar yang mengguncang dunia.

Dua Sisi Era Baru Kreativitas Digital

Jangan membayangkan bahwa AI generatif adalah ChatGPT, Gemini, Grok, atau Meta AI. Layanan-layanan tersebut bisa diakses via website, secara daring. Sementara, ratusan ribu model yang tersebar di internet, bisa diunduh dan dijalankan secara luring.

Apa sebenarnya model AI? Mengapa disebut “model”? Model AI adalah serangkaian instruksi atau algoritma yang telah “dilatih” menggunakan sejumlah besar data untuk mengenali pola, membuat prediksi, atau menghasilkan sesuatu (seperti teks, gambar, atau suara).

Disebut “model” karena ia adalah representasi atau “model” matematis dari data yang dipelajarinya. Mirip seniman yang membuat model patung untuk merepresentasikan bentuk manusia, AI membuat model matematis untuk merepresentasikan hubungan dan pola dalam data.

Saat panggung berbagi model mulai memperketat aturan terkait NFSW, masih banyak alternatif lain. Ini seperti “mati satu tumbuh seribu”. Saat platform seperti Civitai memperketat kebijakan kontennya, pengguna dengan cepat bermigrasi ke berbagai platform lain.

Setidaknya ada belasan alternatif, seperti Tensor.art, HuggingFace, Pixai, atau arsip komunitas seperti civitaiarchive.com, yang menawarkan kebijakan lebih longgar. Di HuggingFace saja, ada sekitar 725.000+ model dari berbagai jenis model AI.

Total bisa ada jutaan model bertebaran, meski tidak berarti semuanya terkait NSFW. Dari kasus Civitai saja, peneliti menemukan setidaknya 56% model AI di situsnya bisa memproduksi konten berlabel NSFW, atau kategori PG-13—meminjam kategorisasi dari perfilman.

Awalnya, model-model AI generatif seperti Stable Diffusion dirancang untuk memberdayakan seniman, desainer, dan individu awam untuk menciptakan karya seni, ilustrasi, atau bahkan desain produk dengan cepat dan mudah.

Platform seperti Civitai lalu muncul, menjadi pengepul model AI yang dapat dibagikan, diunduh, dan digunakan secara luas. Kemudahan akses dan kemampuan AI yang semakin canggih memungkinkan siapa saja dapat mengubah ide teks menjadi gambar visual yang menakjubkan.

Bagaimana publik dapat memanfaatkan Model AI

Terlepas dari kontroversi yang menyertainya, model-model AI generatif berpotensi luar biasa untuk dimanfaatkan secara positif oleh publik dan masyarakat awam. Bila digunakan secara bertanggung jawab, model AI adalah alat yang dapat memperluas batas-batas kreativitas.

Berikut adalah beberapa cara bagaimana teknologi ini dapat digunakan untuk tujuan kreatif dan bermanfaat, serta memungkinkan individu dari berbagai latar belakang untuk berpartisipasi dalam dunia seni digital:

1. Menciptakan Karya Seni dan Ilustrasi Personal:
   • Hobi dan Ekspresi Diri: Individu dapat menggunakan AI untuk menciptakan karya seni unik sesuai imajinasi mereka, mulai dari lukisan digital, ilustrasi fantasi, hingga desain karakter. Ini menjadi wadah baru untuk ekspresi diri tanpa memerlukan keahlian melukis tradisional.
   • Personalisasi: Membuat avatar pribadi, wallpaper, atau gambar profil yang disesuaikan dengan gaya dan preferensi unik.
2. Membantu Desain dan Visualisasi:
   • Desain Grafis: Para desainer grafis amatir atau profesional dapat menggunakan AI untuk menghasilkan ide-ide visual awal (konsep) dengan cepat, menciptakan tekstur, pola, atau elemen desain yang kompleks untuk proyek-proyek mereka.
   • Visualisasi Ide: Memvisualisasikan ide-ide abstrak, seperti desain interior rumah impian, lanskap taman, atau bahkan konsep arsitektur sederhana, sebelum diwujudkan secara fisik.
3. Dukungan untuk Penulis dan Pencerita:
   • Ilustrasi Cerita: Penulis fiksi dapat menciptakan ilustrasi untuk karakter, adegan, atau dunia dalam cerita mereka, membantu mereka memvisualisasikan narasi dan bahkan menginspirasi alur cerita baru.
   • Konsep Visual untuk Proyek Kreatif: Membuat mood board atau konsep visual untuk film pendek, video musik, atau proyek penceritaan lainnya.
4. Edukasi dan Pembelajaran:
   • Alat Bantu Belajar: Memvisualisasikan konsep-konsep kompleks dalam sains, sejarah, atau geografi melalui gambar yang dihasilkan AI, membuat pembelajaran lebih menarik dan interaktif.
   • Eksplorasi Kreatif: Memahami bagaimana AI “berpikir” dan menciptakan gambar, yang dapat menjadi pengalaman edukatif tentang teknologi dan seni.
5. Pengembangan Konten Digital:
   • Media Sosial dan Blog: Membuat gambar menarik untuk postingan media sosial, thumbnail YouTube, atau ilustrasi artikel blog tanpa biaya besar dan waktu yang lama.
   • Materi Pemasaran Sederhana: Usaha kecil dapat menghasilkan visual untuk promosi produk atau layanan mereka dengan cepat dan efisien.

Mengapa Model AI jadi kontroversi

Kontroversi yang melingkupi model AI generatif berakar pada beberapa aspek. Masalah ini juga dialami model-model AI untuk membuat konten lain, seperti teks dan video. Bukan sekadar isu teknis, terutama isu sosial dan moral. Itulah mengapa etika AI atau KA sangat penting.

Pada model AI generatif untuk visual, ada dilema etika yang kompleks dalam pengembangan dan penyebaran teknologi ini. Selain isu NSFW, juga ada penggunaan wajah tokoh atau sesesorang dari dunia nyata tanpa persetujuan mereka (non-konsensual).

1. Pelanggaran Privasi dan Reputasi: Deepfake non-konsensual dapat merusak reputasi individu secara permanen, menyebabkan trauma psikologis, dan bahkan membahayakan keamanan mereka. Korban seringkali merasa tidak berdaya karena sulitnya menghapus konten tersebut dari internet.
2. Pornografi Anak yang Dihasilkan AI: Ini adalah isu yang paling sensitif dan berbahaya. Meskipun gambar yang dihasilkan AI tidak melibatkan anak sungguhan, keberadaan konten semacam ini tetap mendorong perilaku menyimpang dan memperkuat ekosistem predator daring yang sangat berbahaya.
3. Tantangan Moderasi Konten: Bagi platform penyedia model AI, memoderasi jutaan gambar dan model yang diunggah setiap hari adalah tugas yang sangat kompleks. Meskipun banyak yang menggunakan AI untuk membantu moderasi otomatis, diskusi di kalangan komunitas AI menunjukkan bahwa nuansa konten dewasa dan deepfake seringkali sulit dideteksi secara sempurna oleh algoritma, sehingga masih membutuhkan intervensi manusia yang memakan waktu dan sumber daya.
4. Tekanan dari Penyedia Layanan: Perusahaan penyedia layanan pembayaran, hosting, dan infrastruktur internet semakin menekan platform AI untuk membersihkan konten mereka. Ancaman pemutusan layanan menjadi pendorong utama bagi platform untuk memperketat kebijakan konten mereka.
5. Isu Hak Cipta dan Kepemilikan: Salah satu perdebatan paling sengit adalah mengenai siapa yang memiliki hak cipta atas gambar yang dihasilkan oleh AI. Apakah itu milik pembuat prompt, pengembang model AI, atau seniman yang karyanya digunakan untuk melatih model? Hukum hak cipta yang ada belum sepenuhnya siap menghadapi kompleksitas ini, menciptakan ketidakpastian bagi kreator dan memicu kekhawatiran tentang penggunaan karya seni tanpa izin untuk melatih AI.

Para ahli dan pembuat kebijakan kini harus bisa menjawab tantangan soal bagaimana menciptakan regulasi yang efektif tanpa menghambat inovasi, serta bagaimana mendorong tanggung jawab dari pengembang, platform, serta pengguna.

Keseimbangan antara kebebasan berkreasi dan mencegah penyalahgunaan jadi kunci untuk memastikan AI dapat terus menjadi kekuatan positif yang memberdayakan kreativitas, alih-alih menjadi alat untuk merugikan.

^{*Tangkapan layar situs Civitai}