Bayangkan sejenak: wajah, suara, bahkan gerak tubuh Anda dicuri dan digunakan mesin akal imitasi (AI) untuk bikin video atau audio palsu. Video-video palsu ini bisa membuat Anda terlihat mengatakan atau melakukan hal-hal yang tidak pernah Anda lakukan.

Targetnya mulai menyasar pejabat tinggi. Pada awal Juli 2025, Departemen Luar Negeri AS memperingatkan para diplomatnya mengenai upaya peniruan identitas menggunakan AI untuk menyamar sebagai Menteri Luar Negeri Marco Rubio dan mungkin pejabat lainnya.

Skenario yang cukup mengerikan, bukan? Teknologi ini kita kenal sebagai “deepfake“. Inilah masalah mendesak yang ingin diatasi Pemerintah Denmark dengan undang-undang baru yang berani.

Negara Nordik ini sedang dalam proses mengamandemen undang-undang untuk secara eksplisit memberikan individu hak cipta atas fitur wajah, suara, dan kemiripan fisik mereka. Langkah pertama di Eropa, berpotensi mengubah lanskap perlindungan identitas digital di dunia.

Undang-undang yang diusulkan ini dapat diibaratkan sebagai “Magna Carta era digital” untuk identitas pribadi. Ini berarti warga akan memiliki kendali penuh atas bagaimana wajah atau suara mereka digunakan di dunia maya.

Menteri Kebudayaan Denmark, Jakob Engel-Schmidt, dengan tegas menyatakan bahwa setiap orang memiliki hak atas tubuh, suara, dan fitur wajah mereka sendiri, sebuah hak yang menurutnya belum cukup dilindungi oleh undang-undang saat ini dari penyalahgunaan AI generatif.

Perubahan Radikal Hukum Deepfake

Jika ada deepfake yang dibuat tanpa izin, warga akan memiliki hak hukum untuk menuntut penghapusannya dari platform daring. Yang lebih penting, tindakan hukum dapat dimulai hanya karena diimitasi oleh AI, bahkan jika deepfake tersebut dibuat tanpa rekaman asli individu tersebut.

Ini perubahan radikal dari klaim pencemaran nama baik tradisional yang lazimnya minta bukti kerugian. Pelanggaran terhadap aturan yang diusulkan dapat mengakibatkan kompensasi dan ganti rugi bagi yang terkena dampak, memberi upaya hukum yang nyata bagi korban.

Salah satu tujuan utama undang-undang ini adalah mencegah penyebaran video deepfake yang secara tidak akurat menggambarkan individu mengatakan atau melakukan hal-hal yang tidak pernah mereka lakukan.

Ini penting dalam konteks menjaga integritas proses demokrasi dan memastikan pemilih yang terinformasi, secara langsung menghadapi ancaman deepfake dan media sintetis terhadap institusi demokrasi dan hak asasi manusia fundamental.

Undang-undang ini juga menggarisbawahi pentingnya lisensi kemiripan untuk melindungi kekayaan intelektual pencipta dan memastikan kompensasi yang adil untuk penggunaan komersial gambar, suara, atau video mereka.

Dengan menyediakan kerangka hukum untuk kompensasi, undang-undang ini memastikan individu diberi penghargaan atas nilai yang dihasilkan oleh identitas mereka, mengurangi eksploitasi ekonomi oleh teknologi AI.

Tantangan yang Mengintai

Meskipun niatnya mulia, implementasinya menantang. Tantangan mengidentifikasi konten yang dimanipulasi, memverifikasi status persetujuan, dan menavigasi masalah yurisdiksi, sangat kompleks. Terutama ketika materi deepfake diterbitkan dari luar wilayah Denmark.

Mengawasi internet yang luas dan global dengan undang-undang hak cipta nasional secara inheren sulit, terutama mengingat lebih dari 95% video deepfake dilaporkan dibuat menggunakan perangkat lunak sumber terbuka yang mudah diakses.

Jika manusia saja kesulitan membedakan deepfake dari konten asli, platform menghadapi tantangan besar dalam memoderasi konten semacam itu dalam skala besar.

Ambiguitas menentukan kriteria deepfake

Undang-undang ini juga memperkenalkan ambiguitas mengenai apa yang sebenarnya termasuk deepfake yang melanggar. Pertanyaan muncul tentang bagaimana modifikasi kecil, seperti menambahkan tahi lalat atau mengubah warna kulit.

Pada deepfake jenis ini dapat memengaruhi status hukumnya, perlu batasan seberapa banyak perubahan yang diperlukan untuk menghindari pelanggaran. Keberadaan doppelganger dan kembar identik juga menghadirkan tantangan, berpotensi salah sasaran.

Kritikus khawatir undang-undang yang diinterpretasikan secara luas dapat melanggar hak-hak fundamental, khususnya kebebasan berekspresi dalam konteks satire, parodi, atau pidato politik.

Meski undang-undang Denmark mencakup pengecualian eksplisit untuk satire dan parodi, peringatan tentang “misinformasi yang dapat menimbulkan ancaman serius” memperkenalkan elemen subjektif yang dapat menyebabkan efek mengerikan pada penggunaan AI yang kreatif.

Menghambat inovasi pengembang

Ketidakpastian hukum karena legislasi perintis semacam itu berpotensi menghambat inovasi teknologi dengan membuat pengembang dan pengguna AI terlalu berhati-hati dalam menyebarkan alat AI generatif yang melibatkan kemiripan manusia.

Perusahaan akan menghadapi beban kepatuhan, karena mereka perlu memastikan telah memperoleh “persetujuan yang cukup.” Dalam banyak kasus ini akan memerlukan konsen “secara individual” dari setiap orang yang karakteristik atau penampilan yang akan digunakan.

Bisnis akan memikul tanggung jawab untuk menghindari pelanggaran, dan kegagalan untuk melakukannya dapat menyebabkan kewajiban ganti rugi yang besar.

Merek yang saat ini memanfaatkan deepfake untuk mengurangi biaya produksi atau menskalakan konten dengan lebih cepat, dapat menghadapi dampak signifikan jika aturan baru ini mengubah lanskap hukum.

Belum kompak lintas negara

Terakhir, keberadaan undang-undang seperti “Take It Down Act” di AS menunjukkan pendekatan yang terfragmentasi dan terpisah-pisah terhadap regulasi AI secara global. Deepfake adalah “tantangan struktural dan multifaset” yang, menurut para ahli, tidak boleh ditangani secara terpisah.

Tidak adanya konsensus regulasi global yang terpadu secara signifikan mempersulit upaya penegakan hukum bagi masing-masing negara, karena deepfake dapat dengan mudah berasal dan menyebar melintasi batas negara.

Masa Depan Identitas Digital

Undang-undang hak cipta deepfake usulan Denmark merupakan inisiatif legislatif yang berani dan penting untuk melindungi identitas digital individu di era AI generatif yang berkembang pesat.

Dengan secara unik memperlakukan kemiripan individu sebagai kekayaan intelektual, undang-undang ini menawarkan upaya hukum yang berpotensi lebih kuat dan langsung terhadap penyalahgunaan deepfake dibandingkan dengan kerangka privasi atau pencemaran nama baik tradisional.

Namun, undang-undang ini tidak luput dari kompleksitas dan tantangan. Hambatan praktis yang signifikan tetap ada, terutama mengenai penegakan global yang efektif di seluruh platform daring tanpa batas.

Ambiguitas hukum mengenai definisi “kemiripan” yang bernuansa dalam konteks AI, dan keseimbangan yang rumit yang diperlukan dengan hak-hak fundamental seperti kebebasan berekspresi dan keharusan untuk inovasi teknologi, akan menuntut navigasi yang cermat.

Inisiatif Denmark berfungsi sebagai indikator kuat dari tren global yang lebih luas menuju regulasi AI yang lebih ketat. Sangat mungkin bahwa negara-negara lain akan mengikuti, meskipun dengan pendekatan legislatif yang bervariasi, dalam upaya mereka untuk mengelola dampak sosial AI generatif.

Tantangan bagi pembuat kebijakan secara global adalah mencapai keseimbangan: Bagaimana secara efektif melindungi hak individu dan integritas masyarakat dari penyalahgunaan AI, dan secara bersamaan mendorong inovasi dan melestarikan bentuk-bentuk ekspresi yang sah.

Pada akhirnya, regulasi perintis ini menandai titik balik krusial dalam upaya masyarakat mendefinisikan, menghargai, dan melindungi identitas manusia, di dunia yang semakin digital dan serba AI. Menetapkan preseden yang akan membentuk perdebatan hukum dan etika di masa depan.

^{*Ilustrasi dibuat dengan Google Gemini}