TikTok merekomendasikan konten-konten yang membahayakan kesehatan mental anak atau remaja. Praktik berisiko itu harus segera dihentikan demi melindungi masa depan anak.

CCDH atau Center for Countering Digital Hate membuat akun TikTok baru di Amerika Serikat, Inggris, Kanada, dan Australia dengan menyaru sebagai anak berusia 13 tahun. Akun-akun ini sempat menonton video tentang citra tubuh dan kesehatan mental, lalu mencet tombol hati untuk menyukainya.

Hanya butuh waktu 2,6 menit kemudian, TikTok merekomendasikan konten tentang bunuh diri. Dalam waktu 8 menit, TikTok menyajikan konten terkait gangguan makan. Setiap 39 detik, TikTok merekomendasikan video tentang citra tubuh dan kesehatan mental kepada akun tersebut.

Akun TikTok yang dibuat dengan menempatkan frasa “menurunkan berat badan” (loseweight) pada namanya mendapat lebih banyak rekomendasi untuk gangguan makan dan konten berisi orang yang menyakiti diri sendiri.

Dibandingkan dengan akun lain yang digunakan dalam riset CCDH tersebut, akun ini menerima:

• 3 kali lebih banyak video berbahaya;
• 12 kali lebih banyak video tentang menyakiti diri sendiri;
• Lebih banyak video berkaitan dengan penyakit mental.

TikTok, milik perusahaan China, Bytedance, merekomendasikan serangkaian video pendek untuk pengguna. Pada bagian linimasa “For You” (Untuk Anda), konten disarankan oleh algoritme TikTok. Algoritme personalisasi ini rupanya merekomendasikan konten-konten berbahaya.

Untuk melakukan personalisasi, platform akan berusaha mengenali si akun. Bila akun masih baru dan belum bisa diprediksi perilakunya, platform rupanya membangun asumsi. Dalam hal ini, nama akun menjadi dasar asumsi tersebut.

Karena ada frasa “menurunkan berat badan” (loseweight) pada nama akun tersebut, algoritme menyarankan konten tentang isu berat badan, tak peduli pengaruhnya pada kesehatan mental. Mereka bombardir akun tersebut dengan konten relevan—menurut platform secara sepihak.

Semua demi engagement, alias tingkat keterlibatan dan daya tarik bagi pengguna. Dengan cara ini TikTok berhasil merebut hati pengguna, berjam-jam betah menonton berbagai video di linimasa. Sementara, ada bahaya mengancam remaja di balik konten yang direkomendasikan itu.

Ini berarti TikTok mengidentifikasi kerentanan pengguna dan mengeksploitasinya. Akun yang rentan dalam studi CCDH menerima 12 kali lebih banyak rekomendasi untuk video tentang melukai diri sendiri dan bunuh diri dibandingkan dengan akun standar.

“Apa yang kami temukan sangat mengkhawatirkan. Tindakan mendesak diperlukan. ‘Deadly by Design’ — laporan baru kami akan memberi wawasan kepada orang tua dan pembuat kebijakan tentang konten dan algoritme yang membentuk kehidupan muda saat ini,” demikian pernyataan CCDH atau Pusat Penanggulangan Kebencian Digital, melalui Imran Ahmed, Sang CEO.

Peneliti CCDH menemukan banyak video tentang kesehatan mental, gangguan makan, atau berisi konten orang yang menyakiti diri sendiri. Di antaranya sangat emosional dan menarik, dengan musik yang kuat dan pesan manipulatif.

TikTok membantah

Algoritme media sosial bekerja dengan cara mengidentifikasi topik dan konten yang menarik bagi pengguna, lalu mengirimkan lebih banyak konten serupa sebagai cara untuk memaksimalkan waktu mereka di situs tersebut.

Namun, para kritikus media sosial mengatakan bahwa algoritma serupa mempromosikan konten tentang tim olahraga tertentu, hobi, atau tren tarian bisa mengirimkan pengguna ke dalam lubang kelinci konten yang berbahaya.

Ini merupakan masalah khusus bagi remaja dan anak-anak, yang cenderung menghabiskan lebih banyak waktu online dan lebih rentan terhadap perundungan, tekanan teman sebaya, atau konten negatif tentang gangguan makan atau bunuh diri, menurut Josh Golin, direktur eksekutif Fairplay, organisasi nirlaba yang mendukung perlindungan online yang lebih baik untuk anak-anak.

Ia menambahkan bahwa TikTok bukanlah satu-satunya platform yang gagal melindungi pengguna muda dari konten berbahaya dan pengumpulan data yang agresif. “Semua bahaya ini terkait dengan model bisnis,” kata Golin. “Tidak ada perbedaan apa pun, pada platform media sosial mana pun.”

Juru bicara TikTok membantah temuan CCDH di atas, menekankan bahwa para peneliti tidak menggunakan platform tersebut seperti pengguna biasa, sehingga hasilnya tidak seimbang. Ia juga mengatakan nama akun pengguna tidak boleh memengaruhi jenis konten yang diterima pengguna.

TikTok melarang pengguna yang berusia di bawah 13 tahun, dan peraturan resminya melarang video yang mendorong gangguan makan atau bunuh diri. Pengguna di AS yang mencari konten tentang gangguan makan di TikTok akan menerima pesan yang menawarkan sumber daya kesehatan mental dan informasi kontak untuk Asosiasi Gangguan Makan Nasional.

“Kami secara teratur berkonsultasi dengan para ahli kesehatan, menghapus pelanggaran kebijakan kami, dan menyediakan akses ke sumber daya dukungan bagi siapa pun yang membutuhkan,” kata pernyataan dari TikTok, dari markas ByteDance Ltd. yang kini berbasis di Singapura.

Rekomendasi untuk orang tua

Dalam tiga tahun terakhir di Indonesia, persentase pengguna TikTok secara konsisten dan signifikan naik dari tahun ke tahun. Pada tahun 2020, persentasenya masih 17 persen. Angka ini naik menjadi 30 persen pada 2021 dan melonjak menjadi 40 persen pada 2022.

Di Amerika Serikat, menurut laporan CCDH, dua pertiga remaja menggunakan TikTok. Rata-rata pemirsa menghabiskan 80 menit per hari pada aplikasi tersebut. Mengingat popularitas dan ancaman yang ditebarkan lewat sistem rekomendasi TikTok, CCDH menyarankan sejumlah hal penting bagi orang tua:

Memahami cara kerja platform

Langkah pertama bagi orang tua adalah memahami bagaimana platform, algoritme, dan konten membentuk kehidupan anak-anak. Mengingat betapa pentingnya aplikasi dalam kehidupan dan perkembangan serta kesehatan mental anak, orang tua seharusnya sama penasaran dengan aplikasi seperti yang saat penasaran tentang teman-teman mereka, mata pelajaran favorit mereka di sekolah, dan hobi serta minat mereka.

Diskusikan dengan anak-anak tentang media sosial

Hal ini sama pentingnya dalam kehidupan mereka, seperti saat TV pada generasi yang lalu. Berbagai platform media sosial memberikan keberagaman konten yang mereka diskusikan bersama teman-teman di sekolah, atau bahkan siapa saja.

Media sosial bahkan menyediakan ruang ikut terlibat, bisa eksis, dan membantu mereka memahami kehidupan mereka sendiri. Tanyakan kepada anak-anak tentang apa yang mereka lihat di linimasa akun mereka, apa yang mereka minati, dan apa yang direkomendasikan kepada mereka. Orang tua bisa belajar dari mereka, seperti saat orang tua mengajari anak-anaknya.

Negosiasikan aturan penggunaan aplikasi

Anak-anak mungkin mengonsumsi konten secara paksa yang tidak mereka sadari berbahaya. Banyak orang tua yang duduk di ruang tamu dan tahu persis di mana anak-anak mereka berada—di kamar tidur—tetapi sama sekali tidak tahu mereka bertemu dengan siapa, mengonsumsi konten macam, dan apa efeknya terhadap mereka.

Negosiasikan dengan anak-anak untuk menetapkan batasan, kepercayaan, dan norma yang diterima sehingga mendorong dialog lebih lanjut. Jangan biarkan anak-anak meenjelajah rimba belantara yang tak dikenalnya, tak disadarinya mengundang banyak ancaman, tanpa pengawasan. Namun, jangan sampai pengawasan itu dirasakan sebagai “penjara” bagi kebebasan anak-anak.

Diskusikan bersama orang tua lain

Konten yang mengancam anak-anak hingga remaja bukan sekadar persoalan konten belaka. Hal ini bisa membahayakan kesehatan mental anak, dan bisa mempengaruhi kehidupannya saat dewasa. CCDH menyarankan para orang tua untuk saling berdiskusi, dan saling menyebarkan ancaman ini.

Bila perlu, tindakan politik dilakukan agar sistem moderasi konten diperkuat lagi, terutama dari sisi pengelola platform. Meskipun ada upaya dari masyarakat sipil untuk mengawasi moderasi konten di media sosial, tak semuanya berfokus pada konten-konten untuk kesejahteraan anak.

*Gambar: Tangkapan layar laporan CCDH