Sebuah penelitian yang diterbitkan dalam jurnal Proceedings of the National Academy of Sciences mengungkap fenomena mengkhawatirkan: Model bahasa besar (LLM) menunjukkan bias yang signifikan terhadap konten yang dihasilkan oleh AI.

Model terkemuka, termasuk dari ChatGPT, cenderung mmemilih buatan AI dibandingkan dengan konten buatan manusia. Temuan ini, yang oleh para peneliti disebut sebagai “Bias AI-AI”, memicu perdebatan tentang potensi diskriminasi terhadap manusia di masa depan.

Studi yang dipimpin oleh tim dari Charles University ini menguji beberapa LLM populer, seperti GPT-4 dan Llama 3.1. Para peneliti meminta model-model tersebut untuk memilih antara deskripsi produk, artikel ilmiah, dan film yang disajikan dalam dua versi.

Satu versi ditulis oleh manusia dan satu lagi oleh AI. Hasilnya menunjukkan preferensi yang konsisten dan kuat dari AI terhadap konten yang dihasilkan oleh sesama AI. Hal ini bisa berpotensi menimbulkan ancaman, terutama dalam sistem evaluasi dan perekrutan.

“Bias ini adalah temuan yang unik untuk AI itu sendiri,” kata Jan Kulveit, salah satu penulis studi, dalam sebuah utasan di Twitter. Ia menjelaskan bahwa meskipun manusia juga cenderung sedikit menyukai konten buatan AI, preferensi mereka tidak sekuat AI itu sendiri.

Mengapa Bias AI-ke-AI Terjadi?

Beberapa hipotesis menjelaskan mengapa AI-AI bias ini muncul:

1. Pola Linguistik yang Familiar AI mungkin mengenali pola-pola tertentu dalam teks yang dihasilkan oleh model serupa. Seperti halnya manusia yang merasa nyaman dengan gaya komunikasi yang familiar, AI mungkin “merasa” lebih cocok dengan struktur dan pola bahasa yang dihasilkan oleh sesama AI.

2. Optimasi Terhadap Standar Internal Model AI dilatih untuk mengoptimalkan fungsi tertentu. Ketika AI lain menghasilkan konten dengan menggunakan logika optimasi serupa, hasilnya mungkin lebih selaras dengan “standar internal” yang sama.

3. Reinforcement Learning Feedback Loop Proses pelatihan AI sering melibatkan feedback dari evaluator, yang mungkin juga bias terhadap konten yang “terdengar” lebih AI-like karena dianggap lebih “objektif” atau “profesional.”

Dampak pada Berbagai Sektor

Dunia Kerja. Bias ini dapat mengubah lanskap rekrutmen secara fundamental. Resume yang ditulis atau “dipoles” oleh AI mungkin memiliki keunggulan tidak adil dibandingkan resume tradisional buatan manusia, menciptakan tekanan bagi pencari kerja untuk menggunakan AI dalam proses aplikasi.

Pendidikan. Sistem penilaian otomatis yang menggunakan AI mungkin memberikan skor lebih tinggi pada esai atau tugas yang dihasilkan atau dibantu AI, menciptakan insentif bagi siswa untuk mengandalkan teknologi daripada mengembangkan kemampuan menulis autentik mereka.

Industri Kreatif. Penulis, desainer, dan kreator konten mungkin menghadapi dilema: mempertahankan suara kreatif autentik mereka atau menyesuaikan karya dengan “preferensi” AI untuk tetap kompetitif di pasar yang semakin didominasi evaluasi otomatis.

Lingkaran Setan Konten AI

Fenomena ini terjadi di tengah masalah yang lebih besar: Internet yang semakin “terpolusi” oleh AI-generated content atau “AI slop.” Ketika bahan untuk melatih AI semakin banyak mengandung konten yang dihasilkan AI lain, model-model baru berpotensi mengalami degradasi kualitas—fenomena yang dikenal sebagai “model collapse.”

Bias AI-ke-AI mungkin memperburuk masalah ini. Jika AI secara konsisten memilih dan mempromosikan konten buatan AI, ini menciptakan feedback loop yang mempercepat dominasi konten buatan AI di ruang digital. Buatan AI yang dipakai melatih AI menghasilkan bias AI yang semakin kuat.

Strategi Adaptasi di Era AI-AI Bias

Meskipun mengkhawatirkan, ada beberapa strategi yang dapat diterapkan:

Untuk Individu:

• Gunakan AI sebagai alat editing dan penyempurnaan, bukan pengganti total
• Pertahankan suara dan perspektif unik manusia dalam karya
• Pahami kapan dan bagaimana menggunakan AI secara strategis

Untuk Organisasi:

• Implementasikan proses evaluasi hybrid yang melibatkan human judgment
• Kembangkan awareness tentang AI-AI bias dalam tim yang menggunakan AI untuk recruitment atau evaluasi
• Ciptakan mekanisme check-and-balance untuk memastikan keberagaman perspektif

Untuk Pengembang AI:

• Riset lebih lanjut tentang mekanisme bias dan cara mitigasinya
• Kembangkan metrik evaluasi yang lebih robust dan fair
• Pertimbangkan diversitas dalam training data dan proses evaluation

Pandangan ke Masa Depan

Bias AI-ke-AI bukan sekadar bug yang bisa diperbaiki dengan perbaikan sederhana. Ini adalah manifestasi dari cara fundamental AI memproses dan mengevaluasi informasi. Seiring AI menjadi semakin kuat dan berpengaruh, penting untuk mitigasi bias ini.

Ia tidak hanya krusial untuk memastikan teknologi ini melayani kepentingan seluruh umat manusia, tetpai juga menciptakan tidak terjadi echo chamber digital yang hanya menguntungkan sesama mesin. Ini berpotensi “menyingkirkan” manusia dari lanskap konten.

Ironi terbesarnya adalah, dalam upaya menciptakan AI yang “objektif” dan “rasional,” kita malah menciptakan sistem yang bias terhadap dirinya sendiri. Ini mengingatkan kita bahwa netralitas sejati dalam AI mungkin adalah mitos.

Dalam setiap sistem AI membawa bias tertentu, dan tugas kita adalah memahami, mengakui, dan mengelola bias tersebut dengan bijak. Pertanyaannya bukan lagi apakah AI akan mengubah cara kita bekerja dan berinteraksi.

Pada masa depan kita harus memastikan transformasi tersebut tetap human-centered di tengah preferensi AI yang semakin pro-AI. Masa depan yang adil bergantung pada kesadaran kita akan bias tersembunyi ini dan tindakan proaktif untuk mengatasinya.

^{*Photo by Mediamodifier via Unsplash}