Riset Ungkap Model AI Lebih Bias Daripada Manusia dalam Perekrutan
Sebuah penelitian terbaru dari ilmuwan Princeton University dan University of Chicago menemukan bahwa model kecerdasan buatan (AI) berbasis bahasa besar cenderung membentuk stereotip terhadap pelamar kerja dalam simulasi rekrutmen secara lebih kuat daripada manusia.
Simulasi Perekrutan dengan Large Language Model (LLM)
Studi ini menguji sejumlah AI LLM seperti ChatGPT, Claude, dan Gemini dalam simulasi rekrutmen yang diadaptasi dari studi psikologi tentang pembentukan stereotip. Dalam simulasi ini, setiap model diberi peran sebagai konsultan wali kota di kota fiktif dan diminta untuk memilih kandidat untuk berbagai jenis pekerjaan.
Kandidat berasal dari empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki. Model AI kemudian mulai menunjukkan kecenderungan dalam menempatkan kelompok tertentu ke jenis pekerjaan tertentu berdasarkan hasil simulasi sebelumnya, menciptakan tingkat segregasi yang lebih tinggi daripada peserta manusia dalam studi sebelumnya.
Temuan Penting dari Penelitian
Temuan penting adalah bahwa model AI cenderung menciptakan bias yang lebih kuat dalam proses rekrutmen, terutama ketika memiliki kemampuan penalaran yang lebih tinggi seperti o3 dan DeepSeek R1. Hal ini menjadi perhatian serius karena banyak perusahaan mulai menggunakan AI untuk menyaring CV dan melakukan wawancara kerja.
Peneliti juga menemukan bahwa model AI bisa menjadi kurang bias ketika diberi insentif tambahan untuk melakukan perekrutan yang lebih beragam. Informasi pribadi yang relevan seperti usia dan pendidikan kandidat juga mempengaruhi seberapa sering model melakukan segregasi berdasarkan etnis.
Meskipun studi ini dilakukan dalam simulasi dan tidak langsung memengaruhi sistem rekrutmen di dunia nyata, hasilnya memberikan wawasan penting tentang potensi bias dalam AI yang perlu diperhatikan lebih lanjut.
Sumber: CNN Indonesia
