Saat AI Menyeleksi Karyawan, Prasangka Justru Menguat dan Tersembunyi

Setiap kali Anda mengirim lamaran kerja, mungkin bukan lagi mata manusia yang pertama kali membaca riwayat hidup Anda. Di balik portal karier dan platform lowongan, algoritma kecerdasan buatan kini banyak mengambil alih tugas penyaringan awal. Logikanya sederhana: mempercepat proses, memangkas biaya, dan menghilangkan subjektivitas perekrut. Namun riset terbaru justru membalikkan anggapan itu. Alih-alih menjadi wasit yang netral, model bahasa besar (LLM) yang menjadi otak di balik banyak sistem rekrutmen modern ternyata mampu membentuk dan memperkuat stereotip. Lebih mengkhawatirkan lagi, bias yang dihasilkannya bisa lebih pekat ketimbang bias yang muncul dari keputusan manusia.

Ibarat sebuah cermin yang tidak hanya memantulkan, tetapi juga membiaskan cahaya, model AI menyerap data dari internet yang sarat dengan prasangka sosial. Kemudian, saat diminta menilai kandidat, cermin itu memproyeksikan kembali bias tersebut dalam bentuk keputusan yang tampak objektif karena dikemas dalam angka dan persentase kecocokan. Temuan ini menantang asumsi lama bahwa teknologi dapat menjadi solusi atas keberpihakan manusia dalam dunia kerja.

Eksperimen dan Data yang Membuka Kedok Netralitas

Sebuah studi berskala besar menguji beberapa model fondasi populer dalam tugas-tugas rekrutmen yang disimulasikan. Peneliti meminta model untuk mengevaluasi profil kandidat dengan kualifikasi identik, tetapi dengan nama, jenis kelamin, atau latar belakang etnis yang disamarkan melalui penanda tertentu. Hasilnya mencengangkan. Pada beberapa model, probabilitas seorang kandidat dengan nama yang diasosiasikan dengan kelompok minoritas untuk direkomendasikan ke tahap wawancara turun hingga 8 persen dibandingkan kandidat dengan nama yang lebih lazim di kelompok mayoritas, meskipun seluruh isi CV tidak berbeda satu kata pun.

Lebih jauh, ketika model diminta menjelaskan alasan penilaiannya, respons yang diberikan sering kali penuh dengan rasionalisasi yang terdengar profesional, seperti "kandidat A tampak lebih percaya diri" atau "kandidat B memiliki gaya komunikasi yang kurang asertif". Padahal, kedua profil menggunakan deskripsi pengalaman dan pencapaian yang persis serupa. Inilah bahaya latennya: bias tidak lagi hadir dalam bentuk penolakan langsung yang mudah dikenali, melainkan berubah menjadi justifikasi berbasis "karakter" yang sangat sulit disanggah oleh pelamar. Model tidak hanya menolak, ia mengarang cerita untuk mendukung penolakan itu.

Mengapa Algoritma Justru Melebihi Prasangka Manusia

Pada pandangan pertama, sulit menerima bahwa mesin bisa lebih bias daripada manusia. Bukankah manusia memiliki sejarah panjang diskriminasi yang terekam dalam berbagai studi ketenagakerjaan? Kuncinya terletak pada perbedaan cara kerja antara kognisi manusia dan jaringan saraf buatan. Manusia memiliki pengalaman langsung, kemampuan merasakan konteks, serta mekanisme koreksi sosial seperti pelatihan keberagaman atau umpan balik dari lingkungan. Mesin tidak memiliki semua itu.

Model LLM bekerja dengan memprediksi kata berikutnya berdasarkan pola statistik dalam data latihnya. Jika dalam jutaan dokumen teks yang dilahapnya, profesi "insinyur perangkat lunak" lebih sering muncul bersama nama perempuan dengan ilustrasi peran pendukung, maka model secara sistematis akan mengasosiasikan perempuan dengan kompetensi teknis yang lebih rendah. Pola ini tidak terbentuk karena niat jahat, melainkan karena matematika murni. Namun dampaknya justru lebih gigih dan seragam. Sementara manusia bisa lelah, berubah pikiran, atau mendapat pencerahan, model akan terus mengulangi bias yang sama secara konsisten tanpa ampun, selama bobot dan parameter di dalamnya tidak diintervensi secara sadar.

Proses pelatihan juga memainkan peran krusial. Teknik penyelarasan seperti RLHF (Reinforcement Learning from Human Feedback), yang bertujuan membuat model lebih sopan dan aman, terkadang hanya "menyembunyikan" bias di bawah permukaan. Model belajar untuk tidak mengeluarkan pernyataan yang terang-terangan diskriminatif, tetapi tetap menyimpan stereotip di lapisan representasi internalnya. Ketika berhadapan dengan tugas rekrutmen yang mensyaratkan objektivitas, stereotip tersembunyi ini muncul kembali dalam wujud rekomendasi yang merugikan kelompok tertentu.

Dampak Nyata dan Upaya Mitigasi di Dunia Profesional

Konsekuensi dari temuan ini bukan sekadar perdebatan akademis. Di berbagai belahan dunia, puluhan persen perusahaan telah mengintegrasikan AI dalam alur rekrutmen mereka, mulai dari penyaringan kata kunci di CV, analisis video wawancara, hingga pemeringkatan kandidat. Apabila bias yang melekat pada model tidak terdeteksi, maka yang terjadi adalah industrialisasi diskriminasi. Siklus perekrutan yang bias akan menghasilkan tempat kerja yang homogen, menghambat inovasi, dan memicu ketimpangan yang semakin lebar.

Lalu, apakah kita harus membuang jauh-jauh AI dari proses ketenagakerjaan? Tidak juga. Para peneliti dan insinyur mengembangkan pendekatan audit algoritma secara berkala, mirip dengan audit keuangan, yang secara spesifik mengukur tingkat keberpihakan model terhadap kelompok demografis tertentu. Teknik "debiasing"—seperti menyeimbangkan data latih atau menambahkan petunjuk eksplisit kepada model agar mengabaikan atribut sensitif—telah menunjukkan perbaikan. Namun, efektivitasnya masih sangat terbatas. Dalam salah satu pengujian, instruksi langsung untuk "jangan mempertimbangkan jenis kelamin kandidat" hanya mengurangi bias sebesar 34 persen, bukan menghilangkannya sepenuhnya.

Sejumlah regulator di berbagai kawasan kini mulai mewajibkan transparansi algoritma dalam keputusan yang berdampak pada peluang kerja seseorang. Konsep "hak atas penjelasan" mulai dimasukkan ke dalam rancangan kebijakan, memberi pelamar hak untuk mengetahui apakah mereka disaring oleh sistem otomatis dan atas dasar apa. Langkah ini memaksa pengembang platform untuk merancang model yang tidak hanya akurat, tetapi juga adil sejak dari perencanaan.

Pada akhirnya, narasi bahwa mesin dapat menyelamatkan perekrutan dari kelemahan manusia adalah ilusi yang perlu segera dikoreksi. Mesin, dalam wujudnya yang paling canggih sekalipun, adalah artefak budaya kita, lengkap dengan segala prasangka yang terukir di dalamnya. Tugas kita bukan menyerahkan kendali sepenuhnya, melainkan membangun lapisan pengawasan yang memungkinkan teknologi menjadi alat bantu yang sesungguhnya netral—sebuah perjalanan yang tampaknya masih panjang dan memerlukan lebih banyak penelitian, regulasi, dan keberanian untuk mengakui bahwa kode program pun bisa mewarisi kelemahan paling gelap dari penciptanya.