Bias Algoritma Perekrutan: Ketika AI Lebih Diskriminatif daripada Manusia

Dunia perekrutan kerja sedang mengalami transformasi besar-besaran berkat kehadiran teknologi AI (Artificial Intelligence/kecerdasan buatan). Dari penyaringan ribuan resume hingga wawancara otomatis, sistem berbasis algoritma menjanjikan kecepatan dan objektivitas yang tak mungkin ditandingi perekrut manusia. Namun, temuan terbaru dari penelitian independen justru menunjukkan bahwa klaim objektivitas itu bisa menjadi ilusi berbahaya: model-model AI ini ternyata mampu membentuk dan menerapkan stereotip yang lebih tajam dibanding manusia dalam menyeleksi kandidat.

Implikasinya sangat serius. Ibarat seperti kita mempercayakan proses seleksi pada robot yang, tanpa sepengetahuan kita, mewarisi seluruh prasangka tersembunyi dari data yang digunakannya. Dalam praktiknya, ini bisa berarti bahwa kandidat dengan nama yang berasosiasi dengan minoritas etnis atau gender tertentu secara sistematis mendapatkan skor lebih rendah, meskipun kualifikasinya setara atau bahkan lebih baik.

Mekanisme Algoritma yang Menyerap Prasangka

Untuk memahami fenomena ini, kita perlu menengok cara kerja model LLM (Large Language Models/model bahasa besar) yang menjadi otak dari banyak platform rekrutmen modern. Model-model ini dilatih menggunakan kumpulan data raksasa dari internet, dokumen perusahaan, dan arsip historis. Dalam proses pelatihannya, model tidak hanya mempelajari aturan tata bahasa atau pengetahuan faktual, tetapi juga menyerap pola-pola kultural, termasuk stereotip dan asosiasi bias yang telah lama tertanam di masyarakat.

Contohnya, jika dalam data historis tercatat bahwa posisi manajerial lebih sering diisi oleh pria, maka model akan mengasosiasikan kata “pemimpin” atau “direktur” dengan figur maskulin. Demikian pula, jika data menunjukkan bahwa pekerja teknis didominasi oleh nama-nama dari kelompok etnis tertentu, model akan membangun korelasi serupa. Ketika model ini digunakan untuk menyaring kandidat, asosiasi-asosiasi tersebut langsung memengaruhi penilaian, tanpa disertai konteks atau pengecekan fakta.

Ketika Mesin Lebih Bias daripada Manusia

Penelitian yang dilakukan oleh tim ilmuwan dari beberapa universitas terkemuka—yang dipublikasikan awal tahun ini—mengukur tingkat bias pada beberapa model AI yang digunakan dalam rekrutmen. Mereka menciptakan ribuan resume fiktif dengan variasi nama, gender, dan latar belakang etnis, lalu membandingkan penilaian AI dengan sekelompok perekrut manusia profesional. Hasilnya mengejutkan: dalam banyak kasus, AI menunjukkan bias hingga 40% lebih tinggi dalam menurunkan peringkat kandidat dari kelompok yang secara historis terpinggirkan.

Mengapa AI bisa lebih buruk? Salah satu penjelasannya terletak pada sifat deterministik dari algoritma. Manusia kadang-kadang dapat menyadari prasangkanya dan melakukan koreksi sadar, atau setidaknya memiliki keraguan. Sebaliknya, model AI bekerja dengan percaya diri tinggi berdasarkan pola statistik murni. Ia tidak memiliki mekanisme introspeksi atau empati untuk mempertanyakan mengapa asosiasi tertentu terbentuk. Dengan kata lain, AI tidak hanya meniru bias manusia—ia bisa memperkuatnya karena ketiadaan filter etika yang dinamis.

Dampak Nyata dan Upaya Mitigasi

Konsekuensi dari bias algoritmik ini sudah mulai terlihat di berbagai perusahaan multinasional. Kandidat yang secara objektif memenuhi syarat sering kali tidak pernah mencapai tahap wawancara karena skor otomatis yang rendah. Hal ini tidak hanya merugikan individu, tetapi juga perusahaan itu sendiri yang kehilangan potensi talenta terbaik serta menghadapi potensi tuntutan hukum terkait diskriminasi.

Beberapa upaya mitigasi mulai dikembangkan oleh para peneliti. Pendekatan pertama adalah audit algoritma rutin, di mana model diuji secara berkala menggunakan dataset yang dirancang khusus untuk mendeteksi bias. Kedua, teknik debiasing dalam pelatihan, yang mencoba membersihkan atau menyeimbangkan data sebelum digunakan untuk melatih model. Ketiga, yang paling krusial adalah penerapan human-in-the-loop, di mana selalu ada pengawasan manusia pada tahap-tahap kunci untuk mengkoreksi potensi diskriminasi.

Namun, solusi teknis saja tidak cukup. Diperlukan kerangka regulasi yang mewajibkan transparansi dari penyedia platform rekrutmen AI, serta edukasi bagi praktisi HR tentang risiko dan batasan teknologi ini. Tanpa langkah-langkah tersebut, kita hanya akan menciptakan lingkaran setan di mana prasangka lama direproduksi oleh mesin, lalu dipresentasikan sebagai keputusan objektif yang seolah-olah bebas dari campur tangan manusia.

Pada akhirnya, teknologi adalah cermin yang memantulkan data yang diberikannya. Jika cermin itu dibentuk oleh sejarah yang penuh ketimpangan, maka pantulannya pun tidak akan pernah adil. Tugas kita sebagai masyarakat adalah memastikan bahwa alat bantu cerdas ini tidak memperkokoh tembok diskriminasi, melainkan membantu meruntuhkannya demi dunia kerja yang benar-benar inklusif.