Saat Mesin Perekrut Justru Lebih Diskriminatif daripada Manusia

Janji teknologi selalu terdengar menggoda: serahkan proses rekrutmen kepada mesin, maka bias manusia akan lenyap. Tidak ada lagi pewawancara yang terpengaruh oleh penampilan, aksen bicara, atau nama yang tertera di CV pelamar. Sayangnya, temuan riset mutakhir membalikkan asumsi tersebut secara telak. Model kecerdasan buatan — khususnya yang berbasis Large Language Model (LLM) atau model bahasa berskala besar — justru terbukti membentuk dan memperkuat stereotip dalam konteks perekrutan, dan yang mengejutkan, tingkat biasnya melampaui bias yang ditunjukkan oleh manusia pada umumnya.

Ibarat seperti cermin pembesar di taman hiburan, LLM tidak sekadar memantulkan bias yang sudah ada di masyarakat, melainkan mendistorsi dan memperbesarnya hingga proporsi yang tidak wajar. Algoritma yang dilatih dengan miliaran kata dari internet, buku, artikel, dan forum diskusi menyerap seluruh prasangka historis yang terkandung dalam data tersebut. Ketika diminta mengevaluasi kandidat untuk posisi tertentu, model tidak bekerja berdasarkan logika murni. Ia menyusun probabilitas berdasarkan pola yang pernah ditemuinya — dan pola itu, sayangnya, sarat dengan ketimpangan representasi yang telah terakumulasi selama berabad-abad.

Bagaimana Mesin Belajar Berprasangka

Untuk memahami fenomena ini, kita perlu melongok ke dalam mekanisme dasar LLM. Model seperti ini bekerja dengan memprediksi kata berikutnya dalam suatu rangkaian teks, berdasarkan miliaran contoh yang telah dipelajarinya. Ketika sebuah model membaca jutaan dokumen yang menyebut "insinyur" lebih sering berdampingan dengan "pria" daripada "wanita", atau "perawat" lebih kerap muncul bersama "perempuan", maka model akan mereplikasi asosiasi tersebut. Bukan karena ia memiliki keyakinan atau niat diskriminatif, melainkan semata-mata karena peluang statistiknya mengarah ke sana.

Masalahnya, dalam konteks rekrutmen, prediksi berbasis probabilitas ini menjadi sangat berbahaya. Ketika perusahaan menggunakan LLM untuk menyaring CV, merangkum wawancara, atau bahkan memberikan rekomendasi perekrutan akhir, stereotip yang tertanam dalam data pelatihan akan ikut tersalurkan ke dalam keputusan penting tersebut. Studi terbaru yang meneliti beberapa model bahasa besar terkemuka menunjukkan bahwa ketika diminta mengevaluasi profil kandidat fiktif dengan kualifikasi yang sepenuhnya identik, model secara konsisten memberikan penilaian berbeda berdasarkan isyarat demografis seperti nama, gender, atau latar belakang etnis pelamar.

Skala Bias yang Melampaui Manusia

Yang paling mengkhawatirkan dari riset ini adalah temuan bahwa bias yang dihasilkan mesin justru lebih kuat dibandingkan bias manusia. Manusia, setidaknya, masih memiliki kesadaran — meski sering kali tidak sempurna — bahwa berprasangka adalah sesuatu yang keliru secara moral dan profesional. Mekanisme sosial, pelatihan keberagaman, dan norma hukum membuat sebagian besar perekrut manusia setidaknya berusaha mengendalikan bias implisit mereka.

Mesin tidak memiliki mekanisme internal semacam itu. LLM tidak merasa bersalah, tidak malu, dan tidak tunduk pada tekanan sosial untuk bersikap adil. Ia hanya menjalankan kalkulasi probabilitas dengan presisi tinggi, yang ironisnya justru membuat biasnya lebih sistematis dan konsisten. Data dari eksperimen terkontrol memperlihatkan bahwa ketika model LLM diminta menilai kelayakan kandidat untuk posisi teknis, model cenderung mendepresiasi pelamar perempuan meskipun kualifikasinya setara. Untuk posisi yang berkaitan dengan perawatan atau administrasi, giliran pelamar laki-laki yang mendapat skor lebih rendah. Pola ini tidak muncul secara sporadis, melainkan berulang dengan konsistensi yang lebih tinggi dibandingkan bias yang ditunjukkan oleh panel perekrut manusia dalam eksperimen paralel.

Akar Masalah dan Upaya Mitigasi

Akar persoalannya terletak pada data dan arsitektur model itu sendiri. Data pelatihan LLM yang diambil dari internet mencerminkan ketimpangan representasi yang sudah berlangsung puluhan, bahkan ratusan tahun. Perempuan kurang terwakili dalam literatur teknis historis. Kelompok etnis minoritas sering digambarkan dalam konteks stereotipikal. Semua ini terserap oleh model tanpa filter kritis. Ditambah lagi, mekanisme dasar model yang bekerja berdasarkan probabilitas membuat stereotip yang paling sering muncul dalam data akan mendapatkan bobot tertinggi dalam pengambilan keputusan.

Lalu, apakah berarti teknologi ini tidak bisa digunakan? Tidak sepenuhnya. Para peneliti dan praktisi etika AI kini mengembangkan beberapa pendekatan mitigasi. Fine-tuning atau penyetelan lanjutan menggunakan dataset yang lebih berimbang secara representasi dapat mengurangi bias tertentu. Teknik RLHF (Reinforcement Learning from Human Feedback) atau pembelajaran penguatan berbasis umpan balik manusia memungkinkan model dikoreksi oleh anotator manusia agar menolak menghasilkan output yang bersifat diskriminatif. Selain itu, audit algoritmik secara berkala oleh pihak ketiga independen menjadi semakin krusial sebelum sistem AI diadopsi untuk keputusan yang berdampak langsung pada kehidupan dan karier seseorang.

Regulasi juga mulai bergerak ke arah yang lebih ketat. Di berbagai negara, aturan tentang penggunaan AI dalam ketenagakerjaan mulai mensyaratkan transparansi algoritmik dan hak bagi pelamar untuk mengetahui apakah mereka dievaluasi oleh sistem otomatis. Perusahaan teknologi pun didorong untuk merilis model card — semacam label nutrisi untuk AI — yang mengungkapkan secara jujur keterbatasan dan potensi bias dari model yang mereka bangun dan pasarkan.

Namun di atas semua solusi teknis dan regulasi tersebut, satu hal yang paling mendasar tetap diperlukan: kesadaran kolektif bahwa mesin tidak netral. Setiap algoritma membawa serta asumsi dan prasangka dari data yang membentuknya. Mengandalkan AI secara buta dalam rekrutmen bukanlah langkah maju menuju objektivitas, melainkan resep untuk mereproduksi dan memperkuat ketidakadilan yang sudah ada. Penelitian ini menjadi pengingat penting bahwa dalam urusan menilai manusia, teknologi tidak boleh menggantikan pertimbangan etis. Mesin mungkin lebih cepat, lebih murah, dan lebih konsisten — tetapi keadilan bukanlah sekadar soal konsistensi. Keadilan membutuhkan empati, pemahaman kontekstual, dan keberanian untuk terus-menerus mempertanyakan asumsi yang kita bawa. Dan untuk hal-hal itu, belum ada model bahasa yang mampu menggantikan manusia sepenuhnya.