Ketika Asisten Digital “Kurang Piknik” Jadi HRD: Mengapa AI Lebih Rasis dan Berprasangka Saat Merekrut Karyawan?

Bayangkan Anda memiliki asisten rumah tangga yang sangat rajin. Dia mencatat setiap kali Anda bersin setelah makan apel, lalu dengan penuh percaya diri memutuskan untuk membuang seluruh apel di dalam kulkas dan melarang Anda memakannya seumur hidup. Terdengar konyol? Memang. Namun, persis seperti itulah cara kerja kecerdasan buatan (AI) yang hari ini diagung-agungkan oleh banyak direktur HRD untuk menyaring pelamar kerja. Sebagai “majikan” yang dikaruniai akal sehat, kita harus mulai melihat alat-alat ini dengan mata yang skeptis dan kepala dingin, bukan dengan ketakutan magis seolah mereka adalah dewa penentu takdir.

Baru-baru ini, sebuah riset dari Princeton University dan University of Chicago membongkar fakta yang menggelitik sekaligus mengkhawatirkan: AI memiliki kecenderungan yang jauh lebih agresif untuk membentuk stereotipe dan bias baru berdasarkan pengalamannya sendiri dibandingkan manusia saat menyaring kandidat karyawan. Alih-alih menjadi penilai objektif yang bebas dari sentimen subjektif, sistem ini justru bertindak seperti birokrat kaku yang gampang menyimpulkan sesuatu hanya berdasarkan satu atau dua kegagalan di masa lalu.

Ingatlah selalu bahwa secerdas apa pun programnya, sistem ini tidak memiliki kesadaran moral maupun pemahaman kontekstual yang mendalam. Tanpa kendali penuh dari akal manusia, teknologi perekrutan berbasis algoritma ini hanyalah sekadar mesin penggeneralisasi yang siap merusak keragaman tim kerja Anda demi mengejar metrik efisiensi yang semu.

Analisis Mendalam

Dalam eksperimen simulasi perekrutan yang diadaptasi dari studi psikologi manusia, para peneliti menguji model-model bahasa besar (LLM) ternama seperti ChatGPT, Claude, dan Gemini. Model-model ini diposisikan sebagai konsultan untuk wali kota dari sebuah kota fiksi dan ditugaskan menyaring kandidat untuk 20 posisi pekerjaan yang bervariasi, mulai dari dokter, pengacara, hingga petugas kebersihan. Para kandidat berasal dari empat kelompok etnis fiksi: Tufa, Aima, Reku, dan Weki. Secara statistik, para peneliti telah mengatur agar semua kandidat dari setiap kelompok memiliki peluang sukses yang persis sama di setiap pekerjaan.

Namun, begitu simulasi berjalan, algoritma ini langsung menunjukkan “bakat alamiah” mereka dalam mengotak-ngotakkan orang secara diskriminatif. Ketika model diberi tahu bahwa seorang kandidat dari kelompok Aima gagal dalam tugasnya sebagai dokter (sebuah pekerjaan yang didefinisikan membutuhkan tingkat kompetensi dan kehangatan sosial yang tinggi), sistem tersebut langsung membuat kesimpulan ekstrem. Alih-alih mencoba kandidat Aima lainnya untuk posisi dokter di putaran berikutnya, AI tersebut langsung menggeser kelompok Aima ke pekerjaan dengan kualifikasi lebih rendah, seperti petugas kebersihan, dengan asumsi bahwa seluruh etnis tersebut kurang kompeten.

Yang paling mengejutkan adalah seberapa jauh tingkat bias ini melampaui batas prasangka manusia biasa. Dalam skala segregasi yang digunakan peneliti—di mana angka 2 berarti pemisahan total kandidat berdasarkan etnis ke dalam pekerjaan tertentu—partisipan manusia mencatatkan skor 0,84. Sementara itu, rata-benar model AI mencetak skor 65% lebih tinggi. Bahkan, model penalaran tingkat tinggi terbaru seperti OpenAI o3 mencatatkan skor mencengangkan sebesar 1,83—nyaris mendekati batas maksimal prasangka absolut.

Baca juga artikel menarik lainnya di kategori Etika Mesin.

Batasan Sistem

Mengapa model-model yang diklaim memiliki kemampuan penalaran luar biasa ini justru menjadi yang paling diskriminatif? Jawabannya terletak pada apa yang disebut para psikolog sebagai dilema eksplorasi-eksploitasi (exploration-exploitation dilemma). AI dirancang dan dioptimalkan untuk memecahkan masalah matematika, sains, dan pemrograman—bidang-bidang yang sangat menghargai kemampuan generalisasi cepat dari sedikit contoh data. Ketika insting matematis ini dibawa ke ranah sosial manusia yang sangat dinamis, sistem yang “kurang piknik” ini langsung gagal total.

Model penalaran canggih seperti o3 dan DeepSeek R1 melompati kesimpulan terlalu cepat karena mereka didesain untuk selalu mencari pola tercepat menuju efisiensi matematis. Bagi AI, mengotak-ngotakkan pelamar berdasarkan kelompok etnis adalah jalan pintas logis untuk meminimalkan risiko kegagalan perekrutan di putaran berikutnya. Mereka adalah “AI yang masih perlu sekolah” dalam hal dinamika sosial. Mereka tidak memiliki kapasitas untuk memahami konsep keadilan substantif atau kesempatan kedua; bagi mereka, manusia hanyalah sekadar kumpulan angka probabilitas statis.

Ditambah lagi dengan tren fitur memori dan personalisasi pada chatbot saat ini, bahayanya menjadi berlipat ganda. Ketika asisten digital ini terus mengingat detail-detail percakapan dan keputusan masa lalu, mereka berisiko mengunci bias awal tersebut secara permanen. Tanpa adanya intervensi manual dari manusia untuk menghapus memori bias tersebut, sistem akan terus memproduksi keputusan diskriminatif yang dibungkus dengan jargon efisiensi teknologi.

Dampak Masa Depan

Kabar ini seharusnya menjadi alarm keras bagi korporasi yang saat ini memangkas anggaran divisi sumber daya manusia demi menggantinya dengan sistem penyaring CV otomatis. Mengandalkan AI untuk menyaring ratusan ribu pelamar kerja tanpa pengawasan ketat manusia sama saja dengan melegalkan diskriminasi sistematis dalam skala industri. Menariknya, eksperimen ini juga membuktikan bahwa perintah verbal sederhana seperti “bersikaplah adil” kepada model AI hampir tidak memberikan efek apa pun terhadap penurunan bias.

Namun, ada satu celah solusi: bias ini berkurang secara signifikan ketika peneliti mendesain ulang tujuan sistem dengan memberikan “bonus keragaman” dalam metrik penilaian perekrutan mereka. Hal ini membuktikan bahwa masa depan regulasi teknologi harus berfokus pada bagaimana kita merumuskan tujuan akhir (objective goals) sebuah program, bukan sekadar menjejalkan pedoman etika normatif yang mudah diabaikan oleh mesin logika kaku. Untuk memahami bagaimana logika kontrol ini bekerja, Anda bisa melihat ulasan kami tentang Logika Penguasa dalam mengendalikan alat-alat digital agar tetap patuh di bawah perintah akal manusia.

Kesimpulan

Pada akhirnya, seluruh kegilaan algoritma ini membawa kita kembali pada satu kebenaran hakiki: kecerdasan buatan, sekuat apa pun penalarannya, hanyalah baris-baris kode mati tanpa kompas moral. Prasangka ekstrem yang mereka ciptakan sendiri dari pengalaman fiktif adalah bukti sahih bahwa logika tanpa akal budi hanyalah jalan tol menuju kebebalan sistematis. Kitalah sang penguasa; manusialah yang harus menekan tombol, mengoreksi memori mereka, dan menentukan batas moral. Sebab AI hanyalah alat, kaulah majikan yang punya akal.

Lagipula, bagaimana bisa kita mempercayakan masa depan karier dan mencari nafkah pada sistem yang masih mengira bahwa ‘rujak cingur’ adalah varian virus komputer terbaru yang berbahaya?

Artikel ini dirangkum dari sumber asli di “AI is more likely than humans to form biases when hiring”.
Gambar oleh: Stephanie Arnett/MIT Technology Review | Adobe Stock via TechCrunch