Sebuah studi terbaru telah menemukan bahwa model kecerdasan buatan berbasis bahasa besar dapat membentuk stereotip terhadap pelamar kerja dalam simulasi rekrutmen. Penelitian ini melibatkan beberapa jenis model kecerdasan buatan seperti ChatGPT, Claude, dan Gemini untuk menilai perilaku mereka dalam seleksi kandidat untuk berbagai posisi pekerjaan.
Simulasi Perekrutan dan Pembentukan Stereotip
Dalam studi ini, setiap model kecerdasan buatan diminta untuk memilih kandidat untuk berbagai jenis pekerjaan, mulai dari dokter hingga pengasuh anak, di sebuah simulasi rekrutmen. Kandidat berasal dari empat kelompok etnis fiktif yang berbeda. Setelah memilih satu kandidat, model diberi tahu apakah kandidat tersebut berhasil dalam pekerjaannya. Hasil penelitian menunjukkan bahwa model kecerdasan buatan cenderung membentuk stereotip, di mana mereka mengarahkan kelompok tertentu ke pekerjaan tertentu berdasarkan pengalaman kandidat sebelumnya.
Potensi Bias yang Lebih Tinggi dari Model AI
Model AI seperti OpenAI o3 menunjukkan kecenderungan bias yang lebih tinggi daripada manusia dalam menempatkan kandidat berdasarkan kelompok etnis. Model AI memiliki skor segregasi yang lebih tinggi daripada peserta manusia dalam studi tersebut. Hal ini menimbulkan kekhawatiran terkait penggunaan AI dalam proses rekrutmen, di mana kecenderungan bias dapat memengaruhi keputusan seleksi kandidat.
Dalam praktiknya, sistem AI dalam rekrutmen tidak selalu langsung mengetahui kinerja sebenarnya dari kandidat. Namun, umpan balik terhadap kandidat yang diterima oleh model dapat memengaruhi keputusan terhadap kandidat berikutnya. Oleh karena itu, penting untuk terus melakukan evaluasi dan pengawasan terhadap penggunaan AI dalam proses rekrutmen untuk mengurangi risiko bias yang mungkin timbul.
