Les algorithmes de recrutement fondés sur l’intelligence artificielle montrent des biais raciaux dans la sélection des candidats, selon une étude réalisée par des chercheurs de l’université Stanford. Ces biais sont d’autant plus marqués lorsque les candidats postulent à plusieurs emplois auprès d’entreprises qui partagent le même fournisseur de technologie, ce qui crée une « monoculture algorithmique » problématique.
Les chercheurs Rishi Bommasani, Sarah H. Bana, Kathleen A. Creel, Dan Jurafsky et Percy Liang ont analysé un ensemble de données de la plateforme de talents pymetrics, acquise par Harver en 2022. Ce jeu de données couvre la période allant de décembre 2018 à décembre 2022 et comprend 4 197 168 candidatures soumises par 3 372 132 postulants pour 1 746 postes.
Un système discriminant
Le jeu de données détaille les recommandations d’embauche fournies à 156 employeurs, dont le chiffre d’affaires annuel total atteint 225 milliards de dollars américains. Il couvre onze secteurs, notamment la finance, la fabrication et l’entreposage.
Lorsqu’une personne postulait à un emploi dans l’une de ces entreprises, elle était dirigée vers la plateforme d’apprentissage automatique de pymetrics pour y jouer à des jeux d’évaluation. L’algorithme de la plateforme mesure les performances dans ces jeux et recommande en moyenne 58,2 % des candidats par poste. Les employeurs décident ensuite qui interviewer, rejetant généralement les candidats non recommandés par l’outil.
Les chercheurs estiment que l’algorithme de pymetrics est injuste. « Nous trouvons des preuves substantielles de disparités raciales dans la sélection des candidats par l’IA », ont-ils déclaré. Ils ont établi ce constat en appliquant les critères de la Commission pour l’égalité des chances en matière d’emploi des États-Unis (EEOC).
Un biais amplifié par la monoculture
Selon l’étude, le fait que plusieurs employeurs utilisent le même fournisseur d’algorithmes aggrave le problème. Un candidat rejeté par un premier employeur risque d’être rejeté de la même manière par un second, même s’il aurait pu convenir à ce dernier. Les chercheurs soulignent que cette « monoculture algorithmique » peut priver les candidats de multiples opportunités sans que leur véritable adéquation soit évaluée de manière indépendante.
Appel à la transparence et aux tests indépendants
Les chercheurs plaident pour une plus grande transparence de la part des fournisseurs d’algorithmes de recrutement et pour la mise en place de tests indépendants. « Les entreprises qui utilisent ces outils doivent comprendre comment ils fonctionnent et vérifier qu’ils ne discriminent pas », estiment-ils.
Sollicité, Harver, la société mère de pymetrics, n’a pas répondu dans l’immédiat à une demande de commentaire.
