Algorithmic Monocultures in Hiring
Les auteurs étudient 3,4 millions de candidats et 4 millions de candidatures évaluées par un même fournisseur pour 156 employeurs afin d'examiner les effets d'une monoculture algorithmique. Une analyse position par position révèle des impacts défavorables significatifs pour les candidats noirs et asiatiques conformément aux critères de la loi américaine Title VII, qui étaient masqués dans les agrégats. Les décisions centralisées génèrent des rejets systémiques homogènes — le taux observé de rejets pour des candidats postulant à plusieurs postes dépasse significativement le taux attendu sous indépendance statistique. Des simulations montrent que, dans ce contexte de dépendance centralisée, un candidat doit soumettre beaucoup plus de candidatures pour atteindre une probabilité élevée d'être recommandé par au moins un modèle qu'en cas d'indépendance des décisions. Les auteurs recommandent une surveillance et une régulation renforcées, notamment la mesure de l'impact par poste, la surveillance des dépendances fournisseurs et l'ouverture d'accès aux données pour la recherche indépendante.