L'outil de recrutement par IA accusé de racisme ! Étude de Stanford : les Noirs et les Asiatiques subissent une inégalité systémique

HAI de Stanford montre que la première étude sur le terrain d’un algorithme de recrutement IA à grande échelle révèle que 26 % des demandeurs d’emploi noirs et 15 % des demandeurs d’origine asiatique rencontrent un système de filtrage IA discriminatoire lors de leur candidature.
(Précédent : elle a écrit une thèse de 14 pages qu’elle a été licenciée de Google, et cinq ans plus tard, toutes ses prédictions sur les risques de l’IA se sont réalisées)
(Contexte supplémentaire : la vague de licenciements par IA devient une poudrière sociale ! Silicon Valley enregistre des profits records mais licencie près de 150 000 personnes, l’écart de richesse atteint des niveaux proches de l’occupation de Wall Street)

Table des matières de cet article

Toggle

• « La règle des quatre cinquièmes » et l’élimination de l’inégalité
• Culture algorithmique unique : un fournisseur, des biais reproduits sur tout le marché
• La vitesse de la réglementation largement en retard sur celle du déploiement

Parmi les entreprises utilisant simultanément le même fournisseur d’IA, 10 % des candidats postulent aux quatre entreprises mais se voient tous refuser. Ce chiffre peut sembler simplement dû à la chance, mais un groupe de contrôle donne une réponse différente : dans une étude synchronisée portant sur 108 entreprises du Fortune 500, 83 000 candidatures, ces entreprises n’utilisaient pas d’IA pour le filtrage, et le phénomène de rejet systématique était presque inexistant.

La recherche publiée ce mois-ci par Stanford HAI a suivi 3,4 millions de demandeurs d’emploi, 4 millions de candidatures, couvrant 1 700 postes, 150 employeurs, 11 industries, ce qui en fait la plus grande observation sur le terrain d’un algorithme de recrutement IA à ce jour. La conclusion pointe directement vers un problème structurel longtemps ignoré : l’effet discriminatoire des outils de filtrage IA n’est pas une erreur accidentelle, mais une sortie systémique de leur conception.

« La règle des quatre cinquièmes » et l’élimination de l’inégalité

La Commission pour l’égalité des chances en emploi (EEOC) aux États-Unis utilise une norme depuis longtemps, appelée « règle des quatre cinquièmes », qui stipule qu’une recommandation inférieure à 80 % du taux de recommandation du groupe le plus favorisé constitue un « impact défavorable », c’est-à-dire une discrimination légale.

L’étude a révélé que 26 % des demandeurs noirs et 15 % des demandeurs asiatiques rencontrent une discrimination selon cette définition dans les postes pour lesquels ils postulent, selon le système IA. Le groupe le plus favorisé étant généralement les demandeurs blancs. Si l’on appliquait une recommandation équitable pour les noirs et les asiatiques, environ 40 000 candidatures supplémentaires passeraient à l’étape de l’examen humain.

Mais il existe un piège clé, et la raison principale pour laquelle ces problèmes de discrimination ont été difficiles à détecter auparavant : si l’on calcule la recommandation moyenne en mélangeant tous les postes, la discrimination disparaît numériquement. Par exemple, un système IA favorisant la recommandation des noirs pour les emplois en entreposage logistique, mais ne recommandant pas les noirs pour les postes financiers, voit la moyenne globale sembler proche de l’équité.

Ce n’est qu’en analysant poste par poste, groupe par groupe, que la discrimination apparaît. L’absence de telles études auparavant s’explique en partie par la difficulté d’accès aux données et par la résistance des employeurs à la surveillance externe.

Culture algorithmique unique : un fournisseur, des biais reproduits sur tout le marché

Actuellement, environ 90 % des employeurs américains utilisent une forme d’outil de filtrage IA dans leur processus de recrutement, mais la majorité dépend des mêmes quelques fournisseurs tiers. Cette structure de marché très concentrée a engendré ce que les chercheurs appellent une « culture algorithmique unique » : en d’autres termes, lorsque les biais d’un même algorithme sont déployés dans des centaines d’entreprises, certains groupes de demandeurs d’emploi sont systématiquement exclus du marché du travail, sans même en avoir conscience.

L’outil de filtrage IA de Workday a déjà fait l’objet d’un recours collectif, accusé de discrimination raciale, liée à l’âge et au handicap. Mais ces poursuites sont une réparation a posteriori ; les chercheurs s’intéressent davantage à la prévention systémique.

Les outils de filtrage IA présentent trois caractéristiques qui les rendent particulièrement dangereux : adoption généralisée, hautes conséquences et manque de transparence pour le public. Les demandeurs d’emploi ignorent souvent s’ils ont été éliminés par l’algorithme, les employeurs ne connaissent pas forcément la performance réelle de l’outil selon les catégories de postes, et les régulateurs manquent de données pour effectuer des contrôles.

La vitesse de la réglementation largement en retard sur celle du déploiement

En juin 2026, la loi sur l’IA du Colorado entrera en vigueur, exigeant que les développeurs d’outils de recrutement IA prennent des mesures « raisonnables » pour prévenir la discrimination. Il s’agit de l’une des rares législations étatiques aux États-Unis à imposer des exigences claires pour l’IA de recrutement, mais les standards précis de « raisonnable » restent flous, et les mécanismes d’application doivent encore être établis.

Le moment de la publication de cette étude n’est pas fortuit. Les diplômés de 2026 font face à l’un des environnements d’emploi les plus difficiles ces dernières années : le nombre de candidatures pour les postes d’entrée a triplé par rapport à 2022, et l’utilisation des outils IA de filtrage a également augmenté. Face à l’explosion des candidatures et à la limite des ressources pour l’examen manuel, la dépendance des employeurs à l’automatisation ne fera que croître.

L’équipe de recherche souligne clairement que pour promouvoir une politique basée sur des preuves concernant l’IA dans le recrutement, il faut des études indépendantes sur ces algorithmes. Mais la réalité est que ces études dépendent souvent de l’accès aux données, qui sont généralement détenues par les fournisseurs et les employeurs. La réussite de cette étude de Stanford HAI repose en partie sur la coopération des employeurs, ce qui n’est pas évident dans des conditions normales.

• 3,4 millions de demandeurs d’emploi, 4 millions de candidatures, 150 employeurs
• 26 % des candidatures des demandeurs noirs sont discriminées par l’IA ; 15 % pour les Asiatiques
• Si la discrimination était éliminée, 40 000 candidatures supplémentaires passeraient à l’étape suivante
• Quatre entreprises utilisant le même fournisseur d’IA, 10 % des candidats sont totalement rejetés
• Loi sur l’IA du Colorado, entrée en vigueur en juin 2026, exigeant une « prise en charge raisonnable »