L’Institut de recherche en IA centrée sur l’humain de l’université Stanford (Stanford HAI) a mené, depuis son lancement en juin, l’étude empirique la plus vaste jamais réalisée sur les algorithmes de recrutement par IA. Elle révèle que, dans les candidatures de 26% de candidats noirs et de 15% de candidats asiatiques, le système de tri par IA en place présente une discrimination correspondant à la définition de la règle dite des « quatre-cinquièmes » de la Commission américaine pour l’égalité des chances en matière d’emploi (EEOC). Le groupe le plus favorisé est généralement celui des candidats blancs.
Étude de 3,4 millions de demandeurs d’emploi, 4 millions de candidatures, couvrant 150 employeurs et 11 secteurs
L’étude porte sur 3,4 millions de demandeurs d’emploi, 4 millions de candidatures, 1 700 postes, 150 employeurs et 11 secteurs. Il s’agit de la plus grande étude empirique au monde à ce jour sur des algorithmes de recrutement par IA. Le groupe de contrôle comprend 108 des entreprises du classement Fortune 500, avec 83 000 candidatures. Ces entreprises n’utilisent pas de filtrage par IA, et la pratique systématique du rejet total est presque inexistante dans le groupe de contrôle.
La règle dite des « quatre-cinquièmes » de l’EEOC stipule que, si le taux de recommandation pour un groupe donné est inférieur de plus de 20% à celui du groupe ayant le taux de recommandation le plus élevé (soit moins de 80%), alors il existe un seuil légal d’« effet défavorable ». En appliquant cette norme, l’étude indique qu’en recommandant à des taux équitables les candidats noirs et asiatiques, plus de 40 000 candidatures pourraient passer à l’étape d’examen par des humains.
L’étude met aussi en évidence un « mécanisme d’occultation » de la discrimination : si l’on calcule la moyenne des taux de recommandation en mélangeant l’ensemble des postes, la discrimination disparaît presque dans les chiffres. Par exemple, un système d’IA qui privilégie la recommandation des candidats noirs pour des postes de logistique et d’entreposage mais ne recommande pas pour les métiers financiers, une fois additionné puis moyenné, donne une valeur proche d’un seuil d’équité. Ce n’est qu’en analysant poste par poste et groupe par groupe que la discrimination apparaît.
Problème de concentration algorithmique : 90% des employeurs américains utilisent un tri par IA, Workday fait face à un recours collectif
Sur 4 entreprises utilisant le même fournisseur d’IA, 10% des candidats qui postulent à ces quatre entreprises se voient refuser par toutes ; ce phénomène est presque absent dans le groupe de contrôle qui n’utilise pas le tri par IA. Les chercheurs l’attribuent à ce qu’ils appellent une « culture algorithmique unique » : le même ensemble d’algorithmes est déployé, avec ses biais, dans des centaines d’entreprises, ce qui conduit à l’exclusion systématique de certains groupes de candidats dans l’ensemble du marché de l’emploi, et les candidats ne sont généralement même pas au courant.
Les chercheurs identifient trois caractéristiques à haut risque déjà présentes dans les outils de tri par IA :
Adoption généralisée (Pervasively Adopted) : environ 90% des employeurs américains utilisent déjà l’IA dans le processus de recrutement
Forte portée (Highly Consequential) : détermine directement si le candidat peut accéder à l’étape d’examen par des humains
Manque de transparence pour le public (Opaque) : les candidats ne savent pas si un algorithme les écarte, et les employeurs ne maîtrisent pas nécessairement les performances réelles de l’outil dans chaque catégorie de postes
L’outil de tri par IA de Workday fait actuellement l’objet d’un recours collectif. Les allégations couvrent des discriminations fondées sur la race, l’âge et le handicap.
L’AI Act du Colorado entre en vigueur en juin ; la norme de « soins raisonnables » n’est pas encore précisée
L’AI Act du Colorado entre officiellement en vigueur en juin 2026. C’est à ce jour l’une des rares lois étatiques américaines imposant des exigences de conformité explicites aux outils de recrutement par IA. Elle demande aux développeurs de mettre en place des mesures de « soins raisonnables » afin de prévenir les discriminations. Toutefois, le contenu précis de ces « soins raisonnables » ainsi que le mécanisme d’exécution restent à définir.
L’équipe de recherche indique que la validité de ce type d’étude suppose l’accès aux données, alors que les données de recrutement sont souvent contrôlées par les fournisseurs et les employeurs. L’étude ajoute aussi que, en 2026, les diplômés de la prochaine promotion font face à l’un des environnements d’emploi les plus difficiles des dernières années : les candidatures aux postes d’entrée en entreprise sont 3 fois supérieures à celles de 2022, et l’utilisation des outils de tri par IA augmente au même rythme.
Questions fréquentes
Qu’est-ce que la règle dite des « quatre-cinquièmes » de l’EEOC, et comment cette étude l’utilise-t-elle pour établir une discrimination ?
La règle dite des « quatre-cinquièmes » prévoit que, si le taux de recommandation pour un groupe donné est inférieur à 80% du taux du groupe ayant le taux de recommandation le plus élevé, alors la situation atteint le seuil légal d’« effet défavorable ». La recherche de Stanford HAI utilise ce critère pour analyser, poste par poste et groupe par groupe, les données de tri par IA ; elle constate que, dans 26% des candidatures de candidats noirs et 15% des candidatures de candidats asiatiques, le système d’IA présente une discrimination correspondant à la définition ci-dessus à l’égard du groupe auquel ils appartiennent.
Pourquoi les discriminations liées au recrutement par IA étaient-elles difficiles à identifier par le passé ?
La raison principale est la « disparition » statistique de la discrimination. Lorsqu’on mélange et moyenne le taux de recommandation de l’ensemble des postes, un taux plus élevé observé pour certains postes dans une catégorie peut compenser un taux plus faible observé dans d’autres postes d’une autre catégorie ; l’ensemble de la moyenne se rapproche alors d’un seuil d’équité. Ce n’est qu’en procédant à une analyse détaillée, poste par poste et groupe par groupe, que l’étude de Stanford HAI fait apparaître la discrimination dans les chiffres.
Quelles sont les dispositions concrètes de l’AI Act du Colorado pour les outils de recrutement par IA ?
L’AI Act du Colorado est entré en vigueur en juin 2026. Il exige des développeurs d’outils de recrutement par IA qu’ils prennent des mesures de « soins raisonnables » pour prévenir la discrimination. C’est, à l’échelle des États-Unis, l’une des rares législations sur le recrutement par IA déjà effectives à ce jour. Les critères précis de « soins raisonnables » et les mécanismes d’exécution correspondants, figurant dans le texte, doivent encore être clarifiés davantage par les autorités compétentes.
