スタンフォード研究：AI採用ツールは黒人求職者の26%に差別が存在する

スタンフォード大学 人間中心の人工知能研究所（Stanford HAI）が、6月に公表して以降、これまでで最大規模となるAI採用向けリクルーティング・アルゴリズムの実地調査を実施した。その結果、黒人の求職者の26%およびアジア系の求職者の15%が応募した職位について、当事者の人種・集団に対し、米国の雇用機会均等委員会（EEOC）が定義する「4分の3ルール」に該当する差別が、AIの選別システムにより生じていることが分かった。最も好まれる集団は通常、白人の求職者である。

調査は340万人の求職者、400万件の応募、150社・11業種をカバー

本調査は、340万人の求職者、400万件の応募、1,700の職種、150社の雇用主、11の業種を対象にしており、現時点で世界最大規模のAI採用アルゴリズムの実地調査だ。対照群はフォーチュン500の企業108社、応募83,000件で、これらの企業はいずれもAIによる選別を採用していない。対照群では、システム的に全員を拒否するような現象はほとんど見られなかった。

EEOCの「4分の3ルール」では、ある集団の採用（リコメンド）率が最も高い採用（リコメンド）率の集団の80%を下回る場合、「不利益」を生む差別にあたる法的なハードルとされる。研究は、この基準に基づき、黒人およびアジア系の求職者を公正な比率で推薦すれば、さらに40,000件の応募が人工（人による）審査の段階へ進む可能性があると示している。

研究は同時に、差別の「数値上の隠れ機構」も明らかにした。すべての職種の推薦率を混ぜて平均化すると、差別が数値上ほぼ消えてしまう。たとえば、あるAIシステムが黒人を倉庫・物流の職務では推薦する一方で金融職務は推薦しないといった偏りがあるとしても、それを合算して平均すると、公正な基準に近い値になる。差別がはっきり見えるのは、職種ごと・集団ごとに分解して分析した場合に限られる。

アルゴリズム集中の問題：米国の雇用主の90%がAIで選別、Workdayは集団訴訟に直面

同一のAI提供業者を使っている4社のうち、10%の求職者が4社すべてに応募したにもかかわらず4社すべてに拒否されている。一方で、AIによる選別を使っていない対照群では、この現象はほとんど存在しない。研究者はこれを「アルゴリズムの単一文化」として説明している。つまり、同じアルゴリズムの偏りが何百もの企業に同時に展開されることで、特定の集団の求職者が雇用市場全体から体系的に排除され、しかも求職者は通常それをまったく知らないということだ。

研究者は、AIによる選別ツールにすでに存在するリスクの高い特性を3種類に整理した。

広く採用（Pervasively Adopted）：米国の雇用主の約90%が採用プロセスで使用している

結果が重大（Highly Consequential）：求職者が人による審査段階に進めるかどうかを直接左右する

一般に不透明（Opaque）：求職者は自分がアルゴリズムで除外されたのかどうかを知る術がなく、雇用主もツールが職種区分ごとに実際どのように機能しているかを必ずしも把握していない

WorkdayのAIによる選別ツールは、現在、集団訴訟に直面しており、訴えは人種、年齢、障害による差別を含んでいる。

コロラドAI Actが6月に施行、「合理的配慮（reasonable care）」の基準はまだ不明確

コロラド州のAI Actは2026年6月に正式施行される。これは、AIの採用ツールに対して合規要件を明確に定めている、現時点の米国でも数少ない州の立法であり、開発者に対し、差別を防ぐための「合理的配慮」措置を講じることを求める。ただし、「合理的配慮」の具体的内容と実施メカニズムは、まだ確立されていない。

研究チームは、この種の研究が成立する前提としてデータの入手が必要であると指摘した。採用データは往々にして供給業者と雇用主が管理しているという。さらに研究は、2026年の卒業予定者が直面しているのは、近年で最も厳しい雇用環境だと述べている。企業のエントリーレベルの求人枠への応募件数は2022年の3倍で、AIの選別ツールの使用割合もそれに歩調を合わせて上昇している。

よくある質問

EEOCの「4分の3ルール」とは何で、この研究はそれをどう使って差別を認定したのですか？

「4分の3ルール」では、ある集団の採用（リコメンド）率が最も高い採用（リコメンド）率の集団の80%を下回る場合、「不利益」を生むという法律上の門戸に達するとされる。スタンフォード HAIの研究は、この基準に従って職種ごと・集団ごとに分解してAIによる選別データを分析し、その結果、黒人の求職者が応募した職位の26%およびアジア系の求職者が応募した職位の15%において、AIシステムが当該集団に対し上記の定義に合致する差別を行っていることを見いだした。

なぜAI採用の差別は、過去には識別されにくかったのですか？

差別が統計上「消える」ことが、主要な理由である。すべての職種の採用（リコメンド）率を混合して平均化すると、ある種の職位で高い推薦率と別の種の職位で低い推薦率が相互に打ち消され、全体の平均値が公正な基準に近づいてしまう。スタンフォード HAIのこの研究は、職種ごと・集団ごとの細かな分析によって、初めて差別が数値の中から姿を現すようにした。

コロラドAI Actは、AI採用ツールに対して具体的にどのような規定がありますか？

コロラドAI Actは2026年6月にすでに施行され、AI採用ツールの開発者に対し「合理的配慮」措置を講じて差別を防ぐことを求めている。これは、米国の州レベルのAI採用立法のうち、現時点で実際に施行済みのものが少ない中でも数少ない施行済み例だ。法案における「合理的配慮」の具体的な基準およびそれに対応する実施メカニズムについては、現時点では所管当局によるさらなる明確化が待たれている。