AI採用ツールは人種差別や組織的な排除につながりやすいことが研究で判明

実運用環境の採用アルゴリズムに関する初の大規模調査によって、AI採用ツールが候補者を不採用とするときのパターンに懸念すべき傾向があることが明らかになりました。

[2605.27371] Algorithmic Monocultures in Hiring
https://arxiv.org/abs/2605.27371

AI Hiring Tools Can Yield Racial Bias and Systemic Rejection | Stanford HAI
https://hai.stanford.edu/news/ai-hiring-tools-can-yield-racial-bias-and-systemic-rejection

Algorithmic Monocultures in Hiring
https://algorithmichiring.github.io/

AIの普及によって、求職者は簡単に履歴書やエントリーシートを作成して就職活動することができるようになりました。アメリカでは雇用が減少する一方で、応募数が増加し、企業は2022年と比べて3倍もの応募を受ける状態にあるとのこと。このため、雇用側も90％がAIの採用ツールを使用して、求職者を分類・ランク付けしています。

スタンフォード大学の人間中心AI研究所(HAI)は、AI採用ツールの多くが少数のサードパーティーベンダーに依存していることに着目し、アルゴリズムが求職者にどのような影響を与えているかを調査しました。

調査対象となったのは150の雇用主・11の業界セクターにわたる1700件の求人広告と、400万件の応募書類を提出した340万人です。それぞれの求人応募は単一のサードパーティーベンダーによって構築されたAI採用ツールによって評価が行われました。

以下は、AI採用ツールによる悪影響を受けた割合を示したグラフ。白人やヒスパニックが悪影響を受けた割合は1％を切っていますが、アジア系は5.3％、黒人は10.6％の事例で悪影響を受けていました。

応募者数(左)および応募件数(右)ごとの悪影響を受けた割合だと、アジア系はおよそ15％、黒人はおよそ26％の応募案件で、最初から排除された状態だったことが示されました。

具体的には、もしAI採用ツールが黒人やアジア人の求職者を白人と同じ割合で推薦していた場合、4万件以上の求人で黒人・アジア人求職者は採用プロセスの次の段階に進むことができていたとのこと。

HAIは過去の研究で、多くの雇用主が同じアルゴリズムによる推薦に依存するようになると、一部の人々が仕事から締め出されてしまう可能性があることを理論付けていました。今回、採用AIツールの実事例の大規模データセットを使用して検証を行ったところ、同じアルゴリズムの採用AIを用いた求人に複数の応募を出した人は、企業がそれぞれ独立して採用可否を決めた場合に比べて、すべての応募案件で拒否される可能性が高いことがわかりました。

同時期に行われたフォーチュン500企業108社による8万3000件の求人を、採用AIツールを用いたかどうかを無視して調べたところ、応募者が応募したすべての企業から拒否された割合は、各企業がそれぞれ独立して採用可否を決定した場合に予想される割合よりも高くないことがわかりました。つまり、同一の採用AIツールを使用したことによる偏りと同様のことは、他の状況では発生しなかったというわけです。

このことから、HAIは単一の採用AIツールが審査基準を支配するようになると、候補者が締め出されてしまう危険性があると指摘しています。

HAIは、採用AIツールには「広く普及している」「極めて重大な影響を及ぼす」「一般市民にとって不透明」という、重要な意志決定において共存すべきではない特性が統合された状態にあると述べ、アルゴリズム採用に関する独立した研究がなければ、個々の雇用の見通しや、全体的な労働力構成に対するAIの影響を管理するための証拠に基づいたAIポリシー追求が難しくなると懸念を示しました。