採用におけるアルゴリズムのモノカルチャー：システム的な拒絶と人種的バイアス

アルゴリズムのモノカルチャーが雇用へのシステム的な障壁を生み出す

少数のサードパーティベンダーが大多数の雇用主に採用アルゴリズムを提供することで、「アルゴリズムのモノカルチャー」が生み出されます。この権力の集中は、単一のベンダーのロジックが複数の企業やセクターにわたって仕事へのアクセスを仲介することを可能にし、実質的に数百万人もの応募者の機会をボトルネック化しています。

米国の雇用主の90%以上が、応募者をスクリーニングするために採用アルゴリズムに依存しています。この集中の影響は深刻です。もし応募者が共有されたアルゴリズムによって推奨されない場合、彼らは人間の採用担当者に一度も見られることなく、複数の雇用主によって同時に拒絶される可能性があります。

大規模な人種的格差の証拠

156の雇用主における340万人の実際の求職者と400万件の応募を対象とした研究は、米国の雇用法（Title VII）の基準に基づき、重大な不利益な影響（adverse impact）を示しています。

分離分析が隠れたバイアスを明らかにする

以前の研究では、ベンダーのデータを集計して分析していたため、不利益な影響は最小限であると報告されることが多くありました。しかし、職種ごとに分析すると、バイアスが明白になります。

黒人応募者: 黒人応募者によって提出された応募の25.87%が、彼らに不利益な影響を与える職種に向けられています。
アジア系応募者: アジア系応募者によって提出された応募の14.74%が、彼らに不利益な影響を与える職種に向けられています。

総効果の観点からは、アジア系応募者が最大の不足を経験しています。もし各職種において最も多く選出された人種グループと同じ割合で選出されていた場合、29,000件のアジア系応募が追加で推奨されていたはずです。

システム的な拒絶の現象

システム的な拒絶は、応募者が同じ基礎となるアルゴリズムによる評価を受けているために、複数の雇用主によって拒絶される場合に発生します。これは、各雇用主が独立した決定を下す場合に期待される結果を超えた、均質な結果を生み出します。

均質性の定量化

4件の応募を提出する応募者に対して、10%がシステム的に拒絶されています。この割合は、統計的に独立した決定の基準値を大幅に上回っています。これを検証するために、研究者は、中央集権的なアルゴリズムのモノカルチャーを使用していないFortune 500企業の108社を対象とした以前の研究（Kline et al., 2022）と比較しました。その場合、システム的な拒絶率は基準値の予測と一致しており、過剰な均質性は中央集権的なアルゴリズム評価の直接的な結果であることが証明されました。

「応募の税金」

シミュレーションによれば、アルゴリズムのモノカルチャーは、推奨されるために必要な応募件数を増加させます。独立した意思決定が行われる場合、応募者は少なくとも1つの推奨を得る確率を99.9%にするために10件の応募が必要かもしれません。しかし、アルゴリズムのモノカルチャーにおいては、その数は25件に跳ね上がります。

アルゴリズムの責任に関する政策提言

採用AIはますます「高リスクAI」（EU AI Actなどの下で）として分類されるようになっているため、本研究は4つの重要な介入策を提案しています。

職種レベルの測定: 規制当局は、バイアスが「かき消される」のを防ぐために、混合集計ではなく個々の職種に対して不利益な影響の比率を評価しなければなりません。
市場監視: 連邦政府機関は、均質な結果の発生率を定量化し、単一の雇用主による報告では見えないシステム的な拒絶を特定しなければなりません。
サプライチェーンの監視: 政策立案者は、採用のサプライチェーンにおける共有の依存関係をモニターし、相関関係のある失敗と競争の減少を防がなければなりません。
研究アクセスの拡大: 立法者は、主要な採用プラットフォーム内の問題を診断し、是正するために、独立した研究者がデータにアクセスすることを義務付けるべきです。

コミュニティの視点と反論

業界の専門家や観察者は、これらの知見の妥進と妥当性に関して、いくつかの点を指摘しています。

妥当性の指標: 一部の人は、不利益な影響の基準が応募者の行動によって歪められる可能性があると主張しています。もし特定の人口統計学的グループが、自身の資格が不十分な職種に応募している場合、拒絶率が高くなることは、アルゴリズムのバイアスではなく、応募者のプール・コンポジションの構成要素を反映している可能性があります。
「ブラックボックス」体験: 多くの候補者は、技術リーダーと話す前に、「知能」や「性格」テスト（PymetricsやWorkdayなどのベンダーが提供するもの）によってスクリーニングされることを報告しており、これはパイプラインの初期段階から人間の判断を排除しています。
法的枠組み: 一部の観察者は、GDPR Article 22がEUにおいて自動化された個別の意思決定およびプロファイリングを明示的に禁止していることに注目しており、これは、このようなシステム的な排除が欧州の管轄区域では違法となる可能性を示唆しています。
代替的な採用戦略: 経験豊富な採用マネージャーは、「経歴」や標準化されたルーブリックを避け、行動面接や生涯学習の指標を用いることで、アルゴリズムのモノカルチャーが通常見落とす「原石」を見つけるのに役立つと示唆しています。