招聘中的演算法單一化：系統性拒絕與種族偏見

演算法單一化造成就業的系統性障礙

當少數幾家第三方供應商向絕大多數雇主提供招聘演算法時，就會形成演算法單一化。這種權力的集中使得單一供應商的邏輯能夠仲裁多個公司與產業對職位的准入，有效地為數百萬名申請人造成了機會瓶頸。

超過 90% 的美國雇主依賴招聘演算法來篩選申請人。這種集中的影響非常嚴重：如果一名申請人未被共享的演算法推薦，他們很可能同時被多個雇主拒絕，而從未被真人招募人員看到過。

大規模種族差異的證據

一項涉及 156 家雇主、340 萬名真實求職者及 400 萬份申請的研究顯示，根據美國就業法（Title VII）標準，存在顯著的負面影響。

分層分析揭示隱藏偏見

先前的研究通常報告極小的負面影響，因為它們是以總體數據進行分析。然而，當以職位為單位進行分析時，偏見便顯現出來了：

非裔申請人： 25.87% 的非裔申請人提交的申請被導向了對其產生負面影響的職位。
亞裔申請人： 14.74% 的亞裔申請人提交的申請被導向了對其產生負面影響的職位。

就總體影響而言，亞裔申請人經歷了最大的缺口；如果他們能以每個職位中被選擇率最高的種族群體之相同速率被選中，將會有額外 29,000 份亞裔申請被推薦。

系統性拒絕的現象

當一名申請人因為使用相同的底層演算法評估而同時被多家雇主拒絕時，就會發生系統性拒絕。這會造成一種同質性的結果，其程度超過了如果每位雇主獨立做出決策時的預期結果。

量化同質性

對於提交四份申請的申請人來說，10% 的人遭遇了系統性拒絕。這一比例顯著超過了統計學上獨立決策的基準線。為了驗證這一點，研究人員將數據與先前的一項研究（Kline et al., 2022）進行了比較，該研究涉及 108 家不使用集中化演算法單一化的 Fortune 500 強企業；在該案例中，系統性拒絕率符合基準線預測，證明了過度的同質性是集中化演算法評估的直接結果。

「申請稅」

模擬顯示，演算法單一化增加了獲得推薦所需的申請次數。在獨立決策的情況下，一名申請人可能需要提交 10 份申請以確保 99.9% 的機率獲得至少一次推薦。在演算法單一化下，該數字跳升至 25 份申請。

演算法問責制的政策建議

由於招聘 AI 被日益歸類為「高風險 AI」（例如根據 EU AI Act），該研究提出了四項關鍵干預措施：

職位層級評估： 監管機構必須評估個別職位的負面影響比例，而非使用混合總量數據，以防止偏見被「沖淡」。
市場監控： 聯邦機構應量化同質性結果的比例，以識別在單一雇主報告中無法察覺的系統性拒絕。
供應鏈監控： 政策制定者應監控招聘供應鏈中的共享依賴關係，以防止相關聯的失敗與競爭減少。
擴大研究權限： 立法者應強制要求為獨立研究人員提供數據存取權，以診斷並糾正主要招聘平台內部的問題。

社群觀點與反論點

業界專業人士與觀察家針對這些發現的實效性與有效性提出了幾點看法：

指標的有效性： 有人認為，差異化影響標準可能會受到申請人行為的影響。如果某些人口統計群體申請了與其資歷較低不符的職位，導致的拒絕率可能看起來像是演算法偏見，但實際上是申請人池的組成反映出的結果。
「黑箱」體驗： 許多候選人報告稱，在與技術主管交談之前，就已被「智能」或「性格」測試（例如由 Pymetrics 或 Workday 等供應商提供的測試）篩選掉，這有效地將人類判斷從流程的早期階段中移除。
法律框架： 一些觀察家指出，GDPR Article 22 明確禁止了歐盟境內的自動化個人決策與剖析，這暗示了此類系統性排除在歐洲司法管轄區內是違法的。
替代招聘策略： 有經驗的招聘經理建議，避免使用「學歷背景」與標準化量表，轉而採用行為面試與終身學習指標，可以幫助識別演算法單一化通常會忽略的「璞玉」人才。