機器學習專家：訪談 Margaret Mitchell

Dr. Margaret Mitchell，倫理人工智慧領域的先驅，也是 Google Ethical AI Group 的前共同領導者，她強調機器學習中最迫切的問題是確保設計系統的人員具備多樣性與包容性。根據 Mitchell 的說法，這些人為因素會直接影響技術成果、偏見緩解以及 AI 部署的整體安全性。

倫理 AI 與偏見緩解的必要性

倫理 AI 是必要的，因為訓練數據僅代表世界的一部分，這可能導致模型內化並傳播有害的偏見。Dr. Mitchell 指出，以人為中心的技術——例如人臉識別、行人識別和自然語言處理 (NLP) 工具——是數據倫理最關鍵的領域，因為這些技術會影響個人身份與隱私。

識別有害偏見

對於缺乏多樣化詞彙或觀點的團隊來說，偏見往往以肉眼難以察覺的方式呈現。Dr. Mitchell 強調了模型失效的兩個主要範例：

• 描述性偏見： 在輔助技術中，模型可能會將白人描述為「人」，而將黑人描述為「黑人」，將白人性視為預設值。
• 情境誤判： 一個在日落和煙火圖像上訓練的模型，可能會將破壞性的爆炸場景描述為「美麗的」，因為它將天空中的亮色與正面屬性聯繫起來，這顯示了基準測試性能與現實世界安全性之間的危險差距。

模型卡片 (Model Cards) 與技術透明度

Model Cards 是標準化的產物，旨在為機器學習模型提供文件記錄，類似於硬體的規格說明。Model Cards 是與 Timnit Gebru 共同開發的，旨在將倫理從抽象概念轉向為必要的發布產物，激勵工程師記錄模型行為與限制。

決策閾值的角色

關於決策閾值的透明度對於模型安全性至關重要。在分類系統中，模型決定「是」或「否」的閾值（例如 0.7）會顯著影響錯誤率。Dr. Mitchell 指出，某些機構在使用人臉識別技術時，使用了預設參數設置，卻未理解或調整這些閾值，導致特定族群（如黑人女性）的失敗率不成比例地高。

模型文件化的未來方向

在 Hugging Face，Dr. Mitchell 正致力於將 Model Cards 從靜態報告演進為互動式工具。這將允許用戶即時調整決策閾值，以觀察偽陰性率如何變化，從而讓用戶在部署模型時能做出更明智的決策。

多樣性作為技術優化手段

多樣性與包容性不僅僅是社會目標，更是能改善模型成果的技術必要條件。Dr. Mitchell 將多樣性視為擴展專案「搜尋空間」的一種方式。

"Just how you want to have a Gaussian approach over different start states, so too do you want that at the table when you're starting projects because it gives you this larger search space making it easier to attain a local optimum."

透過納入更廣泛的種族、族裔、 genders、能力，ML 團隊可以避免僅專注於「擊敗上一個數字」的「大男子主義」文化，轉而專注於嚴謹的評估，以及識別 AI 中的刻板印象與性別歧視。

Hugging Face 的當前研究與倡議

Dr. Mitchell 的當前工作涵蓋了幾個跨學科領域：

• 跨學科研究： 彌合 AI、法律與哲學之間的差距，包括將《通用人權宣言》(UDHR) 應用於 AI。
• 數據治理： 參與 Big Science 專案，開發框架以研究如何在大規模數據檢驗時，不使其在全球範圍內擴散。
• 無障礙工具： 開發降低 AI 入門門檻的方法，讓非程式設計師也能直接查詢數據，而無需編寫 SQL 或代碼。
• 統計測試： 創建工具來測試語言模型的輸出是否符合 Zipfian 分佈，這類分佈是自然語言的特徵。

對 AI 從業者者的建議

Dr. Mitchell 根據個人在領域中的地位提出了不同的建議：

• 對於邊緣化群體： 對自己的觀點保持信心，不要讓主管因不同的思考方式而否定你的貢獻。
• 對於多數群體： 專注於支持與提攜周圍的人，從內部解決「人才管道問題」。
• 一般技術建議： 始終優先考慮系統的嚴謹評估。