Hugging Face 對美國 NTIA 關於 AI 問責制徵求意見的回應

TL;DR

2023 年 6 月 12 日，Hugging Face 就美國 NTIA 關於 AI 問責制的徵求意見提交了回應，建議問責機制應涵蓋完整的 ML 生命週期、將內部文件與外部透明度相結合，並納入廣泛的利益相關者。

背景與使命

Hugging Face 在其回應中，將其對 NTIA 的回應置於其透過強調透明度和包容性來實現「機器學習民主化」的使命之中。如文章所述：「Hugging Face 的使命是 "democratize good machine learning"。我們理解在此背景下，「民主化」一詞意味著不僅要讓機器學習系統更容易開發和部署，還要讓其眾多利益相關者更容易理解、審視和批評。」該組織指出，它透過教育工作、對文件記錄的關注、社群指南、負責任的開放性，以及用於分析數據集和模型的無程式碼（no-code）與低程式碼（low-code）工具來追求這一目標。

核心建議

Hugging Face 為 AI 問責制提出了三大支柱：全生命週期關注、內外部透明度，以及廣泛的利益相關者參與。文章列出了具體的建議：

• 「問責機制應關注 ML 開發過程的所有階段。一個完整的 AI 驅動系統的社會影響取決於開發過程每個階段所做的選擇，這些選擇以一種無法完全預測的方式存在，而僅關注部署階段的評估，可能會導致僅追求表面合規，直到造成重大損害時仍未能解決深層問題。」
• 「問責機制應將內部要求與外部訪問及透明度相結合。諸如良好的文件記錄實踐等內部要求，可以塑造更負責任的開發，並明確開發者在實現更安全、更可靠技術方面的責任。對內部流程和開發選擇進行外部訪問仍然是必要的，以便驗證聲明和文件，並賦予技術之外的眾多利益相關者以實質性地塑造其演進並促進其利益的能力。」
• 「問責機制應邀請最廣泛的貢獻者參與，包括直接從事該技術開發的開發者、跨學科研究社群、倡議組織、政策制定者和記者。理解 ML 技術快速普及所帶來的變革性影響，是一項超出任何單一實體能力的任務，這需要利用我們廣泛研究社群及其直接用戶和受影響群體的全部技能與專業知識。」

支持的實踐與證據

Hugging Face 指出其現有的工具和專案——文件記錄、教育、無程式碼分析空間、BigScience 和 BigCode——證明了其提議的機制是可行的。文章指出：「為此，我們透過我們的教育工作、對文件記錄的關注、社群指南以及負責任的開放性方法，以及開發無程式碼和低程式碼工具，讓具有各種技術背景的人都能分析 ML 數據集和模型，從而致力於促進透明度和包容性。」它補充說，這些方法「已在促進問責制方面證明了其效用，特別是在我們協助組織的大型跨學科研究工作中，包括 BigScience（參見我們關於該專案社會影響的部落格系列），以及較近期的 BigCode 專案（其治理方式在此有更詳細的描述）。」

對政策的啟示

該回應建議，有效的 AI 問責政策應要求文件記錄、實現外部驗證，並強制執行包容性的治理流程。文章總結道：「我們相信，在 ML 產出本身及其評估結果中優先考慮透明度，對於實現這些目標至關重要。」它還為想要了解完整細節的讀者提供了完整 PDF 回應的連結。