Hugging Face 倫理與社會更新 2023 夏季版

TL;DR

Hugging Face 在 2023 年夏季致力於與美國、歐盟及英國的立法者進行交流，為開源 AI 倡權，並為監管提供以價值為基礎的框架。在政策工作之外，該組織還在偏見測試、數據集透明度和環境影響研究方面推進技術工作，以促進一個更具問責制且民主化的 AI 生態系統。

AI 政策與監管倡權

Hugging Face 正在利用一套價值觀詞彙——包括透明度、安全性與正義——來協助在正式法律尚未建立之際，協助塑造 AI 立法。該組織致力於向全球管理機構提供專家證詞與指導，以確保監管不會扼殺開放性。

關鍵的監管參與包括：

  • United States: CEO Clem Delangue 向美國國會提供證詞，並在美國參議院 AI 洞察論壇發表聲明。首席倫理科學家 Margaret Mitchell 向民主黨黨團提供意見。
  • European Union: 該組織針對 E.U. AI Act 以及開源軟體的角色提供了具體建議。
  • National Telecommunications and Information Administration (NTIA): Hugging Face 就 AI 問責制提交了意見。

公眾倡權與技術論述

為了支持 AI 的民主化，Hugging Face 的專家已在各大媒體上參與公眾論述，以澄清複雜的技術與倫理問題。這些貢獻涵蓋了幾個關鍵領域：

環境影響與永續性

Sasha Luccioni 已為 The Atlantic、The Guardian、The Wall Street Journal 和 New Scientist 等刊物提供了關於 AI 能源消耗與碳排放的分析。

模型安全性與偏見

  • Generative AI Bias: 專家為 Bloomberg、NBC 和 Vox 提供了關於生成式 AI 偏見的見解。
  • Doomsday Risks: 為 Bloomberg、The Times 和 Sky News 提供了對 AI 「末日」情境的分析。
  • Misinformation: Margaret Mitchell 為 CNN、al Jazeera 和 The New York Times 參與了關於 AI 生成選舉錯誤資訊的討論。
  • Sentience and Singularity: Giada autobiography 為 RFI 和 Popular Mechanics 探討了 AI 「意識」與「奇點」的概念。

開源與知識產權

  • Open Releases: Nathan Lambert 和 Yacine Jernite 為 WIRED、VentureBeat 和 Fortune 提供了關於開源語言模型發布現狀以及 Meta 的 Llama 模型影響的評論。
  • Copyright: Yacine Jernite 為 VentureBeat 探討了生成式 AI 訓練數據中的版權問題。
  • Artist Rights: Margaret Mitchell 為 Washington Post 討論了在 AI 中公正處理藝術家作品的必要性。

對 AI 倫理的技術貢獻

Hugging Face 透過數個專注於易接近性、公平性與嚴謹性的「工作工作」倡議，將倫理融入其核心產品開發與研究中。

模型評估與透明度

  • Bias Testing: Hugging Face 對其多模態模型 IDEFICS 進行了偏見與傷害測試。
  • Dataset Rigour: 該組織在數據集中加入了描述性統計，以增進對 AI 學習內容及其評估方式的理解。
  • Content Policy: 該組織更新了其內容政策，以負責任地落實透明度。

教育資源與研究

  • Audio AI: 推出了關於 AI 音訊的新課程。
  • Clinical AI: 為開放獲取的臨床語言模型開發了資源。
  • Responsible Generative AI: 製作了關於負責任生成式 AI 的教學指南。
  • Academic Research: 發布了關於生成式 AI 發布梯度，以及機器學習中倫理章程與技術文件闡述的 FAccT 論文。

社群資源

Hugging Face 已將其倫理相關資源整合到一個中心樞紐中，以協助當前的 AI 倫理論述：https://huggingface.co/society-ethics。

Sources