Hugging Face 伦理与社会更新 夏季 2023

TL;DR

Hugging Face 在 2023 年夏季与美国、欧盟和英国的立法者互动，以倡导开源 AI 并提供基于价值的监管框架。在政策工作的同时，该组织在偏见测试、数据集透明度和环境影响研究方面推进了技术工作，以促进更具问责性和民主化的 AI 生态系统。

AI 政策与监管倡导

Hugging Face 正在利用一套价值观词汇——包括透明度、安全和正义——来帮助制定尚未有正式法律的 AI 立法。该组织一直专注于向全球治理机构提供专家证词和指导，以确保监管不会抑制开放。

Key regulatory engagements include:

  • 美国: 首席执行官 Clem Delangue 向美国国会提供了证词，并在美国参议院 AI 见闻论坛上发表了声明。首席伦理科学家 Margaret Mitchell 向民主党核心小组提供了意见。
  • 欧洲联盟: 该组织就欧盟 AI 法案以及开源软件的作用提供了具体建议。
  • 国家电信和信息管理局 (NTIA): Hugging Face 提交了关于 AI 负责任的意见。

公开倡导与技术论述

为了支持 AI 的民主化，Hugging Face 专家在主要媒体渠道上贡献了公众讨论，以澄清复杂的技术和伦理问题。这些贡献涵盖了几个关键领域：

环境影响与可持续性

Sasha Luccioni 为包括 The Atlantic、The Guardian、The Wall Street Journal 和 New Scientist 在内的出版物提供了关于 AI 能源消耗和碳排放的分析。

模型安全与偏见

  • 生成式 AI 偏见： 专家在 Bloomberg、NBC 和 Vox 提供了关于生成式 AI 偏见的见解。
  • 末日风险： AI 「doomsday」 情景的分析被提供给 Bloomberg、The Times 和 Sky News。
  • 错误信息： Margaret Mitchell 在 CNN、al Jazeera 和 The New York Times 上参与了关于 AI 生成的选举错误信息的讨论。
  • 感知与奇点： Giada 自传探讨了 AI 「sentience」 和 「singularity」 的概念，针对 RFI 和 Popular Mechanics。

开源与知识产权

  • 开放发布： Nathan Lambert 和 Yacine Jernite 为 WIRED、VentureBeat 和 Fortune 提供了关于开放语言模型发布状况及 Meta 的 Llama 模型影响的评论。
  • 版权： Yacine Jernite 在 VentureBeat 上讨论了生成式 AI 训练数据的版权问题。
  • 艺术家权利： Margaret Mitchell 在 Washington Post 上讨论了在 AI 中公平处理艺术家作品的必要性。

AI 伦理的技术贡献

Hugging Face 通过几个专注于可接近性、公平性和严谨性的「工作工作」计划，将伦理融入其核心产品开发和研究中。

模型评估与透明度

  • 偏见测试： Hugging Face 对其多模态模型 IDEFICS 进行了偏见和危害测试。
  • 数据集严谨性： 该组织向数据集添加了描述性统计，以提高对 AI 学习内容及其评估方式的理解。
  • 内容政策： 该组织更新了其内容政策，以负责任地实现透明度的运营化。

教育资源与研究

  • 音频 AI： 推出了一门关于 AI 音频的新课程。
  • 临床 AI： 为开放获取的临床语言模型开发了资源。
  • 负责任的生成式 AI： 制作了关于负责任的生成式 AI 的教程。
  • 学术研究： 发表了关于生成式 AI 发布梯度以及机器学习中伦理宪章和技术文档阐述的 FAccT 论文。

社区资源

Hugging Face 将其伦理相关资源整合到一个中心枢纽，以帮助当前的 AI 伦理讨论：https://huggingface.co/society-ethics.

Sources