Hugging Face 回复美国 NTIA 关于 AI 责任的征求意见请求

TL;DR

2023年6月12日，Hugging Face 提交了对美国 NTIA 关于 AI 责任的征求意见的回复，建议责任机制应覆盖完整的 ML 生命周期，将内部文档与外部透明度相结合，并让广泛的利益相关方参与其中。

背景与使命

Hugging Face 将其 NTIA 回复置于其使命之中，即通过强调透明度和包容性来实现良好机器学习的民主化。正如帖子所述，“Hugging Face 的使命是 "让机器学习民主化"。我们在此语境中理解“民主化”这一术语的含义是：让机器学习系统不仅在开发和部署上更加容易，而且让其众多利益相关方更容易理解、质疑和批评。”该组织指出，它通过教育工作、文档重点、社区指南、负责任的开放以及用于分析数据集和模型的无代码和低代码工具来实现这一目标。

核心建议

Hugging Face 建议 AI 责任的三大支柱：全生命周期关注、内部‑外部透明度以及广泛的利益相关方参与。该帖子列出了具体建议：

• "责任机制应 关注 ML 开发过程的所有阶段。完整的 AI 支持系统的社会影响取决于开发每个阶段所做的选择，这些选择的影响方式无法完全预测；仅关注部署阶段的评估可能会激励仅表面合规的行为，直至造成重大危害才能发现并解决更深层次的问题。"
• "责任机制应 将内部要求与外部访问相结合 并保持透明。诸如良好文档实践之类的内部要求能够塑造更负责任的发展，并明确开发者在实现更安全、更可靠技术方面的责任。对内部流程和开发选择的外部访问仍然是必要的，以验证声明和文档，并赋予位于技术开发链外的众多利益相关方有意义地塑造其演进并促进其利益的能力。"
• "责任机制应 邀请尽可能广泛的贡献者参与，包括直接参与技术开发的开发者、多学科研究社区、倡导组织、政策制定者和记者。理解 ML 技术快速增长所带来的变革性影响是一项超出任何单个实体能力的任务，需要发挥我们广泛研究社区及其直接用户和受影响人群的全部技能和专长。"

支持性实践与证据

Hugging Face 指出其现有的工具和项目——文档、教育、无代码分析空间、BigScience 和 BigCode——证明其提出的机制可以有效。该帖子指出：为了实现这一目标，我们通过我们的 教育工作、文档重点、社区指南 和 负责任的开放 方法促进透明度和包容性，并开发了无代码和低代码工具，使各种技术背景的人都能分析 ML 数据集 和 模型。 它还补充说，这些方法已经在促进责任方面证明了其效用，特别是在我们帮助组织的更大规模的多学科研究项目中，包括 BigScience（参见我们的博客系列 关于该项目的社会利害关系），以及最近的 BigCode 项目（其治理方式在 此处 有更详细的描述）。

政策启示

该回复表明，有效的 AI 责任政策应要求文档、启用外部验证，并强制实施包容性治理流程。该帖子结论为：我们相信，优先考虑 ML 工件本身及其评估结果的透明度将是实现这些目标的关键。它还提供了指向完整 PDF 回复的链接，供希望获取完整细节的读者参考。