Hugging Face伦理与社会通讯 #1

Hugging Face推出了伦理与社会通讯，以分享公司在落地AI伦理方面的持续努力。该倡议由“伦理与社会常规成员”主导，这是一个跨职能的员工团队，他们坚持认为伦理责任应在全公司范围内共同承担，而不是由单一专门团队负责。

核心伦理价值观与框架

Hugging Face的AI伦理方法基于四项主要价值观，这些价值观源自其开源起源和研究社区的融合：

• 协作： 通过提供文档、评估工具以及像Discord这样的社区讨论平台，与开源社区进行互动。
• 透明性： 分享内部思考和流程，包括项目特定的价值声明和对AI政策的看法，以征求社区反馈。
• 责任： 通过创建可审计且易于理解的系统（即使是非机器学习专家），优先考虑技术的长期影响。
• 可重复性： 随着研究社区开始使用Hugging Face Hub托管模型和数据，可重复性被整合为一项基本价值。

AI伦理的落地实践

Hugging Face并未采用一套全局的静态原则，而是基于各项目可预见的影响，采用情境特定的方法来落地价值观。该方法通过实施实用工具和指南，致力于“让优秀机器学习民主化”。

伦理机器学习的技术工具

为了提升可审计性和透明度，Hugging Face开发并部署了多项技术成果：

• 评估库： 帮助开发者更严格地评估模型的工具。
• 数据分析工具： 专门用于分析数据集偏斜和偏见的代码，包括无需编写代码的实验性数据分析工具。
• 碳排放追踪： 用于在模型训练期间追踪碳排放的工具。
• 负责任的许可： 开发开放且负责任的AI许可（RAIL），以应对AI系统可能带来的危害。
• 报告机制： 为模型和Spaces仓库提供的“标记”系统，用于报告伦理和法律问题。

社区与治理

为确保包容的环境并实现机器学习的民主化，Hugging Face实施了以下治理结构：

• 直接反馈： 用户可以对托管在Hugging Face Hub上的模型、数据和Spaces提供直接反馈。
• 文档要求： 实施模型卡和文档要求，以提升对模型用途和局限性的理解。
• 行为准则与内容指南： 建立框架以引导社区讨论并维护包容的空间。
• 私有 Hub： 用于机器学习开发的安全环境。

未来展望

Hugging Face继续研究“优秀”机器学习的标准，并计划在未来几个月发布更多关于价值观、冲突以及伦理落地的文章。