Hugging Face 多模态项目伦理宪章

Hugging Face 为其多模态学习项目推出了一份伦理宪章，以确保从一开始就将伦理考量融入研究生命周期。该框架旨在通过正式化指导项目开发的价值观和内容政策，降低算法偏见、数据隐私违规和恶意使用等风险。

伦理宪章的目的与框架

Hugging Face 的多模态学习团队制定了此宪章，以将伦理考量从事后思考转变为机器学习生命周期的核心组成部分。通过在项目初期定义这些原则，团队旨在以明确的价值观和目标为所有技术选择提供依据。

宪章的关键目标包括：

• 早期反馈： 通过对决策和团队角色保持透明，Hugging Face 希望在足够早的阶段获得社区反馈，以实施有意义的变更。
• 协作开发： 该文档由 Hugging Face 的研究人员和工程师撰写，并结合个人隐私、数据治理和伦理落地方面专家的意见。
• 迭代演进： 该宪章截至 2022 年 5 月仍在持续完善，更新通过 GitHub 追踪，以体现“伦理 AI”的不断发展。

内容政策与禁止使用场景

Hugging Face 已识别出多模态技术的具体误用场景，项目旨在加以防止。内容政策禁止以下行为：

• 有害内容： 宣扬暴力、骚扰、欺凌、仇恨以及基于种族、性别、年龄、能力、LGBTQA+ 取向、宗教、教育或社会经济地位等身份子群体的歧视。
• 法律与权利违规： 任何侵犯版权、隐私、人权、文化权利、基本权利或约束性法律的行为。
• 个人身份信息生成： 生成可识别个人身份的信息。
• 错误信息： 生成旨在伤害或挑衅他人的虚假信息，或在缺乏责任追究的情况下产生的内容。
• 高风险领域应用： 在可能对生命产生根本性危害的行业中不慎使用模型，尤其是医疗、法律、金融和移民领域。

核心伦理价值

项目遵循五项核心价值，以确保问责制和公平性：

• 透明性： 对意图、数据来源、工具和决策保持开放，使社区能够识别薄弱环节并对团队进行问责。
• 开放性与可复现性： 共享数据、工具和实验条件的精确描述。研究产出和模型检查点必须对所有人开放，且不受歧视。
• 公平性： 定义为对所有人类的平等对待，需要监控并缓解与种族、性别、残疾和性取向相关的偏见。这包括对训练数据和模型输出进行偏见审查。
• 自我批评： 致力于避免夸大宣传和过度声称，并持续寻找更佳的训练数据策划与过滤策略。
• 署名归属： 通过适当的许可和致谢来尊重他人的工作。

价值冲突的管理

Hugging Face 承认伦理价值在实践中可能会产生冲突。例如，分享开放且可复现工作的目标可能与尊重个人隐私或确保公平的需求相冲突。团队强调，这些矛盾需要逐案分析风险与收益，以确定最佳行动方案。