Hugging Face Diffusers 伦理指南

Hugging Face 已发布 Diffusers 库的伦理框架，以确保技术决策和社区贡献遵循一套核心价值观。此举旨在提供库管理的透明度，并降低扩散模型应用可能带来的负面社会影响。

核心伦理指南

Hugging Face 将伦理定义为基于指导价值观和具体行动的持续适应过程。Diffusers 库遵循以下六项原则：

• 透明性：承诺向用户解释技术决策和拉取请求的管理。
• 一致性：确保项目管理的稳定性以及对所有用户的一致关注。
• 简洁性：保持精简且连贯的项目目标，确保库易于使用和利用。
• 可访问性：降低贡献者的准入门槛，包括那些缺乏深厚技术专长的人，使研究成果更易获取。
• 可复现性：保持对通过库提供的数据集、模型和上游代码可复现性的透明度。
• 责任感：社区和团队共同承诺预见并降低与扩散技术相关的风险和危害。

安全特性与机制

Hugging Face 与社区已实现多种机制，以促进扩散模型的负责任部署和评估：

社区与内容治理

• 社区标签页：用于项目协作与讨论的专用空间。
• 标签：仓库作者可以使用“Not For All Eyes”标签标记敏感内容。
• 分阶段发布：在敏感情况下限制对特定仓库的访问，使作者能够更好地控制使用。
• 许可：使用 OpenRAILs 许可证，在提供自由访问的同时加入确保负责任使用的限制。

技术安全与偏差评估

• 偏差探索：Hugging Face 提供专用 Space，交互式展示模型（如 DALL‑E 和 Stable Diffusion）中的偏差，鼓励进一步的偏差评估。
• 安全 Stable Diffusion：为解决在未过滤的网络爬取数据集上训练的模型出现的不当退化问题，库中包含 StableDiffusionSafe（基于研究论文《Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models》）。