Hugging Face Diffusers 倫理指導原則

Hugging Face 已發布 Diffusers 函式庫的倫理框架，以確保技術決策與社群貢獻遵循一套核心價值。此舉旨在提供函式庫管理的透明度，並減輕擴散模型應用可能帶來的負面社會影響。

核心倫理指導原則

Hugging Face 將倫理定義為一個持續根據指導價值與具體行動而調整的過程。Diffusers 函式庫遵循以下六項原則：

• 透明性：致力於向使用者說明技術決策與 pull request 的管理。
• 一致性：確保專案管理穩定，並為所有使用者提供一致的關注程度。
• 簡潔性：維持精簡且一致的專案目標，確保函式庫易於使用與擴展。
• 可及性：降低貢獻者的門檻，包括缺乏深厚技術背景者，讓研究成果更易取得。
• 可重現性：保持對資料集、模型與上游程式碼可重現性的透明度。
• 責任感：社群與團隊共同承諾，預見並減輕擴散技術相關的風險與危害。

安全功能與機制

Hugging Face 與社群已實作多項機制，以促進擴散模型的負責任部署與評估：

社群與內容治理

• Community Tab：專門用於專案協作與討論的空間。
• Tagging：倉庫作者可使用「Not For All Eyes」標籤標示敏感內容。
• Staged Releases：在敏感情況下限制特定倉庫的存取，讓作者能更好地控制使用方式。
• Licensing：使用 OpenRAILs 授權，以在自由存取與確保負責任使用之間取得平衡。

技術安全與偏見評估

• Bias Exploration：Hugging Face 提供專屬的 Space，互動式展示 DALL-E 與 Stable Diffusion 等模型中的偏見，鼓勵進一步的偏見評估。
• Safe Stable Diffusion：為解決在未過濾的網路爬蟲資料集上訓練的模型出現不當退化的問題，函式庫加入 StableDiffusionSafe（基於研究論文 Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models）。