Hugging Face Diffusers 倫理ガイドライン

Hugging Face は Diffusers ライブラリ向けに倫理フレームワークを公開し、技術的な意思決定やコミュニティの貢献が一連の核心的価値観に沿って行われるようにしています。この取り組みは、ライブラリの管理方法に関する透明性を提供し、拡散モデルの応用がもたらす潜在的な社会的マイナス影響を軽減することを目的としています。

基本的な倫理ガイドライン

Hugging Face は倫理を、指針となる価値観と具体的な行動に基づく継続的な適応プロセスと定義しています。Diffusers ライブラリは以下の 6 つの原則に従って運営されています：

• Transparency: ユーザーに対して技術的な意思決定やプルリクエストの管理を説明することへのコミットメント。
• Consistency: 安定したプロジェクト管理と、すべてのユーザーに対して一貫した注意を保証すること。
• Simplicity: ライブラリが使いやすく活用しやすいよう、シンプルで一貫したプロジェクト目標を維持すること。
• Accessibility: 深い技術的専門知識がなくても貢献できるよう、参加のハードルを下げ、研究成果をよりアクセスしやすくすること。
• Reproducibility: ライブラリを通じて提供されるデータセット、モデル、上流コードの再現性に関する透明性を保つこと。
• Responsibility: コミュニティとチームが協力して、拡散技術に伴うリスクや危険を予測し、軽減することへの共同のコミットメント。

安全機能とメカニズム

Hugging Face とコミュニティは、拡散モデルの責任ある展開と評価を促進するために、いくつかのメカニズムを実装しています：

コミュニティとコンテンツのガバナンス

• Community Tab: プロジェクトの協働と議論のために設けられた専用スペース。
• Tagging: リポジトリの作者は「Not For All Eyes」タグを使用して機微なコンテンツをマークできます。
• Staged Releases: 敏感な状況下で特定のリポジトリへのアクセスを制限でき、作者が利用をよりコントロールできる機能。
• Licensing: OpenRAILs ライセンスを使用し、自由なアクセスと責任ある利用を保証する制限のバランスを取ります。

技術的安全性とバイアス評価

• Bias Exploration: Hugging Face は、DALL-E や Stable Diffusion などのモデルに存在するバイアスをインタラクティブに示す専用 Space を提供し、さらなるバイアス評価を促進します。
• Safe Stable Diffusion: フィルタリングされていないウェブクローリングデータセットで学習されたモデルの不適切な退化に対処するため、ライブラリには StableDiffusionSafe が含まれています（研究論文 Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models に基づく）。