Hugging Face Ethics and Society ニュースレター #3: 倫理的オープンネスイニシアチブ

TL;DR

Hugging Face は、6 つのハイレベルな倫理カテゴリ、コミュニティフラグ機能、「Not For All Audiences」タグ、そして拡充されたドキュメントという一連の倫理的オープンネスツールを導入し、より安全で包括的なオープンソース機械学習開発を実現します。

ミッション: オープンで良い ML

Hugging Face は自らのミッションを 良い 機械学習（ML）の民主化と位置付けています。オープンな開発は権力を分散させ、さまざまなステークホルダーが多様な価値観に基づいて AI を形作ることを可能にします。組織は、モデルがますます高度化し、生成するコンテンツの幅が広がるにつれて、オープン性が直接的なリスク管理を低減させる可能性があることを認識しています。そのため、Hugging Face は、マイノリティグループに不均衡に影響を及ぼすことが多い危害を軽減するために、堅牢なモデレーション、バイアス検出、ドキュメンテーションの重要性を強調しています。

倫理カテゴリ – 6 つのハイレベルタグ

倫理的志向の ML 作業を見つけやすく、貢献しやすくするために、Hugging Face はコミュニティが投稿した Spaces の分析に基づき、専門用語を排した 6 つのカテゴリを定義しました。

  • Rigorous – バイアス・公平性監査、プライバシー保護、制限事項の明示といったベストプラクティスを重視します。
  • Consentful – 技術の影響を受ける個人の自己決定権を支援します（Consentful Tech を参照）。
  • Socially Conscious – 社会的、環境的、あるいは科学的な目標を推進するプロジェクトをハイライトします。
  • Sustainable – ML の環境フットプリントを削減する手法に焦点を当てます。
  • Inclusive – 誰が ML システムを構築し、恩恵を受けるかを拡大します。
  • Inquisitive – 不平等や権力構造を照らし出し、コミュニティに技術との関係を再考させます。

これらのタグは該当リポジトリに表示され、コミュニティの意見を取り入れながら進化していきます。詳細は https://huggingface.co/ethics をご覧ください。

安全策 – リスク軽減のためのツールとプロセス

Hugging Face は「すべてか無か」のオープンリリース方針を拒否し、ML アーティファクトの共有・再利用方法を制御できる複数のレバーを提供します。

  1. Flagging Feature – ユーザーはモデル、データセット、Spaces、またはディスカッションでコンテンツガイドラインに違反するものをフラグできます。フラグアイコンは各リポジトリページに表示され、説明フィールドでコンテキストを提供できます。
  2. Community Monitoring – モデレーターがディスカッションボードを監視し、プラットフォームの行動規範を適用します。
  3. Enhanced Model Cards – 人気モデルには、社会的影響、バイアス、想定利用、対象外シナリオなどを網羅した詳細ドキュメントが付与されます。
  4. Audience‑Guiding Tags – not-for-all-audiences タグが付くと警告ポップアップが表示され、閲覧者は内容を確認した上でオプトインできます。
  5. Responsible AI Licenses (RAIL) – Hugging Face は BLOOM や BigCode などのモデル向けに Open Responsible AI Licenses を推進し、法的条件と倫理的意図を合わせます。
  6. Misuse Research – arXiv:2302.04844 などの継続的分析により、濫用リスクが高いモデルやデータセットを特定します。

フラグ付けワークフロー

  • リポジトリページのフラグアイコンをクリック。
  • 問題点を詳細に説明。
  • 報告はリポジトリの Community タブで会話を開始し、報告者、リポジトリ所有者、Hugging Face スタッフ間の透明な対話を可能にします。

高リスクフラグへの対応オプション

  • トレンドフィードでの可視性を低下。
  • アクセス制限（ゲーティング）を有効化（モデル・データセットのゲーティングドキュメント参照）。
  • リポジトリをプライベート化。
  • 完全にアクセスを無効化。

「Not For All Audiences」タグの追加手順

  1. モデルまたはデータセットのカードを編集。
  2. tags フィールドに not-for-all-audiences を追加。
  3. プルリクエストを送信。マージ後、タグがリポジトリページに表示されます。
  4. ユーザーは警告ポップアップを目にし、コンテンツ閲覧のオプションが提示されます。設定は Content Preferences で調整可能です。

コミュニティへの呼びかけ

Hugging Face は、安全策に取り組む研究者に Hub でツールを共有するよう呼びかけています。最近のコミュニティ貢献例は以下の通りです。

  • LLM Watermarking – 大規模言語モデル向けの透かしデモ（John Kirchenbauer et al., arXiv:2301.10226）。
  • Model Card Generation Tool – 包括的なモデルカード作成を支援するインタラクティブツール。
  • Photoguard – 画像改変検出のためのセーフガード。

これらの例は、オープンソースの貢献が安全性と透明性を直接向上させる方法を示しています。

本ニュースレターは、Irene Solaiman、Giada Pistilli、Nima Boscarino、Yacine Jernite、Elizabeth Allendorf、Margaret Mitchell が Ethics and Society チームを代表して執筆しました。

Sources