Hugging Face マルチモーダルプロジェクト倫理憲章

Hugging Face は、マルチモーダル学習プロジェクトのために倫理憲章を導入し、研究ライフサイクルの初期段階から倫理的配慮が組み込まれるようにしています。このフレームワークは、アルゴリズムバイアス、データプライバシー侵害、悪意ある利用といったリスクを軽減することを目的とし、プロジェクトの開発を支配する価値観とコンテンツポリシーを正式化します。

倫理憲章の目的とフレームワーク

Hugging Face のマルチモーダル学習チームは、倫理的配慮を後付けから機械学習ライフサイクルの核心要素へと移行させるためにこの憲章を作成しました。プロジェクト開始時にこれらの原則を定義することで、チームはすべての技術的選択を明確な価値観と目標に基づかせることを意図しています。

憲章の主な目的は次のとおりです：

• 早期フィードバック: 決定事項やチームの役割を透明にすることで、Hugging Face はコミュニティから十分に早い段階でフィードバックを求め、意味のある変更を実装できるようにします。
• 協働開発: 本文書は、Hugging Face の研究者とエンジニアが、個人プライバシー、データガバナンス、倫理の実装に関する専門家の意見を取り入れて作成しました。
• 反復的進化: この憲章は2022年5月時点で進行中の作業であり、GitHub で更新が追跡され、「倫理的AI」の変化する性質を反映しています。

コンテンツポリシーと禁止される使用例

Hugging Face は、プロジェクトが防止しようとするマルチモーダル技術の具体的な誤用を特定しました。コンテンツポリシーでは以下を禁止しています：

• 有害コンテンツ: 人種、性別、年齢、能力、LGBTQA+ 指向、宗教、教育、社会経済的地位に基づくアイデンティティのサブポピュレーションに対する暴力、嫌がらせ、いじめ、ヘイト、差別の助長。
• 法的・権利侵害: 著作権、プライバシー、人権、文化的権利、基本的権利、または拘束力のある法律のいかなる違反も。
• 個人情報生成（PII）: 個人を特定できる情報の生成。
• 誤情報: 他者に害を与える、または刺激することを目的とした虚偽情報の生成、または責任を伴わない情報の生成。
• 高リスク領域への適用: 医療、法務、金融、移民といった、生活に根本的な損害を与える可能性のある分野でのモデルの不注意な使用。

コア倫理価値

プロジェクトは、説明責任と公平性を確保するために設計された5つの主要価値に導かれています：

• 透明性: 意図、データソース、ツール、意思決定に関するオープンさを保ち、コミュニティが弱点を特定し、チームに説明責任を課すことができるようにします。
• オープン性と再現性: データ、ツール、実験条件の正確な記述を共有します。研究成果物やモデルチェックポイントは、差別なくすべての人がアクセスできる必要があります。
• 公平性: すべての人間を平等に扱うことと定義され、人種、性別、障害、性的指向に関するバイアスの監視と緩和が必要です。これには、トレーニングデータとモデル出力の両方に対するバイアスレビューの実施が含まれます。
• 自己批判: 誇大広告や過大主張を避け、トレーニングデータのキュレーションとフィルタリングのためのより良い戦略を常に模索することへのコミットメント。
• クレジットの帰属: 適切なライセンスとクレジットを通じて他者の成果を尊重すること。

価値の衝突の管理

Hugging Face は、倫理的価値が実際に衝突することを認識しています。たとえば、オープンで再現可能な作業を共有する目標は、個人のプライバシーを尊重したり公平性を確保したりする必要性と衝突することがあります。チームは、これらの緊張はリスクと利益のケースバイケース分析を必要とし、最適な行動方針を決定すべきであると強調しています。