Hugging Face Ethics and Society ニュースレター #1

Hugging Face は Ethics and Society ニュースレターを開始し、AI 倫理を実践化するための同社の継続的な取り組みを共有します。このイニシアチブは「Ethics and Society regulars」と呼ばれる横断的な従業員グループが主導しており、倫理的責任は単一の専任チームの領域ではなく、会社全体で共有すべきコミットメントであると主張しています。

コア倫理価値とフレームワーク

Hugging Face は、オープンソースの起源と研究コミュニティとの統合から導き出された 4 つの主要価値に基づいて AI 倫理へのアプローチを構築しています。

• Collaboration（協働）: ドキュメンテーション用ツールや評価ツール、Discord などのコミュニティディスカッションプラットフォームを提供し、オープンソースコミュニティと連携します。
• Transparency（透明性）: プロジェクト固有の価値ステートメントや AI 政策に関する見解など、社内の考えやプロセスを共有し、コミュニティからのフィードバックを求めます。
• Responsibility（責任）: 技術の長期的影響を優先し、ML の専門家でなくても監査可能で理解しやすいシステムを構築します。
• Reproducibility（再現性）: 研究コミュニティが Hugging Face Hub を利用してモデルやデータをホストし始めたことに伴い、根本的な価値として統合されました。

AI 倫理の実践化

静的な原則リストを全社的に採用するのではなく、Hugging Face は個々のプロジェクトの予測される影響に基づくコンテキスト固有のアプローチで価値を実践化します。この手法は「良い ML の民主化」に焦点を当て、実用的なツールとガイドラインを導入します。

倫理的 ML のための技術ツール

監査性と透明性を高めるため、Hugging Face は以下の技術アーティファクトを開発・展開しています。

• Evaluation Libraries（評価ライブラリ）: 開発者がモデルをより厳密に評価できるツール。
• Data Analysis Tools（データ分析ツール）: データセットの偏りやバイアスを分析するために特化したコード。コーディング不要の実験的データ分析ツールも含みます。
• Carbon Tracking（炭素追跡）: モデル学習時の炭素排出量を追跡するツール。
• Responsible Licensing（責任あるライセンス）: AI システムがもたらす潜在的な害に対処するためのオープンで責任ある AI ライセンス（RAIL）の開発。
• Reporting Mechanisms（報告メカニズム）: モデルや Spaces リポジトリに対して倫理的・法的問題を報告できる「フラグ」システム。

コミュニティとガバナンス

包括的な環境と ML の民主化を確保するため、Hugging Face は以下のガバナンス構造を実装しています。

• Direct Feedback（直接フィードバック）: ユーザーは Hugging Face Hub にホストされたモデル、データ、Spaces に対して直接フィードバックを提供できます。
• Documentation Requirements（ドキュメンテーション要件）: モデルカードやドキュメント要件を導入し、モデルの有用性と制限事項の理解を促進します。
• Code of Conduct and Content Guidelines（行動規範とコンテンツガイドライン）: コミュニティディスカッションを導くフレームワークを確立し、包括的な空間を維持します。
• Private Hub（プライベート Hub）: ML 開発のための安全な環境。

将来の展望

Hugging Face は「良い」ML の基準を研究し続け、今後数か月で価値、緊張関係、倫理の実践化に関するさらなる記事を公開する予定です。