Hugging Faceによる、AIの責任に関する米NTIAの意見公募への回答

TL;DR

2023年6月12日、Hugging FaceはAIの責任に関する米NTIAの意見公募に対し、責任のメカニズムはMLライフサイクル全体をカバーし、内部ドキュメントと外部の透明性を組み合わせ、幅広いステークホルダーを関与させるべきであるという推奨事項を含む回答を提出しました。

背景とミッション

Hugging Faceは、透明性とインクルージョンを強調することで、優れた機械学習を民主化するというミッションの枠組みの中で、このNTIAへの回答を構成しています。投稿には次のように述べられています。「Hugging Faceのミッションは、「優れた機械学習を民主化すること」です。この文脈における「民主化」とは、機械学習システムを開発・展開しやすくするだけでなく、多くのステークホルダーがそれを理解し、検証し、批判しやすくすることを意味すると理解しています。」同組織は、教育活動、ドキュメントへの注力、コミュニティガイドライン、責任あるオープン性、そしてデータセットやモデルを分析するためのノーコード・ローコードツールを通じて、この目標を追求していると述べています。

主要な推奨事項

Hugging Faceは、AIの責任における3つの柱として、「ライフサイクル全体への焦点」、「内部と外部の透明性の組み合わせ」、「幅広いステークホルダーの参加」を推奨しています。投稿では具体的な推奨事項が挙げられています：

「責任のメカニズムは、ML開発プロセスのすべての段階に焦点を当てるべきです。AIを活用した完全なシステムの社会的影響は、開発のあらゆる段階で行われる、完全には予測不可能な選択に依存しています。展開段階のみに焦点を当てた評価は、重大な被害が出るまで深い問題に対処できない表面的なコンプライアンスを助長するリスクがあります。」
「責任のメカニズムは、内部要件と外部のアクセスおよび透明性を組み合わせるべきです。優れたドキュメント作成慣行などの内部要件は、より責任ある開発を形成し、より安全で信頼性の高い技術を可能にする開発者の責任を明確にします。主張やドキュメントを検証し、開発チェーンの外にいる技術の多くのステークホルダーがその進化に有意義に関与し、関心事を促進できるようにするためには、内部プロセスや開発の選択に対する外部からのアクセスが依然として必要です。」
「責任のメカニズムは、技術に直接携わる開発者、多角的な研究コミュニティ、擁護団体、政策立案者、ジャーナリストを含む、可能な限り幅広い貢献者の参加を促すべきです。ML技術の採用の急速な拡大がもたらす変革的な影響を理解することは、単一の組織の能力を超える課題であり、広範な研究コミュニティ、およびその直接的なユーザーや影響を受ける人々の幅広いスキルと専門知識を活用することが必要となるでしょう。」

支援する実践とエビデンス

Hugging Faceは、提案されたメカニズムが機能し得る証拠として、既存のツールやプロジェクト（ドキュメント、教育、ノーコード分析スペース、BigScience、BigCode）を挙げています。投稿には次のように記されています。「そのために、私たちは教育活動、ドキュメントへの注力、コミュニティガイドライン、責任あるオープン性へのアプローチ、ならびにあらゆる技術的背景を持つ人々がMLデータセットやモデルを分析できるようにするためのノーコード・ローコードツールの開発を通じて、透明性とインクルージョンの促進に取り組んできました。」また、これらのアプローチは「責任の促進においてすでに有用性が証明されており、特にBigScience（プロジェクトの社会的利害に関するブログシリーズを参照）や、より最近のBigCodeプロジェクト（ガバナンスについてはこちらに詳細が記載されています）を含む、私たちが組織を支援してきた大規模な多角的研究の取り組みにおいて、その有用性が示されています」と付け加えています。

政策への示唆

この回答は、効果的なAI責任政策には、ドキュメント作成の要求、外部検証の有効化、および包括的なガバナンスプロセスの義務化が必要であることを示唆しています。投稿は次のように結論付けています。「MLアーティファクト自体と、その評価結果の両方において透明性を優先することが、これらの目標を達成するために不可欠であると信じています。」また、詳細を確認したい読者のために、回答の全文PDFへのリンクも提供されています。