Hugging Face 倫理と社会 アップデート 2023年夏

TL;DR

Hugging Faceは、米国、EU、英国の立法者と2023年夏に関わり、オープンソースAIの擁護と規制のための価値ベースのフレームワークを提供しました。政策業務と並行して、組織はバイアステスト、データセットの透明性、環境影響研究における技術的取り組みを進め、より説明責任が果たせかつ民主化されたAIエコシステムを促進しました。

AIポリシーと規制提言

Hugging Faceは、透明性、安全性、正義を含む価値の語彙を活用し、正式な法律がまだ確立されていない場所でのAI立法形成を支援しています。組織は、規制が開放性を阻害しないように、世界の統治機関に対して専門家の証言とガイダンスを提供することに焦点を当てています。 主要な規制関与は以下の通りです：

  • アメリカ: CEOクレム・デラングは米国議会に証言を行い、米国上院AIインサイトフォーラムで声明を発表しました。チーフエシエンティストマーガレット・ミッチェルは民主党会派にコメントを提供しました。
  • 欧州連合: 組織はEU AI法およびオープンソースソフトウェアの役割について具体的な助言を提供しました。
  • 国家通信情報行政局(NTIA): Hugging FaceはAIアカウンタビリティについてコメントを提出しました。

公共の広報活動と技術的議論

AIの民主化を支援するため、Hugging Faceの専門家は主要なメディアを通じて公共の議論に貢献し、複雑な技術的および倫理的問題を明確にしてきました。これらの貢献はいくつかの重要な分野をカバーしています：

環境への影響と持続可能性

Sasha Luccioniは、The Atlantic、The Guardian、The Wall Street Journal、およびNew Scientistなどの出版物に対して、AIのエネルギー消費と炭素排出に関する分析を提供しました。

モデルの安全性とバイアス

  • 生成AIバイアス: 専門家はBloomberg、NBC、およびVox向けに生成AIのバイアスに関する洞察を提供しました。
  • 終末シナリオリスク: AIの「終末シナリオ」に関する分析がBloomberg、The Times、およびSky Newsに提供されました。
  • 誤情報: マーガレット・ミッチェルはCNN、al Jazeera、およびThe New York Times*向けにAI生成選挙誤情報についての議論に貢献しました。
  • 感覚と特異点: ジアダの自伝はRFIおよびPopular Mechanics向けにAIの「感覚」および「特異点」の概念に言及しました。

オープンソースと知的財産

  • オープンリリース: Nathan LambertとYacine JerniteはWIRED、VentureBeat、およびFortune向けにオープン言語モデルリリースの状況とMetaのLlamaモデルの影響についてコメントを提供しました。
  • 著作権: Yacine JerniteはVentureBeat向けに生成AIトレーニングデータの著作権問題に取り組みました。
  • アーティストの権利: マーガレット・ミッチェルはThe Washington Post向けにAIにおけるアーティストの作品の適切な扱いの必要性について議論しました。

AI倫理への技術的貢献

Hugging Faceは、親しみやすさ、公平性、厳格さに焦点を当てたいくつかの「work work」イニシアティブを通じて、倫理をコアな製品開発と研究に統合しています。

モデル評価と透明性

  • バイアステスト: Hugging FaceはマルチモーダルモデルIDEFICSにバイアスと害のテストを適用しました。
  • データセットの厳格さ: 組織はデータセットに記述統計を追加し、AIが何を学び、どのように評価されるかの理解を深めました。
  • コンテンツポリシー: 組織は責任を持って透明性を運用化するため、コンテンツポリシーを更新しました。

教育リソースと研究

  • Audio AI: AIオーディオの新しいコースを立ち上げました。
  • Clinical AI: オープンアクセス臨床言語モデルのためのリソースを開発しました。
  • 責任ある生成AI: 責任ある生成AIのチュートリアルを作成しました。
  • 学術研究: 機械学習における生成AIリリースのグラデーションと倫理憲章および技術ドキュメントの言語化に関するFAccT論文を発表しました。

コミュニティリソース

Hugging Faceは、現在のAI倫理議論を支援するため、倫理関連のリソースを一元化されたハブに統合しました：https://huggingface.co/society-ethics.

Sources