オープンソース開発者向けEU AI Actガイド

概要

EU AI Actは現在施行されており、EU内の人々に影響を与えるAIモデルまたはシステムをリリースするオープンソース開発者に影響を及ぼします。このガイドは、法的助言ではない規制の導入を提供し、どの活動が対象となるかを説明し、要件を満たすための実践的な手順とHugging Faceのツールをリストします。

範囲

AI Actは、役割（プロバイダー、デプロイヤー、ディストリビューター）およびアーティファクトがAIモデルかAIシステムかによって適用されるルールを定めます。

  • Model: 汎用AI（GPAI）モデルのみが直接規制の対象となります。GPAIモデルは大規模なデータで訓練され、大きな汎用性を示し、多くのタスクを実行でき、システムで使用できます（例：大規模言語モデル）。ファインチューン版も同様に準拠する必要があります。
  • System: 入力から推論できるあらゆるアーティファクト（例：LLMを使用するチャットボットや、Hugging Face Spaces上のGradioアプリ）。 Risk tiers:
  • Unacceptable risk: 禁止されるシステム（例：顔画像スクレイピング）。
  • High risk: 安全または基本的権利に影響を与えるシステム（例：重要インフラストラクチャ）。
  • Limited risk: 人と直接やり取りし、なりすまし、操作、欺瞞を引き起こす可能性のあるシステム（ほとんどの生成AI統合）。これには透明性の措置が必要です。
  • Minimal risk: システムの大部分；既存の法律のみが適用されます。 For GPAI models there is an additional systemic risk category: models trained with over 10^25 FLOPs or with high‑impact capabilities. A Stanford study cited in the guide estimates that, as of August 2024, only eight models (Gemini 1.0 Ultra, Llama 3.1‑405B, GPT‑4, Mistral Large, Nemotron‑4 340B, MegaScale, Inflection‑2, Inflection‑2.5) from seven developers meet the default systemic risk threshold.

コンプライアンスへの準備

このガイドは、限定リスクのAIシステムおよびオープンソースの非システムリスクGPAIモデルに焦点を当てており、これらはHubで公開されているほとんどのモデルをカバーします。

限定リスクAIシステム

限定リスクAIシステムの開発者は次のことをしなければなりません：

  • ユーザーに対して、明らかでない限り、AIシステムとやり取りしていることを明確かつ詳細な言葉で開示する。
  • 人工生成または操作されたものであることを機械可読フォーマットで合成コンテンツ（音声、画像、動画、テキスト）にマークする；Gradioの組み込みウォーターマークなどのツールが役立ちます。 If acting as a deployer (using an AI system professionally), additional duties include informing individuals about emotion recognition or biometric systems and disclosing deepfakes or AI‑generated content in artistic works without spoiling the experience. The AI Office expects to publish codes of practice by May 2025, with enforcement starting August 2026.

オープンソース非システムリスクGPAIモデル

システムリスクを呈しないオープンソースのGPAIモデルについては、AI Actはオープンソースを、共有、使用、変更、再配布を許可するフリーかつオープンソースライセンスの下でリリースされたソフトウェアおよびデータと定義します。開発者はこの定義に合致するライセンスを選択すべきです（Hubにはリストが提供されます）。義務は次のとおりです：

  • AI Officeが提供するテンプレートを使用して、訓練データの十分に詳細なサマリーを作成し、公開する（詳細レベルはまだ議論中）。
  • EU著作権法を遵守するためのポリシーを実装し、権利者のオプトアウトを尊重する。著作物によるトレーニングは、権利者がオプトアウトしていない場合のみ許可される；開発者はrobots.txtのシグナルを尊重し、SpawningのAPIなどのツールを使用することから始めることができる。 The guide notes that existing Hugging Face integrations—such as model cards, dataset cards, Gradio watermarking, the BigCode “Am I In The Stack” opt‑out app, personal data redaction tools, and license handling—can support these tasks. Codes of practice for copyright compliance are expected by May 2025.

If a model is released in a way that does not meet the AI Act’s open source definition, other obligations apply. Should a GPAI model meet the systemic risk criteria, developers must notify the EU Commission; they may argue the model lacks systemic risk, but if the Commission rejects the claim the model will face further duties such as providing full technical documentation. Obligations for GPAI models take effect in August 2025.

関与する

AI Actの実際の適用は、まだ公的協議やワーキンググループを通じて形作られています。このガイドは、開発者に今すぐ参加し、中小企業や研究者向けの規定がどのように運用されるかに影響を与えるよう促しています。

Disclaimer: このガイドに提供される情報は情報提供のみを目的としており、いかなる法的助言ともみなすべきではありません。

@misc{eu_ai_act_for_oss_developers,
  author    = {Bruna Trevelin and Lucie-Aimée Kaffee and Yacine Jernite},
  title     = {Open Source Developers Guide to the EU AI Act},
  booktitle = {Hugging Face Blog},
  year      = {2024},
  url       = {},
  doi       = {}
}

Sources