오픈소스 개발자를 위한 EU AI 법 가이드

개요

EU AI 법은 이제 발효되어 EU 내 사람들에게 영향을 미치는 AI 모델이나 시스템을 출시하는 오픈소스 개발자에게 영향을 미칩니다. 이 가이드는 법에 대한 비법적 조언이 아닌 소개를 제공하고, 어떤 활동이 적용되는지 설명하며, 요구 사항을 충족하는 데 도움이 되는 실제 단계와 허깅 페이스 도구를 나열합니다.

범위

AI 법은 역할(제공자, 배포자, 유통자)과 아티팩트가 AI 모델인지 AI 시스템인지에 따라 규칙을 정합니다.

모델: 범용 AI(GPAI) 모델만 직접 규제 대상입니다. GPAI 모델은 대량의 데이터로 훈련되며, 상당한 일반성을 보이고, 많은 작업을 수행할 수 있으며, 시스템에서 사용될 수 있습니다(예: 대형 언어 모델). 미세 조정된 버전도 준수해야 합니다.
시스템: 입력을 추론할 수 있는 모든 아티팩트(예: LLM을 사용하는 챗봇 또는 허깅 페이스 스페이스의 Gradio 앱). 위험 등급:
용납할 수 없는 위험: 금지된 시스템(예: 얼굴 이미지 스크래핑).
높은 위험: 안전 또는 기본권에 영향을 미치는 시스템(예: 핵심 인프라).
제한된 위험: 사람과 직접 상호작용하고 위장, 조작, 속임을 일으킬 수 있는 시스템(대부분의 생성형 AI 통합). 이러한 시스템은 투명성 조치가 필요합니다.
최소 위험: 대부분의 시스템; 기존 법률만 적용됩니다. GPAI 모델에 대해서는 추가적인 시스템적 위험 범주가 있습니다: 10^25 FLOPs 이상으로 훈련되거나 높은 영향력을 가진Capabilities을 가진 모델들입니다. 가이드에 인용된 스탠퍼드 연구에 따르면, 2024년 8월 기준으로 Gemini 1.0 Ultra, Llama 3.1‑405B, GPT‑4, Mistral Large, Nemotron‑4 340B, MegaScale, Inflection‑2, Inflection‑2.5 등 일곱 개발자의 여덟 개 모델만이 기본 시스템적 위험 임계값을 충족합니다.

준수 준비 방법

이 가이드는 제한된 위험 AI 시스템과 오픈소스 비시스템적 위험 GPAI 모델에 초점을 맞추며, 이는 허브에서 공개적으로 이용 가능한 대부분의 모델을 포함합니다.

제한된 위험 AI 시스템

제한된 위험 AI 시스템의 개발자는 다음을 해야 합니다:

사용자와 상호작용하고 있음을 명시하지 않는 한 명확하고 철저한 언어로 사용자에게 AI 시스템과의 상호작용을 공개해야 합니다.
기계가 읽을 수 있는 형식으로 합성 콘텐츠(오디오, 이미지, 비디오, 텍스트)를 인공적으로 생성되거나 조작되었음을 표시해야 합니다; Gradio의 내장 워터마킹과 같은 도구가 도움이 될 수 있습니다. 배포자(전문적으로 AI 시스템을 사용하는 경우)로 행동할 경우, 추가 의무로는 개인이 감정 인식 또는 생체 인식 시스템에 대해 알림을 받고, 경험을 해치지 않으면서 예술 작품에서의 딥페이크 또는 AI 생성 콘텐츠를 공개하는 것이 포함됩니다. AI 사무국은 2025년 5월에 실천 지침을 발표하고, 2026년 8월에 집행을 시작할 것으로 예상됩니다.

오픈소스 비시스템적 위험 GPAI 모델

시스템적 위험을 제시하지 않는 오픈소스 GPAI 모델에 대해, AI 법은 자유롭고 오픈소스 라이선스 하에 공유, 사용, 수정, 재배포를 허용하는 소프트웨어와 데이터를 오픈소스로 정의합니다. 개발자는 이 정의에 맞는 라이선스를 선택해야 합니다(허브에서 목록을 제공합니다). 의무 사항은 다음과 같습니다:

AI 사무국이 제공할 템플릿을 사용하여 훈련 데이터의 충분히詳細한 요약을 작성하고 제공해야 합니다(세부 수준은 아직 논의 중입니다).
저작권자의 옵트아웃을 존중하면서 EU 저작권법을 준수하는 정책을 시행해야 합니다. 저작권이 있는 자료에서의 훈련은 저작권자가 옵트아웃하지 않은 경우에만 허용됩니다; 개발자는 robots.txt 신호를 준수하고 Spawning의 API와 같은 도구를 사용함으로써 시작할 수 있습니다. 이 가이드는 기존 허깅 페이스 통합—모델 카드, 데이터셋 카드, Gradio 워터마킹, BigCode “Am I In The Stack” 옵트‑아웃 앱, 개인 데이터 삭제 도구, 라이선스 처리 등—이 이러한 작업을 지원할 수 있다고 언급합니다. 저작권 준수를 위한 실천 지침은 2025년 5월에 예상됩니다.

모델이 AI 법의 오픈소스 정의를 충족하지 않는 방식으로 출시될 경우, 다른 의무가 적용됩니다. GPAI 모델이 시스템적 위험 기준을 충족하는 경우, 개발자는 EU 위원회에 알림을 해야 합니다; 그들은 모델이 시스템적 위험이 없다고 주장할 수 있지만, 위원회가 주장을 기각하면 모델은 전체 기술 문서 제공과 같은 추가 의무를 겪게 됩니다. GPAI 모델에 대한 의무는 2025년 8월에 발효됩니다.

참여하기

AI 법의 실제 적용은 여전히 공개 협의와 작업 그룹을 통해 형성되고 있습니다. 이 가이드는 개발자들이 지금 참여하여 중소기업 및 연구자를 위한 조항이 어떻게 운영될 수 있는지에 영향을 미치도록 권장합니다.

면책 조항: 이 가이드에 제공된 정보는 정보 제공 목적으로만 사용되며, 어떠한 형태의 법적 조언으로도 간주되어서는 안 됩니다.

@misc{eu_ai_act_for_oss_developers,
  author    = {Bruna Trevelin and Lucie-Aimée Kaffee and Yacine Jernite},
  title     = {Open Source Developers Guide to the EU AI Act},
  booktitle = {Hugging Face Blog},
  year      = {2024},
  url       = {},
  doi       = {}
}

오픈소스 개발자를 위한 EU AI 법 가이드

개요

범위

준수 준비 방법

제한된 위험 AI 시스템

오픈소스 비시스템적 위험 GPAI 모델

참여하기

Sources