OpenAI의 AI 생성 콘텐츠 투명성에 관한 EU 행동 규범 지지

OpenAI는 유럽 위원회의 AI 생성 콘텐츠 투명성에 관한 행동 규범에 대한 지지를 발표했습니다. 이 약속은 사용자가 AI 생성 콘텐츠의 출처와 원본을 식별할 수 있는 더 투명한 디지털 생태계를 만들어 EU AI 법을 시행하는 것을 목표로 합니다.

AI 거버넌스에서 콘텐츠 출처의 역할

콘텐츠 출처는 콘텐츠의 출처, 생성 또는 편집 과정, 그리고 진위에 대한 사용자에게 맥락을 제공합니다. 이 투명성은 허위 정보 캠페인으로부터 디지털 생태계를 보호하고 선거 무결성을 지원하는 데 중요합니다.

OpenAI는 효과적인 출처 방법이 가치 사슬 전반에 걸쳐 호환 가능하고 공동으로 구축되어야 한다고 주장하며, 여기에는 뉴스 조직, 기기 제조업체, AI 제공업체, 온라인 플랫폼이 포함됩니다.

OpenAI의 다층적 출처 전략

메타데이터가 제거되거나 파일이 수정되어도 출처 신호가 복원력을 유지하도록 하기 위해, OpenAI는 다양한 기술적 신호와 제품 보호 장치를 결합한 다층적 접근 방식을 사용합니다:

기술적 출처 신호

• C2PA 콘텐츠 자격 증명: OpenAI는 2024년부터 ChatGPT와 OpenAI API를 통해 생성되거나 편집된 DALL·E 3 이미지에 C2PA 메타데이터를 통합하기 시작했습니다.
• 이중 신호 표시: ChatGPT, Codex, OpenAI API를 통해 생성된 이미지는 풍부한 정보를 위한 C2PA 메타데이터와 다양한 맥락에서 신호를 보존하는 SynthID 워터마크를 모두 사용합니다.
• 공개 검증: openai.com/verify에 있는 도구는 사용자가 지원되는 이미지에 OpenAI와 관련된 출처 신호가 포함되어 있는지 확인할 수 있게 합니다.

생태계 협력 및 보호 장치

• Open Standards: OpenAI는 2024년 C2PA steering 위원회에 합류하여 소프트웨어 회사, 카메라 제조업체, 미디어 조직과 협력했습니다.
• Product Safeguards: 출처 신호는 분류기, 보고 채널, 집행 과정과 함께 사용되어 외모 남용 및 선거 관련 기만과 같은 기만적인 AI 사용을 완화합니다.

구현 과제 및 미래 전망

출처는 상당한 기술적 제한이 있는 nascent 분야로 설명됩니다. 메타데이터는 제거될 수 있고, 워터마크는 손상될 수 있으며, 라벨은 사용자가 마주치는 곳에서만 효과적입니다.

OpenAI는 현재 기술적 제한을 고려하여 행동 규범의 구현이 유연성을 유지하고 실제에서 효과적인 방법에 기반해야 한다고 강조합니다. 회사는 AI 사무국 및 EU 회원국과의 협력을 통해 호환 가능한 표준을 계속 개발하고 검증 도구를 개선할 것입니다.