OpenAI 支持欧盟关于 AI 生成内容透明度的行为准则

OpenAI 已宣布支持欧盟委员会关于 AI 生成内容透明度的行为准则。此承诺旨在通过创建一个更透明的数字生态系统来实施欧盟 AI 法案，使用户能够识别 AI 生成内容的来源和出处。

内容来源在 AI 治理中的作用

内容来源为用户提供了关于内容来源、其创建或编辑过程以及其真实性的上下文。这种透明度对于保护数字生态系统免受虚假信息运动的侵害以及支持选举诚信至关重要。

OpenAI 主张，有效的来源方法必须具备互操作性，并且需要在价值链上共同构建，涉及新闻组织、设备制造商、AI 提供者和在线平台。

OpenAI 的多层次来源策略

为了确保即使在元数据被剥离或文件被修改时，来源信号仍能保持韧性，OpenAI 采用了一种多层次方法，结合不同的技术信号和产品防护措施：

技术来源信号

• C2PA 内容凭证： OpenAI 在 2024 年开始通过 ChatGPT 和 OpenAI API 将 C2PA 元数据集成到由 DALL·E 3 创建或编辑的图像中。
• 双信号标记： 通过 ChatGPT、Codex 和 OpenAI API 生成的图像同时使用 C2PA 元数据以提供丰富信息以及 SynthID 水印，以在不同情境下保留信号。
• 公开验证： 位于 openai.com/verify 的工具允许用户检查受支持的图像是否包含与 OpenAI 关联的来源信号。

生态系统协作与防护措施

• 开放标准： OpenAI 在 2024 年加入了 C2PA 指导委员会，以便与软件公司、相机制造商和媒体组织合作。
• 产品防护： 来源信号与分类器、报告渠道和执行流程一起使用，以减轻欺骗性 AI 用途，例如肖像滥用和与选举相关的欺骗。

实施挑战与未来展望

来源被描述为一个尚处于起步阶段的领域，存在显著的技术限制。元数据可能被删除，水印可能退化，标签仅在用户遇到它们时才有效。

OpenAI 强调，行为准则的实施应保持灵活，并基于在实践中有效的方法，以应对这些当前的技术限制。公司将在与 AI 办公室和欧盟成员国协调的情况下，继续发展互操作标准并改进验证工具。