OpenAI 支持歐盟 AI 生成內容透明度實踐守則

OpenAI 宣布支持歐洲委員會的《AI 生成內容透明度實踐守則》。此承諾旨在透過建立更透明的數位生態系統，使使用者能辨識 AI 生成內容的來源與起源，從而落實《歐盟 AI 法案》。

內容來源在 AI 治理中的角色

內容來源為使用者提供關於內容來源、創建或編輯過程以及真偽的背景資訊。此透明度對於防止數位生態系統受到錯資訊攻擊以及維護選舉完整性至關重要。

OpenAI 主張，有效的來源方法必須具備互通性，並在整個價值鏈上共同建構，涵蓋新聞機構、裝置製造商、AI 供應商與線上平台。

OpenAI 的多層次來源策略

為確保來源訊號即使在中繼資料被剝除或檔案被修改時仍具韌性，OpenAI 採用結合多種技術訊號與產品防護的多層次方法：

技術來源訊號

• C2PA Content Credentials: OpenAI 於 2024 年開始將 C2PA 中繼資料整合至透過 ChatGPT 與 OpenAI API 產生或編輯的 DALL·E 3 圖片中。
• Dual-Signal Marking: 透過 ChatGPT、Codex 與 OpenAI API 產生的圖像同時使用 C2PA 中繼資料提供豐富資訊，並以 SynthID 水印在不同情境中保留訊號。
• Public Verification: 位於 openai.com/verify 的工具讓使用者檢查支援的圖像是否包含與 OpenAI 相關的來源訊號。

生態系統合作與防護措施

• Open Standards: OpenAI 於 2024 年加入 C2PA 指導委員會，與軟體公司、相機製造商及媒體組織合作。
• Product Safeguards: 來源訊號與分類器、舉報渠道及執行流程結合使用，以減少欺騙性 AI 的濫用，例如肖像濫用與選舉相關的欺詐行為。

實施挑戰與未來展望

來源被描述為一個新興領域，存在顯著的技術限制。中繼資料可能被移除，水印可能退化，且標籤僅在使用者看到時才有效。

OpenAI 強調，實踐守則的執行應保持彈性，並以實際可行的方法為基礎，以因應目前的技術限制。公司將持續與 AI Office 及歐盟成員國協調，開發互通標準並改進驗證工具。