OpenAI 內容來源與真實性倡議

OpenAI 正在實施多層次的內容來源方法，以對抗欺騙性的 AI 生成媒體

OpenAI 已加入 C2PA 指導委員會，並正在開發內部偵測工具，以提供有關視聽內容來源的透明度。這些努力結合開放產業標準與專有技術解決方案，協助使用者驗證數位內容是否使用 OpenAI 工具創建或編輯。

採用 C2PA 開放標準

OpenAI 已加入內容來源與真實性聯盟（C2PA）指導委員會，該標準廣泛用於數位內容認證。此標準允許創作者與平台證明數位內容的來源，無論是原始相機輸出或 AI 生成的圖像。

在 DALL‑E 3 與 Sora 中的實作

OpenAI 已在 ChatGPT 以及 OpenAI API 中，將 C2PA 中繼資料整合至所有透過 DALL‑E 3 創建或編輯的圖像。此中繼資料追蹤圖像的歷史，包括使用的工具（例如 OpenAI 的 DALL‑E）與執行的操作（例如格式轉換或編輯）。OpenAI 亦承諾在 Sora 影片生成模型廣泛上線時，整合 C2PA 中繼資料。

社會韌性基金

為促進來源標準的採用與理解，OpenAI 與 Microsoft 共同設立了 200 萬美元的社會韌性基金。此基金支援 AI 教育，合作夥伴包括 Partnership on AI、International IDEA 與 AARP 的 Older Adults Technology Services 等組織。

專有偵測與浮水印工具

OpenAI 正在開發內部來源方法，設計上比標準中繼資料更難被移除。

DALL‑E 3 圖像偵測分類器

OpenAI 已啟動研究者存取計畫，允許研究實驗室與新聞非營利組織測試圖像偵測分類器。此工具預測圖像由 DALL‑E 3 生成的可能性。內部測試顯示以下效能指標：

  • 準確率: 正確辨識約 98% 的 DALL‑E 3 圖像。
  • 偽陽性: 少於約 0.5% 的非 AI 生成圖像被錯誤標記為 DALL‑E 3 圖像。
  • 韌性: 在常見的裁切、壓縮與飽和度變更等修改下仍能保持效能。
  • 限制: 在區分 DALL‑E 3 圖像與其他 AI 模型生成的圖像時效能較低，會有 5‑10% 的其他模型圖像被標記為 DALL‑E 3 圖像。

音訊浮水印

OpenAI 已將防篡改音訊浮水印整合至 Voice Engine（其自訂語音模型），目前處於有限的研究預覽階段。此技術在音訊中嵌入難以移除的不可見訊號。

文本來源研究

OpenAI 因視聽內容的感知風險較高而優先處理，但同時積極研究文本來源解決方案。目前的發現包括：

文本浮水印

OpenAI 已開發出一種對局部篡改（如改寫）有效，但對全域篡改較脆弱的文本浮水印方法。使用翻譯系統、以其他生成模型重新措辭，或插入與刪除特殊字元等手段，都能繞過浮水印。

此外，研究指出文本浮水印可能對非母語英語使用者產生不成比例的影響，因其會將使用 AI 作為寫作工具的行為污名化。

文本元資料

OpenAI 正在探索對文本使用加密簽名元資料的可能性。由於元資料已簽名，可消除偽陽性，OpenAI 預期隨著 AI 生成文本量的增加，這將變得至關重要。

SUMMARY: OpenAI 正在採用 C2PA 開放標準進行數位內容認證，並開發內部工具，如圖像偵測分類器與音訊浮水印，以協助使用者辨識 AI 生成的內容。

TITLE: OpenAI 內容來源與真實性倡議

Sources