OpenAI 與 Google 合作，利用 SynthID 與 C2PA 打擊 AI 生成的錯誤資訊

隨著 AI 生成的圖像變得與現實難以區分，業界正競相建立一套「來源（provenance）」系統——一種數位紙本追蹤，能告訴使用者圖像從何而來以及是如何被創建的。OpenAI 最近宣布了一項針對此問題的多層次方法，整合了 Google DeepMind 的 SynthID 水印技術與 C2PA 開放標準，以建立一個更具韌性的系統來識別合成內容。

來源的多層次方法

OpenAI 正逐漸不再依賴單一的檢測方法，因為他們意識到任何單一訊號都可能輕易被剝離或繞過。他們的新策略採用了兩層主要的識別層：

1. C2PA 符合性

OpenAI 已成為「C2PA 符合生成產品（C2PA Conforming Generator Product）」。內容來源與真實性聯盟（C2PA）使用加密簽章與中繼資料（metadata）將來源資訊直接附加在檔案上。這提供了詳細的背景資訊——例如用於創建圖像的工具——對於進行完整性決策的記者與平台而言非常有用。

然而，中繼資料是脆弱的。它可能在簡單地將圖片上傳到社群媒體平台時、在調整尺寸時，或被使用者完全移除時而丟失。這就是第二層的作用所在。

2. Google 的 SynthID 水印技術

為了補充 C2PA，OpenAI 正在整合 Google DeepMind 的 SynthID。與中繼資料不同，SynthID 直接將不可見的水印嵌入圖像像素中。這使得訊號更具耐用性；它被設計為能在通常會破壞中繼資料的轉換過程中存活下來，例如螢幕截圖或檔案格式變更。

透過結合這兩者，OpenAI 旨在建立一個系統，其中 C2PA 提供詳細的背景資訊，而 SynthID 在中繼資料被剝離時提供具韌性的「最後一道防線」。

公開驗證與檢測

為了讓這些訊號對一般大眾有用，OpenAI 正在預覽一個公開驗證工具。使用者可以上傳一張圖片來檢查它是否是由 ChatGPT、OpenAI API 或 Codex 生成的。該工具會檢查 C2PA Content Credentials 以及 SynthID 水印。

OpenAI 承認沒有任何檢測方法是萬無一失的。如果沒有檢測到任何訊號，該工具不會做出斷定性的結論，因為來源訊號可能已被刻意或意外地剝離。

社群評論與技術懷疑

雖然 AI 實驗室將此舉呈現為一項安全倡議，但 Hacker News 上的技術社群表達了顯著的懷疑。討論揭示了幾個關鍵的漏洞與哲學上的反對意見：

移除的「軍備競賽」

許多使用者認為水印很輕易就能被規避。一位使用者 @himata4113 詳細說明了一種透過遮蔽像素並使用其他 AI 模型重新生成像素的方法來移除 SynthID 圖案，聲稱透過微調模型，這類水印可以輕易地被移除。

其他批評者指出，惡意行為者——那些最有可能製造假宣傳的人——將直接使用根本沒有實施這些水印的開源模型。正如 @julianozen 所指出的，「惡意行為者會建立不使用 synthID 的系統」。

隱私與「圖像的 DRM」

有些使用者將這些措施視為為合成內容提供的數位權利管理（DRM）。@WhatIsDukkha 將此舉描述為「表演性的廢話」，質疑為什麼像 Photoshop 這樣的專業工具不被要求遵循相同的標準，並對這些標記是「非我所選的任意中繼資料」表示擔憂。

策略性動機

也有推測認為這些舉動並非純粹為了公共安全。有些人建議，主要目標是為了讓 AI 公司防止自己的模型在「AI slop」——即如果餵回給未來訓練集，可能會降低模型性能的合成數據——上進行訓練。

結論

OpenAI 採用 SynthID 與 C2PA 代表了邁向業界廣泛內容來源標準的重要一步。然而，企業對於「信任生態系統」的願景與水印移除的技術現實之間的差距，暗示了這些工具將僅作為次要防禦手段。直到來源資訊變得無處不在，並整合進相機與擷取裝置的硬體中，對抗 AI 生成錯誤資訊的戰鬥很可能仍將是一場艱苦的奮鬥。