Anthropic 發布使用 C2PA 元資料的 Claude 檔案來源檢查工具

Anthropic 的 Claude 檔案檢查工具透過 C2PA 元資料揭示來源

重點: Anthropic 現在提供一個瀏覽器工具,可讀取支援的多媒體檔案(影像、影片、音訊)中嵌入的加密簽署 C2PA 元資料,以判斷 Claude 是否參與了檔案的建立或處理,回應日益增長的 AI 生成內容透明度法規需求。


該工具的功能

該工具僅識別內容憑證,而非內容本身。

  • 當 Claude 建立支援的檔案(例如 PNG、JPG、SVG、MP4)時,會在檔案的元資料中附加一個小型 C2PA 相容的註記。
  • 檢查工具在瀏覽器中本地讀取該註記;檔案永遠不會離開使用者的裝置。
  • 若憑證指向 Claude,使用者介面會顯示正面結果。
  • 該工具不會分析檔案的視覺或文字內容,也不會揭露檔案的生成者。

"您的檔案會留在您的裝置上。檢查工具僅讀取內嵌的憑證,而非檔案本身。您的檔案永遠不會被儲存或用於其他用途。" – Anthropic 文件

內部運作原理

  • Claude 嵌入一個 C2PA(內容來源與真實性聯盟) 憑證,與相機製造商和照片編輯軟體所使用的業界標準相同。
  • 該憑證是一份加密簽署的聲明,指出該檔案是「由 Claude 建立」或「由 Claude 處理」。
  • 任何支援 C2PA 的讀取器均可驗證簽章;Claude 檢查工具內建 c2pa-rs Rust 套件的 WebAssembly 版本,於用戶端執行驗證。

"這個工具使用 WebAssembly – https://claude.com/_next/static/media/c2pa_verify_wasm_bg… – 這是此 Rust 套件的 WASM 編譯版本:https://github.com/contentauth/c2pa-rs" – @simonw

支援的格式與限制

  • 使用者介面列出 JPG、PNG、GIF、WEBP、TIFF、HEIC、AVIF、SVG、DNG、JXL、MP4、MOV、AVI、WAV、MP3、M4A、FLAC – 最大 100 MB。
  • PDF、Excel 或其他文件類型不支援,這限制了該工具在檢查學術論文或報告方面的實用性。
  • 元資料可透過重新儲存檔案輕易移除,但若無 Anthropic 的私密簽署金鑰,偽造 Claude 憑證幾乎不可能。

"您可以重新儲存檔案,『使用 Claude 建立』的訊號就會消失,但若無 Anthropic 的簽署金鑰,您無法讓隨機檔案看起來像是由 Claude 建立。因此,此保證是單向的。無簽章幾乎等於無意義。" – @coffeecoders

為何此檢查工具現在至關重要

  • 法規壓力: 歐盟 AI 法案與加州 AI 透明度法案要求大型 AI 提供商在生成內容中嵌入來源資訊。Anthropic 的文字水印與此檔案憑證,正是對這些法規要求的直接回應。

"據我所知,這項功能與近期將水印加入文字輸出的變更……是為了符合歐盟 AI 法案與加州 AI 透明度法案的要求……" – @csmoak

  • 模型訓練的潔淨性: 透過標記 Claude 生成的多媒體,Anthropic 可以避免其自身輸出被無意間納入未來的訓練資料中。

"我認為這主要是為了避免他們的訓練資料中出現 AI 生成的內容。" – @kelvinjps10

社群觀察與邊際案例

  • 元資料注入路徑: Claude 的網頁介面會先建立 SVG,再轉為光柵圖像。C2PA 憑證出現在最終下載的檔案中,但若在下載前將檔案重新打包(例如放入 ZIP 檔案),憑證就會消失。

"當 Claude Code CLI 需要多媒體檔案時……下載的 JPEG 有 C2PA 元資料,似乎是透過『物件呈現』機制注入的。……解壓縮後的 JPEG 則沒有 C2PA 元資料。" – @Retr0id

  • 假陰性: 有使用者報告,某些由 Claude 生成的圖形未被標記,顯示該工具在某些工作流程中可能遺漏憑證。

"我剛用 Claude 建立了一張圖形,並輸入工具,結果顯示沒有證據顯示它是用 Claude 建立的。所以……這個工具看起來幾乎毫無用處。" – @cmiles8

  • 移除容易 vs. 偽造困難: 移除 C2PA 資料輕而易舉(重新儲存檔案),但若無私密金鑰,要加入令人信服的 Claude 憑證幾乎不可能。

"移除 C2PA 資料很簡單,但偽造很困難。無簽章幾乎等於無意義。" – @coffeecoders

  • 水印範圍: 該工具僅涵蓋多媒體檔案;Claude 的文字水印仍是專屬的私密預覽 API,用於歐盟要求的檢測。

"要檢測嵌入文字中的水印,我們有一個檢測 API,目前處於私密預覽階段……" – Anthropic 文件

如何使用檢查工具

  1. 前往 https://claude.com/check-content
  2. 拖曳或點選選擇支援的檔案(最大 100 MB)。
  3. 瀏覽器端驗證器會讀取任何 C2PA 憑證,並報告 Claude 是否列為來源。
  4. 無需上傳資料;驗證完全在本地執行。

與其他提供者的比較

  • OpenAI、Google DeepMind 和 Gemini 也提供來源檢查工具(例如 OpenAI 的 Verify、DeepMind 的 SynthID)。各公司使用各自的元資料格式,但皆依賴業界標準簽章,以避免輕易偽造。

開放問題與未來方向

  • 更廣泛的格式支援: 加入 PDF、DOCX 與試算表格式,將能涵蓋最常見的學術與商業使用情境。
  • 抗移除能力: 例如將憑證嵌入多個元資料欄位,或使用感知水印技術,可使移除更困難。
  • 公開的文字檢測 API: 若文字水印檢測器能廣泛提供,將補足檔案檢查工具,並建立統一的來源生態系。
  • 政策影響: 隨著更多司法管轄區要求來源資訊,透明度與使用者隱私(例如不揭露檔案生成者)之間的平衡將至關重要。

Anthropic 的 Claude 檔案檢查工具是實現可驗證 AI 生成內容的具體一步,利用開放的 C2PA 標準,在尊重使用者隱私的同時提供裝置端來源資訊。其目前的限制——格式涵蓋範圍與易受元資料移除影響——已獲社群認可,未來的改進將隨著法規需求增加,進一步擴展其應用性。

Sources

相關

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch