Anthropic 發布使用 C2PA 元資料的 Claude 檔案來源檢查工具
Anthropic 的 Claude 檔案檢查工具透過 C2PA 元資料揭示來源
重點: Anthropic 現在提供一個瀏覽器工具,可讀取支援的多媒體檔案(影像、影片、音訊)中嵌入的加密簽署 C2PA 元資料,以判斷 Claude 是否參與了檔案的建立或處理,回應日益增長的 AI 生成內容透明度法規需求。
該工具的功能
該工具僅識別內容憑證,而非內容本身。
- 當 Claude 建立支援的檔案(例如 PNG、JPG、SVG、MP4)時,會在檔案的元資料中附加一個小型 C2PA 相容的註記。
- 檢查工具在瀏覽器中本地讀取該註記;檔案永遠不會離開使用者的裝置。
- 若憑證指向 Claude,使用者介面會顯示正面結果。
- 該工具不會分析檔案的視覺或文字內容,也不會揭露檔案的生成者。
"您的檔案會留在您的裝置上。檢查工具僅讀取內嵌的憑證,而非檔案本身。您的檔案永遠不會被儲存或用於其他用途。" – Anthropic 文件
內部運作原理
- Claude 嵌入一個 C2PA(內容來源與真實性聯盟) 憑證,與相機製造商和照片編輯軟體所使用的業界標準相同。
- 該憑證是一份加密簽署的聲明,指出該檔案是「由 Claude 建立」或「由 Claude 處理」。
- 任何支援 C2PA 的讀取器均可驗證簽章;Claude 檢查工具內建
c2pa-rsRust 套件的 WebAssembly 版本,於用戶端執行驗證。
"這個工具使用 WebAssembly – https://claude.com/_next/static/media/c2pa_verify_wasm_bg… – 這是此 Rust 套件的 WASM 編譯版本:https://github.com/contentauth/c2pa-rs" – @simonw
支援的格式與限制
- 使用者介面列出 JPG、PNG、GIF、WEBP、TIFF、HEIC、AVIF、SVG、DNG、JXL、MP4、MOV、AVI、WAV、MP3、M4A、FLAC – 最大 100 MB。
- PDF、Excel 或其他文件類型不支援,這限制了該工具在檢查學術論文或報告方面的實用性。
- 元資料可透過重新儲存檔案輕易移除,但若無 Anthropic 的私密簽署金鑰,偽造 Claude 憑證幾乎不可能。
"您可以重新儲存檔案,『使用 Claude 建立』的訊號就會消失,但若無 Anthropic 的簽署金鑰,您無法讓隨機檔案看起來像是由 Claude 建立。因此,此保證是單向的。無簽章幾乎等於無意義。" – @coffeecoders
為何此檢查工具現在至關重要
- 法規壓力: 歐盟 AI 法案與加州 AI 透明度法案要求大型 AI 提供商在生成內容中嵌入來源資訊。Anthropic 的文字水印與此檔案憑證,正是對這些法規要求的直接回應。
"據我所知,這項功能與近期將水印加入文字輸出的變更……是為了符合歐盟 AI 法案與加州 AI 透明度法案的要求……" – @csmoak
- 模型訓練的潔淨性: 透過標記 Claude 生成的多媒體,Anthropic 可以避免其自身輸出被無意間納入未來的訓練資料中。
"我認為這主要是為了避免他們的訓練資料中出現 AI 生成的內容。" – @kelvinjps10
社群觀察與邊際案例
- 元資料注入路徑: Claude 的網頁介面會先建立 SVG,再轉為光柵圖像。C2PA 憑證出現在最終下載的檔案中,但若在下載前將檔案重新打包(例如放入 ZIP 檔案),憑證就會消失。
"當 Claude Code CLI 需要多媒體檔案時……下載的 JPEG 有 C2PA 元資料,似乎是透過『物件呈現』機制注入的。……解壓縮後的 JPEG 則沒有 C2PA 元資料。" – @Retr0id
- 假陰性: 有使用者報告,某些由 Claude 生成的圖形未被標記,顯示該工具在某些工作流程中可能遺漏憑證。
"我剛用 Claude 建立了一張圖形,並輸入工具,結果顯示沒有證據顯示它是用 Claude 建立的。所以……這個工具看起來幾乎毫無用處。" – @cmiles8
- 移除容易 vs. 偽造困難: 移除 C2PA 資料輕而易舉(重新儲存檔案),但若無私密金鑰,要加入令人信服的 Claude 憑證幾乎不可能。
"移除 C2PA 資料很簡單,但偽造很困難。無簽章幾乎等於無意義。" – @coffeecoders
- 水印範圍: 該工具僅涵蓋多媒體檔案;Claude 的文字水印仍是專屬的私密預覽 API,用於歐盟要求的檢測。
"要檢測嵌入文字中的水印,我們有一個檢測 API,目前處於私密預覽階段……" – Anthropic 文件
如何使用檢查工具
- 前往 https://claude.com/check-content。
- 拖曳或點選選擇支援的檔案(最大 100 MB)。
- 瀏覽器端驗證器會讀取任何 C2PA 憑證,並報告 Claude 是否列為來源。
- 無需上傳資料;驗證完全在本地執行。
與其他提供者的比較
- OpenAI、Google DeepMind 和 Gemini 也提供來源檢查工具(例如 OpenAI 的 Verify、DeepMind 的 SynthID)。各公司使用各自的元資料格式,但皆依賴業界標準簽章,以避免輕易偽造。
開放問題與未來方向
- 更廣泛的格式支援: 加入 PDF、DOCX 與試算表格式,將能涵蓋最常見的學術與商業使用情境。
- 抗移除能力: 例如將憑證嵌入多個元資料欄位,或使用感知水印技術,可使移除更困難。
- 公開的文字檢測 API: 若文字水印檢測器能廣泛提供,將補足檔案檢查工具,並建立統一的來源生態系。
- 政策影響: 隨著更多司法管轄區要求來源資訊,透明度與使用者隱私(例如不揭露檔案生成者)之間的平衡將至關重要。
Anthropic 的 Claude 檔案檢查工具是實現可驗證 AI 生成內容的具體一步,利用開放的 C2PA 標準,在尊重使用者隱私的同時提供裝置端來源資訊。其目前的限制——格式涵蓋範圍與易受元資料移除影響——已獲社群認可,未來的改進將隨著法規需求增加,進一步擴展其應用性。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch