DeepMind Backstory 圖像來源與可信度實驗工具

TL;DR

Backstory 是 Google DeepMind 的一款實驗性 AI 工具，使用 Gemini 模型分析線上圖像，揭示它們是否由 AI 生成、其來源、任何數位修改，以及其情境如何演變，從而協助使用者評估圖像的可信度。

Backstory 的功能

Backstory 會接受一張圖像與自然語言提示，然後執行一套基於 Gemini 的偵測與來源技術。它會報告：

  • AI 生成偵測 – 判斷圖像是否由生成模型創建。
  • 歷史使用情況 – 找出圖像在網路上先前的出現，包括時間戳記與來源。
  • 修改分析 – 檢查是否有數位編輯或操控的跡象。
  • 情境摘要 – 產生簡潔、易於閱讀的報告，回應使用者的問題並說明圖像的故事隨時間可能如何變化。

示範影片展示了該工具回應後續提示並即時更新報告的情況。

技術基礎

Backstory 由 Gemini 系列模型提供動力，這些模型提供影像取證與自然語言互動所需的多模態理解基礎。系統結合了以下項目：

  • 偵測技術：標示 AI 生成的內容。
  • 中繼資料提取：取得 EXIF 及其他嵌入資訊。
  • 網路規模搜尋：在整個互聯網上定位圖像的先前實例。
  • 整體推理：將偵測結果與來源資料整合，以評估整體可信度。

作者強調，僅偵測 AI 生成不足以作出可信度判斷；圖像即使是真實的，若脫離情境呈現仍可能具誤導性，或即使是 AI 生成，只要負責任使用亦可接受。

為何整體方法重要

部落格指出，圖像的可信度取決於創作方式與情境使用兩者。例如：

"使用 AI 生成的圖像可能支援真實、創意或事實性的敘事。相反地，經過修改或脫離情境的非 AI 圖像可能具誤導性。"

因此，Backstory 的綜合分析協助使用者超越二元的真實/AI 判斷，朝向更細緻的可信度評估前進。

開發與合作

DeepMind 正在與多元的利害關係人群體測試 Backstory，包含內容創作者與資訊素養專家。回饋將指導全年持續的迭代改進。有興趣的使用者可透過提供的表單登記意願。

感謝名單

本專案感謝 Zoubin Ghahramani、Helen King、Rahul Sukthankar、Raia Hadsell 與 Chandu Thota 的領導，以及來自大型工程與研究團隊的貢獻（姓名列於原始貼文中）。

對資訊生態系統的影響

Backstory 示範了向使用者導向的來源工具轉變，使個人能在瀏覽時直接驗證圖像來源。若廣泛採用，此類工具可能：

  • 減少錯誤標註或被操弄的視覺內容的散布。
  • 為記者與事實查核者提供快速的來源檢查支援。
  • 鼓勵平台整合 AI 驅動的情境功能，提升整體資訊完整性。

後續步驟

DeepMind 計畫持續精進 Backstory 的偵測精度、擴充其情境資料庫，並探索與 Gemini 與 Google AI Studio 等產品的整合路徑。持續與公民社會、學術界及政府的合作被視為維護可信資訊生態系統的關鍵。

Backstory 是一個實驗性研究原型；其功能與可用性可能會隨著 DeepMind 收集使用者回饋並推進底層技術而演變。

Sources