DeepMind Backstory 实验性图像来源与可信度工具

TL;DR

Backstory 是 Google DeepMind 的一款实验性 AI 工具，使用 Gemini 模型分析在线图像，揭示它们是否由 AI 生成、其来源、任何数字修改以及其上下文如何演变，从而帮助用户评估图像的可信度。

Backstory 的功能

Backstory 接收一张图像和自然语言提示，然后运行基于 Gemini 的一套检测和来源技术。它会报告：

  • AI 生成检测 – 确认图像是否由生成模型创建。
  • 历史使用情况 – 查找图像在网络上的先前出现，包括时间戳和来源。
  • 修改分析 – 检查是否有数字编辑或篡改的迹象。
  • 上下文摘要 – 生成简明、易读的报告，回答用户的查询并解释图像的故事随时间可能发生的变化。

演示视频展示了该工具对后续提示的响应以及实时更新报告的过程。

技术基础

Backstory 由 Gemini 系列模型驱动，这些模型提供进行图像取证和自然语言交互所需的多模态理解。系统结合了：

  • 检测技术，用于标记 AI 生成的内容。
  • 元数据提取，用于检索 EXIF 等嵌入信息。
  • 大规模网络搜索，用于在互联网上定位图像的先前实例。
  • 整体推理，将检测结果与来源数据结合，以评估整体可信度。

作者强调，仅检测 AI 生成不足以做出可信决策；图像即使真实，如果脱离上下文也可能具有误导性；或者 AI 生成的图像若被负责任地使用也不一定不可信。

为什么整体方法很重要

博客指出，图像的可信度取决于创作方式和上下文使用。例如：

"使用 AI 生成的图像可能支持真实、创意或事实性的故事。相反，经过修改或脱离上下文的非 AI 图像可能具有误导性。"

因此，Backstory 的综合分析帮助用户超越二元的真实/AI 判断，迈向更细致的可信度评估。

开发与合作

DeepMind 正在与包括内容创作者和信息素养专家在内的多元利益相关者群体测试 Backstory。反馈将在全年指导迭代改进。有兴趣的用户可通过提供的表单登记意向。

致谢

项目感谢 Zoubin Ghahramani、Helen King、Rahul Sukthankar、Raia Hadsell 和 Chandu Thota 的领导，以及来自庞大工程与研究团队的贡献（姓名列于原帖中）。

对信息生态系统的影响

Backstory 体现了向面向用户的来源工具转变的趋势，使个人能够在浏览时直接验证图像来源。如果被广泛采用，此类工具可以：

  • 减少错误归属或被篡改的视觉内容的传播。
  • 为记者和事实核查员提供快速的来源检查支持。
  • 鼓励平台整合 AI 驱动的上下文功能，提升整体信息完整性。

下一步

DeepMind 计划继续完善 Backstory 的检测精度，扩展其上下文数据库，并探索与 Gemini、Google AI Studio 等产品的集成路径。持续与民间社会、学术界和政府的合作被视为维护可信信息生态系统的关键。

Backstory 是一个实验性研究原型；其功能和可用性可能会随着 DeepMind 收集用户反馈并推进底层技术而演进。

Sources