Google Gemini 消费者应用将个人云端硬盘文件和电子邮件路由给人工标注员

要点

Google Gemini 的消费者版“已连接应用”功能会静默地将个人云端硬盘文件和 Gmail 消息路由给人工标注员，打破了 2023 年关于个人内容绝不会被人工查看的承诺，并将用户置于概率性数据泄露的风险之中。

背景：最初的隐私承诺

2023 年，Google 推出了 Gemini Workspace 扩展，并明确承诺 Gmail、Docs 和 Drive 中的个人内容*“不会被人工审核员查看”*（参见 Google 关于负责任 AI 防护措施的博客文章）。对于担心在自有文档上使用生成式 AI 时隐私问题的用户来说，这一声明是一个关键的差异化优势。

变化之处 – 更新的文档

Google 帮助中心答案 16836988 以及对 2023 年原始博客文章的 10 月 16 日编辑现在声明，已连接的云端硬盘/电子邮件数据会被路由到人工审核流程中。更新后的措辞警告用户，审核员可能会看到“电子邮件或文件”，并建议不要连接包含机密信息的应用。

“如果你的应用包含你不想让审核员看到的机密信息，请不要将它们连接到 Gemini 应用。” – Google 帮助中心，2023 年 10 月编辑

摄取机制的工作原理

当用户在消费者版 Gemini 设置中启用已连接应用时，模型可以根据对个人话题（例如旅行、账单、预订）的环境提及，在后台执行 Workspace 查找。工具调用和上下文注入步骤是概率性的，这意味着单个查询可能产生四种结果之一：

  1. 零检索 – 不触发任何已连接应用工具；Gemini 使用其内部模型或先前的对话历史进行回答。
  2. 元数据/通用摘要 – Gemini 返回高级摘要，例如“您有 3 封关于您航班的电子邮件。”
  3. 部分未脱敏提取 – Gemini 注入文件中 2-4 句话的摘录，通常包含 PII、账号或其他敏感细节。
  4. 全文件摄取 – 文档或电子邮件的完整未脱敏文本（包括页眉）被插入到会话上下文中。

由于系统是非确定性的，观察到结果 1 或 2 并不证明该流程不存在；它只是反映了随机过程中的一次抽样。

复现该行为

GitHub 仓库 thisisme6598/gemini_files 提供了分步指南：

  1. 在消费者版 Gemini 设置中启用已连接应用（Google Workspace）。
  2. 将 Gemini 设置为“Flash”模型，并选择“高思考”或更高模式。
  3. 提及存在于您的云端硬盘或 Gmail 中的主题，不要使用 @Drive 或 @Gmail 标签。
  4. 如果 Gemini 基于个人数据回答，立即要求它*“打印检索工具返回并注入到您提示中的确切文本和元数据块……”*。
  5. 删除对话并重复操作以观察不同结果。

作者报告称，在查询互联网提供商账单时，观察到了所有四种结果，从通用建议到包含页眉的完整电子邮件转储。

为什么脱敏失败

Google 的自动正则表达式和 NER 脱敏器无法可靠地对叙述性数据进行去标识化。根据 Google 自己的敏感数据保护文档，账号、确认号、交易日期以及姓名、城市和事件的组合等标识符通常会在自动脱敏后保留。

“Google 的正则表达式和 NER 自动脱敏器无法充分对叙述性数据进行去标识化，包括账号、确认号、交易日期以及集体识别的个人信息。” – 仓库 README

Hacker News 上的社区反应

讨论中强调了几个问题：

  • 范围澄清 – 该问题适用于启用了已连接应用的消费者版 Gemini；企业版 Workspace Gemini 仍声称无人审核。（@bri3d 评论）
  • 隐私侵蚀 – 用户报告了意外的高度具体响应，揭示了个人电子邮件，证实了泄露。（@rustyhancock 评论）
  • 人工审核风险 – 审核员通常是承包商（例如 Appen），引发了对数据被随机人员阅读的担忧。（@fierycatnet 评论）
  • 商业模式批评 – 几位评论者指出，Google 的收入模式依赖于数据收集，因此这种做法并不令人意外。（@gla67890543、@jttnr 评论）
  • 缓解建议 – 一些人建议付费购买 Business Starter 或更高版本的计划以限制数据使用，但退出人工审核的选项仍然不可用。（@vinay_ys 评论）

对用户和企业的影响

  1. 机密性丧失 – 个人或敏感文档可能在未经明确同意的情况下暴露给人工承包商。
  2. 合规风险 – 处理受监管数据（例如 GDPR、HIPAA）的组织，如果员工使用带有已连接应用的消费者版 Gemini，可能会无意中违反政策。
  3. 信任侵蚀 – 公开隐私承诺的逆转损害了可信度，并可能推动用户转向自托管或开源替代方案。
  4. 透明度的必要性 – 关于数据何时以及如何发送给人工审核的清晰、确定性披露对于知情同意至关重要。

建议

  • 如果您处理任何机密信息，请禁用已连接应用。
  • 使用企业版 Workspace Gemini，Google 仍声称无人工审核，并与管理员核实该声明。
  • 定期审计权限；在不需要时撤销 Gemini 对云端硬盘/Gmail 的访问权限。
  • 考虑替代助手，提供可审计的、设备上的处理或明确的退出机制。
  • 关注更新 – Google 可能会进一步调整政策；通过官方帮助页面和社区报告保持了解。

结论

Google Gemini 的消费者版已连接应用功能现在将个人云端硬盘和 Gmail 内容路由给人工标注员，与早期的隐私保证相矛盾。摄取是概率性的，可能暴露完整的未脱敏文档，并绕过自动脱敏，对个人和企业都构成重大的隐私和合规问题。

Sources

相关