Google DeepMind 与新加坡政府科技局推出端侧 Gemma 诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech）宣布推出一款端侧诈骗检测模型，可在新加坡的普通智能手机上运行。该工具会在本地识别操纵性对话，从而在不于服务器上扫描私密消息的情况下实时提醒用户——这一设计即使在消息平台使用端到端加密时也能发挥作用。
该公告于新加坡国际网络周（SICW 2026）上发布，并于2026年10月14日发表在 Google DeepMind 博客的“责任与安全”类别下。该文章的作者为 JJ Geewax 和 Miguel de Andrés。
问题：诈骗现已成为新加坡的主要犯罪类型
据公告称，诈骗占新加坡报案犯罪的一半以上，自2019年以来造成的损失超过40亿新加坡元。威胁形态也已发生变化：诈骗手段已从简单的网络钓鱼转向复杂的社会工程学，攻击者通过令人信服的对话操纵受害者，然后索要钱财。这类基于对话的诈骗现在占所有损失的80%。
这一转变使得检测变得困难。一个专门识别钓鱼链接的分类器无法判断多轮对话是否在逐渐引导受害者进行转账。
为什么模型在设备端而非云端运行
传统威胁检测依赖服务器端对云端消息的扫描。这种方法在端到端加密的消息平台上行不通，因为这类平台在设计上无法检查私密对话。Google DeepMind 的解决方案是将威胁分析转移到手机本身。
本地运行有两个明确的好处：更快地分析对话模式以检测操纵意图，以及用户能够在财务或凭证暴露之前采取行动。由于对话数据在设备上处理，聊天的隐私得以保留。
打击诈骗不应以牺牲个人隐私为代价。与 Google DeepMind 合作，我们将先进的 AI 保护直接带到公民的设备上。这使我们能够实时捕捉高度针对性的本地诈骗企图，同时保持个人通信完全私密。
— Mark Chen，新加坡政府科技局信任与安全总监
本地上下文是通用模型不够用的原因
通用模型往往难以应对本地化的欺骗手法，这使得诈骗检测更加困难。为了弥补这一差距，Google DeepMind 在其轻量级 Gemma 模型上针对本地诈骗对话进行了微调。训练材料涵盖了对公共机构、银行和本地人物的冒充，以及流行的区域性骗局。目标是让模型能够区分良性社交闲聊与真正的操纵。
当模型检测到操纵性对话模式时，它会在用户设备上直接触发实时警告，建议用户在分享敏感信息或资金前暂停并谨慎行事。
架构：为电池效率设计的两阶段流水线
在现代智能手机上运行复杂的诈骗分类器很困难，电池效率是一个关键问题。Google DeepMind 通过两阶段流水线解决了这一问题：
- 阶段1——轻量级快速筛查分类器。 一个轻量级、高效的分类器以最低功耗筛查传入消息，专注于捕捉潜在威胁。被判定为安全的消息会得到良性结论并在此停止。
- 阶段2——微调后的 Gemma 模型。 可疑消息进入上下文评估阶段，微调后的 Gemma 模型会分析更大范围的对话快照，以确认威胁或排除误报。输出要么是诈骗警报，要么是良性结论。
两阶段设计意味着较重的多轮分析只针对通过第一层过滤的消息运行。
训练和测试的治理约束
Google DeepMind 表示，在整个开发过程中保持了严格的治理，并有三项具体控制措施：
- 主权沙箱。 微调在 GovTech 管理和维护的 Google Cloud Platform 环境中进行，保持训练数据的隔离。
- 无公民数据。 训练严格排除私人或可识别个人身份的信息，使用来自诈骗报告和情报源的匿名化数据集。
- 压力测试。 模型针对合成对话和本地语料库进行了测试，以覆盖多样化的诈骗类别和不断演变的冒充手法。
这一合作对消息平台和操作系统供应商的意义
该项目表明，AI 可以帮助消息服务对抗犯罪，并且当保护性 AI 直接在设备端运行时，安全性和隐私性不必相互取舍。它也为政府和模型提供商如何合作构建公共利益技术提供了模板。
Google DeepMind 表示，消息平台和操作系统供应商可以直接集成这些轻量级模型，以在本地保护用户，确保聊天交互安全而不暴露私人数据。新加坡的工作属于该实验室与新加坡政府更广泛的“国家 AI 合作伙伴关系”的一部分，博客称这一安排使此次合作成为可能。