Google DeepMindとシンガポールGovTech、オンデバイスGemma詐欺検出モデルを発表

Google DeepMind とシンガポール政府技術庁（GovTech）は、シンガポールの一般的なスマートフォンで動作するオンデバイス詐欺検出モデルを発表しました。このツールは、操作的な会話をローカルで検出し、サーバー上でプライベートメッセージをスキャンすることなくリアルタイムでユーザーに警告します。これは、メッセージングプラットフォームがエンドツーエンド暗号化を使用している場合でも機能する設計です。

この発表は、シンガポール国際サイバーウィーク（SICW 2026）で行われ、2026年10月14日にGoogle DeepMindブログの「責任と安全性」カテゴリに掲載されました。この投稿は、JJ Geewax氏とMiguel de Andrés氏によるものです。

問題：詐欺は現在シンガポールの主要な犯罪カテゴリ

発表によると、詐欺はシンガポールで報告された犯罪の半分以上を占め、2019年以降の損失は40億シンガポールドルを超えています。脅威の形態も変化しており、詐欺の手口は単純なフィッシングから複雑なソーシャルエンジニアリングへと移行し、攻撃者は説得力のある会話を通じて被害者を操作してから金銭を要求します。これらの会話ベースの詐欺は、現在、全損失の最大80%を占めています。

この変化が検出を難しくしています。フィッシングリンクを検出するように調整された分類器は、複数ターンの会話が徐々に被害者を送金へと導いているかどうかを判断する能力を持っていません。

モデルがクラウドではなくデバイス上で実行される理由

従来の脅威検出は、クラウド内のメッセージをサーバー側でスキャンすることに依存しています。このアプローチは、設計上プライベートな会話を検査できないエンドツーエンド暗号化メッセージングプラットフォームでは機能しません。Google DeepMindの答えは、脅威分析を電話自体に移すことです。

ローカルで実行することには2つの利点があります。会話パターンをより迅速に分析して操作意図を検出できることと、ユーザーが金銭や資格情報の漏洩が発生する前に対処できることです。会話データはデバイス上で処理されるため、チャットのプライバシーが保護されます。

詐欺と戦うことは、個人のプライバシーを犠牲にすることを意味すべきではありません。Google DeepMindと協力して、高度なAI保護を市民のデバイスに直接提供しています。これにより、高度に標的化されたローカルな詐欺の試みをリアルタイムで検出し、個人のコミュニケーションを完全にプライベートに保つことができます。

— Mark Chen氏、GovTechシンガポール、トラスト＆セーフティディレクター

ローカルな文脈が、汎用モデルでは不十分な理由

汎用モデルは、ローカライズされた欺瞞技術に苦戦することが多く、詐欺検出を難しくしています。このギャップを埋めるため、Google DeepMindは軽量なGemmaモデルをローカルな詐欺会話でファインチューニングしました。トレーニング資料には、公的機関、銀行、地元の著名人を装ったものや、地域で流行しているスキームが含まれていました。目標は、モデルが無害な社会的なおしゃべりと本物の操作を区別できるようにすることでした。

モデルが操作的な会話パターンを検出すると、ユーザーのデバイス上で直接リアルタイム警告をトリガーし、機密情報や資金を共有する前に一時停止して注意を促します。

アーキテクチャ：バッテリー効率のために設計された2段階パイプライン

現代のスマートフォンで複雑な詐欺分類器を実行することは困難であり、バッテリー効率は重要な懸念事項です。Google DeepMindは、2段階パイプラインでこれに対処しています。

ステージ1 — 軽量な高速スクリーニング分類器。 軽量で効率的な分類器が、最小限の電力で受信メッセージをスクリーニングし、潜在的な脅威の検出に焦点を当てます。安全と判断されたメッセージは良性の判定を受け、そこで停止します。
ステージ2 — ファインチューニングされたGemmaモデル。 疑わしいメッセージはコンテキスト評価に進み、ファインチューニングされたGemmaモデルが会話のより大きなスナップショットを分析して、脅威を確認するか誤警報を破棄します。出力は詐欺アラートまたは良性の判定のいずれかです。

2段階設計により、より重い複数ターン分析は、最初のフィルターを通過したメッセージにのみ実行されます。

トレーニングとテストに関するガバナンスの制約

Google DeepMindは、開発全体を通じて厳格なガバナンスが維持され、3つの特定の制御が行われたと述べています。

ソブリンサンドボックス。 ファインチューニングは、GovTechが管理・維持するGoogle Cloud Platform環境内で行われ、トレーニングデータを分離しました。
市民データなし。 トレーニングは、個人情報や個人を特定できる情報を厳密に除外し、詐欺報告やインテリジェンスフィードから派生した匿名化データセットを使用しました。
ストレステスト。 モデルは、多様な詐欺カテゴリと進化するなりすまし戦術をカバーするために、合成対話とローカルコーパスに対してテストされました。

このコラボレーションがメッセージングプラットフォームとOSベンダーに示すもの

このプロジェクトは、AIがメッセージングサービスが犯罪に対抗するのを支援できること、そして保護AIがデバイス上で直接実行される場合、安全性とプライバシーをトレードオフする必要がないことを示しています。また、政府とモデルプロバイダーがどのように協力して公共の利益のための技術を構築できるかのテンプレートとしても機能します。

Google DeepMindは、メッセージングプラットフォームとオペレーティングシステムベンダーがこれらの軽量モデルを直接統合して、ユーザーをローカルで保護し、プライベートデータを公開せずにチャットインタラクションを安全に保つことができると述べています。シンガポールでの取り組みは、ラボのシンガポール政府とのより広範な国家AIパートナーシップの一部であり、ブログではこのパートナーシップがコラボレーションを可能にしたと説明されています。