Google DeepMind와 싱가포르 GovTech, 온디바이스 Gemma 사기 탐지 모델 출시
Google DeepMind와 싱가포르 정부기술청(GovTech)이 싱가포르의 일반적인 스마트폰에서 실행되는 온디바이스 사기 탐지 모델을 발표했습니다. 이 도구는 조작적인 대화를 로컬에서 식별하여, 서버에서 개인 메시지를 스캔하지 않고도 실시간으로 사용자에게 경고할 수 있습니다. 이는 메시징 플랫폼이 종단 간 암호화를 사용하는 경우에도 작동하는 설계입니다.
이 발표는 싱가포르 국제 사이버 주간(SICW 2026)에서 발표되었으며, 2026년 10월 14일 Google DeepMind 블로그의 책임 및 안전 카테고리에 게시되었습니다. 게시물은 JJ Geewax와 Miguel de Andrés가 작성했습니다.
문제: 사기는 이제 싱가포르의 주요 범죄 유형
발표에 따르면 사기는 싱가포르에서 신고된 범죄의 절반 이상을 차지하며, 2019년 이후 S$40억 이상의 손실을 초래했습니다. 위협의 형태도 변화했습니다: 사기 전술은 단순한 피싱에서 복잡한 사회공학으로 전환되었으며, 공격자는 돈을 요청하기 전에 설득력 있는 대화를 통해 피해자를 조종합니다. 이러한 대화 기반 사기는 현재 전체 손실의 최대 80%를 차지합니다.
이러한 변화가 탐지를 어렵게 만듭니다. 피싱 링크를 찾도록 조정된 분류기는 다중 턴 대화가 점진적으로 피해자를 송금으로 유도하는지 판단할 수 없습니다.
모델이 클라우드가 아닌 기기에서 실행되는 이유
전통적인 위협 탐지는 클라우드에서 메시지를 서버 측에서 스캔하는 데 의존합니다. 이 접근 방식은 설계상 개인 대화를 검사할 수 없는 종단 간 암호화 메시징 플랫폼에서는 작동하지 않습니다. Google DeepMind의 해결책은 위협 분석을 휴대폰 자체로 옮기는 것입니다.
로컬 실행에는 두 가지 명시된 이점이 있습니다: 조작 의도를 탐지하기 위한 대화 패턴의 더 빠른 분석과 금전 또는 자격 증명 노출 전에 사용자가 조치를 취할 수 있는 능력입니다. 대화 데이터가 기기에서 처리되므로 채팅의 개인정보가 보호됩니다.
사기와 싸우는 것이 개인정보를 희생하는 것을 의미해서는 안 됩니다. Google DeepMind와 협력하여 고급 AI 보호 기능을 시민들의 기기에 직접 제공하고 있습니다. 이를 통해 개인 통신을 완전히 비공개로 유지하면서 고도로 표적화된 지역 사기 시도를 실시간으로 포착할 수 있습니다.
— Mark Chen, 싱가포르 GovTech 신뢰 및 안전 이사
지역적 맥락이 일반 모델로는 충분하지 않은 이유
일반 모델은 지역화된 사기 기술에 어려움을 겪는 경우가 많아 사기 탐지가 더 어려워집니다. 이러한 격차를 해소하기 위해 Google DeepMind는 경량 Gemma 모델을 지역 사기 대화에 미세 조정했습니다. 훈련 자료는 공공 기관, 은행, 지역 유명 인사를 사칭하는 경우와 지역에서 유행하는 사기 수법을 다루었습니다. 목표는 모델이 무해한 사회적 잡담과 진정한 조작을 구별하도록 하는 것이었습니다.
모델이 조작적인 대화 패턴을 감지하면 사용자 기기에서 직접 실시간 경고를 트리거하여 민감한 정보나 자금을 공유하기 전에 잠시 멈추고 주의를 기울이도록 조언합니다.
아키텍처: 배터리 효율성을 위한 2단계 파이프라인
최신 스마트폰에서 복잡한 사기 분류기를 실행하는 것은 어렵고, 배터리 효율성은 중요한 문제입니다. Google DeepMind는 2단계 파이프라인으로 이를 해결합니다:
- 1단계 — 경량 고속 스크리닝 분류기. 경량의 효율적인 분류기가 최소 전력으로 수신 메시지를 스크리닝하여 잠재적 위협을 포착하는 데 중점을 둡니다. 안전하다고 판단된 메시지는 무해한 판정을 받고 여기서 중단됩니다.
- 2단계 — 미세 조정된 Gemma 모델. 의심스러운 메시지는 상황 평가로 진행되며, 미세 조정된 Gemma 모델이 대화의 더 큰 스냅샷을 분석하여 위협을 확인하거나 오탐을 폐기합니다. 출력은 사기 경고 또는 무해한 판정입니다.
2단계 설계는 더 무거운 다중 턴 분석이 첫 번째 필터를 통과한 메시지에만 실행되도록 합니다.
훈련 및 테스트에 대한 거버넌스 제약
Google DeepMind는 개발 전반에 걸쳐 엄격한 거버넌스가 유지되었으며, 세 가지 특정 통제가 적용되었다고 밝혔습니다:
- 주권 샌드박스. 미세 조정은 GovTech가 관리하고 유지 관리하는 Google Cloud Platform 환경 내에서 이루어져 훈련 데이터가 격리되었습니다.
- 시민 데이터 없음. 훈련은 사기 신고 및 인텔리전스 피드에서 파생된 익명화된 데이터 세트를 사용하여 개인 또는 개인 식별 정보를 엄격히 제외했습니다.
- 스트레스 테스트. 모델은 다양한 사기 범주와 진화하는 사칭 전술을 다루기 위해 합성 대화 및 지역 말뭉치로 테스트되었습니다.
협력이 메시징 플랫폼 및 OS 공급업체에 시사하는 바
이 프로젝트는 AI가 메시징 서비스가 범죄에 대응하도록 도울 수 있으며, 보호 AI가 기기에서 직접 실행될 때 안전과 개인정보가 서로 희생될 필요가 없음을 보여줍니다. 또한 정부와 모델 제공업체가 공공의 이익을 위한 기술을 구축하기 위해 협력할 수 있는 방법에 대한 템플릿 역할을 합니다.
Google DeepMind는 메시징 플랫폼과 운영 체제 공급업체가 이러한 경량 모델을 직접 통합하여 사용자를 로컬에서 보호하고 개인 데이터를 노출하지 않고 채팅 상호 작용을 안전하게 유지할 수 있다고 밝혔습니다. 싱가포르 작업은 블로그가 협력을 가능하게 한 것으로 설명하는 싱가포르 정부와의 연구소의 광범위한 국가 AI 파트너십 내에 있습니다.