Google DeepMindとシンガポール政府、Gemma活用の端末内詐欺検知モデルを提供

Google DeepMindとシンガポール政府技術庁(GovTech Singapore)は2026年10月14日、ローカルの詐欺会話でファインチューニングしたGemmaモデルを使い、会話データをクラウドへ送らずに端末上で詐欺を検知するモデルを提供したと発表しました。シンガポールでは詐欺が報告犯罪の50%超を占め、2019年以降の被害額はS$4 billion超に達しています。

Gemmaは、Google DeepMindなどGoogleのチームが開発するオープンなAIモデルのファミリーで、携帯端末でも実行でき、用途に合わせた追加学習も行えます。

何が新しいか

原文によると、詐欺の手口は単純なフィッシングから、説得力のある会話で被害者を操作してから送金を求めるソーシャルエンジニアリングへ移っており、こうした詐欺が損失の最大80%を占めます。従来のクラウド側メッセージ検査は、エンドツーエンド暗号化されたプライベート会話を検査できない場合があります。今回のモデルは脅威分析を端末側に移し、会話データを端末上で処理します。

モデルは公的機関、銀行、地域の人物へのなりすましや、地域で流行する詐欺手口を含むローカルな詐欺会話でファインチューニングされ、通常の雑談と実際の操作的会話を区別することを狙っています。

仕組み

スマートフォンでのバッテリー効率を考慮し、2段階のパイプラインを採用しています。

段階	処理内容
Stage 1	軽量・省電力の分類器が受信メッセージをスクリーニングし、潜在的な脅威を拾う
Stage 2	ファインチューニング済みGemmaモデルが会話のより大きなスナップショットを分析し、脅威を確定するか誤検知として破棄する

操作的な会話パターンを検知すると、端末上でリアルタイム警告を表示し、機密情報や資金を共有する前に立ち止まって注意するよう促します。モデルはシンガポールの一般的なスマートフォン向けに最適化されています。

開発時のガバナンス

項目	内容
Sovereign Sandbox	ファインチューニングはGovTechが管理・保守するGCP環境内で実施し、学習データを隔離
市民データ不使用	個人データや個人を特定できる情報を除外し、詐欺報告とインテリジェンスフィード由来の匿名化データを使用
ストレステスト	合成対話とローカルコーパスで、多様な詐欺カテゴリやなりすまし手口に対して検証

提供の位置づけ

両者はこの取り組みをシンガポール国際サイバーウィーク(SICW 2026)で発表しました。原文は、メッセージングプラットフォームやOSベンダーがこの軽量モデルを直接統合し、プライベートなデータを外部に出さずにユーザーを保護できると説明しています。GovTech SingaporeのTrust and Safety DirectorであるMark Chen氏は、地域を狙った詐欺をリアルタイムで捉えながら個人の通信を完全にプライベートに保てると述べています。