Google DeepMind 与新加坡政府发布端侧 AI 反诈骗工具

2026 年 10 月 14 日责任与安全

JJ Geewax 与 Miguel de Andrés

此次合作推出了一款端侧诈骗检测模型，可在不损害隐私的前提下帮助保护公民。

诈骗占新加坡已报告犯罪的一半以上，自 2019 年以来造成的损失超过 40 亿新元。与此同时，诈骗手段已从简单的网络钓鱼演变为复杂的社会工程学攻击，攻击者会通过令人信服的对话操纵受害者，然后再索要钱财。此类诈骗目前占所有损失的比重高达 80%。

为应对这一问题，Google DeepMind 与新加坡政府科技局（GovTech）一直通过我国与新加坡政府建立的国家 AI 合作伙伴关系展开合作。这使我们能够交付一款端侧诈骗检测模型——针对在新加坡常见智能手机上运行进行了优化——在保护公民隐私的同时应对紧迫的安全挑战。

在不损害隐私的前提下提供端侧 AI 保护

通用模型通常难以应对本地化的欺骗手段，使诈骗检测更加困难。为解决这一问题，Google DeepMind 对轻量级 Gemma 模型进行了本地诈骗对话的微调。这些对话涵盖冒充公共机构、银行和本地人物的情形，以及该地区流行的新型诈骗手法，从而确保模型能够区分无害的日常社交对话与真正的操纵行为。

这款新模型还会在设备上处理对话数据。传统上，威胁检测依赖于在云端对消息进行服务器端扫描，但许多消息平台采用端到端加密——这意味着它们无法检查私人对话。人们既需要防范欺诈，又需要保护对话隐私，而我们的解决方案是将威胁分析放到设备上进行。这样可以更快地分析对话模式，检测操纵意图，让公民能够在财务或凭证泄露之前采取行动。

内部机制：本地上下文与端侧效率

当模型检测到操纵性的对话模式时，会直接在用户设备上触发实时警告，建议其在分享敏感信息或资金之前暂停并保持谨慎。

在现代智能手机上运行复杂的诈骗分类模型并非易事，电池效率是关键关注点。为此，我们采用了两阶段处理流程：

阶段 1：一个轻量、高效的分类器以极低功耗筛查收到的消息，专注于发现潜在威胁。
阶段 2：使用我们微调后的 Gemma 模型进行上下文评估，分析更大范围的对话快照，以确认威胁或排除误报。

建立在严格治理之上

这一合作在新加坡国际网络周（SICW 2026）上发布，为消息平台在用户保护与端到端加密之间取得平衡提供了范例。整个开发过程保持了严格的治理：

主权沙箱：微调在 GovTech 管理和维护的 GCP 环境中进行，确保训练数据隔离。

不使用公民数据：训练严格排除了私人或个人身份信息，使用来自诈骗报告和情报源的匿名化数据集。

压力测试：模型针对合成对话和本地语料库进行了测试，以覆盖多种诈骗类别和不断演变的冒充手段。

端侧安全的未来

该项目展示了 AI 如何帮助消息服务打击犯罪活动，并表明通过直接在设备上运行保护性 AI，安全与隐私皆无需妥协。它还展示了政府与模型提供商如何携手合作，为公共利益构建技术。消息平台和操作系统厂商可以直接集成这些轻量级模型，在本地保护用户，确保聊天交互保持安全，同时不暴露私人数据。