端上反诈：Google DeepMind 与新加坡把诈骗判定放进手机，两段流水线与没给的数字
Google DeepMind 与新加坡 GovTech 在 2026 年 10 月 14 日发布端上诈骗检测模型：轻量 Gemma 在新加坡本地诈骗对话上微调后跑在手机上，两段流水线分工判定，训练在政府托管的主权沙箱里完成；这篇解读拆开它解决的那一步、官方画出的两条边界，以及它没有公布的三个数字。
Google DeepMind 与新加坡政府科技局（GovTech）在 10 月 14 日发布了一个端上诈骗检测模型。它由轻量 Gemma 模型在新加坡本地的诈骗对话上微调而成，跑在新加坡常见手机这一档硬件上。1
发布的场合是新加坡国际网络周（SICW 2026，会期 10 月 12 日至 15 日，由新加坡网络安全局主办）。2 官方给出的定位是帮助公民防范诈骗，同时不动个人通讯的隐私。
这一次的增量落在交付形态上。Google 过去把同类能力做成自家应用里的功能，这一次交出去的是一个可供第三方平台集成的模型。
为什么判定要放进手机
新加坡警察部队的年度简报给出规模：2025 年诈骗与网络罪案共 41,974 起，其中诈骗 37,308 起，占 88.9%。
同年诈骗损失 9.131 亿新元，比 2024 年的 11.124 亿回落 17.9%。3
损失在降，钱是怎么出去的那条路没变。警队把「自转账」定义为受害者被欺骗与社交工程诱导、自己完成转账，这类案件 2025 年占报案诈骗的 81.8%，2026 年上半年是 80.8%。4
拦截点因此只剩两个：转账那一步，或者那段把人说动的对话。
端到端加密把后一个堵上了。DeepMind 在文中写道，许多消息平台是端到端加密的，服务端无法检查私人对话；而传统的垃圾信息防护只作用于对话开始之前。1
两句话合起来，设备本身成了唯一还能做内容级判定的位置：模型在手机上读这段对话，对话内容不需要离开手机。
防范诈骗不该以牺牲个人隐私为代价。我们与 Google DeepMind 合作，把先进的 AI 防护直接带到公民的设备上，实时拦住那些高度本地化的诈骗尝试，同时让个人通讯保持完全私密。 —— Mark Chen，GovTech 新加坡信任与安全总监。1
两段流水线里，第二段负责纠错
Stage 1 是一个轻量分类器，筛进设备的每一条消息。官方说它用最少的电，只负责把可疑的挑出来。1
Stage 2 换成微调后的 Gemma，看更大范围的对话快照，确认威胁，或者排除误报。1
把「排除误报」写进第二段的职责，等于承认第一段会报错。
分两段的原因也在这里：官方说在现代手机上跑一个复杂的诈骗分类模型并不容易，电池效率是关键关切，两段流水线正是为它设计的。1
判定成立之后，提示直接出现在设备上，建议用户先停下来，在交出敏感信息或资金之前核实一遍。1
边界画在训练数据上，推理侧只有一句话
官方列出的治理项里，两条落在数据上。微调在 GovTech 管理与维护的 GCP 环境内完成，官方称之为主权沙箱，训练数据保持隔离。
训练严格排除私人与可识别个人信息，用的是来自诈骗举报与情报源的匿名化数据集。1
第三条是压力测试。官方用合成对话与本地语料测模型，覆盖不同诈骗类别和不断变化的冒充手法。1
这两条边界管的是训练。推理这一侧，官方只写了一句话——对话数据在设备上处理。命中结果是否回传、告警是否上报，官方没有说明。
本地化的理由，目前只有一句断言
本次唯一的方法论判断关于本地化：官方写，通用模型往往难以应对本地化的欺骗手法。1
这句话有具体对象——冒充本地公共机构、银行与本地人物，以及区域性的流行手法。
它没有配套的对照：通用模型与本地微调版本在任何一组数据上的差别，官方都没有给。
就目前公开的材料看，它是一条设计假设。
模型交出去之后，落在谁手上还不知道
Google 在 2025 年 3 月给 Android 上线过同类能力。Messages 里的 Scam Detection 在设备上处理、默认开启、只作用于非联系人，先覆盖英语的美国、英国与加拿大。
来电侧的 Scam Detection 在 Pixel 9 上调用 Gemini Nano（Google 的端上基础模型），更早的机型用更小的端上模型，默认关闭。5
那一套能力装在 Google 自家的应用里。这一次的写法是，消息平台与操作系统厂商可以直接集成这些轻量模型。1
新加坡警队的数据说明这段距离有多远：2026 年上半年，89.0% 的诈骗通过线上平台首次接触受害者，仅 Meta 旗下三家平台合计就占 34.1%。4
这些平台是否接入这个模型，官方没有说明。
没有公布的三个数字
- 误报率。 Stage 2 的职责是排除误报，排除前后的比例官方都没给。这类提示直接推给用户，误报先消耗的是用户对提示的信任。
- 模型规模与端上开销。 官方只写了「轻量」一个词。参数量、内存占用、单条消息的判定延迟与耗电都没有数字，而电池正是官方自己点名的约束。
- 是否已经上线、由谁接入。 官方说平台与系统厂商可以集成，没说已有平台接入，也没说这个模型现在跑在哪些手机上。
下一个能核的节点是集成
如果某个消息平台公布接入后的拦截率与误报率，这次发布才会从架构判断变成效果判断。在那之前，能确认的是判定位置变了：从服务器搬到了设备上。
References
- 1On-Device AI Against Scams: Google DeepMind & MDDI
deepmind.google
- 2Singapore International Cyber Week
sicw.gov.sg
- 3
- 4Mid-Year Scam and Cybercrime Brief 2026, Singapore Police Force
isomer-user-content.by.gov.sg
- 5
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.