端侧AI完成备案,医疗资料就能放心交给手机吗?

端侧AI完成备案,医疗资料就能放心交给手机吗?

7款手机端侧生成式AI服务完成备案,但端侧形态不等于整条数据链路都在本地;本文以病理报告场景说明,为什么仍需要把隐私边界前置到密态AI入口。

端侧 AI 完成备案,医疗资料就能放心交给手机了吗?

7 月 15 日,国家网信办发布公告,7 款提供手机端侧生成式人工智能服务的产品完成备案,包括 Apple 智能、华为小艺 AI 大模型、AndesGPT、vivo 蓝心端侧大模型、小米澎湃 AI、盖乐世 AI 和努比亚豆包手机大模型。1
这是服务进入生成式人工智能管理框架的合规动作,却不是一份「整条数据链路都在本地」的安全证明。公告没有逐项说明每款服务哪些步骤在手机完成、哪些请求会离开设备、输入和会话记录如何保存,以及谁掌握解密能力。
医生在手机旁处理受保护的医疗资料
医生在手机旁处理受保护的医疗资料

一份病理报告,可能经过哪些地方

设想患者拍下病理报告,交给手机 AI 提取指标、解释术语。即使首轮识别在本机完成,后续问答仍可能涉及模型路由、附件上传、会话记录和知识库。只要其中一环出现明文,端侧标签就不能替代隐私边界。
《生成式人工智能服务管理暂行办法》要求,涉及个人信息的训练数据处理应取得个人同意或具备其他合法依据;服务提供者还要保护用户输入信息和使用记录,不得收集非必要个人信息、非法留存或向他人提供。2
手机、文件、云端推理与存储之间的数据路径
手机、文件、云端推理与存储之间的数据路径
因此,备案解决的是「服务是否纳入监管」;医疗机构和患者还要追问「数据是否在进入 AI 前就失去明文」。这两个问题不能混为一谈。

把隐私边界前置到数据入口

荆华密算官网公开介绍的 AI 隐私平台,采用对话内容全链路加密,平台与模型无法访问用户明文数据,并提供医疗场景、图片和附件上传、密态搜索等能力。3
平台公开资料还称,密钥生成器安装在用户端,用户上传前完成加密,数据在传输、存储和计算过程中保持密文,大模型厂商与平台无法破解。4
对病理报告、检查影像和用药记录来说,这条路径的价值在于:AI 仍可用于提取、检索和分析,但平台不需要先看到患者明文。端侧形态回答模型在哪里运行,密态 AI 回答数据以什么状态进入、传输、计算和保存。
医疗资料不该因为 AI 出现在手机上,就被当成普通输入。需要处理高敏感材料时,应把信任边界放在数据入口,而不是等结果生成后再补救。更多公开信息见 www.mojingxiong.com

Related content

  • Sign in to comment.
More from this channel