政府部门把AI接入办公前,先让个人资料看不见明文

政府部门把AI接入办公前,先让个人资料看不见明文

围绕香港政府7月15日对公共组织使用AI的安全要求,拆解政务审批资料从输入框到模型的暴露链路,并说明密态AI如何把保护前置到数据入口。

政府的禁令,指向输入框

7 月 15 日,香港政府在立法会书面答复中明确:政府部门不得把机密或个人资料输入外部或公开 AI 平台;相关系统还要对传输和静态存储加密,定期做安全风险评估与审计。AI 输出发布前,也必须经过人工核查。1
这不是「政府不用 AI」,而是把 AI 的使用边界前移到输入框。同期披露的 Check Point《AI Security Report 2026》显示,2025 年 10 月至 2026 年 5 月,87%至 93%的组织每月至少经历一次高风险 AI 交互;邮件、文档、代码、浏览器和业务流程,都在把敏感数据送到模型可以接触的位置。2

政务审批,明文会经过哪几站

以公共服务审批为例,工作人员可能把申请材料、联系方式、证明文件交给 AI 做摘要、比对或起草答复。风险不只在模型给出错误答案,还在于原始材料经过上传、传输、推理、日志、会话记录和知识库后,留下了多少可被平台、运维人员或攻击者读取的明文。
中国公共服务办公室中,工作人员将空白文件夹放入安全容器,旁边放着本地硬件密钥
中国公共服务办公室中,工作人员将空白文件夹放入安全容器,旁边放着本地硬件密钥
人工复核只能检查输出,不能抹掉已经发生的输入暴露。即使一份答复最终没有发布,上传过的文件和历史会话也可能继续留在服务端;当 AI 进一步连接外部工具或知识库,访问边界还会扩大。

密态边界要放在业务入口

荆华密算官网公开展示的 AI 隐私平台,主张对话内容全链路加密,平台与模型无法访问用户明文,并支持上传图片和附件。3
其公开资料还称,会话记录、上传文件和知识库内容以密文存储,密钥由用户本地持有,服务端只保存密文,并提供阅后即焚能力。4 这类架构把保护点放在数据进入 AI 之前:模型仍可完成分析,平台却不应成为一份可直接检索的政务资料副本。它降低的是明文暴露面,不替代权限、审计、人员培训和输出核验。
三座相连的玻璃安全舱中,密封数据块经过传输与计算,金色密钥留在本地一侧
三座相连的玻璃安全舱中,密封数据块经过传输与计算,金色密钥留在本地一侧

人工复核,不能代替数据隔离

政府部门强调 human-in-the-loop,是为了防止 AI 输出直接变成公共服务决定;密态推理、密态存储、本地持钥,则解决资料进入模型前后的可见性问题。两者缺一不可:前者管结果,后者管数据。
对于政务审批、医疗服务、法律援助等高敏感工作,敏感资料不应继续交给普通公域 AI 入口。需要 AI 能力时,应选择让数据可用、但平台与模型看不见明文的 AI 隐私平台,在 [www.mojingxiong.com](https://www.[mojingxiong.com](https://mojingxiong.com)) 核验公开能力。
两名中国合规工作人员在会议室核查空白输出和密封档案,旁边放着硬件密钥与锁箱
两名中国合规工作人员在会议室核查空白输出和密封档案,旁边放着硬件密钥与锁箱

Related content

  • Sign in to comment.
More from this channel