AI 进入校园,先别急着问「模型能做什么」,要先问「学生数据会经过什么环节」。
7 月 6 日,香港个人资料私隐专员公署与数字政策办公室宣布推出「保障个人资料 AI 沙盒」,面向政府资助的中小学探索 AI 应用。首阶段为期 6 个月,计划选出 15 个申请者,提供隐私监管指引和技术支持。1
这件事有意思的地方,不是又多了一个 AI 试用项目,而是把隐私风险评估往前挪了:学校、AI 方案供应商、监管和技术支援机构一起看使用场景,先发现问题,再调整用例。PCPD 7 月 13 日的后续介绍也明确提到,沙盒希望帮助参与者在早期识别隐私风险,并在专家指导下完善 AI 用例。2
为什么是学校?
学生资料的敏感性,不会因为 AI 被包装成学习工具就自动降低。PCPD 在 2026 年 5 月公布的 60 家机构合规检查里,57 家已经在日常运营中使用 AI;其中 24 家通过 AI 系统收集或使用个人资料,19 家在上线 AI 系统前做过隐私影响评估。3
放到校园场景,至少要提前问清三件事:
- 谁能访问模型、插件、日志和知识库?
- 学生资料会不会进入输入、推理、输出或留存环节?
- 模型出错、异常输出或发生数据事件时,谁能及时发现并介入?
这也是沙盒的实际价值:不是等学校全面部署后再补一份隐私说明,而是在场景设计阶段就把数据流、权限、人工监督和事件响应放在同一张图上。
它会怎么影响企业?
7 月 23 日,PCPD 在 AI-Powered Enterprise Forum 的官方记录中再次强调建立稳健的 AI 治理框架,并介绍了「人工智能:个人资料保障模范框架」和「员工使用生成式 AI 指引清单」。4
这份员工使用指引清单早在 2025 年 3 月发布,建议组织明确允许使用的工具和用途、可输入的信息类型与数量、输出信息的保存和留存规则,也要规定允许使用的设备和人员,以及 AI 事件报告和违规后果。5
换句话说,AI 治理不能只写成「员工小心一点」。它要落到数据从哪里进、经过谁、保存多久、出事谁负责。
沙盒之外,还要看明文边界
沙盒解决的是「先评估、再落地」。如果场景涉及学籍、病历、合同或财务资料,还要继续追问:明文在哪一刻出现?传输、推理、日志和结果返回,是否都留下了暴露点?
公开报道中的 AI 加密平台介绍了一种不同的架构思路:数据在本地先加密,传出去的是密文和操作说明书,模型对密文做不解密的盲算,结果回到本地后再解密。报道中的受访者称,平台和模型都看不到用户真实数据。6
这两层不是一回事:沙盒把风险判断前置,AI 加密平台把明文暴露的位置继续往前压。对校园、医疗、金融和政务等高敏感场景,制度审查与技术架构都不能缺席。
你更关心 AI 进入校园后的哪一类数据边界?评论区聊聊。
#AI 隐私 #数据合规 #人工智能治理 #教育科技 #AI 安全 #AI 加密平台




Comments
Sign in to comment.