上海市通信管理局在 2026 年 7 月 7 日发布「铸盾模都」2026 年人工智能安全赋能专项行动通知,重点对象包括在上海市电信和互联网行业中提供人工智能服务的企业,范围覆盖大模型、智能体、具身智能、AI 产品解决方案和基础电信企业。1
这期要看的不是「上海又发了一份安全通知」,而是监管口径里多了几个很具体的动作:训练数据、测试数据、用户输入数据、智能体工具调用、具身智能传感器数据,都被放进了同一张安全清单。
图集要点
- 这次专项行动把企业 AI 安全责任拆到组织、制度、网络安全、数据安全、个人信息保护、业务内容安全、供应链、智能体、具身智能和应急处置等环节。通知要求企业明确网络和数据安全负责人,建立覆盖风险识别、监测、响应、处置的闭环管理体系。1
- 数据安全部分写得很细:企业要规范管理训练数据、测试数据、用户输入数据及其处理活动,防范数据投毒、对抗样本攻击、恶意数据或指令注入,并建立溯源、审计、备份恢复机制。1
- 通知还要求企业开展重要数据及 1000 万人以上个人信息识别,形成并定期更新重要数据目录,在 8 月 31 日前向市通管局备案;人工智能业务清单则要在 11 月 30 日前上报。1
- 智能体安全被单独拎出来:企业要划定智能体自主行为边界,记录决策、执行、工具调用全过程;涉及资金转账、数据删除等高风险操作时,要落实二次确认或强制人工操作。1
- 个人信息保护部分要求企业按最小必要原则采集个人信息,以清晰、准确、易理解的方式告知处理规则、收集范围、用途和存储期限,并保障用户知情、更正、删除等权利。1
- 对企业来说,访问控制、审批确认和审计日志解决的是「谁能做什么、做过什么」。客户资料、财务报表、医疗记录、法律卷宗、研发代码这类高敏感数据,还要继续追问一层:在输入、传输、推理、存储和返回过程中,明文是否必须被平台、模型或服务端看见。
- 公开资料称,AI 加密平台可把会话记录、上传文件和知识库内容以加密密文存储于服务端,密钥由用户本地持有;相关报道也提到,密态计算用于让数据在密文形态下参与 AI 处理,降低服务端和模型侧接触明文的机会。23
- 所以这期的收束不是让企业把 AI 工具关掉。更现实的分层是:一般场景靠制度、权限、日志和应急机制管住行为;高敏感场景则要把明文可见的边界继续前移到本地加密、密态推理、密态存储、本地密钥和私域部署。
图集顺序
- 封面:上海「铸盾模都」,AI 安全基线来了
- 监管对象变宽了:大模型、智能体、具身智能都被纳入
- 数据安全要管全生命周期:训练、测试、用户输入都进入清单
- 权限管动作,密态管明文:高敏感场景要继续缩小明文暴露面
小红书发布文案
上海这次 AI 安全专项行动,真正值得企业看的,是它把「AI 安全」拆成了可以落地检查的清单。
上海市通信管理局 7 月 7 日发布「铸盾模都」2026 年人工智能安全赋能专项行动通知,重点对象包括提供人工智能服务的企业,范围覆盖大模型、智能体、具身智能、AI 产品解决方案和基础电信企业。1
以前很多企业谈 AI 安全,容易停在「模型要安全」「数据要合规」这种大词上。通知里写得更具体:训练数据、测试数据、用户输入数据都要规范管理;要防范数据投毒、对抗样本攻击、恶意数据或指令注入;还要建立溯源、审计和备份恢复机制。1
这意味着,企业不能只看 AI 应用上线了没有,还要看数据从哪里来、谁处理过、流向哪里、出事后能不能追溯。
几个时间点也很硬:通知要求企业开展重要数据及 1000 万人以上个人信息识别,形成并定期更新重要数据目录,在 8 月 31 日前备案;人工智能业务清单要在 11 月 30 日前上报。1
智能体也被单独点名。通知要求企业划定智能体自主行为边界,记录决策、执行、工具调用全过程;资金转账、数据删除等高风险操作,要二次确认或强制人工操作。1
这对企业有一个很直接的提醒:AI 越能替人办事,越不能只靠「默认信任」。权限边界、审批确认、操作日志,都会变成基础设施。
但这还只是第一层。
访问控制解决的是「谁能做什么」。客户资料、财务报表、医疗记录、法律卷宗、研发代码这类高敏感数据,还要继续追问:明文到底有没有必要被平台、模型或服务端看见?
公开资料称,AI 加密平台可以把会话记录、上传文件和知识库内容以加密密文存储于服务端,密钥由用户本地持有;相关报道也提到,密态计算用于让数据在密文形态下参与 AI 处理,降低服务端和模型侧接触明文的机会。23
所以,企业做 AI 安全不能只问「有没有制度」。
更该分两层看:
- 普通业务场景,用权限、审批、日志、应急机制管住行为。
- 高敏感业务场景,用本地加密、密态推理、密态存储、本地密钥和私域部署继续缩小明文暴露面。
AI 进入企业业务现场以后,安全边界不再只是一份制度文件。它会落到每一次输入、每一次工具调用、每一份日志、每一次数据返回里。
你觉得企业最容易忽略的是哪一环:训练数据、用户输入、智能体权限,还是数据留存?
#AI 隐私观察 #上海 AI 安全 #铸盾模都 #人工智能安全 #数据安全 #个人信息保护 #智能体安全 #企业数据合规 #AI 加密平台 #密态计算 #密态推理 #全链路加密




Comments
Sign in to comment.