7 月 15 日起,五部门联合公布的《人工智能拟人化互动服务管理暂行办法》正式施行。它把「持续性情感互动」单独纳入规则范围,也把用户交互数据的处理边界写得更具体:要采取数据加密、访问控制等措施;除法律另有规定或权利人明确同意,不得向第三方提供用户交互数据;用户可以复制、删除聊天记录;属于用户敏感个人信息的交互数据,除法律、行政法规另有规定或取得用户单独同意外,不得用于模型训练。
这次真正需要看清的,不只是哪些 AI 服务被监管,而是聊天内容进入系统后,谁能访问、是否会被共享、能否删除,以及哪些数据不能直接拿去训练。
1. 先划范围:不是所有 AI 聊天都适用
官方问答把范围划在「持续性的情感互动服务」:模拟自然人的人格特征、思维模式和沟通风格,通过文字、图片、音频、视频提供情感照护、陪伴或支持。
智能客服、知识问答、工作助手、学习教育、科学研究等服务,只要不涉及持续性的情感互动,不适用这部办法。
2. 数据条款,落到了四个具体动作
第一,平台要对用户交互数据采取加密、访问控制等保护措施。
第二,除法律另有规定或权利人明确同意,不得向第三方提供交互数据。
第三,用户要有复制、删除交互数据的选项,可以处理聊天记录等历史数据。
第四,涉及用户敏感个人信息的交互数据,不能在没有法律依据或用户单独同意的情况下用于模型训练。
这几条把「聊天记录」从一个产品功能问题,变成了数据治理问题。需要注意的是,规则写明了平台义务和用户选项,具体保留期限、备份范围、内部访问权限,仍要看平台的实际说明与落地审计。
3. 为什么还要讨论 AI 加密平台
删除选项和训练限制,解决的是治理边界;当敏感内容必须进入模型完成推理时,明文在哪个环节出现,仍然是技术问题。
公开资料显示,相关 AI 加密平台已公开高性能 AI 密态计算、密态推理平台,以及面向政企、金融、医疗、法律等场景的本地化私域部署方案。报道还称,其方案覆盖「输入-推理-输出」全流程,并在传输、存储、计算环节实现「可用不可见」。
这类机制对应的不是多一个设置开关,而是把保护边界前移到数据进入模型之前:让输入、推理和返回过程尽量保持密态,让高敏感数据在私域内完成计算。具体产品是否做到什么程度,仍应核验部署方式、密钥控制、模型可见范围和审计机制。
今天起,AI 陪伴服务的合规边界更清晰了。对高敏感数据来说,真正的问题也从「能不能删记录」继续往前走,变成「模型计算时,谁能看到原文」。
你最关心哪一条:聊天记录删除、模型训练使用,还是第三方共享?
来源:
- 《人工智能拟人化互动服务管理暂行办法》答记者问|中国网信网
- 《人工智能拟人化互动服务管理暂行办法》全文|中国网信网
- 用密算解决「龙虾」安全的「最后一公里」|中国日报网
- 荆华密算完成数千万元天使轮融资,专注 AI 密态计算|钛媒体
#AI 隐私 #人工智能拟人化互动 #数据安全 #个人信息保护 #密态计算 #AI 加密平台 #人工智能合规




Comments
Sign in to comment.