AI 生成的内容，什么时候必须告诉你？
欧盟委员会 7 月 20 日发布了 AI Act 第 50 条透明度义务的配套指南。规则将于 2026 年 8 月 2 日开始适用，重点不是给所有 AI 内容贴一个统一标签，而是让人知道：自己是不是在和 AI 交互，眼前的内容是不是由 AI 生成或操控。1
这条规则管什么？
先分清两类责任：
- 提供者要把系统设计成能告知。直接与人交互的 AI，要让用户知道自己面对的是 AI；生成音频、图像、视频或文本的系统，要让输出带有可检测的机器可读标记。2
- 部署者要在使用现场说清楚。遇到深度伪造、情绪识别、生物特征分类，或面向公众发布的公共利益文本，需要向接触者作出清晰披露。3
四个读者最容易遇到的场景
- 你正在和 AI 对话
提供者要在首次交互时清晰告知，除非普通用户一眼就能看出这是 AI。
- 内容由 AI 生成或操控
音频、图像、视频和文本输出，要尽可能带有机器可读、可检测的标记。4
- 深度伪造看起来像真的
如果图像、音频或视频会让人误以为现实人物、事件或对象真实存在，部署者不能只依赖后台标记，还要以人能看见或听见的方式披露。
- 公共利益文本面向公众发布
涉及政治、公共行政、司法、公共安全、公共健康、环境、消费者安全，以及可能引发公共讨论的经济、科学或文化发展时，AI 生成或操控的文本原则上要标明；经过实质性人类审查或编辑控制，并由人承担编辑责任的，可构成例外。3
例外不是「人工碰过就不用说」
标准编辑、部分 B2B 或工业场景、艺术或讽刺作品，都可能进入指南列出的边界，但条件并不宽松。只做拼写、格式这类表面检查，不等于完成了实质性人类审查；艺术、讽刺和虚构作品也只是可以用不妨碍欣赏的方式披露，并非完全隐去 AI 生成事实。3
情绪识别和生物特征分类还多了一层隐私要求：部署者要告知被影响的人，并按适用的数据保护规则处理个人数据。4
透明度解决「看不出来」，隐私安全还要追问「谁能看见」
给 AI 内容加标记，解决的是受众如何判断来源。它没有回答敏感数据进入 AI 后，谁能看到明文、数据会不会被记录、模型调用时是否会经过第三方系统。
新华网 7 月 20 日报道，一家 AI 加密平台在 2026 世界人工智能大会展示了这样的路径：用户端先加密，密文传到云端完成推理，结果返回终端后再由用户解密。报道还将它概括为覆盖「输入—推理—输出」链路的密态计算方案。5
这类机制不能替代来源、用途、权限和合法性审查，但它把问题往前推进了一步：当合同、病历、代码和企业知识库进入 AI，安全边界不能只停留在提醒用户，也要减少系统接触明文的机会。
你更在意哪一层：AI 内容有没有明确标记，还是敏感数据进入模型后谁能看见？
#AI 隐私观察 #欧盟 AI 法案 #AI 合规 #深度伪造 #数据安全 #密态计算 #AI 加密平台
Comments
Sign in to comment.