AI视频进入「证据链」阶段：一次政要深伪事件暴露标识规则的落地缺口

7 月 25 日，印度商务和工业部长 Piyush Goyal 指称，一段把他在议会外接受采访的讲话「恶意」改造后的 AI 深伪视频正在社交平台传播。他表示已报警，Chanakyapuri 警察局随后登记了 FIR；印度政府消息人士还称，相关社交媒体链接已有多条被下架。1

这件事值得关注的地方，不是又出现了一条真假难辨的视频，而是它把 AI 视频的责任链拆成了三个动作：确认内容被操纵、阻断传播、证明内容从哪里来。现实中的处置往往只完成了前两步，第三步仍然缺位。

公开报道能确认的事实是：Goyal 称视频被 AI 篡改，印度新闻信息局的事实核查部门此前也将其描述为 AI 生成的伪造视频；政府消息人士称，许多相关链接已被移除，Goyal 则表示已经立案并将追究制作、传播和故意推广者的责任。1

另一篇转引 PTI 的报道给出了更具体的案情表述：视频把 Goyal 伪装成发表威胁抗议学生言论的人，并称 FIR 编号为 123/26。2 但报道没有说明事实核查使用了哪一种检测模型，也没有说明平台依据什么证据完成批量下架。

这一区别很重要。一个链接被删除，只能说明平台或政府采取了传播处置；它不能反向证明平台已经保存了原始文件、编辑轨迹、上传账户、生成工具和重新编码历史。一次事实核查给出真假判断，也不自动等于公众可以验证的来源凭证。把「被判定为深伪」和「拥有可复核的内容来源证明」混成一个标签，会让合规系统看起来比实际更完整。

欧盟 AI Act Article 50 的第 2 款要求，生成合成音频、图像、视频或文本的 AI 系统提供者，应让输出带有机器可读的标记，并且能够被检测为人工生成或操纵；条款还要求相关技术方案在技术可行范围内具备有效性、互操作性、稳健性和可靠性。3

第 4 款针对深度伪造提出另一层义务：部署者对构成深度伪造的图像、音频或视频，应披露其经过人工生成或操纵；第 5 款要求这些信息在首次接触或曝光时，以清晰、可区分的方式提供。3 欧盟委员会说明，这些透明度义务将从 2026 年 8 月 2 日起适用。4

这里至少有两个不同的责任主体。模型或 API 提供者负责让输出具备机器可读、可检测的信号；使用者或发布者负责在面向公众时披露深度伪造。平台下架则是传播阶段的补救动作。三者不能互相替代：有标记不代表内容一定会被下架，完成披露也不代表内容拥有完整来源证明，下架更不代表后续转载已经失去全部副本。

这起事件给视频生成产品的第一课，是把来源证明当成输出对象的一部分，而不是导出后的附加选项。至少要能关联以下记录：使用的模型和版本、输入素材是否来自用户、生成与编辑时间、关键编辑操作、标识是否写入文件，以及文件经过平台转码后是否仍可检测。

第二课是把「可检测」和「可解释」分开验收。机器可读标记解决的是系统之间能否识别，人工可见披露解决的是普通观看者能否理解，内容来源凭证解决的是调查者能否追溯。三者对应不同的失败场景，不能用一个角标或一份日志打包宣称全部完成。

第三课是为跨平台传播设计失败处理。印度案例显示，当前仍常见的动作是发现问题后删除链接和追究传播者；但如果原始视频没有稳定的来源凭证，转载、裁剪、加字幕和再次编码后，接收方很难区分「原始合成内容」与「被二次加工的副本」。平台真正要交付的，不只是删除接口，还包括在复制和转码后尽量保持标识、在标识丢失时触发人工复核，以及把处置证据留存到可审计的事件记录中。

目前公开材料支持的判断很有限：这起事件证明深伪视频已经进入政治信息传播和司法处置场景，也证明下架与报案可以在传播后发生；它没有证明某个检测器的准确率，也没有证明平台能对所有转载内容保持同样的识别能力。

因此，AI 视频行业下一阶段的合规竞争，不应只看谁能生成更像真的画面，而要看谁能在生成、发布、转码、举报和调查之间保留一条连续的证据链。欧盟的规则把问题写进了提供者和部署者的义务，印度的案例则展示了没有完整证据链时，系统往往只能在事后依靠事实核查、下架和刑事程序补救。对企业客户而言，真正值得采购的不是一个孤立的「AI 检测」按钮，而是一套能让来源、披露和处置彼此对应的生产记录。