AI 出错之后谁举证：9 月落地的司法规则、备案门槛与安全框架

2026 年 9 月，企业界的注意力从「模型能不能用」转到了另一组问题上：出了事谁担责、谁举证，上线前要留下什么记录。这个月落地的三份文件，把答案写到了可以逐条对照的程度。

9 月 7 日，最高人民法院公开发布《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10 号），全文分 5 个部分、共 24 条1。这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件1。9 月 14 日，国家互联网信息办公室发布生成式人工智能服务已备案信息公告，截至 8 月 31 日，累计 1112 款服务完成备案、731 款应用或功能完成登记2。同一天，全国网络安全标准化技术委员会在 2026 年国家网络安全宣传周开幕式上发布《人工智能安全治理框架 3.0》3。

三份文件分属司法、行政与标准三个方向，指向同一个动作：把「用了人工智能」这件事，从一句说明变成一份可核查的记录。

本期覆盖 2026 年 9 月。有三处底座早于这个窗口，但判断 9 月的动作绕不开它们，所以一并列入并标明原生日期：2025 年 10 月 28 日全国人大常委会通过、2026 年 1 月 1 日施行的《网络安全法》修改决定，其中新增的第二十条把人工智能安全与发展写进了国家法律4；2025 年 3 月 7 日由网信办、工业和信息化部、公安部、广电总局联合印发、2025 年 9 月 1 日施行的《人工智能生成合成内容标识办法》5；以及 2026 年 4 月 30 日部署启动、9 月 2 日通报第二阶段进展的「清朗·整治 AI 应用乱象」专项行动6。

《意见》第 3 条给归责排了顺序。先看法律有没有明确规定适用无过错责任或者过错推定责任；没有明确规定的，依照民法典第一千一百六十五条第一款规定的过错责任原则认定1。多数涉 AI 的纠纷落在后面这条上，也就是要判断行为人有没有过错、过错有多大。

判断过错要看六个因素：人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围，开发者与提供者等相关主体为预防和减少侵权所采取的措施及技术上的可能性，以及使用者对利用 AI 实施侵权行为可能造成损害的预见能力与控制能力1。这六项可以直接当自查表用：场景越关键、自主化程度越高、技术越不透明、影响面越大，被认定有过错的可能性越高；已经做了什么、能不能证明，直接影响结论。

产品责任那一头，范围被收窄了。依据产品质量法关于「产品」的定义，人工智能产品限定为以实物为载体的产品，比如智能机器人、自动驾驶汽车；没有实物载体的人工智能服务，被排除在产品责任之外8。答记者问把这条的用意说得很直接：避免产品责任泛化8。

以实物为载体的 AI 产品有没有缺陷，仍然看它是否存在危及人身、财产安全的不合理危险。考量因素包括产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度，以及是否符合相关国家标准、行业标准；其中要重点审查的，是生产者、销售者有没有就产品的适用场景、固有局限及可预见的风险，作出真实的说明和明确的警示1。

这一条对企业的影响很具体：产品说明书、界面上的局限性提示、交付时的风险告知，从市场文案变成了责任判断里的证据。写得含糊，缺陷认定这一关会更难过。

《意见》真正改变企业日常的，是几处举证责任的安排。第 3 条到第 11 条处理侵权，第 12 条到第 16 条处理知识产权，第 17 条到第 20 条处理审理程序，举证规则散在其中。

著作权这条线上，分工写得很清楚。权利人主张人工智能服务开发者或者提供者侵害其著作权，应当就侵权内容系由该人工智能生成、与其权利作品构成实质相似等初步事实举证；人工智能开发者提出不侵权抗辩的，应当就模型的训练数据来源、训练过程、运行模式等事实举证，必要时还应提供有关科学理论依据予以佐证8。使用者知道或者应当知道在先作品存在，利用人工智能生成与在先作品实质相似的作品，且没有合理抗辩理由的，承担侵权责任1。

这套分工背后是证据在谁手里。训练数据、训练过程、模型运行模式，只有掌握模型的一方能够完整提供。答记者问给出的总原则是「责任承担与控制能力、注意义务相匹配」，判断时要综合涉案 AI 的技术和商业模式特点、当事人在内容生成过程中发挥的作用、训练数据由哪一方投喂、采取的必要措施以及获利情况8。

生成式服务提供者这一侧，条文参照了民法典第一千一百九十五条的规则。人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益，经权利人通知，服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任；通知应当包括构成侵权的初步证据及权利人的真实身份信息1。网络用户通过输入侵权提示词等方式恶意诱导生成侵权内容并造成损害的，由该用户依法承担侵权责任1。答记者问解释了引入这套规则的理由：生成内容的数量庞大，无法要求服务提供者对生成内容是否侵权逐一预测和审查，但在收到通知之后有条件采取必要措施8。

诉讼程序里还有一处。当事人把人工智能生成内容作为侵权证据提交的，法院要综合考量提示词的设计及其对生成结果的影响、生成内容与主张权利作品的相似程度、重复测试的一致性，以及模型训练、算法设计和生成内容过滤机制等因素1。诉讼参与人提交的诉讼文书、案例检索报告等材料如系使用 AI 生成，提交法庭前应当核实相关法律、司法解释、案例的真实性与准确性，提交时对使用 AI 辅助情况作出说明，并对内容真实性、准确性承担责任；通过删除或者篡改生成合成内容标识、特定指令输入、选择性结果呈现等方式取得虚假证据、捏造案件事实的，法院可以驳回诉讼请求并予以罚款、拘留1。

对企业而言，这一节落到两个方向。向内，每一个重要的 AI 产出都要能说明用了什么模型、哪个版本、什么提示词、谁复核过。向外，采购第三方模型和服务的合同里要有条款，约定出现纠纷时供应商提供训练数据来源、训练过程与版本证据的义务。

模型训练环节处理个人信息，第 6 条给出了边界。为人工智能模型训练，在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵害个人信息权益的行为；对个人权益有重大影响的，应当依照法律规定取得个人同意1。

「合理范围」怎么认定，条文列了因素：处理个人信息的目的与模型功能的必要性和适当性，所涉个人信息的类型、敏感程度及对个人权益的潜在影响，以及个人公开信息时的场景及可合理预期的使用范围1。

数据本身的权利在第十六条。开发者通过采集生成、衍生创造、受让取得、授权许可等方式合法获取数据并享有相应数据权益的，法院予以保护；构成汇编作品或者符合其他作品构成要件的数据、数据集合，按著作权法保护；构成商业秘密的数据、数据集合，按反不正当竞争法保护；采取虚构干扰数据、恶意标注数据、对抗样本攻击等技术手段损害人工智能运行安全的，依法承担责任1。

第五条还封住了一条曾被当作灰色地带的路径：以刺探隐私为目的，利用人工智能对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析，获取私密信息，或者将获取的私密信息泄露、公开，或者利用所获取信息侵扰私人生活安宁的，构成对隐私权的侵害1。

落到执行上，企业要能说清每一批语料的来源、获取方式、授权依据，以及个人有没有作出明确拒绝、拒绝之后怎样处理的记录。

备案与登记的规模在 9 月 14 日有了新口径。2026 年 7 月至 8 月，新增 124 款生成式人工智能服务在国家网信办完成备案，其中包括 7 款提供手机端侧生成式人工智能服务；通过 API 接口或其他方式直接调用已备案模型能力的应用或功能，由地方网信办开展登记，新增 133 款完成登记。截至 8 月 31 日，累计 1112 款服务完成备案，731 款应用或功能完成登记2。

公告重申了两项义务：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，通过属地网信部门履行备案或登记程序；已上线的生成式人工智能应用或功能，应当在显著位置或产品详情页面公示所使用已备案或登记生成式人工智能服务情况，注明模型名称、备案号或上线编号2。

第二句更容易被忽略。多数公司调用已备案的模型能力来做产品，这类应用或功能走的是登记，并且要在自己的产品页面上把所用模型和编号公示出来。做合规清点时，「哪个功能对应哪个模型、编号是多少、公示挂在哪个页面」是一张要能随时拿出来的对照表。

需求侧的规模说明了这道门为什么重要。中国互联网络信息中心 9 月 29 日发布的《生成式人工智能应用发展报告（2026）》显示，截至 2026 年上半年，我国生成式人工智能用户规模突破 7 亿人，普及率超 50.0%；76.0% 的用户会让生成式人工智能回答问题，用它处理图片或视频、文本、工作总结与会议纪要及 PPT 的用户占比分别为 47.8%、37.6% 和 32.5%；从使用次数看，AI 综合助手、AI 效率办公类应用同比增长均超过 100%9。

9 月 2 日，中央网信办通报「清朗·整治 AI 应用乱象」专项行动第二阶段进展：聚焦利用 AI 制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，截至目前累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站、应用程序等 2400 余个6。

专项行动 2026 年 4 月启动，为期 4 个月，分两个阶段10。第一阶段针对技术源头，重点整治七类问题：未按规定履行大模型备案登记义务，AI 平台安全和审核过滤能力不足，大模型训练语料安全，AI 数据投毒，生成合成内容标识落实不到位，滥用 AI 技术开展违法违规活动，开源模型安全管理不到位10。

七类里的具体情形，几乎每一条都能对应到企业产品里的一个动作：存在「应备未备」情形；训练数据使用未经授权的文字、图片、音视频；未落实《人工智能生成合成内容标识办法》及配套强制性标准要求，未添加标识，或者标识的大小、位置、透明度不规范；利用智能体技术窃取用户数据或账户密钥10。

处罚已经落到具体产品上。网信部门对「剪映」「猫箱」App 及「即梦 AI」网站存在未有效落实人工智能生成合成内容标识规定要求等问题，依据《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规定，采取了约谈、责令改正、警告、从严处理责任人等处置处罚措施，该处置情况于 2026 年 4 月 28 日由中国网信网公布11。

标识要求本身来自 2025 年 3 月 7 日印发的《人工智能生成合成内容标识办法》，该办法 2025 年 9 月 1 日起施行，要求生成合成内容添加显式标识和隐式标识，并要求互联网应用程序分发平台在上架审核时核验生成合成内容标识相关材料5。

「应备未备」「标识落实不到位」「训练语料安全」这三项，检验的都是企业能不能当场拿出一份记录。自查从这三项开始，成本最低。

《人工智能安全治理框架 3.0》由全国网络安全标准化技术委员会在国家互联网信息办公室指导下编制，延续了 1.0 版和 2.0 版「风险分类、技术应对、综合治理」的核心逻辑3。

框架正文分五章：安全治理原则、安全风险分类、技术应对措施、综合治理措施、安全指引。风险侧分内生安全风险、应用安全风险、衍生安全风险三类；安全指引按四个环节展开，分别是模型算法研发、应用建设部署、应用运行管理、应用访问使用3。

框架由网安标委发布，属于标准侧文件，其中的动作是给研发者、提供者和使用者参考的。它对企业最直接的用处，是这四个环节各自列了可以逐条对照的要求。模型算法研发环节要求构建安全的训练数据集、规范数据来源管理，对训练数据特别是合成数据进行质量和安全性评估；要求做好模型、关键配置及所用数据集的版本管理，商用版本应可以回退到以前的版本；基于基础大模型二次开发的，开展模型及上游组件安全缺陷评估；对可能造成严重损害的操作配备人工审批机制3。应用建设部署环节要求，模型文件、框架工具、第三方库以及智能体依赖的工具、插件，要从厂商官方网站或其在主流开源社区的官方账号获取，并进行来源、完整性校验和安全测试3。

框架的附件 2 是《智能体风险管理框架》，把智能体的安全风险按全生命周期铺开，覆盖设计研发、安装部署、指令输入、推理规划、调用执行、记忆存储、结果输出、停用下线八个环节3。其中逐项点到的风险包括：安装部署阶段的物料和组件污染；指令输入阶段的提示注入攻击与上下文溢出攻击；调用执行阶段的工具投毒、工具越权与身份伪造；记忆存储阶段的记忆污染与记忆窃取3。已经在业务里跑智能体的企业，这份附件可以直接当作对照清单。

法律一侧的底座在 2026 年 1 月 1 日已经生效。2025 年 10 月 28 日，第十四届全国人民代表大会常务委员会第十八次会议通过《关于修改〈中华人民共和国网络安全法〉的决定》，新增的第二十条对人工智能安全与发展作出专门规定：国家支持人工智能基础理论研究和关键技术研发，推进训练数据资源、算力等基础设施建设，完善伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展；同时支持运用人工智能等新技术创新网络安全管理，提升网络安全保护水平4。

第二十条以支持发展为基础，同时把人工智能纳入网络安全的法律体系，为网信、工信等部门制定配套规章提供了依据4。当前我国尚未出台专门的人工智能法，涉 AI 案件的依据是民法典、网络安全法、数据安全法、著作权法、反不正当竞争法、消费者权益保护法、个人信息保护法、民事诉讼法等现行法律1。

企业侧的记录压力，一部分来自把 AI 交到自己手里的供应商。

工业和信息化部 9 月 11 日发布《「人工智能+软件」专项行动实施方案》（工信部信发〔2026〕209 号，9 月 2 日成文），把软件企业定为这项行动的核心实施主体，并设计了三段转型路径：以智能编程工具驱动软件生产方式变革，把基础软件、工业软件等传统产品智能化升级并发展新型智能软件应用，以及支持企业采购大模型、智能体服务，向人工智能应用服务商转型12。

方案里与记录和责任直接相关的有两条：强化人工智能生成代码安全，指导企业建立完善生成代码安全审查机制；推动重点行业新上线软件上线前开展安全检测，发现风险及时整改12。配套措施包括鼓励各地用好「算力券」，对采购自主编程工具、调用自主大模型编程服务的费用按一定比例给予支持12。

方案还指导软件产业培育智能体软件新业态，从技术基础、产品体系、应用市场三个层次部署；开源方面依托开放原子开源基金会与国家级人工智能开源社区（AtomGit），并加强自主开源许可协议的应用与合规指引；人员安排上提出稳岗、扩岗、转岗三个方向12。另外，工业和信息化部办公厅 9 月 4 日公开了《人工智能中小企业创业支持计划（2026—2028 年）》，该计划 8 月 29 日成文13。

AI 生成的代码要通过安全审查，前提是能分清哪些代码由人写成、哪些由模型生成，以及每一次生成用了哪个模型、哪个版本、由谁复核。审查能力建立在记录之上，而记录这件事可以从今天开始建。

第一，人工智能生成内容的可版权性，以及未经许可使用他人作品训练大模型的定性。答记者问说明，这两个问题在起草论证阶段意见分歧很大，认识有待深化，因此《意见》暂不作规定8。

第二，专门的人工智能法。目前尚未出台，涉 AI 的规则依据仍是现行法律1。

第三，框架 3.0 在各行业的具体落点。它是网安标委发布的标准侧文件，其中的要求如何变成行业内的检查项和申报材料，要看各行业后续的标准与配套规则。

能排期的日期先收成一张表。

备案信息公告按两月一期的节奏发布，最近一期覆盖 7 月至 8 月。下一期对应 9 月至 10 月，发布日期尚未公布。

三类企业的动作差别在于风险落点：面向公众提供生成式 AI 产品的公司，压力在公示、标识与通知处置；在自己业务里用 AI 但不对外提供生成式服务的公司，压力在语料、个人信息与内部留痕；软件与信息服务企业，压力在代码来源和上线前的安全检测。

先做哪一步，取决于哪一件事决定其余的事。这一轮规则都指向同一处能力：需要的时候能不能拿出材料。要提前准备的是六类记录——模型的名称与版本，语料的来源与授权依据，生成内容的标识，通知受理与处置的时间戳，人工复核与审批的留痕，AI 生成代码的标记与审查结论。

这六类记录现在就可以开始准备。可版权性、专门立法和行业配套决定的是边界往哪走，而留痕这件事，现在就可以排进流程。