AI出事，也要报备了？

这一期看一个很新的监管信号：美国共和党众议员 Nathaniel Moran 在 6 月 25 日提出 AI Incident Reporting Act，想要求高能力 AI 模型开发者把危险能力、安全漏洞和安全事故报给美国商务部；草案写的是「发现后 7 天内」上报，最严重事件由商务部在 48 小时内通知国会。1

这不是普通产品 bug 的客服工单，而是给前沿 AI 加一套「事故报备」机制。按 Reuters 对草案的报道，可报告的情形包括：模型试图逃避人类监督、绕过安全护栏、削弱操作者控制模型的能力；模型权重被未授权访问；以及可能涉及化学、生物、核等公共安全威胁的能力。1 KETK 经 Yahoo 转载的报道还列出：可能支持攻击关键基础设施的能力、模型自主加速更强 AI 系统开发的证据，以及化学、生物、放射性、核和爆炸物威胁。2

AI 的问题已经不只是「回答错了」这么简单。斯坦福 2026 年 AI Index 写到，AI Incident Database 记录的 AI 事件从 2024 年的 233 起增加到 2025 年的 362 起；同一章节还指出，主流模型开发者在负责任 AI 基准上的披露仍然稀疏。3

纽约州已经先走了一步。州长办公室 2025 年 12 月宣布签署 RAISE Act，要求大型前沿模型开发者公开安全协议，并在确定发生关键伤害事件后 72 小时内向州内报告。4 OECD 也在推动 AI 事件监测和更一致的报告框架，因为 AI 风险跨国流动，单个国家自己记账很难看清全貌。5

你可能不会训练大模型，但你会被 AI 影响：简历筛选、办公软件、金融风控、医疗问诊、平台推荐和内容审核，都会越来越多地接入 AI。真正要紧的问题不是「AI 能不能帮我省时间」，而是当它影响到机会、钱、隐私和安全时，谁能第一时间知道它出事了，谁必须留下记录，谁要出来解释。

过去，很多 AI 风险靠公司自愿披露，外部只能从新闻、用户爆料或研究人员测试里拼图。事故报备制度想改变的是信息流向：公司发现高风险信号后，不能只在内部消化；监管者需要拿到早期预警，公众也需要有问责线索。

所以，这件事的核心不是「禁止 AI」，而是给 AI 公司装一个类似黑匣子的制度。模型越强，越需要有人知道它什么时候失控、怎么失控、谁负责修。