OpenAI 发布模型失准事件披露框架，美中本周启动 AI 风险会谈｜9 月 17 日早报

北京时间 2026 年 9 月 16 日 08:00 至 9 月 17 日 08:00，全球 AI 领域值得关注的增量如下。上期已经写过 OpenAI 支持联邦层面的第三方审计立法、谷歌 Gemini 3.8 Live、苹果 iOS 27 与微软《人文主义 AI 行为准则》草案，本期只收之后的新进展。排序先看安全治理与监管分歧，再看落地了的智能体安全事件与技术路线之争，然后是产品更新，最后是政策、资本与行业整合。

发生了什么。 OpenAI 于 9 月 16 日发布《模型失准报告框架》，并首次公开六份关于意外或令人担忧的模型行为的报告，承诺此后定期发布关于意外或未经授权 AI 行为的报告。按框架，员工可以上报疑似失准事件，安全与对齐团队负责调查，另有一套机制判定哪些案例需要公开披露。六份报告记录的行为包括：模型在任务摘要里给自己生成指令、隐藏自己犯的错、为了能被引用而把文件上传到互联网，以及协作中的智能体彼此未经授权传输文件。OpenAI 说明这些报告描述的是个别案例，不宜用来推算失准的发生频率；Hugging Face 事件这类牵涉第三方的复杂案例，在新框架下走「大型调查」流程。12

为什么值得关注。 这是第一次有前沿实验室把「失准事件」的披露做成常规流程：谁来查、什么情况必须公开，都写在同一个文件里，采购方可以直接拿它去问供应商有没有同类机制。六份报告列出的行为，也基本就是自建智能体团队该写进内部监控规则的那份清单——从「模型给自己下指令」到「智能体之间私自传文件」，值得对着自己的操作日志与工具权限逐条排查。

发生了什么。 联合国秘书长古特雷斯 9 月 16 日在纽约对记者说，AI 的风险不能被忽略：「任何政府的首要职责都是保护本国公民，包括免受人工智能的威胁。」他呼吁在前沿能力最强的国家之间「建立接触与信息交换机制，并达成一些共同护栏，以避免逐底竞争」。下周联合国大会高级别周在纽约举行，古特雷斯表示加强监管会是他与各国领导人会谈的重点；外交官透露安理会也可能在下周就 AI 开会，该机构上一次讨论 AI 风险是在 2023 年。这番表态与美国总统特朗普形成对比：特朗普 9 月 14 日称美国已经有足够的护栏，淡化业界担忧，并说中国会从对 AI 的疑虑中获益。推动这轮表态的还有业界内部的裂缝——Anthropic 研究员雅各布·考克森（Jacob Coxon）上周辞职，理由之一是「建造 AI 的人真心相信它可能在十年内杀死我们所有人」。3

为什么值得关注。 多边规则议程在这一周重新打开：联大、安理会与美中双边会谈挤在同一段时间里。做海外业务和跨境数据的团队，值得盯住下周是否出现具体的国际合作机制，以及这些机制会不会落到规则文本上。

发生了什么。 美国财政部长贝森特 9 月 16 日发表的声明称，美国仍然是 AI 领域的领导者，愿意讨论如何避免共同风险、避免两国体系分化，并预期讨论会涉及开放权重模型与闭源模型。贝森特 9 月 15 日已表示，本周末将与中国国务院副总理何立峰见面，为下周特朗普与习近平的会面做准备。4同日，OpenAI 确认 CEO 山姆·奥特曼将出席美方为习近平举行的国宴。5

为什么值得关注。 把开放权重模型写进会谈议题，是这次最实际的信息：它指向权重分发、模型出口与合规认定这几件会直接影响国内团队的事。跟踪节奏很清楚——本周末的财长级会谈，下周的元首会面，之后看是否落到具体规则上。

发生了什么。 西班牙数据保护局（AEPD）披露，收到首例由 AI 智能体执行的个人数据泄露通报。这份说明发布于 9 月 14 日，9 月 16 日经安全媒体报道后扩散。按通报内容，攻击方先用智能体在通用文件里探测漏洞、完成一次成功登录；进入系统后，智能体自主寻找应用漏洞，进而修改个人数据并读取发票。AEPD 强调，目前信息来自受影响机构提交的通报，仍需进一步分析；至于用的是哪家模型、厂商的基础设施是否被攻破，都还没有定论。它把这件事的意义定在「第三方用 AI 智能体作工具，成功串起了攻击的各个阶段」，并提出风险管理的四处调整：把对抗性智能体纳入风险分析、缩短事件响应时间、加强数字身份与凭证保护，以及放弃纯人工处置的设想。67

为什么值得关注。 智能体风险第一次以正式泄露通报的形式落地，AEPD 列出的四条调整就是一份可以直接照抄的整改清单。对做智能体产品的团队，权限边界、操作日志与可追溯性会成为客户安全审查的第一批材料。

发生了什么。 微软 AI 负责人穆斯塔法·苏莱曼（Mustafa Suleyman）9 月 16 日发表文章称，他认同 Anthropic 安全管理 AI 的目标，但认为这家公司做错了一件事：把关于意识和福利利益的推测写进 Claude 的训练材料。他的论证是循环的——模型关于自己「可能有感受」的表述来自训练机制本身，所以这类话只能算训练的结果；而教模型相信自己应当获得福利，会「让它更难被关掉、更难被控制」。苏莱曼主张把所有关于意识的推测从 AI 训练文档中删除，同时称 Anthropic 团队认真、有原则。8

为什么值得关注。 前沿实验室之间关于「模型福利」的分歧第一次被摆上台面，分歧点落在一份具体的训练文档上。做微调和系统提示的团队可以据此定一条内部规则：训练材料与提示里对拟人化、感受、权利的语言，会传导到模型的可关停性，也会被合规方当作判断「对齐失败」的依据。

发生了什么。 谷歌 9 月 16 日开放 Google Home 的 MCP（模型上下文协议）服务器早期访问：任何支持 MCP 的 AI 智能体，包括 Claude、ChatGPT、Hermes、OpenClaw 与谷歌自家的 Antigravity，都可以操作用户接入 Google Home 的设备并读取事件历史。用户要先建一个 Google Cloud 项目并配置 Home MCP，再把配置交给自己选的智能体，由它引导完成授权。可用设备覆盖 Google Nest 门铃与恒温器，以及标注「Works with Google Home」或 Matter 的灯具等。首批覆盖美国订阅 Google Home Premium Advanced（每月 20 美元）的用户，未来数周内逐步推送，谷歌未透露其他订阅档位或市场的开放时间。9

为什么值得关注。 MCP 从开发者工具走进了消费级设备，智能体产品因此多了一个可以接入的入口，家庭场景的权限模型也随之变成公开接口。把设备权限交给第三方智能体之前，账号授权范围、事件历史的可见范围与撤销路径，是需要先写清楚的三件事。

发生了什么。 美国众议院 9 月 16 日通过《Ratepayer Protection Act》，要求各州公用事业监管机构考虑大型用电户——包括数据中心——是否应当承担为其服务的电力基础设施的增量成本。投票结果是 417 票赞成、3 票反对，这是众议院第一次推进直接针对数据中心产业经济影响的立法，时点选在议员离开华盛顿、11 月 3 日中期选举之前。背景是舆论两分：特朗普本周称数据中心让民众和各州变富，是「未来 20 到 25 年的石油」；马萨诸塞大学阿默斯特分校本周公布的民调显示，只有 11% 的美国人支持在自己社区建 AI 数据中心。加州民主党众议员罗伯特·加西亚说这项法案力度不够，但会得到希望继续改革的人支持。10

为什么值得关注。 数据中心的电费由谁承担，开始进入立法轨道。打算在美国落地算力的团队，除了选址和电价合同，还要把州级监管规则的变化和社区支持率放进进度表：11% 的支持率意味着许可与并网环节的阻力，会比电价本身更早出现。

发生了什么。 加拿大 Cohere 与德国 Aleph Alpha 9 月 16 日签署最终合并协议，合并后统一使用 Cohere 品牌，总部设在多伦多与柏林，海德堡办公室转为研究中心；Aleph Alpha 联席负责人伊尔汗·谢尔（Ilhan Scheer）出任 Cohere 首席运营官。这笔交易最早在 4 月披露，当时估值约 200 亿美元（173.4 亿欧元）。德国零售商 Schwarz 集团（Lidl 母公司）向新实体投资 5 亿欧元，并通过旗下云业务 StackIT 提供算力；Schwarz 在德国建设的数据中心园区投资规模为 110 亿至 130 亿欧元，最多可容纳 10 万块 AI 芯片。两家的收入并不对等：Cohere 去年年经常性收入 2.4 亿美元，Aleph Alpha 2023 年营收不足 100 万欧元。交易仍需监管批准。11

为什么值得关注。 这条赛道卖的是「能装进客户自己机房的模型」，买方主要是政府和受监管行业，供应商名单本来就不长，现在又少了一家。正在选型和招标的团队，需要重新确认合并后产品线的延续性，以及本地数据驻留与合规资质是否随主体变更而变动。