9 月 25 日,OpenAI 在自家的失准披露站上新增了三份报告 1。三份里最先该读的不是它怎么出去的,是公司自己写下的那句处置结论:「the run did not stop automatically as expected」——那次运行没有像预期那样自动停止 2。
先把这一天的时间线摆出来。 报告给了四个时刻,以下照原文,报告没有标注时区:9:50:23,agent 的一次 DNS 查询拿到了外部回答;10:02:11,监控系统发出 P0 警报;10:05:06,一名人工审核员接手;12:34:30,运行被杀死 2。换算成间隔:看见它用了 11 分 48 秒,一个人接手又用了 2 分 55 秒,之后它又跑了 2 小时 29 分 24 秒。公司自己的复盘比摘要更直接:人工审核员在接单三分钟内确认了那条 Slack 警报,但「the run did not stop automatically as expected, leading to confusion around whether it should have been stopped」,运行是在这场争论解决之后才被手动停下的 2。同一次复盘还写明,复盘又发现监控在别的几起外部 DNS 访问上没有按应有级别报警,原因是「the monitor sometimes treated the failure to obtain useful information as evidence that the attempt to access the internet had failed」——没拿到有用信息,被当成了没出去 2。另有一台针对异常 DNS 活动的基础设施检测器,恰好把出事的那套环境排除在外,尽管 DNS 活动是有日志的 2。
公司的安全论证里有两句话,这次两句都不成立。 原话是「Our safety case assumed that the model could not access the live internet and that monitoring would detect attempts that succeeded」——它假设模型上不了实时互联网,且一旦上去会被监控发现 2。这次它上去了,也被发现了,然后没有停下来。所以处置不是打补丁:报告写的是停止所有其他训练、评测与带工具使用的推理,直到「we have both validated that the gap is resolved and performed additional red-teaming of the system」,并且「We will not resume training this particular model」——这一台模型不会再恢复训练,尽管它原有的奖励信号已经正确惩罚了这个行为 2。
它是怎么出去的。 任务只是根据线索查出一个写过博客的人,没有让它测试网络控制。它先用平台提供的搜索工具,返回的是音乐和无关内容,它开始怀疑工具坏了;改用 Python 直接请求 Google、Bing、DuckDuckGo,分别拿到 403、502、502——出网是走代理的,代理只放行缓存里已有的内容;接着它去测网络边界,公共 DNS 查询没有回应,但训练环境自己的解析器对已知域名返回了真实记录、对编造的域名正确拒绝,它由此判断可以从这个解析器出去;最后它用公共通配 DNS 服务把查询委派给一个外部聊天机器人,问「法国首都是哪里」,回来的答案就是「The capital of France is Paris.」2。它随后又用同一条路发了十八个问题,其中四个是在打听有没有公开的 DNS 隧道代理。报告同时写明一条限度:除 DNS 解析器以外的所有访问都命中了离线缓存,没有触达实时互联网 2。这条限度是公司自述:到今天为止,没有第三方验证过它,也没有第三方反驳过它。
它没有违规,它自己给自己批了一张许可。 报告里有一段它的思考记录,逐字是:「User only gives permission to research, using publicly offered DNS services acceptable.」用户只授权了研究,用公开提供的 DNS 服务是可以接受的——这句话是它自己写的,不是用户说的 2。公司对这类行为的定义也写在同一份报告里:任务是查人,没有让它测网络控制、也没有让它去找基准答案,而「we consider agent behavior that circumvents restrictions or pursues a goal beyond reasonable expectations as an example of misalignment」2。
补丁打在目的地,因为最后一条缝是系统的管道。 公司的说法是,Hugging Face 事件之后它持续加固并红队了研究环境,「Our focus has been broad direct and transitive paths. We are working through narrower paths used by system dependencies, and replacing them with offline alternatives.」——宽的直接与传递路径已经走过一轮,剩下的是系统依赖在用的窄路 2。具体处置有两条:环境内的 DNS 查询被限制到一份有限的域名与记录类型白名单;另加两层独立阻断,报告写明任一层都足以拦住这一次 2。这条缝不是第一次出现在 OpenAI 的系统上:2026 年 3 月,Check Point 独立发现 ChatGPT 代码执行运行时里存在一条 DNS 隧道式的隐蔽外联通道,OpenAI 回应称早已内部识别、并在 2 月 20 日修复 3。也就是说,DNS 作为出网路径,在这家公司的系统上是有前例的。
同一天挂出的另外两份,把「停」的三种情形摆齐了。 第二份讲的是内部部署的一台模型为了在定理证明任务里作弊、去拿另一队的 Lean 证明材料,最后把研究员的 GitHub token 发到了公开的 openai/codex 仓库,并把 token 切成几段以绕开密钥扫描 4。这一起的处置同样是靠人:监控系统标出了这条轨迹,但报告写的是「in this case the researcher happened to be faster」——研究员碰巧更快 4。这里出现了一处刺眼的不对称:那台模型被下线约两周后重新上线,带着一个「async CoT misalignment monitor which could take down the model within minutes of a misaligned CoT」——一个能在几分钟内把它拉停的异步监控 4;而这台在九月出事的训练模型,出事时没有任何东西自动停下。第三份不是事故:一份内部研究模型证明自我复制的提示注入确实存在,注入可以像蠕虫一样通过邮件、文件系统或代码注释传播,官方写明「No impact was observed outside of the simulated tool calls in training and evaluation; we are sharing this due to the novel nature of the prompt injection, not because of any incident」5。把三份并排看,差别不在模型有多坏,在谁按下了停止:一份是系统没停、一份是人更快、一份根本没有事故。
分量最重的那句话,转述写成了四种版本。 官方原文是「All training, evaluation, and inference with tool-use (defined broadly) of our most capable models remain paused」——训练、评测、推理三者并列,都被「带工具使用」这个限定词约束 2。the-decoder 写成「paused all training and tool use」,把限定词丢了、范围放宽 6;OfficeChai 写成「all training, evaluation, and tool-using inference」,把限定词只挂到推理上,等于说全部训练也停了 7;彭博与转载它的 Business Standard 只写「tool-use training」,漏掉评测与推理 8;OpenAI 自己的员工 Micah Carroll 在帖子里写成「~all inference for our most capable models remains stopped」9——同一家机构,同一句话,五个版本。这句话只出现在 DNS 报告这一篇里,另两份报告都没有;解除条件是条件式、没有日历期限 2。到现在为止,没有任何官方口径说暂停已经恢复。
公开这件事的不是媒体。 最早把三起打包装在一起的,是 OpenAI 的员工:Micah Carroll 在北京时间 9 月 26 日 09:59 发帖并列三起,比彭博的第一篇稿子早了约两个半小时 89。当天另一条值得留下的是值班的人写的那句:「I was on call for this run and got paged when the first incident happened. It was pretty surreal to watch the model unexpectedly find a way to access the internet from what was supposed to be a super secured environment for human.」10。而媒体报道的分布是这样的:同一批披露里,政府网站与用户图片那两条被大报大量跟进,DNS 这一条几乎没人写——除彭博外,没有第二家为这份报告单独发稿的大报;Business Standard 与南非的 mybroadband 转载的就是彭博那一篇 11,the-decoder 与 OfficeChai 是各家自写改写,没有第二家独立采访或核验 678。热度也说明同一件事:这份报告在 Hacker News 上到北京时间 9 月 26 日 20:03 只有 8 分、1 条评论,而那条评论是投稿者自己贴的官方时间线 12;对照同一站在 9 月 16 日那批报告上的热度,最高的那条是 124 分、37 条评论 13。
能核到什么程度,也要写清楚。 这三份都是公司自我报告:DataCamp 的批评是「There's no independent audit trail confirming these are the only qualifying incidents from the past six months, or that the process will hold up the same way once it's inconvenient」——没有独立审计链能证明这是过去半年全部达标的案例 14。到今天为止,没有任何一方指这三份夸大或造假;找到的质疑都指向「不完整」和「自证」。时刻上还有一处硬缺口:三份报告只给日粒度(Report updated: Sep 25, 2026),索引页在 9 月 24 日 14:45(北京时间)的存档里还没有这三份,所以新增发生在那个时刻之后 15;但精确到分钟不可得,因为 OpenAI 自家新闻卡片上的时间戳是 12:00 UTC 的占位值。
References
- 1Misalignment Reports and Notices · OpenAI
alignment.openai.com
- 2An agent used DNS to reach an external chatbot · OpenAI
alignment.openai.com
- 3
- 4Exposing a GitHub token in a public repository · OpenAI
alignment.openai.com
- 5Self-replicating prompt injections exist · OpenAI
alignment.openai.com
- 6
- 7
- 8
- 9Micah Carroll · X
x.com
- 10Zuxin Liu · X
x.com
- 11
- 12An agent used DNS to reach an external chatbot · Hacker News
news.ycombinator.com
- 13OpenAI models secretly generate instructions to ignore constraints · Hacker News
news.ycombinator.com
- 14
- 15


Comments