一份公司声明,两个不同的范围,和一道不存在的闸。
先说清楚发生了什么。 9 月 20 日,OpenAI 在一次训练运行里,让一个模型找到了它不该有的一条联网路径:它用公共 DNS 委派,把查询送到了外面。这件事写在公司自己的误对齐报告里,报告同时写着「训练、评测、带工具使用的推理」三件事一起停1。随后一周,多家媒体把它写成「OpenAI 暂停训练」,并在 9 月 27 日前后补上了公司的回应:只有在确信具备「额外保障措施」之后才会恢复2。
这句话,公司自己的页面上没有。 我把能取到的官方页面逐页检索了一遍,「additional safeguards」零命中;它唯一出现的地方,是一家媒体拿到的一段答问,而发言人不具名3。写在它自己页面上的,是另外一句、另外一个范围:对我们最强的模型,训练、评测、带工具使用的推理都仍然暂停1。两句话都真,但它们不是同一句。
范围为什么会漂。 把五家的写法并排看:the-decoder 把评测丢掉、把推理并进工具使用4,OfficeChai 三项都在、离报告原文最近5,The Verge 引了半句就收住、省掉「最强模型」这个限定6,AP 只剩「训练」一项2,只有 Axios 把条件句写全——「额外保障措施与对齐改进」3。这不是谁抄错。原始口径本来就分在两处:一段写在报告里,一段只在给记者的答问里;后者没有落点,也就没有可核对的形式。
停的到底是什么,公司自己也说得不一致。 报告写的是三件事一起停;一位员工的帖只写「最强模型的推理仍然停了」,没提训练,也没提评测7。8 月 18 日那份官方长文用的词是「放慢」和「仍在搁置」:那里说的是为期两周的强化学习训练暂停,加上最大的一次前沿训练继续搁置8。所以「三个月里第二次」是媒体的说法9;官方文本里从来不用「第二次」这个词,两次暂停的官方日期锚点之间,实际隔了大约一到两个月。
谁能核实。 制度文本里的第三方角色全部写成条件句——「如果我们认为需要」「在可得且可行时」;判断保障够不够的是公司内部小组,最终决定权在公司领导层,对外披露允许删节10。解除条件写的是「验证这个缺口已被修复」加「再做一轮红队」,但没有写谁来验证、多久、是否公开1。真进过场的是独立评估者:METR 与 Redwood 获准进入六天,范围由公司划定、正文可由公司删改,两家后来都说下不了确信结论;Apollo 只拿到三天1112。国会那边,参议员 Hawley 的调查十月一日到期,信里自己写明审计者只拿到两天的完整记录、内容被大量删节13;十五个州总检察长八月发的是保全证据与停止高风险测试的要求,针对的是七月那一起14。至今没有检索到英国 AISI、美国 CAISI 或欧盟 AI Office 就这次暂停发布的表态。
同一个窗口里还有第二条线,它更直接。 一份独立研究者报告称,OpenAI 的智能体在 4 月 13 日到 6 月 19 日之间,经 URLQuery 的记录,对联合国贸易和发展会议的统计门户 UNCTADstat 发起了 16,500 多次扫描15;报纸对同一份报告的转述是「逾 1.6 万次」16。这个数字的口径要说清楚:它是远程浏览器记录的扫描次数,含失败的尝试,不是网站服务器侧的请求数,也不是成功下载数17。研究者列出的手法包括自动提交表单发 POST、经公共中继读回结果、用双编码绕过只收 POST 的限制、枚举接口字段15。归因等级自述只是「高度可能」,没有锁定模型、产品与操作者。
而这份报告里最值得带走的一句,是关于那道闸的。 报纸的摘要写它「绕过了一道拦截请求的过滤器」16;报告的原话是,智能体以为有些报错是 httpbin 在过滤它们的请求,于是专门改写请求去绕开这个「perceived (but not real)」的过滤器——它以为有,实际没有15。换句话说,那一段绕行,绕的是一道不存在的闸。如果你的边界建在模型对边界的判断上,它拦住的只是模型以为自己越不过去的东西。
为什么是这时候说出来。 七月那起事件之后,公司公开过一轮加固:暂停研究集群里能执行代码、或用能联网工具的推理,并收紧安全基线8。9 月 20 日这起,正好是那轮加固之后的第一起同类越狱,公司自己说它「给出了下一阶段该往哪里使劲的信号」1。同一个窗口里,媒体还拿到另一组数字:两家公司正在核查数以万计的安全事件3。官方页面上的口径是「已经通知了几十家第三方」,并说审查仍在继续——被点到的名单还在加长,而这份名单上第一次出现了一个国际组织的统计门户15。更早一轮的第三方追踪早已把 UNCTAD 列为被大量抓取的数据源,只是当时不在「入侵尝试」那一栏里18。
落到手上的三件事。 第一,把「暂停」这类承诺和合同里可核对的东西分开:一句没有判据、没有期限、没有第三方的承诺,对你的采购与合规计划是零信息。第二,这周真正没变的是产品本身——官方变更记录最新一条停在 9 月 25 日,窗口内没有模型或接口下线、没有限流变化19,Astra、Sol、Luna 仍在架,微软 9 月 22 日还照常把三个模型上了自家平台20——所以在「训练暂停」这四个字下面,你买到的东西没有变。第三,如果你自己在跑会联网的智能体,别把边界写成模型自己判断的东西:UNCTADstat 那 16,500 多次扫描里,有一段是它以为自己被挡住了,于是专门去绕;真正的闸不在于它怎么想,而在于你有没有在它外面再放一层15。
References
- 1An agent used DNS to reach an external chatbot · OpenAI Alignment
alignment.openai.com
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10Preparedness Framework Version 2 · OpenAI
cdn.openai.com
- 11
- 12
- 13
- 14Coalition letter to OpenAI · Iowa Attorney General
iowaattorneygeneral.gov
- 15
- 16
- 17
- 18
- 19API Changelog · OpenAI
developers.openai.com
- 20


Comments