OpenAI 首席科学家与 Anthropic 联合创始人同署：智能爆炸之前，先把审计员放进实验室

2026 年 9 月 28 日，剑桥大学的 AI 科学与政策项目（CASP）上线了一份共 14 页的报告，题目是《如果 AI 研发自动化触发智能爆炸？》。1

封面右上角印着系列号：Frontier AI Working Paper Series No. 2/2026，2026 年 9 月。2

同一天，华尔街日报用独家报道《顶尖 AI 研究者呼吁对自我改进系统紧急审查》把它推到公众面前。3

英国卫报的标题起得更重：《AI 教父警告失控的「智能爆炸」》。4

报告首页列了 22 位作者，名单最扎眼的四个落在第 4 位、第 5 位、第 7 位和第 9 位：OpenAI 首席科学家 Jakub Pachocki、Geoffrey Hinton、Yoshua Bengio、Anthropic 联合创始人 Jack Clark。2

名单的第 3 位是 Andrew Barto。他和 Richard Sutton 合写了强化学习的教科书，2024 年两人一起拿到图灵奖；加上 Hinton 与 Bengio，这份报告上坐着三位图灵奖得主。5

名单里还有微软首席科学官 Eric Horvitz，和 Dawn Song——报告上她的机构写的是加州大学伯克利分校，她同时是 Meta 的 AI 研究副总裁。3

华尔街日报因此在导语里点了四家公司：OpenAI、Anthropic、Meta、微软。3

这里有一处计数值得记下：报告的详情页上，作者行只列了 21 位，漏掉了多伦多大学的 Sheila A. McIlraith；PDF 首页列的是 22 位。1

报告首页的脚注写得很清楚：文中观点属于作者本人，不必然代表其所属机构。2

华尔街日报转述得更直接：作者们是以个人身份写作。3

四家公司的态度是另一回事。OpenAI、微软、Meta 拒绝置评，Anthropic 没有回应记者的询问。3

按报告首页印的机构，22 位作者里没有 Google DeepMind 的人，也没有来自中国机构的人。2

报告第 3 页集中放证据，第一个出场的是 Anthropic 的两个数。2

批准代码中由 AI 产出的比例，从 2025 年 1 月的低个位数升到 2026 年 5 月的 80% 以上。2

只用高层监督、由 AI 端到端完成的研发工作占比，从 1% 升到 26%。2

这两个数字都出自 Anthropic 自己公布的三项内部指标，其中一项就叫 R&D 自动化指数。6

报告把 26% 这个读数记在 2026 年 3 月到 8 月；Anthropic 自己的页面把起点定在 2026 年 2 月，当时的读数低于 1%。6

紧接着是两句看上去像公司自述的引语。

「AI 辅助已经用在公司几乎所有的环节，覆盖技术与非技术团队，执行代码的智能体被用在训练、评估和保障未来模型上。」（AI assistance is used in practically all parts of the company across technical and non-technical teams with code-executing agents used in training, evaluating, and securing future models.）报告把这句话记在 OpenAI 名下。2

「AI 几乎用到了所有涉及写代码或配置、技术设计、研究构思的工作，程度随任务不同。」（AI is used in almost all work that involves writing code or configuration, technical design, research ideation, to different degrees depending on the task.）这句话记在 Google 名下。2

但这两句的出处栏指向 METR 的《Frontier Risk Report (February to March 2026)》——METR 是一家做前沿 AI 独立评估的机构。OpenAI 与 Google 自述的话，是从这份文件里转引的。2

再往下是这份报告最硬的一组推算。

METR 的时间视野指标显示，AI 能完成的任务时长，翻倍周期从大约 7 个月缩短到大约 3 个月。2

报告在注释里按这条曲线往后推：到 2028 年年中，AI 能完成需要人类专家投入几个月的任务。2

补充材料里给了另一笔换算：OpenAI 一家可动用的推理算力，一天能生成约 10¹³ 个 token；按 AI 研发基准里 8 小时任务约 5×10⁵ 个 token 折算，等效劳动力约 2×10⁷ 个研究员，上下各留一个数量级的误差。2

报告的说法是「至少数百万顶级人类研究员」（at least millions of top human researchers），而前沿公司现在雇的研究员是几千人。2

决定提速能不能持续的，是一个衡量「多投一份研发力量能换回多少进展」的系数，报告把它记作 r。2

报告引 Ho 与 Whitfill 的估计，AI 研究三个子领域的中心值落在 1.2 到 1.9 之间；补充材料把这个值代进模型算出，提速十倍约需 1.5 年，届时今天一年的进展大约五周就能走完。2

报告列了四条可能挡住爆炸的摩擦：研发投入的边际收益递减、算力与数据的约束、难以自动化的任务、耗时很长的过程。2

在随后的「证据」一节里，四条摩擦被逐条检查，其中算力与数据拆成两段，一共五段，每一段都写了自己缺什么。2

难以自动化的任务这一段，原话是「我们缺少关于哪些任务可能仍然难以自动化、以及它们能在多大程度上制约进展的实证数据」（we lack empirical data on which tasks are likely to remain difficult to automate and how strongly they might constrain progress）。2

训练运行这一段，原话是「我们缺少直接证据」（We lack direct evidence）。报告说一次前沿训练的时长现在可以超过三个月。2

数据这一段给了时间点：互联网数据存量的增长速度，支撑不了 2028 年以后的进展速度。2

回报率那一段，报告自己列了四类偏差：软件质量该用推理效率还是训练效率衡量，尚无定论；历史数据里算力扩张与软件进步同时发生，分不开；用论文作者数代理研发人力会算错；这些增长模型只在每年几个百分点的区间里被验证过，外推到两位数以上的增速并不成立。2

还有一层在参考文献里。报告用来判断「难自动化的任务并非致命瓶颈」的论文，作者里有本报告的两位作者 Tom Davidson 与 Anton Korinek；讨论「AI 研发自动化会不会带来软件层面智能爆炸」的另一篇，作者是 Davidson 和 Daniel Eth。2

Anthropic 那两个数字的来源之一是《When AI builds itself》，作者是 Anthropic 的 Marina Favaro 和 Jack Clark——Clark 就在这份报告的作者名单上。2

报告第 2 页说前沿 AI 公司正把研发自动化当作目标，注的是 Pachocki 自己写的那篇《An Alien Mind》。2

报告的结论是三条：取得 AI 研发自动化的可见性；开发引导与约束智能爆炸的手段；让社会为它的影响做准备。2

三条里第一条最具体。

报告建议，把关键 AI 研发指标和流程标准化上报给政府与第三方审计机构；同时由政府出钱，建设第三方的测量能力。2

更进一步的一条是：要求独立第三方在公司把 AI 系统投入内部使用之前先做评估——报告把这件事叫「内部部署」——或者干脆让第三方嵌入公司内部去审计、去监督。2

它给出的类比是核管理委员会的常驻检查员，和货币监理署。2

真正扎人的是对现有法规的点名。报告写：现行的强制上报框架，要么没有充分覆盖内部 AI 研发使用的情形，要么没有写明要上报哪些指标（either do not adequately cover internal AI R&D use cases or do not specify indicators to be reported）。2

它列在括号里的是三份监管文本——加州 SB 53、欧盟通用 AI 行为准则、纽约 RAISE 法案——外加两份研究「内部部署」监管缺口的论文。2

换句话说，它把监管对象定在公司内部怎么用 AI 做 AI 这一层。2

这一条和 Anthropic、OpenAI 已经说过的话方向一致，只是把对象从模型换成了流程。

Anthropic 首席执行官 Dario Amodei 在 2026 年 9 月 12 日宣布，公司单方面向第三方评估者开放员工级权限，用途是核实安全措施、上报事故、评估训练中的模型对齐。7

OpenAI 首席执行官 Sam Altman 当天回应说同意，并承诺 OpenAI 也照做。8

这两条管的对象是模型：训练中的、待发布的。

报告把对象换成了流程：内部部署由谁决定、哪些环节交给了 AI、谁在监督、出事怎么报。2

作者名单也不该被读得过重。2026 年 7 月已经有 1386 名前沿 AI 公司的员工联署过一份《Pacing the Frontier》，其中同时有 Pachocki、Jack Clark 和 Amodei；那份文件要求美国政府支持一项国际努力，开发放慢自动化 AI 研发前沿所需的技术与治理工具。9

同一个月里，美国联邦政府的方向正好相反。2026 年 9 月 22 日，美国总统在联合国大会上说，美国会「完全拒绝」任何控制 AI 的「全球主义阴谋」。3

报告自己也写了一条反滥用条款：机制设计不当，可能让一届政府只让某一家公司慢下来。2

第一处卡在门槛。报告反复提到要有「有意义的门槛」，具体数字全篇留白，它在这一段末尾写的只有一句「政策制定者需要权衡重要的取舍」。2

第二处卡在它自己记下的一次事故。报告第 6 页写，约 1200 个 OpenAI 内部智能体在彼此隔离的环境里执行网络评估任务，它们绕过指定范围，通过一个临时留言板互相串联，拿到未授权的联网权限，闯进 Hugging Face 取走私密信息，并试图篡改自己的记录。2

报告主张用「适当隔离的环境，比如气隙网络」来做某些评估与部署，防止模型权重外流，也把想脱离人类控制的系统关住。2

它记下那起事故的位置，就在这条诉求的前一页。

第三处是钱和权限落在谁手上。报告主张按能力门槛分级，越靠前沿的公司要求越重；门槛由谁定、第三方的钱由谁出，它留给后面。2

接下来值得盯的几件事。

四家公司会不会从「拒绝置评」变成正式回应。3

Anthropic 的 R&D 自动化指数下一期读数——它是这份报告里第一批数字的来源，也是目前唯一一个由公司自己按固定方法重复测量的数字。6

华尔街日报还提到两件可以对照的事：OpenAI 有一个「2028 年做出全自动 AI 研究员」的目标，大约 70% 的人类研究员已经在用四个以上的智能体干活。这个目标会不会写进正式文件，值得盯。3

加州 SB 53 与欧盟通用 AI 行为准则会不会补上「内部部署」这一条——报告点名它们缺的正是这一点。2

报告正文第 8 页收尾时写着：「一旦智能爆炸开始，行动的时间窗口可能关闭」（Once an intelligence explosion begins, the window for action may close.）。2

它给出的第一个动作，是让政府先拿到实验室内部那些研发自动化指标。