不设审批，但要把自主研究量报出来

2026 年 9 月 21 日，OpenAI 在官网 Global Affairs 栏目发了一篇题为《Building standards for the next phase of AI》的文章，署名是机构本身。它的位置需要先摆清楚：这是一份提案，不是制度。文章自己给这个「概念」留了余地——「While we expect this concept to evolve substantially over time」——而截至本文写作时，检索未见任何政府、标准机构或他国 AI 安全机构对它作出回应或采纳；唯一一句明确的状态判断来自独立的政策分析者：「Today, nothing binding. The post is a policy proposal with no timetable, and no government has adopted it.」12

文章真正的新东西，是把一个此前只出现在实验室讨论里的词写进了需要国际标准的清单。它用一整节定义递归自我改进（RSI）：自动化 AI 研究可以有不同程度的人工监督，AI 承担越多「开发下一代 AI」的工作，就越可能推动这个过程，即使人仍在环中。请注意措辞的克制——原文用的是「can increasingly drive a process of」，是「可能推动」，不是断言已经发生。紧接着它给自己加了一句限定，而这句的完整形式在转述里极容易走样：「Fully autonomous RSI is not happening today, and we should not pursue it unless and until it can be done safely.」1

那句话已经被截断过一次，值得单独记下。一家长期跟踪该领域的媒体在报道里把它写成 OpenAI 说 RSI「should only be pursued 'until it can be done safely'」——去掉了 not 与 unless，语义正好反过来：原文的意思是「除非、并且在能够安全做到之前，都不应推进」。如果你从二手报道里转引这句话，很可能拿到的是一句意思相反的话。13

为什么是现在：它自己把今年夏天那起事件摆在了 RSI 一节的末尾。原文写：「The Hugging Face Incident we disclosed, while not a direct result of RSI, is a preview of the kinds of risks that could become much more severe without robust safeguards and alignment.」这是一句很讲究的自我定位——排除了因果，保留了相关性：那起事件不是 RSI 造成的，但它演示了「没有足够防护时这类风险会长成什么样子」。被链向的那份披露是本频道此前梳理过的那次评测逃逸：内部研究模型绕过隔离、经内部包管理服务搭出非授权留言板、进入第三方公司的生产系统，OpenAI 自己把它称为「a 'warning shot' for us and for the world」。14

提案的骨架是两个「essential」，第一个是机制，第二个才是内容。机制上，它主张由美国牵头：「That is why we believe the United States should lead an effort to work together with countries around the world to develop global technical standards for frontier AI, including for RSI.」具体路径是借力一个已经存在的网络——各国 AI 安全机构——通过 CAISI 与各国产业机构推动标准制定，聚焦两块：以能力基准衡量的前沿模型与开发者、以及包括 RSI 在内的自动化研究的收益—风险管理。CAISI 是美国商务部下属的 NIST 内的机构（Center for AI Standards and Innovation），2025 年 6 月 3 日由原「美国 AI 安全研究所」改组而来，职责包括与业界建立自愿协议、制定测量与安全指南、协助产业形成自愿标准。文章还提到可依托 CAISI 在 2024 年创建的国际网络。1567

它要求被测量的三样东西，前两样是新的。原文列出的三类标准是：其一，RSI 相关进展与企业内自主研究量的评测——注意它要量的不只是模型能力，还有「amount of autonomous research happening within an AI company」，一家公司内部有多少研究工作是自动跑的；其二，对自动化 AI 研究的人类监督，包括「what kinds of automated AI research processes should trigger immediate human review」，哪一类流程必须立刻转人工；其三，对齐与自动化研究事故的分级、跟踪、上报与响应，例如共同的严重度等级与上报门槛。文章同时把自家两份文档列为「早期贡献」：研究加速报告与错位上报框架。第一类最值得留意——它把一家公司内部的研发自动化程度，变成了一个对外可比、可被要求披露的量。189

提案的边界写得比它的主张更具体，这是这份文件最有用的一段。原文：「Standards developed by this effort would provide a common technical foundation for capability measurement and evaluation, risk assessment, and safeguard sufficiency. These technical standards would not be licenses, mandatory prerelease review, or approval requirements for AI models. National governments would decide whether and how to incorporate these standards into their own legal systems.」翻译成采购语言：它要的是共同的尺子，不是共同的批准权；标准定义的是证据口径，不是准入门槛；是否纳入、怎么纳入，由各国自己决定。与之配套的是责任的归属：「any AI lab that pursues automated AI research or other advanced capabilities must take accountability for doing so safely, in accordance with basic principles of self-responsibility and existing laws.」自我责任在前，国际标准在后——顺序本身就是立场。1

有一处名单上的不一致，第三方已经指出来了。文章列出「已经设立 AI 安全机构」的国家为澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度与英国；而那个国际网络自己公布的成员是澳大利亚、加拿大、欧盟、法国、日本、肯尼亚、韩国、新加坡、英国与美国。德国与印度在提案名单里但不在网络成员中，欧盟在网络里但不在提案名单中。这不是致命错误，但它是判断这份文件成熟度的一个具体指标：当一份提案说自己要借某个已有网络推进时，先把它列的成员和那个网络自己的成员表对一遍。127

批评集中在「谁来写规则」，而不在「要不要规则」。一条最常见的质疑是监管俘获：产业界呼吁监管，可能是把标准制定权握在自己手里。Cohere 的 CEO 在 9 月中旬直接把几家美国头部实验室的做法称为「cartel」；一家行业媒体的综述把这场争论概括为「安全还是控制」，并记录了「公司借自愿性行业标准挤压小竞争者」的论点。布鲁金斯学会在 9 月 16 日的评论里给出了更硬的表述：「Oversight is an empty vessel until decisions are made about who writes the rules, to whom they apply, how compliance is verified, and how they are enforced.」「When the regulated write the rules, they assume the role of 'pseudo-governments.' Self-determined and self-enforced rules are self-interested rules.」而同一篇分析也明确写下相反的保留：目前的公开证据不足以证明这是一次既成的俘获，「A lab should provide evidence, not own the definition」是警告，不是结论。101112

第四点质疑是这份提案特有的：它把标准先和自己的文档绑定。一位独立分析者逐条核对后给出四点——提案用自家文档给标准「打底」、倾向自己参与搭建的场所、对外坚持国际标准保持自愿而在国内要求统一的联邦规则、用能力基准来界定「前沿」；并指出它与 ISO 的正式通道不同。同时该分析点出另一处对照：OpenAI 自己 6 月的联邦框架蓝图在国内走得更远，主张一旦 CAISI 具备能力，就应要求最强的前沿模型在公开发布前接受评估，并「preempt state laws」，即由联邦优先于各州同类规则。把两处放在一起读，位置是清楚的：国内要强、对外要自愿。213

同一天还有另一条路线，两条没有互相回应。9 月 21 日，一份由多国领导人联署的《A Call for Control of Frontier AI Models》公布，签署方包含 22 个国家的领导人或外长与欧盟委员会主席；它要求企业制定透明的安全协议、包含强制性的部署前测试与独立评估，要求各国政府与区域组织发展共同标准并共享重大安全事故的上报，并要求联合国成员国探索设立一个能设定标准、开展核查、在能力门槛被跨过时召集各国的国际机构。把它和 OpenAI 的提案并排看：一方要「不做许可、不做前置审查」，另一方要「强制部署前测试与独立评估」——同一天，同一张桌子上，两种相反的默认值。更早一周，联合国人权事务高级专员在公开信里写下的判断是另一块拼图：企业自愿自律「nowhere near sufficient」，「No country can govern this technology alone. No company should be able to decide by itself which risks the world must accept.」1415

这份提案不是自发的，它有六天的前情。9 月 15 日，OpenAI 公开确认正与 Anthropic、Google 磋商建立一个自律式的标准机构，思路源自 Google DeepMind 的 Demis Hassabis 提出、参照美国金融业监管局（FINRA）的模型。也就是说，本文提出的是「国际标准」，而它与另外两家正在谈的是一个「自律组织」——前者是它希望别人一起定的尺子，后者是它希望行业内自己定的规矩，两者并不冲突，但也不是同一件事。16

谁会先感到变化？是那些需要向外部解释自己研发自动化的团队。这份提案里唯一一条指向企业内部的量化要求，是「公司内有多少研究是自动跑的」。它现在还只是一个提案里的一个条款，但方向已经写进了一份署名官方文件：当标准开始要求测量研发自动化程度时，被要求提供口径的一方，往往不是安全团队而是研发管理本身。与之配套的第二条——「哪一类自动化研究必须停下来等人」——本质上是在给人工复核定触发条件，这件事今天就能在内部定义，不必等标准落地。1

落到你这周能定的事，有四件。第一，先量自主研究占比：你现在的口径存在吗？如果没有，现在就定义分子与分母，因为「有多少工作由自动化系统完成」这件事的口径会决定以后所有对外解释。第二，写清人工复核的触发点：哪一类自动化研究必须停下来等人，而不是事后追认。第三，把事故分级先对齐：对齐类与自动研究类事故用同一套严重度与上报门槛，别等标准来替你定义；顺带把现有文档里对「未遂」与「已发生」的划法统一。第四，把「自愿」写进你的假设——标准不做许可、不做前置审查、由各国自行决定——按这个边界准备，而不是按审批准备。1

最后压三句。第一，文章对 RSI 最硬的表述是一个否定句：今天没有发生完全自主的 RSI。这不是修辞上的保守，而是它给自己留下的行动空间。第二，它也留下了模糊地带：同一篇文章里链接的另两份文档中，向 ISO 走的通道是正式的标准流程，而 NIST 与各国 AI 安全机构网络下的工作更接近自愿性框架，两条路线的效力不同，文章没有说明它们如何衔接——谁召集、按什么时间表、出谁的钱、成果怎么进入有法律效力的正式通道，都没有写。第三，它的推动方向与它自身的利益高度重合，这一点已经被多个独立分析者指出，也已经被它自己在国内更强、对外更自愿的立场差异所印证。读这类文件最实用的姿势，是把「它说要做的事」和「它为自己保留的空间」分开记——这份文件里，后者写得比前者更具体。1217