Amodei反对的不是开放权重，而是失控路径

作者丨 AI 科技评论

Dario Amodei 这次公开划出的边界很窄，也很硬。

Anthropic CEO Dario Amodei 在 7 月 27 日发表的官方长文《Our position on open-weights models》中写道：「Anthropic has never advocated for a ban on open-weights models。」1

他支持没有危险能力的开放权重模型，反对的是另一条路径：强大模型被威权国家获得，工业规模蒸馏绕过芯片限制，或者高风险模型在没有安全测试的情况下直接释放。

AI 科技评论注意到，这个区分正好打在本周争论的缝隙里。

英伟达 CEO Jensen Huang（黄仁勋）和微软、Meta、Palantir 等公司支持的公开信，主张避免对开放权重模型施加「premature restrictions」，认为开放权重能够扩大竞争，让 AI 的收益不只集中在少数闭源公司手里。公开报道显示，公开信由 25 家科技公司发布，OpenAI 和 Anthropic 都没有在最初名单中出现；Sam Altman 随后公开表示，希望美国同时赢得开放权重和专有模型的竞争。2

Amodei 的回应并没有否认开放权重的经济价值。

他只是拒绝接受一个未经验证的前提：开放得越广，防守方就一定获益更多。

开放权重，指模型参数可以被下载、修改，并部署在使用者自己的基础设施上。

它的好处很直接，企业可以减少对单一 API 的依赖，研究者可以检查和改造模型，开发者也能把模型放进本地工作流。

它的麻烦也同样直接，权重一旦被复制和重新发布，原开发者无法像关闭 API 那样撤回访问、更新护栏或持续监控使用者。Amodei 在文章中把这个问题放进了网络攻击、生物风险和对齐失效的语境里。1

Amodei 先区分了两种国家安全风险。

第一种，是威权国家训练出比美国更强的模型，并把它交给军队、情报机构或监控系统使用。

第二种，是高能力模型被用于网络攻击、生物攻击，或者出现严重的对齐问题。

在他的判断里，第一种风险的关键变量不是模型有没有开放权重，而是对方能不能拿到足够多的先进芯片和芯片制造设备。

所以他的第一项政策是限制向中国出售强大芯片和芯片制造设备，同时打击走私与规避措施。第二项是打击工业规模的蒸馏，也就是用更强模型的输出训练另一个模型，以更低算力逼近前沿能力。第三项才是直接针对发布行为：所有达到足够能力的模型，无论开放还是闭源，都必须接受强制安全测试。1

这三项措施分别对应资源、能力和释放环节。

这也是 Amodei 和公开信支持者真正的分歧。

公开信强调，闭源模型同样可能被攻破、被滥用，外部人员却更难发现其中的问题；Amodei 则担心开放权重把撤回和监控这两道门永久拆掉。前者更重视扩散后的创新和防守收益，后者更重视高危能力扩散后的不可逆性。2

Demis Hassabis 是 Google DeepMind CEO 兼联合创始人，他在 7 月 14 日发布的 Substack 文章中提出了更完整的制度版本。

他建议美国先建立一个类似金融业 FINRA 的前沿 AI 标准机构，由技术专家和开源代表参与治理，负责设计动态评测协议，并与联邦机构和国家实验室合作测试模型。前沿模型最初应在发布前最多 30 天交给机构评估，等协议成熟后，再把通过测试变成美国市场部署的前置条件。3

Hassabis 的框架明确写出，无论模型来自哪个国家、采用开放还是闭源权重，只要达到 Frontier-class，就应适用同一套评估；初创公司和学术机构的非前沿模型则不在范围内。3

把三人的公开动作放在同一张表里，差别更清楚。

Altman 这一栏需要特别谨慎。

目前公开证据能确认的是，OpenAI 在 GPT-5.6 发布前曾把模型限制给一小批可信合作伙伴，并与美国政府官员进行「collaborative back and forth」，由政府测试并提出问题；7 月 27 日的报道则说，Altman 将在华盛顿预览下一批模型能力，并回答网络安全和开放权重问题。45

这可以称为一条「谈判式部署」路线：能力越强，政府审查、访问控制和发布节奏越可能成为产品上线的一部分。

但截至目前，没有公开材料证明 Altman 已经提出了一套与 Amodei 或 Hassabis 对应的开放权重监管框架。

OpenAI 的 GPT-5.6 官方发布页给出的做法，是对模型能力做网络安全、生物和自我改进评估，再配合实时检查、持续监测、账户级执行和可信访问计划；它还明确写道，GPT-5.6 在网络安全和生物领域的能力有所提升，但没有跨过该公司的 Critical 阈值。6

这套做法和 Amodei 的强制测试有相似之处，但主体仍然是模型公司自己的安全系统，不是一个对全行业适用的独立标准机构。

Amodei 和 Hassabis 都把「测试」放到了发布前。

这看起来像共识，实际还差三个问题：谁来定能力阈值，谁来执行测试，测试失败后谁有权阻止发布。

Hassabis 给出了机构外形：标准机构、独立技术专家、第三方审计者、定期更新的保留测试集，以及必要时协调前沿实验室放慢研发。

Amodei 给出了政策优先级：芯片出口限制和反蒸馏先处理国家级能力差距，安全测试覆盖开放与闭源模型，而且最终最好是全球性的，不能只约束美国公司。

他还刻意保留了一个经验主义入口：开放权重模型究竟会不会显著增加风险，开放后有没有办法改善安全，不应在测试之前靠立场决定。只不过，权重公开之后再想撤回，已经来不及了。

这就让「发布前测试」同时承担两种任务。

它既要测模型能不能发动网络攻击、协助生物风险活动或绕过护栏，也要测模型是不是能帮助防守者修补漏洞、分析恶意样本和加快响应。

Amodei 引用的生物风险场景尤其尖锐：攻击者可能只需要找到一条可行路径，防守方却要面对多年实验、审批和部署周期。英伟达联名信认为开放访问未必只帮助攻击者，Amodei 则要求用实测结果回答这个问题，而不是先写进政策结论。17

AI 科技评论看来，接下来最值得追踪的不是哪家公司在口头上支持 open-weight，而是三张具体的表。

第一张是能力阈值表：哪些网络、生物和自主性指标一旦达到，就必须送检。

第二张是测试结果表：谁来测，使用什么保留测试集，模型在攻击和防守两侧分别表现如何。

第三张是执行记录表：蒸馏账号如何被识别，芯片限制如何堵住绕行路径，开放权重发布后发生高风险滥用时谁负责补救。

如果这三张表都没有出现，所谓「开放」和「安全」都还只是公司立场。

这场争论最后要落在发布前的一张测试报告上：模型能做什么，谁测过，哪一项不过就不能发布。