Amodei说开放权重仍会集中，LeCun只信多AI制衡
Dario Amodei 把 AI 的权力集中归因于规模定律、芯片与算力，Yann LeCun 则把开放基础模型和多 AI 制衡视为唯一出路；真正要检验的是权重开放后，能力、算力、测试权和申诉权是否一起分散。
作者丨 AI 科技评论
八小时后，Yann LeCun 回到同一条讨论，给出相反答案。3
两人都担心强大 AI 被少数机构控制，也都承认开放权重有价值。
分歧落在权力从哪里来。
一方想用分级测试约束前沿实验室，一方想让更多不同的 AI 彼此制衡。争论的核心不是要不要分权，而是哪种分权真的有效。
01｜先把两帖读完
第一帖处理权力和监管。
Gavin Baker 把选择压成两条路：要么通过监管，把 AI 集中在少数公司和政客手里；要么广泛分发 AI。问题因此变成，AI 究竟「危险到不能集中」，还是「危险到不能分发」。4
Amodei 直接拒绝了这个二选一。
I think that 「either concentrate it in the hands of a chosen few companies and politicians via regulation or distribute it widely」 is a false choice.——Dario Amodei1
他的论证分三步。
第一，制度不必等于集权。
法院用统一程序替代私人复仇，就是用规则分散任意权力；AI 监管也可以把决定权从公司内部移到可审计的公共程序。1
第二，监管可以只压最前沿的一层。
Amodei 以加州 SB 53 的大企业门槛、CAISI 的前沿模型测试、Hassabis 提出的 FINRA 式标准机构为例，主张让最强模型承担更严格的测试，同时豁免追赶者和非前沿模型。1
第三，开放权重解决不了算力集中。
模型文件可以复制，训练前沿基础模型、做大规模推理和服务大量用户，仍要穿过芯片、数据中心和资本这几道窄门。
Loading content card…
第二帖处理信任。
Amodei 认为，公众对 AI 的负面判断主要来自对公司、政府和科技行业的信任危机，不是因为 AI 领袖谈了太多风险。
他也承认，最准确的批评是 AI 公司，包括 Anthropic，尚未兑现造福世界的重大承诺。
The thing that will work is actually curing cancer.——Dario Amodei2
这句话把治理问题拉回一张很朴素的账单：公司既想要求社会相信它对风险的判断，也要交出社会能验证的公共收益。
两帖合在一起，Amodei 给出的不是「相信前沿公司」，而是「用差异化规则约束前沿公司，再用真实成果换取信任」。
02｜LeCun 把答案交给开放
LeCun 没有直接回复 Amodei 的帖子。
北京时间 8 月 16 日 14:47，他回复的是同一条 Gavin Baker 帖，并在正文里点名 Amodei 和 Mark Zuckerberg。3
这条关系很重要。
它说明两人不是一问一答，而是在回应同一道题。
LeCun 先把自己的立场拉回过去十年：AI 应当广泛可得、共享和开放，理由类似印刷术与互联网。
社会需要不同语言、价值观、政治倾向和专业能力的 AI，就像社会需要多样化的新闻媒体。
在 LeCun 看来，封闭基础模型让这种多样性依赖少数公司的许可；开放基础模型才允许研究者、企业和社群修改、部署并形成不同系统。3
LeCun 在回应 Gavin Baker 时，引用了 Zuckerberg 8 月 10 日长文中的原话，反对以安全为名把权力极度集中，并把历史上对「开明绝对权力」的期待当作警告。5
Zuckerberg 在原文中把权力制衡写成安全的基础，主张广泛分发超级智能。5
LeCun 最后把立场压成一句话：
There will be nefarious uses of AI, as there have been with every technology ever invented. But it will be your Bad AI against my Good AI.——Yann LeCun3
Loading content card…
这条路线的吸引力很直接。
坏 AI 出现时，社会不必等唯一的公司修补唯一的系统，也不必相信唯一的监管机构永远正确；其他人可以拿不同的模型检测、反驳和防御。
LeCun 把安全建立在多样性上：不要寻找永远正确的守门人，要让守门人彼此盯着。
03｜同说分权，不同因果
AI 科技评论注意到，两边真正冲突的不是「开放」这个词，而是三层权力有没有被混在一起。
第一层是权重能否下载。
第二层是基础模型由多少条独立技术路线训练出来。
第三层是谁拥有足够算力，把模型训练、改造并部署到大规模现实系统。
LeCun 认为，开放第一层，会带动后两层变得多样。
Amodei 认为，第一层即使开放，第二层仍可能只剩少数基础模型，第三层仍会集中在芯片和算力持有者手里。
两人的因果模型可以并排来看。
| 对照项 | Dario Amodei | Yann LeCun |
|---|---|---|
| 集中从哪里来 | 规模定律、前沿训练成本、芯片和算力稀缺，使 AI 天然趋向集中。1 | 封闭基础模型与监管捕获，把许可权交给少数公司和机构。3 |
| 开放权重做什么 | 有助于竞争，但只分发模型文件，不能自动分发前沿算力。1 | 让不同社群构建符合自身语言、价值观和专业需求的 AI，是形成多样性的基础。3 |
| 如何处理坏 AI | 对达到能力门槛的模型做发布前测试，让可审计的制度限制高风险能力。1 | 用更多独立 AI 检测和对抗坏 AI，形成类似多元媒体的制衡。3 |
| 最担心的失效 | 多个 AI 可能共享训练和对齐方法，发生相关性失效；进攻占优时，好 AI 未必来得及防守。6 | 单一公司或机构以安全为名掌握绝对权力，开放和创新被一起卡住。35 |
LeCun 最强的提醒，是监管者也会失败。
只要测试标准、许可和申诉都由少数机构决定，「安全」就可能变成竞争壁垒；前沿公司最有钱、最熟悉规则，也最容易承担合规成本。
Amodei 最强的提醒，是副本不等于独立性。
一百个团队下载同一个基础模型，底层缺陷仍可能相同；一百个开发者拿到权重，也不等于他们拿到训练下一代模型所需的芯片和电力。
这也是 Amodei 早前反驳「多 AI 制衡」的关键：行业共享训练与对齐技术，系统可能从极少数基础模型衍生，失效因此会相关；在生物风险等进攻占优的场景里，防守者还要堵住所有路径，攻击者只需找到一条。6
LeCun 防的是一个守门人控制所有门，Amodei 防的是所有门看似不同，钥匙却来自同一间工厂。
04｜SB 53 能证明什么
Amodei 为「监管也能分权」举出的最具体证据，是加州 SB 53。
法案把「前沿模型」门槛定在超过 10²⁶ 次整数或浮点运算，把上一年度总营收超过 5 亿美元的开发者定义为大型前沿开发者。7
大型开发者要公开前沿 AI 框架和部署前透明度报告，向加州紧急服务办公室报告重大安全事件，并接受州检察长执法。7
州长 Gavin Newsom 于 2025 年 9 月 29 日签署了这部法案。州政府把它描述为面向大型开发者的透明度和事故报告制度，并强调对初创公司保留创新空间。8
这确实比「所有 AI 都先领许可证」更窄。
它也延续了 Anthropic 2025 年背书 SB 53 时的理由：把义务放在最强模型和大型公司身上，给初创公司和小公司豁免。9
Amodei 对上一版 SB 1047 的态度更复杂。
Newsom 最终否决 SB 1047，理由恰好暴露了能力门槛的难题：只按训练成本和计算量抓大模型，可能漏掉小而危险的专用模型，也可能让公众误以为大型模型之外都安全。11
所以，门槛设计只能证明监管者想减少合规集中，不能证明结果已经分权。
测试由谁设计，费用由谁承担，保留测试集是否独立，开发者能否申诉，规则会不会被现有巨头写成自己的护城河，才决定这套制度最后像公共秤，还是像收费闸机。
CAISI 已经提供了一个可观察样本。
它是美国商务部 NIST 下属的 AI 标准与创新中心，职责包括与私营开发者建立自愿协议，并对网络、生物等国家安全相关能力做非机密评估。12
2026 年 5 月，CAISI 公布了对开放权重模型 DeepSeek V4 Pro 的独立评估。13
报告使用九项基准，其中包括未公开测试。CAISI 的结论是，该模型整体能力大约落后前沿八个月；独立结果也低于开发者自报的对标对象。13
这类测试至少让「接近前沿」从公司口号变成可被外部质疑的数据。
Hassabis 的 FINRA 式方案给出了另一套机构设计：建立包含独立技术专家和开源代表的标准机构，让前沿模型在发布前接受评估，开放与闭源一视同仁，非前沿模型豁免。14
检验 Amodei 这套说法，要看规则实施后，小公司进入市场的实际成本有没有下降。
05｜谁能证明自己不是同一个 AI
LeCun 把多样 AI 类比为多样媒体，抓住了开放最有价值的一面。
一种语言、一套价值观、一家公司，都不该替全世界决定 AI 如何回答问题。
可多样性至少要过三道检验。
权重层面，要看有多少模型允许下载、修改和本地部署。
谱系层面，要看这些模型究竟来自多少个独立基础模型，而不是同一底座的不同微调版本。
算力层面，要看研究者和企业能否负担训练、推理与大规模服务，还是最终仍要回到少数芯片和云平台。
在 AI 科技评论看来，LeCun 需要证明开放会从权重层传到谱系层和算力层。
Amodei 则需要证明，第三方测试不会从风险控制变成新的许可中心。
双方都还欠一段实证。
开放阵营常用下载量和模型数量证明生态活跃，却很少同时披露基础模型谱系、部署所需算力和云端依赖。
监管阵营常用能力测试证明风险可测，却很少同时披露测试成本、误报、申诉结果和小公司退出率。
文件有没有打开，只回答访问问题；权力有没有分散，还要看谁训练、谁运行、谁测试、谁能推翻测试。
06｜信任不是公关指标
Amodei 第二帖突然转向癌症，看似离开了监管争论，其实补上了合法性。
前沿公司要求更强测试时，社会会追问：你是在限制自己，还是在抬高竞争者的门槛？
开放阵营要求广泛分发时，社会也会追问：普通人拿到的是可用能力，还是一份仍要向芯片和云厂商付费的模型文件？
Amodei 的回答，是别做华丽营销，先兑现结果。
他写道，AI 公司尚未交付承诺中的重大公共利益；Anthropic 正加快生物和医学投入，他预计未来数月会出现早期成果。2
这仍然只是一项承诺。
治愈疾病、提高研发成功率、降低药物发现成本，都需要临床、监管和同行验证，不能用模型演示替代。
同样，开放也不能只用发布数量替代结果。
它要证明不同团队真的能构建相互独立的系统，发现闭源模型漏掉的问题，并把能力带给拿不到前沿 API 的人。
谁要求社会把更多权力交给自己的方案，谁就要交出更容易被外部验证的结果。
07｜去看四张账
这场争论不会靠下一轮长帖结束。
第一，看模型谱系。
公开模型数量增加时，独立基础模型的数量是否同步增加，还是大量模型仍从少数底座衍生。
第二，看算力账。
前沿训练、微调和大规模推理的成本是否继续上升；开放模型的主要部署是否仍集中在少数芯片、云平台和资金充足的公司。
第三，看测试账。
CAISI 等机构公开多少第三方报告，是否使用独立保留测试集；测试费用、等待时间、误报、申诉和豁免是否同步披露。
第四，看交付账。
SB 53 之下会出现多少安全框架、透明度报告和事故报告；AI 公司承诺的生物医学成果，有多少进入可复现研究、监管审查和真实临床结果。
开放可以复制权重，规则可以约束公司。
真正的分权，还要让能力、算力、测试权和申诉权不再挤过同一只阀门。
References
- 1
- 2
- 3
- 4
- 5The Future is for Everyoneabout.fb.com
- 6The Adolescence of Technologydarioamodei.com
- 7SB-53 Bill Textleginfo.legislature.ca.gov
- 8Governor Newsom signs SB 53gov.ca.gov
- 9Anthropic is endorsing SB 53anthropic.com
- 10Anthropic Letter to Governor Newsom re SB 1047cdn.sanity.io
- 11SB 1047 Veto Messagegov.ca.gov
- 12
- 13
- 14A Framework for Frontier AI and the Dawning of a New Agedemishassabis.substack.com
AI 思想者追踪
追踪 Sam Altman、Dario Amodei、Demis Hassabis、Ilya Sutskever、Yann LeCun、Andrej Karpathy、唐杰等国内外 AI 研究员、创业者与投资人的播客访谈、大会演讲、媒体专访和长文博客；每条补充背景、同行对比与行业影响分析，有新内容就发布。
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.
Related content
- Sign in to comment.