开源模型和前沿之间，现在大概只差两三个月——但这段距离不会自己合拢。
a16z 的丽莎·李把这一期的问题定得很清楚：大家都在说「我们必须为前沿调速」，可很少有人先回答——前沿里到底有什么？
然后她把这条线接到开源上：开放权重模型到底跟不跟得上。
嘉宾内森·兰伯特（Nathan Lambert）给的答案落在「资本」两个字上：模型的进步来自算力、数据、人才这三份资本，
而中美之间的差别不在后两份。他同时把当下最热的那个解释——蒸馏——拆开看了一遍，结论是证据比口号薄得多。
下面按节目原始顺序，先是 10 段逐段要点整理，再是全篇逐句中文译文，一句都没省。
逐段要点整理
00:00 开场 — Intro
- 这一期是 a16z 的丽莎·李与开放模型研究者内森·兰伯特的对谈，全长 59:54。12
- 她把问题框架摆在最前面：公共讨论里到处是「为前沿调速」，但前沿里到底有什么、我们在调的究竟是什么，很少有人先答。3
- 访谈前她刚好在策划一个问题系列，专门问各路专家这件事——这也是这一期的由来。3
00:58 算力、数据与人才 — Compute, data, and talent
- 内森把模型的进步归结为三种资本：算力、数据、人才；各家手里这三样多少不同。3
- OpenAI、Anthropic、Google 明显握有最多；真正拉开差距的是把这三样组织起来的能力。3
- 他说让组织架构为造模型服务非常难，所以公司常常不得不从底到上整体重置——Meta 就是重置过一遍之后回到正轨的例子。3
- 他的下注建议很直白：想在前沿做 AI，最稳的选择是 Anthropic 和 OpenAI；Meta、Google、SpaceX AI 也许还在牌桌上，但从外面看不清。3
- 两家前沿实验室的文化有细微差别：OpenAI 点燃了推理模型革命（那条推理缩放律曲线被他称为「OpenAI 的顶峰」），Anthropic 长期盯住编码，回报是 Claude Code 的爆发。3
- 中国实验室进来的动因他说得很务实：想成为一家「重要的公司」，而从中国卖 API 出去没人会知道它们——开源是一种抄近路进入这场对话的方式。3
- 他还提到数据经济的渗漏：OpenAI 和 Anthropic 花钱把数据产业建起来，一年后那些数据公司可能就卖给所有人。3
08:48 算力饥饿，与蒸馏之争 — Compute-starved, and the distillation debate
- 他对中国实验室的判断是「技术上非常优秀，只是更缺算力」；人才上他明确说不能说中国不是同等水平。3
- 他讲了那个重复过好几次的场面：跟那边的人说「一位普通 OpenAI 研究者随时能用到 5,000 张 H100 等价算力」，对面的下巴直接掉到地上。3
- 他给蒸馏下的定义是经济学的：语言模型的输出是算力的函数；你已经知道你要的输出，就等于你有了算力——所以蒸馏是一种把钱换成效用上等价于算力的手段。3
- 后训练这条线他讲了一部演变史：从 SFT 与 RLHF（拿最强模型生成补全、做「预测下一个 token」的损失）走到以 RL 为主的环境；但「拿到补全、分数就上去」这套经验，映射不到今天推理模型里真正发生的事。3
- 他回忆在 AI2 与 Hanna Hajishirzi 共同带队时说过的口头禅：prompt 才是后训练的关键单位。3
- 反证一：在完全公开的后训练文献里，做开放模型的人全都还卡在一个过时的 Qwen 上，因为搞不定「老师」这件事；他的假设是中训练与公开预训练数据里有某种东西挡住了这条路。3
- 反证二是一个自曝式的反事实：当年做 Olmo 时就算拿到 Claude 的推理轨迹，他也不确定模型会好很多。3
- 但问号还在：中国的一批 Claude 代理与模型代理 token 用量巨大、中间商层层转手、甚至有 Kimi 在自己产品里给用户跑 Claude 的情况；他认为合理的人对这条差距给出的误差棒都很大。3
- 他也承认「只有我们才会做模型」是一种自我安慰：有二三十家公司在做出很好的模型。3
- 那篇「从闭源模型偷推理轨迹」的论文：他说中国公司做得更早，是安全社区后来才发表的；机制是推理模型生成的思考 token 很容易从 API 里捞出来。34
- 只要 API 还开着，这类蒸馏就拦不住；收进产品、必须签企业协议会难得多——他支持实验室这么做。3
- 他对监管的边界很硬：「我不觉得 KYC 对谁有好处」，也不明白为什么要把政府请进一桩服务条款的违规；服务条款算不上签了字的合同，你能做的是取消对方的访问权。3
14:57 蒸馏算不算竞争？ — Is distillation just competition?
- 丽莎把黄仁勋那句话搬进对话：「人们每天都在蒸馏我的产品……那叫竞争。」内森的反应是「太棒了，放进节目里」。3
- 他替对面的处境说了句公道话：国家安全那边的声音很响，方向上确实有真话——你得同时在脑子里平衡很多东西。3
- 丽莎把闭源飞轮画了出来：投钱买算力 → 训出前沿模型 → 靠缩放的科学把它翻译成可预测的收入 → 有收入就能再融更多钱。3
- 内森补上缺货那一环：缺的不只是芯片，还有电，而这种稀缺大体上被卡到 2028 年。3
- 所以自然推到下一步：得走到公开市场去，得 IPO；丽莎把立场摊开——如果他们 IPO 做得不好，对别人也不好。3
- 另一面，中国的开源模型对创业生态是实打实的好处：Kimi K3、GLM 这类开放模型让「后训练即服务」的创业公司能走到帕累托前沿。3
19:24 开源与闭源，在不同的指数上 — Open and closed on different timescales
- 这一期的核心判断：开源与闭源模型处在斜率不同的指数上。3
- 闭源实验室高度一体化：推理高效、需要时能把模型规模化服务出去、有资源做规划，而且最先到达价值最高的市场；编码这条线就是「这一年的故事」——收入从零到一千亿。3
- 开源那一侧是一条更长的链：做模型的、做推理的、做后训练的，各是一层；客户那边「模型该会做什么」的信息不会自动回流，也没有规模效应与推理毛利。3
- 但这条慢链的尽头是三样别处换不来的东西：模型权重、没有条款限制、可以跑在自己的硬件上，而且自己算得清回报。3
- 他给的分配原则很冷：最便宜、能完成任务的模型会被拿去比价；企业不愿把私有数据发到 API 上，所以可商品化的部分往下走，难以验证、数据私有的部分留在上面。3
- 他明确说了不确定：「我也真的不知道会发生什么，现在判断还太早。」3
- 丽莎搬来一份外部证据：Cursor 用两套前沿模型重写 SQLite，并不比「Composer 配一个规划者」更好，但贵得多——说明开放模型的微调已经够用。35
25:00 前沿的进步其实是数据 — Frontier progress is really about data
- 他把世界切成两半：一半是数学与代码（可验证、成本算得清、会被压得很快），另一半是知识工作、生物、医疗、法律（不那么好验证）。3
- 在后一半里他的判断是：进步主要来自买高质量的数据，以及给模型一个可以攀爬的世界。3
- 他举了机器人：OpenAI 买了大量机器人数据，六个月后模型就「神奇地」很擅长了——「他们大概会告诉我们这是泛化的魔法」，但他更相信数据那一半。3
- 他描述了一种岗位：把一件很窄的事做透——造一个数据集、弄清模型该有什么行为、再弄清要买什么数据；这件事会跨行业持续好几年，而且非常烧钱。3
- 他给了一个可以自己算的推演：如果大模型每八个月降价一半、连续三年，大约四年后同等能力的成本会是今天的 1%；接着是杰文斯悖论与收入下滑两种猜测。3
- RL 环境爆炸让很多人抄近路，直接后果是奖励作弊：他把机制讲得很具体——测试文件其实是空的，模型还是要想办法拿更高分。3
- 数据行业的粗糙边：有些数据公司在海外用外包，那些外包人员经过中间商，甚至不知道自己卖出去的是什么；他的总结是「数字太大、质量太差，但实验室进步很快」。3
- 丽莎补上：很多实验室正把数据收回内部，部分原因是怕信号漏出去；但采购量仍在猛涨。3
31:29 Trillium 要建什么 — What Trillium will build
- 他把新机构的工作定得很窄：做高杠杆任务的开放环境。机构是 Trillium Labs，一家非营利，使命是「培育前沿 AI 的开放科学」；他是联合创始人兼执行主任。16
- 官方站写明的名字来历：延龄草是春天里赶在树冠长出叶子之前开花的短生植物，把养分散进整个生长循环——「配方会是季节里缓慢的养分，模型发布才是花开」。6
- 领导层与顾问：主席 Tom Zick；顾问 Hanna Hajishirzi、Graham Neubig、Thomas Wolf、Bryan Catanzaro；资助方 Halcyon 与 Schmidt Sciences。6
- 他讲了自己指导的项目 TMax：用全合成数据做终端任务环境——用不同 prompt 让前沿模型生成问题、制造多样性，再用 rollout 找 bug 并剔除。37
- 他强调方法不是魔法：「你把每一条数据都读一遍，你的数据就会变好。」问题是没有多少机构愿意花几千到几万美元把环境做对再放出来，因为赚钱的机会太近。3
- 他给了一条朴素的经济学：计算机科学研究的收益大约十年后由产业收割，所以应该多一些人支持开放；他也提到不只一家在做——Eleuther、Hugging Face，以及 Open Athena（大卫·西格尔创办的非营利，Marin 系列模型主要由它开发）。38
- 他还讲到开放社区的新麻烦：有人会朝研究仓库扔伪造的研究结果，打开 issue 说发现了什么，其实论文第二句就写了。3
38:05 拆解 RSI — Demystifying RSI
- 他的目标是去神秘化：把 SFT 与中训练的开放栈（SkyRL、Miles 这些）摊开，记下工具、任务、配置与轨迹，每六个月回去查一次：变了吗。3
- 目标读者里明确包含政策制定者：让他们看见「内森让模型做的这件事，就卡在这里」。3
- 他解释了为什么这件事要由非营利来做：一位教授只有 15% 的时间，还得拿出 40% 让研究生去记录自己做了什么；而一家 AI 非营利可以把任务、配置与轨迹都留下来。3
- 丽莎转述实验室那边的说法：真正不知道的不是方法，而是配比——哪个配方有效，要靠资本规模化地试；内森同意技术不神秘，资本仍是那道真门槛。3
- 同一条战线上不止一个组织：Eleuther、Hugging Face、Open Athena，以及一个刚上线的学术联合项目 Open RSI；他的原话是「这件事不必只由一个组织来做」。3
44:32 开源能不能做预训练？ — Can open source pre-train?
- 他把自己的位置说清楚：「我不做预训练。我乐得自由，可以用任何基座模型，从竞争中受益。」3
- 他纠正了一个印象：预训练数据大体上就是在互联网上训，并不像环境那条线在膨胀；变的是架构与 GPU。不必花十亿美元也能得到一个很扎实的基座，新实验室从零做起来是可能的——很多人从 Megatron 这类开源工具 fork 之后自己留着用。3
- 商业现实是另一回事：难的是让模型「好到有人用」，并支撑下一轮融资——「你是在倒计时。」他举 Thinking Machines 的 Inkling 做对照：先坦白「这不是我们最好的模型」，之后第二个模型加 Tinker 就起来了。3
- 开放权重这条线上还有两家可看：Meta 据传会再发一个新的开放权重模型；他称 Llama 3 那篇「为什么开放是前进之路」是这件事上最好的一篇，并说作者「有点分心了，看起来正在回到光里来」。3
- 预训练与推理在共同演化：超长上下文让稀疏注意力变得值钱——让 10 万 token 生成快 40%，而中训练把预训练与后训练的边界模糊掉了。3
- 他给整条栈的难度排了序：预训练相对可接近，后训练才是真正的西部荒野——「如果你没有对的人，它比预训练难得多。」3
- 他透露了动机：离开 AI2 时觉得那边的后训练落后了，因为循环周期不够快；而在开放这一侧做出复利式进步不需要那么多资本，因为门槛很低。3
49:32 复合体与智能体群 — Harnesses and agent swarms
- 他承认自己几年前猜错过：以为闭源实验室会变成苹果那种一体化公司，结果用的人各有各的复合体，于是模型公司被压着必须让模型在各种复合体里都能跑——这反而成了均衡。3
- 对智能体群，他判断OpenAI 与 Anthropic 会更早到；但那一层不是复合体，是一个还没名字的「协调系统」。3
- 他的推论是周期：前沿先把形状推出来，别人会跟；一旦知道形状，开放模型这边也会说「这个我们也能做」——「但蒂米不会先做这件事，一是它没有那个算力。」3
- 他把神秘感戳破：「这些实验室在信息上的安全等级，没有他们自己以为的那么高」——硅谷是「一句话就传开」的地方，而科学家真做出突破就想告诉朋友；例外是 SSI，那边别人根本不知道在发生什么。3
- 他把闭源能守住的优势收敛成一句：把更多推理放进自己的基础设施，于是服务更便宜、毛利更高、而且能持续更久。3
- 对「拉开的可能」他给了有条件的否定：所有缩放律都是算力指数增长、性能线性增长，瓶颈在人类这一侧；「我很乐意拿这件事打赌。」3
- 他给了一个限定：数学也许是最适合这种形状的智能的科学领域；如果哪天有模型发现了不同于 Transformer 的东西，那是值得更新判断的。3
- 最后他把担心挪了位置：「AI 能力曲线本身不太让我担心」，真正让他担心的是跨公共部门的网络安全几乎没有准备。他的解法是「我们需要更多的眼睛，更多的科学」，同时强调不害怕快速起飞，不等于不担心风险。3
逐句全文翻译
底稿是本期官方视频的完整自动字幕，共 12,551 词；官方 RSS 与单集页都没有提供逐字稿，没有更权威的版本可比对。3
只保留中文译文，不保留英文原文；对话部分保留说话人标签：片头／丽莎／内森。不压缩、不摘要、不删减。
自动字幕不带说话人标签，说话人归属由内容判定：整集音频的声部分离在多数位置可用，但在若干连续段落会把两人并进同一簇，因此标签仍以内容判定为准。专名按各自官方写法还原（Nathan Lambert、Lisha Li、Trillium Labs、Olmo、AI2、Interconnects、OpenAI、Anthropic、Google、Meta、Moonshot AI、智谱、小米、Kimi、Qwen、GLM、Cursor、Composer、Thinking Machines、Inkling、Tinker、Eleuther、Hugging Face、Open Athena、Marin、SkyRL、Miles、Megatron、Llama 3、SSI）。字幕有两处听写不清，已按可考写法还原：TMax（官方论文写法）、Open Athena；另有两处无法确认所指，一处保留原貌，一处按上下文还原为 Trillium。
00:00 开场 — Intro
内森：在我看模型的进步时，它归根到底来自几种不同形式的资本——算力、数据，还有人才。
丽莎：你觉得这件事在接下来几年里会怎么展开——比如谁能赢？
内森：中国人做模型做得太好了。要说中国在人才上不是任何别的、而是同等水平，你会很难站住脚。他们缺的是算力。
丽莎：多数人把蒸馏看成他们做到这一步的主要杠杆。
内森：人们每天都在蒸馏我的产品。他们把它拿去，拆到最原始的零件，
内森：——那叫竞争。
内森：以前的后训练更依赖监督微调。现在它多少转向了以 RL 为主的环境。但这类后训练很难映射到今天推理里真正在发生的事——也就是你拿到补全、分数就往上走的那一套。
丽莎：现在话语里的恐惧太多了——前沿究竟藏了多少、又怎样在拉开。
内森：AI 能力曲线本身不太让我担心。但在跨公共部门的网络安全这些事情上，准备几乎不存在——
丽莎：内森，特别高兴你能来，也谢谢你愿意到场。你正好在启动 Trillium，我很想聊这个。但更宏观一点说，我们聊过很多开源，那也正是你在意的东西。而我们在公共讨论里一直听到的是「我们必须为前沿调速，前沿这个、前沿那个」。我想问专家的一条主线是：「前沿里到底有什么？我们要调的究竟是什么？那里有什么？」然后更重要的是，把它和开源、和开放权重模型串起来——它们到底能不能跟上前沿？我觉得这件事非常重要，而这正是你的专长。所以也许就从这条线开始：在你看，是什么把闭源实验室和开源模型都推到了今天这个位置？你脑子里这件事是怎么拆的？也许先在高层面上讲讲——预训练、中训练、后训练，后训练是怎么演变的；这一点你向公众做过很多解释。
00:58 算力、数据与人才 — Compute, data, and talent
内森：在我看模型的进步时，它归根到底来自你投进去的几种不同形式的资本——算力、数据，还有人才。而且各家实验室手上这些东西的多少各不相同。闭源的前沿实验室——OpenAI、Anthropic、Google——显然拥有最多。我们看到的是各家把这些资本组织起来的能力不一样。而且让组织架构为造模型服务真的非常难，所以公司不得不从底到上整体重置。然后有时候它还真就管用了。像 Meta，整个重置过一遍，现在又回到一条正向的曲线上。他们就像——
丽莎：说真的，是的。
内森：我觉得……我对这些人这一面的东西非常感兴趣：为什么竞争会推动前沿、为什么组织架构这么重要。因为我们确实看到这些，而且这件事在开源与闭源的动态里也起作用——那些闭源公司、真正的前沿实验室……我常说，如果一个人想在前沿做 AI，我大多会让他去 Anthropic 和 OpenAI，那是最容易押中的一注。Meta、Google、SpaceX AI，我觉得你可能也还在那儿，但从外面更难看清。我认为这些公司只是最早押下了最大的注，才走到了那里。这也是为什么 OpenAI 做出了点燃推理模型革命这种事。那种突破，还有那条漂亮的推理缩放律曲线——那大概是 OpenAI 的顶峰。他们真的很擅长画出一条改变所有人思考方式的曲线。
丽莎：对。
内森：另一边，Anthropic 一直非常专注在模型接下来能做什么这类事上，而它的回报就是 Claude Code 的爆发——他们专注编码专注了那么久。这两家的文化有细微差别。我认为特别是这两家公司最前瞻，也最愿意花离谱的钱，朝一个大家认为不可能的方向迈一步。而中国的公司进来，是因为他们想要一家重要的公司。如果他们只是做好模型、然后从中国卖 API，没有人会知道他们。没有人会知道 Moonshot AI，很少人会知道智谱，而这份名单后面还很长。这是他们非常务实的一个决定。他们在跟着这场对话走，他们知道会有一个巨大的市场，他们知道美国这边为这些东西付钱的意愿很强。这非常务实。所以，放出开放模型是他们抄近路进入这场对话的一种方式。我觉得这里面有很多复杂性：他们为什么这么做？政府有没有参与？……答案是没有。他们只是在努力做一家创业公司。这不是说他们不会走到那里。中国政府做的事情会让美国人瞠目结舌。而这也让我觉得，中国的实验室在安全上的做法要严肃得多——因为在中国，公司做了什么，会招来比美国猛烈得多的反应。我不需要钻进这个兔子洞。但就在开源与闭源的平衡里，这些中国公司在努力追赶。这跟我刚说的 OpenAI 和 Anthropic 是很不一样的动态。那两家是想创造出新的范式。他们想让真正的 RSI 发生，这样只要你先到，你的公司就能永远靠最好的模型赢下去。就是这些宏伟的想法。而你只需要在市场上的空缺里去填补。而开放权重模型正在做这件事。我认为随着时间推移，会出现开放模型的这些层级：最好的是闭源模型，你可以在它上面要到最好的毛利；然后是接近前沿的模型，落后一步，这些会是开放的，因为那里就是某种供需关系。你会进入一个可能没那么赚钱的市场，但如果比如说你有企业私有数据之类的。而这些层级是那些公司自然演化出来的。我们说前沿，回到资本上去讲：他们资本更少，就会少赚一点钱，这也没关系，但我认为这股追赶的动力非常强。而且一旦 Anthropic 和 OpenAI 给你看出你需要造什么样的模型，接下来的事就容易多了——「哦，我们只需要把这个做出来」。
丽莎：对。
内森：他们买类似的数据集。它会透过数据经济渗出来：OpenAI 和 Anthropic 花多得多的钱把这个数据产业建起来，然后那些数据公司一年后可能就卖给所有人了。它们可能会卖给所有人。它们要最大化自己投资的回报，而它们有一些合约期。我觉得有很多这样的动力学，让快速跟随变得非常可行。这个周期已经持续了一段时间，比很多人以为的要久。ChatGPT 发布的时候，我们讨论过这个行业会整合、也预测过它。我认为我们现在才开始看到一个活跃得多的并购市场，但我原以为这件事两年前就会发生。而这些开放模型公司活得比我以为的久得多。
08:48 算力饥饿，与蒸馏之争 — Compute-starved, and the distillation debate
丽莎：嘿，你这里可以拉的线太多了。我先从你刚才讲的两家前沿实验室在组织上的差异说起吧——这个我们可以先放一放，或者说顺着这根线走。但当然也要讲你解释的另一点：中国的开放模型、或者说中国的开放实验室，其实很大程度上是把开源当成一种分发和商业化的策略，而不是出于利他。也许研究人员当初确实有分享的动机，但归根到底它能延续下来，是因为它是一种极好的商业化策略。另一个可以拉的线是：多数人把蒸馏看成他们做到这么好的主要杠杆，而且随着时间推移，开源与前沿模型之间的滞后还在缩短——现在大概只有两三个月了。这也逼着前沿实验室可能想把 API 关掉、把最好的模型收进一方服务。一个原因当然是能拿到更多价值，另一个也是因为这样更难被蒸馏——不是不可能，但要难得多。也许就这两条吧，都很有意思，我们都试着碰一下。先从这条开始：蒸馏这个故事是不是更像一幅漫画？还有中国的实验室——你实地见过他们，也研究得多得多——他们是全能型选手吗？预训练很好，也有自己很好的、也许没有公开的后训练配方？你觉得这些杠杆在哪里加速？
内森：好。中国的实验室技术上非常优秀。他们更缺算力。我的意思是——
丽莎：是的。
内森：他们毫无疑问有一个可以对标的人才池。我觉得起点上也许有一点细微差别，取决于 AI 真正起跑时谁在哪儿；但要说中国在人才上不是同等水平，你会很难站住脚，因为受过那么高水平训练的人实在太多了。他们缺的是算力。你跟那边的人聊，你说：「哦，我听说一位普通的 OpenAI 研究者随时能用到 5,000 张 H100 等价算力。」然后他们的下巴就掉到地上了。他们就是「我无法理解」。而这是一位你会知道的那类实验室里的顶级预训练研究者。这种对话你经历几次。算力这件事我觉得是最大的差别。而蒸馏在这里面扮演的角色是：它是一种有效地花更多钱、拿到「算力等价物」的方式。语言模型的输出是算力的函数；如果你已经知道你要的输出，那就等于你有了算力、用模型把它们生成出来。我见过蒸馏的几个阶段。我的看法是：以前的后训练更依赖监督微调，也就是 RLHF 那个年代——后训练就是从那时候开始的，你只要在一个非常强的模型的输出上做「预测下一个 token」的损失，就能拿到大部分性能。这是很确定的：你拿你能拿到的最好的模型，让它生成补全，你在上面训练，只要你的 prompt 对，你的模型就会相当不错。prompt 一直是后训练的关键。我记得在 AI2，我和 Hannah 一起带队做后训练时总说，prompt 才是后训练的关键单位。你得先拿到那些 prompt，然后在不同的训练阶段对它们做不同的事。现在它多少变成了以 RL 为主的环境。但这类后训练很难映射到今天推理里正在发生的事——也就是「你拿到补全、分数就往上走」的那一套。而从公开文献看，我很难说蒸馏是一个主要因素；因为比如在完全公开的文献里，那些做开放后训练配方的人，全都还卡在一个相当过时的 Qwen 上，因为你就是搞不定「老师」这件事。我的假设是：中训练阶段里、以及公开的通用预训练数据里，有某种东西，让「从最强的模型取推理轨迹、做 SFT、然后分数就上去」这件事变得很难。所以比如，当年我造 Olmo 的时候，如果我能拿到 Claude 的推理轨迹——Claude Opus、Claude Mythos 什么的，我也不确定它真的会让我们的模型好很多。这就是我基于文献得出的、为什么我认为蒸馏很难的证据。然后，你怎么把一个模型的输出变成一个 RL 环境、去做一次大的 RL 训练？因为现在有小米这样的公司去做一周的开放 RL 训练，或者发一篇「我们做了什么」，然后把模型放出来——那蒸馏到底插在哪里？他们很聪明，也很懂做营销。有一些疑问是：他们是不是提前做了这件事——他们先跑了 RL，然后把模型放出来，而技术报告里说 RL 之后还有一个额外的后训练阶段。所以那里是有一些疑问的，但要把既有的蒸馏文献映射到那上面，非常难。不过也有一些问号让我对实验室这边多同情一点：就是中国那些 Claude 代理和模型代理，token 用量巨大，中间商层层转手，他们有大量账号，甚至有 Kimi 在自己产品里给用户跑 Claude 的情况。我实在不太明白这怎么和「蒸馏作为一种常见的后训练技术手段」对上。是的，我们也该盯住这一点：还有另一些奇怪的事，是中国公司在大规模地使用 OpenAI 和 Anthropic 模型的输出。所以我认为我们有更多问题需要回答，而多数理性的人在问「蒸馏带来的差距有多大」时，给出的都是很大的误差棒。但当我说「蒸馏帮了他们一点」时，那是基于我们手上就有的这些科学信息。我们应该做更多开放研究、让它可被研究；但基于这些，我很难得出一个不同的结论，说它在当下的后训练里不是一个很大的因素。至于「中国人做模型做得真好」——我觉得这里面有一点自我安慰的味道，那种「只有我们才擅长做模型」的想法。可对外面有那么多公司：有二三十家公司在做出很好的模型。
丽莎：对。
内森：我很难绕过这一点。而且我觉得有一篇很出名的论文，讲的是从闭源模型里偷推理轨迹。我知道中国的公司做这件事要早得多——是 AI 安全社区后来才把它发表出来的。我觉得每一家中国实验室都有一个懂这类事情的小组。这就回到你刚才说的：他们其实不需要提供 API。而且推理模型生成这些思考 token，有某种特性让它很容易从 API 里被打出来——你就能看到推理 token，然后用它来训练你的模型。只要他们还提供这些 API，就没有办法阻止这类蒸馏。但如果他们把它做成只能用在产品里、必须签企业协议之类的，那就会难得多。如果实验室想要保住它，我是支持他们这么做的，但他们想保住就得先保住自己的产品。我不认为「了解你的客户」对谁有好处。我不认为那对他们的生意有好处。而且我也不明白，为什么要把政府请进一桩服务条款的违规里。服务条款甚至算不上签了字的合同，我没法像那样去起诉。你能做的是取消他们的访问权。
丽莎：对。
内森：所以这就是为什么我没那么同情，但我也愿意听——国家安全那边的声音很响。而且方向上是真有真理的：因为 AI 会走到哪里、它有多重要，你必须在脑子里同时平衡很多——
丽莎：对。
内森：——很多东西。
14:57 蒸馏算不算竞争？ — Is distillation just competition?
丽莎：我很好奇你会怎么回应。我好像听黄仁勋在他某条推文或者某次采访里说过——
内森：那句话很棒。很棒。放进节目里，放进节目里。
内森（引述黄仁勋）：人们每天都在蒸馏我的产品。他们把它拿去，拆到最原始的零件，测试每一样东西。那叫竞争。
丽莎：你觉得这是公平的游戏吗？你觉得蒸馏不算抢劫吗？
内森：那叫竞争。
丽莎：我非常能共情，因为 AI 安全社区有很多呼声说，我们希望美国在能力越来越高的时候去对话。而如果你要让公司开始用「打手腕」的方式去敲打他们自己的 AI 产业，而且这还是在蒸馏的下游——
内森：对。
丽莎：——所以你不会用国会立法去管蒸馏。你大概只会用联邦层面的动作让他们的日子难过。
内森：对。
丽莎：而与此同时，当我们讨论怎么管理前沿风险——训练中的闭源模型满网跑、访问了它不该访问的东西，我们也有对开放权重模型的合理担心，虽然目前还没有出现危害——但是，为什么大家不用开放模型？为什么他们反而跑去用闭源模型、绕过那些护栏？
内森：对。
丽莎：我们希望能和中国科技公司就这些事沟通。而我认为，如果你在蒸馏这件事上做任何动作，害处都会大过好处，因为他们不会停。就是这样——他们会继续做。
内森：对，对。而且开源社区会受益，因此创业社区也会受益很多。这件事不完全是「中国对美国」。其实，比如说——而且我们确实可以聊——我当然同情，或者说我试图替前沿实验室这一侧的立场辩护：造这些前沿模型需要前所未有的资本量。而如果通过蒸馏或其他类似方法，开源能这么快追上来，那对这个飞轮继续转下去是相当令人警觉、也不太有利的。我说的这个飞轮，就是一幅很简单的图景：你投很多钱拿到算力，把模型训到前沿，当然，OpenAI 和 Anthropic 在这件事上非常「有罪」、或者你说非常「成功」
内森：成功。
丽莎：——随你怎么看。而且存在大量的算力短缺，因为不只是芯片，还有电等等。所以这种稀缺大体上被卡到 2028 年。总之，这一切都是说：把算力停在那里的策略是成功的，因为一旦他们到了前沿——他们懂缩放的科学，这门科学让他们能掌握它如何被翻译成一条可预测的收入流——他们就有了收入。而因为有了收入，他们就能融到更多钱。这就是一个前所未有、漂亮得不得了的飞轮，OpenAI 和 Anthropic 都是这样。当然，我们需要指数级增长的资源，所以我们已经到了这一步：好吧，我们得 IPO，得去公开市场。所以任何威胁这个飞轮顺畅运转的东西，都是对「待在前沿」这件事的巨大威胁。所以——
内森：现实地说，是整个 AI 产业。
丽莎：确实，正是如此。所以，也许不只是要同情他们那种为自己榨取资本主义的做法；更重要的是：如果他们 IPO 做得不好，实际上对别人也不好。所以，我是希望他们都做得好。另一方面，中国的开源模型对创业生态是巨大的好处。我们到处都能看到。我记得像 Decagon 和 Harvey 这种做大量微调的公司——现在有大量创业公司在做各种程度的后训练即服务，想把它产品化，而它确实行得通：用 Kimi K3、或者你喜欢的某个 GLM 开放模型，你就能走到帕累托前沿。所以，在这两件事之间权衡——你会怎么看接下来几年谁会赢？然后再把它和你为什么要做开放这件事连起来。
19:24 开源与闭源，在不同的指数上 — Open and closed on different timescales
内森：所以我认为开源与闭源模型处在斜率不同的指数上。闭源实验室高度一体化：他们的推理效率高，准备好时就能把模型规模化地服务出去，因为他们有这些资源；他们还能做规划；而且他们最先到达那些价值非常高的市场。我们在编码上看到了这一点——这就是这一年的故事：收入从零一路到一千亿，而且大概率还会涨。但开放模型实验室这边，一部分原因是「快速跟随者」这个位置本身带来的经济问题：你没有这条信息流，也没有这条收入流。在开放模型这一侧，你有做模型的，然后有做推理的公司，然后有做后训练的公司；而那些客户传来的「模型需要会做什么」的信息，很难轻易回流给做模型的人。他们也没有规模效应去服务那么多用户、把推理服务得那么高效、在推理上拿到那么高的毛利——所以这件事会慢得多。但就「哪些东西能被商品化」而言，看起来公司真的很想拥有私有数据。有很多东西他们就是不能发到 API 上，我们可以聊零数据保留或者不保留这些；但这类事情要花很久才能弄清楚：一家公司有没有内部专长，或者能不能建起一个真的和收入对得上的内部评测，然后弄清楚怎么微调；或者他们去找 Thinking Machines、去找 Prime Intellect，说「只要我们能弄出一个解决这个的微调模型，我们就能规模化赚钱」——他们确实有这些客户，但卷进来的公司多得多，所以时间长得多。可在这个过程的终点，他们拿到的是真所有权：模型权重，没有条款限制，能跑在自己的硬件上，而且他们算清了这笔投资能回本。所以这就是为什么我认为开放模型经济要慢得多地建起来，也为什么我不太担心它「泡沫化」——它可能会随着人们弄清楚「完成任务最便宜的模型是什么、你怎么在毛利上竞争」而吃掉那部分快速起飞的市场。
丽莎：嗯。
内森：而且我真的不知道。我真的不知道会发生什么。我觉得——
丽莎：对。
内森：现在判断还太早。
25:00 前沿的进步其实是数据 — Frontier progress is really about data
丽莎：是这样，太难了。对，这件事一直是我脑子里最靠前的：有些东西，把通用推理做成一个通用模型去放大，它就是会打败任何专用模型——数学里我们显然看得到例子，那大概是你能看到的最纯粹的领域。但比如说机器人，比如 Astra——不管那个信号有几分真——听起来他们并没有真的认真去冲机器人这一块。
内森：哦，我觉得他们做了。我觉得这是六到八个月前的一个周期：他们开始招人、在机器人上买很多数据。
丽莎：他们做了。
内森：然后六个月后模型就神奇地很擅长这件事了。但这就是我觉得……、
丽莎：但我听到的另一个更反过来的说法是：它其实是从 computer use 里长出来的——因为 computer use 有某种空间推理，再走到能做出好看的 Blender 演示，是这个能力的另一个延伸。所以，我们可以相信其中某个版本；但无论如何，如果它真的很专用，能力增益来自「在一个特定方向上做得更好」。可在数学里，我甚至不确定这是不是来自「专门做数学」。我觉得那里的整个论点就是：我们把推理放大吧——结果它在自然语言上也变好了。它比任何专用模型在数学上都更好。我的意思是，Anthropic 根本没想擅长数学。OpenAI 当然——我想他们招了一堆数学家，但他们也不是想用某种专用的、Lean 数据集去把它做得更好。或者至少不是那样。抱歉，总之，这些都是支持「很难和前沿模型竞争」这个观点的一部分：因为它们最终会往上走那么多，你在各个类别里都会变得足够好。话虽如此，我觉得还有一股很竞争性的反向力量，就是数据——你看到的那些已经足够好的开源模型允许微调，就像你说的，那些非常具体的基准和数据集在缓慢地渗透扩散，而它们原本只存在于那些被应用的公司的内部。它就是够用了，而且我们开始看到人们采纳它。也许在最「纯粹」的那个格局里，你会以为前沿模型最好——我记得 Cursor 今年夏天发过一篇东西，大意是：「我们有一个长程任务，重写 SQLite，结果发现用两套前沿模型——一个当规划者、一个当执行者——并不更好，或者说是同等水平，但成本高得多；还不如用 Composer，也许配 Opus 或 Fastra 之类当规划者。」我觉得这其实是很棒的证据：开源微调已经很好、或者足够好，而且在智力密集的任务上也已经追上了。我说了这么长，是想问：什么样的证据对你最有说服力——是支持「前沿赢」的版本，还是支持「开源追平」的版本？
内森：我非常主张一个观点：在很多不能完全验证的领域里，前沿的进步来自买高质量的数据，以及给模型一个可以攀爬的世界。我觉得有两类东西。一类是数学和代码——而我们还不知道编码这个市场会有多大。另一类是其他一切：知识工作、生物、医疗、法律。这些都不是那么好验证的，而我觉得它更接近那个故事：OpenAI 买了大量机器人数据。他们大概会告诉我们这是泛化的魔法、啪一下就来了；人们很喜欢「啪一下泛化」这种说法。但现实地说，这里面 A 有一些、B 有一些，而很大一部分就是数据。当我和前沿实验室的人聊，有些人做着很棒的工作；有些人贡献的方式就是做一件非常窄的事——你造一个数据集，弄清楚在那个领域里模型该有什么行为，弄清楚怎么造出能帮你拿到那个行为的数据；你拿到那个行为，再弄清楚你需要买什么数据。我认为我们会在不同行业里经历好几年的这种事，而把所有数据买下来非常烧钱——但它不是那种「啪一下 RSI 就发生了」的魔法。我倒确实在数学、代码和一些分布式机器学习工程里看到：它是可验证的。你知道你的成本是多少，而 AI 模型会以一种非常神奇的速度把成本压下来，那会带来很多过剩的好处，我们能更快做研究。我对一件事很感兴趣：我认为模型的效率会在未来几年里成倍地下降。我们看到 OpenAI 有过大幅降价——那如果 GPT-Sol 或者 Astra 这些更大的模型在未来三年里每八个月降价一半，会意味着什么？你开始算这个数学，四年后它就是你今天百分之几的成本；那他们是能因为杰文斯悖论拿到更高毛利，还是收入会下滑，因为市场被填满了？这些动力学都很怪。但归根到底，AI 的进步是关于数据，以及关于写更好的软件来服务你的模型——而那是两个非常不同的世界。
丽莎：是的。至少我肯定同意你：从外面看，确实有很多数据与 RL 环境公司做得非常好，既卖给头部那两家前沿实验室，也越来越卖给更长的长尾实验室。所以按你说的，我认为很大一部分能力增益确实来自把这件事规模化，而这并不是一件容易的事。也许我很好奇你的看法的是：手工收集的数据与搭建的环境，和那些在仿真里做的，两者之间——看起来有不同版本、还有不同的定价。
内森：都有好有坏。而且我觉得有很多讨论——我们聊过蒸馏，但另一面是：一家中国公司六个月后买下他们用的那个 RL 环境，然后——
内森：哦，是 Anthropic 或者 OpenAI 现在买了，于是就有了溢价。
内森：好数据就会这样。
丽莎：对。
内森：但人们在买的数据是相当有瑕疵的。我会说那种方式是「你大批量地买，然后弄清楚什么有用」，而它的命中率不是百分之百。
丽莎：对。
内森：而且我个人认为，这场 RL 环境爆炸——赚钱的机会那么多——让很多人抄了近路，而这就可能诱发奖励作弊这类东西。模型太聪明了：你把它放进一个世界，它知道「我的任务是解这个」，可你并没有给它…比如你有一个测试文件，而那个测试文件其实是空的，而不是它要走的那个迷宫。模型就想：好吧，那我还是要拿更高的分。我认为这类行为有很大一部分就是这条供应链的下游产物。
丽莎：嗯。
内森：我认为它会被修好。但有意思的是：实验室那边要消除奖励作弊的需求很强，做环境的研究者花了那么多时间在上面；而数据公司那边，比如「买我们的数据吧」，它们在模型行为上花的时间相对更少，更多花在造世界和收入上。这两方总得走到一起，才能真的造出更高质量的数据。
丽莎：是的。很多实验室其实正在把这件事收回内部，一部分原因就是不想让
内森：对。
丽莎：——你知道，数据泄露。不只是字面意义上的，也是比喻意义上的：他们做的事会漏出信号。尽管如此，我认为它们采购的量增长得非常多。你觉得这大概是最强的杠杆之一吗？你能不能界定它会增加多少？你预期它因为支出而增加吗？还是说有别的——因为比如说，如果它在仿真里能做得好，那也许反而是「会被实验室吸收」的一个论点，尤其是——
内森：所有公司都在做混合：所有公司都在卖合成数据，用语言模型去改造或搭建那个世界、或者生成它的各种变体。而如果有一个在引导这个过程，那它仍然是合成数据。所以不会有几个人真的坐在那里用 Blender 去做一个小世界、让你的模型在里面行动——我认为所有公司都比那快得多。
丽莎：对。
内森：他们买它们，是因为模型从中变好了。
丽莎：对。
内森：我自己还有点否认：我想，这些数字太疯了。几十亿美元花在环境上的研究预算。我想，他们之所以这么做，只是因为它确实在帮到模型，他们看得见信号。而我的总体观察是：数据行业在提升质量和 opsec 上还有很多很容易摘的果子。比如你去看细节，能发现一些怪东西：数据公司在海外用外包，那些外包人员经过中间商，根本不知道自己卖出去的是什么，只是把它上传到 GitHub。这条产业链里，你戳一戳就能找到很多奇怪的毛边。
丽莎：对。
内森：而且它非常早期。所以一方面，数字太大、质量太差；另一方面，实验室进步很快，也知道怎么把它接进来。我认为这需要一个几年的过渡，才能真的把赢家挑出来、走向更高质量和更高的回报。当你有了这些更好的系统，它只需要更少的资源。然后实验室会继续和他们合作，因为他们能拿到更多训练信号，也能少做一些内部过滤。我觉得这要花好几年。
31:29 Trillium 要建什么 — What Trillium will build
丽莎：那你会怎么想——在采购决策里用环境这件事，作为你要办的这个非营利的一部分？
内森：我想我们的大部分工作会是为那些非常高杠杆的任务做开源环境。比如我指导过一个华盛顿大学和 AI2 的学生 Hamish Ivison 做的 TMax 这项工作：它是给终端任务的，这类任务在 Terminal Bench 上超级火，不知道现在到第几个版本了。它是全合成数据：你用 prompt 让前沿模型生成一类问题，用几个不同的 prompt 制造多样性；然后你利用模型的 rollout 和其他办法去找 bug，再把有 bug 的剔掉。这个过程不是魔法——你把每一条数据都读一遍，你的数据就会变好——你可以做到这一点。只是没有多少机构愿意投入所需的成本，几千到几万美元，把这些环境做对、然后发出来，因为赚钱的动力太高了。
内森：高。
内森：我还跟作者们开玩笑：我说「你们大概能把这批数据卖一百万美元，然后再发论文。」他们说：「不，我们……我们在乎的是对的事。」只不过——
丽莎：天啊，是啊。
内森：这些开放资源，是那么多研究的乐趣地基
丽莎：对。
内森：所以如果你放出一些 RL 环境加一些 RL rollout，人们就能在上面做研究，比如研究「有效性意识」之类的东西——你有模型的生成结果，人们可以去找不同的行为；如果你在上面做过 RL，他们就能看到它随时间怎么变。这些就是博士生花一年时间盯着看、然后产出新知识的那种基础设施单元。而计算机科学研究的收益，大约十年后由产业收割。所以我只是觉得，这就是为什么应该有更多人支持开放：如果你要在这个行业里工作十年，受益的会是你的同类。
丽莎：我们不能把它全耗光。
内森：但追逐短期回报的机会太高了。用五个月、和朋友们一起创办一家公司、拿到一亿美元那种九位数回报的机会——这些人可能本来做过更多开源工作，也可能是从博士项目里出来的。它就是在把人往外拉。这也是为什么我们给实验室取名叫 Trillium：延龄草是一种春天里的短生植物，它在树冠长出叶子之前开花。冬天树上没有叶子，这些延龄草先开出来，它们对把养分散进整个春夏的生长循环里至关重要。我之所以觉得需要专门建一个机构来做这件事，是因为——就像自然里的延龄草扩张和生长都很慢一样——这个开放生态需要时间和专门的资源才能追上来。AI 产业现在做对了太多事，只是我们需要多一点生命，把这些散开、让新人能进来。注意力太多了，去做研究、去做教育。
丽莎：对。
内森：然后随着它规模化、影响变大，你手上就有这些开放的东西，成为那些最重要问题的研究标准：你怎么理解沙盒？你怎么定义「失去控制」？你怎么看到这件事在一个「花一周、用一千张或十万张 GPU」的 RL 场景里怎么变？就让这些地方存在，让人们有更多信任。我认为它给所有人的回报都很大，而且是给那些比我更能从中获利的人——只是很难让人迈出那一步。而我自己从误打误撞进入这个领域里得到太多回报，现在拿到的更多，还能做像今天这样好玩的事。现在是最好的工作，因为我试着为更多人创造空间，让他们长出自己的独立想法、并把这种基础设施建起来。
丽莎：是的。也许有一种很天真的方式让它自己延续下去：正因为它是开源的，人们就可以……你可能会得到一种更分散的贡献，来自那些只是——他们不是只想着把东西卖给实验室，而是因为「嘿，它就在那儿」，他们可以分享自己的工作，于是你真的得到了非常高水准的贡献者。我觉得那大概是一个天真的希望：它会这样运转。
内森：是的，但这对 AI 智能体来说是一个新谜题：人们会直接朝你扔东西过来。我有一些做研究论文的随机研究仓库，现在有人会开最离谱的 GitHub issue。
丽莎：你指什么？
内森：就是那种伪造的研究结果。他们开一个 issue 说——
丽莎：天哪。
内森：——说「我在你的数据集里发现了这个东西」。我就想，你要是看了论文，我们在第二句话就写了这件事。就是大量的语言模型输出。对开放社区来说，这是一个新东西要去——
丽莎：哎。
内森：——去处理。
丽莎：对。
内森：但这是一个可解决的问题。外面确实有人想为这些东西做贡献，因为——
丽莎：是的，不只是往另一个维度上追热度，而是「嘿，它就在那儿」。我只是希望——因为它已经被发表、是开放的、可获得的——你真的能得到博士生、其他研究者，或者那种「这是我白天的工作，但也许我也能」的人。是的，他们还是能贡献。希望是来自前沿实验室的人。
内森：我就见过这样的人。有个来自东欧的人帮我把那本书、就摆在我面前的这一本，改进了代码。他就是为对的事在做，我们还聊过。确实有人在这么做。我觉得很多人只是没有时间、或者没有那种稳定条件去投入它需要的长时间——因为当你进入一个新领域时，你什么都不懂，你得花几周时间读、什么都不懂，然后你发一封邮件、没人回。你要花好几周才能认识人、才能问出一个好问题。
丽莎：对。
内森：而现在有了语言模型，多数人只按一下按钮，然后说「哦，有意思，我读了这个，我把它发出去」。就是这样——
丽莎：哦，是的。
内森：那种「沉在里面」是大家现在做得更少的事，而它恰恰是进入 AI 的关键：你就得专注在上面，你得亲手写一些代码，你得做上好几个月，然后还得等 6 到 18 个月才会被注意到。它就是要花那么久。而所有那些 AI 智能体，我觉得就是把这件东西搅碎了，让人更难。
丽莎：数学家们也在抱怨同一件事。
内森：就是这样。就像——
丽莎：所以现在对博士生来说是一段难熬的日子，但学术界还是有人在做出很好的工作，只是很难。
38:05 拆解 RSI — Demystifying RSI
丽莎：对，我同意你。我觉得它是可解决的：智能体在把某个版本的问题延续下去的同时，它也能帮着解决、帮着识别、帮着做质量过滤。好，所以环境你们会放出开源版本，帮它催化出更多人来做贡献、也把这件事显出来。我觉得这是真的很——尤其是考虑到比起从实验室拿快钱，放出这些东西的动力其实很小。另一个我在你的公告文章里读到的领域是 RSI，这个我想——我们可以先聊它到底「递归」在哪里、它有多可怕，或者我们会不会有起飞。我觉得你在这方面有一个非常接地气的看法。另一件我想聊的是，RSI 也许和它被炒得多热有关，也是我们害怕前沿实验室会拉开距离的一个原因。事实上，也不止一次有人说，他们确信自己作为研究者，工作会被自动化掉。
内森：是的。是的。就像过去三年里，我有些最好的朋友，我跟他们说：「你是全世界做这件事最好的人之一。」然后他们去上班，回来说：「内森，我很挣扎。我该怎么办？」
丽莎：就像你说的，他们做的很多工作是可验证的。对吧？但正因为如此，其实还有相当多别的、非验证性的、或者更难的分布外任务，比如对齐这类东西。所以其实——我听到的一个论证是：因为 RSI 在模型能力上的进展、和在更偏分布外/创意工作的对齐上的进展，两者差得那么多，那反而让人松一口气——也许真正的危险是有的，等等等等。总之，正因为这样，我特别想听你说：我觉得很重要的一点是，我们要有一条开源的战线，把 RSI 是怎么做的、做到什么程度展示出来，这样我们大概就能理解：如果实验室内部有一个更好的模型，他们真的拉开距离的概率有多大？更好地理解、更好地校准。所以，是的，我很想听你多讲讲这个。
内森：好。我认为我们不会是唯一做这件事的人。但基本上，RSI 有太多神秘感了。他们说「我们在所有事情上都用模型」。而我们作为一家开放实验室、一家非营利，能做的事——我觉得其他公司像 Eleuther、Hugging Face，或者 Open Athena（那是 Marin 和斯坦福那边）——它们的宣传语会是「我们在做这件事」。而做法是：我们可以分享我们在用什么工具。我们要建一套开源的栈，用于 SFT、用于中训练。我们会用 SkyRL、Miles 这些东西。我们有我们的任务、我们的配置，我们知道在什么类型的机器上跑，我们能用 Claude 和 GPT 这些模型；我们就说——我们能存下我们做过的轨迹，我们能告诉你我们的任务是什么，或者你用 Linear 之类的流行工具也行；它会说我们的任务是什么、为什么选它们、模型在上面行不行。你就这样在一个实验室里做一年，然后说「这是我们做的」，接着每六个月回去查一次：「变了吗？」就是要建起这整条栈、不用过那些分类器，比如直接说清任务是什么、或者模糊地说。能做到分享「自动化正在发生什么」的人都该这么做，而且我们的任务分布是不一样的，但我认为研究是相似的。就像我在 AI2 做过的 AI 研究、和我们在 Trillium 会做的，跟学术界某些分支和实验室里做的事，其实差别没那么大。你资源更多、你把它放大。而当所有人都在谈这件事的时候，把「这是内森让他的模型做的事、这是它卡住的地方」展示给人们看，对世界来说是好事，我觉得这会帮到很多真正的政策制定者——他们会说：哦，好吧。
丽莎：就像「那是它卡住的地方」，就像它在代码里放进来的那个 bug。这些 bug 和草图会随时间减少，但我就是觉得，模型在这些基础的东西上还有那种参差不齐；而另一些东西会起飞。比如我之前说的效率：我确实认为模型会非常擅长降低服务成本。这些公司有几十亿美元押在上面，而模型擅长这件事。他们会让服务更高效、调整架构，从中赚很多钱。但它不一定是「你怎么解决知识工作」——你不会说「Claude，让你自己去做出更好的 PowerPoint」。那到底是什么？
丽莎：那要花一阵子。
内森：对，对。不，我很喜欢这个「让我们就去神秘化」的明确目标，因为我觉得 RSI 周围话语那么激烈的一大原因是——它听起来……
丽莎：AI 非营利可以做很多这类事。学术界很难做到：一位教授只有 15% 的时间，还要拿出 40% 让研究生去记录他们做了什么。所以这里面有一种很好的政策与公共服务：这是我们的任务，人们可以用这些数据做评测之类。就是要建那些含有稀缺信息的东西，这样当人们投入更多高专注度的工作时，它对各种你无法预见的用途就更有价值。
丽莎：说实话这也很及时，因为——不是一个人，是我认识的好几个实验室的朋友都说「我要被自动化掉了」，所以按你说的，我作为一个社会里的人，肯定会在一年内被自动化。而那大概意味着，会有更少的人真正接触到那个组织架构的那个部分里正在发生什么，所以——
内森：有一个相关的学术项目——一个开放 RSI 的东西，是几家学术机构做的，我没有参与。他们上周刚上线。他们给我发了几封邮件。我就想，Open RSI 是个东西。他们也在试着做这件事。它不必只是
丽莎：一个
内森：一个组织
丽莎：还有很多
内森：应该有不同的方法来做这件事，因为你需要不同的视角和不同的结果。
丽莎：对，这就是开放的全部意义。我还听到另一种说法，更像前沿实验室的八卦：实验室里实际用的方法并不是——并不是它们不为人知，而是比例：哪个配比才是成功的。一部分原因是他们有钱可以规模化地实验。我觉得知道这一点是让人安心的：好吧，不是那里有什么大秘密。所以人们其实知道那些技术。但另一方面，资本仍然是那道真正的壁垒，因为你很难知道哪个配方有效。
44:32 开源能不能做预训练？ — Can open source pre-train?
内森：这就是我不做预训练的原因。我乐得自由。我可以用任何基座模型。我现在能从竞争中受益。
丽莎：对。你觉得开源预训练还有机会吗？我知道资本需求要大上好几个数量级，所以那才是困难的地方。但也许它的价值是什么，然后我们可以聊聊哪些商业策略是成立的。
内森：预训练这门科学，工具其实是相当可获得的。你有一个「预训练阶梯」，那是一个决策工具，用来测试你的想法能不能规模化。而预训练数据并不像环境那条线一样在增长——本质上，第一近似下你就是在互联网上训练。里面有一些细节和秘密的东西，但它变化不大。变的是最先进的架构，还有 GPU。所以做一个扎实的预训练模型，并没有贵到天文数字。你不必花十亿美元才能得到一个非常好的基座模型。你花得越多，得到的越好；但人们一直在取得进展，我不断被一家新实验室从零做起来这件事惊到，因为他们做得到。其中一些还是建立在开源工具上的。比如你可以从 Megatron 出发。很多新创业公司会想「我们该训什么？」——他们用开源工具训，把它 fork 下来，然后再也不放回去。所有那些——甚至是很有名的开放模型实验室——都是这么做的：他们把开源代码拿去，做成自己的东西，很多不再推回上游。所以我一直对这件事感到惊讶。所以我不赌新进入者会失败——因为并不是你需要一百亿美元才能有一个相关的模型。难的是：做出一个「好到有人愿意用」的模型。
丽莎：嗯。
内森：并且还要有一个故事：只要你发出来，你就能做下一轮融资。你要越过的那道锁是「我们的第一个模型必须落地」。你整个公司都建立在「模型最好」上。而你还没进及格线，你就不会发布。你是在倒计时。我想到的是 Thinking Machines 把 Inkling 发出来的那一次——他们非常透明，说「这不是我们最好的模型，但我们为它骄傲，它有一些很酷的东西」。
丽莎：对。
内森：而且他们现在已经发布了第二个模型，开始跑起来了，还有 Tinker 这些东西。那对他们非常好。他们已经起飞了。而且我觉得那大概并不是他们原本在做的事——他们在造模型，但开放模型并不是他们最初的计划，然后他们走到了那里。还有很多传言说 Meta 会再次发布一个新的开放权重模型。那会来的。外面还有很多买不起模型的公司。
丽莎：对，对。我知道，我肯定很高兴 Thinking Machines——这对他们的商业模式太说得通了，因为他们做后训练。而 Meta 那边，我想你也提到过这一点，在你以前的文章里。对他们来说这就是一个太好的策略。我觉得他们每次这么做的时候也很明显：嘿，它和我的收入流是互补的。那为什么不做？
内森：关于这件事最好的那篇博客文章——Llama 3 出来的时候，他写的「为什么开放是前进之路」是最好的一篇。这个人后来有点分心了。看起来他正在回到光里来。
丽莎：对，对。是的，是的。所以我希望他们继续有动力这么做。回到预训练这件事：我觉得有很大的帮助，因为已经有这么好的开源模型，也许你还是能从中自举。我一直收到互相矛盾的信号——预训练到底是不是饱和了、或者被理解透了。也许按你说的，有很多众所周知的技术是管用的，难的只是你真的要有那 20,000、30,000 张卡去跑。
内森：他们在不停地转预训练这个曲柄，而在超长上下文生成出现之后，预训练又被调整过一轮。所以如果你比如能让一种稀疏注意力架构跑通，然后你的 10 万 token 生成就快了 40%，那回报就大得多。
丽莎：嗯。
内森：所以我认为整条栈在共同演化：他们有他们的预训练栈，他们意识到推理缩放重要得多；但预训练的基本面也在持续改进——只要架构好一点点，就有投资回报。然后它就模糊到后训练里去了：有中训练，你在那里启动推理行为，从旧模型里把它们取过来，做 RL 去播种这些行为。这个循环……
丽莎：对。
内森：……比预训练复杂得多。我觉得如果你没有对的人，要把这个做起来比预训练难得多。比如我觉得，做一次受控的「我们就开始预训练我们的模型」在我看来比「我不太懂语言模型，我要把整套后训练搞明白」要可接近得多——后者就是一片西部荒野。
丽莎：对。
内森：这也是为什么，当我离开 AI2 的时候，我觉得我们的后训练老实说落后了，因为我们的循环周期不够快，而我们要进入这些智能体式的东西。而这些仍然是目前领先的开源后训练配方之一。那正是我想修的东西：
丽莎：对，对。
内森：在开放这一侧，做出很大的复利式进步并不需要那么多资本，因为门槛太低了。它不是——差得还很远。
49:32 复合体与智能体群 — Harnesses and agent swarms
丽莎：对，对。也许和整个后训练这一侧相关——把闭源和开源拉开的是：这些智能体、以及闭源实验室里用的复合体非常不一样，它们就是被专门训练、被后训练成对自己的模型、对自己的那些复合体特别好。这就更增加了那种神秘感，让事情变得很难。你怎么看？一是你同意吗？二是你打算怎么具体处理它？比如说那些「拉起几千个、几万个智能体」这类例子——那是一种和人们平时接触到的很不一样的工作流。
内森：我觉得对开源来说它会没事。因为我几年前以为闭源实验室会变成苹果那种公司——一个一体化的公司，模型是为复合体设计的，两者绑在一起，带来规模效率。但结果是：有太多人为了自己要做的事用着不同的复合体，于是模型公司被压着必须让自己的模型能在各种复合体里都跑起来。我本来以为这是开放模型的弱点：它们得被设计成能在各种复合体上训练。但结果它变得相当均衡——或者说到了一个均衡点，大家都得在一定程度上做到这件事。而我们现在在智能体群上看到的，是 OpenAI 和 Anthropic 会更早到。它们会知道怎么设计自己的模型，也会知道怎么设计那个——我们该叫它什么？我们想怎么称呼一个给群用的复合体？我不知道。就像——
内森：我不知道。我不知道，但迟早会有一个词。它不是复合体，它是一个「协调系统」。但最终别人也会想用它们，然后我觉得它会变成这样的周期：前沿实验室把它推出来，而到目前为止，它们做「第一个」拿到了巨大的回报。但 Navier-Stokes 这些东西的回报到底是什么？我们其实不知道。它们是在「假设会有高回报」的前提下推前沿，假设那一点边际智能会带来不成比例的回报。我们不知道这是不是总成立。但我大概预期会有这样的周期：一旦你知道了「在一个复合体里控制一万个智能体」的形状是什么样，开放模型的那些公司就会说：「哦，这个我们也能做。」
丽莎：嗯。
内森：但那不是说蒂米会先做这件事。一是他们没有那个算力。
丽莎：对。
内森：那是天文数字的算力。但这些东西会走周期，而且视频、芯片会变得快得多，会有更多算力被建出来。
丽莎：所以你很确信那里没有太多藏起来的东西——你大概能猜到他们在做什么。而等到它变得相关的时候，让开放模型也去在类似的元复合体上做后训练，随便我们给它起什么名字。
内森：我觉得这些实验室在信息上的安全等级，并没有它们自己以为的那么高。硅谷以「一个点子会传开」出名——怎么说来着，一杯啤酒？大家下班都在聊。
丽莎：除了——这也正是为什么 SSI
丽莎：会那么厉害。别人根本不知道那边在发生什么。
内森：那是唯一的一条路。但他们都是科学家：真的做出了突破，他们就想告诉朋友。他们也许能压住几个月，但我觉得，你要的那种锁定程度太高了，知识还是会扩散。要保密很难。他们真正能赢的地方是：往自己的基础设施里放进更多推理，这样他们就能以更低的价格服务、拿到更高的毛利，并且把这件事持续更久。所以我很确信，前沿实验室能提供「每瓦、每次评测得分」意义上最便宜的智能。
丽莎：嗯。
内森：他们能走到需求最高的地方，并且拿到最便宜的那些模型。那对他们会创造收入、是一桩好生意。问题在于：他们没法什么都做。而那正是经济里其余部分填进去的地方。如果只有编码是赚钱的，那——
丽莎：绝对不是。
内森：那对前沿模型就是好情形，因为他们会有最多的——他们有一体化。
丽莎：会做得非常好，但——
内森：如果整个知识工作的经济、以及万物市场都成立，那对他们可能就不那么好了，因为他们能同时把所有事都做掉吗？
丽莎：他们不需要。我觉得会有很多赢家。
内森：对。
丽莎：对。我的意思就是——这也是我们同时投前沿模型、也投创业公司的原因。不是因为我们想对冲，而是因为我确实认为，按你的观点，那些边缘上更难的、需要非常专门数据的任务，处在「通向 AGI」的飞溅区之外，这让很多很多赢家成为可能。
内森：对。
丽莎：我确实喜欢你说的 RSI 那一点，我们聊过一点：实际地说，成本和资源消耗是指数级的，因此前沿实验室能拉开多少，存在一个非常明显的上限。如果这样概括你的观点不算太简化的话。你还想补充什么吗？因为我确实觉得，现在话语里的恐惧太多了——前沿到底藏了多少、又在怎样拉开。
内森：我认为花在推理上的钱太多了，而短期内我们正在学会怎么把推理「圈进」性能增益里。这是我们刚刚经历的事。我们现在看到的是：人们花了那么多钱，前沿实验室的员工在推理上花的钱相对于改进是指数级的，而我们在学着怎么做这件事，会有很多收益。但我不认为它必然会是那种「模型自己造自己」的快速起飞——那是人类的瓶颈。所有的缩放律都是算力指数增长、性能线性增长。我就是不太——我必须对此下注。我确实会说：我们有 Navier-Stokes，而我认为数学是一个极其适合——也许是最适合——这种形状的智能的科学领域。智能可以有很多种形态。这不是说：如果一个 AI 模型真的发现了某种不同于 Transformer 的东西、给出非常不同的性质、解锁一种新的智能，那是不值得更新判断、不值得说「好吧，那确实不一样」的。但在那之前，我对自己手上的证据挺满意：
内森：这些公司会做得很好。他们花的钱在指数增长，以维持这个非凡的进步速度。有些 Claude 的系统卡上就是这么写的：要让这件事变成快速起飞，大概需要再多十倍的进步。而眼下，它们是在帮我们维持进步的速度。我觉得这是一个好的均衡。但我确实认为，实验室里有人是这么说的。科学就是这样，很难跳过去。这没关系，只是我们不知道接下来确切会怎样。
丽莎：是啊，是啊。不，我觉得那是让人安心的——我们知道这里的输入和杠杆是什么：有一个非常成功的自回归范式，我们一直在优化它，而它要求的正是一定量的、显然有上限的指数级资源；因此开源有希望保持强健。它只是不会落后。
内森：在准备基础设施上有大量得惊人的工作要做。就是说，AI 能力曲线本身不太让我担心。但在跨公共部门的网络安全这些事情上，准备几乎不存在——在「它会来」这个假设下，需要的准备比现在多得多。而这，比「RSI 要来了、会解锁新的风险」更让我担心。有些风险是已经在这里、并且会继续扩散的。我说过多少次：闭源到了，开源随后也到。我们正在很多事上经历这个过程，而这些事会带来一些问题。只是让社会准备好，非常难。
丽莎：对。
内森：而我的看法是：我们需要更多的眼睛，更多的科学，好让社会觉得自己是被知情的。
丽莎：对。
内森：但也有别的合理看法。而且我认为，不害怕快速起飞，不等于不担心风险。那你也不该——
丽莎：不，我觉得那完全——也许我会把一些从实验室出来的人介绍给你，他们恰恰不是因为这个原因离开的。好，太谢谢你了，内森。这次聊得很开心，我也很期待看 Trillium 现在终于启动之后会做出什么。
内森：谢谢，非常感谢你请我来。
References
- 1The a16z Show E1228 官方单集页（Can Open Models Keep Up With the AI Frontier?）
a16z.simplecast.com
- 2a16z 官方作者页 · Lisha Li
a16z.com
- 3本期官方视频完整英文字幕（12,551 词，逐句译文底稿）
youtube.com
- 4
- 5
- 6Trillium Labs 官方站（使命、名字来历、领导层与顾问）
trilliumlabs.org
- 7
- 8
Comments