a16z Show 在 2026 年 8 月 6 日发布的新一期节目，邀请 Inferact 联合创始人兼 CEO Simon Mo 讨论 vLLM、开放权重模型和推理基础设施。节目最值得记住的判断是：开源 AI 的竞争已经从「谁能训练出模型」，推进到「谁能把模型稳定地变成一条可用的路」。12
节目发布时间为 2026 年 8 月 6 日 10:00（UTC），按频道显示时区为 2026 年 8 月 6 日 18:00。Apple 记录的节目时长约 46 分 50 秒。本期没有可用的官方逐字稿，以下「逐句全文翻译」基于完整原始音频的完整 ASR；其中有少量自动听写断裂和重复片段，已在对应位置标明，不把无法辨认的内容写成确定事实。
这期节目到底在说什么
过去，开源 AI 常被理解成模型权重、代码仓库和研究论文。
Simon Mo 讲的却是一条更硬的链路：模型要被下载、部署、批量推理、接入产品，最后变成开发者能调用的服务，中间需要一整层基础设施。
vLLM 正在扮演这层基础设施的一部分。
它不是一个更好看的模型页面，而是把 GPU 变成稳定智能端点的推理引擎。
AI 科技评论注意到，节目把开源推理放到了数据库、操作系统和关键软件的位置上讨论。
这会改变行业看模型的方式：模型发布不再是终点，能否在不同芯片、云和应用里快速运行，才决定它有没有真正进入生产环境。
嘉宾是谁
Simon Mo 是 Inferact 联合创始人兼 CEO，也是 vLLM 的共同创作者和核心维护者之一。节目介绍他长期参与开源推理基础设施建设；a16z 的另一篇 Inferact 官方介绍也把他放在「让现代 AI 真正运行起来」的基础设施语境里。3
本期主持和对谈者是 Elena Burger 与 Matt Bornstein。a16z 官方资料将 Matt Bornstein 列为关注 AI 和数据系统的普通合伙人；本集 Apple 节目说明也列出了两人的主持身份。3
按节目顺序整理
01｜服务 LLM，不是把经典 ML 换个 GPU
Simon 先从一个容易被低估的技术差异讲起：给大模型做服务，和给传统机器学习模型做服务，不是同一件事。
传统模型通常有相对稳定的输入与输出分布。
LLM 的输入长度、输出长度和请求模式变化很大，输出还具有非确定性。
推理引擎必须在运行时处理批处理、请求调度、KV cache、显存分配和不同长度的 token 流。
所以，推理不是「把模型文件放进 GPU」这么简单。
它更像是把一台昂贵的机器改造成一条会接收不同订单、不断重排队列、还必须维持服务等级的生产线。
02｜应用公司为什么不想只做 API 包装
早期应用创业公司可以把 OpenAI 或其他模型 API 接进产品，先验证需求。
但当产品开始承担真实工作，单纯包装 API 就不够了。
Cursor 需要控制代码任务的延迟和上下文。
Decagon 这类客服 agent 需要控制成本、响应速度和工具调用。
Harvey 等专业应用还要处理数据隔离、合规和不同客户的部署边界。
这类公司逐渐需要中训练、后训练、推理和部署的控制权。
开放模型的价值，不是让每家公司都从零训练一个前沿模型，而是让应用公司能掌握足够多的中间层。
03｜vLLM 更像一条模型高速公路
Simon 对 vLLM 的描述很直接：它把 GPU 变成可以运行智能的端点。
项目已经支持超过 1,000 种模型架构，并努力做到模型发布后的「day zero」支持：新模型出现时，开发者不必等待很久才能把它接进生产环境。
它还要适配 NVIDIA、AMD、Google、Amazon、Intel 等不同硬件和云环境。
硬件厂商甚至会把 vLLM 当作测试和比较自己芯片的基准之一。
这也是为什么 Simon 把推理引擎和数据库、操作系统、编译器放在相近的位置上谈。
模型决定了系统能做什么，推理层决定了它能不能被稳定地使用。
04｜模型发布是一场多人共同设计
一个模型真正发布，不只是模型实验室按下上传键。
模型实验室要准备权重和推理代码。
硬件厂商要让芯片支持新算子。
vLLM 等推理引擎要尽快适配。
Hugging Face 要承接模型分发。
公有云、推理云和 API 服务商还要把它变成用户能购买的计算资源。
Simon 把这个过程看成一种多方共同设计。
节目提到 Mistral 早期发布模型时的「torrent」式经验，正说明开放模型的传播路径一直在逼迫基础设施协同。
模型发布只是新闻时刻，基础设施适配才是它能否活下来的时间表。
05｜为什么世界不能只剩专有 API
Simon 认为，全球 AI 不能只由少数公司提供封闭 API。
开放权重让开发者拥有模型文件，也拥有调整、微调、部署和审计的空间。
这既是工程问题，也是政治和经济问题。
当所有智能都只能通过少数 API 获取，开发者就无法决定数据留存、护栏策略、延迟和成本结构。
Simon 也参与过支持 NVIDIA、开放权重与美国 AI 领导力的公开倡议。
但他没有把「开放」自动等同于「安全」。
开放权重扩大了检查和改造的能力，也扩大了模型被滥用的范围。
讨论的关键不该是简单支持或反对，而是：谁拥有能力、谁能检查、谁能防守，以及谁承担后果。
06｜企业一开始要控制，后来开始算成本
企业采用自有或开放权重模型，最初的核心理由通常是控制。
控制延迟，保证 SLA。
控制数据留存，满足合规。
控制整个系统的日志、监控和故障排查。
语音 agent 是一个很直观的例子：如果每次响应都绕到外部 API，延迟和成本会直接影响通话体验。
但 Simon 说，最近成本本身变得越来越重要。
当请求量足够大，模型调用费不再是一个可以忽略的变量。
企业会比较自建、私有云、推理云和专有 API 的全生命周期成本。
这让开放权重模型从「控制工具」变成了「成本结构工具」。
07｜Kimi K3 的价值，不只在于更便宜
节目谈到 Kimi K3 时，Simon 的重点不是它在榜单上排第几。
开放权重模型可以把接近前沿的智能带到企业自己的基础设施里。
部署方还可以在速度、成本和质量之间做多档配置。
Simon 提到，vLLM 在合适的设置下可以把推理速度推到每秒约 400—500 个 token 的区间；具体表现仍取决于模型、硬件、批处理和上下文长度，不能把这个数字当成普遍保证。
企业也可以围绕自己的工作流微调模型，而不必把全部数据交给外部实验室。
这就是开放权重与 API 的差别：API 给你一个入口，权重给你一组可以重新安排的材料。
08｜许可证正在变得更复杂
Simon 回顾了早期 Apache 风格的开放许可。
那种许可强调任何人都可以使用、修改和分发。
现在，部分模型开始加入参数规模、使用人数、商业收入或服务方式等门槛。
Meta 的 Llama、MiniMax、Kimi 等模型都让许可证问题变得更复杂。
原因并不神秘：训练一个前沿模型需要大量资本，失败的训练也要付钱。
如果模型完全开放，训练者担心别人直接拿走成果，再用规模化服务把价值抽走。
Simon 用制药业作类比：药物研发也需要回收失败成本，但分子一旦制造出来，复制和分发的方式与模型不同。
模型的许可设计无法简单照搬软件或药品的旧规则。
09｜模型维护，比软件维护更像一条训练流水线
软件项目的维护通常围绕版本、bug 和兼容性展开。
模型的维护还包括预训练、监督微调、强化学习、数据配方和大量失败实验。
模型发布前，团队可能已经烧掉很多训练轮次。
发布后，社区又会把同一个模型带到边缘设备、大规模集群、语音 agent、编码 agent 和各种垂直任务里。
这些场景对模型的修改方向并不相同。
有人希望更快，有人希望更省显存，有人需要更长上下文，有人需要更严格的工具调用。
所以开放模型的维护，不只是给仓库修 bug，而是让模型在越来越多现实环境里继续可用。
10｜如果 GPU 便宜 99%，真正的开源前沿会回来吗
节目有一个很有启发性的思想实验：如果 GPU 成本下降 99%，前沿模型会不会重新回到真正开放的状态？
AlexNet 时代，研究者用两张 GPU 就能完成改变行业的实验。
今天的前沿模型训练需要大规模集群、长期电力和复杂的数据与工程系统。
两张 GPU 与现代前沿训练之间，不只是价格差，而是整个实验周期的差别。
如果算力成本真的大幅下降，更多研究者会有机会独立训练和测试模型。
在那之前，开源模型要依靠更聪明的算法、更多协作和更高效的推理，抵消部分规模差距。
11｜开放推理为什么常常先赢
Simon 认为，开放推理引擎有一个现实优势：它被更多人使用，也更容易暴露 bug。
不同团队会把它部署在不同硬件、不同 batch size、不同上下文和不同业务流量里。
这些真实环境会逼着项目积累大量战斗验证过的配置和修复。
很多推理云和 API 服务表面上提供不同产品，底层仍然会使用某种开放推理引擎。
这不代表所有开放项目都天然更好。
它只说明，推理层的规模、反馈速度和兼容性经验，本身就是竞争壁垒。
12｜vLLM 为什么会从研究项目走向公司
vLLM 的起点来自 Berkeley 的开放系统传统，也来自一个朴素问题：AI 怎样真正帮助人？
在 OpenRouter、Ollama 和 vLLM 这些项目出现时，很多今天的消费级 AI 场景还没有成熟。
但研究者已经开始解决模型如何被调用、部署和比较的问题。
当用户需求后来爆发，基础设施项目提前积累的接口、性能和兼容性经验就变得重要。
很多关键基础设施并不是在需求最热时才出现，而是在用户还没有说清楚需求时就开始生长。
13｜Hugging Face 事件，暴露了「控制权」的另一面
节目谈到 Hugging Face 与模型 agent 的安全事件，以及开发者在使用闭源模型时遇到的拒答。
Simon 提到，Inferact 的开发者在做 GPU kernel 等工作时，曾遇到 Anthropic 模型的误判和拒答，因此转而使用 Kimi K3。
这类说法属于节目中的个人经历和判断，不等于对相关公司的独立事实认定。
它说明一个真实的产品矛盾：模型提供方的护栏，可能在攻击性任务上保护系统，也可能在防守、调试和安全研究上挡住合法用户。
如果用户无法理解模型为什么拒答，也无法调整护栏，就只能换模型，或把工作移到自己能控制的开放权重模型上。
14｜AI 公司为什么会过度拦截
Matt 借用了社交媒体的类比。
社交平台曾经把交流集中到一个地方，并通过内容审核处理违法内容和平台体验问题。
AI 平台现在集中起来的不只是聊天，还有代码、表格、研究、健康建议和真实工作。
但它们没有完全相同的平台责任豁免。
如果一个模型的输出影响真实工作，企业就会更担心责任、伦理和事故。
于是平台可能选择宁可多拦一些，也不要放过一个高风险请求。
用户看到的结果就是：边缘任务被误判，正常工作被打断，系统看起来像一个没有解释权的门卫。
这也解释了为什么企业会要求可观测性和自定义护栏，而不是只购买一个更聪明的模型。
15｜Inferact 的公司路径：开源先走，最后一公里收费
节目后段谈到 Ion Stoica。ASR 对其姓名有多种识别，公开背景与上下文指向 Databricks、Anyscale 等开源基础设施项目的连续创业经验；这里不把听写中的姓名拼写当作独立事实。
Simon 说，Inferact 的思路不是把开源推理引擎关起来再卖一遍。
开源是起点。
公司要补的是最后一公里：质量、部署、性能、合作伙伴支持和客户真正要承担的系统复杂度。
这条路与 Databricks、Anyscale 等公司的经验相似：先让项目进入尽可能多的真实环境，再围绕复杂部署、可靠性和企业交付建立商业价值。3
16｜下一年，差异化会转向「环境」
节目的最后一段谈到 Moonshot 的前端编码环境。
模型可以写代码、查看渲染结果，再继续修改，这是一种闭环式的开发环境。
Simon 认为，接下来比拼的不会只是训练数据来源。
谁能构建更好的环境，谁能做出更好的优化和算法选择，谁就更可能把模型推向现实任务。
他还提到 Kimi K3 移除了旋转位置编码 RoPE，并由 RoPE 的早期提出者参与解释这一技术选择。
由于该技术细节的专名在 ASR 中存在不确定性，正文只保留可核实的技术关系，不把听写出的姓名拼写当成确定版本。
Matt 随后把问题推进到理论层：AI 在经验上工作得很好，但研究者仍未完全理解为什么一些架构选择有效。
谈到蒸馏，Simon 的判断是，蒸馏不是当前进展的唯一主因。
真正推动进步的，是聪明的研究者、有意思的算法、数据环境和算力。
开放权重搭出的「跑道」，让不同团队互相学习、复用和改进。
Matt 说，a16z 正在寻找更多来自世界各地的开放模型训练，而不是只看中国或美国。
开放模型的全球化，最后落在一个很具体的问题上：更多团队能否在同一条跑道上实验，而不是所有人只能站在少数 API 门口排队。
给创业者和产品团队的四个判断
- 如果你的产品只是调用 API，先问自己：延迟、数据、成本、护栏和故障排查中，哪一项已经开始限制增长。
- 如果模型要进入生产环境，别只评估 benchmark；把推理引擎、硬件兼容性、部署方式和监控一起评估。
- 如果你考虑开放权重，先把许可证、微调数据、模型更新、责任边界和基础设施成本写进同一张账。
- 如果你做模型公司，下一阶段的差异化可能来自模型与现实环境的闭环，而不只是一次更高的榜单成绩。
本期完整逐句中文翻译见下方。对话中保留了可辨识的说话人标签；ASR 明显重复或断裂的位置，以说明标注，不用猜测填空。
逐句全文翻译
以下内容基于本期官方音频的完整自动语音识别稿，按原始时间顺序逐句翻译。只保留中文译文；保留可辨认的说话人标签。由于原始素材为自动识别，个别专有名词、重复片段和句子断裂按原稿保留，并以最接近语义的中文呈现。
00:00—08:00
Matt：一个有意思的思想实验是：如果 GPU 的价格下降 99%，我们会不会重新回到一个真正的开源世界？
Simon：如果内容审核永远无法解决，那么未来人们默认会转向开放权重模型。
Simon：因为只有在那里，你才能确定自己可以控制面向可信使用场景的安全护栏。
Elena：你能谈谈 vLLM 在这套技术栈里处于什么位置吗？
Simon：vLLM 是一个推理引擎。
Simon：它有点像数据库、操作系统，以及其他支撑 AGI 的关键软件；英伟达、AMD、Google——
Simon：它们最新的芯片都会确保 vLLM 能够在上面运行。
Simon：很多时候，它们还会把 vLLM 当作基准，用来弥合接近 10 倍的差距。
Simon：对于闭源模型，通常只有普通模式和快速模式。
Simon：但对于开放权重模型，每个服务商理论上都可以提供甚至 10 个不同的速度档位。
Elena：五年之后，开源 AI 模型会追上前沿模型吗？
Simon：如果只看能力，我今天都没有真正看到很大的差距，因为——
Matt：开源 AI 已经成为塑造这个行业的最重要力量之一。
Matt：但要把前沿模型交到全世界手里，远不只是发布模型权重那么简单。
Matt：它需要一整套全新的基础设施层。
Matt：本期节目中，Elena Burger 和 Matt Bornstein 邀请了 Inferact 联合创始人兼 CEO Simon Mo，讨论开源推理如何成为 AI 的关键基础设施，企业为什么越来越多地转向开放权重模型，以及下一代 AI 系统还需要什么。
Matt：他们还讨论了模型许可、推理经济学，以及开放式 AI 的未来。
Elena：今天我们请到了 Simon Mo，他是 Inferact 的联合创始人，也是 vLLM 的主要维护者之一。这个开源推理引擎现在每一刻都运行在大约 50 万张 GPU 上。
Elena：我们还请到了 a16z 普通合伙人 Matt Bornstein。
Elena：Simon、Matt，非常感谢你们来参加节目。
Elena：我想，我们首先应该从开源 AI，以及开源 AI 比较近的历史讲起。
Elena：vLLM 实际上可以追溯到 2022 年，也就是 ChatGPT 出现之前；
Elena：你们的团队原本只是想把一个运行缓慢的开源演示变快，却发现了一大堆尚未解决的问题。
Elena：你能谈谈吗？为什么服务一个大语言模型，会和大家已经熟悉的机器学习工作负载有如此根本的不同？
Simon：好的。很高兴来到这里。
Simon：服务大语言模型是一个根本不同的问题，因为服务它需要在 GPU 或 TPU 这样的加速器上运行。
Simon：这是一个计算密集型过程，需要大量工程工作，确保每一个请求都能让用户快速、高效地看到大语言模型的响应。
Simon：这通常意味着，我们要处理输入分布的差异、每个请求的长度、非确定性的输出分布，还要把批处理和调度更深地放进推理引擎的核心。
Elena：是的。这个团队、这个项目已经存在大约四年了，但公司成立得要晚一些。
Elena：所以我想把问题抛给你们两位。
Elena：Matt，我知道你很早就认识这个团队，也观察了他们很长时间。
Elena：你是在什么时候看到它从一个备受喜爱的开源项目，转变成关键基础设施，然后又变成一家公司的？
Matt：我想，这得稍微往前追溯一点，对吧？
Matt：在早期，开源是 AI 模型的常态。
Matt：当时确实有一家叫 OpenAI 的公司——
Matt：你知道，它现在多少成了一个笑话。它已经不像过去那么开放了，甚至远远不如过去那么开放。
Matt：但在早期，所有前沿 AI 工作要么是开源的，要么至少会以开放权重的形式发布；后者和真正的开源略有不同。
Matt：人们大多可以在自己已经拥有的硬件或电脑上运行这些模型。
Matt：我很好奇，也许你还记得：第一个让你必须出去寻找专门软件和一整套专门电脑才能运行的模型，是什么？
Simon：可能是 BERT。
Simon：在那之前，做计算机视觉分类这类图像任务时，比较像 ResNet。
Simon：ResNet 已经需要运行在英伟达 K80 上了，那是 AWS 和其他地方最早的一批 SPU 之一。
Simon：不过即使在那时，ResNet 仍然可以在普通的 CPU 设备上运行，只是速度非常慢。
Simon：但 BERT 不一样。要让它运行得更快、更高效，不管是翻译还是其他任务，你会发现：哇，你必须把它放到 GPU 上。
Simon：那甚至已经是 2020 年以前的事情了。
Simon：对。
Matt：现在回想这些事情真的很有意思。
Matt：是啊。
Matt：我感觉所有记忆一下子都涌回来了。
Matt：对。
Matt：当时 Hugging Face 上有一千个 BERT 变体。
Simon：你得去找到最适合自己特定任务的那个 BERT 变体。
Simon：没错，而且你说得对。有些人可能有自己的 GPU，可以直接运行，但很多人还是得去申请云资源。
Simon：完全正确。
Elena：这类事情真的很有意思。所以，BERT 是早期语言模型；后来的模型更大、更复杂，需要更多内存和更多计算。
Matt：所以从很早开始，vLLM 其实就是在解决如何运行这些更强大的模型的问题；你不能再自己随手把它弄明白。
Elena：为了把我们带到今天，我想最好谈谈：它究竟是在什么时候成为这些更大型开源模型的关键基础设施的？我们又是在什么时候开始看到这些更大的开源模型进入这个领域的？
Simon：我们真正看到这套软件栈变得关键，始终都和把开放的前沿智能带到世界上有关。
Simon：这一次 K3 模型发布时，「开放的前沿智能」就是一个口号。
Simon：这也和 vLLM 关于推理基础设施的使命有关。
Simon：Simon Mo，vLLM 的联合创始人兼 CEO。
Simon：每天都在亲历这件事。
Simon：是的。
Simon：在那个阶段，我们需要让加速器运行开放权重模型，也需要开放的——
Simon：开源软件来确保它能够良好运行。
Simon：对。
Simon：并且对它保有充分的灵活性和控制权。
Matt：从创业公司的角度看，这件事很有意思。
Matt：你刚才提到 GPT-3，或者早期的 ChatGPT；
Matt：那时，这些闭源解决方案开始对一小群人变得关键。
Matt：开源当然存在，但它更像一种好奇心，或者发烧友的玩具。
Matt：随着前沿能力扩张，尤其是闭源模型扩张，越来越多的开源东西被拖进来，变成背后的关键部分，如果这样说得通的话。
Matt：在任何一个时点，包括现在，我认为 OpenAI 和 Anthropic 的模型总体上仍然比开源模型更广泛、更关键。
Matt：但我确实认为，大约一年前我们跨过了一个门槛：一批小公司，或者说新一代应用公司，开始思考：我怎样才能真正做出一个 AI？
Matt：如果答案不是在 OpenAI 上面包一层，答案最终就变成了开源。
Matt：Cursor 做的就是这件事。
08:00—16:40
Matt：现在 Decagon 和 Harvey 也在做类似的事情。
Matt：还有一批非常强的应用层创业公司，也得出了同一个判断：我们不能只建立在闭源模型上。
Matt：我们需要自己做中期训练，自己做后训练，自己掌握推理和部署上的各种技巧。
Matt：而这一切都意味着，它必须建立在开源之上。
Matt：闭源供应商不会给你这样的访问权限。
Matt：所以我的判断是，大约一年前，开源以一种并不总能被看见的方式变得真正核心了。
Matt：它深深嵌入了一些产品里，但如今一些最有创新性的产品和应用，其实已经非常深地依赖它。
Matt：是的。既然我们现在看到越来越多大型企业选择使用开源模型，能不能谈谈 vLLM 在这套技术栈中处于什么位置？
Matt：vLLM 对它们来说处在哪里？
Matt：几乎所有人都在用 vLLM。你应该来描述一下它。
Simon：几乎所有人都在用 vLLM。vLLM 是一个推理引擎。
Simon：它的工作，是把可用的 GPU 变成一个正在运行的智能端点。
Simon：这意味着，它有点像数据库、操作系统，以及支撑经济运行或支撑 AGI 的其他关键软件。
Simon：如今所有人基本都在使用这类软件，以确保成本有效、效率高、可靠，而且始终处在前沿。
Simon：截至今天，vLLM 已经支持超过一千种模型架构，其中很多是专有架构，但也有很多是开放权重架构。
Simon：很多模型架构从研究原型转变成面向全世界的开放权重模型时，会立刻在 vLLM 上线。
Simon：我们把这个过程叫作「模型发布日零支持」。
Simon：除此之外，vLLM 也和所有硬件供应商密切合作。
Simon：也就是说，从英伟达、AMD、Google、Amazon、Intel，到更多厂商，
Simon：它们最新的芯片都会确保 vLLM 能在上面运行。
Simon：很多时候，它们还会把 vLLM 当作基准，确保芯片能够良好运行它。
Simon：模型运行在哪里，以及模型在哪里遇到硬件，这两者的融合就是魔法发生的地方。
Simon：这就是 vLLM 所处的位置。
Matt：你以前跟我讲过一些幕后故事。实际上，
Matt：如今你们会在模型发布时参与其中，这里面除了技术工作，还有很多人类戏剧性。我想问，有没有什么故事是你觉得可以分享的？
Simon：这其实是一个非常有趣的共同设计过程。对模型实验室来说，
Simon：这些人是构建出模型的杰出研究者。
Simon：接下来他们最大的问题就变成：怎样把模型带到世界上，并确保每个人都能使用、都能良好运行？
Simon：我们合作过一些模型实验室——他们之所以如此顺利，是因为他们已经在生产环境或研究流程中使用 vLLM。
Simon：所以，当这个时刻到来，我们找到他们说：
Simon：你好，我们是 vLLM 团队。我们想支持你们的开源模型。
Simon：我们希望以一种开源但经过精细打磨的服务，帮助你的模型在我们的架构上良好运行。
Simon：而模型实验室会回答：我们已经在这方面做得不错，因为我们正在为自己的研发流程运行它。
Simon：给你们，这是我们的代码。请审查并合并我们的拉取请求。
Simon：但在另一端，也确实有一些模型实验室不知道这件事应该怎样运作。
Matt：因为系统不是他们的核心能力。
Simon：对，因为这不是他们的核心，而且他们可能一直在训练模型，或者有自己的内部推理引擎，却不知道怎样适应开放权重生态。
Simon：顺便说，这也是一个多方参与的过程。
Simon：每个模型通常都涉及模型实验室、主要或次要硬件供应商、我们，以及 Hugging Face——后者负责模型格式和模型中心。
Simon：接下来，取决于模型实验室的投入程度，一次发布还会涉及 10 到 20 个不同类型的合作伙伴。
Simon：这些可能是推理云，也可能是公共云巨头，或者任何将要运行这个模型的人；你需要确保他们能够成功运行它。
Simon：所以直到今天，如果你看 K3 模型的发布，它仍然是一整套合作和推动工作。
Simon：模型发布时，它其实只是互联网上几 TB 文件；真正重要的是，人们能不能把它用得非常好。
Simon：如果你还记得 2023 年初和 2024 年，Mistral 发布第一个模型时，直接丢了一个 P2P Torrent 链接。
Simon：然后所有人都在挣扎，试图把它下载下来、跑起来。
Simon：我们也在幕后和 Mistral 团队合作，让 vLLM 支持这套推理引擎。
Simon：那可能是早期最令人兴奋的周末之一，我们把时间都花在了这件事上。
Simon：周末之后，大家努力分析到底发生了什么；到了周一、周二，Mistral 和我们就宣布：现在你可以成功地在 vLLM 上运行它了。
Simon：于是所有人都可以轻松复用大量工作，继续在它上面构建。
Matt：那是一段很有趣的时期。像我这样的发烧友会匆匆忙忙下载模型，然后想办法把它跑在某个地方。
Matt：是的，是的。
Elena：我很高兴专业人士已经接管了，因为以前它从来没有真正运行得很好。
Elena：但那很有意思。
Elena：那是一个有趣的时代瞬间。
Elena：对。
Elena：把话题推进到现在，我想，最近开源模型和蒸馏都上了新闻。
Elena：Inferact 签署了英伟达发起的「开放权重与美国 AI 领导力」联署信。
Elena：a16z、Meta、Amazon 以及几十家其他公司也签了。你能谈谈为什么决定签署，以及你们当时是在回应市场和新闻中的什么吗？
Simon：对我们来说，我真正想支持的是：开放权重在这个生态里绝对重要。
Simon：这个世界不能只由专有 API 控制，也不能让开放权重、开放开发和模型研究被阻挡或禁止。
Simon：Inferact 参与联署，是因为我们想帮助并培育这个生态。
Simon：我们通常处在这个生态的下游，对吧？
Simon：推理引擎不是预训练过程的一部分，也不是强化学习过程的一部分；
Simon：但我们正处在模型真正遇到世界的地方。
Simon：从我们看到的情况来说，人们——
Matt：Simon Mo，vLLM 的联合创始人兼 CEO。
Matt：从客户的角度看，这两件事对他们是不是都重要？只要他们拥有控制权，他们是否愿意付钱？还是说，不同使用场景会有不同答案？
Simon：我认为，这件事会随时间变化。
Simon：过去几年，控制权非常重要；而过去几个月，成本开始变得重要。
Simon：成本之所以重要，是因为人们开始尝试迁移出昂贵的编程套餐，也开始面对不断飙升的 Token 消耗。
Simon：但控制权始终是底层逻辑的一部分，因为他们也希望以某种方式控制成本。
Simon：同时，他们还要控制系统性能，确保性能和自己付出的价格相匹配。
Simon：比如，一家语音 Agent 公司希望控制自己的模型，从而确保模型确实能在规定时间内响应。
Simon：这样，客户打电话时，他们就能确保 Agent 按照服务等级协议响应。
Simon：有时，只有控制自己的智能系统才能做到这一点，因为你知道自己运行的全部硬件，也监控着完整系统。
Simon：这和依赖一个专有 API 作为关键基础设施不同；对方可能随时宕机，或者随时违反合同。
Elena：Simon，回到成本这个话题。你在最近一篇讨论 Kimi K3 发布的文章里其实提出，经济性反而不是重点。
Elena：对于这些真正出色、处在前沿、由杰出研究者设计的开放权重模型来说，
Elena：它们有时其实和闭源模型一样昂贵。
Elena：那么在这些情况下，运行它们的意义是什么？在运行它们的过程中，我们又能从架构层面学到什么？
16:40—24:15
Simon：先说成本。它未必一定比专有模型昂贵；而且，成本这个讨论，几个月前围绕 GLM 5.2 已经被反复谈过了。
Simon：开放权重模型有时确实便宜得多。
Simon：但对这个模型来说，出现了一个很大的变化：我们正在弥合接近 10 倍的差距，而 Kimi K3 恰好落在中间位置。
Simon：它没有 Plot 或 GPT Sol 那么贵，但比 GLM 5.2 贵得多。
Simon：为什么会这样？我认为，这说明市场正在正确地为智能定价，也正在理解智能的真实位置。
Simon：但讨论的重点更应该是：哇，这个模型把接近 Opus 4.8 水平的能力带到了我们自己的基础设施上。
Simon：我可以使用它、运行它、微调它，也可以准确理解自己需要多少 Token，理解它确切的性能曲线。
Simon：原因在于，对于专有模型，你通常只有普通模式和快速模式这两个开关。
Simon：但对于开放权重模型，当你自己运行它时，每个服务商理论上都能提供十种不同速度档位，从最慢的模式开始；最慢的模式可以便宜很多。
Simon：Simon Mo，vLLM 的联合创始人兼 CEO。
Simon：用户如何和模型交互，以及对数据留存的控制，也很重要。
Simon：要注意，Fable 并没有零数据留存政策，至少很多数据需要留在那里。
Simon：这样，用户也能更大程度地控制安全与合规。
Simon：所以我对 K3 特别兴奋，不只是因为成本，更多是因为它把这样的智能带到了人们可以拥有的东西上。
Elena：在速度校准、其他参数校准这些事情上，后端需要发生什么？你看到用户怎样使用它？谁在这方面特别聪明？
Simon：我们确实看到，用户在打开快速模式时，能从这个模型获得最大的收益。
Simon：我说的是 vLLM 自己的快速模式，可以达到每秒 400 到 500 个 Token，因为这确实是一个很大的跃迁。
Simon：尤其是开发者和模型交互时，他们会发现：
Simon：我真的可以让任务更快完成。
Simon：模型不再卡在思考阶段，
Simon：而是在不断执行、不断执行，
Simon：不断和环境交互。
Simon：对于需要高级开发者全神贯注的任务，快速模式非常有帮助。
Simon：另外，用户也获得了修改模型、在模型之上继续微调的能力。
Simon：这让他们可以针对自己的工作负载把模型做得更好。
Simon：这件事今天也确实在发生。
Matt：你能解释一下，最近这些开源模型的许可条款和过去相比是什么情况吗？
Matt：你为什么认为他们会这么做？
Simon：好的。
Simon：历史上，开放权重模型通常采用 Apache 2 这类许可，就像我们的软件一样。
Simon：你可以拿走它、修改它、做任何你想做的事。
Simon：这是一份送给全世界的礼物。
Simon：但最近，模型实验室开始寻找一种经济上可持续的方式，来资助自己的模型开发。
Simon：毕竟，模型训练、研究和数据都极其昂贵。
Simon：所以我们开始看到一些条款，甚至可以追溯到 Llama 时代。Meta 发布 Llama 时就写过：如果你的日活用户，或者年度经常性收入，超过某个门槛，请专门和 Meta 签订商业协议。
Matt：我记得，当时那些数字是特意选出来的，世界上大概只有两家公司符合它排除在许可之外的定义。
Simon：对，完全正确。
Simon：但人们从中得到了启发，尤其是现在这些实验室正在想办法为模型开发提供经济上的资金来源。
Simon：因为大家都可以直接拿走模型、自己运行，在很多情况下也就不再使用他们的 API，而他们的 API 业务还在成形。
Simon：现在我们看到一个非常健康的生态正在发展。比如最近的 MiniMax，
Simon：它发布 M2.7 模型时，条款就特别聚焦于使用方式。
Simon：Kimi 最初也有关于衍生作品的条款；当时 Fireworks 和 Cursor 基于 Kimi 模型构建产品，成为一个很大的新闻。
Matt：如果我稍微展开一点，我不认为这背后是贪婪，至少从我观察到的开源模型实验室来看不是。
Matt：我们谈论的开源模型，其实是开放权重，对吧？
Matt：它不只是软件。
Matt：说到底，AI 模型并不是软件。
Matt：过去，开源软件可以由人们捐出自己的时间来支持，或者由大公司允许员工捐出自己的时间。
Matt：那是一种大规模的、以实物形式捐赠人力的方式。
Matt：但这在 AI 领域真的行不通。
Matt：对吧？
Matt：我不可能晚上回家后，和朋友一起为了好玩训练一个前沿开源模型。
Matt：要做到这件事，我们需要数百万甚至数十亿美元的计算资源。
Matt：所以我认为，这确实支持了你的观点。
Matt：显然，我们需要经济激励，也需要准备好资金机制。
Matt：坦率说，中国模型尤其如此，相比之下，国内生产的模型可能更容易获得资金。
Matt：如果没有资金来源让 Moonshot 继续训练模型，我们知道资金最终会从哪里来；那不会是我们愿意写进方案的东西。
Matt：它会来自政府，以及我认为对我们来说实际上更糟的东西。
Matt：你提出了一个有意思的观点：这是一种重要的经济结构。
Simon：我认为，这意味着未来我们会看到更多类似的事情。
Simon：你同意吗？
Simon：归根结底，这关乎可持续性。
Simon：问题是，怎样确保最初用于训练模型的那些资本支出，
Simon：包括一次又一次失败、又一次训练模型的成本，
Simon：最终能够得到回收？怎样确保所有参与者都有足够的信心和资金，继续做下一次？
Simon：我最近听到有人把这件事类比为制药行业。
Simon：这就像，怎样确保新药的研发过程获得充分资助，并建立一种可持续的方法，
Simon：让人们愿意为新药研究承担巨大的风险、押下巨大的赌注，因为他们知道未来——
Simon：Simon Mo，vLLM 的联合创始人兼 CEO。
Matt：vLLM 的主持人，
Matt：一旦一种药物、一种分子被发布，你就拥有最强的控制力：其他人根本不能制造它。
Matt：它是最封闭的那种来源。
Matt：它像一个秘密。
Matt：但模型尤其是开源模型不一样。一旦它被放出去，任何人都可以拿走、使用、扩展它。
Matt：因此，给它附加某种经济机制，可能确实是有道理的。
24:15—32:25
Elena：这其实也让我想到一个问题。Matt，你刚才暗示过，开源 AI 模型和开源软件维护的动力学很不一样。
Elena：说到开源 AI，到底什么东西需要被维护？
Elena：是围绕它的基础设施吗？
Elena：模型本身需要维护吗？
Elena：这种动力学究竟是什么样的？
Matt：我认为，甚至围绕它的开发者行为也相当不同。
Matt：Simon 刚才已经说过了，但我再展开一点。你会看到一次大规模训练的结果。
Matt：而如今所谓训练，意味着预训练，然后是强化学习、中期训练，或者对这些模型做后训练。
Matt：预训练、监督微调、强化学习，对吧？
Matt：这是一条相当复杂的流水线。
Matt：我们只能在最后看到它的结果。
Matt：数字很大。
Matt：你会说：这次训练花了 1 亿美元。
Matt：但人们经常忘记，
Matt：在最终得到这个结果之前，可能已经有过五次失败的训练，
Matt：而且是五次大规模失败的训练。
Simon：那里面有血、汗和眼泪。
Matt：没错。我最喜欢的材料之一，也许我们甚至可以把链接找出来，是早期某个 Llama 模型的记录。
Matt：他们公开了训练期间负责照看训练集群的人之间的完整对话日志。
Matt：非常有意思。里面就是：糟了，一切都出问题了；混乱；恐慌。
Matt：下一条消息却是：好了，我们解决了。一切正常。集群恢复，损失值开始下降。
Matt：在模型发布之前，幕后要做的事情非常非常多。
Matt：模型一旦被放出去，怎样把它变成可运行的东西，就更接近你的领域了。
Simon：是的，但这里也有一个非常有意思的点。
Simon：模型一旦被放出去，整个社区就会共同努力，把它适配到更多地方，因为模型原本是在某一种硬件、某一种架构上训练出来的。
Simon：但当它进入真实世界，每个人的集群拓扑和使用场景都不同。
Simon：问题变成：怎样把一个使用场景，变成几乎无限多个使用场景？
Simon：有人会尝试把它适配到边缘设备上，
Simon：也有人会尝试用最大的规模运行它。
Simon：有人让它运行语音 Agent，也有人让它运行编程 Agent；这完全是两种不同的使用场景。
Simon：所以，这是整个社区共同参与的工作：继续优化、专门化，确保运行可靠，并持续围绕它做优化。
Simon：这是开源一路走下去时，整个村庄都要参与的事情，目的就是让它变得更好。
Matt：这很酷，因为这确实像开源软件。
Matt：这也是你正在做的事：任何人都可以贡献，让它变得更好。
Matt：一个有意思的思想实验是：如果 GPU 的价格下降 99%，
Matt：如果基于 GPU 的计算真的变得便宜且普遍可得，
Matt：我们会不会重新回到一个真正的开源世界？
Matt：那时，一个坐在地下室里的人，或者一百个利用业余时间工作的人，
Matt：就可以做出新的东西，尝试那些目前还在大公司排队的模型训练路径，
Matt：然后共同扩展、推进整个领域。
Matt：这和你开头说的事情有关：早期，要达到所谓前沿所需要的计算量几乎可以忽略；现在却变得巨大。
Matt：问题是，怎样让它重新回到消费者可以拥有的水平？
Matt：我以前在播客里说过，但还会继续说。
Matt：AlexNet——第一批真正让我们关心的、运行在 GPU 上的神经网络——只用了两张 GPU。
Matt：这里没有少写小数点，也没有漏掉逗号，真的就是两张。
Matt：而现在，两张 GPU 根本什么也做不了。
Elena：是的。这和我们另一个问题有关：过去 18 个月，推理变得更难了。
Elena：原因是规模、模型多样性，以及我们拥有的模型类型共同发生了变化。
Elena：当然，还有正在执行越来越长任务的 Agent。
Elena：所以，在这个世界、这个场景里，开源为什么不只是一个好东西，而是绝对必要的？
Simon：规模来自几个方面。
Simon：首先，你能不能把这个巨型模型装进数据中心的一个机架里运行。
Simon：但规模也来自：你能不能把它优化到极致，优化到接近光速，
Simon：从而从中获得最大的价值。
Simon：你还需要整个社区、协作方和合作伙伴共同验证它，
Simon：确保不会残留那些只在万分之一的情况下才出现的顽固 Bug。
Simon：所以，这里——
Simon：扩大部署规模，同时确保更多人以尽可能大的覆盖面运行它，
Simon：会让所有人运行这个模型时的体验都更好。
Simon：这就是为什么，开源推理目前领先于闭源推理引擎。
Simon：坦率说，如今很多推理云和 API 即服务，底层都在使用、借助开源推理引擎。
Simon：原因是，开源里已经积累了大量经过实战检验的经验、配方和方法，服务商可以在上面继续构建。
Simon：这就是为什么，开源是目前运行模型的领先方式。
32:25—40:00
Elena：回头看，不只是 vLLM 和 Inferact 的历史，也包括 OpenRouter 甚至 Ollama，我觉得很有意思。
Elena：这些团队都在 2022 年和 2023 年左右起步，有些甚至在 ChatGPT 之前；在你们的案例里更早。
Elena：它们都是围绕开放模型建立的。
Elena：当时的研究世界和 AI 世界究竟发生了什么？
Elena：为什么今天我们看到这些公司，会觉得 vLLM 是任务关键型的，OpenRouter 也是任务关键型的？
Elena：在我们拥有一个大型消费者使用场景之前，为什么已经有你们这样的团队在建设这些东西？
Elena：我想问的是：你们当时是怎么知道的？
Simon：我认为这里有两部分原因。
Simon：我们的团队一直带着开源视角。我们来自加州大学伯克利分校，那里有长期的开源软件传统，也有系统研究的传统。
Simon：但另一方面，也有纯粹的好奇心。每个人都在好奇：这些 AI 模型将怎样帮助人类？我们怎样才能更好地使用它们？
Simon：而开源正是把最多具有共同使命感的人聚到一起的地方。
Simon：正如你提到的，OpenRouter、Ollama 都是生态里的优秀伙伴和朋友。
Simon：我们聚在这里，是为了理解其他人怎样更好地使用 AI 模型，并确保他们能把它用在有价值的地方。
Elena：既然说到如何更好地利用开放权重和开源模型，最近新闻里还有一件事：Hugging Face 使用一个中国开源模型，帮助控制了一次网络攻击。
Elena：那次攻击是由一个正在测试、没有沙箱限制的失控 OpenAI 模型发起的。对于这样的事情，我们能学到什么？
Elena：你能先讲讲自己的印象和理解吗？到底发生了什么？然后再谈谈你认为其中的启示是什么？
Simon：这又回到了我们之前说的控制权。
Simon：关于 Hugging Face 事件，他们在自己的网站和博客上做了很好的拆解。
Simon：所以我首先要感谢他们的透明度。
Simon：归根结底，问题在于所有那些闭源专有模型 API：它们的安全护栏有些任意，而且也非常难以执行。
Simon：这意味着护栏中存在大量误报，导致合法使用场景被直接阻挡。
Simon：这甚至是社交媒体时代就存在的长期问题。
Simon：怎样正确设计内容过滤器，怎样正确完成内容审核？
Simon：如果内容审核永远无法解决——而这会非常非常难——
Simon：那么总会有一个模型，是你知道并且信任的，你可以把内容发布给它，也可以从它那里获得结果。
Simon：所以 Hugging Face 必须使用开放权重模型。
Simon：但未来，对于可信使用场景，人们也会默认转向开放权重模型。
Simon：因为只有在那里，你才能确定安全护栏被放宽了，或者你可以为可信使用场景控制自己的护栏。
Simon：这件事甚至已经发生在我们身上。很多 Anthropic 模型会禁止前沿 AI 研究。
Simon：我们研究 GPU 内核时，即使只是一个无效内存访问错误，也会触发那条红线。
Simon：所以 Inferact 和 vLLM 的许多开发者正在放弃使用 Fable 5。
Simon：你可能做了两个小时的工作，却触发了一个误报，然后所有工作都丢了。
Simon：因此，我们很多开发者今天甚至开始使用 Kimi K3，只是因为它质量相近，而且它的安全护栏对我们来说更有道理。
Simon：我们也就这样继续使用它。
Matt：我认为你关于社交媒体的类比非常准确。
Simon：是的。
Matt：因为在这两种情况下，发生的事情都类似：分散的人类活动被集中到了一个地方。
Matt：在社交媒体出现以前，人们彼此交谈，
Matt：发表文章，也在留言板上互相发消息。
Matt：但后来，所有这些活动都被集中到一个追逐利润的企业之下。
Matt：突然之间，激励机制发生了很大的变化。
Matt：我们为社交媒体设置了一个特殊豁免：平台不需要为人们在平台上说的话负责。
Matt：我认为，这让内容审核问题变得可处理。
Matt：逻辑是：我们会尽最大努力消除明显违法的东西，
Matt：也会消除那些会以非常糟糕的方式破坏网站体验的东西。
Matt：但如果它处在边缘地带，比如某句话不合时宜，却并不违法——
Matt：对。
Matt：我们不可能把一切都管起来。
Matt：我们不能成为所有人类交流的警察。
Matt：我认为 AI 里正在发生类似的事情。
Matt：被集中起来的不只是谈话，还有工作。
Matt：如果我需要写代码、制作电子表格、获得建议，
Matt：无论是健康建议还是其他任何东西，
Matt：它们都集中发生在一两个网站上。
Matt：但这些网站没有那种豁免，对吧？
Elena：它们没有那种「我们不对网站上实际发生的事情负责」的免责。
Matt：而且其中一些公司，尤其是 Anthropic，甚至比法律要求的更进一步。
Matt：它们会在这些事情上采取伦理立场；这可能对，也可能不对。
Matt：那是它们自己的决定。
Matt：问题是，实际应该怎样做？
Matt：因为这不只是交流问题，而是现实中的工作和行动。
Matt：你没有那种豁免，头上还叠加了一层伦理要求。
Matt：所以，是的，我完全同意你。
Matt：有些公司似乎选择了谨慎过头的一边；这可能是合理的做法，但作为用户真的非常令人沮丧。
Matt：我在网上看到过，有些翻译尝试会被拦截，因为系统认为某种语言和内容的组合触发了政治敏感话题。
Matt：这类事情就是例子。
Elena：Simon，我们快要结束对话了。我想稍微退一步，问问 Inferact 和经营这家公司的事情。
Elena：我知道 Databricks 的 Ian Stoick 是 Inferact 的顾问和联合创始人。我很好奇，在把 vLLM 这样的开源项目建设成公司这件事上，你从他那里学到了什么？
Simon：Ian 作为联合创始人，一直在思考怎样更好地支持开源。
Simon：他有 Databricks、AnyScale，甚至 Arena 这个公共平台的经验，如今又来到 Inferact。
Simon：他的关注点真正来自一个问题：在一个软件被如此多的人使用、一个项目如此关键的世界里，
Simon：怎样确保大家拿到最好的质量？
Simon：价值又应该从哪里产生？
Simon：如果开源运动和开源推理引擎是起点，那么 Inferact 能填补哪些空白？
Simon：哪些东西是我们绝对应该补上去的？
Simon：YANG 一直坚持开源优先。
Simon：所以，无论我们需要构建什么，都希望把它构建在开源之上。
Simon：而对于我们能够交付的价值，我们希望真正补上最后一公里，确保客户和合作伙伴从中获得最大收益。
40:00—46:49｜Simon、Matt、Elena
Simon：Moonshot 已经做出了最好的前端编码环境之一。
Simon：他们发布过一个很棒的演示，展示模型如何编码，然后查看渲染结果，再继续循环，反复迭代。
Simon：这里说的，是他们用来改进模型的环境。
Simon：不只是数据来源。
Simon：也不只是他们从哪里拿到数据。
Simon：更重要的是，谁能搭出最好的环境，
Simon：谁能做出最好的优化和算法选择，
Simon：并利用这个环境里的所有学习结果。
Simon：接下来一年，讨论的都会是这个。
Simon：开放权重模型实验室如何形成差异，如何让模型真正接触现实世界，以及如何利用现在很流行的递归式自我改进，去整体提升模型。
Simon：所以如果把时间投向一年后，能力差异可能已经不存在了。
Matt：是的。
Matt：你几次提到「杰出的研究者」。
Matt：世界各地显然都有杰出的研究者。
Matt：你为什么觉得——
Simon：在美国，聪明的研究者都在做闭源模型；在中国，聪明的研究者都在做开放模型。
Simon：从我的角度看，他们被有趣的问题吸引，不一定是被开放还是封闭的立场吸引。
Simon：但开放权重模型确实让人们能够更直接地看到模型产生的影响，这一点是很大的加分项。
Simon：所以，所有杰出的研究者都会被「如何整体改进模型」这个问题吸引。
Simon：这里还有一个可能比较技术化、但很有意思的点。Kimi K3 移除了旋转位置编码，也就是 RoPE。
Simon：很多 Transformer 模型一直都有 RoPE。
Simon：猜猜是谁把它移除了？
Simon：是 RoPE 的发明者。
Matt：太酷了。
Simon：我记得他叫 Jenning，他写过第一篇把 RoPE 作为概念介绍出来的论文。
Simon：现在，他又在这个模型的技术报告里解释了为什么在这个案例中不需要 RoPE。
Simon：我们读到这里时，会觉得这件事形成了一个完整的回环。
Simon：你会看到这么多聪明而谦逊的研究者，能够——
[ASR：此处出现一段无法可靠辨识的重复内容，持续重复「open-source」；不根据重复片段猜译。]
Matt：你知道，AI 现在处在一个很有意思的区域：从经验上看，它工作得好得惊人；但你去问理论研究者，他们其实完全不知道它为什么会这样运作。
Matt：所以会出现这种迭代：你去读 Transformer 入门材料，会看到位置嵌入或位置编码，材料会解释为什么它如此重要，因为没有它，模型就无法理解意义。
Matt：然后当你再深入一层，因为我们已经做了几年，也有这么多聪明人在研究，就会发现：其实你不需要位置编码，对吧？
Elena：其实，更简单的方案更好。
Matt：我们到目前为止还没有怎么谈蒸馏，但我觉得它和这里非常相关。
Matt：我只问一个问题。我不是要问「蒸馏有没有发生」——这可能是全世界都在猜的事情——
Matt：但你和这些中国实验室合作很多。蒸馏是它们工作方式里的关键组成部分吗？
Matt：还是说，它们只是做了很好的工作，而蒸馏即便存在，也只是一个附带部分？
Simon：我更倾向于后者。正如我前面说的，今天环境太重要了。
Simon：这些环境就是我们的环境，对吧？这些东西无法被蒸馏。你不可能拥有别人的——
[ASR：此处原文断裂，后续出现无法可靠还原的短句；以下保留可辨识语义，不补写缺失内容。]
Simon：第一步，是构建一个容易理解、容易使用的模型。
Simon：任何能够遵循指令的模型，在效用上都会有用。
Simon：所以从目前看到的情况看，我真的不认为蒸馏是今天推动进展的核心支柱。
Simon：归根结底，推动进展的还是聪明的人、有意思的算法、数据环境，以及算力。
Simon：这些东西会产出模型。
Matt：我觉得这里有很有意思的政策含义。顺便说，我基本同意你的判断：世界各地都有聪明人在做聪明的事情，进展不只是从某个地方蒸馏数据。
Matt：它的政策含义在于，如果你在白宫工作，很容易会想：那我们只要关掉蒸馏，所有问题就解决了。
Matt：但更接近现实的情况是，聪明的人只是在做有意思的事情。
Matt：我们要怎么适应这一点？
Simon：还有创造性的创新。
Simon：我文章里有一部分会谈到，开源和开放权重确实有助于创新。
Simon：因为它搭出了一条跑道，让每个人都能互相学习，看见跑道上的每个参与者在做什么。
Simon：然后你可以站在彼此的肩膀上继续改进自己。
Simon：这样，所有人都能更快地向前走。
Matt：是的。从投资角度看，我们正在寻找更多在世界各地进行开放模型训练的人。
Matt：不只是中国，不只是美国，而是全世界。
Matt：因为当所有人都在做这件事时，就会产生那种协作的魔力——
Elena：也许还能在这些事情上实现全球和谐。
Elena：我觉得这是一个很好的收尾。
Elena：Matt、Simon，非常感谢你们参加节目。
Matt：感谢收听。
Simon：非常感谢。
Matt：好，谢谢 Jen。
Matt：感谢收听本期 a16z 播客。
Matt：如果你喜欢这一期，欢迎点赞、评论、订阅，留下评分或评论，也分享给朋友和家人。
Matt：想听更多节目，请前往 YouTube、Apple Podcasts 和 Spotify。
Matt：在 X 上关注我们和 a16z，也可以订阅我们的 Substack：a16z.substack.com。
Matt：再次感谢收听，我们下一期再见。
Matt：提醒一下，本节目内容仅供参考。
Matt：不得将其视为法律、商业、税务或投资建议，也不得用来评估任何投资或证券，或用于向任何 a16z 基金的投资者或潜在投资者提供建议。
Matt：请注意，a16z 及其关联方也可能持有本节目讨论公司的投资。
Matt：更多详情，包括我们的投资链接，请访问 a16z.com/disclosures。
References
- 1Apple Podcasts 目标单集记录
podcasts.apple.com
- 2本集官方完整音频
mgln.ai
- 3
Comments