LangChain 把工程薪水的三成花在写代码的工具上。过去两个月，这笔钱降了，用掉的 token 涨了——靠的是看得见、设上限、自己改 harness。
这一期他没讲模型，讲的是夹在模型与产品之间的五层：模型、路由、编排、记忆、账单，每一层他都给了一个判断。
下面按节目原始顺序，先是九段官方议程的逐段要点整理，再是全篇逐句中文译文，一句都没省。
逐段要点整理
04:10 为什么做 agent 还是这么难
- 先定位这家公司：LangChain 做的是把模型和工具、数据、计算连起来的开源框架，加上做可观测与评估的 LangSmith。官方口径是 35% 的财富 500 强在用、开源下载破 10 亿次、LangSmith 每天处理超 10 亿事件。1
- 难在哪：模型是非确定性的黑箱；input 空间无限大（用户想打什么就打什么），output 空间也无限大（两个相似的输入可能得到完全不同的答案）；而 agent 不是一次调用，是一串调用加工具交互，于是错误会级联。
- 他把过去三四年 agent 的进步拆成两半：一半是模型变强，另一半是「驾驭模型」的系统变好。LangChain 做的是后一半。
- 模型变好时，应用层公司真正的工作是「擦掉产品」——六个月前必须做的事，今天不必做了。他把这条原则归给 Cursor。
- 他给的范例是工具调用：早期让模型生成 JSON、再解析，所有人都知道那是 hack；OpenAI 把工具调用做进模型与 API 之后，他们整体切了过去。
- 他判断「哪一层会一直在」的依据是：模型永远不知道你的专有数据，也执行不了你的 API——所以把模型接到数据、API 和输出上的系统会一直在；围绕思维链、规划、工具调用的 hack 会消失。
- 被问到「要不要跟实验室绑在一起看路线图」，他的回答是一句反问：那替代方案是什么，什么都不做吗？只能做有根据的猜测。
- 这一段来自本期官方单集与整集音频。23
08:50 模型实验室会吃掉 agent 栈吗
- 为什么需要中立的 harness：搭 agent 之前和跑 agent 的过程中会长出大量状态，其中很大一块是记忆与上下文。如果这些状态按某一家模型的口味长起来，harness 又跟这家模型绑死，就换不动模型了。
- 能换模型既是进攻也是防守：进攻是「最好的模型一出现就用上」，防守是「不被锁定到对方能随意涨价」。
- 他给「拥有自己的智能」下的定义是：模型、harness、上下文三件都归你调。LangChain 官方把「不管你是否用它的开源框架」写成了 LangSmith 的卖点。1
- 如果价值来自验证，赢家是能写验证器的领域专家——「写评估是一件非常难的工作」。他因此极度看多垂直 agent。
- 他给垂直 agent 创业者的顺序：先做上下文工程、调 harness，有了用户再考虑后训练；先微调等于在还不知道用户要什么的时候就把钱烧在权重上。
- 「自己的模型」分四层：只控上下文、调 harness、后训练开放权重模型、从头训练。他说 Ramp、Harvey 这类公司走第三层，从头训的大概只有 NeoLab 那个位置。
- 后训练今天最划算的地方是构成更大 harness 的简单任务：分类、抽取、摘要、护栏。驱动循环的核心模型该用前沿还是后训练，他说这是开放问题。
16:25 模型路由是真生意还是商品
- 路由该放 harness 还是网关：放在 harness 里是运行的代码，知道提示缓存热不热、提示怎么改；放在网关里只是一次 API 调用，好处是能塞进任何 harness、不改代码。
- 路由器和网关是两件事。他的猜测是 OpenRouter 的用量很大一部分来自「它是个网关」——人们事先指定模型，网关只提供一把钥匙。Stripe 在 2026 年 8 月宣布收购 OpenRouter，据报道价 75 亿美元。45
- 只有两种活儿能放进网关路由：通用聊天，和写代码。一旦进入垂直领域，他不再相信现成的网关路由器。
- 「我不认为路由是商品」——但他自己给了理由的另一面：新一代前沿模型一出来，在所有事上都更好，上一代精心算出的分工会被一次抹平。
- 别信公开榜单：模型都在那些评估上刷满了；只有你自己为领域搭的内部评估还可信，而且别只看一个数字，要看 trace。
- 持续学习加的是一个外循环：拿 trace、提炼学习、修改一处、衡量它确实变好了，然后重复。修改可以发生在上下文、harness 代码或模型权重上，三者成本差着几个量级。
- 他举的自家例子是 LangSmith 里的 Engine：跑过 trace、试着更新 harness 的代码。LangChain 在 9 月 25 日的更新里把 Engine v2 与托管版 Deep Agents、微调一起列进了 LangSmith 的新能力。6
25:45 为什么 AI 记忆至今没人解决
- 上下文层不会只是一个数据库，而是「数据库外面套一个 agent」：把学习结果灌进数据库需要智能，而这件事很难。
- 记忆最难的部分根本不是数据库——有些公司就把记忆存在一个文件里；难的是把发生过的所有观察提炼成值得进入上下文层的信息。
- LangChain 做过商业版的记忆方案，发布过开源 alpha，然后把它砍了。原因是没找到产品市场契合，而他认为原因是「我们做得太通用了」。
- 他的判断是记忆至少一开始必须领域专用：会学习的 agent 大概长得像 Deep Agents——同样的循环，但指令、工具、子 agent 都是按领域长出来的。
- 元反思（反思提示词、反思 agent 架构）是模型现在还非常吃力的事，而这类元学习正是实验室要攻克递归自我改进时必须解决的问题。他说「我不认为有人知道记忆的答案是什么」。
- 消费市场会是横向与垂直共存：应用最懂你怎么用它，所以垂直 agent 长在应用里；你的通用助手再去和这些垂直 agent 打交道，而不是绕过它们直接调 API。
- agent 会让请求量暴涨——他举的例子是有用户用 Instinct 频繁抓取，被 Rezzy 封了账号。基础设施要能承受更大的突发，但更下面几层怎么变，他说自己还没有看法。
- 广告与加购不必消失：垂直 agent 可以把「你可能也喜欢这个」写进自然语言回复里，带回主 agent。
35:45 token 越来越便宜，账单为什么越来越贵
- 两件事同时发生：前沿模型的性价比在变好（他举 Astra 对比一年前），但 agent、多 agent 之间对话让被烧掉的 token 成倍增加，于是成本上升。编程是最先看到的地方。
- 他自己的数：LangChain 把工程薪水的约 30% 花在编码工具上，而过去两个月这笔钱降了、用掉的 token 涨了。这是他自己说的估数。
- 三步把支出管住：可见性（所有编码 agent 的用量接进 LangSmith，看清谁花了多少）、成本控制（设预算，超了要找工程副总裁批）、改 harness（自建云端编码 agent OpenSwe，把提示缓存和路由做进去）。
- 他讲了一个事故：有插件把网页 DOM 截图在 agent 每一轮都发回去，一周烧掉四万美元。这不是恶意，是配置错误。
- 「花得最多的人不一定最有效」：有些资深工程师花得多且值，另一些尖峰来自错误配置。
- 组织设计是更难的问题：一人团队驱动上百个 agent 是诱人的图景，但能这么干的人更少、更贵，总支出也许原地不动。
- 哈里把「编码工具占工程薪水的比例」直接接到 Anthropic 的估值上：掉到 5%，2 万亿就贵了；到 300%，就是被低估。哈里森同意这个框架，但补了一句：到今天为止，agent 真正产生效果的领域只有软件工程。
43:25 企业该怕中国的 AI 模型吗
- 他看到的两种态度都有：有些企业害怕，有些完全不在意。他说这份害怕「很大程度上没有根据」。
- 关于「数据会回到中国实验室」：如果用的是 Fireworks 或者自己托管，他认为这个想法很荒谬。
- 关于「价值观不一致」：他认为这正是评估派上用场的地方——大体没有根据，但承认某些领域可能有一点真实差别。
- 他判断十二个月内美国会有可比的开源模型：英伟达在生态上的投入、Reflection 最近的发布都是信号，虽然后者在某些基准上还落后于中国模型。
- 世界没看到的那件事：开源与后训练模型的用量很大，但集中在路由、护栏、抽取、摘要这些简单任务上，跑核心循环的还是前沿模型。
- 他引用 Benchmark 的埃里克·维什里亚那句「一切都跑得通，这个市场太大了」来说明推理市场：Fireworks、AWS、Crusoe 都能成，因为需求就是那么多。他说自己从 LangChain 起步到现在，真正低估的就是对推理和对编码 agent 的需求。
46:20 今天有哪些东西他不会再投
- 他不会投的：客服（过去十八个月二十家供应商拿到过亿美元融资，还有 Salesforce、Atlassian、Intercom、TalkDesk 在里面）、人形机器人（他承认这话大胆，但认为融资和兴奋程度远超能力）。
- 他会投的四层：推理、底层基础设施原语（Modal、Temporal、Supabase、Convex）、编码、垂直 agent。他不挑具体垂直行业，只看有没有领域专长。
- 他引帕特里克·科里森的说法：下一家创业公司大概不会在性感的领域，而是 AI 渗透率低、但积累了深厚领域知识的地方。
- 三件前提条件：人才（他拿 Fireworks 的林写过 PyTorch 举例）、速度（迭代与执行）、品牌（LangChain、Cursor、Jev、Claude Code、ChatGPT 都是抓住闪电再执行）。
- 先发有真实的品牌红利，但不够：AutoGPT 曾是史上增长最快的 GitHub 项目，之后几乎听不到了。
- 给 Jev 的看多理由：新的推理、新的模型类型，而这个类别干脆以他们命名，团队能执行。他承认自己不了解这个团队，但在那个估值上，这是必须接受的假设。Jev 此前的公开口径是 8.7 亿美元融资、75 亿美元估值。7
53:05 创始人该为一级基金的牌子在估值上打折吗
- Benchmark 投的时候公司是两个人，今天是四百人；他说自己真的把这家基金当成第三个联合创始人。
- 两种风格：Benchmark 更像一块回音板，花时间和你想清楚公司最核心的那块；红杉像一台机器，招募、市场、发布都上，他说很多候选人来自红杉的人才网络。
- 他的答案很直接：为了红杉和 Benchmark，在估值上打个折值得——大概其他顶级基金也一样。这句话被剪进了片头。
- 融资是一场游戏：「你想不融资地融资」——拿到一份条款书，再在推特上贴一张收入曲线。他说自己一点也不喜欢这套。哈里的原话是「这就是摆姿态」。
- B 轮是 IVP 的汤姆投的，他在红杉那一轮前后就开始和对方聊，聊了两年半以上。他说关系建立起来之后，游戏就少了。
- 他改变看法最大的一件事：一年半前和董事会讨论要不要做网关，当时看不到相比 OpenRouter 能加什么价值，于是没做——「我认为那百分之百是错的决策」。今天 LangSmith 的 LLM Gateway 已经在公测。8
- 技术上最难的是存储：他们为 agent 的 trace 自建了 SmithDB。他形容自己和五百家「亦敌亦友」的公司打交道，包括既竞争又当客户的 ClickHouse。
57:35 OpenAI 1.5 万亿，还是 Anthropic 2 万亿
- 他选 OpenAI，理由是「通往巨大退出估值的路径更多、更多样」——不是模型强弱，是路径的数量。
- 2022 年他真想早知道的事：今天的 harness 长什么样，「那样我们就能更早把它们做出来」。
- 五年后他最兴奋的是创作类 AI，点名 Suno，希望看到更多。这是他整集里唯一一次谈「人想做什么」，而不是「企业该买什么」。
关于这份笔记的三件事
- 口径分层：卡片上的四枚印章是「官方文件」「媒体·已报道」「节目中的说法」「待观察·未决」。本期至少三处要分层看：Anthropic 2 万亿与 OpenAI 1.5 万亿是节目给这道选择题设的价格，不是已完成的定价；哈里在聊 Jev 时说「90 亿美元那一轮」，而公开报道的口径是 75 亿美元估值、8.7 亿美元融资；「工程薪水的 30%」哈里森自己说这是估数。
- 数字的出处：LangChain 的 35%、10 亿次下载、每天 10 亿事件来自官方 About 页；1.25 亿美元 B 轮、投后 12.5 亿美元、IVP 领投来自官方 B 轮公告。19
- 逐句翻译的底稿：本期 20VC 尚未发布同名官方视频，逐句译文取自官方整集音频的完整转写（约 13,400 词），按官方九段时间点切成九节，另加片头与片尾两节。说话人归属由声部分离结果与内容锚点交叉确认（SPEAKER_00 为嘉宾、SPEAKER_01 为主持）。音频里另有三段赞助口播，视频版通常不含，这里按「不删减」原则保留并标注为广告。
逐句全文翻译
下面是整集的逐句中文译文。只保留中文，保留说话人标签，不压缩、不摘要、不删减。
00:00 片头、开场与赞助口播
片头：我觉得为了红杉和 Benchmark 这块牌子，在估值上打个折绝对是值得的。
片头：我们大概把工程薪水的 30% 花在写代码的工具上。过去两个月这笔钱其实降了，而我们用掉的 token 数量反而涨了。
片头：我觉得我严重低估了对推理的需求。一切都跑得通，这个市场太大了，需求就摆在那里，我不知道它什么时候会变少。
哈里：这是 20VC，我是哈里·斯特宾斯。我还记得当年和我的朋友迈尔斯·格里姆肖坐下来聊天，那时他还在 Benchmark，他跟我提起一个他见过的、了不起的创始人——LangChain 的创始人哈里森。这家公司后来成了估值数十亿美元的公司，在创建和监控 agent 这件事上是领先者。今天我们把他请到这张椅子上，聊为什么今天做 agent 还是这么难，聊那些所有人都该知道、但现在没人知道的事，还有我最喜欢的一部分——一些非常古怪的预测，别人都不相信会发生，但他确信一定会发生。
广告：优步、Cursor 和 Harvey 有什么共同点？它们都做了一个很明智的决定：把东西建在 Fireworks 上。Fireworks 是很多世界领先的 AI 产品背后的专用智能平台。公司用 Fireworks 部署最新的开放模型，用自己的数据把它们专业化，然后以现代 AI 应用所需的速度和可靠性把它们跑在生产环境里。但把模型送进生产只是开始。随着 AI 用量放大，对某一个请求最好的模型，未必是对下一个请求最好的模型。这就是 Fireworks Nexus 出场的地方：Nexus 接入你的工程师已经在用的 AI 编码工具和 harness，智能地把每一个请求路由给最适合的模型，帮你优化质量、延迟和成本，而不改变工程师的工作方式。想看智能模型路由的实际效果，访问 fireworks.ai/20VC 注册一个免费账户，用优惠码 20VC50 领 50 美元额度。
广告：Fireworks 给 AI 提供动力，Laradin 帮你衡量它的影响。现在每家公司都跑着两支劳动力：人和 AI agent。Laradin 是第一个同时覆盖这两支劳动力的统一看板，衡量它们的工作、优化它们的影响。Laradin 回答四个问题：谁在用 AI？用的哪些工具？花了多少钱？到底产出了什么？按团队、按供应商拆开看。AI 的投资回报不再靠猜，而变成一个你可以持续、有把握地衡量的数字。Gainsight、Vertiv、SurveyMonkey 以及很多其他企业都在 Laradin 上跑它们的 AI 项目。数以千计的 AI 工具、数以百万美元计的 AI 支出都在这上面被衡量。你押注 AI，Laradin 证明它确实在起作用。访问 laradin.com 了解更多。
广告：Laradin 追踪 AI 的影响，Superhuman 帮你跑得更快。我能跟你说句实话吗？我这周的真实样子是这样的：全天排满会议，而真正的压力堆在会议之间的空隙里。从六个创始人会议里出来，手里是一整摞待跟进的事，收件箱里是几百条消息。而在这堆东西里，藏着那件真正重要的事——我一直跟我妈说，那件事就是她。我试过用 AI 工具处理这些，但它们总是活在另一个标签页里：我得停下来，去找它，把上下文粘进去，写一条完美的提示词。那点摩擦刚刚好，让它一直没真正用起来。Grammarly 团队做的 Superhuman Go 完全不一样：它就在你需要的地方、你需要的时候——我正在读的文档里，我正在写的邮件里。当一个线程变得很长，我把它高亮，让 Go 把重点拎出来，而我不会丢掉正在读的位置；一连串会后，我问它到底决定了什么，Go 把它变成清晰的行动项，或者直接把我需要发的那封回信起草好。它已经跟上了节奏，而控制权始终在我手里。试试 Grammarly 团队做的 Superhuman Go，详情见 superhuman.com。
哈里：哈里森，兄弟，我太期待这一期了，而且已经期待很久了。因为我记得迈尔斯在 Benchmark 的时候跟我讲起你，一直在夸你。所以我一直想把这件事促成。谢谢你过来。我很兴奋。给不认识的人六十秒钟：LangChain 是什么，你在这条栈的哪一层？
04:10 为什么做 agent 还是这么难
哈里森：我们做的是让人更容易搭 agent 的工具，主要是开发者工具。我们有一个开源框架，本质上是把模型和你搭一个有用 agent 所需要的其他东西连起来——工具、数据、计算，诸如此类。然后我们还有 LangSmith。LangSmith 是可观测性和评估。agent 无时无刻不在出错，你怎么知道它是怎么错的、怎么把它量出来，从而让它的表现随着时间变好？这就是 LangSmith 做的事。
哈里森：为什么搭 agent 难？难的部分在于它们不按你想要的方式行动。模型是这些非确定性的黑箱，它们拿自然语言当输入，然后输出自然语言；而在黑箱内部，它们也是非确定性的。这意味着你拿到的输入在维度上是无限的——它可以是任何东西。你把一个聊天机器人放到某个人面前，他想打什么就能打什么，这就让你很难预判他会打什么。
哈里森：接着它进了这个模型；顺便说，agent 不是一次模型调用，它是一连串模型调用，而且它们还在和其他工具交互。于是你有了这些小号的黑箱，被塞进一个大系统里，得到的基本上是级联式的错误。你的输入空间非常大，输出空间也非常大，因为两个相似的输入进去，可能得到完全不同的答案。让这一切变难的，正是大模型本身：它们非常非常聪明，但你不知道它究竟会做什么，而且输入的一点点变化就会改变答案。你搭起这个系统，它其实非常不稳健。让系统稳定地表现，这才是最难的部分。
哈里森：三年前、四年前的 agent 和今天的 agent 比，已经好了很多。主要发生了两件事：一是模型变好了，二是我们学会了怎么搭系统去更好地驾驭这些模型。第二部分——驾驭模型——正是我们专注的地方。
哈里：模型变好的时候，你们的生意会怎么变，而且是外人看不见的那种变？
哈里森：模型变好时我们生意的主要变化是，我们基本上得把自己产品的一大块擦掉。Cursor 把这件事说得很好，我记得这是他们真正的经营原则之一：擦掉产品，或者叫删掉产品。意思是，模型变强了，六个月前你必须做的事，现在不必做了。这在我们开源这边特别明显：开源讲的就是驾驭这些模型的 harness 和框架，而「怎样驾驭模型、帮它做事」的正确方式每个月都在变，三个月、六个月，随便你挑一个周期，它变得非常快。
哈里：怎么为这么不确定的未来做东西？你是不是只能跟实验室绑在一起、知道他们的路线图，才不会花六个月做出一个马上被他们抹掉的东西？
哈里森：没有简单答案。一方面，你能怎么办？不做了？这就是我对问这个问题的创始人说的话：我该怎么办？东西在变，模型在变，我现在做的东西可能六个月后就不相关了。那替代方案是什么，什么都不做吗？所以我觉得你只能做有根据的猜测：哪些部分会留下来，哪些不会。
哈里森：举个例子，早期我们做工具调用，是让模型生成 JSON、生成 DSL，然后再解析。当时我们都知道那有点像个 hack，但必须那么做，因为那是唯一能让它被真正操纵起来的方式。几个月后 OpenAI 推出了工具调用，那是一种更原生的版本，直接长在模型和 API 里。我们很早就意识到那是未来，于是投入了很多，完全从 JSON 解析切到了工具调用。
哈里森：所以你必须分清哪些是短期 hack，哪些是长期、会一直在的东西。模型永远不会知道你公司的专有数据，它们也永远没法自己拿到 API 的输出：你得把它的 API 调用拿过来、发给 API、拿到结果、再回到循环里继续。所以模型外面的这套系统、把它和其他地方连起来的这件事，会一直在。但我们围绕思维链、规划、工具调用做的很多 hack，那些可以更紧密地整合进模型或模型 API 的东西，会消失。你只能快速地认出这一点，然后往前走。
哈里：为什么需要中立的 harness？说白了，模型公司自己也有一批非常聪明的 agent 建造者。你这一层为什么不会被他们吃掉？
08:50 模型实验室会吃掉 agent 栈吗
哈里森：我觉得我们需要中立的 harness，原因是：在你搭 agent 之前，或者在 agent 跑的过程中，会积累起大量状态。这些状态可以包括记忆，短期记忆或长期记忆。记忆也有不同的形态：它可能来自与 agent 的交互，也可能来自 agent 从环境里学到的。状态会随着 agent 往外走、去学、去聊、学到让它变得更好的东西而积累起来。
哈里森：我觉得现在最有意思的问题之一，是怎么让这些 agent 随时间变得更好、并且会学习。其中一部分学习和变好会发生在模型权重里，但很大一部分在模型外面，在这份上下文里。当你把这些上下文攒起来，你真的不希望它绑在某一家模型供应商身上。原因是，一旦绑上去，你就没法换模型了。能换模型这件事，既是进攻也是防守。
哈里森：进攻的意思是，当最好的模型出现时，不管它来自谁，你都想用上它。防守的意思是，你不想被锁定，以至于对方可以随意涨价。所以你希望能换模型。harness 可以跟模型绑得很紧，也可以是中立的。而上下文现在跟 harness 缠得非常紧：harness 的工作就是拿着模型，去和所有其他东西交互，其他东西里既有数据和 API，也有记忆。所以如果你把记忆做成跟 harness 绑在一起、harness 又跟模型绑在一起，你就卡住了。
哈里：所以 harness 这套结构真正的价值，是它让用户的数据可以搬走。
哈里森：对，你本质上是想不被锁在模型里。如果记忆、如果上下文开始按某一家模型希望的方式长起来，那对可迁移性非常糟糕，也会让你往后做这门生意处在劣势。我们跟很多人聊「拥有自己的智能」是什么意思，版本很多。我们认为其中一个关键组件，是拥有一个开放、可控的 agent：你想能调整每一个部件，能调整模型，也能调整 harness。
哈里森：因为有时候，这些模型实验室在把 harness 训练得特别擅长它们分布内的东西，而那往往是写代码——写代码很好，围绕写代码有大量用例，但也有大量不是写代码的用例。它们也许会在其中写代码，但那是拿来干销售、做研究、做法律、做这些垂直场景的手段。所以当你走出模型实验室训练分布的时候，你会希望自己控制 harness 干什么。然后你还想控制上下文。所以模型、harness 本身和上下文，构成了这种开放、可控的 agent 架构。我们认为这是「拥有自己的智能」很大的一部分。
哈里：我想往回退一点。当我们谈 agent 的价值，有人说价值其实在验证上——它做得好不好，因为验证解锁了下一步，也就是自动化。如果价值来自验证，谁赢？是 harness 吗？
哈里森：如果价值来自验证，我认为赢的是领域专家，那些能把「什么算有价值」量化出来的人——而这非常难。写评估是一件非常难的工作。所以我认为很大一部分价值会落到那些能写出这些验证器、把领域知识固化下来的人身上。
哈里森：正是因为这个，我对各个领域的垂直 agent 极度看多，因为最适合写这些验证器、搭这些评估的领域专家，他们能搭出 harness，也能搭出模型。而且不会只是 harness，也不会只是模型，而是某种组合。
哈里森：所以非常实际地讲，如果你要开始做一个垂直 agent，我强烈建议你从 harness 这一层开始：做上下文工程，把 harness 调一调。等你有了用户，再开始在后训练里调模型。我认为从上下文或 harness 这一层起步，投资回报率高得多。所以我认为会有这么多不同的垂直行业，它们能以一种非常领域特定的方式量化「好」长什么样，这会让它们不只做出垂直 agent，还能做出垂直 agent 的体验——不同 agent 可能有不同的体验。所以我们想把这些都使能出来。
哈里：你说如果是我要做，我会从 harness 这层开始。我们看到很多公司，不管说是 Harvey 还是 Ramp，在造自己的模型。它们到底在多大程度上是自己造模型？迈克·坎农-布鲁克斯在我们今天刚发的那一期里说，这在很大程度上是——他很客气地说——扯淡，它们是在微调中国的开源模型。这是真的吗？你怎么看？
哈里森：我认为其中很多是在后训练开放权重的模型，绝对是。我依然认为那是一件有价值的事，我不觉得那有什么错。拥有自己的智能有几个不同层次。最便宜的方式是你只控制上下文，用一个现成的 harness、现成的模型。往下一层是你开始调 harness，这给你比只控上下文更多的控制，但成本高一点。再往下一层，你后训练一个开放权重模型——你可能会拿一个现成的中国开源模型，为你的领域做后训练。然后最底下那一层，是真正从头训练一个模型。我不认为很多人在从头训练模型，我认为大多数在做后训练。如果你在从头训模型，你大概是在 NeoLab 那个位置，我认为它们是少数这么做的之一。但没错，Ramp 和 Harvey 这类公司，他们有一大堆人才、一大堆数据、一堆用量，也在真想着把它优化到极致。所以他们把上下文能榨的都榨了，把 harness 能榨的都榨了，现在走到了对这些模型做后训练这一步。
哈里：我能不能问一句，这些专用模型在后训练这条路线上到底有没有效，目前还没有定论。我看到的一些报告说它们效率高得多、效果好得多，也有的说没那么好。你觉得会怎么走？
哈里森：就后训练而言，我们看到的是：现在真正实际有意义的后训练，多半是给那些构成更大 harness 的简单任务做的。我的意思是，当一个 agent harness 在做有意思的工作时，真正跑循环的很少只有一个模型。那可能是核心，但还有一堆其他模型调用，作为护栏、路由、子 agent、子工作流之类的东西出现。所以我们现在看到后训练效率高的地方，很多是更简单的任务，比如分类、抽取、摘要——那可能是 agent 用的一个工具，或者一道护栏。
哈里森：我认为这一类后训练现在就非常说得通，往后也会继续。我认为更没答案的问题是：驱动这个循环的那个核心模型。因为 agent 工作的主要方式是，有一个大模型在循环里跑、调用工具。所以问题是，驱动这个循环的模型，会是后训练过的模型，还是前沿模型？我认为这里会来回拉锯：每出一个新的前沿模型，它们跑这个核心循环的能力就更强。我们确实看到 Harvey、Ramp 这些公司在试着为核心循环后训练模型。Harvey 大概在过去一个月里就宣布了差不多是这个方向的东西。我认为这是个开放问题。
哈里：如果你自己在做一个垂直应用，你会不会自己后训练？
哈里森：一开始不会。一开始绝对不会。但如果我们说的是五年后，假设我拿到了大量用量，我认为那会是一个现实的选项。
哈里：我猜 harness 还要做的一件事，是根据请求做模型路由。模型路由这一层，价值有多大？
16:25 模型路由是真生意还是商品
哈里森：模型路由太有意思了。我觉得它是现在最热、可能也最有分歧的话题之一。几点想法。第一，路由到底该放在哪一层？是放在 harness 这一层，还是放在网关这一层？这有点钻技术细节了，但……
哈里：区别在哪？
哈里森：区别是，放在 harness 这一层，它是在运行的代码里；放在网关里，它就只是一次 API 调用。放在网关的好处是，因为它只是一次 API 调用，你可以把它塞进任何 harness——可以把网关这一层做的路由塞进 Claude Code、塞进任何 harness，而不用改代码。
哈里森：坏处，也是我们更看好「路由发生在 harness 里」的原因——Factory 和 Cognition 也写过这个——是在 harness 里，你对正在发生的事知道得更多，对状态更清楚。API 通常假设自己是 OpenAI 那种对话补全接口，所以它只接收一定量的状态；而在 harness 里你有更多状态，你知道提示缓存现在怎么样、你想保住它、让它可用；你也更容易改提示，因为很多模型有不同的提示策略。所以如果在 harness 这一层做路由，改提示会更容易。所以我觉得我们看到的一大半，是网关还是 harness 这场争论——我们大概相信它属于 harness。
哈里：为了让我们搞清楚：OpenRouter 和其他那些供应商，有好几家，很多家，它们都在网关里。
哈里森：它们在网关里。显然，OpenRouter 是很了不起的公司，用量很惊人，我请他们上过节目，我很喜欢亚历克斯。我觉得很多人用 OpenRouter、Vercel 和其他网关，主要图的是模型接入。所以路由器和网关之间也有区别。如果要我猜，OpenRouter 的用量里很大一部分来自它是一个网关，而不是路由器——当然亚历克斯比我清楚这些数字得多。人们事先指定好想要哪个模型，OpenRouter 只是提供一个 API、一把 API key 去访问它。
哈里森：就「智能路由」而言，我认为它实际被做的程度，远低于大家以为的。而当它被做的时候，它是被 Factory 这类公司做进 harness 里的。Factory 在这件事上做得非常好，写过不少很扎实的技术博客讲他们怎么做路由。但我现在相当强烈地认为，路由必须感知 harness，你必须知道任务是什么，必须知道 harness 长什么样。所以我不认为会出现一种路由，既能用在法律上、又能用在金融上、又能用在写代码上，全都能用。它会非常依赖领域，也非常依赖 harness。
哈里：不好意思，我听你讲下来，好像不假思索地明显：既然上下文和记忆都存那儿，路由就该在 harness 层。当我遇到这么明显的答案，我喜欢搞明白我蠢在哪：把路由放在网关层，看多它的理由是什么？
哈里森：我觉得人们谈网关层路由时，说的可能是两件事。第一，它让移植容易得多。你可以拿 Claude Code——大家爱 Claude Code，对吧？你跟大家说「你不能用 Claude Code，你得用另一个 harness」，外面确实有别的好的 harness，但先假设你就是爱 Claude Code；你想让他们接着用，同时想做一点路由，比如把这个请求路由到 DeepSeek 或者某个开源模型上去，那么唯一的办法就是在网关层，因为 harness 不归你控制。顺带说一句，这也是「开源 harness、你能控制能改」的又一个理由。
哈里森：第二件事，人们谈网关层路由时，往往隐含地假设存在一个通用领域。大致有两个领域，你或许可以论证能为它们做通用路由器，我觉得 OpenRouter 在一定程度上就是这么做的。一个是写代码——写代码是最热门的领域，所有用量都在那里：做一个对写代码特别好用的路由器，也许我们不叫「感知 harness」，但我们做到「感知用例」，我们知道不同模型在写代码的不同环节各有所长，把它放在网关上。另一个是，我们有一个通用聊天机器人，我们没想在法律上做到最好、在金融上做到最好，我们就是全公司通用的聊天机器人；那么我们可以足够清楚：你说「嗨，你好吗」，那不需要 Opus，用个便宜模型就行。
哈里森：所以人们谈网关层路由时，隐含假设你要么做通用聊天、要么做写代码，而不是做某个垂直领域。一旦你进入垂直领域，我真的认为它必须放在 harness 层，你不会拿一个现成的网关路由器来做这件事。
哈里：所以两三年后，你认为多数在做 harness 里，因为上下文带来的好处；但对于非常通用的任务，它会留在网关。
哈里森：我认为完全正确。如果你在做垂直 agent，路由需要在 harness 里。如果是一个通用、水平型的任务，比如通用聊天或写代码，那它可能在网关里。
哈里：它是商品吗？是不是人人都会做？
哈里森：我不认为路由是商品。我确实认为大家会去做，但我认为即便今天，做它都相当难。部分原因是模型变太快：你可以论证某些模型在某些事上更好，但接着一个新的 Opus 或者新的 OpenAI 模型出来，它在所有事情上都更好，于是路由的价值就下降了。
哈里森：你信不信评估？我认为评估有用，但我不会完全相信它们。我的意思是，很多学术榜单在模型发布时被大量使用，但它们已经没那么有用了：出来的模型都在那些评估上刷满了，你学不到什么。你自己搭的、为你这个领域搭的内部评估，绝对仍然有用。所以这也是为什么搭评估是搭垂直 agent 极其重要的一部分——你必须有某种衡量方式，而这类评估大体可信。
哈里森：但即便那样，最重要的一件事之一还是看数据，就看数据、看它在干什么，不要过度依赖一个数字。这也是为什么你要有 trace：去看发生了什么。也许你的评估不完美——评估真的很难——但你有个感觉；也许模型其实更好了，只是以一种你之前不知道怎么捕捉的方式。
哈里森：所以我确实认为，你可以相信垂直领域专用的基准。但你也必须让它们进化，这是我们看到的主要事情之一，因为这些模型只是以不同的方式变得更好。
哈里：我能不能问，你刚提到 trace。如果 trace 是 agent 工作的全量记录，那价值在哪？在应用、在可观测层、还是在模型层？在哪？
哈里森：如果你在搭 agent，我认为价值在于「让这个 agent 在你所在的领域、垂直里变好的那个东西」。再说一次，控制一个 agent 做什么有几种方式：上下文、harness、模型。在这三者上拥有专属的东西，都可能是优势。
哈里森：控制上下文是最容易、起步时最明显的事，那就是数据、记忆、你能用的特定 API 和特定工具。控制 harness 难一点，但你仍然可以把大量领域知识放进去——该路由什么、该做什么。模型是最难控制的，但上限可能最高。而让你能在三者上迭代的东西，是评估和 trace。
哈里森：评估和 trace 里有大量价值，但价值只在于：你从中提炼出洞见，再把它带回上下文、带回 harness、或者带回模型。这个具体过程可以不一样。后训练非常适合把 trace 里的洞见带回模型。要把东西带回上下文或记忆，你大概会想拿另一个 agent 跑过那些 trace，让那个 agent 输出可以记进记忆的学习结果。而要把 trace 里的东西带回 harness，你大概会想拿一个 agent 跑过这些 trace，直接更新 harness 自己的代码。我们其实有这样一个东西给大家用，叫 Engine，是 LangSmith 里一个跑 trace、试着改代码的 agent。而当你改完之后，你需要知道它确实更好了——评估就是在这里派上用场。
哈里：我能不能问，持续学习会怎么改变 agent 和它们的运行方式？
哈里森：持续学习，我不认为它那么改变 agent 的工作方式，但我认为它改变的是你希望在 agent 周围跑的那些系统。我的意思是，一个持续学习 agent 的核心循环——也许叫内循环——大体还是那样：一个大模型在循环里，调用工具、和模型交互、和环境交互。我认为持续学习加的是一个外循环：一个看着 agent 排出的废气、然后拿它做点什么的外循环。而它做什么，取决于「持续学习」对你意味着什么。
哈里森：所以持续学习也是那种没有特别精确定义的词。要说的话，我把它定义成一个随着运行而变得更好的系统。变好的方式可以不同：它可以更新上下文，可以更新 harness 的代码，也可以更新模型的权重。这三种情况下，外循环长得差不多：拿 trace、提炼学习、修改一处、衡量它确实变好了，然后重复。但具体动作差得很远——更新模型权重，和更新一个文本文件、一个记忆文件，完全是两回事。
哈里：如果看上下文这一层，你提到数据是其中一部分。我们看到数据公司在以史上最快的速度做到几亿美元收入——有史以来最快。而且人人都在卖数据。你对这个市场会怎么走？你自己不参与，但你在旁边。未来几年会是一个整合的市场吗？你怎么看？
25:45 为什么 AI 记忆至今没人解决
哈里森：我其实认为，就 agent 的上下文层而言，数据市场在大格局里还非常早期。我的意思是，有一堆数据库，ClickHouse 可能是最近表现极好的一个例子。我认为它们在很大程度上仍然专注于做数据库：它们是老派的数据库，擅长存数据、查数据，但用的还是相当传统的方式。ClickHouse 在 AI 之前就存在了。
哈里森：当我们谈 agent 的上下文层，同样，软件系统会产生大量数据，那很好；现有的数据库——ClickHouse、Mongo、Elastic 之类——做这件事都很棒。但谈到 agent 的上下文层，我认为其中的关键部分是：对，有一个数据库，但我其实认为数据库外面还有一套系统。我认为 agent 的上下文层，长得更像「数据库外面的一个 agent」，而不只是一个数据库。
哈里森：原因是，把所有这些学习结果灌进数据库，你需要某种智能去做这件事，而我认为这种智能真的非常非常难。记忆最难的部分，其实根本不是数据库。我们跟不少公司聊过，他们做记忆的方式就是把记忆存在一个文件里，非常简单。难的是：把所有发生过的观察——用户和传统 SaaS 交互、和软件交互，或者用户和 agent 交互——提炼成有价值到足以进入这个上下文层的信息。这才是现在记忆最难的地方。
哈里：为什么这么难？
哈里森：因为要让大模型做你想让它做的事很难。而这类元反思，我认为是大模型现在还非常吃力的事：反思提示词并改进提示词，反思 agent 架构并改进 agent 架构。我们内部应该为这个建一个基准，我们在 Engine 上确实有一些基准，那是我们跑这些东西的 agent。但我认为这类元反思对 agent 来说仍然非常难。
哈里森：我认为这对人来说一般也很难。我不知道我们是否真的理解——有些人可能理解，所以我不该这么说——但我不知道我们是否理解自己脑子里在发生什么。我们的大脑仍然是复杂到我们没完全弄懂的东西。所以如果我们现在要在一个系统里复现这种学习过程，我认为里面有很多不同的零件。所以我认为模型并不擅长反思，我也不认为我们知道这个系统该长什么样：输入该是什么？输出该是什么？这个 agent 的 harness 该是什么？各种工作流该是什么？
哈里：十二个月后，模型在反思上会明显更好吗？
哈里森：大概吧。它们似乎在所有事情上都会变得更好。
哈里：你觉得模型进步的速度会保持同样的加速，还是我们正接近某种渐近的平台期？
哈里森：我认为模型进步的速度，如果不在实验室里面，是很难说的。我要说的是，有很多任务上模型进步会走平，因为已经够好了：写代码就是，写代码正在到那个点，还有摘要、路由这类任务。也会有更难的任务，或者我们甚至想不到、不知道该把模型往上扔的任务。我会说这类元学习就是模型现在不擅长的那类任务之一；我猜它对实验室非常重要，比如要攻克递归自我改进这类问题。所以我认为模型会随着时间在这上面变好，而且有可能那段进展看起来比以前快得多。不在实验室里，很难有一个有根据的看法。有些任务已经饱和了，另一些任务我认为会变得比以前更快。
哈里：今天听起来很疯狂、但你认为两三年后会极其普遍的 agent 是什么？
哈里森：我认为 agent 的记忆层仍然远未被解决。有一件事今天很罕见、未来几年会极其普遍，就是这个记忆层。我的意思是，如果你看 Instinct 或者 Muse，它们做对的事情之一就是这种个性化、会学习、看起来像是「为你准备的」——也许是语气像，也许就是那种主动跟进。
哈里森：所以我认为记忆还非常非常早期。我们聊记忆聊了大概两年，也在开源里试着做过：我们发布过 alpha，然后砍掉了一个商业版的记忆方案。记忆就是太早期、太领域特定。Instinct 或 Muse 的记忆长什么样，和一家公司、一个组织的 harness 的记忆长什么样，其实很不一样；和法律、金融那些也很不一样。
哈里森：所以我认为记忆是真正拉开差距的一件事，你能看到它拉开差距：Instinct 和 Muse 在这上面做得很好。但我认为它仍然非常非常早期，而我预期几年后所有产品都会有某种形式的记忆。
哈里：恕我直言，这不挺明显的吗？
哈里森：记忆会产生影响这件事确实很明显，所以过去几年才有这么多人关注它。但我仍然认为答案不明确，仍然认为答案极其不明确。我不认为有人知道记忆的答案是什么。
哈里：既然它这么明显、几乎每个产品都明确需要，你们为什么把那个商业方案砍了？
哈里森：我们砍它是因为没找到产品市场契合。为什么没找到？我认为我们其实做得太通用了。我认为记忆太早期了，你想搭的很多方案其实非常依赖领域、依赖具体的 agent。
哈里：所以你会做垂直专用的记忆方案。你会怎么做才不一样？
哈里森：回到记忆难在哪：我认为难的是那个从事实里学习、决定记住什么的过程，以及做这件事的 agent。就像我说的，我极度看多垂直 agent；让这些 agent 擅长学习它们领域特有的东西，是其中的关键。所以我确实认为这类会学习的 agent，至少一开始，大概率必须是领域专用的。
哈里森：我也不知道有没有一个通用的版本——这些学习型 agent 的 harness 长什么样？它大概和我们现在很多 harness 长得很像。我们做 Deep Agents，Deep Agents 就是一个 agent harness，它大概就长得像那个：我在跑循环，但它有特定的指令和特定的工具，也许还有一些特定的子 agent，特别擅长在已有的记忆结构里导航、或者提炼事实。所以我认为会有专门做记忆的 agent，我只是认为它们会是领域专用的。
哈里：你觉得消费者应用里会有垂直 agent 吗？我理解也同意你说金融、会计、销售、市场、法律这些；你提到 Muse 和 Instinct，它们是横向 agent。你觉得会有垂直的消费级 agent 吗？
哈里森：我对消费市场的看法是，两种都会有。会有横向 agent，也会有垂直 agent，而横向 agent 会和垂直 agent 交互。
哈里：什么时候该有垂直 agent，什么时候不该？
哈里森：我认为对大多数应用来说，有垂直 agent 大概是合理的。理由可能有两个：第一，很多应用掌握着关于你的知识，能比一个通用横向 agent 更好地学会你怎么用这个应用——回到领域特定那一点，你在 Spotify 上听音乐的方式，和你在 Strava 上的方式非常不同，所以这些应用其实最擅长学你。而把学到的东西展现出来，最好的方式大概就是通过一个 agent。
哈里森：第二，很多应用有一大堆 API。你可能会说，那就别做 agent，暴露一堆 API 就行了。我其实认为，如果有一个 agent 包住这些 API、对外暴露一个（也许多个，但大概是一个）自然语言接口，让横向 agent 去和这个垂直 agent 交互，体验会更好。
哈里：当 agent 成为和网站交互的基本界面时，基础设施要怎么改？我的意思是，我想要某场演唱会的票，我说每五分钟查一次、一有座位就买，然后它连着三天每五分钟查一次。查询量是有人工时的上千倍。在 agent 交互、而不是人交互的世界里，基础设施需要怎么变？
哈里森：当 agent 在交互时，请求数量会大幅上升。我记得有个故事，好像是 Rezzy 封了一个用户的账号，因为那个人在用 Instinct 去抓它的数据，频率多高我不知道，但相当频繁。所以基础设施承受的压力会大得多。这会怎么传导到更下面几层？我还不确定我有没有看法。我认为你得把系统建得能承受更大的突发、能扩得宽得多。更具体的我说不上来。
哈里：会不会有供应商允许或不允许 agent 使用？
哈里森：我认为未来是，供应商暴露自己的 agent，然后要么人直接和这个 agent 交互，要么人的横向 agent 和这个 agent 交互。
哈里：所以我的横向 agent 会和 Rezzy 的垂直 agent 交互，我想确认一下。
哈里森：我认为完全正确。
哈里：那为什么这行得通？因为这样仍然没解决很多这类生意的两个核心问题：它们丢掉了广告模式，也丢掉了加购——那种「你可能还喜欢」的推荐，于是客单价变小了。agent 对 agent 为什么能成立？
哈里森：我认为你可以把其中一些东西放进 agent 的回复里。你可以在 Rezzy、Etsy 之类的地方为特定商品做广告，然后把它放进 agent 的回复里：「我找到了这三样，你可能还想看看这个。」这就变成一段自然语言回复，回到那个主 agent 那里。我也认为，从系统压力那一点看，如果你有一个垂直 agent，它和底层系统交互会比第三方 agent 更好、更高效。所以这对它们来说会高效得多。
哈里：当我们看 agent 带来的查询量和数据量，干这些活要花很多 token。token 的成本、智能的成本会怎么随时间变？因为我们一直以为它会变便宜，但它并没有便宜多少。这件事到底该怎么想？
35:45 token 越来越便宜，账单为什么越来越贵
哈里森：成本是我们现在和客户聊的最大的几件事之一。这里面有几个维度。第一，我认为前沿模型相对而言在变便宜：Astra 的性价比，和一年前的很多东西比，好得惊人。第二，需求多得多。当你开始谈 agent 和 agent 对话、多 agent 系统，被烧掉的 token 就是多得多，所以成本在上升。我们在写代码这件事上最先看到：写代码的成本已经飞起来了。而很多组织，包括我们，现在都在想办法把这笔钱收回来。
哈里森：最后怎么解决？如果你看我们怎么处理编码 agent，里面有几个提示。我们处理编码 agent 分三步。第一是可见性：让管理员看到事情会花多少钱、已经花了多少钱。第二是成本控制：你可以说「去帮我订个位子，但别花超过 5 美元」。第三是真正去改 harness 本身。
哈里森：我认为过去大量的 harness 工程是围绕「让 agent 更准」做的，因为那才是最大的拦路虎。当成本变成更大的顾虑，我们看到大家开始在意提示缓存这类东西——它对降成本真的很有用。我们也看到模型供应商把这件事变得更容易：它们引入了比如「在运行中改变 agent 可用的工具」这样的能力，以前这么做会打断缓存、造成成本大涨，现在你可以动态加上，而成本不变。所以我认为，在模型 API 和 harness 两边，都在更多地被拿来控成本。
哈里：你今天跟大企业聊，他们最在意什么？准确性、成本，还是安全？
哈里森：顺便说，还有一个是延迟。我们每年做开发者调研，问开发者在意什么。过去两年，排第一的回答基本都是准确性，而且差不多是第二名的两倍。接下来两个是延迟和成本，安全稍微靠后一点，但很接近。最近跟大企业聊，我会说成本的排位上升了：我大概还是会说它在准确性之下，但可能已经高于延迟。安全，对大企业来说更高一些，但可能还是在准确性和成本之下。
哈里：你们花在编码工具上的钱，大概占工程薪水的百分之多少？不用精确。
哈里森：我们大概把工程薪水的 30% 花在编码工具上。过去两个月它其实降了，而我们用掉的 token 数量其实涨了。我们做到这一点靠三步。第一是可见性：把我们所有编码 agent 的用量都接进 LangSmith，这样能看出谁花了多少、花在什么上，可以做分析。第二是基本的成本控制：我们设了预算，如果撞到预算，你可以去找我们的工程副总裁谈，几乎总是能批下来加额度；但它是一道保险，防止 agent 被错误使用或者掉进坏循环。第三是我们控制 harness。
哈里森：我们做的一件事是自建了一个云端的编码 agent。不是 IDE，也不是终端里的 agent——那些随大家用。我们自建的是云端 agent，叫 OpenSwe。它其实是我现在唯一写代码的方式，因为我一直在 Slack 里，直接给它发消息就开跑。在那个 harness 里我们做了很多控成本的工作：提示缓存，还有路由，都做进去了。我确实认为，这是一套相当可复制的三步流程：先可见性，再基本控制，然后改进 harness 本身。
哈里：完全明白。我想拆开问一下：你说可见性，看谁花了多少。花得最多的人，是最有效的人吗？
哈里森：有时候花得最多的人最有效，有时候不是。我的意思是，我们有几位资深工程师花得很多，我百分百相信他们做的事值这个钱，毫无疑问。但也有过一些情况，更多是傻错误或者配置不当，用量就出现巨大尖峰。
哈里森：举个例子，有一两个任务里用了一个插件，它会把网页的 DOM 截个图或者拍个快照，然后在 agent 的每一轮都发回去——因为他们在做前端工程，想让 agent 看看页面长什么样。它就这么跑了一个巨大的循环，我们在一周里为这一件事花了四万美元。到那个程度，我觉得我们公司平时挺宽松、也挺信任人，但我知道那大概率不值。它不是恶意，甚至算不上有意使用，就是一个错误。所以只要能抓到它，就很值。
哈里：你刚说 30% 的薪水，这是个估数，没问题。两年后这个数字是多少？
哈里森：估算编码 agent 支出最难的地方在于，组织本身变得太快。我的意思是，有一种未来是组织小得多，而编码 agent 的支出跟人的薪水一样，甚至多一个数量级；你只有很少的人，但他们在以极快的速度、极高的效率推动和执行。这个图景很诱人。
哈里森：但我不认为很多公司——包括我们——已经到了那里。我们看到的是仍然需要一批背景不同、专长不同的人一起协作，有大量沟通、管理开销和评审。理想状态当然是一个人驱动一百个 agent，把产品的大部分都推起来。但我们看到的是，这里面仍然有非常「人」的成分。
哈里森：所以我花很多时间想组织设计。有没有可能有一人团队、两人团队去驱动 agent？这很诱人。在那种情况下，我会说 agent 的支出可能是人力成本的三倍，但能这么干的工程师极其值钱，所以也许最后支出反而没变：能做这件事、能驱动一堆 agent 的人更少，但你付给他们的钱多得多。所以我认为组织设计现在非常有意思，也正因为如此，这个问题真的很难回答。
哈里：在我看来这个数字太核心了，因为它是 Anthropic 企业价值的根本决定项。如果这个数字掉到 5%，那 2 万亿美元的 IPO 可能就有点贵了；如果它真的像麦考那样到 300%，那就是被大幅低估。所以我特别关注它。你同意这个数字是 Anthropic 价值的地基吗？
哈里森：我认为这个数字是 Anthropic 价值的地基，大概是对的。麻烦的地方在于，到目前为止我们真正看到 agent 产生效果的领域只有软件工程，而企业里还有一大堆地方，我认为还没有被 agent 碰到。所以我认为这是可能的。再说一次，软件工程我觉得非常难预测。但这里基本上有两个杠杆：一个是软件工程里会发生什么——和今天一样、更多、还是更少；但我毫不怀疑，其它领域会比今天多得多。所以从这个角度，我对 Anthropic、OpenAI 和其他模型供应商非常看多。
43:25 企业该怕中国的 AI 模型吗
哈里：我觉得很多人还在问的另一个问题，是开放模型的扩散会怎么改变这个格局。你在和一些非常大的企业合作。我的一位好朋友、SaaStr 的杰森·莱姆金说……我不学他的口音了，我会学坏的，以前学过，他说我学得不太好。你看到的是，大企业真的害怕用中国的开源模型，还是其实他们不在意？
哈里森：我们看到有些企业害怕用中国的开源模型，也看到另一些完全不在意。你问这个害怕是否合理？我不太认为这个害怕是合理的，我认为里面有几个不同的顾虑。一个顾虑是，它跑在上面的数据会不会以某种方式回到中国的实验室。再说一次，如果你用的是 Fireworks，或者你自己托管，我觉得这个想法很荒谬。
哈里森：还有别的顾虑是，它训练时用的那些东西，会让它的回答方式和企业价值观不一致之类。我认为这正是评估派上用场的地方。我认为这在很大程度上是没有根据的；但当然，也许在某些领域确实有点真实的东西。所以我认为大体上没有根据，但在某些领域，因为回答方式，我能看到里面有一点细微差别。
哈里：你觉得未来十二个月，我们会有可以相比的美国开源模型吗？
哈里森：我认为未来十二个月，我们绝对会有可以相比的美国开源模型。你看英伟达为配合这个生态做的一切，我认为他们极其在意这件事。你看 Reflection 最近发了一个模型——我认为它在某些基准上还稍微落后于一些中国模型，但这个领域有巨大的注意力。所以我绝对相信会追上来。
哈里：看今天开放模型的格局，以你的位置，你很清楚、但世界还没看清的是什么？
哈里森：谈到开放模型，我认为它们的用量很大，但我确实认为它们被用在比大家想象更窄的任务上。我们看到的用开源模型、用后训练模型的人，比我一年或者一年半前会预期的多。但我仍然认为它们主要用于那些更简单的任务：路由、护栏、抽取、摘要。
哈里森：我不认为它们真的在驱动很多主力 agent 的核心循环。所以开源模型这件事很分裂：一端的人说，太好了，它们够好了，什么都用它——我不认为它们到了那个程度；另一端的人说，前沿模型会越来越强、越来越便宜——对，那是真的；但如果你真的清楚自己要做什么，也就是你有高频用例，其中有几个组件是足够简单的任务，那么为这些用例去后训练模型，投资回报率非常好。
哈里：你怎么看推理市场会怎么走？你提到 Fireworks，我们很公开地说，我们是 Fireworks 的大投资人，我很喜欢林和那个团队。但所有人都在做这件事：我们请过 Crusoe 的蔡斯上节目，他们业务里也有一块；我和 Nebius 那帮人是朋友，他们也做。这门生意会怎么走？你怎么想「做整条栈」和「只做推理」的差别，比如 Fireworks 或者 Baseten？
46:20 今天有哪些东西他不会再投
哈里森：说到推理这件事会怎么走，有两件事是我从 LangChain 起步到现在真正低估了的。一个是对推理的需求，另一个是对编码 agent 的需求。我认为这两个市场都比三四年前我想的大得多。
哈里森：其实是 Benchmark 的埃里克·维什里亚最近在推文或者播客里说的，他基本上是在说：一切都跑得通，这个市场太大了。托马斯·通古兹也说过类似的话。把这个说法用到推理上，就是：任何一家做推理的都能成。因为需求就是那么多，而我不知道它短期内会不会变少。所以当然，Fireworks 能成，AWS 能成，Crusoe 能成——我只是觉得需求太大了。
哈里：那你今天不会投什么？我可以给你几个例子。我觉得客服这个领域非常没意思：过去十八个月里有二十家供应商拿到了一亿美元以上的融资，那里还有 Salesforce、Atlassian 这些大玩家，还有 Intercom、TalkDesk 这类稍微老一点的也在做。或者像机器人——这话有点大胆——但太多钱涌进机器人了，我们离 ChatGPT 那一刻还很远，人形机器人在形态上尤其挣扎。我觉得融资和兴奋程度远远超过了能力，这就是我的回答。
哈里森：我愿意把自己看成某种乐观主义者，所以我确实认为这项技术是变革性的，因此会有大量机会。所以我可以先回答这个，然后我们从中反推出我不会投什么。我认为推理我们刚聊过，那里有巨大的……
哈里：我们来做这个。你是我基金里最新的合伙人，欢迎，第一天来真好。
哈里森：谢谢。
哈里：第一，我们应该有推理。
哈里森：我们应该有推理。会有多得多的软件被写出来，所以我们也该投更底层的基础设施原语。Modal 是了不起的公司，Temporal 是了不起的公司。
哈里：它们不和 Fireworks 竞争吗？
哈里森：Modal 在某些事情上竞争，对。
哈里：但是……
哈里森：但它们做的更多，它们做沙箱。所以有推理层，然后是编码层——我会说推理，然后是基础设施，底层基础设施：Temporal、Modal、Supabase、Convex——然后是垂直 agent。我认为垂直 agent 会是一个好层。
哈里：有具体的垂直行业吗？
哈里森：我不知道有哪个垂直行业我会特别超配。我认为重要的是拥有领域特定的观点、并且真的往深处扎。我记得帕特里克·科里森在最近一个播客里说过，好像是跟 Replit 的阿姆贾德聊的，说到他下一家会做的创业公司：它大概不会是一个很性感的领域，而是某个技术、或者至少 AI 渗透率还很低，但那里积累了大量的领域知识，你进去把它真正改造掉。
哈里森：关键基本上就是：拥有某种领域专长，它能被固化进数据，或者固化进 harness 里的逻辑，最终也许进模型权重——但我不会从那里起步；拥有能被固化下来的领域专长，然后把它用起来。
哈里森：顺便说，我在这类公司里会看三件东西，我认为是前提条件。第一，他们的人才极强。Modal 的人才团队强得离谱；林和 Fireworks——他们写了 PyTorch，这有多了不起？
哈里：我们在 MIT 见面的时候，你知道见创始人最后一次做简短介绍时，就是「我写了 PyTorch」这种感觉。
哈里森：这确实管用，这一栏我们直接打勾。所以要搭这种真正深的基础设施，你必须技术极强，而能做到这一点的人没那么多。第二，你必须跑得非常非常快。能快速迭代我认为极其重要，因为市场变得太快。说到速度、执行速度，我想到 LangChain 的优势：我们迭代得非常快，我认为这是我们相对别的公司的一项优势。
哈里森：最后一个是品牌。我认为这个 AI 时代里成事的很多公司，基本上都是抓住了闪电、然后乘着那道浪把它接住了。你看 LangChain 早期，我们传播得非常快，然后对着这个势能执行；Cursor 是个好例子，他们传播得非常快，然后执行；Jev，甚至 Claude Code、ChatGPT。这个领域动得太快了，因为竞争者太多——也许正因为如此——LangChain 出来之后两个月，冒出来一百个不同的框架。你有一个建立起来的品牌优势，而我认为那是一种可以持续的优势。
哈里森：所以 Instinct 是另一个例子，大概还有一堆个人助理。至于那些估值可能比理性更高的融资轮——如果里面有一家突破性的公司、技术阵容很强、已经证明能快速执行，我认为你就别看价格，直接投。
哈里：做第一，是不是比以往任何时候都重要？
哈里森：我认为是这样，绝对。你看，追上来是可能的——我认为 OpenAI 追 Codex 做得非常了不起。但做第一，Anthropic 和 Claude Code，那是多大的优势。
哈里：但按你说的，区块链出来之后几个月，越来越多出来；Instinct 也一样。可「第一个」带来的那种可持续的品牌垄断，确实非常真实。
哈里森：我认为那非常真实。我也认为你之后必须执行得极好。反例就在眼前：做第一不代表一定成功。AutoGPT，不知道你记不记得那个项目，它在 LangChain 之后几个月出来，是史上增长最快的 GitHub 项目。从那之后我就没怎么听到它的消息了。所以光做第一不够，因为带着速度执行非常难。
哈里：我从来不喜欢贬低别人，所以我更愿意在某些方面夸他们。如果你要写一份备忘录，说明我们为什么要投 90 亿美元的 Jev 这一轮，你对 Jev 的看多理由是什么？
哈里森：Jev 的看多理由是：有一种新的推理、新的模型类型，而这个模型类别干脆就是以他们命名的。所以他们会乘上那道浪，而且他们是一个非常有才华、能执行这件事的团队。我对这个团队了解不深，但在那个估值上做一轮，这是你必须接受的假设。从我看到的全部信息看，情况似乎就是这样。这就是看多理由：他们基本上发明了一个新的模型类别，和它绑定在一起，并且有一个能执行它的强团队。
53:05 创始人该为一级基金的牌子打折吗
哈里：拿 Benchmark 的钱，会改变一家公司的轨迹吗？
哈里森：百分之百会。迈尔斯和整个 Benchmark 合伙团队投我们的时候，就是我加安库什，两个人。我们真的把他们当成第三个联合创始人。当我回想从两个人做到今天四百人这段公司建设，他们肯定是我们这一路上最稳定的伙伴。
哈里森：我不是风投，我从来没做过风投。这里面大概也有别的市场动态，有大牌机构参与本身就是一种信号。我们很幸运，在 Benchmark 那一轮之后两三个月，红杉也进来了，他们也是极好的伙伴。
哈里：红杉是谁？
哈里森：红杉的索尼娅，她是这个圈子里人脉最通的人之一。
哈里：他们的风格有什么不同？
哈里森：Benchmark 可能更关注公司最核心的那块——我们会成为你的回音板，我们在这上面帮你。我的意思是，很多公司建设、定位上的事，我会去找他们，他们愿意花时间在那里。红杉的风格是，什么都帮，他们像一台机器：帮招人，招 IC、招高管；帮市场、帮发布。而且真的有用——我们很多候选人来自红杉的推荐。
哈里：真的吗？
哈里森：真的。他们有一个人才网络，我们从那里拿到了一批非常强的候选人。
哈里：你会跟创始人说，为了红杉在估值上打个折是值得的吗？
哈里森：我觉得为了红杉和 Benchmark，大概还有别的一些顶级、一级基金，在估值上打个折绝对是值得的。当然，那几家是我们合作过的。
哈里：关于融资，你现在知道、但当年只有你们两个人的时候希望有人告诉你的是什么？
哈里森：我觉得融资几乎像一场游戏，而我进去的时候完全不知道。我是第一次创业，我几乎把所有时间都花在产品上，非常专注在那上面。我确实认为融资有它的玩法：你想「不融资地融资」——你拿到一份条款书，然后告诉别人你已经有条款书了，再在推特上贴一张收入曲线图，接着一堆人主动找上来。
哈里：对，就是这种。你喜欢这套吗？我他妈讨厌这套。也许我现在太老了，玩不动这个游戏了。这就是摆姿态。就像在问：哈里森，你到底是不是真的喜欢我、想和我一起做生意？我给你一样的价格、一样的钱，咱们就把事做了，别他妈摆姿态了。
哈里森：我一点也不喜欢融资。就像你说的，我想和一些我喜欢共事的人一起做出点了不起的东西。以我们的野心规模，我们确实需要融资才能做到。Benchmark 在我们那一轮大概也是这个路子：先看看我们是不是彼此喜欢、想不想一起干。顺便说，那也是一种非常高明的谈判手法，他们也是很厉害的谈判者。
哈里森：但我们最近这几轮，B 轮是 IVP 的汤姆投的。我大概从红杉那一轮前后就开始和汤姆聊，聊了两年半以上。那是一段慢慢建立起来的关系：我了解他，他也了解我。所以到真要融资的时候，我觉得里面少了很多游戏，我很感激这一点。
哈里：我想做一个快问快答：我说一句短的，你给我第一反应。可以吗？来。你最喜欢的一次风投会面是哪一次？
哈里森：第一次向 Benchmark 路演，一屋子都是传奇。
哈里：谁是最好玩的？
哈里森：比尔·格利。
哈里：你当时怕吗？
哈里森：我大概太天真了，来不及怕。
哈里：而且他就是个大块头，一个让人有压迫感的身影悬在你面前。关于 agent，你最相信、但生态里大多数人不会同意的一件事是什么？
哈里森：做它们仍然真的很难，真的非常难。也许大家会同意这句话，但我认为「有多难」这件事被低估了。
哈里：过去十二个月，你改变最大看法的是什么？
哈里森：推理这个市场巨大。我记得一年半前和董事会讨论要不要做网关，当时我们看不到自己相比 OpenRouter 这类东西能加什么价值。我认为那百分之百是错的决策。
哈里：对你和团队来说，技术上最难做的东西是什么？
哈里森：我们为存 agent 的 trace 自建了一个数据库，SmithDB。
哈里：你怎么想和 ClickHouse 既是竞争对手、又是客户这件事？有点怪，还是正常？
哈里森：我们大概有五百家这样的「亦敌亦友」的公司，我个人已经非常习惯了。
57:35 OpenAI 1.5 万亿，还是 Anthropic 2 万亿
哈里：只能投一个 IPO：OpenAI 1.5 万亿，还是 Anthropic 2 万亿？
哈里森：OpenAI。我认为他们通往真正巨大退出估值的路径更多、更多样。
哈里：完全理解。2022 年你刚开始的时候，你希望自己知道、但当时不知道的是什么？
哈里森：我希望我知道今天的 harness 长什么样，那样我们就能更早把它们做出来。
哈里：最后一个。往前看五年，你最兴奋的是什么？
哈里森：我最兴奋的是，我们能用 AI 做出什么样的创作类的东西。AI 很大一部分、我们做的很大一部分，是帮企业更高效、交付结果。但像 Suno 这样的创作类东西极其有意思，我希望看到更多。
哈里：完全同意。我记得请过 Mikey 上节目，那一期挺好玩。哈里森，这一期太好玩了，谢谢你容忍我的任性和乱掉的日程，你是一位很棒的嘉宾。
哈里森：不，非常感谢你请我。
哈里：（片尾广告）在我们今天离开之前：优步、Cursor 和 Harvey 有什么共同点？它们都做了一个很明智的决定——把东西建在 Fireworks 上。Fireworks 是很多世界领先 AI 产品背后的专用智能平台。公司用 Fireworks 部署最新的开放模型，用自己的数据把它们专业化，然后以现代 AI 应用要求的速度和可靠性跑在生产环境里。但把模型送进生产只是开始。随着 AI 用量放大，对某一个请求最好的模型，未必是对下一个请求最好的模型。这就是 Fireworks Nexus 出场的地方：Nexus 接入你的工程师已经在用的 AI 编码工具和 harness，智能地把每一个请求路由给最适合的模型，帮你优化质量、延迟和成本，而不改变工程师的工作方式。想看智能模型路由的实际效果，访问 fireworks.ai/20VC 注册免费账户，用优惠码 20VC50 领 50 美元额度。
哈里：（片尾广告）Fireworks 给 AI 提供动力，Laradin 帮你衡量它的影响。现在每家公司都跑着两支劳动力：人和 AI agent。Laradin 是第一个同时覆盖这两支劳动力的统一看板，衡量它们的工作、优化它们的影响。Laradin 回答四个问题：谁在用 AI？用的哪些工具？花了多少钱？到底产出了什么？按团队、按供应商拆开看。AI 的投资回报不再靠猜，而变成一个你可以持续、有把握地衡量的数字。Gainsight、Vertiv、SurveyMonkey 以及很多其他企业都在 Laradin 上跑它们的 AI 项目。你押注 AI，Laradin 证明它确实在起作用。访问 laradin.com 了解更多。
哈里：（片尾广告）Laradin 追踪 AI 的影响，Superhuman 帮你跑得更快。我能跟你说句实话吗？我这周的真实样子是这样的：全天排满会议，真正的压力堆在会议之间的空隙里。从六个创始人会议里出来，手里是一整摞待跟进的事，收件箱里是几百条消息。而在这堆东西里，藏着那件真正重要的事——我一直跟我妈说，那件事就是她。我试过用 AI 工具处理这些，但它们总是活在另一个标签页里：我得停下来，去找它，把上下文粘进去，写一条完美的提示词。那点摩擦刚刚好，让它一直没真正用起来。Grammarly 团队做的 Superhuman Go 完全不一样：它就在你需要的地方、你需要的时候——我正在读的文档里，我正在写的邮件里。当一个线程变得很长，我把它高亮，让 Go 把重点拎出来，而我不会丢掉正在读的位置；一连串会后，我问它到底决定了什么，Go 把它变成清晰的行动项，或者直接把我需要发的那封回信起草好。它已经跟上了节奏，而控制权始终在我手里。试试 Grammarly 团队做的 Superhuman Go，详情见 superhuman.com。
References
- 1LangChain 官方 About 页
langchain.com
- 220VC 官方单集页
thetwentyminutevc.libsyn.com
- 3本期整集音频
traffic.libsyn.com
- 4Stripe 官方新闻稿（2026-08-19）
stripe.com
- 5
- 6LangChain 官方博客索引
langchain.com
- 7
- 8LangSmith LLM Gateway 官方博客（2026-07-30）
langchain.com
- 9LangChain 官方 B 轮公告（2025-10-20）
langchain.com
Comments