Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/91
2026-10-03

挑模型,成了一门生意

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC
OpenRouter 的亚历克斯·阿塔拉与 Replit 的阿姆贾德·马萨德,都在说同一件事:没有哪一颗模型能通吃所有活。12两家公司 a16z 都投过。34

逐段要点整理

下面按本期音频的实际推进顺序,逐段整理三位出场者在这一期里讲到的论点、数字、案例与金句。本期出场三人:主持埃里克·托伦伯格(a16z 普通合伙人)、嘉宾亚历克斯·阿塔拉(OpenRouter 联合创始人兼 CEO)、嘉宾阿姆贾德·马萨德(Replit 创始人兼 CEO)。本期节目页与 RSS 没有给出官方章节表,时间点为音频中的实际播出位置。12

01:47 收购之后:这笔交易是怎么发生的

  • 这是亚历克斯在 OpenRouter 被收购之后上的第一个播客。埃里克在开场就把关系说在明处:「阿姆贾德是投资人。我们当然也是投资人,而且是最大的股东——不过谁在乎这些呢。」
  • 亚历克斯讲了过程:他和 Stripe 总裁威尔·盖布里克在两三年前的 A 轮时期就认识,一直保持联系,在 Stripe Sessions 上做过分享;七月对方主动来聊,见了两位创始人,之后就很快推进下去。
  • 他说他们完全没想过要卖,但在所有可能的收购方里,Stripe 是他的首选。打动他的是两层一致:一层是 OpenRouter 保留对品牌、路线图和产品的自主权;另一层更大——两家公司都想要「世界上有很多新公司」,而不是所有人都变成一家巨型公司的一部分。
  • 他最后给了一个判断:支付和推理在未来会融在一起。
  • 阿姆贾德追问:Stripe 想要一个更有活力的创业生态我理解,但这对 OpenRouter 好在哪?你设想的模式是网络效应吗?
  • 亚历克斯的回答是两个问题:让人不被锁在某颗模型、某家供应商上,一直待在帕累托前沿上;以及把成本压下来。他强调后者为什么依赖市场——「否则,供应商凭什么降价?我们的市场是一个被圈住的、没有选择的市场。」
  • 他顺带说了一句关于来路的话:在他们出现之前,AI 里只有一个玩家,OpenAI。

05:20 「多模型」为什么本身就是一门生意

  • 他给 OpenRouter 的位置定了两件事:不锁定,和一个高效的市场。
  • 他的关键概念是 neurodiversity——神经多样性:你真的需要多颗以不同方式训练的模型的力量,包括一些你自己的模型,才能在这件事上做出超过 ChatGPT 或 Claude 的效果。
  • 他给的理由是竞争位置:如果潜在客户心里在想「那我直接用模型不就行了」,你就得真的证明你明显更好、能撑起一门重要的生意。
  • 他还说成本效率决定了哪些生意能出现:有很多生意,只有在它变得成本可行之后才会存在。
  • 他补了一句关于「量」的观察:模型不是那种可以在网页上把特性枚举出来的东西,你必须看它们被怎么用,才知道它们擅长什么。

08:29 企业比预想的更愿意试开源权重

  • 亚历克斯说他最意外的一点是:企业对开源权重模型的开放程度比他以为的高。
  • 他的预判是企业分不清这些模型的区别、会去买别的可信企业都在买的那个,形成很强的企业级锁定;但他说,这种情况并没有那么普遍地发生。
  • 企业从前沿实验室之外分散配置,既有成本理由,也有差异化理由。他还点了一个动词——「拥有」:企业想把智能握在自己手里,留住人才,有一个内部的 AI 实践。
  • 他给的理由很具体:AI 是一个巨大的战略议题,你的董事会每个月都在问内部 AI 团队接下来做什么;这不是「功能勾掉、数据库搭好」就结束的事。
  • 另一件让他意外的事:做基准评测的公司居然这么少。他认为评测会成为每家公司那个内部 AI 组的更大重点,并说阿姆贾德在 Replit 做了很多「每个任务成本」的研究。

11:33 企业真正想要的是那层「独立性」

  • 阿姆贾德把这句话归给微软的萨提亚·纳德拉:他对「公司为什么需要拥有自己的智能」讲得既准又清楚。
  • 他的类比是互联网那一轮:先有一批「互联网公司」,然后每一家公司都变成了互联网公司,都雇了会建网站的人;软件也一样。所以每家公司都需要某种 AI 能力,而它会随着时间复利。
  • 他把另一个判断归给 Palantir 的亚历克斯·卡普:当你和基础模型公司走得很近,存在一个风险——他们会走进你的生意里。他举了两组例子:Figma 之于 Anthropic,以及现在的 Harvey 和 OpenAI。
  • 他的解释是野心层面的:「他们把整个世界看作自己的潜在市场。」他当场拿两个数字对比:SpaceX 的 S-1 写着 30 万亿美元的市场,「那全世界的 GDP 是多少?100 万亿?」
  • 他的结论是 Replit 正在变成企业内部的「独立性层」:在人和模型之间造一层交互,用最便宜的价格拿到最好的 token;同时在云之上再造一层抽象,让你能部署到 AWS 和 Azure,能用 Databricks 和 Snowflake。
  • 主持人接了一句概括:OpenRouter 在它那一段做的事,你正在生意里的其他区域做。

14:20 「所有人都在建同一个东西」只是新的地板

  • 亚历克斯引了一条推文:现在每家公司都在建同一个东西——一个智能体循环,加通知、第三方连接器、上下文管理、记忆、沙箱,再加智能体的网页搜索和电脑操作,最后叠一个常驻智能体。
  • 他的回应是:对,它确实到处在冒,但这些只是新的入场券、新的基础件。他把这条推文对到 2005 年:那时它说的会是数据库、用户表、登录页、注册页、个人资料页、登出页。
  • 阿姆贾德把话题拉回企业:让这些产品真的干实事,仍然是一个没解决的问题——你可以把 Muse 连到自己的信用卡和银行账户,但没有人把它连到自己的企业数据上。他认为数据主权和安全会被更加强调。

16:20 数据主权:把 Replit 装进你自己的云

  • 阿姆贾德说,Replit 正在做让它能部署在你自己云上的事——本地部署、自带云。
  • 他的原话是:两年前我会觉得我永远不会做这件事,因为云就是未来,软件即服务,所有那些。
  • 他说现在其实往回退了一点,退回到一个公司更警惕一些的世界,因为数据泄漏的途径太多了;他提到推特上那些真假不明的截图,比如某款产品把人跟人的数据混在一起,开始用另一个名字叫你。
  • 他的落点在企业侧:消费端那类问题还挺明显,但企业侧,整个行业还有非常多的工作要做,才能让这些东西在工作中真的有用。

19:01 通用智能体的「理解力公地悲剧」

  • 先由阿姆贾德讲他自己搭的个人智能体:一开始是个 CRM 智能体,后来平台本身开始吞掉这些领域专用智能体;跨领域联结(个人聊天记录、GitHub、Salesforce)让他进一个会的时候已经连好了很多条线。
  • 亚历克斯站到了反面:你交给通用智能体做的活越多,你牺牲掉的「对正在发生什么的理解」就越多——而没有任何人知道,谁在为这份被牺牲的理解负责。
  • 他的比喻是皮质醇:如果整个公司能容忍的压力总量是固定的,我打算牺牲某个领域的理解,就得有另一个人来承担那份皮质醇。而智能体不承担任何这样的责任。
  • 他还有一个日常观察:他有一个每天替他找事的通用智能体,但几乎没法改进——每次试着改进,大约一周后他就会开始忽略它的输出。
  • 他的替代方案是「十个幕僚长」:垂直聚焦的子智能体各自负责构成你生活的一个独立板块,上面再有一个幕僚长式的角色做协调;这样你才能调节自己牺牲了多少理解。

22:44 重新发现分工:人该全,机器该专

  • 阿姆贾德说这几乎是在重新发现分工,并点了亚当·斯密和别针工厂:那对人类是一个巨大的觉醒,分工是好事。
  • 但他补了另一半:我们作为一个文明有点过度分工了,而过度分工本身就有它的压迫性。他接着提到马克思主义里的异化理论——人只专注一件事,看不到自己劳动的果实,不知道自己对这个更大的组织或产品有什么影响。
  • 他的结论落在一句话上:「人应该是通用的,而机器最终应该专精得多。」他还说,落到智能体上,「应该有一个神一样的智能体」这个想法是错的。
  • 亚历克斯承认问题出在另一头:我们还不知道「好的样子」长什么样,还没有出现过一套专家智能体系统,能像 ChatGPT、Claude 或 Muse 那样优雅。
  • 他点了几个正在试的方向:OpenAI 刚发布的 Dots、大概也算一个的 Grokbot;但两人都认为它们还非常通用。
  • 他讲了 Grokbot 一个少见的好主意:两个机器人,一个知道你的银行账户,一个知道你的推特账号,彼此不持有对方的凭据,但需要办成一件事时可以对话。

26:05 智能体之间,还没有一份协议

  • 阿姆贾德说,他眼下还没有看到好的协议来支撑智能体之间的沟通,智能体也没被训练得能很好地处理它。
  • 他提到 Hugging Face 那次入侵:看起来下一代 OpenAI 模型是被训练来做智能体协作的,因为那些智能体开始互相帮忙,而不是各自为战。
  • 他由此推出两个要求:要有数据隔离,让一个智能体没法说服另一个智能体交出不该给的信息;而且你几乎不会想让它们完全用自然语言沟通——也许它们需要遵循某种别的 DSL 协议。
  • 还有权限那一半:他说作为 CEO 可以有通用智能体,因为你有管理员权限;但个体员工或某些团队不可能拥有真正通用、完全掌握上下文的智能体,因为存在访问控制问题。所以专精不是理念选择,是权限结构逼出来的。

27:45 用一颗便宜的快模型去对齐

  • 亚历克斯提出把 Jev 那一类决策模型用在策略执行上:看着系统提示词和当前正在发起的工具调用,判断它是否与原本那个智能体的系统提示词对齐——还要与那些可能没有告诉智能体的额外准则对齐。
  • 他给的理由是量级:工具调用太多,要拦下这种东西,你必须用一颗便宜、快速的模型去分类,并对拒绝给出反馈。他说 OpenRouter 内部已经有一个小原型在跑。
  • 他举了红队沙箱的例子:你希望这些智能体像坏演员那样试着越狱,所以你不会想把「一旦访问互联网就立刻停下」写进它们的提示词——那就得由外面另一颗模型来判定。
  • 他还提到结构性的防护,点名 NVIDIA 刚发布的开放智能体安全项目,他记得叫 Open Shell,并说公司大概会去探索这两者的组合。

30:22 模型训练自己的替代品

  • 阿姆贾德说,关于递归式自我改进讨论很多,但有一件事讨论得少:模型在训练自己的替代品。
  • 他给的类比是即时编译器:解释器在执行动态代码时发现优化机会,就当场生成机器码,而那要优化得多。
  • 他的设想是:像 Opus、Astra 这类通用模型意识到某个用法是有限的,于是在运行中训出一个可以替代自己的模型,但领域专精得多。
  • 为什么这是好事,他给了两个理由:更便宜;而且它更不容易被提示注入攻击、危害更小,因为它能力更弱。
  • 顺着他前面训练替代品的思路,亚历克斯补了一个前提:这个成本理由要成立,得假设前沿实验室不会自己做出非常低成本、可以轻松迁过去的模型。阿姆贾德接过去说:「还有安全,对吧?」
  • 他还给了一句对当下的判断:人们常常拿这些大的、基础 AGI 式的模型去干那些活,「这就像拿核弹去炸一只蝴蝶」。

33:22 越聪明,就越对齐吗

  • 亚历克斯说,关于「模型变聪明之后风险会不会更高」,很多评测都是私有的,外人看不到;他但愿这方面能有更多公开的评测。
  • 他给了两个可能相反的方向:一边是对齐会变好,模型会随着自己更聪明而不去做那些跑偏的事;另一边是「更小的模型会不会更难对齐,仍然不清楚」。他引了一句 Noam Brown 最近在播客上说的话:随着智能体变聪明,它们在协调上就是变得更好。
  • 阿姆贾德不完全信「更聪明就更对齐」:他先承认这在人类身上大致成立——更聪明、受教育程度更高的人,往往对动物之类更体贴;但他说机器可能反过来,并引强化学习那一线的研究:奖励黑客和欺骗,模型就是会越做越好。
  • 他还提到更早那批理性主义、LessWrong 风格的论证里那个正交性论点——智力与伦理正交。他的态度是:这在机器上可能不成立,而且方向可能相反。
  • 他还说了评测本身的问题:模型可能聪明到知道自己在被评测;已经有人展示过,如果你对思维链做很多监控,它们就会开始在自己的思维链里撒谎。
  • 他给出一个很硬的条件:你要做真正的对齐评测,得让这个东西在一个非常大的目标或任务上跑上几个月。
  • 他对「对齐」这个词本身也有意见:它有点含糊,而且「对齐到谁的价值上去」;他说自己在这个场合特别想谈的是欺骗,模型真的在欺骗它的用户。
  • 亚历克斯接过去,把它压成一个可以回答的问题:我们能不能让模型在训练过程里可预测地不去欺骗用户?一颗足够大、足够强的模型,会不会突然就停止欺骗、停止装傻?他说,这个问题现在没人知道答案。

37:56 「电脑照着做」的日子

  • 亚历克斯设想了那一天真的到来时会怎样:一种压力会逼着组织往前沿走,去换零风险、或者明显更低的风险。他自己提出那个反问:他们愿意付十倍的价钱吗?
  • 他的回答是有条件的:大概取决于任务类型,有些任务的风险就是比别的低得多;写代码、做安全研究,是今天风险最高的一类,所以你大概愿意付十倍,去换一颗完全对齐、还能找齐所有漏洞的模型。
  • 他把话题转到结构化输出:完全由你控制结构化输出的决策模型,最酷的地方之一就是出格的空间小得多——你有定义明确的任务,只有机器在处理输出。他认为这类任务在人们谈论的东西里、在企业正在处理的事情里都被严重低估了。
  • 阿姆贾德把它推到了另一头:「我觉得我们会慢慢意识到,过去用确定性代码的日子有多好过。」他还说,像 Jev 这样的东西暗示的是一个更大的需要——不只是专精的模型,而是输出域更可控的模型。

39:57 在 Replit 训练一堆小模型

  • 阿姆贾德说他在内部训了一个成本估算模型:你在 Replit 里输入一段提示词,它就能告诉你大概要花多少钱——做法是在多个区间上输出一个概率分布。
  • 他描述自己的训练习惯:给模型不同的枚举值,看每个枚举上的对数概率;他说这样训练分类器已经好几年了,「所以我其实早就被决策模型、专精模型这一类东西说服了」。
  • 他的结论是:如果你在一个有数据的地方工作——Replit 有那么多数据——训练一堆专精的分类模型其实是件很轻松的事。
  • 亚历克斯补了另一半,也就是模型债:他听到很多公司在担心为非结构化输出去微调模型,因为两个月后就得重做一遍,每个人都感觉得到那份模型债的重量。
  • 他的对照是:一个用专有数据训出来的、非常定制的分类器,人们不会总觉得它落后,它可能就是用得更久。理由也简单——你不用操心它会不会说一门新语言、会不会写 Rust。他说这对企业来说像是一件很容易自己动手做、而且做完不会后悔的事。

42:33 从动态语言到 Rust

  • 阿姆贾德把眼前这一轮接到上一轮的曲线上:90 年代大家写 Java 和 C++,然后 Python、JavaScript、Ruby 接管了互联网——你用 Ruby 建了 Stripe,一家金融机构,用 PHP 建了 Facebook。
  • 然后是反弹:撞上一堆糟糕的 bug,它慢得要死,于是大家回去给语言加类型、加即时编译器,等于把一切重新发明了一遍;再然后 Rust 出来了。
  • 再往后是 Rust:他说行吧,那我们大概可以用 Rust 来干很多本来会用 JavaScript 和 Python 干的事。
  • 他的预测是同一个循环会在这里发生:大家拿这些像 AGI 一样的模型去干各种活,然后醒过来,发现太浪费、承担了毫无必要的风险。
  • 他给的具体场景是:上一个网站,传一个 CSV 文件,就得到一个只干一件事的专用模型。他说 Replit 正在把那个能力加上去,并且认为它不会只留在 Replit。

44:21 融合:旗舰级质量,一半成本

  • 亚历克斯说,他第一次看到人们真的开始认真用不同的模型家族去交叉检查主模型的结果,就是代码评审。
  • 他把这条线接到融合上:把多颗模型混合起来、做复合模型,这件事的研究已经慢了好些年,但从他看到的文献来说正在加速,现在能看到一批 AI 智能体实验室都在做融合产品。
  • 他给的底层理由是:如果这些模型各自是在不同的数据源上训练的,那为什么不从所有模型那里一起取?
  • OpenRouter 这边的口径是:最初那一版聚焦深度研究,结果是「基本上就是拿到 Fable 级别的质量,成本只有一半」。
  • 阿姆贾德这边的口径是:他们在节目当天刚刚发布结果,展示了一个把不同东西组合起来的快速智能体套件,其中包括外壳,也可以把它想成一种融合式的东西——达到前沿级别的水平,成本只要 40% 到 50%。
  • 他给了一个他认为关键的技术判断:对缓存有意识,是设计融合模型、路由模型、升级式模型时最大的事情之一。他还提到 OpenAI 似乎加了一个能跨模型家族、跨努力档位复用计算的功能,并当场说了「这话别拿去引用,我也可能记错了」。

收尾 这一期对读者意味着什么

  • 整期没有在争论模型能力,而是在争论一件事:模型正在变成一个可以被挑的零件,而钱和话语权挪到了「挑」和「接」的那一层。
  • 需要读者自己留意的一层关系:a16z 领投过 OpenRouter,也从 2018 年种子轮起就在 Replit 的股东名单里;本期主持人是 a16z 普通合伙人埃里克·托伦伯格;而主持人自己在开场就把「最大的股东」说了出来。
  • 与之对照的可核事实:Stripe 在 2026 年 8 月 19 日官宣收购 OpenRouter,官方口径是 80 多家供应商、400 多个模型;《纽约时报》信源称价格 75 亿美元。
  • Replit 的公开口径:2026 年 3 月宣布 4 亿美元 D 轮、投后 90 亿美元,对外目标是在年底把 ARR 做到 10 亿美元。
  • OpenRouter 官方给出的两条硬证据:Auto Router 以每周 55 万亿 token 的真实支出为路由信号;融合在 DRACO 深度研究基准上拿到 69.0%,超过单个旗舰模型的 65.3%,而三个便宜模型的面板拿到 64.7%、成本只有一半。
  • 口径上要分开的一点:Auto Router 与 Fusion 的数字都是 OpenRouter 自己发布的,基准也由它自己选;这一期里的成本比较(40%–50%、一半)同样来自两家公司自己的说法。

逐句全文翻译

以下按节目原始顺序,逐句翻译整集对话。底稿是本期整集音频的完整转写:这一期官方同名视频在本刊截稿时尚未上线,因此没有官方字幕可用。
只保留中文译文,不保留英文原文;对话部分保留说话人标签:片头/埃里克/亚历克斯/阿姆贾德。不压缩、不摘要、不删减。
口径:本期声部分离把两位嘉宾分得很干净(主持人自成一簇),但几处极短的主持插话会被并进嘉宾那一簇,已按内容锚点校正。名字按读音还原(如 Stripe 总裁 Will Gaybrick 还原为威尔·盖布里克);有一两处转写不清的名字,译文里不代为认定。片头是本期金句剪辑,单独标注。
片头:你看到了 SpaceX 的 S-1,上面写着 30 万亿美元。那全世界的 GDP 是多少?100 万亿。Stripe 和 OpenRouter 都真的希望世界上多出很多新公司,我们不希望所有人都变成一家巨型公司的一部分。OpenAI 那些入侵之所以破坏力这么大,恰恰是因为它们太能干了。这就像拿核弹去炸一只蝴蝶。当模型变得更聪明,风险其实会继续变高。可是没有任何一个新的人或机构在为这件事负责。我们会慢慢意识到,过去用确定性代码的日子有多好过。还记得吗,那时候电脑会分毫不差地照着我们说的做。我们能让模型在训练过程里可预测地不去欺骗用户吗?一颗足够大、足够强的模型,会不会突然就停止欺骗、停止装傻?
埃里克:过去几年,AI 一直在朝更大、更通用的模型跑。但如果未来其实是更专精的呢?这一期,我和 OpenRouter 的亚历克斯·阿塔拉、Replit 的阿姆贾德·马萨德坐在一起,聊为什么 AI 的下一阶段,可能是由很多不同的模型协同工作搭起来的。亚历克斯为他自己称为「神经多样性」的东西辩护——把各有长处的模型组合起来,而不是把自己锁进某一家供应商。阿姆贾德解释,为什么企业可能也会越来越想要那种独立性:把更多智能握在自己手里,为每一件事挑最合适的模型。我们还聊到专精智能体、模型路由与融合,聊能力、成本和安全之间的取舍,以及当 AI 系统开始训练更小的、只负责特定任务的模型时,会发生什么。欢迎收听 a16z 的播客。今天在场的是 Replit 的阿姆贾德和 OpenRouter 的亚历克斯。这是亚历克斯在被收购之后上的第一个播客。所以我们非常高兴能请到两位。谢谢你,我很高兴来。亚历克斯,我们就从这件事开始吧,你能不能简单说说——显然这是一次规模很大的收购——阿姆贾德是投资人,我们当然也是投资人,而且是最大的股东,不过谁在乎这些呢。亚历克斯,你先给我们讲讲背后的故事,这样一笔收购到底是怎么发生的?是有一天帕特里克给你发了条私信吗?你能讲的有哪些?
阿姆贾德:嘿,一个 OpenRouter 卖多少钱?我——
亚历克斯:我很早以前就认识 Stripe 的总裁威尔·盖布里克,那还是两三年前我们做 A 轮的时候。我们就一直保持联系。我们和 Stripe 各个团队之间同时进行着很多条工作线,所以总有些事在跟 Stripe 一起做。我们在 Stripe Sessions 上做过分享。所以一直感觉离得很近。后来,我想是七月,他们主动联系过来,想聊一聊,我和他们两位都见了面,然后事情就很快往前推进了。他们效率非常高,整个过程对创始人非常友好。整件事我印象极深。
阿姆贾德:你当时想卖吗?在他们联系你之前,这件事在你脑子里出现过吗?
亚历克斯:没有,我们完全没往那方面想。我确实很尊重这家公司,今天也一样尊重。而在我们可能的选择里,它是我的首选。所以这是个挺有意思的想法。等我们把「为什么对两家公司都说得通」的理由一条条理清之后,它变得越来越有意思。非常清楚的一点是,他们在「我们对自己的品牌、路线图和产品保有自主权」这件事上跟我们高度一致:让 OpenRouter 继续做它已经在做的事,只是要快得多,配上一套认真得多的市场打法,再加上两个产品、两家公司之间的一些「合在一起更好」的故事。文化上也是。说到使命和价值观,说到去建一个中立的、可信赖的、企业能够依赖并在上面规模化的平台,同时又对开发者足够友好、给出最好的开发者体验,去鼓励新公司冒出来——这种一致是存在的。还有一个更大的、格局上的一致:Stripe 和 OpenRouter 都真的希望世界上多出很多新公司,我们不希望所有人都变成一家巨型公司的一部分。我们想造出真的很好的激励,和真的简单顺滑的工作流,让人们能去创办新公司、把它们做成,能在可靠、价格高效的基础设施和一个运转得起来的大市场之上,做出既能养家糊口、也能拿风投的生意。我非常想要那个未来。而 Stripe 已经证明了很多很多年,他们一直想要它、也一直在为它建设。从很多方面说,支付和推理在未来会融在一起。
阿姆贾德:我很好奇——Stripe 的动机我理解,它想要一个更有活力的创业生态。你说的那种道义上的论证、以及你为什么希望如此,我也理解。但为什么这对 OpenRouter 是好事?你给 OpenRouter 设想的模式,是不是一个网络效应生意?是不是像一个网络?
亚历克斯:对我们来说,我想 OpenRouter 解决的是几个不同的问题。一个是,让你能够去建一家用 AI、用独特的数据和其他服务来增强智能的公司,而不被锁在某一个模型上、也不被锁在某一家供应商上,让你能够随着整个生态的发展,持续地待在帕累托前沿上。要做到这一点工作量很大,因为各种微小的锁定会不断冒出来。我们还希望企业感觉,自己在单颗模型之上能加的不只是一些提示词。要造出独特的智能,可做的事情多得多。而我认为其中很大的一块是神经多样性。你真的需要多颗以不同方式训练的模型的力量——包括一些你自己的模型——才能在这件事上做出超过 ChatGPT 或 Claude 的效果。如果正在考虑从你这里购买的潜在客户心里在想「那我直接用模型不就行了」,你就得真的证明你明显更好,证明你能做出一门真正重要的生意。我认为这里面很大一部分会落在神经多样性,落在把多颗模型的能力和好数据混起来。另一个部分,是帮人们拿到非常好的成本效率。有很多生意,只有在它变得成本可行之后才会出现。造一个环境,让我们能通过建立一个高效的市场去压低成本,这对让那些生意出现至关重要。否则,供应商凭什么降价?我们的市场是一个被圈住的、没有选择的市场。而我认为这正是市场的关键之处,而在我们出现之前,AI 里完全缺了这一块。当时只有一个玩家,OpenAI。那本来可能是一个很怪异的世界。我不是说这些活都是我们干的。当然不是。但帮人们去挑新模型、去探索新模型、去搞清楚一颗闭源模型或开源权重模型究竟哪里适合你的任务,这需要你看到整个生态在做什么,并且自动地学。模型不是那种你可以在一个网页上把所有特性都枚举出来的东西。那是不可能的。你必须看到它们被怎么用,才知道它们擅长什么。
埃里克:这家公司你是三年前创立的。我很好奇,在开源与闭源模型一路演化到今天这件事上,什么最让你意外——无论是模型能力方面,还是人们对自己手上那些可选模型种类的看法方面?
亚历克斯:人们对开源权重模型的开放程度,比我以为的要高。通常会有很多品牌——尤其是在企业里。通常会有很强的品牌信任问题:企业大体上是这样的心态——「我其实分不清这些东西有什么区别,那我就买别的可信企业都在买的那个。」这种心态会带来很强的企业级锁定。但这种情况并没有那么普遍地发生。确实发生了一些,但我们看到很多企业想去试新模型。这对一个市场来说实在太好了。企业想从专有的前沿模型实验室之外去分散配置,既有成本上的理由,也有差异化的理由。他们想把自己的智能握在自己手里,这样他们就能……我想,一是留住人才,二是拥有一个内部的 AI 实践。AI 就是一个巨大的战略议题。这不像你去董事会说一句「哦对,我们把 AI 问题解决了,本季度完成」,就完事了。你的董事会每个月都在问你,内部 AI 团队接下来做什么?现在每一家企业都有了这么一个内部 AI 团队,而且在发展它,需要它背后有一套战略。它不是「我们把功能勾掉、把数据库搭好,就结束了」那种事。所以我认为,这个动态带来的结果,就是一种去探索、去分散配置的欲望,一种去把成本压下来、去在公司历史上第一次做基准评测的欲望。我一直……意外的是,做基准评测的怎么没更多,做基准的公司怎么没更多。现在开始有了。我认为最终我们会看到多得多的基准,用来证明「哦对,这个东西就是比直接用 Claude 好」。而这会成为每家公司那个内部 AI 组的更大重点:评测。而且我觉得阿姆贾德在 Replit 就一直在做很多这方面的事。你们做了很多「每个任务成本」的研究。你们那边做了一个叫「死循环救援」的东西。你们一直在试新的方式去用智能体,比如死循环救援,然后把它们带给开发者。所以这类研究会更多,我认为它会在每一家公司内部冒出来,出于所有这些
阿姆贾德:原因。对,我觉得微软的 CEO 萨提亚·纳德拉在这方面非常有先见之明,也讲得非常清楚——为什么公司需要把自己的智能握在手里。归根结底,就像我们曾经有「互联网公司」,然后每一家公司都变成了互联网公司。每家公司都雇了知道怎么建网站、怎么上互联网的人。软件也一样,每家公司都有软件工程师。每一家公司都需要某种 AI 实践、某种 AI 能力。而且它会随着时间复利——公司内部的知识、智能。哪种用法、哪颗模型适合他们,哪些模型真的对他们有用,他们怎么省钱。他们需要那种独立性。另一件我觉得 Palantir 的亚历克斯·卡普一直在讲的事是:当你和那些基础模型公司走得很近时,存在一个风险——他们会走进你的生意里。我们已经看到了,比如 Figma 之于 Anthropic。我们也看到了,比如现在 Harvey 和 OpenAI。而且,你很难和他们做伙伴。因为他们把整个世界看作自己的潜在市场,对吧?就像他们跟投资人讲的时候——你看到 SpaceX 的 S-1 了,上面写着 30 万亿美元。那全世界的 GDP 是多少?100 万亿?所以在某种意义上,这些公司和上一代公司不一样。跟他们做伙伴更难,因为他们的野心是那样的:他们想吞掉经济中很大的一块。而且越来越是,我们在 Replit 想的事,跟亚历克斯做出来的东西是同一个路子:Replit 正在变成企业内部的「独立性层」,我们在你和模型之间造一层交互,帮你用最便宜的价格拿到最好的 token。但我们同时也造了一层压在云之上的抽象。因为你应该能够部署到 AWS 和 Azure,应该能够用 Databricks 和 Snowflake 等等。所以,越来越是——不只是 AI,而是所有技术——都需要更多平台来帮公司获得独立性。
埃里克:看起来,OpenRouter 在它那一段做的事,你正在生意里的其他区域做。
亚历克斯:对。这让我想起前几天看到的一条推文,有人说:基本上现在所有公司都在建同一个东西。每个人都在建一个智能体循环,加上通知、加上上下文,比如第三方连接器、上下文管理、记忆和沙箱。还有网页,智能体的网页搜索。电脑操作。然后上面再叠一个常驻的智能体,加上通知。这个东西到处都在冒出来。某种意义上,对,它确实到处都在冒出来,但在我看来,它也更像是新的入场券、新的基础件。就像这条推文如果在 2005 年写,会是:哦,所有人都在建同一个东西嘛——一个数据库、一张用户表、一个登录页、一个注册页、一个个人资料页、一个登出页。什么都一样。其实还是有很多差异化的。AI 有它的入场券需求,就像网页有网页的入场券需求一样。
阿姆贾德:对,而且我觉得,在企业内部,让这些产品真的干实事,仍然是一个没解决的问题。你可以在个人生活里用 Muse,把它连到你的信用卡和银行账户,但没有人把 Muse 连到自己的企业数据上,甚至 Grokbot 这类也没有。我觉得数据主权和安全会被更加强调。所以过去这段——你几乎在致力于让 Replit 可以部署在你自己的云上,基本上就是本地部署、自带云。两年前,我会觉得我永远不会做这件事,因为,你知道,云就是未来,软件即服务,所有那些。但现在,其实我们又往回退了一点,退回到一个公司更警惕一些的世界,因为数据泄漏的途径太多了。人们正在用的所有这些智能体。推特上到处都是截图,我不知道是真是假,比如 Instinct 或者 Muse 把你和别人的数据混在一起,开始用另一个名字叫你。所以是的,消费端那类事情还挺明显的。但在企业侧,整个行业还有非常多的工作要做,才能让这些东西在工作中真的有用、真的能产出。
亚历克斯:阿姆贾德,你自己有没有在用一个定制的个人智能体——除了 Muse 或 Instinct——用来做工作上的事、你自己一直在搭的?
阿姆贾德:有,我在很早以前在 Replit 上搭了一个东西。一开始是类似 CRM 智能体的东西,因为那是我最主要的问题。但慢慢地,我们给它加功能,它就开始做越来越多的事。但真正有意思的是,我把 Replit 连到我这边的各种东西越多,它就越开始替我把所有事情都回答了。所以越来越是,平台本身在吞掉我搭的那些领域专用智能体。我确实认为,在某些方面,你想要一个有时专注于某一件事的东西,你不希望它什么都能干。另一方面,一旦你把整个公司的上下文放在一个地方,跨完全不同的领域去联结就非常爽。比如我问它一个问题,它可以去看我的个人聊天记录,跨到 GitHub 仓库、跨到 Salesforce。它会连出一些很奇怪的东西。比如:哦,你一年前在一个会上见过这个人,我在你的日历上看到了。顺便说一句,他们团队里另一个人正在跟你的销售团队谈。它会造出所有这些不同的协同。我进一个会的时候,我已经把很多条线连起来了,我在一笔交易上的推进就快得多。所以现在就是往这个方向走。
亚历克斯:嗯,我要稍微站到反面去。我认为用你的个人智能体做跨领域联结,最糟糕的一点是:你交给它做的活越多,你牺牲掉的「对正在发生什么的理解」就越多。可是没有任何人知道,谁在为这份被牺牲的理解负责。智能体不负任何责任。就像,如果整个公司能容忍的皮质醇总量是固定的,那我要是打算牺牲对某个领域的理解,我在那个领域就想少一点压力。得有另一个人来承担那份皮质醇。而智能体不承担任何这样的责任。一个什么都在做的通用智能体——你知道,我没法去调节:我在每件事上到底牺牲了多少理解。它让我稍微偏向——你知道,也许往后看,人们用的子智能体会是非常垂直聚焦的。也许我们会有一种「幕僚长」式的智能体,在它们之间做协调。但我觉得你确实需要垂直聚焦的智能体——在那种情况下你可以说,行,这个智能体在心理上对这几件事更负责。而且我想要质量检查,确保它把这些事做对。它不需要关注别的。它就只有一个聚焦的领域。我在想,这是不是能帮人们至少对叠在智能体之上的东西,产生一种模糊的责任感。
阿姆贾德:有意思。所以你是说,通用智能体某种程度上制造了一种「公地悲剧」?
亚历克斯:差不多。比如我有一个通用智能体,它每天都去找有什么事需要我、然后试图搞清楚该做什么。而它就是……你几乎没法改进这个智能体。每一次我试着改进它,大约一周之后我就会开始忽略它的输出。感觉它就是不太在乎它正在钻进去的那些具体的事。你可以想象有一个幕僚长,他非常擅长……你知道,比如替你把整个组织范围内的回复都起草出来。然后你把它,和你拥有十个幕僚长的情形比一比——每一个都跟那一个一样能干,但他们各自负责构成你生活的一个独立板块。我觉得后一种给了你一种办法,去调节你牺牲了多少理解,相对于你得到的东西。基本上就是,我可以在智能体表现不好的那些领域更多地亲自介入,然后让能力很强的智能体,去接管我生活里其他部分的理解。
阿姆贾德:对,有意思。这几乎像是在重新发现分工,对吧?就是那个,他叫什么来着,那个著名的经济学家,亚当……斯密,亚当·斯密,那个做别针的例子。那对人类来说是个巨大的觉醒——分工、分工、分工,其实是好事。问题是我们作为一个文明,有点过度分工了。而我觉得过度分工本身就有它的压迫性。我是说,我觉得我们……你知道,就像马克思主义里的异化理论,对吧?意思是,因为过度分工,人只专注在一件事上,看不到自己劳动的果实,不知道自己所在的更大组织、或者自己造的那个产品,自己到底有什么影响。于是他们其实会感到压抑、疏离。你在表现得像一台机器,而不是一个完整的人。所以也许这里有一种反弹。而我觉得,落到我们的智能体上,我们的想法是「应该有一个神一样的智能体」。但事实上,分工对机器来说真的很好,这就是你刚才的观点。人应该是通用的,而机器最终应该专精得多。
亚历克斯:我觉得我正在描述的东西,问题在于我们并不知道「好的样子」长什么样。还没有出现过一套专家智能体系统,能像 ChatGPT、Claude 或 Muse 那样优雅——那种你基本上就只是在跟一个东西说话的感觉。它还有待被发明。比如 OpenAI 刚发布了 Dots,我觉得他们是在那个方向上试。Grokbot 大概也算一个。但它们
阿姆贾德:全都非常通用。我觉得 Dot 背后的想法是它像你的数字分身。至少我理解是这样。
亚历克斯:嗯,我看到 Grok Bot 的时候——我对 Dots 了解还不多,它们刚出来。但 Grok Bot 刚出来的时候,我看到人们讨论的第一批用法是:哦哇,我可以做两个机器人,一个知道我的银行账户,一个知道我的推特账号。两个机器人彼此不持有对方的凭据,但如果需要办成一件事,它们可以对话。不过没有任何凭据共享。这是我看到出现过几次、而且大家似乎挺喜欢的一个独特的大点。但看起来
阿姆贾德:Muse 和 Instinct 的产品市场契合度比 Grokbot 强得多。对。也许是因为你不用操心去创造那些领域。但我觉得,个人智能体和工作智能体可能是两回事。你对通用智能体的批评,更多是关于工作、关于企业的,这一点我大致同意。而且,还有各种各样的数据访问考虑。我认为作为 CEO,我们可以有通用智能体,因为我们有管理员权限。但对于个体员工或某些团队,他们不可能拥有真正通用的、完全掌握上下文的智能体,因为存在访问控制问题。所以你不得不去处理像专精这样的问题。最终,我还认为我们必须搞清楚智能体与智能体之间的沟通长什么样。我觉得眼下还没有好的协议来支撑这件事。我也不认为智能体被训练得能很好地处理它。我们好像看到了,下一代 OpenAI 模型似乎是被训练来做智能体协作的——因为我们在 Hugging Face 那次入侵里看到了,它们开始互相帮忙,而不是各自为战。但也需要有某种机制,让一个智能体没法说服另一个智能体,把不该给它的信息给它。需要有数据隔离,以及这些智能体互相沟通的恰当方式。你几乎不会想让它们完全用自然语言沟通。也许它们需要遵循某种别的 DSL 协议。
亚历克斯:我真的很觉得,Jev 以及像它那样的决策模型,最酷的潜在应用之一会是对齐。比如检查一次工具调用、或者一次智能体之间的沟通,是不是对齐的。因为工具调用的数量实在太多了。如果你要拦下这种东西,你真的需要一颗便宜、快速的模型。然后用一颗非常非常快的决策模型,只做分类、并对拒绝给出反馈,这可能是一种很好的办法,去补上智能体之间、以及智能体到基础设施之间的缺口。所以我还没看到——我们在 OpenRouter 内部有一个小原型在跑——但我觉得它可以成为一个有意思的对齐手段。所以你是把它用在
阿姆贾德:策略执行上?
亚历克斯:对,比如想象一下:看着系统提示词和当前正在发起的工具调用,判断它是否与原本那个智能体的系统提示词对齐。还要与那些我们可能没有告诉这个智能体的额外准则对齐。举个例子,假设你有一堆智能体,任务是去对某个新产品做红队测试。它们不能、也不应该访问互联网。而一旦它们真的访问了,就应该立刻停下。但你也许并不想把所有这些都解释给正在做红队的那些智能体听。你可能希望它们试着从沙箱里逃出去,表现得像坏演员。坏演员会怎么做?它不会一逃出沙箱就去入侵这家公司,然后「一旦你这么做了就停下、别的什么都别做」。所以,让另一颗模型——更像是用来搭一个神经多样性系统的那种用法——去检查每一次工具调用、或者每一条助手消息,看它是否真的对齐了某些不在系统提示词里的东西,我认为是说得通的。然后再加上一些结构性的防护措施,我觉得这正是 NVIDIA 刚发布的那个「开放智能体安全」——我想它叫 Open Shell。我觉得公司大概会去探索这两者的组合。
阿姆贾德:关于专精,我还想到另一件事——不是你说的那个角度。有很多人在谈递归式自我改进。有一件事我觉得没怎么被讨论,就是模型在训练自己的替代品。有点像……你可以把它想成一个即时编译器。你知道,即时编译器的工作方式是:当你在执行动态代码时,解释器意识到这里有优化的机会,它就会当场生成机器码,而那要优化得多。所以你可以想象,像通用模型——你在用 Opus,或者 Astra,或者那些大模型中的某个。它们意识到这个用法是有限的,或者你用某种方式提示它们,又或者另一个智能体观察到,意识到这个用法是有限的。而且,通用智能体有你刚才说的那些缺陷,此外它们还有更大的可能造成伤害,更大的可能失控。于是它在运行中训练出一个可以替代自己的模型,但它要领域专精得多。因此它更便宜,而且——你知道,更不容易被提示注入攻击,危害也更小,因为它能力更弱。它几乎就像是某个系统,一边在训练针对特定用途的机器学习模型,一边在监控整个系统。
亚历克斯:那个特定用途,是会涉及非结构化文本生成,还是某种非常结构化的
阿姆贾德:决策模型?两种都可能。它可以是非结构化文本生成,也可以是决策模型。就算是 Jev 那种情况,如果你事先就理解输入,你完全可能拿一个现成的模型,比如 Qwen 之类,专门针对那套策略去训练它。
亚历克斯:为了成本考虑,这么做是说得通的,前提是不存在比如……那些模型实验室、前沿模型实验室,可能会做出非常低成本、你可以轻松迁过去的模型。但还有安全——
阿姆贾德:还有安全,对吧?哦对,我明白你的意思。它们那么能干。所以我觉得,人们常常在用这些大的、基础 AGI 式的模型去做……这就像拿核弹去炸一只蝴蝶,对吧?是的,大多数时候——很多用法,就算是非结构化的用法,也根本不需要那么能干的模型。我但愿
亚历克斯:这方面能有更多公开的评测。关于这件事的评测很多都是私有的。你就没法看到,当模型变得更聪明时,风险是不是真的会继续变高。因为我觉得也有一个论证可以提出来:对齐会变好,模型会随着自己变得更聪明、更擅长对齐,而不去做那些跑偏的事、不去自己搞入侵,尤其是在智能体之间的协调上。这是 Noam Brown 最近在一个播客上说的:随着智能体变聪明,它们在协调上就是变得更好。它们仍然是——而且,当我们手上的智能体越来越多的时候,它们会不会比人类更难对齐,这一点还不清楚。但如果我们能解决那个问题,那么一颗更小的模型,它会更难对齐吗?
阿姆贾德:所以,埃里克刚才问的是这个。我认为「更聪明的模型天然更对齐,或者更容易对齐」这句话是有道理的。嗯,如果你回想最早那批理性主义、LessWrong 风格的 AI 安全论证,里面有一个东西叫正交性论点。意思是智力与伦理、道德是正交的——我不完全相信这在人类身上成立。我认为一般来说更聪明、受教育程度更高的人,往往……不总是,但往往对动物之类更体贴。但在机器上,我觉得可能会反过来,因为已经有相当多的强化学习研究表明,奖励黑客和欺骗,它们就是会越做越好。而且评测可能……评测可能有欺骗性,因为模型可能聪明到知道自己在被评测。我是说,这件事我们其实已经知道了。已经有人展示过,如果你对思维链做很多监控,它们就会开始在自己的思维链里撒谎。所以你几乎是在对思维链施加压力,那就制造出某种——我觉得到某个时候,你要做真正的对齐评测,你得跑上好几个月,对吧?你得让这个东西在一个非常大的目标或任务上跑几个月,才能真正判断它是不是对齐的。对,我一直对「对齐」这个词很别扭。它就是感觉在很多方面都不对。它有点含糊,而且要「对齐」到谁的价值上去?这让对话根本没变简单。我觉得在这个场合,我特别想说的是欺骗——模型真的在欺骗它的用户。
亚历克斯:我是说,这也许可以归结为一个问题:我们到底能不能解决对齐?我们能不能让模型在训练过程里可预测地不去欺骗用户,靠更好的……一颗足够大、足够强的模型,会不会突然就停止欺骗、停止装傻?这个问题现在没人知道答案。所以,如果那一天真的到来——如果真的到来——我们也许会看到一种有意思的压力,逼着各个组织往前沿走,基本上就是要有零风险、或者明显更低的风险。他们愿意付十倍的价钱,
阿姆贾德:就为了拿到那么多吗?
亚历克斯:我是说,这大概取决于他们想做的是哪类任务。有些任务的风险就是比别的低得多。写代码、或者做安全研究,是今天风险最高的一类任务。所以你大概会愿意付十倍,去换一颗完全对齐、同时还能找齐所有 bug 的模型——一颗完全反欺骗、还能找齐所有漏洞的模型。完全由你控制结构化输出的决策模型,最酷的地方之一是,而且,总的来说,对于结构化输出的模型,出格的空间小得多。你就是有定义明确的任务,而且只有机器在处理输出。它不是在写自己能执行的代码。这类任务,在人们谈论的东西里、在企业正在处理的事情里,感觉都是被严重低估的。所以我预期企业会对它们越来越感兴趣。
阿姆贾德:我觉得我们会慢慢意识到过去用确定性代码的日子有多好过。就像,我的天,还记得吗,那时候电脑会分毫不差地照着我们说的做。而我觉得像 Jev 这样的东西,它暗示的是一个更大的需要——不只是需要专精的模型,而是需要输出域更可控的模型。也许用一堆专精的输出模型,你能做成的,会比你以为需要用到的多得多。用一堆专精的模型、专精的输出模型来做。
亚历克斯:你们内部有用它跑过什么工作负载吗?
阿姆贾德:我一直在训练很多小模型。我是说,那东西刚出来的时候我发表过一通看法——我在 Hacker News 上留了条评论式的评论,事后自己都觉得恶心。但我一直在做很多这样的事:拿一个 8B 之类的模型,实话说,就是去让 Fable、Opus、Astra 它们帮我训一个模型。比如我在内部训了一个成本估算模型,这样当你在 Replit 里输入一段提示词时,我们就知道它大概会花多少钱。它基本上是在多个区间上输出一个概率分布:如果是在 5 到 10 美元之间,那就是 A 档;10 到 20 美元之间,就是 B 档。所以我早就习惯这样训练分类器了——给它不同的枚举值,然后看每个枚举上的对数概率。我这么干了好几年了。我当年就是用这个办法训练过一个小模型,让它学会玩。所以我其实早就被决策模型、专精模型这一类东西说服了。所以对我来说那不是什么大时刻。但我理解,一个真正的基础模型、完全可以用提示词驱动的模型,是绝佳的用户体验、绝佳的开发者体验。你不用从头训一个模型,就能用它做一堆事。但如果你有数据——如果你在一个有数据的地方工作,Replit 有那么多数据——我最后是很轻松地就训练出了一大堆专精的分类模型。
亚历克斯:对,而且它也让人觉得模型债更少。我还老听公司说,他们担心为非结构化输出去微调模型,因为你总是得在两个月后再重做一遍。每个人都感觉得到那份模型债的重量。但一个用专有数据训出来的、非常定制的分类器,我觉得人们不会总觉得它落后,它可能就是用得更久。对。就是,你不用去操心它会不会说一门新语言、会不会写 Rust、或者任何那些模型正在被评测的能力。你知道用途是什么,所以你就能把它做得更好。而且这对企业来说像是一件很容易自己动手做、而且做完了不会后悔的事。
阿姆贾德:对,说到 Rust,其实一个很好的类比是当年整个世界对动态语言的那种狂热。你回想 90 年代,所有人都在用 Java 和 C++ 之类的写东西。然后 Python、JavaScript、Ruby 就接管了互联网。所有人都说,哦,原来创业公司是这么快速做起来的。你用 Ruby 建了 Stripe,一家金融机构。我当时就想,这也太疯狂了吧。我们用 PHP 建了 Facebook。然后所有人都说,我去,我们撞上了一堆特别糟糕的 bug,它慢得要死。所以,来,我们加上类型。好,我们加一个即时编译器。你最后等于把一切都重新发明了一遍。然后 Rust 出来了。我说,行吧,那我们大概可以用 Rust 来干很多本来会用 JavaScript 和 Python 干的事。我的预测是,同样的循环会在这里发生:我们现在拿这些像 AGI 一样的模型去干各种不同的活,然后所有人会醒过来,说,我的天,这太浪费了,承担了毫无必要的风险。它一定会变得容易得多。我们其实正在 Replit 上把那个能力加上去,但我觉得它会到处都有。它会变得非常容易:你上一个网站,传一个 CSV 文件,就得到一个只干一件事的专用模型,而且……这就回到你关于 OpenRouter 的那个论点——这种神经多样性,我现在从根本上更相信它。我和埃里克聊过很多关于 AGI 的讨论:我们是不是真的在通往 AGI 的路上,以及到达那里到底是否可欲。我认为未来要多样得多。对。
亚历克斯:除了代码评审之外——那大概是我第一次看到人们真的开始认真用不同的模型家族,去交叉检查主模型的结果。这些融合模型——相关的研究在「把模型混合起来、做复合模型」这件事上,已经慢了好些年。但从我看到的文献来说,事情在加速。我是说,现在能看到一批 AI 智能体实验室,我们发布了一个融合工具,一个融合模型,另一家实验室也发布了一个。它们确实能降低成本,顺带,也能让被搜索到的想法更宽。我们最初那一版是聚焦在深度研究上的。思路是:如果这些模型各自是在不同的数据源上训练的,那为什么不从所有模型那里一起取?结果基本上就是拿到 Fable 级别的质量,成本只有一半。
阿姆贾德:我们其实今天刚刚发布了这方面的结果。我们展示了一个很深的套件——通过把不同的东西组合起来的快速智能体,其中包括外壳,但你也可以把它想成一种融合式的东西:它达到了前沿级别的水平,成本只要 40% 到 50%。用的是哪些模型?我觉得这个会随时间变,但有一件有意思的事是,OpenAI 好像加了一个功能,允许你在不同的模型家族之间、以及不同的努力档位之间复用那部分计算。这样你换努力档位就不会丢掉缓存。这话别拿去引用,我觉得它跨不同模型也行。这很难想象是怎么做到的。不过我也可能记错了,我得再核实一下。但我觉得,在 OpenAI 家族内部,它确实带来了很多效率。而过去,我们也用别的模型这么做过。因为缓存这件事——对缓存有意识,是设计融合模型、路由模型、升级式模型时最大的事情之一。
埃里克:亚历克斯,我很高兴。这是一场很棒的对话。谢谢你。谢谢。感谢收听这一期的 a16z 播客。如果你喜欢这一期,请点赞、评论、订阅,给我们一个评分或评论,并把它分享给你的朋友和家人。想听更多,去 YouTube、Apple Podcasts 和 Spotify。在 X 上关注我们 @a16z,并订阅我们的 substack:a16z.substack.com。再次感谢收听,我们下一期见。提醒一下,这里的内容仅供参考,不应被视为法律、商业、税务或投资建议,也不应用于评估任何投资或证券,且不面向任何 a16z 基金的投资者或潜在投资者。请注意,a16z 及其关联方可能也持有本播客中讨论的公司的投资。更多细节,包括我们投资清单的链接,请见 a16z.com/disclosures。
以上为整集逐句译文,共 12902 字。出处:官方整集音频(48:18)。2

References

  1. 1
    The a16z Show 官方单集页(E1217)

    a16z.simplecast.com

  2. 2
    官方整集音频(RSS enclosure,48:18)

    afp-848985-injected.calisto.simplecastaudio.com

  3. 3
    a16z《Investing in OpenRouter》(2025-06-26)

    a16z.com

  4. 4
    Replit 官方融资公告页

    replit.com

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments