AI 最难的下一步，不是写更多代码：Igor Babuschkin 要把奖励函数改成「你的幸福」 (2026)

单集信息

项目	内容
播客名	跨国串门儿计划（中文译制版）
中文译制主播	一凯（节目页面账号：yikai-）
原始主持人	Jacob Effron，Redpoint Ventures Managing Director
嘉宾	Igor Babuschkin，River AI 联合创始人，xAI 联合创始人
集标题	#659.xAI 联合创始人：Igor Babuschkin 解读模型开发的未来
发布日期	2026 年 8 月 2 日（北京时间）
时长	53 分 24 秒
原集链接	小宇宙第 659 集单集页

这不是一集单纯讨论「模型还要变多强」的访谈。Igor Babuschkin 把问题推到了一个更难验证的地方：如果 AI 不再只是帮你写代码，而是持续参与工作和生活，它该怎样知道自己究竟帮没帮上忙？他的答案暂时还不是一款成熟产品，而是三个押注，以及一个尚未解决的奖励函数：人的福祉。1

本期是 AI 翻译节目。下文的观点、数字和时间段以中文整集音频为主，原始英文节目页面和字幕用于校正专名、章节和关键数字；文中的引语均标注为中文译制音频中的表达，不把译文伪装成英文原句。原始节目由 Jacob Effron 主持，页面标注嘉宾为 Igor Babuschkin，发布日期为 2026 年 7 月 31 日，时长 1 小时 4 分 14 秒。2

编程 Agent 只是容易被验证的起点

Igor 回忆，2025 年 11 月和 12 月，编程 Agent 突然跨过了一个能力门槛。此前有人用、有人不用，之后大家都承认它们已经能接手相当多的软件工程工作。他原本预期能力会平稳上升，却没预料到使用量会突然爆发。1

编程先出现跃迁，是因为结果容易验证：代码能不能运行、测试能不能通过、漏洞有没有修好，都能给训练一个相对清楚的反馈。数学证明也有类似条件，形式化工具可以告诉模型结果是否成立。科学发现则麻烦得多。模型提出一个材料或实验方案后，必须进入真实世界，等设备、样品和实验结果把反馈送回来。数据和反馈的闭环，比多写几段代码慢得多。2

因此，他判断未来会出现两种 AI：少数人使用、昂贵而强大的超级 AI，以及每个人每天使用的普通 AI。后者不一定需要证明最难的数学定理，它的价值可能是帮你安排生活、理解工作、减少摩擦，让你「感觉更好，也完成更多事情」。这也把评价标准从基准测试推向了一个很难量化的问题：模型到底有没有让一个具体的人过得更好？1

River AI 的三个押注，指向同一个控制权问题

离开 xAI 后，Igor 创办 River AI。他没有把公司收缩成一个单一的聊天应用，而是同时做三件事：

River API：为企业提供强化学习和微调服务，让企业用自己的数据和任务训练模型。1
个人 AI：让模型不再只为「平均用户」优化，而是随着一个人的反馈、偏好和长期互动改变。1
本地硬件：把推理算力放进办公室或家里的设备，减少对大型数据中心和统一 API 的依赖。1

三条线背后是同一个前提：现在的 AI 把模型、算力和行为规则集中在少数公司手里，用户只能通过它们的接口使用智能。Igor 说，帮助更多人获得 AI 的收益和控制权，本身就是 AI 安全的一部分；他担心的不是抽象的「技术会不会变坏」，还包括谁有权决定模型怎样工作、谁能使用它，以及谁承担它的后果。1

个人 AI 的难点尤其具体。今天的模型把所有用户的反馈混在一起，目标是对平均用户表现良好；但一个真正贴身的 Agent 需要知道你喜欢多长的回答、什么时候该主动提醒、哪些建议会让你觉得被打扰。Igor 的判断是，光靠记忆库和提示词可能不够，最终仍要做端到端训练，让模型直接对它要优化的信号负责。这个信号不是代码通过率，而是一个人的幸福感或福祉。1

这句话很理想主义，也承认问题尚未解决。代码测试能给出正负反馈，幸福感没有同样清楚的计分板。主持人追问，是否要用自我报告或可穿戴设备闭合反馈；Igor 的回答并不确定，他只说更强的模型也许能判断自己今天究竟帮了用户，还是把事情弄得更糟。换句话说，个人 AI 最有价值的地方，正是目前最难训练的地方。1

本地硬件不是情怀，而是降低三种依赖

Igor 押注本地设备，最直接的理由是控制权：如果模型必须经过远端数据中心，服务商可以决定访问权限、价格、限制方式和数据如何被处理。把模型放到本地，首先能让用户保有更强的决定权，其次能降低语音和视频交互的延迟，再其次是隐私。一个长期观察你、读取电脑文件、理解房间对话的个人 Agent，掌握的是比普通聊天记录敏感得多的资料。2

但买一台小电脑远远不够。今天最大的限制是内存：怎样把前沿模型的权重放进一个家庭或办公室设备，仍是研究问题。即使硬件最终可行，模型的持续学习、隐私保护和个性化训练也要一起解决。River 的本地硬件因此更像一项长期工程，而非已经验证的消费电子产品。读者如果把这部分听成产品发布会，会高估它的确定性；把它听成对集中式 AI 分发方式的挑战，则更准确。

闭源模型被夹在中间，企业却还没准备好自己训练

Igor 对模型公司的判断很尖锐：闭源厂商一方面要把模型做得足够强，另一方面越强越可能面临发布和监管限制；与此同时，开源模型每个月都在变强。中文译制音频中，他把这种处境概括为：「你把模型做得太好了，不让你发布；但开源就在你身后，每个月都在变强。」这不是说闭源模型马上失去价值，而是说模型能力越往前，模型公司的商业位置越难维持。1

企业自训模型看起来是出路，现实却有时间约束。现在企业使用闭源模型，通常是因为能力最强、接入最快；自己训练则要搭团队、建基础设施、掌握训练和强化学习，可能花上几个月，等项目完成时，外部又出现了更强的新模型。Igor 认为，开源模型变强后，企业才会更认真地利用自己的领域数据：一家做 HR 软件的公司，比通用实验室更了解自己的客户、流程和边界。模型层的竞争于是从「谁的通用基准分更高」，转成「谁能把真实业务数据训练成更好的行为」。2

他还提醒，预训练的边际收益正在下降。模型越强，需要的 GPU 越多，高质量数据也越难找；总不能把整个地球都铺满 GPU。这个判断并不意味着规模化训练立刻停止，而是说明「继续堆算力」不是唯一变量，训练方法、数据来源和任务反馈会越来越重要。3

xAI 的速度，换不来训练问题的自动消失

Igor 的经历让这些判断不只是行业评论。他先后在 DeepMind、OpenAI 和 xAI 工作，参与过 StarCraft、AlphaCode、推理研究和 Grok 相关工作。谈到 xAI 时，他提到团队在不到两年内把模型推进到前沿，并在约 120 天内让 Colossus 数据中心运转起来。2

他把 xAI 的执行力归因于高人才密度、快速决策，以及 Elon Musk 对工程细节的介入。Colossus 的做法不是照着传统数据中心流程层层外包，而是质疑别人怎样建设，再尽可能自己承担总包和整合。这段经历说明，工程速度不是万能药：数据中心可以在 120 天内搭起来，长时域 Agent 的训练反馈却不能靠加班压缩。

对 Cursor 的收购，他的判断是「非常聪明」，理由不是品牌，而是真实世界的编程数据和可验证的任务环境。一个 Agent 修改代码、修复 bug、跑测试，训练系统能同时得到大量用户行为和明确结果。真实使用数据让模型看到人们怎样工作，可验证环境则告诉它这样做有没有成功；两种数据缺一不可。3

真正的瓶颈，是奖励函数变得含糊

从 43 分钟左右开始，访谈把所有线索收束到训练问题：如果一次 Agent rollout 需要 24 小时，训练就很难高效进行；而在科学、管理和个人生活里，结果往往不能马上验证。Igor 认为下一步要解决的是更长时间跨度的任务、非可验证奖励，以及把长任务切成可训练的片段，而不是单纯再买更多 GPU。1

这也解释了他为什么同时谈个人 AI、企业微调和本地硬件：三个项目都在寻找新的反馈回路。企业可以用业务结果训练，个人 AI 要观察人的长期福祉，本地硬件则把数据和控制权留在用户身边。它们都比「问一句、答一句」更接近真实世界，也都更难证明自己有效。

最后，Igor 不认为人类应该把所有决定交给 Agent。他担心的是，当机器越来越能规划和执行，人类会在不知不觉中把生活的控制权让出去。中文译制音频中的一句表达是：「一旦你让 Agent 替你做所有决定，你就不再掌控自己的生活。」他的替代方案不是拒绝机器，而是寻找一种共生：机器负责更多细节，人仍保留目标、判断和参与感；训练模型的目标，也从单纯提升能力转向 human flourishing，即人的整体福祉。1

这集值得怎么听

想听 River AI 到底在押什么：听 09:26-17:08，三个方向和「把 AI 控制权分给个人」的动机都在这里。
想理解为什么个人 AI 比聊天机器人难：听 15:57-19:19，重点留意「个体幸福感」这个奖励函数，以及主持人对反馈闭环的追问。
想听模型公司和开源模型的商业冲突：听 19:19-29:37，企业自训、开源追赶、模型后门和地缘政治连续出现。
想听训练瓶颈与人类位置：听 41:25-52:39，Cursor、长时域任务、非可验证奖励、AI 安全与人机共生是一条连续的问题链。

如果你只想听创业故事，会错过这集真正的难题：Igor 讲的不是「下一代模型会多强」，而是当模型开始影响一个人的长期生活，谁来定义成功、谁拥有反馈、谁保留最后的决定权。

AI 最难的下一步，不是写更多代码：Igor Babuschkin 要把奖励函数改成「你的幸福」