蒸馏风暴：能力变便宜之后，AI 创业者的壁垒移到哪里？ (2026)

本期听什么

如果更强模型的能力可以被更便宜地搬运，AI 创业公司的壁垒到底会从“模型会回答什么”，移到哪里？本期根据《晚点聊 LateTalk》第 179 集，沿着这个问题拆解四件事：蒸馏究竟在搬运什么；为什么它能让后来者快速追赶；张一鸣选择“不蒸馏”时，真正放弃和保留的是什么；以及更便宜的智能会怎样改变产品定价与模型公司的商业逻辑。

原节目是《晚点》编辑部对谈，由《晚点 LatePost》科技报道负责人程曼祺和主笔高洪浩讨论蒸馏。节目官方 shownotes 将话题概括为“误解、门槛与代价”，并给出了从技术原理、字节选择、实现难点到商业问题的时间线。1 2

本期已取得原始音频并完成全量语音转写。节目中的程曼祺原声直接来自同一份原始音频；主持人的部分是面向 AI 产品创业者的二次整理。

四个判断

1. 蒸馏搬运的不是一道答案，而是一套行为

蒸馏通常是把问题交给更强的“教师模型”，收集它的回答、推理过程，甚至完成一个 Agent 任务的完整轨迹，再用这些数据训练“学生模型”。学生模型学的不是某个答案的字面，而是在一组任务上如何组织输出、调用工具和完成目标。3

这一区分很重要。只把更强模型当评测器，和把它的输出拿来训练自己的模型，并不是同一件事。对产品团队来说，评审时不要只问“模型回答像不像”，还要追问：它学的是哪类任务？数据来自什么权限范围？结果能不能在自己的场景里复现？

2. 真正难复制的，往往是任务环境和数据管线

大规模蒸馏需要稳定访问模型的方式，也需要真实、高质量的问题作为种子。之后还要构造环境、筛选、去重、纠错、扩增数据，并持续控制成本。对编程 Agent 来说，环境不只是一个提示词，还包括代码库、编辑器、编译器、测试工具、任务设置和验收标准。3

这给创业者一个比“再做一个 Demo”更实际的检查表：先写清楚任务成功是什么，失败后能否恢复，哪些数据可以跨客户复用，谁有权验收。模型能力可以通过 API 或开源权重快速获得，任务环境、客户流程和失败数据却必须在真实交付中长出来。

3. 追赶可以很快，但蒸馏本身未必是长期壁垒

《晚点》报道的张一鸣观点是：蒸馏可以在短期改善表现，但沿着复制 Claude 既有能力的路径，最多不断逼近，很难靠这条路径完成真正超越；即使不蒸馏会让字节短暂落后，也不把它当作推进模型能力的捷径。4

这不是“学生模型绝不可能超过教师模型”。原节目讨论了多教师蒸馏和特定任务上的超越可能，但也强调了组织代价：见效较快、确定性较高的路线，可能吸走本来应该投向长期探索的资源。技术选择最后会变成激励机制：团队是在追求短期指标，还是在积累不依赖某个外部模型的能力？

4. 便宜智能会先冲击定价，再逼产品回答“为什么需要更强”

当较便宜、速度更快的模型已经能覆盖大量普通任务时，应用公司不一定还需要为每个请求调用最贵的模型。前沿模型的高训练投入仍可能有价值，但模型公司和应用公司的定价、路由、毛利和数据策略都会被重新审视。节目将这个问题落到了“斩杀线”：一个模型只要在智能和成本上同时占优，就会压缩右侧更贵、下方更弱的产品空间。1

创业团队可以把问题落到三张表上：不同任务需要什么等级的智能；每次调用的成本和延迟由谁承担；客户为什么还需要你的任务环境、数据、权限和验收，而不是直接调用一个更便宜的模型。真正的产品价值，可能不再是“我接入了最强模型”，而是“我把一项真实工作稳定地完成了”。

一周内带回团队

选一个真实任务，分别记录成功、失败、恢复、人工接管和跨客户复用。
把模型路由和成本放在一起看，标出哪些请求其实不需要最强模型。
把“我们的壁垒”改写成一句可验收的话：谁在什么环境里，用什么独特数据，完成了什么结果。
给外部模型数据画出权限边界，区分合法授权、服务条款和仍待专业判断的法律问题。

素材边界

原节目是编辑部自录，并非外部嘉宾访谈。频道已取得其公开完整音频并完成全量 ASR；本期插入的原声均来自程曼祺在原节目中的发言，并按原始音频时间轴对齐。节目中关于部分公司的蒸馏指控来自相关公司公开声明或《晚点》的报道，本期不据此替任何公司确认是否实施过蒸馏。蒸馏是否违反某项服务条款、是否构成法律侵权，也需要分别看具体条款、事实和司法辖区。Anthropic 和 Google 对模型提取、账号协同与推理轨迹保护的公开说明，可供读者继续核对。5 6