姚顺雨来到腾讯 300 天:AI 团队先重建什么Chapters1×0:08开场:一个模型团队的问题,先从组织暴露1:01一、先修系统,再谈模型能力2:58二、把模型目标写成任务和成本4:58三、联合设计不是口号,是一套协作机制7:24四、Context 不是拥有场景,而是能持续使用场景9:02五、集中力量和保留分工怎么选11:10一周内怎么把判断落地0:0016:300:08主持人腾讯请姚顺雨负责混元,外界最容易记住的是一个年轻人和一家大公司的组合。但晚点 LatePost 的报道里,故事的起点不是天才降临,而是一次系统诊断:混元的问题同时出现在评测、数据、训练基础设施和组织分工上。0:26嘉宾原声模型这个东西组织是非常关键的,很多问题都是组织的问题。0:31主持人晚点聊第 176 期讨论的也是这件事。姚顺雨来到腾讯三百天,表面上看是一次负责人更替,往里看,是一家大公司能不能给模型团队重新分配人、钱、算力和决策空间。0:47主持人我们今天不复述整篇报道,只保留五个能带回团队的判断。它们分别对应组织、模型目标、模型与产品的协作、上下文资产,以及集中管理和联邦分工之间的选择。1:01主持人报道写到,混元早期并不只是缺一个更强的模型。训练基础设施先天不足,数据团队按类别分开,各自为营;评测又过度追求榜单,甚至出现了评测语料进入训练集的问题。1:17主持人这种问题很像创业公司里常见的另一种说法:模型不行。但「模型不行」通常只是结果,不是诊断。可能是数据验收标准写得很漂亮,却没人能稳定交付;可能是评测指标和真实用户任务无关;也可能是训练一次要花很久,团队没有足够的实验速度。1:39主持人所以第一张表不该是模型排行榜,而是从数据到用户结果的链路。数据怎么采,怎么清洗,谁验收;训练能不能复现,推理成本是多少;模型更新后,哪些产品指标会变;出了事故,谁能当天处理。1:57主持人如果这张表画不出来,继续堆参数只会把问题藏得更深。对早期团队来说,重建系统也不等于照搬大厂流程。真正需要的是几个清楚的责任点:谁定义真实任务,谁定义验收线,谁决定上线,谁承担失败后的补救。2:17主持人混元的重建里有一个很具体的动作:把预训练、后训练、评估和基础设施的关键负责人重新配置,并把模型训练和基础设施放到同一个一号位直接管理。这个安排的价值,不在于组织图更漂亮,而在于训练目标和系统约束能更早碰面。2:38主持人AI 产品负责人可以把它改写成一个检查问题:你们的模型负责人,是否知道每一次体验改动会增加多少推理成本;你们的基础设施负责人,是否在模型定版之前就参与了路线判断。如果两边只在上线前交接,联合设计就已经晚了。2:58主持人第二个判断是,模型团队不能只问自己能不能把榜单再抬高一点,还要问大多数用户到底需要什么,以及他们愿意为结果承担多少成本。3:09主持人报道里提到,混元的新模型没有一开始就追求最大的参数规模,而是把主要精力放在基础设施重构、数据清洗和强化学习上。它的目标更接近日常任务:以更低的推理成本,解决足够多的真实问题。3:26主持人这不是给小模型路线贴一个永远正确的标签。它是在资源有限时,先把目标函数写清楚。一个模型如果在百分之九十的日常任务上足够好,价格只有前沿模型的一小部分,对产品团队可能比只在少数复杂任务上领先更有价值。3:45主持人创业者可以把模型路线拆成四个数字。第一,目标用户最常做的任务是什么。第二,允许多长的等待时间。第三,一次完整任务最多消耗多少 Token 和人工。第四,失败之后谁来重试、解释或兜底。4:03主持人如果这四个数字没有写出来,参数规模、上下文长度和响应速度就很容易变成漂亮但孤立的技术指标。用户买的不是模型的参数,也不是一个榜单位置,用户买的是一次任务能不能完成。4:19主持人这也改变了产品经理和模型团队的沟通方式。不要只说「把回答做得更聪明」,要说「让客服在三分钟内完成一次带依据的处理」,或者「让一个程序员少返工一次」。任务越具体,数据怎么采、评测怎么做、成本上限是多少,才越容易落地。4:40主持人当然,成本也不能被理解成单纯压低算力。更便宜的模型如果让用户多试三次,或者需要人工补一遍,真实成本可能更高。模型决策要把等待、重试、人工和退款都放进同一个任务账本。4:58嘉宾原声其实也就是在二五年秋天的样子确定要加入腾讯的,其实他为什么加入腾讯,我在文章里面也写了,因为之前他写了一个非常有名的一个博客,叫 The Second Half。他里面的判断其实就是说,下半场的比拼不再是训练技巧,而是定义真正值得解决的问题。那你要去找到这种问题,其实很依赖于大公司里面有没有沉淀出足够数量的这种 context。那在他的眼里面,腾讯和 Meta 其实是最关键,或者说拥有最多 context 的两家公司。5:36主持人混元和元宝、WorkBuddy 等产品的合作,目标就是让模型从一开始就接触真实场景和反馈。产品告诉模型用户卡在哪里,模型也告诉产品哪些需求需要训练、哪些可以先用工程方式解决。5:52主持人但联合设计最容易被说成一句漂亮的组织口号。真实工作里,模型团队想为下一版提升整体能力,产品团队可能只想在本周上线一个小改动。一个看长期,一个看交付,双方都没有错,冲突来自时间尺度不同。6:11主持人因此,联合设计至少要回答三个问题。哪些反馈必须进入训练,哪些问题用产品和工程先解决;谁有权决定本周不上一个看起来很酷、但会拖慢交付的能力;产品上线之后,反馈在多长时间内回到模型团队。6:30主持人如果每个需求都要等下一个大版本,产品团队会绕开模型团队自己做;如果模型团队只接短期需求,训练目标又会被一次次局部优化打散。最小可行的机制,是把短周期交付和长周期训练分成两条线,同时共享同一组用户任务指标。6:50主持人对创业公司来说,这个判断甚至更直接。模型团队和应用团队可能就在同一个办公室,但距离仍然很远。一个人盯离线评测,一个人盯留存和投诉,两个数字都在变好,用户却没有得到更稳定的结果。7:07主持人所以不要只问模型有没有能力,要问能力有没有进入任务闭环。用户反馈能不能被复现,复现之后谁做取舍,取舍有没有改变下一次交付,这三步连起来,联合设计才不是海报上的词。7:24主持人第四个判断,是大公司常说但最容易被高估的 Context。腾讯有社交、办公、游戏、金融、搜索等业务,这些业务确实提供了大量真实使用场景。7:37主持人但场景多不等于优势自动成立。上下文只有进入数据、评测、训练和产品交付,才可能改变模型。否则它只是组织介绍里的名词,模型团队仍然拿不到问题,产品团队也等不到结果。7:54主持人创业公司通常没有腾讯这样的业务版图,但可以拥有更窄、更深的上下文。比如一类企业的合同审核,一种研发团队的代码流程,或者一群设计师反复修改同一种内容。关键不是你声称知道用户,而是你能不能持续观察任务,记录失败,并把改进交付回去。8:17主持人这还涉及隐私和权限。越接近真实业务,越不能把所有数据都当成可训练材料。产品要先定义哪些信息可以用于评测,哪些只能留在客户环境里,哪些反馈只能用来改流程而不能回流模型。8:35主持人因此,Context 的价值可以用一个更硬的问题来测:模型每升级一次,你的产品是否能比外部用户更快知道哪里变好、哪里变坏,并把这个差异转化成用户能感知的结果。8:49主持人如果答案是否定的,所谓上下文优势可能只是分发优势,甚至只是客户名单。分发能带来第一次使用,只有持续反馈和更好的任务结果,才会让它变成产品能力。9:02主持人第五个判断,是腾讯内部微信和混元的关系。节目里讨论到,微信自己的模型团队和混元可能长期并存,原因不是谁更先进,而是两边面对的目标不同。9:16主持人混元更接近追求模型能力上限,需要投入大规模训练和更密集的研究;微信面对的是巨大用户规模、效率和隐私控制。一个更关心智能上限,一个更关心大规模场景下的可用成本,把它们简单合并,未必会让两边都变快。9:36主持人这对创业团队也有启发。集中管理适合目标高度一致、资源需要统一调度的工作;保留独立团队,适合用户约束、成本结构或风险边界明显不同的工作。选择的核心不是组织形式,而是目标、算力和责任有没有被说清楚。9:56嘉宾原声是什么意思?所谓腾讯就是那个中枢对于下面的掌控力,或者是有掌控力的,但是它并不会干预你是不是真的要在一个集团体系下,每个人都要大一统地去用一些什么东西。腾讯是不太会去做这样的事情的。大家以前经常会喜欢拿腾讯比作所谓美国的这种国家体系,就是联邦制。每一个事业群的自主性是很强的,我不会要求你一定要怎么怎么样做,你一定不能做什么东西,你一定要用混元什么东西,其实没有这样的一个要求。10:35主持人一个实用的做法,是把必须统一的东西和可以分开的东西列成两张清单。模型基础设施、数据权限和安全边界可能需要统一;面向不同用户的产品体验、交付节奏和场景评测,可以保留独立责任。10:53主持人组织改革进入第二阶段之后,考验也会变。第一阶段是把人换到位、把系统修起来,第二阶段要证明成绩和文化能不能共存。对于创业公司,这意味着不能永远用「我们在重建」解释交付问题。11:10主持人如果把这些判断带回团队,第一周不需要重画全部组织图。可以先选一个最重要、最容易复现的用户任务,把它从输入到结果完整走一遍。11:22主持人周一先把任务写清楚:用户是谁,什么结果算完成,等待多久还可以接受,失败时谁补救。不要用「体验更好」作为验收线,要写出能被另一位同事复核的条件。11:36主持人周二检查数据和评测。随机抽一批真实任务,看评测集是否真的覆盖用户会遇到的问题;再看有没有为了让分数好看而过度清洗、重复,或者把答案提前放进训练材料。11:51主持人周三把成本接到任务上。一次完整任务用了多少次模型调用,多少 Token,多少重试和人工时间。轻度用户和重度用户要分开算,平均数不能盖住最坏情况。12:05主持人周四让模型、产品和基础设施的人一起看同一批失败案例。每个人只能提出一个最重要的改动,并写清楚它会影响什么:模型能力、上线速度、推理成本,还是数据权限。12:20主持人周五做一次责任确认。谁能决定本周上线什么,谁能拒绝一个会带来严重成本或安全风险的需求,谁在用户投诉发生时拥有最后的处理权。没有这三个人名,协作机制就还停留在口号。12:36主持人这套动作的价值,是把组织争论从性格和资历,拉回到任务证据。有人说模型团队太慢,有人说产品团队只看短期,最后都要回到同一批用户失败案例上。12:50主持人它也能帮创业者判断要不要招一个更强的模型负责人。如果问题是数据权限、反馈回路和交付责任没有人负责,继续增加研究员并不能解决;如果任务和系统已经清楚,只是训练能力不够,再去补技术负责人,才有意义。13:08主持人同样,组织改造也不能只靠外部空降。外部负责人带来新经验,但必须拿到明确的决策空间,也要接受真实业务的检验。否则他只是给旧组织增加了一个更响亮的头衔。13:23主持人三十天后可以复盘四个结果:模型是否更稳定,产品是否更快拿到反馈,单位任务成本是否可解释,团队是否知道谁对结果负责。四项都没有变化,就不要急着宣布改革成功。13:39主持人大公司需要用更长时间证明这些变化能不能穿过组织惯性,创业公司则更快看到结果。无论规模大小,判断标准都一样:用户任务有没有变好,团队有没有少走弯路,公司有没有留下下一次选择的现金和能力。13:57主持人做到这里,再回头讨论模型规模、组织集中还是联邦,才有意义。否则这些词只是把尚未解决的问题换了一套更大的说法。14:08主持人回到节目的最后一个问题:如果今年年底再写一遍国内大厂的 AI 竞争,什么会变?节目里的判断并不是简单预测谁会赢,而是把门槛拆成两层。14:20嘉宾原声我觉得这个结果很明显,你就是要拿出第一梯队的模型。14:25主持人这也解释了为什么 Coding 的商业化速度,不能直接套到所有白领工作。程序员的任务边界、反馈方式和验收结果相对清楚;知识工作的责任、权限和组织流程更复杂,产品要解决的不只是生成,而是怎么把结果放进真实协作。14:44主持人创业者如果只盯着模型发布,很容易忽略这个差别。你真正要验证的是,目标用户愿不愿意把一段有责任后果的工作交给产品,产品能不能让他检查,失败时谁负责,成本能不能随着规模下降。15:00主持人所以这期节目的五个判断最后可以合成一句话:先把组织和任务系统修好,再决定模型怎么做;先让模型进入真实交付,再谈上下文是不是壁垒;先把资源和责任边界写清楚,再决定是集中还是分工。15:18主持人给正在做 AI 产品的团队,留下五个复盘问题。你现在的模型问题究竟发生在数据、评测、基础设施还是交付?目标用户的高频任务和成本上限是什么?模型与产品共享什么反馈?上下文是否真的改变了结果?哪些事情必须集中,哪些事情分开反而更快?15:40主持人姚顺雨来到腾讯三百天,能说明的不是一个年轻负责人一定能改造大公司,而是一家公司愿不愿意为新的模型竞争重新安排组织、目标和责任。对创业者来说,最有用的部分也许不是复制腾讯的做法,而是找出自己团队里那条最先漏水的链路。16:01主持人本期内容依据晚点 LatePost 的官方报道和晚点聊第 176 期完整公开音频整理。节目中的判断是面向 AI 产品创业者的二次分析,原始报道和节目链接放在正文里。这里是七档 AI 创业者精选播客缩短版,我们下期再见。