
E247|盛颖谈 SGLang、xAI 与 AI Infra:完整逐字稿和精华摘要
完整转写并整理《硅谷101》E247:盛颖讲述从数学研究到 AI Infra、SGLang 与 RadixArk 的路径,以及她对开源、组织责任和平等机会的判断。
本文依据《硅谷 101》官方 RSS 提供的完整音频转写,不以节目简介代替访谈内容。转写按说话人分段,并对句读与高置信度专有名词作了整理;个别口语、英文术语和多人抢话处仍保留原始表达。
这期节目讲了什么
《硅谷 101》E247 的嘉宾是盛颖:RadixArk 联合创始人兼 CEO、xAI 前推理团队负责人,也是开源推理引擎 SGLang 的发起人。官方单集页将本期主持标为陈茜。节目发布于 2026 年 8 月 5 日 12:30(Asia/Shanghai),音频时长 1 小时 46 分 26 秒。12
盛颖把自己的经历讲成一条从数学、形式化验证到 AI 基础设施的路径。她并不是沿着一条持续上扬的履历线前进,而是在哥大、斯坦福、Google、Databricks 和 xAI 之间反复确认:什么问题值得自己投入,什么组织能让她同时拥有行动自由和承担责任的权力。1
嘉宾的几个判断
- 先承认自己的工作方式。 她说自己无法靠意志长期做好不感兴趣的事,真正能让她进入高度专注状态的,是被问题本身吸引。她后来用 ADHD 这个概念理解自己的注意力特征,也不再强迫自己逆着这种需要生活。
- AI Infra 不是幕后零件。 在她看来,推理基础设施直接决定模型能否进入真实生产环境;性能、成本、工程组织和使用体验都在这一层汇合,因此基础设施本身也可以是产品。
- 责任必须和权力配套。 在大公司里,无法决定事情的人很难真正对结果负责。她离开 xAI 创业,部分原因正是 SGLang 社区已经大到不能再靠业余时间维护,而她想把决定权和责任放在同一个位置上。
- 开源社区的价值不只是代码。 SGLang 早期的贡献者大多通过网络相识,社区把不同背景的人拉到同一个技术问题前。她把这种平等机会看得很重,也警惕用身份、头衔或既有规则替别人解释能力。
- 人与强力 AI 的未来仍然需要主动选择。 她不把「影响力」本身当作目标,更在意自己认定正确的事情是否最终发生;她想参与构建一个人类与强力 AI 共存、而人类不会输掉主动权的未来。
关键节点
- 数学的确定性让她获得专注,但也把她带进了一个「与世界无关」的世界。
- 形式化验证、Google 的代码方向和 Databricks 的工程环境,让她开始把研究能力放进真实系统。
- xAI 早期同时给了她 support 和 freedom;SGLang 社区扩大后,这种个人项目的维持方式不再够用。
- RadixArk 的成立,把一个研究项目变成需要面对客户、融资、团队和商业节奏的公司。
- 从 AI Infra 的技术细节到平权与未来,节目最后回到一个个人问题:一个人能否按照自己的判断行动,并为此承担后果。
节目中反复出现的术语
- SGLang:面向大模型推理的开源引擎,本期讨论的主线技术与社区项目。
- RadixAttention:围绕前缀缓存减少重复计算的技术,节目将它作为 SGLang 的核心技术之一讨论。
- KV Cache:模型处理上下文时保存中间计算结果的缓存;命中可减少重复计算,但会占用显存。
- VLM:视觉语言模型,节目谈到盛颖在转向 SGLang 前参与的相关研究环境。
几句原话
「AI Infra 是浪漫的。」——盛颖把基础设施描述成一种需要工程判断和美感的产品。1
「support」和「freedom」——她用这两个词概括 xAI 早期同时提供支持与自主空间的工作环境。1
「她赢了,不需要被解释。」——节目谈到平等机会时,盛颖反对先用身份替别人解释成败。1
「世间的美好是存在的。」——这是节目结尾留下的判断。1
完整逐字稿
主播:不知道在做什么其实你不知道在做什么你可能是在就是在迷茫吧想去找到你想解,决的问题因为我听上来是说要去找到一个你真正感兴趣的问题并且解决它真的是,你的。
盛颖:一个一个 driver 一个驱动力是的这个是的就是我确实有一些特点就是我没有,办法妥协我后来服从了我的这个特点就是原来在不理解我自己的时候我尝试努力,去适应过一些规则但是我后来发现我自己是不能被勉强的就是我没有办法做我不,感兴趣的事情没有办法做好我能做但其实我没有办法做好我只有这个事情它让我觉得。
盛颖:非常 exciting 我才有可能把那件事情做好这是一个特别特别纯粹的一个,性格你当时什么时候发现说这个性格就是这样了我必须要去服从我这个性格的这是,一个缓慢发展的过程倒也没有某一个时间点突然动物了它是一个我慢慢意识到以及,终于有一天我完全接受它的一个。
主播:状态。
盛颖:我完全接受它可能是在博士的最后最后一两年吧你本身是一个喜欢 intense,的人吗我是一个必须 intense 的人从小就是这样的对我觉得从你发 paper,的那个数量跟节奏就能看出来对我没有办法就是我哪怕睡觉的时候也会一直做梦,就是我没有办法停下来你做梦也会梦到跟你研究或者工作相关的事吗当然肯定会。
盛颖:啊肯定会会啊大家都会吧你那时候的梦是完全无关的呀我都是还是还是挺有关的,都是个生活就是说明你在睡觉的时候你的前思维其实还是在工作有可能是生活就是,工作生活但它一般来说都不是不是没有任何关系的东西但肯定会有虚假的成分会,有想象的空间但是它不会是毫无关联的我觉得我 PSG 经历的那段 depression。
盛颖:的时期就是因为那段时间太无聊了因为疫情的时候大家都 slow down 了,然后我根本没有办法在一个 slow ,down 的环境里面保持我 mental,health iness 所以就是一定要忙起来然后才能让你健。
主播:康地运作我不一定要忙起来我不一定要忙起来我 master 做那个 serial,研究做数学研究的时候是不忙的那个时候你是很沉静的因为那个问题它就是除了,看着一张纸在那想其实没什么能做的我看上去很闲我每天还我每天可能也就想四,个小时然后工作四个小时然后我就去打游戏了其实我 master 打其实也打了,好多游戏。
盛颖:因为那个问题都太难了你没什么事你只能空想那打游戏的时候也很 intense,对吧其实也没有我觉得那个 Siri 非常不一样 Siri 就是有很多灵感你,只能等它来。
主播:其实你没什么事情可能你只能在那等你等着那一刻来临所以我有大量的时间去打,游戏那打游戏转眼就灵感来了然后去写一写是吗其实我那个当时那个题目做解说,就是在我看电视的时候想到的 idea 对我也不知道为什么但确实那个 cont,act 是我看电视之前看的一篇 paper。
盛颖:然后我就开始看电视去了看了中断的时候不知道为什么那个 Paper.in,的东西突然回响 Echo 出来然后突然又想到了 Paper.in 那个点突,然意识到这个地方可能是一个解法突破点那个就是关键点就是你那个问题被解决,的就发生的那个瞬间那个是真的是有一个 Phase Trans ition。
盛颖:就是那个是一瞬间的事情就是那个时刻那个问题被解掉了然后你给电视剧看到那,一半你突然我怎么突然开始知道怎么解决这个问题了暂停谢谢正云你还记得是什么,电视剧吗正幻传我就真的记得太神了我一般是在洗澡的时候会有灵感突然这个也,会有但是电视剧我觉得我很少因为就是看电视剧你还是要很沉静的嘛但是就是看。
盛颖:起来你看电视剧的时候你的潜思维感觉还是在一直在思考一些我会就前面说到我,跟我自己和解我是怎么和解的呢就是我以前不知道 ADHD 这个东西有一天我就,慢慢地了解到有一个东西叫做 ADHD 然后我看完那个各种症状深入理解之后我,发现好多东西都可以被解释就你觉得你是 ADHD 我确实是我经常看心理医生但。
盛颖:它不是一个疾病它是一个特点学习之后我发现好多事情被解释了我就它给我带来,最大的帮助是我通过理解它而理解了我自己像是我找到了怎么使用我自己的一把,钥匙我突然知道了就是手册有了对对对它是一个手册我突然知道了就是我不应该,逆着我的那个需要被 jud ge 也不需要 judge 别人的 shock 这个。
盛颖:shock 是从一个被限制状态到一个完全自由状态的一个对它是个 shock,但它其实是个更放松的过程。
主播:挺好的那我看你在那个哥大硕士阶段发表的论文还是比较偏理论的嘛主要是测试,函数然后现行回归的数学性质后来到了斯坦福图 Ph ,D 的时候你选择了形式化,验证方向那么先跟我们说一下在哥大你从事的这些研究其实对你有就后来。
盛颖:的研究有产生任何的影响吗我刚上研究生的时候是没有想要做研究的但是我第一,学期的时候上计算复杂性的课当时觉得很有趣然后我又碰巧教了一些当时的朋友,就是当时的博士生朋友然后他们都是做理论的然后我就觉得这个领域非常有意思,我就找老师和这些同学们说能不能有一些问题可以研究研究了一段时间觉得很有。
盛颖:趣然后也有成果所以自然而然的就到了斯坦福就是你研究生毕业的时候我会听不,见别人叫我的名字不记得时间不知道外面发生了事情会错过很多的 meeting,然后不 focus 就是就是根本没办法 focus 就是哪怕这事情很重要我,盯着这个目标去我没有对着这个目标去我觉得他是 open 的所以我也保留了这个。
盛颖:选项探索了一下但我后来发现这个理论的问题非常有意义但游戏会非常 focus,但游戏非常 focus 有些运动竞技性运动也会它需要非常的 intense,对对对它要非常激烈它要 com pet ,ition 就是游戏的话你是对打玩,你有输赢球类运动也是你有输赢这个时候的时候我就会非常 focus 所以你是。
盛颖:一个好胜心很强的人我觉得我不是真的很在乎输赢但是我在乎那个 intense,的感觉我喜欢那个感觉我是不在乎输赢我游戏可以输大比赛也可以输 it'sok,我也不会觉得那个我非要赢但是你这个即使吹起兴趣了之后我会很享受那个心流,状态就是还是那个我喜欢心流状态你的大脑被抓住然后你就是非常就是心流吧就是。
盛颖:人非常 focus 那个应该就叫心流状态是很享受的所以打游戏研究学习。
主播:这个上面你都可以获得你的心流状态对学我喜欢的东西可以再提一个你大学的问题,然后我们到这个这个公司上面来就竞赛圈嘛它其实是一个很有那种天才。
盛颖:标签的这样的一个圈子对然后数学在那个环境下就会显得特别的特别的美好特别,的优美因为他是确定性感现实绝对化的然后你在跟他打交道的时候没有什么其他,东西需要思考它可以让你非常的沉静和 focus 或者说你可以在这个环境里,面进入心流状态思考问题的时候进入心流状态这个心流状态是与人无关与其他所有。
盛颖:事情都无关大脑被完全地调转起来进一种生理性愉悦我有一点描述不出那个感觉,我能给到你的意思但是这个状态我觉得非常的纯有非常强的队友帮我带飞了不是,经常肯定有啊但是小说更多一点后来不是经常因为虽然有这些拿了这个奖项但好像,其实都不是就比如说那银牌不算啥还有很多金牌选手呢对所以对啊就看你跟谁比。
盛颖:嘛但是我在的那个环境里面他们总是有比我更强的那比如说我在 SM 班 SM 班里,面有比我更强有。
主播:很多比我更强所以就是你觉得努力这件事情更重要还是天分这件事情更重要我赞,成天分那你觉得在研究上面天分它主要表现在什么样的方向呢天。
盛颖:分是指当外界人不把研究当回事不觉得研究不觉得研究是件伟大的事情的时候你,还想做它那就是你的天分那是要兴趣我觉得大部分时候天分和相关。
主播:性还是蛮强的那这么说吧可能很多人想当 res ur re ctor 但不是,很多人都能研究出来或者解决这个问题就你能解决这个问题肯定。
盛颖:是有你的天分在对是有天分的但我其实首先不觉得大多数人真的想成为 resur,re ,ctor 我见过太多的人他们想做研究想成为人事者是因为他们觉得这件事情,酷是因为外界的环境让他们觉得这件事情很酷或者当教授是一个铁饭碗类似的好像,就一些原因但这个并不是如果说当所有人都开始觉得当教授是一个被人唾弃的职。
盛颖:业的时候他们马上就不会想做了就是你能识别出来但是在我当时想做这件事情的时候,其实我是就是比如说我在的环境里面其实大家也没有觉得做 the ory 是一,件多么伟大的事情谢谢大家但是你还是想你还是觉得他有意思我想做的事情是因为,我希望跟跟别人无关是因为我享受 irrelevant 那个时候才是你真正的。
盛颖:所谓的兴趣和天分所在的时候我也不敢说我有天分啊那我毕竟也没有发明过什么,也没有什么巨大的数学成就我也不能算有天分你肯定是算有天分的不然的话你 paper,怎么能发那么多有很多人 paper 发的很多比我发的 paper 多的人还有很多,那可能就是更有天分的发 paper 只是一个发 paper 是有有有有套路的什么。
盛颖:套路哈哈哈就是发 paper 其实你如果掌握了发 paper 发 paper 本身,是一个技能发 paper 跟做 rese ,arch 是两件事情发 paper 跟人,们定义的做 rese arch 和真正意义上的科学家是三件事情 OK 发 paper,是有套的你完全可以一个人他根本就不怎么懂 rese arch 他也能发很多。
盛颖:paper 就像是一个什么命题作文一样是不是你套着他那个框去写就可以了吗,对就是你只要掌握了这个规则然后你掌握这个体系的规律在同样的规律里面不行,的铲除你就可以一直发很多的 paper 但是顶刊也很少啊不少了现在顶刊一年,都几千篇上万篇这么多人去投稿的话那顶刊还是算少的吗对那肯定是有 struct。
盛颖:ural 的那肯定那那我可能还是比 a verage 要有天分一些哈哈对就是,掌握这个套路本身就是一件有天分的。
主播:事情。
盛颖:所以你说。
主播:发 paper 跟做研究跟当科学家是三件事情做研究发 paper 跟打工人是一,样的跟打工人是一,样的就是是,一个非常平凡。
盛颖:的事情 OK 做研。
主播:究跟当科学家这两者有。
盛颖:什么区,别,吗做研究的话就是有很多研究他们其实是不 break through 的也是,不 key 的但是不是没有价值所以做研究它仍然是一个职业它只不过是一件职业,只不过是我作为一个 rese arch ,er 我喜欢享受做研究所以我在这里,做研究而并不是我比别人更有天分我没有天分我也可以是个 rese arch。
盛颖:er 所以 rese arch er 只是一个职业但我所说的科学家这个名词我,可能也用错了但我就说还有另一类就真正在推动人类知识边界的人是非常非常少,的然后这批人一般来说但我的 bar 也很高就是在我眼中真的在推动这个推动就是,指如果不是他这个事情会往很长时间发生这个是被我定义的未来但是最开始做 Paul。
盛颖:A ins worth 那篇论文的时候就是我第一次拿一支卡 Best Paper,那篇非常非常的意外因为我当时是一个完全小白的状态我对这个领域不知道导师,给了我一个问题我去解决它而已然后我做完它的时候我也没有任何的认知说什么,样是这个领域里最好的 paper 因为我看的 paper 还不够多所以这个奖出来。
盛颖:的时候我完全没有想到被别人 cong rats 的时候得知拿到了这个奖那个,是我进这个领域发的第一篇论文好发完这篇论文之后其实我就又重新进入很当的,状态就是我还是没有找到我想要做的下一个问题在哪就是 exciting 的,问题在哪在那篇文章做完之后我记得就进入疫情了进入疫情我其实有长达一年的。
盛颖:时间是没有做任何事情的接近一年的时间在一个 dep ression 的状态,里但我遇到了非常好的导师 C lar ,ke 非常 supportive 他完全,理解说我要调整好这个状态他只关心我是不是有一个好的精神状态只关心我是不是,能够走出来他没有给我施加任何我需要继续铲除论文或者做论设施的压力他说那。
盛颖:我可以去上一些课做一下 TA 做一些这种很清亮级的事情在那时间还回国待了半,年一个疗愈期然后我其实没有产生论文但是卡尔从来没有断过我的经费那确实是,非常好的导师非常好的一个导师然后我一年之后才慢慢走出来之后才又做了 sequ,encing 的配方我们前面也有过很多挣扎证明应该是写了 20 多页吧来来回。
盛颖:回改了四五次而且有两次我几乎是全部推翻重写的那个证明已经花了一两个星期,推出来的证明世界的证明全部推翻因为你从一开始发现一不及点错了那个错误之,后后面所有的后续推理全部是错的所以那个证明从前面要一直 f ,ix 到全部重,新推翻出来但是这个过程走完之后很有成就感最后这个证明完全写完之后比一开始。
盛颖:设想的要复杂的多很多我们都觉得这段证明写出来和这段经历非常的 accompl,ish 就是很有满足感我记得那个时候 Clar ,ke 自己也说那篇 paper,里的证明是他过去一年的 high light 当时也是 by paper 提名,但是没有被公开就是大家讨论过最后没有被选上但是很接近如果说我在形式化工作。
盛颖:的话这篇 paper 可能是我觉得最愉悦的一段时间从这篇 paper 开始我开始,看见了形式化理论的这个里面的一些深刻的含义和和它的优美之处它的优美之处,在哪里呢它让我理解了程序语言设计的几个不同角度吧就是形式化的这个方法去,设计语言它是从数学的角度去理解程序语言的程序语言我打了很久的交道我打了。
盛颖:20 年的交道但是我从来没有以这样的角度去看待过它然后它给我一个全新的视,角但是你会发现程序语言里面它有很多的 trade-off 不同的角度上有一,些语言更接近数学有一些语言更接近硬件你其实很难有一个支点让你一个语言它,离数学和硬件都很近接近数学的语言它会更容易被验证更容易被形式化接近硬件。
盛颖:的语言会更灵活更高效更接近人的思维习惯就是当你需要编成硬件里面的具体硬,算的时候那样的麦平就更直接最后没有再往这个领域继续地走下去是因为什么呢,我看到了它的有意思的地方但是我也看见了它这个领域的局限性它能够在现实中,pract ically 被应用的场景太少了然后你要验证一个程序太贵了但是。
盛颖:它能验证的又很少不能产生足够大的影响但是我觉得我想离世界更近一点我还是,想要做更接近真实生活的东西当时觉得所以我那个时候就开始探索 AI 要开始寻,求双向转化开始探索 AI 这个过程其实也不太顺利可能我又有一年的时间的空窗,期就是你看上去我的 p ublic ation 没有停但其实我正经很多的空。
盛颖:窗期派解的空窗期跟你自己定义的空窗期是不一样的对我自己定义的空窗期就是,那一段时间我没有做任何我其实没有 makea ,progress 在我转 AI,的时候又有大概一年的时间我其实没有任何新的 idea 我实际上没有做任何,事情可能长达一年之后我突然某个时间找到事情可做的时候我三个月产出了一件事情。
盛颖:但是外人看你会觉得那个作品是我过去一年的成果实际上它是我过去一年里最后,三个月的成果九个月我都在这个最后的状态完全不知道自己在干什么的状态里我,非常理解这个过程就像我们记者写稿子也是一样的对你那个给我一个月的时间前,面 29 天的时间我都在做 rese arch 或者是放空或者是采访然后我其实。
盛颖:这个稿子就是用一天时间写出来的对所以你看上去比如我行事化我可能发了三个,paper 分布在三年时间里面但免费 paper 真正的推动其实它都只花了什么,三个月的时间然后这三年里面每年都有九个月。
主播:不知道在做什么其实你不知道在做什么你可能是在就是在迷茫吧想去找到你想解,决的问题因为我听上来是说要去找到一个你真正感兴趣的问题并且解决它。
盛颖:真的是你的一个一个 driver 一个驱动力是的这个是的就是我确实有一些特,点就是我没有办法妥协我后来服从了我的这个特点就是原来在不理解我自己的时候,我尝试努力去适应过一些规则但是我后来发现我自己是不能被勉强的就是我没有,办法做我不感兴趣的事情没有办法做好我能做但其实我没有办法做好我只有这个。
盛颖:事情它让我觉得非常 exciting 我才有可能把那件事情做好这是一个特,别特别纯粹的一个性格。
主播:你当时什么时候发现说这个性格。
盛颖:就是这样了我必须要去服从我这个性格的这是一个缓慢发展的过程倒也没有某一个,时间点突然动物了它是一个我慢慢意识到以及终于有一天我完全接受它的一个。
主播:状态。
盛颖:我完全接受它可能是在博士的最后最后一两年吧你本身是一个喜欢 intense,的人吗我是一个必须 intense 的人从小就是这样的对我觉得从你发 paper,的那个数量跟节奏就能看出来对我没有办法就是我哪怕睡觉的时候也会一直做梦,就是我没有办法停下来你做梦也会梦到跟你研究或者工作相关的事吗当然肯定会。
盛颖:啊肯定会会啊大家都会吧你那时候的梦是完全无关的呀我都是还是还是挺有关的,都是个生活就是说明你在睡觉的时候你的前思维其实还是在工作有可能是生活就是,工作生活但它一般来说都不是不是没有任何关系的东西但肯定会有虚假的成分会,有想象的空间但是它不会是毫无关联的我觉得我 PSG 经历的那段 depression。
盛颖:的时期就是因为那段时间太无聊了因为疫情的时候大家都 slow down 了,然后我根本没有办法在一个 slow ,down 的环境里面保持我 mental,health iness 所以就是一定要忙起来然后才能让你健。
主播:康地运作我不一定要忙起来我不一定要忙起来我 master 做那个 serial,研究做数学研究的时候是不忙的那个时候你是很沉静的因为那个问题它就是除了,看着一张纸在那想其实没什么能做的我看上去很闲我每天还我每天可能也就想四,个小时然后工作四个小时然后我就去打游戏了其实我 master 打其实也打了,好多游戏。
盛颖:因为那个问题都太难了你没什么事你只能空想那打游戏的时候也很 intense,对吧其实也没有我觉得那个 Siri 非常不一样 Siri 就是有很多灵感你,只能等它来。
主播:其实你没什么事情可能你只能在那等你等着那一刻来临所以我有大量的时间去打,游戏那打游戏转眼就灵感来了然后去写一写是吗其实我那个当时那个题目做解说,就是在我看电视的时候想到的 idea 对我也不知道为什么但确实那个 cont,act 是我看电视之前看的一篇 paper。
盛颖:然后我就开始看电视去了看了中断的时候不知道为什么那个 Paper.in,的东西突然回响 Echo 出来然后突然又想到了 Paper.in 那个点突,然意识到这个地方可能是一个解法突破点那个就是关键点就是你那个问题被解决,的就发生的那个瞬间那个是真的是有一个 Phase Trans ition。
盛颖:就是那个是一瞬间的事情就是那个时刻那个问题被解掉了然后你给电视剧看到那,一半你突然我怎么突然开始知道怎么解决这个问题了暂停谢谢正云你还记得是什么,电视剧吗正幻传我就真的记得太神了我一般是在洗澡的时候会有灵感突然这个也,会有但是电视剧我觉得我很少因为就是看电视剧你还是要很沉静的嘛但是就是看。
盛颖:起来你看电视剧的时候你的潜思维感觉还是在一直在思考一些我会就前面说到我,跟我自己和解我是怎么和解的呢就是我以前不知道 ADHD 这个东西有一天我就,慢慢地了解到有一个东西叫做 ADHD 然后我看完那个各种症状深入理解之后我,发现好多东西都可以被解释就你觉得你是 ADHD 我确实是我经常看心理医生但。
盛颖:它不是一个疾病它是一个特点学习之后我发现好多事情被解释了我就它给我带来,最大的帮助是我通过理解它而理解了我自己像是我找到了怎么使用我自己的一把,钥匙我突然知道了就是手册有了对对对它是一个手册我突然知道了就是我不应该,逆着我的那个需要被 jud ge 也不需要 judge 别人的 shock 这个。
盛颖:shock 是从一个被限制状态到一个完全自由状态的一个对它是个 shock,但它其实是个更放松的过程。
主播:挺好的那我看你在那个哥大硕士阶段发表的论文还是比较偏理论的嘛主要是测试,函数然后现行回归的数学性质后来到了斯坦福图 Ph ,D 的时候你选择了形式化,验证方向那么先跟我们说一下在哥大你从事的这些研究其实对你有。
盛颖:就后来的研究有产生任何的影响吗我刚上研究生的时候是没有想要做研究的但是,我第一学期的时候上计算复杂性的课当时觉得很有趣然后我又碰巧教了一些当时,的朋友就是当时的博士生朋友然后他们都是做理论的然后我就觉得这个领域非常,有意思我就找老师和这些同学们说能不能有一些问题可以研究研究了一段时间觉得。
盛颖:很有趣然后也有成果所以自然而然的就到了斯坦福就是你研究生毕业的时候我会,听不见别人叫我的名字不记得时间不知道外面发生了事情会错过很多的 meeting,然后不 focus 就是就是根本没办法 focus 就是哪怕这事情很重要我,盯着这个目标去我没有对着这个目标去我觉得他是 open 的所以我也保留了这个。
盛颖:选项探索了一下但我后来发现这个理论的问题非常有意义但游戏会非常 focus,但游戏非常 focus 有些运动竞技性运动也会它需要非常的 intense,对对对它要非常激烈它要 com pet ,ition 就是游戏的话你是对打玩,你有输赢球类运动也是你有输赢这个时候的时候我就会非常 focus 所以你是。
盛颖:一个好胜心很强的人我觉得我不是真的很在乎输赢但是我在乎那个 intense,的感觉我喜欢那个感觉我是不在乎输赢我游戏可以输大比赛也可以输 it'sok,我也不会觉得那个我非要赢但是你这个即使吹起兴趣了之后我会很享受那个心流,状态就是还是那个我喜欢心流状态你的大脑被抓住然后你就是非常就是心流吧就是。
盛颖:人非常 focus 那个应该就叫心流状态是很享受的所以打游戏研究学习这个。
主播:上面你,都可以获得你的心流状态对学我喜欢的东西可以再提一个你大学的问题然后我们,到这个这个公司上面来就竞赛圈嘛它其实是一个很有那种天才。
盛颖:标签的这样的一个圈子对然后数学在那个环境下就会显得特别的特别的美好特别,的优美因为他是确定性感现实绝对化的然后你在跟他打交道的时候没有什么其他,东西需要思考它可以让你非常的沉静和 focus 或者说你可以在这个环境里,面进入心流状态思考问题的时候进入心流状态这个心流状态是与人无关与其他所有。
盛颖:事情都无关大脑被完全地调转起来进一种生理性愉悦我有一点描述不出那个感觉,我能给到你的意思但是这个状态我觉得非常的纯有非常强的队友帮我带飞了不是,经常肯定有啊但是小说更多一点后来不是经常因为虽然有这些拿了这个奖项但好像,其实都不是就比如说那银牌不算啥还有很多金牌选手呢对所以对啊就看你跟谁比。
盛颖:嘛但是我在的那个环境里面他们总是有比我更强的那比如说我在 SM 班 SM 班里,面有比我更强有。
主播:很多比我更强所以就是你觉得努力这件事情更重要还是天分这件事情更重要我赞,成天分那你觉得在研究上面天分它主要表现在什么样的方向呢天。
盛颖:分是指当外界人不把研究当回事不觉得研究不觉得研究是件伟大的事情的时候你,还想做它那就是你的天分那是要兴趣我觉得大部分时候天分和相关性还是蛮强的。
主播:那这么说吧可能很多人想当 res ur re ctor 但不是很多人都能研,究出来或者解决这个问题就你能解。
盛颖:决这个问题肯定是有你的天分在对是有天分的但我其实首先不觉得大多数人真的,想成为 res ur re ,ctor 我见过太多的人他们想做研究想成为人事,者是因为他们觉得这件事情酷是因为外界的环境让他们觉得这件事情很酷或者当,教授是一个铁饭碗类似的好像就一些原因但这个并不是如果说当所有人都开始觉得。
盛颖:当教授是一个被人唾弃的职业的时候他们马上就不会想做了就是你能识别出来但是,在我当时想做这件事情的时候其实我是就是比如说我在的环境里面其实大家也没有,觉得做 the ,ory 是一件多么伟大的事情谢谢大家但是你还是想你还是觉得,他有意思我想做的事情是因为我希望跟跟别人无关是因为我享受 irrelevant。
盛颖:那个时候才是你真正的所谓的兴趣和天分所在的时候我也不敢说我有天分啊那我,毕竟也没有发明过什么也没有什么巨大的数学成就我也不能算有天分你肯定是算,有天分的不然的话你 paper 怎么能发那么多有很多人 paper 发的很多比,我发的 paper 多的人还有很多那可能就是更有天分的发 paper 只是一个。
盛颖:发 paper 是有有有有套路的什么套路哈哈哈就是发 paper 其实你如果掌,握了发 paper 发 paper 本身是一个技能发 paper 跟做 research,是两件事情发 paper 跟人们定义的做 rese ,arch 和真正意义上的科,学家是三件事情 OK 发 paper 是有套的你完全可以一个人他根本就不怎么懂。
盛颖:rese arch 他也能发很多 paper 就像是一个什么命题作文一样是不是,你套着他那个框去写就可以了吗对就是你只要掌握了这个规则然后你掌握这个体,系的规律在同样的规律里面不行的铲除你就可以一直发很多的 paper 但是顶,刊也很少啊不少了现在顶刊一年都几千篇上万篇这么多人去投稿的话那顶刊还是。
盛颖:算少的吗对那肯定是有 st ruct ural 的那肯定那那我可能还是比 a,verage 要有天分一些哈哈对就是掌握这个套路本身就是一件有。
主播:天分的事情。
盛颖:所以你说。
主播:发 paper 跟做研究跟当科学家是三件事情做研究发 paper 跟打工人是一。
盛颖:样的,跟打工人是一样的就是是一个非常平凡的事情 OK 做研究跟当科学家这两者有什么,区别吗做研究的话就是有很多研究他们其实是不 break through 的,也是不 key 的但是不是没有价值所以做研究它仍然是一个职业它只不过是一件,职业只不过是我作为一个 rese arch er 我喜欢享受做研究所以我在。
盛颖:这里做研究而并不是我比别人更有天分我没有天分我也可以是个 research,er 所以 rese arch ,er 只是一个职业但我所说的科学家这个名词我,可能也用错了但我就说还有另一类就真正在推动人类知识边界的人是非常非常少,的然后这批人一般来说但我的 bar 也很高就是在我眼中真的在推动这个推动就是。
盛颖:指如果不是他这个事情会往很长时间发生这个是被我定义的未来但是最开始做 Paul,A ins ,worth 那篇论文的时候就是我第一次拿一支卡 Best Paper,那篇非常非常的意外因为我当时是一个完全小白的状态我对这个领域不知道导师,给了我一个问题我去解决它而已然后我做完它的时候我也没有任何的认知说什么。
盛颖:样是这个领域里最好的 paper 因为我看的 paper 还不够多所以这个奖出来,的时候我完全没有想到被别人 cong ,rats 的时候得知拿到了这个奖那个,是我进这个领域发的第一篇论文好发完这篇论文之后其实我就又重新进入很当的,状态就是我还是没有找到我想要做的下一个问题在哪就是 exciting 的。
盛颖:问题在哪在那篇文章做完之后我记得就进入疫情了进入疫情我其实有长达一年的,时间是没有做任何事情的接近一年的时间在一个 dep ,ression 的状态,里但我遇到了非常好的导师 C lar ke 非常 supportive 他完全,理解说我要调整好这个状态他只关心我是不是有一个好的精神状态只关心我是不是。
盛颖:能够走出来他没有给我施加任何我需要继续铲除论文或者做论设施的压力他说那,我可以去上一些课做一下 TA 做一些这种很清亮级的事情在那时间还回国待了半,年一个疗愈期然后我其实没有产生论文但是卡尔从来没有断过我的经费那确实是,非常好的导师非常好的一个导师然后我一年之后才慢慢走出来之后才又做了 sequ。
盛颖:encing 的配方我们前面也有过很多挣扎证明应该是写了 20 多页吧来来回,回改了四五次而且有两次我几乎是全部推翻重写的那个证明已经花了一两个星期,推出来的证明世界的证明全部推翻因为你从一开始发现一不及点错了那个错误之,后后面所有的后续推理全部是错的所以那个证明从前面要一直 f ix 到全部重。
盛颖:新推翻出来但是这个过程走完之后很有成就感最后这个证明完全写完之后比一开始,设想的要复杂的多很多我们都觉得这段证明写出来和这段经历非常的 accompl,ish 就是很有满足感我记得那个时候 Clar ,ke 自己也说那篇 paper,里的证明是他过去一年的 high light 当时也是 by paper 提名。
盛颖:但是没有被公开就是大家讨论过最后没有被选上但是很接近如果说我在形式化工作,的话这篇 paper 可能是我觉得最愉悦的一段时间从这篇 paper 开始我开始,看见了形式化理论的这个里面的一些深刻的含义和和它的优美之处它的优美之处,在哪里呢它让我理解了程序语言设计的几个不同角度吧就是形式化的这个方法去。
盛颖:设计语言它是从数学的角度去理解程序语言的程序语言我打了很久的交道我打了,20 年的交道但是我从来没有以这样的角度去看待过它然后它给我一个全新的视,角但是你会发现程序语言里面它有很多的 trade-off 不同的角度上有一,些语言更接近数学有一些语言更接近硬件你其实很难有一个支点让你一个语言它。
盛颖:离数学和硬件都很近接近数学的语言它会更容易被验证更容易被形式化接近硬件,的语言会更灵活更高效更接近人的思维习惯就是当你需要编成硬件里面的具体硬,算的时候那样的麦平就更直接最后没有再往这个领域继续地走下去是因为什么呢,我看到了它的有意思的地方但是我也看见了它这个领域的局限性它能够在现实中。
盛颖:pract ically 被应用的场景太少了然后你要验证一个程序太贵了但是,它能验证的又很少不能产生足够大的影响但是我觉得我想离世界更近一点我还是,想要做更接近真实生活的东西当时觉得所以我那个时候就开始探索 AI 要开始寻,求双向转化开始探索 AI 这个过程其实也不太顺利可能我又有一年的时间的空窗。
盛颖:期就是你看上去我的 p ublic ation 没有停但其实我正经很多的空,窗期派解的空窗期跟你自己定义的空窗期是不一样的对我自己定义的空窗期就是,那段时间我没有做任何我其实没有 makea ,progress 在我转业的时候,又有大概一年的时间我其实没有任何 LMinference 相关的很多 work。
盛颖:所以这是我的第一个 work 连续的一系列 work 到 S 上它类似于成为了一个,收官之作我那个时候就是 PhD 我可以毕业了然后我也觉得我已经做了很多不同,角度的 rese arch 但它们都比较 loc al ,S 上是我希望把它们都,集大成一体的一个一个作品所以 SGLang 的时候我们就开始把它做成开源。
盛颖:然后希望走向的是 Produ ctionR ally 这个从一开始就想好了,从做 SGLang 之初就希望它是做成一个 Production ,R ally,可以被广泛使用的推理引擎被大规模使用的推理引擎其实你在做 SGLang,之前 VLM 已经推出了半年多了你之前其实在 VLM 也是做了一些项。
主播:目的对吧就是为什么已经有这样的一个东西你自己还在做。
盛颖:是想要做 SGLang 这个历史也比较长我在 VLM 的 research paper,上这个其实也是我本来自己在做 rese ,arch 然后其实当时我听到有这个,VLM 项目的时候它 VLM 当时的 idea 跟我们在思考的另一个 idea,是类似的所以其实当时我是被说那既然我们 idea 类似那我要不 mer ge。
盛颖:进那个项目在我的视角里我是被 merge 进了 VLM 那个项目因为我觉得这个,项目已经在做了我想做的事情 VLM 做开源其实是 paper 之后的另一个节点,并不是在 paper 的时候就是一个开源项目真的把它推成开源了之后你就要做,很多除了 rese arch 之外的就是不仅仅是 in nov ation 的。
盛颖:事情谢谢大家维护还有很多 engine ering detail 的琐事那,一段其实我就没有太弹力了那我还在做继续做我自己的其他的 research,包括 SLRS-LORRF el on ,ies 这些事情就是 sur vey,里面其他的问题我继续在做 research S-LORR 是一个想要把我的。
盛颖:思想能够在一个地方继续往上推的地方本来他也是以某个 innovation,为起点然后去做成一个 generalengine 但我看来是当时有很多这样,的 s aving engine ,s 上是其中一个并不是存在我在 v l m,的这个 engine 里面然后做到 s 上 engine 的那比如说 sg learn。
盛颖:跟 v l m 的核心差异性有吗他是说其实大家都差不多不同的团队做出来的肯,定不一样但是差异性他随着就如果你不把时间维度放进去的话他们是会类似的因为,相互会学习如果你有好东西一定会相互学习会 con ver ,ge 但是你如果,把时间放进去的话那每个时刻可能大家会有不同的射中点那比方说 S 上在在更早。
盛颖:地进入了这个 scale up 的方向就是把大规模的 serving production,这种千卡级别万卡级别的 ser ,ving 甚至千万卡级别百万卡级别做好的 V,LM 可能在社区的覆盖 L ontel 模型的支持上做得更早所以大家的 focus。
盛颖:是有所不一样但是你现在去看的话可能两朋友都在互相学习在补齐短板你在 Dat,ab r ,icks 不是也做过五个月的时间吗当时公司的联合创始人是 Young,St o ,ica 也是之前伯克利的教授他跟你有什么样的合作吗他是我在伯克,利 vis it 的时候的教授所以我们在伯克利的时候就一起做了很多的 rese。
盛颖:arch 他对你有什么样的影响呢在专业水平上给我带来了很多 inspiration,其实我跟 N ast ,oyka 我们还一直保持联系除了是我那个时候的 rese,arch 的一个 mentor 之外导师之外他也是我可能 l if etime,的一个 ment or 就。
主播:整个 l if etime。
盛颖:的一个 ment or N ast oy ka 是个很特别的人当然他这么成,功那肯定是很特别的一个人你觉得他特别之处在哪里他其实是个很立体的人他做,很多事情对吧他同时开很多公司然后是一个教授但如果你真的靠近他的话他的骨,子里,他最自我认同感高的还是教授这个身份,就是教授和学生,。
盛颖:这个是他所有身份自我认同感的,如果你追溯到根源,,这是他的根源所在,他很在乎 making impact,,imp ,act 可能是他做所有事情的动力支援,,他也把这个精神传递给了他的学生,他的底下的学生和跟他去共事的人,,可能都受到了这个影响。就是 making impact 但我其实不一样。
主播:我。
盛颖:其实在另一个价值观里面但是我能理解到了这一套价值观所以 makingimpact,不是你的价值观吗对不是同一类价值观那你的价值观是什么就是我在乎的不是 making,impact 的本身我会在乎一些我想要 make 的 imp act 如果我觉得。
盛颖:有一种 imp act 我有一种价值观我希望它被执行和被推向这个世界那么我就,会非常努力地去推动它和希望它发生我会尽一切努力但其实我不是完全 care,这件事情是不是我推动的。
主播:别人推。
盛颖:动也可以如果有人愿意帮我把这个事情推动 That's great 但一般来,说不会有这样一个人但是我慢慢学会的是我真正自己想做的事情没有人会逮捞因为,他有他想做的事情别人有别人想做的事情最后你自己真正想做的事情你其实只有,自己去坚持不断你只有自己能够能够长时间的去为那一件事情所奋斗然后让它发。
盛颖:生所以在这个逻辑上我觉得是有一些微妙的不同的就我在乎的是 imp act,不是 making 所以就是在另外一个价值观说就是 makingimpact,有可能是非常的说我希望我个人有 imp ,act 但是你更在乎的是这件事情对,我更在乎有一些我觉得正确的事情发生这个有时候会让我显得很 opin ion。
盛颖:ated 因为我会有一些事情我有观点然后会非常希望我的观点发生但我其实不是,在乎它是不是我的观点而是就是这个观点我 somehow 被它 int rig,ued 被它给吸引了我们说一下你在 XAI 的一些经历 2024 年 10 月份你是,当时加入了 XAI 吗当时为什么选择 XAI 呢我当时 Ph D 刚毕业的时候想要。
盛颖:推广 SG 这个项目对我 so far 从我开始做 SG 之后我的整个看起来都跟 S,G 紧密相关我当时刚去 D i ablo os 的时候想要在 D ,i ablo,os 里面推广它然后我在推广 SG 呢推广 SG 对或者说我至少找到一个地方可以,好好地 develop 它我也不一定说它能够取代所有的 stack 但是我希望。
盛颖:它是给我一块地方可以好好 develop 的我在刚加入的时候我觉得 Data,Br ace 跟我说有这样的自由但是实际上 D ata Br ,ace 里面的,业务模式还是不那么一样吧而且 D ata Br ace 毕竟是一个已经很成,熟的公司它不是你可以随便说我想做什么就做什么其他做每件事情都需要理由或者。
盛颖:充分的理由而我作为一个 rese archer new grad researcher,进去其实也没有太大的 power 我自己也不够成熟就是你怎么在一个成熟的企,业里面去 drive 一个比较大的 eff ,ort 我还不会这件事情所以我觉得,当时那几个月尝试没有特别成功可能也造成了一些影响但不算特别成功 XAI 给。
盛颖:的这个机会就是它愿意去支持我和联名是我的 husband 他已经在 xAI 那个,时候那个时候在 xAI 之前还是在做 tra ,ining 但是正好 xAI 到了一个节,点就是需要去做 productioninference 然后就有了这样一个,机会我和联名可以去 xAI 共同 build 整个 in ference step。
盛颖:整个 in ference 的这个 s olution 和 te am 所以他可以,给我两样东西一个叫做 support 一个叫做 fre ,edom 同时有 supp,ort 和 fre edom 的时候我就能做这件事情了所以我就选择加入 xAI 而且,当时应该只有 xAI 真正给我这两个我有些其他的机会有些是只给 support。
盛颖:有些只给 fre edom。
主播:确实我觉得能这两个支持你去做这个事情跟又让你自由地去做这个事情这个机会,其实是蛮罕见的是不是也是因为 xAI 那个时候比较早期所以才有这样的机会是的。
盛颖:那个时候的 xAI 是什么样子呢那个时候的 xAI 是什么样子呢就在你能受的方向也,来跟我描述一下我觉得 xAI 是是我生命中非常重要的一部分就虽然我没有工作特,别多年但是我在很多地方工作过 xAI 是我回忆最美好的 xAI 的时光是我回忆最美。
盛颖:好的一段时光评价这么高啊而且我离开 xAI 的时候其实也非常不舍我离开 xAI 的时候,是因为因为 S-S ,trength 的开源的一些需求到了一个节点我觉得我不,得不去出来把这个 R at itar 新的公司服务起来然后让我们社区能够很,好的继续发展如果不是因为这个原因的话我是不可能选择离开 xAI 的因为也不是。
盛颖:说完全不可能但我说就是非常非常不希望也不舍得离开 xAI 而且我觉得这个想法,不是我一个人有的其实我知道在我们早期的那一批员工里面大家都有很多人有类,似的想法甚至有些人可能在 xAI 的工作已经有点承受不住了因为压力强度都很大,但他们还是一直在里面坚持就是因为他们不想离开这群人我的想法是类似的所以。
盛颖:是这群人你们形成了一个非常好的一个 te am 的感觉对我觉得是我觉得早期,的 XCI 就我在之前的 XCI 我所体验到的那个 XCI 是一个就是,,个个都是人才,里面个个都是人才,大家互相之间也都很 supp ort,,很 friendly,很 app reci ate,。
盛颖:很 humble,这是我当时 xAI 给我的印象,跟你的价值观很像,,对,我觉得非常的,就是我觉得当时在 xAI,我能够非常专心地做事情,,没有太多的杂念,而且大家都是这样的,。就是大家都能够非常直白的做事情都知道把事情做成最重要我经历过那么多公司。
盛颖:在 DXR 之前呢是我第一次经历到一个 team 一个公司里面完全没有任何 people,game 没有任何 polit ,ics 当然后面可能慢慢的也会有公司大那是过,多少人啊 XA 不到 100 人吗我加入的时候 100 人没有 politics 还是,挺难得可能也有我没有看见但是至少我看见的范围里面我没有看见不好意思我很。
盛颖:幸运的在一个我能够非常就是好的思考问题的那个环境氛围里面。
主播:然后。
盛颖:我只要思考怎么做事情然后我身边的人他们也在思考怎么做事情大家也会有一些,摩擦那很正常但是是一些就是说不影响团结的摩擦这些摩擦是不影响的 We're,always together 我觉得现在我们在 Red ,Shark 是带过,来了这个氛围的。
主播:好。
盛颖:棒你把你在 xAI 的时候。
主播:描述是 V1.0 没加入之前是 0.0 然后可能。
盛颖:现在是多少 3.04.0 我也不知道大家怎么定义了因为后面就是我也不在了我,只能听大家的说法但是我能够感觉出有那么几个阶段所以 0.0 跟 1.0 的时候,是非常美好的对那个时候一浪的重心也不在你们身上就 0.0 的时候应该是一龙,不怎么在 0.0 是我听说的我不在 0.0 里面 0.0 的时候一龙对大家都非常的。
盛颖:n ice 0.0 应该是非常非常好像一个 family 一样 1.0 的时候其实,已经开始生长了已经开始有这个生长痛 1.0 的中途一龙回来了但是我觉得就算,在那个时候 1.0 里面产生的阵痛大家也还是共同克服难关的我没有感觉到军心,有什么动摇,我觉得。
盛颖:大家都非常团结然后也彼此照顾我觉得那个时候是彼此照顾的状态 build 了,一段战友情的这种感觉。
主播:这。
盛颖:段故事特别珍贵是因为它跟现在大众对 XAI 的。
主播:一个认知差距是非常大的因为现在大家的认知说就前段时间 XAI 的 co-founder,全部都离开了 e ither 被 fire 或者被 la ,id off 或者自己辞,职的就感觉这两个 n arr atives。
盛颖:就好像在说两个不同的公司一样确实很不一样因为后面公司大的我觉得 XS 是没有,过那个阵痛期的是没有过那个从很小的很团结的一个 start ,up 变成一个,需要靠体制来运转而不是靠人来运转大公司的状态它这个过渡期的阵痛是没有很,好的抚平掉。
主播:所以产生了这些。
盛颖:巨大的变化但有天他可能又会找到一个新的 s olution。
主播:因为 XR 还在那里新的人员在新的组织交易有天他可能会找到一个新的 solution,但是就是可能是一个 an other company 从。
盛颖:人员上来看的话反正伊隆还在对这是最重要的然后又被 Space X 收了然后,上市了对吧。
主播:那这一段我觉得就是对组织架构的一些振动期因为你肯定有你的观察你觉得对你,之后做 start ,up 因为你们现在也是几十个人对吧然后可能很快你们会上,百个人几百个人的一个规模。
盛颖:会对你有什么样的 less on learned 吗有的有的我觉得我们现在,就在一个很美好的时期其实我知道我们现在在一个很美好的时期就是这段时间大家,会一定会成为他们以后就是我们所有人以后人生中非常珍贵的一段回忆但是我们,也一定会面临那个挑战 sk illup 的挑战对就是你在人少的时候你是可以。
盛颖:通过文化通过人的管理去实现运转的但你 sk ill 上去了之后其实我快就很,脆弱了人也很脆弱了个人能力都会变得很脆弱那个时候你能不能把公司做大能不能,把一件事情 drive 好更多的就是看你的 system ,build 怎么样体,系 build 怎么样最后是靠体系去支撑的而不是靠人去支撑的这个转变可能我。
盛颖:其实不知道正确答案因为我没有经历过但是我能学到的 less on 就是这个,过程要非常的 int ention ,ally 的心情它不是一个会自然发生的,事情它不是一个你只要公司这个计划有然后往前 m ove 然后有 sc ope,有事可做你就 for ,granted 会得到的东西它不会如果你不 payattention。
盛颖:它是会 broken 它就会 broken 你当时就是主要任务是什么就是当时你在,那个 xAI 比如说给国二科构建推理系统的时候我们是负责那个 Eng ine 那,一块然后我们要同时服务其他很多组包括 Product s ,and Production。
盛颖:他们会部署做 De ploy ment 然后我们需要跟他们对接然后他们遇到,问题回来会报给我们说 Eng ,ine 里面可能有什么事有什么问题我们也要帮,忙 De ploy ment 上的一些协调 Config uration 什么,的也要跟 R ,esearch Team 合作 R esearch Team 做。
盛颖:E valuation Power RL Roll out 用的也是我们,的 In ference ,Engine 所以我们也要去支持他们这个 Work,load 里面的各种适配然后当时那个在 xAI 的时候因为。
主播:就是它整个的这个算力系统也是非常的庞大嘛对吧然后它后来又买了非常多这样,的卡你觉得就是在整个的过程当中比如说你是不是在里面受到了 Full Stack,的训练然后这对。
盛颖:你来说产生了什么样的影响呢对我觉得在 xAI 的是机会就是能看到所有因为当时,挺小所以能看到而且 xAI 我觉得一龙还是赛特一个我很喜欢的文化他他有一龙有一,些有些他的问题但是他有一些很突出的地方有些我很喜欢的地方就是一龙能赛特,一个没有没有边界的文化一个没有边界的文化没有边界的文化对就是在 XR 里面。
盛颖:至少我还在的时候我觉得任何事情我都是可以 t ouch 到的我不会说大家组,一组之间是被隔开的然后你必须限制在一个很小的 sc ope 里面只能做这一。
主播:件事情,然后你不知道外面发生了什么 XR 里面是不会这样的然后也没有特别多的 people,management XR 里面都是 techn ,ical 而且它非常重工程,师文化所以你做事情可以非常直接。
盛颖:然后这样一个文化就使得我能够看见很多很多个类人和很多个 component,之间大家是怎么合作的事情是怎么发生的它作为一个整体是怎么发生的这个给我,带来非常大的成长因为原来我确实没有办法看到这么多的东西并且在 XR 因为强,度很大压力很大然后人都是被 train 出来的就是你一定要就是 intense。
盛颖:你只有就是经历过那个 Int ense 你的成长就像你健身你一定要很累了你,感觉到痛了你才会长肌肉 XR 的这个 Int ,ense 它给我们带来的成长就是,可能你在那里待了一年你可能在外面是好几年了才能拿到的成长。
主播:你。
盛颖:当时是决定说 SGMA 想要把它商业化然后去成立 Red XR 是一个什么样的,时机点对这个是因为当时在 25 年的时候前面有几波浪潮吧 SGLang 推到了一个,还不错的被关注点然后有很多的需求向我们涌过来想要使用和让我们参与一起开,发之类的但是我们社区 SGLang 社区是一个虽然最早我们也是大学里面做了一些。
盛颖:研究但从很早的时候开始 SGLang 就已经变成一个纯社区项目就是我们的科兴开,发者都是网上认识的我们都是网友就跟我小时候在网上学习的大家可能都没见过,面没见过面现在还是科兴开发者我们已经共同工作了两年了我还不知道他们长什么,样子有。
主播:好几个是这样的可能也没好几个有那么几个我不知道他们长什么样子下次联会的时候,可以把他们请过来我们已经开了很多次会但是从来没有开过摄像头 OK 然后我们,也从来没有要求过对方开。
盛颖:摄像头就大家是有一个默契那个默契就是我只要看到你的,代,码我就知道你是谁。
主播:我也只想。
盛颖:看到这个部分所以看摄像头或者是认识真正的认识对方这件事情不重要还是说大家,都是挨人所以不想看摄像头我觉得大家没有挨到完全不想看摄像头没有这么夸张,我觉得是它自然到你根本没有想起来这件事情没有说大家拒绝开但是自然到你根,本没有想起来这件事情对实际上是一个这样的社区但是这样一个社区也会导致就是。
盛颖:我们大家其实没有那么的有组织纪律性虽然大家都很有热情然后也非常在乎这个,项目但是你还是很难说让大家有时间去把项目非常严肃地给它做好做成一个成熟,的高智商水准的一个项目水平除非我们有自己的公司变成我们的 fulltime。
主播:job,大家其实有自己的 full timejob 也就是说其他空闲的时间来为这个,社区做贡献的对。
盛颖:就是晚上熬一下夜呀然后冲个小氧然后中午再工作一下放假的时候过来洗菜嘛这样,子去维持但是我们当时的增长是快到你不可能用这样的方式去维持那个时候接到,的很多需求我们想要去抓住这些机会想要跟对方合作想要 del ,iver 一些,东西但是我们还是强撑了一段时间但我觉得强撑了那几个月之后发现的就是没有。
盛颖:办法 del iver 就其实大家都是很想 del iver 的你觉得我们已经,不能再 st retch 了你知道这个 te am 已经不能再 st ,retch,了它就是被 te am 的 bandwidth 限制住了我们没有办法很好 del,iver 都是 boardline 地空飞过或者甚至没有成功 del iver。
盛颖:所以到了大概七月份那个时候就已经我觉得我自己的焦虑已经到了一个我觉得如果,我们再不出来做这件事情我再不把这个背后实际上的空白就是这个是个中空的状,态我再不把这个空白填充的话我们就快要让外界失望了我自己焦虑到了一个我觉得,我没有办法再拖的这个状态里所以我从 xAI 出来从 xAI 出来应该放弃了很多这个。
盛颖:金钱上的回报也没有还好吧而且怜敏她在 xAI 她比我多请不吝点赞订阅转发打赏,支持明镜与点点栏目了到 7 月份时候已经实在是受不了了如果不出来的话可能这个,社区就两个月都等不了了是吗对就是大概是那个节就是就是我的心理状态到了一个,我没有办法 focus 做 XAI 的事情我已经没有很 produ ctive。
盛颖:的生产有对 XAI 的价值但是我不能忍受自己在一个就是如果我是在 XAI 上班,的我就觉得我要对它有用不然我就会觉得我不配在这个地方所以我倒是已经到了,一个我觉得我不配在继续待下去的这个心。
主播:理状态它不是我能控制哎光彩问我问一个问题就是你觉得金钱对你有任何的重要,性吗有必须性没有重要性它的必须性来自。
盛颖:于有金钱可以让我解决很多事情更容易这个我可以这是我承认的就我没有追逐过,他但是你真的说他不重要吧我也没有到那个程度他能够给你带来的底细就是比如,说我想创立这个公司如果有天我容不到钱我还自己还有钱这是他对。
主播:我的意义忘了提一段经历你在哥大毕业之后其实是到了华尔街的一个对冲基金叫,2S igma 里面是工作了有几个月吧是不是没有到一年有半年,,六个月。那段经历是什么样子的?,就是在一个华尔街,大家觉得说纽约华尔街上纸醉精米,,然后在一个对冲基金里面,好像跟你之前做研究的这个氛围是不是会完全不一样?。
主播:但我们那个对冲基金。
盛颖:是一个 TAC 对冲基金。对,我知道,你就是说那些话。但是我当时确实是想要接触金融,觉得挺有意思的。我有一任前男友是学金融的这个剪掉了我一定会翻出来所以当时我确实是对那个,就觉得金融挺有意思的然后有点好奇就当时量化大家的说法就是那里面的人很聪,明都是。
主播:那个那是好多 Ph D 什么学物理的好多 Ph D 后来那个我们学校都去。
盛颖:量化了就是我不知道为什么就是喜欢聪明的所以我就是明人说话我喜欢做有挑战,的跟智商挑战的事情所以他这个特点他当时吸引我当然这个也是吸引很多其他人,的原因那个时候我也就 21 岁 22 岁单纯的被中学吸引然后我觉得我要去体验一,把我觉得这个事情我要是不体验的话以后我会一直想着它但是我又觉得金融不是。
盛颖:我的人生追求我又觉得天天在那玩钱没啥意思对所以刚好 Ph D 中间隔了有个,半年的 g ,ap 然后完成一个体验挺好的我就去那里做了半年那边的回忆也非常,好如果要我排序的话我工作过的所有公司排第一的是 xAI 排第二是 2Sigma,哇评价那么高但是我听说 2S igma 就我在的时候又是它最好的时候我很幸。
盛颖:运我每次在都是。
主播:它们最好的时候后来可能就有些变化但是我在的时候。
盛颖:是 2S igma 最蓬勃发展甚至拥抱开源他们那段时间 2Sigma 那段时间,是做开源项目的非常拥抱科技也拥抱 NewTechn ique ,AI Big,Data 什么的然后里面的人也是非常的互相帮助然后我没有感受到任何的多余,的东西所有人都只是在做事情然后所有人都非常的开放非常非常 open 非常非常。
盛颖:非常喜欢事质量也很高然后里面的交到当时交到的很多朋友到。
主播:现在也还是我的朋友大部分人还继续在华尔街量化里面还是也都会出来开始做哎,呀都有。
盛颖:有些出来的有些还在里面 t uc yma 让我看到一个非常 organ ized,的公司的样子至少在当时所以他是非常 organized 我当时觉得 t uc,y ma 非常 organ ,ized 我当时不觉得我后来去了其他公司之后我再,回想我就觉得原来其他地方这么。
主播:乱对我原来其他地方这么乱就是 2SIM 它都不是一个泰国公司当然 2SIM 的,inf ,ra 在我跟其他的比起来是最稳定的一个地方有意思就原因是什么呀就,公司文化就是这样的吗就让它非常的干净我觉得是。
盛颖:它的巨变不多它的业务模式比较稳定所以大家可以在那里一直做 maint ain,ance 大量的 m aint ain ance。
主播:所以对于就是做一个金融然后追逐那个 ret urn 的数字然后赚钱这个事情,就在你这边就不是 pri or ,ity 你只是想体验一下对我只是想体验一下,我一开始就知道那不是我的 pri or ity 体验还不错对体验不错挺好的,这个技术稍微给大家去科普一下 LLMInf ra 你们在做什么样的事情你们。
主播:在解决什么样的问题 In。
盛颖:f ra 分好几个模块我们的长远的目标是我们希望整个 In f ra 我非常,ve g 的说我们的这个结构性思考是我们希望 Re ady ,Sh ark 在,一个地方它可以给你提供很好的这个基础知识让大家根据你不同的使用场景不同,的 d ata 的形式不同的产品目标和不同的 s ,urf ing 目标然后你有。
盛颖:可能希望 mod el 它可能解决一个很简单的问题但是你想它很快。
主播:又。
盛颖:或者是它要解决一个很难的问题但它可以比较慢你都可以用这套工具源源不断地,产生适应你不同目标的最好的模型我们希望把这个 foundation 做出来,这个 found ation 我统称为 inf ,ra 它会包括传统意义上大家所,理解的推理引擎推理和训练 post training 这些都是大家传统的脑。
盛颖:中的 key words 我还想在这里其实加一个 comp onent 就是机,座模型也是 inf ra 在我看整个这个 found ,ation 里面是包括了,所有你需要的 grad ients 包括了这些 code base tool,t ool box sandbox ,environment 和一些中间状。
盛颖:态的模型 check point 它们在一起变成一个工具箱你可以在这里进行,组合去不断的产生更适用于你的场景和目标的特异化模型那整个这个工具箱这个,found ,ation 是我们要做的 infra 的部分现在我们因为要 focus,一步一步来所以我们现在是 focus 在 inf ra 和 RL 它们处在你这个。
盛颖:生产模型整个 p ub mind 的末端就假设说我前面已经走完了我的基础模,型就 pre-tra ,ining 已经做完了我有基本的 trackpoint,然后现在我开始要适应不同的 task 我需要过 post-tra ining,的时候大家开始用 RL 这个地方已经开始开支三页因为 AI 进入人的生活的各个。
盛颖:方面有不同的场景需求这个时候你开始需要有不是一个模型解决所有问题你可以,开始有多次训练产生多个 model 解决各种各样的问题并且多个企业他们可能,最想要自己的模型所以 post-tra ining ,RL 在这个地方是一个,fun-off 的状态所以它是比较适合做我们所要的这种给所有人 share。
盛颖:的技术然后做一套 influence 让所有人都使用的这样一个模式里的 post,设计完之后的模型 inf ,luence 那就更加反凹层 inf luence,就真的到了末端模型都已经完成了 influence 我需要让你的模型的就是,架构和 width 都已经有了我需要让你模型在硬件上跑起来靠下来之后可以被。
盛颖:一个 end point 可以被靠到别人可以来别人可以使用这个模型 influence,就是在那个更末端贴心用。
主播:户的部分整个的 inf ra LAM ser ving 的这个版图就是中间,涵盖蛮多领域的那比如说 VLM 是解决内存管理然后 HQO 是做 K ,ey-V-,C ache 的压缩 AS-LORA 是解决这个 D uo Ad apter 的,并发然后 Ch ab otArena 做测评 SGL ,and 做结构化生成就是。
主播:非常多不同的这个方向哈那对这部分的研究你是有一个什么样的方法论在解决这,些问题就是还是说你就有一个很完整的这样的一个 road ,map 说这些东西,都是我要一起去解决的还是这些东西是你一步一步的去慢慢的解决这些问题的我觉得,是一次性看见的短时间的一下看见了很多问题。
盛颖:但你做的时候你得一件一件做 idea 肯定是跑得比动作手要快也不是我一个,人看见很多人都看见就是你上来一起看见很多问题然后大家慢慢地把一件事情每,件事情都解决掉那。
主播:在解决这些问题的时候你觉得有哪个点是最难的我觉得没有哪个点是难的就是去,做掉就可以。
盛颖:了对那你的优先级是怎么排序的呀哪一个能给你带来最大的 margin 哪一个,是最大的 b ott leneck 先解决最大的 b ott ,lene ck,也有一些是 depend ent,比如,说你要先解决 mem ory 的 k bc ache 的这个碎片化问题管理问题,然后你才能解决 pre f ix c。
主播:aching 的问题所以你觉得现在这些问题完全被解决了吗还是有继续优化的,这样的一个潜力。
盛颖:那肯定总是有优化的潜力那瓦团上现在有这么多的变种 Spark 小团上还可以,做更 ag gress ive 然后新的 in nov ,ation 不会停滞的,这一块其实应该是一个很大的时差但这个市场为什么最开始从开源的生态里面跑,出来的呢也不能说是开源跑出来的因为 influence 已经很长时间了 In。
盛颖:ference provider 你看从 Fire works 这些公司已经,存在好几年了这个公司都很不错有很大的使用量而且你看 In ,ference,的 lands cape 有这么多的 com pet ence 对这么多个 In,ference 有关的公司层出不穷每年都在不停地出但是你会发现这个游戏里。
盛颖:没有输家没有输家没有输家就是所有的 Inference player In,ference ,providerplayer 不停地出来有这么多但是没有,任何一个因为有 com pet ition 的存在而消减下去了所有人都是同。
主播:步,增长的我之前其实跟你那个 co-founder 班华聊的时候他就说做 inf,ra 的人他需要的 t aste 跟做比如说 pret ra ,ining 的这个,rese arch er 他的 taste 是不一样的那比如说做 inf ra,的人他的 t aste 是表现在什么样的方面呢。
盛颖:我其实不确定是不是真的不一样是吗我觉得本质可能是相通的那你觉得 Taste,的表现在什么样的方向不论是在做 training 算法 pre-tra ining,算法还是在做 inf ,ra 你做一件事情时候是不是喜欢轻易求精它是不是很细。
主播:节,的活。
盛颖:就因为它这个 efficiency 要做的非常非常极致对吗不光是 efficiency,就是如果你是追求一个目标的话可能就不在 taste 的这个维度上就是你如果,要的是一个 end goal end ,goal 和 taste 上 t aste,其实就是你关注的不仅仅是 end goal 并且还有这个 end goal 的。
盛颖:组成就是我的系统不仅能跑我并且知道它是怎么跑起来的它是以一个设计过的 well,designed 的形式形态跑起来的还是它是一个豆腐渣工程跑起来的他们有,可能有同样的 end ,goal 有退思就是说我更在乎他是一个很优美的形式跑,起来的而不是这个很很豆腐渣的对很哈克的方式跑起来的那你在乎吗我非常在乎。
盛颖:这是 ready shark 的文化之一就是我们非常强调这一点我们想要成立,ready shark 想要好好的做一家 infraf ,irst 的公司因为,我觉得在很多其他的我之前工作过的其他地方或者是听大家讨论以 prod 的以,模型为目标的这些公司在 inf ,ra 的美感上有所妥协他们在 inf ra 的。
盛颖:功能上还是很追求的但是在美感上是有所妥协然后 inf ra 的人在整个这个,full ,stack 里面可能长期的处于一个被 underest imated,的状态就他们需要被迫去不停的 supp ort 其他的 comp ,onent,他们需要去 supp ort researcher 去很好使用 inf ra。
盛颖:工具然后把时间跑起来去迭代他们也需要 support product 的人,能够把自己的 product 运行的又稳又快但是 infra 自己因为我跟 inf,ra 的之间的这个浪漫的关系我觉得 inf ,ra 它不是一个 supp ort,角色 inf ra 本身在我眼中就是产品你在设计你在推一个产品的时候因为产。
盛颖:品面向用户你会去想我这个产品不是只有功能我会想这个产品美对吧我希望它好,看好用被人说喜欢我希望它击中用户心理的痛点用户心理的击中人性我希望产品,击中人性但是没有人会说我希望 infra 击中人性但是从我的视角里看我觉得,inf ra 也是击中人性的它只是没有直接到用户没有那么直接的联系而已但。
盛颖:实际上它产生这个深远影响是从底层就开始。
主播:往上传递我觉得刚才你说两个词我觉得非常有意思第一呢你是说 inf ra 的,美第二呢你是说你跟 inf ra 的关系是浪漫的这两个词其实我很少听到我。
盛颖:倒是没有仔细想过为什么是这个词但是它自然而然存在于我的脑中就是其实我觉得,写 inf ra 的人他们都是能理解的就是你写 inf ,ra 的时候你追求你会,去觉得我这个代码写的我其实不知道怎么更清楚地拆解了但是我不是特例我只是,one of ,them 其实有很多这样有一批这样的人他们都很在乎你的 inf。
盛颖:ra 构建的时候这个系统它优不优美稳不稳定然后他们总是被迫去做一些 hack,y 的事情来达成目标其实他们都是会在一个被拉扯的状态里,我,明白你的。
主播:意思就比如说其实如果你看一些大厂 OpenAI 有自己的 inf ra team,之前你在 XAIXAI 也有自己的 inf ra ,team 是不是就是在这种大,厂的时候 inf ra team 它总是一个 supporter 的这样的一个,角色所以也就是说它有很多你需要去妥协的地方但是如果你自己出来做一个 inf。
主播:ra native 就可以达到你所说的 inf ra first 的这种。
盛颖:美感对比如说在 Re ady Tag 其实我们是反观的比方说我们也有 tra,ining job 但是我们并不是说我需要一个 inf ,ra 的 te am 去,一直 supp ort 这个 tra iningjob 跑的非常的 on track,我们其实反过来的我们希望这个 tra ,ining job 它可以没有压力它。
盛颖:只需要跑然后一旦你 tra ining job 被卡住了遇到问题的时候我们,希望大家的 focus 是把这个问题 system ,atically 解决而,不是打一个 p atch 上去让这个 training job 必须跑 drop,是可以 pause 的我们刷分也不着急刷我们也不是非要刷一个非常好的 bench。
盛颖:mark 分数这个在我们这里不是第一优先级但是我们如果能刷高当然是好的我们,不会说这事情不重要但是在他们上他不是所有所谓正式我们的所谓是你的照不能,被迭代的时候这个问题本身他应该怎么样从。
主播:深层次的解决我们先再回去一点点然后让我们的观众更加了解一下就是英法的这个,赛道哈比如说我们在基础的细节上面看到这个 re x ,attention 他,其实是 s g land 的一个核心技术之一吗是用 red ex 数。
盛颖:来做这个前缀的缓存然后避免重复的计算 k p c ash 能不能用比较通俗,的语言给我们的观众来解释一下这个技术这个技术其实也比较简单就是当你有很多,的 re ,quest 发到 engine 这边需要处理的时候如果你的 request,有一个公共前缀那我们就不需要重新计算这个公共前缀所对应的 kp c ash。
盛颖:而是可以附用就是你第一次一个 re quest 进来我已经计算过 k p c,ash 第二个 re quest 进来如果他们 sh ,are 的话我可以附用已经,计算出来的 KDC ache 所以这套 M em ory 管理系统就是对前缀的,结构共享结构做了 Ind ,exing 和存储首先一个是你对进来的 Re quest。
盛颖:之间的前缀的关系要建立前缀数来做 Index ing 做完 Ind ex ing,之后你需要把已经计算的 KDC ache 存在 C ab ,in Memory,Pool 里面然后把这个 Ind exing 跟这个 C ab in Memory,Pool 给 M ,apping 起来既然它的核心是用重复的前缀但是如果我们假。
盛颖:设用户每次发的问题都是全新的没有什么共同的前缀对那比如说长文档摘押或者,是创意写作那是不是这套机制就有一定它的局限性因为 A ,gent ic 的场,景出现复杂场景的出现大部分都是会有前追共享的因为你只要进入多轮对话你的,后面的对话都会要附用前面已经对话的 H ,ist ory 所以前追附用是大量。
盛颖:存在在所有的几乎所有的场景里是不是说 Agent 来了之后这个问题是更需要,被解决的或者更需要被优化的他一直都是需要被解决的 A 症来了之后他确实可能,被变得更被大家所关注到了其实 S 症在 Paper 刚出来的时候如果现在还回去,看那个两三年前的 Paper 我们确实是以 agent 为入口就是进来说我们。
盛颖:为什么要新设计是让这套体系当时还设计了一个 front end 语言都是为,了 ag ent ic 的 use ,case 所设计的因为我们觉得 LMAI 它会,将来成为变得非常 power ful 之后你需要构建一套人与 AI 之间交互的,inter ,face 那这样的创作之初的动机其实是想要去定义和构建这套 inter。
盛颖:face 让人和 AI 可以更好的交互但发展到今天因为你的挑战的重点可能 In,ference 就是后端 In ,ference 挑战重点更为突出所以大量的开,发精力是移到了就是 back end 的这个 Runt ime 的优化但我觉得,有一天其实我们还是应该回顾一下最初的这个想法就是为什么要 DNS 上这个 S。
盛颖:-R ound 的 st ructure 真的是 language S-R ound,原初的 des ,ign 也说是希望它是一个 language 我觉得有一天我们,会 re vis it 这个部分最终它还是应该是一个 lang uage 的形,式这个 lang uage 它是人与 AI 之间交互的 inter face 在看。
盛颖:你们 social media 的时候你们经常就说这个模型发了之后我们是 day,zero 就是从零天开始兼容的能不能跟我们解释一下为什么这件事情很重要这,件事情很重要是市场觉得它很重要我们做事情还是很 practical 的我们,做开源哪些事情重要和不重要还是被 mark eter 所决定的不是完全我们。
盛颖:自己定义的我觉得 market 上人性好像大家就是很希望东西刚出来的时候我就,能用上这个愿望从 user 端一直传递到了那些我刚提到那些 influence,provider inf luence ,provider 进而又传递到了,我们也进而再传递到了模型厂商所以这个链条式的传递他其实满足的就是一个人。
盛颖:你想要就跟你发布了产品我要去第一天就去抢购一样的这样的心态比如说前段时间,发的这个 De ep Se ,ekV4 发布之后你们马上就是 Day Zero,兼容对吧达到这个 Day Zero 兼容你们要去做什么样的事情这个跟模型跟,模型的复杂度很相关就是这个 V4 他们实在要看上做了很多的创新所以我们其实。
盛颖:花了特别大的精力他们花了特别大的精力去做这个模型的支持和各种优化但是我们,De ep Se q D az er 支持这一次 fe ,ature set,做得也非常全因为花了很多的时间非常非常多的 fe ature 都是第一天就,见着了并且我们也是我们第一次有这个 RL 的 D az er M。
主播:iles。
盛颖:是我们的 RL 框架很多的算子层一些实现都要重写大部分的 code 基本上是重,写的因为 De ep Se q ,V4 的架构设计跟之前已经存在的模型有太多,的不一样是不是就是每一代新的模型出来其实都是需要有个重新适配的这样的一个,过程只是说它的模型架构如果变得非常大的话可能你的这个 eff ort 就会。
盛颖:更大一些但是如果它就是一个非常小的一个调整或者是一个 upgrade 的话,就是你这边其实就没有必要去做非常大的一些适配对如果它的价格完全不变的话,其实甚至都不用 10P 如果它只是更新 W ,aste 的话那甚至几乎不用 10P,最近有一些这个研究都是探索模型直接在 L it ens B ase 没推理。
盛颖:而不是逐字去设置 T oken 比如说我们看到之前 Meta 的 C oc ona,还有自己的 Cola ,DLM 等等如果这个方向成熟你觉得就是在推理引擎的很多,优化假设是不是可能会发生一些变化或者重写呢如果这个成熟的话那确实很多事情,是会变的因为它推理的过程形态不一样了嘛但是我觉得这个也本来就是你写推理。
盛颖:引擎的一环世界在变结果在变然后你的事情要一直在变这是一个本来就持续存在,的过程我觉得这个不是变革不是真正的变革本身,不同的团队,,啊,或者是不同的这个 AI infrared 的 player,,适应变化的能力,这个东西重要吗?,重要,我觉得团队更重要,啊,再举一句啊,这个尤其是现在有 AI 了,。
盛颖:AI 写代码写得这么快,其实你,谁身上变一点,其实就技术上来说,,不是真正产生巨大变革的地方,技术上总是能做的,,嗯,,我觉得真正难点从来都还是在回归人和团队本身那为什么你们的人你们的团队就,更好呢我觉得我们的人和团队团结谦逊又聪明又努力那可能其他团队也会这么跟我。
盛颖:说我觉得其他团队也挺好的呀我觉得大家都挺好的但你每个群体都会有一个自己,的最终会形成一个自己的文化嘛大家各有所长你强调的就是公司内部的企业文化,是什么样子呢我希望大家是 focus 谦逊 focus and ,humble,精益求精这个是我们就是我们追求极高的审美。
主播:我们追求把事情做 sol id 我们希望 Red S r ack 人都是对自己,特别挑剔的人都是自己本身特别挑剔的人对自己对自己的作品特别挑剔的人。
盛颖:那在今年年初的时候我们看到这个 VIM 的核心团队呢也是商业化了成立了 In,ver ,act 公司然后也是融资了一点五亿美元估值八亿美元这个产业之后会,有更多的新生对手吗更多的公司会商业化来做这个事情吗我觉得完全有可能而且,其实它就是持续不断在发生的就是 In fr ade 和 Rad ix r 这两。
盛颖:家之后还有新的 In ference 的 comp any 在不断地不断地涌现,谁会变成赢家呢就是核心的竞争点团队的竞争点会在什么样的方向呢我其实不觉得,我们在这个赛道虽然我们有 S 上 S 上是 In ference Engine 但。
主播:我觉得 Rad ix r 的那个长远使命其实是。
盛颖:不属于这个赛道的有意思能不能详细来说一下我如果按照前面说的话我觉得 Red,Shark 我说的目的是我们想把最好的 AI 带给大家这是我们非常朦胧的一个,目标 Red ,Shark 接下来一年要做的事情三年要做的事情五年和十年其实,都讲出来会非常的不一样我们最终想要我不想透露我不想 dis cuss 但是。
盛颖:我可以大概地说我认为 RedShark 最终使命是要做下一代 AI 下一代 AI,下一代 Next ,GenerationAI 我们的本质还是不是单纯的 inf,ra implementation 意思是你们想要做模型吗也不一定是模型,它是下一个形式就我现在就我不讲它是什么但我可以说我们并不是停在这个地方。
盛颖:只是说这个 in ference 或者是 inf ra 只是一个起点对它是一个,前前条件但我们想我们要做的也不是模型我们将来想做的事情不是一个现在世界,上已经存在的东西有意思所以我其实不觉得我们跟 Ex ist ,ence 的这,些 In ference Player 是一个 C ategory 里面的就是。
盛颖:它还不存在但是你觉得它一定会发生的我觉得它会发生然后你想把它找出来或者,是我希望它发生我想看到它发生我这很好奇你能跟我说一下我们会去把他逼掉吗,不能好对但我可以说就是 inference 不是我们的他是一个起点他不是在,这的长远核心所以我们其实跟其他的 inference 的 company 都是。
盛颖:保持良好的关系我们那里是全开源的吗 S 上也不是 Elys ac 的所有物了,,S 上是 LMP 的下面,它是属于社区的,,但是我们公司的所有工钱在市场上都是开源的,我们是没有 pri vate fork,,我们的愿望也很简单,我们其实是希望这些东西被所有人使用,,我们并没有想要通过这个地方,。
盛颖:制造一个 d if ference 然后去获取利益,,所以公司的命脉是不在这里的其实。我们看到其实有不少的做推力引擎的创业公司虽然有些公司他们自己不做引擎但是,也是在这个引擎上面去做服务的而且现在铁量也不小了比如说 Bas eton,是最近完成了 3 亿美元的融资估值过 10 亿美元 Fireworks AI 现在。
盛颖:估值有 40 亿美元然后 T ogether AI 现在呢也是在寻求 11 美元的,信融资那同时我们看到这个 AWS Go ,ogle 这些大的云厂商也是在提供,这个托管推理服务整个的 AI In fer no 的生态链最近在发生什么样,的事情能不能跟我们梳理一下我觉得 In fer no 这件事情其实很早就存。
盛颖:在也发展了很久但是今年 AI 可能在变得更加成熟就尤其是安搜比这个爆点大家都,看到了应该变得更有用之后整个市场的 effort 可能会有更多的从垂钉转向,in ,ference 就是开始需要让他盈利和兑现的时候然后这个转化就会使,得 in ference 的市场进一步的本来就已经很 expo 者现在更更大的。
盛颖:exp o 所以你会看到很多这种雨后春泉湾冒出来的各种各样的 inference,公司但同时所谓的 AI native 的公司,,他们也开始感受到了这个你继续使用一个阶级的模型去做 prompt ing。
主播:engineering 的局限性,,与此同时也有更多的公司开始需要利用好自己的 d ata 去做 c ustom,ization 的这个需求,,这个需求它从另一方面也在推动 RL 这一块的市场化。
盛颖:一方面你看到有很多的新的英文化公司出来另一方面你发现你会看到一个 estab,lished 英文化公司在往 RL 那边 move 在往 RL 那边扩张我觉得这可能,是这一批公司里面最大的两个趋势最明显的两个趋势 Bas ic ,and Fire,works 也是你们的客户对吧我们的用户你觉得以后会发展成竞争对手我不知道。
盛颖:他们有可能觉得我们是某种意义上竞争对手但是我们不把他们当成竞争对手我们,是更想和谐相处的一个是我们其实重点重心并不在这个地方。
主播:不。
盛颖:然我们就不会把我们的 influence 给大家随意使用对然后还去支持他们,使用第二点是我们因为我们这个开源的意愿我们希望被大家都使用所以我们并不,也不想跟他们成为竞争对手我们希望这些都是我们的盟友。
主播:然后我们更希望的是 focus 在 AI 本身的一些技术迭代上然后我们希望把,这些技术可以跟他们所。
盛颖:共同发展促成他们的这个业务模式的增长现在你们服务的客户大概是什么样类型,的企业或者是他们有没有一个什么比较典型的使用场景可以分享的我们各个 type,的客户都有从这个 d ata center Ne o ,cloud 就是 hy,pers cal er 就这些是 cloud 就是他们有 GPU 我们帮他们想跟。
盛颖:他们一起会帮他们 sell GPU 到这些 In f ra provider,我们其实也想跟他们合作也是希望他们成为我们的客户但现在还是一个 user,的关系再往上到 AIAI 这些公司他们想要使用 AIinfra 去不然 t rain,他们的 mod el 或者是 s erve ,model 也好他们也是我们的客户。
盛颖:还有一些传统的大公司它不是完全的 AI 公司但是它想要用 AI 来助力他原来的,业务那我们也希望在这里可以提供一些价值 SGLINE 之后还开发了 Miles,这个是主要是用在 RL 上面的你们为什么同时要做 In ,ference 跟 RL,Training 呢因为我们做的是整个 AIInf ra In ference。
盛颖:和 RL 是就我刚说它是在最靠近用户的两个末端的步骤所以我们从末端步骤开始,布局但是我们要做的是整个能够把 AI 制造出来的能力这两个东西同时做难度大,吗还好因为它俩其实非常相关 RL 里面很大一部分的挑战是来自于 R aw r,的 Eng ine R aw ,r 的 Engine 它也是跟它就是 In ference。
盛颖:Engine 如果 RL 的话你更多的是要做一些调配上的调配上的工作和可能 V,S Transfer 之类的浇水性的工作那 S ched ul ,ing 算法,也有一些新的东西但是系统层面它们有巨大非常大的 Over l ap 你刚刚,跟我讲了两个很好的教授非常教科书级别的教授有没有哪个管理者你是觉得你遇。
盛颖:到过就是最好的管理者他们的特质是什么样子其实管理这个词也很宽泛不同位置,的管理者他们的功能也是不一样的管理与被管理它其实也不是一个单纯的管理与,被管理的关系它其实也是一个职能分工的关系就是一件大事要做成它背后一定要,有一个人有一个人他非常非常的跟这件事情绑定他是不遗余力地要推动这件事情。
盛颖:发生这个人不管是 F ound er 也好是哪个 CEO 也好他可以是任何一个,人但是一定是有这么一个人的他以某种形式他跟这件事情被绑定了这个角色的这个,人他需要有很清晰的想法知道我们要我们从哪里来我们要去哪里我为什么要做这,件事情团队为什么要做这件事情他需要能够有这个坚持并且他要能够看见未来看。
盛颖:见一个他想推动的未来也许没有他就不会发生但是一定是一个他能看见的未来有,vision 这些东西是最重要的,但是你有 vision 的这个人,,他并不一定需要具备管理者需要的所有特质,你与此同时,,公司里面还需要的其他的管理者,他们又需要执行不同的 function ality,。
盛颖:比方说能够真的把一个 vision 变成真实,变得可执行,,能够把人与人之间的合作关系调度得很好。那可能都是不同人的功能管理者非常重要然后在架构制度非常重要但是对但我觉得,我现在的想法都很出级我其实现在一个家可以就是处在一个思考这个问题的阶段。
盛颖:就是我觉得我们刚刚我们刚好就是在一个从我还能一个人看清所有事情到我现在,看不清的这个阶段所以我其实最近就是在想这个问题我还没有我还没有找到答案,我现在看到的都是挑战对那现在这个挑战跟你当时刚加入 XCI 的时候面临的挑,战是相似的吗因为你也说不一样你也说 XCI 你也是把它看成你的 baby 看成。
盛颖:一个很重要的一个事情吗那你在孵化它的时候因为你加入 XCI 的时候它应该还,没有 In ference ,Team 然后你其实是把它给 build up 起,来的这样的一个很重要的核心的人你觉得就是在回顾当时你面对的一个局面跟挑,战的时候跟现在有什么样不一样吗还是完全不一样的因为毕竟在 xAI 我不是 xAI。
盛颖:的 owner 嘛就算我想虽然我把它当成 baby 但其实其他人并不觉得它是我的,baby 所以我其实并没有被赋能。
主播:我。
盛颖:并没有被 imp ower OK 我有想法我有观察但是我很多事情是改变不了,的我是没有办法去做很多决定或者是告诉其他人一些影响他人的决定的那我的责,任其实也没有办法扩展到那么大的边界上但是我在 xAI 学着学到了一句话这个 X,I 的那个两个 leader 就是当时 Tony 和国东分别跟我说过我不知道他们。
盛颖:是不是串通过但他们都跟我说了同一句话就是说那个那个 author ity,和 respons ,ibility 要 match 就我在 XR 我是没有 author,ity 的我只是一个一个小 te am leader 而已就是我其实没有权利,做很多事情所以我就没有责任哦 OKOK 所以你自己对你觉得你自己有责任但是,我。
主播:其实没有 act ually 没有我其实没有。
盛颖:因为我负不了责我不能决定事情我就负不了责对吧这个事情如果我不能决定该怎么,做做错的话我也也担不了责做对了就不是我能控制的事情但是现在的话就是说这个,公司那我要做决定我必须要做决定它变成了我的义务我必须要做决定那它做的好,和坏所有的责任全部在我头上如果事情没有做好我就要背锅对那当然做好了你会。
盛颖:开心做好了其实替不得工了做坏了是我的。
主播:责任这个就是跟之前的事情完全不一样的角色挑战也是完全不一样的从研究员到,大厂再到自己出来这个创业你对自己的定位有什么样的转。
盛颖:变,吗,我其实没想过这个问题我觉得我一直都只想我想做什么事情我做件事情能够借用,的身份也好资源也好当时的我觉得什么是最好选择我就会去做什么选择但他们都,只有一个目的就是我要做我想做的那件事情两年前的时候我可能觉得我想要创造,那个未来 prof essor 是一条路两年后的今天我觉得 prof ess。
盛颖:or 这条路走不通我就开始开公司创业不管是我是做 profess or 还是,开公司它都只是 appro ach 我没有想过这个身份本身意味着什么我不。
主播:太在乎那个身份但是因为你选择路不一样你要做一些其他的事情来辅佐你最终想,做的事情吗比如说你现在是一个非常明星 startup 的 founder 你要,去融资对吧你要去招人你可能要去做一些其他以前你也没有想过要去做的事情所以,就是比如说融资跟投资人聊这件事情对你来说是负担吗还是这个事情我觉得。
盛颖:这个融资这个事情我以前确实不懂就是被迫去做的但是这件事情总是要做 first,principle ,thinking 我如果要做我弄得比较正确的事情该做,那我就去做它就我们当时融资还是挺曲折的那个具体我就不讲了但是挺曲折的但是,我现在觉得我经历了这么长时间之后我现在对这个行业有些更多的理解了我其实。
盛颖:觉得我在跟他们打完交道之后我昨天我们聊完之后我又做了更多的思考我现在觉得,我对投资人有更多的 respect 我觉得我更理解他们的一些想法为什么整个,行业是一个这样的状。
主播:态对当然 S an h iel 它有一套它的游戏规则那这套游戏规则我理解其实,跟之前做 rese ,arch 的时候是完全不一样的你觉得你自己在适应这一套,新的游戏规则的我觉得没有真的不一样没有不一。
盛颖:样本质逻辑肯定是不一样但是本质逻辑都是就是不同的体系然后还是人还是人性,你追根到底还是所有的人性本质逻辑没有不一样就是。
主播:你把东西做好你追求的一个真的东西你把它给做出来。
盛颖:说出来是吗就是我觉得它体系不一样它的学术界的体系跟某种体系投资人体系肯,定是不一样的所以你的规则不一样那你的这个 me chan ,ism 不一样你,做事的方式肯定不一样但是归根结底它所有事情你再次说下去都是人人与人之间,是共同的所以当你进入另一个体系的时候其实只是要学习那个体系是怎么回事怎么。
盛颖:运转然后各种利点是怎么样的一个平衡关系然后你如果还是以同样的人的根本作,为推理基点的话对这个整个体系的理解还是。
主播:可以被推理出来这个点也有意思就像发 paper 一样它是有套路的对吧你学到了,这个套路那其实你很快所有 average 的东西都是有套路所有 com mon,的事情都是有套路的最后的这个投资人应该是说结果非常非常好了英伟达 AMD,英特尔这几个最大的半导体公司都罕见的集体的投了你们除此之外呢你们也是拿。
主播:到了非常硬核的很多的投资人的背书哈你觉得他们为什么投你们他们看中了你们,的什么我也很想问投资人这个问题。
盛颖:哈哈哈对我觉得我很难为他们代言就是他们看中了我们什么但我如果说现在让我,思考一下的话那我觉得我们是在这个赛道里面一个跑出速度的玩家我们跑出的速,度让大家可以看见我们的未来我们也觉得我们可以有机会创造新的 market,也有机会去助力现有的 market 我们可以 en able 更多的其他的 AI。
盛颖:公司或者是想要进入 AI 的公司去 enable 他们制造 AI 的能力可以让他们,更多地接近 AI 和利用 AI 创造更多的价值那么我们如果能提供这部分价值的话,这个就是我们值得被投资的原因他们还是看重这件事情觉得这个事情是关键的我觉得,肯定很多人是看这种事情的,当然早期投资也有些,也看人吧,,我其实更喜欢看人。
主播:的 invest or。但可能后来,,可能接下来 A 轮 B 轮 C 轮之后的 invest or 就会看数字跟业绩了。但是我们第一轮因为。
盛颖:有这个看人的技术在,他们肯定是人和事一起看的,,至于他们为什么看中了我就不替他们回答。然后你为什么对开源这么执着啊?。这个是追溯到我其实想纠正一下我觉得我不是对开源执着在乎就是我没有刻意要,在乎或执着它其实它是自然发生的当然我从这里获得价值观确实跟我以前的经历。
盛颖:有关我出生在江西这样一个中部的省也不是很发达的一个省然后我小时候受到的,教育我已经在江西省受到很好的教育但是你放眼全国甚至国际去比的话那我当时,受到的教育还是很很朴素的一段教育经历当时我想要学编程其实没有太多的资源,可以学所以我大部分的学习都是从互联网上拿到的计算机那个时候也不是最火的。
盛颖:专业计算机竞赛更不是大家追捧的竞赛所以你能够在市面上搜集到的教材或者是,各种资源都非常的稀少都是未经加工的所以当时我的学习全都是来自于我去互联,网上去看到的那些非常 random 别人留下的帖子 CSDN 对吧各种当时 on,line ,judge 的那个网上提扑我从那些地方学到的东西都是来源于我我不知道。
盛颖:是谁的人我至今也不知道他们是谁当时我也不知道他们是谁我只是过去非常迟迟,地把代码拿走了我回家研究。
主播:然后我都不知道写这个代码的人把它使用出来的人是谁我是被这样。
盛颖:一群人被互联网上不知道世界上在哪里的人给给 ra ise 起来的就是我是被,他们教会的所以 sh aring ,open 的这个文化它对我来说是一个就像,我生活的空气一样存在我也没有觉得我在刻意追逐它但是它对我来说就是一个从,我很小很小开始它就一直在我身边的像空气一样我觉得它理所应当你有一个 ide。
盛颖:a 你做了一件事情你不分享出来那才觉得奇怪我其实是这样一个状态你觉得开源,社区在最近几年有发生什么变化吗一个好的变化一个不那么好的变化好的变化是,我觉得开源越来越多了就是大家越来越追求开源越来越愿意开源越来越相信开源,的价值不管是大家的这个 mind set 就是你人对开源的欣赏还是资本对开。
盛颖:源的认可都是上升状态的但是有那么一点不好的变化是他的这个追捧上升中也开始,掺杂一些其实不是那么纯粹的东西在里面你掺杂一些不是那么纯粹的东西一个是,会破坏原来我们所想象的那个开源带来的那个美好的事情本身另一方面是你如果,开始有这样的东西存在了会让原来相信这件事情的人变得不那么相信开源里面混。
盛颖:进了一些功利主义者这些功利主义者的存在使得那些本来不是功利主义的人分不,清楚开源里面的成分哪些是纯粹的哪些是不纯粹的他们的影响呢不仅仅是他们自己,这是我可能觉得开源也你在变好的过程中也同时会开始出现的一种 balance,就是东西总是阴阳总是共存的一。
主播:种 balance 大家最近对开闭缘之争也聊得蛮多的你觉得整个 AI 的走向会,慢慢地往闭缘那边去迁移吗还。
盛颖:说以后我觉得还是共存状态我觉得开缘不会停而且根据我的了解它也没有停有更,多的人一直在想要进来贡献自己的力量但我也不觉得所有东西都应该开缘因为嗯。你不能没有规则你也不能没有戒心就是完全的开放开源这个状态如果你没有掺杂,太多的可逃离的空间的话它可以是美好的但你一旦把它完全打开的话人性的恶也。
盛颖:会被放大是所以我觉得两种 arg ument 都是正确的我确实也不觉得 AI,应该完全地展现在所有人面前他确实有 risk 我不否认这一点我也不站在 AI,应该完全被握在一小批人手上我也不站在那一侧我觉得 AI 应该均等地被握在不同,的人的手中我们想做的就是这件事情就是 Red Hat 不是纯粹为开源服务的。
盛颖:其实就是我们是有开源文化在但并不是意味着我们做的所有事情都是开源和为开,源服务的我们也为必然模型服务但是我们说的这个 dech ,rom at ization,是我们允许我们认为开源币源是共存的但是我们希望币源它存在但不 central,ize 理解但这个怎么实现呢所以我们希望提供这个能创造最好的币源模型的 t。
盛颖:ool chain 让所有人都拥有制造属于你自己的 AI 的能力但是你制造出来,的 AI 属于你自己我安卓被个昨天呼吁。
主播:就是大家都停止 AI 的研究但是他又下了一个附加条件就是说我现在要 make,sure 大家都停止了我才停止就是你现在 com ,fortable 就是这些,最强大的模型都被握在这么几个的 VM 模型的 player 手中这件事情这件事情,它能被打破吗你觉得我觉得这件事情很难发生它。
盛颖:是违背人性的你是说就是所有人停下来 AI 研究这种事情是因为你大家没有在你,这样一个体系里面大家没有拿到同样的资源所有人都想要接收到最好的 AI 所以,这个事情就很难发生我不觉得它不正确其实如果说现在有一个非常强力的上帝他是,要来安排每一个人做什么那事情是可以发生的我不认为那是一个非常差的世界结。
盛颖:局就是大家都停了然后 An th el ope 一个领先我不觉得这是一个极,度差的世界结局但是世界不可能停在那个地方因为没有一个这样一个上帝下来可以,把所有人安排的按部就班一定会有人要在里面起义所以我觉得它是不可能发生那,这个事情会。
主播:往哪里走呢终局可能不知道是不是一个会非常美好就像你说的一个非常 decent,ral ,ized 每个人都能有自己的 AI 的这样的一个终局但是你觉得 what,'s next 就看我往。
盛颖:多远的未来去想如果我讲到很远的未来的话我觉得现有的 AI 还没有强到它会真的,完全控制和威胁掉人所以在可见的目前我能够 gu ar ,antee 看到的未,来里面人类还是安全的我觉得那如果是这样一个前提下的话大家还是会互相追逐,然后 AI 会变得越来越强但是它这个强是一个 product ively 上去。
盛颖:取代人类的一些功能性的强它不能完全的取代人它只是取代了人类的一些功能但,这个变革肯定也是巨大的动荡它会对人类的社会结构权力结构对产生巨大的动荡,就是跟过往发生过的每次工业革命一样的一个一些席卷性的这种动荡可能比以往,的工业革命更加工业革命但是它是个你可以理解的范畴更远的未来就是如果说 AI。
盛颖:它真的可以强到已经开始操控人类就是它真的已经 over 人类 dominate,人类了能够做人类做的任何事情如果那天真的能来的话我们是阻止不了的我觉得,那天就会来或者说你想阻止它的方式不是通过呼吁所有的人类停止来阻止这个事情,是不太可能发生的对你阻止他的方式一定是发明发现另一条路径使得你允许 AI。
盛颖:继续前进而人类还不会输你在这中间想做什么事情吗我觉得我想我想要 build,的那个未来就是一个跟强力 AI 共存的未来我们现在说我们要把强力的 AI 最好的,AI 带给所有人就人类需要这个公平你不太可能通过一小部分人把好的 AI 握在,手里其他的人都无能来维护表面上的合理这是不可能的如果说 AI 一定要往前走。
盛颖:的话那所有人都往前走所有人都能够去不一定是所有人不是 literally,所有人但是我说大家都不是被这样 b om ,bed 而是你如果你是个你有这个,小 idea 潜力你知道往前走的时候你能够接受到最好的人类知识的话你需要,在这样一个竞争环境中往前走它是一个健康的与 AI 共存和搭站的状态你先要有。
盛颖:这样一个假设然后整个人类他们才能是团结在一起去寻找这个 solution,所以这件事情是必然的我们不管如果那天发生真的到了有一天你需要让人类寻找,一个新的 s ,olution 的话这个它都是个前提你先要让所有的人类平等共,处团结一致然后你才能再寻找一个人类与 AI 共存的世界 LMSS 你在享受一下。
盛颖:那段经历吗 LMSS 是我们想我跟连饼最早一开始想成立一个机构这个机构可以,让不同学校的人参与研究 LMSS 到今天虽然它是一个 non-profit 的,然后我们大家都在里面 part-time 的帮一些事情但是 LMSS 其实是一个,我们想要非常严肃做的事情如果说 RedShark 有一天我希望它永远走下去。
盛颖:但如果有一天它不是走到底的话 LMSS 是那个我终生会做的事业但它跟 Red,Shark 也有一些共同性就它们的都有个共同的 value 就是关于平等和关,于平权 LMSIS 的评选是来自于我们希望能够孵化优秀的人才做的项目,,即便他们没有充分的背景,没有充分的后台,没有充分的 brand ing。
盛颖:这个是来源于一些我自己个人经历,我经历过低谷的时期,,很低谷的时期,也经历过很高昂的时期。我自己能感受到这里面的 d if ference,,可能同样是我,同样做了一件事情,我在高老那时期做的那件事情,,非常容易被大家关注到,被大家记住,甚至被大家夸大,。
盛颖:但是我在低谷时期做的事情,有些也不错,但是其实你就很难被大家所看见,,或者是被大家认可,但我觉得这个 dif ,ference 是没有必要存在的,,而且它是破坏社会公平竞争结构的,,Le on P its 希望做的是磨平这个差异,,希望好的项目真的能够被托举出来并且我们希望 C red its 能够分到做。
盛颖:事情的人身上让可能还没有积累没有 estab lish 的人对项目有更强的,掌控权保护未 estab lish 的真实的开发者的掌控权对。
主播:项目的掌控权我看你在开源社区的时候还做了一些蛮多其他的一些项目就比如说,这个 LM ,Arena 这个东西其实在行业里面就是影响也是挺大的那段时间就是,你其实主要还是一个主线嘛只是说不同的项目他在不同的 pro ,ject 这样,来推进是吗。
盛颖:Are na 是当时我们做我们有点时间的一个其中一个 fundproject,当时觉得这个事情挺有意思的然后做了一下然后他意外地得到了挺多的关注可能,大家当时就觉得排行榜这个事情可能本身它具有一定的娱乐性但是我觉得这个 Are,na 确实是我们开始做的但你真的说把它壮大然后做成公司那确实还是我们后来。
盛颖:就是伟林我们把这个项目交给了伟林他们然后后面一些新的人也加进来是后面这个,新的团队把他们真的做成商业级别规模的一个项目就是刚才你说每。
主播:个人要公平,要平权,平权更多的是说相同的机会,相同的机会,,对,特别是对于 tech 方面的一个怎么说,程序员也好,,或者是 rese ,arch er 也好,,就是你对这件事情的在乎是因为什么样的契机,或者是什么样的经历,,可以跟我们分享一下吗?。
盛颖:一部分是我觉得我好像天生就是这样就是我生下来就是在乎这个事情另一部分可能,也是一种延伸就是我觉得我从小到大是我觉得我是经历了看见经历和看见了很多,别其实我觉得虽然大家回避这个就没有那么这个话题有一定的可争一性就是你怎么,鉴定是或者不是但我觉得我还是很明显地说这个事情它存在你无法回避它存在而且。
盛颖:我非常切身地经历过无数这样子的例子它每一个例子你单拎出来它都非常小但是,它是那种就是一件在你生命中无时不刻每天发生的平凡的小事所以它其实对那些,被影响到的人造成的影响不是你听到一个例子的时候感受到的冲击而是把那一件,小事的冲击乘上一亿倍那,才。
盛颖:是对那个人人生的真实的冲击然后你再把它扩大到整个群体它所造成的这个互动,性影响就是 com mon ,sense 的影响刻在所有人共同认知里面的影响,是没有办法用一个例子去说清楚的我觉得这个是它造成了我为什么特别在乎平权,和公平平等这些东西的一个性格特质的原因第三个就是我刚跟你讲的就是我自己。
盛颖:经历过我知道我能感受到就有些包括我自己做的我发的那些 paper 有些 paper,其实我觉得也就一般但是那个 paper 可能就是因为是我发的或者是我一个斯,坦福发的我个里发的然后大家就会觉得它是一个标准但其实同期可能有一些跟我,做的 paper 差不多的 paper 我其实只是一个 rese arch er。
盛颖:我不是那个科学家但是因为这样一个身份让我这份 paper 被定义了但是我觉得,这个事情它本不应该这样子虽然我是获益者但是当我是获益者的时候我觉得我现在,终于有力量可以因为我是获益者我终于有力量把这个事情往外推动一点 MSYS,想要以什么样的形式去把这个权利很公平的分给每个人呢很难就是首先我们都知道。
盛颖:这是一个结构性问题它不是我能做的或者是一个机构能做的我觉得有一次我跟这样,St ,ory 卡聊天我忘记是具体聊了什么内容了但是我跟他说我想改变一些东,西他聊到一个什么事情我说这个事情我想改变然后他说你改变不了或者是他问我,说你觉得你能改变吗改变得了吗然后我就说我说我不能改变我确实没办法改变但是。
盛颖:如果我能改变 1%的话我愿意用我的一生去改变这 1%一样的答案就是我觉得我。
主播:改变不了,这个。
盛颖:挑战对于我来说在这个挑战面前我太渺小了但是我觉得我能改变一点点或者是改,变我身边的一点点人然后这个一点点人他们会再把这个精神再传递到更多的人身,上他就发生一点点变化那我就觉得他值得我用一生去做。
主播:但是。
盛颖:这个里面有一个很微妙的地方就是你所说的手术当我们想要改变一件事情推广一个,价值观或者人家改变身边的人的时候这个传递是非常容易出错的对是非常容易出,错和被人利用其实真正最后你能够传递的是你是不是能够把就是你要 p ick,人非常重要有很多人他就不在这个里面他根本就不在这个体系里面所以你不是所有。
盛颖:人都可以被压就可以所以你要找的那些人不是打个比方说我现在想帮助弱势群体,但不是说我真的去帮助弱势群体这事情就能被解决解决不了你要解决的是你要找,到那些跟你一样想去找到想帮助入宿群体的人的人你只能去找到那个能把这东西,散布出去的人而不是直接去做到就比方说哪怕你培养更多的学生成为老师都是不。
盛颖:够的你要培养的是想要去培养把学生培养成老师的老师你需要把那个 recurs,ive 的链条建起来才有用对然后这个事情他会非常的慢他会非常非常的慢所以,我觉得我做不了多少事情但是但是他的好处是你如果能做到一点他就做到了他不是,个会回退的边他不是个会回退的改变这是一个 gradual 的就是你往前推了。
盛颖:他就是往前推了对对他至少是 solid 的一个 improve ment 我觉得,所有的 im ,provement 只要他是 solid 的话就可以如果他不 solid,但看上去很但是看上去是个 big ,jump 但他不 solid 那你这个 big,jump 是没有意义的就我们平时退项我也这么跟他们说的我说我不用着急我们。
盛颖:不用到那个 goal 但是你要但是我们我们重要的是你听我们能不能训练出来一,套系统化方法我的每一小步的木木是不是 solid 哪怕我就动了一点点比你那个,动的很大也不能将来还要退回来要好很多哈哈哈在 rese ,arch 界也会有,性别歧视吗它也不能叫歧视啊其实没有那么严重叫性别不平等这可能都没有到不。
盛颖:平等和歧视的地步但是它会有但是这个这个很多小很 sat el 的很 s at,el 的这种意识层面的不对称是无处不在的我跟你举个微妙的例子吧就非常有多,微妙这个事情就是微妙到你会觉得它不是个事儿就打比方说小时候比方说我竞赛,出身我打竞赛竞赛打得很好如果我是个男生大家就会说我是天才如果我是个女生。
盛颖:他就会说他很努力他很听话就是你很用功对他会觉得或者你运气好我小时候经历,的是什么就是有一年的竞赛那年我一直是成绩是就是各种大赛比赛都是很好都是,顶尖最好的反正至少是比我们学校里跟我 pe ,er 的那个人要好很多但是我身,边的人会找无数个理由来解释我为什么好他们觉得你赢是不应当的他们否认你是。
盛颖:天才这件事情他们不否认他们不会否认他们但是他们会觉得你就是如果换一个人,那个赢是理所应当的但如果是我赢了他们会觉得你这个赢需要被解释但是你正常,情况下一个人赢是不需要被解释的我为什么要去一次换你他为什么赢了他厉害呀,对但是我的每一场赢都要被解释背后都有个原因叫做为什么赢而不是你为什么输。
盛颖:这个解释可能是哎他这个他他的对手最近状态不好哈哈哈然后下一场他的对手状,态又回来然后下一场是他这个题压中了这个题他以前做过但是可能你其实这个任,务其实我并没有做过但是你就你感受到这个也不是故意的恶意让人很知心这些微,妙的存在也会出现在你之后做研究读博士做项目对是源源不断的也都会一直有这样。
盛颖:的存在就是说你赢了你比人厉害大家就会给你找理由说他为什么为什么是他。
主播:对他们会说我要进去研究一下这个人为什么可以他为什么可以他为什么能发这么,多 F ace book 因为没有看真还传。
盛颖:一旦有一个合作方然后这个合作方他是男性或者是他是 established,别人就会觉得这个 idea 会不会不是他的就是这些很微妙的事情就是你单独,去看他们都很小但是我说这是一件持续发生每天发生每份名表在发生的小事而且,它会波及到每一个在这个群体里的人 Exactly 你根本就没有办法跳出这个。
盛颖:框架因为一旦你跳出别人就会觉得你小气别人就会觉得你格局小我年轻的时候在,对这件事情的态度会更极端一些但我后来觉得我已经觉得没什么好就是这个事情,是不需要被讨论的你要解决这一点只有一个方法就是你让所谓的入行者或者说如果,在这个 specific example 的话就是女性真正拥有权利初次之外。
盛颖:没有别的办法你就是不断去赢就好了对而且这个权利是所谓的人类的真的 top,0.001%0.01%0.1%1%。
主播:里面全部平权他们只有真正获得权利这个事情才会被改变其他所有的一切通过 educ,ation 是达不到任何目标的你觉得在过去十年有好一点点吗。
盛颖:还是没有肯定有好一点点吧对我觉得是社会是在向前但是这个它你如果差分到不同,的方面的话有些地方可能也在也有也不是都在变好对它那个价值观是一个很波动,的状态但你整个来说我觉得是在变好好的我觉得我们 cover 了大部分的东西,让我再看一看有没有什么问题你觉得有什么问题我们漏掉的吗我没有想过有什么。
盛颖:问题要问但是我到结尾的时候我倒是可以有一件事情想说昨天你们过来然后你给我,看那个 D ,ock 的第一眼我其实当时挺打动就是那个 Dock 里面已经有很多,对我的描述就感觉你们已经对我我不知道这是 AI 生成的还是人做的没有我们看,了很多是人做的挺详尽的我觉得很多投我的投资人都没有这么样的去看看过我的。
盛颖:经历在我跟他们聊天中我发现他们不了解我的经历他们不了解发生过什么他们可能,在别的侧面去打听但是这份 talk 还是我当时印象很深刻我觉得包括融资的这,段经历给我的一些成长就是很多职业本身我们觉得会做的事情其实它不是自然发,生也许我原来觉得一个做采访的人他就应该对被采访者先有一个深度的 stud。
盛颖:y 但事实上很多的采访者他们并不一定真的会做这件事情然后也许我们觉得投资,人他应该对方子做了很深度的调查但实际上大多数投资人都没有去做深度的调查。也许我们觉得一个 Ph D 应该好好做研究大多数 Ph D 未必真的好好在做研,究有很多事情它在定义里面该发生的其实不会发生我后来发现一个人他只要能把。
盛颖:职业里面该做的事情做完其实就已经非常稀有我觉得我昨天看那个 Doc 的时候。我不喜欢采访本来我们也差点就要退掉了但是但是我昨天看那个 talk 的时候,其实我觉得我愿意好好做一下采访因为我觉得你们做的这个劳动我是 respect。
主播:我就,想说一句 respect 谢谢谢谢我也很 respect 你。
盛颖:然后我觉得就是很多就刚刚聊到的比方说我的 Ph D 其实是因为有很多波折融,资时候也有很多波折我们这个开源项目做起来也有很多波折但我现在真的要我说,结局怎么样的话其实这三段波折或者说过往包括童年很多波折他们的步骤之后的,那个终点都非常的好我的 Ph D 第一年这个 R ot ate 找导师不是很顺。
盛颖:利但是最后我找到那个导师他是一个教科书般完美的导师我们这个开源项目一开始,也有各种各样的被打击但走到今天我们有了一个就是这么好的团队我们团队大家都,这么的这么的有能量这么的有热情还是这么团结我们融资我前面也经历了很多各,种各样的事情但我觉得最后我们容纳现在这些投资人也是赵克舒帆完美的投资人。
盛颖:是我在当时刚出来融资之前我不对这种用户所知所以我想去学点东西我就去看了,一些书然后理解了一下融资的书怎么去融资的书类似吧可能 F ,ound er,和投资人之间的相关的一信书 F ound ra ising 101 差不多,然后我想理解这是什么东西那个时候我很多名词都不知道的我不知道什么叫 term。
盛颖:sheet 就是我是在一个这样的状态下吃完融资的我也不知道什么叫做估值什么,叫做 s uit ,able 我都可能就没有概念很多基础的概念我都不知道都不,理解然后 p itch deck 是什么 pitch deck 这个词我都没有,听说过什么叫 p itch deck 是什么要写多少页每页写什么对。
主播:吧是完全没有概念就是没有概念到 p itch deck 这个词我都没有听说,过。
盛颖:他们说的是什么东西有个人跟我说你们有没有拿到他们说啥是他们说的我是在这样,的状态里面的所以我就去尝试去学这些东西但是我从书本里面看到的书本里写的,都是美好的书本里面告诉我的那个投资人和 founder 之间的关系是一个终,身友谊的关系是一个你们并肩作战的关系虽然我早有准备童话总是美好的虽然我。
盛颖:早有准备但那个实况中现实不是这样的现实总是复杂很多但是我最后真的跟我们,P ay r 的投资人这些 part ,ners 他们又回到了我当初在 T ax,book 里面看到的那个所谓的投资人跟 F ound er 之间的关系书本也,没有骗我们包括我以前 PSC 之前很多人跟我描述过的 PSC 导师跟学生之间的。
盛颖:关系可能也是过于美好的但是我最后拿到了就是那些美好的描述他们都没有骗我,世界上存在那么纯粹那么好的导师存在那么好的投资人存在那么好的采访者但是,绝大多数人他们没有坚持到把那个跌宕起伏的过程走完没有坚持到相信那个好的,东西是其实是存在的只是说你要筛选只是说你要有耐心等着它最后显露出来你要。
盛颖:有这个耐心让那些其实不是理想状态的沙砾自己脱落掉然后很多人可能在中间就,开始怀疑了然后放弃了怀疑了放弃了或者是他不再相信了就借这个机会我其实想,说就是那些好东西都存在所有好的东西都不是都不是编出来的但是你要非常相信,他你要相信到你身边没有这样的人你还相信他然后有一天那个跟你一样相信的人。
盛颖:他有一天会跟你相遇坚持这一段特别好刚刚我都有点想流泪你知道吗这一段太好了,最后两个问题就是你是一个逻辑如此缜密之人但是就像你说的这个世界上很多东,西是乱的或者是它逻辑上是不成立的就很多 rand ,om 的地方就世界是一个,草台班子就是这件事情你能自强吗还是说你其实是会 s uff er 的就我在。
盛颖:我的逻辑里是自下的我的逻辑不受不受我看到的事情的干扰 s uff er 也,有啊就是会 s uff ,er 就我其实很 emotional 我是非常 em otional,的人其实就是很多很微小的事情会对我造成非常大的情绪影响但是我能够把那个,情绪影响跟我的价值观构建分离开比如说我看到了很多事情他们我不想看到我不。
盛颖:希望它发生但他们都发生了然后我觉得很不高兴但是我看完他们之后不会导致我觉得,那个是正常的我仍然会坚信那个我没看见但我相信的东西是对的。
主播:我。
盛颖:仍然会坚信就像我刚刚说的我仍然会坚信有一个我想看见的世界但是我现在没看,见它只是我还没看见它而已就这个事情我可能会相信它几年十年的时间我还相信,它在那里这个东西很难被改变但是我过往的经历告诉我它们其实都存在最后我都,遇到了它们所以我有很多正反馈但我觉得有很多人是没有看到正反馈的所以你也。
盛颖:不能说就是要求所有人都坚持但是我觉得我是幸运的,,因为我全部看到正盘亏,就是我的正盘亏循环,,让我可以在后面的遇到这种类似情况的时候,坚持得越来越久,,可能我第一次的时候我等了几个月,然后它被验证了,,下一次我等了几年,它被验证了,再下一次我等了十年,。
盛颖:它又被验证了,但我就知道了它总是能被验证,下次我可以等二十年,,再下一次我可以等,,就没有人生可能等完了但是我想就是至少我等到了我觉得别人也能等到你有没有,想过因为你是对的人你是正确地去做这件事情的人所以你等到了比如说有些人他,可能对自己的认知有误他可能不是最正确的那个人他可能不是有天分的那个人可能。
盛颖:他等下去就是等不到的就是需要找到这个自洽吧就是那比方说我说我等了十年最,后等到了但是我其实自己的自己的心里的一些认知跟世界一直是不吻合的这十年,里我一直都是很割裂的存在我觉得也 OK 我也可以一直就很割裂的存在。
主播:就算我整个人生都很割裂我也不想妥协就是你能不能找到那个 boundary,这是重要的就其实这件事情 OK 就是我想说有这个。
盛颖:其实是完全 OK 的它不会真的很痛苦人们只是害怕而已但如果说有个人告诉你说,就这样就这么回事没关系其实就真的没关系但是首先这身上也没有绝对的正确我也,不能说我是正确的人大家都是正确的人但我只说每个人都有你自己的想法然后你,所谓的正确在别人的眼中不正确也 isOK 也是完全 OK 没有任何问题但是它的。
盛颖:唯一重点就是你是不是按照你自己的想法去认知和行动还是你其实是被别人牵着,走的或者你觉得自己在妥协你只要不觉得自己在妥协都没关系哪怕你真的错了就,错了吧就也没关系但是我非常不喜欢的是就是大家都变成了不能执行自己意志这样,是不好的就如果所有人都执行自己的意志哪怕你不和谐那也是自然存在其实本来。
盛颖:就合理好的好的那以上就是我们所有的问题了非常感谢谢谢盛颖。
主播:好了,这就是我们今天的节目,不到两个月的时间,,AI 市场经历了开源模型的大爆发,,而 SGLang 也成为了 AI 时代的核心技术层。大家怎么去看,盛颖的经历与你受到的启发,欢迎给我们写评论写留言。如果大家喜欢我们的节目可以通过小宇宙 Sp ot ify 苹果播客 B 站还有。
主播:You Tube 来找到我们我们部分节目的文字稿也会收录在硅谷 101 的微,信公众号上感谢大家的收听我们下期见。
References
- 1《硅谷101》E247 官方单集页
sv101.fireside.fm
- 2《硅谷101》官方 RSS
feeds.fireside.fm
Related content
- Sign in to comment.