本期来自 The Cognitive Revolution 对 Liquid AI 联合创始人兼 CEO Ramin Hasani 的访谈。官方单集页在 2026 年 7 月 4 日发布，页面提供 show notes、章节和完整自动生成 Transcript；以下中文笔记按原始节目顺序整理。1
图集顺序
嘉宾背景卡
- 嘉宾介绍卡——Ramin Hasani（附真人头像：）1
- 姓名：Ramin Hasani
- 头衔：Co-founder & CEO，Liquid AI
- 所在机构：Liquid AI；MIT CSAIL 机器学习研究 Affiliate
- 背景简介：维也纳工业大学计算机科学博士（2020 年，优异），博士论文研究 Liquid Neural Networks，获 TÜV Austria Dissertation Award 提名及 HPC Innovation Excellence Award（2022）。曾任 MIT CSAIL 博士后研究员（师从 Daniela Rus 教授）及 Vanguard Group 主任 AI 科学家，同任 MIT CSAIL 研究 Affiliate。三年半前从 MIT CSAIL 创立 Liquid AI，专注高效设备端基础模型。TEDx 演讲嘉宾。
封面卡
- 封面卡：边缘智能，不只靠规模。1
核心观点卡（每条独立成卡）
- 观点卡①——规模定义架构：「Scaling laws define architecture」——模型越大，越希望它无结构，矩阵乘法就够了；模型越小、约束越强，就越需要把任务偏置和硬件约束写进架构，卷积、门控、递归才重新有价值。1
- 观点卡②——Transformer 无结构即其优势：Attention 成功不只因为它聪明，而是因为它「无结构」——矩阵乘法可在极大规模上高效并行。越接近万亿参数，越不能塞入人工偏置；但在小模型和受限硬件上，偏置会重新变得有价值。1
- 观点卡③——非线性是小模型的真正优势：非线性会直接提升小模型的表达力，但非线性系统很难并行化（计算复杂度甚至高于平方）。这就是为什么 SSM、Mamba 等替代架构都选择线性化——不是因为线性更好，而是因为线性可并行。1
- 观点卡④——输入依赖性是架构创新的核心：门控机制真正的作用不在前向传播，而在反向传播——输入依赖的算子让模型不只是学权重，还学到了随输入变化的动态。这一特性在语言、音频、连续时间信号里反复被证明有效。1
- 观点卡⑤——架构创新的真正价值在效率：架构研究最重要的贡献不是追求最强能力，而是在不损失精度的前提下最大化计算效率。全球推理需求指数增长，能源不够支撑全部云端部署，效率是架构研究的核心使命。1
- 观点卡⑥——硬件厂商必须上移到智能层：CUDA-level 优化正在被 AI agent 自动化，硬件厂商的护城河不应停留在 kernel。NVIDIA 的 Nemotron 项目是先例——在自己硬件上预置一个服务企业应用的基础模型层，才是真正的差异化优势。1
- 观点卡⑦——本地模型的角色是路由而非全能：本地模型的价值不是替代云端大模型，而是担任 orchestrator/router：做 PII 过滤、路由决策、低成本预处理，只把必要内容发给云端。这才是设备侧 AI 的实际产品形态。1
金句卡（每条独立成卡）
- 金句卡①：「我们在 MIT 的目标函数，一直是把尽可能多的智能压进尽可能小的算法形态里。」1
- 金句卡②：「12 个神经元可以倒车入库，19 个可以驾驶汽车，30 个可以让无人机飞行和导航。」1
- 金句卡③：「我相信 scaling laws define architecture。神经网络越大，你越希望它少结构。」1
- 金句卡④：「我们没有足够的能源把所有智能都放进数据中心。必须更聪明地使用模型。」1
- 金句卡⑤：「在我所有大型基础模型实验室的个人经历里，只有少数人在拍板架构怎么改——这是整个行业都在回避的问题。你得把它交给算法，交给系统搜索。」1
- 金句卡⑥：「你花 600 万美元买了一辆奔驰，它有一个 600MB 的模型，在车里跑的比你能想象到的任何云端模型都流畅——这才是真正的游戏改变。」1
- 金句卡⑦：「全球智能手机市场每年大约 5000 亿美元——这个数字和数据中心建设总投入正在持平。我们有一整个万亿级别的计算基础设施，散落在人们的口袋和桌上，却几乎没有什么智能在里面跑。」1
启发洞察卡（每条独立成卡）
- 洞察卡①——选架构先问约束：做 AI 产品不能只问「用哪家最强大模型」。如果场景有隐私、延迟、成本、离线和硬件限制，就要先问哪一部分必须在本地完成，哪一部分值得交给云端。约束定架构。1
- 洞察卡②——小模型是系统组件而非廉价替代：小模型更像系统里的路由器、过滤器、记忆索引器和低延迟执行器，而不是大模型的低配版。真正有价值的产品设计是把本地模型和云端模型的分工设计清楚。1
- 洞察卡③——设备侧 AI 将重构硬件竞争：未来硬件差异化将不只来自芯片规格，还来自预置模型、微调平台、隐私过滤层和本地 agent 生态。谁拥有自己硬件上的「智能层」，谁就有护城河。1
- 洞察卡④——架构偏置因数据结构而异：DNA 序列词表极小但长度达数十亿，无需 attention，纯卷积或 SSM 更高效；音频在低数据条件下适合递归网络；物理仿真适合连续时间模型。数据的内在结构决定哪类偏置有价值。1
- 洞察卡⑤——架构之外：学习算法才是下一个主战场：Hasani 认为，决定下一代 AI 能力上限的不只是架构，而是学习算法本身——新的目标函数、新的数据表示、新的学习范式。人脑用 20 瓦就能完成世界级泛化，靠的不是更好的架构，而是进化积累的多种学习策略。1
一句话结论
这期访谈最值得 AI 创业者带走的不是「又一种替代 Transformer 的架构」，而是一个更实用的判断框架：当应用场景受限于本地算力、内存、延迟、隐私和硬件异构性时，架构创新的价值会重新变高；当目标是无限扩大能力边界时，少结构、可并行、可扩展的注意力体系仍然有优势。1
逐段中文精译与要点
00:00 开场：为什么这期重要
Nathan Labenz 开场把 Liquid AI 放在「设备原生基础模型」这个主题下介绍：Liquid 来自 MIT CSAIL，目标是在尽可能小的算法形态中塞进尽可能多的智能。Nathan 先提醒听众，这期会深入技术细节，因为 Liquid 的路线不只是做一个小模型，而是系统性地问：如果模型要跑在手机、笔记本、汽车、机器人或传感器上，架构应该怎样重新设计。1
他给出的商业背景也很直接：全球手机和笔记本市场本身就是数千亿美元级别，数据中心建设正在变得昂贵，很多企业和个人又不愿把所有私密数据交给云端。只要推理需求继续增长，本地低延迟、低成本、保护隐私的小模型就不是边缘市场，而是一个单独成立的大市场。1
02:00 Liquid 的起点：把智能压进小算法
Hasani 说，Liquid AI 大约三年半前从 MIT CSAIL 分拆出来，但背后的研究已经做了十年。他们一开始关心的是机器人和真实世界系统：模型不能总是靠数百万、数十亿参数才能工作，因为真实设备上往往只有 CPU、NPU 或较小的 GPU。Liquid 的目标是让系统在分布变化时还能可靠工作，也就是能面对没见过的输入。1
他解释，真实世界里自动驾驶、无人机、固定翼飞行器都会很快遇到训练数据之外的场景。动物和人类在这件事上很强，所以 Liquid 早期从生物神经系统找灵感，尤其关注神经元之间如何交换信息。1
04:00 为什么是秀丽隐杆线虫
他们选择 C. elegans，是因为在 2015 年左右，这是少数完整神经系统被绘制出来的动物。它只有约 300 个神经细胞，却能表现出复杂的感知和动作控制。Hasani 认为，这对机器学习很有启发：如果这么少的细胞可以完成灵活运动，说明神经元本身的动态可能比传统人工神经网络里的单个激活函数更有表达力。1
线虫的神经元不是尖峰发放，而是连续、可微的 graded neurons。这让研究者可以把它们写成微分方程，并用反向传播训练。Liquid 的早期工作就是把两个神经元如何交换信息抽象成可训练的动态系统，再把多个这样的单元组合起来。1
06:00 液态时间常数网络：12、19、30 个神经元
Hasani 提到几个早期结果：12 个 liquid neurons 可以让小车自动倒车入库，19 个可以驾驶汽车，30 个可以让无人机飞行和导航。他们把这类模型叫做 liquid time-constant networks，所谓「liquid」指的是模型训练后仍能根据输入调整动态，而不是把所有行为都冻结成固定函数。1
这不是说参数会在部署时持续更新。Hasani 区分了两条轴：一条是参数是否持续改变，另一条是系统动态是否随输入改变。Liquid neural networks 的参数像普通神经网络一样固定，但单元内部动态会随输入变化，因此在雨水打到摄像头、传感器噪声变化、机器人进入新环境时，模型可能更稳。1
09:00 可扩展性墙：非线性很好，但太难并行
Liquid neural networks 的问题也很清楚：每个神经元都是微分方程，内部有反馈和嵌套非线性。节点越多，前向和反向计算就越复杂，甚至会走向立方复杂度。用数值求解器逐步展开可以算，但会拖慢训练和推理，也很难像 Transformer 那样天然并行。1
Hasani 的解释很关键：只要计算关系里有非线性递归，就很难直接把向量计算变成张量并行。很多 SSM、Mamba 这类替代架构选择线性动态系统，不是因为线性一定更接近真实世界，而是因为线性更容易并行化。1
10:00 闭式解突破：从研究到公司
Liquid 后来把一类连续时间神经网络求出了闭式解，也就是不再依赖数值求解器逐步跑。Hasani 说这项工作在 2022 年发表于 Nature Machine Intelligence，后来 Quanta 的报道让他们收到了大量投资人关注，Liquid AI 也因此走向公司化。1
闭式解让 liquid networks 能扩展到更大规模，但它没有彻底消除并行化难题。非线性和反馈仍然存在，所以原始 liquid neural networks 最适合的场景不是无限扩大到最大基础模型，而是资源受限、数据动态明确、需要连续时间建模或低延迟推理的场景。1
14:00 神经元和参数不是一回事
Nathan 追问为什么 Liquid 早期按神经元计数，而主流模型按参数计数。Hasani 回答，早期每个 liquid neuron 本身就是一个计算过程，可以粗略乘以 7 换算成参数数量。到了 Liquid Foundation Models 阶段，团队已经回到行业通用的参数口径，比如 1B 参数就是通常意义上的 1B 参数。1
这个区分背后有更大的问题：小模型里，单个单元的复杂动态有价值；但规模越大，结构越多反而越难训练、越难并行。Hasani 给出一句本期核心判断：scaling laws define architecture。规模本身会决定你应该用什么架构。1
18:00 规模定义架构
Hasani 认为，Transformer 和 attention 成功，不只是因为它们聪明，而是因为它们「无结构」。矩阵乘法可以在极大规模上高效并行，模型越接近万亿参数，越不能塞入太多人工偏置。相反，在小模型、专用任务、固定硬件约束下，卷积、门控、递归、状态空间模型等偏置会重新变得有用。1
这对创业者很实用：不要把「最强模型」和「最适合我的产品」混为一谈。做云端通用智能，可能要追逐最大模型；做本地搜索、车内语音、边缘传感器、长序列 DNA 或低延迟客服，合适的架构可能完全不同。1
30:00 AFMD：把架构选择交给系统搜索
Liquid 后来的关键转向是 architecture-neutral。Hasani 说，他们不再把某一种架构当万能答案，而是开发 Automated Foundation Model Design，简称 AFMD。这个系统把候选算子、目标硬件、内存、延迟、速度和约 100 个真实下游基准放在一起搜索。评价标准不是只看 perplexity，而是看客户真正要跑的任务。1
他批评很多基础模型实验室仍依赖少数架构专家凭经验调参。他把这群人戏称为「Avengers of the architectures」。Liquid 的做法是尽量去掉人的先验，让系统在真实约束下找答案。这和 Rich Sutton 的 Bitter Lesson 呼应：长期看，能让搜索和计算发挥作用的系统，通常会赢过手工偏置。1
34:00 搜索结果：双门控卷积 + 注意力
在 CPU 和各种设备侧处理器上，Liquid 搜索出的 LFM2 结构保留了 attention，但减少了比例。Hasani 说，约 70% 到 80% 的网络由双门控卷积构成，约 30% 保留 attention，用于需要 O(N²) 表达力的部分。这样可以降低内存、延迟和计算复杂度，同时尽量不牺牲质量。1
Nathan 用一句话概括得很准：如果重写「Attention Is All You Need」，可能会变成「注意力仍然需要，但很多层只需要简单卷积加门控」。这不是说 attention 失败了，而是说在设备侧和专用任务里，它不必承担全部计算。1
38:00 门控为什么重要
Nathan 把 gating 解释成「让变换依赖输入」。Hasani 认同这个方向，并补充说，Liquid 早在 Liquid-S4 里就引入过 input-dependent SSM 的想法。他认为，门控的真正作用不只体现在前向传播，而在反向传播里：模型学习到的不只是权重，还有一类随输入变化的动态。1
这解释了为什么门控在语言、音频、连续时间信号和状态空间模型里反复出现。它是一种偏置，能让模型根据当前输入调整处理方式；但它是否适合超大模型，仍要看规模。越大越无结构，越小越需要偏置，这条线贯穿整期访谈。1
44:00 哪些场景偏置会赢
Hasani 列了几类偏置更有价值的场景。DNA 和基因组数据的词表很小，但序列极长，attention 的二次复杂度很快变成瓶颈。音频在低数据条件下仍适合递归网络。视频可能需要 diffusion 一类学习方式。物理仿真和 digital twin 则适合 physics-informed networks 或连续时间模型。1
这里的共同点是：数据本身有强结构，或者硬件约束很紧。当任务有明确动态、长序列、低延迟或低功耗要求时，把结构写进模型反而能提高效率。1
52:00 商业化：设备基础模型
Liquid 把自己的方向称为 device foundation models，也就是跑在数据中心之外的基础模型。Hasani 提到，Liquid 的开源 LFM 系列在 Hugging Face 美国下载榜上排名靠前，每周下载量超过百万；商业上，模型已经进入 Shopify 的推荐、搜索和产品目录理解场景，也与 Mercedes-Benz 签下车内智能相关合作。1
Mercedes-Benz 的例子最能说明设备侧价值：Liquid 计划用一个约 600MB 的模型支持车内语音和视觉能力。车不是云端应用，延迟、稳定、隐私和离线可用性都很重要。能在车内小处理器上跑起来，才是这类模型的关键卖点。1
60:00 硬件公司要上移到智能层
Hasani 对芯片公司的建议很明确：不要只停留在 kernel 或 CUDA moat 这一层。随着 AI agent 能自动做 kernel 级优化，硬件厂商需要拥有自己硬件上的 intelligence layer。NVIDIA 的 Nemotron 是他提到的例子：它不是单纯卖硬件，而是在硬件上预置一个能服务企业应用的智能基础层。1
他的判断是，未来买一台 PC、手机或车，默认可能就带一个为该硬件优化过的模型类。用户当然可以换模型，但如果默认模型跑得快、能微调、能协调本地和云端服务，很多人不会主动替换。1
72:00 本地 agent 的实际搭法
Nathan 提出一个具体需求：他有一个包含邮件、Slack、推文、DM、视频会议和播客稿的五年个人知识库，希望先用本地模型过滤和检索，再把必要内容发给云端大模型。Hasani 的建议是，把本地 LFM2 mixture-of-experts 当成 orchestrator/router，让它决定什么时候调用本地小模型、什么时候做 PII 过滤、什么时候把脱敏内容交给云端模型。1
他承认，现成 24B 小模型未必能直接达到 frontier 模型效果，但针对具体用例做微调可以显著追回性能。Liquid 计划推出平台，让客户用较低成本完成这种专用微调。对创业者来说，这里有一个很清楚的产品方向：不是把所有智能都搬到本地，而是让本地模型承担路由、过滤、隐私保护和低成本预处理。1
80:00 智能能缩小到什么程度
结尾部分更偏哲学。Hasani 认为，今天的算法还达不到人脑的 intelligence-per-watt。人脑能用约 20 瓦完成极高水平的泛化，是因为进化已经替我们做了漫长的预训练。当前大模型的 in-context learning 有点像学到了一种模糊的梯度下降或最小二乘算法，但人类同时使用强化学习、心理模拟、贝叶斯推理等多种学习策略。1
因此，真正高效的智能可能不仅来自更好的架构，还来自新的学习算法、新的数据表示和训练目标。Hasani 的乐观来自一个现实变化：agent 让个人研究者更容易接触前沿工具，他自己甚至在录制节目时还在后台训练模型。1
金句精译
- 「我们在 MIT 的目标函数，一直是把尽可能多的智能压进尽可能小的算法形态里。」1
- 「12 个神经元可以倒车入库，19 个可以驾驶汽车，30 个可以让无人机飞行和导航。」1
- 「我相信 scaling laws define architecture。神经网络越大，你越希望它少结构。」1
- 「我们没有足够的能源把所有智能都放进数据中心。必须更聪明地使用模型。」1
给 AI 创业者的启发
第一，做 AI 产品不能只问「用哪家最强大模型」。如果场景有隐私、延迟、成本、离线和硬件限制，就要先问哪一部分必须在本地完成，哪一部分值得交给云端。
第二，小模型不是大模型的廉价替代品。它更像系统里的路由器、过滤器、记忆索引器和低延迟执行器。真正有价值的产品设计，是把本地模型和云端模型分工清楚。
第三，设备侧智能会改变硬件公司的竞争方式。未来的差异可能不只来自芯片规格，还来自预置模型、微调平台、隐私过滤层和本地 agent 生态。
第四，架构创新的价值取决于约束。无约束追求最强能力时，attention 仍很强；但在手机、车、长序列、音频、物理仿真和极低延迟任务里，门控、卷积、递归和连续时间模型都有机会重新上桌。
来源
- 官方单集页、show notes、章节与 Transcript：Intelligence on the Edge: Liquid AI's Ramin Hasani on the Search for Device-Native Foundation Models
- 官方页说明 Transcript 为自动生成，关键专有名词和数字已按 show notes 交叉校正。
逐句全文翻译
本板块基于完整逐字稿逐句翻译，不做任何压缩、摘要或删减，完整保留全部对话内容。1
[主持人 Nathan Labenz 开场介绍]
中： 大家好，欢迎回到 The Cognitive Revolution，祝美国的朋友们独立日快乐。
中： 今天的嘉宾是 Ramin Hasani，Liquid AI 的 CEO，这家公司由 MIT 研究人员创立，专注于开发设备原生基础模型。
中： 我先说明一点，录音之前我特意鼓励 Ramin 在 Liquid AI 的技术细节上深入展开。
中： 如你所听，他做到了——技术深度、差异化视野和极具感染力的热情融为一体，在我看来，这期是当之无愧的经典。
中： 我们从他们在 MIT 开发的微型生物启发微分方程神经网络讲起——这也是他们创业的起点。
中： 他们展示的一些能力——比如用仅 12 个 liquid neurons 构成的控制模块自动泊车——今天听起来仍像科幻。
中： 虽然这些系统没有扩展到当前能力前沿，但公司保持了「liquid 哲学」——今天这意味着以中立的实证方式设计和优化神经网络，以在各种极端约束下工作，最常见的是在内存和算力有限的边缘设备上运行。
中： 考虑到全球智能手机和笔记本市场每年约 8000 亿美元（数据中心建设总投入才刚刚追平这个数字）、推理需求的增长正在把许多人挡在前沿模型市场门外、以及大量企业和个人高度重视隐私和数据控制权，这本身就是一个体量极大的市场机会。
中： Liquid 有切实的验证数据：HuggingFace 美国下载榜排名第五，并已与 Shopify 和梅赛德斯-奔驰达成值得关注的合作。
中： 有疑虑的人可以快速下载并试用 Liquid 的 Apollo 应用——以我的亲身体验，即使是一个仅包含少量 attention 层和极简门控卷积的 10 亿参数模型，虽然离前沿还差很远，但在 iPhone 上的运行速度已经足以处理私人文档搜索和分类这类基础任务。
中： 最有趣的或许是 Liquid 为特定用例和运行环境开发网络时使用的架构搜索流程。
中： 他们发现代理指标（如困惑度）太容易把搜索方向带偏，因此改为在客户实际使用的目标硬件上、用真实下游任务评估模型。
中： 简而言之：Attention 架构在泛化能力上依然优于已知的所有替代方案，因此继续统治前沿；但用例越专一、算力越受限，他们的搜索过程就越可能收敛到一种非常规架构。
中： 目前 Mamba 等次二次方创新架构正是在这个空间里大放异彩。
中： 访谈接近尾声，Ramin 透露 Liquid 即将推出一个平台，让客户能够以自助方式针对自身用例微调小模型。
中： 这有多重意义——既可能减轻前沿模型的需求压力，也有助于提升全球 AI 普惠程度——我个人非常期待它上线。
中： 废话不多说，希望你享受这期充满活力的对话——关于 Liquid AI 如何从任意计算资源里压榨出尽可能多的智能，主角是联合创始人兼 CEO Ramin Hasani。
[赞助商广告——Mercury]
（略，为广告内容）
[正式对话开始]
Nathan： Ramin Hasani，Liquid AI 联合创始人兼 CEO，欢迎来到 The Cognitive Revolution。
Ramin： 感谢邀请，我很期待这次对话。
Nathan： 我从远处关注 Liquid AI 已经好几年了，一直对你们在 MIT 时期开发的那些架构很着迷。
Nathan： 也对我感知到的公司过去几年的轨迹很感兴趣——越来越以客户为中心，越来越商业化。
Nathan： 那我们就从头说起——你会怎么讲述 Liquid AI 走到今天的大故事，以及公司现在的使命是什么？
Ramin： 好的。Liquid AI 大约三年半前从 MIT CSAIL 分拆出来，但我们依托的技术，实际上在公司成立之前已经研究了将近十年。
Ramin： 我们在 MIT 的目标函数，一直是把尽可能多的智能压进尽可能小的算法形态里。
Ramin： 效率一直是我们研究的核心基石。
Ramin： 我们一直专注于机器人以及进入真实世界的系统——liquid neural networks 这个想法，就是在那时发现的，也是我博士论文的核心。
Ramin： 我和四位联合创始人一直在研究：怎样构建能部署在机器人上的机器学习方案——不需要数百万、数十亿参数——可以直接跑在 CPU、NPU 或物理系统上的小型 GPU 上，同时还能保持大型 AI 系统的可靠性。
Ramin： 我们本质上是在探索替代算法，在算法空间里保持创造性——研究如何构建能泛化到未见数据之外的机器学习系统，因为在真实世界里，分布偏移是真实存在的问题。
Ramin： 想象你把机器人部署到开放世界——比如自动驾驶汽车、飞行无人机、固定翼飞行器——这些系统都会非常快速地遇到分布之外的场景。
Ramin： 所以你必须构建真正能应对分布外场景的系统。
Ramin： 人类在这件事上极其擅长，动物在遇到分布外情况时也表现得很好。
Ramin： 这意味着已学到的概念能泛化到你从未见过的数据，对吧？
Ramin： 所以我们的想法是：能不能构建具有这种特性的系统——更好的分布外泛化能力？
Ramin： 这不只是我们的目标。我认为整个 AI 领域都在朝这个方向努力，尤其是在机器人和闭环控制环境里——在那里，你有一个 agent 在环境中行动，你就需要这些特性。
Ramin： 所以我们自然而然地开始研究大脑——动物大脑——从第一性原理出发，研究神经元之间如何交换信息。
Ramin： 我们开始研究蠕虫——小型动物的大脑。为什么是蠕虫？这种特定的蠕虫——秀丽隐杆线虫（C. elegans）——我们开始研究它的大脑。原因是：2015 年，当我和联合创始人 Matias Lechner 作为博士研究开始这项工作时，它是唯一一种我们完全了解其整个神经系统的动物。
Ramin： 而这种动物展现出大量的感觉反应行为——用 300 个神经细胞就能达到令人惊叹的控制水平。
Ramin： 这令我们着迷，因为这比当时任何在自主系统上实现控制的神经网络都要小得多，而线虫却能完成比世界上最好的机器人更灵活的动作。
Ramin： 于是我们想：先弄清楚线虫大脑里神经元如何交换信息，然后从那里开始构建比这些神经回路更复杂的神经系统，最终达到能够构建「下一个动物」的阶段，追随神经系统进化的路径，看我们能如何在这个过程中不断上升和进化。
Ramin： 描述秀丽隐杆线虫中两个神经元动态的方程是存在的。因为线虫很小，神经元不产生尖峰放电——它们是梯度神经元，以电紧张方式工作，和我们熟悉的人工神经网络非常相似，因为它们也是高度可微的。
Ramin： 这对我们来说更好、更有吸引力，因为我们可以把学习理论应用到这类神经网络上。
Ramin： 一旦构建好——比如两个神经元、四个、八个、一百个并排——然后开始训练，你可以把反向传播作为一种微分编程方式，应用到这个从自然界获得灵感构建的系统上。
Ramin： 那些微分方程表现良好。你可以让它们尽可能复杂，越复杂就越接近生物，但从计算量来说，扩展也变得更难。
Ramin： 我们尝试把描述两个细胞之间神经动态的复杂微分方程抽象掉，用 sigmoid 函数、门控 sigmoid 函数来表示。现在有矩阵乘法进来了，用基于 Transformer 的架构和注意力机制捕捉输入对系统的影响。但这些都是为了能够扩展而简化的计算方式。
Ramin： 从神经科学角度来看，探索这个问题非常有趣：如果我们真的把那些基于微分方程的计算，以更精细的形式，带回到每一个神经元的行为中，模拟两个神经元如何交换信息——也许我们能解锁比人工神经网络迄今所见更强大的东西。
Ramin： 早期结果令人惊叹：12 个神经元就能让一辆车自动倒车入库，19 个能驾驶汽车，30 个能让无人机自主飞行和导航。
Ramin： 我们能够获取传感信息，用这些更精细版本的神经动态来处理它，我们把这类模型称为 liquid neural networks——「liquid」代表适应性。
Ramin： 我们称之为 liquid time-constant networks（LTC），之所以起名「liquid」，是因为这些系统的动态在训练后仍然保持灵活性。这些模型能够对新类型的输入做出反应，甚至在反向传播过程中学习如何对接收到的输入保持自适应。
Ramin： 这实际上在神经网络的学习动态灵活性上编码了更多自由度——与人工神经网络相比——而这种动态形式让我们能够把这项技术扩展到不只是机器人，还有金融服务中的预测型 AI、医疗领域、音频建模、多模态视频理解。
Ramin： 我们反复应用这项技术，发现它非常出色：每个神经元都比普通神经网络的节点复杂得多，但同时，你不需要那么多计算节点就能得到你想要的结果。
Ramin： 我们还发现这些模型的分布外性能极好，非常适合机器人应用——我们与美国空军有过合作。波音公司当时资助了我在 MIT 的博士后，我们证明了可以用这些神经网络、用少数几个神经元来飞行喷气式飞机。
Ramin： 然后出现了挑战：liquid neural network 中的每个节点都是一个微分方程，非常复杂。神经元越多，前向和反向传播就越复杂。这些系统高度非线性，而增加非线性可以构建更有表达力的系统——我在博士论文中证明了这一点。但如何扩展这些系统呢？计算复杂度甚至达到了立方级别。
Ramin： 你可以用数值求解器逐步展开微分方程，逐步计算所需输出——但步骤越多，精度越高，代价也越大，而且你无法真正达到无限精度。
Ramin： 我们想到了一个方法：如果我们把整个系统用闭式解来求解呢？我们取 liquid neural networks 的微分方程组，尝试求出闭式解。
Ramin： 结果发现，这类方程的闭式解自 1907 年以来一直不存在。1907 年，一位叫 Louis Lapicque 的科学家建立了膜电位模型——如何在数学上描述细胞中的膜电位。这个格式的方程成为通道建模的基础——描述信息如何通过离子通道在细胞内传播，以及神经递质如何传播。
Ramin： 随后，霍奇金（Hodgkin）和赫克斯利（Huxley）开始对这个微分方程进行生物学基础研究，增加了更多复杂性。他们建立了单个神经元的神经科学模型，从 1953 年开始研究，1963 年因开发出更好、更准确的神经元动态表示而获得诺贝尔奖。
Ramin： 从那以后，在你读到的每一本教科书里，这类方程都没有已知的闭式解。liquid neural networks 也属于这类方程。我们第一次求出了这个解。
Ramin： 大约在 2022 年，我们第一次以闭式解求出了 liquid neural networks 中神经元之间的相互作用。这成为了 2022 年 11 月发表在 Nature Machine Intelligence 上的论文——称为「闭式连续时间系统」（Closed-Form Continuous-Time systems）。
Ramin： 闭式解有着巨大的影响。现在我不再需要数值求解器来运行 liquid neural networks。我可以让不是几百个而是数十亿个神经元并排排列，扩展这些计算，同时仍然保持非线性。
Ramin： 然后在 2023 年 2 月，《Quanta Magazine》发表了一篇关于我和联合创始人 Matias 的文章——描述拥有神经元动态闭式解的意义，以及这对机器学习和脑科学可能有多重要。我的收件箱里充满了 VC 的消息。硅谷开始谈论这件事，人人都想向我们抛出投资条款。
Ramin： 大约同一时期，替代模型开始涌现——状态空间模型（SSM）、更快迭代的 SSM、作为可扩展方案出现的卷积神经网络。它们都是线性形式，因为替代模型的可扩展性需要将其线性化。而我们有另一个类别的东西——加入了从生物学和物理学中学到的算子。
Ramin： Liquid AI 的使命由此确立：在每一个规模上构建高效的通用 AI 系统。我们在使命中特别强调「高效」，因为我们可能是全球最高效的基础模型公司。
Ramin： 今天，这项技术成为了 Liquid Foundation Models（LFM）。它们现在非常受欢迎。我们在 HuggingFace 美国下载量排名第五，每周超过 100 万次下载。美国方面的前四名是 Google、Meta、Microsoft 和 Nvidia——第五名是 Liquid。我们通过内部约 1000 张 GPU，发布了 50 多个模型实例才做到这一点。
[赞助商广告——Anthropic/Claude]
（略，为广告内容）
Nathan： 有一件事让我很注意：你用神经元数量来描述 liquid neural networks，而我们通常习惯听到的是参数数量——这里有一种范式上的差异。帮我理解一下：为什么我们在数神经元而不是参数？这告诉我们什么？
Ramin： 早期，我们用神经元数量作为计算单元来讨论，因为每个神经元都是一个可以用数学方程建模的过程。有个经验法则：我说神经元数量，乘以七就得到系统的参数数量。但今天，当我们谈到拥有 10 亿参数的 Liquid Foundation Model 时，我们字面上指的是与其他任何 GPT 相同意义上的 10 亿参数。
Nathan： 当你试图扩展原始的 liquid 方法时，你遇到的第一批瓶颈是什么？我猜单个神经元内部的多个自由度在现有硬件上会带来挑战。
Ramin： 主要挑战是把顺序计算转化为并行计算。当方程中存在非线性关系时，你无法简单地在向量化计算和张量化计算之间建立一一对应的映射。那些非线性属性——这就是为什么 SSM、Mamba 和类似替代方案选择了线性动态系统。不是因为线性一定更接近现实，而是因为线性更容易并行化。
Nathan： 闭式解在多大程度上解决了这个问题？原始的 liquid 网络范式目前能扩展到什么程度？
Ramin： 即使有了闭式解，你也可以扩展到几十万甚至 100 万到 1000 万个神经元，但嵌套非线性仍然需要顺序计算，无法有效并行化。但有持续的研究——顺序扫描（sequential scan）算子可以在不线性化的情况下降低非线性算子的复杂度。
Ramin： 规模定律定义架构。你构建的神经网络越大，你就越希望它们变得越来越无结构。Transformer 和 attention 的成功不是因为它们聪明，而是因为它们无结构——纯矩阵乘法，可以在无限规模上并行化。一旦在规模上加入偏置，事情就会变得混乱。
Ramin： 这个谱系是这样的：规模越大，你使用的数学算子就越无结构——纯矩阵乘法、纯卷积、纯顺序扫描，不要门控，不要花哨的控制机制。在较小规模和专用任务上，你可以加入尽可能多的偏置——门控机制、各种算子——它会带给你提升。
Nathan： 做个基准对比——当你说 liquid neural networks 已经扩展到几十万甚至近百万个神经元时，这些系统运行在什么样的硬件上？
Ramin： 可以在 CPU 上运行——即使是普通的 CPU 或简单的 GPU。这些 liquid neural networks 中的一个可能只占 1 到 25 兆字节的文件大小。树莓派就足够了。我们已经证明，在许多预测型专用 AI 应用中，这些系统可以非常强大。
Nathan： 你所说的「持续学习」的定义是什么——liquid neural networks 不满足的那种？
Ramin： 持续学习是指一个系统持续接收新数据并自我重新调整，包括改变系统的参数。Liquid neural networks 的动态是输入依赖的，所以新数据会改变动态。但参数是固定的，就像其他神经网络一样。动态这个维度是一个额外的轴，让你可以压缩更多知识——这就是为什么用更小的实例能获得更好的结果。但持续学习要求持续改变参数，这是我们没有做的。
Ramin： 举个例子，想象你在开车，突然开始下雨。你的自动驾驶系统需要对这些驾驶场景做出反应。如果你有一个没有见过那种环境的传统神经网络，它可能会受到影响，因为打在摄像头上的雨是噪声——一种特定类型的噪声。但 liquid neural networks 对输入的反应是不同的——它们吸收输入，应用低通滤波，更具适应性。这不意味着改变参数；有两个轴：参数变化和动态变化。
Nathan： 让我们快进到现在。你们已经变得架构中立了。你们开发了一个架构搜索流程，即使你们来自 liquid neural network 这个谱系，你们也不会盲目地应用它。你们创建了一个更高层次的元流程来搜索架构空间。两个值得注意的细节：代理指标（如困惑度）效果不好，你们需要在真实下游任务上测试；以及硬件在环——用真实的目标硬件来测试架构。
Ramin： 完全正确。我们内部开发的系统叫做 Automated Foundation Model Design，AFMD。这是一个将硬件置于循环中的元学习系统，用进化策略尝试许多不同的算子，优化内存消耗、延迟和速度，同时不牺牲质量。说到质量，困惑度不是衡量标准——而是实际的下游应用。不只是公开基准，而是 100 个不同的基准，这才是客户真正关心的任务。
Ramin： 为什么我们采用这种方法来设计架构？因为我们想在早期去除所有的人类偏见。即使在美国目前最大的基础模型实验室——Anthropic、OpenAI——也有一小群人，我称之为「架构复仇者联盟」，他们在拍板调整架构的某个部分，因为根据他们的个人经验，这样做开始奏效了。这是所有基础模型实验室都存在的问题。现在递归自我改进正在修复这个问题，因为人们终于意识到，你得把它交给算法——你得做「苦涩教训」的信奉者。
Ramin： 我们有各种卷积算子变体、循环算子、注意力机制——分组查询注意力、原始 Transformer 以及许多变体。我们还引入了 liquid 计算块，比如双门控卷积——将门控作为一种对不同动态系统施加的偏置。这个空间变成了大约 50 到 100 种不同的算子，而你想要构建混合模型。
Ramin： 目标：在不损失精度的前提下最大化计算效率。我们把所有算力投入到这个问题上，在混合结构中运行了从 1000 万参数到 720 亿参数的缩放规律实验。结果发现：我们给算子周围加的所有门控机制都被简化了。如果你想达到最高效的架构形式，这些都必须去掉。从这个大规模搜索中诞生的就是双门控卷积——AFMD 的产物。
Ramin： 在 CPU 计算上，LFM2 的结构是：我们 70%–80% 的网络由双门控卷积构成。它们极度简化，取代了 attention，大幅降低计算复杂度，大幅减少内存占用，最大化速度。而在同等质量水平上，这些模型与基于 Transformer 的替代方案极具竞争力。
Nathan： 门控机制这个概念似乎一次又一次地被采用。我的粗略理解是：我们希望对数据进行的变换是输入依赖的。仅仅学习一个变换是不够的；我们还想要一个相对低维的门控，它说：对于这个已学到的变换，给定当前输入，下面是我们如何修改它。这似乎解锁了巨大的能力。帮我理解为什么这是一个如此强大且反复出现的主题。
Ramin： 这是 liquid 结构——进入 Mamba 的那个输入依赖性。在 Mamba 出现前一年半，我们发布了一篇名为 Liquid-S4 的论文。我们第一次引入了输入依赖的 SSM。想法是：把我们发现与表征学习、学习容量密切相关的基本构建块带过来，把这种门控形式引入 SSM 和卷积。
Ramin： 门控的重要性不仅仅体现在前向传播中。所有的魔法都发生在反向传播中。当你反向计算梯度时，输入依赖的算子会展现自身——当你从你看到的数据中学习时，你也在学习某种动态，输入依赖的动态。模型不只是学习权重，还学习了那些动态的表征。
Ramin： 这种门控机制也改善了语言建模，尤其是对于 RNN 和 SSM 等序列模型。对于像语言这样的离散序列，门控带来的顺序动态也大有裨益。输入依赖性是我们做出的基本发现之一——它来自生物学，来自物理学，当你把数学拼在一起时你会意识到：哦，这个动态系统的特殊之处就是这种非线性的输入依赖性。
Ramin： 在规模上，当你有 100 万亿参数的神经网络时，矩阵乘法足以达到 AGI 吗？大问号。但我们也需要把架构讨论放在正确视角下。真正的进步将来自新的学习范式、新的目标函数。架构最重要的应用一直是效率——在不损失质量的前提下获得高效的计算形式。随着模型越来越大，需求指数增长，这对资源分配问题至关重要。
Ramin： 如果你想要能实现下一代智能的架构——像人脑一样用 20 瓦就能完成计算并且已经是 AGI 的系统——这超越了架构本身。它涉及内存研究、学习算法、数据表示、先验研究、学习理论。我们现在构建的是平均机器。也许多智能体正在成为解决方案，测试时扩展（test-time scaling）也在成为解决方案。但需要的创新不只在架构上，而是在数据、模型和学习算法上共同推进。
Nathan： 所以你的观点是：随着我们进入递归自我改进时代，真正的进步将更多地来自新的学习范式和目标函数，然后这些进步将通过架构优化来变得高效？
Ramin： 这只是其中一个组成部分。从数据轴、架构轴和学习算法轴来看。然后我们进入递归自我改进，这有点像持续学习的特性。你不能孤立地把架构看作改变一切的根本性事物。
Nathan： 在 LFM 中——这个架构搜索的结果——令人惊讶地简单：一些减少了但仍然关键的 attention 层，其他层实际上非常简单，只要它们有一些门控。70% 双门控卷积，30% attention。这样理解对吗？
Ramin： 你触及了关键点。这取决于你所在的机制以及你系统的目标。如果你在尝试构建超级智能，你需要最无偏的算法。Attention 是一种极其丰富的无偏形式。即使计算复杂度是 N 的平方，也许我们真的需要 N 的平方来达到那个水平。我们的发现只是表明架构上有一个梯度：对于较小和专用的模型，可以加入任意多的偏置。随着模型变大，使其更无结构。如果你愿意牺牲一点质量换取速度，线性化可以让你获得很好的性能。
Nathan： 有哪些有趣的例子，在资源约束和领域狭窄的情况下，其他类型的偏置在架构搜索中胜出？
Ramin： 例如，生物学中的 DNA 数据——词汇量非常有限，但序列长度可以达到 10 亿到 1000 亿个元素。对于如此长的上下文和有限词汇量，你不需要 attention。纯卷积、纯 SSM、纯 liquid neural networks、线性 attention——在那种规模上你无法使用 attention，因为二次方的计算代价会爆发。
Ramin： 对于视频建模，可能需要扩散（diffusion）元素。对于纯音频——语音到语音、信号到信号——循环神经网络仍然非常强大，尤其是在数据量少的情况下。在较小规模、数据不多的情况下，具有更多偏置的模型可以带来很大价值。架构越接近你所要解决的数据集的动态，你构建的学习系统就越好。
Ramin： 物理信息神经网络（physics-informed neural networks）非常适合物理模拟、数字孪生、化学反应。对于有微秒级延迟要求的机器人，你需要最简单的系统。这些是原始 liquid neural networks 仍在许多应用中被使用的地方——原始开源库仍然活跃，人们在顺序、物理或传感器数据上构建预测模型。
Nathan： 那我们来谈谈商业化。你提到了 Shopify 和梅赛德斯-奔驰。今天的商业部署是什么样的？
Ramin： Liquid 所开拓的类别——我们称之为「设备基础模型」：任何处理器位于数据中心之外的地方。在数据中心内部，我们应用于受约束的用例——超低延迟、极长序列、非常小的内存占用、高成本效率的实现。
Ramin： 在 Shopify，我们在探索推荐、搜索、产品目录理解和多模态系统等多种应用。我们的模型在 Shopify 已投入生产，提升了点击率。
Ramin： 在数据中心之外——我们的模型进入了汽车内部。我们与梅赛德斯-奔驰签署了一份历史性合同，我们的模型将为汽车内部的音频和视觉元素提供动力。无论你想与汽车交谈什么，新的选择都将来自 Liquid Foundation Model——用一个 600 兆字节的模型来控制这一切，能够装进汽车内最小的处理器里。
Ramin： 移动设备——我们谈的是数十亿台设备。移动市场是一个 5000 亿美元的市场，和数据中心市场一样大。笔记本、可穿戴设备、机器人、制造、物联网。任何有处理器的地方，Liquid 都可以在上面带来智能。
Nathan： 这个数据值得重复：全球年度智能手机市场约为 5000 亿美元。而全球 AI 数据中心建设规模直到现在才达到这个量级。每年有价值一万亿美元的算力进入世界——在人们的桌上和口袋里——却几乎没有任何智能在上面运行。
Ramin： 而且我们必须这样做。我们没有足够的能源来承载所有的智能。我们必须聪明地使用。不是所有用例都需要最复杂的模型——对于预测任务或数据提取任务，你不需要调用最大的智能。你可以有各种智能系统做不同的事情，而对于最复杂的问题，你才去用云端。
Nathan： 这一万亿美元分布式算力的一个挑战显然是极度异构。你们有多少工作是关于接近最优利用这些算力的？在进行架构搜索之前，你们是否必须先构建内核级优化？
Ramin： 内核设计已经达到了我们可以开始自动化的水平。你可以有循环，从中挤出最好的后期优化。有训练前的优化——架构搜索加上硬件在环——以及之后的后期优化：量化、改变位宽、内核级工作。我们内部具备在内核级别定义算子的能力。原则上，整个内核优化过程可以成为那个大型搜索空间的一部分。
Nathan： 你认为硬件厂商应该做什么不同的事情？
Ramin： 硬件提供商需要构建的抽象层次在不断提升。CUDA 模式——现在已经有 agent 在内核级别可以自动化那个技术栈。硬件公司应该致力于的是智能层。看看 Nvidia 在用 Nemotron 项目做什么——在 Nvidia 的算力上构建一个智能层，这样企业购买 Nvidia 解决方案的门槛就最低了。
Ramin： 如果你想创造差异化价值并取得成功，你必须能够把技术栈提升到智能层。那个智能层应该自然地适配你的硬件之上。通过软件优化技术，你可以给自己带来优势。例如：在英特尔 AIPC、AMD 电脑和高通电脑之间，拥有高效智能层的公司将会胜出，即使他们的带宽稍低一些。
Ramin： Nvidia 现在正在进入 CPU 领域。Google 正在用 Android 笔记本电脑取代 Chromebook——他们正在推出 Android 笔记本。Meta 也将推出设备。所有处理器制造商都需要更靠近智能层，并尝试将软件和效率考量纳入他们的规划。
Ramin： 因为 AI 是所有应用都想在硅上运行的东西。你想构建解决问题的应用程序。如果你有一个非常好的支持智能的技术栈，那个市场就可以在芯片上被激活。数据中心之外的硅公司：资源是受限的，你没有太多功率。你需要仔细考虑什么样的应用是你硬件平台最重要的用途。
Ramin： 我坚信眼镜将来可能是一种硬件计算形式。我认为眼镜会是一个非常有趣的媒介，最终会有人把它做对。它实际上可能会替代笔记本电脑。如果你想定义一个市场，定义该领域从硬件角度的走向——你必须大幅提升你的软件能力，并在基础模型研发上投入更多，因为那是新的软件基础。
Nathan： 这是否意味着一个未来，垂直整合程度更高——我购买的硬件自带模型，它们高度相互优化，不那么容易互换？
Ramin： 你为什么要更换模型？你被给予了一个默认选项。如果这个智能层不是固定的——它是一个可适应的、自我改进的系统——你可以拥有一个做全量微调的平台。不只是一个模型，不只是一个云端模型或一个设备端模型，而是在许多不同模型实例之间编排来构建应用程序。坐落在笔记本硬件上的模型类——如果默认选项给你提供效率而且开箱即用，那就是那个选择。
Nathan： 好，最后几分钟——一个实际应用。你有一篇关于在消费级硬件上用 LFM2 24B A2B 运行本地、无云、无等待工具调用 agent 的博客文章。我有过去五年数字输出的深度上下文数据库——邮件、Slack、推文、视频会议、播客转录稿。我想先通过本地模型过滤数据，这样我就不必把所有数据都发到云端。我也想省 token。我如何在本地计算机上获得真正好的性能？我需要微调、蒸馏吗？能达到多接近前沿模型的水平？
Ramin： 本地协作应用——它是为了打开人们对这类应用所能实现的可能性的思路。一台本地计算机，你有一个编排器：如果某事很复杂，它把它发到云端；如果它是敏感的，更小的 PII 模型在发送到云端之前过滤掉个人身份信息。路由器——编排器——就是那台计算机，本地计算机。你应该只有这个：当你打开笔记本电脑时，它就是一个做各种工作的助手。
Ramin： 开箱即用的 240 亿参数模型现在能在质量上满足所有这些需求吗？不能。今天没有任何本地模型能做到。你必须针对你的具体用例对它们进行微调。Liquid 将推出一个平台，让客户能够以自助方式针对自己的用例微调小模型。
Ramin： 智能层不应该是固定的。它是一个自我改进的系统，可以访问你的数据集。你可以拥有一个做全量微调的平台。不只是一个模型，不只是一个云端模型或一个设备端模型，而是在许多不同实例之间编排来构建应用程序。这就是会坐落在硬件之上的模型类。如果它运行得极快且已经优化好了，你为什么需要更换它？
[访谈结束]
本逐句全文翻译基于 YouTube 完整自动生成字幕（video ID: Vvad9lpEy8Q），经对照官方单集页 show notes 及章节信息校正关键专有名词。赞助商广告段落已略去，不影响内容完整性。1
Comentar
Inicia sesión para comentar.