科学能不能自动化，先看它能不能打分

约翰·普拉特拿过奥斯卡、发现过两颗小行星，他写的算法就在你的 sklearn 里。他现在的题目，是把科学里能被写成分数的部分交给 AI。1234

按官方 21 段时间点顺序整理。1 时间码为官方视频口径（2:01:26）。本期是 Latent Space 新设的「AI for Science」分档，主持为 RJ Honicky（MiraOmics 联合创始人兼 CTO）与 Brandon Anderson（Atomic AI 机器学习科学家）。4

官方视频开头是一段节选：布兰登问「引入明确先验」和预测性 / 描述性模型的区别，约翰用牛顿和苹果举例作答，并指出这两类模型的界线其实模糊，因为科学家会带着一堆关于世界的硬事实，去约束自己的模型。

正片从 1:17 开始。约翰·普拉特是 Google Fellow、Google Research 应用科学（Applied Science）负责人。他 14 岁上大学、18 岁在加州理工开始读博士，联合导师是约翰·霍普菲尔德（2024 年诺贝尔物理学奖）。他做出过两个教科书级算法：Platt scaling（把模型输出校准成概率）与 SMO（序列最小优化，训练 SVM 的教科书算法，今天仍在 sklearn 里）。他还发现并命名了两颗小行星，2006 年因计算机图形学工作获得奥斯卡技术奖（皮克斯电影里的物理模拟器是他的工作的后代），埃尔德什–贝肯数为 6。此前他是微软研究院 Redmond 实验室副主任、Synaptics 研究总监。2

同上；这一段主要补出他自嘲的「吉咖极客」、iPod 相关专利，以及他在 Google 做过的聚变、量子计算、气候建模等方向。

Google 做 AI for science 已超过十年。十年前是构建针对具体问题的专门模型（卷积网络等）；两年前转向通用大语言模型，并撞上了一个映射：很多科学问题可以写成「我想要一段代码，把某个分数最大化」，也就是可打分任务（scorable task）。机器学习本身就是可打分任务的一个子集。非统计的例子：应用数学里的渐近展开，可以变成经验任务——让系统提出渐近正确的解，再检验它在 ε=1e-4 时是否成立，同时让 Gemini 做数学推理。

官方口径（Google Research 博客与 Nature 论文）：ERA 的输入是可打分任务（问题描述 + 评分指标 + 训练/验证/评估数据），可附带外部文献的想法或方法偏好的指令；系统用 Gemini 生成研究想法、写成可执行代码，并用带有上置信界（UCB，灵感来自 AlphaZero）的树搜索在成千上万个代码变体里搜索，把探索时间从数月压到数小时到数天。它在六个跨学科基准上达到专家级：基因组学、公共卫生、地理空间分析、神经科学、时间序列预测、数值分析。35

候选池是树状结构，每次迭代通过 UCB 选择要变异哪个 notebook。UCB 是乐观算法：它估计某次变异的第 95 百分位结果，挑上界最高的那个，所以不总是选表现最好的，有时会选第五好的。并行度默认 10：并行太多就无法交叉学习（1 号看不到 2 到 10 号在干什么），但整棵树共用一个上下文，历史会被剪枝后共享。它还能重组：从两个候选里各取想法，合成第三个。种子来自 Gemini 自己——给它问题描述与几篇相关论文，它会读论文并写出第一版代码。官方博客里同样的机制表述为：树搜索建出候选代码树，LLM 重写代码以提高质量分数；3 候选解树可在官方交互站上看。6

容易出错的地方是打分函数：迭代经常会找到作弊或钻空子的办法，所以要反复「不不，我不是这个意思」，或者把禁止项写进指令。旧日子（2024 年）里，研究生光是写科研软件就要耗尽精力，所以只会试几个想法；ERA 不知疲倦，把人推到了科学创造力的层级——「拥有一个代价函数到底意味着什么」几乎就是科学问题的本质。它还会主动建议可 join 的数据集。

关于 reward hacking，约翰一时举不出具体例子，但强调这类系统的「精灵」感，以及为什么 70 年代以来的进化式编程一直没起飞：代码空间里的随机变异基本没有价值，而这里的底层循环是有世界知识的 AI，知道往哪些梯度试。Gemini 2.0 时代这件事基本不可能；2.5 开始 work，现在「非常惊人」。他还提到把 ERA 与 anti-gravity 组合的预印本（尚未公开）。

预测性模型只求在某个数据集上错误率最低，是统计模型；描述性模型才是科学的目标——它装着对现实的描述，因此可以外推。牛顿不是拟合苹果，引力不是关于苹果的。区别在于：科学家会带着一堆硬事实，约束模型与已知一致。目前 ERA 的「物理」其实是语言模型的直觉——它的世界知识来自预训练，你给它论文与约束，它就往那个方向长。它擅长把论文里的方法迁移过来，甚至能反向复现论文（屋顶太阳能设计那个例子：它大概直接复现了论文代码，没装模拟器）。

结论：给它已知的有趣约束，它会演进；但它不会从零发现全新的物理模型。所以人还有位置——co-scientist 之类能帮你生成假设（约翰用它做过一个地球化学问题，学到岩浆里一种他原本不知道的离子），但替代不了人的创造力。对「指数还是 S 曲线」的问题，约翰说他相信「锯齿状前沿」：编码、搜集知识、找相关内容这些方向上有大的尖峰，严谨、哲学与创造力方向还差得远。

多重假设检验针对的是描述性模型：你扔出十亿支飞镖，必须小心错误发现率。ERA 找到的是描述性模型还是预测性模型？根本上要靠科学家判定。目前还没有系统能发现全新的物理或科学，但这是一把强力工具——「它能割掉你的手指」，你必须更小心、更严谨，留出连自己都不看的隐蔽留出集。

项目起源是「auto-Kaggle 问题」（Kaggle 属于 Google）。Kaggle 里过拟合泛滥：官方的凝结尾迹比赛里，参赛者发现标签里有半个像素的误差并加以利用——原点在像素左下角还是中心，做人工数据旋转时必须考虑这个偏移。这又回到古德哈特定律：任何变成目标的指标，就不再是好指标；它对每一个排行榜单独适用。

CDC 的比赛（提前一周预测美国各州与属地的 COVID / 流感数字）ERA 表现极好——官方口径是：ERA 生成了 14 个超过 CDC 集合模型与所有单个模型的 COVID-19 住院预测模型。3 在另一些比赛里 ERA 差一点，因为没有人去把最后 0.001 刮下来。外层循环是人：像带一个极其热切、不睡觉的研究生，跑几小时回来给人看，人再给方向。预算方面，打分函数本身可能就要跑模拟，算力花销会真实发生。

凝结尾迹（contrails，不是阴谋论里的 chemtrails）据估计贡献了约 1% 的人为全球变暖。物理上有两种相反作用：白天反光降温；但地球在约 300 K 发出的远红外（约 10 微米）上，尾迹反照率极低、几乎全黑，会把逸出的红外反射回来，像毯子一样保温，因为 24 小时都在发生，总体上增温。由尾迹形成的卷云在某些地区（如欧洲）能覆盖天空中百分之几；局部强迫可达每平方米 1 瓦左右，而全球平均的人为变暖约每平方米 3 瓦。

形成条件是大气中的冰过饱和区域：像冰糖那样，一点点晶种就把水汽结晶出来；在这样的区域里，每 1 克排出的水/冰/烟灰大约带出 10 公斤水，结晶比高达 10,000 比 1。干预很便宜：只要下降大约两个飞行高度层绕开。做法是：用卫星持续监测尾迹、用自定义模型（卷积网络 / UNET 一类，因为天气模型不够准）预测这些区域，再把地图交给飞行计划软件。官方已完成的航班级随机对照试验显示干预可行，处理组观测到的尾迹比对照组少 63.6%（p=0.0316）。78

真正难的是反事实问题：你想知道这条尾迹造成了多少变暖，但「没有它」的宇宙你进不去，于是要做反事实模型。两个半边里，向外长波辐射有可用模型，反射阳光那一半卡了整整两年——连他们自己造的人工数据测试都过不了。ERA 找到了一个很简单的模型，只是带上几个他们没试过的混杂因素组合，就把问题解开了。向外长波辐射那篇已成文，另一篇尚未投稿，但在 EGU 上讲过。9

碳通量的误差棒很大：生物圈会吸收一部分，但只算「吸收多少」这件事，误差就有 300 ppm，而当前大气浓度也就 440–450 ppm。官方口径的 CO2 工作是另一个方向：用 GOES-East 每 10 分钟一张的 16 个波段去估计柱平均 CO2（XCO2），训练用 2017–2020 年与 OCO-2/OCO-3 的配准观测，验证用 2021 年数据，能捕捉月度纬度梯度并与地基 TCCON 大致吻合。10

天气与气候常被混为一谈，底层是同一套物理。天气约到 15 天为止，因为大气是混沌的（蝴蝶效应）：蝴蝶扇一下翅膀，两三周后的天气完全不同。天气预测的是大气的实际轨迹，这里已经出现台阶式跃迁——不是大语言模型，而是 2018 那代机器学习加上大量数据与算力；成果之一是对热带气旋路径的提前多天预测变准（有些经典模型没预测出那场重创牙买加的飓风，强度增强由海面温度驱动，而飓风本质上是热机）。

气候要难得多：它不预测某一时某地的雨，而是要平均量与统计。它的难在于非平稳——底层物理、植物、冰的行为都在变；而且我们是要改它。洛伦兹的吸引子图景：天气是「你在吸引子的哪个位置」，气候是「吸引子本身的统计」，而我们在改变吸引子，临界点极难预测。更麻烦的是，跑模拟器时你分不清失稳是模型不好还是真的物理失稳。气候还是低数据问题：一个地点运气好也就 50 个数据点，还要外推 60 年。因此人们用「过程模型」把气候拆成一千块，每块找一位拟合过曲线的专家——比如冰在云里的微物理（尾迹能活多久取决于冰晶形状，而形状未知）。约翰的希望是「明天的 ERA」：它能读的论文比人多，可以把人类仔细评估过的知识整合起来，并且这种整合是还原论的、可理解的，而生物学和气候这类问题恰恰要求答案是那个形状。

什么时候数据驱动够用？约翰把它归结为天气与气候的区别：处在数据丰富的状态（天气、蛋白质，因为有 PDB），统计模型就行——AlphaFold 就是这一类，他们还穷尽地在整个 PDB 上跑了一遍并发布。但气候是开放的、非平稳的，要做大外推，就得谨慎得多（他提到方舟研究所的虚拟细胞挑战赛出现了过拟合的疑云）。

对简单基线的建议很直白：「永远先拟合线性回归，就做，就做」——或者 SVM，那其实是另一种形式的线性回归。生物学里很多问题即便数据很多，也对简单基线之外的方法极其顽固。

关于可解释性：ERA 这类「找到要组装的零件、每个零件单独都能理解」的还原论图景更值得信任；一个巨大的黑箱说「细胞是这样运作的」，你没法检查它。反过来说，如果它真的 work 得非常好，你也还得测——而且统计模型必须外推到极端与黑天鹅，所以像自动驾驶这样全是边角情况的问题才那么难。AlphaFold 迫使人们重新评估「什么是科学」：以前以为只要找到对的力场与计算引擎就能解决蛋白质折叠，现在数据驱动的方式打开了工具性的可能，但往往不给出物理学家期望的那种直觉。「所有模型都是错的，但有些是有用的」——约翰确认这是 Box 说的。

顺带一段：Google 的「十条蓝色链接」在我们有语言模型之前就是一种 AI，网上总有人写过，所以匹配得上就很有用；约翰说这也是他当年想去 Google 的原因之一。

气候变化像一种严重的病：症状（适应）与病根（减排）都要治，所以 Google 在气候韧性上有很大投入——天气、气旋预测、野火都属于这条线。

干预里约翰最兴奋的是聚变。尾迹之所以难得，是因为干预成本低、效应局部（不像 CO2），而且增温是恒定、全球性的，降温只在太阳角度合适时发生，所以「确定在降温」的尾迹极少（只出现在极地夏季），没人能靠它恶意加温。

可再生能源与电池在非移动源上已经无争议地胜出，但飞机没有解。即使全部电气化（用电量会涨五倍），可再生能源加电池要把最后 10%–20% 也榨出来会越来越贵，所以需要基荷电源——聚变可能就是这个位置。约翰的判断是聚变「还有三年，不是三十年」，其中有确定的概率在本十年结束前出现商业上相关的聚变；两条关键路径是材料科学与更好的控制系统，Google DeepMind 在做托卡马克的控制、避免破裂——一次破裂能让装置停机两周（他在 TAE 的控制室见过）。

等离子体约束不止托卡马克一种。TAE 用场反位形（FRC）：内外磁场方向相反、由分界面隔开，理论上在 MHD 假设下不稳定、实践上稳定，甚至可以撞墙而不失稳。所有聚变都归结到Lawson 判据：密度、温度与约束时间（能量衰减到 1/e 所需时间的倒数）三者的乘积要超过某个常数。因为是三数乘积，每条路线都有一个阿喀琉斯之踵；所以那些只讲一个数字的、令人喘不过气的聚变新闻要谨慎看待。另有一个投机性的巧思：把水银注入聚变堆，用中子通量嬗变成黄金再卖掉——「它可能 work 不了」。氢之外，约翰还担心氦的短缺（稀释制冷机要用氦-3，而美国的氦战略储备已经关停）。

野火的关键是发现得早：一间屋子大小的火很容易扑灭，到了一英亩就难得多，而它可以从屋子大小指数级地长到一英亩。中波红外对应火的温度，火会非常突出。FireSat 的设计是低轨卫星星座（约 50–80 颗），能在全球任何地方发现边长约 5 米的火，80 颗左右可以在 15–20 分钟内发现并介入。传感器需要制冷，原生分辨率约 50×50 米，靠多光谱超分辨率与 AI 把有效分辨率推到 5×5 米，而且是一台复杂的「扫帚式」传感器，地球同步轨道上那种庞然大物的做法在这里不适用。

落地：与「地球之火联盟」（Earth Fire Alliance）合作，与 Muon Space 一起做出了原型星并已发射；野火边界检测的结果通过 Android 手机与搜索分发；与美国林务局合作更新火势蔓延模型（原本是 1970 年代 Rothermel 的过程模型），并做了一个跑得极快的神经网络代理模型。世界卫生组织估计每年有 30 万例超额死亡来自野火烟雾。

过去 12–18 个月发生了一次相变：从为单个问题构建专门模型，转向通用工具，整个 AI for science 社区还在摸索。给年轻科学家的建议：深度领域专长 + 玩所有可用的工具，两件事都要做。他自己的例子是 21 岁的儿子：一边试图成为 RNA 的领域专家，一边用 vibe coding。

实体实验不会消失，它是地面的真相，也是瓶颈；人们在谈「实验室在环」，但没有能什么都做的通用实验室。关于「拿头撞问题」的价值，他的比喻是开车上山与徒步上山：偶尔徒步是可以的，甚至是有趣的；80 年代他得自己写数值库、自己写机器学习，光是 boosting 就用四种语言重写了四次，所以他现在真的懂 boosting。这像运动员：有实战的时候，也有训练的时候。

他非常努力保护组里的「20% 时间」：想学东西、想试东西，甚至不用告诉他。世界上有一种强大的冲动要把一切优化、榨干，但超级优化会失去一些东西——你会过拟合到「生产力」。至于「我们是不是都成了中层管理者」，他的回答是不能当空壳：不能完全信任模型（它们犯的错跟人不一样），必须严谨、去戳它；但你自己写的软件也要戳——你不该信任你自己。

1982 年他上了费曼「计算的物理」课，同开课的还有霍普菲尔德与卡弗·米德，DARPA 资助。课程结构是周二客座讲、周四费曼站起来解释为什么那些全错。他还讲了「费曼效应」：当场觉得全懂，走出教室才发现并没有。当时的算力是：他做卡弗·米德的系统管理员，VAX 11/750 大约 1 MIPS，全组共用一台 80 兆字节、洗碗机大小的磁盘。当时没有量子门的模型，量子复杂度类也还没成形（他记得尼尔森与庄的那本教科书要到 90 年代末、2000 年代初）。

80 年代早期围绕霍普菲尔德网络有一大波兴奋，而当时没人知道自己在干什么。NeurIPS 的来源是 Snowbird 一个名义上私人的 workshop 被所有人挤爆，于是他们创办了 NeurIPS；再往前是 1985 年的圣塔芭芭拉 workshop 与加州理工的「Hopfests」。Transformer 其实就是联想记忆——甚至有一篇论文叫《Hopfield Networks Are All You Need》。

算法与硬件共同演化：神经网络是算力受限的东西（有 Transformer 之后又变成内存受限），而它踩在 BLAS 上，BLAS 被 GPU 优化。他讲了英伟达那次转向：他研究生时的朋友 Brian Catanzaro 和黄仁勋谈了一次大约 15 分钟的会，说服公司押注 CUDA 与深度学习，第二天公司就转了向。GPU 真正超过 CPU、与 ImageNet 起飞不是巧合。

1985 年前后的发现流程：去帕洛玛，把胶片放进快望远镜，拍一张、等几分钟、对同一天区再拍一张；回到加州理工把两张胶片放进立体镜，看有没有东西「浮」起来（因为它移动了一点点，两只眼睛看到的位置不同）；再用测量显微镜测出相对参考星的位置，寄给亚利桑那小行星中心的布莱恩·马斯登，由他的软件把各次出现（apparition）拼成轨道——如果你恰好观测到最后一次出现，就获得发现权与命名权。

今天这是自动化的：智利的薇拉·鲁宾天文台（西蒙尼巡天望远镜）在早期数据里发现了 11,000 多颗新小行星。11 约翰还讲了掩星法：小行星从恒星前经过会让亮度下降，如果运气好会降两次，因为旁边有卫星——一位业余爱好者就在他的一颗小行星旁找到了卫星。他自己那两颗里有一颗用他父亲命名；他用母亲命名的那颗（当时是卡罗琳·舒梅克转赠的一颗）有卫星：主星直径约 4 公里，卫星约 1 公里。

1986 年他在 Schlumberger（石油公司，但设有 AI 实验室）做学生实习，做计算机图形学研究。他提出用弹性理论做软的东西，写了弹性模拟器，做出布料与可拉伸物体。这条线索的后代成了皮克斯等电影里大量使用的物理模拟器。从这项工作到 2006 年拿到奥斯卡技术奖，中间隔了 20 年——这不反常：奖项要等到技术被广泛使用。官方的表述是：他 2006 年因计算机图形学工作获得奥斯卡技术奖。2

现在是 NISQ 时代（中等规模含噪量子，这个词是 John Preskill 造的）。约翰是「量子回声」（quantum echoes）算法的共同作者之一，它属于费曼提议的那一类：把带参数的物理模型用量子计算机去调参，例如解码 NMR 参数——这是现在就能用的东西。Google 量子团队一直按 Neven 几年前画的路线图推进；Willow 的表面码逻辑量子比特结果属于官方已发表的成果。12 超导会不会赢还是未知数，仍有吸引力，因为它可扩展。物理比特对逻辑比特的比例仍然很高，二维连接带来张力（想要干净谐振器就要与环境解耦，想要强相互作用又要耦合）。约翰的判断：不是 30 年，也不是明天；这些本质上是模拟计算机，非常娇气，不要指望突然相变。他还提到达夫·贝肯常拿他开玩笑：他总「领先 20 年」——量子、聚变都是他十年前就开始做的。

「卷积网络」这个词是他造的：因为当时所有人把那个具体的东西叫 LeNet，而他不为 Yann 工作，就叫它卷积网络。带走的话是：他对 AI for science 的潜力无比兴奋，它会成为科学家手中了不起的强力工具；科学家不会被取代，反而会把时间都花在创造性的、严谨的、哲学的部分上。被问到「如果能凭魔法解除一个瓶颈」，他的愿望是万能实验室（everything lab）：发一个 JSON blob 过去，它就能做任何实验。这意味着要先解决「AI 完备的机器人问题」；今天 ERA 这类系统全是计算性的，数据还得有人去采。如果能打破这一点，「那会无比美好」。

底稿是官方 YouTube 同名单集视频（video_id 2xBSGluFkG0，2026-09-22T21:07:45Z 上线，2:01:26）的完整英文字幕；专有名词、数字与节目议程用官方单集页、官方 RSS 的 content:encoded 长版 show notes 与 Google Research 官方材料核对后校正。只保留中文译文，不保留英文原文；保留说话人标签，不做压缩、摘要或删减。冷开场（0:00–1:17）是官方视频的节选，内容是后文 21:00 前后那一段，按原样译出。说话人标签以节目自述为准：开场介绍由布兰登念出（他说「我的搭档 R.J.」），此后两位主持人的快问快答无法逐轮区分，凡不能由内容确定归属的主持人发言一律标「主持人」。

主持人：你说的是引入一些明确的先验——基于你知道的人类直觉，或者在这个例子里，是语言模型的直觉？

约翰：当你说到多重假设检验的时候——对吧，这里有预测性模型，也有描述性模型。预测性模型是：假设你有一些输入、有一些输出，我只想写一段代码，让它在某个数据集上的错误率尽可能低，这就是一个统计模型。描述性模型才是科学真正想达到的东西：它应该能外推，因为它里面装着某种物理，或者说装着某种对现实的描述，然后你就可以拿它去外推。对，牛顿想的是苹果和引力，但引力其实不是关于苹果的。如果你拿一个 17 世纪的机器学习模型，它会告诉你「苹果会掉下来」，那行星呢？「我不知道啊，我没有关于行星的数据，所以谁知道它们会干出什么来。」

主持人：这两者之间的界线其实有点模糊，因为当一位物理学家或者科学家过来的时候，他们会用自己的直觉，或者甚至比直觉更多的东西——本质上，他们脑袋里有一堆关于世界的、很硬的事实，然后他们会确保自己建出来的模型跟这些已知的东西大致一致。

布兰登：欢迎来到 Latent Space Science。我是布兰登，和我一起的是我的搭档 R.J.。今天非常高兴请到约翰·普拉特和我们在一起。约翰是 Google Fellow，也是 Google Research 应用科学的负责人。他的背景真的很有意思。刚才聊的时候，你形容自己是一个「巨型极客」。

约翰：哦，是「吉咖极客」。

主持人：吉咖极客，吉咖极客。他对所有东西都兴奋，这一点真的很明显。

主持人：如果我哪里说错了你纠正我——你 14 岁上大学，18 岁在加州理工开始读博士，advisor 或者联合 advisor 是约翰·霍普菲尔德，对吧？

约翰：哦，对，对。

主持人：对，对，他两三年前刚拿了诺贝尔奖。

约翰：是的。

主持人：约翰做出过好几个教科书级的算法。一个叫 Platt scaling，另一个叫序列最小优化（SMO），那是训练 SVM 的教科书算法——就算今天，你在 sklearn 里也还能看到它。约翰还发现并命名了两颗小行星，2006 年拿了一座奥斯卡技术奖。所以如果你看过任何一部皮克斯电影，你其实都看过约翰的算法和工作。约翰的埃尔德什–贝肯数是 6，或者说两边各自 3 加 3。我打算直接跳过你职业生涯里的 20 年（笑），然后跳到 Google——你在 Google 做过聚变、量子计算、气候建模还有很多别的题目，大致是这样吗？

约翰：对，没错。

主持人：好，好。今天的重点我有没有漏掉什么？

约翰：没有。我还做过很多应用数学和信号处理，各种好玩的东西。

主持人：对，对。我记得你维基百科上还有一个关于专利的有趣故事，还有 iPhone。

约翰：是 iPod。

主持人：iPod，对，对。

约翰：是的。欢迎。

约翰：谢谢，谢谢邀请我。

主持人：能不能跟我们讲讲 ERA——我理解这个缩写是这么念的。我知道 Google 内外都有很多半相关的东西，能不能讲讲 ERA 的细节，以及它特别在哪？

约翰：我们做「AI for science」已经做了十多年了。大概十年前，用的还是——我不知道现在你们管它叫什么——也许是经典机器学习模型，卷积网络之类，它们是针对具体科学问题去构建的具体模型。但大概两年前，我们对这几年冒出来的这些更通用的语言模型非常兴奋，我们在想，拿它们能做什么。当然很多人都在玩，都在试图弄清正确的事情是什么。我们算是撞上了这么一个映射：我们发现，很多不同的科学问题，都能被映射成我们称之为「可打分的任务」（scorable task）的东西。你常常可以把一个科学问题表述成：我想要一段代码，它能把某个分数最大化。令人惊讶的是，有多少不同的科学问题，你只要把它们映射进这个框架，就能取得很大进展。

约翰：其中一件事是，很多科学家花大量时间构建模型——可能是统计模型，也可能是基于物理的模型。如果是统计模型，比如机器学习里的模型，你的打分函数就是「我有一个数据集，我希望模型和数据集拟合得越来越好」——过拟合我们一会儿再聊。

主持人：那正好是我们的问题之一（笑）。

约翰：这其实非常有意思，机器学习算是这类可打分任务的一个子集，对吧？但你还可以做别的东西。尤其是 Michael Brenner——他是 ERA 论文的第一作者，他非常厉害，因为他喜欢用一个晚上就把一篇科学论文干掉，现在有了工具更是如此。比如应用数学里有一个东西叫渐近展开：你问一个常微分方程或偏微分方程——就说常微分方程——在某个带 epsilon 的参数下，当 epsilon 趋近于零的时候它表现成什么样。结果你可以把它变成一个经验性任务：让系统提出一些渐近正确的解，然后你去检验这个渐近解在 epsilon 等于 1e-4 之类的时候是不是对的，再检验那个拟合。然后你再让 Gemini——底下那个核心 AI——去做数学推理，一边解问题，一边最大化对数据的拟合。

约翰：所以其实有很多技巧可以做，因为底下那个改写代码、做决定的东西不是随机过程。它本身就是 AI，它很聪明，它知道很多事情，它对世界知道很多。你能解决很多有意思的问题，就是因为那个内循环是拥有巨量先验知识的 AI。这就是诀窍所在。所以我们一直在到处跑，试图把大量科学问题映射成可打分的任务并解决它们，这真的挺好玩，我很乐意聊聊至少我参与过的那些。

主持人：我很想听一些更——统计类的那是每个听众大概都知道的，你刚说的也讲得通。还有哪些有意思的？

约翰：让我想想，不是统计类的。我们有一些很有意思的，比如我们刚放到 arXiv 上的——其实我觉得可能是在 GitHub 上。你在遥感里经常碰到这种事，因为永远有权衡：天上飞着卫星，它们在「多频繁地重访地球上的某个点」「空间分辨率有多高、像素有多大」「光谱分辨率有多高、有多少个波段」之间永远要权衡。理想情况下你想要持续的地球监测：每五分钟一帧、高光谱分辨率、10 厘米级。你拿不到这种东西。但比如要监测大气里的二氧化碳浓度，你可以用一个卫星的数据——比如 OCO-2 或者 OCO-3，OCO-3 其实挂在国际空间站上——它能给你一小条精度很高、分辨率也相当高的二氧化碳测量。而红外波段里，像 GOES 这样的气象卫星有一些红外通道，基本每五分钟拍一张，但像素非常大，光谱分辨率也没那么好，因为它本来就不是为找二氧化碳设计的。

约翰：所以你就让一个去估计另一个，再把别的数据铲进去——现在的天气怎么样、长期的反射率大概是多少——于是你就得到一个非常好的模型，几乎像是做「有信息的超分辨率」，从一个卫星的数据推算到另一个卫星。这就是一个例子。

主持人：好。所以任何能映射进这个框架的科学问题都行。输入是问题，输出是代码，是这个意思吗？

约翰：差不多。按我们在产品里的做法，输入就是你开始跟它说话。因为很多时候这个映射并不显然，虽然像 Michael Brenner 这样的专家知道怎么做。所以我们其实写了一个 agent，它会跟你对话，帮你把你那个可打分任务定义清楚。所以已经有一个 Gemini 的实例坐在那里，帮你把代码写出来。这几乎像是一个中间结果：你跟它讲你的问题，它试着生成一个 Python notebook，里面带一个打分函数、能产出分数，然后它开始用聪明的方式去变异那个 notebook——因为那毕竟是 Gemini——不断提出试图最大化分数的代码。

主持人：那它跟一个普通的、能优化 notebook 的通用 agent 系统有什么不同？

约翰：现在它是一个——按 2026 年的说法——它其实是一个专门的 harness，跑一个算法，ERA 里跑的是蒙特卡洛树搜索。它保存着成百上千个可能的 notebook 实例，然后选一个出来，决定「我能怎么改」，Gemini 会问自己「我要怎么做才能让这个 notebook 变得更好」，然后生成一个新的、测试、再放回候选池。你可以想象这个候选池其实是树状的，因为每个候选可能有子节点。你挑选的依据是强化学习里一个相当标准的算法，叫上置信界（UCB）。它本质上是乐观算法：它去估计某次变异的第 95 百分位结果，然后挑上界最高的那个。换句话说，它并不总是挑表现最好的 notebook，它在预测「当前表现加上两倍标准差」，它会到处试探。 主持人：所以本质上是高召回（high recall）。

约翰：是高召回。它想让自己的下注最高效地推进进展，所以并不总是贪婪地选最好的候选，有时候会选第五好的。我们还玩过让它重组：从两个候选里各取一些想法，把它们砸在一起，造出第三个候选。

主持人：初始候选池是怎么播种的？

约翰：奇妙的地方在于，底下的 Gemini 其实很会写代码。你直接让它「给我写个东西」就行，因为你有对问题的文字描述。它不是「喏，这是你的打分函数，开始吧」——你给它一段对函数的文字描述，我们甚至在某些设置里会告诉它「这是五篇别人试图解决这个问题的论文」。它挺聪明的，会真的去读那些论文，然后先写出一版代码。可能不太好，也可能不错；有时候有 bug，直接返回负无穷。但它接下来会去变异这段代码，试着让它变得更好。

主持人：这挺酷的。你不一定要给它起始代码——想给也行，但不给也可以。

主持人：你一次会开多少个 agent？或者说，每一次迭代你展开多少个树的分支？

约翰：每一次迭代——这里有权衡。你想做很多并行工作，但如果并行做得太多，你就没法从之前的东西里学习。所以现在我们的默认值是 10 个并行，也就是一次生长 10 个叶子。

主持人：好。

约翰：这个数字看起来是比较合适的权衡。

RJ：你说「没法从之前的东西里学习」，意思是那个编排层，或者说——你刚才提到有一个步骤能重组、能做出打分之外的决策。我的问题是：人做机器学习项目的时候，并不只看那一个要优化的指标。常常还有正交的指标，甚至有一些直觉性的东西，比如看训练曲线有时会给你关于发生了什么的直觉，或者去看具体的样本。它会做这种内省吗？

约翰：它有历史记录。我说「不能并行做太多事情」，是因为如果你一次开 10 个并行搜索，那么 1 号实际上看不到 2 号到 10 号在干什么。如果你一次开一千个，那你用了巨量算力却没有多少交叉学习。而一旦你完成一小批，你就拿到了历史。当然你得剪枝，不然上下文会爆，但你能拿到它写代码时在想什么的历史，以及代码的结果。所以它能从之前的尝试里学习。

主持人：好。它会跨分支学习吗？

约翰：哦，会。本质上它就是一个共享上下文，它是边想边走的，不是一千条完全独立的分支。

主持人：那你真的是在压榨 Gemini 的长上下文能力。

约翰：没错，而且你得做正确的管理。

布兰登：好，这很酷。回到 R.J. 的问题：这里第一个关键目标是确定你到底要优化哪个分数。我同意，这有时候是问题里最难的部分。所以我觉得有意思的是，我不确定我会总是信任我的 agent 去做这件事——那部分看起来更像是循环里属于人的任务。

约翰：是的，而且你经常得小心。事实上，很多工作是相当 meta 的，我们所做的一切都非常高层。有一件很常见的事是：你、或者 agent、或者你们一起想出打分函数，然后迭代找到了作弊或者钻空子的办法——「不不，我不是那个意思」。于是你得回头去玩一个循环，反复迭代，「不不，我不是这个意思」，或者你得在指令里告诉它「好，不要做这个」。所以经常要迭代好几次，哪怕有 agent 帮忙，你也不一定能第一天就拿到对的打分函数。

约翰：而且这真的很妙：在旧日子里——也就是 2024 年之类——很多研究生要花大量时间做科研软件，光是写代码本身就要付出太多努力，所以你大概只会试几个想法，或者几个高度相关的想法，然后就停下了，因为你得写论文、得做下一个实验。而这个东西在底下是不知疲倦的，它一直试、一直试、一直试。所以用它的人现在几乎把所有时间都花在正确的层级上，几乎是在科学创造力的层级上——「拥有一个代价函数」到底意味着什么？差不多就是科学问题的本质。你不再是深陷在「哦我得导入这个 CSV 文件」「我得把这个数据库跑通」之类的细节里，你现在几乎是在相当哲学地思考你真正的科学问题，而不是在数据库这种脏兮兮的泥潭里打滚。事实上，这个 agent 能做的一件很酷的事，是主动向你推荐数据集——「你有没有想过把这份数据拉进来做个 join？」它会给出你可以拿来 join 的数据集建议，挺酷的。

主持人：回到你刚才说的——agent 很喜欢钻空子、搞 reward hacking。你有没有什么好玩的、有意思的故事，比如事情喜剧性地脱轨？

约翰：天，我一时想不起来。我知道别的人碰到过。我不确定我有没有足够细节去表达那种喜剧感，但它确实会让你吃惊。

主持人：是。

约翰：我不确定我有什么特别具体的。抱歉，我一时短路了。

主持人：没事。我一直喜欢把机器学习想成那种老式的精灵故事——许愿之前要小心（笑）。

约翰：小心你许的愿，因为你会得到它。

主持人：对。

约翰：确实如此，在这件事上尤其如此，所以你得小心。但另一方面，它也有一些知识。好的一面是，Gemini 在很多事情上知道得比任何一个人都多，至少当你给它指向论文的时候——比如「这是五篇用某种方式尝试过这个问题的论文」。所以某种程度上有那种精灵的感觉，但某种程度上它也会做理智的事情。这就是为什么——记得吗——进化式编程这个想法从 70 年代就有了，大家一直很喜欢玩，「我们来变异一下代码」之类的。但它一直没起飞的原因是，代码空间里的随机变异基本没有价值。就像 DNA 一样，大多数变异是有害的。而在这里，它就知道了——底下它其实知道该往哪些有意思的梯度去试，这就是为什么它能 work：那个底层循环本身是 AI。所以是的，它可能会过拟合，可能会有你说的那种好笑的精灵问题，但它也有一些理智，因为它对世界有知识。

主持人：那篇论文做的时候你用的是 Gemini 2.5，而 Gemini 显然进步了很多。你有没有指标——这是一个你在持续使用的工具，听起来你在不断改进它，我很好奇你们内部有没有看到某种类似相变的东西？这两年它的效果提升有多剧烈？

约翰：哦，一两年——非常惊人。换句话说，每个版本、甚至每个半版本——我认为在 Gemini 2.0 下这件事本质上是不可能的（笑）。

主持人：我想也是。换句话说，它根本不会 work。

约翰：对。我们其实试了很久，东西就是不 work，然后开始 work，然后就变得非常惊人。Gemini 主版本的进步简直令人震惊。

主持人：对，对。我想很多人都有这种体验：原本看起来不可能的事情，突然之间变得像魔法一样有用，而且很快。

约翰：所以，如果有人说「哦，我试过 2.0，我不喜欢」——我甚至会对科学家这么说——那已经是一年前了，那是永恒以前的事了。事实上我们甚至有一篇预印本，把 ERA 和 anti-gravity 结合起来。anti-gravity 那整套 harness 也非常惊人，就是你可以在里面拉进大量论文、它替你写大量代码的那个。

主持人：那个是公开可用的吗？还是说——

约翰：anti-gravity 本身当然是公开的。

主持人：哦抱歉，我是说 ERA 加 anti-gravity。

约翰：那个还没有。

主持人：好，还没有，好。

主持人：我觉得这个领域特别迷人，因为就像你说的，从计算机科学诞生之初就存在某种形式的代码变异。最典型的问题大概是过拟合，或者说多重假设检验的问题——我觉得它跟这个问题的匹配度更高一些：你等于在说「我现在假设这个算法 work，现在这是我的假设」。所以你面对的风险是它指数级地爆炸，因为突然之间你有了这些超超参数在优化，你探索的状态空间爆炸了，看起来更容易对一个问题过拟合。你怎么看？ 约翰：因为另一方面，从经验上讲——我自己甚至试过那个开源版 ERA，我把它挂到 Claude 上，现在还在跑，所以我还不能告诉你它效果如何。

主持人：好，我很好奇。

约翰：我会告诉你的。我只是好奇，这个问题一直在我脑子里，关于整个 AI for science：你在一线的实际体验是什么？

约翰：我觉得你的问题里其实嵌着两个问题。因为在讲多重假设检验的时候，这里既有预测性模型，也有描述性模型——看得出来我干了很多年机器学习和统计吧。

主持人：这其实是个很好的点。你介意展开讲讲吗？我不确定所有听众都熟悉这个区分。尤其现在，大家倾向于把两者混在一起。

约翰：如果你是从大语言模型入门的，那个区分对你可能没什么意义。

约翰：对。预测性模型就是：假设你有一些输入、有一些输出，我只想写一段代码，让它在某个数据集上的错误率最低。那就是一个统计模型。描述性模型才是科学想达到的东西：它应该能外推，因为它里面装着物理，或者说装着某种对现实的描述，然后你可以用它去外推。因为——对，牛顿想的是苹果和引力，但引力其实不是关于苹果的。如果他只是做一个拟合，如果他拿一个 17 世纪的机器学习模型，「哦，苹果会掉下来——那行星呢？」「我不知道，我没有关于行星的数据」（笑），「谁知道它们会干什么。」

主持人：那当你说「外推」的时候——我好奇的是，「外推」有几种理解方式。一种是你说的物理模型或者说世界模型：你是在说引入一些明确的先验，基于人类直觉，或者在这个例子里是语言模型的直觉？还是在说，物理本身是被模型学到的？或者说，世界的底层过程就在模型里面？

约翰：更接近——世界的底层过程在模型里面。

约翰：这两者之间的界线有点模糊，因为当一位物理学家或者科学家过来的时候，他们会用自己的直觉，或者甚至比直觉更多的东西：本质上他们脑袋里有一堆关于世界的、很硬的事实，然后他们会确保自己建出来的模型跟已知的东西大致一致。目前在 ERA 里，它基本上就是语言模型的直觉——这就是我刚才说的「底下有一条好的梯度」的意思：尤其是当你把它指向已有的论文时，它会试着构建出底下比较理智的模型。因为如果你给它指引，比如「一定要把这样那样的东西纳入进来」或者「看看这些论文」，你就能得到这些东西。所以你可以引入一种对某些模型选择的偏向；它也会有偏向，因为它自己那点小小的世界知识，是在预训练的时候积累在它内部的。

主持人：能举些例子吗？比如做偏微分方程的时候，人们有一些形式化的东西，像神经算子，或者你可以把微分方程编码进去，我记得那叫物理信息神经网络（PINN）之类，对流体和偏微分方程类的建模系统；又比如对分子系统，经常有等变性（equivariance）这个想法。模型是捡起了文献里发展出来的这些技巧，还是在为某种物理先验加权重？它引入物理知识的时候大概长什么样？

约翰：我不确定我有足够的数据说「73% 的情况下它会这么做」。但尤其当你把它指向已有的论文时，它会非常擅长把论文里描述的方法迁移到这个问题上，事实上会做得非常漂亮。你常常可以直接复现，甚至反向工程出一篇论文——这也是 Michael Brenner 喜欢做的事：他会说「哦，这篇论文听起来有意思」，「哦，这个我们做过了」。

约翰：我们为这个做过一件事，其实有点像是走捷径。是我向 Michael 提议的：有位 MIT 教授写了一段代码，本质上是——如果你有一个面积固定的屋顶，你想最大化一天里捕获的太阳能，你可以让它设计一个装置，涉及镜子、支杆或者太阳能板，以各种角度、大小，通常在高度上限之内，然后让它去探索那个设计空间。我相信 Michael——我们可以问他——我相信它其实没有真的装那个模拟器，我觉得代码只是把论文里的代码复现出来了，因为它内部有一个编码 agent，它就复现了论文的代码，然后把事情都搞明白了。

约翰：所以是的，它非常好，尤其是当你给它指路，告诉它别人做过什么。至于等变建模我没见过它尝试，那东西如果牵扯到克莱布希–戈登系数会非常棘手，挺好玩。所以我不知道它会不会做真正等变的东西，但它确实知道很多。我记得 Gemini 2.5 出来的时候——这不太是 ERA 的事——我记得我当时想「哦，这是一个新世界」。2.5 出来的那天，我说「嘿，Gemini 2.5，能给我写一段提升决策树（boosted decision tree）的代码吗？」它写了。

主持人：而且能用。

约翰：对，直接就能用。我说，这就是新世界。所以回到你的问题：是的，如果你给它某种指引，「把这类东西放进去很重要」，它就会照做。但至少在我们看到的情况里，它不一定会从零发现一种全新的物理模型——如果它不知道克莱布希–戈登系数，那就没辙。可如果你告诉它一些已知的、关于世界的有趣约束，它肯定会演进。不知道这样算不算回答了你的问题。

主持人：所以未来一两年，人类还是有位置的？

约翰：事实上——我觉得人类完全有位置。我们有 co-scientist 这类东西帮你做假设生成，但我还是没看到那种创造力、那种哲学、那种细致的严谨。你完全需要人类，我不觉得人类会消失。它们会提出奇怪的建议：我其实用 co-scientist 做过一个地球化学里挺有意思的问题，我了解到岩浆里有一种我原本不知道会出现的离子。它会告诉你一些有意思的东西，你会学到东西，但我不认为它能替代人类的创造力。

主持人：回到我们刚才说的——你从 Gemini 2.0 到 2.5 已经看到一次跃迁，现在又过了一两年，我们到了 3.5，你说它好用多了。你看一条曲线的时候，如果它看起来像指数，你可能是处在 S 曲线的中间，也可能是在起飞的开端，我猜每条指数最终都会变成 S 曲线。

约翰：每条指数最终都会变成 S 曲线。

主持人：问题是我们现在处在这条曲线的哪里。

约翰：我大概是「锯齿状前沿」的坚定信徒。至少就我看到的，我不知道几年后会发生什么，但确实在锯齿上有一些大的尖峰：编码能力、搜集知识、找相关内容，这些是巨大的、美好的进步，我觉得对科学家来说是好事。相对来说没那么强的是严谨性——我们可以聊国际数学奥林匹克这类事情，数学总体上也是——但在哲学和创造力方面，我觉得还是不太行。也许以后会变，有些人说一切都会被拉平、被追平，但到现在我还是看到大量的、很强的锯齿。所以也许它会在编码上、在拟合模型上、在提建议上变得特别好，但我不知道。到目前为止，你还是需要人类。

约翰：是的，我想回到多重假设检验那个问题。

约翰：抱歉，我太喜欢这个岔题了。多重假设检验是：你有一个描述性模型，你说「世界就是这样运转的」，你有一堆数据，你扔出去十亿支飞镖，所以你必须小心。有一个东西叫错误发现率（false discovery rate）。问题是：它找到的是描述性模型，还是预测性模型？根本上，科学家在场的意义就是确保它说出来的东西是描述性的。我们到目前为止还没能把这些零件拼成一个真能发现全新物理、全新科学的系统——但这是一把强大的工具，帮你发现全新的科学。所以我某种意义上是在把你那个问题重新拆开讲，我觉得这触及了核心。

主持人：是的。但你会说，那纯粹的过拟合呢？好，我们先把它放一边——它并不试图找出世界的描述性模型，那仍然归科学家管。可纯粹的、老式的过拟合呢？

约翰：是的，你必须非常小心，因为它是一把强力工具。

约翰：我不该说它能割掉你的手指，但你懂我意思。你必须非常小心，必须非常严谨。事实上，现在你必须更加小心、更加严谨，才能不骗自己。你真的必须极其小心地保留非常隐蔽的留出集（hold-out set），连你自己都不去看。你必须超级超级严谨，确保你不会——因为它完全是一把强力工具。 主持人：所以「怎么才能不割掉手指」的答案就是：用同样的技术，但非常小心地用。

约翰：对。

主持人：这是一个非常清楚的回答（笑）。

约翰：对。

主持人：我其实不记得有哪位嘉宾这么说过。我觉得这是一项非常重要的技能，也许是新世界里最重要的技能之一。大家经常谈「品味」（taste）。

约翰：对。

主持人：也许这是品味的一种变体。

约翰：品味像是另一端。

主持人：就像严谨（rigor）一样。

约翰：是的。其实如果非要说，品味和严谨哪个更重要？我不知道。至少我现在的看法是：在那些研究者同时也是软件开发者的领域——很多领域都高度重叠——我看到软件工程师们其实有很多焦虑，「天哪我该怎么办，写代码这件事好像正在被自动化」。我觉得两边都有人被拉过去：有人会说「那我就当创造力的源头，我去发现新科学、新产品，我要非常有创造力」，我坚定地相信这部分不会消失；也有人被拉向严谨那一侧——「我要确保它不会崩，我要确保它能扩展，我要确保它没搞错」。我觉得你两者都需要，而且需要真正两者都强的人，但他们不一定是同一批人。是的，我觉得这甚至比科学更宽——随着软件工程本身演进，会有人带来创造力，有人带来严谨，这两者会是锚。还有一件事，我看到外面有一些相关的工作：斯坦福有一个非常酷的排行榜，比如科学问题的 agent 排行榜。不知道你熟不熟悉，我觉得这个想法很有意思：让不同的 agent 在排行榜上竞争。你眯着眼看的话，ERA 在做的事其实也有点像一个排行榜，只是它是内部的，而且它在重组想法。你怎么看？这是你们在做的方向吗？这种做法有什么问题或者好处？

约翰：说来讽刺，整个 ERA 项目其实起源于——可能很多人不知道 Kaggle 本来就是 Google 的一部分。

主持人：哦，对。

约翰：所以当时叫「auto-Kaggle 问题」。也就是说：「我们来造一个能在 Kaggle 比赛里赢的系统」。这就是项目最开始的样子，也是它为什么长成这个形状。而这又回到过拟合，对吧？如果你真的参加过 Kaggle 比赛——

主持人：我参加过 Kaggle，参加过一次。这是个非常有意思的现象，因为过拟合在那里简直泛滥。而且人们能对某些数据集过拟合到什么程度，真的很惊人。

约翰：我们有一个很好玩的项目——如果你愿意我可以多讲讲——是关于减少凝结尾迹（contrails）的。我们办了一场凝结尾迹的比赛，结果人们真的打败了我们。他们发现了我们标签里有一个半像素的误差：问题在于原点在哪里——是像素的左下角还是像素的中心？你知道 0,0 到底在哪？他们发现了这一点并加以利用，榨出额外的成绩。因为你造人工数据再旋转它的时候，必须考虑那半个像素的偏移。所以（笑）是的，人自己也会像这些大语言模型一样，去对这些东西做 reward hacking。

约翰：这就回到古德哈特定律（Goodhart's law）了。这个说法大概是：任何变成目标的指标，就不再是一个好指标了。所以你必须非常非常小心，你必须要有层层叠叠的严谨：好，我们做这个、我们为这个做优化——但你要意识到，古德哈特定律现在开始适用了，你得小心。这也是为什么整个 AI 领域一直在不断耗尽这些东西，因为古德哈特定律对你造的每一个排行榜、单独地适用。所以你真的得退后一步，非常非常小心。我不知道这是不是……不过这对我的思考真的很有用。

主持人：我们请嘉宾来的时候，这是一个反复出现的主题：你怎么管理大语言模型和 AI for science 引入的这一切复杂性。我的追问其实是关于 Kaggle 里的过拟合。你有一个 auto-Kaggle 的问题，那么问题是：给定 auto-Kaggle，它有多经常成功？我猜你大概在你们所有的 Kaggle 比赛上都跑过。

约翰：我们在所谓的「playground」比赛上试过，在 playground 比赛里表现得非常好。我们也参加过不同的比赛。事实证明，最近几年里，排行榜和比赛的数量已经爆炸式增长，远超 Kaggle。有些我们做得非常好：我们特别自豪的一件事是 CDC 设的那个比赛——你要预测美国每个州和属地下一周的 COVID 和流感病例数，提前一周预测。ERA 在那上面做得非常非常好。

主持人：有意思，因为 Google 当年就是用数据追踪疾病传播的鼻祖——Google Flu。所以二十年后你们算是在兜了个圈子。

约翰：那个比赛我们做得很好。另一些比赛里我们没那么好，往往是因为——你有时在比赛里的成绩，衡量的是你付出了多少心血、你愿不愿意把最后那个 0.001 榨出来。ERA 做得不错、离得很近，但我们没有在最后那三十名的区间里挤进去，因为没有人在那里把最后那点东西刮下来。

主持人：它是很迭代式的吗？我看到论文里的图，它发现某个东西的时候会出现一个台阶式的跃变，然后就平了。所以它非常依赖人待在循环里吗——「好，你在这个问题上卡住了，试试这类方法」？

约翰：是的。在外层循环里是的，我觉得那差不多是更有趣、更有创造力的部分。比如「哦，看看这篇论文」，或者「哦，你做的这个不太对」。所以这几乎像是有一个极其热切的研究生，而且他不睡觉，你把事情告诉他，你带着他绕。

主持人：人多久介入一次？外层循环长什么样？它可能跑几个小时，回来给你一些例子，然后你可以继续试、继续戳它。

主持人：所以它是明确设计成人待在循环里的。

约翰：是的，是的。

主持人：有意思，因为我试过的很多别的工具往往是一发式的。

约翰：这取决于你怎么定义。你当然得跟它说话、启动它，它会跑上几个小时再回来。然后人就该介入了——那就是人类创造力接手的地方，你在做外层循环：每隔几个小时（看你睡不睡觉）你去给它一次新的尝试。

主持人：你给它什么样的预算（笑）？比如你不小心花掉了一百万美元之类的。

约翰：其实我不知道，因为我们用的是内部的 Gemini 调用。所以我真的不知道。

主持人：但有 token 预算，同时你还在解一个计算上很贵的问题。

约翰：哦是的，那个也是。因为底下的打分函数本身可能涉及蒙特卡洛估计之类。所以你最后可能要用大量算力，光是做模拟——如果里面有一个模拟器，它就得跑一次模拟。所以是的，你可能光 CPU 或 GPU 就要花掉不少。我那个小小的 ERA 实验——ERA 加 Claude——是用来为一些分类问题搭一个神经网络。显然，如果你数据足够多，更大的网络效果更好，但训练更贵，于是你就开始碰到一个问题：在固定预算下，我怎么管理我的预算，才能把钱花在最有效的方案上？

主持人：对。

约翰：我觉得这仍然是我们需要搞清楚的事。但这跟有一个研究生要训练一个非常大非常大的神经网络、或者非常大的数据集没什么不同：他们自己也得琢磨「有没有缩放定律？我能外推吗？」所以我想这是同一个问题，只是可能更紧迫，因为它不知疲倦地跑，比一个研究生快得多地撞上这个问题。

主持人：你优化过的其中一件事是凝结尾迹。能谈谈吗？

约翰：我先花一两分钟讲讲凝结尾迹这个问题。

主持人：请。

约翰：先说清语境：是 contrails，不是 chemtrails（化学尾迹），后者是阴谋论。

主持人：（笑）是。不过你也应该不喜欢凝结尾迹，只是理由可能不一样。

约翰：凝结尾迹就是——如果你见过飞机后面形成的那种白色云带，那叫冷凝尾迹，简称尾迹。事实是，根据人们现有的估计，所有人为全球变暖里大约有 1% 是凝结尾迹造成的。为什么呢？我讲讲背后的物理。实际上有两种相反的作用。凝结尾迹有时候——如果你见过，它们拉出一条线然后就散掉了，那些其实没什么影响；但有时候它们会持续很长时间，你会在天上看到几乎像华夫饼格一样的一大片，那叫「持续性凝结尾迹」。 约翰：它们有两种效应。它们是薄薄的白云，所以会反射阳光，但那当然只在白天发生。而一切物体都会发射所谓黑体辐射：地球在约 300 K 的温度下，会在远红外、大约 10 微米处发射。在这些波长上，凝结尾迹的反照率非常低，几乎是黑的。所以它们会吸收一点向外输出的红外辐射，然后向两个方向再发射，本质上把一部分逸出的热量反射回去。所以它像一条毯子一样把热量困住。

约翰：因为这件事 24 小时都在发生，它们总体上是增温的。而且——这也很令人意外，同样存在一些不确定性——由尾迹形成的卷云，尤其在欧洲这种航空流量很大的地方，可能覆盖天空中百分之几的面积。在那些地方，它在局部能加上大约每平方米 1 瓦的强迫。给你一个量级感：全球平均下来，全部人为变暖大约是每平方米 3 瓦。所以在航空流量高的地方，局部的变暖可以相当可观。

约翰：那能做什么呢？事实证明，凝结尾迹是在大气中「冰过饱和」的区域形成的。它们有点像冰糖：你有糖分过饱和的水溶液，任何一点点糖晶进去，就会把糖全部结晶出来。尾迹里的这些区域也一样，它们往往是薄饼状，只有几百米厚。你飞过去的时候，喷气发动机的尾气里带一点水分，会先变成液滴然后结冰。而在这种坏区域里，你喷出的每一克水、冰或者烟灰，大约会吸出 10 公斤的水——所以有 10,000 比 1 这种巨大的「结晶比」。

约翰：所以问题很大。你能做的是：先弄清这些区域在哪里——当然，这些冰过饱和的区域是看不见的——然后告诉飞机从下面绕过去，基本上只要下降两个飞行高度层。这样其实只多烧一点油，但要绕开这些坏区域并不贵。所以我们建了一个系统，看卫星图像、尝试探测凝结尾迹在哪里，等于是一套持续监测系统；然后我们再建一个模型，因为天气模型不够准，找不到这些冰过饱和的地方。我们做了一个定制模型——卷积网络、UNET 之类——去预测它们会在哪里发生，然后把图交给飞行计划软件，让飞机绕开，用很低的成本大幅降低航空的气候影响。

主持人：能够预测它的物理依据是什么？只是我在卫星上看到了，然后我猜明天它还会在那里，因为飞机飞的是同一条路线？

约翰：不是。是因为你试图探测的这些冰过饱和区域非常非常持久。

主持人：哦，它们是持久的。

约翰：对。没人确切知道，但它们可以持续好几天。大家认为，它们是暖湿空气被注入到对流层顶、也就是平流层底部附近之后形成的，湿气到了那儿就卡在那里很久，然后慢慢消散。

主持人：明白了。所以那就像是大气里你不愿意飞过去的坏点。

约翰：对。

主持人：好。所以一旦确定了，它至少能管几天。

约翰：你得持续预测它在哪里。

主持人：你说用的模型是 CNN 之类。

约翰：对。我们还没有把它们换成 ERA 级别的模型。但这里出现了一个非常有意思的问题：你到底想知道这个尾迹造成了多少变暖、给全球变暖添了多少？因为比如你想找出最大的那些，因为绕开有燃油成本、要花钱。所以你说「我想知道它到底有多大影响」。但那其实是一个所谓的反事实问题：你造出了一条尾迹，一定量的红外辐射发生了——如果你足够小心，这个是能测的。但如果没有那条尾迹，本来会发生什么？这极难估计，因为你无法访问那个「它没有发生」的宇宙。所以你不得不做所谓的反事实模型。这些反事实模型其实相当难拟合、难做。

约翰：还记得有两个效应：反射阳光，以及红外。结果发现，测量反射阳光的影响其实更难，我们在这个问题上卡了整整两年。我们有一个效果还行的反事实模型，是针对向外长波辐射的，但对反射阳光没有。ERA 实际上帮我们找到了一个模型，它把各种混杂因素都搜了一遍，搞清楚了怎么估计——因为我们甚至可以造人工数据集，把尾迹注入进去，这样我们就知道自己注入了多少；结果我们自己写的测试代码都通不过自己的测试，而 ERA 通过了，把这个卡了两年的问题解开了。我们正在写论文：向外长波辐射那篇已经有了，另一篇还没投，但我们在 EGU 上讲过——我们真的解决了这个问题。

主持人：ERA 得出的模型是一大坨怪物般的代码，还是挺基础的？只是需要你的直觉才能想到？

约翰：在这个具体例子里其实是后者：它帮忙指认出来的模型非常简单，只是带了一些混杂因素，而我们恰好没试过那个组合，结果效果非常好。回头看不言自明。所以我觉得那是一次很大的胜利。

主持人：有意思。你在气候上做了很多工作。还做过别的什么？

约翰：我说过二氧化碳那件事，那个挺有意思。估算大气中二氧化碳之所以是个有意思的问题，是因为我们其实不知道进出生物圈的碳通量到底是多少。我们知道生物圈会吸收：我们往大气里排放大量二氧化碳，一部分被海洋吸收——大多是无机化学过程，也有一些浮游植物——还有很多被陆地吸收。但围绕这些过程的误差棒相当大，而五十年后的误差棒非常大：2100 年的模型里，我们不知道生物圈会怎么回应不断升高的温度和二氧化碳。所以我们其实不知道二氧化碳会被吸收多少，而仅仅因为「吸收多少」这件事的不确定性，误差棒就有 300 ppm。顺带说一句，现在大概也就 440 到 450 ppm。所以这个不确定性是巨大的——可能极其可怕，也可能只是不太好。300 ppm 这个不确定性太大了。所以能缩小它就非常好。弄清二氧化碳浓度，是走向解决那个问题的一步。

主持人：我知道 Google 在气候建模和天气预测上也取得了一些非常大的改进。我今年去了 NeurIPS，上一届 NeurIPS，我逛到气候那个 track——我只来得及听两场报告，但气候变化建模在过去十年左右发生的这种台阶式跃迁真的让我很震惊。我知道其中很多发生在 Google。能不能讲讲在 Google 和其它地方发生了什么，允许了气候和天气建模里那种巨大的转变？

约翰：先说一点：人们经常把气候和天气混在一起，因为它们底层是同一套物理——至少大气物理是这样。但一旦涉及到冰和陆地就不一样了：气候是长期的天气。而一个完整的地球系统模型，也就是气候模型，其复杂度比一个大气模型大得多：你必须真正测量陆地的水通量和碳通量是多少、冰会发生什么。

约翰：天气模型确实出现了一次台阶式跃迁——抱歉，我把这个讲清楚：天气大约到 15 天为止，因为天气本身、或者说大气，看起来是混沌的。我不知道我该不该解释混沌——本质上就是蝴蝶效应：像蝴蝶扇一下翅膀这种微小的扰动，两三周后天气就会完全不同。所以天气预测的是大气在比如两周内的实际轨迹，而这里已经出现了一次巨大的台阶式跃迁。这甚至不是那些新的大语言模型带来的，而是基于 2018 年那一代的机器学习，加上大量数据和大量算力。有很多非常聪明的工作，其中很多来自 Google，做出了新的天气模型，效果非常好。事实上我们有一个很漂亮的突破：现在我们显然可以更准确地提前很多天预测热带气旋的路径。像牙买加那样被一场可怕的飓风重创的地方——很多经典模型其实没有预测出来，部分原因是强度增强（intensification）往往由海面温度驱动，因为飓风可能很多人没意识到，本质上是热机：它们把海洋里的热量转换成大气的大尺度运动。所以天气这块进展很好。 约翰：气候要难得多，因为你不真的关心 2070 年西雅图会不会下雨，你要的是平均量。而让它难的是它所谓的非平稳（non-stationary）：底层的物理、植物的行为、冰的行为都在变。所以对真正的气候模型用经典机器学习非常非常难。这就是为什么你们刚才关于描述性模型和多重假设检验的那整段讨论，在气候上极端严重：我们没有 30 年后的数据，而我们不想等 30 年或 50 年才知道我们是不是对了、还是过拟合了。所以无论做什么，你都得小心，试着把子问题一层层剥出来，去解决「你怎么构建一个能预测未来、同时又受已知约束的大模型」这个问题。这是个迷人的问题。

约翰：我认为它还没有解决，但这是个很好的问题，因为这些不确定性。我们真的很想知道 60 年后气候会怎样。所以它还在那儿，是非常有意思的问题，但目前为止 AI 还没有把它革命掉，因为它非常顽固，因为数据问题。这是一个低数据问题。

主持人：蝴蝶效应、天气的混沌本质，也会影响气候吗？还是它的时间尺度太大，以至于你面对的是一个封闭系统，也许它只是在两极之间振荡，但总体上是更平稳的？

约翰：不幸的是，它在另一种意义上是非平稳的。但最初那整套混沌的东西，在气象学里可以追到一个人，叫洛伦兹（Lorenz），他有一个非常简单的模型、一个常微分方程。

约翰：气候和天气的区别是：天气是「你现在处在吸引子的哪个位置」，气候是关于吸引子本身的统计。气候的问题在于我们在改变它，所以吸引子本身在变化、在移动；而且可能有——大家都谈的临界点（tipping point）——意思是吸引子突然改变，而麻烦在于那非常非常非常难预测。所以吸引子的形状本身会迅速改变，或者说可能迅速改变。麻烦在于，当你跑一个模拟器的时候，你不知道它是不稳定是因为你的模型不好，还是因为真的出现了物理上的失稳——而这两者极难区分。

主持人：那怎么办？在我看来，不仅是没有未来的数据，你其实也没有多少过去的数据。你可以做一些测量、冰芯之类的，但一百年前没有人带着仪器。所以如果你有一年一次的数据，运气好的话，在任何一个地点你大概也就 50 个数据点。

约翰：所以无论我们做什么，都必须被我们已知的东西严格约束。很难。我跟你说的就是人们处在的两难之间。人们会做所谓的「过程模型」——其实应用科学里的人普遍都这么干，而气候是最极端的。我看过那些代码：我要做个还原论者，把那个复杂得可怕的气候拆成一千块，然后为第 763 块去找写论文的专家，而他对一些数据拟合了一个三次函数。

约翰：比如一件非常神秘的事，跟尾迹有关：冰在云里是怎么表现的？一旦你深挖，所有东西都变复杂（笑）。比如你造出一条尾迹，它能持续多久？这取决于——尾迹能蒸发，是因为冰开始累积，冰晶变大然后落下来。但冰晶落多快取决于它们的形状，而形状是未知的。尾迹内部潮湿的空气往外混合多少，人们有近似，但并不知道。所以不确定性非常混杂。而且不只是「哦，约翰关心尾迹」这么小的事：冰的微物理其实对气候模型的输出有很强的含义，而我们就是不知道。所以我想说的是，它非常难缠，不是一个已解决的问题。

约翰：我的希望是，用工具——也许不是今天的 ERA，而是明天的 ERA——因为就像我刚才说的，它不仅能拟合数据，它还能读论文，而且它能读的论文比我们多得多。也许我们可以把人们仔细评估过的所有数据、所有知识整合起来，比任何一个人写一段代码、拟合数据所能做到的都要多。那将是无比光荣的事。我们今天还没有，但那是我对未来一个更了不起的工具的期望之一：它真的能以理智的方式写代码，而且更理智，因为它被我们迄今为止积累的全部科学知识约束着。那会很棒。我们今天还没有。

主持人：我觉得这跟生物学非常像。

约翰：哦，天哪（笑）。对。如果你玩过生物学、哪怕只是看过，那里有太多例外、太多「凑合」的技巧。

约翰：所以，如果我们有一个东西能把所有已知的科学知识和数据整合起来，试着合成出新的模型和新的东西，那会很棒。

主持人：我想你说的是，AI 在这里某种程度上可以是一把钥匙，因为这些模型是那么零碎——它们必然是零碎的。所以能组装这个拼图、把整幅拼图拼起来，光靠规模和容量本身就有很大帮助。

约翰：对。这些 AI 有一件事是：人类——我读得还算多——要把 n 平方的东西整合起来是很难的，我的 n 是我这辈子读过的论文数，挺大的，但即便是我，做那个 n 平方也很困难。而几十亿、几千亿参数里就是装了那么多数据，而且你还能给它读 PDF 的权限，它就能以人做不到的方式把东西拉到一起。我在 ERA 里开始看到一点点这样的迹象。我不是说 ERA 今天就能做到。但那是我对这件事走向的希望。

主持人：我听很多人说过，通向智能的路是把大语言模型和某种搜索结合起来。而 ERA 其实惊人地就在这么做，对吧？一个很强的数据库查询加上一个好的搜索算法，是一种方式。当然还有 RAG 那一整套。而且如果你想想 Google 自己、那「十条蓝色链接」——它在我们有语言模型之前就是一种 AI 了，对吧？回到 2010 年或者 2015 年，你可以问 Google 几乎任何问题，它都会告诉你点什么。

约翰：而且好得出人意料。

主持人：对，好得出人意料。因为网上大概有人写过。所以如果你能匹配上它——

约翰：这其实是我当年想去 Google 的原因之一：那件事太了不起了。

主持人：我很好奇我们听众里有多少人经历过 Google 之前的搜索，知道那体验有多糟（笑）。

约翰：我记得 1998 年，我当时用的是 AltaVista。我不记得 Google 是不是刚发布，我用了一下，然后就像扔烫手山芋一样，立刻改用 Google 了。

约翰：所以那确实是一种形式的 AI。是的，也可能是：你只要拿到所有这些东西，并且同时把它们都记在心里。

主持人：这种科学发现的图景，只要它成立，其实也挺让人安心的，因为它是还原论的：你可以去看每一个零件并理解它们。它找到了要组装的正是那些零件，但它们实际上可能都是人们发明过的东西，或者是在上面迭代过的；那些小零件每一个单独都能理解，然后你还能把它们拼成一幅连贯的图景。对生物学或者气候科学里很多问题，我觉得除非答案是那个形状，否则我们不会信任它。

约翰：对。

主持人：因为如果有一个巨大的黑箱模型说「细胞是这样运作的」，我会想，我真的信吗？我没法检查它。

约翰：但如果它真的 work 得非常好，反过来说——

主持人：那你还是得去测，显然。但统计模型——它还是必须外推。

约翰：对，而且必须外推到极端情况，或者说「黑天鹅」事件。

约翰：对。所以非常难。这就是为什么像自动驾驶这样的问题非常非常难：全是边角情况（corner case）。

主持人：而它们做到的程度其实挺惊人的。

主持人：这是个有意思的点。从物理学的世界过来，模型通常是一个方程或者少数几个方程，唯一地定义一个系统以及它的一切，你只要解这个系统，就知道所有需要知道的东西。而像 AlphaFold 这样的东西对很多人来说是一次转变：以前他们以为蛋白质折叠是这样一个问题——只要找到对的力场、有对的计算引擎，我们就能解决蛋白质折叠。而「用数据驱动的方式去真的解决它」这个想法，是在 AlphaFold 一代出来之前没几年才出现的。有意思的是，这种新的 AI 建模迫使人们几乎重新评估什么是科学——AlphaFold 和类似的模型极其强大，打开了很多工具性的可能，但它们核心上往往不能像大多数物理学家历史上所期望的那种物理那样给出直觉。所以就有了那句老话：所有模型都是错的，但有些是有用的。是 Box 说的。

约翰：对，对。 主持人：什么时候你觉得数据驱动的模型已经够用，什么时候你会想要一个人类能真正理解的可解释模型？

约翰：我觉得这几乎可以归结为天气和气候的区别。如果你处在数据丰富的状态里——比如天气，甚至蛋白质，因为有 PDB（蛋白质数据库）——你就可以说「是，我有足够的数据覆盖住」，那么像 AlphaFold 这样的统计模型就能用。事实上很多人乐呵呵地在用 AlphaFold，我认为它真的革命了我对这件事的理解——我不是生物化学家，但大家似乎很爱它。他们做的一件了不起的事是：他们把它穷尽地在整个 PDB 上跑了一遍并把结果都发布了，这真的非常酷。

主持人：好像是 60 亿个蛋白质结构。绝大多数其实相当准确。

约翰：对，所以这很惊人。但它感觉是「封闭」的，你懂我意思吗？而当它是气候这种开放的、非平稳的，或者你必须做大外推的时候，你就得谨慎得多。也许生物学里也有一些部分是这样。比如方舟研究所（Arc Institute）办的那个虚拟细胞挑战赛就有一个好玩的结果，我记得人们可能在那里过拟合了——这方面我说得不多。

约翰：或者说，在高层次上，我认为简单基线（simple baseline）往往效果非常好。

主持人：对，就像做生物学时的经典做法：永远从简单基线开始。可能这本来就是好的机器学习通例——先理解你最简单的那个情形。而生物学里有很多问题，即便你有很多数据，它们对简单基线之外的任何方法都极其顽固。

约翰：对。事实上我对别人说的也是同一句话：永远先拟合线性回归，就做，就做。

主持人：就做线性回归。

约翰：或者 SVM。SVM 其实就是另一种形式的线性回归。

主持人：那什么时候你需要更「过程模型」式的东西？

约翰：我想就是当——气候在一端，天气也许在另一端，也许那太极端了——我想就看你处在数据丰富度的哪个位置，什么时候你能感觉「不，我真的有一个封闭的问题，我真的覆盖得住它」。

主持人：对，一个数据能完全覆盖的封闭问题。我觉得这很有道理，和我看到的也一致。我比较好奇的一点是：你做气候建模的时候，你和你团队想要达成的宽泛目标是什么？你说过尾迹，也说过二氧化碳预测——你们主要想做的是什么？一类是做干预，另一类可能是为保险之类做预测，或者帮人适应某种气候变化？对你个人、或者对整个共同体来说，主要目标是什么？

约翰：像任何共同体一样，大概有很多不同的目标。对我、对我们团队来说，我们非常非常关注干预：哪些干预以相对低的成本是可行的。尾迹这件事就很了不起，因为这个干预成本相当低。而且尾迹有一件很妙的事：它们是局部的，不像二氧化碳。所以如果一个国家决定解决自己上空的尾迹，它主要改善的是自己头顶那一小块气候，虽然也有全球效应。所以他们喜欢这个。

主持人：不过我猜，如果你在一个寒冷的气候里、想让它暖一点，这现在就成了你自己的事——

约翰：事实证明它有点不对称。增温基本是恒定的、全球性的；而降温只在太阳角度对你有利的时候发生。所以「不确定性」的意思是：有很多很多尾迹——当然大多在夜间——基本上是在增温，而且我们相当确定（比如说两个标准差以内）；而你说「我确定它在降温、我想要更多这种尾迹」的情况非常少。只有在极地、而且是在极地夏季，你才知道这些尾迹在降温，因此如果去掉它们反而会变暖。但南极洲上空基本没有航班，夏季的极地上空也没有多少。

主持人：所以没有住在寒冷气候里的人会恶意利用这个。

约翰：他们不会确切知道那是在增温还是降温，所以他们乱做也做不出确定的结论。所以基本上我们只是忽略这件事——我们不建议人们去飞那些。

主持人：你还提到一个关于经济性的有趣的点。历史上对某些气候变化干预有过很多阻力，而市场现在某种程度上已经接管了——比如可再生能源和电池，现在几乎毫无争议地比替代方案更好。

约翰：对非移动源是这样。移动源就不行。

主持人：这是个很好的点。比如飞机，我们没有解决方案。

约翰：对。有一些电池驱动的飞机，但它们很小、航程非常有限，可能永远不会成——除非我们能搞出核电池之类的东西，那会很棒，但我们不知道怎么弄。而且就算做出来了，我猜人们也会太害怕核电池出问题。

主持人：是啊，因为我们不知道它们是什么，也就不知道风险——

约翰：对，所以我们不知道。所以这就是问题所在。我做过关于气候变化的演讲，我讲「坏事的饼图」、「悲伤的饼图」：气候变化没有银弹，因为我们的经济里有太多不同的东西在排放温室气体。所以它们都得被修好，或者说很多很多个都得被修好。没有单一的一件事。我做过聚变，聚变很酷，如果它足够便宜，它可能一次性干掉其中很多项——但我们不知道，因为我们还不知道它能不能 work。

主持人：聚变是那种很有意思的东西，以前的玩笑是「聚变永远还有 30 年」，但我觉得现在其实不到 30 年了。

约翰：对。我认为有确定的概率，有人会在本十年结束前做出商业上相关的聚变。所以我觉得是还有三年，而不是三十年。

主持人：这非常真实。有意思的是，我觉得其中很多——我要顺便给我们的其它节目打个广告——其实都归结到材料科学。有意思的是——

约翰：当然，当然。我们可以聊聚变如果你想的话。

主持人：其实有两件事。一个是聚变，另一个是更好的控制系统，我觉得那个其实——

约翰：对。事实上 Google DeepMind 一直在做托卡马克的控制系统，确保它们不会失稳、不会发生破裂（disruption）。

主持人：破裂本身也挺有意思的。

约翰：对。

主持人：基本上整个托卡马克柱里的全部能量聚成一小束，然后撞在你的真空室上，你就非常难过。

约翰：非常难过。

主持人：我觉得人们相信，一个 300 亿美元的装置可以在开机后被一次破裂直接变成一个 300 亿美元的砖头。

约翰：对，你大概可以去打个补丁。我记得在大语言模型之前，我们和一家叫 TAE 的聚变公司合作过，我当时在他们的控制室里。是的，那挺让人难过的——你必须非常小心。我们在做推荐新实验的系统，他们非常非常怀疑、非常不信任，他们也应该如此。因为即使在人的控制下——他们在做一个实验，然后你听到一声巨响，那就像「哦不」，然后装置要停机两周去补东西。

主持人：你当时正好在场？那是一次破裂？

约翰：哦不，那是——抱歉——他们用的是场反位形（FRC）。

主持人：好，那是什么？抱歉我不熟。

约翰：场反位形——托卡马克也许是被研究得最多的等离子体形态，但还有很多不同的架构，本质上是各种试图稳定和压缩等离子体的方式。FRC 是一种形状，本质上是自持的、像橄榄球一样的等离子体，内部和外部的磁场方向相反，由所谓的分界面（separatrix）隔开。理论上它是不稳定的，但实际上稳定：比如你跑磁流体力学（MHD）代码，在那个假设下它是不稳定的，但那个假设并不是真实世界的运作方式。所以它被冷落了很多年，但 TAE 和其它公司——我想 Helion 也是——用 FRC，因为它们其实相对坚固：你甚至可以把它撞到墙上，它还能保持稳定。不过你仍然可能得到放电之类的东西，在真空室上打出洞来，那就有点不幸了。

主持人：澄清一下：你这些聚变装置，是在试图成为反应堆的装置，你造出等离子体，等离子体被磁场约束，所以你有一套计算机可以调的磁体系统，然后计算机试着维持这个约束。

约翰：FRC 一旦造出来，基本上就自持了。有不同的办法确保——好，所有聚变都归结到一个东西，叫劳森判据（Lawson criterion）。它解释了为什么聚变这么难。你可以在信封背面很轻松地证明：密度、温度，以及能量损失，也就是所谓的约束时间——等离子体里能量衰减到 1/e 所需时间的倒数——这三个数的乘积必须大于某个常数，你才能得到聚变；不然就得不到。 约翰：而「它是三个数的乘积」这件事，本身就解释了聚变为什么这么难：每一种路线都有一个阿喀琉斯之踵，也就是三个数里的某一个不太大，然后大家拼命想让那一个变大。

约翰：每条路线各不相同。当新闻里那些关于聚变的、令人喘不过气来的报道出来时，你必须有点怀疑精神。它会说「现在约束时间达到了——稳定了 X 分钟」，它说的是三个数里的一个。但你必须同时拿到三个数才能得到聚变。我认为整个领域在取得大量进展，非常令人兴奋，但你确实要对那些只讲一个数字的、呼吸急促的新闻文章保持一点谨慎。

主持人：那其中的计算部分是什么？

约翰：不幸的是——或者说幸运的是——取决于路线。对托卡马克来说，就像布兰登说的，它基本稳定，只是偶尔会有一种不稳定性把全部能量聚到一处砸下去，所以你得把一切保持在控制之下，那就是一个控制系统。FRC 本身有非常简单的失稳，比如所谓的 Z 不稳定性：没关系，它很稳定，它只是会摇摆——字面意义上会来回晃——你只要做一个所谓的 PID 控制器，把那个「橄榄球」保持在反应堆中心，就没事了。

主持人：它是靠调整磁场做到的。

约翰：它其实调的我觉得是电场，把它推回来。人们真正头疼的问题，取决于他们决定用哪种等离子体架构。

约翰：气候是政治性的，因为经济，可能主要还是经济、也许还有别的。你要么得说服人们多花钱，要么得有一个方案，恰好既在经济上更划算、又对气候更好。这很难。

主持人：很多情况下它并不划算，很多情况下没有被「挣到」。

约翰：你想想，甚至预测天气你都能看出经济上是有利的。

主持人：那你在干预上做的工作是什么样的？它跟经济怎么互动？听起来尾迹那个例子——我做了个分析，说这很好，因为它的经济影响很低但价值很高。

约翰：对。能源类干预你得跟现有的能源形式竞争，那并不简单，除非有共同收益，或者某种巧妙的东西。这很投机——不是我们的工作——有一家创业公司，不知道你看没看到这条新闻，大概是去年，有人发现如果你把水银注入聚变反应堆，中子通量能把水银嬗变成黄金，然后你就能把黄金卖掉（笑）。我觉得这非常聪明。它可能 work 不了。

主持人：作为物理学家，我想从聚变反应堆里拿到的一样东西是氦，不过那是另一个故事了。

约翰：哦，你是说氦-3。

主持人：嗯，氦-4 有点无聊，虽然它也在变少，因为战略储备被关掉了。

约翰：对。

主持人：而且我当然想要氦-3——甚至不只是聚变，光是给量子计算机做稀释制冷机就要用。

约翰：我们想到的很多技术，一旦氦用完了，就都出局了。

约翰：是的。

主持人：没人在想这个。抱歉，完全是题外话。

约翰：美国之所以有氦战略储备，是为了我们非常重要的飞艇舰队（笑）。

主持人：（笑）

约翰：但他们还是把它保留了几十年，这点挺好。然后我们把它关掉了，全都升到天上去了。

主持人：是，装进气球里了。

约翰：或者从天然气井里跑掉了。抱歉，我们聊到氦了。

主持人：是。那回到干预——最令人兴奋、最有意思的有哪些？

约翰：我对聚变非常兴奋。我不知道那算不算「干预」，它更像一种能源来源：如果我们能把它做出来，并且把资本成本降到足够低，那会帮很大忙。至少在目前的模型里，可再生能源很好——理想情况下你会想把一切都电气化，但这有问题，因为飞机没法电气化；很多东西可以试着电气化，比如电动车；而像水泥或者钢铁，你得想办法。钢铁尤其难：炼铁本来就需要还原能力，你是往里加碳、把铁矿石还原。所以「全部电气化」有很多难点。但如果你能全部电气化，用电量会涨五倍，那时你可以靠可再生能源加电池去覆盖——可要把最后那几个百分点、甚至 10% 到 20% 也榨出来，成本会越来越高，因为你需要巨量的电池。所以我们需要某种能覆盖最后 20% 的电源，某种基荷电源。聚变可能就是这个。所以那非常令人兴奋。

约翰：再说一次，没有一颗能覆盖所有情形的银弹。我很乐意聊任何具体的情形，但世界是一个很复杂的地方，全球经济是一个很复杂的地方，所以笼统地谈干预非常难。

主持人：也许不谈干预，我好奇的是：这如何影响决策，比如我们该建什么、怎么建。我想你是从洛杉矶来的？

约翰：我在那儿待了 11 年。

主持人：好。你在洛杉矶待了很长时间。洛杉矶刚刚有大部分地区被烧掉了，可能离你以前住的地方很近。这件事我觉得很多人都预见到了，也许部分是因为监管问题，部分是因为别的问题，总之我们完全没准备好；而且看起来下一步该做什么、该怎么适应，也缺少准备。你有没有在做新的风险评估预测，或者提出建议：无论我们是否解决了根本问题，社会到底该改什么来「硬化」自己，去面对即将到来的东西？

约翰：对。事实上 Google 在「气候韧性」这件事上有一个很大的投入。我们有一个很好玩的项目叫 FireSat。

约翰：野火的问题在于：很多野火如果你发现得足够早，扑灭一间屋子大小的火是非常容易的；但只要到了一英亩，就难得多。而且在某些条件下，它们可以从一间屋子那么大指数级地长到一英亩。所以可能很难抓住时机，但它们往往是从小开始、然后有一段时间。我们发现：如果你有一个低轨卫星星座，能在中波红外探测——这又回到黑体，那是火的温度——火在中波红外里会非常突出。我们设计了一种传感器，取决于具体轨道，大概 50 到 80 颗，你就能找到大约一间屋子大小、也就是边长 5 米左右的火，在地球上任何地方；而且如果你有 80 颗左右，能在 15 到 20 分钟内发现。然后你就可以干预：你也可以选择不干预，如果你觉得让它烧掉那些燃料是安全的；但如果它要膨胀成不安全的东西就不行。

约翰：我们和一个现在是非营利组织的「地球之火联盟」（Earth Fire Alliance）合作，我们是其中一员。我们已经发射了一颗原型卫星，和一家叫 Muon Space 的公司一起把卫星做出来。这挺酷的。我们还有野火边界检测，把信息通过 Google 分发出去：我们可以从现有卫星和数据流里弄清楚火的边界，然后通过用户的 Android 手机或者搜索告诉他们火情。我们还和美国林务局合作，做火势蔓延的新模型，因为那又回到 1970 年代 Rothermel 的过程模型。我们实际上做了一个小的神经网络代理模型，让它跑得非常非常快。我们和林务局就这个合作过。

约翰：我们非常非常想把它压到最小，因为人们可能不知道：世界卫生组织估计，全世界每年有 30 万例超额死亡来自野火烟雾。

主持人：对。我记得——距离我们上一次经历一个非常糟的火灾季已经好几年了。也许四五年前，有一团烟横穿美国北部和加拿大，造成了很多呼吸道问题。

约翰：对。

主持人：而且很难追踪。你得用统计方法去估这些超额死亡。

约翰：但它是一个非常严重的公共卫生问题，而且非常吓人，会烧掉人们的房子，很糟糕。

约翰：我的看法是，气候变化像一种严重的疾病：你是治症状，也就是适应，还是去攻击底层的东西？答案是——如果它足够严重，两者都要。所以是的，我们在 Google 非常认真地把适应、尤其是气候韧性当作一件事，我们努力给人们信息工具。这也是我们在做天气、进而做气旋预测的原因之一。所以这些其实是连在一起的，不只是干预，还有气候韧性。

主持人：对。在西海岸经历过四五个火灾季之后，它们可以相当相当凶恶。 主持人：以前不是这样的——我在内华达山脉有一间小屋，以前夏天就是很舒服，而现在——虽然不是每年——但确实有冬季、春季、夏季和「烟季」。

约翰：对，火灾季你就只能……

主持人：对（笑）。我要待在火线以西。

约翰：是的。

主持人：所以这是另一件你感兴趣、Google 也非常感兴趣的事：气候韧性。这些红外传感器小到可以搭微型卫星星座的便车吗？或许更便宜的方案是干脆付费给某个已经在看星座的人？

约翰：哦，它们没那么小。问题是你需要制冷，因为是中波红外，你得把它保持低温。

主持人：所以它们必须是专门的卫星。

约翰：它们不算特别大。不像地球同步轨道上那些因为光学系统而变成庞然大物的家伙。它们基本上就是带 5×5 分辨率的「眼睛」传感器。

约翰：不，不，那是最妙的另一点：分辨率大约是 50×50 米，但你可以用超分辨率，因为它本质上是多光谱的，而且你大概知道火在哪里。所以上面撒了不少 AI 来达到 5×5 米。

主持人：而且你还要对你读出的东西做卷积，对吧？

约翰：我忘了帧率。卫星在动，我不记得点扩散函数是什么了，抱歉。但你说得对，它们在动。这个传感器还用了所谓的「扫帚式」（broom/whisk-broom）设计：你要把光谱往一个方向摊开，这是个相当复杂的东西。它不是一台宝丽来，它是一个复杂的传感器。

主持人：稍微换个话题。你在 AI 和科学的交叉口待了相当久，我觉得你是来回进出了好几次。你怎么看这个领域的演化？我感觉它现在演化得非常快。你学到的东西里，有哪些是社区也应该学到的？如果你是一个年轻的科学家或者年轻的从业者，这应该怎么改变你面对未来的方式？

约翰：我认为过去 12 到 18 个月发生了一次相变。就像我说的，我们过去做的事大多是构建专门的模型去解决单个问题。如果你把那当你的工作，那挺好玩的：找到一个题、解决它；再找一个题、解决它。但现在我们有了这些通用得多的 AI 东西。我觉得整个 AI for science 社区还在摸索——它们能 work 这件事太新了，所以我们集体都还不确定最好的做法是什么，也许根本没有唯一最好的做法，也许是一整条工具链。我想我们都在试图弄清「我们到底该做什么」。

约翰：所以就有了「年轻科学家该做什么」这个问题。我有个儿子，刚满 21 岁，他非常喜欢 AI、编程和化学。我看着他，我觉得他做的方向是对的：他一方面学了很多东西、试图成为 RNA 的领域专家，另一方面也在用 vibe coding、用各种工具。我觉得那才是对的答案，因为所有人还在摸索，你得成为一个深度的领域专家。我不认为领域专长会消失，因为这又回到很多人说的「品味」——以及怎么在不做那些苦工的情况下获得品味。这是个有意思的开放问题。所以：发展领域专长，但也要去玩各种可用的工具，因为并不是「哦我们知道会发生什么，聪明的老人知道」——不是，我们也在做实验。

约翰：所以我肯定会说：一定要发展领域专长，试着用这些工具，尽量去解决大而难的科研问题。还有一个巨大的开放问题：实体实验怎么办？它不会消失，因为实验是地面的真相，而且是瓶颈。

主持人：是瓶颈。

约翰：是瓶颈。人们在谈「实验室在环」（lab in the loop），但那仍然非常非常开放，因为——怎么……据我所知，没人有那种什么都能做的通用实验室。有很多非常具体的、可控的实验室。

约翰：所以我想我们只是经历了一次相变。它看起来非常令人兴奋。再说一次，我会建议人们去玩任何可用的工具，去发展深度的领域专长，以及尽可能获得品味。我也会建议人们不要害怕，去试东西。我一直很高兴——我们在 Google 有学生研究员，他们来，做些野的、疯的事情，那总是很愉快。所以，人应该去试那些野的、疯的事情，看看会发生什么。

主持人：这可能是个没有答案的问题。我想我是怎么获得专长的、很多人是怎么获得专长的：从一个小而明确的问题开始，然后死磕它；在那个探索的过程里你学到更多，有时候变宽、有时候变深。但那个「拿头去撞问题」的过程——而现在这些问题可能一秒钟就能被解掉——恰恰教会了你解决更难问题所需的技能。对你儿子，你会给什么建议？

约翰：我不知道。也许有点像徒步：显然你不能哪儿都开车去。你可以开车上山。

主持人：对。

约翰：也可以徒步上山。也许偶尔徒步上山是可以的，甚至是有趣的，即便你可以开车上去。

主持人：是的。

约翰：在旧日子里——我要听起来像个真正的老头了（笑）——在旧日子里……

主持人：半年前那种旧日子（笑）。

约翰：不，不，我甚至在想 80 年代、90 年代那种旧日子。很多人现在会想「哦，有开源包、有各种现成的东西」——而我们那时候没有，我得自己写数值库、自己写机器学习。光是提升算法（boosting）我大概就重写了四次，用四种不同的语言。所以我现在懂了 boosting。所以也许不要总是走最容易的路——当然这里有取舍，「我想尽可能地高效、多产」也对，但你也得把肌肉练出来。这也许有点像当运动员：有些时候你是在「实战」，尽力跑得最快；也需要训练时间，所以也许人就是得训练。

主持人：完全有可能，如果你真的花时间死磕、做困难的那部分工作，即便局部上更慢，长期看它会在你更大的效率上产生回报。哪怕在那一刻你没有通过利用大语言模型达到最大产出，它也会反哺别的东西。

约翰：我希望如此。我不确定的是——我希望人们的职业生涯里能这样，但这很难，因为整个世界似乎都想优化一切、把一切榨干。这不能怪你。

主持人：不，不，不是你的错（笑）。

约翰：是我的错，但就是那种……有时候你必须留出时间。在 Google，尤其在我的组里，我们有一个「20% 时间」的概念，我在自己的组里非常非常努力地保护它：你可以做任何事，如果你想学东西、想试东西，你甚至不用告诉我——你甚至不用告诉我，其实我大概不该知道。就是去为学习而做事，也因为那正是创造力的源泉。我不想把大家的时间占满到他们无法玩、无法学、无法试新的疯狂东西。我知道 20% 时间不常见，世界上似乎有一种强大的冲动，像我说的那样把一切优化、榨干——但当你超级优化的时候，你确实会失去一些东西，你会过拟合（笑）。

主持人：你对「生产力」过拟合了。

约翰：对。我知道我的建议可能是逆着——也许是逆着文化潮流的。

主持人：这里总会冒出来的一个想法是：问题不是平稳的。未来会有一种新的技能组合才是对的技能组合。我心里的问题永远是那个纠结：这是不是一项持久的技能？也许它昨天不持久，但今天会持久，因为——我见过，比如一个明显的例子：当你使用大语言模型时，某种程度上你就变成了一个管理者。

约翰：有些技能能迁移。

主持人：有些不能，但很多能。作为管理者，你会失去对细节的掌握，你信任你的人或 agent 去管理那些细节，好让他们向上汇报、回答高杠杆的问题，把小事上的判断做对。所以我们现在是不是都变成了中层管理者？

约翰：不，我（笑）……我不知道。再强调一次，我有一点管理工作，但你不想当一个空壳。

主持人：换句话说（笑），因为这些东西可能会搞错。

约翰：尤其是大语言模型，它们真的很怪：它们犯的错误跟人犯的不是同一类。所以你不能完全信任它们，你必须严谨，必须去戳它、确保它对。不过，你自己写的软件，你也该去戳，你不该信任你自己。这是我学到的一件事。费曼怎么说的？你绝对不能骗自己，而你是最容易被骗的那个人。

约翰：所以也许——我不知道我能不能量化什么是持久的，但某种「根本性」：真正去学一个关于世界的领域。这就是为什么我喜欢生物学或者物理科学——我觉得那些是持久的、根本的东西。数学非常持久。甚至像严谨、像检查这种事，又回到也许是管理——你要真正确保大语言模型产出的是对的东西、没有以某种方式作弊——但同样，你对自己也该这么做。

主持人：对。 约翰：所以我觉得有一些是持久的，还有创造力、跳出框框思考的持久价值。我觉得那些是持久的。我不知道，它们里面都有某种非常根本的东西。

主持人：你提到费曼。如果不介意，我换个话题。

约翰：我上过费曼的课。不是随便什么课。

主持人：对，他那门「计算的物理」课。他其实是和霍普菲尔德、还有卡弗·米德（Carver Mead）一起开的。那很好玩。当时——也许费曼自己知道，但我觉得我们没有人知道问题到底是什么。我猜费曼想说的是「我们来做量子模拟吧」，这后来被证明是对的答案。但当时……

约翰：首先很酷的一点是：它是 DARPA 资助的，所以按理说你每周该去一次领一份上等肋排晚餐——但我每周都去（笑）。反正，对学生来说。

主持人：多给一点背景：这门课基本上是费曼——我忘了还有谁——刚提出量子计算机这个概念之后开的那门课，当时大家并不真的知道它是什么，但知道底下还有空间。

约翰：有那篇《底部还有大量空间》（There's Plenty of Room at the Bottom）的文章，我想那是很早的。我 1982 年上的这门课。

主持人：哦，那是他教这门课的时候。

约翰：他确实说过「底部还有大量空间」。这门课的结构是：周二请人来客座讲，然后周四费曼站起来解释为什么那些全错了（笑）。挺好玩的。然后我们遇到了别人也遇到过的现象，叫「费曼效应」。也许是他太有魅力了：他讲一段，你会说「是是是，我懂了」，然后你走出教室一想——「不，我（笑）根本没懂」。

约翰：挺好玩的。很多来客座的人——丹尼·希利斯（Danny Hillis）来过，还有很多有意思的客人。把这些人放在一起，我觉得反而展示了当时那种集体的困惑：比如我们该不该做可逆计算？因为要确保——计算到底能不能可逆？每次操作热量的下限能不能是零，还是有某种热力学极限？那时候那是个大问题，我觉得现在不是了。

主持人：等一下，你说的是兰道尔极限，还是——

约翰：当时那一整套问题就是：能不能有可逆的台球计算机、能不能可逆，以及什么样的计算——这也是丹尼·希利斯来的原因，那是连接机（Connection Machine）的时代，最初那批 Thinking Machines，80 年代的那台。

主持人：1982 年通用计算是什么状态？

约翰：四舍五入的话，我们什么都没有（笑）。我记得我到那儿的时候是卡弗·米德的系统管理员，我们有一台 VAX 11/750，大概能做 1 MIPS，也就是每秒一百万次运算；整个研究组共用一台 80 兆字节的磁盘驱动器，有洗碗机那么大。非常令人兴奋。

主持人：那复杂度理论呢？当时是什么状态？因为我知道现在有很多人对量子复杂度和它跟引力的关系感兴趣。我想知道复杂度是什么时候——

约翰：我们可以去查。当然有整套层级——你说得对，有量子复杂度类。我想那些是那之后才发展出来的，因为这是 1982 年。事实上我甚至不确定当时有没有「门」的概念。我们从没讨论过门的模型。当时没有量子门的模型。

主持人：对，量子门。

约翰：对。我记不清了，抱歉。我想很多要到 90 年代才出来。我记得读尼尔森和庄（Nielsen & Chuang）那本经典的量子信息教科书，现在想起来它提到的很多点——那本书大概是 90 年代末、2000 年代初写的。

主持人：对。

约翰：我想那是第一本把领域的一般知识写下来的教科书。不过我也可能记错。现在想起来，我年轻时并没有把它当成「这是所有人都在用的书」来理所当然地看待。

约翰：你记得 80 年代早期，围绕神经网络有一大波兴奋，那真的很有意思，因为我们同样真的不知道自己在干什么，没人知道。

主持人：有意思的是，先是神经网络、然后 SVM、然后又回到神经网络。

约翰：不，不，那是更早的事。80 年代大家都在说这东西有革命计算的潜力。

主持人：但那时候——

约翰：当时围绕霍普菲尔德网络有极大的兴奋。事实上 NeurIPS 就是这么来的：在 Snowbird 办了一个名义上是私人的 workshop，但所有人都想去挤进去，于是他们就创办了 NeurIPS。

主持人：Snowbird 就是一个滑雪旅行外加一个计算会议。

约翰：对，就是这样。我就是因为不会滑雪才去学的滑雪，然后一直滑下去。那个 workshop 出自 1985 年的圣塔芭芭拉 workshop，而后者又出自加州理工当地一些叫「Hopfests」的聚会。

约翰：所以人们当时想「哇，这东西有点东西」。讽刺的是，那跟联想记忆（associative memory）有关——而你如果真的往下挖，Transformer 其实就是联想记忆。所以甚至有一篇论文叫《霍普菲尔德网络就是你所需要的一切》（Hopfield Networks Are All You Need）。

主持人：对，我忘了那个标题是在指那篇论文。

约翰：指 ERA，指那个时代。所以整件事其实兜了一个圈。事实上我认为我们作为一个领域集体地革命了计算机科学，但当年的希望和梦想完全超出了能力，因为我们实际上算力是零。

主持人：我觉得机器学习的历史就是不同范式——算力和内存、规模和数据的可得性在不同水平上交替出现。

约翰：对。而且人们没意识到的是：神经网络之所以 work，是因为它是那种「算力受限」的东西——虽然有了 Transformer 之后，事情又变得内存受限了。而且它踩在 BLAS 上面，而 BLAS 是被 GPU 之类的东西优化出来的。我其实相当确信大脑不是靠矩阵乘法工作的（笑），但只是算法和硬件共同演化，才有了今天。谁知道呢？如果我们走了另一条路、人们在乎的是别的计算方式，我们会得到什么架构？我不知道。

主持人：很多事是不是就是从——我记得人们黑进 PlayStation 去训练神经网络之类开始的？

约翰：有个好玩的故事，是我研究生时的朋友 Brian Catanzaro 在英伟达讲的。他从英伟达来——如果我讲错了请原谅——当时他们在争取支持时很困难，公司在游戏上不断加倍下注。然后有一天他和黄仁勋开了个会，说服黄仁勋：有这么多人在用 CUDA 做 BLAS、特别是做深度学习。他说那大概是一次 15 分钟的对话，然后他们第二天就把整个公司转向了（笑）。

约翰：我在那没工作过，但我有朋友——Dave Kirk，第一位首席科学家，还有 Bill Dally 都是我研究生时的朋友。所以是的，但我不清楚具体细节。记得大概 2010 年前后，辛顿组里的人已经在用 GPU 做深度学习，但即使在 2007、2008 年，GPU 也没有比 CPU 快多少。它们真正开始超越——我觉得这不是巧合——是在原始 ImageNet、以及一些语音识别工作的时候。GPU 超过 CPU 的那个节点，和深度学习的起飞不是巧合。

主持人：我真的很想知道，一个人要怎么才能获得给一颗小行星命名的机会。

约翰：还是加州理工。那里有一些了不起的人：吉恩·舒梅克和卡罗琳·舒梅克（Gene and Carolyn Shoemaker），他们开了一门行星科学的课。我喜欢行星科学。作为那门课的一部分，他们带我们走了小行星发现那一整套流程。那是 80 年代，现在有各种了不起的系统了——有一阵子有个叫 LINEAR 的东西把这件事自动化了——但在那之前什么都没有自动化。所以我们就是去帕洛玛天文台，有一台很快的望远镜——现在它已经成了博物馆展品，摆在他们游客中心里，但当时它是真的能用。你往里放一张胶片，拍一张照，等几分钟，再对同一片天区拍一张。然后回到加州理工，把两张放进立体镜里，你四处看，看有没有什么东西在「浮」起来：因为它会移动一点点，所以它会跳出来，因为两只眼睛看到的位置不一样，你能看到它被投影在不同的位置。

约翰：对，字面意义上它会跳出来。然后你去用一台测量显微镜，测量已知参考星的位置和那个漂浮物的位置。如果你的测量足够准，你就把它寄给一个人——我觉得他现在不做了——叫布莱恩·马斯登（Brian Marsden），在亚利桑那的小行星中心。他有一套大型软件系统，把这些所谓的「每次出现」（apparition）拼起来。如果你恰好观测到了最后一次出现，让他的软件能把它连成一个大轨道，你就获得发现权，可以给那颗小行星命名。但现在就厉害多了。 约翰：现在智利有一个天文台叫薇拉·鲁宾天文台（Vera Rubin Observatory），里面有一台了不起的望远镜叫西蒙尼巡天望远镜（Simonyi Survey Telescope）。它基本上把这套流程自动化了：可以连续拍大量天区照片。那是一件无比惊人的仪器。他们在六周里发现了 11,000 颗小行星。

主持人：哇。

约翰：对，所以现在是……

主持人：小行星总共有多少？

约翰：取决于你怎么切分，可能有好几百万颗吧。

主持人：所以机会还很多。

约翰：确实。我甚至不知道他们现在还会不会费心去命名（笑）。有人在做掩星（occultation）。抱歉，这个话题我能一直讲下去。有一颗我的小行星——我一直在给一位业余天文爱好者发邮件。如果一颗小行星恰好从一颗恒星前面经过，恒星的亮度会下降，就像发现系外行星那样。但如果你运气特别好，它会降一次、然后过一会儿再降一次，因为小行星有一颗卫星。我的一颗小行星，这位业余爱好者就在它旁边发现了一颗小卫星。那是去年的事。

主持人：绕着小行星的卫星。

约翰：对。所以挺酷的。所以还是有机会的。

主持人：你的小行星有卫星。

约翰：对。其实这里还有个小故事：那其实不太算是我发现的小行星——我发现了两个，我给其中一个取了我爸爸的名字。我当时有点犹豫。卡罗琳给华盛顿大学的一位教授命名了，我说「可我想自己命名」。我就抱怨了一下，她很 nice，就给了我一颗她的。然后他们把那颗用我妈妈的名字命名了——而那颗正好有卫星。

主持人：哦，好。

约翰：所以那颗以我妈妈命名的小行星有一颗卫星。

主持人：它有多大？

约翰：主星他们认为直径大约 4 公里，我尽量把单位说对。卫星大约 1 公里。所以它其实是个挺大的双天体。它们不完全是双胞胎，但差不多。

主持人：那门课上的其他人也发现过吗？

约翰：我记得还有一个人。这事有点像抽签。我一下子发现两颗是相当不寻常的。

主持人：是纯运气，还是你整天待在那儿？我试着小心一点，但……

主持人：一个人要怎么拿到奥斯卡？

约翰：还是那句话，也许我恰好在正确的地方。我的博士导师叫 Al Barr。1986 年我还是个学生实习生，在一个叫 Schlumberger 的地方——那是一家做石油勘探的公司，但他们有一个 AI 实验室。我们都在做计算机图形学的研究。当时我们在想——当时这是革命性的，我意识到现在这被认为极其无聊——你可以用物理模拟器来做计算机图形学电影。我当时觉得「哇这太酷了」。所以我说：你可以用弹性理论来做软的东西。于是我写了弹性理论、写了一个弹性模拟器，做了布料、可拉伸的东西之类。他们说「哇这很酷」。它的后代成了人们在皮克斯和他们的各种电影里使用的大量物理模拟器。所以我半开玩笑地跟实习生说：如果你实习做得好，你能拿奖（笑）。

主持人：从你做那件事到得奖，中间有多久？

约翰：20 年。

主持人：是 20 年。其实这并不反常，对吧？因为他们给你奥斯卡的时候，想确保它已经被广泛使用、大家都在用。当然，20 年之后，所有人都这么做了，看起来很显然，但你……

主持人：那是为某部特定电影做的具体工作吗？

约翰：不是。它像是一篇论文，然后皮克斯把它变成了他们很多工作的核心。事实上我很多朋友都做了很多这类模拟器。

主持人：我很好奇：你一直在量子计算附近，也在 Google 应用科学里直接做过一段时间量子计算——我记得你现在不在那条线上了，但还在涉猎。

约翰：还在涉猎。

主持人：那你怎么看量子计算这些年会怎么走？因为它有点像聚变：一开始让人非常兴奋，然后看起来很长时间没什么进展，也许现在又看到一些让人兴奋的迹象。

约翰：我想很多人都经历过那个。我倾向于把东西在几十年尺度上平均一下看——我猜我现在的年纪让我能把事情放在几十年的尺度上平均——那它就只是进展。

主持人：但从费曼当年连这个概念是什么都还没搞清楚，一直到今天，有 Willow 那个量子纠错的成果，看起来真的——用对的缩放定律确实是可实现的。你还这么认为吗？你会说量子还差 20 年，还是说你能看到它在加速？还是说仍然会——因为有很多领域我们看到「哦，这东西进展得非常快、非常出乎意料」，我很好奇你觉得这件事会快还是不会？

约翰：我觉得介于两者之间。它不纯粹是软件的事，因为我们需要造出足够大、足够稳定的系统，才能成为一台量子计算机，而不是一台量子仪器。我们现在处在所谓的 NISQ 时代——中等规模含噪量子——这个词我想是 John Preskill 造的。不是个很好的词，抱歉，但这就是我们有的说法。

约翰：量子团队做了一篇很棒的论文——我想我是众多共同作者之一——叫「量子回声」（quantum echoes）算法，现在可能就适用。它本质上是费曼提议的那种风格：技术上说，你可以试着拟合一个哈密顿量去观测数据，比如 NMR。意思是：你有一个带参数的物理模型，你用量子计算机去调整参数，在一个循环里搞清正确的参数——比如你可以从 NMR 里解码出参数。那是一件已经能用的实用事情。问题是它会不会大到足以做出突破——这还有待观察。

约翰：Google 的量子团队执行 Neven 几年前画的路线图执行得惊人地好，他们在一直往下推进，不断把规模做大；当他们打到下一个里程碑的时候，应该能有一台做惊人事情的量子计算机。他们一直在往前推。所以我想尺度是「几年到若干年」。我没有一直跟最新的具体日期，所以你们应该去逼问他们具体什么时候。但他们在往前走。

约翰：所以真正有意思的问题是：超导会不会赢，还是会被别的替代技术赢——这还有待观察。我仍然认为超导非常有前途，因为它非常可扩展。所以我不认为它还有 30 年，也不认为它明天就到。我不认为——除非出现突然的硬件突破——这些是极其娇气的东西。可能有人会有个绝妙的想法，但仍然要等很久，因为至少在 NISQ 时代、或者说有一段时间里，这些本质上是模拟计算机，因此非常非常娇气。所以我不会指望突然发生某种相变。

约翰：还没有人搞清怎么把量子比特扩展到任意的尺寸——现在还在 100 到 200 个量子比特的量级，我想。

主持人：你指的是……

约翰：有点像那样。对超导量子比特来说，物理比特和逻辑比特的比例，相对于你需要的错误率来说仍然相当大。也许那里会有突破，我不知道。还有别的东西可能不需要那么高的比例，因为很大一部分问题在于你布量子比特的芯片是二维连接的；而对中性原子之类，理论上可以把任意两个连起来——但实践上我们并不知道，至少我不知道中性原子的局限在哪，也许超级专家知道。

主持人：超导量子比特尤其有这种张力：你想要干净漂亮的谐振器，而干净谐振器靠跟环境解耦；但你又想要好的相互作用，那就要耦合谐振器，也就是跟环境连接。所以看起来……

约翰：对，但有的是整个环境，然后还有你想穿过去到邻居那里的小小的孔。

主持人：这不是某种根本的不确定性原理，而是一种技术上的限制或者困难？

约翰：对。Google 量子那边的硬件团队非常非常强，他们非常擅长做这些设计、让这些东西真的 work。所以我觉得他们令人印象深刻。

主持人：看到它前进会很激动。

约翰：对。我们只能屏住呼吸等着。

主持人：等着。

约翰：我大概就是很有耐心，所以我就开始干活。

主持人：领先 20 年。

约翰：这就是 Dave Bacon——他负责 Google 量子的软件团队——总拿我开玩笑：约翰，我 10 年前没法做量子计算，因为你会一直领先 20 年，那我得等 20 年。然后 10 年过去了，完成了（笑）。

主持人：走了一半。

约翰：走了一半。我不把那当成绝对真理（笑）。但我也是 10 年前开始做聚变的，那就…… 主持人：也许你其实是因果性的：你开始做某件事，现实就追上来。

约翰：也许是吧。谁知道呢。

约翰：我很早就喜欢卷积网络，90 年代初。

主持人：Yann（LeCun）说是我……

约翰：「卷积网络」这个词是我造的。就我所能查到的，这可能是真的。因为当时所有人都叫它「LeNet」，那是一个很具体的东西，而他们都为 Yann 工作。我说：我不为 Yann 工作，我不想把它叫 LeNet。所以我把它叫卷积网络——一个更通用的词。是个好词。

主持人：走之前，你有没有什么想让听众带走的？有什么想传达的？

约翰：我想 ERA 是其中一个例子。但我真的对 AI for science 的潜力无比兴奋。我认为它会成为科学家手中一件了不起的强力工具。我认为科学家不会被取代；事实上我希望他们会把所有时间花在——还是那句——创造性的东西、严谨的东西、哲学的东西上。所以我觉得这会非常酷。

主持人：我也希望如此。

约翰：对。

主持人：我的直觉是——我听到很多人这么说，我希望他们是对的，希望这不只是在应对一个让人不舒服的现实（笑）。还有一个我们差点忘了问的问题：如果你能凭法令、像变魔术一样移除你所在行业里的一个瓶颈，那会是什么？

约翰：如果我能有一个魔法愿望，我会说：请谁造出那个「万能实验室」（everything lab）——你可以往它发一个 JSON blob，它就能做任何实验。

主持人：自动化的。

约翰：但它必须能做任何事。所以我想我们得先解决那个「AI 完备的机器人问题」。但如果我们解决了，那会非常惊人，因为现在像 ERA 这样的东西全是计算性的，得有人去采集数据。所以是的，如果我们能打破这一点——哦，那会太棒了。那会无比美好。

主持人：太好了。非常感谢你花时间来看我们，而且我觉得你是特意飞过来、调整了日程。

约翰：我本来是从旧金山飞过去回家的，所以我说「我在旧金山落地」。

主持人：所以你为了来这里费了很大功夫，我们真的很感激。跟你聊天真的很开心。

约翰：谢谢。

主持人：这真是一次很棒的对话。

约翰：好，谢谢你们邀请我。

主持人：不客气。