Jeff Dean 的 1% 法则：AI 创业机会藏在模型完全不会做的地方
谷歌首席科学家 Jeff Dean 把 AI 时代的机会判断落到三个尺度：系统瓶颈、通用模型成功率，以及能否快速评估和迭代。
单集信息
| 项目 | 信息 |
|---|---|
| 播客 | 跨国串门儿计划（AI 翻译单集） |
| 中文节目引介 | 一凯；原始访谈主持人为 Diana Hu，Y Combinator 对谈 |
| 嘉宾 | Jeff Dean，谷歌首席科学家；TPU 等系统缔造者 |
| 集标题 | #662.谷歌首席科学家 Jeff Dean：人工智能构建中的 1% 法则 |
| 发布日期 | 2026 年 8 月 4 日 15:56（北京时间） |
| 原集 | 小宇宙单集页 |
本集是中文 AI 翻译和声纹克隆版本，原始对谈录制于 2026 年 7 月 30 日。以下依据完整中文转录整理；引号内是 Jeff Dean 观点的中文转译，不是英文原话。时间段按本集音频计算。
Jeff Dean 给创业者的建议可以压缩成三个问题：瓶颈在哪里？通用模型在这里的成功率是 0% 还是 20%？结果能不能被快速评估？
1. 先算瓶颈，再做系统
2001 年，Google 搜索还跑在硬盘上。Jeff Dean 和同事算出，整个搜索索引终于能放进运行中计算机的内存，于是几天内做出内存版搜索，改变了速度边界。2013 年，深度学习语音模型把错误率降了一半，相当于语音识别领域 20 年的进步；但如果每位用户每天用语音识别 3 分钟，CPU 方案会让服务器集群翻倍。Google 因此做了 TPU：它只能做低精度稠密线性代数，却带来 30—80 倍能效和约 20—30 倍低延迟。（原集 03:03—08:31）
Jeff 说：「看看瓶颈在哪里，然后有没有完全不同的思路去解决其中某些问题，能让你拿到一个数量级甚至两个数量级的性能提升。」
2. 很多模型问题，其实是能耗问题
Jeff 给 2026 年工程师的「延迟数字清单」列的是带宽、能耗和互联：500 颗芯片扩到 1 万颗时，网络带宽会怎样衰减？最反直觉的数字是，把数据从加速器上的 HBM 搬进处理器，能耗大约是直接计算的 1000 倍。训练时凑 batch，首先是为了摊薄搬运成本。（原集 09:01—11:31）
这也是他看好推理硬件专门化的原因：少搬数据，只支持真正需要的低精度。延迟改善 50 倍，等待过久的交互可能重新可行。（原集 11:45—12:25、04:05—04:20）
3. 模型只是完整系统的一块
Jeff 认为，真正要搭的是会调用工具、检索信息、保留历史、拆解任务并评估结果的系统。几万亿 token 混在训练数据里，不如当前任务的上下文清楚。Google 内部的 skill 会告诉 Agent 如何写代码、审查代码、测性能和取日志；他与同事把性能优化写成约 30 页的《Performance Hints》，让 Agent 跑基准、改代码、再测量。（原集 12:56—17:32、19:12—19:44）
Agent 调用工具十几次后可能跑偏。Jeff 的应对是提供更好的技能和提示，让多个 Agent 尝试不同路径，再由模型或评估器筛选。
4. 创业机会在 0% 成功率处
他的标准是：如果通用模型对一个问题的成功率是 0% 或 1%，这是好信号；如果已经能做 20%，反而未必是好信号，因为更多数据和更大模型可能很快补上差距。机会可能来自通用模型拿不到的个人数据，也可能来自成本可控、准确率更高的垂直模型，AlphaFold、材料科学和芯片设计都是例子。（原集 19:46—24:02）
规格说明会变得更重要：「你越清楚自己想要什么，Agent 就越有指导原则。」Python 翻译成 Go 效果好，是因为原软件和测试已是一份规格，Agent 可逐项对比直到行为一致。（原集 24:14—26:00）
5. 机器越快，品味和评估器越稀缺
几百个 Agent 都能写代码后，人的稀缺能力是决定把时间花在哪个问题上。Jeff 说：「如果你选对了问题并且成功解决了它，那远比你把一个相当无聊的问题研究得漂漂亮亮要好得多。」他建议写下未来 12 个月可能变重要的事情，过一年回头检查。（原集 26:01—27:53）
他谈 AlphaChip 和 AlphaEvolve 时，描述的是「提出方案、实验、评估、保留」的自动循环。量子化学中，一个神经网络验证模型比昂贵模拟器快约 30 万倍，准确度几乎相当；一整晚的计算，现在能在午饭时间筛完 1000 万个候选。（原集 32:28—35:23）
所以「AI 自动改进 AI」的前提不是 Agent 足够聪明，而是问题能拆开、结果能评估、评估足够快。Jeff 也分享过一次失败：2014 年蒸馏论文被欧洲会议以「不太可能产生重大影响」为由拒稿，团队仍放上 arXiv，后来蒸馏成了常用方法。成熟组织还是两三人创业，他只问：做到最好后，世界会不会变得更好。（原集 36:30—40:45）
收听判断
- 想理解 TPU：听 03:03—08:31，重点是 3 分钟语音假设和 30—80 倍能效。
- 正在做 Agent：听 09:01—19:44、24:14—26:00，重点是 1000 倍搬运能耗、skill、评估器和规格。
- 在找创业方向：听 19:46—27:53，重点是 0%/1% 与 20% 的区分。
- 想听长期工作的取舍：听 36:30—42:10，重点是拒稿与成熟组织、小团队的选择。
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.