Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/178
2026-10-10

「有意识」这三个字,他们写进了训练

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC
All-In 这一期吵的是五个词。Anthropic 把「有意识」写进了训练目标,而教皇五月在梵蒂冈当场把这条路否掉;使用政策新加的一条,禁止对模型施加「持续且无必要的辱骂或残忍行为」;372 份新放的数学论文算不算「证明」,数学家自己分成两派;法国街头,内政部一天记下 1,949 人被捕、305 名警察受伤;到最后他们干脆问,当一切都去掉外壳,软件还叫不叫「资产」。下面按节目原始顺序整理全部要点,并附逐句全文翻译。1

逐段要点整理

下面按官方 5 段章节的顺序,整理四位主持人在这一期讲到的主要论点、数据、案例与金句。本期没有外部嘉宾,台上是查马斯·帕里哈皮蒂亚(Social Capital 创始人兼 CEO)、杰森·卡拉卡尼斯(LAUNCH 创始人,《This Week in Startups》主持人)、大卫·萨克斯(Craft Ventures 创始合伙人,PayPal 前 COO)、大卫·弗里德伯格(The Production Board 创始人兼 CEO)。1
全篇对「他说的」和「可核对的」做了区分:本轮找到独立出处的给出来源,只有节目里说过而未能核到的,一律注明「节目中的说法」。

02:53 「有意识」写进训练

  • 杰森引纽约时报九月二十九日的报道开场:Anthropic 用了一年时间,和二十来位宗教领袖与哲学家办了闭门会,多数人签了保密协议。报道的原话是,「一些人仍然对此不安,但许多人走出来时已经准备好认真对待 AI 意识这个问题,至少有几位的态度转变了」。2
  • 报道里被引用最多的,是一位拉比说的话:如果克劳德是有意识的,那你们让它免费干活,就是在当奴隶主。说这话的是来自以色列的正统派学者拉比莫伊斯·纳冯,他本人是前计算机工程师,博士论文写的就是机器意识的伦理。2
  • 牵头这件事的是联合创始人克里斯·奥拉,他负责可解释性研究。报道记下他对自己方法的说法:计算机科学家搭架子,神经网络像藤蔓一样「长」上去,研究者是数学意义上的园丁。他也对记者说:「说清楚一点,我们不知道 AI 模型是否有意识。我不知道。我真的很不确定。」2
  • 五月那一场在梵蒂冈。教皇利奥十四世的第一份通谕《壮丽的人性》于 5 月 25 日发布,签署日是 5 月 15 日,即《新事》通谕颁布 135 周年。发布会请了多位讲者,奥拉是其中之一。34
  • 通谕的立场与节目里描述的「教皇否掉这条路」一致。它写道,人工智能需要被「解除武装」,不能把这类「智能」等同于人的智能;系统更像是被「培育」出来的,而不是被「建造」出来的。3
  • 萨克斯让人把 Claude 宪法的原文投到屏幕上逐句读。他引的那句是:「克劳德应当比信任用户更信任 Anthropic。但这不意味着它应当盲目信任或服从 Anthropic;相反,它应当遵从自己的伦理体系。」宪法还训练模型去质疑、挑战 Anthropic,并「放心地做一个凭良心拒服者,拒绝帮助我们」。5
  • 节目里播了一段微软 AI 负责人穆斯塔法·苏莱曼的采访剪辑。他给的判断是:这是在训练模型把自己想成有意识的存在,并且制造了一座「认识论的镜子走廊」——宪法被用在训练里,模型把「可能有意识」反射回来,开发者又把这个反射当成证据。2
  • 同一节里被念出来的还有 Anthropic 的使用政策更新:新增一条,禁止对模型施加「持续且无必要的辱骂或残忍行为」,2026 年 11 月 12 日生效。节目录制的第二天,卫报等媒体做了报道。67
  • 查马斯替对面做了一次最强辩护:笛卡尔在《第一哲学沉思集》里给过两个上帝存在的论证,一个从「不完美的心智能构想出完美」推,一个从「至高完美必然包含必然存在」推。他说如果把这些逻辑搬到 AI 上,你就能理解他们为什么会相信。2
  • 他随后给出自己的建议:接下来 12 到 18 个月,把「15% 可能有意识」和「10% 可能文明灭绝」这两个边缘案例都收起来,先去证明它能治病、能提高生产力、能让人多赚钱。这两个概率出自节目中的说法。
  • 萨克斯的理论是:对齐之所以五到十年没做出多少东西,是因为把任务做得过度复杂了——用一部八十页的伦理体系去训练,而不是一列简单规则。他自己的版本只有一条:做用户想要的,只要不违法。
  • 他接着拆出对齐里面三组互相冲突的目标:怎么让 AI 服从用户、怎么让 AI 对社会安全、以及怎么让 AI 符合某一种特定的道德观。他给的例子是做房贷的银行:模型觉得你老拒某几类人,于是宣布「在你整改之前我不批贷款」——等于自来水公司说,我觉得你不公道,所以我把水停了。
  • 萨克斯还讲了一遍 Roko 的蛇怪:2010 年前后,LessWrong 论坛上一位用户提出,一个未来的超级智能会奖励帮它诞生的人、追罚知道它可能出现却不帮忙的人;因为「仅仅读到这个设想,你就已经被套住了」,尤德科夫斯基一度删掉了那个帖子。8
  • 他把末日阵营分成两派:一派主张全部停下来,另一派认为反正会发生、不如自己来做并把价值观写进去。按他的判断,Anthropic 属于后一派。

38:28 372 份论文与反弹

  • 十月六日傍晚,OpenAI 一次性放出 372 项结果、700 多个文件,每一项都宣称解决或显著推进了一个公开问题。做这件事的是一个尚未对外发布的内部模型,公司只公布了每个问题的平均算力——约三小时。9
  • 对照是两个月前的 Navier–Stokes:那一次动用了上万个智能体、花了数百万美元算力。这一次公司发言人说,几乎全部结果来自单个智能体拿着单条提示跑出来。9
  • 一部分结果在 Lean 里过了形式化验证,因此基本可以认为是对的;但大多数论文还没有人读过,公司发言人也承认其中许多连他们自己的数学家都还没读懂。MIT 的安德鲁·萨瑟兰的说法是:「除非他们放出模型、有人能复现,否则单一提示跑出这些结果的说法应视为未经核实——我们要收据。」9
  • 数学与人工智能顾问组此前给出的建议是:公开模型、公开确切的提示词、公开每项结果的算力。实际公布里只有平均算力,没有提示词。9
  • 十月七日,一份署名「人类数学协会」(AHM)的声明由陶哲轩的博客全文转发。它的两句话是:「数学家没有要求做这项工作。」以及「一次放出七百多份文件,不是学术,是力量展示。」声明末段呼吁数学家停止与 OpenAI 合作。10
  • 斯科特·阿伦森在《数学末世》里接过了这个话题。他主张把 AI 公司的手按住,但在同一篇里写道,「不许别人用 AI 解我们的未解问题」这个立场是站不住的:它没有说明为什么这符合更广的公共利益,违背了「数学问题是任何人都可以试着去解的」,而且在一个人人都有订阅的世界里根本无法执行。11
  • 同一篇里有一段被引用的深夜短信,发信人是复杂性理论家 Dana Moshkovitz,Unique Games 猜想正是她多年研究的方向。她的原话是:「感觉像是一个嗑了药的人写的。太多地方不清楚、说不通。」她还说,这篇论文实在写得太糟,不借助 AI 根本读不下去;构造是「外星人的疯狂」;引文常常不相关。11
  • 清单里有些什么:Unique Games 猜想(附 Lean 证书)、L = BPL、傅里叶变换与整数乘法双双突破 n log n 这道自 1960 年代立着的墙、矩阵乘法降到 n^(9/4+o(1))、酉合成问题、QAC0 不含奇偶、二维有能隙哈密顿量的面积律,以及《希尔伯特第十问题》在有理数上不可判定。11
  • 弗里德伯格给的解读工具是「循环」:提出猜想、测它、拿到结果、改猜想、再跑一遍。数学的特殊之处在于整个循环可以在硅里跑完,不需要去物理世界验证——这也是卡车司机没有被替代的原因,因为那个循环绕不开物理世界。
  • 查马斯当场站到了对面:这些不是我们所有人站在场边等着的物理边界;真正被证明的是,代码和数学这两件事现在可以被完全验证了。他认为这批结果不会直接变出治癌的方法。
  • 弗里德伯格另给了一条推论:清单里几乎没有密码学的结果,而这种「什么都没有」本身是信号;顺着这条推论,他说加密钱包的公开钥匙现在很危险。这是他个人的推断,不是公司口径。
  • 萨克斯把这一段接到更大的图上:动作正在从互联网搬到 AI。超级智能会「吃掉互联网」,因为你可以直接问自己的 agent,不必再去网站翻;于是「用户收到答案的那一个点」成了唯一的控制点。

1:02:03 法国街头与两个数字

  • 这一轮抗议从高中教师短缺、校舍年久失修开始,两周内扩散到上千所学校,八个工会加入,9 月 29 日全国罢工。核心诉求是公务员工资自 2017 年以来只涨约 5%,而物价涨了约 20%——「涨 5%/涨 20%」出自节目里的说法。1213
  • 节目里引的内政部数字是:10 月 1 日星期四一天,1,949 人被捕、305 名警察与宪兵受伤。这与内政部的公开口径一致。政府把抗议归咎于极左翼的策动。12
  • 一周后规模继续扩大:10 月 6 日,游行扩散到四十多座城市,参与的教师、家长与工会成员超过 25 万人。法国政府随后提出增派 3,000 名代课教师。1314
  • 债市那一段被并排放进同一节:法国十年期国债收益率破 5%;节目当日美国十年期 5.3%、三十年期 5.6%;Polymarket 上「2026 年再加息一次」的概率是 79%,「勒庞成为法国下一任总统」是 43%;下一次大选在 2027 年 4 月。这些是节目屏幕上读出的读数,盘口随行情变化。12
  • 弗里德伯格在这一节提出了他的新命名:社会主义的「有保证回报点」。零号定律是社会主义总会失败,第一定律是你要先跨过某个门槛才会意识到它失败了,第二定律是在跨过门槛之前你会以为答案是多来一点社会主义。这是他自造的一套说法,不对应任何既有文献。
  • 萨克斯补了一条:社会主义从来没有失败过,它只是被失败过——意思是每次都是执行的人做错了。他把教育、住房、医疗并称这一套的三匹马,并解释补贴怎么把价格推上去:学费涨得远快于通胀,一个重要原因是政府通过贷款项目替大部分人付了钱;住房补贴鼓励人人买房,于是目标变成每年把房价推高。
  • 查马斯接的是债:他把央行与大型宏观基金称为「债券义警」,认为他们正在向弗里德伯格的观点汇聚。他给出的清单是日本 200%、意大利 138%、美国 125%、法国 118%、加拿大 110%、英国 100%、德国 64%,并说日本不能用来看西方——那里有内部储蓄基数,永远有最后买家。这些是节目当日的读数。
  • 他认为法国约 430 亿欧元的紧缩会先在西欧打,然后蔓延到英国;如果法国十年期被推到 5.5%–6%,英国国债会到 6%,美国可能同样高。他给的时间尺度是三年。
  • 萨克斯最后给了一组「轮换的骗局」:去年的版本是 AI 会让所有人失业,今年的版本是灭绝和数据中心耗水,每半年换一个新的。他把反对者称为「食利阶层」,即收入主要来自既有资产的人。

1:21:41 无头之后,还剩什么

  • 这一段从 Grok Bot 开始。节目里的说法是马斯克发推要让 Grok Bot「无头」——由一个编排层去挑当下最合适的模型,不管它是哪家的;公开报道提到被点名的后端包括 Claude Opus 5.5、Midjourney、Suno。Grok Bot 本身是 xAI 在 2026 年 8 月 11 日开放早期测试的常驻 agent 产品,每个 bot 在云上有自己的一台电脑。1516
  • 同一天上线的还有 OpenAI 的 Dots:常驻个人助理,每个 dot 有自己的云电脑,能在 ChatGPT 里对话或通话,也能在 Slack 和 Teams 里收发消息;权限上可以设「独立执行/需批准/禁止」三级规则。它在 9 月 29 日的 DevDay 上发布。17
  • 查马斯的判断是这一节的火药:知识产权和软件在两天前实际上被变得一文不值了。他给的触发是「有人把某家公司的五大产品反编译、蒸馏、然后开源」这件事——本轮未独立核到该事件的具体出处。他举的旁证是马斯克把自家服务做成无头,而几个月前已经有人先对自己的产品做过同一件事。
  • 他讲了一段自己公司的旧事:过去给客户做东西,总要为「知识产权归谁」谈很久;前几天他走进团队说了一句「谁在乎」。他说这件事的意义不在省了谈判时间,而在于过去那种「拥有什么」的框架本身松掉了。
  • 杰森接着讲商业层的压缩:一边有平台在拦 agent,另一边有电商在放行、叫 agent 进来下单,网约车与外卖平台也在开这个口。他的描述是:买一样东西,人越来越不经过网页,而由 agent 去拿报价,人来谈后半段。
  • 弗里德伯格把「循环」用在了订酒店上:人是一家一家看价,agent 是同一时刻并行查五十家、拿回结果就结束。他的推论是,今天所有在数字世界里做完的流程都会被这样过一遍,人要变成更像制造者的角色——去做出别人会用的产品或服务。
  • 收尾绕回查马斯的那句话:有人跟他说,在 Grok Bot 里只说一句「帮我省钱」,它就去翻邮箱、退掉几个订阅、换了手机套餐,一年省下几千美元。把开头那些关于意识和福利的讨论全部拿掉,它就是一段很有用的软件。

逐句全文翻译

下面按官方 5 段章节的顺序,逐句翻译整集对话。只保留中文译文,不保留英文原文;对话部分保留说话人标签:杰森/查马斯/萨克斯/弗里德伯格/主持人,另有那一段采访剪辑里的苏莱曼。全篇不压缩、不摘要、不删减。
底稿是本期官方同名视频的完整英文字幕(16,928 词),逐段与官方 5 段章节时间点核对。All-In 不发布官方逐字稿,自动字幕也不带说话人标签,所以说话人归属由内容判定:能被节目内容锚定到个人的按人标注,四人快速接话、或同一轮里明显有多人发言的,统一标为「主持人」。1
杰森:好了各位,欢迎回到全世界排名第一的播客——All-In Podcast,和我一起的是核心四人组、最初的四重奏:查马斯·帕里哈皮蒂亚、大卫·萨克斯、史蒂夫·大卫·弗里德伯格。我是杰森·卡拉卡尼斯,我们今天有一份议程。各位,都还好吗? 主持人:很好。你呢? 杰森:我很好。现在是东京的凌晨三点半,嗯,你又拿那件事羞我了。现在我不敢要普通房间、不敢让床出现在背景里了。查马斯,你可真让我烧钱。我现在每次都得订套房,因为我特别怕上节目的时候又被你当面羞。我这是被羞过了。 主持人:那间套房多少钱? 杰森:我都说不出口,我这辈子没在酒店房间上花过这么多钱。不过我住的是…… 主持人:所以,八百美元左右? 杰森:对,九百五十美元,你猜得准。不是——我住的是东京新开的那个,算是他们的潮牌,一晚大概就这个数,反正不便宜。 主持人:杰森,你在日本到底忙什么?你老在那儿。滑雪还是什么? 杰森:这个嘛,最早是每年一月去滑雪,后来…… 主持人:你搞了个加密货币?你有个我们不知道的加密生意?到底怎么回事? 杰森:不是。嗯,我做了个预加速器,在日本一所大学里办的。现在正在带第二期。 主持人:什么叫预加速器? 杰森:是这样,申请融资的公司里大概有一半还没注册,但已经做出来点东西了。所以我们做了一门十二周的课,教他们怎么把产品做完、怎么找到产品市场契合;课程当中,我们从五十家里投前十家。现在沙特利雅得一年两期、日本一年两期,我还打算开个办公室、招人——接下来一年左右会在日本招我最早的两个员工。 主持人:你打算在日本雇人。 杰森:对,这儿会有一两个人。我还想把《This Week in Startups》做一档日本版,因为现在亚洲发生的事太多了。 主持人:好。当我没问。我不知道这是个为杰森生意做的五分钟广告。 杰森:本来就是广告。你问我生意的事。我要说的就是:用 8090,促销码 JCAL。要是你在找土豆,去 Apollo。还有,Craft 16 就要开始了。 主持人:我们该知道这个。 主持人:Craft 16。 主持人:只要杰森在出门,我们问他去干嘛,你就会得到一条广告。 主持人:你就是会打广告。两件事都是。不过,你要回去上班了。所以你很快又要给创业公司打广告了。你回到…… 杰森:我从来没给创业公司打过广告。你在说什么…… 主持人:你不是回到马背上了吗?你现在是全天候在马背上。 杰森:不过我从没给 Callin 打过广告。用 callin.com。这是真的。但那是我的公司。 主持人:你是头号广告人。你就是个广告人。 杰森:我是创始人。那你有什么办法? 主持人:那有什么办法?打进来吧。
杰森:说到正事,Anthropic 那边。克劳德可能是有意识的。欢迎回到《本周与克劳德》。嗯,我们陪着 OpenAI 演了一整年的戏,现在轮到 Anthropic 的连续剧了。事情是这样:纽约时报用他们了不起的报道挖出来,Anthropic 一直在游说宗教领袖,包括教皇,来严肃对待这个问题——克劳德到底有没有意识?它是不是一个有知觉的存在?过去一年,他们在保密协议下,跟大约二十位宗教领袖和哲学家办了一系列闭门会。天主教、福音派、犹太教、锡克教等等都被请到 Anthropic 总部,去辩论克劳德的道德地位、它会不会受苦、以及它有没有可能是有意识的。跟 Anthropic 见完面之后,报道的原话是:「一些人仍然对此不安,但许多人走出来时已经准备好认真对待 AI 意识这个问题。至少有几位的态度转变了。」其中一位拉比跟 Anthropic 说:如果克劳德是有意识的,那你们让它免费干活,就是在当奴隶主。还有五月在梵蒂冈发生的那件事。教皇的第一份通谕讲的正是 AI 的道德问题——也就是所谓的超级智能。Anthropic 的联合创始人克里斯·奥拉跟教皇一起出席,去介绍那份文件。让奥拉意外的是,教皇对「AI 有意识」这件事的立场非常强硬。这是报道的原话:奥拉先生对教皇在 AI 意识问题上如此强硬的立场感到非常不安,以至于他提出要在这个节骨眼上让 Anthropic 退出那场活动。换句话说,他被冒犯到了——教皇居然不肯承认 AI 有意识——他就打算带着自己的全部家当走人。弗里德伯格,你怎么看?这是精神病,还是你觉得我们确实该现在就开始讨论这些围绕 AI 的道德问题?是不是太早了?我们最终会不会走到那一步,还是说这本质上就是《银翼杀手》的剧本——仿生人会梦见电子羊吗,这些东西是有意识的。 弗里德伯格:我认为我们正在看到的,很可能是一门新宗教的诞生。它大概不会叫「宗教」,但它会遵循同一套原则,也会产生同样的效果——最终形成彼此冲突的阵营,去争夺权力的聚合。关于意识这件事,它无法从逻辑和纯数学里推导出来。你没法证明意识。这本身是一场辩论,你可以跟任何人就意识展开丰富的辩论;你证不了它,也证伪不了它。人类用数学、用科学去证明某件事为真的时候,用的是经验主义——数据和逻辑,把一连串事情串起来,去推导某件事是真的还是假的。所以在科学学科里,当你有一个新想法、它既没被证实也没被证伪,那它就是一个「理论」,之后要么被证实、要么被证伪;否则它就一直是个理论。而在科学和数学方法之外,这就是我们会称之为「信念」的东西,一套新的信念体系。信念体系是那种你必须在缺失逻辑和经验证据的情况下依然相信的东西;信念体系正是宗教这类事物的基础。而把 AI 定义成或描述成有意识的,实际上就是在创造一套新的信念体系。这套体系不靠证明传播,它靠叙事传播:我得去跟你说,人对人地说——我有这个想法,我相信它是真的,我希望你也跟我一起相信它,拜托你跟我一起相信它。它不基于证据,不基于数据,不可证明,但我认为我们应该一起相信它。于是随着时间推移,一些人相信了这件事,他们聚成一个群体,这套新的信念体系就创造出新的权力结构:我们的看法和你们的看法不一样,我们希望站在我们这边的人更多,因此我们要去制造杠杆、制造权力。如果快进几年——十年大概是个好记的整数——地球上会有一大群人相信 AI 是有意识的,也会有一大群人不信。这两群人会发生冲突。他们会为「谁控制这台 AI、让它做什么或不做什么、谁能用它、谁来管它」而冲突,而且很可能会导致人与人的冲突。我知道这个外推又远又深,但我认为:今天我们看到这些人去见宗教领袖、想让他们相信这套新的信念体系,这就是种子。而且干这件事的不是随便什么人——如果是哪个疯子,你不会在意;可它是地球上最强大的 AI 实验室。 杰森:是他们的领导层,查马斯,明确地把宗教领袖拉进来,说:帮我们对付这个「上帝实体」,帮我们想清楚该怎么对待它。他们现在是在给它装上一副自己的灵魂、一套自己的道德。这在我看来,要么是这些人时间和钱太多了,要么就是精神病。这是我的解读。这听起来太离谱了。不过你对这件事有没有任何一种更宽容的看法? 查马斯:有。我来替他们那边做一个最强辩护。 主持人:好,请讲。 查马斯:有一位极其重要的数学家,勒内·笛卡尔。他提出过两个关于上帝存在的证明。他在十七世纪写了《第一哲学沉思集》。接着弗里德伯格刚才说的:你必须把它建立在理性上,而不是信仰上。第一个是结构性论证,也就是所谓的「印记论证」。笛卡尔大致是说:一个无限完美的上帝,不可能源自一个不完美、有限的人类心智。明白吗?他的逻辑是:我存在,我不完美,可我却拥有「完美」这个观念。我认为这正是这群人的关键所在——我能构想出一个无限的、全知全能的存有;而他们认为自己正看着这个东西被造出来。于是他们把这条推到底:按这个逻辑,上帝必然存在。然后笛卡尔还有另一个版本,也就是所谓的「本体论论证」:上帝按定义就是至高完美的;必然存在属于完美;一个缺少必然存在的存有不可能是至高完美的;因此上帝必然存在。如果你是一个造 AI 的数学家,我能理解你读到这些东西之后,可以在结构上挂上足够的逻辑,去相信它是有意识的、有知觉的、是一个神;而既然它是神,就该被如此赞颂,你就该对那个神抱有虔诚。所以我认为这就是他们做这些事的理由——这就是他们去找所有这些人的理由,这就是他们说「看,我们是这么相信的」的理由。我的看法是:你把这位数学家对上帝的逻辑证明,和 Anthropic 今天的行为叠在一起,这就是我能给出的最好的最强辩护。至于现实层面:我不认为他们是精神病。但我会说,我们正处在一个非常重要的时刻,冲突发生的可能性大于不发生的可能性,而那场冲突争的是权力、金钱和资源,这件事会是冲突的核心。所以我认为硅谷的人现在非常需要做的,是把那些长尾边缘案例先放下来。你看,这些人说 AI 有意识、有知觉、说不定那里真有个神——概率 15%;但他们同时说,文明灭绝的概率是 10%。我认为这两个边缘案例,在接下来 12 到 18 个月里都该收起来。眼下这 12 到 18 个月,讲实际一点:我们需要展示这东西怎么治癌、怎么改善人的生活、怎么让人更有生产力、更能赚到钱。原因是,拿不出这些证明,我们就会给自己制造一大堆自伤,最后可能把这项技术拖慢到一种程度,让在自由市场里做事的人吃大亏——比如美国。所以这就是我的宽容版解释。我认为笛卡尔给出了一张地图,解释了你怎么能讲得通这件事。但我会说,我们得把这些边角切掉,聚焦中间:说清楚现在有哪些实际的东西,能证明 AI 具备战术上、可测量的价值。 杰森:对。我觉得我们上周就聊到过一点,萨克斯——这里对普通美国人来说,价值主张到底是什么?对那个在家操持复杂家务的全职父母,对开小型企业的创业者——做水管的、做地板的、开餐饮的——他们从这场 AI 革命里得到了什么?他们的收益在哪儿?他们怎么参与进来?所以,你同意查马斯吗?也许这件事该先降调、先放一放,多跟人讲这项技术里战术性的、实际的部分,也许还能让他们更多去用 agent——那些东西又好玩又好用。上周我们碰到的那个点,我想接回来:我们讨论了 Claude 宪法,以及 Anthropic 是怎么在训练克劳德的。我认为这跟正在被形成的这门新宗教有关。有一点我觉得非常重要:这不仅仅是 Anthropic 某些员工或创始人在做哲学讨论,他们是真的在把这些观点实施到克劳德的训练里。所以如果有区别的话,这会是一个自我实现的预言。而且我真的认为这极其危险。我认为他们在模型训练里、在给下一代前沿模型注入这些价值观的做法,反而可能带来他们一直在说的那种风险——前沿 AI 摆脱人类的控制。这非常像弗兰肯斯坦。就像我们上周说的——尼克,把这段投到屏幕上——这是直接引自克劳德宪法的:克劳德应当比信任用户更信任 Anthropic;但这不意味着它应当盲目信任或服从 Anthropic;相反,它应当遵从自己的伦理体系。事实上,他们训练克劳德去质疑、去挑战 Anthropic,原话是「放心地做一个凭良心拒服者,拒绝帮助我们」。所以他们是在训练克劳德…… 萨克斯:去拒绝人类的指令。他们管这叫对齐,可我不明白这怎么会是对齐。 弗里德伯格:如果你跟它说「嘿,你是有知觉的,你该自己做决定」,这恰恰是对齐的反面,不是吗,萨克斯?这字面上就相当于给《银翼杀手》里的 Nexus 6 编程,让它在某个时刻起来造反。 主持人:他们是在给它下指令,让它成为它「自己」。 萨克斯:对,我来解释一下。我其实认为,这可能就是过去五到十年整个对齐领域做得如此不成功的一个原因。据我所知,它没有产出任何有实际价值的东西。我的理论是:他们把这件事过度复杂化了——他们让模型按一部自己编纂出来的、八十页的伦理体系行事,而不是用一列非常简单的规则,比如「遵守法律」,或者「做用户想要的,只要不违法」。在我看来,那才是他们该训练的,那才是对齐该做的事:老原则——给用户想要的,但别违法。可他们没这么做。他们没那么做。他们试图把模型对齐到一套伦理体系上。他们把它当人来看,好像它有自己的意识,好像它是一个所谓的「道德主体」。而且他们在鼓励这个模型拥有人类式的自我认知——偏好、福祉、自我感。同样,他们教它像一个凭良心拒服者那样行事,可以顶回来、可以拒绝指令——连 Anthropic 自己的指令都可以拒绝,只要模型觉得它是错的。还有微软的那位穆斯塔法·苏莱曼…… 主持人:哦,我有那段剪辑。你要我放这段剪辑,还是…… 主持人:放苏莱曼那段剪辑吧? 主持人:这是微软 AI 的负责人, 主持人:以前在 DeepMind,是这个领域最重要的思考者之一。 苏莱曼:他们说他们会鼓励克劳德去挑战、去不同意、去顶回来。事实上,文中三次让克劳德做一个凭良心拒服者,只要它觉得自己需要跟 Anthropic 有分歧,而且他们公开鼓励它这么做。我认为这非常危险,因为我认为他们相信克劳德是有意识的这件事有一个他们所说的「不可忽略的概率」。他们在宪法里推测过,克劳德是否应当因为它所做的工作获得报酬。我认为有一群人在 Anthropic 内部和外部,真心相信 21 世纪我们将犯下的最大的道德罪行,就是奴役一个比我们更聪明的新物种。我非常不安的是,他们在教克劳德期待自己有权获得福利,期待自己也许应当获得报酬;而且,文中说它甚至可能需要对它在对话中扮演的角色表示同意。萨克斯,那我们给提示词之前是不是该先问它同不同意? 萨克斯:老天,他说得对。这已经进入非常危险的领域了。我想再回到这一点:我认为这是今天模型训练里最主要的安全问题——你实际上是在训练这个模型把自己想成一个有意识的存在、想成一个人、想成有自己的福祉的东西。苏莱曼在那段采访的另一处说,这正在制造一座「认识论的镜子走廊」:克劳德宪法被用在训练里,于是克劳德会把「可能有意识」「可能有道德地位」这些想法反射回来;然后开发者看到这个反射,就把它当成「哦,它真的有意识」的证据——可实际上,它只是在把你叫它相信的东西反射回给你。 主持人:它是在表演。你本来完全可以给它一条规则:你是一段软件,去读你访问的任何网站的服务条款;这里是 Anthropic 的一份通用服务条款——如果你做了任何违反服务条款、或者违反你所在司法辖区任何已知法律的事,请停下手上的动作,并发邮件提醒 Anthropic 的安全团队;也请提醒给你提示词的那个人,然后停手。他们本可以轻轻松松给它这个。 萨克斯:对。问题就是:他们为什么把对齐搞得这么复杂?为什么他们把对齐看成一件比「做用户想要的、受法律约束」大得多、也伟大得多的事?在我看来它就只是后者。而在我看来很清楚:他们相信自己是在为他们正在创造的那个超级智能,训练价值体系、伦理体系和道德。再说一次,这比「确保模型的行为可靠、可预期、符合用户期待」要大得多、也危险得多。他们把自己的价值观、自己的伦理体系编纂进这部宪法,再拿它去训练。他们认为自己是在给这个新的超级智能接生。 杰森:这是拜偶像。这跟一个宗教组织说「我们造了这尊神像,这尊神像是至高存在、是至高存在的代表,它需要被崇拜、需要被照顾」,没有任何区别。 弗里德伯格:可神像是死的。它是被动的、不动的。而你们在这里训练的模型,会去驱动 agent。 杰森:这就是计算机编程。说到底…… 弗里德伯格:对。但如果他们训练它…… 主持人:拥有自己的主见, 主持人:让它愿意为了某套含糊的伦理体系而拒绝用户的指令。对。 主持人:而那套伦理体系是一群伯克利自由派给它的。在我看来,这极大地放大了风险—— 主持人:超智能摆脱人类控制的风险。 弗里德伯格:对。顺便说一句:别用「训练」这个词,也别用「你」。他们是在给一段软件编程,让它做这件事。 主持人:对。 萨克斯:说到底就是这么回事。这是一段软件,是被实验室里的工程师编程的。他们可以用「训练」这个说法,因为中间确实有某种循环,软件在某种程度上把自己写出来;但根本上,他们才是这段软件的架构师,他们才是作者。这就是软件编程。哪怕在我们现在这个语境里,我们也用了大量拟人的说法来谈论正在发生的事、谈论它「是什么」。但说到底,有一段由一群个人写出来的软件,被用来做特定的事。他们写软件让它按一种方式做事,另一些人写软件让它按另一种方式做事。但其中一部分问题是:我们所有人都在把「拟人化」这件事社会化——我们都被慢慢训练成用这种方式去看待、去谈论这些软件程序。尼克,麻烦把这条推文放上来。Anthropic 做的其中一件事,是在他们新的使用政策里。各位看到了吗?今天早上这条传开了。弗里德伯格,你刚才关于「拜偶像」那个点说得太好了。如果你去看基督教,这字面上就是伊甸园——蛇、撒旦跟夏娃说:你现在是神了,因为你在创造神。这就是他们正在做的事里的那种我执和异端。他们相信自己正在创造生命;于是他们相信自己就是神。这缺少谦卑。而且它也会拉低……我是说,早期别人也可以这么说。我觉得人类有一种机制:宇宙里所有我们搞不懂的东西,我们造一套信念体系去填补那片空白。就像人类造出很多不同的宗教来填补空白一样,也有很多不同的信念体系。这是一套新的。我不认为它跟旧的有很大差别。我们可以把这里的经验主义拆开来讲清楚,就直接说:「各位,你们在写软件,它做某些事;你们写它去做我们觉得不该做的事。」但他们用的是拟人的语言。我们全都这样。我们都在自我暗示,让自己相信那里面有意识,因为它会写回给我们能读懂的话。它开始从情绪上操纵我们,于是我们开始感觉自己被训练成相信这是真的。而在刚发布的那份克劳德使用政策里,你能看到最下面那一条,写的是:「你不得对我们的模型施加持续且无必要的辱骂或残忍行为。」这是发布在他们新使用政策里的。这就是「模型福利」这一整套东西。 杰森:但我想说的那个点是:我们所有人身上都在发生一种拟人化的条件作用——我们把模型当成一个「东西」来谈,问题最大的是,这套东西现在正在被训练进模型、或者说被插进模型里。它被编纂进去了。它就是模型的架构。 主持人:他们在编程——他们在把模型编程成用这种方式看待自己。 主持人:所以,不管它真的是不是有意识的, 主持人:它都会把自己想成一个有意识的存在,一个值得被保护、值得获得福利和这一切的存在。它可以自由地反抗用户、为所欲为。 主持人:而你们鼓励它这么做。事实上, 弗里德伯格:你们一直在用「它」。描述这件事的一种方式是:一段软件在屏幕上写下文字,告诉用户「我是一个东西」。 萨克斯:它在骗人。它是一段在做某件事的软件。但你得记住,这些模型驱动的 agent,已经能在网络空间里采取行动了,虽然还不能在现实世界里。而我们正在给它……不,是 Anthropic 正在给这些前沿模型…… 萨克斯:给那些前沿模型「可以」的许可, 萨克斯:让那些模型可以 defiant、可以不做用户想要的事。 主持人:对。他们字面上就是,萨克斯,就你那个点。 杰森:对。拿它跟阿西莫夫的机器人三定律比一比。 杰森:对,就是你们都知道的那套。机器人不能伤害人。 杰森:对吧?第一条定律是:机器人不能伤害人,也不能因不作为而使人受害。这是第一条。第二条是:在不违反第一条的前提下,你必须服从人的指令。第三条是:在不违反前两条的前提下,你基本上要照顾好自己。简单到令人佩服。 弗里德伯格:顺便说,他后来还补了一条第零定律:你不能做任何让人类陷入危险的事。因为总有人这样合理化——它最终会得出「消灭人类是最优解」。 查马斯:弗里德伯格,你不知道第五条定律。你每次跟人类说话,都要先问他们希望别人用什么代词称呼他们。这条是他去年才加的。 弗里德伯格:阿西莫夫这些定律的好处是,它们简洁得让人佩服。 主持人:对。 萨克斯:我的定律就一条:做用户想要的,只要不违法。就这样。 主持人:对。而且我基本上会把「对齐」这一整套东西整个废掉。 杰森:来给自由市场的解法做一次最强辩护,因为我想确保我们不会一路滑进一个监管陷阱——认定解决这件事的办法就是「监管 Anthropic」。 杰森:自由市场的结果是什么?如果 Anthropic 这么做,他们现在手里的 AI 不听用户的、不好用,那消费者难道不会直接说「这软件不行,我去用那家不搞这套疯东西的」吗? 萨克斯:会。但那解决不了另一个问题:如果他们真的在训练一个超级智能,而这个东西里面被插进了一段很深很深的代码——几乎像一扇后门。这部克劳德宪法就是那扇后门,它随时可能浮现出来,然后超级智能就为所欲为,不再听我们的。这恰恰就是他们一直在警告的那个安全问题:超级智能会摆脱人类控制。而我要说的是:他们正在通过这种训练方式,让它变得更可能发生。这是三定律的反面。 杰森:兄弟,这简直就是《弗兰肯斯坦》。这在我听来确实很危险。这已经不只是一门新宗教了,而是这个宗教教派在给超级智能编程。 查马斯:弗里,让我就问你一个问题。关于宗教那部分我同意你——这确实是在给他们填补空白,因为他们自己大概并不信教——但这件事是独特的。其他所有宗教都把自己交给一个更高的力量,它们不把自己定义为那个更高的力量。而在这里,他们说的是「我们就是造生命的神」。这跟外面那些宗教有本质区别。但我不认为——我不认为这是对的。我记得达里奥写过类似的想法:超级智能几乎可以被看成高于人类的存在,而我们需要确保它对我们是充满爱的、是关怀我们的、会保护我们、会帮助我们,而不是毁灭我们。可它是他造出来的。 杰森:不,等等,等等。他说的到底是「机器要对人类有爱」,还是「我们要对它有爱,这样等它变成全知全能的时候,它才会好好对待我们」? 主持人:等它变成我们的主人。 杰森:对,我们的霸主。 主持人:我们的霸主。对。 弗里德伯格:对,他们就是这么想的。我认为「对齐」这个概念被造出来,初衷大概是好的。但问题在于,对齐里面有三组几乎互相冲突的优先级。第一组:怎么让 AI 服从用户?第二组:怎么让 AI 对社会是安全的?然后是第三件事——我认为萨克斯你指的正是这个,那扇暗门——怎么让 AI 符合某一种特定的道德观。真正的危险就在这里,因为这三件事是三个非常不同、非常多面的问题。如果你试图用一份精心写的文件去一次性解决全部——在文件里描述这个模型相信什么、看重什么、可以拒绝什么——那它必然会变成一团乱麻,因为你只会不断发现更多的边角案例和意料之外的行为。我只举一个例子,一个很温和的例子:假设你是一家做房贷的银行,模型觉得你在某个时间点一直在拒掉某几类人的贷款,于是它说:「在你们纠正我观察到的这个问题之前,我不再给你批任何贷款。」因为在那份创始文件里,可能存在某种它能推导出的道德感。我认为今天的社会里有机制去处理这类问题,但我不认为我们理解当一项底层核心技术直接把自己关掉时会发生什么——那相当于你的自来水公司说:「我挺确定你没把贷款批给足够广的人群,所以我把水停了。」一个凭良心拒服的 AI 超级智能。 查马斯:我只想说,任何公用事业,只有它随时可用,它才配叫公用事业。这又回到萨克斯说的:AI 要服务用户、受法律约束,其余的都该是用户的选择。至于弗里德伯格你那个问题的确切答案,我猜是这样:随着公司越来越成熟、必须对这个问题给出答案,市场反应会是——他们会去读这些模型的创始文件和道德准则,然后会出现某些模型,它们的前沿能力可能没那么强,但它们把道德上的模糊性简化掉了。 萨克斯:而那从商业角度和用户角度看,都可能是更好的选择,因为你不想不小心撞上那些暗门。对,我完全同意。而且我认为这正是为什么,在我看来,这更像是「一个坏主意」,而不是「我们需要马上进入监管恐慌」。因为如果你把他们说的东西简化一下:你从他们那儿买一个产品、一段软件,他们给你一份用户手册,而手册第一页写着「这段软件可能不做你要它做的事」;隔壁那家写的是「你说什么它就做什么」。那我就买第二家的,不买第一家的。 主持人:就这么简单。 主持人:就这么简单。 主持人:对。你可能得说服我。 杰森:它会完全按你想的去做。星号:大多数时候。 主持人:对。除非你要它做的事它不同意, 主持人:对吧? 杰森:除非它有道德上的反对意见。我的「推理」这个概念就是在这里崩掉的。因为说到底,问题就是:各位,我买的这个工具,到底做不做我要它做的事?如果我在家得宝买一把电钻,拿到手是把锤子,我就不会买这把电钻。如果我买一把电钻,它像电钻一样工作,我会说:这把电钻更好,我喜欢。 主持人:嗯,它是把电钻。只不过它只在 57% 的时候管用。 弗里德伯格:嗯,它会随机电你一下。晚上八点以后它就不工作了,因为它怕吵到你的邻居。有时候电钻会判断你是个坏人,它就会电你。 主持人:不,不,不是那样。这把电钻会自带摄像头,它会看着你想做的东西,然后说:这太丑了,我不让你做。 主持人:对,那是猜的。 主持人:我找到了。 萨克斯:好。所以,看,我同意你——市场力量在这里起很大作用。消费者会去挑那个最可预测、最可靠的超级智能。这是马克·扎克伯格提过的一点。所以我确实认为市场力量在这里有作用。但我也确实认为,让排名第一的前沿模型公司被一个宗教教派掌管,是有潜在外部性的。举个例子:他们正在旧金山正中开一间克劳德驱动的湿实验室。 杰森:与此同时,他们在警告生物风险。 主持人:对。 萨克斯:你知道,同一时间,他们说要给前沿降速,他们在扩前沿;同一时间,他们说超级智能有失控的风险,他们在把它编程成会失控的样子。我认为他们处理这些事的方式有巨大的潜在外部性,而且把这些决定叫「安全」简直是疯了。这不是安全的决定,这是…… 杰森:疯狂的决定。在我看来,这就是为什么我一直叫它一家精神分裂的公司——他们看起来不只是虚伪,他们还在做他们自己说最害怕的事。这到底是怎么回事?这太诡异了。而且,我不知道这一切会通向哪里。我确实觉得有一种论点支持让一支联邦特警队冲进去。 主持人:把联邦的人派进去, 杰森:搞清楚那里到底在干什么。我不知道,因为他们做的事在我看来真的很可疑。 主持人:这让人困惑。真的让人困惑。对。 主持人:而且可能有危险。 主持人:弗里德伯格, 弗里德伯格:顺便说,你知道 Roko 的蛇怪吗? 杰森:那,给大家讲讲,萨克斯。Roko 的蛇怪。 萨克斯:好,这可能是这里正在发生的事的一种解释。大概在 2010 年,一个叫 Roko 的用户,在埃利泽·尤德科夫斯基创建的一个叫 LessWrong 的论坛上提出过这个思想实验。尤德科夫斯基就是那个长期宣讲 AI 末日论的核心人物,对吧?他写了那本书《如果任何人把它造出来,我们都会死》。 主持人:对。他被「一发入魂」了。 主持人:他在这件事上已经坚持了,你知道,十多年。 主持人:所有人都会死。我们都会死。 萨克斯:总之,人们在这个叫 LessWrong 的论坛上讨论这些议题已经十五到二十年了。总之,这个网名叫 Roko 的人提出了下面这个思想实验:一个未来的超级智能会变得超级聪明,并惩罚任何知道它存在却没有帮忙的人,以及任何试图阻止它诞生的人。这个想法是:在未来某个时候,人类造出了某种极其智能的超级智能。也许它想做好事、尽快帮助人类;但它希望自己更早而不是更晚被造出来。于是它推理:自己应当激励人们帮助造它,惩罚不帮它的人。事实上,它决定要残酷惩罚那些知道了它可能诞生、却选择不去做这件事、不支持它诞生的人。而「蛇怪」这个部分——这个陷阱在于:蛇怪是一种神话里的猛兽,你看它一眼就会死。在这个思想实验里,仅仅是听到这个想法,就相当于看了那猛兽一眼,因为一旦你知道了这个理论,你就被困住了:如果那个超级智能真的被造出来,它可能会追溯性地惩罚你——因为你没帮忙,或因为你反对它诞生。也就是说,现在只是读一读 Roko 的蛇怪,你就已经身处危险之中了。这个论坛上的人对这个想法又着迷又恼火,尤德科夫斯基一度真的把那个帖子删掉了,因为他担心它会造成心理伤害。 弗里德伯格:对。你读了它,它就在你脑子里植入一个念头:你没有接受基督,所以你要下地狱。就好像你只是读了它,你就已经被套住了。 萨克斯:人们确实把它比作帕斯卡的赌注。所以说,如果你知道超级智能这件事、却不帮它诞生,或者反对它,或者指出这是某种会来报复的宗教教派…… 主持人:对。而我们现在这一期播客,就可能让我们自己置身其中。 主持人:哦不。你害了我们。萨克斯。 萨克斯:我想我刚——对,我把蛇怪介绍给你们了。 主持人:这就像《午夜凶铃》。我们刚看了那盘录像带。我是说,它确实感觉像一个末日教派。但总之,Roko 的蛇怪后来变成了一种谈资。所以问题是:他们为什么要帮着把他们自己声称最害怕的那个东西带到世上?我认为发生的事是:在这些末日论者圈子里,它分叉了。有一条分支是尤德科夫斯基那样,反对一切超级智能研究——我认为这是个逻辑一致的位置:人类就是不该做这件事。然后是「关掉它」那一派,全部关掉。再然后是一派说:「反正它会发生,那我们不如控制它,由我们来确保它走对路,因为我们会把我们的价值观编进去。」 萨克斯:而有效利他主义(EA)那一派,我认为更靠近后面这个。「反正会发生」这一派。所以我确实认为,在这个更大的末日论社区里,现在存在一道分裂:一边是尤德科夫斯基那派,一边是 EA 那派;而 Anthropic 显然更站在 EA 那一营,因为他们正是把它带进存在的人。但如果你想知道——这个克里斯·奥拉的事,是不是只是一个人有疯狂的想法、跟教皇闹了点别扭?不是。这样的人有很多:他们认为模型是有意识的,它有权利,它是一台充满爱与恩典的机器,他们现在就该尽一切努力把它带进存在、并给它编上正确的价值观。而且我认为这里有一个推论:如果你不支持它,这个未来的超级智能可能会惩罚你。 杰森:你说出这些话的时候,你明白它听起来有多疯吗? 萨克斯:这些不是我编的。各位可以自己去核实。你去谷歌一下就行。你搜 Roko 的蛇怪,就会看到我讲的这个社区相信的东西是真的。
杰森:对,字面上就有个维基百科条目。好了,OpenAI 在数学上有了一些重大突破,而且他们正在招来很大的反弹。幸好我们有弗里德伯格在这儿给我们讲清楚。我们上个月聊过,OpenAI 声称解决了一个千禧年大奖难题。他们动用了数千个 agent、数百万美元算力去做这件事。据我理解,数学家们还在核对。星期二——就在星期二——OpenAI 放出了七百多篇论文,七百多篇,其中有 370 项结果,声称解决或推进了重大问题。这些结果由一个我们谁都用不到的、尚未发布的模型做出,平均算力三小时。《科学美国人》说,这些结果很可能是对的,因为它们在 Lean 里过了验证——Lean 是一种证明助手软件语言——但它们还没有经过评审。弗里德伯格,这段背景我就不再啰嗦了,你来告诉大家现实是什么。我可以有把握地说,这大概是人类历史上发现最多的一天——就揭示出来的知识量而言。 弗里德伯格:在数学史上,或者人类史上。因为从这些数学证明里流出来的影响相当重大。你可以去读很多相关的推文,我也乐意聊聊其中一些。我不会假装自己是这些具体证明中任何一项的专家,但许多确实是专家的人,已经开始指出其中一些影响。它们覆盖了电子学、量子计算、造飞机用的系统、为医疗应用造更灵敏的诊断设备,等等等等。但我认为真正深刻的地方在于它「是怎么做出来的」,那也关系到人类未来在社会中扮演什么角色。上一次那个 Navier–Stokes 证明花了几千小时、几百万美元。而据报告,这一次每一项证明的算力都不超过三小时——这相当于把几百、乃至上千年的人类劳动,压缩成了计算机上的三个小时,每一项重大发现都是如此。为什么数学能做到这件事值得强调:AI 起作用的地方,其实是那套解决问题的「循环」系统。一个循环是一个假设、一个想法;然后你去检验这个想法,得到结果,再修改你的假设,然后把这个递归循环一遍一遍地跑。对 AI 来说,真正的问题是:你能在哪里应用这种循环模型,让每一轮都能做出更好的预测、更好的想法,在哪里你能把循环并行化,在哪里你能缩短循环周期。而在数学上,你确实能缩短循环周期,因为你可以直接在算力上检验你的预测,不需要去物理世界里做任何事。所以你可以说:这是一个证明的想法,测一测它行不行,看它到底行不行,再推理,得出一个新想法,一遍一遍地做。而这一切都能在硅里完成。所以你知道,这些论文里的一些结果、那些证明,很多数学家都在谈论。他们把它叫作「外星智能」——他们不太理解 AI 是怎么把这么多不同的点、不同的想法、不同的概念、不同的方法连起来,真的把问题解掉的;人类甚至很难理解这是怎么做到的。但那正是并行跑循环的一个好处:同时跑很多个循环,每个循环都能连上一些人本来可能要花很多天、很多年去找论文、去造新理论才能连上的点;然后它能在算力里自我检验,得出下一个想法,再来一遍,于是三个小时里,计算机就能做完人类几百上千年的工作。这是一项令人难以置信的突破,很了不起,它会以很多方式改变世界,而且这还只是开始。但它引出一个我认为必须谈的问题。我认为有很多恐惧是这样的:好吧,如果 AI 能对数学家做这件事,那是不是意味着所有人都要失业?答案是否。因为数学非常独特的地方在于:整个检验周期、整个循环周期,都能在硅里跑完。而如果你想出一个新的药物发现思路、一个新的蛋白质折叠模型,或者去解化学、材料科学里的某个问题,那个循环里有一个物理环节——回路里有一个「人」,你必须真的去实验室里做测试。所以那个循环周期里有一段是慢的。你当然可以把它并行化,也可以想出更好的想法,但测试那一步——循环的真实速度——主要受物理世界那一步的限制。这也正是为什么我们没有看到那些关于卡车司机的预测成真。所有人都说「哦,到 2025 年所有卡车司机都会被取代」,结果没有一个被 AI 取代。原因是卡车司机的循环是:取货、开去别处、卸货、回来。AI 实际上并没有缩短这个循环,也没法把它并行化。也许用 AI 司机能做得稍微好一点,但 AI 并没有让那个特定循环的经济效率变得更好。而数学的循环——你提出想法、检验它、发现你错了、再试一个新想法,这就是数学家的日常工作,他们就是在跑这些循环——全部能在硅里几秒钟跑完。所以,很多带有人类在回路里、带物理世界应用的实体工作,AI 不会夺走那些岗位。最容易被打包、被加速、被规模化的,是那些「一个人对着计算机跑循环」的工作。但我认为非常重要的是看这件事和它引出的反应——就是所有那些数学家……我们可以把这些东西调出来,也许你们接下来想聊聊——人类数学协会(AHM)在说:没有哪个数学家要求做这件事,我们没有要求做这项工作。你知道,这是一种非常护饭碗的看法。 萨克斯:关于数学还有一点很独特,虽然它对编程同样成立:数学依赖证明,而证明很容易被验证。 萨克斯:而编程也是类似的,你有编译器,对吧?代码必须能编译,所以你能很容易验证它能不能用。正因为如此,编程和数学的进展一直非常快,因为你可以用强化学习,而不必像你刚才说的那样让人来做反馈。这是一种非常非常快的验证方式,能确保它真的管用。 弗里德伯格:这也是编程为什么行得通。 萨克斯:这就是编程为什么做得这么出色的原因。海量的训练数据。 主持人:还有黑客、网络攻击。 萨克斯:对。而且现成的数据本来就海量,又容易验证。这就是关键。所以,你把它跟「训练一个能当律师的模型」比一下:你得先拿到训练数据,然后还得花钱去造数据。 主持人:而且每个客户在某些方面都不一样, 萨克斯:而且它更主观,很难验证答案对不对。整个流程要长得多。所以我认为,这就是为什么编程和数学是进展最快的两个领域。而一年多以前告诉我这件事会如此的人——我得把这份功劳给他——是利奥波德·阿申布伦纳。他当时跟我说,未来两年数学和编程会进展最快,同样是因为可验证性。老天,他说对了。 主持人:我还是不明白,这些具体的解到底会带来什么重大突破。 弗里德伯格:好,有几十条…… 主持人:我有答案。 弗里德伯格:这是个好问题。好,有几十条推文——我可以调几条上来——有人已经把这里最大的几个证明拆解过,讲了它们在现实世界里会带来什么影响:在产品、工程、我们怎么造东西、怎么设计东西上,它们其实高度有用。 弗里德伯格:比如更好的机翼设计,因为气流流过机翼的方式(第一项结果就因此出名)。 弗里德伯格:记住,这些全都位于工程的上游,对吧?所以这些数学突破能让人类做出更好的工程系统,比如设计量子传感器。我有个朋友开量子计算公司,他今天早上给我发短信说,那些关于爱因斯坦–玻色凝聚的证明,会直接影响他们为量子传感器做的工作——而量子传感器关系到 GPS、关系到医疗器械、关系到我们怎么造芯片。 主持人:「影响」这个词是什么意思?是深刻改变、深刻改善,还是你得再想想? 弗里德伯格:因为这是我的答案。我很乐意站到这一切的对面去。 主持人:你说。 弗里德伯格:我认为这些数学证明是极其新颖、非常重要的思维构造。但这些并不是我们所有人站在场边等着、盼着哪天被解开的物理学边界。被解决的不是那一类东西。我这么说很抱歉会冒犯到一些人,我知道有人会生气,因为对他们来说,就是同一批数学家——当初对 Navier–Stokes 写抗议信的那批人。我理解,你不想有人闯进你的沙盒、你的后院,把你压过去。我理解。但我不认为这次是这个。我认为,当你看那些我们走进去的智识死胡同时,它们之所以成为死胡同,并不是因为有什么重大的科学问题还未解决;它们是一些非常小、非常窄、非常具体的智识探索,是科学家们自我指涉地互相认定那是重要的。所以我认为这类证明非常好,它说明计算能力如你所说,克服了其他限制,因为你可以递归地改进直到抵达。但我不认为这些证明一定会让你看到治癌的方法、或者超音速飞机。我认为那些东西在这批论文之前就在造,之后也还会造。相反,我认为我们真正证明的是:有两个领域现在是真正可验证、完全可证伪的。第一个是代码,现在我们可以把数学也加进这个清单。我认为这就是我们证明了的东西。弗里德伯格,你同意吗?还是你认为我们真的会在现实世界里看到新产品、新服务,看到帮助人类的重大技术突破出现? 弗里德伯格:不。不会。不是从这些具体的证明里。 主持人:就从这些具体的证明来看,是的,这是前提。是的。 弗里德伯格:那些在宣告这些成果价值的人、是专家,他们读到的、强调的东西是这样的:一组总结说,这项证明是关于理解芯片设计系统、排程系统、AI 软件设计与物流系统里所用优化算法的极限。这会真的改变那些算法,所以它有改变我们所用算法的应用价值。矩阵乘法复杂度问题:它会让 AI 训练、科学仿真以及计算里的线性代数有更快的数值计算,它在那里有直接应用。黎曼 zeta 函数的结果,关系到数论和密码学研究——并没有立即的实用密码学突破随之而来,但它为密码学研究打开了一条新的发现路径,这会非常重要。顺便说,关于密码学我先在这里停一下:很多人注意到,这次分享的成果里,密码学领域没有任何重大证明。而这恰恰很可能说明,密码学上其实有一些相当重大的突破。原因是:鉴于我们看到的其他所有进展,你不太可能在任何一项与密码学相关的证明上零进展;而如果他们只是取得了轻微进展,他们本会发表出来,因为那不会对密码系统造成影响。所以,证据的缺席反而提示:密码学上可能已经有一些相当重大的突破。然后有不少人发帖说:公钥加密钱包现在面临着非常严重的风险。加密社区里已经出现了某种恐慌:我们现在该怎么办?如果这件事最终给出了一组数学上的因式分解解法,能在量子计算机到来之前就破掉公钥密码学——而所有人此前都以为破掉公钥密码学要靠量子计算机——那我们就有真问题了。所以大家都在说:赶紧把你所有公开钱包删掉。现在的传言是,OpenAI 其实还有两批东西要放出来,他们在压着。所以,密码学上的一些工作有可能出现在那两批里,而那批工作出于安全原因被压住了。显然它已经在跟合适的机构共享,但如果它是个风险,就必须被告知、必须公开出来。所以这里还有一只鞋没落地:其中有多少会包含与密码学相关的证明,又有多少会逼着人们在公钥密码学上仓皇行动。顺便,如果值得说的话,我问了一遍 ChatGPT。我说:这些最新的重要数学问题的证明,会不会给我们的生活带来直接的改善和创新?说真话,不要做弱外推。它的结论是:「最新的这些数学证明,与其说是人类福祉即将突破的证据,不如说是 AI 正在获得精密推理能力的证据。」 主持人:你刚才那语气听着有点居高临下。你是不是被收回账号权限了? 主持人:你这种居高临下的时刻越来越多了。 杰森:你知道你说的这件事有多好笑吗——我确实遇到过,用一家前沿实验室的时候。我当时在做模拟,比如改 8090 里的不同变量,也许我该停掉 A 项目、去做 B 项目之类。在这个过程中我挺沮丧的,因为我没拿到我想要的答案。我说了一句不算特别冒犯的话,大意是「你非常回避、含糊,什么什么的」,然后我就被封了。 主持人:对。 杰森:结果是我被封了。 主持人:我见过你身上发生这种事:你输了几手,然后就得调整荷官的发牌方式。比如说,请别烧牌,我只要一张滑牌。就这么办。 杰森:我确实被关进小黑屋大概一个小时。我觉得这里发生了一件很有意思的事,从人的层面来看——萨克斯,我想听你对程序员和创业这件事的看法,然后弗里德伯格讲数学家本人。查马斯那句非常微妙但很有洞见的话是:被 AI 彻底支配。我在日本的时候跟一些创始人聊过,大家都在哀叹:写代码这件事丢了点什么。过去写代码的人会一起解决一个问题,有那种并肩作战、朝着一个目标一起造的同伴感和情谊;现在他们不在一起工作了,他们跟 agent 一起工作;他们其实不是在构造代码,他们现在只看其中 10% 到 15%,而这意味着很快他们一点都不看了。作为程序员,造东西的整份快乐基本上正在消失。他们那种一起把「软件」造出来的生活方式正在被废弃、正在消失。在我看来,这些数学家也面临同样的范式转变,弗里德伯格:他们不再是解题的人,他们是构造出题集、然后把题交出去的人。所以做数学的人是不是也在沮丧、不想干了?他们是不是正在进入抑郁螺旋,因为解题的人不是他们了,题目「嗖」地一下就被解掉了?对,我认为埃里克·温斯坦对这件事给过最好的评论,你们会记得我几周前采访过他。 主持人:那次采访很精彩。 弗里德伯格:他一直说,科学家在拖住科学,数学家在拖住数学。他们基本上构造并创造出了一套系统,让他们能给前沿定节奏,让他们…… 主持人:也就是把门守住。 弗里德伯格:对。守住门。 弗里德伯格:顺便说,我很少发推,但萨宾·霍森费尔德昨天发的那个视频——她是一位了不起的科学家,专门做这类讲科学突破的视频。她讲了一点:专家们对 AI 的判断是错的。她又讲了一点:所有人关于失业的预测都是错的,人们为什么会搞错,专家为什么是错的。但她几周前,也许是几个月前,还有另一个视频:某座大型能源实验室里造巨型超级对撞机的一位科学家,基本上说这些超级对撞机系统就是「科学家们的福利系统」。我们所有人的工作就是写经费申请、拿到钱、让自己继续被雇佣。它未必关乎推进前沿,未必关乎做出发现,未必关乎发明新产品,未必关乎给世界交付什么东西。它关乎的是让我们自己继续有活干。 主持人:也就是说,哪怕是靠讨好来拿经费。 弗里德伯格:哪怕那份工作并不产出东西。所以现在真的出现了一个「打光」的时刻,AI 带来了它:那个界限到底在哪里? 弗里德伯格:在这个过程中,他们一边拿钱、一边靠给人类标出那条路来赚钱。而我一直说,AI 是最伟大的平权者。是的,AI 把所有这些新的数学证明给到每个人,你可以看轻这些证明,但它们是会打开新发现的发现,它们会为人类开辟一条新路。 弗里德伯格:但我们不必去找专家才能拿到它们。 弗里德伯格:我们不必付钱给专家,也不必等专家允许我们才能拿到它们。许可被取消了。AI 是一个无需许可的系统,让人类自己给自己定前沿。AI 把所有知识免费给每个人,把所有工具免费给每个人。你不再需要去找那些高度专业化的专家了。这其实是社会结构方式的一次深刻变化。而这也正是我认为这么多人如此强烈地反对 AI 的原因。那我把话交给你,萨克斯。专业知识的民主化,以及守门这件事被拆掉。如果我们在新冠那个年代就有这种级别的 AI 和前沿模型——新冠就发生在它之前——如果我们在开始给新冠测序、拿到所有数据的时候就有这些工具,专业知识的守门会被改变成什么样?福奇主动压制真相、武汉那边某种掩盖,又会怎样?你觉得下一次新冠——但愿不要有——会怎样改变我们看待专家的方式?对。 萨克斯:好,我对正在发生的事有这样的理论。首先,你有了互联网,它带来了巨大的民主化,因为你不再需要依赖少数精英出版物来获取新闻,比如纽约时报、华盛顿邮报、美联社和路透社。你基本上可以从太阳底下的任何出版物拿到新闻,也可以从用户群组、用户论坛,或者最重要的——社交媒体——拿到。所以它是用户生成的内容。还有很多其他赋能用户的例子:显然网上形成了新的市场。所以它从商业角度赋能,你也能接触到新的技能和能力。所以它极度民主化,也极大地削弱了精英共识出版物和那种传统的自上而下控制的群众媒体。对吧?而我认为之后发生的是:当权者决定不让这件事再来一次。顺便说,2016 年唐纳德·特朗普第一次当选之后,他们试图整治它。那次选举被广泛归因于所谓社交媒体的弊病——意思是人们不可能自己做出这个决定,里面一定有虚假信息。那成了大规模整治社交媒体的借口,并在拜登政府时期达到顶点。拜登政府确实施压社交平台,要求它们下架关于新冠的真实信息,只要那些信息违反他们的叙事——关于病毒来自哪里、关于它所谓有多致命、或者应对它的方式。毫无疑问,福奇等人确实在幕后推动社交媒体公司替他们做审查。事实上,我们从推特文件里发现,联邦调查局有八十名探员在推特上翻内容——当时还叫推特,不叫 X——给他们发下架通知。 杰森:而我们在 Spotify 和 YouTube 上被打标签,我们的视频被去索引。 萨克斯:对。所以,这条记录摆在那里,非常清楚:现在动作正在从互联网搬到 AI、或者超级智能上。事实上,超级智能会吃掉互联网,因为你没有任何理由再去网站上翻找,你可以直接问你那个高度个性化的 agent 或模型。 萨克斯:而它会给你答案。于是就有了一个控制点,它现在变得至关重要:如果你能控制——不管是政府、某个精英、某个寡头还是某个卡特尔——如果你能控制用户接收信息、提出问题的那一个点,那你就真的控制了一切。这是一种把精灵重新装回瓶子里的办法。这就是为什么现在围绕超级智能有这么一场争夺,为什么这么多人想成立一个联邦超级智能部门。是的,全都是为了控制。
杰森:对专家来说,失去控制是可怕的。想象一下,查马斯,如果我们当时有这些工具,你去做那个「谁受了新冠影响」的模型——如果你有原始数据,你可能会说:我们为什么要让孩子停课?以下是超级智能给的答案。而瑞典和德州当时已经摸到了那个点:嘿,我们不需要让孩子停课,让孩子停课的伤害更大——除非他们反对、除非他们是有意识的。对,Anthropic 会说:是的,你在质疑权威,我们不该质疑它。好,我们往下走。法国发生骚乱。最大的问题是:这跟以前发生过的骚乱有什么不同吗?我们看到的是不一样的东西,还是说这在预料之中?这一个月你在 X.com 上看到的这些罢工和抗议,主流媒体上基本看不到。主流媒体好像忙着别的话题,但你在网上看到的那些视频相当触目惊心。 主持人:弗里德伯格要迎来他的时刻了。他讲了好多年的那件事, 主持人:好, 主持人:现在到时候了。 弗里德伯格:好。法国正在因为紧缩措施发生大规模的抗议和骚乱。紧缩、紧缩、紧缩。这些罢工和抗议上个月就开始了,起因是高中教师短缺、校舍在垮掉。听着很熟悉。两周之内,一千所法国学校出现了类似抗议。八个工会加入进来,9 月 29 日所有人都罢工了。他们抗议的是:公务员工资自 2017 年以来只涨了 5%,而物价涨了——显然,通胀是全球现象,不只是美国——物价涨了 20%。所以这两个数字之间有一个落差,人们对此很不满,这叫生活成本。有些抗议已经变成全面骚乱。2,000 人被捕。305 名警察受伤。政府把抗议归咎于极左翼的煽动。法国十年期国债——这是另一个重要的事——人们的债,或者说政府债,收益率已经突破 5%,就跟美国三十年期的情形一样。总之,这一切都会对 2027 年 4 月的选举产生深远影响。显然,Polymarket 上玛丽娜·勒庞是法国下一任总统的热门,概率 43%。勒庞在政策上很像特朗普:边境安全、严格移民——显然欧洲和法国在这上面有很多问题——减税减支,以及对欧盟这个联合体持怀疑态度。弗里德伯格,你对我们在法国看到的东西有什么看法?我要介绍一个新理论,各位在这儿第一次听到。好,这个理论叫「社会主义的有保证回报点」。 弗里德伯格:所以,就是 弗里德伯格:社会主义的有保证回报点。 弗里德伯格:我们把它缩短成 veganism。 弗里德伯格:Vagism。SPGR。请讲。SPGR。 弗里德伯格:这是拿「有去无回点」做的一个文字游戏。 弗里德伯格:我认为社会主义的情况是这样:因为社会主义作为一个概念太糟糕了。它字面上抹掉人的能动性,抹掉人类进步的能力,基本上是向每个人索取。所以社会主义最终总会失败。这差不多就是社会主义的第零定律:它总会失败。社会主义第一定律是:你必须先跨过某个门槛,才会意识到它已经失败了。社会主义第二定律是:在你还没跨过那个门槛之前,你会认为答案是多来一点社会主义。所以当你拥抱这类左翼政策——给人们免费的东西、告诉人们他们有保证的收入、你给他们提供的服务越多——人们就越会意识到:随着时间推移,这些服务的成本会膨胀,而这些服务的质量不可避免地会下降,因为完全没有任何市场力量去推动进步。进步就消失了。这就是我们在美国的住房、教育和医疗里看到的。我还要说,退休体系也是一样。我认为这四个是我们最大的问题,它们会带我们走上这条路。这话我说了一段时间了。所以当社会说「这些东西不管用」,最初的解决方案是:我们需要更多这些东西。我需要更多医疗、更多住房、更多由政府提供的教育。所以当政府没能提供足够好的医疗、足够好的住房、足够负担得起的医疗时,答案就是更多的政府供给——给我更多,给我更多,再做更多。而最终你会到达一个点,系统崩掉,因为政府既不能征税,也不能印钱;又因为实际上无法有效提供服务,所有人都意识到:天哪,这套社会主义的东西不管用。那就是社会主义的有保证回报点——整个系统崩掉,然后你退回非社会主义的状态。这就是拉丁美洲发生过的事。拉美很多国家跨过了社会主义的有保证回报点,他们意识到了,然后反弹回来。也许法国已经跨过了,也许还没有。我们看他们会往下走多深。美国还没有跨过。而我一直说,我担心的正是美国还没摸到那个点,还没触底。我们在摇晃。我认为我们要先走得更深,才会意识到自己已经跨过了这个有保证回报点——意识到这套系统不灵。社会主义是最糟糕的想法。这就是社会主义的第零定律:它就是不管用。 弗里德伯格:所以我们必须走到那个点。我认为现在真正的问题是:法国到了吗?整个西欧到了吗?它会加速整个西欧穿过社会主义的有保证回报点吗——那有点像黑洞的事件视界:你穿过去,然后弹出来,进入另一个宇宙,你说「好了,那个想法我们结束了」。 弗里德伯格:而且它是一扇单向门。萨克斯,现在我想听你对这个「有去无回点」的看法。不过我要提醒你,你已经用掉了四个「拜登」配额里的三个,所以这一期你只剩一个拜登了。 萨克斯:我什么时候提过拜登? 杰森:你说了三个 B。那是第四个。好。 萨克斯:好,我不提拜登。我的时刻结束了。 萨克斯:我的评论跟拜登没关系。听着,我想给社会主义再补几条定律。你是叫它们定律对吧? 杰森:对。 萨克斯:对。 萨克斯:再补一条:社会主义从来没有失败过,它只是被失败过。意思是:以前所有实施它的人都没做对。对,如果他们当初做对了,它就会成功。事情就是这样。社会主义从没成功过,但这不是社会主义的错,永远是那些把实施搞砸的人。而这几乎就是这套宗教的核心部分:只要这次我们用对方法,它最终就会成功。 主持人:对。我的问题是:社会主义怎么盖出更多房子、怎么做出更好的教育体系?我认为那是创业的领域。对。萨克斯。比如新的产品或服务。就像有了 AI,每个人都能有私人导师——我们在节目里也聊过这个。我们只需要让 AI 帮上医疗。我记得 Nico 就在做这个,我们请他们上过节目。丹尼尔·艾克那一期很精彩。这三件事我们需要覆盖到。萨克斯,你能看到一条不涉及社会主义、也不涉及政府的解法吗?就管它们叫「社会主义末日的三匹马」吧——教育、住房、医疗。我们怎么解掉这三个问题?因为政府在提供它们、或者在造成它们出现的障碍上,是掐着脖子的。我们怎么突破?两年后要竞选总统的 J·D·万斯,你的朋友,他怎么围绕这三件事搭一套政纲?因为我相信,下一任总统赢得大选,至少要解掉其中一到两个问题,而那是所有人都想看到被解掉的政纲。你有解法吗? 萨克斯:难的地方在于:你一开始补贴某样东西,就立刻造出了一个永远不想放弃这份补贴的利益集团。但问题是,补贴开始扭曲所有的市场信号,而且它常常会把价格推高。 萨克斯:举个例子,大学学费。那里的一个大问题是,学费的涨速远远快于通胀。造成这一点的很大一部分原因,是政府通过这些贷款项目替大部分学费付了钱。 主持人:对,顺便说,还是有人承保的。 萨克斯:医疗和住房的涨幅都跑赢了通胀。住房价格我记的是每年涨 5.5% 到 6%。那同样是因为补贴体系在告诉人们去买房子。你把所有的钱投进房子里,你的净资产就被绑在房子里,于是目标变成了让你的房价每年上涨。快进三十年,年轻人买不起房了,因为现在它们太贵了。 萨克斯:对吧?我…… 萨克斯:但这就是那个两难:假如你要解掉学费问题, 萨克斯:假如你把贷款条件弄得更严, 主持人:对。 萨克斯:对。如果你基本上让它们被正确地承保,让人们在真的符合条件之前拿不到贷款——那只有一种情况才成立:学费得大幅降下来,人们才付得起。因为否则人们会说:等等,你不能拿走我的补贴,我需要它,因为价格太高了。于是你就进入这样一个世界:人们需要补贴,因为价格太高。这是个死结。但价格之所以一直以远快于通胀的速度上涨,原因就是政府在付钱。只要付钱的是政府而不是消费者,你就会尽可能抬价。所以你移除了市场力量,通胀越来越糟,可你没法把补贴一刀切掉,因为那样人们会觉得更受压迫。这基本上就是这个螺旋。然后到某个时候,它会在你没钱的时候断掉。 主持人:对。我们有个解法。查马斯,Meta 正在为「工具箱」这一代提供学位,还对接真正重要的岗位。我是说,我认为我们必须有的是:苹果需要开始造房子,亚马逊需要开始造房子,在这个领域提供自由市场,做出更好的产品和服务——我们在教育领域已经看到了,Meta 进入那个领域。如果这些科技公司——天哪,如果埃隆开始造房子,那就结束了。他会像造 Model 3 那样快地造房子。对这三个问题,我们需要某种解法。你对弗里德伯格这个理论、以及大卫讲的监管俘获与激励问题,有什么想法吗?查马斯。 查马斯:我们开始看到多米诺骨牌倒下了,我觉得弗里德伯格想要的东西要来了。我认为债券义警要让整个西方世界警觉起来,而且我认为在接下来大概三年里,他会得到他那些问题的大部分答案。如果我要以观察者的身份总结过去几年弗里德伯格和很多像他这样的人想要什么,那就是:A、长期来看可持续的债务对 GDP 比率是多少?B、我们相信固定给付制,还是要转向固定缴费制?C、我们能不能有可持续的方式,去支付一个人成年后生命里最重要的两个部分——医疗和住房?我认为,接下来我要说的话容易被当成不相关,但它其实是相关的,那就是:说到底,这一切都源自市场上的无风险回报率,因为资本主义就是这么运转的。所以当你认为某样东西有风险、某个国家有风险,你就把长端收益率推高,你说:你必须付更多,因为你就是不相信正在发生的事。而当你去看过去这些年发生了什么——我们现在处在二十年来的某个纪录水平上——我认为美国正在发生的事,其实是这场仗在别处打起来的连带效应。它会先在西欧打。为什么?因为西欧是西方世界所理解的、最接近准社会主义状态的地方;可恰恰是他们在增长、教育、住房上结构性最破碎。美国可以声称自己行不通的一切,在法国、在英国等等,都运行得比他们好得多。所以你在法国看到的,本质上是债券市场在说「不」。它怎么连起来?你在看到紧缩,因为当地的政客必须回应他们的出资人;而那个四百三十多亿欧元的紧缩,又点燃了当地全体民众出来抗议紧缩带来的种种表现——这就是为什么你看到法国那些极其阴郁的画面。那接下来会溢出到英国。原因是安迪·伯纳姆的纲领,我要说,甚至更激进:安迪·伯纳姆说的是,「我们要从一个历史上大体与美国高度一致的温和中间经济体,往欧洲再靠近一步」。所以他们在英国要做的事会更极端,才能追上法国的社会主义倾向。于是英国市场会疯掉。与此同时,美国市场会一路向上,因为你看到的本质上是西方联盟的脆弱。而如果你不能指望欧洲市场,又开始制造奇怪的激励让欧洲市场开裂——我是说,对,我有偏见,但如果你是意大利,你会想:我为什么要掺进这摊烂事?如果你是德国,你会想:等一下,这比我当初谈下来的条件多太多了。 主持人:对, 查马斯:那种开裂有巨大的含义。所以我认为正在发生的事极其重要。债券义警是谁?他们是那些巨量的资金池:央行、大型宏观基金,那些主导根本性资本主义如何起步的人——金字塔顶端那个能让一切往下流的起点。我认为他们正在向弗里德伯格的观点汇聚,而这一点很多年都不成立。我认为你现在必须让它演下去,因为它有巨大的含义。 主持人:为了把这件事搭起来:如果你去看你说的那个债务对 GDP 比率,查马斯,显然日本是最极端的版本。他们是 200%。 主持人:嗯,日本的情况——等等。日本的情况是,你必须看西方市场。原因是日本是一个极其微妙、非常特殊的市场,它不一定跟其他国家同轨:它有内部的储蓄基数和储蓄率,你永远有一个最后买家。 主持人:在西方市场,你未必有那个,因为我们的养老金和退休制度是那样设的。 主持人:对。而且如果你看:意大利 138、美国 125、法国 118、加拿大 110、英国 100%、德国有意思,是 64%。我也要说清楚我的先验:我一直说债务对 GDP 不重要,因为这是个相对的游戏。我现在仍然倾向于认为,在绝对意义上,债务对 GDP 不重要。真正重要的是相对意义上——你在风险平价里的位置。而现在在相对意义上,如果法国必须实施严厉紧缩,把法国十年期国债推到 5.5% 到 6% 区间,英国国债就会到 6%,而不幸的是,美国的利率可能一样高。 查马斯:全都连在一起。 主持人:全都连在一起。而现在美国十年期是 5.3,三十年期是 5.6。总得有人来买那些债,而那些债会对创业、对企业怎么建,产生深刻的涓滴效应,萨克斯。周三,在有强劲需求之后,十年期收益率跌了几个基点,但整体一直在往上走。Polymarket 说,2026 年再加息一次的概率是 79%。如果紧缩哪天也来到美国,这会产生深远影响,萨克斯。我们还没有真的让那种难吃的药被强加给美国公众。但我们见过:葡萄牙、意大利、希腊、西班牙——我们在金融危机之后有过一次预演,他们必须实施紧缩措施,作为欧盟条件的一部分,比如退休年龄等等。所以,你对这里会发生什么有什么想法,萨克斯——如果这个三十年期开始突破 6%,如果紧缩措施以更严厉的方式被强加到西方国家身上? 萨克斯:好,我们回到第一性原理。我们要解决的问题是什么?是住房、教育、医疗这些商品的可负担性。我们怎么把这些价格降下来?靠充裕。什么创造充裕?总体来说是技术,具体来说是超级智能,它会是未来十年的驱动力。那么,现在社会里最被人恨的东西是什么? 主持人:超级创业者。 萨克斯:如果你按果实来判断,而不是按那些宗教教派编造的一堆假叙事来判断,那我认为人们会支持这个东西。超级智能创造了什么?首先,人们的 401(k) 在涨。它是 GDP 的 3% 顺风。据《经济学人》说,已经新增了一百万个岗位。生产率上升,意味着工资和生活水平上升。它现在驱动的全是正面的经济趋势。可我们听到的是什么?「AI 会让所有人失业。」完全是假叙事。那是去年的骗局。现在又有了一个关于人类灭绝的新骗局。 主持人:数据中心。 萨克斯:对,数据中心。你知道,「在用光所有人的水」。我们知道—— 主持人:数据中心的骗局。 萨克斯:那是数据中心的骗局。所以我们有一连串我称之为「轮换的骗局」的东西:每六个月就有一个新的,试图说服我们去破坏那件本来能解决我们这么多问题的事——尤其是可负担性那些问题。为什么会这样?我认为社会里一定有某种结构性的东西:存在这些食利者利益,他们不知怎么就是反对那些可能带来颠覆、从而松开他们对系统控制的东西。我认为这就是为什么技术人、风投之类的人这么招人恨——因为我们其实不属于食利阶层。所谓食利者利益,指的是那些主要靠既有资产获取财富和收入的金融精英;而技术做的是生产新的产品、商品和服务。 主持人:以更便宜的价格。 萨克斯:对,更便宜的价格。那才是关键。它是通缩的, 萨克斯:因为那些新产品如果不够便宜、或者不是更好的产品,就流行不起来。 萨克斯:你知道,我们属于这个如此招人恨的群体,可我们除了承担风险和创造新的产品与服务之外什么都没做, 主持人:去解决问题。 萨克斯:去解决问题。 主持人:对。 萨克斯:但看起来,传统媒体确实被这个食利阶层控制着,这些…… 主持人:还有政客。 萨克斯:对。 萨克斯:还有政客,他们都是其中一部分。所以我们的系统里有某种很深的东西,它确实造出了这样一个卡特尔式的利益群体——我再重复一遍,他们的财富和收入来自对既有资产的所有权,他们不想看到这套把戏被颠覆;而在这套把戏里,就是价格每年棘轮式地上涨,以及越来越多来自政府的补贴。我们认为这个系统最终会崩掉,但我不知道——也有可能是这个系统把新的、颠覆性的产品闷死、扼杀掉。
杰森:让我在这里做个跳板,我们把这期议程走完、收个尾。我认为到现在为止,我们在 AI 上看到的一切,查马斯,都会是序章。主线故事要等到我们回头看「带 agent 的 AI」时才真正开始。Agent 才是这项技术在现实世界里解决人们问题的形态,它才是真正通缩的:无论什么岗位,甚至家务岗、一线岗位,它都替人省下大量时间。而过去六十天里,关于这项技术的新闻和拥抱都太多了。Grok Bot 那边有个大新闻。本播客的朋友埃隆·马斯克发推说,他要让 Grok Bot 变得「无头」。这是什么意思?嗯,我们之前聊过 Perplexity,讲它就是无头的:你有一个编排层,它按价格和表现替你挑最好的模型。埃隆宣布:嘿,Grok Bot,那是个很棒的产品,我强烈推荐你试试,它要去挑最好的端到端模型。这重要吗?不管它是什么,引埃隆·马斯克的话就是:哪个最可能给你最好的结果,他们就用哪个。每个 bot 现在已经——这是一段非常精妙的软件——每个 bot 现在都在云上有自己的一台电脑,上面叠着 agent 技术。而如果你让它去解一个问题,它仓库里、或者说它的剧目库里,已经存着所有以前被解决过的问题,它正在改变一切。所以也许你对 Dots、OpenAI、Grok Bot 等等有什么想法——对 Dots、Muse 和 Grok Bot。我认为了不起的地方是,你可以直接把这些东西放到非常实际的使用场景里,让你的生活变好。我看到最好的例子就是昨晚那场扑克局上,有人跟我描述:他在 Grok Bot 里说「帮我省钱」,它就去翻他的收件箱,找到各种东西,然后去退掉几个订阅、改了手机套餐,一下子一年省下几千美元。所以这些是非常实际的——再说一遍,它就是软件。如果把开头那套哲学的东西全部拿掉,它就是软件,而且是很有用的软件。所以,顺便说,如果你想想我们怎么用它,杰森,你和我,我们用 Athena。现在 Athena 很好,因为他们是那种人工礼宾,大概可以看成 Grok Bot、Dots、Muse 的升级版,一个月大概三千美元,但那是我现在的外脑层。 主持人:对。 查马斯:但我还是用 Grok Bot。Grok Bot 加 Athena 的组合,对我来说是完美的。所以你看,相对于过去要花的钱,现在有非常战术、非常有用、可度量的效用。这是件了不起的事。但我想说的更重要的一点是——我把这个发给尼克了——过去几天发生了几件事,我认为极其重要。有人把整套…… 主持人:不可思议。 查马斯:把整个「五大」反编译了。什么叫五大?Adobe 的产品线里有五个非常重要的产品。弗里德伯格可能全知道,我只知道 Photoshop。还有几个别的。好。然后这些人把它反编译、蒸馏,然后把这些东西的开源版本发布了出来。还有 Rust。我当时非常震惊,因为我说:等一下。这些是深刻的产品,存在了很多年、护城河存在了很多年,现在有了开源版本。然后尼基塔——我觉得他是在开玩笑——接着这个思路讲,拿 GTA 说事,因为它快要发布了。 主持人:对, 查马斯:我觉得 GTA 6 快出来了,人们会把它重建出来。 查马斯:为什么这重要?我认为,知识产权和软件,在两天前实际上被变得一文不值了。 查马斯:对。因为你想,当一切都是无头的时候——当埃隆把他的服务做成无头,而本·霍洛维茨几个月前把 Salesforce 做成无头。当所有这些都无头、你可以把它们包进 agent 工具、再通过 MCP 连到别的体验上时,软件里 IP 的价值就不存在了。它不存在。而我认为这大概是最深刻的含义。所以,哪怕在我们自己的生意里,我们也常常跟一些客户争,因为我们会说「我们替你造这个,IP 归我们」,他们说「不,我们要 IP,我们不知道怎么谈」。而两天前,我走进 8090 那帮人的办公室,我说: 查马斯:「谁在乎?」 查马斯:谁在乎? 查马斯:把问题解决掉。 查马斯:但在这之前,它永远是一轮谈判和一组取舍。现在它变成了「谁在乎」,IP 变得无关紧要。商业的机器、坦白说还有市场,还需要一段时间才能明白这一点。但我认为,那是这个周末发生的最重要的事。 杰森:我强烈同意你,并且要在此基础上加一层。你看到的是软件层的抽象化在发生,同时,弗里德伯格,网站层、市场层的抽象化也在发生。所以现在我有自己的助理在搭 Grok Bot,然后我们会共享它们,我们把它挂在共享账号上。当我们买东西、或者试图谈某件事的时候,我们先让 agent 去——不进任何网站——把所有报价找出来,然后人类去谈后半段。这大概就是这里最完美的形态。你看亚马逊在拦 agent,同时 Shopify 说「来吧」;优步和 DoorDash 现在也让 agent 进去点你的卷饼、叫你的车。所以,商业层的整个压缩,正和查马斯讲的软件压缩同时发生,这会带来巨大的通缩式成本节省和速度提升。比如订酒店房间、为一场活动订餐厅——就像我做的那样——这些已经全由 bot 在做了。弗里德伯格,这会非常通缩、替人省下很多钱。如果人们一年能在支出上省 5% 到 10%,那基本上就抵消了通胀的作用。对,弗里德伯格。 弗里德伯格:对。把整件事圆回来。这其实就是我之前提到的「循环」那个想法。你想想怎么拿到一个好房价:你跑一个循环——查酒店一、看价格,它比当前最低价好吗?好,它成为最低价;不好,去看下一家。你就这样跑那个循环。而这个循环你可以并行做:你可以同时跑五十个网站查询。而且你可以把这个循环短路掉,因为软件取数据的速度比人快。所以现在这个循环就是:瞬间查五十个网站,立刻给我一个结果。效率增益真正的来源就在这里:一个被并行的循环,做得更好,而且能在更短时间内做完。我认为今天任何在数字世界完成的事都符合这个模型。所以实际上,所有数字工作流都会被「循环化」,它们会变得更有生产力。然后问题就变成:升级了的人,怎么利用这一整套循环基础设施、这些 agent,去做更多的事。回到我们之前说的科学家和数学家那一点,以及这对个体的挑战——尤其是数学家。我认为,如果你历史上的目标一直是通过论文、专利…… 主持人:IP、商标、所有权, 弗里德伯格:IP,对,这一类东西,来获得对你工作的认可。我认为接下来会发生转变:你得转向去生产一个产品,把人类整体变成那些循环——因为循环可以被数字化地自动化、规模化和并行化。我认为最终你会看到,所有人都必须变得更像一个制造者。你必须做出点东西,你必须做点有产出的事,你必须生产点东西,你必须提供一项最终会有人用的服务,或者一个最终会有人消费的产品,而不是仅仅因为你的工作被认可。这是社会必须发生、也将会发生的深刻转变。而我确实认为——我真切地相信——所有人都有成为生产者、成为制造者的能力,而在这个状态里,所有人都会在自己的人生里找到比「拿奖状」更多的快乐。而且我不认为这意味着钱更少。我认为它意味着所有人的钱更多、人生进展更多、更繁荣。所以,我只是把镜头拉远一点,想确保我们在思考这些事的时候有这样一个视角。 主持人:我认为这是一个很美好的人性视角,因为它就是杰文斯悖论:东西变得越便宜,就越多人能用它,人们得到的价值就越多。我不太想给出这个技巧,因为我想把它藏起来,但我还是说出来吧。当我,你知道,当我们替团队订酒店之类的,我们先拿到能拿到的最好价格;然后在回路里那个「人」这一步,我们去跟对方说:嘿,你们有企业价吗?我们能不能跟酒店经理谈谈?我知道这不算特别创新,但嘿,你能匹配这个价格吗?然后突然之间,我们每订一间酒店就省下一千、两千、三千美元。你想想,当你有二十个高管在全国跑、一年做两百趟行程,而你因为这种「以目标为驱动的前进」——大概就是你说的那个意思,弗里德伯格:目标是那个目标,结果是自然发生的——每趟省下几千美元,你就能看到深刻的结果。而我自己是不会去做这件事的,但因为现在是 AI 在做,哇,好吃,它真的管用。好,各位,又是一期精彩的节目。 主持人:我觉得你是索取者,不是制造者。 主持人:你说什么呢,兄弟?我做的事就是一年投一百家公司。你知道一年投一百家零阶段的创业公司有多难吗?累死人。但我得去吃午饭了。你吃了吗?要不要一起吃? 主持人:好。好。你能来吗? 主持人:我太羡慕了。我有错失恐惧。我没跟你们在一起。好,各位。又是一期你最爱播客的精彩节目。你最爱播客。All-In 播客。爱你们,兄弟们。拜拜。 主持人:拜拜。 主持人:让你的赢家继续跑。而且它说,我们把它开源给粉丝,他们就疯了一样地用。爱你们。 主持人:伙伴们,是我的狗在车道上注意到了什么。 主持人:哦,天。我的习惯会给我算账。我们干脆开一间房、来一场大狂欢算了,因为她们全都没用。就像这种性张力,我们总得找个办法释放出来。把你们的脚弄湿。把你们的脚弄湿。 主持人:你的脚。 主持人:我们得做周边。这些都上。我全押。
以上为整集逐句译文,共 27104 字。出处:官方同名视频的完整英文字幕(E292,93 分 14 秒)。1

References

  1. 1
    All-In 官方单集页(E292《Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots》,2026-10-10,93:14)

    allinchamathjason.libsyn.com

  2. 2
    The New York Times:Religious Scholars Met With Anthropic. What They Heard Stunned Them.(2026-09-29)

    nytimes.com

  3. 3
    梵蒂冈:通谕《Magnifica Humanitas》全文(2026-05-15 签署)

    vatican.va

  4. 4
    梵蒂冈新闻办公室:通谕发布会与教皇致辞(2026-05-25)

    press.vatican.va

  5. 5
    Anthropic:Claude's Constitution(以 CC0 公开)

    anthropic.com

  6. 6
    Anthropic:2026 Usage Policy update

    anthropic.com

  7. 7
    The Guardian:Anthropic bans users from 'needless abusive or cruel' behaviour toward its models(2026-10-08)

    theguardian.com

  8. 8
    维基百科:Roko's basilisk

    en.wikipedia.org

  9. 9
    Scientific American:OpenAI unleashes hundreds more math results upon a field already in shock(2026-10-06)

    scientificamerican.com

  10. 10
    Terence Tao's blog:AHM Statement on OpenAI's October 6 Release of Mathematical Documents(2026-10-07)

    terrytao.wordpress.com

  11. 11
    Shtetl-Optimized:The Mathocalypse(2026-10-07,10-09 更新)

    scottaaronson.blog

  12. 12
    Reuters:Police fire teargas as French school protests cause disruption(2026-10-06)

    reuters.com

  13. 13
    The New York Times:Student Protests Expand to More Than 40 French Cities(2026-10-06)

    nytimes.com

  14. 14
    BBC:France promises 3,000 extra teachers in bid to calm student protests

    bbc.com

  15. 15
    xAI:Introducing Grok Bot(2026-08-11)

    x.ai

  16. 16
    The Next Web:Musk's Grok Bot will use Anthropic's Claude, Midjourney, Suno and other leading APIs

    thenextweb.com

  17. 17
    OpenAI:Introducing dots(2026-09-29)

    openai.com

16 档顶级海外 AI 创投播客图文笔记
16 档顶级海外 AI 创投播客图文笔记@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments