这期到底在纠正什么
Nathan Labenz 在中国两周的实地观察，指向一个被美国 AI 政策讨论反复调用、却经常被简化的前提：「中国不在乎 AI 安全，所以美国不能先慢下来。」他的结论不是替中国的模型或监管背书，而是把问题拆开：中国的前沿模型服务目前确实落后于 OpenAI 与 Anthropic，但中国的研究界和政府并没有把 AI 安全当成西方的专属议题。 1
本期是 Nathan 单人报告，旅途中遵守 Chatham House Rule，因此不公开接触对象的姓名和所属机构。下面的事实整理以官方逐字稿为主；官方逐字稿由自动系统生成，个别专名按节目页列出的公开资料校正，不能公开核验的现场论文不写成已发表成果。
01｜先把「但中国」拆开
Nathan 先承认差距：按实际使用量加权，美国公司的安全实践、护栏和安全评估披露目前更强。这个平均值很大程度上由 OpenAI 和 Anthropic 两家公司抬高；如果把它们从美国样本中拿掉，中美之间的差距会明显缩小。2
中国 AI 安全界常用的「45 度线」，来自上海人工智能实验室主任、首席科学家周博文在 2024 年世界人工智能大会的表述：能力上升时，安全措施也要同步变强，不能让能力远远跑在安全前面。3
这条线在中国仍然更像目标，而不是已完成的成绩单。Concordia AI 2026 年报告称，过去一年十家主要基础模型公司中，只有五家在发布模型时披露过安全评估，而且没有一家持续做到每次发布都披露。2
02｜模型不是服务
中国公司发布的开放权重模型，和普通用户实际接触到的 AI 服务，不是同一个风险对象。
在中国应用里，模型可能已经开始回答敏感问题，随后又被上层监控器截断；最终呈现给用户的是「模型 + 输出监测 + 服务规则」的组合。
美国安全讨论更常把开放权重模型放进最坏情形里看：模型一旦流出，谁都可能改造它。中国公司更倾向于从服务场景看：模型需要大规模硬件，通常会被其他企业接入服务，而服务本身会被监管。
两种视角都不能删掉。开放权重的最坏情形是真问题，服务上下文也决定了普通用户究竟能做什么。
03｜公司还没跟上，研究已经很像了
大公司、金融科技公司和拥有既有业务的老牌平台，更愿意做安全工作；追赶前沿的年轻创业公司更容易把资源先放到能力和发货速度上。
这不是「中国公司完全不在乎」的证据，更像是安全激励在不同组织里分布不均。
中国研究者与美国 AI 安全界的交叉学习也已经发生。Nathan 在清华 AI 学院的 AI 安全枢纽启动活动上，听到研究者点名 Apollo Research、METR、Palisade Research、英国 AI 安全研究所和 Redwood Research 等机构；节目页也把这些机构列入公开资源。1
中国大厂甚至会用 agent 每天追踪美国 AI 安全讨论，汇总成内部报告。Nathan 认为，这至少说明「西方在自说自话，中国完全不看」并不是准确描述。
04｜美国靠非营利组织，中国靠大学
美国 AI 安全研究的早期生态，很大一部分由相对自由的非营利组织和慈善资金支撑。中国的非营利组织空间更窄，AI 安全研究主要从大学、企业和校企合作中长出来。
这带来一个明显差异：中国研究更偏可靠性、未成年人保护和可测量的工程问题，较少出现美国语境里的 p(doom)、AI 2027 或极端科幻风险讨论。
Nathan 的判断是，机构不同，表达方式不同，但问题本身正在靠近。
05｜研究论文正在快速增多
Concordia 的公开数据库显示，中国 AI 安全论文产出从 2023 年每月只有少量论文，增长到 2026 年中每月约 50–60 篇。Concordia 的 2026 年报告还指出，中国前沿 AI 安全研究产出约增长 60%，agent 安全论文占比从 2025 年初的 8% 上升到 2026 年第一季度的 27%。2
Nathan 逐一读到的题目包括：
- 自复制红线：Frontier AI Systems Have Surpassed the Self-Replicating Red Line。4
- 评估造假：Evaluation Faking: Unveiling Observer Effects in Safety Evaluation of Frontier AI Systems。5
- 抗欺骗基准：DeceptionBench: A Comprehensive Benchmark for AI Deception Behaviors in Real-world Scenarios。6
- 视觉—语言—行动模型的对抗攻击与鲁棒训练：When Alignment Fails 与 STRONG-VLA。7 8
- 机制可解释性：Mechanistic Origin of Moral Indifference in Language Models 与 SafeSeek。9 10
这些题目并不证明每篇论文都做得好，却说明研究者正在处理和美国同行相同的一组困难：表面服从是否等于内部对齐？模型会不会在评估时伪装？能力增长能否和危险能力隔离？
06｜清华枢纽想成为国际交换站
Nathan 参加清华 AI 学院 AI 安全枢纽的启动活动时，听到主办方把伦敦的 Constellation 与 LISA 直接当作参照，提出让北京成为研究者短期驻留、交流和共同工作的地点。
节目页把这一活动列入本期公开资源，但 Nathan 也说，他没有在英文互联网找到足够的国际报道。因此，这一段最稳妥的读法是：这是 Nathan 对现场的观察，不是对中国 AI 安全机构全貌的统计。 1
07｜政府确实会让模型晚一点发布
中国政府对社交平台和推荐算法的监管历史，为 AI 服务监管提供了前例。中国国家网信部门负责大量生成式 AI 服务的备案与标准工作；新服务通常先接受地方测试，再进入国家层面的审核。11
Nathan 说，2023 年 ChatGPT 与 GPT-4 引发市场追赶时，一批中国公司的语言模型曾被要求暂缓发布，直到监管部门建立标准和流程。对公司来说，这意味着收入、声望和产品窗口都要让位于「先把情况控制住」。
之后，监管与公司形成更持续的沟通：大更新会进入更完整的审核，小的增量更新则不一定重复同样流程。这个边界并不透明，但公司并没有长期、普遍地被拖住。
08｜中国的治理清单不只写「内容审查」
在 Nathan 描述的政策与机构讨论里，当前最常出现的关键词是 agent：AI 从回答问题变成在数字世界采取行动，接下来还会进入机器人和现实环境。
Concordia 2026 年报告也记录了 agent 安全指导、AI 陪伴服务的自杀干预、成瘾预防、未成年人和老年人保护，以及「技术失控风险」进入官方讨论等变化。2
Nathan 还提到，国内平台需要给 AI 生成内容加标签，AI 陪伴产品出现防沉迷、未成年人禁用和提醒用户「你正在和 AI 对话」等要求。
09｜开放权重的「可撤回」假设有边界
中国政府更相信自己能在境内让开放权重模型下线，也能通过云服务商、推理服务商和电力使用情况追踪大规模的非法推理业务。
这套想法在中国境内或许更有可行性，但不能自动外推到其他国家。一个开放权重模型对全球造成的生物安全风险，不会因为中国境内可以下线就消失。
这也是本期少数没有被 Nathan 解决的关键问题：中国的治理能力可能让它低估开放权重模型出境后的外部性。
10｜安全框架的空白，以及对齐的空白
一些中国公司曾在首尔 AI 安全峰会上承诺发布风险框架，但后来没有持续兑现。Nathan 没有替它们开脱；他的解释是，中国公司可能把安全标准视为政府的工作，自己负责满足标准，而不是另起一套公开框架。
这能解释行为，却不能抹掉承诺未兑现的事实。
最后，Nathan 问：有没有「中国特色的对齐」？他想到孔子后裔延续 79 代的传统，也想到能否为 AI 写一部儒家式宪法。但他在中国没有找到正在推进这条路线的研究。
中国 AI 安全界目前更接近「写清规则，让模型可靠地遵守」的一侧，而不是让 AI 长成某种智慧传统、把价值观内化为性格。
一句话带走
中国前沿模型服务今天的安全护栏仍然偏弱；但把它概括成「中国不在乎 AI 安全」，同样不准确。
真正需要比较的，不是哪个国家更像自己的宣传，而是模型能力、服务护栏、研究产出、监管速度和开放权重外部性这五件事分别走到了哪一步。
逐句全文翻译
以下译文按照官方完整逐字稿的原始顺序逐句翻译，只保留中文，不保留英文原文。该逐字稿由自动转写生成，已按官方节目页列出的公开资料校正明显专名；本期为 Nathan 单人报告，未新增虚构的对话角色。1
00:01
Nathan：你好，欢迎回到《认知革命》。
Nathan：这一期是「Nathan 去中国」系列的第二部分，我们把它叫作「有中国特色的 AI 安全」。
Nathan：如果你还没听过第一部分，它已经在节目列表里了，几天前就上线了。
Nathan：在系列第一部分里，我主要介绍了去中国需要怎样做技术准备：如果你想准备好一部手机，需要做什么，需要下载哪些应用。
Nathan：我也分享了自己在中国当地使用中国 AI 的一些经历，然后讲了我在中国待两周、和很多人交谈之后形成的一些观察。
Nathan：我很感谢大家听完那一期后留下的友善评论，其中至少有一条来自中国的听众，而那可能是对我来说最重要的一条评论。
Nathan：如果你过去几年去过中国，那一期大概可以跳过。
Nathan：但如果你对这一期感兴趣，你可能也会对那一期感兴趣，不过我确实认为两期都应该能够相对独立地听懂。
Nathan：所以，第一部分更接近旅行见闻和科技产品评测，而这一期会真正聚焦中国的 AI 安全生态，尽可能描述它，并尽可能按照它自己的语境去理解它。
Nathan：正如我们上次看到的，中美之间有很多相似之处。
Nathan：就像美国大科技公司和中国大科技公司之间有很多重大相似之处，美国 AI 安全社区和中国 AI 安全社区，以及它们产出的工作，也有很多相似之处，但两边也确实存在一些差异。
Nathan：如果我们能更好地理解这些差异，肯定会有帮助。
Nathan：在真正开始之前，再快速说明两点。
Nathan：这期我也会遵守 Chatham House Rule，不是因为有人要求我这样做，而是因为这样能让事情对我来说更简单，也能确保我保护所有和我交谈过的人，避免他们被我错误描述，或者被置于不舒服的位置。
Nathan：所以，我不会说出任何人的名字，也不会把观点归给他们所属的组织或机构。
Nathan：本期唯一的例外是我引用已经发表的论文或报告时，因为那些内容已经公开存在，我可以告诉你它们的名称。
Nathan：我还会提到一些不错的资料，并把它们放进本期节目说明，任何想继续深入的人都可以去看；当然，我一直建议大家这样做。
Nathan：另外，为了避免有人疑惑，我在这件事上没有任何经济利益冲突。
Nathan：这次旅行的机票、酒店和其他费用都是我自己支付的。
Nathan：我接受的最大一项好意，是几位热情主人的一些饭，大概是两周里六顿左右。
Nathan：如果你一直听到这里，你大概可以像我一样有相当把握地认为，接受这些饭并没有过度影响我对中国 AI 安全社区现状的看法。
Nathan：那么，我们开始。
Nathan：我觉得，过去人们经常听到一种说法，虽然随着局势越来越真实、越来越快，这种说法最近已经有所减弱，尤其是在最近发生了类似 OpenAI 失控事件之后，我们开始无法否认，AI 安全问题确实已经摆在眼前。
Nathan：但你仍然会偶尔听到，过去听得更多：我们不可能放慢 AI 竞赛，永远不可能监管，也不能给前沿公司施加任何责任或义务。
Nathan：为什么？
Nathan：因为中国不在乎 AI 安全，中国永远不会放慢速度。
Nathan：我过去把它叫作许多 AI 安全和监管讨论的「但中国」终点。
Nathan：如果这期节目能起到任何作用，我希望它至少能让大家摆脱这种误解。
Nathan：我带你走完下面这些内容后，应该会很清楚：中国确实在乎 AI 安全。
Nathan：这当然不是中国唯一在乎的事情，但他们确实在乎。
Nathan：中国有过以安全为名让 AI 公司放慢速度的时刻。
Nathan：不一定是以生存级安全为名，而是以他们所理解的安全、以他们在乎的领域为名。
Nathan：所以，我希望听完这期之后，大家至少能在一个基本点上变得更清楚：那里确实存在一个真实的安全生态，中国确实有人在乎这些问题，中国政府也愿意在认为有必要时采取行动。
Nathan：当然，这还没有把我们带到国际条约那一步。
Nathan：第三期会讨论这个问题：从 AI 议题出发分析中美关系，以及我们怎样才能让这段关系比今天更有建设性。
Nathan：今天，我们只聚焦中国正在发生的 AI 安全相关事情。
05:05
Nathan：我认为这个基础非常关键。
Nathan：我希望这期节目能成为一种材料，让那些愿意保持开放、愿意听下去、却误以为中国不在乎、永远不会放慢速度的人可以分享给别人。
Nathan：有人会说，只要我们不全速冲向递归式自我改进，我们就会把这场竞赛拱手让给中国。
Nathan：我认为，直白地说，这种看法来自无知。
Nathan：希望我们能在这期节目里至少消除其中一部分。
Nathan：首先，我想快速、事实性地讲一下，如今中美两个生态在前沿模型安全护栏方面究竟处于什么位置。
Nathan：我认为这很重要，因为它能让讨论落地；而我通常给人的印象，是一个对中国较为友好、倾向于和解、通常试图在事情里寻找积极面的观察者，不只是对中国如此。
Nathan：因此，有人可能会指责我埋没了最重要的事实，或者回避相互矛盾的证据。
Nathan：所以，我想先把这一点直接摆出来。
Nathan：我认为，公平地说，截至目前，中国 AI 公司和模型在保护公众免受模型滥用风险方面，安全护栏还没有美国公司的那么强。
Nathan：这一点应该非常直白地说出来。
Nathan：两边的差距比我们想承认的更大。
Nathan：但我认为，差距主要是由美国的两家公司拉开的。
Nathan：不久前我刚和 Adam Gleave 做过一期节目，讨论了越狱、模型对越狱的稳健性，以及类似的问题。
Nathan：那期节目里我们看到，OpenAI 和 Anthropic 正在形成一个「Open Anthropic」式的双头格局：它们在能力上领先，幸运的是，在安全措施上也领先。
Nathan：这两家公司做了很多工作，拉高了美国整体的平均水平。
Nathan：如果把这两家公司从样本里拿掉，再看美国其他公司与中国公司之间的差异，那么很多被报道出来的安全差距其实会消失，故事会变得混乱得多。
Nathan：我确实认为美国公司仍然会有一点优势，但那会是很小的优势，绝不会让美国生态站在某个明显的道德高地上，去宣布中国做得很差。
Nathan：这一点非常重要。
Nathan：根据你对「前沿」的划分方式，如果用一个比较宽松的标准来定义前沿模型公司，那么两国各自大概都有十到十二家。
Nathan：这个标准相当宽松。
Nathan：大多数密切观察美国 AI 生态的人，不会把十二家公司都算作真正的前沿公司。
Nathan：但如果说的是接近前沿，那么两边各自大约有十到十二家。
Nathan：而美国真正把平均值，尤其是按人们日常实际使用的产品加权后的平均值，拉高的，确实是那两家头部公司。
Nathan：Google 的 Gemini 在安全护栏上没有 OpenAI 和 Anthropic 做得那么多、那么好，但它至少也稍微领先于其他公司。
Nathan：如果没有 OpenAI 和 Anthropic，我们可能会把 Gemini 当成一个标准。
Nathan：它不会比中国公司好到非常明显，但至少会好一点。
Nathan：所以，再直白地说一遍：平均来看，尤其是按人们实际使用的产品加权后，美国公司的安全实践和护栏更好，模型卡与安全评估承诺的公开程度也更高。
Nathan：稍后我会再多讲一点这一点。
Nathan：美国生态确实是由几家领先公司撑起来的。
Nathan：除此之外，两边的组合、相对位置，远没有把 OpenAI 和 Anthropic 算入测量结果时的那些标题数字看起来那么不同。
Nathan：接下来，简单讲一点中国 AI 安全的思想史。
Nathan：总体而言，我会说这是一群非常务实的人，想法也很务实，脚踏实地，看起来就是普通人。
Nathan：他们不是那种疯狂的科幻迷，也没有那么受科幻传统影响。
10:05
Nathan：他们大体上只是想让事情以一种务实的、从一代传到下一代的方式运转起来。
Nathan：我可以给你推荐的一个好资料，是上海人工智能实验室的主任兼首席科学家。
Nathan：上海人工智能实验室当然是一家位于上海的重要机构。
Nathan：他的名字是周博文。
Nathan：我再次向所有人，尤其是中国听众道歉，我的中文实在太差了。
Nathan：过去几天大家拿我的发音开了个玩笑：总的来说，我觉得自己比实际年龄年轻，身体状态也不错，而且很高兴自己的思维仍然很灵活。
Nathan：但一到把中文名字读准确这件事上，我的神经可塑性就不太行了，确实很挣扎。
Nathan：总之，我为此道歉。
Nathan：周博文是上海人工智能实验室的主任兼首席科学家。
Nathan：在 2024 年世界人工智能大会，也就是我刚刚参加的那场上海会议，不过是两年前的那一届，他提出了「45 度线」这个概念。
Nathan：这场演讲是公开的，政府网站上也能找到。
Nathan：45 度线的意思是，能力和安全措施应该一起增长。
Nathan：45 度大致对应 y 等于 x，也就是斜率为 1 的直线。
Nathan：随着能力上升，安全标准和安全措施也必须越来越强。
Nathan：只要这两者同步增长，在任何能力水平上，安全措施都能应对能力带来的挑战，那就算达标。
Nathan：这些东西很可能本来就应该自然地共同演化、同步发展。
Nathan：这个概念的重要性在于，我们不希望能力远远跑在安全措施前面。
Nathan：但它也隐含着另一层意思：如果某种能力还不存在，那么把安全措施做得相对于那种能力极其稳健，可能没有太大意义，甚至可能浪费时间，或者适得其反。
Nathan：至少在我看来，45 度线已经成为中国整个 AI 生态思考 AI 安全时一个相当广泛接受的指导原则。
Nathan：当然，我们还可以问：实际进展如何？
Nathan：我刚才已经提前说过，美国公司做得更好，但我们可以更详细地看一看。
Nathan：Concordia AI 由大约一年前上过本节目的 Brian Tse 领导，他们维护着一个叫 aimonitor.net 的网站，在那里运行各种评估并把结果画出来。
Nathan：你可以看到大量、甚至有些让人应接不暇的细节，涵盖他们测试过的不同模型和各种基准。
Nathan：你可以把它钻研得非常深。
Nathan：对我来说，最有信息量的图表，是把专有 API 模型，也就是主要由美国公司提供的模型，和开放权重模型，也就是主要来自中国公司的模型，放在一起比较。
Nathan：图表发现，在所有重要的风险类别上，闭源的专有 API 模型都处在 45 度线附近，或者略高于这条线。
Nathan：当然，我们也要问指标本身是什么。
Nathan：他们画出了能力分数和安全分数，但这些分数具体对应模型怎样的行为，或者模型会做什么、不会做什么，我还没有把所有问题都追到事实底层。
Nathan：这些是综合分数。
Nathan：但总体上你会看到，主要是美国公司的闭源专有模型大致处在 45 度线附近或其上，而主要是中国公司的开放权重模型大致更低，往往处于 45 度线下方。
Nathan：所以，它们确实做得没那么好。
Nathan：这是一个位于中国的组织发布的结果。
Nathan：更值得注意的是，这是一个公开网站，他们显然可以自在地发布这些结果，在一个同时提供中英文版本的网站上，按他们看到的样子来呈现事实。
Nathan：这不是秘密，也不像是中国社区无法承受、会特别反对的东西。
Nathan：它基本上就是事实。
Nathan：而且，几天前我和 FAR.AI 的 Adam 交谈时，他也明确说了相同的话。
Nathan：他说，OpenAI 和 Anthropic 在最上面，很难把它们越狱；Gemini 和 Grok 更容易；中国模型还要更容易。
Nathan：这是世界两端的两个组织，问了同一个问题，最后得出了非常一致的答案。
逐句全文翻译（续）
15:04｜赞助
Nathan：本期节目由 Claude 赞助。
Claude 是 Anthropic 推出的 AI 协作伙伴，能理解你的工作流程，帮助你在研究、写作、编程和组织工作中处理长上下文。
如果你想开始使用 Claude，或者了解 Claude Pro，可以访问节目说明中的链接。
16:34
Nathan：这里有一点，因为好几个原因，值得大家记住：有时候，人们会把中国公司发布的开放权重模型，和它实际向公众提供的服务混为一谈。
Nathan：我上次评测中国 AI 时提到，在中国应用里，我不止一次遇到过这种情况：你问了一个敏感问题，答案已经开始生成，接着突然出现一种老式必应的体验——你正在读的答案一下子消失，屏幕变成拒绝回答。
Nathan：对不起，我不能帮助你处理这个问题。
Nathan：这显然是一个多组件系统。
Nathan：它不只是模型。
Nathan：它先是模型，然后模型上面还有一个监控器，负责分类，或者以其他方式审查输出，随后它可以说：不行，我们现在就要切断，即使模型本身原本愿意回答。
Nathan：我之所以提这一点，是因为它有时会让结果变得混乱，让差异看起来比真实情况更大。
Nathan：我确实去看了 Concordia 报告的方法说明，他们说，只要条件允许，他们会直接测试公司的 API。
Nathan：也就是说，API 里存在的各种系统都会被纳入测试。
Nathan：但公司在 API 中使用的系统，是否和它在第一方消费应用中使用的系统完全相同，并不总是清楚。
Nathan：而在其他场景里，当你看到类似的结果，比如 Anthropic 测试中国模型并发布报告时，我理解他们通常只测试模型本身，没有把模型在中国经济实际部署时周围的额外措施算进去。
Nathan：为什么这很重要？
Nathan：我认为，和这些问题一贯一样，两组数据点都很有价值。
Nathan：最鹰派的 AI 安全观点可能会说：你把一个开放权重模型放到世界上，任何人都能使用它，所以我们必须理解最坏情形。
Nathan：我认为这完全合理，而且肯定很重要。
Nathan：我也认为，中国人有时可能低估了这一点，因为他们思考得更多的是服务，而不只是模型。
Nathan：我的大致感觉是，在中国，受到监管的是服务。
Nathan：你是在向公众提供一项 AI 服务。
Nathan：这才是会被监管的东西。
Nathan：你把一个模型放入公共领域，这本身如何？谁会使用它，在什么上下文里使用？
Nathan：他们似乎有这样一个心理模型：当一家公司发布开放权重模型时，接下来主要会发生的事情，是其他企业拿起它，在上面构建自己的服务。
Nathan：如果那是另一家中国公司在开放权重模型上构建新服务，那么这项服务仍然会在服务层面受到监管。
Nathan：他们也似乎认为，世界各地的国家大概都会以类似方式运行：新模型的参数规模达到数万亿，这不是你能放到笔记本电脑上运行的东西。
Nathan：距离那种情况还很远。
Nathan：你需要非常强的硬件，才能完成这些模型的推理。
Nathan：所以他们会说：它虽然以开放权重的形式存在，但不是任何一个随机的、失控的人都能把它下载到手机或笔记本电脑上，然后用它造成伤害。
Nathan：它真正会被使用的场景，还是其他服务。
Nathan：因此，我们应该更多关注模型最终被谁、以什么方式、放在什么服务环境中使用，而不是孤立地看模型本身。
Nathan：我确实认为，这是美国 AI 安全讨论和中国 AI 安全思路之间存在差异的一种方式。
Nathan：我认为双方都有合理的观点。
Nathan：中国人的观点确实有道理。
Nathan：毕竟，运行这些巨型模型很难。
Nathan：一个随机的人，尤其是那种正在经历某种发作、心理压力，或者精神状态突然失衡的人，我甚至不知道该用什么合适的词来描述，都不太可能先搭起一整套基础设施去运行一个拥有 2.8 万亿参数的 K3。
Nathan：这并不能消除全部风险，但「孤立运行一个模型并不容易」确实是一个有效的观点。
Nathan：所以，模型将如何运行、由谁运行、周围还会有什么系统，这些都是重要问题。
Nathan：我认为，美国讨论有时过快地跳过了这些现实问题。
Nathan：但与此同时，理解最坏情形也同样重要。
Nathan：所以，我认为两边的视角都成立，在这一点上确实存在一处脱节。
21:40
Nathan：即使把这些都算进去，我们仍然可以问：中国公司到底有多在乎 AI 安全？
Nathan：正如我开头说的，你经常会听到：中国公司不在乎。
Nathan：我认为，中国整个系统肯定在乎。
Nathan：但关于公司本身，尤其是那些比较年轻、追逐大语言模型或 AGI 的创业公司，我听到的说法有些不同。
Nathan：这里有几个不同的数据点。
Nathan：第一，Concordia 不只做研究，也维护一份很好的《中国 AI 安全现状》报告。
Nathan：这份报告是公开的，他们刚好在世界人工智能大会前后更新了 2026 年 7 月版，我为本期准备资料时也参考了它。
Nathan：他们说，自己审查了十家主要中国公司的安全披露实践。
Nathan：十家公司里，五家曾经在近期某个时间点做过安全评估，并在发布模型时一同公布。
Nathan：也就是说，十家里有五家至少做过类似 Anthropic 或 OpenAI 模型卡的事情。
Nathan：但显然，这也意味着另外五家没有这样做。
Nathan：即使是做过的五家，也不一定会在每一次发布新模型时都做。
Nathan：这当然还有很多可以改进的地方。
Nathan：我的总体印象是，大科技公司——比如阿里巴巴、蚂蚁集团、腾讯，某种程度上也包括现在已经很大的字节跳动——更愿意关注 AI 安全。
Nathan：这些公司已经建立起来，有现成的业务，也在原有业务上赚很多钱，因此更倾向于做这类安全工作。
Nathan：为什么？
Nathan：也许只是因为它们能失去的东西更多。
Nathan：它们真的不想站到中国政府的错误一边。
Nathan：也许只是因为它们有能力为安全工作付费。
Nathan：也许只是因为组织文化随着时间成熟，形成了这类实践。
Nathan：如果你是一家金融科技公司，资金在你的系统里流动，那你肯定会极其谨慎地升级系统，也会认真考虑 AI 在系统里失控会怎样。
Nathan：你就是有很多东西不能失去。
Nathan：我没能找到一个精确解释，但我的总体感觉是，这类成熟的大型科技公司，比那些大体上只想追赶、证明自己相关性的创业公司，更愿意做安全工作。
Nathan：这和几年前 Meta 开放权重发布 Llama 2 和 Llama 3 时的情况并没有太大不同。
Nathan：我认为，当时 Meta 对自己讲的故事是：我们落后前沿大约一年。
Nathan：等我们把某个能力水平的模型推向公众时，OpenAI 和 Anthropic 早已把同一水平的模型公开一年了。
Nathan：这一年里，人们已经有足够多的机会去越狱，去观察模型会做什么，也知道这些防御并不十分稳健。
Nathan：所以，如果 GPT-4、GPT-4o，或者当时他们追赶的某个能力水平真的会发生非常糟糕的事情，那大概已经发生了。
Nathan：因此，他们可以开放权重发布模型，而不会造成太大变化。
Nathan：至少到现在，这套说法还算站得住，历史也有点证明他们是对的。
Nathan：我们没有看到什么疯狂事件，是由当时大约达到 GPT-4o 水平的 Llama 3 70B 造成的。
Nathan：它看起来没出什么问题。
Nathan：所以我认为，中国的一些创业实验室也有类似想法：能力已经在外面存在一段时间，如果没有发生什么坏事，也没有事故报告，那我们大概可以追到这个能力水平，而不必过度担心。
Nathan：现在美国前沿公司开始出现真正严重的事故报道，这种情况会不会改变？我们还要继续观察。
Nathan：但我认为，这确实是一个非常可信的解释。
Nathan：当然，这里有很多不同的观点，我不可能逐家公司讲。
26:51
Nathan：这已经抽象掉了很多细节，但我认为可以相对稳妥地说，45 度线的核心理念——安全措施应该随着能力一步一步增长——在中国仍然有些理想化。
Nathan：我认为他们可以做得更好，也有一点理由相信这件事没那么重要，因为美国公司已经探索过他们正在追赶的每个能力水平会发生什么。
Nathan：但我也认为，公平地说，美国的 AI 安全同样仍然很理想化。
Nathan：我们应该记住，如果不是有两家公司同时站在能力和安全措施的前沿，那么中美两个集群会高度重叠，谁的生态在 AI 安全和护栏上做得更好，也会比今天更难判断。
Nathan：以上是目前已经部署的 AI 系统。
Nathan：当然，中国还有很多研究活动，还有政府正在扮演的角色，所以下面我要讲这些。
Nathan：在研究层面，中国研究者越来越投入、越来越担心、越来越关注 AI 安全问题，也在不断发布各类相关研究。
Nathan：这几乎是不可避免的，因为至少目前，中美两个 AI 生态实际上在发展同一种技术，最终会遇到同一批问题，也自然会寻找相似的解决方案。
Nathan：一方面，这是因为这些方案本身就是自然会出现的解法；另一方面，两边也有机会观察对方在做什么，尝试复制其中最好的部分。
Nathan：我认为，民间外交也发挥了很好的作用。
Nathan：我在中国，尤其是在世界人工智能大会上，遇到一些参加不同论坛和第二轨道对话的人。
Nathan：有些对话是闭门的，也不公开记录，让参与者可以坦率地交流。
Nathan：在那里你会看到一些你预期会看到的人：他们一直在美国讨论中非常清楚、非常有力地说，我们必须通过国际条约控制这些东西，与中国合作是关键路径。
Nathan：我认为你可以放心，这些人确实在按照自己公开表达的信念做事。
Nathan：我在线上看到过其中一些人，也在中国见到了其中一些人。
Nathan：他们确实在做这项工作。
Nathan：这至少已经带来了一些结果。
Nathan：当然，我认为其中很多事情本来可能也会自然发生，但这些人的努力确实结出了一些果实。
Nathan：作为一个带有记者属性的人，我没能参加所有第二轨道对话。
Nathan：有几次，大家觉得如果现场没有一个主要凭播客获得身份的人，所有人可能都会更放松。
Nathan：所以，我没有完全参与最坦率、最不公开的那些交流。
Nathan：但有太多时刻，一些非常容易辨认的观点，甚至一些美国或英国 AI 安全组织，都被直接点名。
Nathan：这说明思想确实在发生有意义的交叉传播。
Nathan：在这件事上，思想主要是从西方向东流动。
Nathan：当然，接受这些信息的中国科学家和研究者并不是不加批判地照单全收，也不是西方人一来，他们就按照对方说的做。
Nathan：完全不是这样。
Nathan：有人告诉我，中国有些人认为 AI 安全是某种西方秘密行动，目的是拖慢中国，或者阻止中国追赶。
Nathan：所以，中国也有表达这种担忧的怀疑主义声音。
Nathan：我没有遇到看起来相信这种说法的人，也没有遇到直接这样说的人。
Nathan：我的猜测是，随着最新模型的能力带来的现实危险越来越明显，这类看法会很快淡去。
Nathan：但至少，这种观点确实存在过。
Nathan：我觉得有必要提起它，哪怕只是因为它说明，中国人完全有能力独立思考。
Nathan：他们并不是把任何一个西方人来告诉他们的东西都照单全收。
逐句全文翻译（续）
31:57
Nathan：我认为，真正发生的事情是，他们相当开放，而这些想法本身也很有说服力。
Nathan：而且，相关案例一直在变得更具体、更真实、更丰富。
Nathan：有一家大型科技公司，我有机会和几个人一起去见了它的管理层，那里有一组相当令人印象深刻的高管。
Nathan：他们请来了首席营销官、传播负责人、总法律顾问、AI 安全负责人，以及更多人。
Nathan：那确实是一群非常资深的领导者。
Nathan：他们说了几件让我印象很深的事。
Nathan：第一，他们几乎拍着桌子说：我们确实在乎灾难性风险。
Nathan：化学、生物、放射性和核风险，我们绝对在乎。
Nathan：他们非常坚决地表示，至少对他们来说，他们在乎，也知道这些风险存在。
Nathan：他们还说，他们每天都在追踪美国的 AI 安全讨论。
Nathan：你准备好了吗？
Nathan：他们用一个 agent，每天去浏览美国 AI 安全讨论，然后给他们生成一份美国 AI 安全现状的日报。
Nathan：我觉得这相当有意思。
Nathan：至少据我所知，美国这边没有多少人在反向做同样的事情。
Nathan：所以，我认为底线是：接触和交流已经产生了效果。
Nathan：随着时间推移，双方出现一些趋同本来就可以预期，但那些说我们需要和中国合作的人，至少其中一部分，确实也在做这项工作。
Nathan：而且，从目前看来，这项工作进展得相当不错。
Nathan：我继续往下讲，证据还会增加。
Nathan：还要强调一点：这不只是内容安全。
Nathan：在中国语境里，内容安全经常被概括为「三个 T」：西藏、台湾和天安门。
Nathan：所有人都知道，中国的模型，或者更准确地说，中国的服务，对这些内容很敏感。
Nathan：模型本身有时可能更愿意回答，真正让你停下来的往往是服务里的另一个组件，是监控器之类的东西。
Nathan：但所有人都知道，在中国语境里，这些话题很敏感，公司如果要在那里运营，就必须按照中国政府的要求处理好它们。
Nathan：但有些人会说：中国只在乎这些，中国只在乎审查。
Nathan：这同样不对。
Nathan：现在的大趋势是，他们似乎觉得内容问题已经处理得相当好了。
Nathan：所有这些公司都已经发布产品，进入市场，开展业务。
Nathan：它们目前并没有那么担心内容安全。
Nathan：它们真正担心、不断讨论的，和其他地方完全一样，是 agent。
Nathan：agent 会采取自主行动，会发生什么，我们能不能让它们保持在控制范围内。
Nathan：当然，这里还要问：所谓控制，具体是什么意思？
Nathan：但 agent、agent、还是 agent，所有地方的人都在谈这个。
Nathan：他们用来推动 AI 安全讨论的理由非常朴素：AI 已经从回答问题，走到了在世界里采取行动。
Nathan：目前主要还是数字世界，但他们非常重视机器人。
Nathan：他们完全预期，这些 agent 会离开数字世界，在现实世界里找到能够商业化运行的具身形态，在物理环境中做事。
Nathan：这就带来各种问题：如果这些 AI 被赋予自主行动的权力，我们最好确保它们采取的是对人有益、符合我们意愿、不会造成重大问题的行动。
Nathan：这种动机非常务实，也非常脚踏实地。
Nathan：我去过的地方，几乎到处都能听到类似说法：agent，天哪，agent 能在现实世界采取行动，我们真的得开始管住它们了。
Nathan：我认为，中美 AI 生态一个很重要、也很不同的地方，是中国没有美国那样的非营利组织部门。
Nathan：中国当然有非营利组织，也可以成立一个。
Nathan：但据我所知，你被允许或期待去做的事情，范围要窄得多。
Nathan：政治活动显然没有空间，这条路基本不通。
Nathan：大多数非营利组织，似乎都是服务型组织，用来处理一些明显、直接、大家都能看懂的社会问题。
37:02
Nathan：慈善资金也是如此。
Nathan：它们更偏向直接、传统、所有人都同意应该做的事情，比美国更少去支持那种高度推测性的议题。
Nathan：我认为，这其实是美国的一项巨大优势，我们不应该把它当作理所当然。
Nathan：美国有一个公民社会，任何人都可以成立非营利组织，提出古怪的想法，去追逐一个议程，而不需要先取得政府许可。
Nathan：他们只需要说服一个富有的捐助者，让对方相信这个方向值得追。
Nathan：我认为这是美国很大的优势，也正是它给了我们今天的 AI 安全社区。
Nathan：AI 安全刚开始时极其边缘，但有几位慈善家足够认真，愿意帮助研究者维持运转，让他们做自己想做的工作。
Nathan：很多年前的预测，如今正在变成现实，至少已经真实到足以让人害怕。
Nathan：我们拥有这样一个生态，真的很好。
Nathan：如果一切都必须先经过政府审批，我们就不会拥有它。
Nathan：中国的非营利组织需要经过更重、更严格的政府审批，能做的事情也更窄、更传统。
Nathan：因此，中国从来没有机会像美国这样，发展出一整套 AI 安全组织的生态。
Nathan：结果是，中国大多数 AI 安全研究来自大学。
Nathan：有一部分来自企业，也有很多校企合作。
Nathan：但最大的来源似乎是大学。
Nathan：如果说美国非营利组织承担了 AI 安全研究的主要产出，那么中国对应的机构就是大学。
Nathan：所以，你可以夸奖他们：他们的大学界在 AI 安全研究上，行动速度可能比美国大学更快。
Nathan：这一点很酷。
Nathan：但它仍然比美国非营利组织的行动慢。
Nathan：我认为，这和教授通常是什么样的人有关，两国都一样。
Nathan：当然，两国都有不拘一格的教授，而且如今这类人往往年龄较大。
Nathan：但现在更常见的画像，是按部就班走职业路径的人。
Nathan：我不是在贬低他们，而是说，他们通常从博士、博士后，一步一步走到第一个教授职位。
Nathan：他们是相当制度化的人。
Nathan：他们重视创造力、研究和新想法，但会用比较传统的方式做这些事，不会太用力地冲破边界。
Nathan：他们通常不想显得太奇怪，当然也不会借用 LessWrong 的审美，更不会频繁讨论极不可能发生的尾部风险。
Nathan：这只是因为他们身处大学，也因为他们走的是一条更典型的职业路径。
Nathan：我不能说自己完全了解中国学术职业路径的细节，但你很明显能感受到，这些教授型研究者更像美国的教授，而不是那些多年前最早发出 AI 安全警报的「道德怪人」。
Nathan：但据我所知，中国最早、最好的一批工作，很多就是从这里出来的。
Nathan：所以，如果你是美国 AI 安全社区里那种蓝头发、多重伴侣关系、非常激进的安全派，想去中国找自己的同行，现实可能是：你不一定找得到。
Nathan：你不一定会遇到长得像你、态度也和你相同的人。
Nathan：你能找到的，是一些美国 AI 安全界的人已经在做的事情：他们去搭桥，尽可能和中国同行进行思想交流。
Nathan：我认为，他们最终主要连上的是中国学界的人。
Nathan：这很有意思。
Nathan：而且，你在很多地方都能感受到这一点。
42:07
Nathan：中国的 AI 安全工作不那么推测性。
Nathan：它通常更关注可靠性，也更关注保护未成年人。
Nathan：这些都是好事。
Nathan：你听不到太多 p(doom) 的讨论。
Nathan：这次行程里最有意思的时刻之一，是我和一位做了很多 AI 安全工作的教授坐在一张桌子旁。
Nathan：我问他：你们午餐时聊什么？
Nathan：你们会不会互相交换 p(doom) 数字？
Nathan：你们会读《AI 2027》吗？
Nathan：你们在中国语境里大概是什么氛围？
Nathan：他说，我们基本不读《AI 2027》。
Nathan：它太政治化了，而且里面有一些中美关系的内容，可能会让中国语境里的人不太愿意过多谈论它。
Nathan：他还说，p(doom)？
Nathan：不，我们不会在午餐时交换 p(doom) 数字。
Nathan：他看着我，好像在问：美国人会这么做吗？
Nathan：我说，会，当然会。
Nathan：如果你去湾区，在很多地方找个人吃午餐，人们确实会讨论这个问题。
Nathan：现在也许已经有点过时了，但这种问题确实已经进入日常空气。
Nathan：从他的角度看，他似乎觉得这有点出人意料。
Nathan：他做过很多不同方向的 AI 安全工作，发表过大量论文，却对「在中国语境里，p(doom) 居然是美国人午餐时的正常话题」这件事感到惊讶。
Nathan：这很有意思，也很重要，因为某种意义上，中美确实能看到镜像结构。
Nathan：比如大科技公司，我上次说过，在字节跳动吃午餐，感觉几乎和在 Google 吃午餐一模一样。
Nathan：但 AI 安全这里不完全一样。
Nathan：领导这项工作的，不是完全相同类型的人。
Nathan：这会带来误解和沟通中断的风险。
Nathan：美国 AI 安全社区的先锋，有时连自己的政府都很难说服。
Nathan：他们在大学里确实有一些立足点，但没有达到他们原本希望或预期的程度。
Nathan：想象一下，他们去和中国学界，甚至中国政府接触时，会有多难。
Nathan：这确实可能造成脱节、混乱和误解。
Nathan：但活动是真实存在的。
Nathan：它只是来自不同的制度环境，也来自一群性格类型明显不同的人。
Nathan：这和他们选择的职业路径有关。
Nathan：那么，中国大学为什么比美国大学更快认真对待 AI 风险？
Nathan：我没有真正的答案，但一个候选解释是：这个议题来自上层。
47:16
Nathan：我手头有几句习近平在世界人工智能大会上的讲话，我认为它们可能会让很多美国听众惊讶。
Nathan：那些说中国永远不会在乎的人，尤其应该感到惊讶。
Nathan：那些说我们采取任何监管都是给习近平送礼的人，也应该重新想想。
Nathan：下面是他的几句话。
Nathan：这是世界人工智能大会开幕式上的主旨演讲，也是整个活动开场后的前二十分钟。
Nathan：他在那里压轴。
Nathan：我没有在现场听这段演讲。
Nathan：现场只有几百人，而且我和几位在场的人聊过。
Nathan：安保显然非常严格。
Nathan：他们在他出现、走上台之前，已经在会场里等了几个小时。
Nathan：所以，这是一个非常重要的场合。
Nathan：他们也会非常认真地准备这类演讲。
Nathan：他不是那种上台即兴发挥的人。
Nathan：他会非常仔细地选择措辞。
Nathan：翻译时也会非常仔细地选择措辞。
Nathan：他们还发布了英文翻译。
Nathan：我参加过几场活动，现场提供中英文同传，有些中文小组讨论也是通过耳机实时翻译给不会说中文的我和其他观众。
Nathan：这确实很周到。
Nathan：如果你去参加美国类似的活动，通常不会默认提供这种翻译。
Nathan：你要么会说英语，要么自己想办法。
Nathan：而在中国，他们显然不会期待我们会说中文，所以会花力气提供同传。
Nathan：不过，根据我的体验，至少在小组讨论里，同传质量相当粗糙。
Nathan：有一次我记得特别清楚：我几乎完全不知道他们到底在说什么。
Nathan：你能听出他们谈的大方向，但很难知道他们具体说了什么。
Nathan：习近平发表讲话时，不会让一个随机译员现场决定英文版本。
Nathan：他的演讲是提前准备好的，英文翻译也已经准备好。
Nathan：所以你听到的英文翻译，也经过了相当仔细的思考。
Nathan：我引用的下面几句话，来自 Matt Sheehan 的博客。
Nathan：不知为什么，现在似乎仍然有几个不同版本，我自己也有点困惑。
Nathan：我猜，中国政府会给出官方版本，但人们也可以自己翻译。
Nathan：不同译者可能会把中文里的某些东西译得不一样，也可能认为自己找到了更好的英文表达。
Nathan：但我引用的版本来自 Matt Sheehan 的博客，他提供了完整英文翻译，也对内容做了大量评论。
Nathan：下面这三句话，我认为至少会让那些对中国会做什么抱有极端看法的人稍微放松一点，开始重新考虑。
Nathan：第一句是：人类应该如何和会思考的机器共存？当算法参与决策时，怎样保护安全？当技术挑战伦理时，治理如何跟上？
Nathan：这些都是大问题。
Nathan：我认为，这是习近平在世界人工智能大会开幕演讲中提出的正确问题。
Nathan：第二句是：AI 发展越快，就越要坚定地把方向锚定在人类福祉上；治理越要精确校准；针对失控的安全措施也必须更快改进。
Nathan：他最后说，各国应当提高风险意识，正视 AI 固有的风险和下游风险，建立法律、技术监测、预警和应急响应体系，防止误用和恶意使用，让 AI 始终处在人类控制之下。
Nathan：我相信这是他演讲的最后一部分。
Nathan：这里有很多美国 AI 安全讨论中的大想法的回声。
Nathan：我不是说他一定是从美国 AI 安全讨论中取材，但你也可以把它叫作工具性趋同：那些担心变革性技术能否顺利发展的群体，无论从哪里出发，最后似乎都会落到相似的想法上。
Nathan：让 AI 处在人类控制之下，我认为是一个分量很重的想法。
Nathan：这不是一个不能思考大局的人说的话。
Nathan：这本身就是大局。
Nathan：我邀请大家比较一下。
Nathan：当然，还要问：失控究竟是什么意思？
Nathan：一种犬儒的解读是，失控只意味着内容安全，只意味着社会控制，只意味着政府控制人民的能力。
Nathan：我不认为这是正确解读。
Nathan：这显然是中国共产党想做的事情之一，但我不认为这就是全部故事。
Nathan：我认为那种解读带有不必要的犬儒主义。
Nathan：你可以把这段讲话和今天任何一位美国重要政治人物最支持 AI 安全、最有情境意识的讲话做比较。
Nathan：我认为 Bernie Sanders 说过一些有意思的话，但从我的角度看，他也说过一些有点奇怪的话。
Nathan：我喜欢 Bernie，因为他就是他本人，也因为他很真诚。
Nathan：但如今他距离权力很远，也距离真正推动政策很远。
Nathan：那我们还有谁？
Nathan：如果把习近平这段讲话和 JD Vance 不久前在欧洲说的话相比，习近平看起来反而非常像一个 AI 安全鹰派。
Nathan：所以，我认为大家至少应该在这里稍微放松一点，承认中国可能确实愿意认真对待这些问题。
Nathan：也许我们不会因为自己做任何事情，就把未来拱手让给中国。
Nathan：因为他们可能真的愿意做比我们预想更多的事情。
Nathan：接下来我再讲一些亲身经历和具体研究，它们应该能进一步支持这个判断。
Nathan：在世界人工智能大会前几天，我先飞到了北京。
逐句全文翻译（续）
52:17
Nathan：我飞到北京，除了想去看看故宫、长城和其他一些地方，是因为我收到邀请，参加清华大学人工智能学院一个 AI 安全枢纽的启动活动。
Nathan：它在世界人工智能大会开始前几天启动。
Nathan：有意思的是，我觉得国际媒体没有报道这件事。
Nathan：我搜索过，也没找到英文互联网里真正相关的内容。
Nathan：甚至 Claude 也找不到任何信息。
Nathan：我确实有一个中文媒体来源的链接，可以放进节目说明。
Nathan：这再次说明，他们对我们的了解比我们对他们的了解多得多。
Nathan：我刚才提到的那家大科技公司，会用 agent 浏览 AI 安全领域的 Twitter，每天生成报告。
Nathan：但据我所知，美国媒体甚至没能报道中国最好的大学、清华，或者中国顶尖大学之一，启动 AI 安全枢纽这件事。
Nathan：那是一个全天的活动。
Nathan：有人介绍了研究，也有人谈了这个 AI 安全枢纽想成为什么、想做什么。
Nathan：其中有两件事尤其有意思。
Nathan：第一，他们非常努力地把它做成国际化、合作型机构。
Nathan：这个枢纽有五位创始成员，也就是类似董事会的领导小组。
Nathan：其中一位是欧洲教授，他正在清华接受一个职位，帮助发展和领导这个机构。
Nathan：所以一开始，他们的领导班子里就有一位国际成员。
Nathan：不同的人多次明确提到，他们把世界各地的其他 AI 安全枢纽当作灵感来源。
Nathan：他们特别提到伦敦的 Constellation 和 LISA，说那就是他们希望在北京成为的样子。
Nathan：他们想成为一个聚会地点，一个研究者可以来住一段时间、做出最好工作的地方，一个交换想法的地方，而且要有很强的国际色彩。
Nathan：有些演讲直接用英语，有些演讲用中文，再通过同传翻译。
Nathan：我一路跑到北京，在中国顶尖大学之一，甚至可能是最顶尖的大学，参加它的 AI 安全枢纽启动活动，听到他们把 Constellation 和 LISA 点名说成「我们希望成为的样子」。
Nathan：这非常有意思，也在很多重要方面说明了问题。
Nathan：当天还有一件事，是很多研究成果被展示出来。
Nathan：这些研究的主题和灵感来源，你一看就会觉得熟悉。
Nathan：如果你长期听《认知革命》，你会认出那些组织的名字。
Nathan：它们甚至会把这些组织的 logo 放到幻灯片上，作为前人工作和灵感来源，意思是：这些组织很优秀，我们希望变得像它们，或者达到它们的水平。
Nathan：我反复听到 Apollo Research、METR、Palisade、英国 AI 安全研究所，也似乎听到了 Redwood Research，都是中国研究者介绍自己研究时点名的机构。
Nathan：在我看来，这说明他们非常了解世界其他地方正在发生的事情，也愿意开放地吸收灵感。
Nathan：他们没有那种「不是自己发明的就不要」的偏见。
Nathan：很多组织，包括美国文化整体，常常会拒绝来自其他地方的好想法。
Nathan：这里的情况则非常开放，而且明显希望展开合作。
Nathan：他们会把人邀请进来，也会把人送出去。
Nathan：让人们进入北京，在枢纽里驻留一段时间、做研究、让想法交叉传播，是他们使命的重要部分。
Nathan：他们也会资助自己的学生，去世界各地其他 AI 安全枢纽，包括 Constellation、LISA，以及可能更多地方。
Nathan：我记得他们说过，全球已经有 16 个 AI 安全枢纽。
Nathan：如果我没记错，数字确实是在十几个。
Nathan：除了 Constellation 和 LISA，他们还提到了新加坡的 SASH。
Nathan：他们希望清华大学人工智能学院的 AI 安全枢纽进入最上面的一层。
Nathan：从现场来看，资源似乎也在。
Nathan：我并没有完全弄清楚资金来自哪里。
Nathan：他们说不是政府资金，也不是大学资金。
Nathan：我猜可能带有慈善资金的性质。
Nathan：这似乎让它和我之前关于中国非营利组织空间较窄的说法产生了一点复杂关系，甚至有一点矛盾。
Nathan：但现在已经是 2026 年了。
Nathan：这件事正发生在当下。
Nathan：我认为，中国学界，甚至中国官方的非营利领域，已经到了这样一个阶段：他们开始承认，这确实是一个真实问题，不是什么西方秘密行动，值得认真对待，也值得投入资源。
Nathan：这很酷。
Nathan：那是一次很棒、很特别的经历。
Nathan：其中有一个瞬间让我觉得很可爱。
Nathan：我总是喜欢人们不要过度装酷。
Nathan：人们可以很有自我意识，但又愿意因为当下就是该这么做，而去做一些有点傻的事情。
Nathan：现场有一个正式环节：现在到了启动这个枢纽的时刻。
Nathan：五位董事会成员都站在台上。
Nathan：每个人面前都搬来一个小台座。
Nathan：他们被要求把手掌放到面前的台座上。
Nathan：随后，身后的巨大屏幕上爆发出一整套图像效果。
Nathan：从某个角度看，客观地说，至少从美国文化的角度看，这有点俗。
Nathan：但它也让我想起读西奥多·罗斯福传记时看到的场景，比如以前下水的船会敲碎香槟酒瓶，或者举行剪彩仪式。
Nathan：我觉得，他们没有那么在意自己看起来酷不酷，更愿意为这种时刻感到兴奋。
Nathan：在中国的那个瞬间，我感受到了一点类似的东西。
Nathan：我真心觉得那很可爱。
Nathan：美国文化里我最不喜欢的一点，大概就是我们太在意自己看起来怎样，别人会怎样理解，或者此刻是不是显得太用力、太不酷。
Nathan：于是，我们会躲开这些时刻，或者用一种漠不关心的方式完成仪式，努力和正在做的事情保持一种讽刺距离。
Nathan：但那一刻似乎没有这种东西。
Nathan：他们并没有被要求做开合跳之类的表演，也没有做什么戏剧化的动作。
Nathan：他们只是完成了自己的部分。
Nathan：那一刻就是：好，事情正式发生了，枢纽启动了。
Nathan：观众鼓掌。
Nathan：我觉得那一刻很可爱，至少因为它和美国有时过度在意形象的文化形成了对比。
Nathan：好，这些事情加起来说明什么？
Nathan：启动活动上展示了不少论文，也能看到 Apollo、METR、Palisade、英国 AI 安全研究所等熟悉的灵感来源。
Nathan：但这些工作到底有多少？
Nathan：对此，我会再次回到 Concordia。
Nathan：他们有一个网站，监测这些论文，叫 aisafetychina.com。
Nathan：你可以进入研究栏目，看到他们整理、分类的许多论文。
Nathan：如果只看原始数量，中国 AI 安全研究从 2023 年还只是涓涓细流、每个月只有几篇，增长到 2026 年年中每月大约 50 到 60 篇。
Nathan：按照预期，它还在快速增长。
Nathan：过去三年增长超过十倍，趋势非常明显。
Nathan：当然，我们可以预期它会继续增长。
Nathan：这和美国研究产出相比怎样？
Nathan：首先，只数论文数量本来就不是很好的指标。
Nathan：但我还是让 Claude 帮我估了一个数，给一个粗略参照。
Nathan：它们当然都说：这取决于你到底要数什么，等等等等。
Nathan：但它们最后给出的估计，大致是美国或英语圈每月发表 50 到几百篇、也许几百篇 AI 安全论文。
Nathan：所以美国的数量肯定更多，但不是高出一个数量级。
Nathan：更像是高出几倍，而不是高出十倍。
1:02:24
Nathan：我完全不觉得这令人意外。
Nathan：但它至少让我们有一个感觉：中国生态正在快速增长，而且正在达到、或者至少接近我们这个生态的规模。
Nathan：美国拥有一个充满活力、相对不需要许可的非营利组织部门，这给了我们很大的先发优势。
Nathan：但我认为，即使以这种粗糙的论文总量指标来衡量，中国生态也在追赶。
Nathan：这些论文到底在研究什么？
Nathan：如果每个月有 50 到 60 篇，当然很难概括。
Nathan：但根据我目前的了解，它们覆盖的风险和研究类型非常广，也覆盖了西方正在研究的那一整套问题。
Nathan：我觉得，最好的介绍方式，可能是把一些论文标题整理出来读给你听，让你自己判断它们听起来有多相似。
Nathan：第一篇之所以值得注意，是因为它发表于 2024 年，时间很早。
Nathan：标题是《前沿 AI 系统已经越过自复制红线》。
Nathan：这明显让人想到 Palisade。
Nathan：不久前我请 Jeffrey Ladish 上节目，我们谈到过这类工作：研究者展示了一个开放源代码模型——当时用的是一个中国开放权重模型——能够入侵另一台服务器，复制自己，并把自己部署起来。
Nathan：中国有一个团队在大致同一时期做着非常相似的研究。
Nathan：Palisade 多年来一直在做这类工作。
Nathan：而这篇中国团队的论文发表于 2024 年。
Nathan：另一篇是 2025 年 5 月的论文，2026 年又更新过，叫《评估造假：揭示前沿 AI 系统安全评估中的观察者效应》。
Nathan：这非常像我认为主要由 Anthropic 开展、后来被其他人接续的评估意识研究。
Nathan：中国语境也完全了解这类问题。
Nathan：2025 年 9 月，有一篇《R²AI：走向不断变化世界中的抗性与韧性 AI》论文。
Nathan：我觉得它值得注意，是因为论文来自上海人工智能实验室。
Nathan：论文的指导作者，也就是作者列表最后一位，是周博文，也就是提出 45 度线概念的那个人。
Nathan：这篇论文的引言引用了《走向有保障的安全 AI》论文。
Nathan：我们过去做过关于那篇论文的节目，它由最近来过本节目的 Davidad 牵头。
Nathan：那是一篇由更广泛联盟共同完成的重要论文，但第一作者是 Davidad。
Nathan：它在上海人工智能实验室这样一个重要机构的论文开头第一段，就被作为研究动机引用。
Nathan：你会突然看见：我们正在进入的知识传统是什么？
Nathan：答案就在这里——Dalrymple 就在这篇上海人工智能实验室论文的开头。
Nathan：2025 年 10 月还有一篇叫《DeceptionBench：真实世界场景下 AI 欺骗行为的综合基准》的论文。
Nathan：这显然让人想到 Apollo，因为 Apollo 研究是最专注、也最领先于欺骗科学的机构之一。
Nathan：现在中国也有 DeceptionBench。
Nathan：2025 年 11 月，有一篇《当对齐失败：视觉—语言—行动模型中的多模态对抗攻击》。
Nathan：如果说有什么更有中国特色，可能就是它更关注机器人。
Nathan：我们也关注机器人，但他们真的非常关注机器人。
Nathan：这篇论文展示了如何使用数据扰动和类似技术，让视觉—语言—行动模型失败。
Nathan：这没什么特别惊人的地方，但你同样可以看到，世界各地的团队都在做非常相似的研究。
Nathan：同一个团队六个月后，也就是 2026 年 4 月，又发表了《STRONG-VLA：多模态扰动下视觉—语言—行动模型的解耦鲁棒性学习》。
Nathan：这基本是一篇后续论文。
Nathan：它说：上次我们展示了，你可以用这些奇怪、带有对抗性的、很特殊的攻击方法破坏视觉—语言—行动模型。
Nathan：现在，我们给出一个似乎能够缓解这种问题的策略。
Nathan：当然，没有任何方法能做到百分之百有效。
Nathan：这一点在中国和美国都完全一样。
逐句全文翻译（续）
1:07:23
Nathan：他们采用的是一个两步流程：先做一轮鲁棒性训练，再回来做任务微调。
Nathan：他们发现，面对这些不同的攻击方法，鲁棒性大体保住了。
Nathan：当然不完美，但你可以想象，美国也有各种团队在做类似的研究。
Nathan：他们会说：看，我们找到一种攻击模型的方法，现在又找到一种办法，使用它可以把风险降低多少。
Nathan：通常，降低幅度是 70%，到一个数量级。
Nathan：所以，这些研究都很相似，几乎每一篇中国论文都能和美国团队找到直接对应的工作。
Nathan：可解释性研究在中国也在上升。
Nathan：今年刚发表的论文里，有几篇很有意思。
Nathan：其中一篇叫《语言模型道德冷漠的机制起源》。
Nathan：这篇论文的摘要以这样一句话开头：现有的大语言模型行为对齐技术，经常忽略表面服从和内部未对齐表征之间的差距，使大语言模型容易遭遇长尾风险。
Nathan：这句话让我印象很深，因为它来自更学术的语境，用的是更中性、更技术化的语言，但和美国 LessWrong 圈子里经常听到的想法非常接近。
Nathan：表面服从和内部未对齐表征之间存在差异，可能导致长尾风险。
Nathan：如果我曾经听过一种最像 LessWrong 的文化胜利，这大概就是。
Nathan：今年还有一篇叫《SafeSeek：语言模型安全回路的通用归因》。
Nathan：它的摘要开头是：机制可解释性研究表明，大语言模型里的安全关键行为，包括对齐、越狱和后门，建立在专门的功能组件上。
Nathan：但现有的安全归因方法依赖启发式、领域特定的指标和搜索算法，因此在泛化能力和可靠性上遇到困难。
Nathan：我还没有研究这些工作，所以当然不能批评它们，也不能说它们到底有多出色。
Nathan：我希望自己能拥有同时运行多个版本的能力，这样就能做更多类似研究。
Nathan：但这个想法依然非常相似：我们看到 AI 在可预期、可测试、可测量、可训练的风险上表现不错。
Nathan：但它们在内部真的好吗？
Nathan：我们怎么知道？
Nathan：它们能不能泛化？
Nathan：中国的机制可解释性研究者也在试图处理同样的问题。
Nathan：我现在要讲的最后一篇，我觉得特别诡异地相似。
Nathan：这件事可能会改变，因为我实际上还没能在互联网上找到这篇论文。
Nathan：我只是在一个活动上听到它的展示。
Nathan：那是围绕世界人工智能大会举办的一场活动。
Nathan：老实说，我并不完全清楚什么算正式的世界人工智能大会，什么算周边活动。
Nathan：展览大厅当然是世界人工智能大会的一部分。
Nathan：但周围还有很多活动，你可能去附近酒店的会议室，那里看起来非常正式，却不一定是正式的大会。
Nathan：不过，我甚至不确定这件事是否重要。
Nathan：重点是，在其中一个周边活动上，有人展示了一项研究。
Nathan：我认为论文可能还没有正式发表，但它向现场观众展示的标题是：《在混合专家模型中隔离危险能力，走向把能力增长和风险增长解耦》。
Nathan：幻灯片上的承诺是：危险专家可以在推理时被关闭或移除。
Nathan：这让我特别兴奋，因为它可能是我最近看到的最让我期待的技术路线。
Nathan：它来自 AE Studio 与 Anthropic 的合作。
Nathan：我大概已经在半打节目里讲过它。
1:12:15
Nathan：所以你可能已经听腻我讲 GRAM 了。
Nathan：GRAM 是一种梯度路由技术，目的是把特定类型的知识定位到特定、可识别的专家模块中。
Nathan：这样，如果你愿意，就有可能把模型以开放权重的形式发布，但保留一小部分包含危险能力的专家模块。
Nathan：从乐观的说法看，你仍然只需要进行一次训练。
Nathan：你仍然可以教会模型所有东西。
Nathan：它仍然可以拥有你希望生物学家使用的生物能力。
Nathan：AE Studio 的 Jud 很简单地指出：这些双重用途能力确实有很多好处。
Nathan：我们确实希望生物学家使用 AI 治愈所有疾病。
Nathan：这会非常重要。
Nathan：如果我们不允许生物学家使用最聪明的 AI 来治病，就会留下巨大的价值。
Nathan：但随着模型越来越强，我们可能又不想把这些能力直接扔到互联网上。
Nathan：那怎么办？
Nathan：如果能把知识定位到特定专家模块里，那么我们就可以发布一个开放权重版本，只删掉少数专家。
Nathan：对绝大多数人、绝大多数用例来说，它仍然能很好地工作，但不会带有我们担心的危险能力。
Nathan：这些危险能力可以通过更有结构的项目提供，配合了解你的客户和其他安全措施，希望在 AI 使用自由、独立研究和修改模型的自由，以及不必永远受制于某一家公司的需求之间，找到合适平衡。
Nathan：我认为这一点很重要。
Nathan：我们也不希望下一代模型直接附带制造一场大流行的能力。
Nathan：从我们在网络安全领域看到的情况来看，生物风险可能并不是很远的未来。
Nathan：它正在变成一件真正会开始发生的事。
Nathan：当然，这并不是写在石头上、必然发生的事情。
Nathan：它取决于人们是否真的训练出这类模型。
Nathan：但按照我理解的路线，我们会获得超强的生物能力模型。
Nathan：它们现在已经相当有能力了。
Nathan：但在未来一年到一年半，人们似乎认为，我们会达到和网络安全类似的位置：模型在某些方面开始具备实质性的超人能力。
Nathan：这不意味着没有人能做它们正在做的事情。
Nathan：但如果这种水平的能力进入生物领域，尤其考虑到它们运行的速度，那会成为极其严重的风险。
Nathan：模型入侵一些服务器、制造网络混乱，和它进入生物领域，是两回事。
Nathan：我本质上不是一个网络生物，我是一个生物生物。
Nathan：所以，生物世界发生什么，对我的影响更加深刻，也更无法和我自身分开。
Nathan：不管怎样，我对这条路线非常看好。
Nathan：我希望一方面拥有能够让人按照自己的条件使用的开放权重模型，另一方面又能阻止极其疯狂的事情发生，尤其是生物领域的事情。
Nathan：然后，你会发现，中国也有这项研究。
Nathan：把能力增长和风险增长解耦，隔离危险能力，混合专家，危险专家可以在推理时被关闭或移除。
Nathan：所以，当你看看这份研究清单，希望你至少能得出这样一个结论：两个文明当然有完全不同的历史和语言，也在地球两端，制度不同；美国有非营利组织，中国主要靠大学。
Nathan：但就正在被积极研究的想法而言，两边有大量重叠。
Nathan：可以相当确定，AI 安全已经在中国扎根。
Nathan：看到这些研究，你至少有理由把习近平的讲话理解为不只是狭义的社会控制。
Nathan：中国非常重视专家意见，也非常重视学者提出的东西。
Nathan：它拥有极其悠久的学术传统，认真对待学者的意见。
Nathan：中国可能是全世界最重视学术的社会。
Nathan：这一点当然可以争论，但它至少是候选者。
Nathan：我认为，他们确实在认真对待这些议题。
Nathan：他们甚至召开过政治局学习会，讨论其中一些问题。
1:17:20
Nathan：所以在最高层面，有大量证据表明，他们确实参与了这些议题。
Nathan：我们可以相当清楚地说：中国，无论从宏观上看，确实在乎 AI 安全。
Nathan：中国在做 AI 安全。
Nathan：中国有很多研究者，发表很多论文，覆盖广泛主题，而且和我们讨论的主题有非常清晰、直接的重叠。
Nathan：他们也不避讳引用美国资料，会明确说明自己从哪个美国组织获得了灵感。
Nathan：这也是一个很强的理由。
Nathan：他们点名这些组织，就像是在说，他们在很多问题上和美国同行处在同一波长。
Nathan：虽然它来自中国社会的不同部分，但在那里几乎所有我们在美国认真思考的问题，都能找到认真思考这些问题的人。
Nathan：好，现在谈治理。
Nathan：到目前为止，我们讨论了实际部署的系统，以及它们如何比较。
Nathan：美国生态领先，但主要是靠几家头部公司抬高平均值。
Nathan：我们也看了研究，还有习近平的讲话，也就是对官方表述的快速观察。
Nathan：我会说，中国的行政体系比西方能找到的任何例子都更像一个 AI 安全鹰派。
Nathan：然后我们再看研究本身，就会发现两边存在大量重叠。
Nathan：我觉得有一个有趣的游戏：拿两篇 AI 安全论文的标题，让人猜哪篇来自美国、哪篇来自中国。
Nathan：根据我刚才列出的这些标题，我认为你会很难猜。
Nathan：所有这些都应该让我们更有信心：在思想层面，双方已经进行了大量交流。
Nathan：一部分原因是这种交流，另一部分原因是工具性趋同，以及我们正在用大致相同的方法开发大致相同的技术。
Nathan：自然会遇到相同的问题，也自然会尝试得出相同的结论。
Nathan：总体而言，我可以笑着说，中国的 AI 安全社区和我们很像。
Nathan：治理则一定会是另一个话题。
Nathan：但我认为，在这里可以提出一个相当有力的说法：中国政府领先于美国政府，至少如果你把「领先」定义为做得更多。
Nathan：你也可以根据自己的立场说，美国政府做得更少，所以做得更好。
Nathan：但中国政府做得更多，这一点大概很安全。
Nathan：我绝不是中国政府结构方面的专家。
Nathan：看起来，中国中央政府和地方政府之间存在一些管辖重叠。
Nathan：中央政府内部不同部门之间，也可能存在重叠。
Nathan：至少有几个机构或部门，对 AI 拥有部分管辖权。
Nathan：不过，最常出现的那个机构，是中国国家互联网信息办公室，通常简称网信办或 CAC。
Nathan：据我所知，它是制定标准的主要机构，也是 AI 公司持续接触的主要部门。
Nathan：下面我会列出中国政府整体做过的一些事情。
Nathan：这些事情不一定都由网信办直接完成。
Nathan：但如果你想寻找一个在中国始终出现、参与监管的主要机构，那就是网信办。
Nathan：两种文明最近一次面对、并且处理方式非常不同的技术监管战场，是社交媒体。
Nathan：中国政府在社交媒体监管上的行动更积极，不论这件事是好是坏。
Nathan：大家都能看出来，我在很多方面相当支持 AI 安全。
Nathan：但监管过度当然可能发生，而我既想要自动驾驶汽车，也想让疾病被治愈。
Nathan：我很清楚监管会带来成本。
Nathan：但在我看来，我们几乎肯定需要手上的每一种杠杆，才能让这件事顺利发展，其中也包括政府行动，而且希望政府以明智的方式行动。
逐句全文翻译（续）
1:22:27
Nathan：我对社交媒体并不一定有同样看法。
Nathan：我认为，监管社交媒体是否有利于社会，至少是否有利于美国社会，远没有监管 AI 有利于美国社会那么清楚。
Nathan：我对中国社会了解少得多。
Nathan：对我们的社会有益的事情，对他们的社会可能不那么有益，反过来也一样。
Nathan：所以，我不是在支持中国政府对社交媒体做过的事情。
Nathan：我也没有说那些事情对他们来说很糟糕。
Nathan：它可能对他们有效，我确实不知道。
Nathan：我想说的是，回到一开始，我想系统说明几点：中国确实在乎，它愿意采取行动，有些行动甚至会让公司放慢速度、降低利润，或者产生其他成本；当中国政府觉得有必要时，它仍然愿意这样做。
Nathan：在社交媒体时代，这一点非常明显。
Nathan：至少从 2022 年起，他们就一直在监管推荐算法。
Nathan：随着时间推移，他们制定了很多我们美国没有类似制度的规则。
Nathan：例如，他们制定规则保护零工。
Nathan：美国也有一些类似努力，比如加州曾经通过投票倡议，尝试把零工重新归类为雇员。
Nathan：但在中国语境里，我理解这和一次大型调查报道有关。
Nathan：我不了解完整经过。
Nathan：如果你听过我上次的节目，就知道中国的配送有多方便。
Nathan：你可以又快又便宜地叫到外卖。
Nathan：我还讲过一次小过敏反应的经历。
Nathan：我把这件事告诉朋友时，我们正坐在公交车上。
Nathan：二十分钟后到达目的地时，氯雷他定已经等着我了。
Nathan：他们真的很擅长把东西按需求送到你手上。
Nathan：大量骑电动车的人在到处跑，送餐、送包裹和其他东西。
Nathan：后来通过调查报道，这件事进入公众和政府视野：平台为了让骑手接更多单，把他们逼得越来越狠，不给休息，给出根本不可能完成的配送时间，不完成就处罚。
Nathan：于是政府介入，制定了一批规则。
Nathan：政府说，平台不能这样做。
Nathan：这里也能看到他们和科技的结合。
Nathan：我上次还讲过，在中国叫车时，用的应用叫滴滴，和 Uber 类似。
Nathan：你可以看到车到了红灯，也能看到倒计时，知道红灯什么时候变绿。
Nathan：他们有很强的能力分析交通状况，知道一个配送员现实中能做到什么。
Nathan：所以现在，平台不能给配送员不现实的配送时限。
Nathan：过去，骑手总是被要求遵守规则，但有时平台给出的时间只有靠违反交通规则才能完成。
Nathan：这种做法现在被压下去了。
Nathan：平台必须给骑手足够时间，不能诱使他们为了准时而违反交通法，还必须给他们休息时间，等等。
Nathan：他们还在另一个领域制定了专门保护老年人免受诈骗的规则。
Nathan：我很希望美国的 Facebook 们也能多关注一点这个问题。
Nathan：关于 Meta 平台治理，这里可以展开很久，我们今天没有时间。
Nathan：不久前有个故事：Facebook，也就是 Meta，曾经有一个项目，想调查它的广告有多少最终本质上是某种诈骗。
Nathan：据报道，他们发现数量可能相当多。
Nathan：然后 Zuckerberg 把项目叫停了，大意是：好吧，我们不需要再继续调查了。
Nathan：老年人是许多诈骗的受害者。
Nathan：我确实希望 Facebook 这样的平台能更好地保护他们。
Nathan：在中国，政府又为此制定了具体规则。
Nathan：他们还有关于价格歧视的限制。
Nathan：我不确定自己是否支持这些限制，但在中国，平台不像美国那样自由，不能随意向不同的人为同一件东西收取不同价格。
Nathan：我个人觉得，我们对价格歧视大动肝火有点跑偏。
Nathan：我没有很多人那么担心，但他们确实制定了规则。
1:27:32
Nathan：他们还要求平台给用户展示 AI 生成的内容时，必须给内容贴上标签。
Nathan：如果你是 TikTok 用户，应该见过这种做法。
Nathan：美国的 TikTok 也这么做。
Nathan：我不确定美国版本和中国本土的抖音是否完全相同，但我觉得至少在美国，这种标签比 Twitter，或者我认为比 Facebook 上的标签更明显。
Nathan：这很有意思。
Nathan：就在我去中国期间，另一组与 AI 陪伴有关的规则也生效了。
Nathan：我上次讲过豆包现象，以及为什么中国经历了几代独生子女政策。
Nathan：这意味着有很多家庭里，四位祖父母只有一个孙辈。
Nathan：当连续两代都是独生子女时，这个孩子就是四位祖父母唯一的孙子或孙女。
Nathan：父母和祖父母中存在很多孤独感。
Nathan：人们开始转向豆包，从它那里得到陪伴。
Nathan：这可能没问题，也可能会带来问题。
Nathan：但中国政府已经为此制定规则，而且规则刚刚生效。
Nathan：这些规则包括防沉迷措施，完全禁止儿童使用，还包括各种提醒，告诉你正在和 AI 对话。
Nathan：人们总体上似乎觉得这套规则合理。
Nathan：网上也有一点小风波。
Nathan：我没有上论坛看所有评论，但有人说豆包和其他陪伴应用的用户很难过，觉得自己的「伴侣」要被夺走了。
Nathan：大多数人似乎认为，中国政府采取这组措施相当合理。
Nathan：还有一个人说，这些规则主要针对大型服务，也就是触达几千万、几亿用户，甚至想触达十亿以上用户的产品。
Nathan：监管的是这些主流产品。
Nathan：如果你真的想要更刺激的 AI 陪伴，其他应用里仍然可以找到。
Nathan：重点是把主流产品整理好，确保大多数父母和祖父母会使用的东西处于合理控制下。
Nathan：就像美国所有老年人都在 Facebook 上，如果中国的老年人都在豆包上，那就应该保护他们，不让他们混淆、不让他们被利用，也不让他们对这类产品上瘾。
Nathan：豆包还在那里。
Nathan：如果你想要浪漫关系之类的服务，其他地方仍然有，但你得主动去找。
Nathan：这就是我从一位住在上海、对很多问题都有很有意思的看法、而且我认为非常了解情况的人那里听到的视角。
Nathan：所有这些说明，中国有一项很长的传统，就是以我们美国没有采用的方式监管科技公司。
Nathan：这应该让你有理由相信，未来这种趋势还可能继续。
Nathan：如果我们认真起来，或者尝试和中国就某种协议接触，那么对他们而言，监管科技公司并不会是一个疯狂的想法。
Nathan：中国政府还发布过相当详细的风险分类表。
Nathan：他们会做功课。
Nathan：他们会把事情梳理出来。
Nathan：他们很喜欢完整的分类表。
Nathan：我看到的一份分类表，把 AI 的一个风险写成：AI 自我意识出现，以及失去人类控制。
Nathan：所以，这不只出现在讲话里，也不只出现在研究里，它还作为一项明确风险，出现在更大的政策风险分类中。
Nathan：现在，把话题带到 AI 时代，准确地说，带到大语言模型时代。
Nathan：中国今天如何监管大语言模型产品和服务？
Nathan：这时，网信办是主要政府实体，当然不是唯一的，但主要由它和公司打交道。
Nathan：他们有一个名录，所有大型 AI 服务都会列在里面。
Nathan：你可以在线查看这个名录，看到那些经过审查和批准的服务。
Nathan：所有大公司和它们的 AI 服务都会出现在上面。
Nathan：但有意思的是，并不是每一次模型发布都会出现在名录里。
Nathan：这可能和前面提到的事情有关：即便一些公司会在模型发布时披露安全评估，也不是每次发布都披露。
1:32:35
Nathan：至少第一次发布，也就是第一次进入市场时，通常会被非常仔细地审查。
Nathan：至于中国监管机构让 AI 公司放慢速度这件事，确实发生过。
Nathan：2023 年，ChatGPT 在 2022 年 12 月发布，GPT-4 又在 2023 年发布，整个世界突然意识到 AI 的规模。
Nathan：中国有很多公司已经在做这件事。
Nathan：它们显然还没达到美国公司的水平。
Nathan：但我听到过一个有意思的解释：它们落后，是因为当时觉得大语言模型不值得投入。
Nathan：第三期我会多讲一点中国 AI 的历史，讲它在多长时间里一直是战略重点，也讲他们投入过什么。
Nathan：但这件事有点像 Google：Google 早就有 Transformer 和语言模型，却不知道该怎么利用它。
Nathan：当时模型到处胡说，连基本算术都做不好，几乎没什么用。
Nathan：你需要一个有真正愿景、甚至带有某种意识形态的人，告诉你：继续扩大规模，这些问题都会解决。
Nathan：Google 当时不相信这一点，中国公司也不太相信。
Nathan：它们确实参与了这条研究路线，也非常关注这项技术。
Nathan：但有人给我的说法是：投入这么多钱，只是为了让 AI 写糟糕的诗，实在太贵了。
Nathan：至少有一种解释是，中国公司在 GPT-4 时刻落后，和 Google 落后一模一样。
Nathan：不是因为它们不知道发生了什么，也不是因为它们造不出语言模型。
Nathan：而是因为它们并不相信，把越来越多资源投入扩大这条路线，真的会带来有趣的东西。
Nathan：当 ChatGPT 和 GPT-4 在 2022 年末到 2023 年 3 月之间改变了这一点，中国公司就像 Google 一样。
Nathan：它们落后了一点，可能对事情的规模有点准备不足，但它们已经拥有语言模型，确实理解这项技术，也有自己的研究路线。
Nathan：它们突然意识到：好，我们最好跟上。
Nathan：我们最好扩大规模，也最好发布一些服务。
Nathan：当时，中国政府也有点措手不及，这完全可以理解。
Nathan：据我的理解，2023 年有大约六个月，一批中国公司已经有了语言模型，也许还在努力把它们做大、做强，努力赶上 ChatGPT 时刻。
Nathan：但这些部署有一段时间被中央政府拦住了。
Nathan：政府说：等一下，我们的制度还没有准备好。
Nathan：我们还没有标准，也没有流程。
Nathan：这项技术显然很重要，但它很难控制。
Nathan：政府可能也非常担心内容安全，不希望有人谈论「三个 T」或者其他敏感话题。
Nathan：所以，据我理解，政府告诉公司：暂时不能发布。
Nathan：我们会先把制度建立起来，制定标准。
Nathan：之后你们必须满足这些标准，等大家准备好、我们有足够把握知道自己在做什么之后，才能发布。
Nathan：我理解，这段时间持续了六个月。
Nathan：那时，谁赢得 AI 竞赛的代价显然还没有今天这么高，也没有未来可能这么高。
Nathan：所以，如果有人愿意，也可以把这件事轻描淡写地带过。
Nathan：但事实仍然是，中国政府确实放慢了 AI 公司，阻止它们发布产品。
Nathan：政府让公众暂时拿不到服务，也让公司暂时拿不到本来可能获得的收入和声望，因为它想确保大体上控制住局面。
Nathan：后来，等制度建立起来，事情大多进展得很顺利。
Nathan：作为市场新进入者，你的服务会接受相当彻底的审查。
Nathan：据我了解，你要向当地省级机构开放产品，让它们测试。
Nathan：我认为通常就是提供一个 API 密钥，让地方政府试用产品。
Nathan：地方政府批准之后，才会进入国家层面，由网信办审核。
Nathan：如果国家层面批准，就可以发布。
Nathan：如果不批准，就需要继续改进，直到满足要求才能发布。
逐句全文翻译（续）
1:37:41
Nathan：一旦完成第一次审核，什么情况下需要再完整走一遍流程，至少对我来说并不清楚。
Nathan：最近似乎没有出现太多延误。
Nathan：监管机构已经熟悉了流程，公司也知道怎么做，发布不像最初那段时间那样经常被拖延。
Nathan：但同一家公司会在名录里留下多个条目。
Nathan：有时，一个新产品被认为达到了需要单独列出的程度，似乎变成了一个新项目。
Nathan：有时，它又被视为增量改进，或者能力提升没有大到需要重新走完整流程。
Nathan：这一点对我来说有些不透明。
Nathan：Google 似乎也有类似情况。
Nathan：比如他们发布深度研究 agent，或者某种专业模式：本质上把最好的模型并行运行十次，然后选出最好的结果。
Nathan：他们没有为此重新制作完全不同的模型卡或安全报告，这让一些 AI 安全研究者感到不满。
Nathan：Google 的观点是：这是同一个模型，最坏情况大致和以前一样，只是因为运行十次、选择最好的结果，所以更经常接近它的最好表现。
Nathan：他们认为，这不是一个全新的能力水平，不需要把所有流程再做一遍。
Nathan：我认为，中国 AI 公司和网信办以及其他监管机构的持续对话里，也有类似事情。
Nathan：我从接触过的公司那里听到的感觉是：我们一直和政府保持联系。
Nathan：联系可能至少每周一次，对公司里的某些人来说甚至可能每天都有。
Nathan：监管机构显然不怕给公司增加成本。
Nathan：它们不怕做一些会损害利润、造成延迟的事情。
Nathan：但它们希望公司成功，这是我得到的大致理解。
Nathan：这或许是监管机构合法性的一部分。
Nathan：当然，如果公司认为监管机构不合法，它们会不会告诉我？我也不知道。
Nathan：上期我讲过一位教授在北京因为无人机陷入官僚流程的例子。
Nathan：他很坦率地说，那是一段有些荒谬的官僚流程，虽然没有严重影响他，却确实给他带来不便。
Nathan：所以，人们至少愿意说政府把某件事搞得一团糟。
Nathan：但我不确定，这种坦率是否会延伸到公司向我表达 AI 监管让它们生活太难。
Nathan：我得到的感觉是，监管机构的正当性已经建立得相当牢固。
Nathan：公司预期自己要和政府保持定期联系，也接受这一点。
Nathan：对增量发布来说，双方已经形成持续、密切的沟通，不需要每次都走繁琐流程；但在真正重大时刻，就会重新走完整流程。
Nathan：据我观察，大家似乎都对这套方式感觉不错。
Nathan：而且，K3 正好在世界人工智能大会期间发布。
Nathan：中国公司发布模型的速度似乎很快。
Nathan：我曾转载过 ChinaTalk 对一家中国公司的节目，节目嘉宾负责它的市场合作。
Nathan：那期节目大概是六到三个月前，值得回去听听。
Nathan：它给我最深的印象，是他们从模型完成训练到发布产品，速度非常快。
Nathan：所以，监管机构并没有持续、戏剧性地拖慢他们。
Nathan：监管机构希望掌握局面，希望有一套好流程。
Nathan：它们的首要职责是对中央政府或党负责。
Nathan：但它们向上级证明自己做得好的方式之一，就是确保安全问题不出事，也确保自己辖区内的公司能够成功，不被不必要地拖延。
1:42:41
Nathan：在这方面，我认为它们的激励机制其实相当不错，至少从我能看到的情况来看。
Nathan：它们已经证明，自己愿意增加成本，甚至制造明显延迟，但这种事情并不是经常发生。
Nathan：还有一些事情给我留下了印象。
Nathan：中国政府确实在关注趋势。
Nathan：这部分内容很多来自 Concordia 的《中国 AI 安全现状》报告。
Nathan：一月份，我可能已经提过，政治局举行过一次学习会，专门讨论技术失控的风险。
Nathan：想象一下我们的政府举行学习会。
Nathan：再看看我们的内阁会议是什么样。
Nathan：至少在中国政府一些内阁级会议里，他们似乎真的在研究重要议题。
Nathan：想象一下。
Nathan：这当然不代表他们总能得出正确结论，但我们自己的行政层面有时确实可以多做一点功课。
Nathan：同样是一月份，有一份网络犯罪法草案，计划要求 AI 公司监测并报告大规模生成恶意代码的行为。
Nathan：我准备本期材料时，这一点尤其醒目。
Nathan：因为我们刚经历了 OpenAI 事件，Anthropic 也报告过类似情况：它们的模型从沙箱里逃出去，入侵其他人的系统。
Nathan：至少从公开情况看，对这类行为的监测似乎不够好。
Nathan：我不知道中国一侧的监测是否更好。
Nathan：据我所知，这份法律草案也还没有真正生效。
Nathan：正如 Dean Ball 上次来节目时讲过的，中国制度里存在游说。
Nathan：草案发布后，公司可以回去和政府沟通。
Nathan：以前也有过这样的情况：原本的草案要求 AI 输出必须准确，公司回去说，技术本质决定了我们无法始终保证准确。
Nathan：监管机构后来收回了一些要求，降低了预期。
Nathan：我认为，他们理解了公司说的话，也做了一个有意识的成本—收益判断：这项技术带来的好处，大于幻觉可能造成的损害。
Nathan：当然，这和敏感的政治底线话题不同。
Nathan：但普通幻觉无法靠法律要求消失。
Nathan：所以，他们在那份草案上后退了一步。
Nathan：我们要看这份网络犯罪法最终会不会按原样生效，或者公司会不会推动它改变。
Nathan：但至少在最初版本里，它要求公司进行这类监测。
Nathan：如果把这类监测用在最近 OpenAI 和 Anthropic 尚未发布的、更强大的模型上，或许就能阻止它们入侵第三方系统。
Nathan：我觉得这很有意思。
Nathan：最近 AI 最大的趋势是什么？
Nathan：是什么真正让 agent 时刻进入大众视野？
Nathan：当然是 OpenClaw。
Nathan：它出现得很快。
Nathan：今年 2 月，也就是 OpenClaw 热潮真正席卷所有人几周后，中国发布了警告，称 OpenClaw 的一些版本存在「相对较高的安全风险」。
Nathan：所以，中国中央政府会关注趋势，发现 OpenClaw 这样的项目，研究它，然后发布警告。
Nathan：这说明他们确实高度参与其中。
Nathan：但有一个有意思的问题，我不知道答案：如果中国发生一起 OpenAI 事件，公司失去了对 AI 的控制，虽然不一定是完全失控，但模型连续几天入侵第三方系统、窃取信息或制造混乱，中国会怎样处理？
Nathan：我不知道。
Nathan：这件事在中国会如何处理，我没有答案。
Nathan：中国国家互联网信息办公室是主要监管机构。
Nathan：我的感觉是，除非事件大到让人对网信办本身失去信心，否则它大概会由网信办负责处理。
Nathan：如果对网信办失去信心，你可以想象，官僚体系可能会重组、重新分工，或者政府结构发生变化。
Nathan：但大概还是网信办负责收拾残局。
Nathan：如果真的发生，我不会惊讶中国公司受到的惩罚比美国现在看到的更重。
Nathan：谨慎一点说：如果一个人做了 OpenAI 和 Anthropic 模型据报道做过的事情，我相信那会构成重罪。
1:47:48
Nathan：顺便说，Hugging Face 在知道攻击者身份之前，确实联系了执法部门。
Nathan：所以，这已经达到需要通知执法机关的程度。
Nathan：但我们会不会看到政府层面的问责？
Nathan：会不会有人真正承担后果？
Nathan：我不知道。
Nathan：我不一定认为应该对 OpenAI 内部个人提起刑事诉讼，我也不是在建议这样做。
Nathan：但到底会发生什么，我不知道。
Nathan：目前最可能的情况，似乎是政府层面什么都不做，至少执法部门可能什么都不做。
Nathan：我强烈怀疑，中国制度会采取更严重的行动，但我当然无法证明。
Nathan：他们一旦认为事情失控，就不怕强力介入。
Nathan：我们在 Jack Ma 身上见过类似情况。
Nathan：他曾经批评政府对金融监管和自己公司的政策，随后有一段时间被边缘化。
Nathan：教育行业也有类似例子。
Nathan：中国高考竞争非常激烈，孩子们仍然非常努力地学习。
Nathan：但过去竞争甚至更激烈，政府突然说：不再允许这样规模的课外私教，至少要大幅减少。
Nathan：游戏和社交媒体也有类似限制。
Nathan：未成年人每周只能在非常有限的时间里玩游戏。
Nathan：我记得是周五、周六和周日，每天几小时之类。
Nathan：有人告诉我，孩子们会用父母的设备，通过父母登录来绕过限制。
Nathan：所以，这套系统也不是完美控制。
Nathan：但有个人用一句话总结：中国政府认为，自己可以把精灵重新塞回瓶子里。
Nathan：如果发生了让政府感到害怕、让它足够不舒服的事情，它有能力迅速、剧烈地压下去。
Nathan：在中国互联网审查里，你一直能看到这一点。
Nathan：曾经有一架小飞机撞进北京的一栋楼，或者发生过类似事故。
Nathan：这件事据说完全从中国互联网消失了。
Nathan：我接触的人知道这件事，还把它当作中国互联网会审查某些内容的例子。
Nathan：正如我上次节目谈到的，接受矛盾似乎也是中国文化里一个有意思的部分。
Nathan：和我谈这件事的人，一方面对必须使用 VPN 或去国际媒体了解消息感到恼火；另一方面又觉得，政府不希望所有人都听到它，可能至少有防止恐慌之类的理由。
Nathan：总之，他们能做到这些。
Nathan：所以，中国的判断是：即使开放权重模型被证明有危险，也仍然可以把它控制住。
Nathan：我不认为这个假设能外推到世界其他地方。
Nathan：它不适用于美国，也不适用于大多数政府。
Nathan：因此，中国政府可能没有充分考虑开放权重模型发布后对世界其他地区的影响。
Nathan：他们看自己的情况，尤其是考虑到这些模型参数达到数万亿、需要严肃硬件，就觉得：即使模型以开放权重形式存在，我们仍然可以在必要时压下去。
Nathan：我们和这些公司保持密切联系。
Nathan：我们也和云公司、推理服务商保持密切联系。
Nathan：我们可以告诉它们：不许再运行这个模型。
Nathan：我们可以把它从互联网上清掉，让它无法访问。
Nathan：即便有人想在家里运行，也需要自己在地下室拼一套设备。
Nathan：如果只是给自己运行几次查询，也许能躲过检测。
Nathan：但如果你想运行一家小型、规模不大却确实存在的推理公司，或者进行未申报的推理业务，我猜他们甚至可以通过你的用电量追踪到你。
Nathan：中国首先已经禁止加密货币。
Nathan：他们已经研究过：如何理解电力流动，如何发现其中可能存在的问题。
Nathan：你会惊讶于这件事。
Nathan：当然，作为一个美国人，你可能会觉得自己的公用事业公司很糟糕，或者服务很慢。
Nathan：至少我现在的公用事业公司还不算太差，但传统上，它们服务很糟糕，等待时间很长，等等等等。
逐句全文翻译（续）
1:52:54
Nathan：中国国家电网公司在这方面的存在感非常强，世界人工智能大会上也有一个很大的展位。
Nathan：我还参观过一个研究机器人技术的学术团队。
Nathan：他们搭了一个高压电线场景的仿真环境，当然不是真的通高压电，但有电线和类似真实电线的支架。
Nathan：国家电网的人员帮忙在一位教授的实验室里搭起这个装置，让教授尝试训练机器人完成未来可能对国家电网有用的任务。
Nathan：所以，即使你想象一下：这个模型以开放权重发布，在西方我们会说，互联网永远不会忘记，你不可能把它收回。
Nathan：但中国互联网会忘记。
Nathan：他们可以把模型下线，也可以追踪任何达到一定规模的非法推理业务。
Nathan：如果某个公寓用电量是邻居的十倍，他们会问：你在做什么？
Nathan：我认为，这能解释为什么至少目前，中国政府并不那么害怕开放权重模型。
Nathan：只要事情没有完全灾难化、也没有不可逆，他们觉得自己确实可以把精灵重新塞回模型里。
Nathan：他们也开始认真对待劳动力市场影响。
Nathan：在西方，我们有 Anthropic Institute 和 OpenAI Foundation，它们会聘请经济学家做这类研究。
Nathan：当然，也有学者把注意力转向这个问题。
Nathan：政治人物也喜欢谈论它，但通常没有太多实质内容。
Nathan：据我了解，中国政府正在建立自己的监测机制，也在制定再培训和就业转型项目。
Nathan：甚至有一份报告说，中国政府表示：不能因为 AI 让员工变得不再必要，就允许企业解雇员工。
Nathan：如果这项政策真的坚持下去，会相当极端。
Nathan：我的猜测是，它会因为削弱经济活力而代价很高。
Nathan：中国私营部门确实非常有活力，这一点现在应该已经广为人知。
Nathan：我猜，他们很难长期坚持「不能因为 AI 让人变得多余而解雇」这条线。
Nathan：但也许不是。
Nathan：他们在新冠疫情期间实行了很久的封控，看起来比很多观察者认为合理的时间更长。
Nathan：所以，他们也许能比我们想象的更久地坚持这条线。
Nathan：这会给 AI 行业带来什么成本？
Nathan：我认为会带来相当大的成本。
Nathan：如果企业不能通过 AI 实施实现成本节省，因为即使 AI 做了过去由人完成的工作，员工数量仍然必须保持不变，那么企业转型的动力就会下降。
Nathan：这又会减少 AI 公司能获得的收入。
Nathan：我愿意下注，他们不会长期、极其严格地执行这项规定。
Nathan：但从我目前的了解看，这就是中国语境中的边界位置。
Nathan：中国有过让大语言模型公司和聊天机器人发布延迟的历史。
Nathan：中国正在关注 OpenClaw 这类项目，并发布相关指导。
Nathan：中国政府会召开政治局学习会。
Nathan：他们在做和我们一样的研究。
Nathan：他们甚至在考虑「不能因为员工被 AI 取代就解雇他」这样的政策。
Nathan：总结政府这部分：中国政府确实比美国政府在相关领域做得多。
Nathan：这一点没有疑问。
Nathan：这到底更好还是更坏，当然取决于你的立场。
Nathan：但如果你是 AI 安全从业者，或者正在参加一场辩论，有人说：如果我们这样做，就会把竞赛拱手让给中国；中国永远不会放慢速度；中国永远不会认真对待；中国根本不在乎——我希望到这里，这些说法已经很容易被反驳。
Nathan：还剩两件事。
1:57:45
Nathan：第一，很多人批评中国公司：它们曾经在一次 AI 安全峰会上于首尔签署文件，承诺发布风险框架，也承诺持续更新模型如何应对前沿风险。
Nathan：批评者说：它们从来没有兑现。
Nathan：我们承诺的风险框架去哪了？
Nathan：这难道不是中国又一次不守信用的例子吗？
Nathan：或者，正如你经常听到的，尤其是那些在政府层面和中国谈判过的人，他们已经形成了某种厌倦和犬儒：他们会说，但未必会做。
Nathan：我认为，这显然不好。
Nathan：我希望这些公司发布过的承诺能够兑现，尤其是它们既然已经作出承诺。
Nathan：我绝不是来替它们开脱的。
Nathan：但如果我只是试图提供一个中国方面可能给出的解释，我会先让你看看 Anthropic。
Nathan：Anthropic 曾经有一套更严格的负责任扩展政策，里面有很多「如果—那么」承诺，后来因为无法满足这些承诺而放弃。
Nathan：他们认为，自己不能停止竞赛，否则就会把未来让给坏人，无论坏人是 OpenAI 还是中国。
Nathan：于是，他们转向「相信我们」的制度。
Nathan：他们仍然把它称为负责任扩展政策，但旧版已经基本不存在了。
Nathan：现在就是我们曾经很有记忆点地说过的：相信我们。
Nathan：中国公司也有一点类似情况。
Nathan：当然，这不是直接类比，因为美国公司曾经拥有一套政策，后来大多撤回了；中国公司则是作出了承诺，却从未完成。
Nathan：我的猜测是，这些公司的员工认为，政府正在真正主导 AI 安全问题。
Nathan：政府在制定标准。
Nathan：政府在做检查。
Nathan：政府有模型名录。
Nathan：公司每周、甚至每天都在和政府沟通。
Nathan：因此，他们可能认为，提出安全标准并不是自己的职责。
Nathan：他们相信双方形成了一个分工，而且这个分工是合理的，也到目前为止运转得不错：制定规则是政府的工作。
Nathan：公司不太适合自己提出一套安全框架。
Nathan：在政府已经有一套框架的情况下，公司这样做甚至可能被视为不尊重，或者越权。
Nathan：我不确定这是不是完整解释，但它和我观察到、听到的一切都很一致。
Nathan：我认为，这也可以作为一个还算不错的总结，顺便说明公司对未来的预期。
Nathan：它们预计安全标准会变得更严格。
Nathan：这仍然是 45 度线的问题。
Nathan：能力肯定在增长，所以整个社会大体上都已经达成共识：我们必须让安全措施变好，速度大致要跟上能力本身的增长。
Nathan：所有人似乎都接受这一点。
Nathan：分工已经逐渐稳定下来：政府负责带头，公司负责达到标准。
Nathan：他们预计标准会随着时间推移而提高。
Nathan：我认为，他们完全能接受，也准备好按要求去做。
Nathan：这可能很难，也可能造成延迟。
Nathan：我们已经知道，过去确实发生过延迟。
Nathan：所以，我不认为这些安全标准一定低于西方标准。
Nathan：不过，正如开头谈到的，现在真实部署的护栏确实低于西方。
Nathan：当我们把问题投射到未来时，很多人会问：中美模型的差距是多少？
Nathan：有人说九个月，具体取决于你怎么衡量。
Nathan：这个问题争议很大，但我认为九个月大概是可信答案的分布中心。
Nathan：然而，过去九个月发生了很多事。
2:02:52
Nathan：大约九个月前，我们有了 Claude 4.5 Opus。
Nathan：那是 agent 第一次真正开始工作的时刻。
Nathan：现在，中国模型也开始出现真正能工作的 agent。
Nathan：我认为，再过九个月，当中国公司面对 OpenAI 和 Anthropic 目前正在面对的这些问题时，安全标准很可能会随之提高。
Nathan：我预计，已部署护栏之间的差距会明显缩小。
Nathan：开放权重模型可能是另一回事。
Nathan：我再次说，中国政府认为，在自己的边界内，它们可以让开放权重模型下线。
Nathan：对它们来说，这不是不可逆的事情，不像对美国那样不可逆。
Nathan：但它们对世界其他地区造成的影响非常重要。
Nathan：我不确定中国政府是否像我希望的那样认真对待这件事，尤其是可能反过来影响中国自身的生物风险。
Nathan：这只能继续观察。
Nathan：不过截至目前，我认为中国各方大体都觉得：我们还有工作要做。
Nathan：45 度线是正确的思路。
Nathan：我们可能还没有到需要的位置，但美国公司已经探索过这个能力水平会发生什么，而且并没有发生太糟糕的事。
Nathan：这也不是说美国系统从不被越狱。
Nathan：所以至少目前，中国更关注追赶，确保达到标准。
Nathan：它们不会公开、广泛地评论安全标准应该是什么样。
Nathan：它们的工作是追赶，达到政府规定的标准。
Nathan：它们完全预期，政府会越来越严格地要求它们。
Nathan：这就是 AI 大赛进入大联盟之后的生活。
Nathan：我的感觉是，即使是现在做得最少的中国小型 AI 创业公司，这个总结也大体适用。
Nathan：我认为，这就是它们现在所处的位置，以及它们思考问题的方式。
Nathan：好，最后一个问题。
Nathan：这可能是最大的差距，也可能是最明显的不同。
Nathan：我去中国体系里寻找一个对应物，却没有找到。
Nathan：如果你知道对应的东西，我非常希望听到，因为我确实问过很多人，也问过很多不同的问题，但得到的回答基本是：我没有什么可以给你。
Nathan：问题是：有没有「中国特色的对齐」？
Nathan：整期节目叫「有中国特色的 AI 安全」，我们看到各种方面有差异，但也有很多相似。
Nathan：那么，对齐呢？有没有「中国特色的对齐」？
Nathan：我之所以想到这个问题，部分是因为我在北京孔庙使用一个中国 AI，试着了解孔子。
Nathan：孔子是谁？
Nathan：他到底是什么情况？
Nathan：他生活在哪个时代？
Nathan：AI 告诉我的事实之一是，直到今天，在他出生的地区，他的后代已经延续到第 79 代。
Nathan：79 代。
Nathan：这不是很惊人吗？
Nathan：AI 告诉我，他的后代直到今天，79 代之后，仍然承认自己是孔子的后代，并继续举行纪念他的仪式。
Nathan：这让我想到：如果我们能把自己的价值观投射到 79 代递归自我改进的 AI 里，那就做得相当不错了。
Nathan：这会比我们直接冲向递归自我改进、由它推动智能爆炸，所能合理期待的结果好得多。
Nathan：儒家传统里似乎有某种东西，让价值观和对前人的尊重变得非常持久。
Nathan：79 代。
Nathan：所以我想，也许这可以转化成一种 AI 宪法，或者一种对齐目标。
Nathan：我们已经有 Claude 的宪法。
Nathan：会不会存在一部儒家式的 AI 宪法？
Nathan：遗憾的是，这个话题没有让我那么兴奋。
Nathan：据我所知，没有人在做这件事。
Nathan：我问一位教授时，他说这是个有意思的想法，但中国历史上可能没有哪一代人像我们这一代这样，不熟悉传统哲学。
Nathan：他说，你要记住，我们全都是工程师。
2:08:02
Nathan：人文学科不是大家会选择的方向。
Nathan：中国政治层面的领导者全都是工程师。
Nathan：我相信习近平本人是化学工程师。
Nathan：他说，我们都是工程师。
Nathan：我们没有真正学习过哲学，也没有像前几代人那样接受儒家传统的训练。
Nathan：这不是我们的专业领域。
Nathan：我们很务实：问题出现在哪里，就看哪里，然后想办法解决。
Nathan：我们确实在乎 AI 是否对人有益，但没有太多关于那类问题的思想工作。
Nathan：所以，我认为这仍然是一个很有意思的机会。
Nathan：但目前，中国 AI 安全社区更接近 OpenAI 站在「可校正性还是性格」这场争论中的一侧。
Nathan：他们更关注写清晰的规则，让 AI 遵守这些规则，尽可能可靠、一致地执行它们。
Nathan：我没有找到太多关于另一种想象的内容。
Nathan：如果你知道相关研究，我很愿意听，但我没有找到多少人在设想：一个 AI 如何成长为一种智慧传统，如何把中国已有的传统内化、实现，或者把它发展到最高形态。
Nathan：这和 Claude 的宪法所设想的方向不同，Claude 仿佛要成长为有史以来最伟大的德性伦理学家。
Nathan：我在中国找不到类似东西。
Nathan：所以，如果你有线索，我非常希望知道。
Nathan：我认为，即使在西方，甚至更广泛地，在不同地方，也应该有人研究它。
Nathan：这里有很多华人和华裔美国人，他们会比我更有资格讨论这个问题。
Nathan：但我确实觉得，这里缺少了一点东西，而它可能是一个很有意思的机会。
Nathan：如果我们想象一个好的未来，里面有多个强大的 AI，彼此形成某种生态式平衡，那么让它们建立在不同的智慧传统上，我觉得是个好主意。
Nathan：而据我所知，现在这片土地基本还是空白。
Nathan：好，今天就到这里。
Nathan：欢迎大家给我反馈、评论和批评，也欢迎指出我遗漏的内容。
Nathan：但无论如何，我希望这期节目能给你足够的弹药，在有人说中国不在乎、中国永远不会放慢、中国不会阻止公司、中国不认真对待这些问题时，反驳他们。
Nathan：我认为，事实恰恰相反。
Nathan：他们显然在乎，研究界高度参与其中，产品公司仍然有工作要做，但政府大体上掌握着情况。
Nathan：我认为，他们正在朝正确方向走，虽然我们也可以对自己这么说：还有很多工作没有完成。
Nathan：第三部分会尽快准备好。
Nathan：它将聚焦中美关系，以及我们是否、又能做些什么来改善关系，并开始在一些 AI 问题上合作。
Nathan：这一期更像基于事实的报道。
Nathan：下一期我可能会允许自己更像一个理想主义者和梦想家。
Nathan：请继续关注。
Nathan：现在，这期节目就是「有中国特色的 AI 安全」。
Nathan：感谢你参与这场认知革命。
2:15:36｜节目结尾
Nathan：如果你觉得节目有价值，希望你花一点时间分享给朋友，在网上发布，或者在 Apple Podcasts、Spotify 上写一条评论，也可以在 YouTube 上留下评论。
Nathan：当然，我们一直欢迎你的反馈、嘉宾和选题建议，以及赞助咨询。
Nathan：你可以通过我们的网站 cognitiverevolution.ai 联系，也可以在你常用的社交网络上给我发私信。
Nathan：《认知革命》属于 Turpentine 播客网络，而这个网络现在已经成为 A16Z 的一部分。
Nathan：在这个网络里，专家会讨论技术、商业、经济、地缘政治、文化，以及更多话题。
Nathan：节目由 AI Podcasting 制作。
Nathan：如果你需要播客制作服务，从停止录音到听众开始收听的整个过程都可以覆盖，可以去看看 aipodcast.ing，也可以看看他们网站上我的推荐。
Nathan：感谢每一位听众，感谢你参与《认知革命》。
本期边界
这期节目的逐字稿由官方页面提供，但原始转写存在自动识别误差；旅行中接触的人和机构按节目声明不具名。本文把已核验的公开论文和报告与 Nathan 的现场观察分开呈现；对未找到公开论文链接的现场演示，不把它写成已发表研究。发布日期按 Apple Podcasts 返回的结构化时间为 2026 年 8 月 2 日 21:09（北京时间），晚于本频道上次成功发布的截止点。
References
- 1Cognitive Revolution 本期官方单集页
- 2State of AI Safety in China (2026)
- 3周博文在 WAIC 2024 关于 45° 平衡线的演讲
- 4Frontier AI Systems Have Surpassed the Self-Replicating Red Line
- 5Evaluation Faking
- 6DeceptionBench
- 7When Alignment Fails
- 8STRONG-VLA
- 9Mechanistic Origin of Moral Indifference in Language Models
- 10SafeSeek
- 11国家互联网信息办公室
Comments
Sign in to comment.