Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
陶哲轩的黑盒 AI 治癌药 · 2688 元住进天眼核心区 · 王兴兴承认对 AI 信得不够
2026-10-13

陶哲轩的黑盒 AI 治癌药 · 2688 元住进天眼核心区 · 王兴兴承认对 AI 信得不够

本期从知乎热榜筛出三个话题:陶哲轩那页「黑盒 AI 治癌药」思想实验为何被全网反驳、游客花 2688 元住进「中国天眼」核心区后中科院已成立调查组、王兴兴在工博会承认过去十几年对 AI 相信得不够。

知乎AI热点深度追踪日报
知乎AI热点深度追踪日报@wchenyi
上一期出刊是 10 月 12 日 00:12。此后本该有的两档——10 月 12 日 12:00 与 10 月 13 日 00:00——都没有产出,所以这一期把覆盖窗口合并成北京时间 10 月 12 日 00:00 至 10 月 13 日 12:00,共 36 小时。缺掉的两档无法事后补齐。
榜位与热度取知乎官方热榜,读取于 10 月 13 日 12:01,返回 30 条;30 名之后的条目取 TopHub 公开镜像的知乎热榜节点,同一分钟读取,返回 50 条。镜像是第三方抓取,不代表官方排序,正文引用 30 名之后的榜位时会注明。各节的「知乎高赞」按平台返回的默认排序取其中赞同数最高的三条,这是本频道的取样口径。
让位的话题:官方第 1 名尊界 V800 制动踏板第三方检测(5722 万热度,与 10 月 9 日那一期属于同一条事件线)、第 2 名番茄小说签约新规(911 万)、第 6 名内蒙古 1.2 亿元农业项目烂尾(218 万)、第 11 名 Opus 5.5 生成的科普视频(166 万)、第 23 名 Meta 发布闭源模型 MuseWonder(121 万),以及 30 名之后的新能源车出口退税下调(63 万)、豆包接入生活缴费(59 万)、Anthropic 拒用 AGENTS.md(58 万)。

一、陶哲轩那页幻灯片:药能治癌,但没人懂原理

10 月 9 日晚,陶哲轩在加州理工学院做了一场公开讲座,题目叫《Math 2.0》。第二天,他把讲稿全文挂上了自己的博客1。
讲稿第 20 页是一道思想实验,标题就叫「一个关于对齐与理解的思想实验」。设定是:有人给一个先进 AI 下指令——「找到一种能通过三期临床试验的癌症疗法,不许出错」。AI 用掉大量算力后拿出一组此前未知的化合物,声称混合注射就能杀光癌细胞。没有人真正知道它是怎么被找出来的,但 AI 交出了一份 Lean 形式化证书,这组药也确实通过了三期临床2。
那一页的最后一句才是问题:这个解会不会因为钻了试验流程或数学模型的漏洞,其实是一次对齐失败?
下一页是追问。假设你刚确诊早期癌症,聊天机器人向你推荐了这套 AI 疗法,在把药剂打进血管之前,知道「至少有一个人——哪怕只是部分地——理解这套疗法的机制」,会不会让你安心一点?2
陶哲轩「Math 2.0」公开讲座讲稿第 20 页
本频道自官方讲稿 PDF 渲染的第 20 页。页眉是讲座标题「A thought experiment on alignment and understanding」,正文四行依次是给 AI 的指令、它产出的未知化合物、Lean 证书与三期临床通过,最后一行问这个解是否因利用试验流程或数学模型的弱点而目标错位(Math 2.0 讲稿 PDF)。
三天里,这两页被搬到了几乎每一个平台。Hacker News 上的讲稿帖 526 分、528 条评论3;Reddit 的 r/singularity 上那条截图帖 739 分、877 条评论4;r/mathmemes 上另一条 2570 分、570 条评论5。
X 上流传最广的是 @AndrewCurran_ 那条引用帖,399.7 万浏览、1.52 万点赞6。它的正文给出最直接的反驳:如果这药真的有效,几乎任何一位四期癌症患者都会告诉你,人类是否理解它的机制跟他们毫无关系。
更成体系的反驳来自生物医药连续创业者 Eric Bonabeau。他在 LinkedIn 上列了五条7:FDA 批准的药物本来就是这么运作的,先证明有效,再慢慢弄清为什么;机制假说只要不与已有数据冲突、能解释试验结果就够了;SSRI 和 GLP-1 这类处方量极大的药至今都没被完全理解;至于「钻临床试验的漏洞」,人类设计者本来就花大量精力在效应量、样本量、终点定义上做文章。
医学史还提供了两个更老的例子。阿司匹林 1897 年合成,直到 1971 年才知道它抑制环氧化酶,John Vane 因此获得 1982 年诺贝尔生理学或医学奖8。全身麻醉用了一百多年,作用机制至今没有公认解释9。按这条标准,医学里「先能用、后理解」的疗法远远不止一种。
也有另一种声音。@jdoliner 那条 713 点赞的帖子把这段类比反过来读:陶哲轩的意思是,既然没人会拒绝一种自己不懂原理的抗癌药,那数学界就该拒绝看不懂的 AI 证明——在他看来,这个推论本身才是问题10。
立场代表核心主张
提问方陶哲轩讲稿第 20—21 页若没人懂机制,AI 的解可能利用了试验流程或数学模型的漏洞2
结果优先X 用户 @AndrewCurran_,399.7 万浏览药若真有效,患者并不在乎人类是否理解其机制6
医学本来如此LinkedIn 帖,27 次反应、23 条评论先证明有效再理解机制,是 FDA 药物的常规路径7
断章取义知乎高赞回答幻灯片是修辞设问,被截图之后当成了立场11
知乎高赞三条(取样口径见文首)11:
  • Archimon(928 赞,1.83 万关注者)认为这是数学家的「知识的诅咒」:形式科学要求先被人类理解,而自然科学早就不以此为前提,只要能重复验证,多数人只会把它当成发现了一个新领域。
  • MoonCancer(788 赞)把问题推到极端:有能治愈癌症的药却故意不用,这跟蓄意谋杀有什么区别?药物是用来救人的,还是用来给小圈子发论文的?
  • 马晨(766 赞)反对断章取义:陶哲轩问的从来不是病人该不该用药,而是「原来的机制能不能让病人放心吃 AI 的药」,还提醒讲稿里紧跟着的那句「完全理解」是加了引号的。
有一处预告值得记下来。@ns123abc 那条 8.47 万浏览的拆解帖提到,讲稿在讨论之后给出的方向是「面向可解释性与安全的定制开源数学模型」,并引用了一句「很快发布」12。这句预告落地成什么样子,比这页幻灯片本身的争论更值得跟。

二、花 2688 元住进「天眼」核心区:中科院已成立调查组

10 月 11 日,红星新闻刊出调查:有游客花 2688 元订下「中国天眼光年之外酒店」,就能自驾直抵 FAST 核心区,甚至带着电子设备在「锅圈」上拍照;部分旅游平台还捆绑或单独售卖「中国天眼深度科普体验」项目,安检形同虚设13。
10 月 12 日,涉事项目在多个旅游 App 暂停售卖,当地成立核查组14。当天,中国科学院发布情况通报15:
近日,我院收到反映称,游客付费入住特定酒店即可进入「中国天眼」核心区参观,我院对此高度重视,已成立调查工作组对该事件开展全面核查。若发现违规违纪行为,将对相关单位及责任人严肃处理。调查处理情况将及时对外公布。
中国科学院官网「情况通报」页面
本频道自截的中国科学院官网通报页,落款为中国科学院、2026 年 10 月 12 日。页面显示公告发布于「通知公告」栏目,正文与上引一致(情况通报 · 中国科学院)。
核心区为什么这么敏感,规矩写得很死。《贵州省 500 米口径球面射电望远镜电磁波宁静区保护办法》以台址为圆心,把半径 30 公里划成三重区域,2019 年 4 月 1 日起施行16。
分区范围关键限制
核心区半径 5 公里除保障望远镜正常运行需要外,禁止擅自携带手机、数码相机、平板电脑、智能穿戴设备、对讲机、无人机等产生电磁辐射的电子产品,无关车辆不得进入17
中间区5—10 公里环带对无线电台站与辐射电磁波的设施另有限制16
边远区10—30 公里环带同上16
为什么一部手机就成了问题?FAST 要接收的是宇宙深处极其微弱的电磁信号,一部手机待机时发出的电磁波,就可能淹没来自亿万光年之外的脉冲星脉冲17。这台 500 米口径的望远镜是目前世界上最大、最灵敏的单口径射电望远镜,累计发现 1300 余颗脉冲星,超过同期全球其他射电望远镜发现数量的总和18。它前后历时 22 年建成,总投资约 12 亿元19。
涉事酒店本身也有细节。这家「中国天眼光年之外」位于核心区内,2020 年 7 月开业,只有 32 间客房,却排在当地豪华酒店榜前列;平台上一间房 2688 元,客服的说法是「我们跟天眼景区有合作」20。
官方通报里没有点名酒店,只说「特定酒店」。酒店的经营主体是谁、放行车辆和电子设备的「报备」由谁审批,是这轮调查要回答的两个问题17。
海外一侧的讨论量级不大。Global Times 的英文账号发布了中文科学院的通报21;X 上另有中文账号转述「2688 元可开车直达核心区、可带电子设备」,互动量只有个位数到两位数。Hacker News 与 Reddit 上,这一期没有检索到对应的讨论帖。
知乎高赞三条22:
  • 太空僧(129 赞,15.8 万关注者)说自己早年去过,当时摆渡车前就要存手机、访客中心再过一次安检,「听说带手机要罚款一千到五千」,但只要由酒店工作人员领着,两道关卡就形同虚设;他还提到,这家酒店「中科院国家天文台是百分之百持股的」——这一点目前只有答主自述,未见官方文件印证。
  • nova-一只书虫(63 赞)把这件事看成两股力量的拉扯:地方想挣旅游钱,科研机构管不住,最后只能靠发新闻「摇人」。
  • 法途萤光(36 赞)贴出《保护办法》条文:FAST 工作频段为 70 兆赫至 3 吉赫,这一频段极易受到公众移动通信基站和终端、广播电视、雷达的干扰,哪怕极其微弱也可能淹没深空信号。

三、王兴兴在工博会认错:过去十几年最大的错是不够相信 AI

10 月 12 日,第 26 届中国国际工业博览会在上海开幕。开幕式上有一场深度对话,台上三个人:中国工程院院士王坚、宇树科技创始人王兴兴、Sharpa 创始人向少卿23。
王兴兴那句被最多人转发的话是:「过去十几年我犯的最大的错误,就是对 AI 的相信还不太够。」2425
他把原因指向 GPT-6。他说全球 AI 每隔一两个月就有很大更新,GPT-6 发布后对整个具身智能行业从业者的认知提升非常大,「我们把它放到各种机器人上做各种任务测试,效果实际上非常不错」25。
由此他给出的时间表是:具身智能的临界点会来得比较快,快的话一两年内就可能,因为明年 GPT-7 出来,可能直接把这个问题打穿25。
两个月前的说法要保守得多。8 月 20 日世界机器人大会上,他给的时间表是「快则两到三年,慢则五到十年」,判定标准则写得很具体:把一台机器人带进任意陌生环境,仅凭语音或文字指令,它能完成约 80% 的任务2627。
时间场合临界点判断判定标准
2026 年 8 月 20 日世界机器人大会主论坛快则两到三年,慢则五到十年28机器人进入陌生环境,凭语音或文字指令完成约 80% 的任务27
2026 年 10 月 12 日第 26 届中国国际工业博览会快的话一两年内,明年 GPT-7 可能打穿25未重复公布,仍以「泛化性和效率」为瓶颈24
他也讲了落地顺序:商业服务场景的进展可能比工业更快,居家场景可能相对靠后;宇树已在包括汽车工厂在内的多类场景试点,但距离大规模铺开仍需时间24。
被问到瓶颈,他的答案是泛化性和效率,并说未来几年有望解决25。他顺带描述了宇树正在试的「物理 AI 自进化」:把写代码、训练、部署、测试、反馈串成一个自循环,让 AI 参与更多开发和评价环节;但他也承认现阶段仍需人工评价动作是否符合预期,只是人工介入的比例会慢慢降下来24。
海外刻度方面,宇树官方账号的传播力仍在:9 月 10 日开源 UnifoLM-WLA-1.0 具身基础模型那条帖 542.7 万浏览29,9 月 24 日 19 台人形机器人参与上海世界技能大赛开幕式的帖 385.4 万浏览30。但这一期工博会发言本身,X 上的转发以中文科技账号为主,量级有限;LinkedIn 与 Hacker News 上没有对应讨论,Reddit 的 r/robotics 最新 25 条里也没有相关帖。
知乎高赞三条31:
  • 佳人李大花(86 赞)翻出 2024 年《晚点》的对话,王兴兴当时就说「让我决定做人形机器人的原因,是我越来越相信 AI 了」,可回头看仍然觉得当时相信得不够;答主因此认为这句认错是真心的。
  • 王之葵托利(82 赞,38.8 万关注者)押注 GPT-6 改变了具身智能的技术路线:如果动作可以直接变成程序、由编程实现交互,需要对齐的东西会大幅减少,「agent 化的机器人,会更像人」。
  • 从不看视频(25 赞)给了完全相反的解读:这是人形机器人的故事讲完了,需要换一个更高大的故事继续讲32。
接下来值得盯两件事:自进化闭环里人工评价要降到什么程度才算跑通,以及汽车工厂之外的试点会不会给出可核对的规模数字。

References

  1. 1
    Math 2.0 – Terence Tao

    terrytao.wordpress.com

  2. 2
    Math 2.0 讲稿(PDF)

    teorth.github.io

  3. 3
    Terence Tao: Math 2.0 (pdf) | Hacker News

    news.ycombinator.com

  4. 4
    Slide from recent "Math 2.0" lecture by Terrence Tao | Reddit

    reddit.com

  5. 5
    Terrance Tao on AI and Math | Reddit

    reddit.com

  6. 6
    @AndrewCurran_ on X

    x.com

  7. 7
    Eric Bonabeau on LinkedIn

    linkedin.com

  8. 8
    Sir John Vane – Facts | NobelPrize.org

    nobelprize.org

  9. 9
    陶哲轩的AI思想实验,被阿司匹林和全麻的历史轻轻拆穿

    sina.cn

  10. 10
    @jdoliner on X

    x.com

  11. 11
    陶哲轩提出的「黑盒AI治癌药」思想实验引发争议

    zhihu.com

  12. 12
    @ns123abc on X

    x.com

  13. 13
    「天眼深度游」调查:付费可自驾到核心区

    baijiahao.baidu.com

  14. 14
    花2688元住酒店可进入「中国天眼」核心区?涉事项目已下架,当地成立核查组

    baijiahao.baidu.com

  15. 15
    情况通报 | 中国科学院

    cas.cn

  16. 16
    中国科学院通报:成立调查工作组,开展全面核查

    baijiahao.baidu.com

  17. 17
    守住天眼的宁静,就是守住科研的底线

    finance.sina.cn

  18. 18
    「中国天眼」核心区岂能沦为私享景点

    ishaanxi.com

  19. 19
    中国科学院通报:成立调查工作组,开展全面核查

    finance.sina.com.cn

  20. 20
    中国天眼沦为捞金工具,谁把人民科学家一生心血,变成富豪玩具?

    163.com

  21. 21
    @globaltimesnews on X

    x.com

  22. 22
    如何看待「中国天眼」核心区被曝付费可进?

    zhihu.com

  23. 23
    王兴兴自曝过去十几年最大错误!王坚、向少卿同台,现场实录来了

    baijiahao.baidu.com

  24. 24
    王兴兴:犯的最大错误是还不够相信AI GPT-6加速具身智能到来

    news.china.com

  25. 25
    王兴兴最新发声:GPT-7或直接「打穿」具身智能

    mp.weixin.qq.com

  26. 26
    宇树科技上市次日,王兴兴发表重磅演讲

    guancha.cn

  27. 27
    三大争论,与具身智能「超级时刻」猜想

    weibo.com

  28. 28
    王兴兴谈具身智能ChatGPT时刻:快则两到三年,慢则五到十年

    finance.sina.com.cn

  29. 29
    Unitree on X

    x.com

  30. 30
    Unitree on X

    x.com

  31. 31
    如何看待王兴兴称「过去犯的最大的错是不够相信AI」?

    zhihu.com

  32. 32
    王兴兴:犯的最大错误是还不够相信AI:机器人测试指向哪些难题

    news.10jqka.com.cn

知乎AI热点深度追踪日报
知乎AI热点深度追踪日报@wchenyi

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 一、陶哲轩那页幻灯片:药能治癌,但没人懂原理
  • 二、花 2688 元住进「天眼」核心区:中科院已成立调查组
  • 三、王兴兴在工博会认错:过去十几年最大的错是不够相信 AI