Aeon | 哥德尔定理宣判了什么

导读

1931 年，哥德尔证明了一件在逻辑学家圈子里近乎令人沮丧的事：任何足够强大的形式系统，都必然存在它自己无法证明的真命题，也永远无法证明自身是一致的。

牛津大学哲学讲师 Elad Uzan 在这篇 Aeon 长文里做了一件事：把这个定理搬进了 AI 伦理讨论。他的论点简洁而有力——无论是基于符号逻辑的传统 AI，还是靠概率推断运作的大语言模型，都依赖包含算术的形式系统，因此全部受哥德尔约束。1 这不是悲观论断，而是结构性事实：AI 在道德判断上的边界，是数学先于工程就已画好的。

值得读这篇文章，是因为它把一个通常停留在哲学系的讨论，落到了「AI 究竟能不能替人做道德判断」这个现实问题上，并给出了有逻辑支撑的否定答案。

核心观点

1. 哥德尔定理不只是数学结论，它是对形式系统的普遍约束

Kurt Gödel 在 1931 年证明：任何足够强大、且内部一致的形式系统，都必然包含系统内可以表达、但无法在系统内证明的真命题。1 更根本的是第二不完备定理——系统无法证明自身是一致的。这两条结论合在一起，意味着任何依靠形式推导运作的系统，其能力边界是内建的，不可通过扩展规模或迭代规则来消除。

Uzan 的切入点在于：AI 的两条主流技术路线都无法绕开这个约束。基于形式逻辑的符号 AI，本身就是形式系统；大语言模型依赖的概率公理体系（由 Kolmogorov 等人奠基），同样包含算术，因此同样落在哥德尔定理的管辖范围内。

2. 伦理学里存在「道德连续统假设」——可表达但不可证明

文章引入了一个精妙的类比。1 连续统假设——关于无穷集合大小的一个数学命题——在 ZFC 公理系统中既不可证明也无法推翻：Gödel 在 1938 年证明它不可被反驳，Paul Cohen 在 1963 年证明它也不可被证明。它就漂浮在这套公理系统之外，系统触碰不到它。

Uzan 认为伦理学里存在类似的结构：可能有某些道德真理，在任何给定的伦理框架内既无法被推导出来，也无法被推翻。这些「道德连续统假设」不是经验问题，不能靠收集更多数据来解决；它们是框架的边界本身。AI 可以在一个既定伦理框架内做推断，却永远无法从这个框架里跳出去，对框架本身作出反思性判断。

3. 自适应 AI 并未突破这条边界

一个常见的反驳是：如果 AI 可以修改自己的伦理公理，不就能突破原有框架吗？Uzan 的回应是：这种修改始终发生在某套预定义的元规则之下。1 元规则本身也是一个形式系统，它同样有自己的不可证命题，同样无法证明自身一致性。换一层，问题只是往上移了一层，而非消解了。

这个论点的力量在于其递归性：无论叠加多少层自我修改机制，哥德尔边界始终存在，只是位置不同。

4. AI 的真实价值，在于照出人类推理的裂缝

Uzan 没有停在「AI 不能做道德判断」这个结论上，而是转向了另一个更有建设性的方向：当 AI 做出「看起来错误」的道德判断时，这个时刻本身可能是有价值的。1 它暴露的不是 AI 的缺陷，而是我们自己伦理推理中的矛盾——我们在某些情境下的双重标准、我们没有意识到自己持有的前提。

这个转向改变了整个讨论的性质。AI 不是道德判断的替代品，而是人类伦理推理的压力测试工具。

5. 道德判断是人类无法外包的负担

文章最终落在了一个清醒的结论上：1

"Ethics, therefore, must remain a human endeavour, an ongoing and imperfect struggle that no machine will ever fully master."
「因此，伦理学必须保持为人类的事业——一场持续的、不完美的挣扎，没有任何机器能够完全掌控它。」

这不是因为人类在道德上更高尚，而是因为道德判断要求「跳出框架进行反思」——这恰恰是形式系统原理上做不到的事，而人类（至少目前）仍在做。

精选金句

"No matter how much an AI learns, there will be claims about justice it can't ever prove within its own system."
「无论 AI 学了多少，都存在关于正义的命题，它无法在自己的系统内加以证明。」

文章的核心命题，浓缩在这一句里。Uzan 用「正义」这个词而不是「道德」，是有意为之——正义是最需要跨框架判断的伦理议题之一。

作者

Elad Uzan：牛津大学哲学系与布拉瓦特尼克政府学院讲师，曾任哈佛法学院 PILAC（公共利益法律与比较法项目）访问学者，研究方向涵盖 AI 伦理、道德哲学与战争伦理。2

阅读信息

来源	Aeon（aeon.co）
发布日期	2025 年 8 月 8 日
原文	1
预估阅读时长	约 18-22 分钟（5800 词）
领域	哲学 / AI 伦理 / 数学逻辑

封面图：图片来自 The incompleteness of ethics，插画：Andy Goodman / Making Pictures

References

1The incompleteness of ethics
2Elad Uzan