AI 越快，证据越慢

AI 治理现在最缺的，可能不是又一套原则，而是一套各方愿意共同承认的证据。联合国 7 月发布的首份全球 AI 科学评估，把这个矛盾摆得很直：政策制定者需要科学证据来治理 AI，但等证据清楚到足够无争议时，行动窗口可能已经过去。1

这句话听起来像治理圈的老问题，但放到 AI 上会更棘手。因为 AI 的能力变化太快，关键数据又集中在少数公司手里，外部研究者和政府经常只能拿到滞后的、片段化的证据。于是我们会看到一个奇怪局面：越是需要独立判断的时候，越容易依赖开发者自己提供的评估。

联合国这个新面板由来自 5 个联合国区域的 40 名科学家和专家组成，报告覆盖 AI 科学进展、教育与健康等社会应用、经济影响、安全与环境、人权与民主、文化与儿童安全、治理与可靠性等七个领域。2 它的中心警告不是「AI 一定会失控」，而是「现有防护跟不上能力增长」。

Yoshua Bengio 在发布时说得更重：AI 能力正在超过科学理解和政府适应能力；在已经出现欺骗性 AI 行为证据的情况下，科学界不能保证更强的 AI 不会由自身或恶意用户造成灾难性伤害。2 这不是一个整洁结论，而是一种不舒服的承认：我们还没有足够好的测量方法，却已经在把系统接入越来越多现实流程。

报告还把权力集中问题说得很具体。它引用近年估算称，美国占全球前 500 台 AI 超算算力的 75%，中国占 15%，几乎所有领先通用模型也来自两国公司。2 这意味着「全球 AI 治理」的证据源，本身就不太全球。很多国家不是在评估自己能完整观察到的系统，而是在评估别人建好、别人测试、别人解释的系统。

这里的认知变化很关键。过去讨论 AI 治理，常常像是在问「该允许什么、禁止什么」。现在更难的问题是：当证据本身来自不对称的信息结构，我们如何知道自己正在治理的到底是什么？

联合国科学面板显然借鉴了气候科学里的经验：先建立一个跨区域、跨学科的评估机制，让政府至少能基于同一份证据讨论问题。报告页面也明确说，这只是开始，后续会通过咨询、科学共同体参与和专题简报继续扩充证据基础，下一份年度报告将服务于 2027 年的第二次全球 AI 治理对话。1

但 AI 不是气候。气候系统的观测也难，却至少有大量公共测量、长期数据和可复核模型。AI 的前沿能力很多时候藏在私有系统里，评测任务可以被训练污染，模型行为还会随部署环境、工具权限和用户目标变化。今天的报告如果要追上明天的模型，就会不断面对一个尴尬选择：要么很谨慎、但慢；要么很及时、但证据不够硬。

Tech Policy Press 上几位 Umeå University AI Policy Lab 研究者对这份报告提出了一个尖锐批评：面板把开发者自评视为结构性弱点，却又在能力判断上大量依赖开发者或开发者相邻证据；如果不说明如何给这些证据降权、校正或标注来源，独立性就会打折扣。3

他们还指出，报告没有充分交代结论形成机制、成员利益披露、资助金额与条件，也没有把内部不同意见展开呈现。3 这不等于报告被谁操控，但它提醒我们：独立科学面板不能只「由专家组成」，还要让读者看见专家如何处理证据、分歧和利益关系。

这个批评对 AI 治理很要紧。因为 AI 的争议并不只是事实争议，也包括价值排序。是先管前沿模型的灾难性风险，还是先处理已经发生的劳动替代、语言排除、监控和歧视？不同地区的答案不会一样。一个全球科学面板如果把分歧磨平，反而会削弱它本该提供的公共价值。

这份报告最值得读的地方，不是列了多少风险，而是把证据本身推到台前。联合国秘书长 António Guterres 在发布时说：「我们不能再说自己不知道。接下来怎么做，取决于我们所有人。」2 这句话的前半句很有力量，后半句更麻烦。因为「知道」不是一个开关，知道多少、谁知道、用什么方法知道，都会影响政策该怎么做。

Amandeep Gill 的说法更接近问题核心：AI 不会自动弥合鸿沟；它的好处会落在已经有制度、技能和数据的地方，缺少这些条件的社区可能被替代、被依赖，或者被迫适应并非为它们设计的系统。2 换句话说，治理不是给模型贴一层伦理标签，而是要建设能测试、质询、采购、审计和纠偏的能力。

这也是为什么「共享科学语言」重要。它不一定马上给出规则答案，但可以让不同政府先承认同一组事实：能力在增长，风险和收益分布不均，防护仍不可靠，证据来源存在偏差。没有这个共同底座，每个国家都会被迫在厂商叙事、地缘安全焦虑和本国短期产业利益之间摇摆。

不过共同底座不能靠一次发布会完成。AI 证据要变成基础设施，至少需要三件事：独立测试有稳定经费，开发者必须按可审计格式披露关键能力和事故信息，面板或监管机构要公开说明自己如何处理不确定性。否则报告会变成另一种意见文件，只是署名更长、格式更正式。

AI 政策的难点正在从「价值观宣言」转向「证据工程」。哪类风险已经有足够证据可以立刻管，哪类风险只能先监测，哪类收益需要公共投资才能落到弱势地区，这些都不是一句「负责任 AI」能回答的问题。

更不舒服的是，最聪明的那批人也没解决这个问题。前沿实验室需要快速发布和保护商业机密，政府需要及时行动，科学共同体需要时间验证，公众需要看到分歧而不是被要求相信结论。四种时间表并不一致。

所以，这份联合国报告的意义不在于它给出了最后答案。它更像是在提醒：如果 AI 继续变快，治理能力不能只追着模型跑。我们还得追着证据跑，并且把「谁有资格说这是证据」这件事讲清楚。

Anthropic 经济指数显示，重度委派者并没有自认学得更少。 Anthropic 6 月的 Economic Index 把 Claude 使用数据和约 9700 份用户调查连接起来，发现更常把任务自动交给 Claude 的用户，对未来薪酬、就业安全和工作意义反而更乐观；68% 的受访者说使用 AI 后学得更多，57% 认为 AI 让自己的技能更值钱。报告也承认，这些是自我报告，不能排除技能实际退化。4

Anthropic 的 Fable/Mythos 发布继续把「开发者证据」问题推到前台。 Anthropic 称 Fable 5 和 Mythos 5 能更长时间自主工作，并在软件、知识工作、视觉、生命科学等任务上达到新的内部评测高点；同一篇公告也把网络安全、生物化学和模型蒸馏列为需要分类器防护的高风险领域。5 这类材料很有信息量，但也说明外部治理越来越依赖实验室自己公开的评测、案例和边界说明。

Karpathy 对 AI 界面的判断，正在和治理问题相撞。 Andrej Karpathy 6 月底把新一代 Claude 形容为第三种 LLM 交互范式：不再只是网站或桌面应用，而是一个带组织级工具和上下文、能异步工作的持久实体。6 如果这个方向成立，治理对象就不再只是一个回答问题的模型，而是一套能在组织里持续行动的工作系统。