
Hassabis 的监管方案迎来第二步:从「警示枪」到 30 天审查期
Hassabis 在最新专访中把 FINRA 式前沿 AI 监管方案推进到审查时限、行业出资与风险升级机制,并用教育观点说明技术深度与人文判断为何会同时变得重要。
先说结论
Demis Hassabis 这次新增的信号,不是又一次呼吁「政府应该参与 AI 监管」,而是开始回答:政府和行业究竟怎样把这句话变成一套可运行的制度。
7 月 20 日,《洛杉矶时报》刊发对 Hassabis 的专访。他把 Anthropic 的 Mythos 称为给社会的「警示枪」,并解释了自己此前提出的 FINRA 式前沿 AI 标准机构:由独立技术专家和开源社区代表参与治理,主要 AI 公司提供资金,前沿实验室在发布前最多提前 30 天自愿提交审查;如果这套机制被证明有效,再把审查变成进入美国市场的必要条件。1
更重要的是,他明确说这套方案与 Dario Amodei、Sam Altman 的部分设想兼容。这个表述意味着监管讨论出现了新的层次:三家公司未必会采用同一个机构,但可以把标准、国际协调和高风险部署约束拼成一套制度链条。它仍然不是共识落地,因为最难的问题恰恰还没有解决:谁定义前沿模型,谁出钱,谁拥有最后的叫停权。
这次专访新增了什么
Mythos 是动机,不是风险结论
Hassabis 把 Anthropic 的 Mythos 放在监管讨论的现实背景中。他的意思不是 Mythos 已经证明了某种灾难性风险,而是前沿模型在网络安全等方向上的能力进展,足以说明「等风险完全显现之后再建制度」会太晚。
他在专访中说:
I'm worried about different types of risks also coming down the line…The models aren't good enough yet, but if you extrapolate out, maybe they will be in a couple of years. 1
「警示枪」这个比喻的作用,是把监管的时间点从「出现已知事故」提前到「能力曲线显示风险可能接近」。但它也划出一个证据边界:一个模型展示出强大的网络安全能力,可以支持建立测试和审查机制,不能单独证明已经出现不可接受的现实危害。
FINRA 类比终于有了操作细节
Hassabis 的方案可以拆成四个零件。
- 机构身份。 它不是完全由政府直接运行的审批机关,而是一个受联邦监督的公私合作或行业自律机构,定位类似美国金融业监管局 FINRA。
- 治理与资金。 董事会应纳入独立技术专家和开源社区代表,主要 AI 公司承担相当一部分资金。这种安排试图同时获得行业技术能力与公共监督,但也把利益冲突公开摆到了台面上。
- 审查节奏。 在机制初期,前沿实验室可在模型发布前最多 30 天自愿提交评估;等协议被证明有效,前沿模型通过评估就可能成为进入美国市场的条件。
- 风险升级。 如果风险严重程度上升,措施可以被「ratcheted up」,包括协调不同实验室放慢开发。测试范围则涉及绕过安全护栏、欺骗行为,以及数字水印和人类可读输出 token 等可审计实践。1
这里最值得注意的不是「30 天」这个数字,而是制度转换路径:先用自愿机制建立测试可信度,再讨论强制准入。它试图避免一开始就把所有模型拖进审批程序,同时给市场一个明确的升级方向。
但这也留下了三道硬问题。行业出资的机构如何保持独立?「前沿」是按模型规模、能力基准,还是按系统能完成的任务定义?一个模型没有通过评估时,结果是延迟发布、禁止进入美国市场,还是要求修改后重新测试?这些答案不写进法律和程序,FINRA 仍然只是一个有吸引力的类比。
Hassabis 自己也承认,逐个模型和政府沟通的方式不能长期维持:
As we train our latest models and as they get certain scores and benchmarks, we're talking to government and the AI security institutes about those things and testing them internally. That all has to continue. But I think doing that in an ad hoc fashion isn't very sustainable in the longer term. 1
「兼容」不等于「同一个方案」
此前的讨论容易把 Hassabis、Altman 和 Amodei 概括成「都支持监管」。这次专访提供了一个更精确的判断:他们的想法可以兼容,但兼容的前提是把它们看成不同层次的制度组件。
| 维度 | Hassabis | Altman | Amodei |
|---|---|---|---|
| 主要组件 | 联邦监督下的 FINRA 式标准机构,负责技术标准和发布前评估。1 | 美国主导的国际论坛,负责形成广泛接受的安全标准,并提供能力与风险分析。2 | 以第三方测试和审计为基础,政府在特定高风险场景下应有阻止或遏制部署的权力。3 |
| 最强约束 | 通过评估可能成为进入美国市场的条件。1 | 用规则和技术访问资格连接参与者。2 | 对不满足安全标准的系统施加部署限制。3 |
| 不能混为一谈的地方 | 更像「测什么、怎么测」的标准层。 | 更强调规则的国际协调和政治合法性。 | 更强调政府是否能在高风险情形下采取强制行动。 |
Hassabis 在接受 LA Times 采访时说:
We've talked a lot about this…I think it's very compatible with the ideas he's been putting out, and also Sam [Altman] too, with some of his ideas. But we needed something concrete rather than abstract. 1
这句话的分量在「concrete rather than abstract」:他并不声称三人的制度设计已经统一,而是认为行业已有足够共识,可以先把一个具体机构做出来。最理想的拼接方式可能是:国际论坛决定协调原则,标准机构制定和执行技术评估,政府在高风险类别上保留明确的法定约束权。
不过,这个拼接也可能产生新的权力冲突。国际论坛的标准是否优先于美国市场准入规则?行业机构的评估能否直接触发政府的叫停权?不同国家是否接受一套由美国主导、又由美国市场决定后果的制度?所谓「兼容」,只有在这些接口被写清楚之后才有实际含义。
从 CS 到哲学:同一套「杠杆」判断
7 月 20 日,Times of India 还报道了 Hassabis 在伦敦一场商业会议上的另一组表态。它与监管话题看似无关,实际上呈现了同一种判断:AI 会改变表层工具,但不会消除深层能力,反而会放大深层能力的价值。4
他把编程语言的演变概括为从机器码、C、Python 走向自然语言,并说:
You absolutely needed to lean into STEM and computer science. It's just a higher-level programming language is the way you can think about what programming is going to become. 4
他进一步表示,理解系统架构和软件工程实践的人,使用 AI 工具的效率可能是缺少技术基础的人的 10 倍:
You're still going to need to know about architecting things and best software engineering practices. Those people who understand the deep technical, they'll be able to use these tools 10 times more effectively than people who don't have that technical knowledge. 4
这里的「10 倍」应当被当作 Hassabis 的判断,而不是一项已经给出测量方法的教育研究。真正可检验的版本,是看技术背景是否能改善任务拆解、架构决策、错误诊断和安全审查,而不只是让人更快生成代码。
他的另一句话则把视野从 STEM 推向人文学科:
I also believe that the time is now for the humanities like philosophy, economics. I think we really need them in the world we're about to enter. 4
把两组话放在一起,Hassabis 的教育判断不是「技术取代人文」,而是把二者放在不同的决策层:CS 负责理解和驾驭系统,哲学与经济学帮助社会处理目标、伦理和分配。它与他的监管方案形成对应:技术专家可以告诉机构模型能做什么、风险怎样测,人文学科和公共机构则必须参与决定什么风险值得接受、谁承担代价。
接下来要看哪些制度动作
Hassabis 说,他希望这次讨论能有足够势头「actually get something over the line」,并补充说下一步是证明它真的能实现,而不只是发布一篇博客。1 这给后续追踪留下了比「他是否继续谈监管」更具体的观察表:
- 门槛。 Frontier-class 如何定义,是否同时覆盖开源和闭源系统,是否按模型能力还是按组合后的真实任务能力判定。
- 独立性。 董事会席位、专家遴选、行业出资比例、测试结果公开程度和申诉机制是否透明。
- 升级。 30 天自愿审查何时、依据什么条件转为强制准入,失败后是延期、整改还是禁止部署。
- 权力接口。 Hassabis 的标准机构、Altman 的国际论坛与 Amodei 路线中的政府执行权,谁对谁负责,彼此冲突时谁拥有最终决定权。
- 教育效果。 「技术深度带来 10 倍效率」是否能在真实工作流中复现,以及人文学科参与是否会进入产品治理和资源分配,而不是停留在演讲中的价值宣示。
本期真正的新增信息,是 Hassabis 把「监管共识」从一句共同口号推进成了一个可以和其他路线对接的制度草图;而教育话题则揭示了他的底层预设:AI 会压低工具使用门槛,却会抬高系统理解、公共判断和责任分配的门槛。下一步的关键,不是再争论三位 CEO 是否同意监管,而是看他们能否对这些制度接口给出同样具体的答案。
Contenido relacionado
- Inicia sesión para comentar.
