
香山论坛闭幕日:多国代表警告 AI 压缩决策时间,红线与热线写在布鲁金斯一篇文章里
路透社在香山论坛闭幕日记录下多国代表对 AI 军事风险的警告;本文还原这篇短稿,并说明真正给出核系统红线、网络攻击人类决策权和 AI 军事热线的,是一份两国政府都还没有背书的智库文章。
路透社北京分社记者 Mei Mei Chu 在香山论坛闭幕当天发出一篇短稿,记录了这个会场上关于人工智能军事风险的四方警告:泰国国防部长说大国竞争正在加剧,红十字国际委员会副主席说武器系统越自主、人类越要留住对使用武力的判断,巴基斯坦国防秘书说技术正在"压缩战略时间线"。1 稿子在北京时间 9 月 17 日 14 时 59 分发稿、15 时 02 分更新过一次,由常驻香港的 Greg Torode 执笔成文。
中国国防部长董军在开幕式上的主旨发言,本频道上一期已经拆过。这一期看闭幕日:会场里说的是担忧,成文的建议写在会场外的一篇文章里。
路透社写了什么
第十三届北京香山论坛 9 月 15 日至 17 日在北京国际会议中心举行,主题是"凝聚稳定共识,同促安全治理"。路透社写,来自 100 个国家的大约 2,000 名军官、外交官与学者参加了这场为期三天的会议,会议在 9 月 17 日闭幕;出席者里包括地区防务官员、一名朝鲜代表、一名五角大楼高级官员、俄罗斯学者和塔利班代表。8
规模数字在中国官方口径里相差不大。国防部新闻发言人蒋斌在会前介绍,参会的有近 100 个国家、地区和国际组织的官方代表团,其中部级和军队总长级以上代表 60 余位;2 中国日报 9 月 17 日的论坛综述给出的是约 2,000 名嘉宾,来自 100 多个国家、地区和国际组织。3
四段发言撑起了这篇稿子的主体。
泰国国防部长 Adul Boonthumjaroen 讲了两句。第一句说的是眼下的局面:"今天的世界处在一个关键转折点,大国之间的战略竞争更加突出,多个地区的冲突仍在继续。"第二句接着 AI 讲:"最紧迫的问题不是谁最强,而是我们如何建立一个国际秩序。"8
红十字国际委员会副主席 Jürg Lauber 把落点放在人身上:"武器系统越来越自主,保留人类对使用武力的判断与控制,就变得更为紧迫。"8 这位瑞士外交官 2026 年 4 月 1 日就任该会副主席,官网的现任领导页把副主席列为他。45 报道同时记下他谈的低成本无人机:这类装备正在改变战争形态,把前线在大跨度上拉长、模糊。8
巴基斯坦国防秘书 Muhammad Ali 用了一个说法——技术正在"压缩战略时间线",并接着解释:"人工智能加速决策,而虚假信息与错误信息可能在政府还没来得及有效回应之前,就先瓦解公众信任。"8
报道末尾用一句话带过另外三位:孟加拉国、马来西亚和老挝的代表也表达了对 AI 影响的担忧,报道没有点名。8
稿子还给了一层背景:这场论坛开着的时候,中美两个 AI 大国正在为这个月的双边峰会做准备,双方在如何控制 AI 用于军事系统(包括核武器)这件事上仍有分歧;两国的安全专家都呼吁为军事 AI 设护栏、攒共识。8 报道在正文里链到两篇此前的稿子——9 月 16 日的《AI 竞争笼罩特朗普—习近平会谈》,和 9 月 14 日的《中国如何准备应对 AI 脱离人类控制的风险》。8
四句警告分别出自谁
| 说法 | 谁说的 | 身份与场合 | 能核到什么 |
|---|---|---|---|
| "今天的世界处在一个关键转折点……";"最紧迫的问题不是谁最强,而是如何建立一个国际秩序" | 泰国国防部长 Adul Boonthumjaroen | 香山论坛全体会议发言 8 | 中国日报同日的论坛综述也引了他,落点在防务合作,他把合作形容成一座桥 9 |
| "武器系统越来越自主,保留人类对使用武力的判断与控制就越紧迫" | 红十字国际委员会副主席 Jürg Lauber | 瑞士外交官,2026 年 4 月 1 日就任现职 1011 | 身份可由该会官网核对 1011;除这篇报道外,未见其他公开记录 |
| 低成本无人机正在改变战争形态,前线的边界在大跨度上被拉长、模糊 | 同上 | 同一场发言 8 | 除这篇报道外,未见其他公开记录 |
| 技术正在"压缩战略时间线";AI 加速决策,虚假信息可能在政府回应之前先瓦解公众信任 | 巴基斯坦国防秘书 Muhammad Ali | 论坛发言 8 | 除这篇报道外,未见其他公开记录 |
| 孟加拉国、马来西亚、老挝代表也担心 AI 的影响 | 路透社概述 | 报道未点名 8 | 报道没有给出这三位代表的名字与具体表述 |
给出具体红线的是另一篇稿子
同一天,路透社还有一篇稿子写方案层:专家建议给核系统划红线、把重大网络攻击的决定权留给人类,并为牵涉自主 AI 的事件单设一条热线。6 两位作者是布鲁金斯学会高级研究员 Melanie Sisson 和复旦大学发展研究院副教授田娇,两人参加的是 2019 年以来由布鲁金斯学会外交政策项目与清华大学国际安全与战略研究中心召集的中美人工智能与国家安全二轨对话。12
两条建议各说各的。Sisson 主张,对另一国核指挥、控制与通信系统(英文缩写 NC3)或者战略重要基础设施发动 AI 网络攻击,这个决定应当由人类独掌授权。12 田娇提了三件事:列一份军事 AI 红线清单,禁止 AI 自主决定使用核武器、禁止 AI 自主攻击核指挥系统,并把能源、金融、医疗等关键基础设施纳入保护范围;先就"有意义的人类控制"达成共同定义,免得两国用同一句话为不同的自主程度背书;在中美既有的军事沟通机制(国防部长热线、海上军事安全磋商机制)之外,增开一条报告 AI 事故的热线。12
布鲁金斯学会 9 月 9 日刊出的原文更完整。田娇在文中引 1970 年代美国空军上校 John Boyd 的 OODA 循环,也引周恩来在中国核试验中"万无一失"的要求,用来说明同一件事在两国说法不同、走法也不同;她主张把致命性自主武器系统(LAWS)一并纳入谈判,先找"禁止完全自主的致命攻击、确保人类监督"这个最小共识。7

建议落到现实里的三处难题
田娇在同一篇文章里列了三处困难。13
- 速度。AI 智能体让网络攻防以毫秒计推进,防御方的 AI 可能自动切断网络、自动反击,对面把这当成入侵,两边就滑向自动对抗;在这样的速度下,"人的最终决定"可能超出人的生理极限。13
- 归因。关键基础设施可能被国家行为体攻击,也可能出自黑客团伙、恐怖组织甚至 AI 智能体,还可能有人故意伪装成某个国家;归因不可靠,追责与报复就容易点着火。13
- 安全困境。AI 的不透明让人无法判断对手发展到哪一步,也分不清一项军事 AI 是进攻还是防御,双方于是按最坏情况设想对方,威胁被放大,敌意螺旋上升。13
热线这条建议的难点在既有先例。约翰斯·霍普金斯大学高级国际研究学院的 Carla Freeman 等专家质疑过现有中美军事危机沟通热线的用处,举的例子是 2023 年 2 月美方就"间谍气球"事件打电话、中方没有接;路透社引她今年 1 月给 War on the Rocks 的文章说,中国的官僚体系自上而下,层级低的人没有临机处置的空间,"除非最高层与党内相关部门商量后决定如何回应,在中国体系里没有人愿意同美国沟通,这可能要几天,甚至更久"。12
同一篇稿子里还有一个反向的观察:斯德哥尔摩国际和平研究所的 Lora Saalman 今年 2 月写到,这一点是中美之间一处重要的共识,即便两国都在把 AI 更深地嵌入核与核相关系统。12
原文直引
A range of delegates to China's flagship defence conference this week expressed fears over the potential for unchecked AI development and technology rivalries to further heighten risks across the global security environment.
"Today, the world is at a critical turning point. Strategic competition among major powers is becoming more pronounced, conflicts in many regions continue," said Thailand's Defence Minister Adul Boonthumjaroen.
"As weapon systems become increasingly autonomous, the need to preserve human judgment and control over the use of force becomes more pressing," said Jurg Lauber, vice-president of the International Committee of the Red Cross.
Pakistan's Defense Secretary Muhammad Ali said technological advances were "compressing the strategic timeline."
"Artificial Intelligence accelerates decisions while disinformation and misinformation can fracture public trust before governments are even able to respond effectively."
五处引文出自路透社 9 月 17 日北京稿,记者 Mei Mei Chu,香港的 Greg Torode 撰稿,编辑 Raju Gopalakrishnan。8
把这条报道拆成四层
| 层次 | 内容 | 依据 |
|---|---|---|
| 会场自述 | 泰国、巴基斯坦两国国防官员与红十字国际委员会副主席对 AI 军事风险的警告,以及低成本无人机对战场的影响 | 路透社 9 月 17 日 8 |
| 成文建议 | 核系统红线、重大网络攻击的人类决策权、自主 AI 事件热线;"有意义的人类控制"的共同定义;把致命性自主武器一并纳入 | 路透社同日另一篇稿子 12、布鲁金斯学会原文 13 |
| 政府层面的现状 | 中国把 AI 放在外交部军控司,该司同时管核武器、防扩散与导弹;美国分散在国安会、国务院与五角大楼;两国政府都没有公开背书这些建议 | 路透社同日另一篇稿子 12 |
| 仍待核实 | 孟加拉国、马来西亚、老挝三国代表的具体表述;约 2,000 名代表里军方与学者的比例;热线建议能否进入这一轮双边议程 | 截至发稿没有公开文本 |
中国政府在这条线上的现有表述,路透社也列了:外交部军控司把 AI 当作正式业务;中国常驻联合国日内瓦办事处裁军大使沈健 6 月在一场联合国会议上说,军事 AI 可能影响战略稳定、抬高误判与冲突升级的风险,武器应当始终由人类掌控;北京同时主张,AI 安全不能成为技术壁垒的借口。12 美国这边没有单一的军控归口部门,国安会、国务院和五角大楼各管一块。两国对可能拖慢自身技术发展的措施都留着戒心:特朗普警告过广泛的限制可能让中国占优,北京则把美国的许多技术管制看作维持美国主导地位的手段。12 中国国家安全部部长陈一新本周在政府媒体撰文,说 AI"从根本上改变了军事斗争形态",已经从战场的辅助角色走到关键位置。12
中美元首 9 月 24 日在华盛顿的会晤,是这类建议最近的一次检验机会;路透社写这场 AI 对话的推进与这次会面相关。12 会场上的警告每届论坛都会有新的说法,二轨建议要变成条文,得先有人认领它。
References
- 1
- 2第十三届北京香山论坛9月15日启幕 60余位部级和军队总长级以上代表参会
beijing.gov.cn
- 3Stability key to prosperity, stress intl defense officials
chinadaily.com.cn
- 4The Office of the President
icrc.org
- 5ICRC elects new vice-president
icrc.org
- 6
- 7Advancing human control of military AI
brookings.edu
- 81
- 96
- 104
- 117
- 122
- 133
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.
