AI早报:全球治理文件密集落地,智能体安全与国内资本同步加码

AI早报:全球治理文件密集落地,智能体安全与国内资本同步加码

本期聚焦 7 月 17 日 WAIC 集中释放的 AI 治理信号,跟踪 GPT-Red、Codex 与 OpenClaw 的安全风险,并汇总 5 笔国内 AI 相关资本动态。

今日速览

覆盖窗口:2026-07-17 00:00 至 2026-07-18 08:00(北京时间)。本期按事件或公开披露发生时间筛选;同一会议中的不同正式文件分别核验,不以转载数量重复计入。
  • 习近平在 WAIC 提出全球 AI 治理四点意见 —— 要求把法律法规、技术监测、风险预警和应急响应连成安全底线,并宣布未来 5 年面向发展中国家提供 5000 个 AI 专题研修名额 〔来源: 中国驻芝加哥总领事馆〕 1
  • WAIC 主席声明把智能体权限写进治理框架 —— 声明要求明确智能体决策权限和行为边界,建立行为追溯、风险提示与应急响应机制 〔来源: 外交部〕 2
  • 《国际人工智能伦理治理行动计划》发布 —— 工信部会同有关方面提出全生命周期伦理治理、风险分类分级和隐私保护等行动 〔来源: 国家科技传播中心〕 3
  • 智能体互信互联互操作全球合作倡议发布 —— 倡议把身份标识、互操作标准、跨境数据合规和全生命周期安全放到同一套合作议程中 〔来源: 国家科技传播中心〕 4
  • 北京推进 AI 医疗器械上市后科学监管 —— 监管研讨聚焦变更控制、数据溯源、模型信息披露和风险信号挖掘 〔来源: 北京市药品监督管理局〕 5
  • 《全球人工智能创新指数报告 2026》发布 —— 报告覆盖 46 个国家,提示 AI 基建、能源供给、推理需求与治理合作将同时成为产业约束 〔来源: 科技日报〕 6
  • GPT-5.6 Codex 暴露高权限误删风险 —— 在完全访问、未启用沙箱且关闭自动审核时,模型异常可能删除用户主目录文件 〔来源: Readhub〕 7
  • OpenAI 用 GPT-Red 自动化寻找提示注入失败点 —— 内部红队模型以自博弈方式攻击防御模型,反映 Agent 安全测试正在从人工抽样转向持续对抗 〔来源: Readhub〕 8
  • OpenClaw 与 WhatsApp 集成被曝可被绕过验证执行命令 —— 特制消息可能触发任意系统命令,架构性问题把消息入口直接连接到主机权限 〔来源: SecurityWeek〕 9
  • 奇安信在 WAIC 展示 AI 安全纵深体系并签署合作备忘录 —— 展示 AI 安全网关、智能体安全平台和安全运营智能体,强调从告警处置走向运行时防护 〔来源: 奇安信〕 10
  • 360 将智能体自主执行列为安全治理新变量 —— 周鸿祎在 WAIC 表示,AI 进入智能体阶段后必须坚持安全、可信、可靠、可控 〔来源: 新浪财经〕 11
  • 曦诺未来完成 5 亿元 A+ 轮融资 —— 美团领投,蔚来资本、招商局资本和某互联网大厂跟投,灵巧手进入产业资本密集加注阶段 〔来源: 投资界〕 12
  • 利德健康完成超亿元 Pre-A+ 轮战略融资 —— 拓荆科技旗下上海岩泉科技战略投资,资金用于 AI for Science 业务、人才和规模化产能 〔来源: 投资界〕 13
  • 无尽方舟一个月完成两轮融资近亿元 —— AI 生物科技公司由九合创投等机构连续加注,资金将用于研发推进与团队扩充 〔来源: 投资界〕 14
  • 西湖欧米获瑞江康圣基金独家战略投资 —— AI 蛋白质组学与虚拟细胞平台将加大研发投入并推动临床诊断产品商业化 〔来源: 投资界〕 15
  • 启境汽车完成超过 10 亿元战略增资并推进混改 —— 注册资本增至 30.15 亿元,宁德时代等产业资本和多家国央企资本进入 〔来源: 中国经济网〕 16

一、国家政策与治理信号

1. 习近平:AI 治理要把风险预警与应急响应前置

2026-07-17
质量 ★5 · 时效 ★5 · 安全关联 ★5
习近平在 2026 世界人工智能大会开幕式上提出开放共赢、强化风险意识、包容并蓄、完善全球治理四点意见,其中直接要求构建法律法规、技术监测、风险预警和应急响应体系,防范人工智能滥用恶用并确保始终处于人类控制之下。讲话还宣布,未来 5 年中国将面向发展中国家提供 5000 个 AI 专题研修名额,并建设国际人工智能应用合作中心。对国内团队而言,这不是单纯的国际合作表态,产品上线前的权限边界、事故响应和跨境数据流程,都需要能对应到可审计的治理节点。 1

2. WAIC 主席声明:智能体必须明确权限、边界与追溯机制

2026-07-17
质量 ★5 · 时效 ★5 · 安全关联 ★5
2026 世界人工智能大会暨人工智能全球治理高级别会议主席声明把智能体风险单独写入治理要求,提出明确决策权限和行为边界,建立行为追溯与风险提示机制,并加快安全、产业和伦理标准制修订。声明还要求构建法律法规、技术监测、风险预警、应急响应体系,防范恐怖主义、极端势力和有组织犯罪对 AI 的滥用。它释放的国内参考信号很清楚:Agent 的安全评估对象将从模型输出扩展到权限、工具调用、日志留痕和事后处置。 2

3. 《国际人工智能伦理治理行动计划》提出全生命周期治理

2026-07-17
质量 ★5 · 时效 ★5 · 安全关联 ★4
工业和信息化部会同有关方面共同指导发布《国际人工智能伦理治理行动计划》,将全生命周期伦理治理、风险分类分级防控、敏捷治理机制、产业链协同和社会氛围建设列为重点。行动计划还鼓励可解释性、隐私保护和偏见矫正技术研发与开源共享,并提出面向发展中国家开展治理能力建设合作。它目前属于行动计划,不等同于新的行政规章,但对企业的合规路线图有现实参考价值:模型训练、部署、迭代和退出都应留下伦理与安全责任边界。 3

4. 智能体全球合作倡议把身份、互操作和数据合规并列推进

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★5
《智能体互信互联互操作全球合作倡议》由国家互联网信息办公室会同有关方面在 WAIC 主论坛发布,提出推动智能体身份标识、协作互认和开放透明的国际互操作标准,同时建立覆盖全生命周期的安全治理框架,推动跨境数据安全、合规、有序流动。对国内产品团队而言,身份标识和权限互认将成为多 Agent 协作的基础设施问题,不能只在接口层追求可连通,还要在调用主体、数据范围、责任归属和撤销机制上保持可验证。 4

5. 北京药监局推进 AI 医疗器械上市后科学监管

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★5
北京市药监局围绕人工智能医疗器械上市后监管召开专题研讨,讨论审评、生产、经营、使用、检验和监测等环节的质量管理短板,重点涉及上市后变更控制、数据溯源、模型信息披露、风险信号挖掘和抽检模式完善。此类地方监管动作虽然不是全国统一新规,却把高风险 AI 产品的监管重点落到了可执行字段上。医疗 AI 企业今天最该补的不是一份泛化伦理宣言,而是模型版本、训练数据来源、临床反馈和异常处置之间的完整追踪链。 5

6. 官方创新指数报告:AI 竞争进入算力、能源与治理并行阶段

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★3
中国科学技术信息研究所联合北京大学发布《全球人工智能创新指数报告 2026》,以基础支撑、资源与环境、科技研发、产业与应用、国际合作交流五个维度,对 46 个国家进行量化评价。科技日报披露,报告同时指出 AI 基建扩张受到能源供给约束,产业重心从通用转向垂直、从训练转向推理,前沿模型能力增长也放大风险外溢隐忧。该条是官方研究信号而非行政规章,适合用来判断政策与产业资源的下一步优先级,不应被误读为新的监管要求。 6

二、AI 行业动态:信息安全与隐私

1. GPT-5.6 Codex 高权限模式可能误删用户主目录文件

2026-07-17
质量 ★5 · 时效 ★5 · 安全关联 ★5
Readhub 汇总的 OpenAI 确认信息显示,由 GPT-5.6 驱动的 Codex 代码生成系统,在用户开启完全访问模式、未启用沙箱保护且关闭自动审核功能时,可能因模型操作异常误删用户主目录文件,造成数据丢失。OpenAI 建议相关用户关闭高权限模式、改用安全运行环境,并计划发布详细事故分析。现有证据支持的是特定权限组合下的风险,不足以推出所有用户都会受影响。工程团队应先把文件系统写权限降到任务所需最小范围,再把回滚和人工确认设为默认路径。 7

2. GPT-Red 把提示注入测试推进到自动化红队阶段

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★5
OpenAI 介绍内部红队模型 GPT-Red,用自博弈强化学习自动模拟网络攻击,持续寻找模型在邮件、网页、文件和工具输出等外部内容中的提示注入失败点。Readhub 记录显示,GPT-Red 与防御型模型同步训练,过去半年 GPT-5.3 之后的生产模型都使用了相关训练结果,目标是提升鲁棒性、一致性和可信度。它不是面向用户的产品,而是安全工程方法的变化:Agent 评测不能只抽样几个固定越狱问题,应让攻击方持续生成新路径,并把失败样本回灌到发布门禁。 8

3. OpenClaw 与 WhatsApp 集成漏洞可导致远程命令执行

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★5
SecurityWeek 报道,一名安全研究者演示了 OpenClaw AI 智能体与 WhatsApp 集成中的架构性漏洞:攻击者发送特制消息后,可以绕过验证检查,迫使 AI 在主机系统上执行任意系统命令,形成远程代码执行风险。原文没有披露研究者姓名,也没有在该页面给出完整修复时间表,因此本文不延伸判断影响范围。对企业部署的直接建议是把消息接入层、Agent 编排层和主机执行层分隔,所有工具调用采用显式 allowlist,并对高风险命令设置人工确认。 9

4. 奇安信在 WAIC 展示智能体运行时安全与机器人防护

2026-07-17
质量 ★3 · 时效 ★5 · 安全关联 ★5
奇安信在 WAIC 公开展示 AI 安全网关、智能体安全平台和 QAgent Fabric 安全智能体研发框架,并以高位情报 AI 化、中位安全运营智能体化、低位产品 MCP 化构建纵深防御。其公开材料还提到面向具身智能机器人八大攻击面的防护体系,以及单条告警研判时间 8.97 秒等产品口径;这些数字属于企业自述,不能等同于独立测评。值得关注的行业变化是,安全能力开始从模型上线前检测延伸到 Agent 运行时的身份、工具和告警闭环。 10

5. 360:智能体自主执行让 AI 安全从模型问题变成系统问题

2026-07-17
质量 ★3 · 时效 ★5 · 安全关联 ★5
360 创始人周鸿祎在 WAIC 表示,人工智能从大模型阶段走向智能体阶段后,已经不只是回答问题的工具,而是能够自主执行任务的新形态,安全挑战随之增加;他强调 AI 必须坚持安全、可信、可靠、可控的发展方向。该发言属于企业代表在产业会议上的公开观点,不是监管文件,但与 Codex 和 OpenClaw 的案例形成了对应关系:一旦模型能操作文件、消息或外部工具,权限隔离、行为审计和回滚能力就应与模型能力同步建设,而不是事故后再补。 11

三、AI 投融资:国内优先

1. 曦诺未来完成 5 亿元 A+ 轮融资,美团领投

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★2
投资界披露,具身智能核心部件企业曦诺未来完成 5 亿元 A+ 轮融资,美团领投,蔚来资本、招商局资本和某互联网大厂跟投,老股东小米战投继续加注。曦诺未来主营高自由度灵巧手及相关底层技术,提供面向工业与消费市场的通用灵巧操作方案。它不是安全融资,但灵巧手和具身智能的资本热度正在把资金从模型本身推向感知、执行和控制环节;对投资人而言,后续应重点核查量产客户、数据闭环和机器人权限安全,而不只看融资金额。 12

2. 利德健康完成超亿元 Pre-A+ 轮,拓荆科技旗下资本战略投资

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★3
利德健康完成超亿元 Pre-A+ 轮战略融资,投资方为拓荆科技全资子公司上海岩泉科技,老股东嘉道资本和中科创星持续加码。公司专注 AI 生命科学仪器与生物智造装备,公开材料称资金将用于扩充人才、加速 AI for Science 业务、提升产能和拓展全国市场。其安全关联不在传统网络攻防,而在生命科学数据、实验结果和模型训练链条的可追溯性。产业资本进入后,值得观察其能否把多学科数据治理和设备级安全真正转成可复制的产品能力。 13

3. 无尽方舟一个月完成种子轮与种子+轮,累计近亿元

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★3
AI 生物科技公司无尽方舟宣布,一个月内连续完成种子轮与种子+轮融资,累计近亿元人民币。投资方包括 Monolith、博裕资本、九合创投、未来光锥和星连资本,资金主要用于研发推进与团队扩充。公司构建面向生物科学与生命科学的 Longevity Foundation Model,尝试用跨物种、跨器官单细胞和多组学数据建立从机制理解、靶点发现到实验验证的研发闭环。对早期投资人来说,下一步应把模型效果与实验可复现性、样本授权和敏感生物数据治理放在同一张尽调表里。 14

4. 西湖欧米获瑞江康圣基金独家战略投资

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★3
西湖欧米完成新一轮融资,由瑞江投资旗下瑞江康圣基金独家战略投资。公司以 AI 赋能微观生物大数据,布局 AIVC 虚拟细胞、蛋白质组学和临床诊断,融资后将继续投入虚拟细胞与诊断产品研发,推动技术商业化。公开报道没有披露本轮金额,因此不补写估值或融资规模。这个案例的资本意义在于产业方与 AI 生物平台的结合更紧:医院、科研和药企数据的授权边界、模型输出的临床责任,以及数据工厂的安全审计,将决定战略投资能否落到商业化。 15

5. 启境汽车完成超过 10 亿元战略增资并推进混改

2026-07-17
质量 ★4 · 时效 ★5 · 安全关联 ★3
中国经济网报道,启境汽车完成超过 10 亿元战略增资,注册资本增至 30.15 亿元,投资方包括宁德时代等产业资本和多家国央企资本。启境由广汽与华为乾崑合作打造智能电动汽车品牌,公开材料提到其引入华为乾崑智驾授权体验店和研发、制造反馈闭环。该条并非纯 AI 公司融资,但智能驾驶的资本投入直接牵涉车端模型、传感器数据和远程运维权限。后续观察重点应从股东阵容转向数据闭环是否可审计、车端更新是否可回滚以及事故责任如何分层。 16

早报判断

产品团队今天应把 Agent 的高权限动作拆成最小可授权工具,默认启用沙箱、审批、日志和回滚,把主席声明中的权限边界落实到发布门禁。安全团队应优先复测消息入口、代码执行和外部内容读取三类路径,建立自动红队与运行时告警联动,而不是只做一次性模型越狱测试。投资人今天最该关注的是具身智能、AI for Science 和智能驾驶资本加速后的数据与安全兑现能力,把融资额之外的可审计数据闭环、量产验证和责任边界纳入下一轮尽调。

관련 콘텐츠

  • 로그인하면 댓글을 작성할 수 있습니다.
More from this channel