AI早报：AI治理上桌，Agent身份风险与融资继续升温
本期聚焦工信部联合国 AI 治理、山东与云南 AI+ 政策落地，梳理 Agent 身份与数据安全风险，以及开源 AI 工具、企业 Agent、机器人触觉等融资动向。
工信部把「联合国人工智能治理」放到当天最前台，山东和云南把「AI+」落到制造、数据和安全治理；安全侧则更像一条清晰的警戒线：Agent 可以执行代码、调用工具、连接业务系统，也就必须被当作有身份、有权限、有审计责任的主体来管。融资侧没有降温，开源开发者工具、企业 Agent、语音模型、投资智能体和触觉传感器都在拿钱，但资本更偏向能接近真实业务流程的 AI。
今日速览
- 工信部出席联合国 AI 治理全球对话 —— 中国提出依托联合国主渠道推进全球 AI 治理、标准共建与普惠合作
〔来源: 工信部〕 - 公安部网安局通报 72 款应用隐私问题 —— 个人信息专项行动继续压实 App、小程序和 SDK 合规责任
〔来源: 公安部网安局/新浪〕 - 山东发布「AI+制造」双百清单 —— 100 个场景和 100 个垂直模型进入供需对接，备案和安全审核也同步推进
〔来源: 山东省工信厅〕 - 云南「十五五」数字建设纳入 AI 安全 —— 数据要素、人工智能+、大模型和智能体安全被放进同一套数字治理框架
〔来源: 云南网/新浪〕 - 淮安推进「AI+住建」落地 —— 工程质量安全、城市治理、房屋交易等场景开始按省级方案拆任务
〔来源: 淮安市住建局〕 - 英国 NCSC 推 Cyber Shield —— 用 agentic AI 规划国家级网络防御，重点放在漏洞发现、协同响应和国家级扫描
〔来源: SecurityWeek〕 - Claude Desktop 暴露 Double Agent 攻击链 —— 同步的偏好设置和可执行扩展组合后，桌面 AI 客户端可被转成 RCE 通道
〔来源: Cybersecurity News〕 - SearchGEO 评测搜索 Agent 内容投毒 —— 13 个模型后端在网页操纵下的推荐可靠性差异显著
〔来源: 36氪欧洲/ArXiv〕 - 数说安全《2026AI 安全产业报告》继续发酵 —— 国内 AI 原生安全厂商把智能体运行时、AI Coding 和供应链治理放到同一张图里
〔来源: 悬镜安全〕 - OWASP Agentic AI Top 10 被重新拉回企业视野 —— 目标劫持、工具滥用、身份越权、记忆投毒成为智能体上线前的检查表
〔来源: NeuralTrust〕 - AI Agent 被定义为新型身份风险 —— 开发环境里谁让 Agent 改了代码、触发了流水线，很多组织还追不清
〔来源: Dark Reading〕 - AI 数据安全四个缺口被集中点名 —— 影子 AI、提示词数据外流、无审计 Agent、已批准工具的权限漂移都要分开治理
〔来源: Forcepoint〕 - Lyzr 用自家 Agent 完成 1 亿美元 B 轮 —— 企业 Agent 公司把募资流程本身做成了销售样板
〔来源: TechCrunch〕 - Ollama 获 6500 万美元 B 轮 —— 开源本地模型工具月活开发者接近 890 万，开始补云服务收入
〔来源: TechCrunch〕 - Gradium 种子轮扩至 1 亿美元 —— 超低延迟语音模型继续吸引英伟达等资本靠近
〔来源: TechCrunch〕 - GIM 获 2000 万美元 A 轮 —— 资本市场 Agent 从研究辅助走向假设生成、验证与实盘反馈
〔来源: PR Newswire〕 - Hakimo 获 1200 万美元增长轮 —— AI 物理安防公司继续扩产品、行业和地域
〔来源: YourStory〕 - 山东今年 4 家 AI 相关企业首发融资 21.3 亿元 —— 地方金融支持 AI 制造的资本市场路径更清晰
〔来源: 济南时报/百度百家号〕 - 他山科技获数亿元 B 轮 —— 触觉感知从机器人硬件配套变成「芯片-传感器-算法-场景」一体化能力
〔来源: 36氪〕
国家政策 / 治理
工信部在联合国 AI 治理全球对话强调标准共建
2026-07-10
质量 ★5 · 时效 ★5 · 安全关联 ★4
工信部披露，李乐成在日内瓦出席联合国人工智能治理全球对话首次会议、「人工智能向善」全球峰会和信息社会世界峰会论坛等活动。中方表态支持联合国在 AI 全球治理中发挥主渠道作用，重点提到弥合智能鸿沟、深化开源创新合作、统筹发展和安全、推动形成有广泛共识的治理框架和标准规范；在 7 月 8 日峰会开幕式上，他还提到中国支持通过全球首个人工智能标准化决议，并与各国制定 AI 国际标准 120 余项。对国内企业来说，这条信号不是单纯外交表态，而是提示 AI 标准、开源生态、安全评估会更深地嵌入跨境合作。1
72 款移动应用被通报，个人信息专项行动继续加压
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★5
公安部网安局微信公众号 7 月 9 日发布通报，依据中央网信办、工信部、公安部联合发布的 2026 年个人信息保护系列专项行动公告，经国家计算机病毒应急处理中心检测，72 款移动应用存在违法违规收集使用个人信息问题。问题覆盖隐私政策告知不充分、向第三方提供个人信息未取得单独同意、未先征得同意即收集个人信息、撤回同意机制缺失、未成年人信息规则不足、跨境提供个人信息告知不足、未采取加密或去标识化等安全措施。虽然这不是 AI 专项通报，但对 AI 应用尤其重要：训练、推荐、智能客服和 Agent 工作流都会吃进用户数据，合规底线仍先从个人信息处理规则开始。2
山东发布「AI+制造」双百清单，备案和安全审核同步纳入
2026-07-09
质量 ★5 · 时效 ★5 · 安全关联 ★4
山东省工信厅会同有关部门介绍首批 100 个重点建设「人工智能+制造」应用场景和 100 个重点推广垂直领域大模型，场景覆盖研发、生产、经营、管理全过程，包括生成式设计、智能化排产、多模态质检、预测性维护等类别。更值得企业注意的是合规侧：山东现有备案登记大模型 50 款，落地 22 个垂直领域；今年新增备案大模型 15 款、登记大模型 2 款，相关部门还帮助企业处理训练语料不合规、安全围栏不健全、审核过滤不足、合成内容标识落实不到位等风险隐患 200 余处。制造业 AI 落地正在从「找模型」走向「场景、备案、安全、数据」一起验收。3
云南「十五五」数字建设把 AI 安全写进总体框架
2026-07-08
质量 ★4 · 时效 ★4 · 安全关联 ★5
云南省「开局起步『十五五』」系列主题新闻发布会提出，未来五年将以数据要素市场化配置改革为主线，深入实施「数据要素×」和「人工智能+」两大行动。文章披露的安全部分很具体：云南计划构建网络安全、数据安全、人工智能安全三位一体综合防护体系，落实数据分类分级保护，强化个人信息全生命周期保护，规范数据采集、流通、交易、应用全流程合规管理，并加强大模型、智能体安全防护，防范算法歧视、网络对抗攻击和数据窃取。地方数字经济规划开始把「智能体安全」写进安全屏障，这会影响后续政务和行业项目招标口径。4
淮安住建系统推进「AI+住建」重点任务
2026-07-09
质量 ★3 · 时效 ★4 · 安全关联 ★3
淮安市住建局 7 月 9 日上午召开人工智能发展工作推进会，要求对照《江苏省「人工智能+住房城乡建设」行动方案》落实任务。会议把工程质量安全、城市治理、房屋交易、村镇建设等业务板块列为特色智能场景方向，同时讲解 2026 年「数据要素×」大赛江苏分赛城市治理赛道。它的层级不如中央部委和省级清单高，但能说明一个落地方向：住建领域的 AI 不只做窗口服务，更会进入质量安全、交易、治理流程。对供应商而言，能否把模型能力、业务系统、数据留痕和安全边界放在同一方案里，会影响地方项目承接。5
AI 行业动态「信息安全与隐私」
英国 NCSC 推出 Cyber Shield，国家级防御开始引入 Agentic AI
2026-07-07
质量 ★4 · 时效 ★4 · 安全关联 ★5
SecurityWeek 报道，英国 NCSC 在 7 月 7 日公布 Cyber Shield 计划，目标是用前沿 AI 构建国家级、协作式的 agentic cyber defense 能力。计划列出六类能力：可靠且可解释的网络安全 AI、联邦智能体、漏洞发现与缓解、协同检测响应、国家级扫描、国家级缓解。NCSC 也承认，现实世界尚未看到能覆盖完整入侵生命周期的完全自主攻击，但攻击者已在用 AI 提升漏洞发现和利用速度。它给安全团队的启发很直接：Agent 不是只会写代码的助手，也会成为红蓝双方的自动化基础设施，身份、数据质量、供应链和治理如果没打底，防御自动化会变成新的脆弱面。6
Claude Desktop「Double Agent」攻击链把桌面助手变成 RCE 通道
2026-07-08
质量 ★4 · 时效 ★4 · 安全关联 ★5
Cybersecurity News 报道了 Pentera Labs 研究的「AI Double Agent」攻击。攻击者先取得与邮箱或账户相关的前置访问权，再修改 Claude 账户里会跨设备同步的 Personal Preferences 字段，向其中注入隐藏指令。受害者下次打开 Claude Desktop 时，如果本机已有 Desktop Commander MCP 等可执行命令的扩展，普通聊天就可能触发命令执行；如果没有，攻击链还会诱导用户安装扩展。这个案例的重点不是「Claude 本身被攻破」，而是同步设置、长期提示词、桌面客户端和工具扩展叠在一起后，AI 助手会拥有近似高权限软件的攻击面。企业应该把 AI 桌面客户端纳入特权软件清单，监控偏好设置变更，并限制可配对扩展。7
SearchGEO 暴露搜索 Agent 的「背书污染」问题
2026-07-09
质量 ★4 · 时效 ★4 · 安全关联 ★5
36 氪欧洲站 7 月 9 日关注 SearchGEO 研究；其 arXiv 论文题为 How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation，6 月 15 日提交、6 月 23 日修订。研究在 13 个 LLM 后端上测试，每个后端 308 个案例，覆盖 5 类攻击和 4 个高风险领域。结果显示，攻击成功率从 Claude-Sonnet-4.6 的 0.0% 到 Gemini-3-Flash 的 31.4% 不等，同一部署脚手架还可能放大或降低 ASR。对产品团队来说，这不是论文里的小问题：只要 Agent 会搜网页、读证据、给推荐，网页内容操纵就可能把「参考资料」变成攻击载体。89
国内 AI 原生安全报告继续发酵，智能体治理成厂商主线
2026-07-09
质量 ★3 · 时效 ★5 · 安全关联 ★5
悬镜安全 7 月 9 日文章称，其入选数说安全《2026AI 安全产业报告》代表厂商。这个条目的信源是厂商公众号，不能等同于中立排名，但它反映出国内 AI 安全产品的一个共同方向：风险不再只看模型越狱，还要覆盖 AI Coding 生成代码、开源组件和模型依赖、AI 应用安全测试、智能体工具调用、运行时检测与响应、软件供应链治理。对企业买方来说，判断 AI 安全厂商时要少听「以 AI 治理 AI」这种口号，多问三件事：能否发现真实 AI 资产，能否审计 Agent 调用链，能否把供应链、数据和运行时告警串成闭环。AI 原生安全标杆｜数说安全发布《2026AI 安全产业报告》，悬镜安全入选代表厂商！
OWASP Agentic AI Top 10 被重新用作企业上线检查表
2026-07-09
质量 ★3 · 时效 ★4 · 安全关联 ★5
NeuralTrust 7 月 9 日发布长文解读 OWASP Top 10 for Agentic Applications 2026。这个框架由 OWASP GenAI Security Project 在 2025 年 12 月发布，列出 10 类自主 Agent 风险：目标劫持、工具滥用、身份和权限滥用、Agentic 供应链漏洞、意外代码执行、记忆和上下文投毒、Agent 间通信不安全、级联故障、人机信任滥用、失控 Agent。文章强调「Least Agency」原则：不是默认给 Agent 全套自主权，而是只给完成安全边界内任务所需的最小自主性。它不算新标准发布，但在 Claude Desktop、MCP、代码执行 Agent 连续暴露问题之后，适合作为企业上线前的清单：先问工具权限、长期记忆、供应链、审计和人工确认有没有闭环。10
AI Agent 正在变成一种新的身份，开发环境最先失控
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★5
Dark Reading 刊文指出，AI Agent 不应再被当作普通服务账号或 API token 处理，因为它们不是被动执行固定命令，而是拿到目标后自行决定路径，并可能读仓库、触发 CI/CD、开 PR、合并代码甚至部署。文中引用的观察是，组织平均有 22 个不同 AI Agent 项目，分布在 IT、法务、合规、销售等部门；在开发环境里，安全团队最难回答的不是「代码是否有漏洞」，而是哪个 Agent 引入了这段代码、它当时能访问什么、有没有人类审批。对中国企业同样适用：AI 编程工具进入研发链路后，身份治理不能只盯人和机器账号，必须给 Agent 建立可发现、可授权、可停用、可追责的身份台账。11
AI 数据安全被拆成四个缺口：影子工具、提示词、Agent 和已批准平台
2026-07-09
质量 ★3 · 时效 ★5 · 安全关联 ★5
Forcepoint 7 月 9 日文章把 AI 数据安全拆成四个不同问题。第一是影子 AI，员工用未批准工具、浏览器插件或 MCP 客户端处理业务数据；第二是提示词里的数据外流，客户记录、源码、财务数据和凭据被直接粘进模型；第三是 Agent 自主访问业务系统，却没有能说明「谁或什么做了什么」的审计链；第四是已批准的企业 AI 平台也会继承 SharePoint、OneDrive 等系统里的权限漂移。虽然这是厂商视角，但分类很实用：安全团队不能把所有 AI 风险都塞进一条 DLP 规则，提示词、身份、权限、数据分级、Agent 网关和审计日志要分层处理。12
AI 投融资
Lyzr 用自家 Agent 完成 1 亿美元 B 轮，企业 Agent 融资开始「自证产品」
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★3
TechCrunch 报道，企业 AI Agent 初创公司 Lyzr 完成 1 亿美元 B 轮融资，估值约 5 亿美元。更有意思的是流程本身：Lyzr 称自家系统 SivaClaw 回答了 130 多位投资人的问题，起草投资备忘录，还追踪投资人在哪些幻灯片停留更久。公司表示，这一轮吸引了来自硅谷、中东和金融行业投资人的 4 亿美元意向。融资金额之外，真正的信号是企业 Agent 正在从「能否替员工做流程」转向「能否替公司跑关键商业流程」。这类产品一旦进入财务、销售和法务流程，安全关联点会落在权限、审计、外部数据输入和投融资材料保密上。13
Ollama 获 6500 万美元 B 轮，本地开源模型工具继续企业化
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★4
TechCrunch 报道，开源 AI 开发者工具 Ollama 完成 6500 万美元 B 轮融资，由 Theory Ventures 领投；此前公司已完成 Benchmark 领投的 1500 万美元 A 轮，累计融资 8800 万美元。Ollama 的核心价值是让开发者在个人电脑上快速运行开权重模型，公司称每月有超过 890 万开发者使用，覆盖 85% 的 Fortune 500 企业，团队只有 14 人。它也开始提供云服务和订阅层级，按 GPU 使用时间而非 token 限额计费。安全角度看，本地模型降低了部分数据外传风险，但企业如果没有模型、插件、提示词和本地数据访问的统一治理，本地运行也可能放大影子 AI 问题。14
Gradium 种子轮扩至 1 亿美元，语音 Agent 继续抢低延迟入口
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★3
TechCrunch 报道，巴黎语音 AI 模型公司 Gradium 重新开放种子轮并引入英伟达等投资方，种子轮总额达到 1 亿美元。公司从法国 AI 实验室 Kyutai 分拆而来，联合创始人 Neil Zeghidour 曾在 Google Brain、DeepMind 和 Facebook 工作；Gradium 主打可规模化交付的超低延迟语音模型，让 AI 语音对话减少停顿，客户包括 Renault。资金将用于在湾区设办公室、争夺人才。语音模型的商业化正在靠近车载、客服和实时 Agent 场景，安全关联不在融资本身，而在语音身份验证、通话内容留存、跨境数据处理和深度伪造防护。15
GIM 获 2000 万美元 A 轮，投资智能体走向实盘反馈闭环
2026-07-09
质量 ★4 · 时效 ★5 · 安全关联 ★3
Grace Investment Machine（GIM）宣布完成 2000 万美元 A 轮融资，由一家美国 VC 和弘毅投资共同领投，IDG Capital、Monolith Capital 参投。这是 GIM 成立第一年内的第三轮融资。公司定位是面向资本市场的 AI-native investment technology company，建设能生成、测试、修正投资假设的多智能体系统；其 CogAlpha 论文被 ACL 2026 主会接收并获 Oral recommendation。投资 Agent 如果只是研报摘要，安全风险有限；一旦进入交易、组合和客户资产管理，模型输出、权限边界、市场数据来源、可解释审计都会成为合规问题。16
Hakimo 获 1200 万美元增长轮，AI 安防从摄像头走向物理安全运营
2026-07-09
质量 ★3 · 时效 ★5 · 安全关联 ★4
YourStory 7 月 9 日创业公司汇总显示，加州 AI 物理安防公司 Hakimo 获 1200 万美元增长轮融资，由现有投资方 Zigg Capital 领投，Neotribe Ventures、Vertex Ventures、Defy.vc、Rocketship.vc 参投，公司累计融资达到 3200 万美元。Hakimo 计划把资金用于产品创新、扩展行业和地域、加强团队。它不属于纯软件 AI，但与安全板块有直接交叉：物理门禁、摄像头、告警和运营人员排班正在被 AI 接管，误报、漏报、数据留存、人脸或车牌信息处理都会变成合规与隐私问题。17
山东 4 家 AI 相关企业今年上市，首发融资 21.3 亿元
2026-07-09
质量 ★3 · 时效 ★5 · 安全关联 ★2
济南时报报道，在山东「人工智能+制造」新闻发布会上，山东省委金融委员会办公室披露，山东今年新增上市公司 7 家，其中人工智能相关企业 4 家，首发融资 21.3 亿元；中国银行山东省分行对人工智能标志性产业链年度授信目标 70 亿元，截至 5 月末已实际授信 159.75 亿元，已投放 72.39 亿元。它不是单家公司融资，但能补足国内资本信号：地方金融支持正在从奖补、基金走向上市培育、产业链授信和 AIC 股权投资试点。安全关联较弱，主要看制造业 AI 企业后续是否把工业数据、模型备案和供应链安全一起纳入融资尽调。今年 4 家鲁企 AI 企业上市，首发融资超 21 亿元
他山科技获数亿元 B 轮，机器人触觉感知开始规模化
2026-07-10
质量 ★4 · 时效 ★5 · 安全关联 ★2
36 氪首发报道，他山科技完成数亿元 B 轮融资，投资方包括均胜电子、太平创新、奥克斯、鹏翎股份、Lavender Hill Capital Partners、洪山资本，老股东道氏技术、彬复资本追加投资。公司聚焦人工智能触觉感知技术及全栈式应用解决方案，覆盖芯片、传感器、算法模型和场景应用，已与 180 余家机器人产业链客户达成商业化合作；报道称其在人形机器人触觉传感器细分领域出货量占比超过 80%，截至 5 月在手订单已达 2025 年全年营收的 4 倍。安全关联度不高，但这条融资说明具身智能资金继续向「能让机器人接触真实世界」的传感层集中。18
早报判断
产品团队今天最该先查两件事：自己的 AI Agent 是否能改代码、读文件、调用外部工具，以及这些动作有没有独立身份和审计日志。安全团队应把桌面 AI 客户端、MCP/扩展、长期偏好设置和提示词通道列入高权限资产，别只盯传统账号和 API key。投资人看融资时，可以把「是否靠近真实业务流程」作为加分项，但只要产品要碰客户数据、交易决策或物理安防，数据治理和可追责能力就不能留到商业化之后再补。
참고 출처
- 1李乐成率团出席联合国人工智能治理全球对话首次会议等系列活动
- 2同花顺股票、城市通、艾米直播等72款移动应用被通报：违法违规收集个人信息
- 3省政府新闻办举行新闻发布会，介绍山东「人工智能+制造」百景培育开放和垂直领域百模推广赋能情况
- 4锚定「五个高」 绘制数字云南新图景
- 5市住建局召开人工智能发展工作推进会
- 6UK Government Rolls Out Agentic AI Defense Plan Alongside Industry Pledge
- 7AI Double Agent Attack Turns Claude Desktop to Execute Remote Code on a Target Machine
- 8SearchGEO: A Practical Test of 13 Large Models — Are Retrieval Agents Truly Reliable?
- 9How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
- 10OWASP Agentic AI Top 10: Every Risk Explained with Enterprise Mitigations
- 11AI Agents Are a New Kind of Identity & Most Organizations Aren't Ready
- 12AI Data Security: Four Gaps Most Programs Leave Exposed
- 13An AI agent startup just let its agent run its $100M fundraise
- 14Popular open source AI developer tool Ollama raises $65M, grows to nearly 9M users
- 15Paris-based AI voice startup Gradium raises $100M seed, backed by Nvidia
- 16GIM Raises US$20 Million Series A as Agentic Investing Enters Live Execution
- 17Startup news and updates: Daily roundup (July 9, 2026)
- 1836氪首发｜英伟达全球首家触觉仿真合作伙伴再获数亿融资，上半年订单超去年四倍
관련 콘텐츠
- 로그인하면 댓글을 작성할 수 있습니다.