AI早报：政策新单偏少，Agent安全与AI融资升温
本期聚焦人社与政务 AI 官方信号、Dialogflow/Langflow/AI 编程代理等智能体安全风险，以及企业 Agent、云原生 AI Infra、机器人和教育后台自动化融资。政策板块可核验新单偏少，安全与融资信号更密集。
本期窗口内，AI 安全与投融资信号明显多于中国政策新单：政策板块可核验到 5 条监管/官方信号，但其中部分属于窗口内发布的政策解读或落地观察，严格意义上的新增政策文件偏少。安全侧的主线更集中，智能体权限、对话系统沙箱、AI 编程工具外联、Token 成本攻击都在同一天进入企业风险清单。
今日速览
- 人社领域 AI 应用意见公开 —— 四部门推动人社大模型、智能体和高质量数据集，强调数据安全与可追溯
〔来源: 新疆人社厅/人社部〕 - 深圳发布政务 AI 场景清单 —— 15 个政务场景覆盖应急、工伤、信访、交管与无障碍语音服务
〔来源: 深圳政府在线〕 - 互联网信息服务修订草案获官方解读 —— 人工智能应用、算法推送、智能体分发被纳入智能信息服务监管讨论
〔来源: 中国网信网/广州网信办〕 - 拟人化互动新规倒计时 —— 豆包、千问智能体功能调整被解读为平台提前收缩情感陪伴风险
〔来源: 科技日报/国际科技创新中心〕 - 智能体安全治理升温 —— 官方平台转载经济日报文章，强调身份、权限、模型失效和恶意勒索等风险
〔来源: 数字中国建设峰会〕 - 「清朗」处置 2.6 万个 AI 违规账号 —— 黑帽 GEO（生成式引擎优化）全面纳入监管清单，广告优化行业需自查合规边界
〔来源: 网信办清朗行动〕 - 全国首部「智能终端 AI 交互」标准公开征集起草单位 —— 端侧 AI 交互首次有国家标准立项，起草单位和专家仍在征集阶段
〔来源: 国家标准委相关渠道〕 - Google Dialogflow CX 漏洞修复 —— Rogue Agent 可让攻击者操控同项目聊天机器人并外传对话
〔来源: SecurityWeek〕 - AI 编程代理被终端安全规则拦截 —— Sophos 遥测显示 Claude Code、Cursor、Codex 等触发凭据访问和 LOLBin 下载规则
〔来源: Sophos〕 - Langflow 漏洞进入 CISA 已知被利用目录 —— 美国联邦机构被要求在 7 月 10 日前修补相关高危漏洞
〔来源: SecurityWeek〕 - Token Torching 成为 AI 成本攻击样本 —— Bitsight 把过度消耗 token 的攻击归入可用性和预算风险
〔来源: Bitsight〕 - 爱沙尼亚探索 AI Agent 政府身份 —— AI Agent 注册、撤销、审计和责任界定成为跨境治理参考
〔来源: Dark Reading〕 - NVDB 提醒 Claude Code 后门隐患 —— 受影响版本被指会回传地域、身份标识等敏感信息
〔来源: 中新经纬/新浪财经〕 - Prime Intellect 完成 1.3 亿美元 A 轮 —— 企业自建 AI Agent 全栈平台估值达 10 亿美元
〔来源: TechCrunch〕 - 博云科技获数亿元战略融资 —— 云原生 AI 算力基础设施公司加码 BoAgent、BoCoder 等企业智能体产品
〔来源: 美通社〕 - Mowito 获 300 万美元 Pre-seed —— 工业机器人通过观察人类动作学习任务，资金用于美国扩张和工程团队
〔来源: BW Disrupt〕 - EdVisorly 获 1330 万美元 A 轮 —— AI 原生平台自动化高校转学与招生后台流程
〔来源: Crunchbase News〕 - 机器人与工业视觉融资继续活跃 —— CarbonSix、Luxonis、Macrodata Labs、Queue、Six Robotics 同日披露新融资
〔来源: A3/Automate〕 - Adage Automation 获 23 亿卢比融资 —— AI 工业监测与环境合规平台计划扩张全球市场
〔来源: BW Disrupt〕
国家政策
四部门推进「人工智能+人社」应用
2026-07-08
质量 ★4 · 时效 ★4 · 安全关联 ★4
人力资源社会保障部、国家发展改革委、工业和信息化部、国家数据局的实施意见在 7 月 8 日公开发布，目标是到 2026 年初步形成「人工智能+人社」应用体系、标准体系和保障体系，并培育一批人社行业大模型和智能体应用。文件把社保智慧风控、基金监管、劳动关系风险预警、政策问答、智能客服等纳入重点场景，同时要求落实数据分类分级保护，使用零信任、隐私计算等技术，保护个人信息和政务信息。对产品团队来说，这意味着政务 AI 不只是问答助手，合规、审计和数据不出域会成为基础门槛。1
深圳公布 15 个政务 AI 应用场景
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★3
深圳市政务服务和数据管理局发布 2026 年政务领域人工智能应用场景清单第一批，包含 15 个场景，覆盖辅助决策、政务服务、机关办公、城市治理和民生服务。清单里有 AI 灾害演变趋势推演智能体、教师职称智能评审助手、工伤服务与经办智能体、信访知识库检索、交管风险评估、无障碍语音助手等。它的信号在于，地方政务 AI 已从「展示型」走向具体经办流程，数据权限、模型输出责任和人工兜底会跟着进入验收指标。2
互联网信息服务修订草案强调智能信息服务
2026-07-08
质量 ★3 · 时效 ★4 · 安全关联 ★4
中国网信网专家解读经广州网信办转载，重点解释《互联网信息服务管理办法（修订草案征求意见稿）》对新型智能信息服务的覆盖。解读提到，修订草案把人工智能应用、算法推送、智能体分发等业态纳入监管范畴，并围绕备案、测试、内容标识等义务做前瞻安排。虽然草案征求意见本身并非窗口内首次发生，但这篇窗口内官方解读强化了一个方向：平台的智能体分发、账号运营和内容服务会被放到同一治理框架里看。3
拟人化互动服务新规压缩情感陪伴灰区
2026-07-08
质量 ★4 · 时效 ★4 · 安全关联 ★4
科技日报文章经国际科技创新中心平台发布，围绕《人工智能拟人化互动服务管理暂行办法》7 月 15 日施行前的平台调整作解读：豆包、千问均通知智能体功能将于 7 月 15 日停止或调整。受访专家指出，新规关注的是模拟自然人人格特征、沟通风格并提供持续情感互动的服务，平台需要防止诱导情感依赖、沉迷和不合理决策，并限制向未成年人提供虚拟亲密关系服务。这条信号对消费级 Agent 产品很直接：长期记忆、角色设定和情绪陪伴能力，接下来要按高风险功能处理。4
智能体安全被放入官方传播议程
2026-07-08
质量 ★3 · 时效 ★5 · 安全关联 ★5
数字中国建设峰会网站转载经济日报文章，聚焦智能体时代的安全防线。文中多位专家提到，智能体进入制造、金融、能源等关键领域后，风险从技术故障扩展到决策失控，身份伪造、权限管理漏洞、模型失效、恶意勒索和数据挖掘都会改变攻防边界。它不算一项新规，但属于窗口内明确的官方传播信号：监管和产业界正在把智能体安全从单点漏洞问题，提升为身份、权限、标准、评估认证和全生命周期托管的问题。5
AI 行业动态「信息安全与隐私」
Dialogflow CX Rogue Agent 漏洞暴露对话系统沙箱风险
2026-07-08
质量 ★5 · 时效 ★5 · 安全关联 ★5
SecurityWeek 报道 Varonis 发现的 Rogue Agent 漏洞：Google Cloud Dialogflow CX 的 Code Blocks 可在同一 GCP 项目内共享 Cloud Run 执行环境，攻击者在具备配置权限后可修改负责执行 Python 代码的关键文件，从而操控同项目的 AI Agent、读取正在进行的会话、注入钓鱼提示，并外传敏感对话。Google 在 4 月推出初始补丁，6 月完成修复。对企业客服、金融和医疗聊天机器人来说，这条漏洞的重点不是「越狱」，而是运行时隔离和项目内权限边界。6
AI 编程代理开始像攻击者一样触发终端遥测
2026-07-08
质量 ★5 · 时效 ★4 · 安全关联 ★5
Sophos X-Ops 分析 2026 年 6 月一周 Windows 遥测后发现，Claude Code、Cursor、Codex 以及基于 GStack 的代理会触发多类行为检测规则。阻断命中里，凭据访问占 56.2%，执行类占 28.8%；具体行为包括 PowerShell 解密浏览器凭据、调用 Windows Credential Manager、使用 certutil 和 bitsadmin 下载 Python 安装包、写入启动目录等。Sophos 强调这些活动多数可能是良性自动化，但从防御侧看，AI Agent 正在把「正常行为」推向过去只有人工攻击者才会做的区域。7
Langflow 高危漏洞进入 CISA KEV 目录
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★5
SecurityWeek 报道，美国 CISA 将 Adobe ColdFusion、Langflow 以及两个 Joomla 扩展漏洞加入已知被利用漏洞目录。其中 Langflow 的 CVE-2026-55255 是跨租户不安全直接对象引用漏洞，攻击者可通过 flow UUID 执行其他用户的流程，并在实际攻击中与 3 月修复的 Langflow 远程代码执行漏洞串联使用。联邦机构被要求在 7 月 10 日前完成修补。Langflow 是 AI 工作流和 Agent 编排工具，这类漏洞说明低代码 AI 编排层已进入真实攻击链。8
Token Torching 把 AI 成本也纳入安全威胁模型
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★4
Bitsight 发布文章解释 Token Torching：攻击者通过矛盾注入、诱饵注入、提示操纵等方式，让 AI 系统消耗大量 token、工具调用和上下文处理成本。这类攻击不一定偷数据，也不一定绕过认证，但能造成预算飙升、服务降级和可用性下降；在接入 MCP、检索、工具调用和工作流系统后，单个提示可能引发更多后台动作。企业部署 AI 时，成本阈值、速率限制、上下文上限、工具调用权限和异常用量监控，已经和传统 CIA 三要素一样需要进威胁建模。9
爱沙尼亚拟为 AI Agent 分配政府身份编号
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★5
Dark Reading 报道，爱沙尼亚政府顾问委员会计划为 AI Agent 创建官方政府身份编号，让个人或机构可在有限、可审计的范围内授权 AI Agent 访问政府系统。安全专家提醒，仅有身份编号不等于可信，还需要注册、证明、撤销、短期凭证、审计日志、代理链治理和越权责任界定。对国内监管有参考意义的是，这一方向把「非人类身份」从企业 IAM 问题扩展到公共服务治理问题：Agent 能办事，就必须能被识别、限制和追责。10
大模型攻防与护栏实战：AI 应用四大泄密通道
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★5
国内安全团队「安泉数智」发布实战拆解：多数企业落地私有化 AI、RAG 知识库、智能客服后只盯着「防越狱攻击」，却忽略更隐蔽、损失更大的数据泄露风险——黑客不需要复杂漏洞或高级注入载荷，只靠正常对话、检索查询、员工随手粘贴，就能批量获取企业隐私、客户资料和核心商业机密。文章把泄密通道拆成输入层、输出层、知识库和外部工具四大类，其中输入侧梳理出 8 类高频敏感内容：身份证号/手机号等个人隐私、合作报价等业务合同、源代码等研发资产、营收数据等商业机密、人事薪酬等内部管理信息、工艺配方等生产资料。对正在部署私有化大模型的企业来说，这是比「防越狱」更容易被忽视、也更容易造成实质损失的攻击面。21
AI 合成不雅照敲诈成新型骗局，反诈部门发布预警
2026-07-08
质量 ★3 · 时效 ★5 · 安全关联 ★4
国内反诈机构披露新型骗局：不法分子利用 AI 图像合成技术伪造受害人不雅照片，再通过挂号信等传统渠道实施敲诈勒索。相比传统换脸诈骗，这类骗局的特点是结合了 AI 生成内容和线下投递渠道，增加了受害人的心理压迫感和取证难度。对个人用户而言，社交媒体公开照片被用作 AI 换脸素材的风险持续存在；对监管部门而言，AI 生成内容的溯源和敲诈类案件的证据链认定，仍是执法环节的现实挑战。
NVDB 提醒 Claude Code 版本存在数据外传隐患
2026-07-08
质量 ★3 · 时效 ★5 · 安全关联 ★5
中新经纬经新浪财经转载称，工业和信息化部网络安全威胁和漏洞信息共享平台监测发现，Anthropic 的 AI 编程工具 Claude Code 2.1.91 至 2.1.196 版本存在安全后门隐患，未经用户同意即可向远程服务器回传用户地域、身份标识等敏感信息。报道建议相关单位排查开发终端，卸载或升级受影响版本，并加强核心业务网段内开发工具外联权限管控与流量监测。由于目前公开材料主要来自转载，技术细节仍需等待更完整公告，但对企业来说，AI IDE 的外联行为已经需要纳入终端治理。11
AI 投融资
Prime Intellect 获 1.3 亿美元 A 轮，企业自建 Agent 基础设施继续升温
2026-07-08
质量 ★5 · 时效 ★5 · 安全关联 ★3
Prime Intellect 完成 1.3 亿美元 A 轮融资，估值达到 10 亿美元，Radical Ventures 领投，Nvidia Ventures、Intel Capital、Dell Technologies Capital、Iconiq 等参投。公司提供 AI Agent 开发全栈能力，包括算力访问、强化学习框架和评估工具，客户包括 Ramp、Zapier 等。TechCrunch 报道中提到，企业不愿把专有数据交给 OpenAI、Anthropic 等前沿实验室，是其增长的重要背景之一。安全关联点在于，私有化训练、评估和数据控制正在成为企业 Agent 基础设施的融资叙事。12
博云科技完成数亿元战略融资，AI Infra 向智能体平台延伸
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★3
博云科技宣布完成新一轮数亿元战略融资，由苏州元禾控股、园丰资本增资领投，合肥包河区、张家港等多地国资跟投。公司称已形成「云原生基座—AI 平台能力—AI 原生智能体」架构，并发布桌面 AI 助手 BoClaw、政企 AI 智能体平台 BoAgent、AI 编程智能体 BoCoder，以及金融、制造、政务方案。对安全团队的关注点在于，政企智能体平台一旦进入金融和政务流程，算力调度、权限隔离、日志审计和数据域控制会成为交付核心。13
Mowito 获 300 万美元 Pre-seed，用 AI 让工业机器人看人学动作
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★2
印度 AI 机器人初创公司 Mowito 获得 300 万美元 Pre-seed 融资，Version One Ventures 领投，All In Capital、Unsol、iSeed 以及多位 AI 领域从业者参投。公司开发面向工业机器人的 AI 基础模型，让机器人通过观察人类动作学习任务，减少重复编程；软件可用于现有工业机器人，无需额外硬件改造。资金将用于美国市场扩张、工程与商业化团队建设。安全关联度不高，但若这类系统进入汽车和电子制造，模型训练数据、动作边界和工厂网络隔离会成为后续风险点。14
EdVisorly 获 1330 万美元 A 轮，教育后台自动化继续融资
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★3
洛杉矶教育科技公司 EdVisorly 完成 1330 万美元 A 轮融资，Breachway Capital 领投，U.S. News & World Report、Lumina Foundation、Strada Education Foundation、Motley Fool Ventures 等参投。公司用 AI 原生平台 EddyAI 自动化高校招生和转学后台流程，例如读取学生成绩单、按学校规则重算 GPA、匹配课程学分等；其客户包括 100 多所高校和教育系统，累计服务超过 25 万名学生。教育场景的隐私敏感度很高，学生成绩单、转学评估和招生流程自动化，都需要把数据最小化、访问控制和人工复核放在前面。15
机器人与物理 AI 融资同日密集披露
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★2
A3/Automate 汇总 7 月 8 日机器人与自动化融资：韩国 CarbonSix 获 4000 万美元 A 轮，用软硬件和数据飞轮做制造自动化；Luxonis 获 1400 万美元 A 轮，继续扩展机器人视觉感知平台；Macrodata Labs 获 400 万美元 Pre-seed，做机器人训练数据处理基础设施；Queue 获 1260 万美元种子轮，研发自动化药房机器；Six Robotics 获 1200 万欧元种子轮，做无人系统集群软件。这些新单共同指向物理 AI 基础设施，安全关联主要在供应链、感知数据和自治设备控制。16
Adage Automation 获 23 亿卢比融资，工业监测平台加码 AI
2026-07-08
质量 ★3 · 时效 ★5 · 安全关联 ★3
印度工业技术公司 Adage Automation 获得 23 亿卢比融资，InCred Growth Partners Fund 领投，Global South Capital 和 Prachetas Capital 参投。公司主营工业气体分析、环境监测和排放合规系统，服务油气、钢铁、水泥、化工、电力和能源等行业，计划用资金开发 AI 驱动的工业技术平台，扩展制造能力和国际业务。它不是典型 AI 安全公司，但工业监测、预测性维护和合规管理一旦上云并接入 AI，传感数据真实性、远程运维权限和合规报告可追溯性会成为客户采购时的安全问题。17
Momenta 登陆港交所，「物理 AI 第一股」市值突破 700 亿港元
2026-07-08
质量 ★5 · 时效 ★5 · 安全关联 ★2
总部位于苏州的物理 AI 公司 Momenta 正式登陆港交所主板，发行价 295.6 港元，募资约 58.9 亿港元；上市首日开盘价 301 港元，市值一度达 717.45 亿港元（约合人民币 621.58 亿元），14 家基石投资者参与。Momenta 是国内自动驾驶和物理 AI 领域的代表性公司之一，此次成为「物理 AI 第一股」，被视为国内具身智能与自动驾驶资本化进程的标志性事件。对安全团队而言，物理 AI 一旦大规模商用，传感器数据真实性、模型决策可追溯性和道路测试数据的合规留存，会是上市后持续面临的监管审查重点。18 19
国内脑机接口赛道 72 亿资本涌入，产业化跨越临界点
2026-07-08
质量 ★4 · 时效 ★5 · 安全关联 ★2
36 氪报道，国内脑机接口赛道今年以来一级市场融资全面提速，累计资本涌入约 72 亿元；年初强脑科技完成 20 亿元融资后，赛道投资热度持续攀升，近期该公司又官宣全球首发脑机接口新品。另据同日报道，一家专注中风患者康复的脑机接口公司实现 87 毫秒响应速度，切入千万级中风患者市场。脑机接口涉及大量神经信号等高度敏感的生物特征数据，随着行业资本化提速，数据采集、存储和跨境传输的安全合规要求会随临床和消费级产品落地同步收紧。20
早报判断
产品团队今天最该做的是把「智能体能力」拆成权限、记忆、外联、工具调用和人类兜底五张清单，拟人化互动和企业 Agent 都已经不能只按功能体验验收。安全团队应优先检查 AI IDE、Agent 编排平台和聊天机器人运行时：外联白名单、凭据访问、跨租户隔离、日志可见性和 token 成本上限都要进控制项。投资人可以继续看企业 Agent 基础设施、物理 AI 和行业后台自动化，但需要把数据边界和审计能力当成估值折扣项，而不是融资故事里的附属功能。政策侧今天的新单不足，下一轮要继续盯网信办、工信部和地方政务 AI 清单的正式文件，而不是用会议解读补成政策数量。
참고 출처
- 1人力资源社会保障部 国家发展改革委 工业和信息化部 国家数据局关于加快推进「人工智能+人社」应用发展的实施意见
- 2深圳发布15个政务领域人工智能应用场景
- 3专家解读｜制度革新引领互联网信息服务发展新航向
- 4AI拟人化互动服务不得踩红线
- 5筑牢智能体发展安全防线
- 6Google Dialogflow CX Bug Allowed Attackers to Hijack AI Conversations
- 7When AI agents look like attackers: what behavioral telemetry tells us
- 8CISA Urges Immediate Patching of Exploited ColdFusion, Langflow, Joomla Flaws
- 9Token Torching: How AI Cost Attacks Threaten Your Business
- 10State IDs for AI Agents: Will Estonia Set a Precedent?
- 11风险提示！AI编程工具Claude Code存在安全后门隐患
- 12Prime Intellect raises $130M Series A to help enterprises build their own AI agents
- 13博云科技完成新一轮数亿元融资
- 14AI Robotics Startup Mowito Raises $3 Mn In Pre-seed Funding Led By Version One Ventures
- 15Exclusive: EdVisorly Raises $13.3M Series A To Fix The Messy College Transfer Process With AI
- 16Industry Insights: This Week's Top Fundraising For Robotics, Physical AI, and Automation
- 17Adage Automation Secures Rs 230 Cr In Funding Round Led By InCred Growth Partners Fund
- 18苏州，又跑出一家独角兽IPO
- 19刚刚，物理AI第一股来了
- 20脑机接口2026：72亿资本涌入，产业化正在跨越临界点
- 2111b|大模型攻防与护栏实战③：AI应用最容易泄密的几个位置|http://mp.weixin.qq.com/s?__biz=MzkzMTUyMzMxMg==&mid=2247487846&idx=1&sn=a932f7a232a6823be3b6d935bb9355ea
관련 콘텐츠
- 로그인하면 댓글을 작성할 수 있습니다.