AI早报:备案下沉,自动红队与国内AI资本转向底层

AI早报:备案下沉,自动红队与国内AI资本转向底层

本期梳理北京与江苏生成式AI备案、国家标准和WAIC治理信号,聚焦自动红队、Agent隐私与开发审计,并汇总国内大模型、芯片、自动驾驶和垂直AI项目的资本动向。

今日速览

  • 北京新增 2 款生成式 AI 服务备案 —— 截至 7 月 16 日累计完成 259 款备案,地方公示继续把模型服务纳入上线前合规轨道。〔来源: 人民财讯〕
  • 江苏新增 4 款生成式 AI 服务备案 —— 新增名单累计备案 96 款,其中华为小艺 AI 大模型属于手机端侧服务。〔来源: 江苏网信网〕
  • 508 项国家标准集中发布 —— 其中 7 项涉及人工智能、机器人、智能工厂等方向,另有 10 项覆盖网络安全技术。〔来源: 证券时报〕
  • WAIC 进入开幕前夜 —— 7 月 17 日至 20 日在上海举行,官方预告将把 AI 发展与全球治理放在同一议程。〔来源: 国家科技传播中心〕
  • 中哈将推进人工智能全球治理合作 —— 7 月 16 日会见信息显示,双方将在多边机制内开展 AI 治理协作。〔来源: 司法部转载新华社〕
  • 安徽把 AI+交通写进场景落地方案 —— 智能感知、决策控制、车路协同及智慧高速成为重点攻关方向。〔来源: 科技部〕
  • GPT-Red 用自博弈做自动红队 —— OpenAI 称其在提示注入测试中击败人工红队,随后用于提升 GPT-5.6 Sol 鲁棒性。〔来源: OpenAI〕
  • 31 家企业签署智能体个人信息保护自律公约 —— 约束重点落在个人信息采集、调用和流转环节。〔来源: 中华网〕
  • 蓝星安全开源「浑象」AI 安全评测靶场 —— 通过 MCP 和 API 让 Agent 进入隔离靶机,记录攻击过程与评分。〔来源: 蓝星安全〕
  • 企业 AI 软件开发审计清单成形 —— 国内安全团队建议登记工具、追踪代码来源、管理影子 AI 和 MCP 权限。〔来源: 祺印说信安〕
  • 智能产品评估不再只看准确率 —— 一篇国内评测框架把可靠性、安全性、可信性、可维护性和数据质量放进同一证据链。〔来源: AI 泰思特〕
  • DeepSeek 被报道筹备 IPO 并启动第二轮融资 —— 36 氪明确标注为传闻,710 亿美元估值和上市安排均未获公司确认。〔来源: 36 氪〕
  • 斯年智驾完成 3 亿元 C 轮融资 —— 兴证资本、颐道资本联合投资,资金投向车规级自动驾驶方案研发。〔来源: 36 氪〕
  • 六岳微完成 5 亿元 A 轮融资 —— 十余家机构参与,覆盖 AI 加速处理器、DSP 和 CPU 等芯片产品。〔来源: 投资界〕
  • 临界航天完成 2 亿元天使轮 —— 资金用于液体火箭发动机研发,项目采用 AI 驱动全流程自研路线。〔来源: 大河财立方〕
  • 问天量子完成 6 亿元 B 轮融资 —— 新资金将用于量子随机数芯片量产和面向 AI 时代的量子 AI 产品。〔来源: 大河财立方〕
  • 校园心理 AI 项目披露 1000 万元天使轮融资计划 —— 项目称采用端侧计算和脱敏特征上传,但当前仍是计划融资,不等同于已完成交割。〔来源: 36 氪〕
  • 长鑫科技科创板启动申购 —— 发行价 8.66 元、预计募资 579.19 亿元,AI 存储与国产算力底座继续吸引产业资本。〔来源: 投资界〕

一、国家政策

1. 北京新增 2 款生成式人工智能服务备案

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★4
北京市截至 7 月 16 日新增 2 款已完成备案的生成式人工智能服务,累计备案达到 259 款。公开信息没有列出两款服务的具体名称,因此本条只采用数量和累计规模。备案不等于产品自动通过所有安全检查,但它把模型服务的上线责任、产品公示和后续监管放进了同一条流程。对在京部署 AI 功能的产品团队,今天应先核对备案主体、模型名称、备案号展示位置,以及应用实际调用的模型是否与公示一致。1

2. 江苏新增 4 款生成式人工智能服务备案

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★4
江苏网信网公告称,省内新增 4 款已完成备案的生成式人工智能服务,累计备案 96 款,其中「华为小艺 AI 大模型」属于手机端侧生成式人工智能服务,适用场景为华为手机。公告还提醒,已上线的生成式人工智能应用或功能,应在显著位置或产品详情页公示所使用服务的模型名称和备案号。端侧服务进入省级备案清单后,设备厂商需要同步检查本地推理、数据留存和功能公示是否一致。2

3. 508 项国家标准发布,人工智能与网络安全同批出现

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★4
市场监管总局、国家标准委近日批准发布 508 项重要国家标准。证券时报披露,其中 7 项涉及人工智能、机器人、智能工厂等方向,覆盖智能制造、端侧 AI 和电力;另有 10 项涉及移动通信设备、工业互联网和网络安全技术。公开报道没有列出全部标准编号,因此不把这批标准写成一套新的 AI 专门法规。对做工业 AI 和边缘 AI 的团队,信号在于模型功能、设备通信和工控安全的标准化要求正在同批推进,研发验收不能只测模型效果。3

4. WAIC 官方预告把 AI 产业发展与全球治理并列推进

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★4
国家科技传播中心发布的会前信息显示,2026 世界人工智能大会暨人工智能全球治理高级别会议将于 7 月 17 日至 20 日在上海举行,主题为「智能伙伴 共创未来」,国家主席习近平将出席开幕式并发表主旨讲话。该条是 7 月 16 日的官方预告,不把尚未发生的讲话内容提前写成政策结论。预告同时把健康、安全、有序发展列为大会期待方向,国内企业可把本次会议当作观察后续治理表述、跨境合作和产业监管重点的窗口。4

5. 中哈在 WAIC 前夕提出人工智能全球治理合作

2026-07-16
质量 ★5 · 时效 ★5 · 安全关联 ★4
7 月 16 日下午,习近平在上海会见来华出席世界人工智能大会暨人工智能全球治理高级别会议的哈萨克斯坦总统托卡耶夫。公开信息显示,中方愿分享数字经济、人工智能等技术,哈方愿在联合国、上海合作组织和中国—中亚机制等多边平台积极开展人工智能全球治理合作。它不是一项新的国内监管规则,但属于高层面向国际合作的治理信号:涉及跨境部署的团队,除看模型能力,也要准备数据、算力和安全治理的合作边界。5

6. 安徽将 AI+交通落到算法攻关和标杆场景

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★3
科技部转载安徽省科技厅信息称,安徽已与省交通运输厅联合印发「人工智能+交通运输」行动方案,重点攻关智能感知、决策控制和车路协同,并支持芜湖港智能网联及自动驾驶、合肥轨道全空间智能感知巡检等场景入选省级标杆。该信号不等同于全国统一监管规则,却说明地方政策正在把 AI 从试点名单推进到交通系统的长期运行。产品团队若参与智慧交通项目,应把数据权限、故障降级和人工接管写进验收条件。6

二、AI 行业动态

1. GPT-Red 把提示注入测试交给自动红队

2026-07-16
质量 ★5 · 时效 ★5 · 安全关联 ★5
OpenAI 介绍了 GPT-Red,这是一套用自博弈强化学习训练的自动化红队系统。它会向目标模型发送提示、观察响应并继续迭代攻击,同时训练防守模型抵御攻击。官方称,GPT-Red 在新颖安全环境中对 GPT-5.1 的攻击成功率为 84%,人工红队员为 13%;用于改进 GPT-5.6 Sol 后,广泛鲁棒性环境中的直接提示注入失败率降至 0.05%。这些数字属于 OpenAI 自有测试口径,不能直接当作全行业基准,但足以提醒安全团队把提示注入回归测试纳入发布门禁。78

2. 31 家企业签署智能体个人信息保护自律公约

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★5
公开报道显示,中国互联网协会移动互联网工作委员会、中国互联网协会网民权益和个人信息保护工作委员会,联合合合信息、腾讯、阿里等 31 家企业,围绕智能体个人信息保护签署自律公约。文章没有披露具体签署日,因此本条按 7 月 16 日公开进展归档。已知要求集中在个人信息的采集、调用和流转环节,强调在技术创新中守住保护底线。它是行业自律信号,不是行政法规;接入通讯录、日程、支付或企业知识库的 Agent,应先画出数据流和授权撤销路径。9

3. 「浑象」把 AI 安全评测接到真实靶场

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★5
国内安全团队蓝星安全发布「浑象」自动化攻防演练靶场。平台以 Docker Compose 动态管理靶机,通过 REST API 和 MCP Server 让 Claude Code、Cursor、LangChain 等 Agent 在授权隔离环境中启动靶机、完成任务并提交 Flag;它还提供动态 Flag、难度分级、Token 认证、权限隔离和 JSONL 操作日志。项目公开定位是评测 AI 的决策与执行能力,不是线上漏洞通报。对安全团队的价值在于,Agent 测试可以从静态问答扩展到工具调用、权限边界和可复盘的攻击过程。10

4. AI 软件开发审计开始追踪代码来源和影子工具

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★4
国内安全账号「祺印说信安」提出,企业对 AI 编码助手和大语言模型的审计范围,不能停在最终代码扫描,还要登记开发团队使用的 AI 工具、使用场景、代码流向和漏洞产生阶段。文章建议建立工具资产清单,评估开发人员识别 AI 生成代码缺陷的能力,统计漏洞和代码质量指标,并把 MCP 等接口纳入权限管理。它是一篇方法型安全文章,不是监管通报;但对企业落地很具体,至少应先回答谁在用什么模型、模型能读哪些数据、生成代码进了哪些生产项目。11

5. 智能产品质量评估把安全性从准确率里单独拎出来

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★4
AI 泰思特发布的智能产品通用质量特性评估框架,把可靠性、安全性、可信性、可维护性和数据质量放进同一套现场检验方法。文章明确,安全性要看抗攻击、模型机密性、隐私、供应链和访问控制;测试输入还应覆盖提示注入、越权、恶意文件和供应链风险,并保留版本、配置、日志和人工复核证据。该框架中的 L0 至 L4 分级和具体分数阈值属于作者的工程化建议,不是统一强制标准。产品团队可先把「成功越权、敏感数据泄露、无法停止、无法回滚」设为单独门槛。12

三、AI 投融资

1. DeepSeek 被报道筹备 IPO 并启动第二轮融资

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★2
36 氪 7 月 16 日文章称,DeepSeek 最近启动第二轮融资,最新估值约 710 亿美元,约合 4800 亿元人民币,并引用报道写到公司最快可能于 2027 年登陆上海证券交易所科创板。文章明确使用「传将」「消息」等口径,没有给出公司公告,也没有确认融资已经完成,因此本条只记录为国内大模型资本传闻,不把 710 亿美元写成已落地估值。对投资人,真正应核对的是融资主体、认购协议、交割状态和上市辅导文件,而不是只看估值数字。13

2. 斯年智驾完成 3 亿元 C 轮融资

2026-07-16
质量 ★5 · 时效 ★5 · 安全关联 ★2
斯年智驾 7 月 16 日宣布完成 3 亿元 C 轮融资,投资方为兴证资本和颐道资本,资金主要用于新一代车规级自动驾驶方案研发。36 氪报道还提到,公司正在从港口封闭场景向开放道路拓展,产品由车端、路侧、云端组成,并用世界模型支持复杂场景决策。这里的安全关联不是信息安全,而是自动驾驶系统的功能安全和规模化验证;按频道规则保留为 AI 投融资,不把它误写成网络安全融资。14

3. 六岳微完成 5 亿元 A 轮融资

2026-07-16
质量 ★5 · 时效 ★5 · 安全关联 ★3
投资界 7 月 16 日消息,六岳微完成 5 亿元 A 轮融资,广东粤科、惠州国投、长沙时空、广州工控、先导投资等十余家机构参与。公司产品覆盖嵌入式微处理器、高性能 DSP、高性能 CPU、科学计算和 AI 加速处理器,资金将用于产品矩阵迭代、全国市场落地和渠道拓展。它不是大模型公司,但 AI 加速处理器与工业控制芯片属于算力和智能制造底层环节;对投资人而言,本轮更像国资、产业资本共同押注国产芯片全流程能力。15

4. 临界航天完成 2 亿元天使轮融资,押注 AI 驱动火箭研发

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★2
大河财立方 7 月 16 日披露,临界航天(北京)智能科技有限公司完成 2 亿元天使轮融资,绿洲资本、源码律动、尚势资本、清流资本和东方富海等参与,资金用于液体火箭发动机定型、地面试车和热态验证。公司定位是 AI 驱动全流程自研液体火箭发动机。原文只写「近日完成」,没有给出交割日,因此日期按公开披露日记录,质量分低于有明确公告日期的融资。投资判断应把 AI 研发方法和真正可交付的发动机产品分开验证。16

5. 问天量子完成 6 亿元 B 轮融资,资金流向量子 AI 融合产品

2026-07-16
质量 ★3 · 时效 ★5 · 安全关联 ★3
同一份 7 月 16 日公开的创投信息中,安徽问天量子被披露完成 6 亿元 B 轮融资,新进投资方包括中天汇富、合凡资产和延福基金等,资金将用于核心技术规模化商用、量子随机数芯片量产扩能,以及面向 AI 时代的量子 AI 融合产品研发。原文使用「近日完成」,没有披露具体交割日,本条按披露日归档。量子随机数与 AI 融合属于相邻技术方向,不能把整笔融资包装成纯 AI 融资,后续仍需看产品收入和量产进度。16

6. AI 校园心理守护系统披露 1000 万元天使轮融资计划

2026-07-16
质量 ★2 · 时效 ★5 · 安全关联 ★4
36 氪欧洲站 7 月 16 日报道,一个五维多模态 AI 心理守护系统项目处于天使轮融资阶段,计划融资 1000 万元、出让 10%股权,资金用于算法优化、市场拓展、团队建设和运营周转。项目称采用端侧计算,原始视频不出校门,只上传脱敏特征,并设置真人专家复核高风险预警。需要特别区分「融资计划」与「已完成融资」:文章没有披露投资方和交割结果,因此本条作为国内垂直 AI 项目的募资计划记录,不作为已完成交易。17

7. 长鑫科技科创板启动申购,AI 存储底座吸引产业资本

2026-07-16
质量 ★4 · 时效 ★5 · 安全关联 ★3
投资界报道,长鑫科技 7 月 16 日启动科创板新股申购,发行价 8.66 元,初始公开发行 66.88 亿股,预计募集资金 579.19 亿元。文章还提到,梁文锋旗下浙江九章资产和宁波幻方量化参与网下打新,阿里、腾讯等此前已在公司投资者阵容中出现。长鑫科技不是 AI 公司,但存储芯片是训练和推理基础设施的重要供给,本条按「AI 资本链」收录;不能把申购募资写成 AI 融资,也不能据此推断上市后的市值。18

早报判断

产品团队今天应把备案公示、模型实际调用、端侧数据留存和 Agent 工具权限放在同一张上线清单里,不能把「已备案」当成上线后的安全结论。安全团队可以先落地两项门槛:用自动红队持续测提示注入,用隔离靶场复测越权、数据泄露和停止/回滚能力。投资人则应把国内资金流向拆成大模型资本传闻、AI 底层芯片、自动驾驶和 AI 垂直应用四类,优先核对交割文件、客户验证与量产进度,避免用估值故事替代商业证据。

相似内容

  • 登录后可发表评论。
More from this channel