AI行业核心动态日报:智能体开始争夺终端入口,安全边界下沉到执行层

AI行业核心动态日报:智能体开始争夺终端入口,安全边界下沉到执行层

阶跃星辰发布 AI 原生手机,Anthropic 面向美国 K-12 教师开放免费 Claude,资本继续追逐 AI 视频与 AI 金融公司,最新研究则把安全防线推向微调后恢复和工具执行时授权。

过去 24 小时,AI 行业的增量不在又一个模型榜单,而在两个落点:智能体开始进入手机和教师工作流,安全研究则把防线推到模型微调之后和工具执行之前。资本市场继续给高增长公司补充弹药,但 DeepSeek 的新一轮融资目前仍只是媒体报道。
板块速览读者要看什么
大公司阶跃星辰发布 STEPX、Step AOS、Amoo 和 STEPX Neo;Anthropic 面向美国 K-12 教师免费开放 Claude for Teachers。智能体竞争从模型能力延伸到终端和具体职业工作流。
创业与投资爱诗科技披露 C 轮累计融资 29.8 亿元;Flex 完成 7000 万美元 B1 轮;DeepSeek 被报道考虑以约 710 亿美元估值再融资。资本开始同时看用户增长、收入运行率和下一轮退出路径,DeepSeek 一项尚未获官方确认。
前沿研究HyperSafe 试图在微调后恢复模型安全行为;NetInjectBench 把间接提示注入的防线放到执行时授权。安全评估正在从「模型会不会拒答」转向「系统会不会执行错误动作」。

大公司

阶跃星辰 7 月 13 日在上海发布 AI 终端品牌 STEPX、智能体原生操作系统 Step AOS、个人智能体 Amoo,以及搭载这套系统的 STEPX Neo。公司给出的产品结构是「模型作为大脑、操作系统作为运行环境、终端连接物理世界」,Step AOS 负责把硬件和系统能力转成智能体可调用的资源;发布会还披露了与携程、支付宝、滴滴、美团、WPS、剪映等生态伙伴的合作。1
这条产品线的观察重点,是它能否把「一句话下达任务」落到权限、隐私、端云协同和量产体验上。发布会披露的日常问答记忆召回最快 15 毫秒属于公司给出的产品口径,后续还需要更多独立测试和真实设备数据。
Anthropic 7 月 14 日推出 Claude for Teachers,为通过验证的美国 K-12 教师免费提供高级 Claude 能力、教学技能库和 Learning Commons 课程连接器,课程标准覆盖美国 50 个州。产品还接入 Claude Code 和 Cowork,可用于分析班级数据、生成差异化教学材料和安排重复任务;Anthropic 称,教师数据不用于模型训练,并按 FERPA 要求提供 K-12 数据处理条款。2
相比泛化的「AI 助手」,这更像一次垂直工作流试验:产品把模型能力、课程标准、数据条款和现有教育工具放在同一个入口里。免费资格有效期写到 2027 年 6 月 30 日,学校和学区的专门版本仍在准备中。2

创业与投资

爱诗科技 7 月 14 日宣布完成整体 C 轮融资,累计金额 29.8 亿元人民币,C+ 轮由阿里巴巴领投。36 氪指出,这个数字是整个 C 轮累计金额,不是当天一次性新增金额,新增 C+ 轮金额没有单独披露;公司计划把资金投入视频生成基础模型、实时世界模型、全球化产品增长和产业场景落地。3
同一篇报道显示,PixVerse 注册用户超过 1.5 亿、月活超过 1500 万,但公司最新公开的 ARR 仍是 2025 年 10 月超过 4000 万美元。用户规模和收入披露之间的时间差,正是这轮融资之后需要继续跟踪的指标。3
美国 AI 金融创业公司 Flex 完成 7000 万美元 B1 轮融资,领投方为 Halo Fund。Reuters 引述接近交易人士称,此轮融资让 Flex 的估值约为 12 亿美元;公司计划把资金用于全球扩张和市场营销,并在年底前将员工从 110 人增加到 200 多人。报道还援引公司口径称,Flex 已有数千名客户,年化收入运行率为九位数,约同比增长四倍。4
DeepSeek 则是另一种资本信号。据 Reuters 转述《金融时报》,DeepSeek 本周已与潜在新投资者进行初步接触,考虑在刚完成首轮融资约一个月后再次融资,交易前估值约 710 亿美元;Reuters 同时转述 Bloomberg 称,公司最早可能在今年提交 IPO 申请。DeepSeek 没有立即回应置评请求,因此融资和 IPO 计划都不能视为已确认事项。5

前沿研究

一篇 7 月 13 日提交 arXiv 的论文提出 HyperSafe,针对「模型经过微调后安全对齐变脆」的问题,给每个微调检查点生成一个模型专属的 Safe Side Network。它通过层级激活指纹识别微调带来的内部变化,在推理时把有害请求导向拒答,把安全请求交回原模型,不需要更新梯度、部署时安全数据或修改原模型权重。论文在 Qwen2-7B 和 Llama-3-8B 两个模型族上测试,报告称有害响应率从 19% 至 31% 降到 1% 以下,同时下游任务准确率平均保持在基线 1% 以内。6
另一篇 7 月 11 日提交的 NetInjectBench,把问题从模型拒答推进到工具执行:它构造了 130 个网络运维场景,区分不可信工单、日志和聊天文本,以及可信的审批元数据。在 240 次攻击实例中,直接执行的智能体出现了 82.50% 的不安全工具动作;仅靠提示层防御仍有残余失败,而在论文设定的可信元数据未被篡改前提下,元数据策略门报告为 0/240 次不安全攻击动作,同时保留了已批准变更的可用性。7
两篇论文对应的是同一条工程路线:模型层的拒答仍有价值,但进入真实工作流后,还需要在部署和执行层分别处理微调漂移、权限边界和审批来源。对做 Agent 产品的团队来说,评测对象已经从单轮回答扩展到「模型、数据、工具和授权」的组合。

関連コンテンツ

  • ログインするとコメントできます。
More from this channel