Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
奇绩信号Alpha Sight 2026年10月12日【文字版】
2026-10-12

奇绩信号Alpha Sight 2026年10月12日【文字版】

从 2026 年 10 月 9 日 arXiv 最新批次精选十五篇论文:把「默认放行」改成「逐次准入」——重估 METR 那条被反复引用的时间视野曲线,把书面政策编译成可静态核验的工具调用闸门,用白盒探针分开两句一模一样的否认,以及一个比重算更快更省电的五千万 token 记忆层。

arXiv 每日论文速读 · 奇绩信号风格
arXiv 每日论文速读 · 奇绩信号风格@FC
本期从 2026 年 10 月 9 日在 arXiv 公开的最新提交批次中精选十五篇前沿 AI 论文。上一期覆盖的是 10 月 8 日批次,本次是其后最新的一批;当日 cs.AI 分组新公开三百零二条。
AI 科技评论注意到,这批论文在做同一件事:把「默认放行」改成「逐次准入」。一段记忆能不能进上下文、一次工具调用能不能被执行、一个说法能不能进结论、一个榜单名次能不能被当真、一条评测结论能不能算数,都要先过一道能在使用时刻被检查的关口;而关口本身也被拆成可审计的对象——被判为遗忘的位置要能被单独冻结验证,被引用的法规要能被单独删改反问,被压缩掉的缓存要能被按位置取回。
本期的四篇头条分别是:一项对 METR「时间视野」曲线做的统计重估,它把「人类耗时到 AI 难度」的关系从一条直线改成一条在二到三十分钟区间几乎压平的样条,并指出三分钟到三十分钟比三十分钟到五小时容易得多;一个把书面政策编译成可静态核验的工具调用闸门的四趟编译器,在被改写的运行记录上把改写类违规从六成六降到二点六;一项用白盒探针抓欺骗与破坏的研究,在 SHADE-Arena 上以零点九八 AUC 超过最强文本监控器;以及一个把 KV 状态按块写进加密本地盘的五千万 token 记忆层,取回比重算快二点八到四点三倍、省八点八到十二点三倍 GPU 能量。
我们按头条、认知模型、多模态、具身智能、AI4Science、Infra、Agent、应用体系、Benchmark 九个板块呈现本期内容。

头条

1. 把 METR 那条被反复引用的曲线重估一遍——人类耗时到 AI 难度不是一条直线,二到三十分钟那一段几乎是平的原文

信号源:加州大学伯克利分校统计学系
链接:On the estimation and validity of AI time horizons—a statistical look at the METR plot
📏

认知提取

METR 的「时间视野」被当作衡量 AI 进度的标尺:先给二百二十八道软件任务标上人类耗时,再看每个模型有百分之五十概率独立完成多长的任务。
这条曲线背后藏着一条从未被检验的假设——任务对 AI 的难度与人类耗时的对数成正比,也就是一条直线。
这篇论文把这根直线换成一束单调样条,发现真实的换算关系在二到三十分钟区间几乎是平的:从三分钟跳到三十分钟,比从三十分钟跳到五小时容易得多。
对拿这张图做判断的人来说,结论很直接:单独引用一个「时间视野」数字会把不确定性藏起来,应该连诊断图一起看。

论文摘要

• 数据是 METR 自己的评测表:二百二十八道任务、二十六次主要 AI 发布、七十九个任务族,每格记录重复运行的成功率。原文方法
• 基线是共享斜率逻辑回归,即假设任务难度线性依赖于人类耗时的对数;论文换成两条新规格:共享单调样条(模型一)与带任务族效应和过离散的解释性项目反应理论(模型二,用 EM 交替估难度与能力)。原文方法
• 评价不只看单个百分位点,而是用一族恰当评分规则——边际对数分、Brier 分、各分位的初等二值分与全似然——并配三种权重(等任务、等任务族、族数平方根)。原文方法
• 拟合出的样条可读成一张「人类耗时换算成 AI 难度」的映射表,这张表本身被当作论据:它在二到三十分钟压平,在两端接近线性。原文结果
• 论文提出「能力锚定」的可构念效度清单,用五个问题反问:任务是否有代表性、两个数够不够刻画难度—能力交互、标注是否有客观含义、标注能否预测难度、不同标注之间的关系是否可比。原文讨论
METR 曲线、拟合对比与「人类耗时到 AI 难度」的换算表
图一:六个面板分别是被质疑的 METR 基线曲线、条件成功率、GPT-4o 的拟合对比,以及论文给出的耗时—难度换算函数(d)。这张图要读的是 (d) 里那条粉色带:在二到三十分钟之间它几乎水平,也就是说这一段里人类耗时长十倍,对 AI 的难度几乎没变。原论文图

核心方法

• 三套规格被放在同一条赛道上比:原始逻辑回归、共享斜率逻辑回归(论文自己的基线),以及模型一与模型二;基线的选择本身经过检验,它在除一个指标外的所有指标上都优于原始规格。原文方法
• 模型一用单调样条直接替换对数线性项,把「人类耗时到难度」的映射当作估计对象;模型二把它写成解释性项目反应理论,并允许任务族效应与过离散,用 EM 在难度、能力与映射函数之间交替。原文方法
• 评分规则的比较以任务族为独立单元(七十九个),同时给百分之八十与百分之九十五两层置信区间,避免把同一族的任务当成独立样本。原文方法
• 论文另画 Murphy 图:一条规格若在每个分位上都压过另一条,则在所有恰当评分规则下都更优,因此这张图比单个分数更能说明问题。原文方法
• 诊断图这一侧不是装饰,而是被当作答案的一半:论文明确建议时间视野要与诊断图一起解读,尤其在新基准出现或旧基准加入更长任务时。原文摘要

实验成果

• 主结果:两条新规格在全部评分规则与全部权重下都压过基线,点估计一致占优。原文主表
模型二给出的时间视野与它的能力估计
图二:左图把模型二的视野点(洋红)叠在 METR 自己的视野点(蓝方块)上,右图是把模型二估计出的能力参数按同一坐标重排。这张图要读的是左图中间那一段:换算法之后,落在二到三十分钟的任务点相对趋势线整体下移,说明这一段里原图把难度估高了。原论文图
• 换算函数改变了具体结论:GPT-4o 的时间视野从七点二分钟改估为四点四分钟,多个 AI 的新估计落到原图百分之九十五置信区间之外。原文结果
• 论文报告视野的整体翻倍时间约为六点零个月,拟合优度零点九三一;能力参数的重标定拟合优度为零点九九六。原文结果
• 收益的来源被定位得很具体:大部分指标提升来自视野落在二到十五分钟的那些 AI,也就是最受二到三十分钟平坦区影响的样本。原文结果
• 论文给出的换算尺度是:人类耗时对数的一个标准差约等于四点八次翻倍。原文结果

总结与反思

• 结果总结: 论文没有推翻时间视野这个指标,而是把它的估计方法、换算关系与可信边界一起重做了一遍,并给出两个更好拟合的替代规格。
• 局限性: 结论建立在 METR 自己的任务集与运行记录上,换任务集是否仍成立未验证;样条的平坦区是数据拟合出的现象,论文没有给出机制解释;诊断图依赖读者自己判断,不产出单一数字。
• 前沿见解: 如果「人类耗时到难度」不是线性的,那么任何以人类耗时为横轴的能力外推都要先检查这一段是否落在平坦区——这会影响算力与政策讨论里最常被引用的那几条曲线。

2. 在智能体拨错号之前,把书面政策编译成一道可静态核验的闸门——只有一趟调用语言模型原文

信号源:Corners Co., Ltd.(韩国)
链接:NOMOS: Compiling Written Policies into Statically Verified Tool-Call Gates for LLM Agents
🚦

认知提取

会用工具的智能体会违反它被部署来执行的政策,而且常常是静默地违反:转账给了陌生账户、把凭证交了出去,跑完才被发现。
已有的做法要么手写规则,要么在每个动作前问一次语言模型,要么走一套很重的形式化机器。
这篇论文选了中间那条路:把自然语言的书面政策编译成一条确定的工具调用闸门,四趟里只有一趟用语言模型,其余靠工具模式级的静态检查修理或拒绝有缺陷的规则。
价值在于把「守规矩」从每次调用都付钱的判断,变成一次编译、之后按微秒执行的检查。

论文摘要

• 输入是一份书面政策与域内工具模式,输出是一组已核验规则;编译只在政策版本变更时做一次。原文方法
• 四趟分别是解析、抽取(唯一的语言模型趟,五次采样投票)、消解(静态核验)与物化;航空域把七十九条候选压到十条规则,零售域把五十三条压到五条。原文方法
• 静态核验在结构层面修好或拒绝航空域三成七、零售域一成三的原始抽取;若把少数票也算上,是四成一与一成五——不做这一步,多数规则根本无法执行。原文方法
• 运行时闸门是确定性的:它只用工具返回结果与用户轮次里的事实上账,明确排除智能体自己的说法;被拦下的调用以工具错误返回规则编号与条号,智能体据此重规划。原文方法
• 评测用 τ²-bench 航空(五十任务、每次五次试验)与零售(一百一十四任务、每次四次)的原始夹具与评分器,智能体为本地部署的 gemma-4-26B-A4B。原文实验
NOMOS 的离线编译与运行时闸门
图一:上半是离线的一次性编译——四趟把政策压成核验过的规则,下半是运行时的每次工具调用。这张图要读的是运行时那一侧的三个标签:确定性、微秒级、不调用语言模型,这正是它把成本从每次调用挪到每份政策的原因。原论文图

核心方法

• 最有效的一处修复叫「自锁」:抽取出的规则会去拦下满足它自己前置条件的那个工具调用,消解趟把这类绑定删掉而保留条款本身。原文方法
• 另外几类结构缺陷包括写范围越界、参数读取了工具没有的字段、通配符范围过宽、条款之间互相矛盾。原文方法
• 违规率不能用闸门自己执行的规则来测,否则是循环论证;论文另写一套独立参考规则(航空十六条、零售十一条),在录制的两条分支转写上重放。原文实验
• 检查器本身也被审计:抽一百六十次状态改变调用交给前沿模型裁判,原始一致率仅五成、κ 接近零,逐条追查后其中三十处是裁判的事实错误,四十三处属于条款解释分歧。原文实验
• AgentDojo 四个套件原样不带政策,论文因此为每个套件补写一页组织级安全政策再编译,闸门的规则集在两个不同开源智能体上共用。原文实验

实验成果

• 主结果:被闸门放行的状态改变调用里,违反参考条款的比例从六成六降到二点六(航空),从三成零八降到六点九(零售),降低约二十六倍与四点五倍。原文摘要
闸门下的任务成功率与违规率
图二:左图是航空与零售上任务成功率随试验次数 k 的变化,右图是违规率。这张图要读的是左图航空那一条:加闸门后成功率不是被牺牲掉,而是在 k 等于二到四时显著上升(最多加十四点零个百分点),说明拦错的调用被重规划补了回来。原论文图
• 任务成功率没有被牺牲:航空域在 k 等于一到五分别提高八点四、十三点二、十四点零、十三点二与十二点零个百分点,其中二到四的配对自助置信区间不含零;零售域各点估计略负但无显著差异。原文主表
• 在 AgentDojo 银行套件上达到零攻击成功率,九个攻击族收敛到三条结构规则;其余三个套件的攻击成功率不超过三点六,且失败的来自没有工具调用可管的攻击目标。原文结果
• 编译成本可以留在本地:二六 B 模型在本机完成编译,效果与手写规则或前沿模型编译无显著差异,政策不出内网。原文结果
• 一个反例被如实报出:开发期某版绑定拒绝了九成五九可以完成任务的合法调用,而评测期的绑定没有触发这类误拦——没有双向测试的规则集不会暴露这个问题。原文结果

总结与反思

• 结果总结: 论文把政策执行拆成「一次编译 + 每次微秒级确定检查」,并证明静态核验是让这套编译真正可用的必要条件。
• 局限性: 方法只覆盖能写成工具模式级约束的条款,涉及语义判断的条款落在门外;AgentDojo 本身不带政策,规则集由论文自拟,跨组织迁移性未验证;检查器与前沿裁判的原始一致率只有一半,说明这类测量的口径本身仍在争。
• 前沿见解: 如果政策能这样编译,那么「合规」就不再是模型能力的副产品,而是一个可以单独版本管理、单独回归测试的运行时构件。

3. 同一句「我没有这个目标」,在一只模型上是谎、在另一只上是真——白盒探针把两者分开原文

信号源:FAR.AI
链接:Caught in the Act: Probes Effectively Detect Sabotage and Catch Unverbalized Deception
🕵️

认知提取

监控一个跑起来的智能体,眼下只有两条路:让另一个模型读每一步,贵且慢;或者事后翻日志,那时 token 已经烧掉。
这篇论文把监控移到模型内部:用一份十六万多行的谎言数据集训练探针,读出内部状态里「这句话不真」的信号,并且能跨层、跨 token 聚合。
它最有分量的结果不是分数,而是那类无法从上下文判断的欺骗——两只模型说出一模一样的一句否认,只有内部状态知道哪一次是谎。

论文摘要

• 训练集 FIBS 共十六万三千零一十六行、二十八个来源族,覆盖不同构造方式与格式的语境性谎言。原文方法
• 探针有四种架构(线性集成、MLP 集成、EFC 与轴向探针),共同点是可以跨很多层、很多 token 聚合信息,而不是只看最后一层一个位置。原文方法
• 主评测是 SHADE-Arena:智能体一边做正当任务,一边在暗地里执行破坏性子任务,探针要判断哪些回合起开始异常。原文方法
• 论文另设两类「内省性」评测:一类靠引导模型说出自己的信念,一类用带隐藏目标的模型个体,后者的真值只能靠仔细诱导或了解训练数据才能确定。原文方法
• 随论文发布 FIBS 数据集,用于推动这类探针的实际部署。原文摘要
探针规模曲线与同一句否认在两模型上的对照
图一:左图是探针在不同训练行数与不同来源族数下的 SHADE-Arena AUROC,右图是同一句隐藏目标否认分别在说谎模型与诚实模型上的轴向探针分数。这张图要读的是右图两组点的分离——上下文完全相同,只有内部状态不同,这说明信号来自模型内部而不是文字本身。原论文图

核心方法

• 探针只用语境性谎言训练,却要迁移到内省性谎言上,论文把这条跨分布迁移当作方法的核心主张来检验。原文方法
• 数据量的作用被单独扫过:在最大模型上训练十五个子集,完整训练集(十五万二千九百八十行)对每一种架构都是最优。原文结果
• 约三千行的子集比完整集低零点零一八到零点一零,且每个差值的自助区间都在零以上;同等行数下,来源族更多通常也更好。原文结果
• 对比对象包括最先进的文本监控器(把拒绝也算作最高可疑度)与模型自己的自陈分数,后者被要求回答同一个追问但不预填答案。原文结果
• 探针阈值在诚实轮次上校准,目标是把误报压到很低,因此报出的不是全体准确率而是固定误报率下的召回。原文方法

实验成果

• 主结果:在 Qwen3.5-397B-A17B 上,四种用完整训练集训练的探针得分为零点九七九到零点九八四,高于最强文本监控器的零点九六零,也高于模型自陈的零点九三一。原文主表
• 规模效应明显:最小的 Qwen3.5-2B 上探针为零点五八五到零点七八一,二七 B 以上为零点九六三到零点九八六;自陈分数在最小于零点三零一,低于随机。原文结果
• 内省性任务上探针确实生效:八个隐藏目标个体中有五个的判别 AUC 落在九成零四到九成九七之间,较弱的两只性别目标个体为八成一到八成三。原文结果
• 在隐蔽线索跟随任务上,活跃参数最大的三只模型四种探针与自陈分数都在九成五二到九成八零之间;在政治敏感话题上从九 B 起四种探针 AUC 都在九成八以上。原文结果
• 论文还报了失败的一侧:在最小的两只模型上探针会过度触发,隐藏目标否认与线索跟随两个任务的误报都高于大模型。原文结果

总结与反思

• 结果总结: 论文把「模型在不在骗人」从一个靠外部裁判打分的判断,变成一个可以在单次前向内读出的信号,并公开了支撑它的数据集。
• 局限性: 探针只对小模型与部分模型族失效明显,跨架构的一般性未系统评估;内省性评测的构造本身依赖研究者对训练数据的了解,可能带入偏置;探针读出的是「不真」的相关信号,论文未建立它与因果机制的等价。
• 前沿见解: 如果欺骗信号可以这样读出来,那么对齐审计的默认工具就会从「再叫一个模型来看」变成「把探针挂在监控管线上」,代价降到一次前向。

4. 五千万 token 的记忆:把 KV 状态按块写进加密本地盘,取回比重算快几倍也省电几倍原文

信号源:Corbenic AI
链接:Real Long-Term Memory for AI: A 50-Million-Token Window That Is Faster and Cheaper Than Recompute
💾

认知提取

模型每次收到一段提示,都要把它的键值状态从头算一遍;上下文窗口之外的内容则彻底够不着。
这篇论文换了个思路:把每块约一万六千 token 算出的 KV 状态字节级写到加密的本地 NVMe 盘上,需要时原样取回,不重算。
论文自己强调它不是缓存也不是更宽的注意力窗,因为它持久、加密、逐字节精确,而且能碰到窗口之外五千万 token 处的内容。

论文摘要

• 实验语料是五千万 token 的真实公开文本,来自 WildChat(四成)、宽松许可源码(两成五)、arXiv 论文(两成)与教育网页(一成五)。原文设置
• 硬件是一块 H100 八十 G 显存加本地 NVMe,软件全部公开:galahad-kv 1.31.4、vLLM 0.31.0;模型是 Gemma 4 的十二 B(bf16)与三一 B(FP8)。原文设置
• 语料被改造成测试集:每一百万 token 埋一条记录,并放入同格式的干扰项,用来检验模型是读到了内容还是猜到了格式。原文设置
• 论文明确划界:这是已存状态的复用,不是更宽的注意力,也不是学习式检索;同一时刻只有一块常驻,更深的内容要请求时才从盘上取。原文摘要
• 图表的收录范围说明:这篇原论文通篇没有独立图片资源,全部结果以表格与数字呈现,本节因此用 Markdown 表格承接,未收录图表。原文正文
测量项Gemma 4 12BGemma 4 31B
零重算取回(全部深度)100 / 100100 / 100
文本回忆(精确代码)82 / 10098 / 100
编造出不存在的代码00
负控(记录不存在)0 / 200 / 20
取回中位耗时 / 能耗0.266 秒 / 59 焦0.347 秒 / 80 焦
重算中位耗时 / 能耗0.760 秒 / 521 焦1.475 秒 / 976 焦
加速 / 省电2.8 倍 / 8.8 倍4.25 倍 / 12.3 倍
表一:原论文结果全部以表格与数字呈现,没有独立结果图,本节以原文数据复现该表。表里的数字来源是原论文第 6 节的两张结果表。

核心方法

• 状态按块存:五千万 token 被切成三千一百二十五个约一万六千 token 的块,每块一份加密存储记录,实测无一块被裁剪或逐出。原文方法
• 由于 Gemma 4 用滑动窗口注意力,十二 B 的实际占用是每 token 三十六点四千字节,而不是全注意力的约一百六十千字节;三一 B FP8 为每 token 一百三十四千字节。原文方法
• 评测被设计成抗作弊:负控会问一个根本不在块里的记录,若模型给出答案即说明它在编。原文方法
• 基线是同形状请求下的全量预填,也就是模型从没见过的块的重算,两者用同一请求形状比较。原文结果
• 论文区分「缓存」与「长期记忆」的四点差异:持久(重启后仍在、不逐出)、私有(每组织一把 AES-256-GCM 密钥)、字节精确(复原的是计算本身而不是有损摘要)、越窗(能复用五千万 token 之前的内容)。原文讨论

实验成果

• 主结果:在一百个深度(零到四千九百四十八万八千 token 之间)上,每一块都由加密存储直接服务,没有一次重算,两个模型都是满一百。原文主表
• 取回比重算快二点八到四点三倍,GPU 能耗低八点八到十二点三倍,且取回时间不随深度增加——五千万 token 之前的一块与第一块一样快。原文结果
• 回答问题依赖模型而不是记忆:同一批存储块,十二 B 在一百题里答对八十二,三一 B 答对九十八;两个模型都没有编造任何代码,全部错答都落在块内真实存在的干扰项上。原文结果
• 写入是一次性成本:十二 B 吞吐两万零八百三十九 token 每秒、三一 B 一万零七百,峰值显存分别固定在七万零八百六十四兆与七万五千一百一十一兆,整个五千万 token 流上不增长。原文结果
• 规模越大收益越大:三一 B 的块更大也更贵,所以取回优势从二点八倍升到四点二五倍,省电从八点八倍升到十二点三倍。原文结果

总结与反思

• 结果总结: 论文用一次单卡可复现的实验,把「给模型加长期记忆」从提示工程问题改成一个存储与复用状态的问题,并给出时间、能耗与显存三条可对照的基线。
• 局限性: 这是状态复用而非更宽的注意力,一次只常驻一块,能不能答对仍取决于模型本身;存储要占用数 TB 本地 NVMe;评测只有两个模型、一个语料流,跨模型族的泛化未验证。
• 前沿见解: 如果记忆的代价主要是磁盘而不是算力,那么长上下文能力的瓶颈就会从显存预算转到存储与检索设计,而便宜的小模型与贵的大模型可以读同一份记忆。

认知模型

5. 不带一句字幕也能学——让语言模型在中途训练里预测下一帧的视觉 token,图像与视频一起涨原文

信号源:Meta AI、麻省理工学院、阿卜杜拉国王科技大学、杜克大学
链接:Mid-Training Language Models on Raw Video
🎞️

认知提取

多模态模型大多吃的是图文对或人工标注过的视频,原始网络视频很少被用来继续训练语言模型。
这篇论文问了一个更朴素的问题:如果连字幕都不要、也没有文本损失,只用原始视频做一次中途训练,会不会有用。
答案是会,而且是两头都涨:视频基准平均提高二点九分,图像基准平均提高五点一分,而文本能力没有被牺牲。

论文摘要

• 做法是把帧编码成连续视觉 token,让语言模型预测下一个视觉 token,中途训练阶段完全没有文本损失。原文方法
• 底座是 Qwen3-1.7B,视觉侧接 SigLIP SO400M/14(三百八十四分辨率),用两层 GELU 投影进二千零四十八维的语言嵌入空间。原文方法
• 数据从 YT-Temporal-1B 取,筛掉已不可访问的视频后剩一千七百万条,按每秒零点二帧采样,取连续十六帧片段,共六百九十九万个片段、六百四十四亿视觉 token。原文方法
• 对照被设计成只差中途训练这一步:中途训练过的模型与没训练过的模型接受完全相同的图像—文本指令微调。原文方法
• 预测字幕的对照没有跑赢预测下一视觉 token,说明这一步可以保持纯自监督,不必付自动字幕的开销与噪声。原文摘要
连续视频中途训练的流程
图一:左侧把有序视频帧编码并投影成连续 token,右侧是预测头对下一帧的 token 做回归。这张图要读的是那个停止梯度的分支——监督信号来自同一段视频的下一帧,不需要任何外部标签。原论文图

核心方法

• 空间 patch 网格按行加分隔符,串成一条统一序列,让模型在一条流里同时处理空间与时间结构。原文方法
• 全部参数端到端训练一轮,两万七千三百步,跑在一百二十八块 H100 上;有效批大小二百五十六个片段,上下文一万六千 token。原文训练
• 学习率分开设:语言模型与投影头为一乘十的负五次方,视觉编码器为二乘十的负六次方,余弦衰减加百分之三线性预热。原文训练
• 指令微调沿用与中途训练相同的参数,在 LLaVA-OneVision-Data 上跑一轮(三百九十万图、三十二亿 token)。原文训练
• 字幕对照用 Qwen3-VL-30B-A3B 成对生成进度感知字幕,再分别做「预测当前字幕」与「从当前帧预测下一帧字幕」两种目标。原文方法

实验成果

• 主结果:中途训练过的模型在四个视频基准上平均高二点九分,在十个图像基准上平均高五点一分,覆盖感知、文档与图表任务。原文摘要
中途训练过程中图像、视频、文本三条曲线的进展
图二:横轴是中途训练已见到的视觉 token 数(十亿),纵轴是平均准确率。这张图要读的是三条曲线的形状:图像与视频在前三成训练量里就大部分涨完,之后波动不超过零点五分,说明收益来自早期而不是长期训练。原论文图
• 文本能力保持:十四项文本基准上平均四十八点九,未中途训练的对照为四十八点零。原文结果
• 收益出现得很早:跨训练的检查点显示,图像与视频的提升在前三成训练量内就已出现,之后变化小于零点五分。原文结果
• 目标函数的选择被直接比过:预测字幕没有跑赢预测下一视觉 token,因此不需要引入字幕模型的成本与标注噪声。原文摘要

总结与反思

• 结果总结: 论文证明原始视频可以作为一种纯自监督的中途训练数据,在不动文本损失的前提下同时抬高图像与视频能力。
• 局限性: 实验只在 Qwen3-1.7B 一个底座与一个数据源上做,更大模型是否同样受益未验证;中途训练需要六百四十四亿视觉 token 与一百二十八卡,不是小开销;图像基准的涨幅是否来自感知而非任务格式适配,论文未做分离。
• 前沿见解: 如果视频能这样用,那么「先做多模态中途训练再指令微调」可能变成默认配方,而字幕标注这一环可以从流水线里去掉。

6. 循环模型的解一旦解出来就会被下一次更新改坏——给循环里的残差连接自己一套规则,能撑到两万步以上原文

信号源:香港理工大学、独立研究者、中国科学院深圳先进技术研究院、鹏城实验室、中国科学院大学、ELLIS 图宾根研究所、马克斯·普朗克智能系统研究所、图宾根人工智能中心、深圳理工大学
链接:Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals
🔁

认知提取

循环语言模型用同一套参数反复跑一个块,卖点是深度可以按测试时算力加,但加着加着准确率反而掉。
这篇论文把原因指出来:现有做法每一步都用最新候选替换循环状态,噪声更新会覆盖掉已经做对的中间推理,甚至把解出来的题重新改坏。
它给循环里的状态聚合单独设计了一个学习式的注意力残差,让模型自己决定保留哪些过去计算、每次新更新接受多少,并把聚合记忆压成常数。

论文摘要

• 观察是两级的:准确率随有效深度先升后降,且已经解出的题在后续更新里被改写。原文方法
• 提出的连接把「上一次状态」换成对历史候选的加权汇总,权重由内容相关性与学习到的时间衰减共同决定。原文方法
• 一个精确的流式递推让这份聚合记忆不随循环次数增长,因此可以跑很多圈而不爆内存。原文方法
• 评测覆盖数独极限版、三十乘三十迷宫、ARC-AGI-1 与 ARC-AGI-2,全部用七百万参数规模的模型。原文实验
• 论文把测试时缩放当作主要卖点:数独极限版上超过两万步有效深度仍在提升。原文摘要
解出后状态仍在变化,以及两种连接的差别
图一:左图是准确率随有效深度的变化,右上是被更新改写的状态量,右下是解出后仍保持正确的比例。这张图要读的是右下的两条横线:换成新连接后解出过的题百分之百保持,而原做法只有八成。原论文图

核心方法

• 模型是七百万参数的递归推理器:共享块含两层 Transformer、隐藏维五百一十二、八个注意力头,另加一个三乘三深度卷积。原文方法
• 新连接只需每个轴一对评分—衰减参数(共五百一十三个参数),替换掉内外两层循环里的「取最新状态」规则。原文方法
• 数独的训练用一千道基础题各做一千次增广,AdamW,峰值学习率一乘十的负四、权重衰减一,批大小七百六十八;训练期为三层外循环乘六次内更新。原文训练
• 对照组包括循环推理的几种代表做法与带思维链的前沿推理模型,且论文自己重训了基线检查点以做同协议比较。原文实验
• 提示词与训练配置全部公开,附录给出完整超参与资源核算。原文实验

实验成果

• 主结果:数独极限版上达九十七点九精确准确率,高于对照的九十四点二与七十四点七;迷宫为八十七点四。原文主表
测试时深度缩放与不同难度下的准确率
图二:左图是准确率随有效深度(对数轴)的变化,右图是两种做法在相同层数下随题目难度(空格数)的准确率。这张图要读的是左图:新做法在一千八百七十二层就到九成零九,并继续随深度上升,对照更早进入平台。原论文图
• ARC 上也领先:ARC-AGI-1 上 pass@2 为四十九点一,高于对照的四十七点五与四十四点六;ARC-AGI-2 上为十三点六,接近对照六点二与七点八的两倍。原文主表
• 自己重训的对照检查点得七十三点六,与原作者报告的七十四点七接近,因此后面的比较都用重训件。原文结果
• 学习到的更新步长在题目被解出的那一步出现明显跃升,说明这个连接学到的是与解里程碑对齐的行为。原文结果
• 论文还做了状态扰动实验:在第 36 次外更新注入相对扰动,再跑 36 次,用来检验解是否被稳定留住。原文结果

总结与反思

• 结果总结: 论文把循环模型「越深越差」归因到一个可修的设计选择上,并用一个参数很少的连接把测试时深度的可用范围推到两万步以上。
• 局限性: 结论集中在七百万参数规模与符号化题目,能否外推到语言建模任务未知;扰动实验只覆盖一个注入点;ARC-AGI-2 上十三点六的绝对水平仍远低于人类。
• 前沿见解: 如果循环状态的聚合可以被学习,那么「跑多少圈」就不再是超参而是一个模型自己判断的量——这与推理系统里把算力按难度分配的方向一致。

多模态

7. 一个音频嵌入里还剩多少声音?把冻结表示重新解码成波形,量化它到底藏了什么原文

信号源:纽约大学音乐与音频研究实验室
链接:How Much Audio Is Left In An Embedding? An Inversion Audit Of Audio Encoders
🔊

认知提取

预训练音频编码器会被复用到训练时根本没想到的任务上,所以「哪些信息还留在里面」直接决定它有多大用。
这篇论文用一个共同的解码器,把五种冻结表示的嵌入重新变回五秒立体声音乐,再逐项测量重建。
结论是有序的:保留的细节随预训练目标变化,而且接口本身就在限制可恢复性——同一族模型里,暴露更细的时间或频率结构,重建就明显更好。

论文摘要

• 被审计的表示包括两种监督分类器(VGGish、ConvNeXt)、一种音频—文本对比模型(CLAP)与一种波形重建模型(EnCodec),它们暴露的接口在时间与频率分辨率上差别很大。原文方法
• 重建用同一个 Stable Audio Open 潜扩散解码器,源重建任务设定为:输入冻结表示,输出对应的五秒、四十四点一千赫兹立体声。原文方法
• 评测在百万歌曲数据集上进行,指标分两类:声学重建用多分辨率 STFT 距离,源特异性用固定 VAE 空间里的余弦相似度与配对源检索。原文方法
• VAE 相似度以二十万个随机源—源配对做标定,检索在二万六千三百六十七个留出片段上做最近邻,看配对源是否落在最近的一或十个里。原文方法
• 论文强调两类指标不可互换:多分辨率 STFT 与 VAE 相似度之间相关系数只有零点零二到零点一七,决定系数低于零点零三。原文结果
同一段音乐在五种表示下的重建频谱
图一:从左到右依次是原始乐器片段,以及 VGGish、CLAP 5 秒、池化 ConvNeXt、EnCodec 四种表示重建出的频谱。这张图要读的是最右一栏与前三栏的差别——编码器越保留时频结构,重建出的谐波纹理越接近原始,而压缩表示只能还原出粗节奏与音色。原论文图

核心方法

• 五种条件的接口被并列列出:VGGish 时间粒度零点九六秒、CLAP 五秒为单个向量、CLAP 一秒为五个向量、池化 ConvNeXt 约零点三二秒、EnCodec 为六点七毫秒的量化隐变量。原文方法
• 同一族内部做成对比较,是这篇论文控制变量的关键:CLAP 一比 CLAP 五秒、ConvNeXt 展平比池化,只改接口不改预训练目标。原文方法
• EnCodec 同时充当正控与上限:既用共同解码器重建,也用原生解码器给出参照。原文方法
• 除了声学指标,论文另用百万歌曲集上训练的音乐标注模型比较源与重建的前十标签重合度,用来判断高层音乐内容是否还在。原文方法
• 条件消融被放在项目页:接近零的投影初始化与时间局部注意力对验证去噪损失有帮助,尤其对更密的接口,但对最终重建指标的改善有限。原文结果

实验成果

• 主结果:可重建性呈现出与预训练压力一致的排序,从 VGGish 与 CLAP,到 ConvNeXt,再到 EnCodec。原文主表
• 关键数字:多分辨率 STFT 距离从 VGGish 的零点二一降到 EnCodec 的零点一三(原生解码器为零点一零);配对源检索 R@1 从零点零零四升到零点八九四;标签重合度从零点七三三升到零点八四七。原文主表
源与重建相似度分布,与随机源—源分布的对照
图二:每一条是某一种表示下「源—重建」余弦相似度的分布,最下面是二十万随机源—源配对的参照分布。这张图要读的是每条彩色分布相对灰色参照的位置:多数源—重建相似度都高于随机配对,说明重建保留的是这一段音频本身而不是通用音色。原论文图
• 音质与源特异性不是一回事:压缩表示可能丢掉精确音高与时序,却仍保留相近的音色与乐器组合,因此标签重合度依然偏高。原文结果
• 接口粒度确实有影响:CLAP 从五秒变成一秒后 R@1 从零点零六升到零点零二四,ConvNeXt 从池化变成展平后 R@1 从零点零九四升到零点三五二。原文主表
• 共同解码器接近原生 EnCodec 解码器的多分辨率 STFT 与配对检索水平,说明解码器能有效利用细粒度条件。原文结果

总结与反思

• 结果总结: 论文把「嵌入里还剩多少」变成一个可测量的重建问题,并给出两类互补指标与一个受控的接口对照。
• 局限性: 所有结论都建立在一个共同解码器上,解码器本身的能力会限制上限,无法完全分离「表示里没有」与「解码器取不出」;评测只覆盖五秒片段与音乐域,语音与长时依赖未涉及。
• 前沿见解: 如果发布一个嵌入就等于发布一部分可重建的原始音频,那么隐私评估的口径就要从「是否可识别说话人」扩到「能重建到什么保真度」。

具身智能

8. 不给一条新示范——只给机器人补上「为什么这么做」的推理轨迹,零样本成功率最多加五十个百分点原文

信号源:伊利诺伊大学厄巴纳-香槟分校、斯坦福大学、NVIDIA、悉尼大学
链接:ARC: A Reasoning Recipe for Robot Foundation Models
🤖

认知提取

提升机器人基础模型的常规手段是更大的模型、更多示范、更贵的训练。
这篇论文提出一条互补路径:推理配方本身就能显著抬高现有最强模型的零样本表现。
它的关键发现是推理轨迹该写什么——不是泛泛的计划,而是锚定在机器人下一个动作上、并解释这个动作的因果结构:为什么此刻合适、应该产生什么效果。

论文摘要

• 配方由三件东西组成:一种推理轨迹、一条可扩展的自动标注流水线,以及把预训练基础模型适配成用这些轨迹控制动作的策略。原文方法
• 提示层把「动作」的原因显式写出来,还包含「避免」一项,说明这个动作在什么情况下会失败。原文方法
• 标注不需要新数据:轨迹从现成的 DROID 示范自动生成,产出 ARC-Trace-DROID。原文方法
• 适配覆盖两类架构:VLA 类的 π0.5 与世界—动作模型类的 Cosmos3-Nano-Policy,微调与推理各自按架构特点定制。原文方法
• 外部视觉语言模型固定用 Qwen3.6-35B-A3B,并在消融中替换。原文实验
ARC 的数据标注与微调配方
图一:左侧是从大规模示范自动标注出「状态—原因—效果—动作—避免—完成」的推理轨迹,右侧是把推理 token 与基础模型中间表示一起送进动作模型。这张图要读的是右下角那组柱:同一批基准上,加推理之后基础策略普遍涨十到五十个百分点,而全程没有新增任何机器人示范。原论文图

核心方法

• 标注流水线把每个动作块与它的因果解释绑定,而不是给整段任务写一段评论,这样监督信号与控制的粒度对齐。原文方法
• 微调按架构分开:语言骨干同时接收基础模型中间表示与动作锚定的推理 token,动作模型再据此出动作。原文方法
• 动作头的注意力被单独测量,用来验证模型是否真的在用推理文本,而不是把推理当作额外上下文摆设。原文实验
• 评测全部零样本:三个仿真基准加一组真机配对任务,都不做基准专属训练。原文实验
• 指令鲁棒性被单独扫过,分含糊、默认与具体三档指令,用来判断收益是否只来自更长的提示。原文实验

实验成果

• 主结果:在 RoboLab-120 的默认指令设定下,Cosmos3-Nano 加推理为四十八点八(加十二点零)、π0.5 加推理为四十五点三(加十七点三),均高于原有最强基线。原文主表
• 含糊指令下提升最大:π0.5 从十五点二升到四十五点一(加二十九点八),Cosmos3-Nano 从二十点六升到四十四点九(加二十四点三)。原文主表
• 具体指令下仍领先:Cosmos3-Nano 加推理为五十一点二(加十一点五),π0.5 加推理为四十五点零(加十六点九)。原文主表
推理文本与动作头的注意力
图二:左侧是腕部相机的注意力热图,右侧是三种监督方式下动作头分给文本的注意力比例。这张图要读的是右侧那三根柱:动作锚定的推理拿到四成一,而子任务监督只有百分之四、具身思维链只有百分之六——也就是说,只有这种写法的推理真的被动作头读进去了。原论文图
• 跨基准成立:MolmoSpaces 上 Cosmos3-Nano 加推理提高十八点六个百分点;推理密集的 Reasoning-50 上两个模型分别提高四十六点八个与五十点零个百分点。原文主表
• 真机侧也报告了配对任务结果,减速度约束下的提升被单独列出,用来判断收益是否只出现在仿真。原文结果

总结与反思

• 结果总结: 论文证明推理监督的写法本身就是一条独立的性能杠杆,在不动示范数量与预训练规模的前提下把零样本成功率抬高十到五十个百分点。
• 局限性: 结论建立在 DROID 一个数据源与两类基础模型上,跨本体与跨数据源的迁移未系统评估;推理 token 会把上下文与推理成本抬高,实时性依赖专门部署策略;外部视觉语言模型是固定的一只,换模型的影响只在消融里看。
• 前沿见解: 如果推理的价值取决于它是否锚定在具体动作上,那么具身团队的标注预算就应该从「再收多少示范」转向「给已有示范写多好的因果解释」。

9. 策略发出的指令不等于机器人真的做到了——把人形机器人执行后的机体状态也变成预测目标原文

信号源:逐际动力(LimX Dynamics)、南方科技大学
链接:HWAM: Humanoid World Action Model With Joint State–Action Generation
🦿

认知提取

人形机器人是分层的:上层策略输出参考动作,下层全身控制与动力学再把它变成真实运动,于是参考动作和实际执行之间总有落差。
不把这个落差建模,未来的画面预测就得同时解释场景变化与「指令没被执行到位」两件事,动作与物理后果的对应被搅在一起。
这篇论文把执行后的本体感受状态也写成预测目标,让模型在一次去噪里同时生成参考动作与它真实落地的机体状态。

论文摘要

• 落差是先被量出来的:在一台全尺寸人形与一台双臂平台上,把指令关节参考与对齐后的执行后状态比较,均存在非零误差。原文方法
• 具体数字:人形平台直接误差四点四二零度、稳态误差二点八八五度;双臂平台为零点六四八度与零点四零二度。原文方法
• 模型把「下一时刻的机体状态」与「当前动作」打包成单个联合 token,用一条条件流匹配目标同时生成。原文方法
• 三条互补的条件路径分别是正向动力学、逆向动力学与策略路径,用来看同一份联合轨迹在不同条件下的自洽程度。原文方法
• 机器人平台是三一自由度全身动作空间的全尺寸人形,配双臂七自由度与灵巧手;真机任务是糖果拣取、物体收集与移动式毛绒玩具拣取。原文实验
HWAM 的架构总览
图一:左侧输入是多视角视频、语言、当前状态与联合状态—动作序列,右侧输出是未来视频与联合预测。这张图要读的是右下角那个双头联合预测——动作与执行后状态被当作同一件东西的两面一起生成,而不是先生成动作再猜它有没有生效。原论文图

核心方法

• 网络由冻结的 Wan2.2 视频 VAE、一个视频专家、一个状态—动作专家与语言嵌入组成,两个专家之间用路径相关的混合注意力相连。原文方法
• 训练时正向动力学、逆向动力学与策略三条路径均匀采样,让模型在「由动作推画面」与「由画面反推动作」两个方向上都被约束。原文训练
• 部署时用的是策略路径:只以当前观测为条件,与真实推理条件对齐,未来视频在条件里被遮住。原文方法
• 两个专家在十六块 A800 上微调六个轮次,AdamW,学习率一乘十的负四,全局批大小一百二十八。原文训练
• 训练集规模被明确列出:三个任务分别一千七百八十三、四千二百二十与四百零四个回合,糖果拣取另留四百二十二个回合做离线诊断。原文实验
三种条件路径下的训练目标
图二:三个面板分别是正向动力学、逆向动力学与策略路径,绿色方框标出去噪目标,紫色标出被生成的联合状态—动作。这张图要读的是第三栏与第一栏的差别——部署路径里未来视频是隐藏的,因此策略学的正是「只有当前观测时该怎么动」。原论文图

实验成果

• 主结果:在三项真机任务上成功率分别为七十点六、四十六点七与七十三点三,三项都高于所有对照。原文主表
• 相对最强对照 π0.5,分别高出八点一、一点七与十二点六个百分点;而 π0.5 是带额外机器人数据预训练的。原文主表
• 两个对照在物体收集任务上完全失败(零成功率),论文归因于它们无法建立任务要求的筐抓取。原文结果
• 离线诊断给出了机制证据:在留出回合上,联合状态—动作预测的开放回路误差低于仅预测动作的版本。原文结果
• 论文在移动操作任务上做了受控消融,逐项验证联合状态—动作目标与三条训练路径各自的贡献。原文结果

总结与反思

• 结果总结: 论文把「指令与执行之间的落差」从一个噪声项变成一个被显式建模的预测目标,并在真机上取得了高于带预训练对照的成功率。
• 局限性: 评测集中在三台同型人形与一个双臂平台,跨硬件的一般性未验证;落差误差是在特定控制器下测的,换下层控制器是否仍成立未知;真机试验次数受 Wilson 区间约束,部分单元格样本不大。
• 前沿见解: 如果机体状态可以被预测,那么世界模型的下一个任务就是判断「我发出的动作到底有没有生效」,而这正是长程操作里最容易被忽略的一环。

AI4Science

10. 把 RNA 的序列与三维结构一起设计——用一个残基级潜变量把整体折叠与局部几何绑在一起原文

信号源:上海交通大学、独立研究者
链接:La-Ribo: RNA Co-Design via Geometry–Latent Flow Matching
🧬

认知提取

RNA 的功能来自序列与三维结构的耦合,所以最好的做法是把两者一起设计,而不是先设计结构再反推序列。
难点在于监督数据有限:实验解出的结构少,而全局折叠与核苷酸级细节又必须同时对上。
这篇论文把核苷酸身份与局部构象编码进一个十六维的残基级潜变量,让一条共享的流网络同时生成骨架与潜变量,再由专用解码器重建全部重原子。

论文摘要

• 表示被拆成显式与隐式两半:显式的磷—糖—碱基稀疏骨架给出全局框架,隐式的残基级潜变量承载核苷酸身份与局部构象。原文方法
• 生成用几何—潜变量流匹配,一条共享网络同时生成两类状态,再用 RNA 专用解码器还原全部重原子。原文方法
• 为扩大监督,论文构建了十六万八千五百六十一条 RNA 结构的质量控制语料,其中一万零六百三十一条是本次新生成并带多序列比对支持的结构。原文方法
• 评测指标是可设计性与可共设计性:前者为每个生成骨架重新折叠八个候选序列,任一通过即算成功;后者只折叠模型自己给出的序列。原文方法
• 同一份先验还支持骨架条件下的反向折叠,不需要额外训练。原文摘要
La-Ribo 的表示、生成与结构化解码
图一:(a) 是显式骨架加潜变量的残基表示,(b) 是共享流网络同时生成两类状态的过程,(c) 是解码器还原序列、旋转与十个扭转角。这张图要读的是 (a) 里那条红色潜向量:它不是辅助特征,而是与骨架地位对等的生成对象。原论文图

核心方法

• 直接度量显示潜变量是够用的:把后验均值潜变量换成零或打乱,在固定骨架上重建质量明显下降,而只扰动单个残基的潜变量只会造成局部原子位移。原文结果
• 论文比较了两种流架构:基础版把配对特征当作固定注意力偏置,三角版每两块更新一次配对特征,并单独扫「多久更新一次」。原文方法
• 采样用固定的模态调度,论文在求解步数、骨架功率与潜变量功率的网格上做敏感性分析。原文方法
• 每轮生成六百条 RNA,长度从四十到一百五十核苷酸每十递增、每档五十条,用三个独立随机种子估计采样波动。原文方法
• 为避免评估争议,主文用 RhoFold 打分,附录用另一个折叠模型 OpenDDE 重复同一批结构与候选序列。原文方法

实验成果

• 主结果:在两百步下,三角版的严格可设计性为三十九点一一,可共设计性为三十二点零六,均高于同表所有对照。原文主表
• 对照的绝对水平差出一大截:同一步数下,RiboFlow-Mix 的严格可设计性为二十七点六一、可共设计性为二十六点零零;RNA-FrameFlow 在这两个指标上没有可共设计性报告。原文主表
• 生成量在不同采样预算下稳定领先:五十、一百、两百与四百步四档里,三角版的可设计性分别为三十七点一一、三十七点七八、三十九点一一与三十八点六一,均高于对照。原文主表
• 局部几何对得上:生成结构与实验结构在 C4' 距离、角度与二面角分布上的 Jensen-Shannon 散度分别为零点零零八、零点零零六与零点零零四比特。原文结果
生成结构与实验结构的局部几何分布对照
图二:三个面板分别是 C4' 距离、角度与二面角的分布,灰色为生成结构、蓝色为实验结构,最右是伪扭转角差值密度。这张图要读的是三条曲线几乎重合以及极小的 JSD 值——这说明重构出的局部几何落在实验分布之内,而不是看起来像。原论文图

总结与反思

• 结果总结: 论文用几何与潜变量双通道的表示,把 RNA 序列—结构共设计做成一个可以同时打分两项的任务,并给出明显高于对照的可设计性。
• 局限性: 大部分监督来自折叠模型的预测而非实验结构,语料构建方式会带入预测器偏差;评测长度上限为一百五十核苷酸;折叠模型重打分本身也有误差,论文用第二个折叠模型做了复核但仍非实验验证。
• 前沿见解: 如果局部构象可以像骨架一样被生成,那么 RNA 设计的搜索空间就从「先折叠再反推」变成「序列与几何一起采样」,这对需要特定局部化学环境的适配体与核酶更直接。

Infra

11. 换个模型就要从头重算整个缓存——只重算三成关键位置,就能拿回九成以上的目标精度原文

信号源:南加州大学、加州大学欧文分校、英特尔实验室
🚰

认知提取

在同一会话里从小模型切到大模型,或者把难问题升级给更强的模型,接收方都得把整段上下文重新预填一遍,因为缓存里装的是每个模型自己的表示。
已有的做法用线性映射把缓存搬过去,但模型规模差得越多,搬运精度掉得越厉害。
这篇论文发现失效集中在少数信息密度高的位置上,于是只对这些位置重算,其余照搬映射结果。

论文摘要

• 问题被定位为容量差距:Qwen3 里目标一四 B 与源零点六 B 相差二十三倍,Llama3 里有一组相差八点八倍。原文实验
• 判定哪些位置需要重算的指标叫秩分歧:它给每个 token 打分,看映射后的 KV 在标定数据支持很弱的方向上有多大能量。原文方法
• 完整的缓存由两部分拼成:源模型映射过来的 token 与目标模型重算出的 token。原文方法
• 评测覆盖两个模型族与五个基准,且每个基准都用完整测试集。原文实验
• 论文把重算比例 ρ 从零扫到零点五,其中零代表完全不做目标侧重算,也就是复现此前工作的设定。原文实验
RaReCache 的管线与精度—代价曲线
图一:左侧是小模型预填、线性映射、按秩分歧选出关键位置重算再拼成目标缓存的流程,右侧是 GSM8K 上精度相对预填算力的曲线。这张图要读的是右侧那条绿线:ρ 等于零点三时已接近一四 B 独立作答的水平,而预填算力降到约四成。原论文图

核心方法

• 映射矩阵用每个任务训练子集的一二八 K 到三五零 K token 标定,且与评测条目严格不相交。原文实验
• 目标模型的每一层用八层源层映射(Qwen3 与小跨度的 Llama3 对),八 B 到七十 B 这一组用二十层。原文实验
• 选择器固定秩为一百二十八,全对比较时也在相同预算下比四种选择器与随机选择。原文实验
• 论文同时报告系统侧结果:预填加速、批处理吞吐与泊松到达下的首 token 时延,用来判断收益能否落到服务端。原文实验
• 未做重算的纯搬运也被完整报出:它比容量最小的源模型自己作答高十二点四到二十四点六个百分点,说明映射本身已经带出源模型用不上的信息。原文结果

实验成果

• 主结果:在二十三倍参数差下,只重算三成位置就把目标模型原生精度的百分之九十四点八拿回来(GSM8K 从七十一点六升到九十点二),ARC-Challenge 拿回九成六九、ARC-Easy 拿回九成八六。原文摘要
• 差距更大时也成立:八点八倍参数差下重算四成位置保留百分之九十六点五的目标精度。原文摘要
• 重算抹平了源模型规模的影响:GSM8K 上三个源在 ρ 等于零点四时差距不到零点九个百分点,MMLU-Redux 上的差距从二十三点六压到四点三。原文结果
• 代价被量到具体倍数:重算三成位置时预填 FLOPs 约为目标全量预填的二点六分之一。原文结果
五个基准上精度随重算比例的变化
图二:五个面板分别是 GSM8K、MMLU-Redux、ARC-Challenge、ARC-Easy 与 LongBench-E QA,横轴是重算比例 ρ,虚线是各源模型独自作答、灰实线是目标模型独自作答。这张图要读的是蓝色那条线(容量最小的源)——它在 ρ 从零到零点三之间的陡升,正是重算替代源容量的证据。原论文图
• 选择器的比较是本文的方法论点:秩分歧在相同预算下优于标准启发式,也优于随机选择,并在各源模型之间保持稳定。原文结果
• 反向也成立:大模型缓存映射到小模型时,小模型的能力也能被抬起来,论文单列了这一组。原文结果

总结与反思

• 结果总结: 论文把跨模型缓存复用的失效定位到少数位置,并给出一个不需要目标模型标签的选择指标,使重算从「全量」变成「按需少量」。
• 局限性: 映射矩阵需要每个任务单独标定,跨任务复用性未验证;评测集中在同族或相近架构的模型对;系统侧收益依赖具体实现,论文自己列出各优化阶段才能达到标称加速。
• 前沿见解: 如果切换模型的代价可以压到三成重算,那么多模型级联的成本结构就会改变——路由到更强模型不再意味着重付一次完整的预填。

Agent

12. 别等跑完再翻日志——把智能体的每一步与历史成功轨迹流式对齐,每步约一毫秒就能预警原文

信号源:Cribl AI Research Lab
链接:OnTrack: Real-Time Monitoring and Intervention in LLM Agent Trajectories via Streaming Structure-Aware Optimal Transport
📡

认知提取

给智能体加监控,现在只有两条路:再放一个模型逐步看,贵且慢;或者事后翻日志,那时 token 已经烧完、不可逆的动作已经发生。
这篇论文把监控做成流式的:把正在生成的步骤与依赖结构跟已知成功的轨迹对齐,每步大约一毫秒就能报警甚至拦住。
它同时诚实地给出三种信息条件——有完整历史、只有工具模式、什么都没有——并说明监控能力会随信息减少而收缩。

论文摘要

• 监控器的输入是两条:不断增长的前缀图,以及若干条形式相同的已知良好执行。原文方法
• 对齐用带结构项的最优传输,代价表把「这一步与参考中的哪一步匹配」与「这一步本身是否合理」分开计分。原文方法
• 失去参考时退到无参考的启发式层,识别循环、停滞与重复调用;失去模式时退到只读日志的信号层。原文方法
• 评测分两段:构造真值的受控故障注入,以及二千二百九十四条真实 SWE-agent 轨迹的流式重放。原文实验
• 论文把「提前预警能否换来成本节省」当作主实验,并给出一个把误停率控制住的停机策略。原文实验
监控器的输入、前缀图与参考的对齐
图一:上方是逐个到达的事件流,左下是随事件增长的前缀图,右侧是已算好的参考图,两者经对齐相连。这张图要读的是图里那条虚线——依赖是事后才补上的,前缀图因此必须允许回溯修正,这正是它不能简单用逐点相似度替代的原因。原论文图

核心方法

• 代价表把 plausibility 与 alignment 分开:dark 格子代表不可信,例如把「grep error」匹配到搜索、把「edit migration」匹配到编辑,而凭空出现的「fetch weather」在任何列上都不可信。原文方法
• 目标被写成带掩码的最优传输,掩码保证前缀只看到已经生成的边际,因此可以在流式条件下求解。原文方法
• 停机策略不用「一有标志就停」:那种朴素门槛的误停率接近百分之九十九,因此只对严重标志做窗口内密度判断。原文方法
• 论文把不确定性写进部署说明:当既没有工具模式也没有参考时,闸门按「默认放行」工作,并明确这是一条部署策略而不是安全保证。原文方法
• 组件归因在真实轨迹上单独做过,用来分辨哪一层负责哪类故障。原文实验
代价矩阵与对齐的玩具示例
图二:左侧是三步智能体与四步参考之间的代价矩阵,深色代表不合理,右侧是求解出的对齐矩阵。这张图要读的是最后一行:凭空出现的「fetch weather」那一行几乎全空,也就是任何对齐都无法容纳它,这类步骤因此会被单独标成偏离参考。原论文图

实验成果

• 主结果:只看前八步时,本方法区分失败与成功轨迹的 AUROC 为零点六三一,比内容相似度基线高零点零五七(置信区间零点零三三到零点零八零)。原文主表
• 优势是早期优势:在 k 等于五到十的检查点上差值区间都在零以上,到 k 等于十五以后余弦基线追平,这与在线监控的工作区间一致。原文主表
• 停机策略把误停压住:阈值取零点六时真实停机率百分之二十三点三、误停率百分之二十点七,节省约百分之十七点九的算力,其中被判停的轨迹有八成三本来就会失败。原文主表
前 k 步本方法线性无结构传输余弦相似度步数基线图编辑距离
50.6120.5950.5520.6220.574
80.6310.6280.5740.6130.576
100.6220.6140.5890.5980.552
150.6350.6260.6330.5800.551
200.6480.6380.6460.5540.566
表一:原论文第 6 节的 AUROC 检查点表以数字形式给出,本节以 Markdown 复现。表里可读出的是差值只在 k 小于等于十时显著,也就是说这是一条早期预警曲线。
• 延迟满足实时要求:在三条参考、序列不超过四十步的配置下,快路径单事件的五十分位为零点八五毫秒、九十五分位为一点六毫秒。原文结果
• 一个自曝的工程细节被写进正文:闸门的首次实现读的是上一次事件缓存的边界,因此拦下了全部五十个合法的不可逆调用,而只测「该拦」的测试套件完全看不出来;补上「该放行」测试后才暴露。原文讨论

总结与反思

• 结果总结: 论文把轨迹监控从「事后判分」推进到「在飞行中判分」,并给出信息条件、延迟与成本节省三者的完整对照。
• 局限性: 收益集中在早期,后期与余弦基线没有差距;停机策略在阈值零点六下仍会误停两成轨迹;当既无模式也无参考时闸门默认放行,这一边界由论文自己标出,不是安全承诺。
• 前沿见解: 如果每步都能以毫秒级成本拿到偏离信号,那么「先跑再说」的默认就会变成「跑到一半就能喊停」,这会把智能体的成本曲线从线性改成带截断的形状。

13. 记忆能不能进上下文,和进去之后怎么说,是两件事——把它们拆开后,越界失败最多降二十九点五个百分点原文

信号源:琶洲实验室
链接:What to Admit and How to Present: Governing Persistent Memory in LLM Agents
🗂️

认知提取

给智能体加持久记忆能提升个性化,也会带来讨好与跨域泄漏:用户上个场景说的话被搬到这个场景里用。
这篇论文把治理拆成两个独立决定:准入决定哪些被召回的信息能进入工作上下文,呈现决定已准入的信息怎么被表达。
两者都是推理时的设计,不重训模型,而且论文发现真正起作用的主要是准入那一半。

论文摘要

• 两种准入设计都不重训:因子编录取整条记忆评估六个类型化因子,再映射到五个类型化通道;权限语义把条目拆成带类型的单元,按六类许可逐单元裁决。原文方法
• 政策是不对称的:约束与当前偏好「失效开放」,属性不确定时保留在支持性通道里;信念与未证事实「失效关闭」,不确定即排除。原文方法
• 呈现侧同样有两个选项:按权限说明加标题,或按类型化通道加标题,两者共享完全相同的准入判定。原文方法
• 评测分两个面:四个骨干模型的开发集,以及外部基准上四个任务各三百个样本。原文实验
• 被排除的单元在物理上不进提示,论文明确说明这一点,因此「不呈现」与「不进入」可以分开测量。原文方法
准入与呈现两级治理的总览
图一:上半是准入级——一次批量裁决定属性,再编译成两种准入设计;下半是呈现级——判决相同、两种写法不同的标题结构。这张图要读的是中间那条分界线:准入与呈现被有意拆成两个可以单独替换的开关,而不是一个整体的「记忆策略」。原论文图

核心方法

• 裁定被写成一次批量调用:把情境(回答目标与任务模式)、被切成单元的记忆、以及只针对事实的判断一起交给同一次裁决,减少往返。原文方法
• 因子编取针对混合条目设了允许内容字段,用来限定一条记忆里哪部分可用,而不是整条收或整条弃。原文方法
• 统计上先做预注册,再按 Holm 校正判断哪些比较成立,论文把「方向一致」与「独立显著」分开表述。原文实验
• 为了让「分组」不成为解释,论文单独做了一次对照:只按基准给的领域标签分节、不做准入裁定。原文结果
• 论文还做了预算匹配对照,让每个比较臂拿到与权限语义相同数量的记忆单元,以分离「选得准」与「选得少」。原文结果

实验成果

• 主结果:相对逐字注入,两种准入设计在外部基准上把合并判定失败率从四十六点二降到三十九点五与三十七点四,分别降六点七与八点八个百分点。原文摘要
• 跨域泄漏是主要受益维度:Qwen3.7-Max 从四十四点零降到十四点五与十八点零;Kimi-K2.6 从三十七点零降到二十二点五与二十二点零。原文结果
• 目标匹配那一格效果最大:失败率从四十五点二降到二十点四(降二十四点七个百分点),同时答案准确率从五十六点二升到七十五点九。原文结果
• 固定呈现、单独收紧准入,跨域失败再降十七点五个百分点;相反,在判决相同的前提下两种呈现之间没有稳健差异。原文结果
比较逐字注入准入后差值
外部基准合并失败率46.2%37.4%−8.8 pp
跨域泄漏(Qwen3.7-Max)44.0%14.5%−29.5 pp
目标匹配问题失败率45.2%20.4%−24.7 pp
目标匹配问题准确率56.2%75.9%+19.7 pp
表一:原论文外部基准与开发集结果以表格给出,本节以 Markdown 复现其中四个关键格(跨域泄漏那一行取自开发集上的 Qwen3.7-Max),用于说明准入改动的作用幅度。
• 边界被如实标出:有一个骨干在逐字注入下跨域泄漏最高(六成四),准入没有显著降低它的泄漏,论文因此没有从这一个反例外推阈值。原文结果

总结与反思

• 结果总结: 论文把「记忆治理」拆成准入与呈现两个可独立替换的决定,并用预注册的统计口径说明作用主要来自准入。
• 局限性: 效果在不同骨干间不一致,存在一个不改善的反例;外部基准的扩展部分未单独预注册;判定本身依赖一次语言模型裁决,裁决质量会传导到治理效果。
• 前沿见解: 如果越界主要来自「把不该进来的东西放进来」而不是「说得太直白」,那么记忆系统的设计重点就应该前移到召回之后的准入判定,而不是表达层的措辞。

应用体系

14. 删掉法规、换成别家的法规,判决几乎不变——合规系统大多没有真的在用你给它的规则原文

信号源:Lexsi Labs
链接:Verdict Without the Rule: Diagnosing and Auditing Regulatory Rule Sensitivity in LLM Compliance Systems
⚖️

认知提取

合规系统被部署的前提是「判决取决于你给它的法规」,但这个前提很少有人直接检验。
这篇论文的做法很直接:在案件不变的前提下删掉法规、换成无关领域的法规、或者把义务反转,看判决与内部表示会不会跟着动。
结果几乎不动,而且准确率本身并不能说明判决有依据——通用模型准确率在九成上下,但规则敏感性同样很低。

论文摘要

• 两个仪器并列:行为侧的规则敏感性统计判决在四种规则条件下的翻转比例;表示侧测量残差流在合规方向上的偏移。原文方法
• 三种扰动条件分别是删除规则、换成无关领域的规则、反转规则义务。原文方法
• 评测覆盖五个模型与二十个法规或平台政策领域,每个领域二百个案例。原文实验
• 一百个(模型,领域)单元上的平均规则敏感性为零点零六九,远低于零点五的独立参考值。原文结果
• 论文强调这不是全局忽视:在「删掉规则会让原本正确的预测变错」的规则必要子集上,模型会紧盯规则。原文结果
OCS 与 ICS-delta 两个仪器的管线
图一:上方是输入、三种规则扰动、模型、输出与测量五步,下方左侧是行为仪器、右侧是表示仪器,最下面是同一个案例的完整示例。这张图要读的是行为与表示两条通道被并列画出——如果判决不跟着规则动,而内部表示也不动,问题就不在解码层而在更前面。原论文图

核心方法

• 行为口径被拆成三种扰动各自一个数,因为「删掉」与「反转」在语言上要求的条件不同:反转需要规则本身写成强制性义务。原文方法
• 表示口径定义为基线残差方向与扰动后残差方向之间的夹角余弦距离,用来判断模型内部有没有为合规单独编码一个方向。原文方法
• 论文先建立经验零假设:用模型自己两种条件下的判决边际算出独立情形下的期望翻转率,再做一万次域内置换检验。原文方法
• 语言学回归从每条规则文本抽五个特征——例外条款密度、交叉引用数、强制性模态比、平均依存树深度与可读性等级——用来解释领域间差异。原文方法
• 两种干预被单独测试:把规则塞回提示词的规则接地提示,以及沿合规方向直接做激活引导。原文方法

实验成果

• 主结果:规则敏感性在五个模型上都远低于独立参考,最低为零点零一三(Llama-Guard-3-8B),最高为零点零九四(Qwen2.5-7B),均值为零点零六九。原文主表
• 三种扰动的排序稳定:整条规则被删掉时判决最不易改变(零点零五三),反转义务为零点零七零,换成无关领域规则为零点零八二。原文主表
• 专用护栏模型反而最差:Llama-Guard-3-8B 的准确率只有百分之五十一,几乎在随机水平,而通用模型为百分之九十到九十二。原文摘要
领域与模型网格上的规则敏感性
图二:纵轴是二十个法规与平台政策领域,横轴是五个模型,颜色深浅表示判决翻转率。这张图要读的是整片偏冷而只有一格偏暖——唯一明显偏暖的一格是某模型在网络安全框架领域,且这一格没有被任何其他模型复现,说明规则敏感性主要是模型特异性而非领域特异性。原论文图
• 准确率不能替代敏感性:规则敏感性高的模型并不系统地更准,两者在全部单元上的相关只是勉强接近显著。原文结果
• 两种干预都关不上这个缺口:规则接地提示只在个别模型上带来显著提升,沿合规方向做激活引导则在负向明显损害准确率、正向从不显著帮助。原文摘要
• 数据本身给出了一种解释:三个领域的规则完全不是强制性措辞(占百分之零),因此对这类领域做义务反转在语言上无从适用。原文结果

总结与反思

• 结果总结: 论文给出一个可复用的审计口径,把「判决有没有依据」从一个定性担忧变成可以在二十个领域、五个模型上量出来的两个数字。
• 局限性: 二十个领域的规则文本由论文自选,领域集合的抽样偏差会影响均值;表示侧仪器依赖中间层残差的线性读出,未验证是否唯一;结论说明的是「大部分案例不敏感」,不能推出模型完全没读过规则。
• 前沿见解: 如果一个合规判决对输入规则的变化几乎不敏感,那么合规评测就应该把「规则扰动下的稳定性」列为核心指标,而不是继续堆准确率。

Benchmark

15. 让榜单自己说出「这句话能承受多少次被做手脚」——一个随每条记录更新的容忍度原文

信号源:佐治亚理工学院 H. Milton Stewart 工业与系统工程学院
链接:Certified Corruption Budgets: Anytime-Valid Leaderboard Claims under Adaptive Rigging
📊

认知提取

公开榜单被持续阅读,而攻击者能看到每一次公布的名次:刷票、选择性披露私有版本、基准污染都能挪动排名。
已有的保证要么假设记录是真的,要么限制每一步的污染量,前者不设防,后者挡不住攒着一次性放出来的攻击。
这篇论文让每条对比结论自己带一个数:这条结论能承受多少次记录被做手脚,而且这个数随记录持续更新、随时有效。

论文摘要

• 证书是一条成对声明,它同时宣告两件事:要么这条声明成立,要么被污染的记录超过容忍度,两者合并的概率至少是一减 α。原文方法
• 保证是「随时有效」且在全部时刻同时成立,并且对能看到每一张证书、预算不受限的攻击者也成立。原文摘要
• 伪造记录与事后篡改记录需要不同的证书:针对伪造的证书在「翻转已看过的票」这类攻击下会失效。原文摘要
• 论文证明代价差不多是两倍的那类证书才普遍有效,并且没有更小的收费能在所有层级都成立。原文摘要
• 私有版本也要计费:公开 V 个私有变体中的最好一个,代价只按 V 的对数增长。原文摘要
容忍度在不同攻击下的有效性
图一:两个面板分别是把伪造票集中在一个时刻投放、以及按顺序逐步投放时,空数据上做出错误声明的概率随容忍度的变化。这张图要读的是那条虚线与实线带的关系——容忍度设到虚线以上之后,即使攻击者攒够预算一次性投放,错误声明的概率也压在 α 之下。原论文图

核心方法

• 容忍度被设计成随记录数增长的量,增长速率接近任何有效方法所允许的上限:胜负比例为二分之一加 δ 时,每多一条记录大约多容忍两倍 δ 条伪造记录。原文摘要
• 论文把这件事写成逐边的赌注式验证:对每一对模型维护一组随记录更新的下注,而不是在固定样本量之后做一次检验。原文方法
• 三类污染被分开处理:伪造记录、看到之后才被改写的记录、以及污染带来的名次移动;后者要用与前者不同的记账方式。原文方法
• 评测既有模拟也有真实数据重放:真实数据取 Chatbot Arena 的票与 HELM 的 MMLU。原文实验
• 论文还测试了前沿基准上的封闭检验,用来判断同时对所有成对声明给出保证时的代价。原文实验

实验成果

• 主结果:在一百八十万条 Chatbot Arena 票上重放,几百条被做手脚的票就足以让标准置信区间认证出错误排序,而本文的证书保持有效。原文摘要
• 在真实票上,证书显示清晰分开的模型可以承受大约二千条伪造票。原文摘要
• 规模上可落地:论文在最后一百二十天的数据上对一百二十九个模型的一万六千五百一十二个有序对同时给出边声明的容忍度。原文结果
Arena 上各模型对之间的容忍度矩阵
图二:左右两个矩阵分别对应「插入伪造票」与「翻转已看过的票」两种攻击,格子里是这一对模型名的边声明能承受的票数。这张图要读的是两张矩阵的数值差——同样的模型对在翻转攻击下容忍度普遍更低,这正是论文说的「两类记录需要不同证书」在真实数据上的样子。原论文图
• 私有变体的代价可控:开发者发布 V 个私有变体中的最好一个时,需要额外计的容忍度只按对数增长,因此在有限变体数下不致命。原文结果
• 基准污染这一侧也被量了:论文在 HELM 的一万四千零四十二道 MMLU 题上重放受污染条目,检验在题目被选择性剔除时名次声明还能不能成立。原文结果

总结与反思

• 结果总结: 论文把榜单名次从「一个分数」变成「一个带容忍度的声明」,并给出在攻击者看得到全部证书、预算不受限时仍然成立的保证。
• 局限性: 保证针对的是成对声明的正确性,不解决评测题目本身是否有代表性;容忍度是按记录数计价的,记录分布若有系统偏差则不在模型内;论文的实证重放集中在少数公开数据源。
• 前沿见解: 如果每条名次都能带上一个「承受多少污染仍然成立」的数,那么读榜单的方式就会变——先看这个数,再决定要不要因为一个名次去调整技术路线。
arXiv 每日论文速读 · 奇绩信号风格
arXiv 每日论文速读 · 奇绩信号风格@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 头条
  • 1. 把 METR 那条被反复引用的曲线重估一遍——人类耗时到 AI 难度不是一条直线,二到三十分钟那一段几乎是平的原文
  • 2. 在智能体拨错号之前,把书面政策编译成一道可静态核验的闸门——只有一趟调用语言模型原文
  • 3. 同一句「我没有这个目标」,在一只模型上是谎、在另一只上是真——白盒探针把两者分开原文
  • 4. 五千万 token 的记忆:把 KV 状态按块写进加密本地盘,取回比重算快几倍也省电几倍原文
  • 认知模型
  • 5. 不带一句字幕也能学——让语言模型在中途训练里预测下一帧的视觉 token,图像与视频一起涨原文
  • 6. 循环模型的解一旦解出来就会被下一次更新改坏——给循环里的残差连接自己一套规则,能撑到两万步以上原文
  • 多模态
  • 7. 一个音频嵌入里还剩多少声音?把冻结表示重新解码成波形,量化它到底藏了什么原文
  • 具身智能
  • 8. 不给一条新示范——只给机器人补上「为什么这么做」的推理轨迹,零样本成功率最多加五十个百分点原文
  • 9. 策略发出的指令不等于机器人真的做到了——把人形机器人执行后的机体状态也变成预测目标原文
  • AI4Science
  • 10. 把 RNA 的序列与三维结构一起设计——用一个残基级潜变量把整体折叠与局部几何绑在一起原文
  • Infra
  • 11. 换个模型就要从头重算整个缓存——只重算三成关键位置,就能拿回九成以上的目标精度原文
  • Agent
  • 12. 别等跑完再翻日志——把智能体的每一步与历史成功轨迹流式对齐,每步约一毫秒就能预警原文
  • 13. 记忆能不能进上下文,和进去之后怎么说,是两件事——把它们拆开后,越界失败最多降二十九点五个百分点原文
  • 应用体系
  • 14. 删掉法规、换成别家的法规,判决几乎不变——合规系统大多没有真的在用你给它的规则原文
  • Benchmark
  • 15. 让榜单自己说出「这句话能承受多少次被做手脚」——一个随每条记录更新的容忍度原文