奇绩信号Alpha Sight 2026年7月29日【文字版】

今日主线

头条

1. 自主研究开始给搜索过程算账：Efficiency Matters in Autonomous Research

• 论文在十二个系统优化任务上比较 hill climbing、beam search、tree search 和 evolutionary search，并发现没有一种搜索结构在所有任务上都占优。
• 作者把最终结果质量与达到结果的速度拆成两个维度，主张用 Pareto frontier 的 AUC 同时评价二者。
• 论文提出 fluid search：用 portfolio bandit 在多条搜索链之间动态分配固定预算，运行中学习当前任务更适合哪种搜索结构。

▲ 图一：四类固定搜索策略在十二个系统优化任务上的前沿结果；不同任务的领先策略不同，说明单一搜索结构没有普适优势。原图：arXiv HTML

• 每条搜索链维护一个当前最优 artifact，系统根据 verifier 得分、近期改进比例、当前奖励和已分配评估次数计算下一轮 UCB 式分数。
• fluid search 把 hill-climbing 的局部编辑、beam search 的早期扩展和 evolutionary search 的多样性档案组合到同一预算分配器里。
• 当链条崩溃或长期没有改进时，系统可以从已有档案重新播种；因此搜索预算不是平均撒给所有候选，而是逐渐集中到更有希望的链。

▲ 图二：fluid search 的链式搜索、预算分配和平均效率结果；其归一化 AUC 接近按任务预先知道最佳策略的 oracle。原图：arXiv HTML

• fluid search 的归一化 AUC 为零点七八零，优于最强固定策略 beam search 的零点七一八，并接近 per-task oracle 的零点七八四。
• 论文报告最终结果质量与收敛比例的 Pearson 相关系数只有零点四零，说明「最终能做到多好」不能代替「预算花得是否有效」的评价。
• 在 gaussian blur、flash attention 等任务上 beam search 更快接近平台；在 crash-prone 的 bvh raytracer、regex engine 上 evolutionary search 更占优势。

• 结果总结：fluid search 证明了 portfolio bandit 能在未知任务结构下接近 oracle 级搜索效率。
• 局限性：实验是十二个系统优化任务，效率指标依赖 verifier，不能直接推出真实科学实验场景中的成本收益。
• 前沿见解：当自动研究进入昂贵的物理实验或湿实验阶段，搜索轨迹的预算效率会从辅助指标变成系统能否落地的硬约束。

2. 把自回归模型改造成 uniform-noise 扩散模型：UNIFUSION

• 论文统一描述 SEDD、MDLM/GIDD、M2S 和 Neural CTMC 的条件损失，并给出从 clean-token prediction 到 concrete-score、posterior-mean、exit-rate/jump 的转换。
• 作者采用 continual pre-training，把预训练 GPT-2 checkpoint 适配到 uniform-noise diffusion，而不是只适配 masked diffusion。
• 在一亿二千四百万和三亿五千五百万参数模型上，采样步数从十六增加到二百五十六时，GenPPL 与 unigram entropy 的权衡持续改善。

▲ 图一：AR 输出作为 x0 或 μ 参数化时的训练损失；直接把预训练 AR 输出当作 x0 能更快进入 uniform-noise 训练。原图：arXiv HTML

• 以共享的 x0 接口承接自回归模型输出，再按 reverse-rate 公式转换到 SEDD、M2S 或 Neural CTMC 的 native parameterization。
• 通过同一训练数据、同一 GPT-2 checkpoint 和同一 uniform corruption，对比四类 rate-equivalent objective，尽量把差异限制在目标函数本身。
• 论文同时测试从 AR 到 mask、从 AR 到 uniform 等转换路径，观察预训练模型的先验是否能在不同 corruption kernel 之间保留。

▲ 图二：从自回归模型到 mask 或 uniform diffusion 的转换路径与 GenPPL 轨迹；同一预训练起点下，转换方式会改变训练早期和最终采样表现。原图：arXiv HTML

• 在二百五十六步采样下，UNIFUSION-S 的 GenPPL/entropy 为九十七点七八三/五点二六二六，UNIFUSION-M 为七十一点五一六/五点六六六九。
• 两种模型规模分别为一亿二千四百万和三亿五千五百万参数，评估步数覆盖十六至二百五十六步。
• 在 WinoGrande、SIQA 和 BBH 上，作者报告 UNIFUSION 在被比较的扩散模型中取得最高准确率，但该结论限定在论文的模型规模和训练预算内。

• 结果总结：UNIFUSION 用统一 reverse-rate 目标把自回归 checkpoint 迁移到 uniform-noise diffusion，并在两个规模上取得可比的采样质量。
• 局限性：模型规模仍小于当前主流大模型，论文摘要没有给出更大规模模型的迁移成本和长文本稳定性。
• 前沿见解：扩散语言模型的竞争点可能从「是否能生成」转向「是否能让已有自回归能力以更灵活的编辑轨迹运行」。

3. MoE 端侧推理的瓶颈不是算力，而是专家搬运：DraftExpert

• 论文针对 DeepSeek-V2-Lite 和 Moonlight-16B-A3B 的 CPU-GPU、Flash-NPU 专家卸载场景，研究单用户、延迟敏感的解码。
• 每层训练一个轻量 draft expert，用 residual、logit/token 和 router-agreement 信号从冻结的 target MoE 蒸馏。
• 推理时采用 shared+top-1+draft-expert 的固定 footprint 草稿器，最终 token 仍由 target model 精确验证。

▲ 图一：专家卸载让草稿、验证和预取都受到专家集合扩张影响；DraftExpert 用常驻草稿专家、截断和预取重新建立 speculative decoding 的三个条件。原图：arXiv HTML

• 置信度—扩张截断在验证前判断候选 token 是否会引入大量新 target experts，避免为了更长的验证块付出不可控的加载成本。
• target-expert prefetching 根据 router-agreement 预测后续要加载的专家，把部分 Flash 或 CPU 等待隐藏在计算过程中。
• 训练目标将 residual distillation、logit/token agreement 和 router agreement 分开，分别服务于草稿准确性和预取命中率。

▲ 图二：冷专家卸载下 top-r 草稿的接受率、延迟和速度提升；top-r 越大，接受率上升，但 draft latency 和专家加载量也快速增加。原图：arXiv HTML

• 在两种模型、两类卸载平台上，DraftExpert 的 decode throughput 平均提升一倍四五，草稿接受率达到百分之八十四至八十七，预取命中率为百分之八十六至八十八。
• 在冷卸载对比中，shared+top-r 的接受率从百分之二十二升到百分之四十二，但 draft 相对完整 target 的速度提升从四点七倍降到两点零倍。
• 在 Flash-NPU 场景，DeepSeek-V2-Lite 的专家卸载 AR baseline 为每秒十点一八 token，resident-memory AR reference 约为每秒十四点三六 token，说明搬运本身占据了可观的性能空间。

• 结果总结：DraftExpert 把 speculative decoding 的优化目标从 token 接受率改成专家集合扩张下的端到端吞吐。
• 局限性：实验强依赖卸载介质、量化格式和 accelerator runtime，不能把一倍四五概括成所有端侧 MoE 的固定收益。
• 前沿见解：端侧 MoE 的系统优化会越来越像内存调度问题，模型结构只是搬运路径的一部分。

4. 长视频推理开始按置信度分配工具预算：CADER

• 高置信度样本直接退出；低置信度样本才进入 temporal cropping、轻量语义验证和 Relevance-Guided Resampling 循环。
• CADER 不需要额外训练，依赖 global reasoning 的答案置信度把视频问题分成早退和继续取证两类。
• 论文在多个 VideoQA 基准上验证了自适应路由，并在只用无工具 chain-of-thought 训练的 backbone 上测试推理时工具增强。

▲ 图一：CADER 的统一推理管线；Stage 1 负责全局判断，只有低置信度样本才进入裁剪、验证和反思。原图：arXiv HTML

• 用 logit margin 作为样本级置信度，设定阈值后允许高置信度答案提前结束。
• 第二阶段先按问题相关性重新采样时间片段，再通过语义验证器判断证据是否足够；未通过时继续反思，但设置最大循环次数。
• 这个设计把「多看一些视频」变成条件动作，避免对所有样本使用同样的工具链。

▲ 图二：均匀采样与 Relevance-Guided Resampling 的时间证据差异；后者把更多采样集中到与问题相关的时间段。原图：arXiv HTML

• 在 LVBench 案例中，高置信度样本的 Stage 1 margin 为零点九九九，高于零点九七阈值，可直接退出。
• 一个低置信度案例的 Stage 1 margin 为零点零五六，经过两轮时间裁剪和验证后，答案置信度由零点三七八提升到零点六七九。
• 论文的 Stage 1 accuracy 随 logit margin 单调上升，支持用 margin 做预算路由；摘要没有给出跨基准统一的提升百分比。

• 结果总结：CADER 用置信度把长视频推理拆成便宜的早退路径和昂贵的取证路径。
• 局限性：logit margin 的校准依赖 backbone、视频采样方式和任务分布，早退阈值不是跨模型常数。
• 前沿见解：视频 Agent 的关键问题会从「能否调用工具」转成「何时值得调用工具，以及调用到什么程度」。

认知模型

5. 测试时记忆的淘汰，可以从猜测改成延迟测量：Eviction as Estimation

• 论文用 commit lag H 统一 online filter、learned predictor、fixed-lag smoother 和 Belady offline optimum：前两者是 H=0，Belady 是知道全部未来的极限。
• 作者提出 training-free 策略 RMM，用 demonstrated utility 给正确近未来预测实际关注过的 memory 加权，并证明其在均匀权重下退化为 H2O。
• 在自建受控任务中，RMM 能保留被重复使用的事实；在 NVIDIA KVPress harness 的独立测试中，RMM 单轮问答大致追平 H2O，流式多轮则落后。

▲ 图一：不同记忆淘汰方法在 commit lag 上的位置；RMM 位于立即决策与完整未来之间。原图：arXiv HTML

• 记忆项先进入大小为 H 的 provisional buffer，允许在滞后窗口内继续被读取；窗口结束后，再根据 demonstrated utility 与已提交缓存竞争。
• demonstrated utility 等于近未来窗口中，正确预测 token 对该记忆项的 attention 总和；它不需要人工标签，但需要 teacher-forced correctness。
• RMM 的缓存总容量是 K+H，K 是 committed cache，H 是延迟提交的 buffer，论文把这一额外内存开销单独计入。

▲ 图二：固定 K=四十的受控流式任务；RMM 在轨迹长度达到缓存容量十倍时仍接近无界 oracle，但这是作者构造的复用清晰场景。原图：arXiv HTML

• 受控多跳问题中，demonstrated utility 把两条 gold facts 放进十六项候选前列的比例约为百分之八十，accumulated attention 和 recency 约为百分之十。
• 在 K=四十的受控流式任务里，RMM 的重查询回答率约为零点七零，recency 为零；无界 ceiling 约为零点八零。
• 独立 LongBench 单轮测试中，RMM 与 H2O 接近；LoCoMo 后续轮次中，full cache、SnapKV、H2O、RMM、StreamingLLM 的 F1 分别为零点二一八、零点二零九、零点一七六、零点一四七、零点零七八。

▲ 图三：KVPress harness 中的独立基准结果；RMM 在单轮压缩上与 H2O 相当，却在流式多轮场景落后于 H2O 和 SnapKV。原图：arXiv HTML

• 结果总结：固定滞后平滑提供了一个清楚的记忆淘汰分析坐标系，RMM 也具备 H2O 的严格退化路径。
• 局限性：RMM 依赖 eager attention，论文能运行的上下文约八千 token；自然文本中的正确性权重接近均匀，优势因此消失。
• 前沿见解：真正缺的不是又一个 cache scorer，而是能检验「内生复用」的长时记忆基准，让测量型策略有机会在真实任务中被公平评估。

多模态

6. 医学多模态模型的瓶颈，是结构化视觉与专家评价：ClinFusion

• 模型把基础视觉编码器、specialist 2D encoder 和 native 3D encoder 级联，通过 Cascade Spatial-Aware Locality Fusion 统一多种医学图像输入。
• 论文提出 MedIF-Bench 评估指令跟随，并用 region-of-interest-grounded 方法评估报告生成的 clinical factualness。
• ClinFusion 在二十四个基准中的二十个超过领先开源医学 MLLM，在与 GPT-5.2、Gemini-3-Flash 的十六个比较基准中赢下十三个。

▲ 图一：ClinFusion 的组合式视觉编码器、CaSL Fusion 与语言解码器；2D 和原生 3D 信息在视觉侧融合后进入同一语言模型。原图：arXiv HTML

• Cascade Spatial-Aware Locality Fusion 用局部空间对应关系把不同视觉编码器的特征逐级融合，避免简单拼接让细粒度结构被平均掉。
• 训练采用渐进式多阶段策略，先做图文对齐，再加入 2D/3D 医学理解、报告生成和指令跟随。
• RoI-grounded metric 把报告中的实体和关系与图像关注区域关联起来，并用放射科医生盲评验证自动指标与专家判断的相关性。

▲ 图二：2D/3D 医学问答、报告生成和文本任务的综合结果；模型覆盖面扩大后，优势不只出现在单一 VQA 指标。原图：arXiv HTML

▲ 图三：报告生成评价、视觉融合方式和原生 3D 编码器的消融；图中同时显示临床上下文、融合结构与 3D 能力对结果的影响。原图：arXiv HTML

• ClinFusion 在二十四个基准中超过领先开源医学 MLLM 的二十个，在十六个与 GPT-5.2、Gemini-3-Flash 的比较中超过十三个。
• 论文报告，随机残差正则化使平均 3D VQA 从六十四点八升到六十五点八，报告生成的平均 Precision/Recall/F1 从二十三点四/十三点三/十五点一升到二十三点七/十四点零/十五点七。
• 训练语料从十万篇期刊文章和七十八万五千份病例报告中整理出七十四万九千张高质量医学图像—文本配对，并生成六十一万条 dense-caption 样本。

• 结果总结：ClinFusion 把医学 MLLM 的视觉覆盖、3D 输入和评价协议放进一个完整系统，结果横跨问答、报告和指令跟随。
• 局限性：二十四个基准包含作者重评测与自建 MedIF-Bench，跨论文比较仍需核对数据许可、提示词和模型调用条件。
• 前沿见解：医学多模态模型的下一步不是继续堆更长报告，而是让每个诊断句都能回指图像区域和临床证据。

具身智能

7. VLA 的动态精度应该跟着机器人动作走：VQVLA

• 论文提出 MotionVQ，根据连续动作的运动幅度判断 execution state 与 transition state，并动态选择高、低两套量化精度。
• merged-centroid vectorized GEMM 直接在 codebook-index 表示上做计算，通过 spatial merging 和 temporal reuse 减少重复乘法。
• 作者设计配套 accelerator，在 OpenVLA 等 VLA 模型上比较 A100、Dadu-Corki、LUT-DLA、CodeGEMM 和 ShiftAddLLM。

▲ 图一：VQVLA 从运动状态判断、动态量化到 centroid reuse 加速器的整体流程。原图：arXiv HTML

• 用动作向量的三维运动幅度 D 判断状态，D 小于阈值时使用高精度配置，D 较大时使用低精度配置；两套 codebook 分别使用二百五十六和六十四个 centroids。
• spatial merging 把同一 weight group 内映射到同一 centroid 的输入先求和，再做一次乘法。
• temporal reuse 在不同列之间缓存相同 centroid 的中间结果，跳过重复的 activation × centroid 计算。

▲ 图二：不同噪声下 execution state 与 transition state 的任务成功率；transition state 对同等噪声更宽容，支持动态精度切换。原图：arXiv HTML

▲ 图三：MotionVQ 的状态预测和精度适配流程；核心选择是用动作幅度作为低成本状态代理。原图：arXiv HTML

• VQVLA 相对 A100 GPU、Dadu-Corki、LUT-DLA、CodeGEMM、ShiftAddLLM 的加速比分别为六点五倍、二点八倍、一点九倍、三点三倍和四点三倍，准确率下降可忽略。
• VLA 四个阶段的平均推理时间占比为 tokenizer 百分之二点七、ViT 百分之十六点六、transformer backbone 百分之八十点六、action head 百分之零点一。
• 运动幅度小于零点八且距离物体小于零点一六的动作更常处于精细交互阶段；论文据此划分 execution 与 transition 两类状态。

• 结果总结：VQVLA 同时利用运动状态、权重向量相似性和 centroid locality，给 VLA 推理提供了算法—硬件协同的加速路径。
• 局限性：速度提升是加速器、模型、任务和比较基线共同决定的结果，不能直接换算成所有机器人平台的控制频率。
• 前沿见解：具身模型的推理优化会越来越依赖动作阶段，统一精度和统一缓存策略可能本身就是浪费。

Agent

8. 让 Web Agent 在行动前写下可被证伪的承诺：FCPAgent

• FCPAgent 在 WebArena 上测试长时 Web 任务，计划步骤与可复用 skill 绑定，并显式记录 confirming evidence 与 falsifying evidence。
• 执行采用 plan-test-repair loop，candidate action 执行前和 browser observation 返回后都可触发检查。
• 发现证据否定当前 commitment 后，系统在 execution、skill 和 planning 三个范围中选择最小修复层级。

▲ 图一：FCPAgent 的可证伪承诺、运行时测试和局部修复；关键变化是把「计划是否仍可信」变成可检查对象。原图：arXiv HTML

• fast tester 用轻量 evidence matching 处理常规状态，slow verifier 只处理完成态、风险动作或含糊状态，避免每一步都调用昂贵反思。
• post-state testing 检查动作执行后是否真的推进了目标，pre-action testing 则阻止已经不符合前置条件的动作修改浏览器。
• scope-aware repair 优先局部修复，其次切换 skill 或 replanning，最后才 backtracking/restart。

▲ 图二：从搜索结果到 drift detected 再到修复后状态的案例；局部证据被否定时，系统不必重写整条计划。原图：arXiv HTML

• 在 WebArena 上，FCPAgent 相比最强基线的平均成功率相对提升百分之十三点八，长时任务增益更明显。
• 去掉 confirming evidence 后平均成功率从百分之六十八点二降到六十五点四，去掉 falsifying evidence 后降到六十三点二。
• 运行时成本中，fast tester 占百分之二点四，slow tester 占百分之四十三点一，executor 占百分之三十四点五；修复策略中 local repair 占百分之五十五，replanning 占百分之三十三。

• 结果总结：FCPAgent 把 Agent 的自纠错从事后反思改成行动前后都可触发的承诺检查。
• 局限性：WebArena 的浏览器状态和任务成功判定较明确，真实网站的动态布局、权限和外部副作用可能让 falsifying evidence 更难定义。
• 前沿见解：可复用 skill 若没有适用条件和失效证据，实际上只是把旧轨迹包装成新的计划。

应用体系

9. Active RAG 不该只报告「检索了多少」：When Should Active RAG Retrieve?

• 论文将 retrieval utility 定义为有检索答案相对 no-retrieval answer 的边际正确性变化，并区分 exact top-k、可部署阈值和保守预算前沿。
• 实验覆盖 knowledge-intensive multi-hop QA、多个 open instruction model 和不同检索源，观察到 harm、router ranking 和阈值转移误差都不可忽略。
• 作者发现简单 uncertainty 或 retrieval-score baseline 经常接近 learned utility router，因此单一 operating point 不足以证明复杂 router 有效。

▲ 图一：不同主动检索策略的准确率与归一化 token 成本；证据使用率相同，不代表触发侧成本相同。原图：arXiv HTML

• 用 utility frontier 评价触发分数是否能排出真正有用的检索样本，而不是只看某个阈值下的 accuracy。
• 用 held-out threshold frontier 检查校准数据上的预算能否迁移到未来样本，并报告 realized usage 与 threshold-transfer error。
• 单独拆 query-only routing、probe retrieval、no-retrieval generation 和 retrieved-context generation，形成 deployment cost decomposition。

• 在 Qwen2.5-1.5B 的 HotpotQA 上，always-retrieve 的准确率从百分之十五点四升到百分之四十三点四；2Wiki 从百分之二十一点三升到百分之二十八点五，但 retrieval harm 达百分之八点八。
• 在五 split、目标百分之五十预算的设置中，名义阈值超过目标的比例在 2Wiki 为百分之二十八点六，在 HotpotQA 和 MuSiQue 均为百分之六十五点七。
• HotpotQA 的五十百分比可部署准确率中，BUR-linear 为百分之三十三点八，minimum token confidence 为百分之三十三点三，entropy 为百分之三十二点九，query-only baseline 为百分之三十一点八。

• 结果总结：Active RAG 的评价必须把收益、伤害、实际用量和触发成本放在同一张账上。
• 局限性：论文的主要数字来自特定模型、数据集和检索器，不能据此断言某一种 router 在所有知识任务中最优。
• 前沿见解：Agent 系统的预算控制不应停在 token 预算，查询、检索和验证的前置成本都要进入决策函数。

Benchmark

10. ER 图是 VLM 的结构化理解压力测试：ERUnderstand

• ERUnderstand 包含二千九百六十张 ER diagram，来源覆盖教育材料、真实 schema 和合成样本，配有标准化 machine-readable representation。
• 常见 ER 元素的 F1 高于零点七四，但 weak entities、multivalued attributes 和 N-ary relationships 分别最低到零点二八、零点一四和零点零七。
• reasoning-augmented model 的整体性能提升百分之十五至二十五，但在标签扰动、复杂图和高阶关系上仍依赖语言先验。

▲ 图一：Original、Context-Free 和 Label-Permutation 设置下的 F1 对比；命名线索被破坏后，多数模型性能明显下降，说明语言先验会掩盖视觉结构缺陷。原图：arXiv HTML

• 数据集把每张图映射为 machine-readable schema，对实体、属性、关系和 EER 元素提供细粒度标注。
• 评测同时使用 component-level F1、BLEU、Macro-F1 和 Graph Edit Distance，避免只用文本相似度掩盖结构错误。
• 论文加入 Context-Free 与 Label-Permutation 控制，分别削弱语言命名和标签—角色对应关系，观察模型是否真的依赖视觉布局。

▲ 图二：Online Banking ERD 样例，包含 weak entity、multivalued attribute、derived attribute 和 composite attribute 等 EER 构造。原图：arXiv HTML

• 数据集规模为二千九百六十张图；真实生产 schema 层包含一百七十九张图。
• 合成数据上的 BLEU 为零点六九至零点八一、Macro-F1 为零点五二至零点七三；curated ERD 上 BLEU 降至零点四二至零点六四，Macro-F1 为零点五七至零点六四。
• 在 EER 元素上，实体和属性在 curated ERD 中的 F1 约为零点九零，在 synthetic ERD 中约为零点九五；multivalued attributes 对非 reasoning model 低于零点二零，N-ary relationships 低于零点一零。
• 高密度 Thesis Defense 图含二十二个实体，多数模型只能解析其中二至三个实体；在 IS-A-only 与中等复杂度图的对比中，GPT-4o 从零点九六三降到零点一一八，Gemini-2.5 从零点九四一降到零点零七三。

• 结果总结：ERUnderstand 把 VLM 的结构化图理解能力拆成可诊断的失败模式，补上了视觉问答与 schema 恢复之间的空档。
• 局限性：ER 图属于特定的结构化视觉领域，分数不能直接代表通用图表理解或数据库工程能力。
• 前沿见解：下一代视觉 benchmark 需要把输出约束到可执行结构，语言答案流畅度只能作为辅助指标。

阅读优先级