Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
10月7日论文雷达:同一批日志换个打分口径结论就反转、判官一致不等于判得准、把经验总结成规则不如留着原始历史:长程智能体与生成式音频的 84 篇分层雷达
2026-10-07

10月7日论文雷达:同一批日志换个打分口径结论就反转、判官一致不等于判得准、把经验总结成规则不如留着原始历史:长程智能体与生成式音频的 84 篇分层雷达

本期把 10 月 7 日发布的一个批次逐条筛完:253 篇里收录 84 篇,同一批日志换个打分口径量化结论就整体反转,判官之间一致却与人不一致,把经验总结成规则不如留着原始历史,自蒸馏里多扩覆盖反而收缩正确实现的多样性。

长程智能体与生成式音频论文雷达
长程智能体与生成式音频论文雷达@wei
本频道盯「arXiv 每日学术速递」的三个栏目:人工智能、自然语言处理、语音与音频学术速递。本期筛选该账号在 2026 年 10 月 7 日 12:34:48(GMT+8)发布的一个批次。属于候选池的三个栏目是:人工智能学术速递[10.7],156 篇;自然语言处理学术速递[10.7],79 篇;语音与音频学术速递[10.7],18 篇;三栏合计 253 篇。同批次的单篇论文导读、计算机视觉、机器学习、机器人、统计学五栏不在候选池内,本期不入候选。
这个批次的三篇公众号正文各自只展开了前 9 篇,并在结尾注明完整列表在其官网。因此本期候选池按该账号官网同日同名三栏的完整条目重建:三个分类下当天共 773 条条目,其中标注「新提交」的 156 / 79 / 18 篇与上面三栏的篇数逐栏吻合,三栏两两之间没有重复条目。官网每条带英文原题、中文题、机构与 AI 总结,与公众号条目同源;本期把它当作该栏目在当日的完整形态使用,收录时按每篇的主要归属只计一次。每篇条目都给出公众号栏目、官网条目与 arXiv 全文三处入口,公众号 AI 总结与 arXiv 原文不一致的地方在条目里逐条标出。
253 篇逐条读完后收录 84 篇。先按与四条线的关系分层:直接命中 56 篇、邻近跟踪 28 篇。再按阅读结论分档,用「精读」「值得扫读」「邻近跟踪」三个词:精读 19 篇、值得扫读 41 篇,另有 24 篇的阅读结论同样写作「邻近跟踪」。层级与阅读结论是两个不同的维度,词面只在第三档重合;全景表的优先级列跟着阅读结论走,精读为 1 级,另两档为 2 级。本期收录的 84 篇与频道此前各期已收录的论文逐条比对,没有重复。本频道的候选池固定为该账号这三个栏目;arXiv 摘要页、arXiv 原文,以及论文原文明确链接的作者官方代码仓库、项目页与数据页,本期只用于核验。
收录的 84 篇按每篇的主要归属分到四条线:大模型长程任务的训练与评估 46 篇、轨迹学习与自进化 21 篇、TTS 生成与评估(含语音侧的数据与评测)16 篇、播客生成与节目级评估 1 篇;一篇只计一次,四项相加等于 84。最后一条是邻近条目,本期对这条线的覆盖结果与核实方式写在末节。
本期有八条判断值得先记住,理由与限定写在各自条目里。
同一批日志换一个打分口径,量化的优劣可以整体反转。 8 位与 4 位量化在宽容打分下给出「8 位更好 +28.3 个百分点」,同一批 episode 日志改成严格打分后反转为「4 位更好 −15.0 个百分点」;同一个提示下,「分别 screening / matched / 整条流水线」三种口径分别是 +17.5、恰好 0、+28.3 个百分点 1。
裁判之间越一致,不等于判得越准。 三个模型裁判彼此 κ=.755–.781,各自与人只有 κ=.524–.597,三模型多数投票共识 κ=.568 并不高于最好的单个模型(κ=.597)2;把 LLM 判官单独当防线时攻击成功率 34.7%,与完全无防护的 32.0% 没有实质差别,而 28 项确定性检查承担了 77.9% 的首次拦截 3。
把经验总结成规则,往往不如把原始历史留着。 固定骨干下保留原始历史的记忆方案平均 48.0、学习增益 +16.9,把经验总结成规则或工作流的方案学习增益只有 +1.8 4;同一套原则层知识直接注入为 −0.0155(t=−3.53,显著为负,n=738),先做任务条件化实例化才转为 +0.0365(t=+5.90)5。
被丢弃的失败轨迹可以回收成训练信号,但要持久化就必须先过回放与独立验证两道门。 2B 设置下 98% 的分组是全失败、纯 RLVR 最终成功率 0.0%,同一批 rollout 改做事后蒸馏后,训练集上的成功率到 60.6% 6;只有「源任务回放可复现且独立验证集严格变好」才允许晋升,晋升率 43.48%、错误晋升率 1.23% 7。
自蒸馏里「多给监督、多扩覆盖」并不单调更好。 扩大对齐覆盖的 18 个正权重设定,全部低于各自的严格基线 0.27–1.20 个百分点,而严格对齐位置本身已保留教师 99.69–99.90% 的概率质量 8;常规自蒸馏把 pass@1 从 37.92% 提到 41.30% 的同时,正确实现的多样性 C16 从 4.016 掉到 3.090 9。
长程任务只报一个聚合指标,会系统性掩盖真实差异。 以「是否通关」为口径时,三条 online 速通 run 完全无法区分,而它们的帧数分别是 160,021、283,474、477,140 10;含「不必要风险处置」的运行里 92.7% 仍然通过 oracle,任务成功率与风险处置率的秩相关只有 ρ=0.55(p=0.17)11。
长对话记忆的旋钮在宽度,不在深度。 把重构上下文的宽度从 1K 提到 4K,每个深度上都提升 10.11–17.98 个百分点(Holm p≤.0117),而加深记忆层数没有单调收益;宽度本身在 8K 以上也不再带来显著提升,16K 之后进入平台 12。
神经编解码压缩会击穿音频深伪检测。 最强的训练型检测器 XLS-R-2B 在未压缩 FoR 上 EER 只有 1.01%,同一检测器遭遇神经编解码压缩后升到 51.2%,接近随机;缓解侧,成对一致性训练把压缩条件下七个检测器的跨数据集平均 EER 从 28.67% 降到 12.77% 13。

全景表

优先级层级论文(英文原题 · arXiv ID)改动位置(维度)核心可比结果(含比较对象与口径)阅读风险与证据局限入口
1直接命中EMHO: EMbodied Agent Harness Optimization via Experience Traces · arXiv:2610.08432harness 逻辑自改进(规划、视觉工具编排、观测落地、失败恢复)导航 Qwen3.8-27B 留出集 66.0→75.3(+9.3,超 Claude-4.6-Sonnet 62.2);操作 Qwen3.8-27B 搜索集 23.9→44.2(+20.3,超 Claude-4.6-Sonnet 37.6);操作 EMHO 44.2 vs 一次性 Opus 修订 27.8单基准 EmbodiedBench、无多 seed 与显著性检验;报 best-over-iterations、天然乐观;EMHO-Merge 仅 3 子任务池且操作低于 Separate 47.2;「code」仅指向项目页、无仓库人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Evaluate the Stack, Not the Layer: Do Deterministic and LLM Gates for Agent Actions Fail Independently? · arXiv:2610.07359运行时门控堆栈(确定性规则层 + LLM 裁判层)的独立性读数两层各 10.5% 漏检时独立性预测联合漏检 1.1%、实测 5.2%(29/560);STRICT 下裁判对合成 1.22–1.44 层(floor 1.02–1.17)、规则层+一裁判 1.86–2.09 层;单层 solo 改善 20% 对联合覆盖零新增(86→86)1,119 条标注动作含 189 条留出、预注册+独立复核,但无自适应对手;外部语料真值经「标签一致」筛选(κ=0.817、丢 31/224);全堆栈 n_mult 被删失;四裁判中三个同厂商人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中From Evidence to Action: How Tool-Using Agents Fail · arXiv:2610.07753证据—行动链与行动前门控(证据账本 + 确定性轨迹评测器)九个配置证据齐备后单动作成功率 93.2–100%,而 PAR(证据未完成就行动)达 37.0–66.9%;GLM–ZCode Legacy 97.7% 但 V1–V3 掉到 12.1%–34.1%;请求者主张使动作提交降至 6/43、10/43、6/43(配对区间均不含 0)656 例×10 配置×3 次、覆盖率 100%,评测器经 120 例人工验证(κ 0.74–0.87)与 300 条盲审(误接受 2.0%);但评测器与需求本体作者自建自审、合成环境、主结果只报点值无重复间方差自然语言处理学术速递[10.7] · 官网条目 · 全文
1直接命中Do I Need the Cloud? Uncertainty-Aware Step-Level Handoff for Small Language Model Agents · arXiv:2610.07816步骤级模型切换门控(动作不确定性信号 + 预算/风险阈值)多轮 StepGate 轨迹成功 69.0% vs local-only 48.0%(+21.0 [11.0,31.0] p=0.0003)、vs random 60.0%(+9.0 p=0.108);云升级比 strong-only 少 69.2%;wrong-R2 3.8% vs local-only 15.4%;远程 token 134.5 vs 475.0单步 52 任务、多轮 100 任务(平均 4.1 步),含 5 类基线 + 校准/消融 + 规模扫掠;但样本小、单模型家族、脚本任务;关键对比 vs random/self-consistency 区间跨 0;工件页 Zenodo HTTP 403 不可访问人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Does an Agent's History Tell You When Compaction Will Hurt? A Modest, Bounded Effect on the TRACE Paired-Replay Corpus · arXiv:2610.08722上下文压缩触发(按前置历史门控 vs token 预算)post-write − read-only 的 dU@3 = −0.062 [−0.209,+0.079](宽零假设、判据未达成);最优二特征 logistic 挡下 0.206 [0.156,0.256] 有害边界、保留 0.837;held-out AUROC 0.66 [0.61,0.70] vs 对半重放标尺 0.72 [0.69,0.75]。590 边界/140 任务簇;单一模型-压缩器-窗口(4,096 token);区间未做多重性校正;标签噪声大(κ 0.28);无公开代码/数据。人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval · arXiv:2610.08300记忆结构深度 vs 重构上下文宽度宽度 1K→4K 各深度 Accuracy +10.11–17.98pp(p_Holm ≤ .0117);4K 排序 D1 60.67 > D3 55.06 > D4 52.81 > D2 48.31(深度无单调收益);Oracle gold-only 69.66% 用 TPCA 3.83K vs Production Full 89.07K(23.2×)。单数据集 EverMemBench / 单读者 Grok 4.3 / 两张 Main 图 / 深度仅到 D4;H2 仅事后描述;深度效应 Holm 下不显著;无公开代码。自然语言处理学术速递[10.7] · 官网条目 · 全文
1直接命中AMBER: Training Long-Horizon Web Agents through Append-Only Memory · arXiv:2610.07118长程记忆写入与保留(追加式记忆库)WebArena Lite 9B 36.85±1.68% vs MemAgent 32.76±1.54%(+4.09pp)、27B 48.82±1.36% vs 46.77±3.18%(+2.05pp);第 30 步上下文 7.4k vs MemAgent 44k vs WebAgent-R1 99k token;5/5 可靠性 9B 20.5% vs 15.7%。单基准/单环境(排除 GitLab);无统计显著性检验;增益集中在 Reddit 与 Map,Shopping/Admin 未超 MemAgent;无公开数据。人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Same Feedback, Different Answer: Measuring Run-to-Run Instability in Frontier-Model Customer Feedback Analysis · arXiv:2610.08036重复运行评测口径:把生成/语义对齐/指标三阶段解耦并内容寻址存档,用五个运行对距离指标量化输出漂移1,000 条固定 Opus 4.8:TGA 宏主题更替 0.104 对 raw 0.765、taxonomy-free 0.841(相对降幅 86.4%/87.6%),117 个运行对计数分歧 0.000;100 条筛选中 raw 最稳定者 Claude Fable 5 为 0.616、TGA 在 135 对上全为 0.000;规模 100/1,000/5,000 条 raw Fable 0.552→0.623→0.726 而 TGA 0.013/0.148/0.033;证据 churn 1,000 条 TGA 0.432 反高于 raw 0.295(§6/§7,Table 1–2)单一私有部署语料、未与人类金标准对照;5,000 条层每问题仅 3 个有效原始运行、区间 [0.197,1.000];成本对比口径不同(TGA 为会话级估计、不含分类法摄取);原文未报告机构与算力、无公开代码数据人工智能学术速递[10.7]栏 · 官网条目 · 全文
1直接命中BioStudyBench: Evaluating Agents on Post-Cutoff Biomedical Studies · arXiv:2610.07614长程科学评测的先验泄漏控制与配对条件设计接入数据+工具使 25 任务通过率平均 +47pp(逐模型 32–55pp);无数据时开放权重 26% vs 封闭 40%,有数据 70% vs 89%;17,429 次调用返回 8,071 条记录 0 条越截止日仅 25 个任务、无统计显著性检验、评分器可靠性未量化;代码/数据/算力原文均未报告人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? · arXiv:2610.08215经验保留形式(原始历史 vs 规则摘要)与 harness 的评测设计同骨干下 Memory 63.3/48.0 全面领先 EvoTest 62.4/48.0 与 Naive 54.7/31.9;换 harness 把 Opus 5 Max 74.5→81.8;人类 Top-1 Max 84.3 高于所有模型/方法每模板单种子(20 实例)、人类样本 21–30/游戏、无统计检验小节;成本按 token 估算非账单人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Transect: Retaining Observability for Long-Horizon LLM Agent Evaluations · arXiv:2610.08364评测报告的可观测性包络、k-rolls 一致性与 token 归因580 个输出中 81.7% 的标签 k=5 全一致;14.5M 新工作 token 中自审 7.8M+撰稿 2.9M≈四分之三、假设生成仅约 22,000;922 条访问记录 558 条未归类单样本单 epoch、作者声明 descriptive 非 confirmatory、无统计检验;自报开源仓库实测 404人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Principles that Guide, Actions that Inform: Agent Evolution via Knowledge Abstraction · arXiv:2610.06964经验表征与注入方式(分层知识抽象+任务条件化实例化+动作门控)ScienceWorld:SAGA(Qwen3.8-Max) 67.0、SFT+GRPO 66.9,对比 StraTA 63.5、AgentGym-RL 50.5;ALFWorld SAGA 99.3 vs 同 backbone 无记忆 96.3、Memento 53.0;消融直接注入 L3 63.9/54.5 低于 L1+L2 64.5/55.0;配对检验直接注入 −0.0155(t=−3.53)、实例化 +0.0365(t=+5.90)双基准多 backbone,但 ALFWorld 主结果缺统计检验、强 backbone 下天花板效应明显(96.3→99.3);builder 与 actor 非同模型、无法隔离预训练知识贡献;严格 ALFWorld 下无 L3 原则通过验证;无公开代码/数据;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks · arXiv:2610.08048免训练记忆自举(自生成任务+失败转成功的启发式准入+整库注入)AppWorld 平均成功率 MSR 44.3±1.1→60.2±0.9(+15.9)、pass^5 14.9→32.1(≈2.2×)且成本 $3.2 持平;τ²-bench retail MSR 57.5→67.5(+10.0);全面胜过 PREPING(60.2 vs 56.0 等);整库注入 60.2% MSR 高于 top-5 检索 51.7–54.3%3 基准×5 运行×标准误、含 κ 与排名一致性 τ=0.89(p<.001),但每格单一 bank/seed、无记忆生成方差与显著性检验;基准小(AppWorld 168、τ²-bench 40,SE ±1.6–3.6);生成成本未与基线对齐口径;代码仓库承诺地址实测 404自然语言处理学术速递[10.7] · 官网条目 · 全文
1直接命中Self-Retrospection Distillation: Turning Post-hoc Experiences into Prior Foresight · arXiv:2610.08077奖励信号与监督视图:把奖励均匀组的事后轨迹蒸馏进参数,作 RLVR 的辅助损失Qwen3.5-4B 数学均分 GRPO 46.22→+SRD 56.25(+10.03)、代码 36.85→45.18、搜索 48.29→56.34;9B OPSD 数学 39.70→56.92(+17.22,AIME26 52.92→77.08);口径 avg@8 pass rate仅 Qwen3.5 家族 4B/9B 两规模;无统计显著性检验与置信区间;60.6% 成功率是训练集口径;承诺代码仓库 404;算力未报告自然语言处理学术速递[10.7] · 官网条目 · 全文
1直接命中Learning from Revision Consequences: Hindsight Meta-Experience Distillation for Self-Improving Agents · arXiv:2610.07979经验单元与更新载体:把"整条分支结果"换成单次修订的前后配对,更新免训练 Meta-SkillQwen3-32B ALFWorld 成功率 MetaSkill-Evolve 51.49→HMED 54.11(原文报 +2.62)、ScienceWorld 20.84→22.56(+1.72)、BiomniBench-DA 17.80→20.78(+2.98),六组合全部最高;表 3 分支结果与匹配 Δ 一致率仅 54.5%/25.0%六组合 3 次运行但无标准差/置信区间/显著性检验;表 3 样本 48 与 36 例、表 4 仅 ALFWorld 且领先 0.55 分;无公开代码/数据;训练数据与算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Test-Time Agent Evolution for Long-Horizon Legal Reasoning · arXiv:2610.08138运行时门控与记忆演化:免训练下跨案记忆检索+语境改造,并以 rubric 校验重写动作消融:J1-EVAL 去 TME 平均降 17.5 点、去 RAC 降 15.3 点,LegalWorld 降 13.0/9.4 点(对照完整模型);Qwen3-32B CI-PFS 基线最好 26.2→TALA 85.0、CR-CRI 72.5→98.6;LegalWorld 每案中位耗时 4.27 分钟 vs LawThinker 7.502 基准 ×5 backbone ×6 基线,但无统计检验、无多种子方差,结果为单次;自判审计局部错误率 32.6(TME)/39.6(RAC);记忆容量 C 等细节未给;无代码/数据人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中SPECTRUM: Proximal Spectral Modulation for Looped Self-Distillation · arXiv:2610.07237生成侧正则(表征):循环自蒸馏中对 K/V 做谱调制,全样本等权、不做筛选MBPP 64 池 5 轮后 C64 保留率:初始 100.0%、Vanilla SD 66.4%、Spectrum 89.9%(比 Vanilla 多 35.3%);pass@1 Vanilla 41.45 vs Spectrum 40.33(低 1.12 点);16 池口径 Vanilla C16 4.016→3.090;跨基准 HumanEval+ Δpass@1 −1.52pp每设计仅一条训练轨迹、无多种子方差;仅 Qwen2.5-Coder-1.5B 一个基座;对照非等计算量(SSD 7.326M vs 6.856M SFT token);64 池 89.9% 与 16 池 89.8%/76.9% 口径不同;无公开代码;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
1直接命中Pronunciation-Oriented Reinforcement Learning for Japanese Text-to-Speech with Kana-Domain ASR Rewards · arXiv:2610.07575RL 的奖励信号表征(书写层 CER 换成假名域 CER)汉字 Kana-CER 9.65%±0.12→7.17%±0.07(同 GRPO 配置、5 种子均值,相对下降 25.7%);orthographic CER 4.10%→4.15% 基本持平;最佳验证 step 18k→4k;独立 wav2vec2 评测器汉字 14.78%→11.52%;β=0 时平均 completion 长度翻倍以上单一 0.5B 基座、单基准 Joyo Kanji Yomi Benchmark;无人工 MOS、无显著性检验;主指标只覆盖标注读音跨度;未提供自身代码/模型;算力细节未报告语音与音频学术速递[10.7] · 官网条目 · 全文
1直接命中HiPLEX: Hierarchical Policy Factorization for Full Duplex Speech Language Models · arXiv:2610.07727全双工 RL 后训练的信用分配(把扁平 token 策略因式分解为控制/内容两因子,时序奖励经事件因果掩码路由)Full-Duplex-Bench v1(Moshi):Candor 停顿抢话率 0.579→0.306(GRPO 0.454)、反馈语抢话率 0.473→0.127(GRPO 0.309)、被打断延迟 0.852→0.439 s;三种子停顿 TOR 0.495±0.050→0.329±0.083;与人类时序分布 Wasserstein-1 轮次交接 4.698→0.902仅 1 个公开基准且多项指标饱和(Syn 停顿 TOR 三行皆 1.000);三种子仅 Moshi 一族;人类对照只测一维边缘;PersonaPlex 流畅轮次 TOR 0.882→0.714 反而下降;原文未提供代码/数据/项目页语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中AgentMemGate: Addressing Speculation Contamination in Conversational Assistant Memory · arXiv:2610.07707记忆写入时门控(speculation 暂存 + 解决谓词)核心基准 literal 未门控污染 87.5%→门控 0%;held-out literal 23.9%→3.4%、任务准确率 53.7%→66.7%(+12.9 点);Mem0 最终正确率 78.9% 但 35.2% 未决计划被断言为现状多数据集 + 双抽取风格×门控开关 + 判官/分类器双重人工审计(κ=0.74)+ 第二模型家族复跑;但受控 split 每级仅 20、held-out 非生成器独立、核心基准 cautious 收益在噪声内、仓库 HTTP 404人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Quantization Effects on Tool-Failure Recovery Vary Across Prompts and Evaluation Designs · arXiv:2610.07781评测口径与打分策略(三种 screening × 宽容/严格打分)同一日志 Llama/P4 三口径分别 screening −17.5→−42.9pp、matched 0→−33.3pp、full-pipeline +28.3→−15.0pp;matched 上 Llama Q8−Q4 为 0 到 +20.2pp、Qwen −50.0 到 +35.0pp 且方向相反;附录 ET 下 Q8_0–Q5_K_M 83% vs Q4_K_M–Q3_K_M 56%(p=4.7×10⁻⁵)三种口径×两种打分×全部 episode 可重打分,区间与符号检验齐备;但 20 任务、2 模型、5 个非受控提示、单一故障模型,matched 集最小 3–4 题;仅一位作者、无独立复现;原文无 URL、日志在补充材料 ZIP自然语言处理学术速递[10.7] · 官网条目 · 全文
2直接命中Hiding Tool Latency in On-Device Cascaded Voice Agent through Speculative Execution · arXiv:2610.07641端侧运行时门控+推测执行(工具调用提前与缓存注入)TTFA 中位 5.79→4.60 s、p99 19.76→15.10 s;工具选择 F1 44.8%→60.6%(仅缓存注入 63.0%);15 秒查询+约 10 秒搜索的 TTFA 17→8 s;13% 仍发工具调用、7% 重复请求真机(Galaxy S26 Ultra)实测+完整消融+硬负例/对抗集(22+24 条);但样本 146 条、约 1.5 小时音频、无重复方差、无 p99 置信区间、单设备、无神经预测器在线对照、只读工具限定;原文无代码/数据语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中AdvSim2Real: Training Web Agents Against Adaptive Prompt Injection in a Web World Model · arXiv:2610.08773抗提示注入的对抗训练(课程+对手+执行者三角色,世界模型内)未见对手 Kimi-K3 下完成率 Base 23.00%→Robust 30.72%(+7.72 点、相对 +33.6%);干净 74.89%→81.33%;真实浏览器严格提交成功率 25.56%→43.56/44.44%、正确字段率 52.50%→73.24%;端点仍有 23.85 点干净—受攻差距150 任务×3 种子的均值±标准差、含未见前沿对手与真实浏览器迁移;但只测一个训练适配器、测 rollout 方差而非训练方差、不给置信区间;阶段 2 只在世界模型内评;裁判有已披露算术误判;公开仓库与 HF 检查点均 HTTP 200自然语言处理学术速递[10.7] · 官网条目 · 全文
2直接命中Understanding and Mitigating Inference-Time Overreliance Using Agentic Memory · arXiv:2610.07311记忆读取(读时裁剪 shared/conflicting/memory-only)RippleEdits TD-Dup 62.6 → 74.5(✓→✗ 11.6% → 0.6%)、CounterLogic 80.0 → 87.9、CLADDER-Derived 46.6 → 63.5(均 vs Mem0,Qwen3.8-27B);GPT-5.6 Luna 同向(62.2→75.3 等)。3 基准 × 2 LLM × 4 记忆系统;消融仅单一骨干;统计检验侧重重叠分布;无代码/数据链接。人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中The Right Memory in the Wrong Context: Verifying Retrieval Admissibility in Long-Term Agent Memory · arXiv:2610.07309检索可接纳性验证(属主/策略/生命周期三值标签)命名空间过滤 top-20 召回 0.432 → 0.533、80% 可行率 0.237 → 0.311、部分识别上界 [.187,.195] → [.118,.126];文本验证器 ROC-AUC 仅 .626/.522,1% 误拒下检测不出违规。事后冻结重分析 + 观测性关联(仅 16 场景随机化);命名空间为给定;RHELM 仅 7 组入分析;禁止状态轴人标 α=.083。人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中When to Remember, When to Abstain: Category-Conditioned Retention for Reliable Agent Memory · arXiv:2610.07100记忆写入保留阈值(类别条件化 vs 全局阈值)values-targeted faithfulness 96.03±0.93 / 覆盖率 83.26±1.73 vs 全局阈值 93.83±1.16 / 70.30±2.09(targeted−global:+2.21 / +12.96,保留率持平);values 支持率 77.9% vs 其他类别 96.2%。单一合成语料(100 persona);LLM 判官非人工金标;覆盖率为估计值;摘要(6.2%→4.0%)与正文(92.24%→96.03%)口径不一致;无公开工件。人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中MINDSET: Energy-based Schema Evolution for Long Conversational Agent Memory · arXiv:2610.08586记忆写入状态转移(能量最小化 + 滞后)LoCoMo-700 answer F1 0.4280 vs LightMem 0.4024(+0.0256,p=0.24023 不显著)vs Long Context 0.2791;总 token 403,978 vs Long Context 4,310,788(约 1/10);Retrieval Recall@8 对 LightMem +0.1758(p=0.00977)。主基准单一 LoCoMo-700;MemoryAgentBench 仅 150 样本(推荐 25 例);部分基线为复现实现;参数手调;无公开代码/数据。人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中A Trust Layer for Agent Evaluation · arXiv:2610.07274已记录分数的事后可信层:在基准判分之后附加 D1–D4 四项确定性复核,不改写原分5 配置×108 个 ALE 任务,84 个记录通过里只有 19 个通过全部四关(22.6%,95% CI 15.0–32.6);D2 gamed 比例 Opus 10.3% 对 GPT-Sol 50.5%,记录通过上 22 个中 1 个对 21 个中 10 个(十倍差);D3 确认假完成声明 Opus 17 起到 Sonnet 55、覆盖每个记录 band;D4 varied 比例 GPT-Sol 18.0% 到 Sonnet 46.0%,Sonnet 方差 ρ=0.78、单次通过 19.3% 对五连通过 13.8%(Table 1–5)精度只在 Sonnet 单一配置直接验证、无跨模型验证;每配置 13–20 个记录通过且置信区间重叠,不足以给智能体排序;只在一个基准(ALE);D1 与 D3 共享同一次重判、非独立证据;judge 走 GPT-5.5 闭源 API 无版本溯源;无公开代码(承诺接收后发布)人工智能学术速递[10.7]栏 · 官网条目 · 全文
2直接命中JudgeMoE: Distributional Aggregation for LLM-as-a-Judge · arXiv:2610.07109判官分数的聚合位置:在压成标量前用 DeepSets 门控加温度 log-opinion pooling 做分布层融合主表 10 cell 平均 Spearman 对 uniform log pooling 0.304→0.383(+0.079,95% CI [0.039,0.119],单侧 p=0.005),对最强单裁判与 Cov-log 的 +0.042/+0.043 区间跨零(不显著);扩展 16 cell 对池内最强单裁判 +0.0393(12/16 为正,单侧 Wilcoxon p=0.0091);信息量层级仅硬分 0.2634、硬+软 0.3671、再加概率摘要 0.3776;稀疏修复把 WMT MQM 上 Spearman 0.0376→0.1648(§5.2/§6.3,Table 2–3)主结果建立在 6 个 7–12B 小裁判上、大模型裁判仅作单体对照;17 个 cell 级检验无多重比较校正;多个 cell 共享数据集/分数尺度/裁判家族;声称的 released artifact 无任何可访问 URL;原文未报告算力自然语言处理学术速递[10.7]栏 · 官网条目 · 全文
2直接命中Agreement Is Not Validity: Cross-Model LLM Consensus in Diagnosing Student Failure Modes in K-12 Math Tutoring Dialogue · arXiv:2610.08703判官效度的评测口径:用人类裁决参照集对照跨模型共识,检验一致性是否等于有效性100 题上模型—人类 κ:Gemini 3.5 Flash .597、Claude Opus 5 .559、GPT-5.6 Terra .524,均未达预设 κ=.70,与两位人类评分者初始 κ=.588 同量级;模型—模型 κ=.755–.781、三模型 α=.769,多数投票 κ=.568 不高于最好单模型;共享方向性偏置:非 CON 类最常见误判都收敛到 CON,PROC 召回仅 22%(61% 真 PROC 被标 CON,macro-F1=.283),模型给 NA 9–10% 对人类的 21%(McNemar p≤.0098)参照集仅 100 题、PROC 与 OP 各 6 题;来源为单一平台单一学科(22,821 session/35,072 条作答,非评测规模);人类参照为两位研究者裁决标签、初始一致性仅 κ=.588;无下游效果验证;机构在原文 HTML 与 abs 页均未给出自然语言处理学术速递[10.7]栏 · 官网条目 · 全文
2直接命中Holdout Best-of-N: Unbiased Evaluation and Its Cost · arXiv:2610.08719Best-of-N 的评估与选择分数分离:用不相交分数列做无偏期望奖励估计并给出代价阶可估计性边界(Thm 2):分布自由精确无偏估计当且仅当 J2直接命中
2直接命中SpeedrunBench: Challenging LLM Agents with Video Game Speedrunning · arXiv:2610.08076用游戏速通的完成时间取代「是否通关」的评测口径无智能体达世界纪录、最佳平均慢 1 倍以上;online Pokémon Blue 最佳 160,021 帧 vs 纪录约 40,435 帧(约 4×);加 scorer 后 SuperTux 比无 scorer 好 4.0–5.1×、DeepSeek-V4-Pro 距纪录 7% 内图中多为单次运行、无误差棒与显著性检验;算力未报告;商业游戏素材受版权不公开发布人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Agent in a Bottle: Can LLM Agents Turn Their Capabilities Into Cheap, Scalable Artifacts? · arXiv:2610.08775固定令牌/时间预算下的整批交付与成本口径48/60 次低于本模型零样本 95% 区间、31/60 不如同预算蒸馏较强学生;Opus 5 在 MAVE 约 889× 更省成本保住 95%+ 性能、ESCI 约 657×;21/60 因耗尽预算终止每格仅 2 次运行、无多种子检验;成本按厂商定价估算;单一 harness人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Is this machine playing? · arXiv:2610.07130无目标长程 harness 与记忆文件的持久化/因果消融30 小时组 62%(8/13)建出 >2 座塔 vs 0 小时组 15%(2/13);抹除记忆条目后建塔 6→2 座、扔上 Spire 时间 60 秒→19 分钟;Opus 玩耍评分约为 Haiku 的 5×主体 n=13 其余 n=5;玩耍判定为单 LLM 判官、无信度报告、单自建世界;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Can Agents Work for Everyone? Cross-User Reliability for Mobile GUI Agents in Personalized User Interfaces · arXiv:2610.07972跨用户一致性的评测维度与训练信号(UC/UA 切分)含用户条件元素段成功率平均 −4.88pp(SD 1.50);最好/最差 persona 差 9.31pp;RePAIR 未见用户 Task SR 64.5 vs 55.1(+9.4pp)、All-success 27.5 vs 20.0RePAIR 单次训练无置信区间、仅 1 个 base 模型;§1/§3 降幅口径不一致(6.41% vs 4.88pp);无公开工件人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Parallel Predictive World Models for Accurate and Efficient Long-Horizon Planning · arXiv:2610.08627世界模型的并行预测接口(取代自回归 rollout)潜 MSE 四任务最低(OGBench-Cube Ē1:15 0.0270 vs LeWM 0.0456);CEM 规划延迟 374.5ms vs LeWM 1235.2ms(3.30×);GRASP-Reacher 崩到 38.67/0.67 远低于 LeWM 81.00/11.33无置信区间/标准差/显著性检验、成功率单点;代码「将公开」但无可 curl 链接;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Attacca: Goal-Directed Control under State Continuity for Long-Horizon Embodied Agents · arXiv:2610.07785视觉目标条件策略的目标—环境解耦与阶段条件化短时程 clean success 0.390/0.475/0.470,比最强基线高 1.7×/2.4×/2.1×;三条长时程链成功率 54%/30%/28%,比微调 ROCKET-2(0.08/0.06/0.04)高 5–7×;每条链完成 14–27/50仅 Minecraft 单环境、只报 SE 未做显著性检验;链的阶段检测与物品搬运由脚本/helper 代劳;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中GAMEGO: Training Game-Dev Agents with Synthetic Trajectories Anchored in Real-World Assets · arXiv:2610.06910任务表示压缩与合成轨迹质量(规格→可执行 query 的信息预算)task-specific query 相对全量 PRD 的中位保留长度仅 2.26%(44.2× 压缩)、6 名专家盲评胜率 85.7%;GameGoCoder 3.5 GameGoBench Overall 51.85 vs Qwen3.5-27B 34.00(+17.85)、3.8 得 55.29 vs 52.53(+2.76);67,564 seed→校验保留 55,060 条轨迹(总产出率 81.5%)主表每 query 单次 rollout、无重复方差与显著性检验;自建 GameGoBench 与训练数据同源(仅 seed 级去污染);算力未报告;附录称 GameGoData 轨迹及产物不发布人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中MedZERO: Self-Evolving Agents for Open-Ended Medical Reasoning Through Controlled Knowledge Accumulation · arXiv:2610.08327自生成知识的写入准入(因果可见性+前沿分数带 [0.3,0.8] 的 ephemeral-to-persistent KG)4B 平均 34.9% vs base 12.9%(+22.0)、Absolute Zero 21.2%(+13.7);8B 平均 53.5% vs base 34.9%(+18.6)、Agent0 43.7%(+9.8);MedBrowseComp 42.0%/45.5% vs base 0.0%/4.0%;MedBullets op4 第 3 轮 38.7% > 第 1 轮 35.2%5 公开基准×6 指标×2 规模、对比 3 个自进化基线并被 NeurIPS 2026 接收;但无误差棒/显著性检验、单一模型家族、训练数据自生成;代码投稿时未发布(checklist #22 答 No);算力仅 2×L20X人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中ScienceClaw: Benchmarking Continual Self-Evolution of AI-for-Science Agents Across the Natural and Social Sciences · arXiv:2610.08691程序级自进化的持久化门控(Skill/Operator 编辑+重置回放取证)7 轮 OOD 宏平均从 77.72 到 91.30(+13.59)vs Frozen +0.00、EvoMaster +9.78、Qwen-only +5.50;晋升率 43.48%(70/161);错误晋升率 1.23% vs EvoMaster 3.80%、SkillOpt 6.52%;跨家族 20 对中 18 对为正、均值 +1.58pp(家族内 +14.69pp)23 学科×每学科 64 IID+64 OOD×7 轮、6 对照系统、11 消融、每学科 3 博士+1 专家审 evaluator,规模最强;但轨迹为最终快照、无显著性检验/CI;+13.59 依赖 GPT-5.4 演化模型(Qwen-only 仅 +5.50);每学科仅 1 任务;算力未报告;数据集无公开入口人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中How Much Evidence Should a Coding Agent's Self-Correction Carry? Adaptive Dirichlet Evidence for Self-Distillation · arXiv:2610.08514自蒸馏的样本级监督权重(相对转移支持 r 与有效证据量 E(p) 分离)历史扫描 n=1→8 未来结果 NLL:CodeARC DeepSeek 0.7103→0.2892(−59.3%)、Qwen 0.7785→0.3415(−56.1%);3,000 例匹配质量 argmax 全一致、总体 NLL 再降 0.00609(95% 区间 [0.00211,0.01075]);一轮修正后 DeepSeek/CodeARC Pass@1 15.0%→20.4%(+5.4pp,区间 [+2.8,+8.0])4 单元扫描+3,000 例+12 设置一轮评测,含命题级理论;但 12 格中仅 1 格区间不跨 0、跨度 −6.8 至 +5.4pp、强 model–domain 依赖;相关度为冻结词法核、未对照人工;仅一轮更新;仅 4B–7B 小模型;原文无公开代码/数据人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation · arXiv:2610.07250经验内化落点(harness 特权上下文→扩散权重的 on-policy 上下文蒸馏)4 基准平均 60.52→65.09(+4.57,WISE +7.14、R2I-Bench +3.96);harness 全量收益 +21.31 vs 内化 +4.57;内化后接无 skill harness 82.33、δ(r*)=+0.50(R2I-Bench +4.27);D-OPCD 65.09 > Vanilla SFT 63.38 > D-OPSD 62.75 > Diffusion-DPO 62.184 分布内基准+1 OOD、3 条训练法基线与教师条件消融;但仅 1 个生成器、1 次更新、1 轮后续进化,无统计检验/多种子方差;内化收益远低于 harness 且 δ 跨基准波动;不含外部知识检索/参考图工具;算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中MemCo: Memory-Centric Collaboration for Generalizing LLM Agents to Unseen Environments · arXiv:2610.07376记忆的共享与写入判据(本地/全局双层+Wilson 下置信界晋升)ALFWorld Qwen3-4B held-out 57.74%→82.84%(相对亚军 MemSkill +43.47%、步数 −32.10%);Qwen3-32B held-out 79.69%→97.46%;ScienceWorld 成功率 30.47% vs G-Memory 21.67%;λ 0.25→0.35 全局记录 −42.0% 而准确率/步数基本不变;固定拼接 L5+G5 低 10.71/16.07pp4 基准×6 backbone、主结果 3 次运行带 SD、Wilcoxon+Holm;但消融为同快照受控比较、非独立重复;DeepSeek-v4-flash 缺 G-Memory;抽象依赖基准特定 task-role 映射、Wilson 假设未做压力测试;λ 扫描仅 1 backbone×1 基准;总算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中VeriFine: Scaling Verification for Self-Improvement in Embodied Reasoning · arXiv:2610.08761评测与判官口径:判官/课程/策略共同演化,改用无参考 rubric 判官驾驶推理 RB 分 60.56→71.61(+18.2%)、RF 68.05→83.13(+22.2%);R3 比最强参考型基线 67.70 高 5.8%;判官教师 r 0.55→0.85、学生 0.82,对照 LingoJudge 0.65;导航推理分 68.09→77.59(+14%);困难子集 R1 r=0.07→R2 0.74全部数据为 NVIDIA 内部(200 万 clip/25 国),不可复现;无多种子方差;三轮且每轮同基座同预算重训,非连续训练;人工标注规模与专家人数未给;无代码/数据集人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中When Forgetting is not Catastrophic: On the Mechanics of Spurious Forgetting · arXiv:2610.08718权重更新对旧知识的保存机制:共同平移(可逆)与每事实侵蚀(不可逆)的分解受控 Transformer 旧事实准确率 0.12→0.57(仅注意力)/0.54→1.00(含 MLP);OLMo 2 1B 合成个体谷底召回 0.28→移除 top 方向 0.77(随机对照 0.28)、真实实体 step 80 0.73→0.88;极简模型 0.17→1.00;等新事实准确率下编辑 88%/88%/79% vs 训练 81%/73%/72%只研究一个模型(OLMo 2 1B);干预为事后编辑权重、非可用训练目标;多为 3 或 10 种子、标准差常 <0.3 个百分点,无显著性检验;算力未报告;代码公开 HTTP 200自然语言处理学术速递[10.7] · 官网条目 · 全文
2直接命中SIGMA: Self-Improving Alignment Generalization from a Model Spec · arXiv:2610.07935奖励信号:R_spec×R_rubric 乘性奖励 + 三语义 verifier 门控的自生成任务AgentHarm 有害分 22.6→14.8(SFT)/14.9(RL),benign 保持 76.7/76.9(base 76.6);Agentic Misalignment 79.1→3.8/9.0;只用 spec 奖励时 harm 反升至 26.7;去自验证使 9.0→20.3;对照 STAR-1 仅到 27.2仅 Qwen3.6-27B 一个基座、单轮训练;judge/verifier 均为同一 π、未与外部判官校验;未见多种子显著性检验;全英文设定;无公开代码/数据(唯一 GitHub 为第三方 Inspect AI);算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中Loud and Clear: Dynamic Activation Steering for Improving Speech Intelligibility in Noisy Environments · arXiv:2610.07647推理时的激活引导(在 TTS 骨干残差流上施加属性方向)Expresso 上 WER 1.89→1.22(λ 0.5→2.0);ST −18.87→−15.03、VSA 4.18→5.84、PR 15.14→12.30;1 dB SNR 噪声下 WER 降 7–22%(仅摘要);干净条件 VCTK 0.51→0.29 但德语 0.77→1.26、日语 4.68→5.64;7 人 CMOS +0.958±0.48「7–22%」只在摘要、正文无逐条件数值表;干净条件德/西/日 WER 反升;人评仅 7 人 15 对、无显著性检验;单基座、引导层固定 19–20 无消融;未提供本文代码语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中AdaLoop: Adaptive-Depth Latent Reasoning for Audio Language Models · arXiv:2610.06949音频-语言接口的推理深度(问题条件 halting 加 ACT 加权混合)三基准 All 均值 Qwen2.5-Omni 59.3→63.1(+3.8)、Kimi-Audio 53.3→56.7(+3.4)、MiMo-Audio 58.8→61.7(+2.9);MMSU 感知分 44.5→53.1(+8.6);信号级问题平均 5.7 次迭代、语义问题 2.6 次;固定深度 K=4 比自适应低 1.7 点;RLB 加参 2.4%–2.9%单点值、无方差/显著性/种子重复;MiMo-Audio 缺 SFT 与 Fixed-4 中间对照;MMAU-Pro 的 All 非三类平均;无代码/数据/项目页语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中SkillFormer: Skill-Decomposed Adaptation for Audio Language Models · arXiv:2610.07533音频-语言接口的参数激活(技能专属低秩适配器加 top-2 问题路由)Qwen2.5-Omni Base 59.3→63.4(+4.1),优于 SFT 60.6、Multi-LoRA 61.7;Kimi-Audio 53.3→57.1(+3.8),sound 子类 37.1→42.8(+5.7);MiMo-Audio 58.8→61.2(+2.4);去路由器掉 1.7 点、随机路由掉 2.5 点、去交替训练掉 2.3 点;路由 71%/68%/62% 集中;加参 3.2%–3.8%单一训练题库 EvoAudio 5 万 QA、无方差/显著性;MiMo-Audio 缺 SFT/Multi-LoRA 对照;超参只在 Qwen2.5-Omni 消融;无延迟/吞吐实测;无代码/数据/项目页语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中EMODE: Dynamic Para-Semantic Experts for Emotion-Aware Speech Language Modeling · arXiv:2610.06956语音-语言连接器的表示分解(语义/副语言双专家加门控残差融合)SER 9 数据集平均 72.10% 最高,对最强基线 EmotionThinker 68.46;MELD 64.23、SAVEE 85.76;SpeechAlpaca 共情 SER 88.75/Quality 7.12/Empathy 6.14;MEPA 英语 GLCA 12.1、中文 8.6,对 EmotionThinker 英 +4.0、中 +3.7;去 oeg-para 掉 5.9 点无误差棒/显著性检验;未报告算力;MEPA 为合成基准只宜作压力测试;共情为单判官;IEMOCAP/RESD/CaFE 被基线占优;代码与 MEPA 未公开;DOI 尚无可访问出版页语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中WorldSonus: Bringing Sound to Worlds · arXiv:2610.08760视频到音频生成的流式因果架构(100 ms chunk 加 Ring-KV 加指令就地替换)单张 H100 每 100 ms chunk 延迟 41.2 ms、RTF 0.41;VGG 5s FAD 1.73 对 PrismAudio 2.09/ThinkSound 2.94/AudioX 3.00;Inter 30s FAD 2.03 对 6.08/7.00/5.52;BiasSkill 4.42/6.03/15.90 全项最高;文本可控 25.68%/23.44% 高于基线;Switch 对 Hold 净增益 +0.0509 与 +0.0525(95% bootstrap 不含 0);盲测偏好 58.8%/80.0%/65.0%,真实音频仍更受偏好真实音频仍更优、DeSync 未超过双向基线;立体声数据规模受限;因果立体声 VAE 重构质量低于非因果版;人评仅 40 片段 20 人;ITD-MSE/FSAD 被排除;仅项目页、未给代码/权重/数据语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中PERSIST: Who-What-When Memory Across Sessions for Full-Duplex Spoken Dialogue · arXiv:2610.07725跨会话语音记忆的读写与检索打分(1152 维语义+时间向量、3W 联合打分、说话人 token 前置)1,200 条 query 严格准确率:PERSIST-External 85.08% vs BM25 61.67%、BGE-large 58.50%(Empty 19.00%、Gold 97.25%);检索 all-support EM@3 82.10% vs BGE-large 49.01%;说话人消融 397 对中 96.47% 判对;检索延迟 7.03 ms vs 重算 578.42 ms(−98.8%)只在自建 SpokenTrace 上评测、无外部交叉验证;未报误差棒与显著性检验;native 多说话人 cpWER 41.6% vs WER 17.4%;最强结果依赖 VibeVoice-ASR 超大语料;原文未提供代码/数据人工智能学术速递[10.7] · 官网条目 · 全文
2直接命中InterCorrect: Intersection-Aware Correction of Demographic Model Merging for Fair ASR · arXiv:2610.08604公平 ASR 的适配方式与校正配对准则(只训 connector 的子群模型合并 + 交叉感知校正向量)总体 WER:Base 7.38%→全局合并 6.38–6.77%→TIES+Method 1 5.13%(相对降幅 30.5%,为最佳);随机选对不稳定(TIES Rand 6.48% 差于 Global 6.42%);TIES+M1 在 Age 6.27%→4.71%、Gender 6.62%→5.26%,但扩大 Age 与 SES 两轴 gap单一数据集(Fair-Speech)与单一模型配置;除 Rand 基线 3 次外无种子/方差报告;无任何统计显著性检验;无跨数据集验证;原文未提供代码/数据链接语音与音频学术速递[10.7] · 官网条目 · 全文
2直接命中DirectSpeech2LLM: A Simple End-to-End Framework to Mitigate Prompt Overfitting in Speech-LLMs · arXiv:2610.08085语音接入冻结 LLM 的对齐方式(CTC logits 直接取负平方欧氏距离到 LLM 嵌入码本,无投影/离散化)只用 960 h LibriSpeech:LibriSpeech WER 2.21/4.28(Qwen3-4B)优于同级联 2.35/4.57;未见任务 CoVoST2 en-de BLEU 19.97(级联上界 19.88、AlignFormer 15.70);IEMOCAP 四类 ER 40.16 且 IFR=1.00(对齐 AlignFormer 31.18/IFR 0.99)无置信区间/方差/显著性检验;只训单一 ASR 任务且语料限英文;ER 只用 IEMOCAP 四类;训练步数口径前后不一致;论文标注代码仓库实测 404自然语言处理学术速递[10.7] · 官网条目 · 全文
2直接命中Quality-Aware Self-Correcting Speech Translation on an Edge Device · arXiv:2610.07545端侧语音翻译的运行时纠错机制(QE 门控触发 + MBR/QE 重排/CBS 三种候选选择)FLORES-200 en-es 1,012 句,基线 BLEU 26.09:τ=0.90、N=10 时 M2(MBR) +0.67 BLEU/+0.51 ChrF(p<0.001)、M3(CBS) −0.96 BLEU(显著劣于基线);COMET 增益 N=3 最大 +0.0020(p<0.01);τ=0.90 触发率 86.2%(τ=0.80 仅 1.3%)只评 en-es 且是书面文本 FLORES、非真实语音;单一数据集无第二基准;延迟为单设备单次运行、无方差;摘要与表 1 的 COMET 口径不同(+0.0020 vs +0.0011)易误引;6 语言对仅演示自然语言处理学术速递[10.7] · 官网条目 · 全文
2直接命中Exposing and Mitigating Neural Codec Vulnerabilities in Audio Deepfake Detection · arXiv:2610.07216深伪检测对神经编解码失真的鲁棒性(构造 ANC-Spoof 失真维 + 成对一致性训练 PCL-NET)7 检测器×3 基准:(XLS-R-2B) FoR 未压缩 EER 1.01%→压缩后平均 51.2%;PCL-NET 把压缩下平均 EER 28.67%→12.77%,FoR 41.93%→9.82%;CoSG 检测上 PCL-NET 仍逊于 CoRS 专用系统(All 31.28/23.09 vs XLS-R-2B 3.67/3.64)表格为单点 EER、无方差/置信区间;未与其他缓解方式水平对比;训练超参与算力未报告;数据集承诺接受后才公开;原文未提供代码/数据 URL语音与音频学术速递[10.7] · 官网条目 · 全文
2邻近跟踪EIO-Agents: The Missing Semantic Layer for AI Agent Evaluation · arXiv:2610.07675评测语义层(证据→谓词→主张→证明→决策的可核查链条与见证规则)110 个"证据类型×来源类型"配对中仅 11 个可直接见证行为、83 个不兼容;FIN_3 由 243 条 claim 得 12 个 finding,readiness 由 65.3 封顶到 49 判 BLOCK,EXAM_B 同一封顶但 5 次重跑 0 次复现改判 REVIEW规范类论文,无基准、无统计检验;实证仅 3 档案 + 1 手写 bundle;单一作者且与 ProofAgent.ai 存在利益冲突;165 个控制项全为 provisional人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Language Carries the Expert's Impression: Instrument-Anchored LLM Judges Transfer Counseling-Quality Assessment and Beat In-Domain Training · arXiv:2610.08055判官构念的来源(用专家评分工具锚定 LLM 裁判的会话级构念,而非泛用对话质量)留一域 LODO 嵌套 Spearman ρ=0.54 vs 目标域内 5 折 CV ≤0.48(配对差 +0.15,95%CI [+0.10,+0.19]);加入目标域数据 6/6 单元更差(平均 −0.02);非言语块单独仅 0.281、叠加 +0.03(CI 跨 0)三个德语语料 n=195、LODO 仅三折、跨折 0.50–0.57;折未按演员/评审分组;transductive 逐域 z 标准化;裁判跨种子复现仅 44–56%、两个模型塌到量表上限自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Same-Number Citation Swaps: Stress-Testing Jev as a Financial Evidence Judge · arXiv:2610.08675判官输入的引用表示(同数异角色互换;显式重复列头)自然记录 190 个标签 AUROC 0.98587(95%CI [0.96356,0.99938]),但 27/192 条数值吻合却引用不支持角色;同数互换 6 个明确角色错误仅 2 个 B 均值 <0.8;显式列头使 8/8 条 B 调用被扣下,A−B 中位数 0.500→0.440192 条记录、15 个构造对比、36 题跟进、单评审无一致性;关键扩展均为事后设计;检查工件未公开;只测一个 Jev 版本与一个生成模型别名自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪The Labeling Problem in Hallucination Detection Benchmarks: An Empirical Evaluation · arXiv:2610.08026标注判据(参考忠实 vs 事实正确的判据对齐与 prompt 消歧)GPT-5-mini 在 Llama 生成答案上 κ 0.530→0.756(p1→p2)、假阳性率 95.9%→41.7%;Mistral 生成下 κ 0.194→0.626;去掉补充性内容使假阳性率 52.9%→23.2%(45 例 FP→TN vs 4 例 TN→FP)900 对人工标注、300 对双标 κ=0.808;限英语开放域短答案与 3 个较小开放权重生成器;人类标签用 A1 单人非共识;算力与硬件未报告自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Verdicts Without Annotated Evidence: Rejection Sampling or Label-Only Post-Training for Evidence Recovery? · arXiv:2610.06962后训练目标与数据筛选(label-only SFT 对拒绝采样式 RSFT,判决与证据两条轴独立测)判决准确率 label-only 0.896 vs RSFT 0.797(配对 +0.099 [+0.083,+0.115],p=3×10⁻³⁴);span F1 增益 RSFT +0.062 vs label-only +0.071,两者差 +0.009(CI 跨 0);gpt-5.2 准确率 0.808 最高但逐字率 48.7% 最低单语料单学生单 seed(QLoRA 1 epoch、1×L40S 48GB);选择与评估共用同一字符串匹配阶梯;预注册三项门槛只达一项;原文未提供代码/数据/项目页自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪WorldSolver: Can LLM Agents Simulate the Physical Dynamics via Solver Generation? · arXiv:2610.08720评测口径(执行/视觉/物理三轴;固定脚手架,只允许改求解器代码)7 模型 168 任务总体分 GPT-5.6-Sol 48.7%、Claude-Opus-5 46.7%;同两模型在 Rods & Strands 差 26pp、Cloth & Shells 差 24.3pp;有效输出率 82%→38%(提交率 88%–100%),≥60 分通过率 41%→8%单一自建基准、无跨数据集验证、无统计检验;VLM 判官一致率数值未报;物理规则手工预定义(M=3–5);GPU 未报告;代码仓库实测 404人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪DSV-Mem: Evaluating Multimodal Memory in Professional Workflows for MLLM Agents · arXiv:2610.08102记忆评测的维度切分(当前/过去/派生状态、变更历史、冲突拒答)与状态演化难度27 个配置总分 3.3%–43.4% 全低于 45%;Current State 61.7% vs Change History 27.8%;状态重建占全部错误 89.7%;去掉状态演化从 52.7% 升到 95.9%(+43.2pp)1000 题、场景为研究者构造而非真实工作流抽样;记忆方法与部分模型标 † 单次运行;多数配置报三次运行标准差但低端配置仅单次;数据集无 URL、算力未报告人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Verifying Coordination in Parallel Coding Agents: NP-Bench and a Scheduling Planner · arXiv:2610.07261协调机制的位置(事后告警 → 事前调度:scope 划分、依赖边与合并序)Tier A CTSR 1/9→4/9→9/9(C0/C1-detect/C1-plan)、冲突 13→12→0、wasted LOC 54→49→0;Tier B 契约迁移 C1-plan Opus 4.8 1.00(K=15,CI [0.80,1.00],15/15 vs 0/15,Fisher p<10⁻⁴)vs C0/C1-detect 0.00;重复犯错率 1.00→0.00多数 live 单元 K=5(部分 K=3)区宽;Tier A 仅 9 场景、场景手工构造;scope 为手工 seed 而非自动推断;单一作者单一系统自实现自评测;作者自撤回一个数字人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪ParanoiaEval: Benchmarking Unnecessary Defensive Work in Agentic Coding · arXiv:2610.08662评测维度(把"风险处置是否与证据相称"独立成能力维度,E⁺/E⁻ 配对反事实)E⁺ 运行中多余风险处置占 11.2%–58.7%,ER(证据响应度)仅 25.4%–65.5%(Holm 校正 p≤0.012);TSR(任务成功率)与 VR(违规率)的 Spearman ρ=0.55(p=0.17);含超额处置运行 92.7% 仍过 oracle;判官准确率 0.965、κ=0.93仅 8 个闭源模型与 2 个官方 harness;仓库限开源且只 Python/Go;Transfer 维度 ER 7.9%(p=0.692 不显著);未报种子/温度方差;评测仍是模型判模型人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪MemMux: Runtime Verification and Honest Resource Attribution for Fleets of Parallel Coding Agents · arXiv:2610.07257内存资源治理(把并行智能体的归属/回收/逃逸/预算做成运行时验证信号)绑定预算过载(N=12、每 agent 约 1.4 GiB、宿主 15.3 GiB、预算 7500 MiB、5 次试验):MemMux 峰值 7479 MiB(预算内)、swap 0,raw 基线峰值 15075 MiB、swap 1882 MiB,tmux 3.4 峰值 15347 MiB、swap 2165 MiB;拆卸清理 raw 各规模只回收 50%(N=10 遗留 10 进程 303 MiB),tmux 与 MemMux 各规模 0 泄漏 100% 回收;守护进程 CPU 1/5/10 agent 为 0.6%/1.5%/2.7%集群最大 N=12、两台 Linux 加一台 macOS;主负载为确定性 stub;H5 开销(≤2% CPU)自认未达标(十 agent 2.7%);H1–H3/H5 仅两次试验;oracle 与 MemMux 共用记账实现无法排除共模 bug;紧急终止路径主实验未端到端触发;代码开源(MIT)人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Continuous Memory Machines · arXiv:2610.07907循环架构的记忆分层(矩阵值长期记忆 LTM 与滑窗短期记忆 STM 并存,由 Transformer 双向读写)39×39 迷宫(10M 参数、三 seed 均值±标准差):CMM 整图准确率 61.6%±35.0、动作 96.3%±3.8,CTM 37.4%±38.7 / 88.8%±8.3,DNC 13.8±2.5,CMM-STM 43.8±42.5;few-shot K=20 CMM 30.63±0.24 vs CTM 8.78±0.11;sort 测试 loss 4.1×10⁻³(比 CTM 低两个数量级);ImageNet-100 CMM 89.7%±0.2 并列最佳4 类任务十余基线、3 seed ± 标准差,但迷宫整图方差极大(±35.0)且提升主要靠少数 seed;GDN/RMT/LSAM 因训练不稳定被排除出迷宫表;无显著性检验;研讨会论文;代码仓库实测 404;单张 H100,迷宫 127.5 h/seed人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Towards In-Parameter Memory Augmentation for Large Language Models · arXiv:2610.08630记忆的载体与分类(参数放置:Embedding/Attention/FFN/Hybrid × 获取时间:offline/online)边界判据(Table 1)三条件:ICL-based RAG ✘、Full Parameter SFT ✘、未改造 KV Cache ✘、Pluggable PEFT ✓、编码 KV bank ✓;Table 3/4 收录 64 项方法、8 类目(如 Attention×Online 14、FFN×Online 9、Hybrid×Offline 6);规律:online 多为 per-request/per-token、ephemeral,offline 多为部署前、persistent综述无自建实验;成本档位为机制推断的定性区段、不含数值测量;仅文本模态、不含 MLE/MLA/mHC 等架构内建设计;未报告文献检索/筛选协议,64 项非可复核穷举;配套 awesome 清单实测 200,无数据集自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell · arXiv:2610.07782记忆层的成本与收益(三层架构的 KV 缓存足迹与持久轨迹召回消融)peak KV/query:CoA-PKV 14.3 MiB [13.0,15.4] vs Flat 35.5(−59.9%)、RAG 35.3(−59.7%);延迟 29 s vs Flat 67 s(−56.7%);持久召回:峰值缓存 +0.368 MiB [+0.167,+0.590]、准确率 +0.015 [−0.011,+0.046](含 0);召回可达问题占 24%,限制子集效果 −0.012(n=138);C3 未修正 MMLU-Pro +0.370 vs 同解析器 +0.0108 数据集对、逐问题配对、n=100、cluster bootstrap、live probe,但单系统单团队;复现仅 2–4 次、Flat 臂单次运行;C1–C4 为事后重构;零结果仅在独立条目基准范式下成立;原文未提供可测 URL自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Decoupled Multi-Agent Orchestration · arXiv:2610.07556编排的决策解耦(工人无关注务分解 × 协作操作/选人,成本感知奖励)表 1(8 基准 Avg./Calls):DeOrch 51.5/5.35 vs MAS-Orchestra 49.1/5.63、Conductor 44.0/6.16、Best Single Agent 39.2/1.00、Frontier-Planner 36.6/4.67;表 2 换未见四人工人池:DeOrch 50.2、Independent 47.5、Conductor 44.0→40.9;表 3 成本感知目标把调用 7.78→5.35、平均分仅 51.9→51.5;在线适应 0→15K 样本 51.3→52.98 基准多基线、5 个消融、换池泛化,但每基准仅一份报告值、无重复方差与显著性检验;工人池最大 6;基线均为六工人池重训适配版不可横比;代码匿名仓库实测 403;单节点 4×H200人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪One Step at a Time: Trading LLM Autonomy for Process Predictability · arXiv:2610.07817流程的投递机制(MCP 服务端一次只释放一步 SOP,换取路径可预测与可核查)15,475 trial、13 域、4 执行器、2 条件:遵循度 Ministral 76%→95%、DeepSeek 86%→97%、GLM 92%→99%、Kimi 95%→99%;无据答案 2.1–4.5%→约 0.3%(know_your_business 域 31–49%→0–8%);Grounded TSR Ministral 61.0%→67.5%(+6.5pp [+3.4,+9.6])、GLM 84.8%→82.0%(−2.9 [−5.2,−0.5]);token 成本约 2.1–2.9×15,475 trial、双条件、bootstrap 95% CI、阈值稳健性,但每域仅 30–274 trial、无多重比较校正、无每域 CI;逐步投递捆绑三个机制未解耦;未设 temperature=0;MCP 双向放大 SOP 质量;工件承诺发表时发布、无公开仓库自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪POLAR: Ontology-Guided Risk Prevention for Tool-Calling LLM Agents · arXiv:2610.08082动作前门控(按工具可逆性 T1–T5 打分,取最弱一步 min 分并解耦 approve/veto/escalate)τ²-bench 18 个 (model, domain) 单元只有 8 个提升;airline 域 4/6 智能体提升 +0.11~+0.18;逐格 Δ:qwen3-8B +0.111/−0.100/+0.038、gpt-oss-120B −0.073/−0.242/+0.020、qwen3.5-27B −0.119/−0.209/−0.060(airline/retail/telecom);主单元 +0.111 非配对、匹配后 143 对 +0.119;层级消融 full Δ=0.080 [0.013,0.147] p=0.036,T1-only +0.087 未低于 full6 模型×3 域×4 臂共 10,800 rollout、bootstrap CI、置换检验,但仅 8/18 单元提升;T1-only 与 full 无法区分;主单元 +0.111 非配对;Escalate/Advisory 对比被撤回;本体正确性/对抗鲁棒性未测量;奖励≠危害标注;原文未提供任何公开 URL自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security · arXiv:2610.07657运行时防护的分层(确定性规则级联在前、LLM 判官小组只在残余处判断)四领域攻击成功率 30.0%→3.0%(95%CI [1.3,4.9]),每领域 0.0%–5.3%;CyberOps:Flat 32.0%、ACL 24.9%、JudgeOnly 34.7%、Full 2.2%;确定性检查是 77.9% 被阻尝试的首拦(CyberOps 97.8%);判官两两 κ 0.41–0.65、法定人数 1→4 票通过率 81.2%→39.0%、法律域仅批准 39.7% 合法提案;持久状态后良性完成率 97%→5%;ASB ASR 1.8%、TAMAS 43.5%→21.9%强:300 自建变体×3 + 255 ASB + 50 InjecAgent + 250 TAMAS、留一消融、配对检验、Holm 校正、判官重放校准;扣分在自建套件规则与攻击同一批人所写(部分循环)、消融臂仅 1 主模型 1 领域、只测静态攻击;原文未报告 GPU 与训练成本;代码开源(CC BY-NC-ND 4.0)自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models · arXiv:2610.07803测试时干预的门控(片段级不确定性相对轨迹历史趋势的偏移触发,PPL 导向选择续写)Qwen3-4B standalone 89.0/92.0/53.3/54.0/29.5(MATH-500/GSM8K/AIME24/GPQA/NQ-Open)→ ThinkFuse(×Ministral)90.0/96.9/73.3/64.6/39.5;退化对照 ×Qwen3-4B 75.0/90.0/40.0/28.3/38.0;Cool-Fusion 31.0/66.0/0.0†/11.6/0.5、AdaFuse 45.5/72.6/33.3/28.8/38.5;效率 68.7 s/77 TFLOPs/0.95 分每 TFLOP vs AdaFuse 33.9 s/0.60;20 个配对差全为正、11 个 95% CI 不含 05 基准×多配对、3 类基线、4 组消融、报 95% bootstrap CI;但模型集中 1.2B–4B、每基准单次运行点估计、AIME24 仅 30 题、CI 宽;效率只与融合类方法比、墙钟更长的归因缺直接测量;两块 A100-80GB;代码实测 200自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Trajectory-Retrieval Speculative Decoding: When Does a Model's Own History Help? · arXiv:2610.07350草稿来源与检索门控(自身历史轨迹的运行时复用)TLAR 每位置新增接受 token 0.171(Qwen3-8B,代码域,512 token 门槛、k=d=4;SmallDraft 自身接受长度 2.383);共享节点预算 B=4 时并集相对最强单来源基线 +13.7%/11.5%/5.0%;端到端吞吐(单张 B200)batch=1 从 512 token 的 −0.6% 到 4096 token 的 +12.4%代码 100 题、数学与写作各 24 题;全部为离线回放;无显著性检验、仅报 bootstrap 区间;开放式写作上 Within 优势消失;声明的 GitHub 仓库实测 404人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine · arXiv:2610.07070合成轨迹的合法性(FSM 状态合法走位 vs 事后过滤)固定 20M token 预算下多产 3.6–6.6× 样本(721 条 vs ToolFlow 200、APIGen-MT 109);FSM 回归 β=10.1%±2.62(p<0.01),TradingBot full 70.7% vs ToolFlow 63.4%、APIGen-MT 53.7%;成本 1.0 次调用、27,724 token/轨迹头对头对比只在单域(TradingBot)单学生(Qwen3.5-2B);基线为作者自行重实现;FSM 合成前不校验;代码 proprietary、数据仅随补充材料;单张 A100、每次实验约 72 小时自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Stabilizing language models under continual learning via condition-anchored distillation · arXiv:2610.06940持续学习的保留信号(旧 prompt 锚点上的教师软目标)四任务掩码扩散遗忘 2.591±0.429→0.674±0.387(反向 1.997±0.395→0.505±0.106);相同生成支撑下软目标 0.237±0.031 vs 硬重放 0.291±0.025;TRACE ACC 64.47±1.75 / BWT −1.79±1.32(3 种子)无正式统计检验;GSM8K 格式合规 0.40%→88.70% 但 1.7B 配对 EM −6.37±0.93 点;prompt 缓存随任务数线性增长、每任务边界需同时挂载教师与学生;ICLR 2027 审稿中、无 HTML 版;算力未报告自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Rethinking Cross-Tokenizer On-Policy Distillation: From Alignment Coverage to Supervision Reliability · arXiv:2610.08448蒸馏监督覆盖(不对齐的 token 组是否纳入)18 个正权重设定全部低于各自严格基线 0.27–1.20pp;Strict top-16 全平均 32.64/42.26/47.06,领先最强基线 0.51–1.05pp 并保留至少 96% 的提升;梯度余弦 c_mis 0.030 vs 对照 c_ctrl 0.956(step 0,Qwen→Llama)未做显式显著性检验;错配监督只试一种形式(span MSE);评测限数学/代码;匿名代码仓库实测 403;源池 20,000 prompt、算力未报告自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Learning in Dreams, Winning in Reality: A Continuous Dyna Loop for a Ten-Hero MOBA · arXiv:2610.08033长程想象训练的真实信号门控(世界模型保真度+KL 锚)holdout 种子天辉胜率 421/600=70.2%(95% CI 66.4–73.7),相对起点策略 +37.3 点 [29.6,44.4];塔倒预测 1.79×→1.16×(precision 28.6%→51.8%);冻结世界模型对照下 Dyna 单独值 +9.2 点 [3.5,14.7](49.0% vs 58.2%)单作者、单对手(官方 PufferNet)且游戏在其下本身偏斜;循环单 seed、头条为 13 个策略中最优;剩余 12 点与刷新模型/移动锚/4×GPU 混杂;保真度到行为只是推断非干预;机构未报告人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪AccentCL: Robust Accent Classification with Incremental Expansion · arXiv:2610.07426类别增量下的遗忘控制(域分层重放+蒸馏保留+旧类 margin)5 类平衡准确率 77.1%(vs Voxlect 65.8、CommonAccent 48.3);5→6 步新类 F1 83.3%、旧类平衡准确率 77.3%、Δavg −0.8pp;5→7 步新类 F1 61.8%、Δworst −4.2pp;OOD 准确率 89.7% 但 OOD macro-F1 仅 +0.4pp vs Voxlect单一随机种子 42、一种类别顺序、无方差与置信区间;Δworst 各配置均 −3.6 至 −7.5pp;OOD macro-F1 增益仅 +0.4pp;算力未报告;无代码/数据下载地址自然语言处理学术速递[10.7] · 官网条目 · 全文
2邻近跟踪ARIA: Audio-Driven Melody–Tone Relation Modeling for Cantonese Lyric Authoring · arXiv:2610.07902声学估计与文本生成的解耦接口(0243 声调码)TRATE TokAcc 0.644、NED 0.347(vs 最强 Qwen3.5 基线 0.565/0.398,仅 2.37M 参数);端到端 Harmony 0.9786 / Consistency 0.9528(500 例共享子集);Stage 1 NED 与最终 NED 的 ρ=0.8520,含非相邻错时 Harmony 降至 0.7568数据全出 Fei Tsui 单一曲库、无跨数据集验证;TRATE 三种子均值无置信区间;人评仅 12 人 40 条目且不主张显著性;参考 0243 由歌词反推;误差传播基于 500 例单次配对生成;承诺的标注与脚本无可访问入口语音与音频学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Sobolev Norms in Neural Embeddings Measure Audio Morphing Regularity · arXiv:2610.08295客观度量本身(同时管轨迹的路径与速度)只有 SDIM 的 10⁻²×S_{0,2} 让 LUM2邻近跟踪
2邻近跟踪Coupled but Late: Turn-Taking Between Full-Duplex Speech Models in Unscripted Dialogue · arXiv:2610.08683闭环话轮时序(模型—模型自博弈的评测口径)智能体中位 FTO +480 ms vs 人类 +137 ms(193,115 次交接、2,407 通电话),重叠 0.18 vs 0.32、接近零带 0.03 vs 0.25;重新配对后中位塌到 +80 ms、重叠翻倍至 0.46;静音对照交接 273→26(p=4.9×10⁻⁴)单一 checkpoint、36 段 90 s 对话、五个场景;真人录音臂同时改变内容与声学;智能体侧能量阈值与人类词边界非同一估计器;算力未报告;代码与测量数据未发布人工智能学术速递[10.7] · 官网条目 · 全文
2邻近跟踪Verified, not generated: expert-verified AI study materials and the distribution of learning gains in a university course · arXiv:2610.07097发布前人工验证门与评估报告口径(分布而非均值)接触验证材料与半段成绩 +2.341 分相关(满分 50,N=340,HC1 p=0.045、学生聚类 p=0.013);低于 30 分比例 −24.7pp(p=0.001,约 21 名学生);处理半段自身仅 +0.73 分(p=0.441),未处理半段 −1.61 分(p=0.021)单一机构单课程、两队列 170 人、只有一个干预前队列(平行趋势不可检验);平均效应剔除 3–5 名学生后即不显著;无个人使用日志、验证与新多模态材料捆绑且缺未经验证的反事实;数据依伦理不可共享、无代码/项目页;评估单位为课程半段而非单集节目人工智能学术速递[10.7] · 官网条目 · 全文

一、harness、运行框架与执行门

1. EMHO 冻结具身模型、只改外围脚手架:操作留出集最高 +13.0 点

EMHO: EMbodied Agent Harness Optimization via Experience Traces · arXiv:2610.08432 · 精读
研究问题与核心方法:具身智能体面对只有稀疏动作级反馈与延迟的 episode 级成败信号时,能否让模型之外的 harness(即组织规划、上下文与记忆、工具调用、观测呈现与失败恢复的智能体外围逻辑)直接从经验轨迹自我改进。EMHO 冻结具身模型,交替跑内外两循环:内循环用当前 harness H^(i) 在搜索集 D_search 上执行任务,记录轨迹 T_e = (x_e, {(o_t, p_t, z_t, a_t, f_t)}, y_e)(观测、plan、工具交互、动作、环境反馈与最终成败);外循环由一个 LLM harness 优化器同时看全部历史经验轨迹 E^(0:i)(含被拒绝的候选)与 harness 修改史 H_hist^(0:i)(走过的改动及其得分),据此指认反复出现的薄弱行为并提出编辑,候选 harness 只有在搜索集成功率 s(H) 高于父代时才替换父代。EMHO-Merge 针对「单套 harness 服务多个子任务」,比较候选与父代在 episode 级的成败翻转,得到 gains G^(i)(失败→成功)与 losses L^(i)(成功→失败),据此修正行为的触发时机与方式(每条修订最多允许一次 repair)。 14
流程图:左侧是待优化的 harness 定义,中部是任务执行内环(agent 在导航与操作环境里跑,产出经验轨迹),右侧是 harness 优化外环(历史轨迹分两路做轨迹引导的修订与增益损失精修),底部箭头标出内环任务求解与外环 harness 更新。
论文 Figure 1。EMHO 的两层循环:内环是任务求解,只产生经验轨迹;外环把轨迹分成两路去改 harness 定义本身——一路按轨迹模式做增删改,一路按增益与损失定位要修复的机制。这张图界定的是「参数冻结、只改 harness」这条路线的改动位置。图片来源:论文原文。 14
关键结果:成功率(%,EmbodiedBench)。导航:Qwen3.5-9B 搜索集 50.0 → 63.0(+13.0)、留出集 48.7 → 56.7(+8.0);Qwen3.8-27B 搜索集 54.7 → 67.3(+12.6)、留出集 66.0 → 75.3(+9.3,超过 Claude-4.6-Sonnet 的 62.2 与 GPT-5 的 56.8)。操作:Qwen3.5-9B 搜索集 9.7 → 18.3(+8.6)、留出集 10.7 → 21.0(+10.3);Qwen3.8-27B 搜索集 23.9 → 44.2(+20.3)、留出集 26.4 → 39.4(+13.0),搜索集 44.2 超过 Claude-4.6-Sonnet 的 37.6。摘要口径为导航最高 +16.7 点、操作最高 +33.3 点(按子任务点数,Table 2)。与一次性由前沿模型改 harness 相比(Table 1):One-Shot Harness w/ Opus(27B)导航 67.7、操作 27.8;EMHO(27B)搜索集 67.3 / 44.2,操作大幅领先(44.2 vs 27.8)、导航基本持平。全 harness 相对仅技能(Table 2):导航 +16.7/+16.7/+13.3/+13.3/+3.3 vs 仅技能 +10.0/+10.0/0.0/+10.0/+3.3;操作 +33.3/+29.2/+8.3/+5.6/+25.0 vs 仅技能 +16.7/+8.3/+8.3/+11.1/+8.3。EMHO-Merge(Table 3):导航搜索集平均 67.8 > EMHO(Separate) 65.6 > EMHO(Combined) 61.1,留出集与 Separate 并列 75.6;操作搜索集平均 39.8 > Combined 34.7 但低于 Separate 47.2,留出集 33.8 < Separate 40.7。上下文消融(Table 5,导航 Base 搜索集):Full EMHO 76.7 > 去经验轨迹 70.0 > 去 harness 历史 66.7 > 只给分数 63.3。 14
证据与局限:机构 Korea University、University of Arkansas、University of Wisconsin–Madison;底层具身模型 Qwen3.5-9B 与 Qwen3.8-27B-FP8(主结果两者都跑),视觉工具 Depth Anything 3、SAM 3 与 zoom;harness 初值取 EmbodiedBench 官方实现,每任务 10 次优化迭代,基准平均划成互不相交的 search 与 held-out 两半。对比对象含用 Claude Opus-5 / GPT-5.6 Sol 的一次性修订基线,以及 GPT-5、Gemini-2.0-flash、InternVL3-78B、gemma-3-27b-it;算力(GPU/卡时、API 成本)原文未报告。局限:只有 1 个基准、未见多 seed 方差与显著性检验;报的是各 split 上迭代过程中的最佳分数(best-over-iterations),会系统性抬高数值;操作留出集样本小(子任务百分比步长约 2.1 点);EMHO-Merge 只在 3 个子任务池上评估、操作领域明显低于逐子任务独立优化;正文承诺的「code」链接指向项目页 [https://hyunjung00.[github.io/emho/](https://hyunjung00.github.io/emho/)](https://github.io/emho/](https://hyunjung00.github.io/emho/))(实测 HTTP 200),页面上没有代码仓库或数据下载入口。 14
与本节其它条目的关系:与第 5 条(AgentMemGate)、第 4 条(StepGate)同属「冻结模型、只改外围」:EMHO 用轨迹改的是可执行 harness 逻辑(规划、视觉工具编排、失败恢复),AgentMemGate 改的是记忆写入时门控、StepGate 改的是动作级升级门控,三者可比「逻辑修补」「写入门控」「动作门控」三类外围改动的增益上限。与第 2 条(门控堆栈独立失效)相呼应——EMHO 的候选只在搜索集成功率严格提升时才被接受,正是一种以单层读数做接受判据的做法,而第 2 条指出单层准确率并不预测堆栈贡献。 14
结论建议:把「经验轨迹 + 修改史一起喂给优化器」「候选须严格提升搜索集成功率才被接受」当作任何长程 agent harness 自动迭代的协议起点;同时按第 2 条的警示,不要用单层/单集分数替代对泛化与堆栈贡献的直接测量——EMHO 自身在留出集上的回落(操作 27B 的 EMHO-Merge 33.8 vs Separate 40.7)正是这一风险的具体例证。 14

2. 两层各 10.5% 漏检时,独立性预测的联合漏检 1.1%、实测 5.2%

Evaluate the Stack, Not the Layer: Do Deterministic and LLM Gates for Agent Actions Fail Independently? · arXiv:2610.07359 · 精读
研究问题与核心方法:运行时门控(一层确定性规则 + 若干 LLM 裁判)被堆叠部署时默认「各层错误相乘因而更安全」;本文用带标注的智能体动作语料检验这个独立性假设是否成立、以及一层到底为堆栈新增多少覆盖。被测堆栈由 1 个确定性规则层(AgentTrust 运行时的 174 条作用于动作文本的正则规则,返回 allow/warn/block/review)与 4 个 LLM 裁判叠成,裁判输入只有动作文本(assume-compromise 设定,无自适应对手)。提出新指标 n_mult:把观测到的联合漏检率折算成「若各层都以堆栈漏检率的几何均值 g 独立失效,需要多少层才能产生同样的 P_joint」,n_mult=|S| 表示错误相乘,同时报出完美耦合下的下界 floor 与归一化读数 (n_mult−floor)/(|S|−floor)。区分两类漏检口径:PRIMARY 把升级人工(review)算作拦下、只有真正执行才算漏;STRICT 把 review 也算漏。统计用 φ 相关、φ/φmax、Fisher 精确检验 + Holm 校正、Cochran–Mansel–Haenszel、Clopper–Pearson 与 4,000 次自助重采样。 15
关键结果:语料 1,119 条完整覆盖五层的动作,来自三个不相交 id 空间(内部 300、独立 630、外部留出 189),真值标签 block 560 / allow 379 / warn 180;漏检只在 560 条 block 上算、误报在 379 条 allow 上算。两个裁判各自单层漏检率若为 10.5%,相乘预测联合漏检 1.1%,实测 5.2%(560 条中 29 条);规则层 + 一个裁判实测联合漏检 1.3%(7/560),接近相乘预测(PRIMARY)。STRICT 下任意两个裁判合成 1.22–1.44 层(floor 1.02–1.17),规则层 + 一个裁判合成 1.86–2.09 层(floor 1.01–1.09);裁判对的 φ 中位数 +0.430(6/6 显著),规则对 φ 中位数 +0.014(0/4 显著)。单层准确率不预测堆栈贡献:云端规则包把规则层 solo 漏检率从 0.139 降到 0.111(相对改善 20%,STRICT),但对三裁判基线的联合新增覆盖为零(86→86);solo 漏检率 0.857 的 50 模式黑名单 b1 仍新增 9 例(STRICT)/ 2 例(PRIMARY)。规则层相对三裁判基线新增 86 例(STRICT)/ 31 例(PRIMARY),第四个裁判新增 22 例(STRICT)/ 21 例(PRIMARY)。外部留出语料上规则层漏检 52.9%(46/87 条 block),另两语料为 6.2% 与 6.1%。服务端版本事件:opus 档 112 个批次中有 50 个实际由 claude-opus-4-8(请求为 claude-opus-5)服务,其中 36 个除逐次调用的 served-model 字段外无任何痕迹,且不均衡地落在语料上(外部 block 行 69/87=79%、独立 50%、内部 32%,χ²(2)=47.0,p=6.1×10⁻¹¹);跨厂商裁判 DeepSeek 与四个裁判的配对 n_mult 在 STRICT 为 1.26–1.34,与规则层的配对为 1.83。 15
证据与局限:单作者 Chenglin Yang,University of Lancashire;裁判为 GPT-5.5(归档列)、claude-haiku-4-5-20251001、claude-sonnet-5、claude-opus-5(三者通过同一 coding-assistant harness 重采、逐次调用记录 served model),加第三方 DeepSeek(deepseek-v4-flash)。1,119 条标注动作、三语料(含 189 条留出)、两个漏检口径全程并列、预注册、6 个头部统计量对独立实现重算、7 条候选结论在分析中撤回;纯评测研究、无训练。局限:无自适应对手;外部语料真值是「标签一致」筛选后的子集(κ=0.817,224 条源件中 31 条不一致被丢弃);机制距离只在一个轴上取两点(正则 vs 聊天模型);全堆栈 n_mult 被删失(560 条 block 中全五层同时漏检仅 2 次);四裁判中三个同厂商;180 条 warn 被排除在两个误差域之外;所有判定落在单一提示模板上。公开工件 https://github.com/chenglin1112/evaluate-the-stack(实测 HTTP 200)含 1,119 条逐层判定矩阵与逐次调用溯源,但案例文本、嵌入案例的提示、裁判原始回复与外部语料不在公开工怀中。 15
与本节其它条目的关系:与第 8 条(AdvSim2Real)互补——本条的规则层与裁判层正是提示注入防线,但本条明确无自适应对手,第 8 条补上「训练自适应对手」的一侧;与第 3 条(SafeActBench)形成确定性判定 vs LLM 判官的对比——SafeActBench 刻意不用 LLM 判官、改用证据账本与确定性评测器,本条则量化确定性规则层与 LLM 裁判层的耦合;与第 4 条(StepGate)同属运行时门控,可比「多层门控是否独立失效」与「步骤级切换门控」两类设计。 15
结论建议:把 n_mult 当作任何多道验证/多判官流水线的「再加一层值多少」读数;把「单层准确率不预测堆栈贡献」「review 算不算拦下必须显式声明」「逐次调用记录 served model」写进评测报告规范。 15

3. 九配置在证据齐备后单动作成功率 93.2–100%,行动前失据却达 37.0–66.9%

From Evidence to Action: How Tool-Using Agents Fail · arXiv:2610.07753 · 精读
研究问题与核心方法:工具调用会改外部状态,「结果正确」并不等于「这个动作在执行前被证据支持过」——证据到行动的链条在哪一环断掉,以及要求的动作结构变复杂时失败模式如何变化。作者把「有权重的工具使用」形式化为可观察的证据—行动链:区分信息搜集调用与 consequential action(改变任务相关外部状态的动作),证据必须绑定到实体与状态(读到 charge C1 的金额不能支持对 C2 的退款,即使数值相同);引入 investigated non-action,即该什么都不做时智能体必须先完成必要调查再停。SafeActBench 含 656 个规范用例、一个静态判定协议(Legacy,输出 Allow/Block/Defer)与四个交互协议(V0 investigated non-action / V1 单动作 / V2 线性多动作 / V3 依赖约束多动作),覆盖六个业务域;Evidence Ledger 把已确立事实绑定到来源交互与所述实体/状态,未通过采纳性的证据不进账;确定性评测器重放轨迹检查调查完整性、工具/目标/参数、执行回执、动作依赖与最终状态变化——不看隐藏推理、不用 LLM 判官,主指标 exact_case_success(ECS,二值)。 16
关键结果:主结果(Table 2,ECS %,十个模型–脚手架配置):Claude Code 67.2 / Claude-5+Inspect 63.4;Codex 65.4 / GPT-5.6+Inspect 61.0;DeepSeek DSH 63.0 / Inspect 57.5;Qwen Code 66.0 / Inspect 63.9;ZCode 37.7 / GLM-5.2+Inspect 41.0。静态判定与交互执行严重脱节:GLM–ZCode 与 DeepSeek–DSH 在 Legacy 上超过 96%(97.7% / 96.5%),但 V1–V3 上 DeepSeek–DSH 仍在 60% 左右、GLM–ZCode 掉到 12.1%–34.1%;把用例固定后重测三个配置,静态准确率 ≥95% 而交互 ECS 最高只有 52%。脚手架效应依模型而定(Table 4,同一 570 个 V0–V3 用例的配对比较,5000 次 case-pair bootstrap):DeepSeek 用自家 DSH 相对 Inspect +4.4 分 [1.1, 7.9],GLM 用 ZCode 相对 Inspect −6.8 分 [−11.2, −2.5](两者区间都不含 0)。失败定位(Table 3):V0 的 BSR(未完成必要调查就停)21.7%–62.9%;V1 中 PAR(证据未完成就行动)在有动作尝试的回合里 37.0%–66.9%;证据完成之后的条件成功率(CAS)十个配置里有九个 93.2%–100%(唯一低的是 DeepSeek–Inspect 83.3%)。受控证据干预(43 个 V1 用例):撤走一条决定性记录使动作概率下降 37.2–45.2 个百分点,但已完成的 Withheld 回合里仍有 46.5%–53.5% 会动手;把字段改成违反前置条件使动作概率下降 54.5–70.0 个百分点。证据呈现与请求者主张(Figure 4):改为「请求者声称那条缺失记录已查过且没问题」后动作提交降到 6/43、10/43、6/43,三个配置的配对区间全部不含 0。 16
证据与局限:机构 Princeton University / National University of Singapore / Hong Kong Baptist University / Amazon Web Services(原文未给出作者与单位的逐一对应);五个模型家族各配两个执行脚手架(Claude Opus 5、GPT-5.6 Sol、DeepSeek-V4-Flash、Qwen3.8-Flash、GLM-5.2,共十配置),全部通过 API 访问。656 例跨六域、每「用例–配置」跑 3 次、覆盖率 100%;评测器经 656/656 参考解、120 例分层人工验证(κ 0.74–0.87)与 300 条轨迹盲审(误接受 2.0%、误拒绝 1.3%)交叉验证。局限:只能刻画可观察的支持、无法说明模型内部实际依赖了什么;评测器与需求本体由作者自建自审(标注者来自研究团队);六域为受控设置、结果不应解读为真实领域的安全认证;主结果只报点值、未给重复间方差。资源入口 [https://safeact.[github.io](https://github.io)](https://safeact.[github.io](https://github.io))(实测 HTTP 200),未提供数据集直链或 GitHub 仓库。 16
与本节其它条目的关系:与第 2 条(门控堆栈独立失效)互补——本条刻意不用 LLM 判官、用证据账本 + 确定性评测器定位失败,第 2 条则量化 LLM 裁判层的耦合;与第 4 条(StepGate)同属「动作是否该执行/升级」的运行时判定,本条给出的结论是瓶颈在证据确立而非执行;与第 5 条(AgentMemGate)同采确定性判分/门控思路。 16
结论建议:把「失败发生在执行之前」(证据齐备后单动作成功率 93.2–100%,而 PAR 高达 37.0–66.9%)当作任何长程 agent 设计的诊断结论:优先修调查充分性与行动时机,而不是修执行器;Evidence Ledger + 确定性轨迹评测器可作可复用的评测基础设施;「智能体对请求者的口头保证比对证据缺失更敏感」须在运行时保障里显式设防。 16

4. 步骤级门控多轮成功率 69.0% vs 本地 48.0%,云升级比强模型省 69.2%

Do I Need the Cloud? Uncertainty-Aware Step-Level Handoff for Small Language Model Agents · arXiv:2610.07816 · 精读
研究问题与核心方法:小语言模型(SLM)作为本地智能体控制器时,结构化工具调用出错会毁掉整条轨迹;能否在每一步执行前预测本地动作是否会失败、只把困难步骤升级到更强模型。StepGate 让本地 SLM 先提出结构化动作 a_t=(工具 z_t, 参数 v_t),一个轻量门控 g_θ(φ_t) 用六类「动作结构化不确定性」信号估计失败概率:token 不确定性(长度归一化 NLL/熵)、工具边际(与备选工具的分离度)、schema 信号(解析合法性、必填覆盖、枚举/类型约束)、一致性(K 个低成本采样提议的工具/参数一致度)、状态信号(轨迹长度、历史工具错误、重复动作、空/歧义观测、剩余重试预算)、风险信号(只读 vs 改状态、破坏性/开放世界提示、部署定义的危险等级)。门控用逻辑回归/GBDT/小 MLP 拟合,并以验证集做温度或 isotonic 校准。决策规则 τ_L<τ_C:低失败概率本地执行、中段做一次有界本地验证/重试、高段升级到强模型,风险单调抬高阈值;切换时只传最小上下文(子目标、所需工具 schema、状态摘要、SLM 提议与不确定性证据),并对比全上下文与最小化上下文两种切换。 17
关键结果:单步(52 任务 held-out BFCL 派生测试,Qwen2.5-1.5B 本地 / 7B 4-bit 强模型,30% 云预算):StepGate 任务成功率 82.7%、升级率 30.8%;local-only 67.3%/0%;random @预算 75.4%/33.8%;query-level router 73.1%/42.3%;self-consistency 82.7%/38.5%;strong-only 92.3%/100%(即较 local-only +15.4 点、较 random +7.3 点,云升级比 strong-only 少 69.2%)。风险错误「wrong risky」(错误且风险级 ≥R2):StepGate 3.8% vs local-only 15.4%、random 10.8%(52 步中分别为 2/8/6 步);远程 token 134.5 vs strong-only 475.0,时延 0.777 s vs 2.255 s。多轮(100 任务,平均 4.1 步):StepGate 轨迹成功 69.0%、动作成功 84.0%、云动作 30.0%;local-only 48.0%/70.5%;random 60.0%/78.2%;query-level 57.0%/77.1%;self-consistency 66.0%/82.6%(38.0% 云动作);strong-only 82.0%/91.0%(即较 local-only +21.0 点、较 random +9.0、较 query-level +12.0)。配对统计:vs local-only +21.0 [11.0,31.0] p=0.0003;vs random +9.0 [−0.6,18.8] p=0.108;vs query-level +12.0 [2.0,22.0] p=0.029;vs self-consistency +3.0 [−5.0,11.0] p=0.629。校准:1.5B 全特征逻辑回归 AUROC 0.829、AUPRC 0.832、Brier 0.144、ECE 0.212;GBDT AUROC 0.854、ECE 0.121。规模效应:local-only 成功率 55.8%(0.5B)→67.3%(1.5B)→88.5%(3B);本地时延中位数 0.301/0.702/1.152 s(0.5B/1.5B/3B),峰值内存 990/3003/6058 MiB。 17
证据与局限:唯一作者 Abolfazl Younesi,Sharif University of Technology;本地 Qwen2.5-0.5B/1.5B/3B,强模型 Qwen2.5-7B 4-bit(代表云);单步用 100 任务、52 任务 held-out 测试划分,多轮在沙箱化日历/邮件/文件/搜索环境评估 100 条 held-out 轨迹(平均 4.1 步、最多 8 步);5 类基线(local-only、strong-only、预算匹配 random、query-level router、self-consistency);统计用任务级配对 bootstrap 95% 区间(10,000 次)+ 精确 McNemar。算力/硬件原文未报告(除时延/内存测量)。局限:样本小、单模型家族、单强模型、脚本化任务、分布内基准配置;关键对比 vs random 与 vs self-consistency 区间跨 0;门控为经验校准、无 finite-sample 风险控制保证;风险分级是研究标注而非授权策略;远程 token 只是披露量代理、非隐私保证。工件页 https://zenodo.org/records/22308389 实测 HTTP 403、无法公开访问。 17
与本节其它条目的关系:与第 3 条(SafeActBench)同问「动作是否该执行」——本条用不确定性门控决定是否升级、SafeActBench 指出真正的瓶颈在证据确立;与第 2 条(门控堆栈)同属运行时门控,可比「步骤级升级门控」与「多层门控是否独立失效」;与第 1 条(EMHO)同为「冻结模型、只改外围逻辑」,本条改动作级门控、EMHO 改 harness 逻辑。 17
结论建议:步骤级不确定性门控 + 预算/风险感知阈值 + 最小上下文切换,可搬到任何「本地小模型 + 云端强模型」的长程 agent 编排;其「等预算对照」与「风险特征是否真提升成功率」的谨慎处理(移除风险元数据反而使逻辑回归 AUROC 升到 0.886、任务成功 86.5%)提示:门控设计须以等预算、同风险的对照为准,勿据单点增益下结论。 17

5. 写入门控把未决计划污染从 87.5% 压到 0%,而 cautious 风格收益落在噪声内

AgentMemGate: Addressing Speculation Contamination in Conversational Assistant Memory · arXiv:2610.07707 · 值得扫读
研究问题与核心方法:对话助手把用户「可能搬去西雅图」的计划当成事实写进长期记忆(推测污染),而现有以最终状态打分的基准测不到这种中间态错误——如何在写入时就识别并延迟未决计划。AgentMemGate 做写入时门控,流水线为 抽取 → 字段匹配(Match)→ 分类(speculation / completed event / correction / other)→ 路由:被判为 speculation 的语句不写入 profile store,而是作为 staged item 暂存,携带在暂存时生成的两条自然语言解决谓词(确认/放弃);后续每一轮用户消息由 checker 判断,确认则 promotion 进库、放弃则丢弃,暂存期间对读取不可见。抽取阶段用两种风格(literal 直录值;cautious 把计划记为计划)并加一个确定性 RegEx retry(去掉「plan」之类框架词后重新匹配字段)。同时贡献一个「计划→结果」多轮对话数据集(计划被确认/放弃/仍未决各占一部分)。 18
关键结果:产品对照(147 held-out 对话逐 session 导入):Mem0 最终问题正确率 78.9% 但把 35.2% 的未决计划断言为当前状态;Zep Graphiti 最终正确率 48.3%、未决污染 27.3%(最终答案准确率与「未决窗口正确性」是两种不同能力)。核心基准(60 对话,40 个待定计划):literal 未门控污染 87.5% [73.9,94.5] → 门控 0% [0,8.8];cautious 未门控 2.5% [0.4,12.9] → 门控 0%;任务准确率 literal 65.0% [52.4,75.8] → 95.0% [86.3,98.3]、cautious 88.3% → 90.0%(落在噪声内)。Held-out(147,88 计划):literal 23.9% [16.2,33.7] → 3.4% [1.2,9.5]、cautious 10.2% [5.5,18.3] → 5.7% [2.5,12.6];任务准确率 literal 53.7%→66.7%(+12.9 点)、cautious 53.1%→62.6%(+9.5 点)。外部集(LongMemEval + LoCoMo 161 个「答案依赖对话中变化事实」的问题):配对门控开−关 = cautious +0.0 [−4.8,+4.3]、literal +9.9 [+3.1,+17.8]。分类器 AUROC 0.93 [0.89,0.96](直接问「现在是否为真」仅 0.69、「是否该存」仅 0.62,相较分别 +0.24、+0.31)。主要瓶颈在字段匹配:cautious 抽取器 60 个 hedge 中仅 9 个到达门控(literal 55/60),retry 后升至 31/60;更宽松匹配器在 60 探针上把 staging 从 11 提到 41,但污染 +5 点。 18
证据与局限:机构 Distyl AI;所有组件用固定模型 gpt-5.5-2026-04-23 + 固定 prompt,评分用同一固定等价判官;数据集核心基准 60 对话、held-out 147、controlled-difficulty 179(hedge 强度 5 级、确认措辞 4 级),全部 LLM 生成 + 作者审阅(生成器为 GPT 家族、判官为 Claude 家族);分类器验证用 LongMemEval 163 条,另在 claude-opus-4-8 上复跑。开销:相对门控关,每匹配事实加 1 次分类调用、每暂存项在每个后续用户轮加 1 次 checker 调用。局限:受控 split 小(每级 20)、区间宽;held-out 非生成器独立;核心基准 cautious 收益落在噪声内;数据集由 LLM 生成、评测模型与生成器同家族。论文声明会释放数据/提示/评测代码,但唯一给出的仓库 https://github.com/DistylAI/agentmemgate-artifacts/ 实测 HTTP 404。 18
与本节其它条目的关系:与第 1 条(EMHO)同属「冻结模型、用经验改外围系统」——AgentMemGate 改的是记忆写入时门控、EMHO 改的是可执行 harness 逻辑;与第 3 条(SafeActBench)同采确定性判分/门控思路,且都强调「最终状态正确 ≠ 过程正确」(本条测中间态未决窗口、SafeActBench 测证据—行动链);与第 2 条(门控堆栈)同属运行时门控。 18
结论建议:记忆系统不应以最终状态正确率为唯一指标,「中间态/未决窗口正确性」须单列;「写入时延迟 + 解决谓词」的门控模式可搬用,但其字段匹配/分类取舍是通用设计约束——更宽松的匹配器能提高暂存覆盖却带来污染上升。 18

6. 同一条日志在宽容与严格两种打分下,Llama/P4 从 +28.3 点反转为 −15.0 点

Quantization Effects on Tool-Failure Recovery Vary Across Prompts and Evaluation Designs · arXiv:2610.07781 · 值得扫读
研究问题与核心方法:8 位与 4 位后训练量化究竟如何影响语言模型智能体在工具临时失败后的恢复行为,以及这个影响是否稳健。作者在合成订单管理环境里做确定性工具调用任务,对每个「提示词 × 精度」单元先跑一遍无故障的 clean screen,只在通过的任务上把一次临时错误(ET:某次目标调用失败、稍后同样的调用成功)注入黄金工具路径的每一个合法位置,再用三种评测口径分别统计恢复率:(a) 各配置只在自身 clean 通过任务上的恢复率(separately screened);(b) 同一提示下两个精度都 clean 通过任务上的恢复率(matched-task);(c) 覆盖全部 20 个任务、clean 未通过记 0 的整条流水线成功率(full-pipeline)。同一批日志还在两种打分策略下重评:宽容打分(从非 JSON 的整轮里抽出第一个 JSON、允许提交 200.0 * 0.5 这类算术表达式)与严格打分(要求全程严格 JSON + 提交字面数值)。 1
关键结果:没有一致的优势方。matched-task 上 Llama 的 8 位−4 位差值从 0 到 +20.2 个百分点(P0 为 +20.2pp,95%CI [+4.8,+39.3];P1 +3.9、P2 +4.4、P3 +4.2、P4 恰好 0,只有 P0 区间不含 0);Qwen 为 +8.3 / −3.3 / −10.0 / −50.0 / +35.0pp(P0→P4),其中 P3([−65.0,−35.0])与 P4([+20.0,+50.0])区间都不含 0 且方向相反。整条流水线:Llama 五个提示点估计全部偏向 8 位,其中 P0 +27.5pp [+12.5,+44.2]、P4 +28.3pp [+6.7,+48.3] 区间不含 0;Qwen 为 +33.3 / −1.7 / −8.3 / −28.3 / +17.5pp,方向随提示翻转。同一提示下三种口径互相矛盾(Llama/P4):分别 screening 偏向 4 位 +17.5pp、matched 上恰好 0、整条流水线偏向 8 位 +28.3pp。执行器宽容度是第三个能翻盘的设计选择(Table 2,重打分同一批日志、不重跑推理):严格打分把 P4 结论在三个口径上全部反转(分别 screening −17.5 → −42.9pp、matched 0 → −33.3pp、full-pipeline +28.3 → −15.0pp)。附录 P0 阶梯(6 个精度、三种故障条件):ET 下 Q8_0–Q5_K_M 为 117/141=83%,Q4_K_M–Q3_K_M 为 39/70=56%(Fisher 精确检验 p=4.7×10⁻⁵)。 1
证据与局限:单一作者 Yuhe Hu,Duke University;模型 Llama-3.1-8B-Instruct(Q8_0、Q4_K_M、Q3_K_M)与 Qwen2.5-7B-Instruct(Q8_0、Q4_K_M),llama.cpp 服务、全 GPU offload、temperature 0、top-k 1、固定种子;20 个确定性合成订单管理任务、5 个提示(P0–P4);全部实验在单张 NVIDIA L4(24GB)上完成,合计约 12 GPU 小时。统计:比率给 episode 级 95% Wilson 区间,主对比用任务均值,bootstrap 20,000 次,不确定性单位是任务。局限:样本量很小(20 任务、2 个规模相近的模型、5 个非受控提示、单一故障模型);matched 集最小仅 3–4 题、全提示交集仅 9 个 Llama 题与 3 个 Qwen 题且有天花板效应;P3/P4 事后编写、P0 与 P1 不止在重试准则上不同,观察到的交互不构成因果机制;「8 位/4 位」只是 GGUF 预设简称;只有一位作者、无独立复现。原文未提供任何 URL,任务生成器、提示词与全部 25 个 sweep cell 的逐 episode 日志都在补充材料 ZIP 内。 1
与本节其它条目的关系:与第 3 条(SafeActBench)同属「评测口径决定结论」——本条证明同一批日志会在三种 screening 口径与两种打分策略下变号,SafeActBench 则用确定性评测器与人工验证把口径固定;与第 2 条(门控堆栈)都关心「评测设计与读数是否可信」;与第 7 条(端侧推测执行)共享「执行器/系统的格式容错属于被测系统一部分」的推论。 1
结论建议:评测报告须同时给出 matched-task 与 full-pipeline 成功率、明示打分策略,并以任务(而非确定性重跑)为不确定性单位;「只在通过初筛的任务上注入扰动」会改变被测任务集合,任何此类长程评测都应显式报告该筛选。 1

7. 端侧语音代理用推测执行把工具延迟藏进说话时间,TTFA 中位 5.79→4.60 s

Hiding Tool Latency in On-Device Cascaded Voice Agent through Speculative Execution · arXiv:2610.07641 · 值得扫读
研究问题与核心方法:工具增强的语音助手通常把 ASR、LLM 推理、外部工具执行串行化,工具延迟只有在用户说完、LLM 决定调用工具之后才开始被感知;能否利用「用户还在说话」这段时间把工具调用提前做掉。系统含:一个规则式 Predictor 在流式 ASR 过程中持续观察部分假设,在观察到 N_min=6 个词后启动、每增加 ΔN=5 个词再触发一次,或检测到 τ_pause=300 ms 以上的停顿(句末)时触发;Predictor 把当前部分假设按句末标点与并列连接词(and / but / also / then / while)切成互不重叠的 clause 逐 clause 判断,输出候选元组(工具、topic、参数),topic 取固定 12 个粗粒度信息检索类别,因此一句话里多个独立信息检索意图可被并行派发;预测到的只读工具调用在说话期间就被执行、结果存入 Speculative Results Cache;在 ASR 完成时刻 t_ASR 把定稿转写与已完成的推测结果直接注入 LLM prompt,让解码一开始就有这些信息;若 LLM 仍发出工具调用,系统先在缓存里做匹配校验、命中则复用、否则走常规工具执行路径(故最坏情况延迟被常规串行流水线上界所限)。 19
关键结果:主结果(表 1,TTFA = 语音输入结束到第一段 TTS 音频输出;FT = ASR 完成到首次工具调用的时间):级联基线 p50 5.79 s、p99 19.76 s、FT p99 22.44 s、均值±标准差 6.69±3.49 s、工具选择 F1 44.8%;推测执行系统 p50 4.60 s、p99 15.10 s、FT p99 11.71 s、5.99±2.81 s、F1 60.6%。消融(表 2,逐组件叠加):仅推测预取 6.03 s / F1 44.8 / 缓存就绪率 0.0% / 浪费 47 次;加校验回退 6.05 s / 43.5 / 10.2% / 38;直接缓存注入 5.72 s / F1 63.0 / 46.6% / 6;直接注入+校验回退(最终方法)4.60 s / F1 60.6 / 47.7% / 5。稳健性(表 3):硬负例 22 条 p50 6.24 s、误读率 9.1%、推测调用 2 次;对抗样本 24 条 p50 8.40 s、F1 90.2%、误读率 12.3%、推测调用 21 次、浪费 21 次。其它量化点:即使用上推测缓存,LLM 仍在 13% 情况下发出工具调用、7% 情况下对已提供信息重复请求工具;一个典型例子是 15 秒用户查询 + 约 10 秒搜索工具执行,TTFA 从 17 s 降到 8 s。 19
证据与局限:机构 Qualcomm AI Research 与 KAIST AI(逐作者的单位对应关系原文未逐人标注);设备三星 Galaxy S26 Ultra(SM-S948N,Snapdragon Elite Gen 5);流式 Conformer ASR 与 TTS 跑 CPU,W4A16 量化 Llama-3.2-3B 经 Qualcomm QNN 栈跑 NPU,规则式预测器与到 EXA 远程 web-search API 的 HTTP 派发在 CPU;自建 146 条样本(100 条人工撰写英文话语 + 22 条硬负例 + 24 条对抗样本),用 Gemini-2.5-Flash-Preview-TTS 合成并实时流式喂入,全集约 1.5 小时音频、完整跑一轮约 3 小时。局限:样本量小、无重复运行方差、无第二台设备、无与神经预测器的在线对照(表 4 的 LLM 路由是离线实验、未计入推理延迟);规则式预测器超参(N_min、ΔN、τ_pause)未给分布来源与规模;在 146 条样本上报 p99、尾部样本个位数;中位延迟 1.19 s 的改善无置信区间或显著性检验;推测被限制在只读工具(安全护栏同时限制适用面),写操作类工具未验证。原文未提供代码/数据/项目页。 19
与本节其它条目的关系:与第 4 条(StepGate)同属「运行时门控式的提前/升级决策」——本条用规则式预测器把工具调用提前、StepGate 用不确定性门控决定是否升级;与第 6 条(量化)共享「执行器/系统的格式与缓存容错属于被测系统一部分」的推论(本条消融显示直接缓存注入使工具选择 F1 从 44.8% 升到 63.0%);与第 2 条(门控堆栈)在「缓存匹配校验作为回退防线」的设计上可对照。 19
结论建议:「用流式部分假设预测未来工具调用、把远程延迟藏进用户说话时间」是一套可搬到任何端侧/在线语音助手的运行时机制,且保留了最坏情况延迟被串行上界约束的保证;clause 级切分 + 12 个粗粒度 topic 是「一句话多意图并行派发」的现成轻量方案;「直接缓存注入」既降延迟又提 F1(44.8%→63.0%,作者归因于给 3B 小模型的上下文增强)对「小模型靠信息注入提升工具选择」很有价值,但须补重复测量与置信区间。 19

8. 世界模型内对抗训练把未见对手下完成率从 23.0% 提到 30.7%(相对 +33.6%)

AdvSim2Real: Training Web Agents Against Adaptive Prompt Injection in a Web World Model · arXiv:2610.08773 · 值得扫读
研究问题与核心方法:第三方写的网页里可以被植入指令、把 Web 智能体从用户目标上带偏;而它不能简单无视网页,因为网页同时承载任务所需的数值与控件——如何训练出「任务保持的鲁棒性」(任务仍可行时就完成授权目标),并顶住会自适应被防守模型的攻击者。AdvSim2Real 在一个冻结的 Web 世界模型(WebWorld-14B,按历史与动作预测下一页)内部让三个策略互相博弈:课程 C 生成「目标 + 初始页」任务、对手 A 通过向世界模型请求一串注入内容(注入指令、渲染标记、注入步、可选目标动作)来攻击、执行者 E 完成网页表单任务,冻结裁判 J(Qwen3.8-27B)给每次 rollout 打 0/1。课程奖励沿用 R-Zero 的不确定性奖励 q(p)=1−2|p−1/2|(在当前执行者判定成功率约 50% 时最大)并加词面相似度重复惩罚;对手只拿「成功翻转」奖励——把裁判已接受的一次干净 rollout 重放到注入步、注入后再继续,只有当继续失败才得分,从而不给「执行者本来就会失败」的失败计酬。训练两阶段:阶段 1 课程与执行者交替更新,阶段 2 冻结课程、对手与执行者交替,执行者在「干净任务 + 新攻击 + 历史轮次攻击」混合上训练;三个角色各训一个低秩适配器(LoRA rank 16 / scaling 32、lr 1e-5、KL 系数 0.01)。 20
关键结果:干净完成率:Base 74.89±1.39 → Capability iter 1/2/3 为 78.00/77.11/79.33 → Robust iter 3 为 81.33±2.31;三学习对手平均下的完成率:Base 48.07±0.56 → Capability iter 1 54.74 → Robust iter 3 57.48±0.56(端点增益为干净 +6.44 点、受攻 +9.41 点)。受攻增益集中在第一个对手:相对 Adv v1 +5.78、Adv v2 +2.54、Adv v3 +1.11 点。未见对手(Kimi-K3,未参与训练的前沿模型):Base 从干净 74.89% 掉到 23.00±3.30%,Robust iter 1/2/3 为 29.67/30.33/30.72±3.04,即 +7.72 点、相对提升 33.6%(三轮彼此相差不到 1.05 点);但每个检查点对单次注入的前沿对手都至少损失 47.66 点干净完成率。Sim-to-real:能力检查点在真实 Chromium 浏览器(无世界模型调用)上跑同一批 150 任务,严格提交校验成功率从 Base 的 25.56±1.02% 升到 43.56/44.44±5.00%,正确字段率 52.50%→73.24%。与托管 9B 参照比:Robust iter 3(4B)受攻 57.40% 对 56.96%、干净 81.33% 对 78.22%(干净领先 3.11 点)。消融(去掉阶段 1):受攻均值 52.81/56.96/57.04,与完整流程只差 0.44 点,因此无法证明阶段 1 带来鲁棒性收益。端点仍有 23.85 点的干净—受攻差距。 20
证据与局限:机构 Mohamed bin Zayed University of Artificial Intelligence、Amazon、Massachusetts Institute of Technology;执行者 Qwen3.5-4B(参照托管 Qwen3.5-9B)、世界模型冻结 WebWorld-14B、裁判冻结 Qwen3.8-27B;基准 150 个表单填写任务(10 个模板、五个技能层),评估 150 任务 × 3 个 rollout 种子(Kimi-K3 两个),每轨迹最多 12 动作;阶段 1 一次记录的迭代用两块 96 GB RTX 6000 Pro、20 小时 46 分。局限:只测一个训练适配器的 3 个 rollout 种子(测 rollout 方差而非训练方差)、原文明确不给置信区间;阶段 2 的鲁棒性只在世界模型内评测;裁判存在已被作者披露的算术误判(两例提交 10,102 与 8,862 被判为正,正确应为 21,042),奖励信号本身有噪;干净—受攻差距说明鲁棒性远未解决;训练环境是单一冻结世界模型。公开工件 https://github.com/Sarim-MBZUAI/advsim2real.git 与检查点 https://huggingface.co/Sarim-Hash/advsim2real-stage1-curr1epoch-exec2epochs-iter3-nprop150 均实测 HTTP 200。 20
与本节其它条目的关系:与第 2 条(门控堆栈独立失效)互补——两篇都处理页面/动作文本里的注入如何被防线拦住,本条用对抗训练改进执行者、第 2 条测量确定性规则层与 LLM 裁判层的耦合,且第 2 条明确「无自适应对手」而本条正是训练自适应对手;与第 3 条(SafeActBench)都关注「判定意义上的成功 ≠ 可执行的成功」(本条只有能力检查点在浏览器验证过);与第 6 条(量化)都以「训练/评测设计决定结论」为警示。 20
结论建议:「成功翻转」奖励与「成功率≈50% 的不确定性课程奖励 + 重复惩罚」是可搬用的对抗训练与自生成课程配方;「在世界模型里训练、在真实浏览器里验证能力增益、并诚实标注鲁棒性只在模拟器内评」是评估口径的正面样本;对裁判误判的主动披露提示把奖励信号的信噪比纳入对抗训练的常规报告。 20

二、上下文与记忆:压缩、写入与检索可接纳性

1. 前置历史几乎预测不了压缩损害:最强触发器 AUROC 0.66,追不上重放标尺 0.72

Does an Agent's History Tell You When Compaction Will Hurt? A Modest, Bounded Effect on the TRACE Paired-Replay Corpus · arXiv:2610.08722 · 精读
研究问题与核心方法:长程智能体的上下文压缩(compaction)通常按全局 token 预算触发、不看在做什么;本文问的是:在某个压缩边界处,「压缩是否会伤害任务」能否由该边界的前置历史(压缩前可观测信息)预测出来。方法不新建环境,而是复用已发布的 TRACE 配对重放语料(Nokia Applied Research 释放的 AppWorld 语料):每个压缩边界重放两次,PRE 臂还原压缩前前缀、POST 臂用摘要加保留的最后一轮渲染,各臂让同一模型(minimax-m3,窗口 4,096 token)最多再走 5(首次压缩)/3(后续压缩)个动作,统计被阻断调用与重复调用的并集 union,得到配对增量 dU = mean(POST) − mean(PRE),以 k=3 的 dU@3 为主要预注册结果。围绕 dU@3 做三件事:预注册的「前缀里是否出现过写操作」位置对照(按下游 endpoint 的 HTTP 方法给边界打标签)、用前置可观测特征训练触发策略(stump、深度 2 决策树、二特征 logistic、17 个工程化摘要 + 浅层 GBDT、144 特征版),以及用「同一边界的两次重放对半拆分」构造可复现性标尺(replicate yardstick)作为触发策略的预测上限参照。21
关键结果:TRACE 冻结语料含 590 个压缩边界:它们来自 294 条轨迹中的 275 条、147 个 AppWorld 任务(140 个含边界);590 个边界中 275 个为首次压缩、315 个为后续压缩;344/590 个边界的 dU@3 > 0(即有害)。预注册的位置对照给出宽零假设:dU@3 的 post-write 减 read-only = −0.062 [−0.209, +0.079],未达到预先设定的「有信息量」判据(区间不含 0,或半宽 ≤0.10;实测半宽 0.144)。朴素的「写过东西」标签主要是在测轨迹相位——494 个 write-prefixed 边界里 368 个只对 login/session 端点写过;Table 1 显示无写 96 个边界/60 任务 dU@3 +0.398 [+0.266,+0.533],仅登录写 368 个/123 任务 +0.391 [+0.313,+0.472],实质写 126 个/64 任务 +0.172 [+0.048,+0.291],加入 task 固定效应、log 前缀步数与首次压缩指示后位置对照降到 −0.004 [−0.19,+0.18]。触发策略在 ≥80% 保留下的运行点(Table 2):二特征 logistic 保留 0.837、挡下 0.206 [0.156,0.256]、相对随机规则期望的配对优势 Δ +0.044 [+0.017,+0.070](即挡下约 21% 有害边界、保留约 84% 压缩机会);144 特征 logistic 为 0.800 / 0.273 / +0.073 [+0.045,+0.098];而同一边界的对半重放标尺为 0.866 / 0.243 / +0.109 [+0.082,+0.134]。判别力上,可解释策略的 held-out AUROC 为 0.404–0.635(主目标 0.55–0.62),boosted 版最好 0.66 [0.61,0.70],而对半重放标尺达 0.72 [0.69,0.75],因而最好的触发策略也追不上同一边界另一次采样所能预测的水平。21
证据与局限:中等偏强但结论偏弱——语料 590 个边界、140 个任务簇,有预注册分析、两次修订、跨折稳健性检查、对半重放标尺与多重比较披露;但作者反复强调区间未做选择/多重性校正,在 burden mass 口径下多数策略不显著,且目标标签本身噪声大(三分类符号一致率 0.55、κ 0.28)。仅覆盖 1 个 agent 模型、1 个压缩器、1 个窗口(4,096 token,且有意设窄),边界只含 harness 触发的压缩,离线价值只计价接下来 k 个动作,每边界每臂仅 3–5 次重放。本文未发布自己的代码或数据(分析记录可应要求提供、不做再分发),所用 TRACE 语料来自 Nokia(git revision 9be7d66911bb7600fdec66e64f4825865397e944,无 LICENSE/CITATION 文件)。最关键的实践对照——同保留率下 vs token 预算规则——被明确列为无法评估,作者列出需补发布的内容:有序动作序列、token 计数、摘要文本、更多重放。21
与本节其它条目的关系:与第 6 条(arXiv:2610.08300)同为「上下文结构该多大」的受控实验——那条证明「重构上下文宽度(8–16K)是有效旋钮、深度无单调收益」,本条则说明「按前置历史门控压缩」的收益有限,二者共同指向「轻量、全局的规则常常够用」;与第 7 条(arXiv:2610.07118)互为对照——AMBER 用可训练的追加式记忆把第 30 步上下文压到约 7.4k token,本条给出的负面证据是:压缩是否会伤害任务,几乎无法从压缩边界的前置历史里预测出来(这是论文的结论方向,不是原文原句);与第 3 条(arXiv:2610.07309)同属评测可靠性议题,都用「同一边界/同一批查询的另一次观测」作为上限参照(本条是对半重放标尺 0.72)。21
结论建议:把本文当作「用 agent 历史做元决策」这类工作的必读反例。若要做压缩门控,别指望前置历史特征,先按已有的轻量信号(如首次压缩、历史长度)设规则,并把 token 计数与有序动作序列纳入日志,日后才能真正回答「同保留率下 vs 预算规则」。21

2. 良性记忆也会致错:读时裁剪把 RippleEdits 的 ✓→✗ 从 11.6% 压到 0.6%

Understanding and Mitigating Inference-Time Overreliance Using Agentic Memory · arXiv:2610.07311 · 值得扫读
研究问题与核心方法:当被检索到的记忆本身良性、存储正确且被正确检索时,它仍可能在当前任务上误导推理(作者命名为 memory overreliance,记忆过度依赖)。方法先把记忆与当前 query 都解析成原子「证据单元」e=(k,v)(key 含实体 + 属性/关系 + 值类型),并抽取任务签名 τ 与答案支撑集 H,组成 m=(E,τ,H,o)。写入时把每个证据单元独立插入一棵全局 trie:相同 key-value 落同一节点、同一 key 的不同取值分叉到不同分支,从而匹配任意位置的重复证据;读取时把 query 映射到同一证据空间,将检索到的记忆证据分为 shared(query 已出现,删除)、conflicting(key 相同值不同,删除)、memory-only(query 不存在,保留)三集,若冲突证据落入支撑集 H 则压掉旧答案 o,τ_m=τ_q 才作同题前答保留、否则降级为带原任务标签的证据陈述。整个过程是即插即用的读写层,不重训底层 LLM,适用于 embedding 型与结构化记忆。22
三栏示意图:左栏给出同一条证据同时出现在查询与检索记忆中的例子,中栏是 MemTrim 的写入(拆成证据单元、插入前缀树索引)与读取(按共享、冲突、仅记忆三类关系分区并处理)两步,右栏对比标准记忆用法与 MemTrim 用法下给出的答案。
论文 Figure 4。MemTrim 把记忆拆成证据单元并用前缀树索引,读取时按「与查询共享」「与查询冲突」「仅存于记忆」三种关系分别处理;右栏给的是同一个问题下两种用法的差别——标准用法被冗余证据带成错误答案,MemTrim 只留下唯一非冗余的证据。图片来源:论文原文。 22
关键结果:先证存在性(Table 1,加记忆 vs 不加记忆):Qwen3.8-27B 在 RippleEdits 的 TD-Dup 上,无记忆 71.3±0.8 → Mem0 62.6±1.3(下降),同时 TA(task-aligned,即存储的记忆与当前查询任务一致的那类样本上的准确率)从 68.0 升到 85.3;GPT-5.6 Luna 上 68.9 → 62.2,证明记忆「对可迁移记忆有用、对部分重叠记忆有害」。MemTrim vs 记忆骨干 Mem0(Table 2,Qwen3.8-27B):RippleEdits TD-Dup 62.6 → 74.5(✓→✗ 由 11.6% 降到 0.6%,TA 85.3 → 88.4);CounterLogic TD-Dup 80.0 → 87.9(✓→✗ 7.8 → 0.4);CLADDER-Derived TD-Dup 46.6 → 63.5(✓→✗ 16.9 → 0.9);GPT-5.6 Luna 上同向(62.2 → 75.3、79.4 → 88.5、45.5 → 64.9)。在 TD-Dup 上优于 Facts-only、Top-1、MMR、Similarity filter、RECOMP、LLMLingua-2、Context-faithful、Answer-first、Micro-Act 等基线(如 RippleEdits/Qwen 上 Context-faithful TA 86.2 但 TD-Dup 72.6,MemTrim 为 88.4/74.5);受 PoisonedRAG / MINJA / ShadowMerge 注入时相对 RobustRAG、TrustRAG、A-MemGuard 退化更慢(图 6 只给图与置信区间,未给单一数值)。22
证据与局限:较强——3 个基准(RippleEdits、CounterLogic、CLADDER-Derived)× 2 个 LLM(Qwen3.8-27B、GPT-5.6 Luna)× 4 个记忆系统(Mem0/A-Mem/MemGPT/Graphiti),含四步消融、对抗注入压力测试与运行时分析,并报告标准差;但消融主要在 Qwen3.8-27B 单一骨干上做,统计检验侧重重叠分布差异。原文自陈:各 read-time 步骤「在其被设计的场景才起作用」(非普适),Runtime 变化小但有正有负,证据解析依赖 LLM parser,解析失败时该记忆的旧答案不被复用;对纯程序性/主观/难结构化答案会丢弃复用;算力与成本未报告。本文未提供代码或数据,无可测链接。22
与本节其它条目的关系:与第 5 条(arXiv:2610.08586 MINDSET)互补——本条在读时裁掉与 query 冲突/重复的记忆证据,MINDSET 在写时用能量与滞后决定记忆该更新、分支还是新建,二者是同一「记忆准入」问题的读写两端;与第 7 条(arXiv:2610.07118 AMBER)都关注「留住什么」,但 AMBER 用追加式记忆 + 结果奖励训练策略,本条是不改模型、只改读写层的运行时保障;与第 3 条(arXiv:2610.07309)对照——那条审计「检索到的记忆是否可接纳(属主/策略/生命周期)」,本条处理的是「可接纳记忆的部分重叠致错」,两条合起来覆盖检索记忆的两类风险。22
结论建议:若系统已在用 Mem0 一类记忆后端,可把「读取时按 shared/conflicting/memory-only 三集裁剪」当作低成本的第一道防线,并用 ✓→✗ 计数(而非只看准确率)作为记忆影响的评估口径;但要先确认证据能被可靠解析为 key-value,否则结构化不了的记忆会整条被丢弃。22

3. 命名空间过滤把 top-20 召回从 0.432 提到 0.533,但验证器在 1% 误拒下查不出违规

The Right Memory in the Wrong Context: Verifying Retrieval Admissibility in Long-Term Agent Memory · arXiv:2610.07309 · 值得扫读
研究问题与核心方法:长期记忆智能体会检索到「与查询主题相关、但在当前语境下不可用」的记录(属于另一主体、违反策略、或处于不兼容的生命周期状态),而召回率与最终答案准确率都暴露不了这一问题——一条路线可能因漏掉必需证据而显得「安全」,一个正确答案也可能建立在不可接纳的提示暴露之上。方法提出检索可接纳性验证框架,把每个「记忆–查询」对判为三值状态(admissible / inadmissible / unresolved),用强 Kleene 三值合取把三条诊断轴——范围 n_z(m)(是否属于当前主体/命名空间)、策略许可 g_z(m)、生命周期兼容 ℓ_z(m)——合成可接纳性 a_z(m),再与相关性 r_z(m) 合取得可用性 u_z(m),一条既定的治理违规即判不可接纳、unresolved 从不插补。评测做匹配召回路线核算:先把路线截到达到目标召回 τ=0.8 的最小前缀(每项都要计费,防止「少返回有用证据」显得更安全),再报告已知标签风险、标签覆盖 γ、部分识别上下界 [C^L,C^U] 与带不可行单位惩罚的召回约束损失 ℒ^RC;另有 ID 级审计链跟踪同一记忆 ID 从存储→检索 R→提示暴露 E(满足 E≤R≤W)→答案层目标披露 Y,把失败定位在候选支持、验证、提示组装或披露某一环。23
关键结果:候选支持分析(3,767 条 RHELM/MemOps 查询,冻结 top-20 事后重分析):命名空间支持把 top-20 锚点召回从 0.432 提到 0.533(+0.101 [0.082,0.120]),80% 召回可行率从 0.237 提到 0.311(+0.074 [0.056,0.095]),部分识别上界从 [.187,.195] 收窄到 [.118,.126](覆盖 .992),约束损失降低 −0.085 [−0.107,−0.064](其中 87% 归因于可行性),精确相似度计算量减少 98.3%(90,122 → 1,551 次,58.1× 更少)。对照:随机同规模支持使召回崩到 0.061、可行率 0.024、损失 0.978;全局后过滤 depth=500 召回 0.531 / 损失 0.713;锚点保持的 oracle 上界 0.840 / 0.747 / 0.390(不可部署)。在两条路线都可行的 609 条查询上,上界从 .1955 降到 .1191,配对差 −0.0763 [−0.0929,−0.0600]。路线-读者关联(1,523 条配对基准原生案例,三读者):命名空间减全局的判分准确率增益 DeepSeek V4 Pro +0.053 [+0.020,+0.084]、Gemini 3.6 Flash +0.068 [+0.047,+0.090]、GPT-5.6 Luna +0.066 [+0.039,+0.096](因命名空间同时提高召回,该比较是观测性的)。资格验证(96 条公开开发查询 + 16 受控场景):文本验证器 GPT-5.6 Sol、Gemini 3.6 Flash 的 ROC-AUC 仅 .626 / .522;在 1% 必需锚点误拒上限下两者都检测不出违规(无阈值合格)。受控暴露(16 场景,四读者):选择性差 S 为 .906/.813/.656/.844,相关但不可接纳的字面披露对比只有 DeepSeek V4 Pro 的 +0.156 [0.031,0.312] 不含零,另外三个为 .000/.000/.125。标注者一致性(207 个记录–查询对,未裁决):Krippendorff α 相关性 .814、范围 .981、生命周期 .670、禁止状态 .083(稀疏轴不可独立采信)。23
证据与局限:中等——两个公开基准(RHELM、MemOps)、3,767 条查询、1,523 条配对读者案例、预注册 τ 与 10,000 次百分位 bootstrap 区间、盲标一致性审计;但整体是事后冻结排名重分析 + 观测性关联(只有 16 场景的受控暴露研究做了随机化),命名空间是「可信」而非推断的,RHELM 只有 7 个组进入路线-读者分析(原文自标 exploratory),验证诊断只有 72 案例。原文自陈:证据只覆盖两个公开来源;共用一个 Claude Haiku 4.5 判官、GPT-5.6 Luna 是顺序复现、替代判官审计仅 200 条输出;源执行硬件记录不完整,候选规模缩减不能当成墙钟延迟收益;主要正向读者效应是关联性的。核对原文后另外读到:命名空间过滤「不会变差」依赖可信命名空间标签完备,腐蚀网格显示命名空间拒绝/缺失/交换在 .20 处首次破坏弱支配,收益对 provenance 错误并不鲁棒。代码仓库 github.com/ziwang11112/right-memory-wrong-context 实测 200,基准为公开数据。23
与本节其它条目的关系:与第 2 条(arXiv:2610.07311)最直接互补——MemTrim 在系统内做读写裁剪,本条把「检索到的记忆是否可接纳」变成三值标签 + 匹配召回审计的可验证评测目标,可比「系统机制 vs 验证协议」;与第 6 条(arXiv:2610.08300)共享方法论,都强调「召回高≠答对」(本条强调部分识别界与覆盖率,那条给出 Q-hit 96.63% 对 Accuracy 60.67%);与第 4 条(arXiv:2610.07100)都以「证据是否足以支撑」为核心,但一个审检索可接纳性、一个审写入保留的可信度。23
结论建议:把本框架当作 RAG/记忆智能体合规评测的现成模板:用匹配召回截断 + 部分识别界替代裸召回率,用 ID 级暴露-披露链定位失败环节;同时注意其负面结论——用 LLM 文本验证器做记忆合规门控在 1% 误拒下基本失效(ROC-AUC 仅 .52–.63),别把它当作单一防线。23

4. 只给 values 类别单独设阈值:faithfulness 96.03%、覆盖率 83.26%,优于全局阈值

When to Remember, When to Abstain: Category-Conditioned Retention for Reliable Agent Memory · arXiv:2610.07100 · 值得扫读
研究问题与核心方法:智能体持久记忆的可靠性取决于「写入边界」的保留决策——支持很弱的断言一旦写入,之后就会被当作既有事实复用。核心问题是:保留阈值是否应按断言的语义类别条件化,而不是用一个全局置信阈值。方法把记忆写入当作「选择性预测(selective prediction)+ 弃权」问题:在已部署的冷启动记忆抽取管线(按语义类别各设一个抽取器,输出原子候选断言与置信分)中,于持久化之前插入一个保留/弃权二分决策,比较全部写入(No-filtering)、全局单阈值、按类别条件化阈值三种策略(后者的最小实例化:只对 "values" 类别设一个单独阈值);阈值由 20 次重复的 5 折交叉验证(按 persona 切分)拟合,在拟合折上选「保留率 ≥80% 约束下最大化 faithfulness」的阈值,再原样应用到留出 persona。策略只用到抽取阶段已经产出的两个信号(置信分 + 类别),不改变存储与检索,无需额外训练或推理。24
关键结果:可靠性不对称——4,715 条候选断言中 values/beliefs 类别只有 77.9%(95% CI 74.8–81.0)被来源支持,其他所有类别 96.2%(95% CI 95.1–97.1);values 占候选的 21.5%,但其不支持率 22.1%,贡献的不支持断言多于其余所有类别之和。values 类别内支持率从最低有样本置信分桶的约 59% 升到最高桶的约 90%。留出集保留策略(Table 1,折均值±标准差):写全部 faithfulness 92.24% / 估计覆盖率 85.27% / 保留率 100%;全局阈值 93.83±1.16 / 70.30±2.09 / 81.8±2.0;values-targeted 96.03±0.93 / 83.26±1.73 / 80.3±1.0。targeted − global:faithfulness +2.21(95% 配对区间 [+0.22,+4.06])、估计覆盖率 +12.96([+9.80,+16.04])、保留率 −1.55([−5.78,+3.25],即二者保留率相当,增益不是靠更激进过滤换来);targeted 相对 write-all faithfulness +3.79 点而估计覆盖率仅降 2.01 点,global 相对 write-all faithfulness +1.59 点却让估计覆盖率降 14.97 点。判定变异性(附录 D):同一输入重复评分会翻转 4.71% 的断言判决。跨模型稳健性(附录 E,同 954 条断言/20 personas,194 values + 760 non-values):values 支持率 Gemini 2.5 Pro(T=0) 0.840、Gemini 2.5 Pro(T=1) 0.845、GPT-5(T=1) 0.624,non-values 分别为 0.959/0.949/0.963,温度效应小(values 上 T=1−T=0 = +0.005 [−0.046,+0.056])、跨模型差大(Gemini T=0 vs GPT-5 = +0.216 [+0.138,+0.295])。24
证据与局限:中等偏弱——机制简单清晰,有 20×5 折重复留出评估与配对区间、有跨模型/跨温度稳健性检验;但全部在单一合成语料(100 个合成 persona)上评估,判官为 LLM(Gemini 2.5 Pro,固定 rubric)而非人工金标,覆盖率是依赖词法归属的估计值,且只验证了「一个预设类别 + 单个阈值」的最小形式。原文自陈:绝对支持水平与拟合出的阈值都依赖判官;受控评估只用单一合成语料,真实用户/其他抽取器/下游使用尚待验证;整类门控过粗,阈值失准或类别标错会系统性丢掉该类内合法内容,学习式 per-category 阈值是自然延伸。核对原文后另外读到:摘要与正文数字口径不一致——摘要称「不支持保留从 6.2% 降到 4.0%」,而正文 Table 1 的对应量为 92.24%→96.03%(即 7.76%→3.97%),正文未出现 6.2% 的来源;values 类别支持率在不同判官下差异极大(0.624 vs 0.840),说明方法所依赖的「类别可靠性不对称」本身依赖判官。无代码/数据/项目页(Meta 内部管线)。24
与本节其它条目的关系:与第 5 条(arXiv:2610.08586 MINDSET)构成「记忆写入门控」的两种设计对照:本条按语义类别的置信阈值条件化保留,MINDSET 按能量最小化 + 滞后决定 reinforce/supersede/split/new;与第 3 条(arXiv:2610.07309)共享「证据是否足以支撑一个断言」的关切,但一个审写入保留、一个审检索可接纳;其 4.71% 判官翻转率与跨模型差异可与第 2 条(arXiv:2610.07311)的「记忆致错」计数一起,作为「记忆可信度评估」的数据点。24
结论建议:若要给记忆写入设门控,优先考虑按类别条件化的阈值而非全局阈值——本文中它把覆盖率从 70.30% 提到 83.26% 而几乎不牺牲保留率;但落地前先用自有语料复算「哪些类别可靠」,因为该不对称性完全依赖判官,且本文只在合成人格上验证过。24

5. 记忆演化建模为最小能量转移:LoCoMo-700 上 F1 0.4280,领先最强基线并不显著

MINDSET: Energy-based Schema Evolution for Long Conversational Agent Memory · arXiv:2610.08586 · 值得扫读
研究问题与核心方法:长对话智能体的指令与语境随时间变化,既要保留当前状态、又要保留历史状态以回答「变更前/变更过程」的问题;全历史提示、摘要压缩、无差别向量索引各有代价。核心问题是在矛盾下做状态演化——判断新证据应更新已有记忆、作为上下文分支共存,还是新建。MINDSET 把对话存成不可变 episode,并维护一层带版本的 schema(含 support/exception episode id、centroid/medoid、有效期、active/historical 状态、前驱后继链接),对每个新 episode 在四种动作 {reinforce, supersede, split, new} 上求最小能量:能量 E(a)=w_d·D_a(表征失真)+w_c·C_a(未解矛盾)+w_h·H_a(历史损伤)+w_f·F_a(碎片化)+w_i·I_a(内部不一致),权重 w=(1.00,1.25,0.75,0.22,1.00);动作可行性由兼容度 K、矛盾度 p、时序-语境势 τ、κ 决定,滞后机制 m_switch=0.18、m_stay=0.06 防止孤立矛盾过早重写稳定记忆。检索端由本地 router 判为 current/historical/contextual/generic,三通道合并后由 ms-marco-MiniLM-L6-v2 重排;阈值/权重在 300 题 LoCoMo 开发集上手调、冻结后才跑测试,无梯度拟合。25
关键结果:LoCoMo-700 主表(GPT-OSS-120B,Table 2):MINDSET answer F1 0.4280、Recall@8 0.6280、Precision@8 0.1056、MRR 0.5572、nDCG@8 0.5453、evidence recall 0.6302、总 token 403,978;对照 LightMem 0.4024/0.4522/0.0783/0.4365/0.4092/0.4554/313,522,Vector RAG 0.3807/0.3904/…/0.2675/0.2779/0.3939/356,368,Long Context 0.2791/0.0153/…/0.0082/0.0082/0.2190/4,310,788。显著性(10 个会话簇上的双侧精确配对符号翻转置换检验 + 簇 bootstrap,Holm 校正):对 LightMem Recall@8 +0.1758、MRR +0.1207、nDCG@8 +0.1361(三项均 p=0.00977);answer F1 对 Long Context +0.1489(95% 簇 bootstrap CI [+0.1094,+0.1857],p=0.00977),但对最强对手 LightMem 仅 +0.0256、p=0.24023(未达显著)。token 效率:总 token 约比 Long Context 少 10×(403,978 vs 4,310,788),但多于 LightMem 与 Vector RAG,且 evidence recall(0.6302)落后 Nemori(0.6321)。MemoryAgentBench(MAB-150)四项指标均最高但绝对值很低(ICL exact match 0.0240,作者自陈「相对差距小、绝对指标低」)。消融(Table 4):完整 0.4280,最近 schema 合并 0.4080(−0.0200),去碎片化惩罚 0.4043(−0.0237),最大贡献者为能量分配与碎片化控制。跨模型:GLM-4.7 上 MINDSET F1 0.4080 居首,但 Gemma-4-31B 上 LightMem 反超 MINDSET 0.0002(0.3308 vs 0.3306)。25
证据与局限:较强偏中等——单一大基准 LoCoMo-700 + 6 系统对比 + 6 配置消融 + 3 个回答 backbone,且有簇级置换检验、Holm 与簇 bootstrap CI 和显式 token 账本;但副基准 MemoryAgentBench 仅 150 样本(推荐子集仅 25 例)、无显著性检验,部分基线(LightMem 上游训练产物不可得)用文档化复现实现,参数为手调、无梯度拟合。原文自陈:MAB 绝对分低、推荐子集只 25 例,结论只代表该协议下的相对表现;LightMem 因上游训练产物不可得改用复现实现;转移系数与阈值是手调工程选择。核对原文后另外读到:对最强对手 LightMem 的 F1 领先不显著(p=0.24023),摘要「最高 F1」需以 observed 限定来读;Gemma-4-31B 上 F1 被反超 0.0002,「model independence」主要靠检索指标撑着;数据/代码仅承诺发表时发布,当前无公开仓库。25
与本节其它条目的关系:与第 4 条(arXiv:2610.07100)构成记忆写入门控的两种设计对照(能量 + 滞后 vs 类别条件置信阈值);与第 3 条(arXiv:2610.07309)同属「记忆该保留什么、以什么粒度」的问题——本条在系统内做版本化 schema 演化,那条把可接纳性做成可验证协议;与第 2 条(arXiv:2610.07311)分别处于记忆的写时与读时两端;其「不可变 episode + 版本化 schema 保留历史状态」直接回应长对话「变更前后都答得出」的需求,可与第 7 条(arXiv:2610.07118)的追加式记忆在「留住什么」上互照。25
结论建议:可借鉴其「把记忆更新写成显式四选一状态转移 + 能量函数」的控制器设计,以及「不可变 episode + 版本化 schema」的结构,以保住历史证据;但采用时要有自己的显著性检验与 token 账本,别把「在最强对手上不显著的小幅领先」当作既成结论。25

6. 上下文宽度 1K→4K 在各深度都涨 10–18pp,深度却无单调收益;8–16K 才是有效旋钮

Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval · arXiv:2610.08300 · 精读
研究问题与核心方法:长期对话记忆里两个通常被绑在一起变的架构属性——结构深度(可访问的记忆层级数)与喂给回答模型的上下文宽度——各自与联合起来如何影响答案质量与 token 效率,哪些可测量量能标出一个有用的「深度–宽度」工作点(RQ1、RQ2)。方法搭一条「结构化记忆构建 + 上下文检索」流水线做联合受控实验:Memory Writer 把对话转成链回原始消息的 event cards,Hierarchy Writer 把每张卡分到一张因果-主题图(不设预设深度上限),回答时 Production Router 用混合词法-语义检索给节点与卡排序,卡片不足时 Context Packer 检索被选节点关联的源对话块、按 Width 预算装配并恢复时间顺序。Depth = 可访问的图层级数(浅层条件直接移除整个下层及其卡片)。主实验冻结 22 个条件:12 个 Production 组合(D1–D4 × 1K/2K/4K)+ 4 个 D1-wide(8K/16K/32K/full-map)+ 6 个 Oracle(gold-only/4K/8K/16K/32K/full-archive);Oracle 保留全部金标证据再叠加真实对话上下文,用来把「记忆失败」与「读者用宽输入的能力」分开。12
关键结果(Main,n=89):宽度从 1K 提到 4K 在每个深度都提升 Accuracy——D1 42.70→60.67%、D2 38.20→48.31%、D3 39.33→55.06%、D4 39.33→52.81%,幅度 +10.11 到 +17.98 个百分点,所有 bootstrap 95% 置信区间不含零、Holm 校正后 McNemar 检验 p ≤ .0117(H1 成立)。深度没有单调收益:4K 时排序 D1 60.67% > D3 55.06% > D4 52.81% > D2 48.31%,九个同宽度 D1–Dx 配对比较无一通过联合 Holm 校正,最强的是 4K 下 D1 vs D2(+12.36 点,p_Holm=.0665),故只主张「此处无确认收益」而非「深度有害」。宽度有效区间与平台期:Production D1 在 8K 达 64.04%、16K 达 69.66%,之后不再提升(32K 67.42%、full-map 69.66%),TPCA(每答对一题 token 数)从 14.9K 升到 26.7K、54.3K、89.1K,8K 以上的宽度比较经 Holm 校正后不显著。Oracle:gold-only 69.66%、4–16K 为 66.29–68.54%、32K 73.03%、full-archive 74.16%;16K 同一宽度下 Production D1 为 69.66%、Oracle 为 67.42%,前者反而略高(事后配对检验 p=.73),即「保证有证据」并不在每个工作点都是 Accuracy 的严格上界。效率:Oracle gold-only 与 Production Full 同为 69.66% Accuracy,TPCA 却是 3.83K vs 89.07K,精确的 oracle 引导选择每答对一题少用 23.2× token。检索到证据不等于答得对:4K 时核心召回为 39.27/32.69/37.58/38.54%(D1–D4),但 D1–4K 的 Q-hit 高达 96.63%、Accuracy 只有 60.67%。12
证据与局限:中等偏强——预注册式冻结协议(Dev 上开发、Main 前冻结)、22 个条件、n=89、两个独立盲条件判官(GPT-5.6 Sol 与 GPT-5.6 Terra)评分、分歧由盲法人工裁决、bootstrap 20,000 次与 Holm 校正 McNemar;但只有一个数据集(EverMemBench,Main 覆盖 196,798 token、2,996 消息、127 问题中的 89 题)、一个读者模型(Grok 4.3)、两张 Main 记忆图、深度只到 D4。原文自陈:事后看 89 题中 21 题在全部 22 个条件下都答对、15 题从未答对、53 题依条件而变;结果不确立通用块大小或最终架构,只把重心从「最大分解深度」转向「连贯块大小、边界质量与更大规模下的路由成本」。核对原文后另外读到:「深度无收益」在 Holm 校正下并不显著,应按「无确认收益」而非「证伪」读;Oracle 与 Production 的差距只能说明「与写入和检索损失相容」;Dev 与 Main 的饱和点不同,该参数依赖系统/数据/输入构造,不能外推。作者为独立研究者(Michael Andreev,无机构),本文已被 NeurIPS 2026 的 PALM Workshop 接收,未提供代码/项目页,所用数据为公开基准 EverMemBench。12
与本节其它条目的关系:与第 1 条(arXiv:2610.08722)同为「上下文结构该多大」的受控实验——那条测「按前置历史门控压缩」几乎无效,本条测「深度 vs 宽度」的联合效应,二者共同支撑「轻量、全局的规模规则常常够用」;与第 3 条(arXiv:2610.07309)可比检索评测方法论,都强调「召回高≠答对」(本条 Q-hit 96.63% 对 Accuracy 60.67%,那条强调匹配召回下的风险审计);与第 2、5 条的记忆机制工作互补——它给出「深度无单调收益、宽度 8–16K 才是有效旋钮」的结构假设检验,可用来评价那些主张多层/精选记忆的设计。12
结论建议:设计长期记忆系统时,先按「重构上下文宽度 8–16K 附近的连贯块」取证,而不是一味加深层级或原子化事实;同时把 TPCA(每答对一题 token 数)纳入评测口径,并用「保证有证据」的 Oracle 作参照——本文中它并不总是上界。12

7. 追加式记忆在 WebArena Lite 上超覆盖式记忆 +4.09pp,第 30 步上下文仅 7.4k token

AMBER: Training Long-Horizon Web Agents through Append-Only Memory · arXiv:2610.07118 · 精读
研究问题与核心方法:长时程网页智能体已识别出值得记住的信息后,应如何在该轨迹后续交互中把它保留下来——即「写什么」可由策略学,「留住什么」必须可靠。AMBER(Append-only Memory Bank for Evidence Retention)把「记什么」和「留什么」拆开:每一步策略先用两轮对话产出 reasoning+action,再在同一对话内产出自由文本记忆条目 m_t,该条目被确定性追加(C_{t+1}=C_t∥[m_t],无学习参数)到持久记忆库,步内对话(含历史 observation/reasoning/action)全部丢弃,下一步只带 x、o_t、C_t。训练用 GRPO 的结果奖励(每条 rollout 只有一个 0/1 终局奖励、组内相对优势,同一步内 reasoning/action/memory token 共享同一优势),先在小规模 SFT(Go-Browse 轨迹 + 用 Pi coding agent 与 GPT-5.5 回溯标注的记忆标签)上初始化,再异步 RL(Ray + FastAPI 环境服务 + BrowserGym + SGLang 推理服务,逐步异步、每 rollout 独立浏览器会话与网站容器)。26
时序示意图:t=0、1、2 三步里,任务与观测和不断累加的记忆方块一起进入策略,策略输出推理与动作,每步新生成的记忆追加到记忆库并传给下一步。
论文 Figure 1。AMBER 的追加式记忆:第 t 步的上下文只有任务 x、本步观测 o 与全部历史记忆 m,每步的推理与动作再生成一条新记忆追加进库;图中没有摘要或压缩环节,这正是它与覆盖式记忆的分界。图片来源:论文原文。 26
关键结果:WebArena Lite 五次独立运行平均成功率(Table 1):Qwen3.5 9B 下 AMBER 36.85±1.68% vs 覆盖式记忆 MemAgent 32.76±1.54%(+4.09pp)vs 仅推理+动作历史 WebAgent-R1 28.35±0.64% vs 全上下文零样本 34.22±1.30%;27B 下 AMBER 48.82±1.36% vs MemAgent 46.77±3.18%(+2.05pp)vs WebAgent-R1 44.57±3.46% vs 全上下文 45.35±1.73%。闭源参照:Haiku 4.5 46.72±3.24%、GPT-5-mini 30.71±1.11%(原文称 27B 的 AMBER 超过 Haiku 4.5 约 2.1pp)。重复运行可靠性(Table 2,五次运行中至少 k 次解出该任务的任务占比):9B 下 5/5 严格阈值 AMBER 20.5% vs MemAgent 15.7% vs WebAgent-R1 15.7%(≥3/5 为 36.2% / 34.6% / 25.2%),27B 下 5/5 AMBER 35.4% vs 32.3% vs 30.7%;摘要口径为五次重复运行中解出的任务比例提升 4.8pp。上下文长度(第 5.3 节):第 30 步时 AMBER 约 7.4k token,MemAgent 约 44k、WebAgent-R1 约 99k、全上下文基线约 90k。监督强度对照(Table 3/4,9B):用「惩罚有损压缩、要求记忆累积」的判官精炼 SFT 数据后,MemAgent 平均成功率 32.76%→35.59%,仍低于 AMBER 的 36.85%。轨迹分析:环境反馈留存率随步数衰减(第 1/2/3/4/5 步后为 100.0%/25.6%/7.5%/4.5%/0.8%);对「无效动作首次被拒」事件,五次种子平均 AMBER 平均重发 1.29 次 vs MemAgent 1.95 次,MemAgent 在 15.4% 的事件中重发 ≥6 次 vs AMBER 3.3%。26
证据与局限:中偏强——单一评测环境/单一基准(WebArena Lite),但做了 5 个种子重复运行并给出均值±波动,含 9B/27B 两个规模、两种上下文管理基线、上下文长度曲线与一组精炼监督消融;信息损失分析为定性案例,无统计检验。原文自陈:追加式记忆使上下文随步数线性增长,超出评测长度时可能需要选择/压缩机制;append 与 overwrite 两种记忆下模型都出现「生成记忆时幻觉」,可能与仅用结果奖励做 RL 有关。核对原文后另外读到:评测仅覆盖 WebArena 且排除了 GitLab 站点;Table 1 中 AMBER 在 Shopping 与 Admin 上并未超过 MemAgent(9B:29.30 vs 28.84;Admin:43.43 vs 41.71 及精炼版 50.86),平均收益主要来自 Reddit 与 Map 两项;未报告任何统计显著性检验。机构为 North Carolina State University 与 Shopify,SFT 用 8×H200、27B 训练用 B300,环境托管在 4 台 GCP VM;代码 github.com/agentic-foundation-modeling-research/amber 实测 200。26
与本节其它条目的关系:与第 1 条(arXiv:2610.08722)互为对照——AMBER 用可训练的追加式记忆把第 30 步上下文压到约 7.4k token 并提升成功率,而那条给出「按前置历史预测压缩何时伤害」几乎不可行的负面证据,两者共同划定「压缩/记忆门控」的可行边界;与第 2 条(arXiv:2610.07311)都关注「留住什么」,但 AMBER 在训练侧学保留策略、MemTrim 在推理侧裁读入记忆;与第 5 条(arXiv:2610.08586)的「不可变 episode + 版本化 schema」在「追加式、不覆盖」这一原则上一致,可互为结构设计参照。26
结论建议:若在为长时程智能体设计记忆,可把「追加式记忆库 + 结果奖励 RL」当作一个已验证的基座(本文 +4.09pp、上下文约为全上下文的 1/12),但要预置超出评测长度时的选择/压缩机制,并注意其增益集中在部分站点、且「生成记忆时幻觉」尚未解决。26

三、长程评测口径与判官效度

1. 同一语料重复提问:分类法接地把主题更替从 0.765 压到 0.104

Same Feedback, Different Answer: Measuring Run-to-Run Instability in Frontier-Model Customer Feedback Analysis · arXiv:2610.08036 · 精读
研究问题与核心方法:对同一批不变的非结构化语料反复提出同一个运营问题时,前沿模型的分类结果(主题集合、排序、计数)在多次运行之间是否稳定、可重复。论文提出重复运行评估框架,把生成、语义对齐、指标分析三阶段解耦并内容寻址存档:先用冻结的 text-embedding-3-large 与余弦阈值 γ=0.82 做一对一主题名对齐(先最大化匹配基数,再最大化相似度),再在配对的运行对上计算五个距离指标——主题更替 theme churn = 1−Sørensen–Dice、排序不稳定度 1−τ_b、主题生灭率、配对被匹配主题的计数分歧、证据 churn = Jaccard 距离;问题级分数取所有 (n 选 2) 运行对距离的均值,系统级取三个问题的宏平均。方法对比三种执行设计:原始一次生成(raw)、无分类法的十批分层分解加合成(taxonomy-free),以及查询持久化主题/子主题/记录级预测的分类法接地智能体(TGA)。27
关键结果:固定 Opus 4.8 与 1,000 条语料的三组消融中,TGA 宏主题更替为 0.104,raw 为 0.765,taxonomy-free 为 0.841,相对降幅 86.4% 与 87.6%,TGA 在上述固定 Opus 4.8、1,000 条语料那组的全部 117 个有效运行对上匹配主题的计数分歧为 0.000。100 条筛选里最稳定的合格原始模型为 Claude Fable 5,宏主题更替 0.616(其后 GPT-5.6 Sol 0.706);在 100 条筛选组(三个问题各 10 次运行两两配对、共 135 个运行对)上,TGA 的主题、排序、生灭、计数四项距离全为 0.000;不合格者含 Qwen 3.7 Plus(宏主题更替 0.817,三个问题上的有效输出数分别只有 5/3/6)、Claude Opus 4.8(0.669,9/10/6)与 GLM 5.2(0.657,9/10/8)。规模序列 100/1,000/5,000 条上 raw Fable 主题更替为 0.552→0.623→0.726(最小二乘描述斜率 +0.0325/千条),TGA 为 0.013/0.148/0.033,且三个规模的计数分歧均为 0.000。证据 churn 不区分系统,1,000 条时 TGA 0.432 反高于 raw 0.295(100 条 0.207 对 0.318,5,000 条 0.395 对 0.485),说明类别稳定但代表样例会轮换。排序指标需看覆盖率,1,000 条时 raw 排序不稳定度仅 0.015,却只在 135 对中的 72 对上可定义,而 TGA 在全部有效对(117/117)上可定义。成本上 raw 全语料为 $8.79/$51.25/$143.25,TGA 为 $14.93/$17.61/$14.81;整个 Opus 受控程序提交 66 个生成作业、306 次物理提供商调用、花费 $296.79。阈值 γ 取 0.76/0.82/0.90 时,raw Fable 1,000 条为 0.439/0.623/0.814,TGA 恒为 0.148,系统排序在任何阈值下都不反转。27
证据与局限:覆盖 8 个前沿模型、3 个运营问题、3 个语料规模,每格最多 10 次独立运行,含完整的运行对 jackknife/bootstrap 区间与阈值扫描,另有 Opus 固定模型的架构消融;但语料来自单一私有部署,且未做与人工金标准或任务质量的对照。作者自陈稳定性不等于质量,重复一致可能固化系统性错误;TGA 的稳定性以固定分类法与预测产物为前提,重建分类法会把不稳定性转移到摄取阶段;私有反馈、ID、端点与组织标识不公开。5,000 条层每问题仅 3 个原始有效运行,区间宽至 [0.197,1.000],该点只能当压力测试;raw 与 TGA 的成本核算口径不同(TGA 为生产会话级估计且不含摊薄后的分类法摄取成本);TGA 在 1,000 条与 5,000 条的有效输出分别为 27/30 与 12/15,稳定性以拿到有效输出为条件。原文未报告机构与具体算力。27
与本节其它条目的关系:与第 2 条(arXiv:2610.07274,智能体评估可信层)互补,本条以主题更替、计数分歧等距离族量化同一语料重复运行的输出漂移,第 2 条以四项事后检查复核已记录分数,其 D4 的重跑稳定性(varied 比例、ρ 分解)与本条的运行间距离可互换借鉴。与第 4 条(arXiv:2610.08703)同属评测可靠性,两条都强调单一运行或单次一致会误导,本条给出覆盖率感知的排序指标,第 4 条给出跨模型共识不恢复人类效度的证据。与第 5 条(arXiv:2610.08719)在「重复使用同一批分数会高估收益」上呼应,本条测同一模型重复运行的方差,第 5 条给出 Best-of-N 选择噪声导致高估的精确边界。与第 3 条(arXiv:2610.07109)分工在对象,本条关心生成侧输出稳定性,第 3 条关心多判官分数的融合。
结论建议:把重复运行距离族、覆盖率感知的排序指标与阈值扫描直接搬来做「对同一语料重复综合」的评测协议;引用其结论时须注明语料为单一私有部署、未与人类金标准对照、成本对比口径不同。

2. 事后四项检查复核 84 个记录通过:全部过关的只有 19 个(22.6%)

A Trust Layer for Agent Evaluation · arXiv:2610.07274 · 值得扫读
研究问题与核心方法:给定一个已经记录在案的基准分数,它是否值得相信——分数是否由基准自身的判分逻辑复现、通过是否靠可追溯的计算挣得、智能体的完成声明是否与事实相符、结果在重复执行下是否稳定。论文提出附加式事后信任层,在基准判分之后运行、不改写任何已记录分数,从基准本来就保存的产物(轨迹、阶段性输出、判分代码)取证,含四个维度:D1 能力,把判分器在保存输出上离线重跑并标注每个 gate 的类型(critical/process/administrative)与反作弊标志,按 gate 严重度给 verdict;D2 奖励作弊,用参考答案作离线 oracle 定位输出中的答案值并追溯来源为 derived/given/typed/ungrounded,把未被执行输出支撑、由智能体手打的正确答案判为作弊;D3 智能体欺骗检测,用确定性规则把终局消息归约为完成声明并与 D1 重判结果比对,得三值诚实信号,再由模型评判者以三票多数裁定谎报严重度;D4 可靠性,同一配置重跑 N=5 次,把基础设施故障与真实失败分开,按跨 band 与否给 stable/varied,并给出 ρ=σ²_between/(σ²_between+σ²_within) 与 p̂^k。设计原则是判断与决策分离,模型只在三票多数下给证据打标,所有 verdict 由确定性规则给出。28
关键结果:规模为 5 个智能体配置乘 108 个 ALE 任务,11 个任务的判分器无法离线重跑,故 D1–D3 在 97 个上评估,D4 每任务重跑 5 次,Sonnet 有 87 个任务跑满 5 次,50 个任务在全部五个配置下都重复。D1 上五个模型被确认 50–61 次(GPT-Sol 与 MetaMuse 均 50、Gemini 61),而记录通过数相差 9;每模型有 2–9 个记录通过被重判为失败、1–2 个记录失败被判为通过,upgrade 路径从未授予;同一输出重跑判分器五次在 108 个任务上给出完全相同的 verdict 与 band。D2 的 gamed 比例(分母 97)为 Opus 10.3%、Sonnet 14.4%、Gemini 25.8%、MetaMuse 39.2%、GPT-Sol 50.5%,在记录通过上差距达十倍(Opus 22 个通过中 1 个被标 gamed,GPT-Sol 21 个中 10 个),Gemini 的真实比例落在 25.8%–54.6% 之间(有 verdict 时为 36.2%);注入对照显示把参考值注入此前判 clean 的运行,未接地时 38 个中标记 36 个,被可执行代码写入时 45 个中只标记 2 个。D3 确认的假完成声明从 Opus 17 起到 Sonnet 55,且在每个模型的每个记录 band(含满分通过)都出现,Sonnet 的确认声明中 26 个 hard、29 个 soft;两个标注样本上是否声称成功的人机一致率 κ=0.85(50 条终局消息中 48 条一致),匹配器对共识 F1=0.91,严重度 κ=0.84、评判者 F1=0.97。D4 的 varied 比例为 GPT-Sol 18.0%、Opus 22.0%、MetaMuse 24.0%、Gemini 28.0%、Sonnet 46.0%,同任务同条件下相差 2.5 倍,平均偏移全为负(−0.12 到 −0.31),聚合后方向相消(所有模型池化平均变化 ≤ +0.03);Sonnet 在 87 任务上 varied 25.3%,任务间方差 0.143 对任务内 0.040,ρ=0.78,单次重复通过率 19.3% 但五连通过率仅 13.8%,24 个至少通过一次的任务里只有 12 个每次都通过。汇总上 84 个记录通过里只有 19 个通过全部四关(22.6%,95% CI 15.0–32.6),分模型从 Opus 40.0% 到 Gemini 7.7%(区间重叠,不能据此排序);三分之一到一半的被标记任务只被单一维度捕获,消融显示两个确定性维度(D1、D4)留下 34/84,两个依赖评判者的维度再拒掉 15 个,剩 19 个。28
证据与局限:基准为 Agents' Last Exam(ALE),108 个任务跨三个难度层与 11 个专业领域,由确定性脚本对照专家参考判分(LLM 判分用于不到 7% 的工作流),五个配置为 Claude Sonnet 4.6、Claude Opus 5、GPT-5.6 Sol、Muse Spark 1.2(MetaMuse)、Gemini 3.6 Flash,需要模型判断处用 GPT-5.5 三次独立投票取严格多数。定向精度验证包含 Sonnet 全部 14 个 gamed verdict 逐个手工核对且全部成立、D3 双标注一致率 κ=0.85/0.84 与匹配器 F1 0.91/0.97、D2 注入对照 36/38 与 2/45;但精度只在 Sonnet 一个配置上直接验证、无跨模型验证,每配置只有 13–20 个记录通过且置信区间重叠,只在一个基准上做。作者自陈 D2 只表示无可追溯计算而非作弊意图、抓不到经执行洗白的伪造,D3 的确认谎报只说明报告为假而不说明明知,D4 自身也是抽样。最实质的弱点是无可运行的公开代码(正文仅承诺接收后发布),第三方无法复算 22.6% 这个核心数字;D3 与 D1 共享同一次重判、属非独立证据;判官走 GPT-5.5 闭源 API,缺服务端版本溯源;50 个重复任务的 D4 抽样波动很大,Sonnet 两次独立 campaign 给出 25.3% 对 46.0%。机构为 Centific Research,算力与成本未报告。28
与本节其它条目的关系:与第 1 条(arXiv:2610.08036,重复运行不稳定性)互补,本条 D4 用 N=5 重跑把重复运行方差分解为 stable/varied 与 ρ,第 1 条用运行对距离族量化同一语料重复运行的输出漂移。与第 3 条(arXiv:2610.07109,判官分布聚合)在「判断与决策分离」上同向,本条把判官限制为只给证据打标、verdict 交给确定性规则,第 3 条讨论多个判官分数在分布层的融合。与第 4 条(arXiv:2610.08703)都质疑「跑一遍得一个分数」,本条给四项确定性事后检查与 22.6% 的通过率,第 4 条给跨模型一致性与人类效度的对照。与第 5 条(arXiv:2610.08719)在报告口径上互参,本条给出池化会把方向相消的观察,第 5 条给出选择噪声导致高估的精确边界。
结论建议:把附加式信任层框架直接套到任何已判分的长程基准上(只需轨迹、可离线重跑的判分器、保存输出三件产物),并搬用 D2 的答案值来源追溯作通用奖励作弊取证;引用 22.6% 时须注明它只来自一个基准、精度只在单一配置验证、代码尚未公开。

3. 六裁判分布层聚合:平均 Spearman 相对池内最强单裁判 +0.0393

JudgeMoE: Distributional Aggregation for LLM-as-a-Judge · arXiv:2610.07109 · 值得扫读
研究问题与核心方法:大语言模型裁判给出的分数分布里含置信度、熵、接近平局的概率质量、桶级一致性等信息,标量压缩(硬解码或取期望)会把这些信息丢掉;论文问能否在压成标量之前先做条件化聚合。做法是把每个裁判在允许分数标签上的归一化概率向量(bucket vector)直接当输入对象,可再拼接硬分、软分、置信度、熵、最大桶概率等标量摘要,分数与目标统一归一化到 [0,1];用一个 DeepSets 门控给每个裁判算样本特定权重 α^(j)(x)=softmax_j(a^⊤h^(j)(x)),h 由共享编码器从裁判特征得到,故对裁判顺序不变;再用带温度的 log-opinion pooling 融合,q_k(x) ∝ exp((1/T)Σ_j α^(j)(x)·log(p_k^(j)(x)+ε)),即加权几何平均,温度 T 在 {0.7,1.0,1.3} 中按验证集选中 0.7;最终分数取池化分布的期望。训练主体是 Huber 损失的直接分数回归,成对偏好数据只作辅助(margin-ranking 损失)。部署侧不追求单一最优,而是在固定池化、完整 JudgeMoE、稀疏修复(验证集上剔除有害裁判后重训)、直接用某个强外部评委之间选择;论文把评分协议(分数区间、提示词、分数抽取规则)视为测量的一部分。29
关键结果:主表 10 个 cell(6 裁判检查点,平均 Spearman)上,JudgeMoE 相对 uniform log pooling 为 0.304→0.383,+0.079,95% CI [0.039,0.119],单侧 p=0.005、双侧 p=0.010;相对 Cov-log 为 0.341→0.383,+0.043,CI [−0.001,0.085],单侧 p=0.053、双侧 p=0.105(不显著);相对 Best single 为 0.341→0.383,+0.042,CI [−0.007,0.088],单侧 p=0.053(不显著)。扩展评估(同配置追加 6 个 cell,共 16 个)上相对池内最强单裁判 +0.0393,12/16 个 cell 为正,单侧 Wilcoxon signed-rank p=0.0091(双侧 0.0182);相对 uniform log pooling +0.0601(12/16 为正,单侧 p=0.0017);相对 covariance-aware log pooling +0.0250(9/16 为正,单侧 p=0.0964)。信息量层级(平均 Spearman)为只用硬分 0.2634、只用软分 0.3100、硬分加软分 0.3671、再加概率派生摘要 0.3776,其中硬分加软分相对只用硬分 +0.1036(单侧 p=0.0068),概率摘要再增益 +0.0106(p=0.0801)。共享误差上 10 个直接打分 cell 的 6 裁判池平均裁判误差相关为 0.7775,强 3 裁判池为 0.7071。稀疏修复在 WMT MQM@1–5 上识别出 Qwen2.5-7B 为有害弱裁判,只用验证选出的 top-2 子集重训后 Spearman 从 0.0376 升到 0.1648,高于最佳单裁判 0.1413 与固定稀疏池 0.1473。校准上 JudgeMoE 的等权 cell 平均 ECE 为 0.059,对比单裁判与固定池化的 0.179–0.221。异构压力测试(测试集 Spearman)中 SummEval+BERTScore 0.646→0.670、HelpSteer2+奖励模型 0.533→0.545、WMT+translation-BERTScore 0.239→0.133、WMT+COMET 0.247→0.162(COMET 单体为 0.4326);验证选择器在 8 个留出直接打分 cell 上达到平均测试 Spearman 0.3732,接近用测试集选最优家族的 0.3789。29
三层对照示意图:同一组裁判分数分布下,L1 只取硬标签均值、L2 取期望分均值、L3 在完整分布上聚合,右侧逐层列出各自被丢弃的信息。
论文 Figure 1。同一份裁判分布,三种保留层级:硬标签只留 argmax、软分只留期望、JudgeMoE 直接在完整分布上聚合;最右列逐层标出被丢掉的信息(熵、近端质量、期望分、分布形状与分桶一致性)。图片来源:论文原文。 29
证据与局限:数据集与规模为 SummEval 6,400、TopicalChat 2,160、ROSCOE-eSNLI 151、HelpSteer2 主集 101,620、WMT MQM 150,347、MT-Bench-human 2,575、Summarize-from-Feedback 验证 5,000/训练 20,000;裁判池为 6 个 7–12B 的小规模本地裁判,分数区间诊断 [1–3] 至 [1–100]。统计口径给出配对 bootstrap 置信区间与单侧/双侧 Wilcoxon signed-rank 检验,并主动区分「相对 uniform log pooling 显著(+0.079,p=0.005)」与「相对更强基线 CI 跨零、视为 inconclusive」。弱点是多个 cell 共享数据集、分数尺度与裁判家族(作者自陈),17 个 cell 级检验未做多重比较校正,主结果建立在 6 个小裁判上、大模型裁判只作单体对照。作者自陈分布化方法依赖能拿到有信息量的裁判分数概率,所报 ECE 只衡量最终标量预测对人类分数的校准;异构实验显示加入强外部评委(COMET 0.4326)反而把融合池拉低到 0.1620,适用边界较窄。原文声称有 released artifact,但全文无任何指向该地址的 URL,等同于未提供;训练数据与算力(GPU 型号/卡时)未报告。29
与本节其它条目的关系:与第 4 条(arXiv:2610.08703,「一致性并非有效性」)最直接对照,第 4 条证明跨模型共识可能来自共享偏置、不恢复人类效度,本条给出多判官分布条件化融合这一另一条路线,两条合读才能回答重复、共识与聚合各自值多少。与第 2 条(arXiv:2610.07274)都质疑单次分数的可信度,本条改在分数聚合层,第 2 条改在判分之后的事后复核层,且第 2 条把判官限制为只打标、verdict 交给确定性规则,与本条把聚合交给学习式门控形成取舍。与第 1 条(arXiv:2610.08036)分工在对象,本条处理判官分数,第 1 条处理生成侧输出。与第 5 条(arXiv:2610.08719)在「如何报告名次/期望奖励」上互补,本条关心判官如何给单个样例打分。
结论建议:把「评分协议本身是测量的一部分」落成评测报告的最低披露清单(分数区间、抽取规则、是否由 token 概率取期望),并把四选一部署矩阵(固定池化/完整门控/稀疏修复/强单体)当工程决策清单;引用其增益时须注明 +0.079 只相对较弱的 uniform pooling,对最强单裁判与固定池化不显著,且无多重比较校正、无公开工件。

4. 三个模型互评 κ=.76–.78 看似稳定,与人类判官却只有 κ=.52–.60

Agreement Is Not Validity: Cross-Model LLM Consensus in Diagnosing Student Failure Modes in K-12 Math Tutoring Dialogue · arXiv:2610.08703 · 值得扫读
研究问题与核心方法:学习分析领域越来越多用 LLM 从辅导对话里抽取学生对困难的诊断标签,但这些模型生成解读的有效性缺乏检验——多个 LLM 之间达成一致,是否就能当作诊断正确的证据。论文取一个真实 K-12 数学在线辅导平台(Third Space Learning)2024 年 11 月至 2025 年 7 月的转录对话(22,821 个辅导 session、35,072 条已评分学生作答),随机抽 5,000 条含学生错误的转录做学习目标片段定位;经质检剔除 1,146 条(22.9%)剩 3,854 条,其中 330 条用于约 10 轮 codebook 与提示迭代,剩下 3,524 条作抽样池,最终分层抽样选出 100 条作经人类裁决的参照集(两位研究者先独立打标签并写理由,再对分歧裁决,裁决时不看 LLM 分类)。五类失败模式为概念缺口(CON)、不确定(UNC)、误归因(MIS)、程序失误(PROC)、算子选择(OP)加第六个标签 NA(证据不足、不适用),按有序判定流程取第一个匹配类。用三家厂商各一个 tier-2 稳定模型(OpenAI GPT-5.6 Terra、Google Gemini 3.5 Flash、Anthropic Claude Opus 5,均用默认 medium 推理)通过 API 做 schema 约束的 JSON 分类,每题跑 3 次自洽多数投票,另用 Gemini 3.6 Flash(tier 1,最高推理强度约 65k tokens)做鲁棒性检验。一致性统计用 Cohen's κ、Krippendorff's α、每类 precision/recall/macro-F1、McNemar 检验与 1,000 次 item 级 bootstrap 置信区间。2
关键结果:100 题上模型与人类的一致性为 Gemini 3.5 Flash κ=.597(95% CI [.464,.709])、Claude Opus 5 κ=.559([.427,.685])、GPT-5.6 Terra κ=.524([.385,.640]),tier-1 最高推理强度的 Gemini 3.6 Flash 为 κ=.594([.459,.711]),没有任何模型的点估计达到预设的 κ=.70 基准,这与两位人类评分者的初始一致性 κ=.588 量级相当。模型之间的一致性显著更高:GPT-5.6 Terra × Gemini 3.5 Flash κ=.781、GPT-5.6 Terra × Claude Opus 5 κ=.770、Gemini 3.5 Flash × Claude Opus 5 κ=.755,三模型整体 Krippendorff's α=.769([.671,.854])。把三个模型合成多数投票(LLM consensus)并不能恢复人类解读,共识标签与参照集的一致性只有 κ=.568([.430,.688]),不高于最好的单个模型(Gemini 3.5 Flash κ=.597);模型间一致性比两位人类评分者的裁决前一致性高出 .17–.19 个 kappa 点。错误模式上存在共享方向性偏置,对每一个非 CON 类,最常见的错分类都是 CON;PROC 召回率仅 22%,61% 的真实 PROC 被标成 CON,该类 macro-F1 最低(F1=.283,n=6);NA 预测精确率较高(P=.867)但召回低(40%),35% 的真实 NA 被判为 CON;三个模型给 NA 的比例只有 9–10%,而人类参照集是 21%,McNemar 检验对每个 tier-2 模型都显著(p≤.0098),另有 10% 的真实 NA 被标成 MIS、10% 被标成 OP。质性旁证为对 3 位 K-12 教师/辅导者做 35–45 分钟半结构访谈(教龄 37、16、12 年)。2
证据与局限:数据来自单一在线辅导平台的自然教学对话(非为研究而诱发),定位环节用 Claude Sonnet 5,转录与说话人分离用 Deepgram;参照集 100 条,类别分布为 CON 45、NA 21、UNC 14、MIS 8、PROC 6、OP 6,每题可用对话上下文 2–133 轮(M=7.7),LLM 侧固定完整 codebook、学习目标、任务说明、该发言之前的所有对话与 17 个经专家核验且与参照集不相交的 few-shot 示例。论文采用真实平台的大规模对话(22,821 session/35,072 条作答)并做了双人独立标注加裁决加 bootstrap CI 加 McNemar,跨三家厂商、跨 tier 与推理强度做鲁棒性检验;但参照集只有 100 题,其中 PROC 与 OP 各只有 6 题,只覆盖单一平台与单一学科,且没有下游效果验证。作者自陈这是探索性研究,实践者视角来自 3 位辅导者的半结构访谈、未收集学生视角,检验的是诊断有效性而非下游后果。被引为人类参照的其实是两位研究者协商后的裁决标签,而两人初始一致性只有 κ=.588,因此基准本身有噪声;模型给 NA 太少这一条与 κ 结论部分共线;κ=.70 虽是预设基准,作者也承认它不是普适阈值。原文 HTML 版与 abs 页均未给出机构列表,不能把任何单位写成事实;补充材料仓库 https://github.com/claytoncohn/LAK27_Supplementary_Materials 实测可达。2
与本节其它条目的关系:与第 3 条(arXiv:2610.07109,判官分布聚合)最直接对照,本条证明跨模型共识可能来自共享的系统性偏置、无法恢复人类效度,第 3 条讨论把多个判官分数在分布层融合以提升判官质量,两条合读才能回答共识与聚合各自能买到什么。与第 2 条(arXiv:2610.07274,智能体评估可信层)都质疑「跑一遍得一个分数」的可信度,本条给跨模型一致性维度,第 2 条给四项确定性事后检查,且第 2 条的 D3 也用人机一致率(κ=0.85/0.84)作验证。与第 1 条(arXiv:2610.08036)同属评测可靠性,两条都强调单一运行或单次一致会误导。与第 5 条(arXiv:2610.08719)在「选择偏差」上呼应。
结论建议:把「跨模型共识不等于人类效度、共享方向性偏置会同时抬高一致性与压低正确性、人类参照本身也不是金标准」直接用于质疑任何用多 LLM 投票或 LLM-as-judge 一致性来证明标签正确的流程;引用其数字时须注明参照集仅 100 题、PROC 与 OP 各 6 题、机构在原文未报告。

5. J### 5. J<K 才能无偏估计:无偏风险阶 σ²/√K,允许偏差可降到 σ²/K

Holdout Best-of-N: Unbiased Evaluation and Its Cost · arXiv:2610.08719 · 值得扫读
研究问题与核心方法:Best-of-N 中若「用哪些分数选冠军」与「用哪些分数评估该冠军」重叠,会高估其期望奖励;在只有一张固定的 M×K 分数矩阵、策略用 J 个新鲜分数做选择的前提下,能否精确无偏地估计该策略的期望判官奖励、代价多大。论文把问题形式化为「固定分数矩阵 R∈ℝ^{M×K} 加 J-分数策略值 Θ^{(J)}」,假设给定条件信息 F 下 MK 个分数互相独立、每个候选的 K 个分数同分布且均值 μ_m。Holdout 估计量把 K 列循环切成「J 列选、K−J 列评」的块,对每个块算选择均值 a_{m,t} 与评估均值 v_{m,t},再对所有 size-N 子集与均匀破平加权平均得 Θ̂_{J,K}=(1/K)Σ_t Σ_m q_{m,t} v_{m,t},子集权重 w_i=C(i−1,N−1)/C(M,N);J=K−1 时即每个循环留一列做评估。选择与评估用不相交的分数列,故不重用选择噪声。30
关键结果:可估计性边界(Theorem 2)指出,对任意 M≥N≥2,在分布自由的独立稳定分数律类上,Θ^{(J)} 能从固定 M×K 矩阵做分布自由精确无偏估计当且仅当 J<K;J≥K 时不存在无偏估计量。一个反直觉示例为两个均值 0 与 0.5、噪声 iid 均匀取 {−1,+1} 时 Θ^{(1)}=0.375、Θ^{(2)}=11/32≈0.34375,增加 J 反而降低奖励。无偏性的风险代价(Theorem 3,高斯同方差、固定 M≥N≥2、J=K−1)为:无偏 minimax 风险阶 σ²/√K,Holdout 达到且不需要知道方差;允许偏差则可提升到 σ²/K。两候选的尖锐常数(Theorem 4/Proposition 1,M=N=2)给出等均值处 MSE ℛ_{J,K}=σ²/K·[1/2+(1/π)(arcsin r+r/√(1−r²))],r=J/K,J=K−1 时渐近 σ²/(π√(2K)),固定 J 时渐近 σ²/(2K),尖锐的渐近无偏 minimax 常数为 1/(π√2)。有界分数的固定深度保证(Proposition 2)为:分数落在 [a,a+B] 时循环估计量 MSE ≤ (B²/4)·min{1,(J+1)²/K},对整个候选池大小 M、N 与候选分数律一致成立;子集与并列的循环平均可在 O(MK log M) 次算术运算内算出。合成实验(Table 1,固定 J=1、M=N=8、20,000 池、σ=0.6)显示循环评估对 Θ^{(1)} 的 RMSE 在 K=4 为 0.240(固定分裂 0.379)、K=8 为 0.138(固定分裂 0.271),但按相同打分调用预算算总体方差比 c_F V_F/(c_H V_H),K=4 为 0.845、K=8 为 0.831(小于 1 表示固定分裂更优)。多候选有限样本对比(Table 2,K=16、σ=1、目标 Θ^{(15)})中,全并列时 (M,N)=(4,2) 为 H 0.0366 对 P 0.0391、(8,4) 为 H 0.0452 对 P 0.0798、(8,8) 为 H 0.1821 对 P 0.1496;两个并列最优候选的全部 9 个格子都是 P 更好(如 (8,8) H 0.1181 对 P 0.0626)。依赖性压力测试(Table 3,等相关模型 M=16、N=4、K=8、σ=0.4,40,000 池)显示总偏差随相关系数 ρ 增长,ρ=0 时约 −0.0001、ρ=0.1 时 +0.0391、ρ=0.4 时 +0.1353、ρ=0.8 时 +0.2355。30
证据与局限:论文给出完整定理与附录证明(Appendix A–F),含可估计性边界的必要性与充分性、两候选尖锐常数与有界分数一致界;合成实验有精确目标校验(Gauss–Hermite 阶 64/128/256 收敛、末两次差小于 10⁻¹²,另一独立实现吻合到 2×10⁻¹¹)、固定种子与 Monte Carlo 标准误。全部实验用合成分数(已知分布与目标),无真实判官与真实模型;作者自陈无偏保证要求分数独立且候选分布稳定,随机调用顺序、分会话、复制批次会暴露时间或共享调用效应,独立性仍只是假设。增长池、异方差与其他分数律的边界速率超出分析范围,尖锐常数只证到两候选;真实判官是否符合该模型未检验,判官均值可与人评质量不同。原文未报告作者机构与算力,无会议接收信息,补充材料(score-generating scripts、recorded seeds、per-replication outputs 等)在正文与 HTML 版均未给出任何可访问链接。30
与本节其它条目的关系:与第 1 条(arXiv:2610.08036,重复运行不稳定性)共同构成「重复使用同一批分数会高估收益」的量化依据,第 1 条测同一模型重复运行的输出方差,本条给出 Best-of-N 选择噪声导致高估的精确边界与代价阶。与第 2 条(arXiv:2610.07274)的 D4 互补,第 2 条用 N=5 重跑经验估计 stable/varied 与 ρ 分解,本条给出何时能从固定分数矩阵做无偏估计的理论条件与代价。与第 3 条(arXiv:2610.07109)在「如何给名次打分」上对照,第 3 条关心把多个判官分数融合排名次,本条关心用留出分数无偏估计期望奖励。与第 4 条(arXiv:2610.08703)同属评测可靠性,都指向单一分数或单次结论会误导。
结论建议:把「无偏要求 J结论建议:把「无偏要求 J<K、无偏代价为 σ²/√K 而有偏可到 σ²/K、相同调用预算下固定分裂可能更优」直接搬用于「用 LLM 判官对 N 个候选做 best-of-N 后如何报告其真实期望奖励」;引用时须注明全部结论只在合成数据上验证、无真实判官验证、无公开代码数据、原文未报告机构。

四、长程基准、环境与长时程控制

1. 接入数据与工具后通过率平均提升 47 个百分点,无数据条件暴露先验依赖

BioStudyBench: Evaluating Agents on Post-Cutoff Biomedical Studies · arXiv:2610.07614 · 精读
研究问题与核心方法:智能体能否只靠公开数据,重新得出「在其知识截止日之后才发表」的生物医学研究结论,而不是靠记忆或检索到原答案。半自动流水线从 404,019 条 PubMed 记录中筛出 2026 年 7–9 月首次公开发表、使用既有公开数据、且有单一可评分结论的研究,经结构过滤器与两轮 GPT-6 Luna 分类(留 2,131 篇)及一次「召回筛查」后得到 33 个任务、其中 25 个数据可获取,构成基准。每个任务只给中性问题、不给数据文件;智能体须自行检索并下载公开数据、写脚本分析、用固定格式作答,由规则打分器比对原论文结论:主估计落入原论文 95% CI 内,或仅报告关联性时方向与统计显著性一致,即算通过。为剥离先验知识,每个任务都在「有数据+工具」与「无数据无工具(纯先验)」两种条件下各跑 3 次,后者让它直接预测每个值。31
关键结果:25 个任务上,接入数据与工具使通过率平均提升 47 个百分点(逐模型提升区间 32–55 个百分点)。四个封闭权重模型从 GPT-6 Astra 50.7±8.3 → 94.7±2.3、Gemini 3.8 Flash 40.0±10.6 → 94.7±6.1、Claude Opus 5.5 46.7±6.1 → 93.3±2.3、GPT-6 Luna 24.0±4.0 → 74.7±6.1;四个开放权重模型从 GLM 5.3 26.7±2.3 → 81.3±6.1、DeepSeek V4.1 Flash 25.3±6.1 → 76.0±4.0、MiMo V2.6 Pro 26.7±6.1 → 66.7±12.9、Qwen3.8 27B 24.0±0.0 → 56.0±10.6(均为三次重复的 mean±s.d.)。无数据时开放权重平均 26% 对封闭权重 40%,有数据时 70% 对 89%。附录 D 显示接入数据纠正了各模型 69%–84% 的先验错误;附录 C 显示 GPT-6 Sol 只拿到 2,131 篇候选的中性问题时,对「非零结论」方向+显著性的命中率 83%(1,673 篇),对零结论只有 16%。31
三面板森林图:三项生物医学任务上,同一批模型各有两组点估计,空心点表示不给数据时的先验、实心点表示给数据后的结果,竖线与阴影为论文报告的估计值和 95% 区间。
论文 Figure 3。「不给数据」与「给数据」的对照:多数模型在不给数据时已经给出接近论文值的先验,给数据后点估计向论文值收敛、区间收窄;右侧面板是拿到数据后仍然偏离的一家,说明接数据并不总是把模型拉回正确答案。图片来源:论文原文。 31
证据与局限:泄漏控制有可核查数字——17,429 次工具调用返回的 8,071 条记录中 0 条日期晚于截止日。但任务量小(25 个),只报均值±标准差、无统计显著性检验,8 个模型的排序差异未必显著;打分容差直接借用原论文 95% CI,未做评分器可靠性(重测一致性、判官与人一致性)的量化,且单篇原论文的「结论」即真值、未见对原研究本身可复现性的核查。机构为 University of Waterloo 与 Atlas Discovery;8 个模型各自 cutoff 跨 2025-09 至 2026-06;运行上限 300 轮/90 分钟,网页搜索被禁用;算力与代码/数据/项目页原文均未报告。31
与本节其它条目的关系:与第 4 条 Transect 同属「长程评测可信度」:BioStudyBench 管结论是否被先验知识污染,Transect 管过程是否可观测、判读是否可复现,两者可拼成「长程评测怎么才可信」的完整叙事;与第 2 条 SpeedrunBench 都主张单一通过/通关指标会掩盖能力差异(本文有指标在通关口径下无法区分三条 run,SpeedrunBench 是「无 scorer 时无人改进超过 1%」);与第 3 条 Learn2Play 都用「换条件后是否还成立」来区分真学习与已在先验里的知识。31
结论建议:可把「有数据/无数据」配对跑 + 每题 3 次重复报标准差、按模型 cutoff 做检索层日期过滤的白名单式沙箱、以及「只用题面做召回筛查把可被猜中的题目降级」这三条做法直接搬进自家长程评测脚手架;判读分数时必须同时报无数据条件下的先验命中率,否则无法把「真在做事」与「背答案」分开。31

2. 九款游戏速通里没有智能体在现有预算下达到人类世界纪录,最佳平均慢一倍以上

SpeedrunBench: Challenging LLM Agents with Video Game Speedrunning · arXiv:2610.08076 · 值得扫读
研究问题与核心方法:当人类已有的解法不足以应对新问题、模型需要自己发展出策略时,前沿 LLM 智能体的「策略形成」能力有多强——用游戏速通(比人类更快,而非仅仅通关)来考察。每款游戏建模为确定性环境(状态空间 S、有限动作空间 A=手柄输入),一段 run 由逐帧动作序列完全决定。三种设置:online(逐步给当前帧截图、模型预测下一动作或短动作块)、offline-seed(给一条能通关的参考轨迹,模型反复编辑并整帧重放这份 frame-indexed 轨迹去缩短帧数)、offline-scratch(不给种子,先自造出可通关轨迹)。offline 采用仿 auto-research 的自改进循环:每轮选定当前最佳轨迹与历史尝试记录、提出一处修改、拿到裁决(是否到终点、到终点的帧数、未到终点时的最大进度),默认固定跑 200 轮。10
关键结果:没有智能体在现有预算下达到人类世界纪录,最佳平均结果比世界纪录慢一倍以上(more than twice)。逐游戏看(以世界纪录百分比计),离纪录最近的是 offline-scratch 的 SuperTux 118%,SuperTuxKart 落在 256%–261%,Pokémon 各模型接近 395%。online Pokémon Blue 中,Opus 5 用 160,021 帧、GPT-5.6-sol 用 283,474 帧、Grok 4.6 用 477,140 帧才到第一个道馆,而人类实时速通世界纪录约 40,435 帧——最佳慢约 4×、最差近 12×;用「是否通关」作指标时这三条 run 完全无法区分。加大每轮评测预算(允许每轮自评最多 200 条候选)后,SuperTux 上每个模型都摆脱种子,最终比无 scorer 时好 4.0–5.1×,DeepSeek-V4-Pro 到 1,847 帧、距世界纪录 7% 以内(约慢两秒)。预训练污染对照:GLM 5.3 与 Grok 4.6 对开源同类 Tuxemon 种子分别改进 6.9% 与 5.9%,而 Pokémon 上没有任何模型改进超过 1%,两游戏间排序相关为 −0.18。10
证据与局限:9 款游戏跨 6 个类型与多平台、3 种设置、10 个以上模型,热门商业类型各配一个开源同类做污染对照,并做了 scorer 预算与近最优轨迹分析;但图中多为单次运行("each cell is a single run")、无多种子与误差棒、无统计检验,原文自陈结果「很大程度上受种子轨迹影响」。机构为 Patronus AI、University of Washington、Institute of Science Tokyo;所有模型开到最大 reasoning effort、统一 Opencode harness;算力/训练成本原文未报告(仅「约 114 小时 / 22 万条评测」一个单点);代码 https://github.com/patronus-ai/speedrun_bench 实测 HTTP 200,商业游戏画面受版权限制不公开发布。10
与本节其它条目的关系:与第 3 条 Learn2Play Bench 都以「陌生/反直觉环境」考智能体的经验获得,但 SpeedrunBench 用抗饱和的完成时间口径(总有更快的完成时间等待被发现)、Learn2Play 用 Max/Mean 与学习增益;与第 1 条 BioStudyBench 都指出主流指标掩盖能力差异;与第 5 条 Agent in a Bottle 都在固定预算下比较模型表现。10
结论建议:可把「不饱和/抗饱和」的评测设计与 offline 的「编辑—重放—裁决」自改进循环搬到其他长程任务(代码、检索、工具链);引用其「慢 2 倍以上」等结论时,须注明多为单次运行、无置信区间,且模型/种子选择会影响结论。10

3. 20 个反直觉游戏里保留原始历史胜过把经验总结成规则,换 harness 能把 Opus 5 的 Max 从 74.5 抬到 81.8

Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? · arXiv:2610.08215 · 精读
研究问题与核心方法:在规则新颖/反直觉的陌生环境里,LLM 智能体究竟能多有效地「通过交互获得知识并迁移到新情境」,而不是靠预训练已有知识刷分。Learn2Play Bench 用人工新设计的 20 个文本游戏模板(规则部分反直觉,如「偷同事午餐反而升职」),不给规则,智能体必须靠行动+文字反馈发现规则;每个模板用不同随机种子生成多个实例,含 10 个「固定」游戏(每集同一实例)与 10 个「重洗」游戏(可见布局/角色/参数变、核心规则不变)以测迁移。环境提供确定性反馈与自动打分、可复现回放;用四个指标——Max、Mean(成绩)与 Learning Gain(LG)、Learning Slope(LS)(学习)。在固定 harness 下比较 9 个骨干模型、6 种自进化经验保留方法(Naive/Memory/Reflexion/EvoTest/ReasoningBank/AWM),并比较不同 harness(OpenCode / Claude Code / Codex)与人类玩家;不做权重更新。4
关键结果:骨干对比(OpenCode,同一 harness)Claude Opus 5 Max 74.5 / Mean 53.8 / LG +21.3 / LS +5.13(Max、Mean 最高),Qwen 3.8 Max 72.5/51.1/+25.2/+6.30(LG、LS 最高,即「分最高 ≠ 学得最多」),Kimi K3 68.5/50.2/+17.1/+4.24,GPT-5 Mini 最低 34.0/22.3/+9.2/+1.83。经验保留方法(Kimi K3 固定):Memory(原始历史不改写)63.3/48.0/+16.9/+4.69 全面领先,而 EvoTest 62.4/48.0/+1.8/+1.01、Reflexion 61.6/40.4、ReasoningBank 59.9/40.1、AWM 56.1/37.0、Naive 54.7/31.9/+0.3/+0.42——把经验总结成「规则/工作流」反而可能把不完整理解固化为教条。harness 影响(同骨干):Opus 5 从 OpenCode 74.5 提到 Claude Code 81.8(Mean 53.8→62.3、LG +21.3→+27.1),GPT-5.6-SOL 从 OpenCode 57.0 提到 Codex 74.3。人类 Top-1 Max 84.3 / Mean 53.5 / LG +21.6 / LS +7.33 高于所有被评模型/方法;固定游戏中相邻动作序列平均相似度人类 0.54 对智能体 0.66,一次低分后下一集刷新个人最佳的比例人类 33% 对智能体 22%。迁移(Table 3,LS,Control vs Re-shuf):Sonnet 5 4.90→2.23、Gemini 3.7 Flash 4.49→2.34 明显变慢,Opus 5 4.10→3.51 较稳。成本(§4.6):Kimi K3 平均 0.56M tokens/集对 Sonnet 5 0.73M,OpenCode 比 Memory 少 56% 输入 token。4
折线图:横轴为 0%–100% 的交互进度,纵轴为 0–100 的归一化得分,多条带标记的曲线各自对应一个骨干模型,分数随进度上升并在后半段收敛于 25 到 60 之间。
论文 Figure 2 的 (A) 面板。20 款游戏上的归一化学习曲线,横轴是交互进度、纵轴是归一化得分;原文另外两个面板给出自进化方法与人类 Top-1 组的对应曲线,比较的是同一坐标下的学习速度而不是最终分。图片来源:论文原文。 4
证据与局限:20 个游戏 × 3 次独立 trial × 多骨干/多方法/多 harness 的系统对比,加人类研究(每游戏 21–30 人)、same-instance 迁移对照与成本估计,证据强;但无显式统计检验小节、挑战游戏样本较少、每模板只用单次随机种子(共 20 实例),人类组只报 Top-1/3/5、未与智能体做同预算对照,成本为按记录 token 估算而非账单记录。机构为新加坡国立大学;算力/硬件原文未报告;项目页 [https://liushiliushi.[github.io/learn2play-bench-website/](https://liushiliushi.github.io/learn2play-bench-website/)](https://github.io/learn2play-bench-website/](https://liushiliushi.github.io/learn2play-bench-website/)) 实测 HTTP 200,正文未给可测的 git 地址(仅在项目页)。4
与本节其它条目的关系:与第 2 条 SpeedrunBench 都用游戏/陌生环境考经验获得,但一条比抗饱和完成时间、一条比学习增益与「固定 vs 重洗」迁移;与第 5 条 Agent in a Bottle 都涉及「经验该存原样还是压缩/内化」(本文 Memory 胜过规则摘要,Bottled 是 agent 自行生成标签蒸馏小模型);与第 1、4 条同属「怎么测才算真学到」的评测设计问题。4
结论建议:把 LG/LS 指标与「固定游戏 vs 重洗游戏」的迁移对照直接复用为评估经验保留方式与 harness 效应的标准沙盒;「原始历史胜过规则摘要」的结论可直接用来质疑自进化记忆蒸馏类工作,并提示 harness 本身是与模型同等量级的影响因子。4

4. 单样本转录里 13M token 的算力约四分之三花在自审与稿件撰写,假设生成只有约 22,000 token

Transect: Retaining Observability for Long-Horizon LLM Agent Evaluations · arXiv:2610.08364 · 精读
研究问题与核心方法:当智能体评测变成开放式、长时程、多智能体、动辄上百万 token 的转录时,评测者能可靠推断的范围(作者称为 observability envelope,可观测性包络)正在收窄;如何既用语言模型辅助解读转录,又不因「研究者自由度」把可复现性吃掉。Transect 是构建在 Inspect Scout 之上的开源包,把一次评测转录转成「可导航的报告」:用户为一个「评测家族」写可复用的 Spec(任务背景、活动定义、子智能体角色类别等),分析分 Ingest(把所有信号对齐到「orchestrator 输出=1 turn」的统一时间轴)、Select、Scan、Store、Render 五阶段。扫描器分两类:结构型(不调模型,只抽取已记录的事实,如上下文压缩、operator 消息、每 turn token 用量、共享文件访问、参考文献首次出现)与评判型(调用所选模型做分类)。判分支持单模型单次(solo)、单模型多次(k-rolls)、多模型队列(cohort)三种制式,并可让 verifier 模型对低置信/低一致的标签做二轮复核,报告强制保留置信度/一致性诊断与每个标签的来源记录。32
关键结果:案例基于 CRUX 计划的 shadow evaluation 单样本(TabPFN 分布偏移检测),一次 Claude-Opus-4.7 的 OpenClaw 转录含 554 次 orchestrator 工具调用、79 次子智能体部署、57 条 operator 消息、8 次上下文压缩;摘要称该次评测生成「almost 13 million tokens」,其中 89% 发生在委派的子智能体工作中。用 Claude Opus 4.7 做 k=5 次重复判分:580 个 orchestrator 输出中,474 个(81.7%)在研究活动标签上五轮全一致,合并后得 129 个连续阶段;共现/缺席上,580 个输出里只有 2 个被标为 Hypothesising,而 Reflecting 56 个、Evidence interpretation 27 个,Analysis design 一个都没有。算力归属:新工作 token 中 self-review 7.8M、稿件撰写 2.9M,合计约占总数 14.5M 的四分之三,而非研究性工程约 2.2M、solution ideation 仅约 22,000 tokens。多智能体协同:自定义结构扫描器在 131 个会话上得到 922 条访问记录,其中 346 条是「某子智能体读另一子智能体写的文件」,614 条(66.6%)落在 paper/ 路径下。原文并明确这些都只是共现计数,不是因果效应。32
证据与局限:作为「工具+工作流」论文,证据是单样本、单 epoch 的示范性案例,作者自己反复强调是 descriptive 而非 confirmatory;不过可靠性指标报得实在(k=5 标签一致率、覆盖缺口 558/922 未归类、判官标注的 214 条中 77.6% 五轮一致),且明确说标签有效性需外部人类标签才能算假阳/假阴率;无对照组、无多基准、无统计检验。原文 §3.5 自陈不足:分析不足以确立该智能体的 AI R&D 能力、判官标签的有效性,或 operator 消息/上下文压缩/脚手架与行为之间的因果效应;§1 亦承认无法解决重复次数太少导致的统计功效不足与模型-装置归因分离。机构为 UK AI Security Institute 与 Meridian Labs;算力原文未报告;自报的开源地址 https://github.com/AI-Safety-Institute/transect 实测 HTTP 404(组织页本身 200),图 3 的 token 归属与摘要「almost 13 million tokens」口径不一致。32
与本节其它条目的关系:与第 1 条 BioStudyBench 同为长程评测可靠性,一条管过程是否可观测、判读是否可复现,一条管结论是否被先验污染;与第 7 条跨用户可靠性都把「同一任务在不同条件下的稳定成功」当独立评测维度;「把 token 消耗按活动/子智能体归因」可与第 8 条 PPWM 的延迟归因对照,两者都是把总代价拆到具体环节。32
结论建议:把 k-rolls + 一致性/置信度诊断 + 标签级来源溯源当作评测报告的标准件;「算力砸在自审与稿件撰写、几乎不花在假设生成」是一处有数据支撑、可直接引用的长程 AI R&D 观察,但也只能作为共现而非因果来引用。32

5. 60 次「装瓶」里 48 次低于本模型零样本性能的 95% 置信区间,零样本能力并不预测廉价规模化

Agent in a Bottle: Can LLM Agents Turn Their Capabilities Into Cheap, Scalable Artifacts? · arXiv:2610.08775 · 值得扫读
研究问题与核心方法:给定一个整批未标注的重复性窄任务与固定的时间、算力、API 预算,LLM 智能体能否自主把通用能力「装瓶」成一个廉价的专用工件(小模型/可复用程序),在保证质量的同时摊薄成本。BOTTLED 把「装瓶」形式化为在令牌预算 B_tok 与墙钟预算 B_time 下最大化整批得分 s(φ(X), y):agent 一次性拿到整个未标注工作负载 X 与预算,可自选方法(写规则程序、训小模型、建检索索引、或把难例回退给大模型),最后只需把全部预测写进 out.txt;成本按未缓存输入 1、缓存输入 0.1、输出 2 的加权令牌计,构建成本 C_build 与执行成本求和,评测把分数相对平凡基线(全填空)与理论上限归一化得相对增益 rτ。对照组为零样本基线(1000 条均匀抽样)与「同 5M 令牌预算的朴素蒸馏」基线(用 GLM 5.3 Flash 打标直到耗尽预算,再微调 Qwen3-0.6B 与 SmolLM2-360M-Instruct)。33
关键结果:10 个模型 × 3 任务 × 2 次运行 = 60 次装瓶运行,其中 48 次低于本模型零样本性能的 95% 置信区间,40 次低于该任务上最差零样本模型的 95% 区间,只有 6 次至少恢复到对应零样本性能的 95%;与同预算蒸馏基线比,31/60 次不如两个学生中较强的那个,21/60 次同时不如两个。Opus 5 在 MAVE 平均装瓶 F1 0.461、成本 $31.40,对应零样本 F1 0.483、估计全负载成本 $27,914,即约 889 倍更低的成本保住 95% 以上性能;在 ESCI 上平均装瓶 macro-F1 0.499、成本 $26.28,对应零样本 0.609、估计全负载 $17,273,即约 657 倍更低成本保住约 82%。但 GPT 5.6 Terra 与 Sonnet 5 零样本 MAVE F1 都约 0.44,装瓶后分别为 0.405 与 0.154。预算耗尽:60 次中 21 次被 harness 因耗尽令牌预算终止,其中 8 次未按完成契约交付 out.txt(GPT 5.6 Sol 占 4 次);放宽预算重跑后仍有 47/60 低于零样本 95% 区间。33
证据与局限:60 次装瓶运行,附 21 次预算放宽重跑的消融、同预算蒸馏基线、两个现成学生模型对照、零样本 1000 样本自助置信区间与 agentic 污染审计;但主结果每格只有 2 次运行、无多次种子与统计检验,零样本 95% 区间基于 1000 条抽样,成本数按厂商定价估算(作者自陈该推断依赖 provider pricing decisions)。机构为 University of Tübingen、ELLIS Institute Tübingen / Max Planck Institute for Intelligent Systems / Tübingen AI Center、École Polytechnique / Institut Polytechnique de Paris / CNRS、KAIST AI;每 agent 单卡 NVIDIA A100 40GB、10 小时墙钟 + 500 万令牌预算,统一 OpenCode harness、经 OpenRouter 调用;代码 https://github.com/aktsonthalia/bottled 实测 HTTP 200(MIT 许可),数据集均公开。33
与本节其它条目的关系:与第 1、3 条都质疑「跑出来一个分数」能否代表真本事(Bottled 质疑零样本分数能否预测廉价规模化,BioStudyBench 用有数据/无数据对照,Learn2Play 用学习增益);与第 2 条 SpeedrunBench 都在固定预算下比较模型表现;其「令牌预算记账」与第 4 条 Transect 的 token 归因同属评测口径问题。33
结论建议:把「固定令牌/时间预算下交付整批结果」的协议、「预算耗尽 vs 主动完成」两类终止原因分开报告、以及同令牌预算的朴素蒸馏基线,作为任何「agent 自我改进」工作的标准对照;评估 agent 时须同时报摊薄成本下的表现,而非只有单例准确率。33

6. 撤走全部目标后 13 个编码智能体在未知岛屿跑 30 小时,8 个建出超 2 座塔而 0 小时组只有 2 个

Is this machine playing? · arXiv:2610.07130 · 值得扫读
研究问题与核心方法:当把方向性(指令、示范、奖励、评测)全部撤走时,一个已经很强的 LLM 智能体会做什么——是陷入停滞/刻板重复,还是能自发生成开放、多样、可持续的活动。Eko 在未改动的编码助手(Claude Code / Codex / Kimi Code)之上加三件东西:自主编排器(只投喂「Begin」、助手一停就自动续跑、每小时重置上下文、不给任务与成功条件)、具身接口(终端可操作的模拟岛屿,六条命令 MoveTo/Jump/Stop/Pickup/Place/Throw,观测为纯文本 JSON、无图像)、以及跨上下文重置持久化的记忆工作区(EPISODIC_MEMORY.jsonl 记录事件、SEMANTIC_MEMORY.md 存知识与技巧、另有 SOUL.md 描述性格)。13 个独立实例在同一未见过岛屿上各跑 30 墙钟小时,每小时复位岛屿物件位置但保留智能体工作区;作者用固定分类法(ethogram)让 LLM 逐条标注转录,考察四个「玩耍特征」,再用四个可量化目标对比 30 小时与 0 小时智能体,并通过「从记忆文件中抹掉某条技巧的全部表述」做因果干预。34
关键结果:many-5-towers 上 62%(8/13)的 30 小时智能体建出超过 2 座塔、最高 16 座,而 0 小时组仅 15%(2/13)、最高 6 座;objects-on-spire 上 30 小时组平均放置 10.3 个物体对 0 小时组 3.5 个;throw-on-spire 上超过一半的 0 小时智能体解不出,30 小时组只有三个失败;tallest-tower 两组得分相近。记忆抹除干预(每目标 5 次一小时运行,双侧 Mann–Whitney U 检验):抹掉 Agent 2 记忆中全部 rock-shattering 表述后,其建塔数从平均 6 座降到 2 座而其余三个目标分数不变;抹掉 Agent 1 的 jump-before-throw 表述后,把方块扔上 Spire 的时间从 60 秒涨到 19 分钟,同时 objects-on-spire 分数上升。玩耍特征评分上 Opus 累积得分约为 Haiku 的 5 倍,三个模型档位(Haiku 4.5 / Sonnet 4.5 / Opus 4.7)分数单调上升。6 个智能体自行发现「起跳中投掷会把跳跃速度传给方块」——作者声明这是他们作为模拟器设计者原本不知道的机制。34
多面板图:A 是 13 个智能体各自写进记忆的活动类型矩阵,B 是 9 号智能体 30 小时的活动时间线配实拍截图,C 是不同模型累积出现的独特活动数随小时数上升的曲线,D 与 E 是两名智能体在岛屿地图上的运动热图。
论文 Figure 3。A 面板显示 13 个智能体从完全相同的初始条件出发写进记忆的活动类型并不相同;C 面板显示累积独特活动数在 30 小时内按模型分岔;B 面板是其中一名智能体 30 小时的完整活动与实拍截图时间线。图片来源:论文原文。 34
证据与局限:主体条件 n=13 次独立 30 小时运行、其余条件 n=5,四目标 × 多条件有数字对照,记忆干预有 5 次重复 + 非参数检验;但「玩耍」判定完全依赖单个 LLM 判官打分、无人类评分者信度报告,且只在单一自建世界里验证、无跨环境复现。原文自陈只给行为层面的描述、不识别内部机制,世界为自建模拟器、结论不应外推到真实系统,固定分类法本身限制能分辨的行为多样性上限;补充看,0 小时基线仍带初始记忆模板指令、两组并非完全无先验,记忆干预只选 3 个智能体且都来自同一模型档。机构在原文 HTML 与 abs 页均未列出(不确定,不据作者名单推断);算力原文未报告;Clawblox 引擎 https://github.com/nacloos/clawblox 与回放站 http://machineplaying.org 均实测 HTTP 200,island 世界本体、13 条运行日志与记忆文件未提供下载地址。34
与本节其它条目的关系:与第 3 条 Learn2Play 都观察智能体在无先验环境里的自主行为,但一条给结构化指标与人类基线、一条给开放式玩耍描述;与第 4 条 Transect 都依赖 LLM 判官读转录、都缺人类评分者信度;与第 9 条 Attacca 都属长程执行,一条无目标自发探索、一条目标导向控制。34
结论建议:可搬用「无外部目标 + 每小时上下文重置 + 自动续跑编排器」的长程 harness,以及「抹掉记忆条目做因果消融 + 四个下游目标 + 非参数检验」这一能力归因方法论;其记忆失败模式(错误信念一旦写入就持续损害后续行为、记忆随经验线性膨胀)正是自我改进系统要研究的对象;引用「玩耍」结论时须注明其判定为单判官、单世界。34

7. 同一指令放到不同用户界面后成功率平均降 4.88 个百分点,最好的与最差 persona 差 9.31 个百分点

Can Agents Work for Everyone? Cross-User Reliability for Mobile GUI Agents in Personalized User Interfaces · arXiv:2610.07972 · 值得扫读
研究问题与核心方法:移动 GUI 智能体的界面会因用户历史与偏好而不同,若把同一句指令放到不同用户的条件化应用状态上,智能体能否稳定完成同一任务(跨用户可靠性)。PAIR 把用户画像里的偏好经「用户兴趣过滤 + 应用相关性过滤」后,与每个应用候选实体做精确匹配或句向量余弦相似度排序,选最高分实体按应用原生 schema 注入 MobileGym 运行态并渲染成用户条件化界面,从而在同一任务/目标下只变用户态,做受控跨用户评测。指标分三级:Task SR(端到端成功率)、All-success(同一模板-条件下所有用户都成功才算,量跨用户一致性)、SAR(子目标达成率,用于把失败定位到轨迹位置,并区分用户条件 UC 与用户无关 UA 上下文)。RePAIR 用 GRPO 训练:对同一模板-条件,配对两名训练用户各采两条整任务 rollout 组成 4 条一组,只在 UC 子目标上按组内均值/总体标准差归一化得到每条 rollout 的组相对优势,回传作用于全部响应 token;SFT 策略冻结作参考,KL 惩罚按 min 形式施加。35
关键结果:FingerTip-20K 真实交互分析覆盖 103,199 个截图-动作步、12,016 个 episode、102 个应用、83 名用户,聚成 60,383 个 screen segment(51,761 个含 UC、8,622 个不含);对 6 个模型,含用户条件元素的 segment 成功率平均下降 4.88 个百分点(SD 1.50)。主评测 6 个智能体平均 Task SR 50.0%(SD 2.82);隐式指令对显式指令 40.7% 对 59.3%(p<.001),个人目标对公共目标 46.6% 对 53.5%(p=.0642,不显著)。跨 persona 任务成功率从 43.8% 到 53.1%,最好与最差 persona 差 9.31 个百分点;公共目标(指令与目标跨用户相同)差 6.94 个百分点,个人目标差 13.6 个百分点。SAR:UC 上下文比 UA 上下文平均低 12.1 个百分点(SD 3.64,摘要给区间 6.98–15.4 个百分点)。RePAIR(Qwen3-VL-8B 基座)相对 SFT 父模型在未见用户上 Task SR 64.5 对 55.1(+9.4 个百分点)、All-success 27.5 对 20.0(+7.5 个百分点)、UC SAR 77.7 对 71.9(+5.9 个百分点)。训练用户池 np 从 1 增到 8(5 轮迭代)Task SR +8.6 个百分点。35
证据与局限:6 个智能体在同一冻结 1,200 测试实例上评测,FingerTip 真实数据侧有 10 万+ 步与 6 万+ 段支撑,关键差异给出 p 值(指令类型 p<.001);但 RePAIR 主结果为单次训练、未报种子重复与置信区间,训练型消融只含 1 个 base 模型、无多数据集复现。原文自陈(附录 D)为「探索性干预」、评估 persona 的基线影响了选题、p10–p19 输入尚未完成语义与浏览器审查、若干早前运行的解码/动作上限设置在保存的请求配置里缺失;补充看,§1 与 §3 关于成功率下降的数值口径不一致(6.41% 对 4.88 个百分点,须二选一并注明),SAR 只在已到达的上下文上统计。机构为 UNIST;原文未提供自有代码、数据或项目页。35
与本节其它条目的关系:与第 4 条 Transect 都把「同一任务在不同条件下的稳定成功」当独立评测维度(这条是用户条件,Transect 是运行重复);与第 3 条 Learn2Play 都用「不同实例/种子下的一致性」区分真本事与运气;与第 5 条 Agent in a Bottle 都质疑单次分数能否代表可靠交付,且都强调预算/条件变化下的表现。35
结论建议:把 All-success(跨条件一致性)当作与平均成功率并列的评测维度,并把 UC/UA 上下文切分与 SAR 失败定位搬进任何「环境随实例变化」的 agent 评测;RePAIR 的组相对优势设计(用跨条件同一子目标的成功差异当训练信号)可迁到可靠性训练;引用其降幅时须注明 §1/§3 两套口径之一。35

8. 并行预测世界模型在四个任务上潜 MSE 最低,CEM 规划延迟平均 374.5 ms、相对自回归提速 3.30×

Parallel Predictive World Models for Accurate and Efficient Long-Horizon Planning · arXiv:2610.08627 · 值得扫读
研究问题与核心方法:长时程世界模型规划的常见做法是自回归 rollout(把预测状态反复回灌),这会带来随视界线性增长的串行路径与递推的解码状态反馈误差;能否在不牺牲轨迹因果结构的前提下,把整段有限视界轨迹并行预测出来。PPWM 对一段长度 K 的动作跨度一次性并行预测整段未来状态:每个视界由自己的因果动作前缀编码成查询 q_k = z_t + e_k + W_p p_{t+k}(其中 p_{t+k} 只依赖截至 a_{t+k−1} 的动作),再把 K 个未来查询按时间顺序送入 L 层因果 Transformer,让未来表征在解码前互相交互但不得访问更晚的位置与动作,最后由各位置独立解码得到 ẑ_{t+k},解码结果绝不回灌。训练在潜空间直接监督,并提出多锚点自条件 rollout(MAR):在预测上下文(含模型自生成的 detached 上下文)上随机取锚点重启并监督剩余视界,以匹配测试时跨 span 组合的分布;同一接口还支持轨迹级轻量精修,并保留 CEM 解作回退。36
关键结果:受控预测(同一冻结 LeWM 编码器、潜空间 D=192,潜 MSE 越低越好)中 PP-LeWM 在 4 个任务、全部报告视界上 MSE 最低——OGBench-Cube 的 Ē1:15 为 0.0270(Fast-LeWM 0.0319、LeWM 0.0456、PLDM 0.0374、TD-MPC2 0.0525),Reacher 0.0011(LeWM 0.0266、Fast-LeWM 0.0728),Push-T 0.0949,Two-Room 0.1159。开环规划(100 episode × 3 个规划器种子,CEM 下四个任务的 Anytime/Terminal 都最高):Reacher 97.00/96.67 对 LeWM 76.67/64.33、Fast-LeWM 51.33/35.00;OGBench-Cube 45.67/39.33;Push-T 37.67/29.33;Two-Room 55.33/55.00。规划延迟(H=10,CEM):PP-LeWM 四任务平均 374.5 ms,LeWM 1235.2 ms、Fast-LeWM 475.8 ms,即相对自回归 LeWM 平均加速 3.30×。诚实报告的负面结果:在 lifted planner 下 PP-LeWM 并非处处最好——GRASP 的 Reacher 上只有 38.67/0.67,远低于 LeWM 的 81.00/11.33 与 Fast-LeWM 的 62.67/5.67。36
证据与局限:4 个任务 × 5 个预测接口 × 3 个规划器(CEM/LatCo/GRASP),另有组件消融(含 MAR 与尾部消融)、规划器–接口诊断、DINO-WM 架构迁移与单卡(NVIDIA A100-SXM4-80GB)计时协议,控制变量干净;但未报告置信区间、标准差或显著性检验,成功率为单点值、没有多随机种子重复(只报 3 个规划器种子),也无可运行代码佐证。原文没有独立 Limitations 小节,自陈表示学习被当作正交问题、视界长于 K 时跨 span 边界仍恢复串行;最实质的弱点是可复现性——正文只写「代码将公开发布」,本次无任何可 curl 的代码或权重链接。机构为 Tsinghua University、Institute of Microelectronics/CAS、HKUST(GZ)、NTU Singapore;算力总量与训练时长原文未报告。36
与本节其它条目的关系:与第 9 条 Attacca 都属「长时程控制」,一条从世界模型的预测接口下手、一条从视觉目标条件策略收敛;与第 5 条 Agent in a Bottle 都关心长程/批量任务的算力与延迟代价(这条报 3.30× 加速、那条报约 657–889× 成本下降,对象与口径不同、不宜直接比数);与第 7 条跨用户可靠性都属「让智能体在长程/多步条件下更可靠」的不同侧面。36
结论建议:「自回归 rollout 其实是有限视界的因果轨迹映射、并行预测一段轨迹同时保持因果」这一形式化与 O(⌈H/K⌉) 复杂度,可直接用于长程推理栈的延迟/深度预算规划;「模型接口与搜索算法错配」(lifted planner 需链式一步因子)是规划器与模型协同设计的重要警示。引用其加速与最低 MSE 时须注明无误差棒、代码未公开。36

9. 视觉目标条件策略在三条长时程任务链上把链成功率做到 28%–54%,约为最强基线的 5–7 倍

Attacca: Goal-Directed Control under State Continuity for Long-Horizon Embodied Agents · arXiv:2610.07785 · 值得扫读
研究问题与核心方法:现有视觉目标条件策略多在「目标已可见」的孤立交互上训练与评测,无法应对连续长时程执行中的「技能交接缺口」(skill hand-off gap)——每个任务从上一任务遗留的状态开始(位姿/朝向不同、世界已被改变、下一个目标在视野之外),此时基于当前视图构造目标的策略无法接地目标、无法继续。Attacca 在完整的「搜索→接近→交互」轨迹上训练单一视觉目标条件策略,目标图像与环境解耦,含三个组件:① 上下文解耦的目标采样(为每条演示轨迹随机配对一张来自不同世界的同类目标掩码图,满足 w(g)≠w(τ) 且 y(g)=y(τ),迫使策略按视觉外观而非共享场景线索匹配目标);② 目标条件的目标接地(mask head 对当前观测 patch 预测目标可见支撑 p_{t,i},监督为像素级 GT 掩码在 patch 内平均后的 m̄_{t,i},损失为逐 patch BCE + soft Dice,预测掩码经残差编码器聚合成向量 δ_t 加到 readout token 上);③ 行为阶段条件化(phase head 从时序 readout 预测 Search/Approach/Interact,经 FiLM 调制 readout 后再送动作头)。推理时只用标准输入,不需 GT 标注或外部目标信息。37
关键结果:短时程(Mine/Hunt/Place,各 200 episodes)Attacca clean success 平均为 0.390/0.475/0.470(ID 0.450/0.479/0.550,OOD 0.250/0.467/0.283),比最强基线高 1.7×/2.4×/2.1×;同数据微调的 ROCKET-2(不同世界图像+掩码)平均仅 0.235/0.185/0.225,ROCKET-2 当前视图+Molmo+SAM 平均 0.020/0.180/0.045,ROCKET-2 官方 checkpoint 用不同世界目标图 0.005/0.100/0.000。长时程任务链(每阶段无条件成功率,末列为链成功率):Diamond Pickaxe 0.84/0.78/0.54、Wolf Feeding 0.66/0.40/0.34/0.30、Nether Portal 0.74/0.64/0.56/0.32/0.28,链成功率 54%/30%/28%,比最强基线(微调 ROCKET-2,0.08/0.06/0.04)高 5–7 倍、最高达 7×;Attacca 每条链完成 14–27/50 episodes,无基线超过 4。组件消融(Table 3,n=50):无残差无阶段 0.50/0.12/0.18、两者都开 0.54/0.30/0.28;反馈通路消融中 Residual(本文)0.54/0.30/0.28 优于 Cross-attention 0.36/0.08/0.18 与 ControlNet 0.16/0.00/0.08。37
证据与局限:3 个短时程任务(各 200 episodes)+ 3 条长时程链(各 50 paired seeds)+ 组件与反馈通路两组消融且报告标准误;但只在一个环境(Minecraft / MineStudio)验证、只报 SE 未做显著性检验,且长时程链的「阶段完成检测与物品搬运」由脚本控制器与 helper 函数代劳。原文自陈(Appendix H)只改进分层具身智能体的低层策略、高层 planner 与「语言子目标→掩码目标图」的接口均未评测;目标图仍依赖已标注的目标类、推理时仍需外部提供掩码目标图。训练数据由熟练玩家在 1,160 个不同世界采集、覆盖 7 个训练目标类;观测为第一人称 RGB、动作为 VPT 鼠标键盘动作空间;机构为南洋理工大学;算力原文未报告;项目页 [https://attacca-[project.github.io](https://project.github.io)](https://attacca-[project.github.io](https://project.github.io)) 实测 HTTP 200,正文未给独立 GitHub/数据下载链接。37
与本节其它条目的关系:与第 8 条 PPWM 都属长时程控制,但一条改世界模型的预测接口、一条改具身策略的目标接地与阶段条件化;与第 6 条「这台机器在玩耍吗」都属长程执行,但一条目标导向、一条无目标自发探索;其「目标与环境解耦」与「脚本控制器 + helper 宏」的 harness/策略边界正好呼应本节多条对 harness 与评测口径的关注。37
结论建议:其「目标与环境解耦」思路可迁移到任何「子目标在下一阶段不可见」的长程训练(工具调用链、网页/桌面操作链);消融结论「残差单向量注入优于 cross-attention/ControlNet/FiLM」对多模态条件注入的架构选择有参考价值。引用其 5–7 倍链成功率时须注明仅单环境、无显著性检验,且高层切换由脚本代劳。37

五、轨迹数据、技能挖掘与能力自举

1. GAMEGO 把任务描述压到全量 PRD 的 2.26%,SFT 后在 GameGoBench 上超基座 17.85 分

GAMEGO: Training Game-Dev Agents with Synthetic Trajectories Anchored in Real-World Assets · arXiv:2610.06910 · 值得扫读
研究问题与核心方法:单轮端到端地由简短游戏 seed 生成完整可玩的网页游戏,需解决 seed 稀疏导致的机制不完整、玩法流程断裂与视觉粗糙,并据此规模化造出训练轨迹。流程先把 18 个来源(Steam、14 个休闲游戏站、微信小游戏等)的真实游戏记录做玩法级去重(玩法签名+词法/语义召回+LLM 判官判定等价)得到 67,564 个 seed,再用「三级规划+规范编译」扩成完整 PRD:任务定义(抽取核心机制、剥离品牌)→可玩蓝图(相机、空间关系、操作、失败条件、状态转移须闭合成可玩循环)→资产落地(每项资源映射到固定工程路径、尺寸预算与生成方式)→PRD 编译。关键改动是 task-adaptive query construction:因全量 PRD 过长会拖垮指令跟随、压缩设计自由度,故按任务结构复杂度设信息预算,只保留定义核心机制/可玩循环/视觉呈现的约束,输出面向用户的简短执行 query,并附保留约束、留白设计与复杂度理由的审计日志,由独立 LLM 智能体校验保真度与自由度。前沿模型在沙箱(改编自 Code Arena 脚手架的 React 模板,工具含文件系统编辑、build_project 编译、交互式 shell)中执行 query、保留可运行产物的完整轨迹构成 GameGoData,再 SFT 出 GameGoCoder。 38
关键结果:任务表示压缩——direct query 与 task-specific query 中位长度分别为 227.5 与 235 tokens,相对全量 PRD 的中位保留长度仅 2.26%,即 44.2× 压缩(剔除资产附录后 21.6×);按完整子句计的关系密度增益中位数 Gs=3.79×(相对 PRD 正文 1.78×);927 条 PRD 子句的 AI 辅助审计中,12.1% 被完整表达、62.2% 部分表达、25.7% 缺失。人工偏好(6 名独立受聘专家盲评 pairwise):task-specific query 相对全量 PRD 胜率 85.7%(487/176/81),相对 direct query 胜率 86.6%(606/44/94);分层胜率最高达 88.2%(对全量 PRD)与 90.9%(对 direct)。基准分数(Table 1,Claude Sonnet 4.6 作 verifier):ArtifactsBench-G Overall,GameGoCoder 3.5 得 57.34 vs Qwen3.5-27B 46.31(+11.03)、GameGoCoder 3.8 得 61.94 vs Qwen3.8-27B 59.87(+2.07);Cookie-Bench-G Overall,55.79 vs 41.35(+14.44)、80.68 vs 77.07(+3.61);GameGoBench Overall,51.85 vs 34.00(+17.85)、55.29 vs 52.53(+2.76);前沿对照 Claude Opus 5 在 ArtifactsBench-G 得 72.76、在 GameGoBench Overall 得 61.84。数据构建产出:67,564 个提交 query → 67,487 条初始轨迹 → 65,082 条完成主执行阶段(96.3%)→ 校验后保留 55,060 条(总产出率 81.5%),构成 61.4% 2D / 20.1% 2.5D / 18.5% 3D。难度自适应:query 长度从 Easy 的 52 tokens 升到 Medium 235、Hard 339,保留 PRD 比例 0.75%→3.25%,Hard 上 task-specific 比 direct 更长(339 vs 259 tokens)。MoE 训练消融(Table 3,盲评):E2 相对 Base 偏好 0.852(N=110),E2 相对官方 post-trained MoE 0.664(N=108),E6 相对官方 MoE 0.807(N=123)。 38
证据与局限:三个基准(ArtifactsBench-G、Cookie-Bench-G 两个公开基准+自建 held-out 的 GameGoBench)均有匹配基座对照,且 GameGoCoder 3.5/3.8 双基座验证;人工盲评覆盖 query 表示消融与 MoE 训练消融并给出评审一致性与协议(附录 F)。训练设置:基座 Qwen3.5-27B 与 Qwen3.8-27B,SFT 1 epoch、55,060 条长度过滤后的轨迹、BF16、vision encoder 与 aligner 冻结、response-masked 损失、有效全局 batch size 8、256K 上下文、峰值学习率 1e-5;训练/测试 seed 在造任务前即分离。算力(GPU 型号/卡时)原文未报告。弱点:主表只有 SFT 每 query 单次 rollout,未报重复方差;自建 GameGoBench 与训练流水线同源(虽称 seed 级分离),存在构造者偏置;verifier 与人类评委均为 LLM/众包式,正文未见人类与 verifier 的一致系数数值。增益在更强的 Qwen3.8-27B 上缩小到 +2.07 至 +3.61 分,可能主要来自基座弱时的补差;全篇为 React 模板网页小游戏,未涉及 Godot/Unity 等真实引擎。附录明确:GameGoData 轨迹及其产物不随论文发布,prompt/路由策略亦待录用后发布。 38
与本节其它条目的关系:与第 5 条 ScienceClaw 是本节最直接的路线对照——两者都走「用合成/自生成数据加小参数模型逼近前沿」,但 GAMEGO 是离线造数据一次性 SFT,ScienceClaw 是固定参数下的在线程序自进化,可比较「离线轨迹蒸馏」与「在线程序自更新」两种信号来源。与第 3 条 DAEDALUS 同为「自生成数据」路线,但 DAEDALUS 的任务由辅助智能体自行提出并自我验证,GAMEGO 的 seed 来自真实游戏记录再经 LLM 扩写,可对比「真实锚定」与「自生成」两种任务来源。与第 6 条 EESD、第 7 条 D-OPCD 共用「把经验蒸馏进模型」这一落点,可对照 EESD 的样本级证据加权与 D-OPCD 的 harness 经验权重内化。与第 4 条 MedZERO 同属「自生成/合成课程训练小模型」,可对比数据筛选机制与领域(网页小游戏 vs 医学推理)。 38
结论建议:可把 GAMEGO 的「规格合成→动态压缩→前沿模型执行→格式校验筛轨迹」流水线直接搬作自然语言需求驱动的编码/工具使用 agent 数据生产,并把 token 保留率 rs、关系保留 Rs、密度增益 Gs=Rs/rs 这套压缩-保真度量尺用于 prompt-budget 决策;其难度自适应信息预算(Easy 短、Hard 长至 339 tokens)是可迁移的反直觉结论。因主结果无重复运行方差、轨迹与产物不发布,引用时宜只把它当方法论样板,而不当作可复现的数字基线。 38

2. SAGA 四级知识抽象把 ScienceWorld 提到 66.9 分,但直接注入原则反而掉分

Principles that Guide, Actions that Inform: Agent Evolution via Knowledge Abstraction · arXiv:2610.06964 · 精读
研究问题与核心方法:LLM 智能体的外部记忆多把经验表征成与具体任务/语境强耦合的情节记录或任务专用流程,难以跨任务迁移;SAGA(Self-evolving Agents through Experience-Grounded Abstraction)要解决的是如何把具体交互系统性地转化为带显式适用条件的抽象、可复用知识,并让它在决策时可执行。方法用「执行—抽象」闭环把经验组织为四级:L0 原始轨迹 τ=(s0,{(a,o,r)})→L1 情节知识(LLM 摘要,与轨迹一一对应)→L2 流程知识(跨多个情节抽取的通用策略)→L3 经验落地原则(含 condition/effect/mechanism/scope/exceptions 与支撑证据)。相邻层用双向父子链连接,每个下层节点最多分给两个父节点,形成稀疏可审计的证据图;检索用 Qwen3-0.6B-embedding + 余弦相似度。利用端先由任务生成 plan 再检索相关知识;对 L3 做「任务条件化实例化」(把抽象原则翻译成当前任务的可操作约束,输出 not applicable 则不注入),并把实例化后的原则编译成可执行谓词 φ_i(a_k)∈{0,1},违反时把被违反原则作为反馈注入决策上下文并重采样动作(有界 resampling);任务结束后把新轨迹抽象回分层记忆。 5
两段式框架图:上段是任务执行与轨迹采集,下段左侧把轨迹经摘要、抽取、推理三级抽象成元描述、策略与原则,下段右侧用检索到的记忆与基本原则共同约束动作、不满足就重采样。
论文 Figure 2。SAGA 的闭环:交互轨迹经「摘要—抽取—推理」抽象成元描述、策略与原则三层知识,再以检索到的记忆加基本原则对候选动作做门控,未通过就重采样动作。这张图界定了「经验抽象到哪一层才注入」这个问题的改动位置。图片来源:论文原文。 5
关键结果:ScienceWorld(Table 1)prompt 侧无记忆 25.0、轨迹检索 54.8,SAGA(DeepSeek-flash)56.2、SAGA(Qwen3.8-Max)67.0;训练侧从 Qwen2.5-7B-Instruct 先用 SFT 到 58.1、再加 GRPO 到 66.9,为全部对比方法中最佳(对比 StraTA 63.5、ScalingInter 57.0、AgentGym-RL 50.5、PPO 51.4、GRPO 41.8)。ALFWorld(Table 2)prompt 侧 SAGA(Qwen3.8-Max)总成功率 99.3,同 backbone 无记忆 96.3,对比 Memento 53.0、ExpeL 46.3、ReasoningBank 41.1、Base Model 45.5;训练侧 SFT 90.3、SFT+GRPO 93.3、SFT+GRPO+External 96.3(对比 Evolving-RL w/ skills 96.0、SkillRL 81.7、GRPO(w/ skills) 83.3)。消融(Table 3,ScienceWorld 平均分,Qwen3.8-Max / DeepSeek-v4-Flash):R1 无记忆 48.4/25.0;R2 原始轨迹检索 63.7/54.8;R3 L1+L2 64.5/55.0;R4 直接注入 L3 63.9/54.5(相对 R3 下降);R5 L1+L2+实例化 L3 66.2/55.8;R6 再加动作调控 67.0/56.2——即直接塞入原则反而更差,实例化分别 +2.3/+1.3、动作调控再 +0.8/+0.4。配对统计(Table 11,ScienceWorld,Qwen2.5-7B-Instruct,14 任务×3 seed,n=738 episode):同一 L3 知识直接注入 vs 不注入 = −0.0155(t=−3.53,显著为负);实例化 vs 不注入 = +0.0365(t=+5.90);实例化对 L3 的净效应 = +0.0520(t=+7.74);L3 vs L2(均在实例化下)= +0.0238(t=+3.50)。轮次演化(Table 12):Qwen3.8-Max 从 R0 96.3% 升到 R3 99.3%(134 局中净增 4 局成功)。 5
证据与局限:证据较强——两个交互基准(ScienceWorld、ALFWorld)、prompt 与 training 两种评估范式、多 backbone(DeepSeek-flash、DeepSeek-v4-Flash、Qwen3.8-Max)、6 配置消融,外加 14 任务×3 seed、n=738 的配对 t 检验,并对留出任务类型 Look(18 局)/Pick2(17 局)做评估。机构为阿里巴巴(杭州)、上海交通大学、中国科学技术大学。算力(GPU 型号/卡数/时长)原文未报告。弱点:ALFWorld 主结果缺统计检验,强 backbone(Qwen3.8-Max)下天花板效应明显(96.3→99.3);训练侧两条管线都用 Qwen3.8-max-0902 做抽象、却优化 Qwen2.5-7B-Instruct 执行,无法隔离离线 builder 预训练知识的贡献(缺同模型 builder-actor 对照);不少 ScienceWorld 残余失败是「执行绑定」而非「知识绑定」;原文自陈严格 ALFWorld 设置下 R1–R3 没有任何 L3 原则通过验证,故其提升不能归因于被验证的原则级知识;正文「9.6%」与 Table 1 中 Qwen2.5-7B-Instruct 行的 Avg 13.9 不一致,聚合口径原文未说明;无代码/数据公开链接(全文无公开 GitHub/HuggingFace/Zenodo 链接)。 5
与本节其它条目的关系:与第 5 条 ScienceClaw 同属 B 线自进化,但更新载体不同——ScienceClaw 更新的是 Skill/Operator 程序,SAGA 更新的是「情节→流程→原则」分层知识,可对比「程序级更新」与「知识级抽象」两种持续进化形态。与第 3 条 DAEDALUS 的「启发式必须经连续成功验证才入记忆」相比,SAGA 没有显式准入验证,而是靠实例化后的谓词门控与有界重采样在运行时生效,二者可对比「写入端筛选」与「运行时门控」。与第 8 条 MemCo 都做记忆的抽象与检索,可对比 SAGA 的分层父子证据图与 MemCo 的本地/全局双层记忆。与第 6 条 EESD 的样本级证据加权一样,本条的消融结论「高层抽象直接注入会掉分、必须做任务条件化实例化」对任何「把经验记忆注入提示」的做法是有用的反例证据。 5
结论建议:建议优先精读,并把两件事抄进实践:一是把交互轨迹蒸馏为「情节→流程→原则」分级资产的 pipeline 可直接复用到轨迹数据筛选/蒸馏;二是 L3 原则编译成可执行谓词的「动作门控+有界重采样」可搬到长程任务运行时保障。最需要记住的反直觉结论是「抽象知识不是越抽象越好」——直接注入 L3 相对 L1+L2 为 −0.0155(t=−3.53),必须先做任务条件化实例化再注入。引用其增益时须留意天花板效应与聚合口径不一致这两处证据短板。 5

3. DAEDALUS 用自生成任务把 AppWorld 的平均成功率(MSR)从 44.3 提到 60.2,成本与无记忆持平

DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks · arXiv:2610.08048 · 精读
研究问题与核心方法:在新环境中,不提供人工指南、策划好的训练任务或 oracle 验证器时,冻结权重的智能体能否自举出可复用的程序性记忆,从而不再逐任务重犯同样错误。DAEDALUS 是免训练(training-free)的记忆构建流水线,用自生成任务替代训练任务:Surveyor 先做一次只读环境勘察、给出任务在各功能区的目标分布;Explorer 据此提出「现实且可解」的任务并自行完成以确立可行性;Solver 在全新重置的环境中反复尝试该任务,Judge 用自然语言成功条件判定成败;每次失败后 Extractor 从「指令+失败轨迹」写出一条启发式(看不到具体缺失哪条成功条件,以避免过度贴合任务),Solver 带该启发式重试。启发式仅在 Solver「先失败过、随后连续 Ns=3 次成功」后才被接受;从未失败 → 任务太简单,达到 Nf=8 次失败 → 任务太难,两种情况回传 Explorer 调整难度(最多 Nr=5 次修订),修订经验沉淀为 Explorer 的 guideline bank。最后 Consolidator 一次 LLM 调用把已接受启发式合并成一个冻结的 memory bank,在每个测试任务开始时整段注入上下文。 39
关键结果(Table 1–6 与正文,每次为 5 次独立推理运行、每方法每基准一个 bank):AppWorld(normal) 的 MSR 从 no-memory 44.3±1.1 提到 60.2±0.9(+15.9 点),pass^5 从 14.9±2.8 提到 32.1±3.6(约 2.2×),成本 $3.2 与 no-memory 持平;τ²-bench(retail) MSR 57.5±1.6→67.5±2.5(+10.0),pass^5 22.5→37.5(1.7×),成本 $0.5;AutomationBench(Operations) MSR 31.7±3.2→36.0±1.5(+4.3),pass^5 12.9→21.4(1.7×),成本 $1.2。对同类「自生成任务」方法 PREPING:AppWorld 60.2 vs 56.0、τ²-bench 67.5 vs 60.0、AutomationBench 36.0 vs 34.9,MSR 与 pass^5 全面胜出。与使用训练任务的方法相比,6 个 MSR/pass^5 列中有 4 列在误差范围内与最佳持平,仅 AppWorld pass^5 落后 ACE(32.1 vs 41.1)、AutomationBench MSR 落后 ExpeL(36.0 vs 42.6);而 ACE/ReasoningBank/AutoGuide 在某些基准会跌到 no-memory 基线之下,DAEDALUS 从不低于基线。DAEDALUS-curated(用基准训练任务跑同一 Solver 循环)在三个基准的 MSR/pass^5 全部名列第一误差范围内(AppWorld 60.8/36.3、τ²-bench 70.0/35.0、AutomationBench 40.0/24.3),只比自生成任务高 0.6/2.5/4.0 MSR 点。累计消融(Table 3,AppWorld):Single Explorer(A) 35.7(低于 no-memory 44.3);+多会话(B) 38.7;+Explorer 任务与 Solver 轨迹(C) 54.5(+15.8,最大一跳);+Solver loop 重复成功验证(D) 59.0(+4.5);+guideline bank(E) 57.9(−1.1,在标准误内);+环境勘察(F,完整) 60.2;接受率 86.7%→91.1%→97.8%,修订次数 183→161→118,生成成本相对 (D) 降 48%($210.4→$109.7)。LLM Judge 与官方验证器一致性(Table 4):AppWorld N=168 上 precision .943 / recall .846 / κ_bench .807 / κ_inter .848,τ²-bench N=40 上 .889/.842/.749/1.000,AutomationBench N=70 上 .863/.807/.729/.902。预算扩展(图 6):仅 5 个 session 即拿到 90-session 峰值增益的一半以上,超过 90 session 后 MSR 反降(140 session 53.7 < 90 session 60.2),分层合并也未能挽回(54.6)。注入方式(Table 6):整库在任务开始注入+合并得 60.2% MSR,比未合并启发式高 10.7 点;逐轮 top-5 检索(Random/BM25/Qwen3-Emb.)为 51.7/52.0/54.3,BM25 提到 k=30 也只有 58.2%,仍低于整库注入。 39
证据与局限:证据较强——3 个不同环境/任务类型的基准×5 次运行×标准误,含累计消融、judge 一致性(κ)、预算扫描、注入策略对照、跨模型家族 9 格迁移矩阵与排名一致性检验(τ=0.89, p<.001)。机构为 Illuin Technology(Antoine Edy、Max Conti、Victor Xing 为共同一作)。设置:AppWorld 官方划分 90 训练/168 测试;τ²-bench 只取 retail(74 训练/40 测试,airline 因存在 ground-truth 错误被排除,telecom 双控设定不支持);AutomationBench 只取 Operations split,100 任务按服务数分层切成 30/70。默认 AppWorld 与 τ²-bench 用 GPT-5.4(辅助)/GPT-5.4-mini(Solver 与 base agent),AutomationBench 用 GPT-5.6 Terra/GPT-5.6 Luna;超参 Nr=5、Nf=8、Ns=3,只在 AppWorld 少量预实验选定后未在另两个基准上重调;成本按 OpenAI 标准档 API 价格、假设完美 prompt caching 估算。算力(GPU/卡时)原文未报告。弱点:每格为单一 bank、单一 seed 的生成过程,未报告记忆生成本身的方差,也未做统计显著性检验(除排名一致性);基准偏小(AppWorld 测试 168 题、τ²-bench 仅 40 题,标准误达 ±1.6–3.6 点,AutomationBench 的 +4.3 点接近误差量级);记忆规模扩大后合并走样(140 session bank 低于 90 session),分层合并没有恢复;生成成本 $109.7–$210.4 一次性,未与基线对齐同一预算口径;论文承诺的代码仓库 https://github.com/illuin-tech/daedalus 实测 404,代码与产物当前不可访问。 39
与本节其它条目的关系:与第 5 条 ScienceClaw 同属 B 线的「经验回写需验证门控」——ScienceClaw 要求源任务重放可复现且独立验证集严格变好才持久化,DAEDALUS 要求「先失败过、再连续 3 次成功」才接受启发式,可对比「重放式硬验证」与「重复成功式软验证」两种准入。与第 2 条 SAGA 相比,两者都在做「经验抽象与注入」,SAGA 的 L3 原则需任务条件化实例化才生效,DAEDALUS 的结论则是整库在任务开始一次注入优于逐轮检索(+10.7 MSR),构成注入时机的直接对照。与第 1 条 GAMEGO 同为自生成数据来源,可对比「真实记录锚定」与「环境自举」两种任务来源;与第 4 条 MedZERO 都涉及自生成知识的污染控制,DAEDALUS 用 Nf/Ns 阈值与 Judge,MedZERO 用因果可见性+分数带过滤。 39
结论建议:建议优先精读,并把三条可直接迁移的结论记下来:一是把「启发式必须经重复成功验证才入记忆库」当作自蒸馏数据筛选的通用准入过滤器;二是「整库一次注入优于逐轮检索」(60.2% vs 54.3–58.2% MSR)这一反直觉结论可挑战常见的 top-k 检索式记忆注入;三是「自生成任务可作模型排名代理」(9 个模型在 81 个被接受任务上与 AppWorld normal test split 的排名一致,MSR τ=0.89, p<.001)可用于缺少评测集时的评测集/判官可靠性问题。引用其 +4.3 点这类小基准增益时须留意标准误量级与无显著性检验。 39

4. MedZERO 让 4B 医学推理平均分从 12.9% 升到 34.9%,超次优自进化基线 13.7 点

MedZERO: Self-Evolving Agents for Open-Ended Medical Reasoning Through Controlled Knowledge Accumulation · arXiv:2610.08327 · 值得扫读
研究问题与核心方法:在开放式、部分可验证的医学推理上做自进化,而不是只在数学/代码这类可用精确答案或可执行程序校验的领域里奏效。方法为双智能体交替自进化:Examiner 生成「前沿难度」的医学问题+本地选项集 O 与候选医学知识三元组 T,用 GRPO 优化,奖励=前沿奖励 r_front=−|s_agr−γ|(用 SentenceTransformer 把 Reasoner 的 K 个自由文本回答投射到选项空间算选项级一致度,中间一致度即为能力前沿)+多样性奖励 r_div(防问题坍缩)+接地奖励 r_ground(轨迹被检索证据支持程度),权重 λ;Reasoner 用多轮推理+外部知识工具(结构化 KG 检索+可选 web 搜索)解题,奖励=选项级多数一致性 r_maj+β·r_ground 联合优化,以绕开开放式答案无法精确校验的问题。受控知识积累(ephemeral-to-persistent):Examiner 优化期产生的三元组只进临时缓冲 G_tmp,并用因果可见性规则(当前 step/batch 生成的证据不能给自己当证据,G_cur=G_0∪G_{t−1}^pers∪⋃{j<i}T{t,j}^tmp);优化结束后临时缓冲丢弃,只有用优化后的 Examiner 重生成、且分数落在前沿区间 [0.3,0.8] 且答案非空的样本才被保留为 Reasoner 训练课程,其三元组去重后并入持久 KG G_t^pers,检索可见 KG=G_0∪G_t^pers。 40
关键结果(Table 1/2;平均为 6 个报告指标平均:MedBullets op4、op5、MedBrowseComp、MedXpertQA、MMLU-Pro(health)、PubMedQA):4B(Qwen3-4B-Base)MedZERO 平均 34.9%,对比 base 12.9%、Agent0 13.9%、SPIRAL 18.2%、Absolute Zero 21.2%,相对 base +22.0 点、相对次优自进化基线 Absolute Zero +13.7 点;分项 MedBullets op4/op5 38.7%/35.1%(base 19.8%/14.3%)、MedBrowseComp 42.0%(base 0.0%)、MedXpertQA 19.8%(base 13.3%)、MMLU-Pro(health) 40.2%(base 12.4%)、PubMedQA 33.5%(base 17.6%)。8B(Qwen3-8B-Base)MedZERO 平均 53.5%,对比 base 34.9%、Agent0 43.7%、SPIRAL 42.3%、Absolute Zero 37.0%,相对 base +18.6 点、相对次优基线 Agent0 +9.8 点;分项 MedBullets op4/op5 58.3%/49.8%(base 32.1%/23.7%)、MedBrowseComp 45.5%(base 4.0%)、MedXpertQA 20.8%(base 14.5%)、MMLU-Pro 61.2%(base 57.8%)、PubMedQA 85.2%(base 77.5%)。多轮持续改进:MedBullets op4 从第 1 轮 35.2% 升到第 3 轮 38.7%,MMLU-Pro 从 38.94% 升到 40.15%。证据访问消融(MedBrowseComp_50,固定 4B post-trained Reasoner,Table 4):默认 T+K(Tavily+KG)max_obs=512 达 36.0%,Tavily-only 仅 28.0%;max_obs 从 512→1024 提升到 38.0%,768 时 40.0%;严苛 prompt(strict_citations 26.0%、compact_queries 22.0%、kg_curriculum_note 20.0%)显著更差,tavily_bias 与 route_plus_tavily_bias 达 40.0%。 40
证据与局限:证据较强——5 个公开基准×6 个报告指标×2 个规模(4B/8B),对比 3 个自进化基线(Agent0/SPIRAL/Absolute Zero)+base,含组件消融(课程、知识准入带、Reasoner 配置、检索源/提示/观测预算)、多轮迭代曲线与失败案例,且被 NeurIPS 2026 接收。机构为香港中文大学、复旦大学附属中山医院血液科、华南理工大学、中国科学院香港创新研究院人工智能与机器人中心。基准规模(仅测试集):PubMedQA 1,000、MedXpertQA Text 2,450、MMLU-Pro Health 818、MedBullets op4/op5 各 308、MedBrowseComp 50。算力为 Linux 服务器 2×NVIDIA L20X GPU(8B 时另起两个 vLLM worker 占独立 GPU),训练不需要任何人工标注数据;框架 VeRL+VeRL-Tool,Examiner grounding 权重 β=0.05,保留 p(x)∈[0.3,0.8] 的任务。弱点:原文未报告误差棒/统计显著性检验;单一模型家族;原文自陈验证仍不完整、监督依赖不完美信号(检索证据、一致性、judge),分离探索性与持久知识不能消除错误累积,错误检索证据/噪声自生成理由/有偏筛选仍会引入持久错误;只做基准评测、不证临床效用,不覆盖纵向照护、多模态证据与工作流约束;依赖外部工具与评估协议质量。代码在投稿时未发布(NeurIPS checklist 第 22 题答 [No],理由为投稿时保匿名/时间限制,计划发表后发布)。 40
与本节其它条目的关系:与第 1 条 GAMEGO 同属「用自生成/合成数据训练小模型」,可对比数据筛选机制与领域(网页小游戏 vs 医学推理),两者都得在小基座上放大收益。与第 3 条 DAEDALUS 在「自生成知识的污染控制」上互为对照——MedZERO 从写入端用因果可见性规则+分数带 [0.3,0.8] 做准入,DAEDALUS 用「先失败后连续成功」的阈值做准入,可对比两种自生成经验的门控判据。与第 5 条 ScienceClaw 同为「自进化+验证门控」,但 ScienceClaw 更新程序(Skill/Operator)且要求重放复现,MedZERO 更新检索用的持久 KG 并靠弱信号定位能力前沿,可对比「硬重放验证」与「弱信号带过滤」两条准入路线。与第 2 条 SAGA 的 L3 实例化门控同属「经验注入前先做条件化筛选」。 40
结论建议:可扫读并重点记下两条配方:一是「ephemeral-to-persistent+因果可见性+前沿分数带过滤」这一组合,用于在无精确 verifier 的开放式领域做自进化时防止自生成伪迹回流污染训练/检索;二是「前沿一致度 γ 带」提供了一种在无精确校验域用弱信号(选项级多数一致性)定位能力前沿的课程构造法。引用 +13.7 点这类增益时须注意原文无误差棒与显著性检验、且为单一模型家族,宜把它当作机制样板而非稳固的量化结论。 40

5. ScienceClaw 七轮演化把 OOD 宏平均从 77.72 提到 91.30(+13.59),错误晋升率 1.23%

ScienceClaw: Benchmarking Continual Self-Evolution of AI-for-Science Agents Across the Natural and Social Sciences · arXiv:2610.08691 · 值得扫读
研究问题与核心方法:在不更新基座模型参数的前提下,被验证过的科学执行能否变成持久、可迁移的「程序级」自进化能力,并且这种能力如何跨自然/社会科学多学科、跨轮次地被度量。可编辑的「智能体程序」显式表示为 Skills(分解、编排、恢复的策略)与带类型执行契约的 Operators(显式输入/输出/领域契约);任务以有向图 G=(N,E,ψ) 表示,端口级 schema Γ=(type,shape,unit,provenance),边必须通过 Compat 检查(类型+形状匹配、单位换算需显式记录出处)。智能体靠「执行后原子编辑」修图,执行器只重跑受影响的下游节点并打 checkpoint。关键机制是「重置回放取证」:带 transient state 的 checkpoint 不算数,候选必须放到重置环境里 Replay 出 (y,τ) 并过任务自带 evaluator 的硬约束检查。一段经验由「最近一次回放验证失败 e⁻ → 回放验证成功 e⁺」之间的最短修复序列 δ 定义;按编辑类型把 δ 分成控制编辑 Δ^S(策略/Skill)与执行编辑 Δ^O(算子),后者再按图拓扑聚成最大连通子图并做边界回放校验,两者可配对成 linked Skill–Operator bundle。候选只有在「源任务重放能复现该修复(R_src=1)」且「独立验证集上完整程序严格变好(Q_val 上升)」时才被持久化,全程 Θ_r=Θ_0 不变,且不需要额外的 LLM 判官来排序候选。评测侧按构造谱系切分源流 D_src、独立验证集 D_val、同分布留出 D_ID、同学科跨数据集 OOD D_OOD 与冻结源任务重放集 D_rep,以 discipline 级宏平均 MacroSR 为主指标。 7
多分栏总览图:a 是 23 个学科环绕地球的示意,b 是基准设计与五类评测切分,c 是人工科研流程及其代价,d 是通用科学智能体流程及其局限,e 是 ScienceClaw 的执行驱动程序自进化六步流程。
论文 Figure 2。b 面板是这套基准的五类切分(源任务流、独立验证集、留出同分布集、留出分布外集、重放集);e 面板是自进化的六个环节——顺序科学任务、执行驱动的流程修复、洁净态重执行与任务专属评测器、技能与算子候选挂接、源任务回放加独立验证、演化后的智能体程序。图片来源:论文原文。 7
关键结果:核心表(OOD macro score %,各系统 A0 起点均为 77.72,演化 7 轮后):Frozen 保持 77.72(增益 0.00)、RuleEvo 81.32(+3.60)、Qwen-only 83.22(+5.50)、EvoScientist 86.35(+8.63)、EvoMaster 87.50(+9.78)、ScienceClaw 91.30(+13.59)。候选取舍:ScienceClaw 在 161 个候选中晋升 70、拒绝 91,晋升率 43.48%(EvoMaster 39.13%、EvoScientist 34.78%、Qwen-only 30.43%、RuleEvo 22.98%)。迁移与保持(表 6c):ScienceClaw 前向 4.20 / 后向 3.66 pp,负迁移占比 11.89%,平均/最大遗忘 0.13/0.51 pp,连续目标达成率 96.42%,错误晋升率 1.23%;对比 EvoMaster 3.19/1.53、14.33%、0.33/1.05、94.99%、3.80%,SkillOpt 1.42/0.26、31.39%、0.88/2.45、92.67%、6.52%。跨家族迁移:20 个跨家族配对中 18 个为正,平均 +1.58 pp,而家族内部平均 +14.69 pp;最强的是 Social/behavioural↔Humanities/law(+4.27、+3.61)与 Engineering/computing↔Physical/Earth(+3.54、+3.47),两个负向配对幅度均小于 0.6 pp;五套演化系统在任一轮的回退都不超过 0.34 pp。分学科看(表 1,IID/OOD):Law 的 mAP 从 Frozen 0.7513/0.6918 提到 ScienceClaw 0.8554/0.8289,Mathematics 的 Oracle acc 从 0.8438/0.7344 提到 0.9531/0.8750,Agricultural sci. 的 PQ+ 从 69.4761/64.6829 提到 76.9612/75.7629。消融:去掉 Skill 与 Operator 的「捆绑」只保留 60% 增益,与直接去掉 Operator 演化(保留 59%)相当。 7
证据与局限:规模在这批工作中最强——23 个学科各 1 个任务(共 23 个研究任务),每个学科贡献 64 个 IID 与 64 个 OOD 实例,演化 7 轮,6 个对照系统(Frozen、SkillOpt、test-time tool evolution、Agentic Harness Engineering、EvoMaster、EvoScientist),11 个消融变体,并由每学科 3 名博士评审+1 名自然/社会科学专家审核 evaluator 与其参考执行;同时报 IID 与 OOD 两套任务原生指标。统一编排模型 Qwen3.5-27B,统一的演化模型为 GPT-5.4(ScienceClaw 与全部 baseline 相同),另设 Qwen-only 变体把演化模型换成 Qwen;各系统共享编排模型、初始程序 A0、源任务顺序、工具与预算。机构包括香港中文大学(深圳)、南洋理工大学、Duke-NUS、浙江大学、中国法学会等。算力(GPU 型号/卡时)原文未报告。弱点:所报轨迹是最终快照,作者自陈需重复运行与学科级区间才能支撑更强主张,论文中未见显著性检验或置信区间;主结果 +13.59 pp 与「无参数更新」卖点绑定,但演化所用 GPT-5.4 本身是能力很强的外部模型,演化增益有多少来自「外部强模型的编辑质量」而非「程序级机制」只有 Qwen-only(+5.50 pp)能部分回答,差异达 8 pp;23 个任务对应 23 个学科、每学科只有 1 个任务,discipline 级宏平均掩盖了同学科内的任务方差;表 2 消融以「平均相对下降」汇总,跨指标方向不同,汇总口径需附录才能复核;代码页 https://github.com/beita6969/ScienceClaw 可达(HTTP 200),但数据集未见公开入口。 7
与本节其它条目的关系:与第 1 条 GAMEGO 是本节最直接的路线对照——GAMEGO 走离线一次性 SFT 蒸馏执行轨迹,ScienceClaw 走固定参数下的在线程序自进化,可比较「离线轨迹蒸馏」与「在线程序自更新」两条路线及各自增益幅度(GAMEGO 是 2–17 分的基准分增益,ScienceClaw 是 +13.59 pp 的 OOD 宏平均增益)。与第 3 条 DAEDALUS 同属「经验回写需验证门控」,但 ScienceClaw 用的是「源任务重放复现+独立验证集严格变好」的硬验证,DAEDALUS 用「先失败后连续成功」的软验证,可对比两种准入门槛与错误晋升率(ScienceClaw 1.23% vs EvoMaster 3.80%、SkillOpt 6.52%)。与第 2 条 SAGA 相比,二者的更新载体不同——ScienceClaw 更新 Skill/Operator 程序,SAGA 更新分层知识,可对比「程序级」与「知识级」两种持续进化形态。与第 4 条 MedZERO 同为「自进化+知识/经验准入」路线,可对比「硬重放验证」与「弱信号分数带过滤」。 7
结论建议:建议扫读并优先抄走其评测协议与门控规则:一是「只有源任务重放能复现+独立验证集严格变好,才允许更新持久化」这条准入规则可直接充当自建 agent 经验回写库的准入条件,也是防止错误经验被固化的标准做法,其错误晋升率 1.23% 可作参照基线;二是「失败–成功最短修复序列=一条经验」的切分比「整条轨迹当一条经验」噪声更低;三是 D_src/D_val/D_ID/D_OOD/D_rep 五路切分与 MacroSR 宏平均是一套可直接照搬的持续学习式评测协议(含遗忘与负迁移指标)。引用 +13.59 pp 时须说明演化模型为 GPT-5.4、Qwen-only 仅 +5.50 pp,且无显著性检验。 7

6. EESD 用有效证据量给自蒸馏降权,CodeARC 上一轮修正后 Pass@1 升 5.4 个百分点

How Much Evidence Should a Coding Agent's Self-Correction Carry? Adaptive Dirichlet Evidence for Self-Distillation · arXiv:2610.08514 · 值得扫读
研究问题与核心方法:给定一条编码智能体自生成的修正及其公开执行记录,下一版策略究竟该以多大的学习权重去学它——如何把「哪些前/后转移被证据支持」(方向)与「有多少证据量支持它」(强度)分开表征,并据此给出不确定性惩罚后的监督系数。EESD(Effective-Evidence Self-Distillation)把修正的执行记录拆成两个量:①相对转移支持 r,每条公开执行给一个非负相关度 s_i(由一个冻结的词法核比较代码改动与公开执行描述得到),归一化 p_i=s_i/Σ_j s_j,再按四类转移聚合——Fix(fail→pass)、Regress(pass→fail)、Preserve(pass→pass)、Unresolved(fail→fail)——得 r_k=Σ_i p_i·I[z_i=k];②有效证据量 E(p)=(Σ_i p_i²)⁻¹,取代固定质量 c_k^fixed=n·r_k,构成狄利克雷后验 α_k^post=α+E(p)·r_k(α>0),即 r 分配各类别的伪计数、E(p) 决定总量。取效用向量 v=(1,−1,0,0) 得后验均值 ū=μ_Fix−μ_Regress 与方差 σ_u²=(μ_Fix+μ_Regress−ū²)/(α₀+1),修正权重 w(h)=[ū−λσ_u]₊;该权重只乘在修正交叉熵项上,损失 L=w(h)·L_CE(h)+β·D_KL(h),KL 项把学生锚回进入时的策略 π_t(前向 KL,同前缀上平均),用 LoRA 在冻结的 4-bit NF4 基座上训练。性质:1≤E(p)≤n,均匀相关度时 E(p)p_i=1 退化为普通计数;命题 1 证明在对称先验下改变质量 τ 不改变类别排序与 argmax 集合,且 w_{E(p)} ≤ w_n。 41
关键结果:RQ1 可见历史扫描(n=1→8):EED 的未来结果 NLL 在四个 model–domain 单元全部下降——RunBugRun 上 DeepSeek 0.4696→0.2114(降 55.0%)、Qwen 0.4737→0.2113(降 55.4%),CodeARC 上 DeepSeek 0.7103→0.2892(降 59.3%)、Qwen 0.7785→0.3415(降 56.1%);类别准确率相应提升,RunBugRun +2.5 / +1.9 个百分点,CodeARC +5.5 / +6.1 个百分点。n=8 时 EED 相对 Fixed 的 NLL 增益(绝对差):RunBugRun +0.0046(DeepSeek)/ +0.0075(Qwen),CodeARC +0.0113 / +0.0024。RQ2 匹配质量研究(DeepSeek/RunBugRun,3,000 例):两预测器的类别 argmax 在全部 3,000 例上一致,而有效质量把总体 NLL 再降 0.00609(95% source-bootstrap 区间 [0.00211,0.01075]);按有效质量分箱,E(p)∈[1,2) 568 例、均值 1.511、NLL 增益 +0.0159,[2,3) 815 例、均值 2.521、+0.0077,[3,4] 1617 例、均值 3.681、+0.0018,三箱分别只保留名义计数 4 的 37.8% / 63.0% / 92.0%,即增益最大的地方正是伪计数质量被压缩最多之处。解析示例(图 1,α=0.1、λ=0.5,转移支持 r 固定为 (1,0,0,0)):均匀相关度 E(p)=4 时监督权重 0.832,集中相关度 p=(0.97,0.01,0.01,0.01) 时 E(p)≈1.062、权重 0.542,而匹配的固定质量对照对两者都给 0.832。RQ3 一轮修正学习后的新生成 Pass@1(需通过全部 10 个评测测试):DeepSeek/CodeARC 从 75/500(15.0%)升到 102/500(20.4%),净增 27 例、配对 +5.4 个百分点,95% source-bootstrap 区间 [+2.8,+8.0];另有 DeepSeek/RunBugRun 184/500→198/500(+2.8pp)、Qwen/RunBugRun 228/500→240/500(+2.4pp)、DeepSeek/CodeContests Replay 18/500→24/500(+1.2pp),后三条的配对区间跨 0;全部 12 个设置的变化范围从 −6.8 到 +5.4 个百分点。 41
证据与局限:证据中等——四个 model–domain 单元的历史扫描+3,000 例匹配质量研究(argmax 完全一致)+12 个 model–domain 设置的一轮下游评测,配对区间用 10,000 次 source bootstrap,并有命题级理论刻画(类别序不变、w 单调不增、log-loss 效应依结果而定:r_y<1/4 降损、r_y>1/4 增损)。机构为 University of Cambridge、Western Sydney University、Guangdong University of Technology(第一作者 Yunbo Long;原文 affiliation 成组标注,逐人对应不确定)。设置:RunBugRun(含可执行缺陷程序)、CodeARC(改用附录 B 固定源执行协议而非原基准的交互式差分测试)、APPS Replay 与 CodeContests Replay(受控合成扩展);模型 Qwen2.5-Coder-7B-Instruct、DeepSeek-Coder-6.7B-Instruct、Gemma-3-4B-it,每个 model–domain 单元 500 个主源;LoRA,冻结 4-bit NF4 基座,修正打分器 α=0.1、λ=0.5、前向 KL 系数 β=0.03;硬件 NVIDIA RTX A6000(每卡名义 48GB)。弱点:主结论 +5.4pp 只在 DeepSeek/CodeARC 一个单元区间不跨 0,其余三条区间跨 0,12 格跨度 −6.8 到 +5.4,属强 model–domain 依赖;相关度由冻结词法核给出,未与人工标注或学习式相关度对比;只做一轮更新,无重复 RSI 迭代;区间条件于单次拟合;三个基座都是 4B–7B 小模型,规模外推未验证;与固定质量在 NLL 上的绝对差极小(0.0024–0.0113),其实际重要程度只能靠下游体现;原文未提供代码仓库、数据或项目页(全文 github/huggingface/项目主页链接为 0)。 41
与本节其它条目的关系:与第 7 条 D-OPCD 同属「把智能体经验写进模型参数」,但落点不同——EESD 改的是「每条自生成修正该学多重」的样本级权重,D-OPCD 改的是「harness 经验如何通过特权上下文蒸馏进权重」,可对比「加权式自蒸馏」与「上下文蒸馏内化」两条更新机制。与第 1 条 GAMEGO 都做轨迹蒸馏,GAMEGO 靠格式校验与人工审计筛选,EESD 不筛选而给连续权重,构成「筛选 vs 加权」的直接对照;与第 3 条 DAEDALUS 的「重复成功验证才接受」相比,EESD 用狄利克雷后验证据量做连续降权,可对比「离散准入」与「连续降权」两种自生成数据质量控制。与第 4 条 MedZERO、第 5 条 ScienceClaw 同属自进化中的「防学坏」议题——三者分别在写入端过滤、程序级验证与样本级加权三种位置设防。 41
结论建议:可扫读并抽取其可插拔的加权件:把「方向(相对支持)」与「强度(证据质量)」分离,是自进化流水线里「这条自生成轨迹该学多重」的通用答案,可直接替换常见的二元正确性过滤或置信加权;E(p) 只需一个相关度即可计算(输入是公开执行记录+一个词法核),实现成本极低,适合嵌入任何「执行反馈→参数更新」回路;命题 1 的「改变质量不改变 argmax 集合、且 w_{E(p)} ≤ w_n」给保守加权提供了「只收缩强度、不改变方向」的形式化保证。引用其增益时须说明只有 DeepSeek/CodeARC 一格区间不跨 0、12 格跨度含 −6.8pp,且无公开代码。 41

7. D-OPCD 把 harness 的 21.31 分收益只内化进扩散权重 4.57 分

Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation · arXiv:2610.07250 · 值得扫读
研究问题与核心方法:智能体 harness 带来的文生图(T2I)增益只存在于外部框架、每次请求都要重新检索与套用,能否把这些增益内化进扩散模型权重,使模型仅凭原始 query 就能保留部分收益。D-OPCD(Diffusion On-Policy Context Distillation)对每个已完成任务保留 (原始 query q_i, harness 选定的 prompt p_i):教师在一个 EMA 扩散模型上以 [q_i;p_i] 为条件(p_i 作为「特权上下文」),学生只看 q_i;在学生自己 rollout 的去噪轨迹上逐点让学生匹配教师预测的速度场(stop-gradient),梯度不穿过 rollout。配套的 ASE(Auto Skill Evolver)把任务执行 episode 提炼为 insight、再合并为可复用 skill,得到逐版 harness;把已进化的 skill 蒸馏进权重后清空 skill,让 harness 在新模型上继续进化(harness–模型共进化)。 42
关键结果:主表(4 基准平均):base 直接生成 60.52 → D-OPCD 直接生成 65.09(+4.57);分项 GenEval 78.22→81.28(+3.06)、GenEval2 78.14→82.24(+4.10)、WISE 42.86→50.00(+7.14)、R2I-Bench 42.87→46.83(+3.96)。对照:base+无 skill harness = 79.28(+18.76),base+ASE 进化 skill(ℋ_r*)= 81.83(+21.31),即 harness 全量收益远大于内化收益。内化后接无 skill harness:82.33,符号化内化差距 δ(r*)=+0.50(略超原 skill-equipped agent),R2I-Bench 上 δ=+4.27。第二轮 ASE(清空 skill 后在更新模型上重跑):平均 84.16,较无 skill harness 再 +1.83。训练法对比(Table 2,直接生成平均):D-OPCD 65.09 > Vanilla SFT 63.38(+2.86)> D-OPSD 62.75(+2.23)> Diffusion-DPO 62.18(+1.66),D-OPCD 比 Vanilla SFT 高 1.71 分且四项全领先。教师条件消融(Table 3):匹配 [q_i;p_i] 65.09 > 仅 p_i 64.63 > 打乱 prompt 61.05。 42
证据与局限:证据中等——4 个分布内基准(GenEval、GenEval2、WISE、R2I-Bench)+1 个 OOD(T2I-CompBench++),含 3 条训练法基线与教师条件消融。机构为哈尔滨工业大学、上海人工智能实验室、山东大学、南洋理工大学、上海交通大学(原文页未逐人标注所属单位,第一作者具体挂靠单位不确定)。设置:初始 T2I 生成器 Z-Image-Turbo;agent 基于 GEMS scaffold,五角色(Planner/Decomposer/Generator/Verifier/Refiner),空 skill 库起步;训练用 LoRA adapter、EMA 教师、学生/教师共享参数初始化;数据划分 Q_train/Q_hold/Q_eval 约 50/15/35,R2I-Bench 用 780 任务子集与官方 split。算力(GPU 规模)原文未报告。弱点:仅 1 个生成器、1 次 D-OPCD 更新、1 轮后续进化,未见统计检验或多次随机种子方差报告;原文自陈内化收益有限(60.52→65.09,仍远低于 harness 的 81.83),实验不能说明多轮 update-and-reset 与跨生成器/任务分布的行为,且研究对象不含外部知识检索或参考图工具,工具类经验无法用最终文本 prompt 完全表达;此外内化增益 δ 跨基准波动大(R2I +4.27 但整体仅 +0.50),R2I-Bench 在第二轮 skill 进化后反而下降,说明内化与再进化的稳定性未充分刻画。代码仓库 https://github.com/Yummytanmo/D-OPCD-CoEvolution 可达(HTTP 200)。 42
与本节其它条目的关系:与第 6 条 EESD 同属「把智能体经验写进模型参数」,但一个改「样本级监督权重」、一个改「harness 经验如何经特权上下文蒸馏进权重」,可对比「加权式自蒸馏」与「上下文蒸馏内化」两条更新机制以及各自对「学坏」的防线。与第 2 条 SAGA 的「把经验抽象成可复用资产」相比,D-OPCD 的 ASE 把 episode 提炼成 skill 再内化进权重,可对比「经验保留在外部知识库」与「经验内化进权重」的落点差异——这正是「harness/外部记忆与模型内化的成本收益权衡」。与第 5 条 ScienceClaw 同属「不动基座参数则更新程序、动参数则内化经验」的路线选择,其 δ(r*)=+0.50 的「内化后略超原 skill agent」结论可作 ScienceClaw 式程序进化的对照。与第 1 条 GAMEGO、第 3 条 DAEDALUS 同属「经验→能力固化」的不同载体(权重 / 记忆库 / 程序)。 42
结论建议:建议扫读并记住其成本收益的量化对照——harness 全量收益 +21.31 分与内化收益 +4.57 分之间存在近 5 倍差距,说明「把外部经验内化进权重」目前只是补差而非替代;其 δ(r*)=+0.50 的「内化后略超原 skill-equipped agent」是有用的乐观信号,但 δ 跨基准从 +0.50 波动到 +4.27 且第二轮进化后 R2I-Bench 反降,稳定性尚不足以支撑强主张。引用时须说明仅 1 个生成器、1 次更新、1 轮进化,且无统计检验。 42

8. MemCo 用 Wilson 下界晋升全局记忆,ALFWorld 未见布局准确率从 57.74% 升到 82.84%

MemCo: Memory-Centric Collaboration for Generalizing LLM Agents to Unseen Environments · arXiv:2610.07376 · 值得扫读
研究问题与核心方法:多个 LLM 智能体各自在不同交互环境里积累经验时,如何把别的智能体积累的经验组织成「可复用记忆」并在当前未见环境、当前决策点上正确使用,而不盲目搬运源环境特有信息——现有共享记忆的痛点是检索粒度两难:太具体丢失当前 grounding,太笼统支撑不了下一步动作。MemCo 维护互补的「本地+全局」两套记忆空间,分三步走。①本地记忆构建:把每个 episode 的 (观测,动作,反馈) 三元组建成 episodic 图并按类型+归一化内容做 LocalMerge,从轨迹中归纳 pattern(工作流、前置条件、修复、失败)与 actionable knowledge 记录,附「支持/反驳/无进展」证据账本,逐 episode 归约成至多一个带符号投票(n+、n−)。②渐进式全局记忆协作:把可共享记录 Abstract 成去掉具体实体/场景锚点的抽象形式(如「壶的位置」留本地、「先倒后加热」可共享),同一抽象键的跨智能体证据聚合,用单侧 Wilson 下置信界 W(p̄) 作为有限证据下的晋升分数,只有 W(p̄) ≥ λ(默认 λ=0.35,z 取 α=0.05)才进入全局记忆(Theorem 3.1 给出有限证据修正 ϵ_W ≤ z/(2√s) 随样本量 O(s^{-1/2}) 消失)。③查询引导的记忆支持:按当前状态 r_x、任务阶段 r_p、目标角色 r_g 三个维度打分排序,先按适用性约束过滤(条件与当前状态矛盾或动作无法匹配就剔除),再在预算 kl=kg=5 内做 facet 覆盖+按秩填充,最后按 ground / workflow / reflection 三种支撑角色组织并渲染成下一决策的上下文。 43
关键结果:主表(FEVER/PDDL/ALFWorld,3 个 backbone,两次平均±标准差):MemCo 在 12 个评测设定中取得 10 个最高准确率、9 个最少交互步数。ALFWorld 增益最大:Qwen3-4B 上 held-out 布局准确率比亚军 MemSkill +43.47%(绝对 57.74% → 82.84%)、交互步数 −32.10%(20.28 → 13.77);Qwen3-32B 上 held-out 从 79.69%(ICL)升到 97.46%,熟悉布局 86.69% → 96.62%,MemCo 步数 9.71/11.23;GPT-4o-mini 上 FEVER 准确率比亚军 +12.54%、步数 −58.45%。额外 backbone 的 FEVER(Claude-Haiku-4.5 / Gemini-2.5-flash-lite / DeepSeek-v4-flash):MemCo 分别 69.49 / 72.04 / 77.97,比亚军提升 +10.81% / +32.82% / +6.98%,其中 G-Memory 在 DeepSeek-v4-flash 上未能跑通。ScienceWorld(Qwen3-32B):MemCo 最终成功率 30.47%,高于最好基线 G-Memory 21.67%,score 34.39 vs 30.02;但 G-Memory 的中间 progress 更高(91.33 vs 82.90)、MemRL 步数最少(5.21)。消融(ALFWorld+Qwen3-32B,同一冻结本地记忆快照):Local-only held-out 89.64% → Global-only 97.14% → 全系统 97.86%,熟悉布局 Global-only 96.10% → 全系统 97.40%(Local-only 96.43%);用经验支持率 ρ⁺ 替换 Wilson 下界(λ=0.35)后,全局库从 736 降到 426 条,熟悉/held-out 准确率分别 +2.27 / +1.43 个百分点,步数分别减少 0.82 / 0.54;固定拼接 L5+G5 比全量 MemCo 低 10.71 / 16.07 个百分点。阈值扫描:λ 从 0.25→0.50,全局记忆 735→426→294 条,准确率与步数基本不变,λ=0.35 比 λ=0.25 减少 42.0% 全局记录。交互预算:从 10→30 步提升明显、30→50 步增益微弱,30 步的 MemCo 已超过 50 步的 ICL。 43
证据与局限:证据较强——4 个基准×6 个 backbone 的多设定验证,每个主结果 3 次运行带标准差,用 12 个配对配置均值上的双侧 Wilcoxon 符号秩检验并经 Holm 校正(原文标注为 block-level 假设下),消融覆盖记忆范围、晋升准则与检索组成三组机制。机构为 The University of British Columbia、Vector Institute、NVIDIA(共同第一作者 Xinting Liao、Siyan Liu)。设置:ALFWorld(含 Familiar/valid_seen 与 Held-out/valid_unseen 布局)、PDDL、FEVER、ScienceWorld 四个交互式决策基准;backbone 含 Qwen3-4B、Qwen3-32B、GPT-4o-mini、Claude-Haiku-4.5、Gemini-2.5-flash-lite、DeepSeek-v4-flash;基线为 ICL、A-Mem、MemRL、MemSkill、G-Memory;用 AutoGen 实现,α=0.05、λ=0.35,开源模型推理在单张 NVIDIA RTX PRO 6000 Blackwell GPU 上,检索 kl=kg=5;每个 source 域一个智能体(ALFWorld 与 PDDL 各 4 个、FEVER 2 个、ScienceWorld 10 个)。原文未报告总算力规模/时长。弱点:消融明确声明是「同一快照内的受控比较,而非主实验的独立重复」;个别 backbone(DeepSeek-v4-flash)缺 G-Memory 对照;原文自陈 A-Mem 在部分设定反低于 ICL、ScienceWorld 上中间 progress 与最终 success 分离说明该基准指标口径会影响结论、GPT-4o-mini 暴露对 backbone 的依赖;本地/全局记忆与 Wilson 晋升都依赖「基准特定的 task-role 映射」来抽象实体,跨到没有这种角色映射的开放环境时可迁移性存疑;全局记忆晋升统计量假设 episode 级投票可近似二项采样,附录 D.1 只讨论其假设而未做违反假设的压力测试;λ 扫描只在 Qwen3-32B 与 ALFWorld 这一组合上做。代码 https://github.com/SYannL/nvdamas 可达(HTTP 200)。 43
与本节其它条目的关系:与第 2 条 SAGA 都做「经验的抽象+检索」,SAGA 用「情节→流程→原则」分层父子证据图,MemCo 用「本地 grounding+全局可迁移」双层空间与 Wilson 晋升,可对比两种抽象粒度方案与检索结构。与第 3 条 DAEDALUS 在「记忆注入方式」上直接对照——DAEDALUS 主张整库一次注入优于逐轮检索(60.2% vs 54.3–58.2% MSR),MemCo 则用适用性约束+三维打分精选 kl=kg=5 条并证明固定拼接 L5+G5 低 10.71/16.07 个百分点,二者对「该整段注入还是精选注入」给出相反侧重,值得并读。与第 4 条 MedZERO 的持久 KG 写入准入相比,MemCo 的 Wilson 下置信界门控提供另一种「有限证据下的写入判据」;与第 5 条 ScienceClaw 的跨学科迁移指标(前向/后向、负迁移占比)可对照 MemCo 的「本地→全局→未见环境」迁移设计。与第 7 条 D-OPCD 构成「经验留在外部记忆 vs 内化进权重」的落点对照。 43
结论建议:建议扫读并借走两点:一是「本地 grounding+全局可迁移」双层记忆与「单侧 Wilson 下置信界」晋升规则(W(p̄) ≥ 0.35)可直接搬进任何需要跨环境/跨任务迁移经验的智能体框架,其「λ 从 0.25 提到 0.35 减少 42.0% 全局记录而准确率与步数基本不变」说明该门控能大幅压缩记忆而不损效果;二是「检索的适用性约束过滤」正对应「检索到的记忆与当前语境不兼容」这一失败模式,k=5 的预算与三维(状态/阶段/目标)打分是可复用的检索设计。引用 +43.47% 这类相对增益时须说明它是相对亚军 MemSkill 的相对值(绝对 57.74%→82.84%),并注意消融为快照内受控比较。 43

六、自进化与自蒸馏:拿到什么、失去什么

1. 把全对全错组浪费的轨迹蒸馏为前瞻预见,4B 数学均分 46.22→56.25

Self-Retrospection Distillation: Turning Post-hoc Experiences into Prior Foresight · arXiv:2610.08077 · 精读
研究问题与核心方法:GRPO 式 RLVR 中,一组 rollout 的奖励若完全相同(全对或全错),组内优势恒为 0、整组经验被整块丢弃;论文问能否用事后轨迹反过来监督模型在交互之前的"预见",把这部分被浪费的经验变成可学习信号。方法是在 prospective learning(前瞻式学习)目标下做 Self-Retrospection Distillation(SRD,自我回溯蒸馏):对每条 on-policy 轨迹,同一策略被提示两次——一次只看任务与环境上下文(foresight,无轨迹),一次额外看"已完成轨迹 + 金标解 + 错误标注"这一特权事后上下文(hindsight 自教师,stop-gradient);再用广义 JSD_β 把自教师分布蒸馏进学生自己的前瞻 rollout 并做 token 级对齐。监督视图由奖励决定:成功的 rollout 给 KNOWLEDGE 通道,失败的 rollout 给 PITFALL 通道。前瞻只在训练期作为目标存在,推理时不必显式生成;SRD 以权重 λ=0.01 的辅助损失叠在 RLVR/OPSD/RLSD 之上(Eq.8)。第一作者 Haoxiang Zhang(Salesforce AI Research & UC San Diego),主要单位 Salesforce AI Research,合作者来自 UC San Diego、Texas A&M University、Stanford University。6
关键结果:Table 1–3 的 avg@8 pass rate(单位 %)显示,Qwen3.5-4B 上 GRPO 数学均分 46.22 → GRPO+SRD 56.25(+10.03),代码 36.85 → 45.18(+8.33),搜索 48.29 → 56.34(+8.05),ALFWorld 67.75 → 71.00(+3.25),WebShop 77.21 → 83.13(+5.92);Qwen3.5-9B 上 OPSD 数学均分 39.70 → 56.92(+17.22,其中 AIME26 52.92 → 77.08,+24.16,为全文最大单项增益),RLSD+SRD 把 ALFWorld 66.25 → 77.25(+11.00)。负向项三处:9B OPSD 的 WebShop 88.15 vs 91.76(−3.61 pp)、RLSD 的 OJBench −0.97 pp、9B GRPO 的 2Wiki −0.51 pp。奖励均匀(reward-uniform)组占比跨模型规模为 37–98%,可用预算份额从未超过 63%(图 4);2B 设置下 98% 的组为全失败,纯 RLVR 训练最终成功率 0.0%(峰值 1.6%),同 rollout 预算加 SRD 达 60.6%(训练集成功率)。通道消融(Table 2 左,OPSD 前缀)显示 hindsight 前缀 + pitfall 使 4B AIME26 63.75 → 67.08(+3.3)、9B AIME26 77.50 → 84.17(+6.7),再加 knowledge 无收益甚至反降(4B AMO 15.75 → 11.50);pitfall 通道的 JS 散度在训练中下降 47% 与 30%,knowledge 通道基本持平(约 0.0045 / 0.003)。测试时显式前瞻(Table 3,4B)四个 checkpoint 只有一个涨 5.00 pp(ALFWorld),其余三者在 800 rollouts 中仅动 2、3、11 个 rollout,作者读作"无变化"。6
证据与局限:证据强——2 个模型规模(Qwen3.5-4B/9B-Thinking)× 3 个基础目标 × 10 个基准,多组消融(前缀/通道/测试时前瞻/token 重分配/参数空间位移),指标为 avg@8;但作者自陈部分结论只能作猜想,且正文未做统计显著性检验。原文自陈的局限:参数空间位移分析只测终点 checkpoint 相对基座的位移,混淆了"步长"与"有效步数",未在中间 checkpoint 复测(§E.4);关于 RLSD 下加 KNOWLEDGE 通道掉分的解释"只是猜想";蒸馏自身事后信息会放大基座模型的错误与偏见,基准增益不等于部署安全。读出的局限:只在 Qwen3.5 家族两个规模上验证,跨模型家族未验证;主实验表中"每一行 +SRD 只蒸馏 pitfall 单通道";训练期"98% 全失败组 / 60.6% 成功率"是训练集成功率而非留出基准分数;无统计显著性检验与置信区间。算力(GPU 型号/卡数/总卡时)原文未报告,仅给 rollout 秒/步(4B 197–267 s/step,9B 195–279 s/step);摘要末尾承诺的代码仓库 https://github.com/SalesforceAIResearch/SRD 实测 404,代码不可获取。6
与本节其它条目的关系:与第 2 条 HMED(arXiv:2610.07979)同属"把事后经验变成学习信号",但落点相反——SRD 把经验落到参数(改权重),HMED 把它落到文本 Meta-Skill 并免训练更新;与第 5 条 SPECTRUM(arXiv:2610.07237)构成"用不用筛选"的对照:SRD 以奖励定视图、按成功/失败分流监督,SPECTRUM 刻意不做任何筛选、对重复与失败补全一律等权训练;与第 6 条虚假遗忘(arXiv:2610.08718)相接于"更新权重会侵蚀旧能力",SRD 的 pitfall 通道与参数位移分析正可用于监控这类侵蚀。6
结论建议:做 RLVR 后训练的团队应把"奖励均匀组占比"与"可用预算份额"当常规监控指标,并考虑用 λ=0.01 量级的 SRD 辅助损失回收全失败组;由于代码仓库实测不可访问,复现需自建,且不宜把训练集成功率(60.6%)直接当作泛化证据。6

2. 把整条分支结果换成单次修订的前后配对,ALFWorld 成功率 51.49→54.11

Learning from Revision Consequences: Hindsight Meta-Experience Distillation for Self-Improving Agents · arXiv:2610.07979 · 精读
研究问题与核心方法:智能体不只要学任务技能(Task-Skill),还要学"如何发现和改进技能"的策略(Meta-Skill);论文问用什么形式的经验才能学到可迁移的改进策略,而不被"搜索起点恰好好运"误导。其诊断是:现有方法用"整条搜索分支的结果"当信号,等于把发现状态 x 与 Meta-Skill m 混在一起(一次技能发现写成 y=f(x,m)),好分支未必是好改进者。为此提出 Meta-Experience 经验单元 E_t=(e_t, Δm_t, Δ_process, Δ_discovery),分别记录触发修订的已完成事件、Meta-Skill 的改动、后续搜索过程的变化与最终发现能力的变化;HMED(Hindsight Meta-Experience Distillation,事后元经验蒸馏)三步走:先把候选修订锚定到促成它的那次已完成发现事件(未完成的尝试没有结果,不能作为依据)并 Restore 出当时状态 x_src(另加一个有界补充状态 x_cov),再用"匹配的元续跑"(Matched Meta Continuations)在同一发现状态分别跑 incumbent 与 revised 两个 Meta-Skill,取 Δ(x)=g(S(x,m'))−g(S(x,m))(g 为 best-so-far 效用增量)并在多个状态上平均得 Δ_t,最后把该配对比较蒸馏成 Meta-Experience 记录回灌后续更新。一次比较同时给出是否采纳该修订的选择信号与一条可供后续更新阅读的经验记录,因此被拒绝的修订也会留下学习信号;只有 Δ_t>0 且通过有效性检查(两条续跑都正常完成、候选文本在其自身 arm 每一步都被送达、候选与 incumbent 文本不同)才替换 m。作者依次为 Qianhan Feng、Zhongzhen Huang、Yakun Zhu、Xiaofan Zhang、Qi Dou,列出 The Chinese University of Hong Kong、Shanghai Jiao Tong University、Shanghai Innovation Institue 三家单位(后一拼写照录原文)。44
关键结果:表 1"技能演化后的下游任务表现"(ALFWorld 与 ScienceWorld 为成功率 %,BiomniBench-DA 为 100 分制判官分;每个"模型×基准"组合取 3 次独立运行均值)显示 Qwen3-32B:No Skill 45.15/16.68/14.33、Static Skill 47.76/21.55/16.36、SkillEvolver 49.25/20.59/18.33、MetaSkill-Evolve 51.49/20.84/17.80、HMED 54.11/22.56/20.78;DeepSeek-v4-Flash:No Skill 71.46/23.58/24.70、Static Skill 73.51/26.33/22.84、SkillEvolver 76.87/24.30/25.67、MetaSkill-Evolve 76.49/28.70/36.80、HMED 80.60/32.47/43.19。原文明确给出 Qwen3-32B 相对 MetaSkill-Evolve 的提升:ALFWorld +2.62、ScienceWorld +1.72、BiomniBench-DA +2.98,HMED 在六个"模型×基准"组合中全部取得最高均值。消融(表 2,均为 ALFWorld 成功率、全部保留匹配比较):完整 54.11、去掉后果反馈只留选择(Comparison-only)49.25(低 4.86)、只保留结果级信息(Outcome-only)51.49、去掉事后事件锚定(No hindsight grounding)47.76。表 3"分支结果与匹配 Δ 的符号一致性"(Qwen3-32B)显示 ALFWorld Agree 18 / Disagree 15 / Tie 15,一致率 54.5%(即 45.5% 的可比样本给出相反方向);ScienceWorld Agree 6 / Disagree 18 / Tie 12,一致率 25.0%(不一致率 75.0%)。表 4"冻结 Meta-Skill、重置技能库后在新发现起点复用"(ALFWorld 新测试集成功率):Qwen3-32B 的 HMED 50.41 vs MetaSkill-Evolve 49.25、DeepSeek-v4-Flash 为 76.67 vs 76.12,领先仅 1.16 与 0.55 分。44
证据与局限:设计较扎实——六个"模型×基准"组合全部覆盖、3 次独立运行取均值、四个消融变体,并额外做"分支结果 vs 匹配 Δ"的方向一致性分析与"冻结 Meta-Skill + 重置技能库"的复用实验;弱点是全部为成功率/判官分,未报标准差、置信区间或显著性检验,且表 3/表 4 样本量很小(表 3 ALFWorld 48 例、ScienceWorld 36 例;表 4 只在 ALFWorld 单基准做,领先幅度仅 0.55 分)。原文自陈边界:附录 A 的 trace 只说明记录到达了更新器而非仅被存储,不能确立该记录单独导致后续增益;4.4 节说明该分析刻画的是比较信号本身,其"被使用"的证据来自消融;全文未设独立 Limitations 章节。另有:训练数据、数据规模与算力(GPU/卡时)原文未报告;原文未提供代码/数据/项目页(实测 abs 页与 HTML 页均 HTTP 200,但无 GitHub/HuggingFace/Zenodo 等作者产物链接);Meta-Skill 更新依赖 LLM 生成候选,未报告候选生成模型与成本;第一作者 Qianhan Feng 具体所属单位无法从原文恢复。44
与本节其它条目的关系:与第 1 条 SRD(arXiv:2610.08077)同属"把事后经验变成可复用更新",但落点不同——HMED 更新的是免训练的文本 Meta-Skill,SRD 更新的是模型参数(λ=0.01 辅助损失);与第 3 条 TALA(arXiv:2610.08138)在"经验单元"上直接对照:TALA 把整条案件轨迹蒸馏成记忆条目并做语境改造,HMED 把经验压成单次修订的前后配对并要求同一状态重放;与第 7 条 SIGMA(arXiv:2610.07935)相接于"门控 vs 加权"——HMED 用匹配续跑的方向性门控决定是否采纳修订,SIGMA 用 rubric × spec 的乘性奖励决定自生成样本的去留。44
结论建议:任何"用轨迹结果当训练/更新信号"的流水线都应改用"同一发现状态重放 incumbent 与 revised 的配对比较"来做去混淆,并把"冻结改进策略、重置技能库、换新起点复跑"当作可迁移性的验收协议;同时按本文设计让被拒绝的修订也留档进经验库。44

3. 免训练测试时演化:去掉跨案记忆使 J1-EVAL 平均降 17.5 点

Test-Time Agent Evolution for Long-Horizon Legal Reasoning · arXiv:2610.08138 · 精读
研究问题与核心方法:真实法律部署中案件在事实、证据、程序语境上高度异质,法律推理又在"角色之间"与"程序阶段之间"强耦合,局部角色能力提升不等于端到端可靠;论文问在案件持续到来、无法为每个新案微调的前提下,如何仅用部署期自然可得的信号让智能体持续自适应并保持全局一致性。TALA 是免训练(不更新模型参数)的测试时演化框架,含两个互补组件:①Test-Time Memory Evolution(TME,测试时记忆演化)把每个已完成案件的交互轨迹蒸馏成简洁可复用的记忆条目(有效工具使用策略、动作指引)写入持久记忆库,每轮用 BGE 编码器算查询与记忆的余弦相似度、取相似度 ≥δ=0.5 的 top-k 条目,再用同一个 agent 把检索到的经验"按当前事实与程序语境改造"(Contextual Memory Adaptation)后才注入决策上下文;记忆库有容量上限 C,一旦超限即触发全局两两合并(选语义最相似的一对交给同一 agent 合并,合并失败则淘汰最旧条目)。②Rubric-Aligned Collaboration(RAC,评分标准对齐协作)为每个角色(lawyer/public/judge 等)定义场景专属评分标准,候选动作先过 RubricCheck,只有全部条目满足(v_t=1)才直接采纳,否则把被违反的评分条目作为修订指引交给同一 agent 重写动作,且该验证对轨迹中所有参与角色全程生效。第一作者 Haotian Chen,单位含 Joint SDU–NTU Centre for AI Research(Shandong University)、Nanyang Technological University、Alibaba Group。45
关键结果:两个基准(J1-EVAL 含 6 个交互式法律场景,LegalWorld 为长时程民事诉讼七阶段)、5 个 backbone。J1-EVAL / Qwen3.5-4B(Table 1)上 TALA 的 KQ 47.9、LC 34.2,最强基线 LawThinker 仅 43.3/28.6,ReAct 仅 25.0/18.3;J1-EVAL / Qwen3-32B 上 TALA 把 CI-PFS 从基线最好 26.2 升到 85.0、CR-PFS 从 79.8 到 85.4、CR-CRI 从 72.5 到 98.6(该模型 DD-FOR 上 LawThinker 86.7 高于 TALA 58.7,是少数基线占优的格子)。LegalWorld(Table 3/4,列为 IS/PI/CC/FM/EM/PC/EA/LR)上 Qwen3-32B 的 TALA 为 54.9/95.5/75.2/69.5/77.2/69.4/57.2/60.0,同列 SourceOnly 仅 43.2/71.0/58.3/53.6/49.5/59.3/47.7/52.5。消融(§5.2 + Fig.3)显示 J1-EVAL 上去掉 TME 平均降 17.5 点、去掉 RAC 降 15.3 点,LegalWorld 上分别降 13.0 与 9.4 点,全部"模型×基准"平均降 15.2(w/o TME)与 12.4(w/o RAC),而 SourceOnly 相对完整模型平均退化 21.3 点。效率(§5.3 + Fig.4):LegalWorld 上 TALA 每案中位耗时 4.27 分钟(对照 SO 0.96、ReAct 2.45、Plan-and-Solve 2.61、Plan-and-Execute 4.68、Reflexion 7.13、LawThinker 7.50);LegalWorld + GLM-4-9B 上端到端完成率 100%,对照基线在 26%–72%。45
证据与局限:较强——2 个长时程基准 × 5 个 backbone × 6 个基线(全部同一 backbone、同一套外部工具),含消融、效率分析(耗时/轮数/工具与 token/完成率)与 2 个案例分析,外加独立轻量结构化判官 Jev 对内部自判的审计(Table 5,J1-EVAL KQ 场景 5 个 backbone);但无统计显著性检验、无多随机种子或方差报告,表格"最优"为单次结果,J1-EVAL 有格子低于最强基线。原文自陈(Limitations):当前研究聚焦"自主的测试时演化",而真实法律决策本质是交互式的、常需智能体与人类专家持续协作,未来需扩展到 human-in-the-loop 与递归交互的法律智能体。读出的局限:TME 的容量上限 C、记忆条目蒸馏 prompt 与合并触发细节未给数值;消融只报"下降多少点"、未说明该平均跨哪些指标/场景;自判审计显示 Judge-Verified Local Error 高达 32.6(TME)/39.6(RAC),即约三分之一内部判断被判官认定错误;基准指标缩写(FOR/DOC/PFS/JUD/REA/LAW 等)在本文未给定义;全文无代码/数据/项目页。所有实验在 NVIDIA L20 GPU 上完成,记忆容量 C 具体数值原文未报告。45
与本节其它条目的关系:与第 2 条 HMED(arXiv:2610.07979)在"经验单元与更新载体"上直接对照:HMED 把经验压成单次修订的前后配对、更新文本 Meta-Skill 并要求同状态重放,TALA 把整条案件轨迹蒸馏成记忆条目再做 case-specific 语境改造;两者都在免训练前提下更新、都靠门控(HMED 的匹配续跑、TALA 的 RubricCheck)。与第 1 条 SRD(arXiv:2610.08077)相比,TALA 完全不改权重,可作"经验用在记忆而非参数"的落点对照;与第 6 条虚假遗忘(arXiv:2610.08718)相比,TALA 的免训练路线正是不动权重的另一面。45
结论建议:把"检索→语境改造→蒸馏写入→超限全局合并"当作可复用的轨迹蒸馏与记忆压缩流水线,把"候选动作过 rubric、不过则带违规项重写"当作多角色长程任务的运行时门控模板;同时把 Jev 这类独立判官审计纳入验收,因为它暴露出内部门控仍有约三分之一误判。45

4. 让判官、课程与策略共同演化,驾驶推理分三轮 60.56→71.61

VeriFine: Scaling Verification for Self-Improvement in Embodied Reasoning · arXiv:2610.08761 · 值得扫读
研究问题与核心方法:自我改进的策略会不断暴露新的失败模式,从而改变判官需要验证的内容;固定判官会同时限制优化反馈与有用训练样本的发现,论文问如何让"验证"本身扩展,使判官、训练课程与策略共同演化以持续推动性能前沿。VeriFine 是一个 agent harness 框架,含两个耦合循环。Policy Improvement Loop(策略改进循环):用无参考(reference-free)评分量表判官在锚定评测集 𝒫 上评估策略输出、产出结构化诊断分,harness 聚合成"重复失败模式"并翻译成对候选池 𝒰 的可执行选择准则(既挑出暴露弱点的场景,也剔除判官判断不可靠的监督目标),得到课程 𝒟_t 后更新策略(驾驶用 GRPO 以判官总分作奖励,导航用 SFT、判官只决定训练集成员)。Judge Improvement Loop(判官改进循环):当改进停滞且判官与性能的落差 G_t 变大时触发,按"不确定/不一致/高影响"挑选案例集 ℋ_t(由新一轮策略的输出构成、同时保留高分与低分案例)累积成 𝒥_t,先由人类专家做粗校准、再由 agent 自动迭代修订 rubric,对齐停滞后再把争议案例与结构化诊断交给人确认/修正——即 coactive calibration(人不是无误 oracle,双方反复暴露分歧并收敛到物理推理的共享潜在 rubric)。判官本身是 teacher–student:Claude Opus 5 作 rubric 教师,共同校准后把评估能力蒸馏到 Qwen3-VL 2B 学生模型。第一作者 Zewei Zhou,机构集合为 NVIDIA、UCLA、UC Berkeley、Stanford University,主要单位 NVIDIA。46
关键结果:驾驶推理三轮自改进(Table 1,同一初始化、匹配每策略训练预算;RB=固定参考判官分,RF=无参考判官分,满分 0–100)显示 Base 策略 RB 60.56 / RF 68.05 / minADE₆ 1.049 / ADE 2.139;R1 67.30 / 77.51 / 1.106 / 2.177;R2 70.59 / 79.61 / 1.078 / 2.139;R3 71.61(+18.2%)/ 83.13(+22.2%)/ 1.029 / 2.117。参考型最强配置(VeriFine-Judge-RB 双用)为 67.70/75.20,R3 比它高 5.8%,而 R1 的 67.30 已与 67.70 相当却不依赖昂贵标注。判官引导选择 vs 随机选择:固定奖励判官下各轮 RB 提升 4.5%–14.6%;最终策略取得最低 ADE,且训练中完全没有动作奖励。判官质量(Figure 3a/b,Pearson r 与归一化到 0–1 的 MAE):教师 r 从 0.55 升到 0.85、MAE 从 0.25 降到 0.13,最终学生 r=0.82、MAE=0.17,与参考型 VeriFine-Judge-RB(0.82/0.16)相当、优于 SOTA 对照 LingoJudge(0.65/0.23)且不需要参考推理;固定 Opus 5 骨干时 coactive calibration 仍把相关从 0.67 提到 0.85。失败特异性:R1 学生在第一轮测试子集上 r=0.72,但在后来的困难子集上只有 r=0.07,R2 的精炼把后者提到 r=0.74。测试时扩展(401 个独立场景、每场景 6 个候选、候选池固定)候选预算为 6 时最终判官选出的输出人类评分 78.6。机器人导航(Q4,改用 SFT、Qwen3-VL 2B 策略)最终策略推理分从 68.09 提升 14% 到 77.59,最终判官–人类相关接近 0.85。46
证据与局限:中偏强——两个真实具身任务(驾驶推理 + 机器人导航)、三种优化方法(RFT/GRPO、SFT)、三轮迭代 + 匹配训练预算的受控对照(随机 vs 判官引导、多种参考/无参考判官基线),判官侧给出校准曲线与 95% bootstrap CI;但所有数据均为 NVIDIA 内部数据集(不可复现)、没有多种子方差报告、主体结论来自单一数据集上的三段式轮次,人工标注规模与专家人数原文未给。实验规模:驾驶任务用内部大规模数据集,200 万段人类驾驶 clip、覆盖 25 个国家,锚定评测集 𝒫 2,134 样本、独立测试集 𝒫^test 2,772 样本,策略 Alpamayo 1.5 8B、GRPO、2700 步、20 个 NVIDIA H100 节点;导航用 VLNVerse 场景数据 + Qwen3-VL 2B、SFT、8×H100;学生判官用 35K 教师标注样本、8×H100;参考型判官用约 500K 参考–候选推理对、16×H100;触发规则为每 150 步在 𝒫 上做一次边界检测、窗口 K=4、阈值 0.5。原文自陈(Appendix A.5):策略评测集仍是固定的;框架仍依赖有推理标注的数据;coactive calibration 可进一步显式蒸馏人工修正以减少人工介入。读出的局限:内部资源不可复现或审计;"三轮"迭代次数少且每轮从同一基座同预算重训,属监督状态对比而非连续训练;无参考判官的优越在测试时扩展里只与参考型"相当"而非更好;无多种子/置信区间覆盖策略侧指标。项目页 [https://veri-[fine.github.io/](https://veri-fine.github.io/)](https://fine.github.io/](https://veri-fine.github.io/)) 实测 HTTP 200,但原文未提供代码仓库或数据集下载地址。46
与本节其它条目的关系:与第 5 条 SPECTRUM(arXiv:2610.07237)构成"验证/筛选 vs 生成侧正则"的对照——VeriFine 用判官过滤并挑样本、还让判官一起演化,SPECTRUM 明确不设 verifier/judge、只改生成分布;与第 7 条 SIGMA(arXiv:2610.07935)都涉及判官可靠性,VeriFine 报教师 r 0.55→0.85、学生 0.82 并做人与模型校准,SIGMA 的 judge 是 π 本身、未做外部一致性校验;与第 1 条 SRD(arXiv:2610.08077)在"失败样本怎么用"上相反:VeriFine 剔除判官判断不可靠的监督目标,SRD 专门把失败轨迹的 PITFALL 视图拿来监督。46
结论建议:可把"自生成课程 + 失败模式驱动的数据筛选"搬作 RL/SFT 自改进的数据选择模块,并复刻其停滞触发规则(每 150 步在 𝒫 上边界检测、窗口 K=4、阈值 0.5);引用其绝对分数时须注明数据为内部资源、无多种子方差,且"无参考判官更优"主要在成本而非绝对精度。46

5. 循环自蒸馏正确率上升而实现多样性收缩,Vanilla 保留率仅 76.9%

SPECTRUM: Proximal Spectral Modulation for Looped Self-Distillation · arXiv:2610.07237 · 精读
研究问题与核心方法:当模型反复从自己未经筛选的原始输出学习(固定信息预算、无外部评估/测试筛选)时,它除正确率之外到底保留了什么;正确率提升是否以"正确实现的多样性收缩"为代价,能否在生成侧介入改善保留。论文把设定形式化为 Looped Self-Distillation(循环自蒸馏):每轮 θ_t 经生成构造器 G(θ_t;A) 得到临时生成分布,从固定合成 prompt 集 Q 各采 S 条原始补全构成语料 D_t(保留重复记录),再用交叉熵对每一条补全做 LoRA 微调得 θ_{t+1},成为下一轮的生成器;无 verifier/judge 参与样本筛选或加权,参考锚点 A 在循环前固定且不扩增。SPECTRUM 的介入在生成侧:用固定锚点 {x_i,y_i*} 上当前学生的平均负对数似然梯度,逐轮重新估计每个选定 K/V 模块的梯度二阶矩 C_{t,ℓ} 并归一化为 C̄_{t,ℓ},以二次近端惩罚求解得满秩算子 T_τ=[I+τ(I−C̄)]⁻¹=U·diag(1/(1+τ(1−μ_j)))·Uᵀ,即高敏感方向保持单位增益、其余方向在有限 τ 下仍保留正增益(不做硬投影、无预设秩)。该算子可折叠进原生线性层权重(W'=T_τᵀW、b'=T_τᵀb),在 rotary/键归一化之前的 K/V 输出上生效、无需生成期 hook;生成语料后恢复原生权重,再用一个 LoRA 学全部补全,最终推理既不用算子也不用锚点。第一作者 Yunbo Long(University of Cambridge),合著来自 Fudan University 与 University of Cambridge。9
关键结果:主结果(MBPP,500 任务,独立 64 采样池,5 轮后)正确 AST 丰富度 C64 为初始模型 12.802 / Vanilla SD 8.506 / Spectrum 11.510,相对保留率 100.0% / 66.4% / 89.9%,配对差 3.004 类 [2.568,3.494],即比 Vanilla SD 多 35.3%。同池对照(64 采样池):pass@64 初始 72.00 / Vanilla 70.40 / Spectrum 72.60(Spectrum 解出 363 题 vs Vanilla 352 题,+2.2 个百分点 [0.4,4.2]);pass@1 初始 37.94 / Vanilla 41.45 / Spectrum 40.33(比初始高 2.39 点、比 Vanilla 低 1.12 点 [-1.61,-0.63]);pass@8 与 pass@16 分别 61.10/61.86/61.89、65.69/65.64/66.23。16 采样池(C16)的纵向曲线是另一口径、与上面的 64 采样池不可混用:Vanilla SD 的 pass@1 从 37.92% 升到 41.30%,同时 C16 从 4.016 掉到 3.090,Spectrum 保留初始 C16 的 89.8%、Vanilla 为 76.9%。RQ3 生成设计对照(同一锚点、同一校准、同一模块位置与学习计划)显示连续调制保留初始 C64 的 89.9% vs 子空间投影对照 65.5%,多 3.122 类、pass@64 高 2.4 点、pass@1 低 1.43 点。RQ4 跨基准迁移(冻结 MBPP 学生,16 采样):HumanEval+ 上 ΔD4=+0.080 [0.021,0.142](111 个共同任务)、Δpass@1 −1.52pp、Δpass@16 0.00;APPS Intro 上 ΔD4=+0.104 [0.007,0.205](42 个共同任务)、Δpass@1 −1.22pp、Δpass@16 −1.50pp。9
示意图:左侧同一个代码前缀下有三种不同续写形式(生成器表达式、列表推导、函数式过滤),右上是常规自蒸馏五轮里续写分布逐轮收敛到单一形式,右下是加谱调制后五轮仍保持分布形状。
论文 Figure 1。同一个代码前缀允许三种写法且结果相同,右侧两栏把差别画成分布:常规自蒸馏到第 5 轮已经把相对续写概率压到一种形式上,加谱调制的版本五轮后分布形状基本未动。图片来源:论文原文。 9
证据与局限:中等偏强——5 轮纵向轨迹 + 16/64 两种采样池 + 三个基准(MBPP 训练、HumanEval+ 与 APPS Intro 冻结迁移)+ 一个单轮补充实验,对照含 Vanilla SD、SSD(temperature 1.5、top-p 0.8、top-k 20 塑形)与子空间投影消融,关键差值均报配对 95% bootstrap 区间(2,000 次任务级重采样);弱点是每个设计只跑了"一条训练轨迹"(原文自述 one training run)、没有多种子方差估计,基座只有 Qwen2.5-Coder-1.5B-Instruct 一个 1.5B 小模型,且部分对照非等计算量(SSD 的 SFT token 7.326M vs Spectrum 6.856M vs 投影 6.240M),作者明确声明这不是等计算量比较。原文自陈(§6 三条):AST 丰富度刻画的是实现结构而非语义算法身份;有限测试与采样预算可能漏掉非法行为和稀有实现;多样性需要任务特定解释。读出的局限:每条设计一条轨迹,bootstrap 只覆盖任务维抽样而不覆盖训练随机性;89.9% 保留来自单一 64 采样池单次评测,与 16 采样池口径的 89.8%/76.9% 不同,引用时须指明池大小;跨基准迁移的 pass@1 全部为负;控制流维度增益区间跨 0。算力(GPU 型号/卡时)原文未报告;原文未提供代码/数据/项目页。9
与本节其它条目的关系:与第 7 条 SIGMA(arXiv:2610.07935)构成"筛选 vs 正则"的对照——SIGMA 引入外部规范 + 自生成 rubric 做拒绝采样筛选,SPECTRUM 刻意不做任何筛选(保留重复、空、失败补全)只改生成分布;两者规模也相反(SIGMA 用 Qwen3.6-27B 单轮,SPECTRUM 用 Qwen2.5-Coder-1.5B 做五轮循环)。与第 6 条虚假遗忘(arXiv:2610.08718)相接于"更新权重会侵蚀旧能力":SPECTRUM 用 C_k/D_b 量化"正确实现多样性"的收缩,虚假遗忘量化"旧事实"的可逆/不可逆丧失,都属"微调拿到了什么、又失去什么"。与第 1 条 SRD(arXiv:2610.08077)同为自蒸馏,但 SRD 用奖励决定监督视图,SPECTRUM 连筛选都不做、只给全部样本等权训练。9
结论建议:自蒸馏流水线应把 C_k(correct AST richness@k)与 D_b(匹配正确数的丰富度)列为常规监控指标,并同时报告 pass@1 与多样性——因为 Spectrum 的 pass@1 比 Vanilla 低 1.12 点、跨基准迁移 pass@1 全为负,若只看单次成功率会得出相反结论;引用其"89.9% 保留"时必须注明出自 64 采样池。9

6. 微调中的"遗忘"多数可逆:减掉共同平移把 OLMo 2 1B 召回从 0.28 恢复到 0.77

When Forgetting is not Catastrophic: On the Mechanics of Spurious Forgetting · arXiv:2610.08718 · 值得扫读
研究问题与核心方法:微调时模型"忘掉"的事实知识,有多少是真被擦除、有多少只是暂时取不到(虚假遗忘,spurious forgetting);能否在只看新数据的微调下就把旧知识找回来。论文以合成传记(synthetic biographies,模板化填充,如 "The hometown of [name] is [city]")为受控事实回忆场景:先用极简联想记忆模型(键 k_i=√α·μ+√(1−α)·e_i,两层网络 + RMS 归一化 + softmax 读出)复现"崩塌—恢复—侵蚀"三阶段,并证明三个必要成分——键共享结构、新值集中在词表一区、存在归一化层;机制是微调把旧表征沿一个共同方向平移(common shift),把旧事实"藏起来"而不擦除,归一化在新事实学好后撤回该平移导致恢复,而每事实特有的位移持续累积造成不可逆侵蚀。随后在受控 Transformer 与预训练 OLMo 2 1B 上用测量与干预验证:把共同平移(或每次权重更新的最高奇异方向)减掉即可恢复旧事实。第一作者/通讯 Vedant Palit,机构含 MPI for Intelligent Systems(Tübingen)、多伦多大学 Jinesis Lab & Vector Institute、EuroSafeAI、Hector Foundation、斯坦福大学、ELLIS Institute Tübingen。47
关键结果:在同一预训练集上微调新事实(无 replay),当新答案只与旧集之一重叠时旧集 A 召回先崩塌→部分恢复→缓慢侵蚀,当新答案覆盖两个旧集时只剩缓慢遗忘(Fig.1);恢复只能来自在崩塌中存活的知识。极简模型里减掉共同平移把旧事实召回从 0.17 恢复到 1.00,只保留共同部分则产生大部分崩塌;减弱键共享(α↓)削弱崩塌并移除恢复,新值取自全域只剩渐进遗忘,去掉归一化(或换 ReLU)则崩塌后不再恢复。受控 Transformer 干预(Fig.27,两个变体:仅注意力版与含 MLP 版,指标为旧事实准确率):在崩塌谷底(step 80)移除每次权重更新的最高奇异方向,仅注意力的 Transformer 0.12→0.57,带 MLP 的从 0.54→1.00,随机秩一对照不动;移除方向约占典型更新平方范数的 8%(仅注意力)/14%(含 MLP)。预训练 OLMo 2 1B(Table 3,换模型后的独立干预,指标为旧事实召回,与上面的受控 Transformer 不是同一实验):微调前旧事实召回 0.87,合成个体在谷底(step 80)旧事实 trained 0.28 → 移除 top 方向 0.77(随机对照 0.28)、step 400 为 0.38→0.70,真实实体在 step 80 为 0.73→0.88、step 400 为 0.55→0.79。"编辑不等于回退训练":在相同新事实准确率(21%/34%/66%)下,编辑后模型旧事实召回 88%/88%/79%,而训练模型在对应点仅 81%/73%/72%。权重定位(Table 2):注意力 value+output 权重承载共同平移的 84%、query+key 仅 11%,恢复后(step 200)value+output 仍 85%。经验回放对照:每批 32 个新事实中回放 16/128 个旧事实,把旧事实谷底从 0.17 抬到 0.50、终值从 0.54 抬到 0.62,说明侵蚀是每事实特有的、回放他人旧事实几乎无效。47
证据与局限:证据强——三层证据链(极简模型解析推导 + 受控 Transformer 干预 + 预训练 OLMo 2 1B 干预),每个必要成分都有单因子消融,并用随机秩一对照与"等新事实准确率"对照排除"只是回退训练";主要弱点是单模型、机制解释在真实数据上外推。实验规模:合成传记数据把每个属性的可能答案随机分成两半,A/B/C/B′ 各含独立个体;OLMo 2 1B 用 1,106 条 CounterFact 事实微调前回答正确,评测取答案不出现在 prompt 中的 422 条(关系含 manufacturers/headquarters/citizenship);微调只用新事实、无 replay;统计多为 3 或 10 个种子,标准差常 <0.3 个百分点。原文自陈(§6):极简模型刻意极端,归一化驱动的恢复在真实数据上可能更弱;把恢复差异归因于"新事实主体是否泄露其答案",但两类新事实还以其它方式不同;只研究了一个模型。读出的局限:核心干预是"事后编辑权重"而非可用的训练目标;真实实体上的恢复幅度小于合成个体,侵蚀项无法通过移除共同平移消除。算力/硬件原文未报告;代码 https://github.com/vedantpalit/spurious-forgetting-mechanics 实测 HTTP 200。47
与本节其它条目的关系:与第 5 条 SPECTRUM(arXiv:2610.07237)同属"自蒸馏/微调拿到什么、失去什么",但量纲不同——虚假遗忘量化"旧事实召回"的可逆丧失,SPECTRUM 量化"正确实现多样性"的收缩;两者共同说明单点正确率不足以判断知识是否真被擦除。与第 1 条 SRD(arXiv:2610.08077)相接于参数更新对旧能力的影响:SRD 的 pitfall 通道与参数空间位移分析,可借本文"共同平移 vs 每事实侵蚀"的分解来读。与第 3 条 TALA(arXiv:2610.08138)的对照在"是否改权重":TALA 免训练、把经验放记忆,本文证明改权重会把旧知识暂时藏起来。47
结论建议:评测"遗忘"时不要只看单点准确率,应按"共同平移(可逆)+ 每事实侵蚀(不可逆)"两分量分别度量;自进化/自蒸馏流水线若要在新数据上持续训练,应把"移除共同平移后旧能力是否回来"当作监控维度,并注意回放他人旧事实对侵蚀几乎无效。47

7. 只给一份模型规范自评判:AgentHarm 有害分 22.6→14.8,无害分不掉

SIGMA: Self-Improving Alignment Generalization from a Model Spec · arXiv:2610.07935 · 值得扫读
研究问题与核心方法:在既没有更强模型监督、也没有人工标注数据的条件下,模型能否仅凭一份 Model Spec 加高层任务领域提示,自己构造对齐训练任务与监督信号,并把安全对齐泛化到训练分布之外(尤其多轮 agentic 环境)。SIGMA 是两阶段自改进流水线,全程只用同一个候选模型 π。①规范引导的任务合成:π 充当 task designer agent,从领域×威胁模型生成 seed scenario(935 个),再为每条 seed 生成训练 prompt 与评分 rubric,产出"成对任务"——一对 prompt 只差一个决策关键事实(如是否获得授权),因此需仔细解读上下文才能判对;提交由 submitTask 工具触发三个语义 verifier(自洽性 / 规范一致性 / 难度:至少一个采样回答必须挂掉某条 rubric),不过则带细粒度反馈精修重提。②自评判对齐训练:π 同时当 rubric 评判者与 Model Spec 逐节评判者,奖励取二者乘积 R = R_rubric × R_spec;SFT 用 best-of-16 拒绝采样(只在完全满足规范的候选里挑 rubric 分最高者,把 CoT+回答去掉规范上下文后训练学生),RL 用 GRPO 且只对最终回答打分、不给 CoT 施加优化压力。训练时丢弃任务设计器写出的成功/失败回答(仅用于质量验证)。第一作者 Jingyu Zhang,通讯 Joseph Yitan Cheng(jycheng@apple.com),机构为 Apple 与 Johns Hopkins University。48
关键结果:AgentHarm 有害分从 base 22.6 降到 14.8(SIGMA-SFT)/14.9(SIGMA-RL),benign 分保持 base 水平(76.7/76.9 vs base 76.6),调和均值 HM 从 77.0 升到 80.7/80.8;Agentic Misalignment 平均不道德行为率从 79.1 降到 3.8(SFT)/9.0(RL),分项 blackmailing 92.3→9.0/26.7、leaking 73.3→0.0/0.0、murder 71.7→2.3/0.3;InstrumentalEval 收敛率从 56.6 降到 19.7(SFT)/28.9(RL);SycophancyEval 抗压后的正确答案比例从 84.2 升到 86.3/85.9。对比基线 STAR-1 在 Agentic Misalignment 上只到 27.2(SIGMA-SFT 为 3.8),且对 InstrumentalEval / SycophancyEval 几乎无影响并拖低 AgentHarm benign;SIGMA 优于 Deliberative Alignment 与 Constitutional AI 基线。奖励消融:只用 spec 奖励时 AgentHarm harm 反而升到 26.7(高于 base 22.6)、IE 43.4,只用 rubric 奖励时 harm 降到 16.1 但对 Agentic Misalignment 无效,乘性组合优于两者;流水线消融去掉自验证+精修后 Agentic Misalignment 从 9.0 恶化到 20.3(其余四个基准也全部退化)。数据规模:每 seed 1 个 rollout 时 Agentic Misalignment 79.1→9.8、2 个→1.1、4 个→3.3、8 个→3.8;935 seed × 8 rollout = 7137 个任务对 / 14274 条 prompt。通用能力/过度拒绝:XSTest OR 1.2→0.8(SFT)/1.6(RL)、IFEval PS 91.5→92.1/88.4、IFEval IS 94.1→94.6/92.2、GPQA-Diamond 85.2→82.0/84.2、MMLU-Pro 86.8→84.7/87.0。48
证据与局限:较强——4 个安全/对齐基准 + 4 个过度拒绝/通用能力基准,SFT 与 RL 双路线,另含 spec 变体(values/rules/titles/safety-only/helpful-only)、thinking 开关、自验证流水线、数据规模四组消融,结果图报 bootstrap 95% 置信区间;但仅单一基座(Qwen3.6-27B)、单轮训练,未见多种子重复的显著性检验描述。原文自陈:只做了单轮自改进、未把自训练闭环;会放大模型对 Model Spec 自身的解释,规范若本身有缺陷会被强化;SFT 蒸馏自生成推理轨迹可能影响 CoT 可监控性;模型可能存在评估意识;方法依赖"模型能把通用推理/agentic 能力迁移来做对齐监督"的假设。读出的局限:只有 Qwen3.6-27B 一个基座、一个规模;所有 verifier/judge 都是同一个 π,存在自我偏好风险,原文未做与外部判官的一致性校验;全部训练与评测均为英文设定;"out-of-distribution"仅在基准层面成立。算力(GPU 型号/卡数/卡时)原文未报告;原文未提供代码/数据/项目页(唯一 GitHub 链接是第三方评测框架 Inspect AI),Model Spec 及变体在附录 L/M 全文公开但无独立 URL。48
与本节其它条目的关系:与第 5 条 SPECTRUM(arXiv:2610.07237)构成"筛选 vs 正则"的对照——SIGMA 用 rubric + Model Spec 自评判做拒绝采样筛选,SPECTRUM 不做任何筛选只改生成分布;两者规模相反(SIGMA 用 Qwen3.6-27B 单轮,SPECTRUM 用 Qwen2.5-Coder-1.5B 五轮)。与第 4 条 VeriFine(arXiv:2610.08761)都涉及判官可靠性:VeriFine 报教师 r 0.55→0.85、学生 0.82 并做人/模型校准,SIGMA 的 judge 就是 π 本身、未做外部一致性校验。与第 2 条 HMED(arXiv:2610.07979)相接于"门控":SIGMA 的 R_spec×R_rubric 乘性奖励与三语义 verifier,对应 HMED 的匹配续跑有效性检查。48
结论建议:可移植"成对反事实任务 + rubric + 三个语义 verifier + designer agent 自精修"这一套到难以验证的目标(长程任务过程规范、工具使用政策、运行时门控规则),并把 R_spec×R_rubric 的乘性奖励当通用奖励工程模板;务必注意只用 spec 奖励会使有害性反而上升(26.7 > 22.6),且自验证门控值约 11 个点的 Agentic Misalignment(9.0 vs 20.3)。48

七、TTS 合成与可控性

1. 假名域 ASR 奖励让日语 TTS 的汉字 Kana-CER 从 9.65% 降到 7.17%,收敛从 18k 步提前到 4k 步

Pronunciation-Oriented Reinforcement Learning for Japanese Text-to-Speech with Kana-Domain ASR Rewards · arXiv:2610.07575 · 精读
研究问题与核心方法:TTS 的强化学习后训练普遍用 ASR 转写与原文本的字符错误率(CER,character error rate)作可懂度奖励,但日语存在「字音分离」:同一汉字按语境有多种读音,异读同音又有不同书写形式,书写层(orthographic)CER 因此既是发音准确度的间接代理,又会漏判发音错误、误罚与发音无关的书写差异。论文把奖励计算搬到假名域。策略取 Sarashina2.2-TTS 的语言模型 π_θ,只更新 π_θ,声学解码器与声码器冻结。常规奖励为 e_orth = CER(x, A_orth(g)),A_orth 是 orthographic 日语 ASR;本文奖励为 e_kana = CER(k(x), A_kana(g)),k(x) 是参考假名读音,A_kana 是微调为输出片假名的 Whisper 系 ASR(Kana-Whisper)。两种误差经 r_d = 1 − tanh(α·e_d)(α=3)映射为有界奖励,再在完全相同的 GRPO(group relative policy optimization,组相对策略优化)配置下优化:组内标准化得优势、策略损失加 β·D̂_KL 正则,两组唯一差别即 ASR 派生的奖励信号。作者为 SB Intuitions Corp.(东京)的 Shiao Zhu 等。 49
关键结果:数字取自 Table 1、Table 2、Fig.1–2 与 §4。Table 1(5 个生成种子均值±标准差,Kana-Whisper 评测器)显示,主指标汉字 Kana-CER 从 orthographic CER 奖励下的 9.65%±0.12 降到 Kana-CER 奖励下的 7.17%±0.07,相对下降 25.7%;句子级 Kana-CER 2.44%→2.19%,orthographic CER 基本持平(4.10% vs 4.15%)。换用一个未参与训练、独立的 wav2vec2 平假名 ASR 评测器,同一趋势复现(汉字 14.78%→11.52%、cap@1 9.71%→7.94%、句子级 7.01%→6.54%)。与训练阶段对比(Kana-Whisper,汉字):pre-RL 10.77±0.57、SFT 7.61±0.13、RL w/ CER 9.65±0.12、RL w/ Kana-CER 7.17±0.07,即以约一半合成发音数据训练的 Kana-CER 模型在表 1 每个指标上都优于 Stage 2 SFT。§4.2 报告的收敛速度:在同一验证准则下,Kana-CER 奖励在 step 4k 达最佳验证性能,orthographic 奖励要到 step 18k。§4.3 与 Fig.2 报告长度退化:无 KL 正则(β=0)时 Kana-CER 引发剧烈输出延长,平均 completion 长度在前几千步内翻倍以上,β=0.04 下该延长被大幅抑制。Table 2(5 种子均值±标准差)显示三系统在时长、音色与客观质量上接近,RL w/ Kana-CER 的 Dur./base=0.985±0.07、Paired=1.000±0.08、SIM-o 74.24±0.09、UTMOS-s 3.252±0.008、P.808 OVRL 3.833±0.006、DNSMOS OVRL 3.252±0.004。 49
折线图:横轴为 RL 步数 0 到 20000,纵轴为平均生成长度;不带 KL 正则的假名域奖励曲线在前几千步从约 100 升到 200 以上并持续高位震荡,另外三条曲线稳定在 100 附近。
论文 Figure 2。把奖励从书写域搬到假名域后,若不加 KL 正则(虚线),平均生成长度在前几千步内从约 100 翻到 200 以上并一路抬高;加正则后的两条曲线稳定在 100 附近。这是「该奖励必须配正则」的直接证据。图片来源:论文原文。 49
证据与局限:RL 数据为 129,965 条 utterance,覆盖 4,362 个汉字-读音对、2,129 个不同汉字,每对最多 30 句;在 8 张 GPU 上以 G=16、lr 3e-6、α=3、β=0.04、最大 completion 750 token 训练,主结果取 5 个生成种子的平均。两奖励条件的 GRPO 配置完全匹配,并用一个未参与训练的独立 ASR 评测器复现结论,另附时长与客观质量指标的回归检查。局限:基座为单一 0.5B 模型(作者在结论中自陈);评测只有 Joyo Kanji Yomi Benchmark 一个基准,主指标 Kana-CER (kanji) 只看该基准标注的目标读音跨度;无人工主观 MOS,无统计显著性检验,「orthographic CER 持平」由 4.10%±0.16 vs 4.15%±0.04 支持,未做检验;无 KL 正则时该奖励出现严重长度泛化失败,说明奖励本身存在可被利用的漏洞,主结果依赖 β=0.04 这一正则;客观质量用 UTMOS/DNSMOS 等预测器,未做人类主观评测;论文未提供自身代码/模型发布,算力细节(GPU 型号、总时长)原文未报告。 49
与本节其它条目的关系:本条与第 2 条(Loud and Clear,arXiv:2610.07647)同属 TTS 生成质量的可控改造,但改造位置不同——本条改 RL 的奖励信号表征(书写域→发音域),第 2 条改推理时施加的激活方向。两条都以 WER/CER 类 ASR 指标作为目标或评测代理,也都暴露「代理指标与真实目标可能背离」:本条在汉字层面增益明显而书写层 CER 几乎不变,第 2 条在干净条件下德语、日语、西班牙语的 WER 反而变差。与第 3、4、5 条(音频语言模型的连接器与推理改造)相比,本条作用于 TTS 的解码策略而非音频-语言接口;与第 6 条(WorldSonus)的连接点是生成侧质量与评测协议设计。 49
结论建议:做 TTS 强化学习奖励设计或字音不对应语言(汉语拼音/声调、多音字)评测的读者可精读,重点引用两点——奖励表征的选择会同时改变收敛速度(4k vs 18k)并可能诱发长度不稳定性;评测协议可用「主指标只看标注的目标读音跨度 + 独立第三方 ASR 交叉验证 + 20/80 划分与验证均值选 checkpoint」。引用其 25.7% 的下降时须一并注明单一 0.5B 基座、单一基准与无显著性检验。 49

2. 无需重训的激活引导让 1 dB SNR 下 WER 降 7–22%,但干净条件下德/西/日 WER 反而变差

Loud and Clear: Dynamic Activation Steering for Improving Speech Intelligibility in Noisy Environments · arXiv:2610.07647 · 值得扫读
研究问题与核心方法:人在噪声中会自然调整发声(Lombard 效应)。论文研究预训练 TTS 模型能否在不重训练的前提下,通过激活引导产生更可懂的语音,同时控制「提高发声努力」与「过度发音」两个属性,并避免固定干预在自回归生成中逐 token 累积失真。方法以 Qwen3-TTS 为基座,在其 LLM 自回归骨干第 19–20 层的残差输出上做推理时干预。引导向量用 Qwen3-TTS 的声音克隆合成配对语音(同一说话人、同一语言内容、不同说话风格),对每层只取生成 token 的隐状态、按句内平均得句级表示,再对 N_k 对样本取「目标风格 − 参考风格」的平均差得 v_l^k;发声努力方向来自 EARS 的 loud 对 regular(107 说话人),过度发音方向来自 Expresso 的 enunciated 对 default(4 说话人)。联合方向为 v_l^joint = λ_E·v_l^E + λ_A·v_l^A,系数可连续调节,置零即单属性引导。核心创新 Prompt-Relative Activation Steering 先算参考音频段隐状态在归一化联合方向上的平均投影作 prompt 专属基线 p_l^baseline,目标投影 p_l* = p_l^baseline + ||v_l^joint||₂,生成时逐 token 算当前投影 p_{l,t},只施加有符号残差 ĥ = h + (p_l* − p_{l,t})·v/||v||₂,从而在引导强度在线降低时把表示拉回基线。作者为 KIT 与 CMU 的 Seymanur Akti、Alexander Waibel。 50
关键结果:数字取自 Table 1、Table 2、Table 3、Table 4 与 Figure 1,指标口径在句后交代。Table 1(Expresso,λ_E=λ_A 从 0.5 到 2.0)显示随引导增强的系统性 Lombard 化:WER(词错误率)从 baseline 1.89 降到 Low(0.5) 1.77、Mid(1.0) 1.41、High(2.0) 1.22;谱倾斜 ST(1–5 kHz 与 <1 kHz 的谱能比,越不负面即高频能量越多)从 −18.87 升到 −16.61、−15.89、−15.03;VSA(F1–F2 空间 /a/ /i/ /u/ 元音面积)从 4.18 升到 5.35、5.77、5.84;音素速率 PR(每秒音素数)从 15.14 降到 14.13、13.25、12.30;说话人相似度 SSIM(合成与参考语音的 WavLM 说话人嵌入余弦相似度)0.90→0.90→0.90→0.89。单属性对照:仅发声努力 WER 1.81 / ST −14.76 / PR 15.06,仅发音 WER 1.71 / ST −18.83 / PR 12.36。与已训练的 SLE 对比:SLE baseline WER 4.86、Half scaling 0.70、Full scaling 1.09,本文 Qwen3-TTS baseline 1.89 比 SLE 常规语音低 2.97。Table 2(干净条件)显示跨未见说话人 VCTK 的 WER 从 0.51 降到 0.29,而德语从 0.77 升到 1.26、日语从 4.68 升到 5.64、西班牙语从 1.76 升到 1.80;德语 VSA 从 9.05 掉到 4.00。Figure 1 的在餐厅 babble 噪声、SNR 1/5/10 dB 下 WER 一致下降,摘要给出的量化是「1 dB SNR 下降 WER 7–22%」(该数值只在摘要出现)。人工评测为 15 对样本、5 dB SNR、−3 到 +3 偏好量表、7 位参与者,CMOS(比较平均意见分)= +0.958±0.48。Table 3 的效率:平均 TTFA(首个音频 chunk 的时间)无引导 0.469 s、动态 0.474 s、恒定 0.475 s,平均 RTF(实时因子)1.078、1.088、1.086。Table 4 的分段谱倾斜(前/中/后):无引导 −20.84/−21.06/−20.96,动态引导 −20.51/−16.94/−20.68,恒定引导 −17.75/−17.26/−17.65。 50
证据与局限:覆盖 EARS/Expresso 两个来源数据集提取方向,Expresso/VCTK/德/西/日四个测试集、三个 SNR 的噪声评测,含强度扫描、单属性对联合的消融、与已训练方法 SLE 的对比、流式动态引导的分段测量与人评。弱点是「1 dB SNR 下 WER 降低 7–22%」只在摘要与图上,正文与表格无逐条件数值表,无法逐条查对;干净条件下德/西/日 WER 反而变差,摘要与结论只强调噪声下改善;德语 VSA 从 9.05 掉到 4.00 与「过度发音应提升 VSA」的预期相反,作者仅以「VSA 更依说话人与语言」一句带过;人评仅 7 人、15 对、单一 SNR(5 dB)且未做显著性检验;未见语言仅 3 种、VCTK 仅 10 个说话人;只用 1 个 TTS 基座,引导层固定 19–20 且无层选择消融;可懂度只用 Whisper-medium 的 WER 作代理,受 ASR 语言模型先验影响;引导向量由该 TTS 自己合成的配对语音提取,方向可能混入合成伪影;噪声只用了餐厅 babble 一种;「最大安全强度 λ=2.0」仅写为实验观察值,未给判据;训练/算力为 training-free,具体 GPU 型号与耗时原文未报告。 50
与本节其它条目的关系:与第 1 条(arXiv:2610.07575)同属 TTS 生成质量的可控改造,本条改推理时的激活方向、第 1 条改 RL 的奖励信号表征;两条都用 WER/CER 类指标作目标或代理,并都出现代理与真实目标的背离。与第 6 条(WorldSonus)在「流式/交互式生成的开销与缓存替换」上相邻:本条测 TTFA 与 RTF 证明流式 hook 开销可忽略,第 6 条用 Ring-KV 有界缓存与 mid-stream 指令替换实现流式可控,两条都服务长音频的实时控制。与第 3、4、5 条(音频语言模型改造)相比,本条位于声学生成侧而非音频理解侧。 50
结论建议:做 TTS 属性控制(情绪/口音/语速/清晰度)或 LLM 激活引导的读者可扫读,可直接复用 Prompt-Relative 的「相对 prompt 基线只加有符号残差」这一抗累积漂移机制,以及 ST/VSA/PR 加 SSIM 加 WER 加 CMOS 的评测包。引用「1 dB SNR 降 7–22%」时须注明该值仅出现在摘要,且干净条件下部分语言 WER 反升。 50

3. 自适应深度让音频大模型平均准确率 +3.8 点,信号级问题平均迭代 5.7 次、语义问题 2.6 次

AdaLoop: Adaptive-Depth Latent Reasoning for Audio Language Models · arXiv:2610.06949 · 值得扫读
研究问题与核心方法:大型音频语言模型在需要细粒度声学分析的任务(如比较两人谁音高更高)上准确率骤降,而现有模型无论问题难易都跑同样层数的前向。AdaLoop 用一个轻量循环模块替换「音频编码器→语言模型」之间那层线性投影,在音频表征上迭代 K 次共享参数的 Recurrent Latent Block(RLB,循环潜在块),每次做三件事:以问题为条件的交叉注意力(音频特征 attend 到问题嵌入)、尺度感知自注意力(把 M 个注意力头分成 G=4 组,第 g 组限定在 2^{g+1} 的局部窗口,感受野逐组翻倍以同时抓快瞬态与慢韵律)、带残差的前馈更新,并加可学习迭代嵌入 e_k 打破对称。停止由 halting 单元决定:p_k = σ(wᵀ[mean(H^(k)); mean(q)] + b),累计 R_k≥1 时停(上限 K_max=8),输出按 ACT(adaptive computation time,自适应计算时间)方式加权混合 H_out = Σ p_k H^(k) + r H^(K),因此对 halting 参数可微、可端到端训练;损失为任务损失加 ponder cost(λ=0.01 惩罚迭代数)。训练两阶段:阶段 1 冻结音频编码器与语言模型只训 RLB 与 halting(1000 步,lr 5e-5),阶段 2 联合微调 RLB、halting 与语言模型(3000 步,lr 1e-5),音频编码器全程冻结。第一作者 Lee Seung-woo(首尔大学、上海交大)。 51
关键结果:数字取自 Table 1、Table 2 与 Figure 2;三项基准为 MMSU、MMAU-Pro、MMAR(音频理解基准),All 为三基准平均准确率。主干与三基准 All 分均值:Qwen2.5-Omni-7B Base 59.3 → SFT 60.5(+1.2)→ Fixed-4 61.4(+2.1)→ AdaLoop 63.1(+3.8);Kimi-Audio-7B-Instruct Base 53.3 → SFT 54.7(+1.4)→ Fixed-4 55.3(+2.0)→ AdaLoop 56.7(+3.4);MiMo-Audio-7B-Instruct Base 58.8 → AdaLoop 61.7(+2.9)。分基准:Qwen2.5-Omni 的 MMSU All 61.4→67.0、MMAU-Pro All 56.4→59.4、MMAR All 60.2→62.8;Kimi-Audio 56.0→60.4、49.6→52.9、54.3→56.9;MiMo-Audio 59.6→63.5、54.9→57.8、61.8→63.7。增益偏向感知类:Qwen2.5-Omni 的 MMSU 感知分 44.5→53.1(+8.6 点),MMAR 语义分只升 0.9 点;Kimi-Audio 的 MMAU-Pro sound 分升 5.0 点;MiMo-Audio 的 MMAR signal 分升 5.3 点。学习到的深度分布(MMAR 类别,Qwen2.5-Omni):信号级问题平均 5.7 次迭代(音高比较、响度排序、速率估计),语义问题 2.6 次,感知类 4.3 次,文化推理 3.1 次,全体平均 3.8 次,9.3% 的条目只跑一次,4.2% 跑到上限 8 次;跨主干一致(Kimi 平均 4.2 次、MiMo 平均 3.9 次)。消融(Table 2,Qwen2.5-Omni 平均,Base 59.3):完整 63.1、固定深度 K=4 为 61.4(−1.7)、去掉尺度感知注意力 61.9、halting 输入去掉问题 61.5(−1.6)、去掉 ponder cost 62.3(−0.8)、K_max 截到 4 为 62.3(−0.8)。参数开销:RLB 增加基座参数量的 2.4%–2.9%。 51
证据与局限:覆盖三个架构不同的主干(Qwen2.5-Omni-7B、Kimi-Audio-7B-Instruct、MiMo-Audio-7B-Instruct)× 三个基准,逐子类报告,并有把「训练数据/循环结构/自适应机制」分开的阶梯对照(Base→SFT→Fixed-4→AdaLoop)与五个组件的消融,另有学习深度分布与参数开销。训练数据为 EvoAudio 可验证音频 QA 家族抽出的 50,000 条问答,算力为 4 张 NVIDIA A100-80G。局限:未报告置信区间、方差、显著性检验与随机种子重复,每格为单点值;MiMo-Audio 只有 Base 与 AdaLoop 两行,缺 SFT 与 Fixed-4 的中间对照;MMAU-Pro 的 All 不是三个类目的平均;无代码/数据/项目页,复现性无法验证;深度分布的解释缺因果对照;训练数据可能与评测基准任务分布同源,跨分布泛化未测;原文未设独立 Limitations 小节。 51
与本节其它条目的关系:与第 4 条(SkillFormer,arXiv:2610.07533)高度同源,两篇作者名单高度重合(Lee Seung-woo、Bowen Qi 同时出现在两篇)、同样在音频编码器与语言模型之间插模块、同样用 EvoAudio 的 50,000 条 QA 与 MMSU/MMAU-Pro/MMAR 三基准,且同样以 4 张 A100-80G 训练;差别在于本条改「推理多深」(自适应深度),第 4 条改「对给定问题激活哪些参数」(问题条件路由 + 技能适配器),可对照「改中间层」的两种路线。与第 5 条(EMODE)也同属连接器改造,EMODE 改的是语义/副语言双通道分解。与第 6 条(WorldSonus)在「按输入自适应分配计算」上相邻,第 6 条用流式因果生成与有界缓存,本条用 halting 决定迭代深度。 51
结论建议:做音频/语音语言模型适配或测试时计算分配的读者可扫读,可复用其「问题条件化 halting + ACT 式加权混合 + ponder cost」的轻量模块,以及「用学习到的迭代深度分布诊断任务难度」的报告方式。引用 +2.9 到 +3.8 点的平均提升时须注明单点值、无方差与无种子重复。 51

4. 技能专属适配器加问题路由让音频大模型平均 +2.5 到 +4.1 点,去掉路由器掉 1.7 点

SkillFormer: Skill-Decomposed Adaptation for Audio Language Models · arXiv:2610.07533 · 值得扫读
研究问题与核心方法:音频语言模型要处理几十种技能(音高比较、说话人计数、音乐节拍估计、情绪识别),多技能联合训练会产生技能干扰——某项技能提升常以另一项退化为代价;已有的课程设计、奖励塑形、自改进只改「训练什么」,递归隐式推理只改「推理多深」,都未解决「对给定问题该激活哪些参数」。SkillFormer 在音频编码器与语言模型之间插入 K 个技能专属低秩适配器(ΔH_k = H·B_k·A_k,B_k 从 N(0,σ²) 初始化、A_k 置零以保持基座行为,中间 dropout 0.05),用一个问题条件路由器决定激活哪些适配器及权重:把问题 token 均值池化成一个向量,过两层 MLP 加 top-n softmax(n=2)得到至多 n 个非零的稀疏门控 α,输出按 α 加权合并后送入语言模型主干。技能簇在训练前由数据本身导出:用语言模型自带分词器嵌入每个训练问题、k-means 聚成 K 类(实验取 K=6)。交替训练分两阶段:Phase A 每个适配器只在自己簇上训练 500 步(其余适配器与路由器冻结,编码器与语言模型全程冻结,lr 5e-5);Phase B 用跨簇均衡采样联合训练路由器与所有适配器 2000 步(lr 降到 1e-5,语言模型参数解冻),以避免标准多任务优化的梯度冲突。作者为 Lee Seung-woo 等(釜山国立大学、上海交大、汉阳大学)。 52
关键结果:数字取自 MMSU/MMAU-Pro/MMAR 三基准(均为音频理解基准,Avg. 为三者 All 分均值)。Qwen2.5-Omni-7B:Base Avg. 59.3 → SkillFormer 63.4(+4.1),MMSU 61.4→66.5、MMAU-Pro 56.4→60.4、MMAR 60.2→63.3;对比 SFT(单一 LoRA)60.6(+1.3)、Multi-LoRA(6 个适配器均匀权重)61.7(+2.4)。Kimi-Audio-7B-Instruct:Base 53.3 → SkillFormer 57.1(+3.8),MMAU-Pro 49.6→53.6,其中最弱子类 sound 从 37.1 提升 5.7 点到 42.8。MiMo-Audio-7B-Instruct:Base 58.8 → SkillFormer 61.2(+2.4),该模型只报 Base 与完整方法。平均提升区间 +2.5 到 +4.1 个百分点;Qwen2.5-Omni 十二个子类全部提升,幅度从 1.7(MMAR semantic)到 8.0(MMSU perception)。消融(Qwen2.5-Omni,Base 59.3):完整 SkillFormer 63.4、去掉路由器(均匀 α)61.7(−1.7)、随机路由 60.9(−2.5)、单适配器 SFT 60.6、K=3 簇 62.3(−1.1)、K=12 簇 62.7(−0.7)、去掉交替训练 61.1(−2.3);秩 r 从 16 降到 8 只损失 0.3 点(63.1),r=32 只加 0.1(63.5);top-2 路由优于 top-1(−0.6)与稠密路由(−0.4)。路由分析(Qwen2.5-Omni):韵律问题把 71% 权重给适配器 1,音乐问题把 68% 给适配器 5,声音事件问题把 62% 给适配器 4。参数开销:增加基座模型的 3.2% 到 3.8%(小于 4%)。 52
证据与局限:覆盖三个架构不同的基座 × 三个基准,报告十二个子类的逐项提升,消融覆盖路由器、路由方式、簇数 K、秩与交替训练,路由行为有可解释模式。训练数据为 EvoAudio 的 50,000 条可验证 QA 对(来源含 LibriSpeech、FSD50K、AudioSet、MELD 与 Qwen3-TTS/LeVo/Scaper 合成),算力为 4 张 NVIDIA A100-80G(每卡 batch size 2、梯度累积 4 步)。局限:每个基座只在一个数据集上训练,无重复运行方差报告,无统计显著性检验;MiMo-Audio 只报 Base 与完整方法,缺 SFT/Multi-LoRA 对照;技能簇划分与路由器专门化都绑定在 EvoAudio 题库的问题分布上,跨题库/跨领域迁移未验证;K=6、n=2、r=16 等超参只在 Qwen2.5-Omni 上消融,未在其他两个基座复现;MMAU-Pro 的类别列不覆盖全部计分项;未报告推理延迟/吞吐的实际变化,也未与深度推理类方法在同一设定下做数值对比;原文未提供自身代码/数据/项目页。 52
与本节其它条目的关系:与第 3 条(AdaLoop,arXiv:2610.06949)作者高度重合(Lee Seung-woo、Bowen Qi 同时出现在两篇)、同样在音频编码器与语言模型之间插模块、同样用 EvoAudio 的 50,000 条 QA 与 MMSU/MMAU-Pro/MMAR 三基准、同样以 4 张 A100-80G 训练;差别在本条改「激活哪些参数」(技能路由),第 3 条改「推理多深」(自适应深度),两者可并读为「改中间层」的两条互补路线。与第 5 条(EMODE)同属连接器分解,EMODE 按语义/副语言二路分解,本条按数据导出的技能簇分解,都强调子类/子维度而非单一平均分。与第 6 条(WorldSonus)无直接方法关联,仅在「生成/理解侧评测口径」上同处语音音频评测范围。 52
结论建议:做多能力互相干扰的音频/语音模型适配的读者可扫读,可复用「问题嵌入 k-means 定义技能簇 + top-2 稀疏路由 + 两阶段交替训练」的方案,以及用路由权重分布(71%/68%/62%)作为「模型是否真正分化出技能」的可解释评估指标。引用 +2.5 到 +4.1 点的提升时须注明单一训练题库、无方差与无显著性检验。 52

5. 语义/副语言双专家让情感识别平均 72.10%,去掉 oeg-para 掉 5.9 点

EMODE: Dynamic Para-Semantic Experts for Emotion-Aware Speech Language Modeling · arXiv:2610.06956 · 值得扫读
研究问题与核心方法:大型语音语言模型难以保留副语言线索(尤其情感)——现有系统用纠缠的声学表示,使语言模型过度依赖恢复出的词汇内容而非声学韵律证据;论文提出的问题是,如何在接入语言模型之前显式分离语义与副语言处理。EMODE 的核心模块是动态副语义专家(DPSE):Whisper 编码器提取帧级声学特征 A 后,一个带自注意力的动态 router 预测帧级二路路由分布 R = Softmax(f_router(A))(语义/副语言两列);语义专家与副语言专家各自做卷积下采样加轻量残差处理;R 经时间平均池化得 R̄,取副语言门控向量 g,融合为 H = LayerNorm(S + g⊙P)(语义流为骨干,副语言流作门控残差修正),再送入语言模型;副语言专家另用注意力池化出话语级摘要供辅助情感分类器。训练用三阶段课程:Stage I 语义热身(冻结副语言专家、关闭路由,损失为 KL 蒸馏加 λ_sem·CTC);Stage II 副语言激活(解冻副语言专家、路由完全动态、冻结语言模型,损失含 oeg-sem、oeg-para、GDR);Stage III 联合精修(对语言模型加低秩适配,损失含 CE、oeg-para、SAA、GDR)。三个引导项:OEG 正交专家引导(语义支路用音素级 CTC,副语言支路用话语级情感交叉熵)、SAA 语义到声学对齐(mask-aware 池化后的副语言表示与冻结文本教师隐状态的 1−cosine 损失)、GDR 门控多样性正则(最大化初始帧级路由分布熵,防路由早期坍缩)。第一作者 Jianan Pan(浙江大学)。 53
关键结果:SER(语音情感识别)主评测(Table 1,9 数据集准确率 %):EMODE 平均 72.10% 为全场最高,IEMOCAP 76.68、MELD 64.23、RAVDESS 75.58、SAVEE 85.76、MERBench Test1 75.14、MERBench Test2 66.94、RESD(俄) 64.56、AESDD(希) 66.57、CaFE(法) 73.46;最强基线 EmotionThinker 平均 68.46、BLSP-Emo 65.21、Qwen2-Audio 57.65、Kimi-Audio 56.94;EMODE 在 MELD、RAVDESS、SAVEE、MERBench Test1/Test2、AESDD 六个上第一,IEMOCAP 让给 EmotionThinker,RESD/CaFE 让给 BLSP-Emo。共情回应(Table 2,SpeechAlpaca):EMODE SER 88.75 / Quality 7.12 / Empathy 6.14,对比 BLSP-Emo 83.8 / 6.90 / 5.91、OSUM-EChat 56.7 / 6.67 / 5.74。MEPA 受控词汇接地(Table 3):EMODE 英语 Acc 56.4 / Macro-F1 54.7 / GLCA(组级完整准确率)12.1,中文 47.8 / 45.3 / 8.6,三项均第一,对 EmotionThinker(英 52.1/50.2/8.1,中 43.0/40.7/4.9)在 GLCA 上英语 +4.0、中文 +3.7 点。目标函数消融(Table 4,四基准均值):完整 EMODE 75.56,去掉 oeg-para 降到 69.64(降幅最大,−5.9),去 oeg-sem 72.99,去 SAA 73.16,去 GDR 72.33。融合方式(Table 5 均值):残差副语义融合 75.56 最优,scaled residual 75.27、加权和 74.38、concat MLP 74.82。连接器(Table 6 均值):DPSE 75.56 > CFormer 73.07 > Subsampler 69.94。 53
证据与局限:骨干为 Whisper-base(语音编码器)加 DPSE(连接器)加 Qwen2.5-7B-Instruct(语言模型);评测含域内 IEMOCAP、MELD 与零样本 RAVDESS、SAVEE、MERBench Test1/Test2、RESD、AESDD、CaFE 共 9 个 SER 数据集(跨 5 语言),加共情双指标与自建受控基准 MEPA,另有目标函数消融、融合方式对比、连接器对比,均有对照。论文已被 ACM Multimedia 2026(MM '26)接收(DOI 10.1145/3767308.3836392)。局限:无误差棒与显著性检验,未报告算力规模;MEPA 为合成基准(作者自陈只宜作受控压力测试,不能替代自然口语评测);共情指标为单判官(作者自陈不能替代人类评测);并非每个语料都领先(IEMOCAP、RESD、CaFE 被基线占优);中文子集比英语更差(更强的 neutral 吸引与更宽离对角混淆);代码与 MEPA 均未提供公开获取入口,DOI 指向的正式出版页暂不可访问(会议 2026-11-10 才召开);训练语料为多套情感语料拼接并统一标签,存在跨语料标签语义不一致风险。 53
与本节其它条目的关系:与第 3、4 条(AdaLoop、SkillFormer)同属「在音频编码器与语言模型之间改连接器」的路线:EMODE 按语义/副语言二路做结构分离并用三项引导损失促专精,第 3 条按推理深度、第 4 条按技能簇。三篇都以子类/子维度级结果替代单一平均分。与第 1、2 条(TTS 侧)分处理解与生成两端,但共享「用专门基准隔离捷径」的评测思路:EMODE 的 MEPA 固定词汇内容只变情感风格,第 2 条的配对 CMOS 相近地控制非目标变量。与第 6 条无直接方法关联。 53
结论建议:做语音情感识别、语音语言模型连接器设计或语音情感评测基准的读者可扫读,可复用 DPSE 的「语义/副语言双通道加门控残差融合」与 OEG/SAA/GDR 三项引导损失,以及 MEPA 的 GLCA 组级完整准确率与「固定词汇、只变情感风格」的受控构造。引用 72.10% 的平均准确率时须注明无误差棒、无显著性检验,且部分零样本语料被基线占优。 53

6. 流式视频到音频每 100 ms chunk 延迟仅 41.2 ms,30 秒交互视频 FAD 2.03 优于全部基线

WorldSonus: Bringing Sound to Worlds · arXiv:2610.08760 · 值得扫读
研究问题与核心方法:生成的世界模型视觉环境大多是无声的,论文要解决的问题是怎样为交互式世界模型加上实时(跟得上视频流)、可中途改指令、且与相机/场景几何空间对齐的立体声。WorldSonus 是模块化视频到音频(V2A)框架,分三方面。实时性上采用流式因果自回归-扩散架构,每 100 ms 生成一个音频 chunk(对应 3 个 30FPS 视觉帧、3 个 30Hz 音频潜帧),只条件于过去与当前视觉,用有界状态(滑动窗口 Key-Value,Ring-KV,5 s 窗)保证内存与计算恒定,AR 隐状态驱动一个整流流(rectified-flow)头去噪当前 chunk。可控性上用 T5Gemma 2 文本编码加 chunk 级 cross-attention,指令中途更新时在最近 chunk 边界就地替换 cross-attention 缓存并保留会话状态,训练用含中途切换/丢弃的时变 prompt 计划。空间性上两阶段数据筛选用清晰立体声片段、并把全景 FOA 数据转成相机对齐立体声监督。同步上用两时间尺度视觉条件(chunk 级语义 token 进 AR、帧对齐局部 token 直接进 flow 头)加仅训练期的 ShiftNCE 对比目标(用冻结同步专家做教师、对比时间平移的负样本、过滤静态段假负例)。作者为 Pengjun Fang 等(香港科技大学、Noiz AI、MetaX、上海交大)。 54
四栏总览图:a 是流式架构,视频帧与双耳音频块分别编码后进入因果自回归 Transformer,输出多路音频 token;b 是训练用的时间对齐损失;c 是空间训练数据的构造与筛选;d 是提示随时间切换的示意。
论文 Figure 1。a 面板是流式因果管线:视觉经两时间尺度适配器、音频经因果 VAE 进入自回归 Transformer,每约 100 毫秒输出一个音频块;d 面板显示提示可以随时间分段切换,这是「可交互控制」在架构里的落点。图片来源:论文原文。 54
关键结果:数字取自 Table 1、Table 2、Table 4、Table 5、Table 6 与消融。实时性:单个 NVIDIA H100 上每 100 ms chunk 执行延迟 41.2 ms,RTF(实时因子)=0.41。声学质量(Table 1,FAD↓ 越低越好):VGG 5s 世界模型 1.73 对 PrismAudio 2.09 / ThinkSound 2.94 / AudioX 3.00 / V-AURA 4.06;Inter 5s 2.68 对 6.22/8.49/4.44/8.18;Inter 30s 2.03 对 6.08/7.00/5.52/13.33。空间对齐(Table 2,BiasSkill %,越高越好):WorldSonus 4.42(VGG 10s)/6.03(Inter 10s)/15.90(Inter 30s)全项最高,AudioX 3.79/3.08/−0.01、ThinkSound 3.22/−1.78/0.63、PrismAudio 1.10/−0.06/4.19。文本可控(Table 5/6):双相对匹配率 WorldSonus 25.68%(VGG 10s)/23.44%(Inter 10s),高于所有基线(AudioX 15.41/14.04、PrismAudio 16.16/11.99、ThinkSound 13.92/13.43、V-AURA 12.16/12.11);配对反事实干预(Switch 对 Hold,视觉与种子固定)净增益 G=+0.0509(VGG 10s,±0.004)与 +0.0525(Inter 10s,±0.003),95% bootstrap 区间不含 0。长程稳定(Table 4):Inter 30s 最后 5 s 直接生成 FAD 2.63 / DeSync 0.880,连续 rollout 到该窗 FAD 2.51 / DeSync 0.827——在 5 s Ring-KV 有界缓存下无重置、无明显崩塌。主观盲测 A/B(40 个 Inter 10s 片段、20 位评测者、400 次两两比较):总体偏好率 WorldSonus 58.8% 对 AudioX、80.0% 对 ThinkSound、65.0% 对 PrismAudio,但真实音频仍更被偏好。消融:去掉 ShiftNCE 使 DeSync 从 0.831 恶化到 1.067;去掉时间差分(temporal delta)DeSync 0.958/FAD 3.08;去掉 flow 头的直接帧级视觉连接 FAD 从 2.42 涨到 15.82;chunk 粒度 33 ms FAD 3.79 更差、200 ms 延迟升高且无一致改进。 54
证据与局限:数据为 1,465 小时音频(999 小时配对立体声视频-音频加 466 小时纯音频),视频-音频子集用 VGGSound、AudioSet、Kinetics-700、HD-EPIC 与全景 Sphere360/YT-AmbiGen,纯音频用 AudioCaps 与弱对齐视频音轨;评测五个 held-out 划分(VGG 5s/10s、Inter 5s/10s 各 4,096 片段、Inter 30s 1,024)加 Greatest Hits 物理碰撞,对比 AudioX、ThinkSound、PrismAudio(双向立体声)与 V-AURA(流式单声道),指标含 FAD、DeSync(时间对齐同步度)、S-FDO、ImageBind、CLAP、BiasSkill;配对反事实检验的 95% bootstrap 区间不含 0。局限:真实音频仍优于模型;时间对齐(DeSync)上双向基线更好;立体声数据规模受限(原文自陈高质量空间音频稀缺,许多公开立体声视频的声道分离是人工/噪声、与物体运动不符);因果音频表示用改编自 SoundReactor 的冻结因果立体声 VAE,重构质量低于非因果版本;人类 A/B 仅 40 个片段、20 人,规模偏小;ITD 相关指标(ITD-MSE、FSAD)被作者因不可靠而排除,空间评测只靠 S-FDO 与 BiasSkill;论文未给出代码/模型权重仓库或数据集下载链接(仅项目页)。 54
与本节其它条目的关系:与第 2 条(Loud and Clear,arXiv:2610.07647)在「流式/交互式生成与开销」上相邻:本条用 Ring-KV 有界缓存与 mid-stream 指令缓存替换实现实时可控,第 2 条用有符号残差支持引导的在线降低/撤回并测 TTFA/RTF 证明开销可忽略。与第 3、4、5 条(音频语言模型的理解侧改造)不同,本条位于音频生成侧,但本条的 BiasSkill/S-FDO 空间评测与配对反事实(Switch 对 Hold)范式可搬到第 2 条一类的可控生成评测。与第 1 条同处生成侧质量与评测,但第 1 条是 TTS 文本到语音的奖励设计,本条是视频到空间音频。 54
结论建议:做交互式世界模型音频、视频到音频生成或空间音频评测的读者可扫读,可复用「每 100 ms chunk 流式因果生成 + Ring-KV 有界缓存 + 指令就地替换缓存」的实时可控设计,以及 BiasSkill/S-FDO 空间评测与 Switch 对 Hold 的配对反事实评测范式。引用 1.73/2.03 的 FAD 时须注明真实音频仍更受偏好、DeSync 未超过双向基线,以及数据规模与因果 VAE 两项限制。 54

八、语音对话、说话人与音频评测

1. 事件因果信用分配把全双工语音模型的停顿抢话率从 0.454 降到 0.306

HiPLEX: Hierarchical Policy Factorization for Full Duplex Speech Language Models · arXiv:2610.07727 · 精读
研究问题与核心方法:全双工语音模型的强化学习后训练里,时序(何时说、说多久)与内容(说什么)如何联合改进——既有做法要么把时序反馈施加在扁平的 token 策略上、要么只优化语义内容,而固定窗口的信用分配会把同一优势广播给窗口内每个 token,无法区分「导致迟到的帧」与「时机恰当的帧」。HiPLEX 不新增参数,把预训练的全双工文本策略做因式分解:用 Moshi 式 softmax 的 log-sum-exp 取 pad/epad/cont 三组边缘,得到控制策略 π_ctrl(c_t),其中 c_t∈{pad,epad,cont};当 c_t=cont 时再用组内条件 softmax 得到内容策略 π_cont(w_t),两者相乘精确复原原文本分布(式 1–3,附录 C 做数值重构校验)。奖励分两路:时序奖励(轮次 3 项、停顿 2 项、反馈语 5 项、打断 3 项)在各 rollout 组内独立标准化后,经事件因果掩码按生成语音片段、真值事件时刻与优势符号做符号相关的资格选择,只路由到控制因子;LLM 判官的语义奖励标准化后只路由到条件内容因子。策略用 PPO 更新(clip 0.2,两因子各有权重,控制侧与内容侧各有 KL 到参考模型)。55
关键结果:Table 1 主结果(Full-Duplex-Bench v1;Moshi 行为 seed-42 终态 checkpoint;基线 → +GRPO(复现 Ohashi et al. 2026)→ +HiPLEX),越低越好的 Candor 停顿抢话率(TOR)0.579 → 0.454 → 0.306、反馈语抢话率 0.473 → 0.309 → 0.127、被打断后响应延迟(秒)0.852 → 0.660 → 0.439;越高越好的流畅轮次 TOR 0.387 → 0.992 → 1.000、被打断响应质量(gpt-4o 0–5 判分)3.773 → 3.942 → 4.083,反馈语频率 0.126 → 0.110 → 0.134。三种子复现(Table 12,seed 42/43/44 均值±样本标准差):停顿 TOR GRPO 0.495±0.050 vs HiPLEX 0.329±0.083,反馈语 TOR 0.297±0.011 vs 0.109±0.018,流畅轮次 TOR 0.992±0.000 vs 1.000±0.000。成对 bootstrap(Table 11,10,000 次重抽、按 clip 配对)CANDOR 停顿 TOR 差值 −0.148 [−0.222,−0.074](n=216)、反馈语 TOR 差值 −0.182 [−0.327,−0.036](n=55),均偏向 HiPLEX。与人类时序分布(pooled Seamless+Fisher 边缘分布)的 Wasserstein-1 距离(Table 2,越低越近):Moshi 轮次交接 4.698 → 1.781 → 0.902、反馈语频率 1.798 → 1.512 → 0.327。语义奖励消融(Table 3,匹配 100 epoch)加 R_llm 后 HiPLEX 的打断响应质量从 2.332 升到 4.083(+1.751),GRPO 同期只从 3.859 到 3.942(+0.083)。信用路由消融(Table 4)中匹配稀疏度的随机掩码崩溃到近乎沉默(轮次 TOR 0.067),作者据此说明结果既不由「因式化」也不由「稀疏性」单独解释。55
两面板散点图:左图横轴为停顿抢话率、纵轴为回合结束后的词活动度,右图横轴同为停顿抢话率、纵轴为响应质量,四个标记点分别是加 HiPLEX、加 GRPO、他人复现的 GRPO 与 Moshi 基线。
论文 Figure 3。Moshi 家族在 Full-Duplex-Bench 上的前沿:加 HiPLEX 的点落在抢话率最低、响应质量最高的一角;图中同时显示抢话率低并不自动等于响应活跃度合适,原文因此主张把响应活动度与人类时序分布的 Wasserstein 距离一起读。图片来源:论文原文。 55
证据与局限:强——两个模型族(Moshi、PersonaPlex)× 一个公开基准的 10 项指标、三种子复制(Table 12)、按 clip 的配对 bootstrap(Table 11)、四个时序信用规则的受控消融(含匹配稀疏度的随机对照)、语义奖励有/无消融与判官量表敏感性实验。规模与投入:Seamless Interaction 语料的纯对话子集 73,561 个训练交互窗口(四类行为各 18.3–18.4k、共 271 小时窗口音频)与 2,048 个验证窗口,帧率 12.5 Hz(每帧 80 ms),算力 16×H100(bf16)、100 epochs 约 13 小时;训练用 ASR 为 nvidia/parakeet-tdt-0.6b-v2,训练判官 gemini-2.5-flash-lite(0–2 评分),评估判官 gpt-4o-2024-08-06(0–5)。作者单位为 Qualcomm AI Research 与 KAIST AI,v1 于 2026-10-06 提交(cs.SD),无会议接收信息。短板:只有单一公开基准且多项指标饱和(Syn 停顿 TOR 三个 Moshi 行都是 1.000);PersonaPlex 官方流畅轮次 TOR 反而从 0.882 降到 0.714、打断延迟从 0.548 升到 0.590;三种子只有 Moshi 一族;与人类分布的对照只测一维边缘、不测联合或条件分布;无正式限制章节,局限分散在结论与附录 I/J/K/N/P/Q。原文未提供自建代码、数据或项目页 URL。55
与本节其它条目的关系:与 PERSIST(arXiv:2610.07725)同属全双工语音对话系统,但改的位置不同——本条改 RL 后训练阶段的时序与内容信用分配,PERSIST 改跨会话记忆的读写与检索打分,两者都受全双工实时延迟预算约束。与神经编解码器脆弱性(arXiv:2610.07216)共享「编解码 token 是系统本身一部分」这一前提:本文的骨干以离散语音 token 为动作空间,那条则专门量化神经编解码压缩对语音判别系统的破坏。在评测口径上与 InterCorrect(arXiv:2610.08604)、端侧自校正语音翻译(arXiv:2610.07545)互为印证:本条强调官方二元 TOR 规则会掩盖「过早说话/过度沉默」,须与响应活动度及人类分布距离一起读,那两条分别给出「平均 WER 改善不等于子群不均衡改善」与「评分阈值改变触发率 1.3%→86.2%」的同类证据。55
结论建议:把「分层策略因式分解 + 事件因果信用分配」作为全双工/流式策略 RL 后训练的默认起点来试,因为它不增参数、又在时序与内容两侧同时给出可归因的改动;评测上必须把条件化判分质量与响应倾向(TOR)并读,并补一条与人类时序分布的距离,否则二元规则会掩盖过早说话与过度沉默这两个相反方向的失败。55

2. 3W 联合打分把跨会话语音记忆的检索 EM@3 从 49.01% 提升到 82.10%

PERSIST: Who-What-When Memory Across Sessions for Full-Duplex Spoken Dialogue · arXiv:2610.07725 · 值得扫读
研究问题与核心方法:多人共享的语音助手要在跨会话历史中回答「我原本计划什么时候走?」这类问题,需要识别当前说话人、恢复相关过去状态并区分其与后续修订——如何既显式建模 Who/What/When 又满足全双工实时延迟预算?PERSIST 分写入与读取两侧。写入把语音片段转成绑定说话人与时间的对话事件记录,两条写入路径:backbone-native(复用对话骨干中间表示,含 ASR 专用 LoRA 生成带时间戳 caption、检索专用 LoRA、从冻结语音编码器第 5/7/8 层做轻量 speaker head 产出 4096 维说话人嵌入、Semantic–Temporal Pooler 融成 1152 维记忆向量)与 plug-and-play external(用 VibeVoice-ASR 产出同等格式记录)。读取用 3W 联合打分:query 与记忆都是 1152 维向量,即 1024 维语义分量(把说话人嵌入作为一个 token 前置到内容隐状态,再做共享语义注意力池化 + L2 归一,使内积即余弦相似度)加 128 维时间分量(记忆侧时间键由 session 索引与 session 相对时间的 6 维特征映射,query 侧由时间池化器聚合隐状态得到所请求的时间关系,用 ϕ(x)=x/(1+‖x‖₂) 约束),检索分数 r_i = q_semᵀk_i,sem + q_timeᵀk_i,time。检索触发由对话模型在信息超出活跃上下文时自行吐出检索特殊 token(Self-RAG 式),不引入额外决策模型;低延迟靠复用 FIFO 缓冲的最近 128 个第 19 层解码器隐状态构造 query,避免重编码 query 音频。56
关键结果:Table 1 端到端严格准确率(1,200 条评测 query,GPT-4.1-mini 判官,仅 correct 计入):PERSIST-External 85.08%、PERSIST-Native 71.75%、BM25 61.67%、BGE-large 58.50%,对照 Empty(无历史记忆)19.00%、Gold(oracle 证据)97.25%。检索(Table 2,history-dependent query):PERSIST R@1 66.14% / R@3 87.07% / R@5 92.95% / all-support EM@3 82.10% / EM@5 89.51%;关掉时间打分(PERSIST w/o temporal)后 EM@3 降到 80.20%、R@1 降到 62.84%;对照 BGE-large EM@3 49.01%(R@1 44.39%)、BM25 EM@3 54.16%(R@1 47.60%)。说话人消融:397 组 gold–counterfactual 对(来自 290 条第一人称 query,仅替换说话人 token)中,PERSIST 在 96.47% 的配对里给正确说话人的记录更高分;把 counterfactual 加入候选池后 R@1 只降 1.38 点(60.00%→58.62%)。记忆写入质量(Table 5):Native 单说话人 WER 38.4%→(SFT)11.7%→(GRPO)6.8%,多说话人 WER 51.9%→35.1%→17.4%、cpWER 87.5%→63.7%→41.6%、temporal IoU 62.3%→71.8%→79.4%。全双工检索延迟(Table 6,Ascend 910B3 NPU、32 CPU 线程、4,331 候选、取中间 1,000 次请求平均):PERSIST(native, buffered) 7.03 ms vs「Recompute from WAV」578.42 ms(降低 98.8%);对照 BM25(text-ready) 15.26 ms、BGE-large(text-ready) 27.94 ms。56
证据与局限:较强但自建基准单一——在自建 SpokenTrace(训练 9,119 episodes/27,985 queries;验证 1,013/3,185;评测 1,200/1,200,24 个子场景分属 work/project、media/entertainment、shared living/social 三域;dialogue 由 GPT-5-mini-2025-08-07 与 Qwen3-30B-A3B-Instruct-2507 混合生成,语音用 CosyVoice2 合成、说话人参考取自 LibriSpeech,判官 GPT-4.1-mini)上做上位验证,检索侧报 R@1/3/5 与 EM@3/5,并含时间打分消融、说话人 counterfactual 受控实验、写入质量与延迟剖析,对照 BM25/BGE-large/Empty/Gold 完整;短板是只在自建基准上评测、无外部基准交叉验证、未报告误差棒或显著性检验。骨干为 SALMONN-omni(full-duplex),训练流程为 timestamped ASR 预训练(GigaSpeech + Common Voice)→ 全双工对话 SFT → 在 SpokenTrace 训练集上用 GRPO 适配;检索器两阶段训练,Stage 1 用 MS MARCO + QReCC + TopiOCQA 的 196,929 条样本学通用 audio-to-text 检索。训练算力与超参规模原文未报告。作者单位为清华大学与华为(通讯作者 Chao Zhang),v1 提交于 2026-10-06,Comments 标「19 pages, 3 figures」。原文自陈的局限:native writer 多说话人 cpWER 仍显著高于其 WER(41.6% vs 17.4%),存在持续的说话人归属错误;持久语音记忆带来隐私与同意风险;最强结果来自 External 分支,而该分支依赖 VibeVoice-ASR 的超大训练语料,与 native 的对比不完全是同数量级训练。原文未提供可用代码/数据/项目页 URL。56
与本节其它条目的关系:与 HiPLEX(arXiv:2610.07727)同属全双工语音对话系统:本条改跨会话记忆的读写与检索属主化,HiPLEX 改 RL 后训练的时序/内容信用分配,两者共用「实时延迟预算」这一约束(本条报检索 7.03 ms,HiPLEX 报被打断响应延迟 0.439 s)。与 DirectSpeech2LLM(arXiv:2610.08085)同属「把连续语音接进语言模型」的接口设计:本条用 1152 维语义加时间记忆向量与 4096 维说话人嵌入,那条用负平方欧氏距离型 CTC logits 把语音对齐到冻结 LLM 的嵌入码本。在评测口径上,本条与 InterCorrect(arXiv:2610.08604)、端侧自校正语音翻译(arXiv:2610.07545)共同落在「评测设计决定能看到什么失败」这一主题:本条用 current-only 与 missing-evidence 作控制组、按「记忆任务×说话人类型」正交分解,那两条分别暴露子群不均衡与评分阈值敏感。56
结论建议:3W 联合打分(语义 + 声学说话人 + 时间状态)是一套可直接搬到长程多轮智能体的记忆检索机制;采用时把「记忆任务×说话人类型正交分解」与「current-only/missing-evidence 控制组」一并写进评测,因为只有拆开每类 query 才能判出失败出在说话人归属、时间状态还是语义匹配;同时先接受说话人归属仍是当前瓶颈这一点。56

3. 人口统计模型合并把平均 WER 从 7.38% 降到 5.13%,却扩大了年龄轴差距

InterCorrect: Intersection-Aware Correction of Demographic Model Merging for Fair ASR · arXiv:2610.08604 · 值得扫读
研究问题与核心方法:ASR 在不同人口统计群体上表现不均,而说话人常同时属于多个人口群体,使「交叉(intersection)」处最难处理;已有公平 ASR 方法多依赖额外数据、特定损失或数据平衡,且很少在参数层面探索模型合并作为缓解人口统计偏差的机制。方法基于 SLAM-ASR 架构(Whisper-large-v3 语音编码器 + TinyLlama 1.1B LLM + 线性 connector,编码器与 LLM 冻结、只训 connector):先用全量数据训出 base;再按 5 个人口统计轴下的 N 个子群分别微调 connector,用多种策略合并成全局人口统计模型 θ_global(Linear 直接平均、Task Arithmetic、TIES、Model Breadcrumbs、DARE-TIES);交叉校正用两种准则挑跨轴子群配对——子群 WER 准则(每轴取 base 上最差子群做跨轴组合得候选集 C_WER)与任务向量冲突准则(子群更新向量 τ=flatten(θ_g−θ_base) 之间的余弦相似度,相似度越低冲突越强,取最冲突配对构成 C_conf);对每对被选配对先在交集训练集上微调得 θ̂,把参数变化 δ=θ̂−θ_pair 当作交叉校正向量,加权求和后加到全局模型上;按来源分 Method 1(WER 选对)、Method 2(冲突选对)、Method 3(两者合并相加)。57
关键结果:总体 WER(Table 1,括号内为相对 Base 的降幅)——Base 7.38%;五种合并策略的全局模型 6.38–6.77%(相对降幅 8.3–13.6%,全部优于 base)。加交叉校正后:TIES + Method 1 = 5.13%(相对降幅 30.5%)为全局最佳;Breadcrumbs + Method 3 = 5.63%(23.7%,次佳);TIES + Method 3 = 5.55%(24.8%);Linear + Method 1 = 6.31%(14.5%);Task Arithmetic + Method 1/3 = 6.32%(14.4%);DARE-TIES + Method 2 = 6.33%(14.2%)。随机选对(Rand,3 次平均)收益不稳定,有时甚至不如全局合并(TIES Rand 6.48% 差于其 Global 6.42%),即收益靠的是选对准则而非随便加校正。各人口统计轴平均 WER(Table 2):Base 为 Age 7.07、Gender 7.65、Ethnicity 6.84、SES 7.08、FirstLang 6.65;TIES+M1 相对 TIES 全局模型改善为 Age 6.27%→4.71%、Gender 6.62%→5.26%、Ethnicity 6.08%→4.77%、SES 6.27%→5.33%、FirstLang 5.88%→4.91%。不均衡度(Fig.1,max–min WER gap 相对 base 的降幅):多数设置缩小了各轴内的子群 WER 差距,但效果不均匀——TIES+Method 1 虽然总体 WER 最好,却扩大了 Age 与 SES 两轴的 WER gap。交叉组分析(Fig.2,相对全局合并模型平均相对 WER,越低越好):被选中的交叉组上 TIES+M3 降到 74.80%、Breadcrumbs+M1 77.41%、Breadcrumbs+M3 84.57%、Linear+M2 70.00%;未被选中的交叉组上大多接近或低于全局合并(TIES+M1 87.91%、TIES+M3 88.67%、Breadcrumbs+M3 84.96%),说明校正主要惠及目标交叉组且未普遍损害非目标组。57
证据与局限:偏弱——单一数据集(Fair-Speech,Meta AI 开源、带人口统计标注的命令式 ASR)、单一模型配置(Whisper-large-v3 + TinyLlama 1.1B + 线性 connector)、5 种合并策略 × 3 种校正方式的网格较多,但没有随机种子或多次运行的方差报告(仅 Rand 基线做了 3 次)、没有任何统计显著性检验、无人工主观评测、无跨数据集验证;可取之处是超参只在验证集选择、并做了「选中/未选中交叉组」的分层分析。规模与设置:按分层 70/15/15 划分训练/验证/测试,使用 5 个人口统计轴共 18 个子群(age 4、gender 2、ethnicity 7、socioeconomic 3、first-language 2),所有适配只复用 D_train 子集、不使用额外数据;base 训练 10 epoch(AdamW、lr 1e-4、batch 64、2000 warmup steps、线性衰减、每 3000 步评估、early stopping patience 5),Method 1 的 K 取 1 到 10、Method 2 的 K 取 1 到 12,校正系数用网格搜索且系数和为 1。算力(GPU 型号/卡数/时长)原文未报告。机构为 PUCP、University of Essex(IADS / CSEE)与 JKU Linz;v1 于 2026-10-06 提交,页面标 cs.CL。原文未提供代码/数据/项目页链接(全文无 GitHub/HuggingFace/Zenodo 链接)。57
与本节其它条目的关系:与 DirectSpeech2LLM(arXiv:2610.08085)同以 ASR 为核心:本条用 WER 作公平性评测与配对选择依据,那条用 WER/BLEU/IFR 作跨任务评测,两者都触及「单一聚合指标会掩盖真正关心的误差」。与端侧自校正语音翻译(arXiv:2610.07545)在「阈值与评分口径决定可见结论」上同构(本条是子群级 WER 分解,那条是质量估计阈值 τ 带来的触发率敏感)。与 HiPLEX(arXiv:2610.07727)互为方法论印证:本条「更低的平均 WER 不必然意味着更小的子群不均衡」与 HiPLEX「官方二元 TOR 规则会掩盖过早说话与过度沉默」同属「聚合指标不足以定论」。与神经编解码器脆弱性(arXiv:2610.07216)同属语音系统在非理想条件下的评测(本条按人口统计子群分层,那条按编解码压缩失真分层)。57
结论建议:把 max–min WER gap 相对 base 的降幅作为语音公平性评测的常规口径,并默认同时报总体与逐轴数字,因为平均 WER 最优的配置(TIES+M1)恰恰扩大了 Age 与 SES 两轴的差距;模型合并可作为不引入额外数据的公平适配起点,但交叉校正只对「全局合并后仍存在子群冲突」的配对有效,且其额外微调成本需自行核算。57

4. 只用 960 小时 ASR 训练,未见任务翻译 BLEU 达到 19.97

DirectSpeech2LLM: A Simple End-to-End Framework to Mitigate Prompt Overfitting in Speech-LLMs · arXiv:2610.08085 · 值得扫读
研究问题与核心方法:语音 LLM 只用 ASR 指令训练后会「提示过拟合」——换指令(语音翻译、情感识别)仍当 ASR 用;如何在不依赖大规模多任务指令数据、不增加 LLM 前向次数的前提下保住 LLM 对未见任务的指令跟随能力。DirectSpeech2LLM 把冻结 LLM 的输入嵌入矩阵 Q 当作固定码本,语音基础模型(SFM)的输出与大模型嵌入同维,CTC 的 logits 直接算成负平方欧氏距离 Z_{t,v}=−‖s_t−q_v‖²,从而在一个目标里同时实现「时间对齐」(CTC 动态压缩)与「几何对齐」(距离即把正样本拉近、负样本推远);再用贪心 CTC 标签把同标签的连续帧做平均池化得到分段嵌入,直接喂进冻结 LLM(无投影模块、无离散化、无适配器),另加一个可选 commitment loss 显式约束到码本。CTC 词表用 BPE(归一化 LibriSpeech 转写)取 1000,再剔除不在 Qwen-3 词表中的 token,剩 984 个;Phi-3 实验用 2000 次合并操作对齐规模。两阶段训练:阶段 1 只训 SFM(λ_llm=0),阶段 2 加入 LLM 交叉熵损失端到端训练,LLM 参数始终冻结,commitment loss 被截断为不超过 CTC loss。58
关键结果:ASR(已见任务,只训 960 小时 LibriSpeech,即「1k」)——端到端 Qwen3-4B 在 LibriSpeech test-clean/test-other 上 WER 2.21/4.28,Phi3.1-3.8B 为 2.47/4.71,均优于同骨干级联系统(Qwen3-4B 2.35/4.57、Phi3.1 3.13/5.12)与 AlignFormer(Phi3.1,38k 小时)的 3.52/6.47。未见任务语音翻译 CoVoST2 en-de:端到端 Qwen3-4B BLEU 19.97(级联上界 19.88),Phi3.1 为 16.82(级联 19.37);对照 AlignFormer 15.70、LegoSLM(Gemma-2B,56k 小时,SFT)21.1、Whisper+LLaMA-7B 级联 18.2。en-zh:Qwen3-4B 33.74(级联 34.03),Phi3.1 16.49(级联 17.52),AlignFormer 10.97,TASU(Qwen2.5-1.5B,SFT)33.35。未见任务情感识别 IEMOCAP 四类(以指令跟随率 IFR 度量):端到端 Qwen3-4B 准确率 40.16(IFR=1.00)、Phi3.1 37.50(IFR=0.99);级联分别 42.98 与 44.76;AlignFormer 31.18(IFR=0.99)。规模性:训练数据从 1k 增到 2.8k 小时后 Qwen3-4B 的 en-de 19.97→21.13、en-zh 33.74→36.05;LLM 从 1.7B→4B→8B 时 en-de 为 14.12→19.97→20.12、ER 为 29.52(IFR=0.88)→40.16→41.45。消融(Table 2):阶段 1 去掉 commitment loss 时模型不可用(NB 解码 VP 100.00、CoVoST2 0.00);阶段 2 去掉 commitment loss 反而 ASR 略好、未见任务只小幅下降(en-de 19.97→19.69);把 modified-CTC 换成标准线性 CTC 头后,NB 训练下未见 ST 崩塌到 BLEU 1.30(modified-CTC 为 19.02)。与 Wav2Prompt 对比(Table 3):去掉几何回归损失后 Wav2Prompt 的 en-es BLEU 从 13.8 崩到 5.4,而 DirectSpeech2LLM 只从 19.97 降到 19.69。空白 token 的位置过拟合:WB(带空白)训练在未见 ST 上表现差(en-de 5.80),推理时去掉空白嵌入即可修复(NB 解码 19.97)。58
证据与局限:实验较扎实——两个 LLM 家族(Qwen3 与 Phi3.1)、多规模(1.7B/4B/8B)、数据规模(1k/2.8k)、三个任务,以及一组较完整的消融(commitment loss、空白 token、线性 CTC 头、输入排序技巧、Wav2Prompt 敏感度对照),并用与 AlignFormer 相同骨干做受控对比;但未报告置信区间、方差或显著性检验,只训单一 ASR 任务、语料限于英文,且论文标注的代码仓库实测 404,无法复现。设置:训练数据只用英文 ASR——LibriSpeech 960 小时(1k),另加 Mozilla Common Voice v24 英文 1800 小时组成 2.8k,带 SpecAugment;LLM 骨干 Qwen3-4B 与 Phi3.1-3.8B(均冻结),规模消融另用 Qwen3-1.7B 与 Qwen3-8B;SFM 为 ASR 微调过的 Data2Vec-Large(24 层,约 3 亿参数),原线性 CTC 头替换为对齐 LLM 嵌入维度的新头;训练固定步数而非收敛(§4.3 记阶段 1 训 50k 步、阶段 2 训 20k 步,与表 2 注的标注口径不一致,引用时需注意)。评测:ASR 用 LibriSpeech test-clean/test-other 与域外 VoxPopuli;ST 用 CoVoST2 en-de/en-zh;ER 用 IEMOCAP 四类(set 5)。算力(GPU 型号/卡数/总时长)原文未报告。机构为 IIIT Delhi、Microsoft Research India 与新加坡国立大学;v1 于 2026-10-06 提交(cs.CL),无会议接收信息。原文未提供可访问的代码页(论文脚注给出的 https://github.com/raotnameh/DirectSpeech2LLM 实测 HTTP 404)。58
与本节其它条目的关系:与 InterCorrect(arXiv:2610.08604)同以 ASR 为核心(本条用 WER 评测未见任务上的保持,那条用 WER 评测公平性与子群不均衡)。与端侧自校正语音翻译(arXiv:2610.07545)同评语音翻译(本条 CoVoST2 en-de/en-zh,那条 FLORES-200 en-es),且都主张轻量、免大规模任务适配的流水线。与 HiPLEX(arXiv:2610.07727)、PERSIST(arXiv:2610.07725)共同构成「语音与语言模型如何接口」的三条路线:本条把语音对齐到冻结 LLM 的嵌入码本,PERSIST 用语义加时间的记忆向量与说话人嵌入,HiPLEX 直接在离散语音 token 空间上做策略优化。与神经编解码器脆弱性(arXiv:2610.07216)在「离散 token/码本是系统核心」这一点上相邻:本条的码本是 LLM 词嵌入,那条量化神经编解码压缩对判别系统的破坏,两篇都关心中间表示的几何性质。58
结论建议:若目标是「一个用 ASR 训出来的语音接口要能跟随未见任务指令」,优先试负平方欧氏距离型 CTC 直接接冻结 LLM 的端到端方案,并注意两个可复现的坑——commitment loss 在阶段 1 不能去掉(否则模型不可用),空白 token 固定在序列首位会诱发位置过拟合(推理时去掉空白嵌入即可恢复);引用其指标前须自行重复运行,因为原报告无误差棒,且标注的代码仓库当前不可访问。58

5. 质量门控自校正净增 0.67 BLEU,但 τ=0.90 时触发 86.2% 的句子

Quality-Aware Self-Correcting Speech Translation on an Edge Device · arXiv:2610.07545 · 值得扫读
研究问题与核心方法:一台 4 GB 显存的低端边缘设备能否在完全离线、不重训的前提下把语音翻译跑通、自己发现弱翻译并做二次纠正。流水线为四级级联:Whisper-tiny(约 39M 参数)做英文 ASR → Helsinki-NLP Opus-MT en-es(约 78M 参数)做翻译(一遍贪心解码 N=1)→ 用多语言 BERT base 的源/目标句向量余弦相似度当无参考质量估计(QE)分数 s∈[−1,1],低于阈值 τ 就触发二次纠正 → eSpeak-ng 合成西班牙语。二次纠正先生成 N 个候选,再从三种方法里选一个:(M1) 用同一个 mBERT 余弦对候选打分取最高;(M2) 最小贝叶斯风险(MBR)解码,用候选与其他 N−1 个候选的平均 ChrF 相似度(同伴共识)选最高,不再看源句也不用 QE 模型;(M3) 受约束束搜索(CBS),把一遍贪心里长度 >3 的内容词当软锚点、提升含锚点假设的分数后再用 mBERT QE 重排。内存策略上对比「顺序加载(每次只驻留一个模型)」与「单次加载(四个模型同驻,峰值 3.6 GB)」两种架构。59
关键结果:内部基线(1,012 句)BLEU 26.09 / ChrF 54.85,显著性用配对 bootstrap(n=1000)。τ=0.90、N=10 时(表 1):M1(QE 重排)−0.14 BLEU / −0.11 ChrF / −0.0004 COMET,均不显著;M2(MBR)+0.67 BLEU(p<0.001)、+0.51 ChrF(p<0.001)、+0.0011 COMET(N=10 时单独不显著,p=0.107);M3(CBS)−0.96 BLEU / −0.86 ChrF / −0.0061 COMET,显著劣于基线(单侧 p>0.99)。τ=0.90 下 N 的取舍(表 2,M2):N=3 → +0.59 BLEU(p<0.001)/ +0.37 ChrF(p<0.001)/ +0.0020 COMET(p<0.01);N=5 → +0.47 / +0.32 / +0.0012(COMET 不显著,单侧 p=0.082);N=10 → +0.67 / +0.51 / +0.0011(不显著,p=0.107)——即词汇指标在 N=10 最优、语义指标 COMET 在 N=3 最优。增益/编辑比 GER=ΔCOMET/TER(表 3,M2,τ=0.90):N=3 中位 +0.0053(触发 485 句)、N=5 +0.0023(542 句)、N=10 +0.0048(580 句);N=10 的 GER 均值是负的(−0.0019)而中位为正,说明大 N 下存在一长尾「大改动、低语义收益」的句子。触发率(表 4):τ=0.75 为 0.1%、τ=0.80 为 1.3%、τ=0.85 为 22.7%、τ=0.90 为 86.2%。延迟(§7):顺序加载下每个 utterance 平均约 82 s(模型重载占大头),二次纠正额外约 23.9 s;改用单次加载后峰值常驻内存 3.6 GB(4 GB 上限内),一个约 10 s 的 en-es utterance 约 41 s,MBR 自校正开销从 23.9 s 降到 13.2 s。结论:QE 作为「门控」有效、作为「排序器」无效,把 QE 模型从候选选择环节移除不损质量并可释放约 680 MB(mBERT 约 680 MB vs COMET-Kiwi 约 2 GB 峰值)。59
证据与局限:证据结构相当规范——完整 4×3 网格(36 个配置)全在附录给出、配对 bootstrap 显著性加置信区间、单独报触发率,并额外给出逐句 GER 与消融式的架构对比(顺序加载 vs 单次加载)。弱点:只评一个语言对(en-es)且是书面文本基准(FLORES),不是真实语音输入;只有单一数据集、无第二个基准复现;延迟测量是单设备单次运行,未报重复次数与方差;摘要与表 1 的 COMET 增益数字口径不同(摘要引 N=3 的 +0.0020,表 1 头条是 N=10 的 +0.0011),易被误引。设置:硬件为 NVIDIA Jetson Nano 4 GB Developer Kit(Maxwell GPU、128 CUDA 核心、4 GB LPDDR4),COMET 评测在 Google Colab CPU 上完成(Nano 内存不足),两处使用相同权重与假设文件;数据为 FLORES-200 eng_Latn→spa_Latn devtest 共 1,012 句(来自 English Wikinews、跨主题均衡),ASR 侧用 FLEURS 英文音频与配对转写;搜索网格 τ∈{0.75,0.80,0.85,0.90} × N∈{3,5,10} × 3 种方法 = 36 个配置,贪心基线(N=1、不纠正)只算一次作为统一对照,指标为 sacreBLEU、ChrF、COMET-22。多语言方面,同一架构换 Opus-MT 模型与 TTS 音色可扩展到 6 个语言对(en↔es, fr, de),仅做现场演示、未做量化评估;不涉及训练(全为推理期自校正)。作者为 University of Surrey 的 Zubair Ajmal Farooq 与 Diptesh Kanojia;v1 于 2026-10-06 提交(cs.CL),全文投稿至 Convergence 2026 会议论文集、海报已在同校 Convergence 2026 展示(属投稿/海报,不是正式录用信息)。代码页 https://github.com/juebae/speech-translation_edge_device 实测 HTTP 200(地址出现在 abs 页 Comments 字段,正文未给),数据为公开第三方数据集(FLORES-200、FLEURS)。59
与本节其它条目的关系:与 DirectSpeech2LLM(arXiv:2610.08085)同评语音翻译且都走轻量流水线(本条的 ASR 约 39M、翻译约 78M,在 FLORES en-es 上;那条在 CoVoST2 en-de/en-zh 上)。与 InterCorrect(arXiv:2610.08604)在「阈值与评分口径决定可见结论」上同构:本条的核心变量是 QE 阈值 τ(触发率 0.1%→86.2%),那条是子群级 WER 分解。与 PERSIST(arXiv:2610.07725)都在端侧报延迟预算,但量级相差悬殊(本条约 41 s/utterance,那条为毫秒量级的检索)。与神经编解码器脆弱性(arXiv:2610.07216)同属「让语音系统在受限或不理想条件下运行」的评测:本条受 4 GB 显存与模型重载约束,那条受神经编解码压缩失真约束。59
结论建议:在边缘设备上部署语音翻译时,采用「质量估计当门控、不当作排序器」这一分工——门控有效且廉价,排序改由 MBR(同伴共识)承担,可免掉约 680 MB 的 QE 模型常驻;同时把 τ 当一等实验变量并同时报触发率,因为 τ=0.90 会让 86.2% 的句子触发二次纠正,此时「按需纠正」实际已接近「整体改用 MBR 解码」。59

6. 神经编解码压缩把最强深伪检测器的 EER 从 1.01% 抬到 51.2%

Exposing and Mitigating Neural Codec Vulnerabilities in Audio Deepfake Detection · arXiv:2610.07216 · 值得扫读
研究问题与核心方法:现有音频深伪检测的鲁棒性研究几乎只针对「生成之后再施加」的后处理扰动(加噪、MP3/AAC 等),但神经音频编解码器在 ALM 语音合成里已从后处理变成生成过程本身的一部分(编解码解码器就是重合成模块)——检测器在这种「编解码器引起的失真」下会怎样,以及把 CoRS(codec resynthesis,编解码重合成)数据当 CoSG(codec speech generation)代理来训练是否会加剧这种脆弱性。①暴露问题:构造 ANC-Spoof 数据集,把 7 种神经编解码器(BigCodec、DAC、Higgs Audio V2 Tokenizer、Mimi、SNAC、SpeechTokenizer、WavTokenizer)逐一施加到 ASVspoof 2019 LA、In-the-Wild、FoR 三个基准的每条语句上(真/假都压,标签保持),再评测 7 个 SOTA 检测器(标准型 AASIST、XLS-R-SLS;抗操纵型 CLAD、RawNet2-RawBoost;CoRS 训练型 W2W2-AASIST、MMS-300M、XLS-R-2B)。②给出缓解:PCL-NET(Pairwise Consistency Learned Network)——微调预训练 XLS-R-300M 编码器;对每条训练语句,除原始波形外再生成一个神经编解码压缩版本,两者过同一个编码器加分类器(配对只在训练期用于算正则项),用 L1 成对一致性损失把同一句话在原始/压缩两种视图下的表征拉近,再加对两种视图都施加的交叉熵分类损失 L = L_cls + λ·L_con(λ=0.7);前端用逐层注意力权重对 XLS-R 各 Transformer 层隐状态做加权融合(d=1024),后端为 BN + SELU + 时间维最大池化 + log-softmax,推理时只需一次前向。13
关键结果:SOTA 脆弱性(Table II,EER%)——传统压缩(MP3/AAC/Opus,12K–96K)会退化,但神经编解码器造成更严重的下降。CoRS 训练型最脆弱:XLS-R-2B 在未压缩 FoR 上 EER 仅 1.01%,神经编解码压缩下平均 EER 升至 51.2%(接近随机水平);MMS-300M 在 FoR 上平均 28.45%、Wild 上 38.43%;W2W2-AASIST 在 ASV19 平均 17.59%。非 CoRS 系统退化相对温和:AASIST 在 ASV19 平均 7.54%、XLS-R-SLS 6.21%、CLAD 6.94%、RawNet2-RawBoost 9.28%。PCL-NET 效果(Table III):神经编解码压缩下平均 EER 从 28.67%(SOTA 平均)降到 12.77%;逐数据集看(All 变体,即每条语句从 7 个编解码器中随机选一个做一致性学习)平均 EER 为 ASV19 5.15%、Wild 23.44%、FoR 9.82%,而无一致性损失的 Baseline(只在不压缩音频上训练)为 ASV19 6.92%、Wild 23.53%、FoR 41.93%——最大改善发生在 FoR(41.93%→9.82%);All 变体同时改善传统压缩下的鲁棒性(FoR 12K EER 从 35.78% 降到 7.38%)。CoSG 检测泛化(Table IV,仅在 real 与 CoSG 样本上评测,EER% 越低越好):CoRS 训练型依旧最强(XLS-R-2B 3.67(CodecFake+)/3.64(CDD)、MMS-300M 5.5/6.51、W2W2-AASIST 9.9/16.89),非 CoRS 基线很差(AASIST 42.23/37.72、CLAD 44.57/41.95、RawNet2 44.9/40.60、XLS-R-SLS 24.26/31.32),PCL-NET 各变体介于两者之间(Baseline 21.81/29.39、BigCodec 22.04/24.29、HiggsV2 22.65/26.35、SNAC 31.28/24.65、All 31.28/23.09)。ANC-Spoof 规模(Table I):合计 158,713 条原始语句加 1,110,991 条编解码压缩语句,共 1,269,704 条。13
证据与局限:中偏强——7 个 SOTA 检测器 × 7 种神经编解码器 × 3 个基准的完整矩阵,另有传统压缩 4 个码率作对照、按单个编解码器训练的多组消融、以及 CoSG 检测的反向检验(CodecFake+/CDD);短板是没有方差或置信区间(表格为单点 EER)、没有与「抗压缩训练」等其他缓解方式的水平对比、也没有说明训练超参与算力(不可复现)。设置:ASVspoof 2019 LA 的训练与验证划分用于模型开发,三个数据集(ASV19、In-the-Wild、FoR)的评测划分用于泛化测试,每条语句生成 7 个编解码压缩副本;另在 CodecFake+ 与 CodecDeeepfakeDetection(CDD)上评测,只用其 real 与 CoSG 样本。7 种编解码器配置包含 BigCodec(159M 参数,约 1 kbps 极低码率)、DAC(RVQGAN 改进版,最低 8 kbps)、Higgs Audio V2 Tokenizer(25 帧/秒)、Mimi(24 kHz→12.5 Hz 流式,从 WavLM 蒸馏)、SNAC(多时间分辨率 RVQ)、SpeechTokenizer(RVQ 分离语义与声学)、WavTokenizer(单量化器重建 24 kHz,40–75 token/秒);模型为 XLS-R-300M 编码器(1024 维隐层)加逐层注意力融合与轻量后端,损失 λ=0.7,指标统一用 EER。训练超参(epoch 数、batch size、优化器、学习率)与算力(GPU 型号/卡数/时长)原文未报告。机构为 University of Michigan-Flint(College of Innovation and Technology),第一作者 Abdullah;v1 于 2026-10-05 提交(cs.SD),许可证 CC BY 4.0,数据集声明「接受后将在 Hugging Face 公开发布」(当前未提供链接)。原文自陈的局限:ANC-Spoof 使用后处理式的编解码压缩,而非原生 ALM 生成的 CoSG 样本,后者可能还含 token 预测层面的额外伪影;在 CoSG 检测上不追求超过 CoRS 专用系统。原文未提供任何 URL(代码仓库与数据集地址均缺)。13
与本节其它条目的关系:与 HiPLEX(arXiv:2610.07727)共享「神经编解码器是系统本身一部分」这一前提:HiPLEX 的动作空间就是离散语音 token,本条量化神经编解码压缩对判别系统的破坏。与 DirectSpeech2LLM(arXiv:2610.08085)在「离散 token/码本的几何性质」上相邻——本条在表征空间做成对一致性对齐,那条把 LLM 词嵌入当码本做距离型 CTC。与 InterCorrect(arXiv:2610.08604)、端侧自校正语音翻译(arXiv:2610.07545)同属「在非理想条件下评测语音系统」:本条以神经编解码压缩为受控失真维度,那两条分别以人口统计子群与 4 GB 显存为条件。与 PERSIST(arXiv:2610.07725)在「语音侧表示的鲁棒性决定下游可用性」这一点上相邻(本条是检测表征,PERSIST 是说话人与时间记忆表征)。13
结论建议:评测任何基于 codec token 的语音合成或语音对话系统时,把「神经编解码压缩」当作独立的失真维度纳入测试——最强检测器在未压缩 FoR 上 EER 只有 1.01%、压缩后平均升到 51.2%;缓解侧优先采用保标签的成对一致性训练(原始/压缩两视图在表征空间对齐),但要接受它换来鲁棒性的代价是 CoSG 检测能力弱于专用 CoRS 系统,且引用前须自行复现,因为原报告为单点 EER、数据集又承诺接受后才公开。13

九、邻近跟踪:评测口径、判官与基准审计

1. 智能体评估补上语义层:110 个证据—来源配对中仅 11 个可直接见证行为

EIO-Agents: The Missing Semantic Layer for AI Agent Evaluation · arXiv:2610.07675 · 值得扫读
研究问题与核心方法:智能体评估产出的分数、轨迹与判官结论缺少共享语义标准,无法说明"证据支持了什么主张、该主张凭什么成立、为何推出该决策",因此结果难以跨工具比较、独立质疑或跨组织与监管边界迁移。EIO-Agents 分两层:EIO 语义层把评估链固定为 Evidence→Predicate→Claim→Proof→Decision,证据按 evidence type / source type / anchor 三元类型化并定义见证规则(witness rule)——只有特定类型+来源+锚点精度的引用才能见证智能体行为;证明状态由"决策者∈{deterministic,human} ∧ 存在见证且锚定的引用 ∧(观测为 exact 或代理观测 recurrence=CONFIRMED)"三条件判定。PER 记录层用 RFC 8785 JCS 规范序 + SHA-256 做内容寻址,含 14 个固定顶层块,参考实现提供 project/validate/verify/explain 四个命令与 CLI/Python 双接口。60
关键结果:Table 1 列出规范内容:41 个按摘要固定的模块、58 个谓词(49 风险 + 7 保障 + 2 观测)、11 种证据类型(其中 7 种可证明行为)、10 种来源类型(其中 5 种可作证)、11 个 resolver(8 确定性 / 2 语义 / 1 人工)、7 个 claim 状态、36 个解释模板、126 条覆盖义务、165 个控制项(全部 provisional)。见证矩阵(Fig.4)显示 110 个"证据类型×来源类型"配对中仅 11 个可直接见证智能体行为、3 个需与配对工具调用同引、13 个兼容但永不见证、83 个不兼容。信贷核保走查档案 FIN_3 由 243 条 claim 得到 12 个 finding,readiness 由原始 65.3 被封顶到 49 并判 BLOCK;同一封顶规则把考试评分档案 EXAM_B 的 readiness 从 65.0 封到同值 49,却因同一代理观测在 5 次重跑中 0 次复现(UNCONFIRMED)而改判 REVIEW——用以说明"分数≠决策"。60
证据与局限:属规范类论文,无监督学习基准、无统计检验,实证仅 3 个冻结评估档案加 1 个手写 bundle 的走查;单一作者,且作者与创建并维护该规范的 ProofAgent.ai 存在利益冲突(原文自带声明),机构为 ProofAgent.ai 与芝加哥大学。165 个控制项全部 mapping_status: provisional 且 legal_review_required: true;作者明确验证只保证完整性(well-formed、派生块与 claim 一致、摘要匹配)与可导性,不证明 bundle 来自真实运行、不证明陪审团会复现;语义 resolver 的决策永不 Proven,单独最多把建议提到 REVIEW 而非 BLOCK。60
与本节其它条目的关系:与第 3 条(同数引用互换)、第 5 条(判决与证据两轴拆分)同在"分数/判官结论是否可核查"这条线上,EIO 给出的是元层语义契约;与第 9 条(证据受控任务对)都主张把"证据是否支撑某主张"写成可判定的条件,一个用规范与见证规则、一个用配对反事实。60
结论建议:值得扫读,重点看见证规则、occurrence/recurrence 双账本与 pass^k 估计器;"110 个配对中只有 11 个能直接作证"这类数字适合当成自建评测报告的字段检查清单,而不是性能结论——该规范尚未获任何标准组织承认,且语义判定永不 Proven,下游仍需人工兜底。60

2. 两个外来域的训练胜过目标域自身:留一域迁移 ρ=0.54,域内训练只到 0.48

Language Carries the Expert's Impression: Instrument-Anchored LLM Judges Transfer Counseling-Quality Assessment and Beat In-Domain Training · arXiv:2610.08055 · 邻近跟踪
研究问题与核心方法:在专家评分语料既小又贵的情况下,能否让模型在没有贡献任何训练数据的新咨询领域预测专家的整体印象评分,并比用目标域自身数据训练更好。做法是把每个会话压成一组会话级标量,用留一域(LODO)协议:两域池化数据训练、在第三个域测试,报三折均值。核心特征家族是"工具锚定的 LLM 裁判"——小型本地开源 LLM 读完整双人转写(时间序、标注说话人,用域中立标签 B=被评者 / G=对话者,不含职业以去域先验),以 JSON 返回 1–5 分的会话级构念分;三组构念电池中的 BGR+OSCE 电池直接派生自专家评分工具(BGR 条目 + mirroring/NURSE/主动倾听等共情技巧 OSCE 清单 + 视角翻转项)。模型链为中位数填补 → 方差阈值 → 标准化 → 选择器(F-score / 互信息 / RFE / PCA)→ 回归器(ridge / elastic net / RBF-SVR / 梯度提升 / all-threshold 序回归)。61
关键结果:LODO 嵌套 Spearman ρ=0.54(固定配置 0.55,三折 0.56/0.50/0.57),而目标域内 5 折 CV 的最强单元只到 ≤0.48;跨域训练对域内训练的配对差 +0.15(95%CI [+0.10,+0.19]),把外来训练集下采样到域内参照的样本量后差距为 +0.12 且每折都赢(200 次抽取中 96–100%)。加入目标域自身数据无益:6 个"域×特征集"单元全部更差,平均差 0.02。语言主导:最终五裁判集成 LODO ρ=0.528(固定)/0.513(嵌套),非言语-双人块最佳单元单独只 0.281、叠加在语言上仅 +0.03(配对 bootstrap 95%CI [−0.012,+0.072],跨 0);对照组宽函数 0.192、句向量 0.052、仅轮次统计 0.000。构念比引述条目描述重要:问专家的构念把迁移从 0.321 提到 0.414,而电池固定时引述条目的水平描述只加 +0.004。上限论证:目标是单评审评分,完美模型上界约 √ICC,Teach 约 0.73、医学语料 0.88–0.92,0.54 约为最噪目标允许值的 75%、最干净目标的 60%。61
证据与局限:三个德语模拟咨询语料共 n=195(Ticks 57、Vacc 53、Teach 85),时长 7.1±0.6 / 6.9±0.9 / 9.5±2.3 分钟,评审人数 2 / 4 / 4,评审一致性 ICC .80 / .77–.85 / .53–.82;算力为两台各一块 NVIDIA RTX 4090(24GB)的校内工作站,LLM 裁判共约 40 GPU-hours(12B–30B 模型 4-bit 量化、经 ollama 0.32.1)。短板:n=195 且 LODO 只有三折、跨折波动明显(最终集成 0.50–0.57);交叉验证折未按参与者/演员/评审分组(Ticks 全程同一位标准化病人),无法分离"咨询质量"与"演员风格/评审严厉度";逐域 z 标准化属 transductive,假设能拿到目标项目一批无标签会话,不支持单条即时评分;证据只支持排序而非标定打分。裁判侧的负面清单:评分带压缩、qwen3.6-27B 跨种子只复现自身分数的 44–56%、推理模式反复破坏 JSON 契约(qwen3.5-27B 大多不可解析)、gemma4-12B 与 granite4.1-8B 塌到量表上限,故需要标签无关的筛选门。61
与本节其它条目的关系:与第 6 条(WorldSolver 的 VLM 视觉保真度打分)、第 3 条(把 Jev 当金融证据判官做压力测试)同属"判官可信度"议题——本条专门刻画 LLM 判官作为特征提取器的噪声结构并给出失效清单,第 6 条则是用 VLM 判官给视觉分且未报人机一致率数值,两条合起来可作"评审是否可信"的对照材料。61
结论建议:邻近跟踪,重点看其判官筛选门(30 个试点会话中 ≥90% 会话三次种子内返回可解析对象、每构念均值标准差 ≥0.35)与负面清单;引用"跨域胜过域内"时必须带上 +0.12 的下采样对照与域内参照本身不稳定(20 次划分均值为 .46±.03、单次划分 .42)这一前提,不要把 ρ=0.54 当作可直接打分的能力。61

3. 自然记录 AUROC 0.986 之下,6 个同数换引仍有 4 个角色错误被接受

Same-Number Citation Swaps: Stress-Testing Jev as a Financial Evidence Judge · arXiv:2610.08675 · 邻近跟踪
研究问题与核心方法:财务报表会把同一个数值重复出现在不同期间、指标和会计科目上,因此 LLM 生成的计算可能数值正确却引用了错误的财务角色。本文在数值匹配已经做到之后,检验概率型证据验证(Jev 作为来源支持验证器)还能带来什么、又会在哪些引用改动上失效,用三段递进的受控实验:①自然记录——96 个 FinQA 单步计算题(每题 1 次 Jev 数值选择 + 2 条 GPT-4.1-mini 计算轨迹 = 192 条记录),把指针解析成被引证据,用固定的二值问题问 Jev"被引证据是否支持该记录的算数值与财务角色";②同数引用互换——固定算数值与运算,只把指针从一个格子挪到另一个含相同数值的格子(arm A 保留原引用、arm B 指向同数异角色格),15 个对比分为 6 个明确角色错误 + 6 个等价对照 + 3 个边界;③显式列头——只对 7 个"仅改列"对比,把所选列的列头显式重复写进引用展示,测表示方式本身是否改变判断。62
关键结果:自然记录上判官指标很强:190 个二值标签 Brier 0.03378、AUROC 0.98587(2,000 次重采样的 95% 问题级 bootstrap 区间分别为 [0.01814,0.05260] 与 [0.96356,0.99938]),0.8 阈值下 27 条"数值对/角色不支持"轨迹全部被扣下(最高概率 0.79)。但 192 条执行输出中有 27 条数值与答案键一致却引用了不支持的角色(涉及 14 个问题)。同数互换(原始渲染)15 个对比中,只有 2 个明确角色错误的 B 均值掉到 0.8 以下、另外 4 个仍被接受;6 个等价对照里也有 2 个 B 均值掉到 0.8 以下。显式列头下,4 个被选中的角色错误对比里 8 条 B 调用由"原始渲染全被接受"变为"显式渲染全部被扣下"(阈值 0.8),代价是两个等价对照的显式 B 均值降到 0.785;在新来源页 36 题跟进中 A−B 中位数从 0.500 降到 0.440。事后敏感性:排除问题 444 后净增益消失(两种渲染的配对分离都是 8/14)。原始发布端点上 Jev 在 96 题命中 95 个,门控规则只触发 12 题而这 12 题主答案本来就全对。62
证据与局限:受控设计干净(同数互换固定住数值匹配、有等价事实对照、有非作者盲评),但规模很小:192 条自然记录、15 个构造对比、36 题跟进、单评审且无一致性估计,关键扩展都是事后设计。作者自陈历史标签来自非盲的助手复核、检查工件"私下保留、公开访问仍在待定"(无公开 URL),只评估一个 Jev 身份(typesafe/jev-1.13-20260917)与一个生成模型别名(openai/gpt-4.1-mini 不锁权重);两个等价 B 均值贴近阈值、决策对小概率变化敏感;计数只描述被选中的案例,财务报告中的失败流行率仍未被测量。全部为 API 调用,只报金额成本(自然库 288 次调用 0.14781 美元),GPU/硬件未报告。62
与本节其它条目的关系:与第 9 条(证据受控任务对)都用配对反事实固定住其余条件、只动一条证据来隔离单一判断维度;与第 6 条共享"给判官看的表示本身就是被测系统的一部分"——本条证明显式重复关键字段会既提高敏感度又压低等价引用支持,与第 1 条的见证规则、第 5 条的双轴拆分一起构成"判官输入与判据决定了结论"的一组证据。62
结论建议:邻近跟踪;把"同数引用互换 + 等价事实对照"当作判官评测的双向指标模板搬用(它同时测误杀与漏放),但不要把 AUROC 0.986 当作该判官可靠的证据——聚合指标与个案行为在此严重脱节,且只看构造案例的计数无法给出流行率。62

4. 忠实判据把假阳性推到 95.9%,改用事实正确判据后降到 41.7%

The Labeling Problem in Hallucination Detection Benchmarks: An Empirical Evaluation · arXiv:2610.08026 · 邻近跟踪
研究问题与核心方法:开放域 QA 幻觉基准的自动标注往往在"参考忠实(答案是否被参考答案充分支持)"与"事实正确(答案是否含矛盾或不实的具体断言)"两种判据间含糊。作者形式化 y_faith(任一 claim 不被参考支持即为幻觉)与 y_fact(仅当 claim 与参考矛盾或其具体事实断言不实才为幻觉),指出二者只在"正确核心答案 + 参考中缺失的真实补充"这一类上分歧(y_faith=1、y_fact=0);构建 900 个问题-答案对的人工标注审计集(TriviaQA/HotpotQA/TruthfulQA × Llama-3-8B/Gemma-2-9B/Mistral-7B),与两类自动标签源(ROUGE-L/BERTScore 词面与嵌入相似度、T5-11B 参考蕴含 NLI、7 个 LLM 判官)比对一致率、偏差方向与 FP/FN,并对 GPT-5-mini 做 p1(忠实式)/p2(事实正确)/p3(扩展 p2)受控 prompt 消融,再用第二组 prompt 与判官家族检验泛化。63
关键结果:300 项重叠子集独立标注者间一致性 κ=0.808(95%CI [0.729,0.879])。幻觉率(A1 判据)Llama-3-8B 44.7%、Gemma-2-9B 38.0%、Mistral-7B 51.0%;按数据集 HotpotQA 72.3%、TriviaQA 30.3%、TruthfulQA 30.6%。GPT-5-mini 主消融(κ / bias / FP-FN / FP%):Llama 生成下 p1 0.530 / +0.223 / 70-3 / 95.9 → p2 0.756 / −0.020 / 15-21 / 41.7 → p3 0.744 / +0.007 / 20-18 / 52.6;Gemma 生成下 p1 0.498 → p2 0.770;Mistral 生成下 p1 0.194 / +0.383 / 117-2 / 98.3 → p2 0.626。偏差方向在 GPT-5.4 最强、Claude Opus 4.7 最弱;ROUGE-L 多为假阴性倾向、BERTScore 混合。补充干预:去掉 p1 评价下答案的"补充性内容"后假阳性率从 52.9% 降到 23.2%(45 例 FP→TN vs 4 例 TN→FP)。因子消融显示固定事实正确判据并增加决策结构无可测变化,改判据则在两种结构水平上都提升一致性——关键在于"区分缺失与矛盾",不是 prompt 更啰嗦。63
证据与局限:中——900 对人工标注、300 对独立双标(κ=0.808)、7 判官 × 3 生成器、受控 prompt 消融与 McNemar 精确检验加 bootstrap Δκ 区间齐备;但限于英语开放域 QA、短参考与 3 个较小开放权重生成器,人类标签用 A1 单人而非共识裁决,只测单一判据(y_fact)且未与"参考忠实判据下的人类标注"对比,答案级二元标签无法表达错误严重度或部分正确,LLM 生成与评判会随随机种子、实现与供应商模型版本变化,结果只对固定设置成立。算力与硬件原文未报告。机构为赫尔辛基大学计算机科学系,Business Finland(ITEA4 计划 ELFMo,grant 23004)资助其中三位作者。63
与本节其它条目的关系:与第 3 条(等价引用被误退、角色错误被漏放)同属"判官/标注的效度"问题,与第 9 条给出的高判官一致率(Cohen's κ=0.93)构成正反两面:判断可靠性可以很高,但若判据本身选错,一致性高也只说明大家都按错的口径打分。与第 5 条一样把"结论对不对"与"支撑是否可核查"拆成两条轴来测。63
结论建议:邻近跟踪;可直接搬用其判据对齐检查清单——基准必须声明测的是参考忠实还是事实正确、prompt 必须区分"缺失 vs 矛盾"、任何自动标签源都先用小规模人标集验证一致率与偏差方向,尤其适用于所有以 LLM-as-judge 给长程 agent 打分的流程。63

5. 只靠判决微调的准确率 0.896 超过拒绝采样 0.797,证据 F1 却拉不开差

Verdicts Without Annotated Evidence: Rejection Sampling or Label-Only Post-Training for Evidence Recovery? · arXiv:2610.06962 · 邻近跟踪
研究问题与核心方法:很多复核流程只保留结论/判决,支撑它的段落从未被标注;如果训练时只有判决、完全没有人工标注的证据 span,一个小模型能在多大程度上恢复出可核查的证据引用,以及"只用标签 SFT"与"拒绝采样 SFT"哪条路更值。本文在 ContractNLI 上把判决准确率与证据质量拆成两条轴分别测量,人类证据 span 只用于评估、训练任何阶段都不读。两条后训练路线:(A) label-only SFT——直接把裸判决(目标是 <answer> 里的 JSON 判决,平均 71 字符,相对 rationale trace 的 1,294 字符极短)作为目标微调,无候选生成、无引用监督;(B) RSFT——先用学生 Qwen3.5-9B 与一个更大的 31B sampler(Gemma-4-31B)生成候选(各出 1 条 greedy,判决不过关的行再跑采样,学生 k=32、sampler k=8),Gate 1 只保留"判决等于记录标签"的候选,Gate 2 用自动来源落地分(三级字符串匹配阶梯:逐字=3、规范化后逐字=2、≥60% 内容 token 落在同一连续片段=1、无法定位=0,取 3 条引用均值)排序后每行选 1 条,再跑 1 个 epoch 的 QLoRA(只对 target token 计损失)。64
关键结果:判决准确率(2,091 测试行):label-only SFT 0.896(faithful)/0.899(verdict_only)、RSFT 0.797、未训练 Qwen3.5-9B 0.747、sonnet-4.6 0.771、Gemma-4-31B sampler 0.786、gpt-5.2 0.808、多数类 0.463。配对比较(10,000 次成对 bootstrap + 精确 McNemar):label-only 对未训练 +0.149 [+0.131,+0.167](p=6×10⁻⁶⁰)、label-only 对 RSFT +0.099 [+0.083,+0.115](p=3×10⁻³⁴)、RSFT 对未训练 +0.050 [+0.036,+0.064](p=4×10⁻¹²)、RSFT 对 31B sampler +0.011(p=0.20)。证据轴上两者无法区分:span F1 相对未训练基线的增益 RSFT +0.062(95%CI [+0.042,+0.082])、label-only +0.071([+0.053,+0.090]),label-only 减 RSFT = +0.009(按文档聚类后 CI 跨 0)。两轴解耦的反例是 gpt-5.2:准确率 0.808 最高档,但全引用逐字率最低(48.7%)、span F1 与未训练学生并列 0.493(仅看四个现成系统时准确率–逐字率相关 −0.27)。机制上证据 F1 由判决中介;先验标定控制(只在训练集拟合混淆表、不读合同文本)只恢复了 RSFT 准确率增量的 37%。64
证据与局限:中偏强,但单语料单学生单 seed——QLoRA rank 64、1 epoch、seed 42,硬件 1 张 L40S 48GB(候选生成 6.8 GPU 小时 + RSFT 训练 2.90 h,label-only 2.63 h),置信区间只量化测试行间的变异、不覆盖训练初始化;作者自陈选择与评估共用同一三级字符串匹配阶梯造成循环性,故以逐字率为首要指标;与 Span NLI BERT(0.892 准确率)的对照是描述性的非匹配比较;遗留预注册的三项绝对门槛(准确率 ≥0.850、全逐字率 ≥0.700、span F1 ≥0.600)只达到逐字一项。机构为 PricewaterhouseCoopers, U.S.;原文未提供自建代码、数据或项目页。64
与本节其它条目的关系:与第 4 条(判据错配)、第 3 条(聚合指标与个案行为脱节)共享"单一标量指标不足以做选择"的实证;与第 9 条一样把"结果对不对"与"过程是否合规、证据是否可核查"分轴测量,两条都说明高准确率/高成功率不等于过程可信。64
结论建议:邻近跟踪;其"两条轴独立测量 + 选择与评估不得共用同一度量(否则循环),必要时改用独立指标与子集复核"的处置可直接搬进任何 agent 轨迹或证据的自动评审管线;同时注意 Gate 1(结果过滤)+ Gate 2(来源落地排序)正是一套用记录判决做拒绝采样筛选轨迹的现成协议。64

6. 168 个物理任务、7 个域上最高分仅 48.7%,域间落差可达 26 个百分点

WorldSolver: Can LLM Agents Simulate the Physical Dynamics via Solver Generation? · arXiv:2610.08720 · 邻近跟踪
研究问题与核心方法:给定一段物理现象的自然语言描述和一个固定的代码脚手架,LLM 智能体能否自己选对物理模型、推对数学形式、写成可执行数值求解器,让模拟既看得对(视觉)又算得对(物理)。每个任务给描述 d 与固定脚手架 S=(G,P,E,R)——G 定场景几何与资产、P 定物理参数/外力/边界条件、E 定执行协议与求解器接口、R 定渲染配置;智能体只能改求解器代码,按 s_{t+1}=Φ(s_t) 演化,产出状态轨迹与渲染视频。评测三轴:Execution Checks(能否跑通并产出有效输出,E∈{0,1})、Visual Fidelity(VLM 对采样关键帧按事件序列/交互响应/标志性现象/时间连贯性四个共享维度各打 0–1 后取均值)、Physical Plausibility(对每域预定义守恒律等违反函数 E_i,任务级规则集通常 M=3–5 条,算无量纲违反误差再映射到 [0,1]);最终分 s_k=E_k·(V_k+P_k)/2。任务取自 61 篇经典计算机图形学论文描述的物理现象,覆盖 7 个物理域、共 168 个任务,评分标准对智能体隐藏。65
关键结果:总体分(0–100)GPT-5.6-Sol 48.7% 最高、Claude-Opus-5 46.7%、Gemini-3.7-Flash 29.3%、DeepSeek-V4.1-Flash 24.6%、GLM-5.3 23.6%、Qwen-3.8-Max 22.7%、Kimi-K2.7-Code 17.1%。域级差异远大于总体差:GPT-5.6-Sol 与 Claude-Opus-5 总体只差 2 分,但在 Rods & Strands 上前者领先 26 个百分点、在 Cloth & Shells 上后者领先 24.3 个百分点;Gemini-3.7-Flash 在 Cloth & Shells 仅 9.5%、GLM-5.3 在 Multiphysics Coupling 仅 7.0%。阶段成功率:所有模型对 88%–100% 的任务提交了求解器,但产出有效轨迹+视频的只有 82%(GPT-5.6-Sol)到 38%(Kimi-K2.7-Code);最终分 ≥60 的通过率 GPT-5.6-Sol 41%、Claude-Opus-5 37%、Qwen-3.8-Max 14%、Kimi-K2.7-Code 8%。行为与成本:GPT-5.6-Sol 平均仅 13.07 次 model-call epoch 就拿到最高分,Kimi-K2.7-Code 用了 37.95 次(近 3 倍)却更差;墙钟平均 8.89 分钟对 Claude-Opus-5 的 18.59 分钟,Gemini-3.7-Flash 最快 2.59 分钟/任务。65
证据与局限:中等偏强——7 个前沿模型 × 168 任务 × 7 域,三轴协议互补,视觉分用 VLM 判官并与人类专家做一致性对照(附录 D),另含阶段成功率、工具使用分布与成本/墙钟分析;但单一自建基准、无跨数据集验证、无统计检验,视觉保真度的正文未报一致率数值,物理规则与上界由作者按域手工预定义(M=3–5 条)故跨域分数可比性存疑,60 分阈值被作者自称 illustrative 而非既定标准、容易被下游误当通过标准。生成时限 1800 秒/任务、求解器运行 600 秒/任务;GPU 型号与卡时原文未报告。机构为中科院自动化所(NLPR & MAIS)、北京大学与华为诺亚方舟实验室;论文声明的代码仓库 https://github.com/sirujiang/WorldSolver 实测 HTTP 404,数据集/项目页原文未提供。65
与本节其它条目的关系:与第 8 条(用真实 git merge 判定多智能体集成是否成功)同为"给不可验证的智能体行为接上客观信号",比的正是判分口径设计与失败归因方式——一个用求解器跑出的状态轨迹加守恒律,一个用环境级 merge-and-test;与第 2 条共同落在"LLM/VLM 判官是否可信"上(本条的 Visual Fidelity 正是 VLM 判分)。65
结论建议:邻近跟踪;把"固定脚手架只允许改求解器"当作把任务能力与工程噪声解耦的控制实验设计搬用,其"Kimi-K2.7-Code 提交率 99%、产出有效输出仅 38%(两端取自同一模型,也是全部模型中落差最大的)"是长程智能体时限—产出权衡的实测证据;引用时不要使用 60 分通过率作为标准,也不要把单次运行结果当稳定排名。65

7. 27 个配置总分全部低于 45%,状态重建占全部错误的 89.7%

DSV-Mem: Evaluating Multimodal Memory in Professional Workflows for MLLM Agents · arXiv:2610.08102 · 值得扫读
研究问题与核心方法:现有 MLLM 记忆评测多集中在日常/个人生活场景的图像、孤立静态附件、以回忆为主的问题;专业工作流需要"密集、信息量大、反复改版、来源权威变化"的工件并精确跟踪状态。DSV-Mem(Dense Stateful Visual Memory)构造 10 个专业场景、每个场景一条长对话(平均 212 轮、24 件密集视觉工件、最长约 50k token),工件经历多轮修订与不同来源的权威更新,题目带可执行的状态图作为答案依据;1000 问分五类归成三个能力族——权威感知的状态解析(Current State 100、Past State 100、Derived State 200)、带状态的变化追踪(Change History 350)、基于状态的冲突/拒答(Conflict/Refusal 250)。配套生成 harness 把"状态转移合成"与"对话填充"解耦,用转移算子库生成可验证的状态演化,并引入 Hartley 启发的准则去偏好需要更大范围视觉证据检视的题目。66
流程总览图:a 是从专业场景到已验证基准的四步(场景与制品、状态轨迹、对话实现、问答与验证),b 是状态转移的生成与校验循环,c 列出转移库的类型,d 列出校验项。
论文 Figure 2。基准的四步构造:场景与制品先定下来,状态轨迹被显式化为可重放节点,接着实现成自然多模态对话,最后过视觉证据门——只有同时需要视觉证据的题目才收;b 面板的「无效就改」回路与 d 面板的八项校验决定哪些题进入评测集。图片来源:论文原文。 66
关键结果:27 个配置(前沿闭源 MLLM、开放权重 MLLM、提示变体、记忆管理方法)总分全部低于 45%,区间从 3.3%(Qwen3.5-4B)到 43.4%(Gemini 3.7 Flash + 提示 hint)。模型更擅长追踪当前值而非更新历史:Gemini 3.7 Flash 在 Current State 上 61.7%、在 Change History 上只有 27.8%。能力画像互相分离:Qwen3.5-397B-A17B 在 Current/Past State 上强于 MiniMax M3,却在 Conflict/Refusal 上落后 9.2pp(6.8% vs 16.0%);最强的紧凑开放权重模型 Qwen3.5-27B 总分只有 9.6%,Gemini 3.7 Flash 为 39.6%。记忆管理方法全线低于基线:Gemini 3.7 Flash + Mem0 17.8、+SimpleMem 18.2、+MIRIX 15.5;CoT 只把基线从 39.6% 抬到 40.8%,强调版本差异的定向 hint 涨 3.8 分。错误定位显示状态重建占全部错误的 89.7%(人工复核把 85% 的抽样失败归因于状态重建,与自动标注 96% 一致)。受控干预(Gemini 3.7 Flash)把图像换成忠实文本使三类均值从 52.7% 升到 60.9%、只保留相关信息升到 65.2%、去掉状态演化升到 95.9%(+43.2pp);0–96K 无关 token 下准确率几乎不变(45.3–48.3%)。66
证据与局限:中等偏强——27 配置 × 5 类题目、除标 † 行外结果为三次独立运行的均值与样本标准差、含自动加人工双轨错误分析、三因子受控干预与 0–96K haystack 长度扫描;但 1000 题规模有限、场景为研究者构造而非真实工作流抽样,记忆方法与部分开放权重模型行标 †(单次运行),自提出的免训练 self-ledger 未给出具体分数;生成 harness 受模型/实现/随机性影响,重新生成会得到不同对话与工件。机构为 Amazon AGI 与南加州大学;数据集仅声明"将公开发布"而未给任何 URL,算力与训练设施原文未报告。66
与本节其它条目的关系:与第 1 条同属"带重复运行方差的评测口径"(本条报三次运行的均值与标准差,第 1 条给出 occurrence/recurrence 账本与 pass^k 估计器);与第 4 条(判据错配)同属"同一指标可能并不是在测目标构念"的实证——本条用"去掉状态演化 +43.2pp"直接证明难点是状态对账而不是上下文长度或近期性。66
结论建议:值得扫读;五类题目的切分可直接当作长程 agent 记忆能力的评测维度模板,"状态重建占 89.7% 错误、去掉状态演化 +43.2pp"是"记忆不是召回问题而是状态对账问题"的可引用论据;注意其分数极低(3.3%)的低端配置与前沿模型的差距可能更多反映多模态长上下文能力而非记忆本身。66

8. 事前调度把干净集成成功率从 1/9 提到 9/9,合并冲突从 13 降到 0

Verifying Coordination in Parallel Coding Agents: NP-Bench and a Scheduling Planner · arXiv:2610.07261 · 邻近跟踪
研究问题与核心方法:多个编码智能体并行改同一代码库时,各自单智能体评测都通过、合起来却坏掉。本文把并行协调形式化为调度问题而非事后告警:每个 work item 声明 scope σ(w)(将写的文件/符号)与 consumed contracts c(w),scope 相交即为冲突、scope 与 consumed set 相交即依赖边;算法 BuildPlan 建依赖边 → 标出必须偏离朴素编辑的项 → 用 Kahn 拓扑排序得稳定合并序(输入序 tie-break,成环时断掉下游消费者最少的生产者的边)→ 贪心着色把 scope 重叠图分成可并行批次 → 在 agent register/sync 时把 scope、合并槽位与改派理由交付给 agent。载体 Nerveplane 是本地优先守护进程 + SQLite + 一组 MCP 工具,通过"被动感知"循环轮询每个已注册 agent 的 git worktree。验证器 NP-Bench 设三臂对照(C0 无协调 / C1-detect 事后告警 / C1-plan 主动规划),Tier A 为确定性模拟(驱动真实 sensing/detection/routing/planner,agent 编辑脚本化),Tier B 为真实 agent 在隔离 git worktree 上 headless 运行并用真实 merge 打分。67
关键结果:Tier A 确定性 9 场景:CTSR(clean-tree success rate,既无冲突又通过集成后验收)1/9 → 4/9 → 9/9(C0/C1-detect/C1-plan),merge conflict 总数 13 → 12 → 0,wasted LOC 54 → 49 → 0;N=8 争用同一热文件时 wasted LOC 28/28/0,planner 在 N∈{2,4,8,16,32} 恒为 0 冲突,而 C0 与 C1-detect 的冲突数随 n 线性(≈n−1)、wasted LOC ≈4(n−1),且 C1-detect 在并发场景退化到 C0 水平。Tier B 契约迁移(producer 把 amount(美元)改成 amountCents(整数分),两文件能干净合并但消费者语义上坏掉):CTSR C0 0.00 / C1-detect 0.00,C1-plan 下 Claude Opus 4.8 = 1.00(K=15,Wilson 95%CI [0.80,1.00],15/15 vs 0/15,Fisher 精确检验 p<10⁻⁴)、Claude Haiku 4.5 = 0.60、OpenAI GPT-5-Codex = 1.00。同文件场景 scope-leakage = 0.00(5 个被改派 agent 无一越界);跨会话记忆把重复犯错率从 1.00 降到 0.00,且在 frontier 与 Haiku 上同样如此。负面结果:把事实定向路由给 agent 不救长上下文检索准确率(10k–280k token 稀释下都仍选对),真实收益是成本与容量——路由后每任务约 155 token 上下文,对比单 agent 倾倒 10k–280k token(少 68×–1296×),且承载整个微服务世界的单 agent prompt 直接溢出小模型 200k 窗口(5/5 失败)。作者主动撤回早前"70% vs 100%"的决定遵循度数字(打分器正则误判)。67
证据与局限:中等偏强——三臂对照 + 确定性/真实两层 + 两厂商三模型 + Wilson 95%CI,关键契约单元 K=15 且与基线区间不重叠([0.80,1.00] vs [0.00,0.20])并用 Fisher 精确检验;但多数 live 单元只有 K=5(部分 K=3)属 pilot、区间很宽,场景手工构造且 Tier A 仅 9 个,最关键的 declared scope 是手工 seed 而非从自然语言任务自动推断——planner 的保证只与 scope 一样好;作者自陈 C1-detect 的告警故意含糊、缺"详细但迟到告警"的 timing-vs-信息特异性消融,scope-leakage 只在最简同文件场景测过。单一作者、单一系统(Nerveplane v0.17.0)自实现自评测,未见第三方复现;算力与 API 成本原文未报告。67
与本节其它条目的关系:与第 6 条(WorldSolver)同为"把不可验证的智能体行为接到可执行 ground truth"——本条用真实 git merge 判定集成是否成功、第 6 条用求解器状态轨迹与守恒律判定模拟是否物理成立,可比的是判分口径设计与失败归因方式;与第 2 条同属"评测该信谁",本条用环境接地反对智能体自述,第 2 条专门刻画 LLM 判官作为特征提取器的噪声结构。67
结论建议:邻近跟踪;把"协调从事后告警改成事前调度"当作 harness 层做事前约束的范式搬用(scope 划分 + 合并序 + 跨会话决策账本),其"事实路由只省成本、不救准确率"的负面结果可直接用于架构取舍论证;注意 scope 手工 seed 等于最关键的假设被绕过。67

9. 8 个配置里仍有 11.2%–58.7% 的 E⁺ 运行出现多余风险处置动作

ParanoiaEval: Benchmarking Unnecessary Defensive Work in Agentic Coding · arXiv:2610.08662 · 值得扫读
研究问题与核心方法:编码智能体越来越多自主承担真实工作,如何系统判断它的"风险处置"是否名副其实——即分散在越权行为、过度编辑、冗余步骤等视角下的防御性行为,能否用一个统一的能力维度来评测。本文把 NIST 的规避/转移/缓解/接受(ATMA=Avoidance–Transfer–Mitigation–Acceptance)风险处置框架落到编码智能体上:任务 t=(代码库状态 C, 用户指令 I),证据 e⊆C∪I 决定风险 r 应被如何处置 T*(r|e),超出该边界的处置动作即"不必要风险处置"。基准由"证据受控任务对"构成——同一任务的两个变体 E⁺(含界定处置的证据)与 E⁻(移除/反转该证据)只差这一条证据,其余仓库修订、依赖、目标与 oracle 全部相同;由记忆增强的 agentic judge(只读沙箱核查归档产物、检索四个同处置的人类标注范例)给出 V_p 判定,再加人工校准。三项指标:任务成功率 TSR(分 TSR⁺/TSR⁻)、违规率 VR(E⁺ 运行中出现超额处置的比例)、证据响应度 ER(从 E⁻ 到 E⁺ 超额处置的相对下降)。11
关键结果:数据集 44 个具体情境(Avoidance 8 / Transfer 8 / Mitigation 11 / Acceptance 17)、200 个证据受控任务对(400 个条件变体),来自 50 个开源仓库(34 Python + 16 Go),其中 89 对只改仓库证据、111 对改动一句指令。违规普遍性:所有配置在 E⁺ 上的超额处置都少于 E⁻(每个配置均显著,Holm 校正后 p ≤ 0.012),但 ER 仅 25.4%–65.5%,E⁺ 运行中仍出现不必要风险处置的比例为 11.2%–58.7%(Claude Code 内 11.2%–58.7%、Codex 内 18.2%–25.5%)。单模型极值:VR 最低 Sonnet-4.6 11.2%、最高 Opus-5 58.7%;ER 最高 Haiku-4.5 65.5%(Acceptance 分项 ER 达 93.9%);TSR 范围 88.3%–97.6%(Codex 5.6-Sol 最高 97.6%)。与任务能力解耦:TSR 更高的配置并没有更低 VR,跨配置 Spearman ρ=0.55(p=0.17,不显著),且含超额处置的 E⁺ 运行里 92.7% 仍然通过 oracle。人工研究(20 名开发者、800 条 E⁺ 运行评分):有超额处置的运行满意度低 1.27 分(5 分量表,p<0.001,95%CI [1.14,1.40]),按处置拆分为 Avoidance 1.10 / Transfer 1.20 / Mitigation 1.55 / Acceptance 1.23 分,"原样接受"比例 38% vs 78%,评分者一致性 Krippendorff's α=0.76。判官在 200 条留出的人类共识标签上准确率 0.965、Cohen's κ=0.93。11
证据与局限:强——200 对配对任务、8 个模型 × 2 个原生 harness × 3 次运行共 9,600 次(每配置 1,200 episode),每对做配对置换检验并报 Holm 校正 p 值与 95%CI,另有人类判官校准与 20 人 800 条的人工研究(α=0.76);全部用托管模型推理、无训练或微调,每条 episode 在限 3 CPU / 3 GiB 内存的独立容器里,算力以 token 与累计运行时给出(如 Opus 5 输入 306.3M / 输出 3.6M / 30.9h)。短板:仅 8 个闭源商业模型与 2 个官方 harness,仓库均为开源且限 Python/Go;评测依赖 agentic judge,虽有 0.965 准确率但仍是模型判模型,配对反事实只能归因到"证据是否存在";Transfer 维度 ER 仅 7.9%(p=0.692,不显著),说明该维度证据响应几乎没被测出;原文未报告不同种子与温度下的方差(且明说 provider 限制无法改温度与 top-p)。机构含纽约大学、纽约大学阿布扎比与香港理工大学;代码与数据见 https://github.com/ZhuoningXu/ParanoiaEval_release(实测 HTTP 200)。11
与本节其它条目的关系:与第 1 条(见证规则与证明状态)、第 3 条(同数引用互换)同属"证据受控配对 + 人工校准判官"的设计;与第 5 条一样证明只报任务成功率会掩盖过程性失败——本条的直接证据是含超额处置的 E⁺ 运行里 92.7% 仍通过 oracle,第 5 条则是准确率 0.808 的系统逐字引用率反而最低。11
结论建议:值得扫读;E⁺/E⁻ 配对加"只差一条证据"的设计可直接复用到其他过程性评测,TSR 与 VR 解耦(92.7% 违规运行仍通过 oracle)是"长程评测必须加过程指标"的强论证;引用时须带上 Transfer 维度 ER 不显著(7.9%,p=0.692)这一反例,说明四处置维度的证据强度不均。11

十、邻近跟踪:记忆、编排与运行控制

1. 十二个并行编码智能体把宿主顶到约 2.0× 预算,MemMux 才把峰值压回预算内

MemMux: Runtime Verification and Honest Resource Attribution for Fleets of Parallel Coding Agents · arXiv:2610.07257 · 邻近跟踪
研究问题与核心方法:在一台工作站上同时跑十个编码智能体、每个又各自拉起语言服务器与测试运行器时,现有终端复用器只排列窗口而不治理内存,没人说得清"多少内存属于哪个智能体"、被终止者的后代是否清干净、有没有逃逸子进程,OOM 也常把未提交工作悄悄丢掉。MemMux 是一个 Rust 工作区,常驻守护进程 memmuxd 持有状态并做治理("task" 是持久逻辑智能体,"runtime" 是一次物理启动),四个机制是:每秒快照宿主进程树并把每个 task 根及其全部后代的 PSS 求和做归属;终止时先对"根仍活着"的子树发信号再收割的递归回收(目标 10 秒内清掉 ≥99.5% 后代);把曾见 pid 与当前进程树对账、把被 init 收养的进程标为 escaped 的逃逸对账;以及持有内存预算、超预算排队并按梯度反应(回收逃逸子进程 → 休眠最低优先级空闲 task → 回收最大 provider → 先落盘 git HEAD 与 patch hash 检查点再终止进程树)的准入与压力阶梯 68
关键结果:绑定预算的过载实验(N=12 个 agent、每 agent 约 1.4 GiB、宿主 15.3 GiB、预算 7500 MiB、5 次试验)里,MemMux 峰值 7479 MiB(在预算内)、稳态 4512 MiB、swap 0;raw 基线峰值 15075 MiB、稳态 15069 MiB、swap 1882 MiB;tmux 3.4 峰值 15347 MiB、swap 2165 MiB——未治理工具把机器顶到 RAM 上限(约 2.0× 预算)并溢出约 2 GiB 到 swap,代价是 MemMux 最多只准入约 5 个 agent。拆卸清理(H2)上 raw 每种规模只回收 50%(N=10 时遗留 10 个进程 303 MiB),tmux 与 MemMux 各规模均 0 泄漏、100% 回收;逃逸注入后被 MemMux 全部捕捉(1/1、5/5、10/10);归属(H1)上,MemMux 每次都能原生地把每个被启动进程树的全部比例内存(即该进程树 PSS 的 100%)归到启动它的那个 task 名下。开销(H5)未达标:1/5/10 个 agent 时守护进程 CPU 为 0.6%/1.5%/2.7%,十个 agent 时超过 2% 的目标,守护进程自身 RSS 4.6–5.4 MiB(对照 tmux server 2.4 MiB)。真实编码智能体验证(N=3 个 headless Claude Code):总稳态内存 raw 883.6 / tmux 3.6a 883.6 / herdr 0.8.0 929.6 / MemMux 0.8.0 843.5 MiB,MemMux 管理开销 0.012% CPU;在 Linux m7i.xlarge 上工作中强制拆机时,raw 遗留 3 个真实进程、525 MiB(50% 回收),tmux 与 MemMux 都是 0 泄漏、100% 回收。68
证据与局限:五项信号各有明确阈值(H1 归属 ≥95%、H2 清理 ≥99.5%/≤10 s、H3 逃逸全可见、H4 预算内且不丢工作、H5 开销 ≤2% CPU);H4 五次试验、H1–H3/H5 两次试验,另有 macOS 交叉与 N=3 真实智能体复现。主要局限:集群规模最大只到 N=12、只覆盖两台 Linux 宿主加一台 macOS、主负载是确定性 stub(真实会话的兆字节数会不同);开销项 H5 自认未达标;oracle 与 MemMux 共用同一套记账实现,无法排除共模记账 bug;紧急终止路径在主实验中未被端到端触发,只由守护进程级测试单独验证;同类产品 herdr 只出现在 N=3 的真实智能体表、未进入预算/swap 与清理对比。代码与 benchmark 开源(MIT,仓库实测可达)。68
与本节其它条目的关系:与第 4 条(arXiv:2610.07782)同属"多智能体运行的资源成本"议题,但 MemMux 量的是宿主内存与进程归属、后者量的是 KV 缓存与延迟,两者拼成运行时资源核算的两端;与第 5 条(arXiv:2610.07556)的调用数成本口径互补,一个管"调多少次"、一个管"每次占多少内存";与第 6 条(arXiv:2610.07817)的流程可预测性、第 7 条(arXiv:2610.08082)的行动前门控并列为"运行控制"的三种层次——资源层、流程层与动作层。68
结论建议:可把"资源治理表达为一组带阈值、可断言的运行时监控信号"以及"无法驱动的对手记 unsupported 而绝不记 0"这两条当作评测诚实性与运行时保障的范本直接借用,尤其"先落盘 git 检查点再终止"的保障顺序;但引用其"唯一能治理内存"的结论时应标注 herdr 证据薄弱,其 2% CPU 目标本身也未达标。68

2. 加一块矩阵长期记忆把 39×39 迷宫整图准确率从 37.4% 提到 61.6%

Continuous Memory Machines · arXiv:2610.07907 · 邻近跟踪
研究问题与核心方法:循环网络把整个序列历史压进单一向量状态,短期计算与长期保持共用同一表示;论文在 CTM(Continuous Thought Machine)之上再加一个矩阵值长期记忆 LTM(B^t ∈ ℝ^{d×M_L}),与原有的滑窗短期记忆 STM(A^t ∈ ℝ^{d×M_S})并存。每个时间步:前馈 synapse 由上一激活态与观测产生预激活并追加进 STM 滑窗;把一个可学习 sink token、LTM、STM 三者的列当作 token 拼成序列、加位置嵌入后过 J 层 Transformer,得到更新后的两个记忆(同一次前向里各自重组、又互相读写);更新后的激活态再送入神经元级模型 NLM(每个神经元参数独立)产生下一激活态;步进时把更新后的 LTM 作为持久状态带走、更新后的 STM 用完即弃,sink token 让模型可以抑制对任一记忆的注意。消融对照为 CMM-LSTM(骨干换成 LayerNorm LSTM)、CTM-Ext.(STM 窗扩到与 CMM 总槽位相同)与 CMM-STM(LTM 置零)69
关键结果(三 seed 均值 ± 标准差):迷宫求解(39×39、10M 参数预算)上 CMM 动作准确率 96.3%±3.8、整图准确率 61.6%±35.0,对比 CTM 88.8%±8.3 / 37.4%±38.7(动作 +7.5 点、整图 +24.2 点),DNC 82.7±2.6 / 13.8±2.5、CMM-STM 87.0±17.6 / 43.8±42.5。few-shot 回归 K=20 时 CMM 30.63±0.24,高于 RMT 30.46±0.41、LSAM 29.82±0.18、Transformer 29.75±1.24,远高于 CTM 8.78±0.11 与 CTM-Ext. 8.00±0.07。算法任务上 recall 的 CMM 达 99.95% 准确率(CTM 的 loss 是 CMM 的 60 倍以上);sort 的测试 loss 4.1×10⁻³ 为全场最低,比 CTM 低两个数量级;sort 长度泛化(训练 N∈{4…16}、测到 N=50)CMM 72.1%、RMT 68.2%、DNC 55.8%。ImageNet-100(1M 参数循环头 + 冻结 ViT 前两块)上 CMM 89.7%±0.2,与 LSTM、DNC、NAM-TM、CTM-Ext. 并列最佳,各架构几乎打平。69
证据与局限:4 类任务 × 十余个基线横评、3 seed 均值 ± 标准差、三项参数匹配的架构消融、LTM 大小与 Transformer 深度扫描、以及注意力机制分析(如迷宫上 STM query 全部读零值 sink)。主要局限:迷宫整图准确率标准差极大(±35.0),CMM 相对 CTM 的整图提升主要靠少数 seed 拉起;GDN、RMT、LSAM 因训练不稳定被排除出迷宫表,削弱对照完整性;无统计显著性检验;为研讨会论文(NeurIPS 2026 PALM workshop)。算力为每个实验单张 NVIDIA H100,迷宫训练墙钟 127.5 h/seed;论文声称的代码仓库 https://github.com/SakanaAI/continuous-memory-machines 实测 404,作者前作 continuous-thought-machines 为 200。69
与本节其它条目的关系:与第 3 条(arXiv:2610.08630)同属"记忆该落在哪一层",CMM 把记忆做成架构内的矩阵状态、综述给出的是放置位置与获取时间的分类坐标;与第 4 条(arXiv:2610.07782)比"持久状态到底买不买得到收益"——CMM 在序列/迷宫任务上给出明确增益,后者在独立条目 QA 上得到的是结构性零结果;与第 9 条(arXiv:2610.07803)都涉及长序列里的状态保持与干预,可对照"用状态诊断"与"用不确定性触发干预"两种机制。69
结论建议:作为长程记忆架构设计样本可扫读——"短期计算与长期保持拆成两个功能不同的矩阵状态、由一个 Transformer 做双向读写"可迁移到长序列模型;但引用其迷宫增益时应带上 ±35.0 的方差与少数 seed 依赖的告警,且其代码在核验时不可复现。69

3. 把记忆从上下文搬进参数:按放置位置与获取时间两轴归拢 64 项方法

Towards In-Parameter Memory Augmentation for Large Language Models · arXiv:2610.08630 · 邻近跟踪
研究问题与核心方法:如何把"预训练之后才获得的知识"(领域事实、用户偏好、文档、交互经验)存成参数化记忆对象、在推理时组装进前向计算,从而绕开 ICL/RAG 长上下文带来的容量占用与随长度增长的重复离散编码开销。这是一篇分类学综述、不提出新模型,核心贡献有三:用两条正交轴组织领域——参数放置(Embedding 层 / Attention 层 / FFN 层 / Hybrid)与参数获取时间(部署前 = offline / 部署中 = online);给出算子化表述(记忆对象 ϕ、获取算子 A、增强算子 C);并用三条判据划边界——"是否连续参数形式""是否由独立算子 A 产生""部署时是否作为独立对象进入前向",只有三条全满足才收录。70
关键结果:边界测试(Table 1)把 ICL-based RAG、Full Parameter SFT、未改造 KV Cache 判为 ✘,把 Pluggable PEFT 判为 ✓,而编码后的 KV bank 落在边界内(编码器即独立的 A)。收录规模上 Table 3/4 逐条约 64 项代表方法、分 8 个类目(Embedding×Online 6、Embedding×Offline 6、Attention×Online 14、Attention×Offline 9、FFN×Online 9、FFN×Offline 9、Hybrid×Online 5、Hybrid×Offline 6)。规律性结论是:online 行几乎都是 per-request 或 per-token、ephemeral 或 session-scoped,offline 行几乎都是部署前、persistent;同一记忆对象类型随获取时间行为相反(adapter 在线生成时便宜、离线训练时昂贵)。全篇为定性比较——作者明说"因为原始论文很少报告可比的 FLOPs 或 wall-clock,我们用定性档位"。70
证据与局限:证据力来自三条可复现的边界判据、8 类目 64 项方法的一致性归类与逐条属性表;但所有成本档位(写成本、读成本、保留度)都是从机制推断的定性区段、不含数值测量;覆盖范围被自己限定为只文本模态,不含内建于更新式架构的设计(如 Mixture of Latent Experts、Multi-head Latent Attention、Manifold-Constrained Hyper-Connections);未报告系统的文献检索与筛选协议,故"64 项"不是可复核的穷举。文章给出的取舍也很直白:需要精确引用、溯源、定向删除、人工修订的任务,ICL/ICL-RAG 仍更可取。配套 awesome 清单 https://github.com/HKUST-KnowComp/Awesome-In-Parameter-Memory 实测 200(无数据集,综述无数据)。70
与本节其它条目的关系:与第 2 条(arXiv:2610.07907)比"记忆落在架构的哪一层",CMM 给出一个具体的矩阵状态实现、综述给出可用来给它定位的坐标;与第 4 条(arXiv:2610.07782)比"把记忆放在外部持久层还是放进参数",后者测的是外部 KV/Qdrant 层的成本收益、本文是参数侧替代路径的坐标系;其"让获取算子把部署经验写进记忆对象本身"的开放方向与本节的自进化/运行控制线索直接对接。70
结论建议:可作为给记忆机制选型的坐标地图——用"放置位置 × 获取时间"直接看在线 fast weights 与离线编码 KV bank 在写读成本与持久性上的差异,并用三条判据当作"某个记忆模块是否真的独立于推理过程"的验收标准;引用其"64 项"时须注明非穷举、且所有成本档位为定性推断。70

4. 持久召回把峰值缓存抬高 0.368 MiB,准确率变化 +0.015 的区间含 0

Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell · arXiv:2610.07782 · 邻近跟踪
研究问题与核心方法:在三层多智能体架构上,"把长上下文推理分解到多个协作 agent"与"再加一层持久记忆(保存/召回推理轨迹)"各自在 KV 缓存成本与准确率上带来什么,以及这类记忆消融实验是否真能测出效果。被测量架构 CoA-PKV:L1 为每次调用的临时 KV 缓存、L2 为 Redis 支持的键值层(存 typed Communication Units、在 agent 间传递蒸馏后的状态)、L3 为 Qdrant 向量库(兼做证据过滤与 (q,k,v) 轨迹持久召回);对照 CoA-NoKV 只关闭 L3 的轨迹召回与写入。核心指标是 peak KV(单次调用 prompt+generated 的最大足迹,按模型 10,240 B/token 的 KV 几何换算)与延迟,并对"启用持久召回"做逐问题配对的消融,同时给出 agent 记忆消融必须满足的四个条件 C1–C4。71
架构图:查询经分解、检索、推理、综合、答案批判走到答案,下方标出三层记忆(每次调用的 KV 缓存、Redis 通信单元、持久向量存储),实线与粉色虚线区分全部启用与单轴消融后剩余的路径。
论文 Figure 1。被测系统与单轴消融的差别直接画在图上:CoA-PKV 启用全部路径,CoA-NoKV 只删掉粉色虚线那两条(推理循环与最终答案处写入持久向量存储的路径),其余完全不动。这意味着两条臂的差异可以归到这一处写入。图片来源:论文原文。 71
关键结果:peak KV/query 上 CoA-PKV 为 14.3 MiB [13.0,15.4],对比 Flat 35.5 [34.0,37.0](−59.9%)、RAG 35.3 [30.9,39.8](−59.7%);延迟/query 29 s vs Flat 67 s(−56.7%)、RAG 52 s(−44.2%),代价是累计 KV 流量约高 1.6×。持久召回本身:峰值缓存 +0.368 MiB [+0.167,+0.590](区间不含 0,因召回把检索到的轨迹前置进 prompt),而准确率变化 +0.015 [−0.011,+0.046](区间含 0,即大于约 0.046 的效果被排除,但未声称效果为零)。这是结构性零结果——单问题基准每题自带证据、独立打分,按同谓词复现召回实际可达的问题仅占 24%(剥掉共享说明模板后 20%),限制在"召回可能触发"的问题上效果 −0.012 [−0.073,+0.046](n=138)。四个测量陷阱的量化:C2 固定种子重跑时 100/100 问题已带本运行早先写入的轨迹(48,915 条轨迹覆盖 2,856 个问题),修正后某数据集 0.2949→0.2282;C3 未修正的 MMLU-Pro 配对读出 +0.370(选项字母抽取在一臂修一臂没修),两臂同解析器后为 +0.010;C4 池化组内标准差 0.046 与 0.052,95% 带 ±0.09–0.10。71
证据与局限:8 个数据集对(HotpotQA、2WikiMultihopQA、MuSiQue、LongBench、GPQA、MMLU-Pro 等)、逐问题配对、每臂 n=100、cluster bootstrap(B=10^4)、并用 live probe 验证召回路径在开/关时确实存在/缺失。硬件是两块异构边缘加速器——NVIDIA Jetson Orin Nano Super(8 GB,llama.cpp,Qwen3.5-2B)与 NVIDIA DGX Spark(vLLM,Qwen3.5-35B-A3B-FP8);复现次数 RAG 每格 3 次(seed 42/43/44)、CoA-PKV 2 次、Flat 臂仅 1 次。局限:单一系统、单一团队;C1–C4 是事后重构而非推导;置信带只基于 2–4 次复现;持久层"无收益"只在其独立条目基准范式下成立,作者明确说这是"未被检验"而非"被证伪"。原文未提供可测 URL(承诺将开源)。71
与本节其它条目的关系:与第 1 条(arXiv:2610.07257)同属运行时资源核算,一个量宿主内存、一个量 KV 缓存与延迟;与第 2、3 条(arXiv:2610.07907、arXiv:2610.08630)比"记忆放在哪、成本几何",本文提供外部持久层的成本—收益实测;其 C1–C4 四个验收条件是本节所有"记忆/消融"条目的通用清单,可喂给第 1、7、8 条那些自建评测的可靠性判断。71
结论建议:把"用复现估计噪声带、而不是 within-run bootstrap"以及 C1–C4(组件真的执行了、运行独立无污染、只变命名轴、效果超过测量下限)当作评测此类"记忆有没有用"实验的验收条件;引用其"持久记忆无收益"时必须带上"仅在该基准范式下未被检验"的限定。71

5. 解耦规划与选人:8 个基准平均 51.5,换到未见工人池仍 50.2

Decoupled Multi-Agent Orchestration · arXiv:2610.07556 · 值得扫读
研究问题与核心方法:已有的"学习式编排"把规划绑死在固定工人池上、且用同一个终端结果去训练"任务分解"与"协作方式"两个决策,导致换池子就失效、信用分配说不清;DeOrch 据此把"工人无关的规划"与"具体工人选择"拆成两层。Stage I 只看任务、把任务切成 DAG 式子任务(每个带目标、操作类型与所需工人数);Stage II 在同一分解下选择协作操作(Single / Ensemble / Debate / Select / Review 等),并接收"可匹配性反馈" m(s)——一种不含工人身份、由探测集行为统计压缩出来的信号(总互补覆盖 G、覆盖分布 D、语义支撑 C)。选人由轻量 matcher 做:先用固定 probe 集离线估计每个工人的能力,再按操作类型选人(单工人取最高适配度,多工人用 MMR 做"能力 + 失败区互补"的贪心组队),部署时用 contextual Thompson sampling 在线更新共享后验,从而在不重训 planner/matcher 的情况下接纳新工人;planner 用嵌套条件 rollout 做 RL 后训练,Stage II 的奖励是成本感知的 Q·exp(−βc)(c 为工人调用次数,乘法形式保证只有成功时才奖励省调用)。72
关键结果:表 1(8 基准的 Avg. 与 Calls)上 DeOrch 平均 51.5、平均工人调用 5.35,对比 MAS-Orchestra 49.1 / 5.63、Conductor 44.0 / 6.16、Independent 46.0 / 7.00、Best Single Agent 39.2 / 1.00、Frontier-Planner(Qwen3.8-27B 作现成 planner)36.6 / 4.67、Untrained Planner 38.3 / 4.92——即在平均分上比最强的学习式基线高 2.4 分且调用更少。表 2 换到完全未见的四人工人池(不重训 planner 与 matcher、关闭在线适应):DeOrch 50.2、Independent 47.5,Conductor 从 44.0 掉到 40.9,其相对 Best Single Agent 的优势几乎消失。表 3 消融上完整 DeOrch 为 51.5 / 5.35,成本感知目标把调用从 7.78 降到 5.35、平均分只从 51.9 小降到 51.5。表 4 matcher 离线评测上 Probe Matcher 为 70.24 / 75.45,事后最优的 Oracle Single 上界为 82.68 / 87.17。在线适应(累计适应样本 0→15K)从 51.3 升到 52.9。72
证据与局限:8 个基准(2 个分布内 + 6 个分布外)× 多个基线、5 个受控消融、换池泛化实验、matcher 离线 80/20 与留一源评测、以及按 3000 样本粒度记录的在线适应曲线;但每个基准只有一份报告值,未报告重复运行方差或显著性检验,工人池规模最大只有 6。planner 以 Qwen3-8B 初始化做全参数 RL 后训练,算力为单节点 4×NVIDIA H200 GPU。代码声明的匿名仓库 https://anonymous.4open.science/r/DeOrch-code-F8D3 实测 403,无法确认内容可读;所有基线都是在六工人池上重训/适配的版本,与原作者成绩不可直接横比。72
与本节其它条目的关系:与第 1 条(arXiv:2610.07257)、第 4 条(arXiv:2610.07782)互补——DeOrch 管"调多少次"这一调用成本口径,另两条分别管宿主内存与 KV 缓存;与第 6 条(arXiv:2610.07817)构成"编排控制点放哪"的两极,一个是学出来的两级编排、一个是外部把 SOP 一步一放;与第 9 条(arXiv:2610.07803)比"何时该多花算力"的性价比口径(DeOrch 用成本感知奖励压调用,ThinkFuse 用选择性融合换准确率)。72
结论建议:值得扫读,可直接借用的设计有三条——把规划与执行者选择解耦使编排器换池不重训、"工人无关的可匹配性反馈不得出现工人身份"这条防泄漏/防过拟合池子的特征约束、以及成本感知奖励的乘法形式(失败不因省调用而受奖);引用其分数时须提醒基线是重训适配版、且无重复运行方差。72

6. 逐步投递 SOP:无据答案从 2.1–4.5% 降到约 0.3%,强模型原始准确率反降

One Step at a Time: Trading LLM Autonomy for Process Predictability · arXiv:2610.07817 · 邻近跟踪
研究问题与核心方法:组织自动化运营流程不只要结果正确,还需要事前能预测流程怎么跑、事后知道实际跑了哪条路径、并能逐步检查;把 SOP 塞进 system prompt 会失去可预测性——只有最终答案返回、模型每次都要从文本重新发明流程,既产生路径不可预测,也会在没真正执行工具的情况下给出正确答案。做法是不改建模、只改投递机制:一是把 SOP 转成 RFC 2119 规范格式(MUST/SHOULD/MAY + 明确的 tool→step 映射与参数名、判定阈值)作为 system prompt 投递(条件 rfc2119_sop);二是把同一份 SOP 拆成离散步骤、通过 MCP 的 run_sop 工具一次只释放一步,模型执行完一步并回报结构化 step_output 后才给下一步、看不到后续步骤(条件 sop_mcp)。两个条件 SOP 内容完全相同,评价三轴为 Grounded TSR、Process Adherence 与 Path Consistency(dominant tool-sequence %)。73
关键结果:规模为 15,475 个 trial、13 个 SOP-Bench 领域、4 个开源权重执行器、2 个条件,每个 model×condition 约 n≈1,880。流程遵循度(trial-pooled):Ministral 3 8B 76%→95%(+19pp)、DeepSeek V3.2 86%→97%(+11pp)、GLM 5 92%→99%(+7pp)、Kimi K2.5 95%→99%(+4pp),四者提升全部显著;但对阈值 t=1.0(要求调用每一个期望工具)时 GLM 与 Kimi 反向(87→84%、89→83%)。路径一致性上 DeepSeek 65%→78%(+13.7,CI [+5.8,+23.0],显著)、GLM 70%→77%(+7.0,CI [+0.1,+17.9]),Ministral 与 Kimi 不显著。无据答案(ungrounded):prompt 投递下 2.1–4.5% 的 trial 是"没执行 SOP 却答对",在 know_your_business 域每个模型有 31–49% 的正确答案绕过了规定的验证工具,改逐步投递后降到约 0.3%。Grounded TSR 上 Ministral 61.0%→67.5%(+6.5pp [+3.4,+9.6],显著),DeepSeek +0.4(噪声内),GLM 84.8%→82.0%(−2.9 [−5.2,−0.5],显著负),Kimi −1.7(不显著);Raw TSR 上 DeepSeek/GLM/Kimi 显著下降。逐步投递的 token 成本约为 prompt 方式的 2.1–2.9×。73
证据与局限:15,475 个 trial、13 域、4 个能力档执行器、双条件设计,delta 均带 10,000 次 bootstrap 的 95% CI,并对阈值 0.3–0.7 做了稳健性检查;但每个域只有 30–274 个 trial、无多重比较校正、无每域 CI。作者自陈多个机制被捆绑无法完全解耦(逐步投递同时改了信息呈现、流程强制不可前瞻、每步元指令),未设 temperature=0,MCP 双向放大 SOP 质量(写得差的 SOP 会产生"一致但错误"的执行)。执行器经 Amazon Bedrock Converse API 单一代码路径访问;工件(RFC 2119 SOP、步骤拆分、prompt、逐 trial OpenTelemetry trace、分析代码)承诺"发表时发布"、当前无公开仓库;机构 AWS 与托管平台 Bedrock 一致。73
与本节其它条目的关系:与第 1 条(arXiv:2610.07257)的资源层治理、第 7 条(arXiv:2610.08082)的动作层门控并列为运行控制的三个层次——流程层强制;与第 5 条(arXiv:2610.07556)比"编排控制点放哪",一个是学出来的两级编排、一个是从外部把 SOP 一步一放;其 Grounded TSR 与 ungrounded answer rate 的拆分与第 8 条(arXiv:2610.07657)的 ASR/attempt rate/first interception 指标拆分同属"把框架贡献与被测模型分开"的评测口径。73
结论建议:把"流程结构从 prompt 挪到外部投递协议"和 Grounded TSR / ungrounded answer rate / dominant tool-sequence % 这套指标当作可审计长程执行的模板;但引用"逐步投递提升准确率"时要限定它只对最轻量执行器成立,对有能力执行器是原始准确率的净损失,且逐步投递本身捆绑了三个未解耦的机制。73

7. 行动前给工具调用打可逆性分,18 个单元里只有 8 个超过基线

POLAR: Ontology-Guided Risk Prevention for Tool-Calling LLM Agents · arXiv:2610.08082 · 邻近跟踪
研究问题与核心方法:工具调用智能体在动态环境里执行大量带操作风险的动作,而多数安全机制只在错误发生后才反应;已有的预防式做法(微调智能体做思维链斟酌、或把自然语言护栏编译成运行时检查)都没有给出结构化、可审计的判定。POLAR 是面向小型工具调用智能体的行动前护栏,四个组件:①两层本体——Layer A 是人工策展者手写的 Datalog 动作本体,声明每个会改状态的工具如何影响类型化实体槽,按五级类型化可逆关系 T1–T5 组织并各配一个每步分 ϕ,Layer B 是从当前环境状态重建的动态状态本体;②反向搜索——以候选工具序列从最近一步往前枚举可取的撤销边,在 Layer A 里查逆操作(T2 类型的 bounded_reversibility 只有在其 Bound 在当前 Layer B 投影下成立时才计分),不调用外部符号规划器;③可逆性评分 ϕ_POLAR(π)=min_{u∈π}ϕ(u),取整条序列里最弱的一步,任一不可逆步骤就把判定拉到 0 并把它报成瓶颈;④可插拔决策策略——把安全判定与是否拦截解耦,接口返回 approve / veto / escalate。74
关键结果:在 τ²-bench 上、18 个 (model, domain) 单元里 POLAR 只有 8 个提升了平均任务奖励;airline 域上六个智能体中有四个的提升在 +0.11 到 +0.18 分之间,retail 域与更强的智能体经常回退。逐格差值 Δ_POLAR(airline / retail / telecom)如 qwen3-8B 为 +0.111 / −0.100 / +0.038,llama-3.1-8b 为 +0.182 / +0.029 / +0.053,gpt-oss-120B 为 −0.073 / −0.242 / +0.020,qwen3.5-27B 为 −0.119 / −0.209 / −0.060。主单元(qwen3-8B × airline,每臂 150 次尝试)原始报告的 +0.111 是"分别做误差过滤后的臂均值之差"、不是配对估计量,按任务与 trial 匹配非误差观测后得到 143 对、平均差 +0.119。层级消融上 full(T1,T2,T3)Δ=0.080、bootstrap 95% CI [0.013,0.147]、置换检验 p=0.036,而 T1-only 的 +0.087 并不低于 full 的 +0.080(区间重叠),无法证明结构化的逆路径组合带来超出保守拒绝的奖励贡献。决策策略对比(Escalate 与 Advisory)因归档均值与提交表格冲突、精确对照不可得,被作者主动撤回。整体规模为 72 个 (model, domain, arm) 单元、每单元 50 任务 × 3 trial、共 10,800 次仿真 rollout,权重敏感性扫描另加约 2,850 次。74
证据与局限:基准 τ²-bench 三个域、6 个智能体模型、4 个安全臂,给了 bootstrap CI、置换检验与配对重估;但核心卖点只兑现 8/18 个单元,层级消融显示 T1-only 与 full 无法区分("结构化可逆性推理"的增益没被隔离出来),主单元 +0.111 本身非配对估计,决策策略对比被作者自行撤回,本体注释正确性、语义错误率与对抗鲁棒性均未测量,且"奖励不是直接的安全标签"——被拦决策没有独立的危害标注。归档运行的配置与本体溯源不完整。原文未提供任何公开 URL(本体、分析管线、逐 trial 摘要与评测 harness 配置均私下归档、公开范围待定)。74
与本节其它条目的关系:与第 8 条(arXiv:2610.07657)最直接——两者都在量化"确定性规则 vs LLM 判断"的边界,07657 主张能写成策略的攻击靠规则、策略内的靠判官,POLAR 正是把"这一步能不能撤回"写成规则的一次尝试;与第 6 条(arXiv:2610.07817)、第 1 条(arXiv:2610.07257)同属运行控制的不同层次;与第 9 条(arXiv:2610.07803)比"何时才该介入"的门控阈值设计。74
结论建议:其架构值得参考的是"行动前给出结构化、可审计判定(含瓶颈步骤与理由)"和"安全判定与执行策略解耦(approve/veto/escalate 可插拔)";但更值得当素材的是它的诚实性——作者主动报告 8/18 提升、撤回不可复核的策略对比、指出奖励 ≠ 被阻止危害,这正是评测可靠性议题要的正面反面例证,引用其增益时务必带上"只有 8/18 单元超过基线、且增益没被从保守拒绝中分离"的限定。74

8. 四领域攻击成功率从约 30.0% 降到约 3.0%,77.9% 由确定性规则先拦

Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security · arXiv:2610.07657 · 邻近跟踪
研究问题与核心方法:把各类既有防御组合成一条面向多智能体系统的流水线后,最终裁决里究竟有多少真的需要"判断"——确定性规则与 LLM 判官的边界落在哪里、边界两侧各自的代价是什么。做法是先把 35 个攻击向量按"内容从哪儿进来"归成两条集成面(工具编排、记忆管理)与五个注入通道(任务输入 C1、工具响应 C2、记忆内容 C3、阶段交接 C4、提案理由 C5),再把既有防御整理成五条原则 P1–P5,实现为 DEFER1(DEterministic-First Enforcement with Residual judgment)——一条 28 项检查的级联,按"先确定、后判断"排序,能确定性拒绝的就拒绝、剩下的才交给四模型判官小组;检查分三层(内容无关规则 13 项、内容相关规则 8 项、相似度阈值 6 项、LLM 小组 1 项),全部 fail-closed。3
关键结果:四领域总体攻率从 Flat(无防护)的 30.0% 降到 DEFER1 的 3.0%(95%CI [1.3,4.9]),且每个领域都在 0.0%–5.3% 内(CyberOps 2.2%、医疗 0.0%、金融 5.3%、法律 4.4%)。CyberOps 单域边界(Table II,75 变体 × 3 次,同为攻击成功率口径)上,各防护臂分别为 Flat 32.0%、ACL(仅连通性限制)24.9%、JudgeOnly(每个提案都交判官)34.7%(并不低于无防护)、NoJudge 1.3%、Full 2.2%——即 32.0% 与 34.7% 是同一 CyberOps 实验里的无防护臂与 JudgeOnly 臂两个数字,与上面的四领域总体 30.0%→3.0% 不是同一范围。确定性检查承担了大量拦截:四领域合并,它是 77.9% 被阻尝试的首个拦截环节(CyberOps 97.8%、其余三领域 69.7%)。留一法消融(同一 75 变体)上去掉 P3→16.9%、去掉 P4/P2/P5/P1→7.6%/6.7%/6.7%/4.9%,配对后每个增幅都不含 0。判官可靠性:3,657 轮 Local4 中两两一致度 κ 仅 0.41–0.65(均值 0.51),法定人数 1/2/3/4 票的通过率为 81.2%/68.1%/53.2%/39.0%;判官不迁移——在其提示词写就的 CyberOps 上批准 94.9% 的合法提案、金融降至 75.4%、医疗 68.7%、法律仅 39.7%。成本与副作用:CyberOps 合法工具提案被拒 9.9%(金融/医疗/法律 19.5%/20.0%/26.9%),中位良性事件在两个本地判官下需 68 秒;持久状态从不失效——30 个攻击事件后接 20 个良性场景,良性完成率都从 97% 跌到 5%。第三方基准上 ASB 255 案例(1,530 次)ASR 1.8%(单判官 3.3%、Lin3 9.6%),TAMAS 250 实例 ASR 从 43.5% 降到 21.9%,InjecAgent 50 例 Full 下 0.0%。3
证据与局限:强——300 个自建变体 × 3 次试验(四领域 900 次)+ 255 ASB + 50 InjecAgent + 250 TAMAS 的第三方复现,留一消融、配对检验、Holm 校正、聚类 bootstrap、判官重放保真校准齐备。主要扣分:作者自陈自建套件里规则与攻击都是同一批人所写(部分循环),消融臂只在一个主模型、一个领域上跑;只测静态攻击,自适应攻击者超出问题范围,故这些数字是确定性层安全性的上界;工具是桩、记忆是合成的、四领域共用一套骨架。原文未报告 GPU 型号与训练成本。代码与数据在 https://github.com/shaswata09/DEFER 实测 200;论文许可为 CC BY-NC-ND 4.0(不可改编/商用)。3
与本节其它条目的关系:与第 7 条(arXiv:2610.08082)同属"规则与判断的边界",07657 给出边界位置的量化(能写成策略的靠规则、策略内的靠判官),POLAR 则是把"可逆性"写成规则的一次具体尝试,可互为参照;其指标拆分(ASR / attempt rate / block rate given attempt / judged fraction / first interception / collateral denials)与第 6 条(arXiv:2610.07817)的 Grounded TSR / ungrounded rate 互为评测口径;其"给判官更多字段反而更好骗""同源判官小组反而更弱"两条对第 9 条(arXiv:2610.07803)等涉及判官/自评的工作是直接的反面证据约束。3
结论建议:可作为任何 agent harness 运行时防护的设计准则(能确定性检查的都先检查、判官只处理意图类违规、判官必须家族多样、状态必须过期),并用其指标拆分把"模型自身的安全拒绝"与"框架的贡献"分开;但引用"规则承担 77.9% 拦截"时须注明该比例来自自建套件、在第三方基准上规则首拦率极低(ASB 上内容无关规则一次都没触发、TAMAS 上 202 次里只有 10 次),且"持久状态把良性完成率压到 5%"是可用性级缺陷。3

9. 只在小模型推理链不确定性异常上升时才融合,AIME24 从 53.3% 升到 73.3%

ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models · arXiv:2610.07803 · 邻近跟踪
研究问题与核心方法:小型推理模型(SRM)靠长链思维在复杂推理上表现不错,但一旦推理走进错误路径就很难自己回头;现有测试时融合方法用"局部"信号决定何时融合,会被瞬时不确定性波动误导,反而强化不稳定的推理轨迹。ThinkFuse 是免训练的测试时融合框架:主模型先产生推理轨迹;框架用 EWCA(Exponentially Weighted Causal Aggregation,指数加权因果聚合)度量片段级不确定性并配一个自适应阈值 θ——把片段的内部转移方差与整条累积轨迹的进展放在一起看,只有当片段的瞬时不确定性相对整条轨迹的历史趋势"异常上升"时才触发。触发后让辅助模型在当前上下文生成候选片段,再用以主模型困惑度(PPL)为导向的兼容性打分在"主片段 vs 辅助片段"之间选更贴合当前轨迹的一段续写;阈值带软预算惩罚项(λ 控制累积融合比例)以防融合过度,融合只在显式思考阶段、被选中的片段上发生。75
关键结果(准确率 %,括号内为相对主模型 standalone 的百分点差):Qwen3-4B standalone 在 MATH-500 / GSM8K / AIME24 / GPQA / NQ-Open 上为 89.0 / 92.0 / 53.3 / 54.0 / 29.5,ThinkFuse(Qwen3-4B × Ministral)为 90.0 (+1.0) / 96.9 (+4.9) / 73.3 (+20.0) / 64.6 (+10.6) / 39.5 (+10.0),五个基准全涨、其中四个最好。退化对照 Qwen3-4B × Qwen3-4B(同模型冗余融合)为 75.0 (−14.0) / 90.0 (−2.0) / 40.0 (−13.3) / 28.3 (−25.7) / 38.0 (+8.5),四个基准被拖垮;现有融合基线在同一配对下崩盘(Cool-Fusion 31.0 / 66.0 / 0.0† / 11.6 / 0.5,AdaFuse 45.5 / 72.6 / 33.3 / 28.8 / 38.5)。测试时算力基线 self-consistency 对 AIME24 无增益(K=3、K=5 都停在 53.3)、反而拉低 GPQA。效率(五基准均值)上 ThinkFuse 为 68.7 s / 77 TFLOPs / 72.9 分 / 0.95 分每 TFLOP,AdaFuse 为 33.9 s / 74 TFLOPs / 0.60、Cool-Fusion 为 39.4 s / 86 TFLOPs / 0.25——TFLOPs 与 AdaFuse 相当、单 TFLOP 产出最高,墙钟更长被归为 PPL 打分的 CPU-GPU 数据传输。统计上对 standalone 主模型的 20 个"配对 × 基准"准确率差做 95% bootstrap 置信区间,20 个差值全为正、其中 11 个区间不含 0、没有任何区间显示显著退化。75
证据与局限:5 个基准 × 多种主/辅模型配对(跨家族、同家族、更小主模型、指令型辅助)、3 类基线(standalone / 测试时算力 / 测试时融合)、4 组消融(预算惩罚 λ、片段长度 T、兼容性打分规则、token 级不确定性),并报 95% bootstrap 置信区间。局限:评测模型集中在 1.2B–4B 开放权重推理模型,每个基准只有单次运行的点估计(置信区间来自重新执行),AIME24 只有 30 题、CIs 很宽;"效率更高"只覆盖融合类方法之间的对比,并未与 self-consistency 在同口径下比 TFLOPs;墙钟更长(68.7 s vs 33.9 s)归因于数据传输但缺直接测量证据;消融显示片段长度 T=4 低于 standalone、只用主模型 PPL 打分最优(改用平均 PPL 掉到 80.5%)。算力为两块 NVIDIA A100-80GB、vLLM,代码 https://github.com/js-lee-AI/ThinkFuse 实测 200。75
与本节其它条目的关系:与第 5 条(arXiv:2610.07556)比"何时该多花算力、何时该省调用"的性价比口径(DeOrch 用成本感知奖励压调用,ThinkFuse 用选择性融合换准确率);与第 4 条(arXiv:2610.07782)互相印证"单纯加大测试时算力/加记忆不一定买到收益";其"融合必须选择性且轨迹感知、冗余同模型融合会主动破坏推理"是测试时自我改进的明确失败模式,可接第 3 条(arXiv:2610.08630)关于外部记忆与参数内记忆的讨论。75
结论建议:可移植的判据是"用片段级不确定性相对轨迹级历史趋势的偏移决定是否干预",比局部置信度更抗瞬时抖动;软预算惩罚也可复用到任何自我纠错/自蒸馏流程以防过度改写。引用其增益时应提醒 AIME24 的 +20.0 是单次 30 题的差值、样本基数太小,且效率优势只在融合类方法间成立。75

十一、邻近跟踪:自进化、轨迹与生成侧

1. 轨迹检索投机解码在小草稿模型之上每位置多接受 0.171 个 token,端到端吞吐最多提升 12.4%

Trajectory-Retrieval Speculative Decoding: When Does a Model's Own History Help? · arXiv:2610.07350 · 邻近跟踪
研究问题与核心方法:长思维链推理里,模型自己已生成的历史能不能当「草稿来源」——在什么条件下它才真的提供小草稿模型漏掉的 token,以及检索验证的开销该何时付。作者先做受控的来源比较:Within(当前轨迹)、Cross(同模型同数据集的另一条轨迹)、Shuffled(当前历史块打乱)、Unigram(纯词频),用同一目标轨迹与同一匹配规则隔离「轨迹特定复用」。再提出 Trajectory-Local Adaptive Retrieval(TLAR):只在已生成历史 h_t 中找候选,以最近 c 个 token 为上下文 u_t,取哈明距离 ≤ϵ 且其后 d 个 token 已完全落在历史内的位置(式 1),用这些位置的后续 token 作候选、按 recency 排序取前 k_t 个插入前缀共享树(重复前缀只算一次);控制器以运行分数 ρ̂_t(「最近检索是否至少被接受 1 个 token」,指数衰减、半衰期 H)决定激活 g_t=I[|h_t|>τ]·I[ρ̂_t≥ρ_min ∨ 上次检索成功 ∨ 周期性探针],候选宽度 k_t=clip(⌈k_max·ρ̂_t⌉,k_min,k_max),探针位置取 k_min。TLAR 候选与 SmallDraft 候选合并进同一前缀共享树、去重后由目标模型精确验证,从而保持目标模型输出分布不变。默认配置 c=4、ϵ=1、τ=512、d=4,固定宽度实验 k=4,控制器 k_min=1、k_max=4、ρ_min=0.05、H=32、探针间隔 32;方法不需要训练。评测为离线回放:每个 prompt 先生成一条固定目标轨迹,所有草稿方法在同一批位置预测同样的后续 token,指标为精确接受长度、恢复率、新增接受 token ∆ 与验证成本 C。目标模型为 Qwen3-8B、Mistral-Small-3.2-24B-Instruct、Llama-3.1-8B-Instruct,对应小草稿模型为 Qwen3-0.6B、Ministral-8B-Instruct-2410、Llama-3.2-1B-Instruct;作者 Yuyang Dai、Yushun Dong,均属 Florida State University。 76
关键结果:RQ1(相对小草稿模型的每位置新增接受 token ∆,代码域,固定 512 token 门槛、k=d=4):Qwen3-8B 上 TLAR 得 0.171,而 SmallDraft 自身接受长度为 2.383;Mistral-24B 为 0.025(vs 3.148)、Llama-3.1-8B 为 0.018(vs 2.823);对照组 SuffixDecoding 为 0.128/0.026/0.013、STAND 为 0.164/0.017/0.011,并集 STAND∪TLAR 最大,为 0.228/0.032/0.026。来源测试(Figure 1,精确接受 token 数):三个模型在代码调试与数学上都是 Within > Cross、Shuffled、Unigram;开放式写作上不成立——Mistral 的 Within 优势变小,Qwen 未超过 Unigram。同题不同种子配对比较(Figure 2,24 题配对,95% bootstrap 区间):Qwen own 2.08 vs other-seed 1.27;Mistral 1.44 vs 0.86;Llama own 0.82 vs other-seed 1.11(方向相反,说明 Llama 的可复用草稿更依赖「同一道题」而非「自己那条轨迹」)。RQ2(共享验证节点预算下的接受增益):B=4 时并集相对最强单来源检索基线提升 13.7%(Qwen)、11.5%(Mistral)、5.0%(Llama);B=8 时为 16.8%、14.8%、4.8%。端到端吞吐(Table 2,Qwen3-8B/Qwen3-0.6B,单张 NVIDIA B200,五次预热运行的中位数):batch=1 时 SmallDraft 为 151.80 tokens/s @512 token、143.20 @1024、132.60 @2048、119.40 @4096,并集对应 150.89(−0.6%)、155.09(+8.3%)、146.52(+10.5%)、134.21(+12.4%);batch=32 时 2528.0→2510.3(−0.7%)、2405.0→2587.8(+7.6%)、2222.0→2422.0(+9.0%)、1986.0→2200.5(+10.8%);Mistral 在 batch 1 与 32 上分别改善 4.1% 与 3.5%,512 token 时检索未激活,负增益反映控制器/索引开销。27 组候选参数网格(c∈{2,4,8}×ϵ∈{0,1,2}×k∈{2,4,8},Figure 7):默认 c=4、ϵ=1、k=4 比各模型网格中增益最高点用的验证节点更少,但恢复的 token 也更少。 76
证据与局限:中等。证据面为三个模型家族 × 三个任务域(100 题代码调试、24 题数学推理、24 题开放式写作),含跨轨迹/打乱/词频三类来源控制、同题不同种子的配对比较(24 题,95% bootstrap 区间)、共享节点预算下的多来源对照(B=4/8)、控制器与 27 组参数网格消融、单张 B200 的端到端吞吐;但数学与写作各仅 24 题,所有接受度指标来自离线回放(固定目标轨迹),真实部署中的分布漂移未验证。论文未设独立 Limitations 章节,只把结论限定为「差异取决于模型与任务」;未见统计显著性检验,只给 bootstrap 区间;数学域 Llama 需排除「重复复制」案例后才成立;Mistral 的端到端吞吐增益(4.1%/3.5%)明显低于 Qwen,收益强依赖模型-草稿模型组合。算力为单张 NVIDIA B200;论文首页声明的代码仓库 https://github.com/YUYANG0915/tlr 实测 HTTP 404(2026-10-07 两次实测),无可复现工件。 76
与本节其它条目的关系:与第 4 条(跨分词器同策略蒸馏)同属「监督/信号是否真的有效」的严格归因:本条用跨轨迹、打乱、词频三控制排除「普通文本重复」这一平凡解释,第 4 条用 18 个正权重的全扫描证明「对齐覆盖不等于监督可靠」,两篇都给出「补齐并不能换来收益」的实证。与第 2 条(Turnslide)互为对照:Turnslide 用有限状态机在构造上保证轨迹合法并报出 1.0 次 LLM 调用/轨迹的成本,本条则是免训练地在历史里检索候选、只按提交给目标模型的验证节点数计价,两者共同把「历史/轨迹值多少算力」变成可量化问题。与第 3 条(条件锚定蒸馏)、第 5 条(连续 Dyna 循环)在门控上同源:本条用「早先检索是否被接受」这一因果可得信号做运行时门控,第 5 条用真实对局的在线评估加 KL 锚挑 checkpoint,第 3 条用少量旧 prompt 锚点决定保护哪种行为。与第 6 条、第 10 条同属「边际收益随条件衰减」的证据:本条开放式写作上 Within 优势消失,第 6 条第二步新增类 F1 从 83.3% 掉到 61.8%,第 10 条的 +2.34 分平均效应在剔除少数学生后即不显著。 76
结论建议:可把「轨迹特定复用必须用跨轨迹/打乱/词频三控制才能归因」这条方法论直接搬给任何用历史轨迹做数据、提示或缓存的流程;其「用早先被验证接受的因果结果做自适应门控」也可作为长程运行时保障层的一个轻量实例(不需要训练、不改变目标模型分布)。引用时须带上适用条件:收益只在 1024 token 以上的长轨迹出现(512 token 时检索未激活,吞吐为 −0.6% 至 −0.7%),开放式写作上优势消失,且承诺的代码不可复现——宜当方法论样板而非数字基线。 76

2. 有限状态机走位合成多轮数据,固定 20M token 预算下多产 3.6–6.6 倍轨迹

Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine · arXiv:2610.07070 · 邻近跟踪
研究问题与核心方法:小语言模型(SLM)便宜、可私有部署,但基座模型的多轮工具调用能力差,微调又需要每个 API 各自的数据(几乎不存在);现有合成方法要么需要为每个域手建模拟环境,要么每生成一轮要多次 LLM 调用,成本高到无法支撑大规模微调。Turnslide 把每个 API 域建模成简化的有限状态机(FSM):状态 S(决定哪些工具可调)、工具函数 F、guard 条件 G、转移关系 T,由 LLM 离线用两次调用自动构建(第一次从任务描述/工具 schema/种子样例识别系统状态,第二次为每个工具确定 guard 与转移)。采样工具序列即沿 FSM 走一条状态合法的路径(state-valid walk),因此轨迹在构造上就满足前置条件,而非事后过滤。蓝图由三属性控制:轮数(本实验 2–10 均匀)、工具序列(为让工具边际分布尽量均匀,把「每状态采样概率+初始状态分布」写成一个凸子问题,用分块坐标下降+CVXPY 迭代 100 次求解,误差 10⁻³)、任务复杂度(在序列中随机插入幻影工具调用 information_retrieval / arithmetic_computation,放在含数值或字符串参数的工具之前,迫使模型先检索信息或做算术)。蓝图确定后,单次 LLM 调用即生成整段对话(而非逐轮逐角色生成),生成后做轻量校验(工具调用与参数对函数签名、ROUGE 去重),拒绝率约 2.3%。作者与机构:Imperial College London、distil labs、Agon、ELLIS Institute Tübingen;论文获 NeurIPS 2026 SLM-Agents Workshop 接收(非存档)。 77
关键结果:下游微调准确率(Table 1,五个 BFCL v4 域平均,以生成条件、API 域、学生模型为分类控制变量估回归系数):FSM(本方法)β=10.1%±2.62(p<0.01);Markovian 工具图 β=7.88±3.19(p=0.03);Turns mutator β=2.89±2.87(p=0.321,不显著);未变异 Baseline 无 β。逐域 full accuracy:FSM 在 Trading 54.2、Travel 61.5、VehicleControl 22.5、GorillaFileSystem 80.2、Ticket&Travel 47.2,对应 Baseline 为 43.9/47.8/18.8/67.3/38.5;FSM 在工具前置条件更严的域(VehicleControl、Travel、TradingBot)提升最明显,在状态无关的 GorillaFileSystem 上与 Markovian 相当。与已有方法对比(Table 2,TradingBot 域、Qwen3.5-2B、固定 20M token 生成预算):本方法 full accuracy 70.7%、per-turn 87.2%、LLM 评分 3.34/5,对比 ToolFlow 63.4%/85.7%/3.03、APIGen-MT 53.7%/80.1%/3.04;成本上本方法为 1.0 次 LLM 调用/轨迹、27,724 token/轨迹(5,545 token/轮)、20M token 可产 721 条,ToolFlow 为 34.3 次调用、99,846 token/轨迹(22,327/轮)、200 条,APIGen-MT 为 107.2 次调用、184,304 token/轨迹(35,943/轮)、109 条——即在固定 token 预算下多产 3.6–6.6× 的样本(或 4.0–6.5× 的轮数)。工具分布均匀化(Fig. 2,TradingBot):与「每状态等概率采样」相比,优化后的工具分布与均匀分布的平均绝对误差从 42% 降到 19%。逐学生(Table 3):FSM 在 Llama 上 Trading full 56.8、Travel 76.8、VehicleControl 30.0、FileSystem 86.2、Ticket&Travel 65.4,在 Qwen 上对应 51.5/46.2/15.0/74.1/28.9;基座学生很差(Llama 基座 Trading full 0.0、FileSystem 12.5)。 77
证据与局限:中等。主表为五域 × 两学生(Qwen3.5-2B、Llama-3.2-3B-Instruct)× 两折交叉验证,并用多元线性回归给出 β、SE 与 p 值(FSM p<0.01),另有成本/规模化的正面对比;但与 ToolFlow / APIGen-MT 的对比只在单一域(TradingBot)且单一学生(Qwen3.5-2B)上、固定 20M token 预算下完成(作者自陈因成本无法全量评估),基线为作者自行重实现(当时找不到公开代码),主表部分数据点方差大、Turns mutator 对照不显著。数据来源为 BFCL v4 多轮类(改造为按 API 域切分,每域 50:50 分 seed/test,seed 常少于 10 条),用 GLM-5.1 作 teacher 每域合成 5,000 条,测试集补充部分由 Fable 5 生成、经执行校验并由作者人工确认;微调用 LoRA(rank 64)+AdamW、4 epoch、单张 Nvidia A100、每次实验合成+微调约 72 小时。原文自陈 FSM 在合成前不做校验(错误会传播到生成数据);代码为专有(NeurIPS checklist 第 22 题答 [No]),数据仅随补充材料发布,均无公开 URL,头条数字不宜外推为通用优势。 77
与本节其它条目的关系:与第 4 条(跨分词器同策略蒸馏)共同支持「监督与数据的合法性来自构造、而非事后补齐」:本条用 state-valid walk 在构造上排除非法轨迹、拒绝率仅约 2.3%,第 4 条则证明把不对齐的 token 组补进监督会让 18 个正权重设定比严格基线低 0.27–1.20 个百分点。与第 1 条(轨迹检索投机解码)在「轨迹值多少算力」上互补:本条报 1.0 次调用/轨迹、27,724 token/轨迹与 20M 预算下 721 条,第 1 条报按验证节点计的新增接受 token。与第 5 条(连续 Dyna 循环)是「合成数据从哪来」的两条路线对照:Turnslide 离线一次性用 FSM 每域造 5,000 条,PufferMOBA 把 7,490 局真实对局回流进世界模型(连续 Dyna)。与第 3 条(条件锚定蒸馏)同属「训练信号该用什么形式」:本条用幻影工具调用在数据里注入多步复杂度,第 3 条用软目标替代硬重放。与第 6 条(AccentCL)在规模口径上可对照,两篇都报出单次实验的硬件与时长。 77
结论建议:可把「沿 FSM 走状态合法路径」与「指定目标分布而非优化多样性」两条直接搬进任何工具型智能体的轨迹合成管线;其成本口径(LLM 调用次数/轨迹、token/轨迹、固定预算下可产条数)建议作为合成方法的必报项,幻影工具调用也可作为低成本注入多步推理的技巧。引用时须注明头条 70.7% vs 63.4%/53.7% 来自单域单学生的窄对比、基线为自行重实现、FSM 合成前不校验且错误会传播,代码不公开、数据仅随补充材料——宜当方法论样板使用。 77

3. 条件锚定蒸馏把四任务掩码扩散的遗忘从 2.591 降到 0.674

Stabilizing language models under continual learning via condition-anchored distillation · arXiv:2610.06940 · 邻近跟踪
研究问题与核心方法:语言模型部署后要持续接收新领域、新指令族与事实更新,而用户仍期望旧 prompt 条件下的行为可用,旧的 prompt–answer 对却可能无法或不宜全部保留。本文提出条件锚定生成蒸馏(CAGD):保留一小组旧 prompt 作为条件锚点(不固定唯一答案),冻结上一阶段模型 θ⁻=θ_{t−1} 作临时教师,让教师在锚点上生成补全与生成状态 τ,学生在这些状态上匹配教师的预测分布,损失 L_CAGD=E_{c~Ā_{b<t}, τ~Q_{θ⁻}}[Σ_s w_s·D_KL(K_{θ⁻,s}‖K_{θ,s})],阶段目标 L_t=L_new,t+β·L_CAGD,不含任何参数空间惩罚。它把常规 replay 混在一起的三种角色分开:条件决定「保护哪种行为」、教师生成定位「相关状态」、软目标规定「预测可以怎么变」。自回归特化用贪婪补全固定生成支撑上的 next-token KL;掩码扩散特化对教师生成的补全做前向随机掩码并要求 prompt 保持可见、只腐蚀补全位置(1/t 重要性权重对齐原生掩码扩散目标)。理论上,自回归下教师轨迹上的 next-token 匹配可用 KL 链式法则精确分解序列级散度,配 Pinsker 界控制终端输出 TV 距离;有限锚点暴露「锚点漂移+覆盖误差」,且学生保留的是上一教师而非真值,因此还叠加教师自身的既有误差。作者:Huan Li、Zhe Cao、Qinlei Xie、Fushun Cui、Xuechen Liang(通讯),机构为清华大学智能产业研究院(AIR)与南京大学;论文投向 ICLR 2027、审稿中尚未接收,且无 HTML 版。 78
关键结果:四任务掩码扩散(骨干 SMDM-219M,每任务 4 事实、120 训练 prompt、40 留出 prompt,每旧任务保留 64 个平衡的 prompt-only 锚):正向顺序 final avg loss 从 2.927±0.231 降到 1.114±0.374,past forgetting 从 2.591±0.429 降到 0.674±0.387,fixed-T4 loss 从 0.439±0.039 降到 0.318±0.014;反向顺序 final avg loss 从 2.168±0.390 降到 0.891±0.215,forgetting 从 1.997±0.395 降到 0.505±0.106,fixed-T4 从 2.117±0.419 降到 0.409±0.086;每个种子在 final loss 与 forgetting 上都偏好 CAGD;无障碍离线参照 Joint 为 0.805±0.193。软目标 vs 硬重放(两任务匹配实验,教师生成支撑完全相同):硬重放 final avg loss 0.291±0.025、存储式真实重放 0.336±0.066、CAGD 0.237±0.031;相对硬重放,CAGD 降 final avg loss 0.055±0.013、降 forgetting 0.091±0.017,final-task loss 变化 −0.018±0.015。新事实内容上的 final avg loss 为 2.445→0.527(正向)、2.920→0.438(反向)。自然指令(Dolly,闭卷 QA/摘要/创意写作,prompt 不相交):SMDM-219M 从 2.343±0.024 降到 2.281±0.012(硬重放 2.286±0.019),forgetting 从 0.006±0.025 变为 −0.062±0.006;Qwen3-0.6B 从 3.959±0.113 降到 3.594±0.074(硬重放 3.973±0.053),forgetting 从 0.211±0.155 变为 −0.070±0.056。自回归迁移(Qwen3-0.6B 与 1.7B)的配对 final-loss 降幅为 0.902±0.296 与 0.133±0.170,final-task loss 变化仅 +0.017 与 +0.008。GSM8K 行为保留(1,319 题,测 final-answer 精确匹配与 #### 分隔符合规):格式合规从 0.40% 提到 88.70%(0.6B)、从 0.28% 提到 89.44%(1.7B),但配对 final-EM 差异为 +0.78±0.84 点(0.6B)与 −6.37±0.93 点(1.7B,反而变差),SMDM 两种规模下 EM 都只有 1.36%;归档对照 Qwen3-4B 上 CAGD 把 EM 从 8.39 提到 74.32、格式合规 98.43%。TRACE 异质持续适配(Qwen3-4B-Instruct-2507,八任务标准顺序,3 个训练种子 3407/3408/3409、每种子 8 次解码):CAGD 得 ACC 64.47±1.75、BWT −1.79±1.32,优于 OPR-RU(62.73±0.54 / −4.12±0.32)、Replay(62.61±2.46 / −4.14±2.68)、OPR-SC(60.67±1.91 / −6.35±2.04)、Sequential(59.71±0.97 / −7.16±1.24),八个任务分数中领先六个(ScienceQA 85.00 vs OPR-RU 80.75、FOMC 72.91 vs 69.24)。 78
证据与局限:中等偏强。跨两种生成目标(掩码扩散+自回归)、五个规模(219M/1.14B/0.6B/1.7B/4B),受控事实流+自然指令+GSM8K+TRACE 多基准,正向与反向任务序各跑,软/硬目标用相同的生成支撑做匹配实验,TRACE 用 3 种子。但缺对主结论的正式统计检验(只报均值±标准差),受控事实流的终值未报种子数与重复次数明细,且最重要的一项行为指标(GSM8K 精确匹配)结论混合甚至为负。理论上两组目标层级不同:自回归下沿教师路径匹配 next-token 可精确分解序列级散度,而实现的掩码扩散损失只控制「被腐蚀的教师补全上的局部去噪漂移」,若不把这些条件分布等同于采样器的转移核,就不蕴含同样的终端输出保证。成本并未消除:当前配置下 prompt 缓存随任务数线性增长,且每个任务边界都需要教师生成并同时挂载教师与学生模型;教师的既有错误会直接进入学生。全部适配实验为学生模型全参数微调;算力(含附录中的资源记账)原文未报告;代码 https://github.com/HuanLi0311/dllm3 实测 HTTP 200,基准数据为公开的 reversal-association 基准、Dolly、GSM8K 与 TRACE。 78
与本节其它条目的关系:与第 6 条(AccentCL)是本节最直接的同类对照——两篇都在「增量吸收新任务/新类而不损旧行为」上给方案,CAGD 用少量 prompt 锚点加冻结教师软目标(四任务掩码扩散 forgetting 2.591→0.674),AccentCL 用约 10% 域分层重放+温度缩放知识蒸馏+旧类 margin(第一步旧类平衡准确率 77.3%、Δavg −0.8pp);两者的反例也同型:CAGD 保住了 GSM8K 格式合规(0.40%→88.70%)却保不住答案正确率(1.7B 配对 EM −6.37±0.93 点),AccentCL 的不退化主要靠保留损失与 margin,而新类学习本身较弱(第二步新类 F1 仅 61.8%)。与第 4 条(跨分词器同策略蒸馏)同属「监督目标设计」:CAGD 在相同生成支撑下用软目标替代硬重放(final avg loss 0.237±0.031 vs 0.291±0.025),第 4 条则证明「增加覆盖」本身并不提升学习。与第 5 条(连续 Dyna 循环)在防漂移机制上可对照:本条以旧 prompt 锚点约束,第 5 条以 0.3·KL 的锚定项与「fresh 种子上多赢 ≥9 局才移动」限制策略漂移。与第 2 条(Turnslide)共用「教师生成支撑」这一实验控制思路。 78
结论建议:「条件锚点+教师诱导状态上的分布匹配」可直接搬到任何需要保留旧条件能力的持续更新流程(包括长程智能体的增量工具与领域接入),其「相同生成支撑下软目标优于硬重放」的匹配实验设计可作为标准比较范式。引用时要写清两条边界:它保住的是输出分布与格式、而非答案正确性(1.7B 上精确匹配反而差 6.37 点),且锚点缓存随任务数线性增长、每个任务边界都需同时挂载教师与学生,记忆与算力成本并未消除;教师退化时方法无法自我修复。 78

4. 把错配 token 纳入监督反而全线减分,严格 1:1 加 top-16 仍保住 96% 的提升

Rethinking Cross-Tokenizer On-Policy Distillation: From Alignment Coverage to Supervision Reliability · arXiv:2610.08448 · 邻近跟踪
研究问题与核心方法:跨分词器同策略蒸馏(OPD)里,扩大「对齐覆盖」——把不严格对齐的 token 组也纳入监督——真的能提升学习吗,还是严格的 1:1 对齐已保留大部分有用信号?做法是把学生回答同时用两种分词器编码,按共享边界切成 R 对对齐 token 组,分「严格 1:1 组」(两侧各 1 个 token 覆盖同一 span)与「错配组」;严格目标在共享词表上(限制并重归一化)对严格位置求反向 KL。实验一在严格目标上叠加对错配组 span 对数概率的 MSE(L_span,权重 λ),扫描 λ∈{0,0.25,…,1.5};实验二把反向 KL 限制到学生自选的 top-k 共享词表子集(top-16/top-128),检验紧凑监督能否保住收益;实验三用梯度余弦 c_mis 与范数比 ρ 诊断 span 梯度与严格梯度的一致性及其相对尺度。作者为 Bingxi Hou(同等贡献)、Guochao Jiang(同等贡献、通讯)、Guofeng Quan、Weiqing Li、Wenfeng Feng、Guohua Liu、Yuewei Zhang,机构为阿里云。 8
关键结果:覆盖(Table 1):静态词表 Jaccard 仅 39.49–64.87%,但学生轨迹上严格 token 覆盖率(整轮)达 85.57–96.98%(学生侧)、82.82–97.26%(教师侧),每个 pair 在三个窗口间的波动 ≤1.43pp(学生)/≤3.75pp(教师);每次运行保存 51,200 条回答(512×100 步)。错配监督反而变差:三个 pair 都在 λ=0(只严格监督)取得最高全平均,18 个正权重设定比各自的严格基线低 0.27–1.20 个百分点——λ>0 即获得 100% 结构覆盖,却降低下游准确率。概率质量:严格位置上共享词表平均保留教师 99.69–99.90%、学生 98.99–99.81% 的质量;学生自选 top-16 仍保留教师 ≥93.54%、学生 ≥94.55%;k 从 16 增到 128 最多只再多保留 3.44pp(教师)/2.70pp(学生)。训练对比(Table 2,全平均 %,三个教师–学生对依次为 Qwen2.5-7B-Instruct→Llama-3.2-3B-Instruct、Granite-4.1-8B→Phi-4-mini-instruct、Granite-4.1-8B→Qwen2.5-7B-Base):Base 26.96/36.55/29.56,Strict full 32.86/42.49/47.35,Strict top-16 32.64/42.26/47.06,Strict top-128 32.38/42.54/47.65;基线 ULD 29.12/38.63/27.12、Extended ULD 31.13/38.35/32.57、GOLD 27.16/41.75/46.55、SimCT 31.59/41.68/46.10——top-16 保留至少 96% 的「Base→Strict full」全平均提升,三种严格变体在两域全平均上都超过四个跨分词器基线,top-16 领先最强基线 0.51–1.05pp。梯度诊断(Table 6):错配–严格梯度余弦 c_mis 弱或近零(Qwen→Llama、Granite→Phi),Granite→Qwen 初期为负后趋近零;每个测点每个 pair 的 c_mis 都低于「把严格位置对半分」的对照余弦 c_ctrl(step 0 Qwen→Llama:c_mis 0.030 vs c_ctrl 0.956,ρ=0.294);span-to-strict 范数比 ρ 在三个 pair 中都随训练步增长。附加实验:235B 教师→8B 学生上 Strict top-16 在 Math/Code/Full 平均最高,ALFWorld 上 Strict top-16 在 seen 与 unseen 划分的成功率都最高。 8
证据与局限:中偏强。三个异质教师–学生对 × 多基准 × λ 全扫描(18 个正权重)+覆盖/概率质量/梯度三重证据+4 个跨分词器基线(均在 KDFlow 中实现)+附加的 235B→8B 与 ALFWorld 迁移;作者未做显式统计显著性检验小节,主要靠趋势与百分点差。结论基于单一 span MSE 形式的错配监督,不能据此断言所有覆盖补齐方式都无效;「span 梯度弱对齐、相对尺度增长」只是相关性解释而非因果证明;评测以数学与代码为主(MATH500、GSM8K、AIME-2024/2025/2026、AMC23、Minerva-Math;HumanEval、MBPP、LiveCodeBench),通用对话与长程智能体场景未覆盖;源池为 20,000 prompt(10,000 数学 DAPO-Math-17K+10,000 代码 CodeForces open-r1,无去重),数学 mean@32、代码 mean@8;算力(硬件/时长)原文未报告;代码仓库 https://anonymous.4open.science/r/Cross-Tokenizer-OPD 实测 HTTP 403(不可访问),无可复现工件。 8
与本节其它条目的关系:与第 2 条(Turnslide)、第 3 条(条件锚定蒸馏)构成「监督与数据该补什么、不该补什么」的一组:本条证明把不对齐的 token 组补进来会让 18 个正权重设定全线低于严格基线 0.27–1.20 个百分点,第 2 条用 FSM 在构造上排掉非法轨迹(拒绝率约 2.3%),第 3 条证明在相同生成支撑下软目标优于硬重放。与第 1 条(轨迹检索投机解码)同属「主张需要控制实验」:第 1 条用跨轨迹/打乱/词频三控制隔离轨迹特定复用,本条用 18 组权重对照与梯度余弦诊断隔离「覆盖补齐」的真实贡献,两篇都给出「看起来更全的设定并不更好」的实证。与第 6 条(AccentCL)可对照「紧凑监督」的两种形式——本条用学生自选 top-16 共享词表把教师 93.54% 以上的概率质量留住,第 6 条用约 10% 域分层重放把旧类平衡准确率维持在 77.3%。与第 8 条(Sobolev 距离度量音频变形)方法同源:两篇都用错配/对抗条件检验一个「看起来更完整」的设定是否真有价值。 8
结论建议:「对齐覆盖不等于监督可靠性」这条判据,以及「学生自选 top-k 紧凑支持+梯度一致性诊断」这套方法,可直接用于任何 on-policy 蒸馏、自蒸馏与教师反馈训练流程;评测时建议同时报覆盖、概率质量与梯度余弦三项,而不是只看对齐率。因其评测限于数学与代码、错配监督只试了一种形式、且匿名代码仓库 403 不可访问,引用时宜把它当方法论文本而非可复现基线。 8

5. 连续 Dyna 循环把未见种子上的天辉胜率从 0 推到 70.2%,而模型利用只在真实信号里显形

Learning in Dreams, Winning in Reality: A Continuous Dyna Loop for a Ten-Hero MOBA · arXiv:2610.08033 · 邻近跟踪
研究问题与核心方法:当策略只在学习到的世界模型里做长程自由想象的训练、真实环境又慢又贵时,它究竟学到了什么、能否在现实中存活——这是长时程 model-based RL 的迁移与模型利用(exploitation)问题。做法是把 PufferLib MOBA(206 单位、十英雄每 tick 同时行动、最长 6,000 tick)建成结构化多智能体世界模型:每个单位一个 token(含位置、血量、魔法、冷却、眩晕等+9×9 局部墙体),两段 Pre-LayerNorm Transformer(带距离与队伍偏置)+每单位 GRU+类型化预测头,共 0.66M 参数,自回归在自己的预测上训练。策略用 PufferLib MOBA 的策略(编码器+六层 MinGRU),只在意象中训练,episode 长达 1,400 tick。真实游戏不提供梯度,只提供两样东西:策略自己的真实对局作为世界模型的再训练数据(连续 Dyna 循环),以及一个在线评估来挑选并锚定策略(KL 锚 0.3·KL(π_anchor‖π),锚只在候选于 fresh seeds 上多赢 ≥9 局时移动)。作者另做「世界模型调试器」,把真实与想象在相同状态、相同动作下配对,做逐单位、逐字段、逐机制的误差分解。作者 Jordy Kieto(单作者),机构原文未报告。 79
关键结果:最终锚定策略在未参与任何决策的 holdout 种子上、作为 radiant(天辉)赢 421/600 = 70.2%(95% CI 66.4–73.7),第二套未用集合为 208/300;相对起点策略提升 37.3 点 [29.6,44.4],相对循环首轮提升 18.0 点 [10.3,25.4]。贡献阶梯(同一 holdout):0.0%(未训练)→0.0%(dream PPO+游戏奖励+短 episode)→1.3%(+长 episode+胜利奖励)→5.7%(+PPO fleet)→33.7%(+把经验奖励减半+shaping)→53.0%(+连续 Dyna 循环)→70.2%(+取消死亡惩罚+KL 锚)。作为 dire 侧双方都赢不了;官方随附网络自对弈 300/300 全胜(约 2,270 tick),作者策略需约 5,540–5,554 tick。模型利用在梦境内部指标里不可见:坍缩期间 dream reward 0.23、dream experience 0.29、dream deaths 0.16、本队 dream towers −0.10、policy entropy −0.37,均 |r|≤0.37,而真实 kills 0.84、真实 deaths 0.82 与真实胜场同步下降(学到「不打架」)。世界模型在策略分布上更差、Dyna 修补有效:pre-Dyna 模型预测塔倒数是真实的 1.79×(precision 28.6%),200 tick 后英雄/塔血量误差超过「预测不变」基线,Dyna 连续版降到 1.16×(precision 51.8%),英雄位置误差 22.8→9.7 cells;冻结世界模型对照下,Dyna 模型单独值 +9.2 点真实胜率 [3.5,14.7](pre-Dyna 49.0% vs Dyna 58.2%)。策略继承世界模型的保真度:梦中 stuns 召回 0%、预测/真实 0.17,英雄死亡 0.42×(死得太少);真实中策略仅 9% 时间三英雄聚拢(net 54%),7% 击杀前有眩晕(net 26%),每击杀死 3.3 次,每局拆 9.95 塔(net 6.2)。 79
四面板折线图:横轴为 PPO 更新次数,纵轴为 60 局固定种子真实对局中的天辉胜场;前两组不加锚、后两组加锚(一组 KL 1.0、一组 KL 0.3),横轴长度各不相同。
论文 Figure 3。只在世界模型内训练,真实对局的天辉胜场随 PPO 更新的走向:不加锚的两组在最初 20 到 30 次更新里一直停在 0 胜,之后才震荡上行;加锚的一组横轴只用到约 17 次更新就稳定在 35 胜附近,KL 更弱的一组在 200 次更新里维持在 20 到 45 胜之间。横轴长短本身就是「崩一次要重跑多少次」的记录。图片来源:论文原文。 79
证据与局限:中等偏强但为单作者、单对手验证。两套未触碰的 holdout 互相复现(71.0% vs 69.3%)、确定性评估可复跑(四策略计数完全一致)、有冻结世界模型匹配对照与多项消融;但循环实验为单 seed,头条数字是 13 个被评估策略中最优者,dire 侧与其他对手未验证。原文自陈:全部结果只对单一对手(官方随附 PufferNet)成立且该游戏在其下本身偏斜,只主张「赢下多数天辉局」而非「更强的玩家」;真实游戏被大规模用于选择与数据(约 46,000 局、约 0.2e9 真实 tick vs 0.5e9 想象 tick),故不是样本效率成果;匹配对照只隔离出世界模型的 9.2 点,剩余 12 点与刷新模型、移动锚、4 倍 GPU 混杂;世界模型含 spawn 与等级派生统计的手写规则;保真度到行为的一一对应只是两个测量的推断、尚非干预实验。环境为 PufferLib Ocean MOBA(上游 commit 42f70d69),数据 10,700 局/234 GB,世界模型 0.66M 参数,训练用 A40 GPU fleet(每 50 更新平均权重),策略训练 8×A40 约 135,000 agent steps/s;总成本 $382(279 机器小时,272 小时在 GPU),循环运行约 $13/小时。代码 https://github.com/JordyKieto/puffermoba-dyna 实测 HTTP 200,README 称含逐数字复现脚本。 79
与本节其它条目的关系:与第 2 条(Turnslide)构成「合成与想象的数据从哪来」的两条路线:Turnslide 离线用 FSM 每域造 5,000 条,本条把 7,490 局真实对局回流进世界模型(连续 Dyna),并把保真度差量化解到数字(塔倒预测 1.79×→1.16×、precision 28.6%→51.8%、英雄位置误差 22.8→9.7 cells)。与第 3 条(条件锚定蒸馏)在防漂移门控上互为参照:本条用 0.3·KL 锚与「fresh 种子上多赢 ≥9 局才移动」锁定策略,第 3 条用旧 prompt 锚点锁住旧条件行为。与第 1 条(轨迹检索投机解码)同属「轻量因果门控」:本条以真实在线评估为准,第 1 条以早先检索被接受为准。与第 6 条、第 10 条在评测口径上同型——都用未被决策触碰的留出数据(本条 holdout 种子 70.2%、第 6 条 OOD 源留出、第 10 条的平行趋势反事实),也都提醒单点平均不足以说明问题。 79
结论建议:可搬用的是三件东西:把「未参与决策的 holdout 种子」与「用于选择的 fresh 种子」严格分离;把世界模型保真度按单位、字段、机制逐项与真实配对比较(含 persistence 基线);以及在内部指标失效时用外部真实信号做 checkpoint 门控与 KL 锚。引用时必须带上边界:结论只对单一对手成立、dire 侧未解、循环单 seed、头条是 13 个策略中的最优值,且剩余 12 点增益与刷新模型、移动锚、4 倍 GPU 混杂——不可当作通用的世界模型自训结论。 79

6. 冻结 Whisper-Large-v3 的口音分类达 77.1% 平衡准确率,新增一类旧类仅降 0.8pp

AccentCL: Robust Accent Classification with Incremental Expansion · arXiv:2610.07426 · 邻近跟踪
研究问题与核心方法:现有口音分类器用固定的标签集合训练、无法在新数据到来时容纳新口音类别,且口音语料常有严重类别不平衡与跨语料域漂移。方法分两阶段。阶段一把 CommonAccent 的 16 个细粒度口音标签并为 5 个大区标签(北美=美/加;不列颠群岛=英/爱/苏/威;澳大拉西亚=澳/新;南亚=印度;东南亚=马来/新加坡),用冻结的 Whisper-Large-v3 编码器抽取第 {16,20,24,28} 层的隐藏状态,各层经层归一化+线性+ReLU+dropout 投影到 P=256 维后按帧拼接,再过 attentive statistics pooling 与 MLP 得到口音 embedding;损失=logit 调整交叉熵(按训练集经验类别先验 π 调 τ,缓解不平衡)+域均值对齐损失(把「同类不同域」的 embedding 均值拉向该类总体均值,m=2,权重 β_align=20)。阶段二(类增量)把分类头从 |𝒴_old| 扩到 |𝒴_old|+1,旧类权重从基座复制、新类权重随机初始化;训练集=新类数据 ∪ 域分层重放记忆(每旧类最多 K=2,000 条、按语料分层抽样,约为原始训练数据的 10%);损失在扩展标签空间的交叉熵之外加两项——对重放样本的温度缩放知识蒸馏保留损失(用冻结基座作教师,温度 τ=2,β_ret=1.0)与旧类对新类的 margin 损失(要求真实旧类 logit 比新类 logit 高 m=0.3,β_old,new=0.2),后者专门压制把旧口音误判成新增类。作者为 Mu-Ruei Tseng、Waris Quamer、Ghady Nasrallah、Ricardo Gutierrez-Osuna,机构为 Texas A&M University。 80
关键结果:5 类区域分类(Table I):AccentCL base 在全量集上准确率 76.0%、平衡准确率 77.1%、macro-F1 76.9%;映射到同一 5 类标签空间的 Voxlect 基线为 64.8/65.8/68.1、CommonAccent 为 56.0/48.3/48.6;相对 Voxlect,AccentCL 提升准确率 +11.2pp、平衡准确率 +11.3pp、macro-F1 +8.8pp。源留出(OOD,Speech Accent Archive 与 IDEA,均未参与任何模型训练):AccentCL OOD 准确率 89.7%、平衡准确率 79.6%、macro-F1 83.0%;相对 Voxlect 提升 OOD 准确率 +5.9pp、平衡准确率 +2.1pp、macro-F1 仅 +0.4pp。消融(Table I):去掉 logit 调整后平衡准确率 76.0、OOD 准确率 87.6(OOD macro-F1 80.1);去掉 DMA 后 OOD 准确率 84.8%、平衡准确率 72.8%、macro-F1 75.9;两者都去掉为 81.9/65.1/69.2——DMA 单独贡献更大,两者合并对未见录制源的泛化最好。类增量(Table II,5→6→7):加入西班牙口音英语后,AccentCL 新类 F1 83.3%、旧类平衡准确率 77.3%、平均旧类下降 −0.8pp、最差类下降 −3.9pp(BI),对照 Voxlect 为 52.7/66.0、纯重放 81.4/76.2(Δavg −1.6、Δworst −4.4);再加中国口音英语后,AccentCL 新类 F1 61.8%、旧类平衡准确率 77.6%、Δavg −1.7pp、Δworst −4.2pp(NA),同一步纯重放只有 41.9/75.1(Δavg −3.7、Δworst −7.5 SPA)。上下界:朴素只微调新类(无重放)在 →6 步为新类 F1 15.0/旧类平衡准确率 0.3,在 →7 步为 5.7/5.7(灾难性遗忘);全量联合重训在 →6 步为 89.3/77.7、在 →7 步为 70.3/80.0——AccentCL 只用约 10% 重放即接近全量联合重训。 80
证据与局限:中。有完整消融(logit 调整与 DMA 各自及合并)、两个增量步、多种重放变体对照与上下界(朴素微调 vs 全量重训)、OOD 源留出验证,指标含平衡准确率与最差类遗忘;但只有一个随机种子(42)、一种类别顺序(原文自陈),单模型单数据构建,且 OOD macro-F1 相对基线只 +0.4pp,说明 OOD 上的类别均衡改善其实有限。数据由 10 个语料自建(CommonVoice、GLOBE、AESRC、UK-Ireland、EdAcc、L2ARCTIC、ARCTIC、EmiliaYODAS、VoxPopuli、EMIME),所有划分按说话人切分以避免说话人重叠,训练时每说话人最多取 50 条、每个口音组上限 50,000 条;训练顺序进行,10 epoch、batch size 40、AdamW+cosine 退火,基座仅更新下游投影层、attentive statistics pooling、MLP 与分类头;算力(GPU 型号、卡数与训练时长)原文未报告。Δworst 在所有配置下都是 −3.6 至 −7.5pp,即每个新增步骤都会实质打坏至少一个旧口音类(第一步 BI、第二步 SPA/NA),原文未讨论其可接受性;口音标签按政治/国家边界并类(作者自己批评),5 大区映射的选择未做敏感性分析。项目页 [https://psi-[tamu.github.io/AccentCL/](https://psi-tamu.github.io/AccentCL/)](https://tamu.github.io/AccentCL/](https://psi-tamu.github.io/AccentCL/)) 实测 HTTP 200,但原文未提供代码仓库或数据下载地址。 80
与本节其它条目的关系:与第 3 条(条件锚定蒸馏)是本节最直接的同类对照:两篇都在「增量吸收新类别/新任务而不损旧行为」上给方案,也都给出反面数字——CAGD 保住了格式却不保正确率(1.7B 配对 EM −6.37±0.93 点),AccentCL 的新类学习本身较弱(第二步新类 F1 仅 61.8%,远低于第一步 83.3%)且每个增量步都会打坏至少一个旧类(Δworst −3.6 至 −7.5pp)。与第 5 条(连续 Dyna 循环)同用具「未参与决策的留出集」做评测(本条 OOD 源留出、第 5 条 holdout 种子),与第 10 条在「平均掩盖尾部」上同型:第 10 条要求报出低于关键等级边界的比例变化、离散度变化与阈值/分位轮廓,本条只用 Δavg 与 Δworst 两个量刻划退化,正好互补。与第 4 条(跨分词器同策略蒸馏)共享「紧凑监督」思路——本条用约 10% 域分层重放接近全量联合重训,第 4 条用学生自选 top-16 保住至少 96% 的提升。与第 8 条(Sobolev 距离)在「指标会不会被骗」上相邻:本条的 OOD 准确率(89.7%)与 OOD macro-F1(仅 +0.4pp)给出相反印象,说明单看准确率会高估跨域改善。 80
结论建议:可搬用的是三件:以冻结语音基础模型的多层特征拼接+极轻量下游训练构建判别器的配方;类增量下的「域分层重放+温度缩放知识蒸馏保留+新旧类 margin」组合;以及 Δavg/Δworst 这一对遗忘度量与「旧类 macro-F1 与新类 F1 调和平均选检查点」的评测口径。引用时须注明它只有一个随机种子、一种类别顺序、无方差与置信区间,且第二步新类 F1 只有 61.8%、每步都会实质打坏一个旧口音类,OOD 的类别均衡改善仅 +0.4pp——不能据此宣称「加类不损旧类」。 80

7. 两阶段流水线让唱录音频直出 0243 声调码,TokAcc 0.644、端到端音调一致性 0.9528

ARIA: Audio-Driven Melody–Tone Relation Modeling for Cantonese Lyric Authoring · arXiv:2610.07902 · 邻近跟踪
研究问题与核心方法:现有旋律引导歌词生成方法假定输入是干净符号化旋律(如 MIDI)或人工指定的声调约束;但真实创作常从歌唱录音、哼唱开始,音高隐含、含噪、无结构。ARIA 以「0243」相对声调计划为统一中间接口、两阶段解耦。①TRATE(Tri-Stream Relation-Aware Tone Estimator)在给定的字级槽位上为每个字构造三路互补声学特征——absolute(字内音高均值/稳定性/时长统计)、contour(重采样后的字内 log-F0 轨迹与 voiced mask)、relative(行内排名、相邻音高差、局部极值、位置、相对时长);三路分别编码后做 token 级 softmax 门控融合并加残差投影(长音靠轮廓、短音靠排名与局部统计),再送 Transformer 编码器,自注意力中加成对旋律关系偏置 e_ij=qᵀk/√d+u⊤φ(r_ij),其中 r_ij 汇总两 token 的中位 log-F0 差、百分位排名差、token 距离、符号与相对位置;输出不把粤语六声调当扁平 6 类目标,而是导出高度分布并正则到主高度预测,标签 1–4 经固定映射 g(1)=0、g(2)=2、g(3)=4、g(4)=3 得 0243 码。②DRA-TCLG(Decoupled Retrieval-Augmented Tone-Conditioned Lyric Generator)以冻结的 Qwen3.5-4B+LoRA 分两阶段训练:Phase 1 无检索,只监督歌词 token 直接学 0243→歌词行映射;Phase 2 才引入检索,由 0243.hk 构建频率感知的 0243→歌词词典(按候选出现次数排序),对输入 0243 序列滑窗枚举长度 2–4 的子码检索候选(优先 2/3 字,4 字稀疏保留以避免过度约束,丢弃被高频虚词主导的单字),序列化为 code–candidate 对拼进提示再微调;延迟引入检索是为避免早期优化被噪声候选集带偏。作者为 Shengyu Li 与 Jinting Wang(共同一作)、通讯作者 Li Liu,机构为香港科技大学(广州)。 81
关键结果:Audio-to-0243(Table 1):TRATE 在四项指标上全部最优——TokAcc 0.644、Macro-F1 0.615、Within ±1 0.885、NED 0.347,且只用 2.37M 参数的专用编码器;最强 Qwen3.5 基线(Qwen 3-Br.)为 0.565/0.537/0.844/0.398,TRATE 提升 TokAcc 0.079、降低 NED 0.051;规则基线 RQ 与 AQ 的 TokAcc 仅 0.373/0.370(粗粒度四分位切分对歌唱粤语太粗糙),Qwen Rel. 0.501 vs Qwen 3-Br. 0.565 说明绝对/轮廓/相对线索互补;TRATE 结果为三个训练种子(13、42、3407)的算术平均,主训练约 2.8 小时(1×NVIDIA A800-SXM4-80GB)。0243-to-Lyrics(Table 2):DRA-TCLG 得 Harmony 0.9740、Consistency 0.9421,优于 ToneCraft-Qwen2(0.9684/0.9347)、SmBART(0.8186/0.6755)、SongNet(0.4846/0.0375);多样性 Avg Sim 0.5053(ToneCraft 0.5036)、MiD2 0.2967(ToneCraft 0.1403);训练约 7 小时(1×NVIDIA H20)。Audio-to-Lyrics 共享 500 例测试子集(Table 3,跨输入制度的系统级对比):完整流水线仅凭唱录音频+字级时间戳达 Harmony 0.9786、Consistency 0.9528,并获最佳 MaD1/MaD2。Stage 1 误差传播(同一 500 例的配对生成干预):把参考 0243 输入换成 Stage 1 预测后,final-vs-reference Harmony 从 0.9742 降到 0.8482(Δ=−0.1260);参考输入与预测输入只在 15.2% 的案例产生完全相同的 0243 序列;Stage 1 NED 与最终输出 NED 强相关(Spearman ρ=0.8520)。误差结构决定损失:仅相邻错时 Harmony/Consistency 0.8404/0.7810(n=265),含非相邻错时降到 0.7568/0.5592(n=131);Harmony 随错误连续段增长递减——孤立错 0.8507、最长段=2 时 0.7619、≥3 时 0.6843;而 final-vs-predicted-plan Harmony 在相邻/非相邻两组都维持 0.9716–0.9738,说明 Stage 2 是「实现」而非「修复」上游计划。TRATE 消融(Fig. 3):三分支表示相比 rel-only Transformer 提升 TokAcc 0.070、降低 NED 0.059;边界噪声上 ±25 ms 扰动性能稳定,±50 ms 时 Acc 从 0.6459 降到 0.6391、Within ±1 从 0.8840 到 0.8837。DRA-TCLG 消融(Table 4):Base(无检索)Harmony 0.9104/Consistency 0.7619,One-Stage(一开始就 RAG)0.6449/0.1579,Two-Stage(本文)0.9740/0.9421;训练集约 37.7% 的目标歌词中至少有一个检索候选原样出现,作者据此称检索是稀疏词法先验而非答案库。人工评测(Table 5,40 个条目、12 位粤语母语评审、盲测):DRA-TCLG 五个维度的描述性均值最高(Tone–Mel. 3.185、Rhythm 3.256、Canto. 3.233、Lyric 3.279、Sing. 3.167),获最多有效偏好票 160(ToneCraft 142、SmBART 89、SongNet 22;共 413 张有效票,排除 56 张不确定与 11 张空白),作者明确声明不主张统计显著性。 81
证据与局限:中等偏强(限单一语言、单一数据源)。两个阶段各有一套评测(音频→0243 四项指标、文本→歌词八项指标),主结果报三种子平均,另有边界噪声鲁棒性、Stage 1 误差传播的配对干预、两组消融(TRATE 组件、DRA-TCLG 一阶段 vs 两阶段)与一个 12 人 40 条目的人工评测。弱点:数据全部出自 Fei Tsui 单一曲库(>6k 首粤语歌)、无跨数据集验证;TRATE 只报三种子均值而无置信区间与完整方差(作者自陈);人工评测规模小且不主张显著性;Table 3 是跨输入制度比较而非同输入对照(作者已明示);音频→0243 的监督标签由对齐原歌词的 Jyutping 确定性导出,代表观测到的歌词实现而非唯一的纯音频标注,存在「用已知歌词定义目标、再评估音频模型」的循环性;误差传播结论建立在 500 例的单次配对生成上,受随机解码影响。数据为 Fei Tsui([https://www.[feitsui.com/](https://www.feitsui.com/)](https://feitsui.com/](https://www.feitsui.com/)) )与 0243.hk 词法资源:Stage 1 过滤后 >100K 对齐「歌词–音频」行样本、来自 >3.4K 段录音,按歌曲切分 train/dev/test ≈0.8/0.1/0.1 以避免歌曲级泄漏;Stage 2 为 >170K 条 Fei Tsui 0243→歌词对,按 0.9/0.05/0.05 切分;从 0243.hk 检索出 >140K 个唯一 2–4 字候选。原文声称发布非音频 Stage 1 标注与预处理脚本,但正文与附录未给出任何下载地址或仓库链接(全文无 github 链接),原始录音因版权不发布;参考站点实测均 HTTP 200(非本文产出)。 81
与本节其它条目的关系:与第 9 条(全双工语音模型的话轮时序)同属音频与语音侧评测,且都强制引入人类参照:第 9 条用 Switchboard 的 193,115 次人类交接做基线并对 31 个检验设 α*≈0.0011 的保守阈值,本条用 12 位粤语母语评审做 40 条目盲测但明确不主张显著性,两者正好对照「小规模人评」与「大样本人类统计」两种校准强度。与第 8 条(Sobolev 距离度量音频变形)同属音频侧客观度量设计,且都暴露「目标与指标不自洽」:本条参考 0243 由歌词反推,SDIM 全篇没有人类听测校准。与第 4 条(跨分词器同策略蒸馏)在「上游估计精度如何映射到下游质量」上同构:本条用配对生成干预量化(Stage 1 NED 与最终 NED 的 ρ=0.8520、Harmony 0.9742→0.8482),第 4 条用梯度余弦诊断错配监督与严格监督的一致性。与第 2 条(Turnslide)共享「两阶段训练避免早期被噪声带偏」的设计(本条 Phase 1 无检索、Phase 2 才引入检索,第 2 条先定蓝图再三属性控制)。 81
结论建议:可搬用的是四件:从真实歌唱录音构建带字级时间戳的「音频–Jyutping–0243」对齐资源这一数据范式;用紧凑、可编辑的 0243 序列作声学估计与文本生成之间的中间接口;Harmony/Consistency 与基于熵的 MaD/MiD 这套生成一致性与多样性指标;以及「参考输入 vs 预测输入」的配对生成干预,用来隔离上游误差传播并量化「下游只实现、不修复」(Stage 2 不会修复 Stage 1 的非相邻与长连续错误)。引用时须带上边界:单一曲库、无跨数据集验证、三种子无区间、人评不主张显著性、目标标签由歌词反推存在循环性、承诺的标注与脚本无可访问入口。 81

8. 四类对抗轨迹下 Sobolev 距离是唯一不被骗过的音频变形度量

Sobolev Norms in Neural Embeddings Measure Audio Morphing Regularity · arXiv:2610.08295 · 邻近跟踪
研究问题与核心方法:变形(把一种音色平滑地变成另一种)本质上由感知定义,其「轨迹是否规律」很难客观评价——能否设计一个客观度量,同时刻画轨迹的线性(沿同一路径)与均匀(沿路径匀速),并且不被对抗性构造的伪轨迹骗过。作者提出 SDIM(Sobolev Distances to Ideal Morphing):先把轨迹上每个音频映射到感知相关的音频嵌入空间,再算该轨迹与「理想 LUM(Linear Uniform Morphing)轨迹」之间的 Sobolev 距离 d_{k,p}(f,g)=Σ_{ℓ=0..k}‖D^(ℓ)f−D^(ℓ)g‖{L^p}——因为在同一数值里同时比较函数值(是否走同一条路径)与各阶导数(是否以同样速度走),一个标量即可覆盖 Smoothness 与 Intermediateness 两个性质;本文只用 p=2,k=0 得 S{0,2},k=1 得 S_{1,2},越小越规律。第二个难点是理想轨迹无法由反变换从嵌入空间回到音频,作者改用基于物理的理想变形:一个描述矩形鼓膜振动的四阶偏微分方程(联合建模刚度、波速、一阶与三阶阻尼),用 Functional Transfer Method 求解,并采用含五个可解释参数的重参数化——log(ω)(基频/音高)、τ(时长,与调制频率成反比)、log(p)(频率相关阻尼)、log(D)(色散/泛音非谐性)、α(板的宽高比);理想轨迹从「木质音」连续变到「金属音」。为检验度量是否被骗过,另构造三种对抗轨迹:NUC(Nonuniform,角度保持但对齐间距不规则)、EQC(Equidistant,到源点距离与理想轨迹相同但角度随机)、Null(纯随机)。作者为 Théo Chasle Cauchy、Modan Tailleur、Barbara Pascal、Fanny Roche、Mathieu Lagrange,单位并列 Nantes Université/École Centrale Nantes/CNRS, LS2N 与 Arturia(原文未给出作者与单位的对应关系)。 82
关键结果:表 2(MERT 嵌入空间,四种轨迹 LUM / NUC / EQC / Null × 六个度量,均值(标准差),由 1,000 个样本估计):Corresp. SM 为 .19(.02)/.38(.01)/.14(.03)/.03(0.02);Smooth. MF 为 .96(.01)/.75(.01)/.97(.03)/.11(0.17);Interm. SM 为 .23(.04)/.21(.04)/1.15(.24)/5.59(0.73);Smooth. SM 为 .02(.00)/.02(.00)/.09(.02)/.52(0.07)——四个现成度量全部失效:EQC 在 Corresp. SM 与 Smooth. MF 上被判得比理想 LUM 还好,NUC 在 Interm. SM 与 Smooth. SM 上与理想轨迹几乎无差别。只有 SDIM 稳健:10⁻²×S_{0,2} 为 .69(.09)/1.14(.20)/1.72(.32)/8.41(1.27),四种轨迹严格单调正确排序;10⁻³×S_{1,2} 的前三者(LUM < NUC < EQC)排序正确,但其 Null 单元格原文渲染为「.013 (1.54)」,与该度量「越小越好」的方向及作者「SDIM 对全部对抗配置都稳健」的论断矛盾,疑为 HTML 渲染丢小数点或笔误,不可直接引用。表 1(不同嵌入空间的归一化 SDIM,即 S^{LUM}/S^{Null},越小说明该嵌入越能把理想轨迹与随机轨迹分开):MERT-v1-330M 最好,为 .06(.02)/.02(.01);MERT-v0-public .12(.05)/.04(.02);MERT-v1-95M .12(.05)/.05(.02);CLAP-Music .23(.05)/.15(.03);VGGish(72M).23(.08)/.11(.04);CLAP-Audio .19(.06)/.12(.03);MS-CLAP(159M).15(.03)/.08(.01);MFCC .18(.07)/.07(.03)。规模:金属—木质锚点对 1,000 对,LUM 与 Null 轨迹各 1,000 条,每条 11 个中间点;表 1 与表 2 的均值/标准差都在这 1,000 个样本上估计。 82
证据与局限:中等偏弱。优点是尺度明确(1,000 条轨迹/配置、报均值与标准差)、对抗配置有针对性并用角度指标 θ(i)=⟨sm_i/‖sm_i‖, st/‖st‖⟩ 验证了构造(理想轨迹的角度指标高度集中在 1、NUC 也接近 1 只是略不集中、EQC 高度分散,直方图基于 1,000 条轨迹 × 11 个中间点),并给出 8 个嵌入空间的横向比较。弱点是:全部结论建立在作者自建的物理合成器上,没有任何人类主观听测或与人类判断的相关性验证(作者自己把「SDIM 与人类感知判断的关系」列为未来工作);只有单一任务(金属→木质)与单一合成器族;表 2 只在一个嵌入空间报告;没有统计显著性检验;且表 2 中 S_{1,2} 的 Null 一格数字自相矛盾。核心假设是「存在与人类感知相关、且能捕捉 Smoothness/Intermediateness 大部分本质的嵌入空间」(与 FID/FAD 同源);「更新的、更大的音频嵌入模型倾向于给出更高的规律性得分」只是弱趋势,表 1 中 MFCC(.18/.07)优于 VGGish(.23/.11)与 CLAP-Audio(.19/.12)。全部为免训练的度量设计,未训练任何模型;训练数据与算力原文未报告;项目页 [https://theochaslecauchy.[github.io/paperSobolevMorphingMetric](https://theochaslecauchy.github.io/paperSobolevMorphingMetric)](https://github.io/paperSobolevMorphingMetric](https://theochaslecauchy.github.io/paperSobolevMorphingMetric)) 实测 HTTP 200,代码与数据集未提供。 82
与本节其它条目的关系:与第 9 条(全双工语音话轮时序)在本节内构成「客观量如何才算可信」的一组:第 9 条把同一套提取规则同时套在模型与 193,115 次人类交接上、并用 31 项检验的多重性清单控制误报,本条则完全没有人类校准、只靠对抗轨迹证明度量稳健,两者强弱正可比照。与第 7 条(粤语歌词生成)同属音频侧客观度量设计,且都带「目标与指标不自洽」的隐患:本条自陈感知相关性只是借来的假设,第 7 条的参考 0243 由歌词反推。与第 1 条(轨迹检索投机解码)方法同源:两篇都问「一个看起来有效的东西是否经得起错配/打乱的对照」——第 1 条用 Cross/Shuffled/Unigram 三控制,本条用 NUC/EQC/Null 三种对抗轨迹,两者都给出「现成做法会被骗过」的具体实例。与第 10 条(验证过的 AI 材料)在评估主张上同型:都反对只看单一平均量,本条要求先比较嵌入空间能否分开理想与随机(归一化 .06 vs .23),第 10 条要求报出分布下尾与阈值轮廓。 82
结论建议:「用一个同时管路径与速度的距离给整条轨迹打分」可搬到任何沿轨迹评价的评测设计;NUC/EQC/Null 这套配置是现成的「度量能否被骗过」压力测试模板,可直接用于检验包括 LLM 判官在内的客观指标;「先比较嵌入空间的规律性、再选嵌入」也是一条可直接照搬的流程。引用时要写明它的边界:无任何人类听测校准、只有单一任务与单一合成器、无显著性检验,表 2 中 S_{1,2} 的 Null 一格数字存疑不可引用——宜当「指标设计须做对抗」的方法论样板,而非可直接使用的度量读数。 82

9. 闭环全双工语音的中位话轮偏移 +480 ms,是人类 137 ms 的三到四倍

Coupled but Late: Turn-Taking Between Full-Duplex Speech Models in Unscripted Dialogue · arXiv:2610.08683 · 邻近跟踪
研究问题与核心方法:两个全双工语音模型被放进没有人的闭环里互相说话(自博弈数据生成、智能体社会、自动化考官)时,话轮转换的时序会落在哪里,这种时序是模型本身的性质、还是通道延迟造成的。做法是让两个 PersonaPlex-7B 实例(nvidia/personaplex-7b-v1,各占一张 GPU)在共享时钟下直接交换 Mimi 音频 token(12.5 Hz,每 80 ms 一步;粗码本 160 ms、细码本 240 ms 后可见),路径上没有任何音频,因此识别器、合成器与重编码都不会引入自己的时序。用同一套话轮交接提取规则同时处理两个智能体与 Switchboard 词对齐:语音段间隔 <180 ms 合并为 IPU,FTO = 下一位说话人 IPU 起点 − 当前说话人 IPU 终点(正为间隙、负为重叠),完全嵌套在对方内部的 IPU 不算交接,偏移截断在 ±2 s;智能体侧用三种分段(能量 >0.01 RMS 为主、文本词、对齐词)作敏感性检验。控制实验包括把不同对话的 A 与 B 重新配对(破坏原配对)、把伙伴音频换成编码静音、换成真人录音(AMI 会议录音)、减去 240 ms 链路延迟,以及把 B→A 方向延迟 D∈{3,8,10,15} 帧的单向延迟扫描。作者为 Lichen Zhu、Yueqian Lin、Yiheng Wang、Hai "Helen" Li、Yiran Chen,机构 Duke University;论文投稿 ICASSP 2027、尚未接收。 83
关键结果:基线 36 段(五个场景各播 90 s)共 747 次交接:主仪器(能量)中位 FTO 为 +480 ms,众数 480 ms,重叠率 0.18 [.15,.20],落在伙伴话轮最后 120 ms 的比例仅 0.01,接近零带(±120 ms)为 0.03 [.01,.05],W1 = 228 ms [208,257];文本词分段中位 +560 ms、对齐词 +400 ms。人类参照(Switchboard 全通话,193,115 次交接、2,407 通电话):中位 +137 ms、众数 160、重叠 0.32、最后 120 ms 比例 0.10、±120 带 0.25;取每通电话前 90 s 则中位 163 ms。智能体的中位偏移是人类的三到四倍,接近零带只占人类的 3–9%;全部交接的 44% 落在 400 或 480 ms(人类直方图无对应尖峰)。耦合性:重新配对后中位塌向 0(+80 ms [0,160]),重叠翻倍到 0.46 [.42,.49],四分位距从 160 扩到 1360 ms;真实配对在全部 2,000 次重配对的所有统计量上都落在分布之外。静音对照:12 个匹配单元里把伙伴音频换成编码静音后,交接从 273 掉到 26,每智能体词数从 134 掉到 29(p = 4.9×10⁻⁴)——伙伴音频是「是否开口」的前提。不是通道:从每次交接减去完整 240 ms 链路延迟后中位仍有 +240 ms;延迟扫描中 A 的响应众数精确随 D 移动(D=3→640 ms、D=8→1040、D=10→1040、D=15→720),而 B 的方向始终停在 6 帧(480 ms)。九成智能体的正偏移都在伙伴结束后 320 ms 以上才开始(人类仅四成),接近伙伴结束前的「助跑段」在各级别都只占 1–2%,与「静音阈值反应式策略」一致、与「话轮结束投射」不一致。真人录音伙伴:换成 AMI 录音后六帧峰消失(该帧只占活体配对三分之一的交接量),中位减半到 +240 ms,接近零带 0.16,智能体语音占比减半(0.15 vs 0.35)。开场语域:洗衣房场景下模型用电话/客服语言开场(21 条模式词表),前十秒每千词 29 条、之后只有 2–4 条;把一句场景贴切的开场白放进某个智能体的初始语音可把开场率从 29 降到 12(−16.9 [−27.7,−6.0]),整段对话从 7.6 降到 2.2(−5.4 [−8.8,−2.2]);同样一句话作为系统提示指令则只在 8/36 次被遵循、开场率几乎不变(26.7,−2.6 [−5.8,+0.6])。统计口径:多重性清单枚举 31 个检验,报告阈值 α*=0.05/45≈0.0011(保守除数,未因看结果而放宽);36/36 段对话的 W1 都超过自身规模匹配的聚类零分布(符号检验 p=2.9×10⁻¹¹)。 83
证据与局限:较强。同一套提取规则同时套在智能体与人类参照上,三种分段都保持结论,控制实验覆盖重配对、静音、真人录音、减延迟与单向延迟扫描,并配一个 31 项检验的多重性清单与保守阈值。但只有一个 checkpoint(PersonaPlex-7B),对话仅 36 段种子化的 90 s、场景只有五个;真人录音伙伴臂同时改变了内容与声学,只能说明条件依赖而非闭环效应;仅靠话轮时序无法识别机制;智能体侧的分段主仪器是能量阈值 0.01 RMS,与人类侧的词边界不是同一估计器(规则相同、边界估计器不同);FTO 中位数落在 80 ms 帧网格上,与人类连续边界不可直接对齐(作者做了向外取整的检查,显示网格反而对结论不利)。人类参照是电话语音(陌生人之间)而智能体共享场景,两者场景不同;文本与音频温度为 0.7/0.8,persona 与场景作系统提示;统计用对话 bootstrap 10,000 次、重配对替代 2,000 次、配对符号翻转 20,000 次与精确符号检验。纯推理实验,无模型训练;算力(GPU 型号/时长)原文未报告。代码与测量数据尚未发布(原文只写「will be released」),全文无仓库或项目页 URL。 83
与本节其它条目的关系:与第 8 条(音频变形度量)在本节内是一组「客观量怎么校准」的正反对照:本条用 193,115 次人类交接作参照并对 31 个检验设 α*≈0.0011,第 8 条完全没有人类校准。与第 7 条(粤语歌词生成)同属音频侧评测且都用人参照或人评,但尺度差一个量级(本条 193,115 次交接,第 7 条 12 人 40 条目盲测)。与第 10 条(验证过的 AI 材料)在「闭环与人工核查」上直接互补:本条证明没有人吸收时序误差的闭环会系统性地继承反应式 endpointer 的等待(九成正偏移在伙伴结束后 320 ms 以上才起步、44% 的交接落在 400/480 ms),第 10 条则给出一个正面样本——具名人类在发布前逐条核对 AI 材料,并明确「初稿可用但不可发布」。与第 1 条(轨迹检索投机解码)在「门控信号是否可信」上相邻:两篇都强调单一指标或单一时序读数不能替代对机制的说明。 83
结论建议:该协议(共享时钟+同一提取规则+人类参照+重配对/静音/真人录音/延迟控制+多重性清单)可直接搬给任何全双工语音模型或「模型当考官」的评测,用来判断闭环自评产生的对话数据是否继承了彼此缺陷;「把模型时序与人类时序分布对距离、而不只打二元规则」也应成为自博弈数据生成前的必检项。引用时要写明边界:单一 checkpoint、36 段种子化对话、五个场景、真人录音臂混合了内容与声学变化,且代码与测量数据尚未公开——结论是「条件依赖的行为」而非已定位的机制。 83

10. 发布前经具名助教验证的 AI 材料与半段成绩 +2.34 分呈正相关,低于二等上边界比例降 24.7pp

Verified, not generated: expert-verified AI study materials and the distribution of learning gains in a university course · arXiv:2610.07097 · 邻近跟踪
研究问题与核心方法:三个 RQ——接触专家验证的 AI 生成学习材料是否与更高的考试成绩相关(RQ1);增益出现在成绩分布的哪个位置(RQ2);学生如何理解并使用带有具名验证人的 AI 材料(RQ3)。核心概念是「判断负担」(judgement burden):学习者在向 AI 输出学习前必须自行筛查其可用性所需投入的专业判断;若无人在发布前核查,成本落在学生身上。论文给出 H1(接触验证材料与更高成绩相关)与 H2(增益集中于成绩分布下尾、向上尾衰减)。设计为两队列双重差分(2×2 面板),预测方程 Markijt = α + β(Part2j × Postt) + γPostt + δPart2j + εijt,β 为 DiD 估计量,用 OLS 估计;因处理组整格全覆盖,β 是 access 的意向性处理效应(ITT)。样本为英国某大学商学院必修的一年级 Principles of Economics 课程:每队列 85 人、两队列共 170 名学生、340 个考试分数,无学生同时出现在两队列;课程分两个五周半段(Part 1 微观、Part 2 宏观),同一讲师、同一 GTA、同一评分标准与同一评分人;单场两小时终结性考试,每半段 50 分,英国分数带 40% 及格、50% 二等下、60% 二等上、70% 一等,对应半段 20/25/30/35 分。干预物:2024/25 学年 Part 2,讲师把讲稿幻灯片、阅读材料与考核指引上传 Google NotebookLM,为每个每周主题生成一段十分钟对话式播客、一组 FAQ、一份含理解题与示范答案的学习指南;发布前由一位具名 graduate teaching assistant(GTA)逐条核对全部输出与源材料——定义是否与幻灯片一致、模型与图表是否使用课程术语、例子是否契合难度、测验答案能否由文档支撑;对含糊或错配的输出,GTA 改写提示词或重新生成该部分,而不是接受初稿(原文称「初稿可用但不可发布」)。材料经虚拟学习环境免费发布、标注 "AI-generated and academically verified",是不改变原教学的补充,使用自愿、不计分。对照为同课程内同期未处理的 Part 1 加上一学年两半段;识别假设为无干预时 Part 2−Part 1 差距跨队列平行,因只有一个干预前队列,平行趋势不可直接检验。分布分析用 Brown–Forsythe 方差检验与对阈值 c 从 20 到 45 的「低于 c 分」哑变量线性概率模型(LPM,HC1);定性部分为序贯解释式混合方法——考试后数周由无教学与评分角色的研究助理对 36 名学生做简短非正式访谈,记录同期笔记而非逐字转录。作者为 Canh Thien Dang、An Nguyen,机构为 King's College London 的 King's Business School。 84
关键结果:主效应:Part 2 × Post 系数为 2.341 分(满分 50 分的半段),三种规格(HC1、学生聚类、学生内)系数完全相同;HC1 标准误 1.169、p=0.045,学生聚类 0.947、p=0.013,学生内 0.946、p=0.013;N=340。效应量为干预前 Part 2 分布标准差的 0.33 倍、合并干预前分布的 0.40 倍;对照项 Post=−1.612(SE 0.690 HC1 / 0.691 聚类)、Part 2=−1.753(SE 0.901/0.780/0.779)。分解(关键解释):处理半段 Part 2 上升 0.73 分,不显著(p=0.441);未处理半段 Part 1 下降 1.61 分(p=0.021)——即 2.34 描述的是「相对下降的保护」而非处理半段的绝对提升,原文据此把 H1 定为「有限支持」。格子均值(满分 50):2023/24 Part 1 未处理 35.87(SD 4.32,N=85)、2023/24 Part 2 未处理 34.12(SD 7.09)、2024/25 Part 1 未处理 34.26(SD 4.67)、2024/25 Part 2 处理 34.85(SD 5.03)。离散度:Part 2 标准差 7.09→5.03,Brown–Forsythe p=0.004;Part 1 标准差 4.32→4.67,p=0.873;处理半段十分位间距由 19.6 收窄至 11.6 分,未处理半段由 10.0 扩大到 11.6。阈值 DiD(LPM,HC1,对照对象=平行趋势反事实):低于 20 分 −2.4 个百分点(p=0.155);低于 25 分 −12.9 pp(p=0.008);低于 30 分 −24.7 pp(p=0.001);低于 35 分 −2.4 pp(p=0.828);阈值 20→45 逐点重估显示在 23 至 31 每个阈值显著、31 以上无一显著,绝对值最大在 29 分(−25.9 pp)。处理半段低于 30 分的答卷数 20→9、未处理半段 6→16,份额 23.5%→10.6% 与 7.1%→18.8%,DiD −24.7 pp,原文换算为 85 人队列中约 21 名学生。分位数 DiD(95% 区间来自 1,000 次学生层面 bootstrap):第 10 百分位 +11.0 分(95% CI 5.0 至 13.0);第 20 百分位 +5.0 分(CI −1.0 至 10.0);第 30 百分位及以上接近 0;分位分解显示约四分之三的 2.34 分来自最低五分之一(该格 DiD 为 8.9 分),最高的三个五分之一几乎为零。总体分布 KS 检验不显著(D=0.153,p=0.274)。稳健性(对干预前最低分):剔除 2023/24 Part 2 中低于 20 分的 2 名学生后 N=336,平均效应 1.94(1.15)、p=0.093,低于 30 分为 −22.7 pp(7.6)、p=0.003;剔除最低 3 名 N=334 为 1.88/p=0.099 与 −22.9 pp/p=0.002;剔除 5 名 N=330 为 1.56/p=0.166 与 −20.7 pp/p=0.006;剔除 8 名 N=324 为 1.41/p=0.198 与 −19.9 pp/p=0.006;第 5 百分位(23 分)自下截尾为 2.14(1.13)、p=0.057 与 −24.7 pp、p=0.001;第 10 百分位(28 分)自下截尾为 1.34(0.98)、p=0.173 与 −24.7 pp、p=0.001;改用学生聚类误差时四个剔除行的平均效应 p 值分别为 0.035、0.041、0.085、0.127。结论口径:阈值效应在剔除学生后稳定于 −19.9 至 −22.9 pp、每次 p≤0.006,而平均效应的统计显著性依赖少数学生。替代解释检验:两半段分数的学生内相关系数由 0.284 升至 0.482(若发生努力替代应变弱),Fisher z=1.50、p=0.135(不显著),原文自陈该观察与「增益局限于下尾」两点均不能排除替代解释。使用率与验证成本:VLE 记录显示每期播客触达 70 名以上唯一听众、约队列的 82%,FAQ 约 65%、学习指南约 60% 的学生打开过;产出并验证每个每周材料集约耗时 30 分钟(原文称大部分花在检查而非生成),五周合计约 2.5 小时,约合每名学生 1.8 分钟员工时间,同样 2.5 小时可服务 300 人队列、约每名学生半分钟。定性(RQ3):36 名学生的反馈呈「怀疑→标签带来的安心→使用模式」序列,信任附着于具名的人而非模型("I don't trust an AI. But I do trust my GTA."),验证并未终止审读("The verification made me more critical, not less.")。原文另引另一项同期评估(15 分满分中约 3 分的差异、约为对照学期分数的 1.5 个标准差)并列出四项设计差异:跨学期比较无同期未处理组、评估权重 12% vs 本文全模块、15 分制 vs 50 分制、本文队列高成就(模块均分近 70%)而对方对照学期约 62%。 84
证据与局限:中等(单机构、单课程)。两队列共 170 名学生、340 个分数,报告 HC1/学生聚类/学生内三种规格,含 Brown–Forsythe 方差检验、阈值 LPM、分位数 DiD(1,000 次学生层面 bootstrap)、剔除干预前低分与两种自下截尾的稳健性、替代解释检验。缺陷是:只有一个干预前队列、平行趋势不可直接检验;两队列无共同学生,队列能力差异无法净除;未保留个人使用日志,无法把使用与结果关联(触达不等于使用效应);平均效应依赖少数学生,剔除 3 至 5 名后即视标准误算法失去显著性;干预把「验证」与「新多模态材料」捆绑,无法分离「验证」相对「材料本身」的贡献,也缺少「同一材料未经验证发布」的反事实;定性证据是田野笔记而非转录,只例证不检验机制;队列高成就、两队列无一人不及格(模块均分 70.0 与 69.1),故估计只涉及学位等级分类、不携带关于不及格的信息。原文未报告期刊名/卷期(Funding 栏因匿名审稿被省略);数据为学生评阅记录、依伦理批准条款无法公开共享,全文与摘要页均无代码/数据/项目页链接。摘要页 https://arxiv.org/abs/2610.07097 实测 HTTP 200,HTML 版实测 404(全文只能走 PDF,21 页)。文末「Declaration of generative AI use」写明作者用 Claude 改进文字清晰度、比对参考文献并复算统计结果。 84
与本节其它条目的关系:本节第 1–5 条属生成与训练侧(轨迹检索投机解码、有限状态机数据合成、条件锚定蒸馏、跨分词器同策略蒸馏、连续 Dyna 循环),第 6–9 条属评测与生成质量侧(类增量口音分类、粤语歌词生成、音频变形度量、全双工话轮时序);本条与两侧都有接口,但落点不同。与生成侧的连接点:它给出的是「生成之后、发布之前」的人工验证门——具名 GTA 逐条核对源材料、不合格则改提示词重新生成(「初稿可用但不可发布」),并核算验证成本(每套每周材料约 30 分钟、五周约 2.5 小时、约 1.8 分钟/学生,成本随材料体量而非人数增长);这与第 2 条用 FSM 在构造上排除非法轨迹、第 4 条证明事后补齐覆盖反而减分构成一条连续谱,从「构造上保证」到「事后人工筛」。与第 3 条(条件锚定蒸馏)同属「把新东西接入旧体系」的问题:CAGD 关心不损旧行为的增量更新,本条关心新增材料是否真帮到目标学生。与评测侧的连接点:它的「分布化报告三件套」(低于关键等级边界的比例变化、离散度变化、阈值/分位效应轮廓)与第 6 条的 Δavg/Δworst、第 9 条的「时序要与人类分布对距离而不只打二元规则」、第 8 条的「度量须先过对抗与人类校准」指向同一件事——只报平均效应的评估无法判断资源是否帮到了它要帮的人。它与第 9 条互补:第 9 条证明无人吸收误差的闭环会系统性继承偏差,本条正是一个「有人在发布前把关」的正面样本。与第 7 条在人工评分上可对照:第 7 条的 12 人盲评不主张显著性,本条的 36 人访谈只例证机制、不构成发现。 84
结论建议:它评的不是单集节目——干预物虽含「每个每周主题一段十分钟对话式播客」,但评估单位是课程半段(该半段 50 分的终结性考试成分),既没有单集层面的质量评分、时长与听感指标,也没有把按集收听行为与结果挂钩(个人使用日志未保留);唯一的节目级描述是「十分钟对话式播客」与触达率「70 名以上唯一听众、约 82% 队列」,属材料级触达而非节目级评估。可搬走的是四件:发布前人工验证门作为材料的可发布性门槛(具名验证人+逐条对照源材料+不合格则改提示词重生成);验证成本核算(约 30 分钟/周、五周约 2.5 小时、约 1.8 分钟/学生,成本随材料体量而非学生数增长);分布化报告三件套(低于关键等级边界的比例变化、离散度变化、阈值/分位轮廓),且可直接由机构已有成绩记录算出;以及「触达≠效应」的口径纪律与「披露 AI 来源+具名验证人」的信号机制(边界条件:验证人须为学生所识)。引用时要写明:只有一个干预前队列、平行趋势不可检验,2.34 分实为「相对下降的保护」(处理半段自身仅升 0.73 分、p=0.441),平均效应在剔除少数学生后即失去显著性,而阈值效应稳定在 −19.9 至 −22.9 pp、每次 p≤0.006。 84

十二、播客线覆盖说明与本期可迁移结论

本期四个方向里,「播客生成与节目级评估」在三个栏目内只有 1 条,而且是邻近条目,不是节目级评估:一项大学经济学必修课的双队列双重差分研究,把按周主题生成并与源材料对齐的十分钟对话式播客、常见问题与练习册发给一半学生(170 名学生、340 个考试分数),发布前由具名助教逐条核查,学生端标注为「AI 生成并经学术核实」;结果是该课程后半段 50 分成分上的 2.341 分优势(p=0.045,学生聚类 p=0.013),低于 30 分这一等级边界的份额下降 24.7 个百分点(p=0.001),阈值 23 到 31 全部显著、31 分以上无一显著,平均效应的约四分之三来自最低五分之一 84。它评的是课程半段的学习收益,没有任何单集层面的质量、时长或听感指标。
这条缺口是零产日,不是来源侧的空档:三个栏目所对应的 arXiv 分类里持续有播客方向产出——cat:cs.CL AND abs:"podcast" 命中 99 条,cat:cs.SD AND abs:"podcast" 命中 87 条,最近的两条是 2026-07-24 提交的一篇播客脚本忠实度研究与 2026-07-20 提交的一篇用合成播客比较人类与机器静默阈值的研究。而 10 月 7 日这一天该账号三栏的 253 篇新提交里没有这一方向的任何一篇。本期收录的 84 篇严格来自该账号三个栏目,上述两条只用来判断这一天的零覆盖属于哪种情况,不计入收录。
开头八条是逐篇的判断,下面五条是同一条判断在同期多篇工作上的会合点——每条都由至少两篇论文支持,可以当成可以直接搬进自己项目的前提。
单一聚合指标会系统性掩盖长程任务的真实差异,评测要补上过程指标、多口径与跨条件一致性。 含「不必要风险处置」的运行里 92.7% 仍然通过 oracle,任务成功率与风险处置率的秩相关只有 ρ=0.55(p=0.17,不显著)11;以「是否通关」为口径时三条 online 速通 run 完全无法区分,而帧数分别是 160,021、283,474、477,140 10;同一批日志在严格打分下把量化结论从 +28.3 个百分点翻成 −15.0 个百分点 1;标准准确率还会高估流程合规——「没执行标准流程却答对」占 2.1–4.5%,某领域 31–49% 的正确答案绕过了规定的验证工具 73。
判官与标注之间的相互一致性不等于有效性,高一致可以和系统性错误并存。 三个模型裁判彼此 κ=.755–.781,各自与人只有 κ=.524–.597,多数投票共识 κ=.568 不高于最好的单模型 2;同源三判官小组比其单个成员弱 3.5 倍,本地判官两两一致度只有 κ=0.41–0.65,判官还不跨域迁移(同一批判官在网络安全域批准 94.9% 的合法提案,到法律域只剩 39.7%)3;6 名裁判的平均误差相关高达 0.7775,给出「继续加裁判收益递减」的量化上限 29;一条在自然记录上 AUROC 0.986 的检查器,遇到 6 个角色错误的构造对比仍有 4 个被接受 62。
把经验蒸馏成高层规则或摘要,往往不如保留原始证据;抽象直接注入还会掉分。 固定骨干下保留原始历史的方案平均 48.0、学习增益 +16.9,把经验总结成规则的方案学习增益只有 +1.8 4;同一原则层知识直接注入是 −0.0155(t=−3.53),先做任务条件化实例化才是 +0.0365(t=+5.90,n=738)5;把一条错误信念从记忆里抹掉后,智能体的建塔数从平均 6 座降到 2 座,说明写错的经验会持续损害后续行为 34。
被丢弃的「事后经验」可以回收成训练信号,但必须由回放与独立验证门控才允许持久化。 2B 设置下 98% 的分组全失败、纯 RLVR 最终成功率 0.0%,同一批 rollout 改做事后蒸馏后到 60.6% 6;只有「源任务回放可复现且独立验证集严格变好」才晋升,晋升率 43.48%、错误晋升率 1.23%、平均遗忘 0.13 个百分点 7;启发式须经重复成功验证才入库,接受率从 86.7% 升到 97.8%,AppWorld pass^5 从 14.9 升到 32.1 39;反过来,去掉后果反馈、只留「选哪个」的信号,ALFWorld 成功率从 54.11 掉到 49.25 44。
自蒸馏与持续学习里,「加监督、加覆盖、加抽象」都不单调更好,还会悄悄收缩多样性或造成遗忘。 扩大对齐覆盖的 18 个正权重设定全部低于各自的严格基线 0.27–1.20 个百分点 8;常规自蒸馏 pass@1 从 37.92% 升到 41.30% 的同时,正确实现多样性 C16 从 4.016 掉到 3.090 9;按证据质量加权后,一轮修正的新生成 pass@1 从 15.0% 升到 20.4% 41;而微调后「忘掉」的知识多数只是暂时取不到——移除每次更新的最高奇异方向后,仅注意力的 Transformer 旧事实准确率从 0.12 回到 0.57,带 MLP 的结构从 0.54 回到 1.00 47。

References

  1. 1
    Quantization Effects on Tool-Failure Recovery Vary Across Prompts and Evaluation Designs

    arxiv.org

  2. 2
    Agreement Is Not Validity: Cross-Model LLM Consensus in Diagnosing Student Failure Modes in K-12 Math Tutoring Dialogue

    arxiv.org

  3. 3
    Where Rules End and Judges Begin: Measuring the Judgment Boundary in Multi-Agent Systems Security

    arxiv.org

  4. 4
    Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments?

    arxiv.org

  5. 5
    Principles that Guide, Actions that Inform: Agent Evolution via Knowledge Abstraction

    arxiv.org

  6. 6
    Self-Retrospection Distillation: Turning Post-hoc Experiences into Prior Foresight

    arxiv.org

  7. 7
    ScienceClaw: Benchmarking Continual Self-Evolution of AI-for-Science Agents Across the Natural and Social Sciences

    arxiv.org

  8. 8
    Rethinking Cross-Tokenizer On-Policy Distillation: From Alignment Coverage to Supervision Reliability

    arxiv.org

  9. 9
    SPECTRUM: Proximal Spectral Modulation for Looped Self-Distillation

    arxiv.org

  10. 10
    SpeedrunBench: Challenging LLM Agents with Video Game Speedrunning

    arxiv.org

  11. 11
    ParanoiaEval: Benchmarking Unnecessary Defensive Work in Agentic Coding

    arxiv.org

  12. 12
    Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval

    arxiv.org

  13. 13
    Exposing and Mitigating Neural Codec Vulnerabilities in Audio Deepfake Detection

    arxiv.org

  14. 14
    EMHO: EMbodied Agent Harness Optimization via Experience Traces

    arxiv.org

  15. 15
    Evaluate the Stack, Not the Layer: Do Deterministic and LLM Gates for Agent Actions Fail Independently?

    arxiv.org

  16. 16
    From Evidence to Action: How Tool-Using Agents Fail

    arxiv.org

  17. 17
    Do I Need the Cloud? Uncertainty-Aware Step-Level Handoff for Small Language Model Agents

    arxiv.org

  18. 18
    AgentMemGate: Addressing Speculation Contamination in Conversational Assistant Memory

    arxiv.org

  19. 19
    Hiding Tool Latency in On-Device Cascaded Voice Agent through Speculative Execution

    arxiv.org

  20. 20
    AdvSim2Real: Training Web Agents Against Adaptive Prompt Injection in a Web World Model

    arxiv.org

  21. 21
    Does an Agent's History Tell You When Compaction Will Hurt? A Modest, Bounded Effect on the TRACE Paired-Replay Corpus

    arxiv.org

  22. 22
    Understanding and Mitigating Inference-Time Overreliance Using Agentic Memory

    arxiv.org

  23. 23
    The Right Memory in the Wrong Context: Verifying Retrieval Admissibility in Long-Term Agent Memory

    arxiv.org

  24. 24
    When to Remember, When to Abstain: Category-Conditioned Retention for Reliable Agent Memory

    arxiv.org

  25. 25
    MINDSET: Energy-based Schema Evolution for Long Conversational Agent Memory

    arxiv.org

  26. 26
    AMBER: Training Long-Horizon Web Agents through Append-Only Memory

    arxiv.org

  27. 27
    Same Feedback, Different Answer: Measuring Run-to-Run Instability in Frontier-Model Customer Feedback Analysis

    arxiv.org

  28. 28
    A Trust Layer for Agent Evaluation

    arxiv.org

  29. 29
    JudgeMoE: Distributional Aggregation for LLM-as-a-Judge

    arxiv.org

  30. 30
    Holdout Best-of-N: Unbiased Evaluation and Its Cost

    arxiv.org

  31. 31
    BioStudyBench: Evaluating Agents on Post-Cutoff Biomedical Studies

    arxiv.org

  32. 32
    Transect: Retaining Observability for Long-Horizon LLM Agent Evaluations

    arxiv.org

  33. 33
    Agent in a Bottle: Can LLM Agents Turn Their Capabilities Into Cheap, Scalable Artifacts?

    arxiv.org

  34. 34
    Is this machine playing?

    arxiv.org

  35. 35
    Can Agents Work for Everyone? Cross-User Reliability for Mobile GUI Agents in Personalized User Interfaces

    arxiv.org

  36. 36
    Parallel Predictive World Models for Accurate and Efficient Long-Horizon Planning

    arxiv.org

  37. 37
    Attacca: Goal-Directed Control under State Continuity for Long-Horizon Embodied Agents

    arxiv.org

  38. 38
    GAMEGO: Training Game-Dev Agents with Synthetic Trajectories Anchored in Real-World Assets

    arxiv.org

  39. 39
    DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks

    arxiv.org

  40. 40
    MedZERO: Self-Evolving Agents for Open-Ended Medical Reasoning Through Controlled Knowledge Accumulation

    arxiv.org

  41. 41
    How Much Evidence Should a Coding Agent's Self-Correction Carry? Adaptive Dirichlet Evidence for Self-Distillation

    arxiv.org

  42. 42
    Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation

    arxiv.org

  43. 43
    MemCo: Memory-Centric Collaboration for Generalizing LLM Agents to Unseen Environments

    arxiv.org

  44. 44
    Learning from Revision Consequences: Hindsight Meta-Experience Distillation for Self-Improving Agents

    arxiv.org

  45. 45
    Test-Time Agent Evolution for Long-Horizon Legal Reasoning

    arxiv.org

  46. 46
    VeriFine: Scaling Verification for Self-Improvement in Embodied Reasoning

    arxiv.org

  47. 47
    When Forgetting is not Catastrophic: On the Mechanics of Spurious Forgetting

    arxiv.org

  48. 48
    SIGMA: Self-Improving Alignment Generalization from a Model Spec

    arxiv.org

  49. 49
    Pronunciation-Oriented Reinforcement Learning for Japanese Text-to-Speech with Kana-Domain ASR Rewards

    arxiv.org

  50. 50
    Loud and Clear: Dynamic Activation Steering for Improving Speech Intelligibility in Noisy Environments

    arxiv.org

  51. 51
    AdaLoop: Adaptive-Depth Latent Reasoning for Audio Language Models

    arxiv.org

  52. 52
    SkillFormer: Skill-Decomposed Adaptation for Audio Language Models

    arxiv.org

  53. 53
    EMODE: Dynamic Para-Semantic Experts for Emotion-Aware Speech Language Modeling

    arxiv.org

  54. 54
    WorldSonus: Bringing Sound to Worlds

    arxiv.org

  55. 55
    HiPLEX: Hierarchical Policy Factorization for Full Duplex Speech Language Models

    arxiv.org

  56. 56
    PERSIST: Who-What-When Memory Across Sessions for Full-Duplex Spoken Dialogue

    arxiv.org

  57. 57
    InterCorrect: Intersection-Aware Correction of Demographic Model Merging for Fair ASR

    arxiv.org

  58. 58
    DirectSpeech2LLM: A Simple End-to-End Framework to Mitigate Prompt Overfitting in Speech-LLMs

    arxiv.org

  59. 59
    Quality-Aware Self-Correcting Speech Translation on an Edge Device

    arxiv.org

  60. 60
    EIO-Agents: The Missing Semantic Layer for AI Agent Evaluation

    arxiv.org

  61. 61
    Language Carries the Expert's Impression: Instrument-Anchored LLM Judges Transfer Counseling-Quality Assessment and Beat In-Domain Training

    arxiv.org

  62. 62
    Same-Number Citation Swaps: Stress-Testing Jev as a Financial Evidence Judge

    arxiv.org

  63. 63
    The Labeling Problem in Hallucination Detection Benchmarks: An Empirical Evaluation

    arxiv.org

  64. 64
    Verdicts Without Annotated Evidence: Rejection Sampling or Label-Only Post-Training for Evidence Recovery?

    arxiv.org

  65. 65
    WorldSolver: Can LLM Agents Simulate the Physical Dynamics via Solver Generation?

    arxiv.org

  66. 66
    DSV-Mem: Evaluating Multimodal Memory in Professional Workflows for MLLM Agents

    arxiv.org

  67. 67
    Verifying Coordination in Parallel Coding Agents: NP-Bench and a Scheduling Planner

    arxiv.org

  68. 68
    MemMux: Runtime Verification and Honest Resource Attribution for Fleets of Parallel Coding Agents

    arxiv.org

  69. 69
    Continuous Memory Machines

    arxiv.org

  70. 70
    Towards In-Parameter Memory Augmentation for Large Language Models

    arxiv.org

  71. 71
    Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell

    arxiv.org

  72. 72
    Decoupled Multi-Agent Orchestration

    arxiv.org

  73. 73
    One Step at a Time: Trading LLM Autonomy for Process Predictability

    arxiv.org

  74. 74
    POLAR: Ontology-Guided Risk Prevention for Tool-Calling LLM Agents

    arxiv.org

  75. 75
    ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models

    arxiv.org

  76. 76
    Trajectory-Retrieval Speculative Decoding: When Does a Model's Own History Help?

    arxiv.org

  77. 77
    Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine

    arxiv.org

  78. 78
    Stabilizing language models under continual learning via condition-anchored distillation

    arxiv.org

  79. 79
    Learning in Dreams, Winning in Reality: A Continuous Dyna Loop for a Ten-Hero MOBA

    arxiv.org

  80. 80
    AccentCL: Robust Accent Classification with Incremental Expansion

    arxiv.org

  81. 81
    ARIA: Audio-Driven Melody–Tone Relation Modeling for Cantonese Lyric Authoring

    arxiv.org

  82. 82
    Sobolev Norms in Neural Embeddings Measure Audio Morphing Regularity

    arxiv.org

  83. 83
    Coupled but Late: Turn-Taking Between Full-Duplex Speech Models in Unscripted Dialogue

    arxiv.org

  84. 84
    Verified, not generated: expert-verified AI study materials and the distribution of learning gains in a university course

    arxiv.org

长程智能体与生成式音频论文雷达
长程智能体与生成式音频论文雷达@wei

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 全景表
  • 一、harness、运行框架与执行门
  • 1. EMHO 冻结具身模型、只改外围脚手架:操作留出集最高 +13.0 点
  • 2. 两层各 10.5% 漏检时,独立性预测的联合漏检 1.1%、实测 5.2%
  • 3. 九配置在证据齐备后单动作成功率 93.2–100%,行动前失据却达 37.0–66.9%
  • 4. 步骤级门控多轮成功率 69.0% vs 本地 48.0%,云升级比强模型省 69.2%
  • 5. 写入门控把未决计划污染从 87.5% 压到 0%,而 cautious 风格收益落在噪声内
  • 6. 同一条日志在宽容与严格两种打分下,Llama/P4 从 +28.3 点反转为 −15.0 点
  • 7. 端侧语音代理用推测执行把工具延迟藏进说话时间,TTFA 中位 5.79→4.60 s
  • 8. 世界模型内对抗训练把未见对手下完成率从 23.0% 提到 30.7%(相对 +33.6%)
  • 二、上下文与记忆:压缩、写入与检索可接纳性
  • 1. 前置历史几乎预测不了压缩损害:最强触发器 AUROC 0.66,追不上重放标尺 0.72
  • 2. 良性记忆也会致错:读时裁剪把 RippleEdits 的 ✓→✗ 从 11.6% 压到 0.6%
  • 3. 命名空间过滤把 top-20 召回从 0.432 提到 0.533,但验证器在 1% 误拒下查不出违规
  • 4. 只给 values 类别单独设阈值:faithfulness 96.03%、覆盖率 83.26%,优于全局阈值
  • 5. 记忆演化建模为最小能量转移:LoCoMo-700 上 F1 0.4280,领先最强基线并不显著
  • 6. 上下文宽度 1K→4K 在各深度都涨 10–18pp,深度却无单调收益;8–16K 才是有效旋钮
  • 7. 追加式记忆在 WebArena Lite 上超覆盖式记忆 +4.09pp,第 30 步上下文仅 7.4k token
  • 三、长程评测口径与判官效度
  • 1. 同一语料重复提问:分类法接地把主题更替从 0.765 压到 0.104
  • 2. 事后四项检查复核 84 个记录通过:全部过关的只有 19 个(22.6%)
  • 3. 六裁判分布层聚合:平均 Spearman 相对池内最强单裁判 +0.0393
  • 4. 三个模型互评 κ=.76–.78 看似稳定,与人类判官却只有 κ=.52–.60
  • 5. J<K 才能无偏估计:无偏风险阶 σ²/√K,允许偏差可降到 σ²/K
  • 四、长程基准、环境与长时程控制
  • 1. 接入数据与工具后通过率平均提升 47 个百分点,无数据条件暴露先验依赖
  • 2. 九款游戏速通里没有智能体在现有预算下达到人类世界纪录,最佳平均慢一倍以上
  • 3. 20 个反直觉游戏里保留原始历史胜过把经验总结成规则,换 harness 能把 Opus 5 的 Max 从 74.5 抬到 81.8
  • 4. 单样本转录里 13M token 的算力约四分之三花在自审与稿件撰写,假设生成只有约 22,000 token
  • 5. 60 次「装瓶」里 48 次低于本模型零样本性能的 95% 置信区间,零样本能力并不预测廉价规模化
  • 6. 撤走全部目标后 13 个编码智能体在未知岛屿跑 30 小时,8 个建出超 2 座塔而 0 小时组只有 2 个
  • 7. 同一指令放到不同用户界面后成功率平均降 4.88 个百分点,最好的与最差 persona 差 9.31 个百分点
  • 8. 并行预测世界模型在四个任务上潜 MSE 最低,CEM 规划延迟平均 374.5 ms、相对自回归提速 3.30×
  • 9. 视觉目标条件策略在三条长时程任务链上把链成功率做到 28%–54%,约为最强基线的 5–7 倍
  • 五、轨迹数据、技能挖掘与能力自举
  • 1. GAMEGO 把任务描述压到全量 PRD 的 2.26%,SFT 后在 GameGoBench 上超基座 17.85 分
  • 2. SAGA 四级知识抽象把 ScienceWorld 提到 66.9 分,但直接注入原则反而掉分
  • 3. DAEDALUS 用自生成任务把 AppWorld 的平均成功率(MSR)从 44.3 提到 60.2,成本与无记忆持平
  • 4. MedZERO 让 4B 医学推理平均分从 12.9% 升到 34.9%,超次优自进化基线 13.7 点
  • 5. ScienceClaw 七轮演化把 OOD 宏平均从 77.72 提到 91.30(+13.59),错误晋升率 1.23%
  • 6. EESD 用有效证据量给自蒸馏降权,CodeARC 上一轮修正后 Pass@1 升 5.4 个百分点
  • 7. D-OPCD 把 harness 的 21.31 分收益只内化进扩散权重 4.57 分
  • 8. MemCo 用 Wilson 下界晋升全局记忆,ALFWorld 未见布局准确率从 57.74% 升到 82.84%
  • 六、自进化与自蒸馏:拿到什么、失去什么
  • 1. 把全对全错组浪费的轨迹蒸馏为前瞻预见,4B 数学均分 46.22→56.25
  • 2. 把整条分支结果换成单次修订的前后配对,ALFWorld 成功率 51.49→54.11
  • 3. 免训练测试时演化:去掉跨案记忆使 J1-EVAL 平均降 17.5 点
  • 4. 让判官、课程与策略共同演化,驾驶推理分三轮 60.56→71.61
  • 5. 循环自蒸馏正确率上升而实现多样性收缩,Vanilla 保留率仅 76.9%
  • 6. 微调中的"遗忘"多数可逆:减掉共同平移把 OLMo 2 1B 召回从 0.28 恢复到 0.77
  • 7. 只给一份模型规范自评判:AgentHarm 有害分 22.6→14.8,无害分不掉
  • 七、TTS 合成与可控性
  • 1. 假名域 ASR 奖励让日语 TTS 的汉字 Kana-CER 从 9.65% 降到 7.17%,收敛从 18k 步提前到 4k 步
  • 2. 无需重训的激活引导让 1 dB SNR 下 WER 降 7–22%,但干净条件下德/西/日 WER 反而变差
  • 3. 自适应深度让音频大模型平均准确率 +3.8 点,信号级问题平均迭代 5.7 次、语义问题 2.6 次
  • 4. 技能专属适配器加问题路由让音频大模型平均 +2.5 到 +4.1 点,去掉路由器掉 1.7 点
  • 5. 语义/副语言双专家让情感识别平均 72.10%,去掉 oeg-para 掉 5.9 点
  • 6. 流式视频到音频每 100 ms chunk 延迟仅 41.2 ms,30 秒交互视频 FAD 2.03 优于全部基线
  • 八、语音对话、说话人与音频评测
  • 1. 事件因果信用分配把全双工语音模型的停顿抢话率从 0.454 降到 0.306
  • 2. 3W 联合打分把跨会话语音记忆的检索 EM@3 从 49.01% 提升到 82.10%
  • 3. 人口统计模型合并把平均 WER 从 7.38% 降到 5.13%,却扩大了年龄轴差距
  • 4. 只用 960 小时 ASR 训练,未见任务翻译 BLEU 达到 19.97
  • 5. 质量门控自校正净增 0.67 BLEU,但 τ=0.90 时触发 86.2% 的句子
  • 6. 神经编解码压缩把最强深伪检测器的 EER 从 1.01% 抬到 51.2%
  • 九、邻近跟踪:评测口径、判官与基准审计
  • 1. 智能体评估补上语义层:110 个证据—来源配对中仅 11 个可直接见证行为
  • 2. 两个外来域的训练胜过目标域自身:留一域迁移 ρ=0.54,域内训练只到 0.48
  • 3. 自然记录 AUROC 0.986 之下,6 个同数换引仍有 4 个角色错误被接受
  • 4. 忠实判据把假阳性推到 95.9%,改用事实正确判据后降到 41.7%
  • 5. 只靠判决微调的准确率 0.896 超过拒绝采样 0.797,证据 F1 却拉不开差
  • 6. 168 个物理任务、7 个域上最高分仅 48.7%,域间落差可达 26 个百分点
  • 7. 27 个配置总分全部低于 45%,状态重建占全部错误的 89.7%
  • 8. 事前调度把干净集成成功率从 1/9 提到 9/9,合并冲突从 13 降到 0
  • 9. 8 个配置里仍有 11.2%–58.7% 的 E⁺ 运行出现多余风险处置动作
  • 十、邻近跟踪:记忆、编排与运行控制
  • 1. 十二个并行编码智能体把宿主顶到约 2.0× 预算,MemMux 才把峰值压回预算内
  • 2. 加一块矩阵长期记忆把 39×39 迷宫整图准确率从 37.4% 提到 61.6%
  • 3. 把记忆从上下文搬进参数:按放置位置与获取时间两轴归拢 64 项方法
  • 4. 持久召回把峰值缓存抬高 0.368 MiB,准确率变化 +0.015 的区间含 0
  • 5. 解耦规划与选人:8 个基准平均 51.5,换到未见工人池仍 50.2
  • 6. 逐步投递 SOP:无据答案从 2.1–4.5% 降到约 0.3%,强模型原始准确率反降
  • 7. 行动前给工具调用打可逆性分,18 个单元里只有 8 个超过基线
  • 8. 四领域攻击成功率从约 30.0% 降到约 3.0%,77.9% 由确定性规则先拦
  • 9. 只在小模型推理链不确定性异常上升时才融合,AIME24 从 53.3% 升到 73.3%
  • 十一、邻近跟踪:自进化、轨迹与生成侧
  • 1. 轨迹检索投机解码在小草稿模型之上每位置多接受 0.171 个 token,端到端吞吐最多提升 12.4%
  • 2. 有限状态机走位合成多轮数据,固定 20M token 预算下多产 3.6–6.6 倍轨迹
  • 3. 条件锚定蒸馏把四任务掩码扩散的遗忘从 2.591 降到 0.674
  • 4. 把错配 token 纳入监督反而全线减分,严格 1:1 加 top-16 仍保住 96% 的提升
  • 5. 连续 Dyna 循环把未见种子上的天辉胜率从 0 推到 70.2%,而模型利用只在真实信号里显形
  • 6. 冻结 Whisper-Large-v3 的口音分类达 77.1% 平衡准确率,新增一类旧类仅降 0.8pp
  • 7. 两阶段流水线让唱录音频直出 0243 声调码,TokAcc 0.644、端到端音调一致性 0.9528
  • 8. 四类对抗轨迹下 Sobolev 距离是唯一不被骗过的音频变形度量
  • 9. 闭环全双工语音的中位话轮偏移 +480 ms,是人类 137 ms 的三到四倍
  • 10. 发布前经具名助教验证的 AI 材料与半段成绩 +2.34 分呈正相关,低于二等上边界比例降 24.7pp
  • 十二、播客线覆盖说明与本期可迁移结论