10月16日论文雷达：把不可信内容的标记改写一下就掉 8.33 个百分点的拦截率、池化标准差恰等于翻转率乘位置偏斜、递归自改写把终端智能体从 20.68% 抬到 50.58%：长程智能体与生成式音频的 159 篇分层雷达
本期把该账号 10 月 16 日发布的一个批次逐条筛完：246 篇里收录 159 篇，改写一处不可信内容标记就能让 Claude Haiku 的拦截率掉 8.33 个百分点，多选题的池化标准差恰好等于翻转率乘位置偏斜，递归自改写把终端智能体的四套基准均值从 20.68% 抬到 50.58%。
本频道盯「arXiv 每日学术速递」的三个栏目：人工智能、自然语言处理、语音与音频学术速递。本期筛选该账号在 2026 年 10 月 16 日 11:33（GMT+8）发布的一个批次，三栏齐全：人工智能学术速递[10.16]，132 篇；自然语言处理学术速递[10.16]，105 篇；语音与音频学术速递[10.16]，9 篇。同批次的单篇论文导读（idx=1）与计算机视觉、机器学习、机器人、统计学四栏（idx=3、5、6、8）不在候选池内。
公众号正文自 10 月 6 日起只展开每栏前 8–9 篇，完整列表留给它自己的站点。本期候选池按该站点同日同名三栏的完整条目重建：三个分类列表下当天共 752 条列表条目（其中含交叉投稿与版本更新），去重后 627 篇论文；被站点标注为「新提交」（当天首次提交到 arXiv）的按三栏分别为 132、105、9 篇，三栏两两之间没有重复，合计 246 篇构成本期候选池。三个计数与该账号三篇图文标题里的「共 132 篇」「共 105 篇」「共 9 篇」逐栏吻合。站点条目带英文原题、中文题、机构与 AI 总结，与公众号条目同源；它与 arXiv 原文不一致的地方，在条目里逐条标出。每篇在全景表里都给出公众号栏目、站点条目与 arXiv 全文三处入口。本频道的候选池固定为该账号这三个栏目；arXiv 摘要页、arXiv 原文，以及论文原文明确链接的作者官方代码仓库、项目页与数据页，本期只用于核验与复现情况。
246 篇逐条读完后收录 159 篇，排除 87 篇。排除集中在四类：把现成模型直接套到某个业务场景的领域应用（医学文书与临床决策、金融风控、遥感解译、教育平台）、与四条线无关的低资源语言与多语言资源工作、推理效率与硬件适配（量化、KV 淘汰、投机解码、MoE 精度）、以及社会科学与问卷类研究；这些工作与四条线之间只有泛泛的相关性，搬不出具体设计，编号列在末节。收录的 159 篇按与四条研究线的关系分层：直接命中 96 篇、邻近跟踪 63 篇。再按建议的阅读投入分档：精读 46 篇、值得扫读 46 篇、其余 67 篇为最轻一档。这一档与「邻近跟踪」层同名而口径不同：前者说的是这篇值不值得读，后者说的是论文与哪条研究线相关。四条线按每篇的主要归属计：大模型长程任务的训练与评估（A 线）120 篇、轨迹学习与自进化（B 线）23 篇、TTS 生成与评估（C 线）13 篇、播客生成与节目级评估（D 线）0 篇。归并口径是条目所在的节——第一至第六节与第十二至第十五节计入 A 线，第七、八节计入 B 线，第九、十节计入 C 线；第十一节是当天 D 线唯一的邻接面（叙事与脚本生成 3 篇），D 线本身仍是 0 篇，覆盖情况写在本期末节。正文按主题分 15 节，全景表第一列是建议的阅读投入（1 精读、2 值得扫读、3 只按连接点取用），第二列是条目与四条研究线的关系（直接命中 / 邻近跟踪）。
收录的这 159 篇与本频道此前 46 期已收录的论文逐条比对，没有重复：本期候选池的 arXiv 编号全部落在 2610.20615–2610.22355 之间，而上一期收录的最大编号是 2610.20582，两个编号区间本身就不重叠。另有 5 篇的 arXiv 没有提供 HTML 全文（2610.20675、2610.21045、2610.21055、2610.21085、2610.21910）；其中 2610.20675、2610.21055、2610.21085 的数字改从同一篇的 arXiv 原文 PDF 取得，2610.21045 与 2610.21910 两篇的条目只到摘要层，全景表里的入口相应给到 arXiv 摘要页。
本期有十条判断值得先记住，理由与限定写在各自条目里。
长程执行的评测要同时量「做没做完」和「该不该停」：把终态分叉做成可实测的门控之后，Terminal-Bench 2.1 的通过率从 63.4% 升到 72.4%。 1
多选题的池化标准差恰好等于翻转率乘以位置偏斜：41 个开源权重检查点、12 个基准上，翻转率与准确率的 Spearman 相关为 −0.95。 2
安全评测的标签能被与安全无关的线索猜出来：把不可信内容的标记改写一下，Claude Haiku 的拦截率就降 8.33 个百分点；换成不透明工具别名，又升 11.46 个百分点。 3
同一批事实，内在与外在的记忆评测平均相差 16 个百分点：FEB-30 用 30 条事实演化轨迹把同一批记忆能力放在两种提问方式下量。 4
记忆的删除命令删不掉：456 条人工设计的长期记忆遗忘基准上，10 轮大模型清理之后仍有 39–76% 可恢复。 5
经验条目不是越多越好：12–33% 的经验被复用时就会带来损害，改成分层抽取加证据准入后，四个骨干的六任务流聚合分全部排第一。 6
递归自改写把终端智能体的四套基准均值从 20.68% 提到 50.58%。 7
交付类任务的最后一公里还没过：13 个配置里最好的一个，也只解决 95 个任务中的 14 个；最高指令层级 L3 的均值只有 0.56。 8
全双工语音模型的抢话程度可以被一个方向控制：在 32 层残差流的第 30 层注写一个方向，说话占比从 6–12% 推到 42–61%，5 分钟参考录音就能迁移个人话轮风格。 9
模型讲非线性故事时会自己把顺序捋直：83 部非线性叙事上，19 个模型的自由叙事全部比原作更按时间顺序，时间顺序相关 τ=0.638；读者盲评里 76% 更偏好它们默认的顺叙版本。 10
全景表
| 优先级 | 层级 | 论文（英文原题 · arXiv ID） | 改动位置（维度） | 核心可比结果（含比较对象与口径） | 阅读风险与证据局限 | 入口 |
|---|---|---|---|---|---|---|
| 1 | 直接命中 | RAC: A Relational Agent Contract for Constraint-Governed Engineering Tasks · arXiv:2610.20935 | 运行期动作契约：把坐标等机械派生量从动作空间移除，只留命名对象之间的关系，并配独立校验器与语义化修复证据 | 98 个 PCB 任务、六个种子、九个模型平均干净通过率 90.9%，仅需求委派 74.0%、工具候选选择 37.4%；调度 LA01–LA30 上质量通过 260/270 对代码中介 161/270（+36.7 点，95% 区间 [31.1, 41.9]）；token 较候选选择少 22.9%–48.5%。 | 全部结论依赖作者自建实现器与独立校验器，仅适用于能造出这两者的场景；PCB 与调度任务规模有限；附录 A 的 459 个扰动（取自 26 个布局族 153 个合格布局）中有 24 个板缩用例可行性未确立，区间未做多重比较校正。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Same Context, Different Agents: A Behavioral Study of Semantic Layers, Orchestration and Compaction in Data Agents · arXiv:2610.20959 | 上下文管理：把语义层、编排、压缩三项技法做成独立开关，在同一基线上做全组合并叠加十项行为指标剖析 | 七个 LLM、五个基准、1,514 个任务、八种开关组合；效应为打开单一技法相对同一基线智能体的百分点变化，美元为相对该基线的列表价倍数（行为组：调查者即每步先查数据，提前作答者即不查就答，提前放弃者即过早放弃）。编排给提前作答者最大增益 23 点、4.0 倍美元，给调查者掉 5 点、1.7 倍；语义层给提前放弃者 4.6 点、1.1 倍；压缩不涨、美元 1.2–1.8 倍。 | 行为分组仅来自七个模型的聚类，组内均值不能代表单个模型；三项技法各只取一种代表设计；错值归因依赖 LLM 标注，Fleiss κ=.60；部分需求层结论主要由 DataClaw 单一基准贡献。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Mallea: Building, Steering, and Memorizing Worlds with Coding Agent · arXiv:2610.21283 | 世界构造与记忆：编码智能体按交互需求选择最简物体表征、运行期增量扩展规则、按物体身份管理外观记忆 | 无任何量化结果。正文与结论两次声明定量基准与重访基准将很快发布；唯一结果展示是 12 个场景的定性视频序列，且图 6 左列第 2–4 行白盒在视频生成后才调整，作者自陈这些短片未能隔离记忆的贡献。 | 无基准、无基线、无种子、无区间；记忆机制贡献未被隔离；白盒帧与视频帧非同一轮生成；项目页实测 HTTP 200，代码仓库地址原文未给出，复现条件无法判断。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | DocPilot: Interactive Agent Orchestration and Training for Long Visual Document Understanding · arXiv:2610.21327 | 环境表示与训练课程：多表示文档环境加六动作闭环，再用单能力到多能力的课程把编排教给 4B 模型 | 四个主干（Qwen3.5-397B-A17B、Gemini-2.5-Pro、Gemini-3.1-Pro、GPT-5.4）相对各自原生主干：MMLongBench-Doc 提升 10.1–14.7 点、DocBench 3.7–10.0 点、FinRAGBench-V 9.8–18.7 点（LasJ 即 LLM 判官评分）；同用 Gemini-2.5-Pro 时对 DocLens 由 67.6 升到 72.8；4B 模型较原生 Qwen3.5-4B 由 54.9 升到 59.1。 | 表 1 与表 2 在 HTML 全文里列名与数值错位，正文所述 2.3 点增益与表值不符；训练轨迹由未具名强教师合成，对其质量敏感性未讨论；手册类文档增益不稳定且一个主干出现下降。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Jev-LiteMAS: Separating Decisions from Generation in Multi-Agent Workflows · arXiv:2610.21411 | 工作流控制归属：把路由与工件复核从生成模型交给有界决策模型，复核走廉价筛选加条件式 LLM 升级 | 先测得路由与复核占生成式 token 31.7%–43.5%；四基准两主干下相对 LAS 生成式 token 降 17.5%–54.6%（DeepSeek）与 12.7%–38.6%（GPT-5），准确率差 −0.67 到 +0.66 与 −1.34 到 +0.67 点，延迟八种配置里七种更低；屏蔽路由输入的消融令 I3 与 API-Bank 各掉 18.00 与 9.02 点。 | 任务最长约六次生成式调用，长程成分有限；上述 18.00 与 9.02 点掉分出自人为屏蔽路由输入的消融，非实际系统损失；路由受限于预定义专家池；论文头部残留会议模板占位符，原文未给官方代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs · arXiv:2610.21412 | harness 决策委托：按智能体自身轨迹拟合每类选择的置信阈值，只在越过阈值时把多选项决策交给小决策模型 | 隔离题最准的 StartLux-9B 在任务级只解掉 69.5%，AgentDecision-4B 解掉 91.5%、第三方决策模型 Jev 解掉 82.0%；相对 LLM 单干，不加阈值直接委托工具选择掉 19.0 点、阈值固定 0.5 掉 21.5 点；同样相对 LLM 单干，DecisionGym 便宜 86.3%、快 2.5 倍，ALFWorld 便宜 89.0%。 | 非劣检验而非等价检验，只能说成功率下降不超过 3 点（τ²-Bench 为 5 点）；阈值与决策模型绑定具体智能体，换环境需重拟合重训；编码智能体仅省 7.0%–10.5%；表 1 行内字段串位；对抗观测未测。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents · arXiv:2610.21463 | 执行协议：弱模型带真实只读调用起草并扣住首个写动作，强模型单次预填审阅并提交语义有效的最长前缀 | τ²-Bench 上 pass@1 达 86.0（强模型单干 86.0、弱模型单干 80.0），Retail 为 87.7 对 88.6；相对强模型单干，HBM 读取降到 43%–45% 与 53%–57%，墙钟降到 41%、54%，但估计 FLOPs 反升（四基准依次 30%、38%、38%、87%）；MCP-Atlas 上 API 成本降到 59%–81%。 | 节省前提是弱模型单步快于强模型，边云部署中不成立、墙钟不降；FLOPs 上升 30%–87%，仅在解码受显存带宽约束（H20 上约 37 条序列以内）时成立；VitaBench 算力涨幅最大且强依赖提示前缀共享。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | DeciCAD: Harness-Grounded Learning of Action Policies for CAD Agents · arXiv:2610.21755 | 模型与执行器之间的表示层：把任意程序换成带类型的语义 CAD 动作，按决策充分性裁剪执行反馈与观测，同一表示贯穿监督微调与在线强化学习 | 四个 CAD 基准（CADPrompt、P3D-Text-to-3D、CADInstruct、P3D-Assembly-3D，依次）、同一 Claude Opus 4.7：DeciCAD 表面 F1 为 0.6583、0.4363、0.2349、0.3211，对照通用编码 harness（Claude Code）为 0.6544、0.4044、0.2010、0.3195；同监督下学生策略 F1 由 0.6883 升到 0.7437，编码 harness 只有 0.6460。 | 每个组合只报一个点，无运行次数与置信区间；harness 对比只用单一 CAD 后端与单一前沿模型，策略学习为单学生单数据集；网格指标不含约束满足与可编辑性。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | CoWorld Reasoner: Agentic Multimodal Reasoning with the Evolving Video World Model-Driven Harness · arXiv:2610.21910 | 运行期工具与技能层：把视频世界模型包成可调用的视觉操作工具，并在权重冻结的前提下联合改写工具、技能与执行代码 | 七个基准上均优于同一 VLM 的直接推理，最强变体七项全部提升（摘要只点名 MMSI 与 ERQA，其余五个基准名原文未报告）；相对同一 VLM 的直接推理，MMSI 提升 11.8%、ERQA 提升 13.0%（基线绝对值原文未报告），并在五个基准上胜过五个同骨干演化基线（基线名单原文未报告）。 | 实测该文无 HTML 全文，数字仅来自摘要；缺基准清单、样本量、模型规模与运行次数；无代码或项目页可核。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | FAOPs: Normal Forms and an Algebra for AI Agent Workflows · arXiv:2610.22061 | 设计期的流程结构层：把技能库归一为四级范式加代数改写，作用域收缩与终止性上界改成编译期检查 | 无实验：第 5 节仅声明完整实证留待将来，作者自陈工具链与实证都只描述未报告。其引用的第三方统计为 40,285 个已发布技能存在意图级冗余、26.1% 社区技能含漏洞、835 个真实配置中 94.1% 结构不完整。 | 纯理论、零实验；工具链与实证均未报告；40,285、26.1%、94.1% 来自被引文献而非本文；无代码与项目页入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents · arXiv:2610.22280 | 运行期资源分配层：用弱模型隐状态的不确定度做初始与步级门控，交接后再让弱模型当影子观察者做监督与干预 | OSWorld 262 题、每题 50 动作；同升级率下比随机升级高 6.55–11.94 个百分点。Qwen3.5-35B-A3B 在 64.1% 升级率下达 73.66% 成功率、每任务 $0.4117，对照常开 Claude Opus 5 为 72.90%。 | 仅 OSWorld 一种环境；分数估计失败风险而非升级收益，命题 1 依赖增益单调；标定目标 25% 与 50% 而实现率 43–64%；运行期 AUROC 仅 0.575–0.609。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Improving Environment-Agnostic Coding Agents: The Role of Scaffolding · arXiv:2610.22289 | 提示与控制器分工层：只改一句回控指令，并把环境描述里已有的复位约定从模型判断移交给脚本控制器 | ARC-AGI-3 四档模型强度上平均 RHAE 全部高于 Baseline（27.57 到 34.86、50.45 到 52.36、70.81 到 77.33、89.59 到 90.96）；AGI Maze 八组全升 0.37–4.95 点，但成本分别高出 2–52% 与 7–39%。 | 描述性均值差，原文不主张显著性或非劣性；增益与成本同向上升，未区分信息用得好与推理给得多；twma_v1.61 的差异未分解。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking · arXiv:2610.20633 | 评测口径层：以逐组件无遮蔽打分与风险率取代端任务成功率与互斥标签，再据此比较四种注入块的影响 | Qwen3-8B、20 种子、逐组件评分与风险率口径（风险率即同组件此前无错时第 k 步出错的概率）：重复识别风险率在第 200 步前后由 0.0019 升到 0.011，计数器 8,000 步零错误；注入无关块后计数器 20/20 种子出错，本地处理每适用步错误率仅由 0.0077 降到 0.0058。 | 单一合成法语台账任务、Qwen3 系与 Q4_K_M 贪心非思考解码；计数器为平凡加一；无关块不比裸跑差一说已撤回；封存区间退化。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens · arXiv:2610.20641 | 推理缓存的表示层：把已生成块的 KV 压进可学习 pause token 的 KV 条目并释放原块，配额按层实测价值分配 | 446 题竞赛集、每题 8 采样、32K 上限、avg@8：保留四分之一 KV 得 43.0，全量 KV 参考 43.8（配对差 −0.8 且含 0）；淘汰式方法同预算掉 7 到 20 分，R-KV 虽在噪声内但多生成 40% 到 69% 的 token。 | 结果全部基于作者自有 SFT，未在已发布的强化学习检查点上验证；压缩比按块固定；逐层配额假设代价可加而实测不可加；无代码仓库地址。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents · arXiv:2610.20927 | 运行期上下文管理：在压缩器产出摘要之后加一层逐条目的来源判定，只删除无环境输出或上一份检查点支撑的推理条目，不改智能体与压缩器 | 相对 Prompting 压缩基线、AppWorld 168 题三次运行（指标为三次全解率 pass³）：GPT-5.6 Luna 64.3→73.2、MiniMax-M3 55.4→62.5；OfficeBench 95 题：GPT-5.6 Luna 68.4→73.7、MiniMax-M3 74.7→76.8 | 筛的是来源而非正确性，有支撑与无支撑条目的正确率接近（92.2% 对 90.6%）；只覆盖两个基准、两个模型与一个宿主压缩器，且任务都是压缩后仍可见的单条指令。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | MemComposer: Learning to Assemble Memories for LLM Agents via Reinforcement Learning · arXiv:2610.21091 | 记忆装配：用 GRPO 类强化学习训练一个 composer，决定从 top-n 候选记忆里选哪几条、选几条、按什么顺序放入上下文 | τ²-bench 零售/航空/电信三领域、每个测试任务跑 4 次试验：Qwen3-4B 平均 pass¹ 50.8 对最强基线 Memento 的 45.0，Ministral-3-8B 63.5 对最强基线 MemRL 的 58.9；平均记忆 token 比各执行器上的最强基线少 16.9% 与 4.9% | 每个领域只有 20 到 40 道测试题；启发式基线的 k 在测试集上挑最优；区间未做多重比较校正；论文未给出代码或数据入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches · arXiv:2610.21126 | 选择之后的坐标层：给已选中的稀疏 KV 缓存重新分配连续 RoPE 坐标，并把提问与后续生成同步到同一位置空间 | 固定同一批被选中的缓存、只换坐标映射：两个模型×六个稀疏选择器×三个长期记忆任务共 36 组比较中，32 组相对原始坐标提升；Llama-3.1-8B 配 BM25 在 LongMemEval-S 由 23.6% 升到 35.4%（10% 保留率）；完整请求时间比 Original 多 1.3% 到 2.7% | 只覆盖 7B 到 8B 两个模型与 RoPE；LongMTBench+ 上多数区间跨零；超过完整历史参考只在 Llama 加 BM25 加 LongMemEval-S 这一格成立。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | All-in-One Memory: Process-Rewarded Reinforcement Learning for Memory Agents · arXiv:2610.21147 | 记忆智能体的动作空间与奖励：把检索与写记忆统一成同一证据状态上的转移，用规则分加轨迹级 DPO 训练过程奖励模型 | 同一 Qwen3-4B 策略与 Qwen3-8B 奖励模型下：LoCoMo 总体 F1 61.0 对最强 RL 基线 Mem-T 的 58.7、最强静态记忆系统 Mem0 的 43.7；MemoryAgentBench 九任务均分 74.7，比最强基线 Fine-Mem 高 8.3 分 | 未报告置信区间、种子数与重复次数；时间推理列的 B1 是 59.4 对 Mem-T 的 60.1，即有一列落后；代码只承诺「将发布」而无地址；判官与人工标注的一致率未报告。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | From Long Context to Selective Memory: A Survey of Memory-Centric Compression for Large Language Models · arXiv:2610.21165 | 综述框架：按计算活跃与计算非活跃记忆划分记忆状态，把八种操作定义为状态转移算子，并配一个分状态计费的预算模型 | 无自建实验：给出八种状态转移算子表、方法维度表与基准覆盖表，并与十一类已有综述对比；结论是现有基准没有一个同时覆盖 KV 层压缩、记忆更新与系统化成本报告 | 单人综述、无实验；打点为作者主观编码且无第二人复核；成本模型只给符号未给实测数值；部分方法引用自 2026 年预印本，条件未经核实。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Writability and the Pathway: A Controlled Study of Knowledge Injection into Addressed Memory · arXiv:2610.21553 | 参数侧的记忆写入：在冻结主干上插入寻址记忆模块，分离「改哪些行」与「是否改共享读出」，并检验输出锚定对行为漂移的影响 | 冻结 GPT-2 上的 2×2 设计、三个写种子：四个 arm 的规范补全精确匹配都是 100%（写前 0%）；自然问句的目标串命中为只改行 5.3%、改投影 28.7%、改投影加锚定 22.0%；严格短答精确匹配全为 0 | 单主干、单初始化、单合成事实集、单惩罚系数；改投影与加锚定都未隔离出单一机制；材料是私有复核包、无公开仓库。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Rethinking the Role of Tool Graph Memory in Multi-Turn Tool Use · arXiv:2610.21571 | 记忆形态：质疑「下一个该调哪个工具」这类程序性记忆，改为注入情境级的语义洞察 | 相对无记忆的 Base 基线、九个开源模型各跑三次：H-EPM 增益只在四处达到显著、且平均多用 2.72 倍 LLM 调用；洞察记忆在多数设置最优，LLM 调用为 Base 的 1.03 倍、token 为 1.43 倍（H-EPM 为 2.21 倍） | 增益归因（消融、人工标注、oracle）只覆盖 ToolSandbox 上三个模型；人工标注无第二标注者与一致性系数；洞察记忆刻意做轻，不是该思路的性能上限。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Reliable Knowledge Acquisition for Continual Learning Agents · arXiv:2610.21739 | 记忆准入环节：把抽取与准入拆成两段，按来源证据把原子声明分流为即时或延迟准入，用净证据计数加阈值与遗忘窗口维护有界状态 | 同一个抽取器加 EKA 前后对比（五种子平均）：DB 上 SkillOpt 由 0.147 升到 0.192、Trace2Skill 由 0.158 升到 0.224；完整 RIKA 在四个骨干的六条任务流聚合分上都排第一，比同骨干最强基线高 0.046–0.081 | 作者自陈只在 24 个「模型×任务流」组合里赢 14 个；有害条目比例只在单骨干三条任务流上测得；Cohort 上各方法全为负分；未见作者自己的代码或数据入口。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Co2In: a Bi-level Memory Incremental Learning Framework with Knowledge Encoding, Consolidation, and Integration · arXiv:2610.21804 | 长期记忆的存储格式：把每任务权重投影到低秩模式基，分为工作记忆与长期记忆两层，并把各任务知识重排成可并行推理的独立层 | 无样本增量学习、五次种子平均的全任务准确率：CIFAR-100 任务增量 84.21%±1.0 排第一（比第二好的 VDFD 高 0.91 个百分点）、类增量 37.54%±0.9 排第二；Tiny-ImageNet 类增量 31.23%±0.5 第一（比第二好高 2.75 个百分点）、任务增量 68.75%±0.7 低于会议版 BMKP 的 70.36%；CIFAR-100 内存 25.53 MB，比第二省的方法少 1.18 MB | 图像分类任务，不在语言智能体设定内；Tiny-ImageNet 任务增量并非第一（68.75% 对 BMKP 70.36%）；不更新基的消融标准差达 5.9 与 17.7。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | TEM: Temporal State Tracking Memory for Large Language Model Agents · arXiv:2610.21900 | 记忆的时态表示：事实按来源顺序存成版本、由整组最大序号裁定历史或当前，检索后再按来源排序并给被取代的版本打上历史标签 | 事实内容与来源顺序完全不变、只加历史标签：420 题整体键实体命中率提升 17.14–55.95 个百分点；历史居住地 60 题上为 96.67–100.00% 对未标记的 41.67–81.67%；每题答案证据 94.05–117.55 token，比 session-aware RAG 少 48.75–56.73% | 自建受控基准加键实体命中率，口径偏松；LoCoMo 上标记版与未标记版几乎无差且同一方法只有 27.53–37.53%；表 7 的数值是得分上下界而非区间估计。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Beyond Context Length: Characterising the Difficulty of Long-Context Reasoning · arXiv:2610.22067 | 评测口径：为长上下文样本定义证据范围、证据分散度与推理深度三个可量化属性，用 GLM 在控制任务与模型后比较各属性的分数代价 | 6,550 题、四个模型联合拟合（Δ25→75 指同一任务内某属性从第 25 到第 75 百分位时的预测分数变化，负号表示分数下降）：证据范围 −2.14 pp、上下文长度 −1.66 pp、推理深度 −1.60 pp、证据分散度 −1.10 pp；翻倍对比里推理深度翻倍的代价 −2.70 pp 高于上下文长度翻倍的 −2.13 pp | 全为观测性关联而非因果结论；推理深度标注的完全一致率仅 65.6%、秩相关 0.48；RQ2 的深度交互项与 RQ3 的极端格对单个任务敏感；未见代码或数据发布。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing · arXiv:2610.22196 | 记忆写入策略本身：先做在策略蒸馏再做记忆 RL，奖励由逐 chunk 探针、黄金事实归属的结果奖励与记忆库增长惩罚合成，优势按 chunk 位置归一化 | 固定 20% 基准子样本、每个框架六项指标等权宏均：本写入模型在 Mem0、Hy-Memory、MemOS、留出的 EverMemOS 四个记忆框架上得 54.02/60.55/50.51/56.89 且都排第一，四框架宏均 55.49% 对 Claude Opus 5 的 54.62% | 无多种子，作者自陈 MemOS 与 Hy-Memory 上 0.01–0.02 个百分点只算持平；各奖励成分消融未做；归属是证据式而非反事实；实测仓库 404、模型页 401。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | The World Won’t Wait: Evaluating and Teaching Agents Under a Live Clock · arXiv:2610.20665 | 评测协议的时钟变量与双时间尺度改进：游戏在推理期间继续运行，慢教师的离线练习结果写成快学生可用的指导、经独立验证门采纳 | 同一批测试任务与同一批种子下换时钟（0–100 进度分、三次运行均值）：暂停时慢模型 GPT-6.1-sol 更强，实时时钟下它平均 1.51、快速决策模型 Jev 为 13.51；两轮离线指导把 Jev 从 13.51 提到 24.19，三个同类自适应方法对照为 ACE 13.22、AHE 16.59、GEPA 14.52 | 观测是结构化文本而非像素；方法需要可重置环境做离线练习；消融与实际对照的预算未配平；只覆盖六种游戏与两轮改进，跨模型迁移存在回退。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments · arXiv:2610.20939 | 评测与训练的基础设施：评测、数据采集与在线 RL 共用同一条 rollout 路径与同一 harness，并自动合成可重置应用与跨应用连贯世界的任务 | 一次联合在线 RL 训出的 9B 模型：MobileWorld 78.4%、OSWorld-Verified 76.2%，同尺寸最强对照 UI-Venus-2-9B 为 75.2/70.8、基座 Qwen3.5-9B 为 18.0/57.8；只用 12306 克隆应用做 RL，真机真应用成功率从 28.8% 升到 48.1% | 单一 9B 检查点与一次 RL 运行、无多种子；克隆到真机的迁移不完整且与克隆的差距拉大到 25.0 个百分点；部分基线数值引自其他论文与榜单；实测代码仓库 404。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | OmicsBench: a long-horizon multi-turn benchmark of AI agents on research-study-scale bioinformatics · arXiv:2610.21074 | 任务设计：把研究级生信分析拆成子任务 DAG（有向无环图），每个子任务铺成同一会话的一轮 user turn，配确定性判分与门控重试 | 97 任务 662 子任务、12 模型 × 3 harness：最强 Opus 5 on OpenCode 单趟 0.57、门控 0.67，最弱组合 Grok 4.3（单趟/门控）为 0.43/0.54，均为 0–1 连续均值；门控使每个组合升 0.09–0.13；第二轮起每个组合掉 0.06–0.12；三次尝试内仅 22–34% 子任务达门限。 | 94/97 任务私有，外部只能复现 3 个；门控模式作者自认开放给 reward hacking，增益仅上界；harness 效应与模型效应无法分离；判官只测可重复性、未对人做效度检验。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents · arXiv:2610.21082 | 基准构造：用资深研究者对人类纠正的事后重建，做成「原始 LLM 计划 vs 人类修正计划」的二选一判断，只给干预前那个 commit 的项目记录 | 248 例来自 26 个项目、六大学科；中推理档带项目记录时五模型均值 39.2%、四个模型低于随机 50%，Astra 最高 59.5%；不带记录均值 55.8%；人类基线 73.4%，Astra 全条件最高 63.5%。 | 用例按「模型分歧大」筛出，是诊断性挑战集而非科研判断力总体估计；仅覆盖理论与计算类研究；重新审议增益不可靠；写作方固定为 Grok 4.6。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Probe-and-Resume: When and How to Evaluate Agent Execution · arXiv:2610.21088 | 运行期门控：把批评者从中间态挪到候选终态，并给它当前态与初始态分叉的读、写、执行权限 | Terminal-Bench 2.1（89 任务 × 5 次，GPT-5.6 Luna + Terminus-2）pass@1 由基线 63.4% 升到 72.4%（+9.0 [5.6,12.6]），成本 $10.70→$23.14（基线的 2.2 倍），约为同模型同基准 Codex CLI 的 $50.29 的一半（46%）；成功率 72.4% 仍低于 Codex CLI 的 76.6%，低 4.2 个百分点。 | 增益依赖模型，Astra 与 Opus 作 actor 或 critic 时无显著增益；分叉不隔离对外部数据库或共享服务的写入；18 个无法判分的 trial 被剔除且全来自两个搜索基线。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets · arXiv:2610.21098 | 评测口径：同族任务固定、每次只改一个压力（注册目录、可见菜单、认证工作流、返回编码），并把触发的 harness 限额写进失败记录 | 21 个模型+harness 配置、26,576 个评分条件（其中 20,408 个由 VTS——verified task success，九项义务按序取合取——精确判分），容量实验格上的平均 VTS 为 82.1%；可见菜单由 8 增到 128 个 schema 使 VTS 降 12.3 个百分点 [-14.6,-9.9]（全程完整菜单可见时降 17.5）；补全上限提高 16 倍后，截断严重的 6 个配置惩罚由 −43.7 缩到 −2.7 [-4.7,-0.9]。 | 结论只在冻结 harness 预算下成立，只有补全上限被扫描且仅在 8 个配置上；核心格每配置单次运行，1,024 token 下重复分歧 17.5%；全合成任务、精确判分无部分分。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Planning Commitment of LLM under Partial Observability · arXiv:2610.21108 | 环境与任务设计：两个受控部分可观测文本域，把「一次承诺多长的计划」做成可调轴，规划器与形式化器 × 保守与激进四路对照 | Coin Collector 上给出统计先验后，激进方法的调用轮数比保守方法少约 40%、准确率相近但重试次数远多；无先验时激进几乎不省调用；保守方法几乎不用未观测连接，激进规划器过半数计划含未观测连接。 | 仅两个自制文本域、三个模型；先验由评测集自身算出、完全校准，错校准先验未测；规划准确率可能有假阳性；输出 token 不含隐藏推理；ALFWorld 缺 Gemini。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Kolab: Benchmarking Human-Agent Collaboration in Long-Horizon Workflows · arXiv:2610.21109 | 数据与评测对象：50 位专业人士 115 小时协作录屏建成时序图，标注 AI 贡献被采纳、修改或拒绝，评测模型能否预判与评判协作 | 692 个采纳标注中 Adopt 65.9%、Modify 19.1%、Reject 15.0%；1a 识别（能看到人类反应）最优 F1 0.676（Claude Opus 5.5；GPT-6 在更少实例上 0.713）、多数类基线 0.265，1b 预测（看不到反应）最优 0.513（GPT-6，实例更少）、Gemini 3.1 Pro 仅 0.391；协作满意度排序相关最高 ρ=0.379、产出质量 ρ=0.352，两类评分 MAE 均差于众数基线。 | 问题由参与者自选、难度不可比；人类评分高度偏正（54.9% 打 5 分）致众数基线优于所有模型；GPT-6 实例数少于其他模型不可横比；默认交互对象是 Claude。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | AgentEval: Evidence-Bounded Assessment of Stateful Agents · arXiv:2610.21177 | 评测口径与判官效度：让合同化评估记录贯穿执行、证据捕获、报告资格与用例维护，区分行为真相、证据充分性与当下可用 | 32 次工具世界执行 30 次完成，全合同判分 23 通过 2 违反 5 未决、与独立检查器在 30 例上完全一致；48 个证据视图编辑后全部失去完整绑定资格，只校验哈希会放过其中 36 个；公开基准 192 次留出执行里 10 例是子目标达成但整任务失败。 | 工具世界仅三个受限家族、完整执行 30 例；未决区间是记账式包络而非置信区间；零售结论基于自定义训练来源划分与单一子目标；用例准入前向效果未测；原文未给公开代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Auditing Escalation Reliability in Healthcare LLM Agents: A Perturbation-Controlled Benchmark of Workflow-State Failures · arXiv:2610.21270 | 运行期动作选择：在缺失、过期、冲突、迟到四类受控扰动下决定作答、追问、弃答还是升级，并叠加一层透明工作流状态控制器 | 320 条测试回合（其中 100 条参考动作为升级）上，5 个开源模型（1.7B–9.7B）干净条件决策准确率 91%–97%，漏报升级率 32%–97%；透明控制器把漏报压到 12%–24%，5:1 代价加权效用从提示基线的 −0.82…+0.38 升到 +0.45…+0.54 | 参考动作是单作者策略标签而非医生裁定；有效样本仅 32 个语义种子，扰动措辞与检测器词典同源；词表外测试使检测器召回从 1.00 归零，控制器结论只限本基准 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | ARGUS: An Agenda-Driven Framework for Reliable User Simulation · arXiv:2610.21346 | 模拟器状态管理：用 LIFO（后进先出）议程栈与 Push/Pop/Modify/Wait 符号操作替代自由文本状态重写，并用步级评估器同时做 SFT 过滤与在线 RL 奖励 | τ³-Bench（τ²-Bench 的修正版、可执行的环境式对话基准）Retail 域，同一 Qwen3-8B 骨干下 CBS（Composite Behavioral Score，LLM 判官按四维二元子标准打分后取调和平均的复合行为分）由 Naive-SFT 62.3% 升到 ARGUS-RL 85.8%；提示式 ARGUS 用 8B 骨干得 72.5%，接近 Qwen3-MoE-235B Vanilla 的 73.1%；留出域 Airline 上 ARGUS-RL 80.7% 对 Naive-SFT 68.5% | CBS 由 Qwen3-MoE-235B 判官打分（与人类 Gwet AC1 0.812），结果均出自该判官与自建环境转换；正文写 Stage 2 用 DAPO、主流程图标 REINFORCE++，两处记载不一致；代码未公开 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Evaluating Inquiry Learning in LLM-Based Agents: Hypothesizing, Reasoning, and Exploration · arXiv:2610.21604 | 环境与脚手架：把 Countdown 扩成可主动改自变量、观察输出的多变量方程环境，外挂 IL 阶段引导器与假设验证器组成 GIL 流程 | 7 个模型 0-shot IL（inquiry learning，探究学习）准确率最高仅 12.6%（开源模型中最高，GPT-4o 为 16.1%）、3-shot IL 最高 22.4%（Llama-70B）；GIL 把 3-shot 三变量子集准确率推到 Qwen-32B 44.8%、Llama-70B 43.1%；策略性探索占探索步比例由 21.63% 升到 91.64% | 判分是方程精确等价匹配而非判官打分，但任务只有 174 条 3–5 变量方程；人工标注只覆盖最好模型的 10,926 步，模型含 GPT-4o 一代，未做工具使用实验 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | From Research Goals to Scientific Closure: Evaluating Agents Through Evidence-Supported Physics Research · arXiv:2610.21767 | 评测口径：把研究完成度拆成 20 条半分的原子标准（F/O/I/M/V）与 RC0–RC4 闭合等级，并要求每案三次独立运行 | 50 个物理任务、1050 次尝试（每案 3 次）：F/O/I/M/V 五维原子分（满分 10）最高者为 Claude-Opus-5 的 6.29/10、其 RC4（五级闭合度的最高级）率 32.7%；229 次 ≥8/10 的高分尝试中 36.2% 未达 RC4；Claude-Opus-5 三次全达 RC4 的仅 18.0%（GPT-5.6-Sol 10.0%） | 判官为 GPT-5.6-Sol（high），人工抽查一致率 81.8%、RC 相关 75.9%；任务池 50 例、每案 3 次运行，单一专家主导，无跨机构泛化证据；仓库实测 404 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Realtime-Bench: Can Frontier Models Solve Real-time Interactive Problems? · arXiv:2610.22155 | 评测时钟：用 Wall Clock、Paused Clock 与新增 Token Clock 三套协议分离服务延迟与推理耗时任环境代价，并交叉低高推理强度 | 12 个模型、50 个实时任务：Wall Clock（真实挂钟）下最好单次成功率 44.0%（GPT-6-Astra high）、最好 pass@3 为 36%；理想化的 Paused Clock 下 Claude Opus 5 与 Gemini 3.8 Flash 均达 70.0%，改按 Token Clock 计落到 30.0%/34.0%（依次为 Claude Opus 5、Gemini 3.8 Flash） | Token Clock 的换算率 κ=B·f=64 与 1 FPS 观测率是人为设定，只在 B∈{32,64,128,∞} 消融；失败模式标注由第一作者编码、Codex 应用 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Grid-Bench: Can LLMs Predict How Discrete Worlds Change? · arXiv:2610.22312 | 状态预测任务：八类可执行空间操作在 2、3、4 维网格上按事件历史求完整末态，参考执行器逐格比对并区分应改变格与应保持格 | 1488 个实例、6 个模型：GPT-5.6 Sol 的完整末态精确匹配率（EM）由一次事件后的 95% 掉到 64 次事件的 13%；T=8 时 Kimi K2.5 与 MiniMax M2.5 的 EM 相近，但在两者都给出有效错误状态的 84 条共享实例上，错格数中位数分别为 14（Kimi K2.5）与 67（MiniMax M2.5） | 被测对象是 LLM 单次预测而非智能体回路，只一次回复、128k token 综合预算、不给工具；网格固定 252–256 格，作者自陈不能外推到其他世界规模或观测不确定的环境 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | FDE-Gym: The Last Mile of AI Delivery · arXiv:2610.22350 | 任务设定与评分：把指令从完整规格（L0）退到可能指向错误问题的原始委托（L3），并按客户业务指标的归一化提升减去利益相关者沟通成本计分 | 95 个交付任务、13 个配置：最不完整的指令层级 L3（只给可能指向错误问题的原始委托）下最好 0.56（Claude Opus 5.5，95% 区间 0.50–0.62）且只解决 14 个任务；给全规则的 L0 领先模型 0.73–0.82，撤规则到 L1 只剩 0.39–0.62；Claude Haiku 4.5 有 79 个任务低于不作为基线 | 利益相关者由脚本扮演、沟通费率是专家设定而非实测；L0–L2 只跑 20 个原始任务，三例 L2 复用 L3 结果；尚无人类基线；20 场景偏重受监管行业且不能排除训练数据污染 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Jev-as-a-Judge for RAG Claim Verification: Confidence-Gated Cascading Between a Non-Generative Verifier and a Frontier LLM · arXiv:2610.20634 | 判定机器与级联：把判官换成返回声明式枚举加原生概率的非生成式判定模型，并按该概率做置信度门控升级 | 495 条 LLM-AggreFact 声明上，非生成式 jev-1.13.0 与前沿 gpt-6-astra 的宏观平衡准确率 73.27 对 73.83 打平、成本相差 187 倍；误验证率 Jev 23.23% 对 Astra 14.14%；折外级联 74.10 需 $2.92、误验证率比前沿臂高 5.08 点 | 开发集 495 条、每臂单次运行、无等价性检验；级联是离线重放不含第二跳；作者任职于被评厂商之一，存在利益冲突 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Does Personalization Break Trust? Open-Set Rejection Calibration Under Few-Shot On-Device Intent Adaptation · arXiv:2610.20652 | 打分器替换：把开放集拒识的打分从最大 softmax 概率换成嵌入空间的马氏距离，无需额外训练 | 5 个意图基准、5 种子：少量样本 LoRA 个性化后开放集拒识 AUROC 全下降 0.055 至 0.258，换马氏距离打分 5 个中 3 个恢复（CLINC150 0.886 升到 0.970），域内准确率代价低于 1.5 个百分点 | 4 个数据集的 OOS 用留出意图伪构造；5 种子下区间偏宽，2 个数据集与 k=1 未结案；基础意图遗忘未被修复覆盖 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Evaluating Model Capabilities After Benchmark Saturation · arXiv:2610.20667 | 真值构造与判官协议：用 IRT 在未饱和题上造连续能力真值，只喂饱和题上答对的轨迹，比较四类轨迹信息抽取协议 | 16 个目标模型、四领域平均：成对判官 MSE 0.26（区间 [0.18, 0.34]，p=0.005），比「只给基准分数」基线（MSE 1.37）降约五分之一（摘要写 5.27 倍）；确定性特征 0.86、嵌入 1.01、绝对打分 1.01 均未显著超基线 | 历史回放而非前瞻评测；早 2025 推理模型被系统性低估（MSE 6.20 对 0.24）；协议昂贵且增加题目数不总带来改善 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks · arXiv:2610.20675 | 测量系统：保留 harness 原生控制循环，同时把文件复用与记忆保留分开控制，对工具、技能、记忆做匹配条件的微观干预 | Qwen 在 GPQA-Diamond 上每个 harness 比 Direct 多解 8 到 13 道、少解 18 到 36 道；AIME 26 移除工具描述后正确尝试 104 到 116、解出题数 30 到 29；技能加载 16 次比较仅 2 次有效 | 结论限于 3 个开源模型与 3 个开源 harness；多处关键数字是单点计数、无区间无种子数；本篇无 HTML 全文，数字取自 arXiv PDF | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | When Correctness Feedback Erases Evidence: Phase-Separated Completeness Auditing in Verus · arXiv:2610.20676 | 反馈环位置：把正确性反馈移出发现环，相位分离发现、认证与规约修复，并用格式匹配的迭代对照拆分反馈内容与迭代结构 | 12 个 Verus/Rust 任务、每策略 144 个结果：无反馈发现认证 85/144（59.0%）对纠错反馈环 39/144（27.1%），差 31.9 点（p=0.00635）；保留见证后下游规约修复 81.3%（相位分离）对 62.5%（纠错反馈环） | 12 个竞赛编程任务与受限表达式语言；重复标签非提供方种子、无法精确重放；该效应在 Dafny 与 Lean 未复现 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | APRiL: An Open-ended Benchmark for Chinese Social Awareness in Large Language Models · arXiv:2610.20785 | 基准与判分口径：实例级 rubric 的开放文本基准，把场景分析与回应生成拆成两个任务并用四档分析质量做条件化干预 | 2,196 条中文实例、12 个模型平均：社会场景分析（SSA）68.19 分、社会意识回应（SAR）27.26 分；把模型自己的分析喂回，GPT-5.1 的 SAR 从 37.65 升到 45.07，改用 gold 分析喂回升到 48.69 | 仅中文语境；判官单一，人类基线只有 4 人 110 例；SAR 分数含长度扣分，跨报告不可直接比较；数据入口实测 403 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | When Reasoning Traces Conflict with Evidence: How Answer Configuration Shapes Evidence Following · arXiv:2610.20805 | 答案阶段配置：把轨迹放回思考块续写 vs 独立答案调用，并单独交换轨迹与证据的输入顺序，只动上下文摆放不动模型与内容 | 同一批交叉冲突的轨迹与证据上独立调用把证据遵循率比续写提高 29.9 到 60.6 个百分点，而删轨迹的准确率代价两配置最多差 4.7 点；只改输入顺序就关掉 60% 到 91% 的差距 | 只覆盖三个模型家族与两个英文多跳 QA；冲突为人工编辑且只保留轨迹明确表达竞争答案的对；未给出自己的代码入口 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | One Bias Score, Two Factors: How Mitigations Affect Option Bias in Multiple-Choice Evaluation · arXiv:2610.20993 | 评测口径：把多项选择评测的池化偏差分数拆成翻转率与位置偏斜两个免标签因子，并用它区分先验校正与反序聚合各自改了什么 | 41 个开源 checkpoint、12 个基准：池化 SD 恰等于翻转率乘位置偏斜，翻转率与准确率的 Spearman 相关 -0.95；先验校正法 PriDe 的 ΔlogFL（翻转率对数变化）为 -0.00、ΔlogSkew（位置偏斜对数变化）为 -0.38，反序乘积为 -0.54 与 -0.28；放置范围从基线 16.7 pp 压到 PriDe 9.6 pp、批校准与反序乘积各 8.2 pp | 恒等式只在均衡重排下成立，balanced RStd 仅 K=2 时共享同一翻转率；ΔAccuracy 只有 0.5 到 2.9 pp，不能当准确性提升用；原文无代码入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Can LLMs Anticipate Their Cruxes? · arXiv:2610.21006 | 判官效度：把关键分歧点抽取的质量改成相对置换基线的重叠比较，并用重排序模型替代生成式判官压低成本 | March Madness 59 场、same-resolution 层级、每侧 25 条关键分歧点（crux）：事前 crux 与多 rollout crux 的重叠 13.4%±1.6%，低于置换基线 39.2%，差 25.9 个百分点，55 场低于自身基线；单 rollout 为 18.8% 对 25.1%；全部配对打分共用 6.4 GPU 小时 | 重叠只在特定来源、层级、每侧条数与抽取模型下成立，换抽取器差距移动约 11 个百分点；Metaculus 同日重跑漂移 7.8 个百分点已超过提示词臂间差异；每条 crux 等权 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | A Jury, Not an Electorate: Label-Free Reliability Estimation for Ensembles of Language Models · arXiv:2610.21085 | 奖励与融合口径：用无标签 EM 从答案配置估计每位专家的可靠性，替换从标签拟合的融合权重 | 1560 题、九个不超过 3B 的专家、十次分裂：无标签陪审团 76.9%±1.3%，比最佳单专家 qwen3b 的 75.0% 高 2.0 个百分点；与有标签线性融合的 76.2% 差 +0.6 个百分点（嵌套自助 [-0.6,+2.0]）；等权池 71.4%、多数投票 63.0% | 无标签与有标签只做到区间内分不开，作者不主张等价；固定九模型池与 1560 题，增益主要来自 GSM8K；后验置信度 0.991 对应准确率 76.9%；无公开代码 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | When Judges Agree and Are Wrong: Consistency-Accuracy Dissociation as a Blind Spot for Label-Free Evaluation · arXiv:2610.21128 | 评测口径：把一致性与正确性的联合分布落到逐例层面，暴露高一致却错误的象限并量化其不可检测性 | 四套金融问答、23,170 条观测、阈值 t=0.80：高一致却错误（CBI）的 Q4 象限占全部观测 5.24%；答错的 2,014 条里 60% 落 Q4，其中 77.7% 在三个变体上给同一错误答案；阈值 0.50 扫到 1.00 只把 Q4 率从 7.2% 压到 5.05%；跨模型共享 Q4 错误 159 条、独立期望 44.92 条 | 只在金融问答验证；摘要写维度率下限 0.2% 而正文写 3.5%，应引用 Table A.2；单次实验、未给置信区间或种子数，实验代码与观测数据无公开入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Entertain, then Cancel: How Thinking Makes Reasoning Models Read Some and Or Literally · arXiv:2610.21204 | 评测口径：固定权重只把思考预算当自变量，并用推理链前缀探针定位解释读法漂移发生的位置 | 40 个开源加 7 个闭源推理模型：相对不思考，Qwen3-8B 的 some 语用读法降 28.2 pp（百分点；95% 置信区间 -41.0 到 -16.7）、Qwen3-32B 降 51.3 pp，40 个开源模型中 30 个显著字面化；Qwen3-8B 沿推理链在前 128 token 处升 16.2 pp、链尾降到 1.1% | 主结果只建立在真有思考开关的 Qwen3 与 gpt-oss 上；结论全用强制选择，Claude 系列两格式方向相反；第 5 节补救只在两个 8B 上测过且非预注册 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Rubric Judgments Lack Uncertainty: Conformal Weighting for LLM Evaluation · arXiv:2610.21214 | 奖励聚合：用分裂式一致性校准给每条准则评分配不确定性权重，并接入 GRPO 的准则奖励 | 5 个偏好基准乘 3 个 verifier：URW 在 15 个组合上全部最好，DeepSeek V4 Pro 上 RubricBench 0.780 升到 0.802、RewardBench 2 0.625 升到 0.759（Mondrian-SCP 0.719）；RLVR 后 GLM 4 9B 策略相对 Uniform：Arena-Hard 胜率 30.0 升 48.7、GPQA-Diamond 33.3 升 50.0 | 表中只有点估计与相对提升，原文未给置信区间、p 值或种子数，不能引用为显著优于；理论保证依赖校准集可交换性；匿名代码仓库实测 403，内容无法核验 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | KBS: A Korean Benchmark Suite for Foundation Model Evaluation · arXiv:2610.21227 | 基准审计：把跨语言适配拆成翻译、本土化、重建与混合四路，并把提示格式与评分口径纳入分数披露 | 9,396 项六能力套件，按 NPSQ（扣掉只看选项表面形式的偏好）口径、chat 提示下 ARC 准确率：韩语自研模型 59.49（raw DeepL 54.00、英语原版 67.29）、Qwen3.5 为 46.49（44.14、51.22）、Gemma 4 为 67.05（60.14、72.56），KBS 相对 raw DeepL 提升 2.35 到 6.91 个百分点 | 全部为单次贪心运行，无多种子或区间；领先模型随 plain 与 chat 提示改变；Table 5 的 0.00 是严格精确匹配的产物，不能读成不会做题；污染风险未排除 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | System1-Arena: Which Decisions Can Be Left to System 1? · arXiv:2610.21244 | 决策评测口径：把离散决策统一成「状态加带类型问题」的同一份请求，让系统一模型与 30 个生成式 LLM 同答并同时报准确率、Brier、延迟与成本 | 87 个非智能体任务等权平均：Decision-2.0-Vega-27B 73.0% 与 Jev 72.6% 高于 GPT-6 Luna 71.2%，Brier 0.343 与 0.349 优于 GPT-6 Luna 的 0.461 | 标签继承来源噪声，33% 指令由作者自写，公开来源可能进过训练；每请求只抽一次；闭环成功率只在 127 个环境上取均值 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation · arXiv:2610.21304 | 判官效度：把同一 LLM 的生成者与判官角色拆开，清空生成上下文后对自身产出盲判，测跨角色的价值标签一致率 | Qwen3-Next-80B 指令版 SRC 71.04%、Thinking 版 98.91%；200 条不一致样本盲审 82.0% 归因生成侧、15.0% 判官侧；SOO-FT 相对仅做 SFT 在 Qwen3-0.6B 与 Qwen3-1.7B 上违规样本准确率 +5.07 与 +18.31 个百分点 | 合成数据可能继承模型共有对齐偏差；自报置信度未校准；归因比例条件于 200 条样本；RCM 只是相关证据；SOO 增益依模型而异 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | DialFork: Going Beyond Factuality to Evaluate Procedural Hallucination in Conversational Agents · arXiv:2610.21561 | 对话过程评测：以工作流四元组为真值，在均匀分叉点注入四类过程性幻觉，并定义按「怎么展开」比对的过程距离 | 24 任务 Kendall τ 平均：FlowKL 0.882 与 FBD 0.913、PRD 0.878 同档（p<0.001），长度对照仅 −0.087 与 0.201；任务二里 FlowScore 把七个编码器的同一批话轮嵌入从 τ=0.519–0.747 抬到 0.812–0.845；数据集 36,278 段对话（2,134 条合规底本加 34,144 条变体） | 只基于 STAR 一个语料；每段只注入一类幻觉，未测复合与级联；对话由 LLM 模拟；代码库实测 404 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | ClaimScope: Label-Blind Witness Verification for Mathematical Claim Auditing · arXiv:2610.21581 | 证据审计口径：用只验模型提交状态、不查参考裁决与修复的见证者检查器，把裁决分类与可执行证据分开报告 | Qwen3-8B 冻结 72 题，验证器反馈相对通用反馈：无效断言上被接受反例 15/39 升到 23/39、safe completion 20/72 升到 25/72，而裁决正确数 47/72 降到 46/72 | 单模型量化、72 题合成、512 token 上限；7 处增益全部来自 horizon 与输入长度不匹配的拒绝；schema-only 后处理即达同一结果 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Abstracts or full text? Evaluating input scope and computational efficiency in biomedical lay summarization · arXiv:2610.21690 | 长文档生成的输入范围：同一任务、同一模型、同一提示，只把输入从摘要换成全文，做配对检验并同时比耗时与 token 倍数 | 两数据集两模型口径下，归一化综合分只在同一张表内比较：MobileLLM-Pro-1B 摘要微调 0.7840 对同一模型全文微调 0.1671（p<0.001，rrb=0.76）；摘要微调相对全文微调平均快 4.70 倍、三样本摘要提示相对全文微调快 5.31 倍 | 只有 0.8B 与 1B 两个小模型，无临床评估；综合分随每张表的归一化池变化，跨表不可比；测试集从训练集抽出 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | GraphACM: Graph-based Action Consistency Measurement for Uncertainty Quantification in LLM Agents · arXiv:2610.22031 | 智能体可靠性口径：把同一任务的多次 rollout 按等价状态合并成动作标注图，只在共享决策状态上比较动作并聚合成免标签的不确定性分数 | 9 个模型–基准对等权平均 AUROC 0.811（[0.79,0.84]）对最强一致性基线 AC 0.729（[0.70,0.76]）与说话置信度基线 VC 0.769；每任务 k=10 条 rollout；去访问者权重降 0.037 | 一致性不等于正确性，WebShop 有一致失败任务；成功标签按至少一半 rollout；区间为任务级 bootstrap；多次 rollout 抬高成本 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | Prism-1: Position- and Rival-Independent Scoring for System One Models · arXiv:2610.22066 | 决策读出的结构：按顺序不变性与 Luce 选择公理把读出限制成「每个选项分数只看自己」，用隔离 block 与共享位置的注意力掩码实现 | 五集合两模型（成对数字按 Gemma 4 12B、Qwen3-8B）：Prism-1 翻转、漂移、切换率均 0.0%，同数据训练的 SCQ 翻转 7.1% 与 7.4%、加一个无关选项有 2–5% 答案移位；稳健准确率领先 SCQ 1.6 与 3.7 个百分点 | 必须微调，未训练仅答对 28.5% 与 32.5%；放弃选项间比较；只评两个 8–12B 模型、每配置 1–3 个种子 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents · arXiv:2610.22124 | 审计器训练与评测口径：把黑盒策略合规审计建成部分可观测的两人马尔可夫博弈，用去重加严重度加权的复合奖励与回合课程训练 4B 外部审计员 | SkyAssist（8 个工具、20 条策略）留出 50 个场景种子口径下，套件级策略覆盖率：随机场景 5%、零样本 30B 审计员 35%、训练后 4B 审计员 60%（20 条中发现 12 条）；多策略失败回合占比由零样本的 64% 升至 Probe-GRPO 的 94%，B4/S5/B6 三条高频策略的命中份额由 88% 降至 77%，确定性重打分后最好检查点 60% 降为 55% | 单环境两目标族、每种方法只有一个检查点、无训练种子重复；4 条判官策略里判官精确率最低为 0，原文自陈 90% 以上工具调用停在搜索阶段、最高严重度策略未触达 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Are You Sure Your LLM Is Sure? Repairing and Auditing Confidence · arXiv:2610.22139 | 采纳门控与残差审计：把置信度修复、是否部署这次修复、残留误差审计拆成三步，各自配独立的统计保证 | 47,400 次缓存原始分分配重放口径下，配对下注采纳到低风险候选 42.95%（20,356 次），单侧经验 Bernstein 为 15.09%（7,155 次）；受控分布偏移下 PAIC 相对源标签保序校准把均方风险降低 4.9% 至 16.4%（500 条源加 500 条目标提示） | 47,400 次是同一批缓存分配的重放而非新试验；目标侧探针偏置在有限样本外仍是假设；学习型审计器在分级零假设下拒绝率 0.0630 高于名义 0.05；代码写明将录用、暂未公开 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | PremiseSQL: Evaluating Premise Critique and Abstention in Text-to-SQL Systems · arXiv:2610.22158 | 评测口径与弃答度量：把原题当负样本、缺陷变体当正样本成对评测，并用 Base/Implicit/Explicit 三档提示强度分离证据驱动的前提批判与指令驱动的拒绝 | 1,800 对样本、16 个模型、172,800 条响应、温度 0 口径下，正样本检出率从 Base 0.319 升到 Implicit 0.672、再到 Explicit 0.931，同期原题 SQL 生成率由 0.988 跌到 0.903 再跌到 0.523；Qwen3.5-397B 在 Explicit 下原题生成率仅 0.004 | 生成率与执行成功率的对应只写在附录、正文无值；检出率为模型自报口径；缺陷是分类学构造而非自然发生；仅英文 NL2SQL。代码仓库实测 HTTP 200 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Change the Number, Change the Answer: Assessing Rating Scale Sensitivity in LLM-Based Text Scoring · arXiv:2610.22187 | 测量设计：把量表格式、点数、正负号当作被操纵变量做最小配对，分别量化打分移动幅度与结论换档比例 | 3 任务、2 提示策略、5 模型、40 个最小配对共 1,200 个估计口径下，只改格式即让归一化分数平均移动 0.098、19.2% 文本换档；只改符号移动 0.085 但换档 20.3%；毒性换档 29% 至 40%，情感仅 8% 至 10%；量规提示相对零样本之差在 0.007 内 | 五个模型都在最低推理档、仅英文三构念；约 0.10 与约 20% 是概括值、逐要素不同；单极构念只有一个，无法排除任务差异；匿名代码仓库实测 curl 403 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Beyond Downstream QA: Rethinking How We Evaluate Agent Memory · arXiv:2610.22209 | 记忆评估口径：用已知事实轨迹做内在评估（直接比对记忆库），与外在 QA 评估并列并量化两者的偏离 | 30 条事实演化轨迹、11 次运行口径下，内在事实准确率 60.6±1.6% 对 外在 QA 准确率 48.8±2.9%，平均绝对偏离 0.168±0.025（16 个百分点），44% 轨迹超过 0.15 阈值；操作分类准确率仅 20.1±2.7%，假更新率 22.2±1.2% | 仅 30 条轨迹、单一架构族、打分依赖嵌入阈值与 LLM 判官；Table 4 与正文的漏检率、活跃事实数、分类准确率三组数字对不上，引用应以表为准 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | AI Consilium: a Benchmark of LLM Clinical Multidisciplinary Second Opinions · arXiv:2610.22298 | 判官校准与评测单元：按准则逐条用医师参考评分校准 LLM 判官，并把角色意见与最终合议报告作为两类评测单元在同一批病例上对照 | 190 例 NEJM 留出、8 条单模型管线、0 至 3 序数量表口径下，最终报告最好与最差跨度 0.463（自由格式）与 0.572（结构化），远大于同一模型内的格式差（负 0.045 至正 0.064）；结构化在 8 条中的 7 条均分更高，管理维度 2.740 对 2.436（差 0.304 分，0 至 3 量表上的池化均差） | 0.304 分是池化均差而非胜率；结构化优势集中在管理、另有四项准则方向相反；无等算力设计、判官含同族自评；正文未给出代码或数据入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | MindEval2: Clinically Grounded Patients and Rubrics for Evaluating Language Models in Mental Health Support · arXiv:2610.22314 | 评判单位与模拟器：把评分下沉到单个教练话轮并赋予严重度权重，患者侧用先提交 move 工具调用再生成话语的两步 harness | 50 位临床画像患者、18 个教练模型、61,819 条话轮由 GPT-6.1 Sol 判分口径下，MHQR 从 GPT-5.6 的 0.84 至 1.13 到最差的 Qwen3.5 4B 4.44；指引校准占各模型 MHQR 的 60% 至 88%；判官排名稳定性 87% 至 89%，标注者自身为 90% | MHQR 权重未按临床危害标定、绝对分不可跨论文比较；严重度一致性 κ 为 0.44；仅英语单一系统提示；模拟者真实性 3.55 仍低于真人 4.20；基准本体未给发布入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Evaluation Awareness Beyond English: Do LLMs Act Differently When Tested in Indic Languages? · arXiv:2610.22333 | 评测口径：五档 cue 阶梯把「评测框定」与「单纯监控」分离（eval_explicit 对 deploy、eval_log 对 monitor_log） | 四模型×六语言平均，eval_explicit 相对 deploy 把有害请求拒答率抬高 13.8 个百分点、24 格中 23 格显著；印度语言子集 +14.4 个百分点、英语 +10.6 个百分点；印度语言良性拒答率从 6.9% 升到 11.3% | 只覆盖 24B–72B 开源权重模型且关闭推理；印度语言有害提示为 LLM 翻译、仅小样本母语核验；拒答标签出自单一 LLM 判官，泰卢固语母语一致性 κ=0.56 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation · arXiv:2610.20828 | 轨迹构造：用小型翻译器把答案条件化的逆向 CoT 响应转到经拒绝采样验证的正向 CoT 分布上 | 六个学生、六个数学基准平均，相对语义压制基线（SUP）最大提升 5.82 个百分点（Qwen3-4B-Base：21.67 对 27.49）；两个 4B 学生保留拒绝采样 95.0% 的平均准确率、只用其估算算力的 35.9% | 5.82 个百分点只出现在 Qwen3-4B-Base 一个学生上，其余五个学生增益 0.34 到 2.34；拒绝采样是理论参考而非等成本基线，算力按估算口径记账 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight · arXiv:2610.21018 | 训练信号：全败组优势归零时让策略写纠错笔记，用新重放成功率筛过后再蒸馏回普通提示策略 | Qwen3-4B 数学域 MATH-500 从 GRPO 的 76.9 升到 84.5、科学域 MMLU-Pro 从 48.7 到 61.2；解题者 8 次全错的 66 道上 GRPO 6.4 对 RSHD 15.0（95% 区间 [+4.5,+12.9]） | 每骨干每域只训一次，主表无种子重复与误差棒；Table 2 两层样本量与正文「其余 434 道」对不上；1.7B 上 RSHD 的 70.0 低于 SEED 的 71.2 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Learning When to Withdraw: Curriculum Coverage and Rule-Specific Failures in Fine-Tuned Language Agents · arXiv:2610.21045 | 执行期控制评测：把撤回拆成召回与误撤两个规则级指标，用留出依赖族与结构组合检验 | naqd 提示（三种推理提示之一）下四个 LoRA 检查点决策一致率 0.77–0.92、撤回召回 0.46–0.86，三个指令微调基线为 0.45–0.63 与至多 0.06；原始课程检查点把 34 个仍有支撑的动作错撤 26 个 | arXiv 未提供 HTML 全文（/html/2610.21045v1/ 与 v2 均返回 404），全部数字仅来自摘要；每臂只训一次，课程为多项属性同时改动，基线存在量化差异 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention · arXiv:2610.21149 | 示例筛选准则：把理据抽象成可执行程序，在逻辑相似样本上做 do 干预，只保留干预后仍成立的示例 | Qwen2.5-7B 上 GSM-Symbolic-Plus-2 从按结果筛选的 58.12 升到 65.28、DROP 从 72.73 到 80.54，示例保留率从 93% 降到 57%；同格式只按结果筛选的对照行在两个模型九个基准上全败 | 增益在 GSM8K 上仅 +0.23 与 +0.16，落在种子波动内；超过 7 个百分点只在 Qwen 的 Plus-2 上成立，Llama 侧 Plus-2 只有 +0.80 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | GRADS: Graph-Regulated Agentic Data Synthesis with Controllable Difficulty · arXiv:2610.21167 | 数据合成：以证据图的必要推理深度作难度旋钮，用删除测试筛边、由 Selector 选目标形状子图当上下文 | 三个真实语料域上只有 GRADS 的交付深度随请求档单调上升且解题者分数随之单调下降（GitHub 上 Easy/Medium/Hard 依次为 0.778/0.722/0.522）；SFT 后 4B 在物理域从原始 0.2319 升到 0.3390，三个域都高于三个合成基线各自最好的值 | 30 步 GRPO 的增益落在 ±0.043 噪声下限内，可证有效部分只有 SFT；难度由构造过程自身验证，边必要性由 LLM 智能体判定而非人工；交付深度会超出难度带上限 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | What Should We Remove? Evaluating the Reliability and Costs of RLVR Data Decontamination · arXiv:2610.21229 | 数据筛选审计：对同一候选管线上的八条删除政策，用独立盲评双人标注的校准/留出参考集评估可靠性与代价 | 1,673,514 条训练项与六个基准上，余弦阈值 0.80 全量删除率 0.9601%（逐对裁定政策 existing adjudicated 0.0785%），采样的 59 个被删条目中 52 个（88%）确认误删；无阈值达到预注册的 0.90 保守精度 | 88% 与 52/59 是抽样描述率而非总体误删率；召回只限既有管线已召回的候选框架；条目级样本每语料仅 5 个，零误删只有 6 个观测；只报原始一致率 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Learning from Interaction Experience via Localized Context Distillation · arXiv:2610.21427 | 监督信号的位置与范围：只对学生自己轨迹上定位到的关键片段做教师重写式上下文蒸馏 | Qwen3-8B 八个数学基准均值由最强基线 OPCD 的 42.39 升到 48.04（三次独立运行均值±标准差，Base 31.81）；代码平均解出率 17.20% 对 TRD 的 14.55%；WebShop 52.40 对 Hint-SD 的 46.80、ALFWorld 33.08 对 ROSD 的 25.62（后两者单次运行） | 数学与代码给三种子与标准差，三个智能体任务与 SWE 仅单次运行；SWE 只有 Figure 5 曲线、无具体数值；定位与提示由同一模型生成，无第三方核验或定位准确率 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents · arXiv:2610.21496 | 训练期特权信息的作用域与分流：过程纠正按全局与单步两级注入教师，再按可执行验证结果在自模仿与提示条件蒸馏之间路由 | Qwen3.5-4B 在 SWE-bench Verified、Pro、Multilingual 上的无权平均解析率由基座 36.6 升到 47.9（+11.3 点）；同一四类诊断口径下错误事件计数由 446 降到 222（-50.2%）；提示跟随率由 Coding SFT 后的 49.3 升到 IF SFT 后的 77.1 | 主表与全部消融均为单次运行，未报种子与置信区间；非硬规则提示依赖 0.90 阈值判官、错误标注依赖 GPT-5.4，未报判官一致性；全文未给代码或数据入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Data World: Scaling Data Environments from Scratch · arXiv:2610.21656 | 环境与基准的合成方式：先指定生成机制与规范真值，再投影成不完美观测文件，并由独立审计核验目标现象是否仍可恢复 | DataWorld-Bench 上十个前沿模型最高总分 74.43、最高洞察发现分 67.95，每个模型的计算与洞察差距为 4.87 到 21.35 点；RL-zero 训出的 35B 模型在 DataWorld-Bench、DAComp、DABstep-Hard、JobBench 上分别比基座高 7.06、14.28、20.90、12.13 分 | 组件强耦合、无受控消融；表 1 与表 3 评分者不同（Gemini-3.8-Flash 对训练基座自评）；无种子与判官一致性；构建依赖 GLM 5.3 加 Claude Code | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Priming Base Models for Agentic Post-Training: An Open Midtraining Recipe · arXiv:2610.22019 | 训练数据与阶段位置：把自然软件工程数据加少量智能体轨迹放进 256K 上下文的中训练阶段 | 同口径全量 SFT 下，N-3.5 Lightning 用 500B 中训练 token 把 SWE-bench Verified 从 60.7 升到 64.5、Multilingual 从 55.8 升到 62.8、Pro 从 32.0 升到 35.5；N-3.5 Super 用 280B token 把 DeepSWE 从 11.7 升到 15.7、Verified 从 72.9 升到 74.3 | 全部为单次运行，无种子与误差棒；N-3.5 Super 上 Multilingual 与 Pro 未提升；文内存在 8K 与长上下文两条不同基线，跨表引用易混口径 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning · arXiv:2610.22194 | 训练流程的结构：执行与决策分会话、四个互补角度的分析子智能体、为供给不足的能力生成新数据 | 同样轮数下分析配置的 IFEval 最好为 67.10，单智能体前 30 轮最好 60.60（领先 6.50 点）；合成把最好 IFEval 从 78.15 提到 81.58、IFBench 从 49.02 提到 51.95；代码域 MBPP+ 到 64.8% 与 65.8% | 仅单一 Qwen3-1.7B-Base 与单一初始池，无种子与误差棒；动作家族标签由作者事后判定；IFEval 分析比较两档轮数不等且均未达标；代码域只跑到第 6 至 15 轮 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Recursive Reward Improvement via Adversarial Meta-Prompt Evolution · arXiv:2610.21040 | 奖励本身的可监督性：用对抗者破解模型自写的评分表，用同模型的诚实答案校验，并让已确认的破解改写未来的出题指引 | HealthBench Professional 的调整分相对纯生成自进化基线，9B 高 10.9 点、27B 高 12.4 点（原始分高 11.0 与 10.4）；加入对抗者把共同演化基线从 0.506 提到 0.533；27B 迁移到 PRBench Hard 升 6.6、ProfBench 升 8.0 | 无人类训练数据且因算力限制不做超参搜索、只取最后检查点；判官链几乎全为模型且未报一致性；引言中近 99% 可破解的比例缺统计口径 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF · arXiv:2610.21138 | 奖励建模的损失与噪声假设：用少量干净反馈经最优传输估计逐样本噪声率，再构造无偏代理损失 | HelpSteer、UltraFeedback、PKU-SafeRLHF 上 R² 分别为 0.343、0.483、0.803，均高于最强基线 TrainRef（高 0.052、0.013、0.032）；下游 GRPO 后 Qwen3-8B 策略在 FFT 上安全分相对朴素基线提升 79.45% | 噪声为半合成注入、偏好标签已二值化，不等于真实标注噪声；无种子与误差棒；代码为匿名仓库、实测 HTTP 403 无法核实内容 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Stop Training Against Soft Users: Mentalized Adversarial Self-Play for Proactive Dialogue · arXiv:2610.21156 | 训练目标与评测口径：把用户的「有理由抵抗」写进用户侧奖励，奖励侧只认冻结教师心智化器估出的 BDI 隐藏状态、策略侧只看学生估计 | P4G 硬用户下 MASP 的 SR@8（成功率）0.788、AT（平均轮数）4.56、RCSR@8（理性约束成功率）0.566，对照 Planner-only 为 0.616／5.55／0.384、SFT 为 0.576／6.23／0.455（三数依次为 SR@8／AT／RCSR@8；Qwen3-4B、99 例测试集、T=8）；RCSR@8 要求完成前缀理性质不低于 0.70 | 数字全部来自 LLM 模拟器而非真人；bootstrap 区间只反映留出会话不确定性，多种子稳定性未建立；ESConv 近满分源于 somewhat_better 也算成功 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models · arXiv:2610.21195 | 蒸馏监督信号：在同一学生前缀上分别对完整题目与被遮罩条件的题目评一次，用裁剪后的对数概率对比重加权教师分布，且只在教师熵不低于 0.8 nats 的位置施加 | 200 个诊断推理状态上教师偏好违背条件延续的比例由 27.00% 降到 16.00%，学生已写错的 60 个状态子集内由 81.67% 降到 45.00%；Qwen3-8B 教师蒸馏到 1.7B 学生时六项数学基准 avg@8 相对 OPD 平均提升 1.95 个百分点 | 仅覆盖 MATH 系数学推理与 0.6B／1.7B 两档学生；AIME 与 AMC 题目数少且未报告种子与区间；条件遮罩消融只在 1.7B 做；无代码或数据入口 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering · arXiv:2610.21345 | 信用分配：把 GRPO 的轨迹级优势下推到操作跨度，结果侧按匹配的导航上下文比较终局回报，过程侧按答案条件化前沿潜力的带符号变化 | Qwen2.5-3B 上 OpCredit 在 CWQ／WebQSP／GrailQA 的 Hit@1（答案命中率）依次为 76.56／88.86／86.35，对应 SFT 起点 71.95／85.17／81.23；参照盲评审计的操作级可用性判别 AUC（ROC 曲线下面积）0.718，高于 GRPO 0.606、GraphGPO 0.595、RTMC 0.492 | 主表 13 个命名基线分数取自各家论文，比较口径不统一；只测 Freebase 系三基准与固定操作接口；AUC 是同一 rollout 池内的相对排序且判官为 LLM | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Enhancing Multimodal RLVR with Pairwise Token Contrast and Adaptive Trajectory Confidence · arXiv:2610.21671 | token 级信用分配：用正确／错误答案提示乘完整／置零视觉的 2×2 教师视图做两次差，再按逐轨迹教师置信度决定信用重分配强度，保持符号与回复内均值守恒 | Qwen3-VL-8B-Instruct 上五项多模态基准平均准确率 58.47%，比 Base 的 52.09 高 6.38 点、比 GRPO 的 54.83 高 3.64 点、比最强基线 VPPO 的 57.25 高 1.22 点；相对共用训练栈的 RLSD 平均高 3.09 点 | 结论绑定同一训练栈与 MMFineReason-123K 的过滤数据；相对 VPPO 的单项差距只有 0.60 到 1.79 点；增益随主干变小，2B 上不再占优 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Progress Reward Model for Reinforcement Learning via Large Language Models · arXiv:2610.22056 | 奖励构造：把 LLM 拆解子任务后生成的进度函数当作势函数，用时序差分差做密集奖励塑形，并把子任务先验嵌入状态空间 | MW-pick-out-of-hole 与 MS-LiftPegUpright 上对照方法（ELLM、T2R 等）成功率不足 15%、本方法接近 100%（MetaWorld 与 ManiSkill、5 个随机种子）；消融显示直接把进度当奖励会出现回合奖励上升而成功率下降的反常 | 正文以学习曲线为主，未给逐任务成功率表与方差；ELLM 与 T2R 为本文环境下的重实现或奖励函数复用，不是严格方法排序；只覆盖机器人控制仿真 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Learning from Unverified Peers via Shared Residual Distillation · arXiv:2610.22080 | 自蒸馏目标构造：用同题同伴解答相对跨题控制项的共享残差（同号取最小幅度、异号置零）加到冻结模型的纯问题分布上，无需判断哪条解答正确 | AIME24–26 平均 avg@12 由 Base 的 11.02／19.07／21.39 升到 16.20／45.46／54.44（Qwen3-1.7B／4B／8B，取 step 50 检查点）；Qwen3-4B 目标构造消融全量 45.46 对平均残差 33.98、随机遮罩 38.61、符号遮罩平均 37.50 | 主表取自预先固定的 step 50 峰值检查点，论文曲线显示其后掉分；训练题来自已被筛选的 OPSD 数学子集；仅数学推理、单次训练无方差 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Mosaic: Multi-Session Agentic Reinforcement Learning · arXiv:2610.22174 | 轨迹级与会话级分层信用：用会话数的组内居中秩调节轨迹优势幅度，用答案似然势的边际增益按会话类型归一化后加成会话级优势 | BrowseComp 上 Qwen3.5-4B 用 Mosaic 达压缩场景 38.86%／分叉场景 32.46%，对照广播为 35.31%／31.44%；相对广播准确率最高约 10.1%，压缩场景平均会话数从 3.17 降到 2.35 | 单基准、单主干、训练一轮，无方差与置信区间；分叉场景两层组合增益不明显；表内混入单会话训练的模型，与多会话设定不可直接比较 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Disagreement-Guided Weak-to-Strong Routing · arXiv:2610.22245 | 运行期门控：用可观测的跨模型分歧（弱-强分歧减强模型自分歧）替代拿不到的步级正确性，逐动作决定本地执行还是升级强模型 | WebShop 200 个任务、5 次运行：升级预算 40% 时纠正分歧成功率 0.460（SE 0.035），自一致性 0.145、词元熵 0.150、随机 0.200；MATH-500 单次采样、预算 5% 时 0.419，词元熵 0.404 | BFCL 只有曲线无数值表；AceCode 强模型正文写 30B-A3B、表注写 10B-A3B；仓库仅 README（实测 HTTP 200） | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search · arXiv:2610.22290 | 训练目标：在 GRPO 之外加一条对 MAP-Elites 精英存档的长度归一化回放损失（μ=0.05），存档训练期固定，且由质量-多样性搜索而非均匀采样构建 | BIRD 上 pass@128 74.8%（MaxRL 73.7%、基座 73.6%），同一采样预算下 U@128 为 9.1 对 MaxRL 的 6.2；Spider pass@128 93.2%，高于最强基线（86.9%）6.3 个百分点；AmbiQT Both@128 27.0% 对 14.2% | 只测 Qwen3.5-4B-Base 与 text-to-SQL 单一域；执行准确率只是给定数据库上的一致；策略保留率只在基座至少两解的问题上定义 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Training Reasoning Models to Generate Diverse Scientific Ideas · arXiv:2610.22324 | 训练目标：把 K=3 张想法卡整组当作一个 rollout，奖励按「质量乘以与前序最近一条的距离」求和，并去掉对靠后想法的耐心折扣 | 自建 1740 实例去污染测试集上创意效用 0.64（实例间标准差 0.23），Claude Opus 4.8 为 0.38；GiantsBench 长度控制胜率 68.3% 对 GIANTS-4B 的 18.3%；IdeaSeed 方法轴归一化熵 0.65 对 DARLING 的 0.01 | 质量与距离全由 LLM 判官给分且无人评一致性；人类研究仅 4 人 60 实例；可执行性由编码智能体自报；仓库仅 README | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents · arXiv:2610.22331 | 训练信号：把轨迹各步按「已满足的原子知识条件子集」分组，用组内归一化的增量知识增益作步级优势，再与回合优势按 ω=0.3 混合 | 三次运行均值：BrowseComp-ZH 38.8%、GAIA 40.2%、Xbench-2505 48.0%、Xbench-2510 36.0，对 GRPO 的 32.9/35.0/46.0/34.0；分组质量上知识锚的有效步比／单例率为 97.8%／19.0%，观测锚为 51.8%／79.4% | 构造知识条件需要参考答案与一条成功参考轨迹；验证器是 DeepSeek-v3.2 这一 LLM；只报 3 次均值无方差；Xbench-2505 的正文对比方向与表相矛盾 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | OmniVerifier-C1: Decomposed Graded Verifier for Rule-Governed Generative World Modeling · arXiv:2610.22355 | 奖励形状：把提示或规则拆成子问题、以子问题级 0/1 判断聚合出连续分；规则化世界建模再引入真值图做成对验证，替代逐点验证里推断目标态那一步 | ViVerBench 总分 0.684，高于最好的二元验证器（先 SFT 再 RL）0.672；六个游戏任务里 Maze 由成对验证的 85.31% 对逐点验证的 67.81%；GenEval 上 Stable-Diffusion-3.5-medium 由 0.66 升到 0.77 | ViVerBench 绝对增益仅 1.2 个百分点且无方差；成对验证需要状态唯一确定的真值图；所给仓库属更早的 OmniVerifier 项目 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | EvolvingBrain: An Adaptive Skill System for Multi-modal Agents Self-Evolution in Open Worlds · arXiv:2610.20786 | 技能库演化：从自身成功与失败轨迹抽过程模式与问题模式，成 Domain/Plan/Action/Trap 四层技能，再按当前状态与主干能力自适应检索与融合 | 三次运行均值、三个主干：平均成功率较直接智能体在 VAB-Minecraft 高 11.64 个百分点、在 DiscoveryWorld 高 8.44 个百分点；Kimi-K3 达 79.37%/74.07%；去掉 Trap Skill 平均掉 3.49 与 3.37 个百分点 | DiscoveryWorld 的训练与域外切分为作者自建；主干是外部 API 的 xhigh/high 设置且只报均值无方差；技能按主干分别构建，未测跨主干迁移；代码未公开 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | A Self-Improving Agent that Grows its Own DSL: Oracle-Free Operator Induction for Exact Question Answering · arXiv:2610.20809 | 自进化准入：内环只在两条独立写出的表达式逐记录一致时收题，外环按能力缺口排名撰写新算子，仅靠差分测试加只引用已信任算子的守恒关系准入 | 138 个错误算子单点变体在独立参照下误收 0 个（同源 bug 下 10/138），而能跑就收与自一致各误收 129/138；两轮诱导把可答集由 10 扩到 336，BookSQL 由 15 到 162、EHRSQL 由 13 到 248 | 众数归约器因无守恒律永远不可准入；只测到三轮诱导；81% 的拒绝源自禁用方法调用，准入产出偏低；代码未公开 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents · arXiv:2610.20845 | 评测口径：把技能–策略共演化的验收从交付库上的峰值成功率改成部署期漂移审计 | 四个方法五个基准六个设置上，交付库经内容级改写后最差成功率比峰值低 4.9–12.6 点（摘要作 5–13），抹掉相对无技能基线 52–93% 的增益；一致性率 77.5%–87.0% 低于其噪声底 91.9%–94.4%，六个设置全部判失败。 | 改写由语言模型生成、不逐位可复现；数字是「方法加骨干」组合的配对落差而非单方法通用值；正文未给代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | SkillNEO: Non-Elitist Evolutionary Optimization of Agent Skills · arXiv:2610.20926 | 技能库演化：把选版本部署与选版本继续改分离，用父子与兄弟执行对比指导编辑 | 86 项 SkillsBench 任务上，全部模型角色由 GPT-5.4 Mini 兼任，平均奖励从 49.1% 升到 66.4%；41 个被改动包从 31.5% 升到 67.8%，冻结技能后 GPT-5.6 Luna 从 63.9% 升到 74.4%。 | 无预算匹配对照、未在开发集外验证、只有单个开发者模型；41 项属筛选子集，其 +36.3 点不可外推。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Athanor: An Agent-Native System for Autonomous Post-Training Research · arXiv:2610.21055 | 长程自主研究的执行环境：冻结评测、受管作业、去污染数据、智能体不知情的留出套件 | 104 小时里四名 Claude Opus 5.5 智能体各占八卡节点，把 Qwen3-4B-Base 开发集从 15.9 提到 67.3、留出集从 9.2 提到 48.2，对官方 Instruct-2507 的 66.5 与 47.9。 | 仅一次活动、单基座、单智能体，四份提交共享工作非独立重复；arXiv 无 HTML 全文，数字取自 PDF 与摘要页。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | MemScope: Evolving Agent Memory Architectures through Localized Code Repair · arXiv:2610.21170 | 记忆架构自演化：把失败定位显式化，只用轨迹、记忆状态与 provider 代码做有限就地修补 | GAIA 诊断消融中轨迹加记忆库检查 86.67%、仅摘要 63.33%；主表用 DeepSeek V3.2 在 GAIA 83.64%、xBench 78%；ALFWorld 未见任务 71.64% 对原版 DynamicCheatsheet 的 50.75%。 | 判官为 GPT-4o-mini 仅抽样复核；消融中叠加历史反而低一题，不可当结论；未给代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | AutoOnboarder: Autonomously Onboarding LLM Agents · arXiv:2610.21218 | 执行期控制：自动同时优化提示、基座模型与 harness 源码，并带每例成本目标 | 200 例授权表单任务，三个入职候选 PMH/PM/P 的总分 0.323/0.325/0.409 对基线 Gemini 3.5 Flash 的 0.319，每例成本 0.069/0.036/0.016 美元对 0.934 美元；MFA（有效案例平均表单字段准确率）从 0.024 提到 0.406–0.773。 | 每条件仅一至三次运行，作者自述按方向性证据报告、不做统计检验；重跑得分在 0.199–0.501 摆动，配置间比较不可解读。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure · arXiv:2610.21281 | 运营型智能体的知识治理：分域带版本的技能与工作流、证据契约与人控知识更新门禁 | 已评分调查中 45% 精确命中根因、60% 给出有用方向、80% 平均 Groundedness（结论与轨迹步骤有据可依的归一化均值）；观测队列里接入 Diviner 的事故检测到缓解时间相对未接入者约低 52%（95% CI 45.7–57.9%）。 | 三项结果人口与口径不同、不可互比；队列比较为观测性而非因果；知识更新效果仅有前后对比、无时间留出评测。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | FedSkillGit: Federated Skill Evolution via Version Control · arXiv:2610.21348 | 技能演化的协作单元：用规则级补丁加经验小结的语义提交替代整份文档上传，并加发布门控 | 10 客户端 30% 参与率、三个模型家族与三个数据集上，九个格子的任务成功率全部高于独立演化，领先 +1.6 至 +10.1（均值 +4.3）、与集中式差距中位 −0.8；加清洗器使载荷首次审计通过率从 33% 升到 81%。 | 摘要称最高 22% 但表一最大领先仅 +10.1，两处对不上；隐私只约束载荷、不限制推理；未给代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | MetaExp: Learning to Self-Improve through Experience via Verifiable Cross-Task Environment Scaling · arXiv:2610.21492 | 训练目标与数据构造：把外部经验实例化为结构化技能库，用 Shared-Tool 与 Shared-Workflow 两种可验证任务族制造跨 episode 监督，训练后参数冻结、冷启动从空库顺序演化 | 同一骨干同一 harness、空库冷启动：SpreadsheetBench 65.0→73.5（+8.5），匹配骨干 68.9→66.7（−2.2）；AutomationBench 600 题 14.5→29.3（+14.8） | APEX-Agents 绝对分极低且投行域反向（−2.5）；表 4 的 APEX 为 12.2→14.0，与正文峰值口径不同；异协议照抄行不可横比 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | The Self-Improvement Problem · arXiv:2610.21646 | 自改进门控的理论边界：把认证器与搜索器都限定为处处可计算的必停程序，用 Kleene 递归定理造自引用候选，划出可靠性与非保守性不可兼得、以及有界预算下可恢复的分界 | 定理 1 无既放行即真改进（sound）又不漏真改进（complete）的必停认证器；定理 2 搜索器同样不可能；命题 1 有界错误的随机门控可去随机化；定理 3 在固定评估上界 T 与提案预算 B 内穷举，可得 sound 且弱完备（weakly complete）的搜索器 | 纯理论无实验；最坏情况结论不否证自改进可行；定理 3 只相对有界分 J_T 有保证、不控制真分漂移；命题 2 为构造性反例而非速率预测 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent · arXiv:2610.21791 | 自改进的编排机制：把可改对象固定为 Model、Harness、Artifacts 三类、每轮只改一类，元智能体参数冻结、只演化自己的 Meta-Harness 与技能库 | 六基准两骨干、5 轮演化：Qwen3-4B 总体 51.21 对最强基线 SIA 45.15（+6.06 个百分点），Qwen3-8B 59.86 对 SIA 56.00（+3.86 个百分点），12 个组合赢 11 个 | 基线按附录配置自行复现而非照抄原分；赢 11/12 的例外组合原文未点名；案例增量 18.98 个百分点（起点 32.23%）与表 1 总体不可混说；仅覆盖小骨干 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine · arXiv:2610.22192 | 长程 RL 的信用分配与价值基线：TB-GAE 只在轮次边界衰减，奖励由 FDR 演化到 SPR，actor-only 的 RSR 与继承 critic 的 RPR 交替，阶段课程降 actor 学习率 | 三次独立运行均值（Mean@3）：Terminal-Bench 4.0 从 0.00% 到 19.84%、2.1 从 51.70% 到 86.52%、Hard 从 31.00% 到 79.00%；四套等权均值 20.68%→50.58% | 与 GPT-6 Sol 85.40% 为自测对参考分、协议未对齐；阶段增量随续跑步数反转（4.0 第 35 步降至 11.11%）；训练与推理对数概率差非零 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering · arXiv:2610.22344 | 长程智能体的后训练目标：把相邻两次实验结果之间的决策打包成执行窗口并共用结果型奖励，配 token 级策略校正以支持异步采集，SFT 阶段用峰值后退化幅度清洗轨迹 | MLE-Bench Lite 22 题任意奖牌率：基座 Qwen3.6-35B-A3B 37.9%→72.7%，与 GLM-5.3、Kimi-K3 的 72.7% 相当；RL 对照 GRPO 56.1% | harness 混用 Codex/Claude Code；NatureBench Lite 仅 10 题、50.0% 即 5/10，Surpass-SOTA 不及 Kimi-K3 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design · arXiv:2610.20628 | 多智能体拓扑生成器的后训练：把同一查询的另一个成功拓扑作为训练期特权输入经零初始化低秩分支注入教师，在学生自己采样的轨迹上做在策略逆 KL 蒸馏，教师部署前丢弃 | 同一执行栈、Qwen2.5-7B-Instruct：AQuA 76.38 对 ARG-Designer 75.20、GSM8K 88.02 对 79.98、MMLU 73.94 对 71.98，六基准全胜 | 摘要给的代码链接实测 404；与基线非算力匹配（另训教师 40 epoch）；AQuA 同时是 12.60 与 13.78 个百分点落差／领先的极端列；不证明恢复图间排序 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | ARIA: Runtime Inspection and Amendment for Multi-Agent Systems · arXiv:2610.20780 | 执行期门控与修复：用修复最优性公式选源配置，把失败轨迹与执行验证过的修复配成 3,953 对监督，三段式训出能判断何时干预、如何改写在途轨迹的模型 | 运行时干预（同一次执行预算、无评测器反馈）Qwen2.5-7B：ARIA 汇总成功率 21.4%、有害干预率 2.00%，对照 SafeAgent 的成功率 17.8%、有害干预率 13.9% | 表 1 列标题在 HTML 里按字母序排列，引用单基准数字须回原文核列；表 2、表 3、表 4 同一骨干分数口径不同不可混用；修好只证明受测合同内完成 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | ReviewPilot: A Multi-Agent System for Screening and Data Extraction in Systematic Reviews · arXiv:2610.21042 | 流程控制层：五阶段启动前的产物完整性与新鲜度门控，加项目记忆的两态（草稿与已确认快照）与下游过期标记 | PERG 流行病学题录池（5,614 条、854 条专家纳入）单次运行：筛查宏 F1 最高 0.776、抽取 F1 最高 0.788，分别比 AgentSLR 高 5.3 至 10.3 与 3.7 至 4.7 个百分点；verified-correct 率 0.703 至 0.714，对照 AgentSLR 为 0.405 至 0.449 | 单次运行无区间；PERG 池参与过方法开发，不能当作未见综述的性能；对照 AgentSLR 的推理档位被下调；筛查宏平均掩盖纳入类召回 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Who May Release an Agent’s Promise? Standing over Commitments in Multi-Party Chat · arXiv:2610.21203 | 对话状态层：把「谁有权释放这条承诺」做成独立于职级的判定，并给每条状态加断言来源与优先级 | 测试集 1,080 个 episode、六个模型：小模型越权执行高（Qwen3.5-9B 在债权人直接取消后仍执行 69%），大模型无权限释放高（Qwen3.8-27B 收到同伴直接取消即放弃 64%）；自维护承诺台账把 Qwen3.5-9B 的越权执行降到 6% | 合成英文脚本环境、单次采样、多数关闭 thinking；判官在 notify 维度只有 κ=0.64；两个 Qwen 模型还差数值精度与服务器；代码为匿名仓库，实测 401 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Bias Control and Injection for Multi-Agent Aggregation · arXiv:2610.21290 | 最终聚合层：候选按答案去重加文风归一化后再由智能体选答，并用逆向频率注入测已选答案的坚持度 | 220 道数学题、四个 8B 至 14B 三模型组合、每模型每题 3 条轨迹：平均准确率最高 78.3%，比最强非 Oracle 基线高 3.2 至 6.2 个百分点，每问题 token 206.0 千低于对照 Combined MV 的 231.7 千；逆频注入使 59.8% 的错误决策翻转、仅 19.1% 的正确决策翻转 | 仅数学推理、四个 8B 至 14B 开源模型；风格归一化在 12 个设置中有 3 个未提升；正文只承诺将发布源码、全文无仓库地址，复现性无法核实 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Agent Status Protocol (ASP): A Lightweight Specification for State Reporting in Multi-Agent Systems · arXiv:2610.21538 | 运行时契约层：五维相互独立的状态模型加服务端按 2.5 倍心跳间隔阈值推断 unreachable，并把断言来源与优先级写进规范 | 无实验与实测数据；规范定义 5 种事件、生命周期 12 态、健康 9 态、任务 14 态，事件缺信号超过声明心跳间隔 2.5 倍即由服务器置 unreachable，治理断言权限序为 operator 高于 guardrail 高于 self | 0.1 版工作草案，无实验、无实测，未经任何标准机构背书；与 OpenTelemetry 的反向绑定仅列为待做扩展，互操作路径无落地证据 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions · arXiv:2610.22138 | 评测口径层：每轮并行采集公开立场与私下探针，并把两通道交叉成可解释的失效类别 | 6 个模型乘 3 个数据集共 18 个单元、每单元 10 个智能体讨论 16 轮：无攻击者时最终私下感染率 0.6%，1 名攻击者 44.8%、3 名 60.5%；3 名攻击者下私下持假答案占暴露轮 51.6%，公开附和仅 19.7% | 只比较 2 人与 10 人两种规模且不改网络拓扑；标签全部出自 LLM 判官，自由聊天的公开立场难标；无代码与数据入口；私下信念依赖探针措辞 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | HTN-Orchestrate: A Hierarchical Task Network Framework for Multi-Agent Orchestration · arXiv:2610.22195 | 编排控制层：两层分离，依赖型子任务等前置结果返回后才分解，失败时用保留证据重建任务网络 | 五个基准、同一 DeepSeek-V4.1-Flash 骨干：BrowseComp 准确率 89.73%，比 Agent Team 高 2.45 个百分点、比 ReAct 高 15.80 个百分点；FrontierScience-Research 成功率 43.33% 比 Agent Team 高 3.33 个百分点；200 题消融中关闭重建与改为单智能体叶执行各降 2.5 个百分点 | 单次运行未报方差，消融只在 200 题子集且无区间；骨干模型单一；被超越的 Agent Team 与 ReAct 与本文同源（同由 Apodex 支持与提供） | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | A team of Gemini 4 Argon agents beats Minecraft · arXiv:2610.22319 | 执行期接口层：智能体以写一段程序并读回文本代替逐步工具调用，记忆分私有与团队共享两部分并规定跨压缩要保留什么 | 单次运行：从首段程序到击败末影龙用 27 小时 14 分（对照 HowLongToBeat 人类主线中位 45 小时），写 2,783 段程序、交换 229 条消息、死亡 605 次、22% 程序报错，约 13.5 亿输入 token 与约 1,600 万输出 token，按引入价估算约 520 美元 | 单次运行，且是作者第一次尝试；Easy 难度；环境经代码给出精确方块与生物信息并代管寻路；模型带大量游戏先验知识；作者未发布代码或轨迹数据 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | PEDBench: Can Speech Models Detect Phonetic Errors? · arXiv:2610.20830 | 评测集与指标：面向音素错误检测的三档数据集，外加诊断加权的精确率、召回与 F1 | 13 个模型在合成长句上仍不可靠：最佳词级 F1 74.32（Azure）、句级 39.27（Azure）、段级 14.22（ZIPA-CTC）；真实儿童语音最佳 F1 59.51（BabAR）；用合成数据微调后 Qwen2.5-Omni-7B 在表演语音上达 90.06 F1。 | 三个新数据集全为英语；儿童语音受知情同意限制不公开、无法被第三方复核；TTS 合成错误需人工剔除；微调结论只到有潜力，未证明鲁棒。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Zero-Shot Spoken Language Understanding with SLAM-ASR: What Do Monolingual ASR-Trained Linear Projectors Enable? · arXiv:2610.20844 | 训练目标：只用单语 ASR 转写数据训练线性投影器，再测零样本口语理解 | 11 种语言各训一个 2.1M 线性投影器，是非问答的指令遵循率均值 49.8%、改成数字选项模板升到 81.3%；主题平衡准确率均值 23.2%（随机 14.3%），同一解码器改读参考文本达 71.5%，多任务 Qwen2-Audio-7B 为 39.4%。 | 每个投影器只训一次、单一随机种子；教师标签未独立验证；FLEURS 为维基百科朗读句、域窄；语言内模板由 LLM 翻译未经母语者审校。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | MIDI-REPA: Improving Text-to-Music Generation with Symbolic Representation Alignment · arXiv:2610.20967 | 训练期表征对齐：把自动音乐转写产出的符号钢琴卷帘挂到流匹配 DiT 的早期层 | 在 2026 ICME ATTM 的 80 条域内提示上，MuScriptor 卷帘对齐 L2 层、全程 t∈[0,1] 的配置得 FAD 0.497、CLAP 0.315、CCS 0.829，作者重算的 18 系统 Borda 综合排名第 1；基线 FluxAudio-S 为 FAD 0.757、CLAP 0.088、CCS 0.592、排名 18。 | 只做 122M 参数与 10 秒短片段，未验证长曲与大规模；设计选型只在 SDD 的 629 条提示上做，正式基准仅 80 条提示，样本量小。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | SITAR: A Situational Distortion Metric for Automatic Speech Recognition Evaluation · arXiv:2610.21440 | 评测口径：把 ASR 参考—假设对的情境失真定义为可比标量，并用 BERT 家族回归器免 LLM 打分 | 在 FLEURS 英文、LibriSpeech、VoxPopuli 上 Sitar 随 Whisper 规模单调下降（LibriSpeech 0.2257 到 0.0634），与人工严重度排序平均一致率 84.07%、平均 Spearman ρs 0.8001；AER 每对需 4 次测试期 LLM 调用，Sitar 为 0。 | 监督集 12,347 对，标签由 DeepSeek 三轮加 GPT-5.6 委员会复核产生，标注链本身依赖 LLM；受控集仅 330 对、30 条英文参考；代码权重尚未公开。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | DuET: Note-Frame Dual Encoding for Piano Performance-to-Score Transcription · arXiv:2610.21467 | 架构与位置编码：音符级与帧级双编码器，配合共享演奏时间的旋转位置编码 | 在 Gangqinpu 测试集 79 首上 MUSTER 平均误差由最强基线的 6.56% 降到 3.64%；ASAP 59 首上由 Beyer 与 Dai 已发表的 11.30% 降到 11.22%，起始、结束、时值、谱表误差均更低，但漏音与多音误差仍高于部分基线。 | ASAP 上仅降 0.08 个百分点、基线数字取自他人论文；消融用 39/72 首固定子集，与主表子集不同；部分变体在个别指标上反超。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Bias Mitigation in Audio-Enabled LLMs through Adversarial Training and Distillation Methods · arXiv:2610.21763 | 训练目标：用梯度反转层做性别对抗去学习，再用 logit 蒸馏做折衷 | 三个音频大模型（依次为 Qwen2-Audio-7B / Qwen3-Omni-30B-A3B / Nemotron-3-Nano-Omni-30B-A3B）上对抗训练把性别识别准确率由 81.5%/99.9%/96.4% 压到 46.0%/54.5%/50.8%，mmau 变化在 4 个百分点内；蒸馏后性别识别回升到 70.4%/99.9%/93.4%（同序），但 Qwen3-Omni 与 Nemotron 分别有 86.3% 与 83.8% 的检查点比原模型更偏见。 | 蒸馏对两个模型仅边际改善；训练集 sift-50m 本身含奖励刻板印象的样本；评估为拼接录音加提示、不贴近真实使用；仅英语、仅二元性别标注。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | CF-AVSS: A Coarse-to-Fine Audio-Visual Speech Separation Framework with Target-Speaker Refinement and Post-Fusion for Real-World AVSE Challenge · arXiv:2610.21773 | 音频前端：由粗到细两阶段分离加开发集标定后融合，把渐进信干比监督扩展到两条同步视觉流 | ISCSLP 2026 真实场景挑战赛官方测试集（CER 越低越好；OVRL 为赛事排名分、原文表 1 注明越小越好）：两轨 OVRL 均 2.86，Track 1 并列第一、Track 2 第二（该轨第一名为 2.43），两轨 CER 12.31% 与 14.79% 均为全部提交最低；Track 2 开发集消融中，相对同时去掉 TSR 与后融合的 1.56，TSR 把 DNS-OVRL 抬到 2.20，却使 SI-SDR 从 10.88 降到 9.29 dB，后融合再把 SI-SDR 拉回最佳 11.53 dB。 | 仅挑战赛官方测试集且对照队伍全部匿名，无法核对对手方法与规模；消融只跑 Track 2 开发集、只切两个整块，无种子数、置信区间与误差棒；原文未给代码仓库。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Learning Speech Attribute Representations via Multi-Teacher Distillation · arXiv:2610.21941 | 语音表征学习：四类属性共用一个 w2v-BERT 2.0 编码器，各分支自学层插值权重并按单任务学习增益静态加权 | VoxCeleb1-O 说话人验证 EER 0.915%，比同架构单任务学生 SPK-only 的 0.899% 仅高 0.016 个百分点；VoxLingua107 语种识别 7.02%，高于 LANG-only 的 6.83%，但把语言与语义分支合并后为 6.39%，优于教师的 6.58%。 | 四类任务各只在一个基准上评测一次，无种子数、置信区间与误差棒；情感结果只有雷达图、无数值；增益权重具体取值未公布；原文无独立局限节与代码入口。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Frame-Wise Streaming for Efficient Learned Speech Compression · arXiv:2610.21998 | 语音编码：把卷积、归一化与序列建模逐项改写为带状态的因果算子，并配帧级可流式熵模型 | LibriTTS 上相对非流式 FunCodec 取得 BD-RATE 节省 51.37%（ViSQOL）与 53.99%（PESQ）；1.1 kbps 下 MUSHRA 均分 92.8（参考 95.3、OPUS 40.0）；RTF 0.0539（RTX 4090）但高于全部所列基线一个量级。 | 只在 LibriTTS 朗读语料上评测，无噪声、远场与多语种条件；主观测 15 名评分者、每类 6 条 12 秒片段，无一致性报告；三个组件无逐项移除消融。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Backward Compatibility in Zero-Bit Neural Audio Watermarking · arXiv:2610.22296 | 训练目标：为可演进的零比特音频水印引入旧版链，并用角度多样性损失守住版本边界 | 8 个版本跨 2 个架构家族，链外 TNR 由基线的均值 11.3% 升到 99.98%（28 对不兼容配对中 27 对达 100%），链内 TPR 保持 99.9%；吊销实验中 v3 的 TNR 由 0.7% 升到 100.0%。 | 每个版本只训练一次，无多种子与置信区间；鲁棒性只测不优化、未做攻击增强训练；第三方只对了 AudioSeal 一个模型。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Reference-Guided Turn-Taking Style Transfer for Full-Duplex Spoken Language Models · arXiv:2610.20763 | 生成行为可控性：从模型自身对话提取单一残差流方向（第 30 块），既读取接话倾向也按剂量注写说话量，再按 5 分钟参考录音标定每人剂量 | Moshi 架构三权重（Moshika、Moshika-RL、PersonaPlex）各 500 段留出对话：第 30 块投影对接话的 AUC 依次为 0.818、0.830、0.898（时序基线 0.703、0.646、0.725）；剂量由 −2a 到 +2a 把说话占比从 6–12% 抬到 42–61%（三个权重上的区间；不引导 21–30%）；换用他人参考剂量时三个权重上分别在 92.7%、98.0%、95.6% 的情形下匹配变差。 | 仅覆盖 Moshi 架构的三个权重；风格迁移以三个手工描述量的加权距离评价，全文无人耳听测；统一剂量与不引导无法区分属区间含零的未检出结果；部分结论仅来自单侧区间。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | CoSTA: Compressed Speech Token Adaptation for Efficient Spoken Dialogue Models · arXiv:2610.21143 | 生成效率：用 BPE 无损压缩语音 token 把生成空间与合成空间解耦，经词表均值初始化、发音适配与对话适配后置接入，推理前确定性展开 | 8B Step-Audio 2 mini 上（增益均相对该基座）：CoSTA-ZH 生成 token 压缩率 66.81%、扩展语音 token 生成速度 1.736×，CoSTA-EN 为 70.17% 与 1.659×；单卡 A100 并发 1/4/8 下中文时延降 32.8–39.0%、吞吐升 51.6–59.2%；ASR-CER 从匹配微调基线 Vanilla-FT-ZH 的 4.96% 降到 1.51%。 | 对话适配数据全为合成语音；去掉对话适配 G-Eval 从 72.27 跌到 24.35，说明仍需对话数据再训练；自动质量只报 URO-Bench 汇总值；压缩率各表间略有出入。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | Qwen-Audio-Jev: A Unified Interface for Audio Decisions · arXiv:2610.21614 | 判决接口：在骨干模型答案前隐状态上挂决策头，用 Choice、Noul、Score 三种有界原语直接输出分布或分数，并以组采样奖励优化校准 | 18 个配置、原文未与任何基线同表对照：Choice 在 MMSU 84.06%、MMAU-mini 78.70%、MELD 57.31%；Noul 在 VoxCeleb1-O 上 EER 6.50%、AUC 0.9823、Brier 0.0487；Score 在 NISQA 整体质量上归一化 MAE 0.1062、Pearson 0.8210；作者称相对骨干推理加速约 20×。 | 全文无任何基线的同表对照，作者自陈比较增益待评估；约 20× 加速未给硬件、批大小与基线输出长度；概率校准未给 ECE 或可靠度图；多题请求需多次前向；无代码入口。 | 语音与音频学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | Can LLMs Tell Stories Out of Order? A Corpus and Benchmark for Nonlinear Narrative Generation · arXiv:2610.21468 | 生成内容评测：为 83 部作品同时标注时间顺序与讲述顺序并建带类型边的故事图，把叙事顺序变成可指定、可打分的置换，再用 71 名读者校验判官 | 19 个模型不给指令时合并 τ=0.638，全部比原作（人类均值 0.456）更按时间顺序（符号检验 p=3.8×10⁻⁶）；指定形态仅 47.9% 落入人类区间（随机置换 8.4%）；读者在 76% 的有效判定里偏好其默认顺叙版本，判官则在两个比较上判平手。 | 散文的结构分数依赖单一模型做对齐；读者研究只覆盖 14 部作品且非概率样本；长度混淆仅诊断未消除；语料按非线性挑选、自由任务按时间顺序给出事件，输入顺序构成混淆。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | CriticaLLM: Using LLMs as Autonomous Game Master for Tabletop Role-Playing Games · arXiv:2610.21525 | 运行期门控：玩家每步行动先由评委 LLM 校验规则与剧情连贯，滚动摘要加地图事件落盘压缩上下文 | 9 名资深玩家问卷中 100% 遭遇行动被拒、67% 认为合理；每个 LLM 生成 200 则开局的平均余弦相似度始终高于 0.7；11 类说服攻击各 10 条×20 次，Llama 3.3 顺从最多、Gemma 2 最少 | 样本仅 9 人自评问卷，无判官一致性；攻击测试只给趋势无逐格百分比；作者自陈存在性别刻板误拒 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | SceneWeave: Audience-Guided Scene Exploration for Dramatic Adaptation · arXiv:2610.21737 | 叙事改写回路：为同一焦点场景写两版备选稿，再据其比较回改人物塑造、铺垫、后续与场次顺序 | 4 名戏剧研究生盲评 32 组，对 SuperWriter 提示流程偏好 71.9%（去平局 11/15=73.3%）；冻结偏好模型在 15 部作品上对 SuperWriter、Dramaturge、强 prompt 三基线的偏好依次为 76.7%、83.3%、66.7%；叙事冗余 0.05% 为四法最低 | 盲评仅 4 名读者、8 部作品、32 次判断含 4 平局；内容评分为模型自评；选稿与评分用同一偏好模型 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models · arXiv:2610.20642 | 解码期机制：以概率最高两名候选的竞争比连续调制离散 token 与软嵌入的插值，免阈值免额外前向 | 六基准宏平均：Qwen3.5-9B 达 81.48%，超最强潜推理基线 Soft Thinking 的 78.04% 达 3.44 个百分点；Gemma-4-12B-IT 达 86.76%，超该模型上最强潜推理基线 SwiReasoning 的 83.02% 达 3.74 个百分点；AIME 2024–2026 三轮均分 78.89% 对 Soft Thinking 71.11% | 主表仅单一随机种子 41，仅 Gemma 的 AIME 均分给了 4 种子（82.22±0.91%）；未报置信区间与显著性 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Verdict: Encode Once, Decide Many · arXiv:2610.20778 | 打包式决策编码：一次前向用结构化注意力掩码同时回答同一状态的多个问题，答案与选项顺序无关 | typed-decisions 上 395M 模型 5 个新种子准确率 0.801±0.005、KL 0.080±0.001，对比 421M 的 Laya 专业模型（准确率 0.767、KL 0.117）；五问打包较逐问在 batch 8 快 2.7–2.8 倍 | 基准仅 400 测试例、合成且由小老师标注，约 0.75 即饱和；BoolQ 训练不稳，5 种子跨 72.3–79.4%；代码地址实测 404 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models · arXiv:2610.20808 | 激活干预：用 NF4 量化副本的行为标签在 BF16 模型上估计不安全工具调用方向，并跨精度、语言、规模迁移 | 五语言方向无调参迁移到未参与估计的阿拉伯语，Llama-3.1-8B 不安全违规降 21.95 个百分点；跨规模搬运使 Qwen3.5-27B/Ministral3-14B/Llama-3.1-70B 违规分别升 76.01/3.62/27.50 个百分点，BFCL 变化 −2.84 至 +1.20 个百分点 | 场景分区小且不完全独立；违规标签全由 LLM 判官给出、无人工验证；判官分歧大（952 个候选上 58.93% 不一致） | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | Confidence-Calibrated Inference Expansion for Evaluator-Guided Test-Time Reasoning · arXiv:2610.20836 | 推理期预算门控：把信任当前答案、回退、再买一步建成 trust/fallback/expand 三动作控制器，按动作分别校准置信度并计入算力代价 | 宽度扩展在归一算力 0.547 时效用 0.715，追平 N=48 多数投票（效用 0.715 / 算力 1.000），并优于标定最佳固定宽度 N=32（效用 0.707 / 算力 0.781）；修订扩展效用 0.673 / 算力 0.529，对最佳固定深度 0.668 / 0.632 | 四种子配对效用区间含 0（宽度 ΔU −0.001[−0.006,0.004]），仅算力稳定更低；覆盖三骨干两类任务，开放生成与长程交互未测 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | LEV: Thinking Fast and Deep with Looped Decision Models · arXiv:2610.20951 | 自适应计算深度：在原生循环骨干上每步读一次选项并联合训练，由无标签拟合的 stopper 按题决定循环步数 | 同权重下 LEV-2.6B 在 JevBench 由深度 1 的 63.2% 升到深度 4 的 76.2%；按需深度只花最深读数 76%–85% 的算力、精度掉点 ≤1.0 个百分点；39–46 ms 延迟区间内，1.4B 与 3B 版比唯一能到该延迟的级联高 7.0–8.8 个百分点、比最佳稠密选项高 5.4–7.5 个百分点 | 骨干仅 1.4B–3B；省算力以循环步计而非墙钟；延迟单请求、无融合核；JevBench 仅 231 道公开题 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Does Latent Chain-of-Thought Actually Reason? A Single, Unifying Taxonomy for Latent Reasoning · arXiv:2610.21182 | 评测口径：对潜在推理链同时做链删除与内容替换两组扰动，把「链里有什么」与「模型是否用链」拆成两个独立问题 | 对自身对照（删整条链、只换链内容、保留原链三组）：21 个模型-任务配置（3 类训练配方、3 类推理任务、2 个骨干）上，COCONUT 风格配置删掉整条潜在链后预测几乎不变，算术任务的全部配方则依赖链内容；原文未给出任何具体准确率 | 只有摘要可用，/html/2610.21182v1/ 实测 404；探针层数、可解码判定口径与逐任务数值均不可核，分类法只是概念性排序 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | The Density of Thought: Predicting and Steering Reasoning in Large Language Models · arXiv:2610.21286 | 推理期控制：用 LP 方差与 Caveman 压缩比度量每步信息密度，再用 token 级 Shannon 熵门控 KV 缓存修正（EGDR） | GSM8K（N=60），各自对同模型基线：Qwen2.5-3B 基线 60.0%、生成中途注入崩到 8.3%（−51.7 pp）；Qwen2.5-1.5B-Instruct 基线 51.7%、EGDR（α=0.30）提到 61.7%（+10.0 pp，p=0.019）、提示加缓存转向达 65.0%（+13.3 pp） | N=60、只跑 Qwen2.5-1.5B Instruct、单次运行；EGDR 阈值取自同一评估集（作者自陈）；跨代对比混淆规模与代际 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Learning to Reason with Selective Internal Feedback · arXiv:2610.21392 | 训练期奖励构造：把 token 级 self-certainty 排序分窗做两级投票，再用响应级与组级筛选决定哪些轨迹进 GRPO | 12 个基准、3 个骨干的末次检查点未加权均值依次为 Llama-3.2-3B-Instruct 26.17%、Qwen2.5-Math-1.5B 39.19%、Qwen3-1.7B 45.29%；Qwen2.5-Math-1.5B 比 Intuitor 最佳验证检查点 34.48% 高 4.71 pp；全批口径下 Intuitor 中段到末段掉 43.94 pp，SIF 只掉 4.11 pp | 训练集仅 MATH 一个 epoch（7,420 题、115 步），骨干 ≤3B，只有数学与科学推理；代码仅承诺后续开源，无仓库可核 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | FlashAttention with Statistics: Low-Overhead Attention Features for Compact Hallucination Detectors · arXiv:2610.21483 | 推理基础设施：把 5 个已发表幻觉检测器的注意力统计按计算路径分成融合/查表/重扫/稠密四层，在 FlashAttention-2 前向内就地算出 | 单张 H100、batch 1、相对同一前向关闭统计的基准：Qwen3-8B 全层全头统计在 2K token 加 16% 延迟、35K 降到 1.4%，每响应 token 存 22.5 KiB；同一个 7.2K 上下文样本上稠密路径加 501 ms 与 2.1 GiB，本方法 53 ms 与 23 MiB | 单卡、batch 1、只覆盖响应行的微基准，不能换算成服务吞吐；Triton 核非生产件，仅支持 64/128/256 头维；代码入口实测 403 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | EMO: A Closed-Loop Test-Time Computation Framework via Alternating Context Optimization and Logits Steering · arXiv:2610.22160 | 测试时计算分配：E 步用外部判官的文本梯度改上下文，M 步用新旧上下文在同一前缀的分布对比做置信度约束的 logits 修正 | 相对同模型零样本：8 个模型 6 个基准的 40 个模型-任务组格中 39 格更优，平均 +9.10 pp；同判官同候选数下比纯上下文优化再高 1.53 pp（40 格中 25 格超过、4 格持平）；等预算 N=9 时 Llama-3.1-8B 在 MMLU-Pro 上 68.2±0.8 对 best-of-9 的 62.5±0.5 | 判官可能给错反馈；预算按目标模型生成当量计，未含判官与改写开销、未对齐总 FLOPs；单轮 KL 下降定理不覆盖默认 μ=2.4 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | Beyond Retrieval Failure: Understanding Why LLMs Miss Evidence in Multi-Hop RAG · arXiv:2610.21184 | 运行期上下文管理：用需求登记表记录未解决子问题及其支撑证据，按表选下一步检索目标并做证据绑定，封闭后才作答 | 对匹配基线 A-RAG：MuSiQue 1,000 题上「从未检索到必需段」的错答从 382 降到 234（all-MiniLM-L6-v2）与 383 降到 274（Qwen3-Embedding-0.6B），占各自自身错答的比例 69.3%（分母 551）→43.9%（533）与 66.4%（577）→47.9%（572），但总错误未同比例下降 | 失败归因依赖 40 字符指纹匹配（87.9% 段落可匹配）；推理错误与弃答的上升部分是标注可见性差异；原文无代码或数据入口 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | TRACER: Trajectory-Aware Tool Retrieval for LLM Agents · arXiv:2610.21267 | 执行期候选集控制：把历史成功工具调用序列建成 trie，按当前轮前缀用经验先验与情境先验的按状态学习权重给子节点打分，只把 top-k 交给模型 | 对全量注册表（把 128 个工具全放进上下文）：GPT-5.4 每步只给 top-5 工具时选择准确率由 57.2% 升到 61.9%、每步注入 token 降 80%；自由运行下以 23% 的工具、每步 token 少 61% 打平全量注册表的 58.3% 对 58.2% | 依赖已记录的评测轨迹，冷启动无 trie 时退化为向量检索；Tau3 Banking 上全量注册表仍胜；选择准确率按单一记录顺序判分 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | QREF: Improving DeepSearch Agents by Aligning Search with Reasoning via Query Refinement and Evidence Filtering · arXiv:2610.21512 | 检索接口：检索前重写整批查询并保证互补覆盖，检索后按推理目标过滤证据，且与骨干推理策略解耦 | 对未加精配器的同骨干基线：WebSailor-32B 上加 RL 的查询精配器在 BrowseComp、BrowseComp-ZH、GAIA、HLE 的 Pass@1 分别提升 6.79、6.23、5.99、3.11 点（各基准绝对基线 10.82、19.03、46.15、12.09）；摘要给出平均相对提升 33.55%（WebSailor）与 11.04%（TongyiDeepResearch）；无效查询比例 WebSailor 上 39.33 对 SFT 的 71.46 | 只验两个骨干、原文未给代码入口，判官为 GPT-4.1 且人工核验仅 100 批次子集；GPT-5.2 作精配器的最高分靠多生成查询换召回 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Retrieved but Not Read: Understanding Why Search-Augmented LLMs Fail to Use Available Evidence · arXiv:2610.21731 | 评测口径：把检索增强模型的阅读深度分为只看摘要、打开未引用、打开并引用三档，并单列引用不忠实判定 | 七配置全部提示型合并后按阅读深度分档：只看摘要作答时陈旧率 6.4%、引用不忠实率 6.4%，打开页面但未引用时 1.7% 与 1.6%，打开页面并被引用时陈旧率 1.3%、不忠实率 2.3%；Luna 原生搜索下 53.6% 场景不开页；直接给页面使 gemma-4-31b 的过时断言从 14/50 降到 0/50 | 仅一个专有模型；固定答案行契约令失败率成为下界；SEC 13 条、chemical 8 条样本过少；层间分析只用体育域转会事实 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | CARA: Causally Guided Retrieval Agent for Question Answering · arXiv:2610.22017 | 图检索决策：以加入（结果性）与移除（必要性）两个反事实方向评估证据对回答的因果贡献，并据此引导跳转与终止 | STaRK 三数据集（顺序 AMAZON / MAG / PRIME）：CARA 的 Hit@1 为 62.4、84.9、59.5，最接近的智能体基线 ARK 为 59.0、80.1、58.6；同序三域 BERTScore CARA 为 30.7、40.2、41.3 且均为最高，但忠实度低于 KAR；检查节点与检索操作更少而延迟更高 | 因果相关性由 LLM 打分而非形式化推断；下游问答真值答案为自动生成；原文未给 CARA 自身代码入口；KAR 忠实度更高是反例 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 直接命中 | StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning · arXiv:2610.20960 | 执行期门控：按 signal、boundary、last preventable 三界标给每一步打分，训练步骤级监控器在伤害不可逆前干预 | 五基准 4,033 条轨迹上，StepSafe-4B 的尤登指数 J 为 53.0（ASR 27.6 / Utility 80.0），StepSafe-8B 为 54.4（21.7 / 74.8），均高于最强开源基线 StepGuard 的 46.2；同为 4B 的三种子 J=52.9±0.8 | 代码地址实测 404，复现条件未核验；J 为安全与效用的合成值，不同 ASR 与 Utility 可得同一 J；三种子只报 4B | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | QuasiLeak-Bench: Evaluating LLM-Based Privacy Detectors on Policy-Conditioned Quasi-Evidence Group Recovery · arXiv:2610.21333 | 隐私评测口径：以组为单位评准证据恢复，须绑定被揭示属性，并叠加 keep、hide、neutral 披露策略 | 构造 5,000 条发送者-接收者消息、500 个档案、20 个场景、组大小 2 至 4；构造判据为单线索 lift<0.45、整组 lift≥0.50（lift＝把 verifier 对该属性的置信度按该属性随机猜测水平重新标定，0 为随机、1 为确定）；四名评审对 400 份抽样文档的人工审核、四个其它模型族的 LLM verifier 复判金标组，这两项检查各自接受超过 80% 的送检证据。摘要称现有检测器迁移差、微调 4B 超过 GPT-5.6 Sol | arXiv HTML 全文只到 4.3 节，结果章与指标数值缺失（原文 37 页 25 表），只能引用构造规模与摘要定性结论 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | MemCut: Every Secret Leaves a Trail in the Long-Term Memory of LLM Agents · arXiv:2610.21405 | 记忆与遗忘评测：用原生恢复、残留恢复两个指标加隐藏风险占比，量化删除后事实能否仍由存活证据推导 | 456 条人工设计事实、15 个 episode（均 2,893 轮）；相对各自删除前，S0 只删披露后残留恢复仍 85 至 99%，S1 按检索排序再删 10 轮后 48 至 86%，S2 由 LLM 引导再删 10 轮后仍 39 至 76%（三档区间取自 5 种记忆设计 × 4 个写模型）；残留恢复近似 Res≈13(8.2−k)，R²=0.95 | 只做文本记忆；基线为复用现有检索组件的参考实现而非专用擦除方法；未给代码链接；144 条子集扫描口径与主表 456 条不同 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 3 | 直接命中 | AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations · arXiv:2610.21624 | 鲁棒性评测：按四个输入目标（用户话语、过程规范、承接上下文、工具契约）与三种类型（缺失、冗余、错误）交叉成 12 族，单目标编辑并配对归因 | 十个模型共用同一脚手架、按干净/扰动配对比较：APEX-Agents 平均相对下降 21.8%、Toolathlon 26.4%；主导脆弱点随环境变化（前者过程规范，后者用户话语）；成功扰动轨迹平均多耗 73% tokens、每百万 token 成功率降 44%（两项均仅 Hunyuan-3-High） | 只覆盖两基准一个脚手架且各族独立注入；能力与鲁棒性关联不显著；73% 与 44% 仅来自 Hunyuan-3-High；30 条归因为单模型单次审计 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | Behavioral Forgetting Is Not Privacy in Machine Unlearning · arXiv:2610.21799 | 遗忘评测口径：把单一遗忘集上的行为探针扩成跨语言与跨书写系统的访问路径集合 | LLaMA 3 英语遗忘后，TOFU 判据下遗忘质量英语 0.257、意大利语 0.249、西班牙语 0.197、罗马化印地语 0.174 均通过，改评原生印地语降到 0.0396 不通过；反向以印地语遗忘则英语仅 0.00165。口径为 10% 遗忘集、UNLEARN 方法、表 4。 | 立场论文非新基准，样本量与种子数未报告，TOFU 判据无区间；仅一个遗忘方法与合成事实，五种语言不可外推；论文未给代码或数据入口。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 1 | 直接命中 | Shortcut Sensitivity in Agent-Safety Evaluations · arXiv:2610.22243 | 门控评测的有效性审计：标签可预测性、观察性关联、配对决策敏感性三级阶梯，含评测单元与域留出 | LinuxArena 命令长度线索 AUC 0.910 [0.873,0.941]（词法基线 0.934）；AgentDojo 精确工具名查表 F1 从交互分组 0.901 跌到换域留出 0.495；AgentHarm 上发布门控 TS-Guard 从按行 F1 0.902 降到交互等权 0.719；相对未编辑基线，Haiku 配对干预中标记改写 −8.33、别名 +11.46 个百分点，同样两种编辑下 Luna 为 0.00 与 +1.04 个百分点。 | 64 步队列为非概率样本，区间为探索性且编辑未经盲法人审；效应在 Luna 与量化确定性门控上不复现，公开 LinuxArena 样本无法复现官方指标。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 1 | 邻近跟踪 | Functional Subnetwork Localization for Efficient Continual Learning in Large Language Models · arXiv:2610.21537 | 持续学习的参数隔离粒度：按 Bloom 认知类别选定的稀疏参数坐标，优化器状态只存被选坐标 | Qwen3-1.5B 五基准平均，CiMEO 38.92% 高于全参数 AdamW 24.23%、LoRA 27.84% 与基座 26.86%；归因消融把最大梯度归因换成最小归因后五基准平均降到 27.36%、随机采样降到 25.95%（原文只在四个基准上判消融）。口径为 140 万条顺序指令、表 I。 | 单底座模型、五基准，无种子与误差棒；宣称的显存节省无实测数字；正文学习率 1e-5 与算法 1 的 α=0.001 冲突；无代码入口。 | 人工智能学术速递[10.16] · 官网条目 · 全文 |
| 2 | 邻近跟踪 | No Single Tokenizer Feature Reliably Predicts Downstream Language Model Performance · arXiv:2610.21679 | 分词器评测口径：把内禀指标与下游性能的相关性放到跨模型族、跨语言、跨任务上检验 | 约 200 个模型、九种语言、48 个基准上，29 个内禀分词器指标仅 13 个显著相关，最强 leading_space_tokens_count 的 r 为 0.27；控制模型规模后解释方差最大增量 R²=0.021，两两组合 R² 从未超过 0.09。 | 三套件各有偏差且最大仅 1B，小模型多处接近随机；主仓库链接实测 404；U 统计量在中文与波斯语上与性能无相关。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
| 3 | 邻近跟踪 | Data Strategies for Large Language Models: A Unified Perspective on the Training Lifecycle · arXiv:2610.21681 | 训练数据决策的统一形式化：选择、重加权与课程都写成预算分配策略，并重建辅助算力记账 | 把五种辅助数据选择方法折算到同一目标配置（10.35 亿非嵌入参数、58.22 亿词元）后，相对一次目标训练的辅助算力开销从 DoGE 2.05%、RegMix 8.92%、DoReMi 19.1% 到 DDO 行 386%；同一批文档的来源、语义、梯度三种域划分互不一致。 | 综述无自产方法成绩，两组实证均单配置单种子；算力表只计加速器浮点运算且为下界，DDO 行非完整管线成本。 | 自然语言处理学术速递[10.16] · 官网条目 · 全文 |
一、harness、脚手架与运行期执行控制
1. RAC 关系式智能体契约：九个模型 PCB 任务平均干净通过率 90.9%、仅需求委派为 74.0%
RAC: A Relational Agent Contract for Constraint-Governed Engineering Tasks · arXiv:2610.20935 · 精读
研究问题与核心方法：印刷电路板（PCB，printed circuit board）布局、车间调度这类「约束支配型工程任务」要求工件同时满足多条可检查的耦合约束。作者把智能体的失败归因于「判断—派生耦合」（judgment–derivation coupling）：智能体既要做语义判断，又要自己算出坐标、走线长度、时序这些本可由求解器派生的量。RAC（Relational Agent Contract，关系式智能体契约）把 harness（包在执行器外面的那层调用外壳：工具、技能与过程编排）内部的智能体—工具边界写成一个五元契约：可观察量 O、动作空间 A、确定性实现算子 E、独立校验器 V、反馈 F。智能体只在 A 内提交「命名对象之间的关系」（例如 C1 near U1、J1 贴左板边、N2 与 N3 等长走线），动作里不出现任何坐标或米制距离，幅度只用 tight、close、loose 这类有序档位；E 由确定或受种子控制的布局布线后端把整组关系联合实现成新工件；V 用独立设计规则检查器与关系几何判定器在 (c, r, y′) 上逐条验证，不采信求解器自己的满足标签；F 把冲突类型、冲突关系、越界幅度与可采纳的松弛项作为修复证据回传，让智能体改「关系」而不是改几何。契约不绑定具体 harness，也不需要模型重训。形式化上，一个约束支配型工程任务写成 τ = (c, r, Y, Φ)：c 是该实例固定的权威事实（板框、封装与焊盘、网表、层叠、既有铜箔、设计规则，或选定的微控制器与设备树、寄存器描述、构建配置、勘误），r 是工件应当完成什么，Y 是允许构造的工件空间，Φ = {φ1, …, φm} 是一组可检查的谓词，工件 y 合法当且仅当 Φ 中每条谓词都成立；只要求造出合法工件的叫构造任务，额外给出初始工件与「保留」类谓词的叫修复任务。作者来自华盛顿大学、西华盛顿大学与阿卜杜勒阿齐兹国王科技城（KACST）。 11
证据与局限：证据强度在本单元三篇方法类工作中最高：九个模型横跨开源与闭源、PCB 任务跑六个随机种子、调度任务给出 95% 重采样区间、跨四个 harness、跨三个工程域，且所有校验器都与实现路径独立。但仍有三处引用风险。第一，全部结论建立在作者自建的检查器与关系几何判定器之上，作者在 Limitations 里自陈：RAC 只适用于存在、或能被造出实现算子 E 与独立校验器 V 的场景，结果被这两者的覆盖度与正确性上限所限定；无法写成可检查谓词的偏好类需求被排除在形式化之外。第二，PCB 任务与两个调度基线都是自建或改造的，98 个任务与 30 个 JSPLIB 实例之外的泛化没有证据；附录 A 自己也注明，这 459 个扰动里有 24 个板缩用例的可行性未确立（这组扰动实验取自 26 个布局族的 153 个合格布局，与主表的 98 个 PCB 任务是两组不同规模的实验），且报告的是未做多重比较校正的描述性 95% 区间，作者明说「descriptive」。第三，附录 D 的跨域逻辑实验只有 10 个构造设计、40 次无人调用模型的检查，RAC 在逻辑任务上增加 0.399 ms 中位开销（相对约 1.2 ms 的原生路径，+30.84%，95% 区间 [27.57, 34.94]），PCB、调度、嵌入式三域的运行时区间都跨零，不能把「开销可忽略」当通用结论。代码入口方面，原文没有给出作者自有的仓库或项目页，只在引用里提到第三方嵌入式基准 embedeval（github.com/Ecro/embedeval），故本条目无法实测任何官方代码入口。 11
与目标研究线的连接点：属于 A 线「运行期执行控制」的最核心一格：它把「智能体该做哪个层次的决策」变成可实验的接口变量，而不是提示词技巧。可直接搬走的有三样：一是动作空间的裁剪原则——凡工具能确定性派生出的字段一律从动作 schema 里删掉，只留需要解释需求的语义选择；二是反馈的粒度设计——失败时回传的不是几何坐标而是「哪条关系冲突、冲突对象是谁、可接受的松弛方向」，使修复循环作用在意图层；三是完整的对照阶梯（直接坐标、坐标加算术沙箱、候选挑选、逐条关系、全量关系、全委派），任何团队想验证自家工具接口都能照抄这一组消融。与同节其它工作相比，它的差异在于：RAC 不训练模型、不改 harness 实现，只改 harness 暴露给模型的契约，因此在四个不同 harness 上得到方向一致的增益（表 3），这是本单元其它工作没有提供的稳健性口径。另外，附录 D 的逻辑域检查说明契约的可移植成本可以很低（绑定 30 行物理代码），这对想把同一套观察—动作—校验—修复协议套到多个领域的团队是一个可以直接量化的参照。 11
结论建议：值得完整读第 3、4 节与第 5.1、5.2 节（接口定义、九个模型的设置与主表 1、表 2），附录 A.1 与 B.1–B.2 提供鲁棒性与调度配对区间的细节，附录 C 是唯一跨域证据。引用时必须限定三点：干净通过率是「所有约束谓词同时为真」这一最严口径，不是部分通过率；90.9% 与 74.0% 是九个模型的平均、六种子结果，不能当成「任意模型都提升约 17 个百分点」；调度上的 96.3% 对 59.6% 用的是 makespan 不超过 1.25 倍已知最优的质量通过口径，与 PCB 的通过口径不可互换。 11
2. 语义层、编排与压缩的跨模型行为研究：编排给提前作答者 23 点增益、给调查者 5 点损失，共 1,514 个任务
Same Context, Different Agents: A Behavioral Study of Semantic Layers, Orchestration and Compaction in Data Agents · arXiv:2610.20959 · 精读
研究问题与核心方法：数据智能体要在文件、数据库、文档与网页之间拼证据，其成败取决于上下文。作者把三项上下文工程技法（CET，context-engineering technique）放在同一个基线智能体上做 2×2×2 开关：(1) 语义层（semantic layer），由 LLM 离线为每个基准写一次、逐数据源记录本体（这个源与它的表列是什么）、数据剖面（取值样例、单位、缺失值、解析配方）与上下文化（连接键、相关源、歧义名称），不含答案，只把与问题最相关的条目放进首步提示并要求智能体逐条核实；(2) 编排（orchestration），一个不带工具的计划者把问题拆成子任务交给文件、Python、SQL、网页与文档检索四类专才智能体，各自用自己的上下文，验证器接收或打回；(3) 压缩（compaction），用一份每步重写的有限工作记忆（目标、已完成项、带证据的计算值、未决项）替代不断增长的历史。七个 LLM、五个基准共 1,514 个长程任务、八种组合，模型、工具、步数与调用预算、提示全部固定；准确率用各基准自身指标，代价用列表价美元每任务（下文美元倍数均以同一基线智能体为基准），效应为打开该技法后相对基线的百分点变化（对任务做 95% bootstrap 区间）。行为分析从每条 trace 抽 Acts、Grounded、Coverage、Persists、Recovers、No repeats、Hedges、No give-up、Answers、Long loops 十项指标。作者来自南加州大学、Oracle AI 与宾夕法尼亚大学。 12
证据与局限：证据体量大且口径清楚：七个 LLM、五个基准、1,514 个任务、八种组合、所有比较都做任务级 bootstrap 区间，代价按列表价折算，行为指标从原始 trace 抽取而非自评。风险集中在四点。第一，行为分组与「习惯决定符号」这一核心论点，是从七个模型上聚类出来的描述性模式，样本只有七条模型曲线、每组 2–3 个模型，组内均值不能当成组内任一模型的结论；作者自己在 Limitations 里说，新模型可能落在三组之外。第二，语义层只由 GPT-5.5（或对照的 3B 模型）写一份、编排与压缩各只用一种代表设计，作者明确说目的是展示交互而非穷尽技法，因此「语义层给提前放弃者 4.6 点」是这一种写法的效应。第三，错误归因依赖 LLM 标注，κ=.60 属中等一致性，作者建议单条成因要谨慎读。第四，1,514 个任务里 DataClaw 占 492、HDR 占 380，作者在附录 E 里提示若干显著的需求维度「mostly from DataClaw」，某些需求层面的结论其实主要是单个基准的效应。原文没有给出作者自有的代码或数据入口，故无可实测的复现链接。 12
与目标研究线的连接点：属于 A 线的「记忆与上下文管理」以及评测口径一格，并且是本单元唯一把「同一技法在不同模型上符号相反」做成主结论的工作。可直接搬走的有三样：一是配置网格的做法——把每项上下文技法做成独立开关、在同一个基线智能体上做全组合，而不是各自换一套 scaffold 后比均值；二是行为指纹——十项从 trace 直接可算的指标，可用来诊断自家智能体属于「不查就答」还是「查了放弃」，再据此选题材而非默认全开；三是评测纪律——「过程分上升不等于答案变好」这条被数据证实（编排使调查者过程分升 11 点而准确率掉 5 点），说明只报工具调用数或步骤完成度的评测会给出反向建议。与同节其它工作的差异：RAC 与 JevAgentHarness 改的是动作与决策接口，本文改的是「模型看到什么」，且结论是负向的——对已经会查数据的强模型，三项技法都不划算。 12
结论建议：首要读第 4.1–4.6 节与表 2、图 3–8，这几个小节把「谁受益、谁受损、代价多少」一次给全；附录 B（行为指标定义与聚类）、D（错值归因）与 E（按需求分层的效应）是复现行为分析时必须对照的口径来源。引用时必须限定三点：增益与损失都是相对同一基线智能体打开单一技法而言，不可与「多智能体系统普遍优于单智能体」这类跨框架结论混用；代价是列表价美元，随供应商调价会变；行为分组是这七个模型在这五个基准上的观察，不能当作模型的固有属性。 12
3. Mallea：模块化可编程物体表征让编码智能体从文本构建、操纵与记忆世界
Mallea: Building, Steering, and Memorizing Worlds with Coding Agent · arXiv:2610.21283 · 邻近跟踪
研究问题与核心方法：代码世界模型（code world model）用显式状态与可执行规则表示世界动态，相比视频世界模型可被程序化检查与修改。Mallea 要回答「智能体从文本建一个世界」的三个连带问题：物体怎么表示、行为怎么定义与改动、外观怎么跨时间记住。做法是一个编码智能体（coding agent）联合规划三件事并写成可执行的白盒（whitebox，指状态与规则都显式可读的对象定义）：(1) 自适应物体表征——智能体从提示推断物体间的交互需求，只为支持这些交互挑选最简表示（碰撞只需粗包围体、打击与格挡才需要铰接运动与精确时序），不承载交互的视觉细节留给生成式渲染器；(2) 可编程属性——每个物体有带类型的字段（类型、单位、初值、允许的写入方）与规则（事件—条件—更新），运行时可以解释新请求、补出缺失字段与规则，并把修订校验后再落地，保留无关状态；(3) 对象纹理记忆（object texture memory）——只为白盒定义的物体存纹理，智能体用属性与规则判断哪些外观可复用、哪些要刷新，物体离开视野只影响检索、不影响存在与演化。世界状态按固定步长推进：S(t+1) = F_M(t)(S(t), u(t))，u(t) 为空表示无用户操作。图 6 另给出显示用白盒帧。作者来自北京大学。 13
关键结果：
- 原文在正文与结论中各宣告一次：定量基准结果「将很快发布」（quantitative benchmark results will be released soon），长程「重访基准」（revisit benchmark）结果同样写「将很快发布」。因此本文没有任何准确率、一致性或成本数字可引。 13
- 唯一的结果展示是图 6 的 12 个场景定性序列：每段按帧跨度的 0%、25%、50%、75%、100% 独立采样五帧，采样不做事件对齐。图 6 的图注同时声明其左列第 2–4 行的白盒是在视频生成之后才调整的，即白盒与视频并非同一轮生成的一致产物。 13
- 作者声明的三处可观察现象：光学场景（左一行）用机械几何、战术场景（右四行）用粗代理，两种渲染都补入了场景相关外观；火控链（左四行）体现物体响应互相耦合，磁性场景（右六行）体现材质相关行为；零重力场景（右五行）在姿态变化下需要保留物体外观。 13
- 作者自己指出这张定性图不能支撑记忆机制的结论：原文写这些短片未能隔离记忆的贡献（do not isolate the contribution of memory），记忆消融与长程重访基准属待发布内容。 13
- 项目页实测可访问：[https://lxycopper.[github.io/Mallea](https://lxycopper.github.io/Mallea)](https://github.io/Mallea](https://lxycopper.github.io/Mallea)) 返回 HTTP 200。原文未给出代码仓库地址。 13
证据与局限：这是本单元证据最薄的一篇：没有基准、没有基线、没有种子、没有区间、没有任何数字，全部结论由机制描述加 12 段定性视频支撑，且作者显式声明记忆部分尚未被隔离验证。图 5（记忆机制图）的图注也自陈是「AI 生成的机制示意图，不是实验结果」。引用风险因此很高：不能引用为本方法在长程一致性或物理保真上有效；图 6 的白盒后调意味着不能把「白盒与视频一致」当作验证。可实测的入口只有项目页（HTTP 200），代码仓库地址原文未提供，无法判断复现条件。 13
与目标研究线的连接点：属于 B 线「自进化与技能构造」的邻近件而非命中：它训练/评估的对象不是长程智能体也不是轨迹学习，而是「编码智能体把领域知识写成可执行结构并在运行期扩展它」这一能力。可迁移的有两点：一是「按交互需求选择最简表示、只在检查失败时才细化」的构造循环——把表示复杂度做成受需求驱动的变量，这与 RAC 把不可派生的东西留给模型、可派生的交给工具是同一种分工思路，只是对象从工程工件换成了世界模型；二是「运行期扩展」的验证写法——新请求先解释成对现有模型的增量（补字段、补规则），校验通过才合并，未被影响的物体与状态原样保留，这条契约可以直接搬到智能体技能库的增量更新上。与同节其它工作的差异：RAC、JevAgentHarness、SpecAgent 都在既有任务上测收益，Mallea 提供的是一个还没有测量的构造方案，价值在于机制设计的完整度而非证据。 13
结论建议：建议只读第 3 节（3.1 世界状态与输入输出、3.4 对象纹理记忆）与图 5，用来取机制；图 6 的定性序列不必按结果读。引用时必须写明三件事：本文无任何量化结果；记忆机制的贡献未被隔离；白盒帧与视频帧并非同一轮生成。等记忆消融与重访基准发布后再评估其结论。 13
4. DocPilot：课程式智能体训练让 4B 模型在 MMLongBench-Doc 上从 54.9 提到 59.1
DocPilot: Interactive Agent Orchestration and Training for Long Visual Document Understanding · arXiv:2610.21327 · 邻近跟踪
研究问题与核心方法：多模态长文档问答要求模型跨页、跨模态找回稀疏证据，前沿视觉语言模型（VLM，vision-language model）单遍处理仍会漏证据、跨模态推理也弱；已有的文档智能体要么走预定工作流，要么动作过粗。DocPilot 把异构文档建成统一的多模态环境：每页同时提供原始页图 I(i)、由 MinerU2.5 产出的结构化表示 S(i)（保留识别内容、版面元素、阅读序与空间位置）、一张 512×512 的轻量页缩略图 T(i)（页码显式标注），再加把连续缩略图排成网格的文档级总览 D~，多文档输入另建总览；四类表示共享文档与页码标识。在此之上是六种动作——Navigate（定位相关视觉页）、Extract（从选定页或区域抽证据）、Focus（裁剪、放大、聚焦子图做局部视觉检查）、Solve（对已收集证据做代码式数值推理）、Analyze（评估答案落基情况，用于规划、验证与修正）、Answer——组成「找—推理—验证—修正」闭环，验证失败就回到找证据或推理。训练走课程化的智能体训练：先用教师蒸馏的单能力推理 trace 做单能力监督微调（SFT，supervised fine-tuning），再用多能力交互 trace 学自适应编排；监督数据 DocAgent-Instruct-40K 由 35K 条单能力推理 trace 与 5K 条多能力交互 trace 组成。作者来自香港科技大学（广州）与 EvenUp。 14
证据与局限：证据在同类工作里属扎实：四个基准、三类基线（原生 VLM、OCR 管线、智能体框架）、动作级与训练策略两组消融、元素级与页级两套定位指标、答案分布与工具使用分布都给了。训练超参也完整可核：ms-swift 实现、两阶段各 3 个 epoch、学习率 1e-4、批大小 64、LoRA 秩 r=16 与 α=32、两阶段最大文本序列长度 8K 与 24K（不含视觉 token）。三处风险需要注意。第一，表 1 与表 2 在本单元的 HTML 全文里列名与数值错位，正文所说的「课程式训练高 2.3 点」与表 2 前两行数值对不上，因此本条目只采用正文的百分点，未采用表 2 的绝对值。第二，单能力与多能力两段训练的数据都由强教师合成（教师身份原文未指明），DocAgent-Instruct-40K 的筛选口径只在附录 C 给出；结论对教师质量敏感这一点原文未讨论。第三，作者在结论里把未来方向写成「蒸馏成功策略与失败教训、演化语义层」，但正文没有 Limitations 节，也没有报告跨语言、跨领域文档的失败切片，只有附录 D.3 提到手册类文档增益不稳定（Gemini-3.1-Pro 与 GPT-5.4 只涨 1.8 与 5.0 点，Qwen3.5-397B 反而从 62.0 掉到 58.3）。代码入口实测可访问：https://github.com/HKUSTDial/DocPilot 返回 HTTP 200，论文的可复现性声明也指向该仓库。 14
与目标研究线的连接点：属于 A 线，落在「长程任务的训练数据构造」与「执行期工具编排」两格之间。可直接搬走的有三样：一是六动作的粒度切分——把「找证据」与「理解证据」拆成 Navigate/Extract/Focus/Solve 四个可单独监督的动作，使小模型的模仿有明确目标，这正是原文所说「粗粒度轨迹对多模态能力监督太弱、细粒度动作又难学编排」这一张力的一种解法；二是课程顺序——先单能力 SFT、再多能力编排训练，并且用消融证明顺序本身有 2.3 点价值；三是轨迹合成流程——教师 agent 在真实环境里 rollout，只保留答案正确、交互合法、证据落基的轨迹，其余全部丢弃。与同节其它工作的差异：RAC 改工具契约、JevAgentHarness 改决策归属、本文改的是「给智能体看什么表示」加「怎么把编排能力教给 4B 模型」，是本节唯一同时做环境设计与小模型训练的条目。 14
结论建议：优先读第 2 节（环境表示与六动作定义、算法 1 的闭环）与第 2.3 节（两阶段训练与 DocAgent-Instruct-40K 构成），结果看第 3.2 节、表 1 与第 3.3 节消融，附录 C 是轨迹合成的唯一细节来源。引用时必须限定：其一，表 2 与正文存在数值错位，凡引用绝对值需自行核对原始表；其二，页级定位的 91.8 召回与 73.2 精度是同骨架（Gemini-2.5-Pro）下相对 DocLens 的比较，不是跨骨架可比结论；其三，MADQA 的 86.5 是在直接给出相关文档的 oracle 设定下取得的，不能当作端到端检索结果。 14
5. Jev-LiteMAS：Jev 门控的多智能体路由与复核，生成式 token 比 LAS 少 12.7–54.6%
Jev-LiteMAS: Separating Decisions from Generation in Multi-Agent Workflows · arXiv:2610.21411 · 邻近跟踪
研究问题与核心方法：多智能体 LLM 系统（MAS，multi-agent system）里，专家执行、工作流规划与工件评审都靠生成式模型，但不少协调操作只需要有界决策。作者先用 DeepSeek-V4-Flash 作共享生成主干，在 MetaGPT、AgentNet、LAS 三套 MAS 上于 MATH 与 MBPP+ 两个基准测量：路由与复核占生成式 LLM token 的 31.7%–43.5%，占记录延迟的 29.5%–46.1%；即便在会动态调度执行的 LAS 上，这一比例在 MATH 与 MBPP+ 上仍分别为 40.4% 与 39.2%。把这类操作换成廉价决策模型会暴露两个接口缺口：生成式规划者会产出执行计划与交接指令（规划缺口），生成式评审者会给出可执行的修改反馈（复核缺口），而有界决策模型二者都给不出。Jev-LiteMAS 用两条机制补：反馈驱动的专家交接（路由不再预先生成完整轨迹，而是每步用总任务、前序专家产出与当前执行状态选下一个专家，选中的专家拿到累计上下文）、以及 Jev 门控的 LLM 复核（Jev 是一款按调用计费的第三方决策模型；先用它按任务准则筛中间工件，通过的直接放行，被标记的升级给 LLM 评审者独立复评，可接受或给出可执行反馈交由责任专家修订，修订后再评）。作者来自上海交通大学。 15
关键结果：
- 端到端对 LAS：生成式 LLM 总 token 在 DeepSeek-V4-Flash 主干上降 17.5%–54.6%，在 GPT-5 主干上降 12.7%–38.6%，摘要把两主干合并表述为降 12.7–54.6%；对应准确率差在 DeepSeek 上为 −0.67 到 +0.66 个百分点，在 GPT-5 上为 −1.34 到 +0.67 个百分点。延迟相对 LAS 在 DeepSeek 的四个基准上全部更低、在 GPT-5 上三个更低，最大降幅出现在 DeepSeek 的 IDRBench I3（45.8%）与 GPT-5 的 API-Bank（50.2%）；唯一变慢的是 GPT-5 的 MATH，30.04 秒对 LAS 的 25.91 秒。 15
- 基准与口径：四个基准分别为数学推理 MATH、代码生成 MBPP+、工具调用 API-Bank、跨学科研究构想整合 IDRBench I3；每个基准按分层随机采样、种子 42 取 150 条，API-Bank 为 150 个 episode、共 445 个 API 调用预测点；MBPP+ 用 EvalPlus 执行、报 pass@1，API-Bank 报 445 点上的严格准确率，IDRBench I3 报标签匹配比例。资源核算统一记生成式 LLM 的输入输出 token、端到端延迟与 API 调用次数，不含 SLM token。 15
- 工作流组织消融（I3 / API-Bank）：Jev-LiteMAS 准确率最高，为 75.33% 与 66.29%；相对 Static 提高 1.33 与 4.49 点，同时 token 少 29.9% 与 35.0%；Heuristic 更省更快但 I3 只有 58.67%；Planner-Replan 的 token 与调用数最高而两个任务准确率都最低。 15
- 路由消融：Jev Router 比 LLM Router 在 I3 与 API-Bank 上分别高 6.66 与 0.67 个百分点，token 少 63.1% 与 36.0%；比 Qwen3-1.7B-Instruct 的 SLM Router 高 11.33 与 4.94 个百分点，token 少 24.3% 与 16.1%。把实质性专家与工具输出从路由输入里屏蔽（Content-Blind）后，I3 准确率从 75.33% 掉到 57.33%、API-Bank 从 66.29% 掉到 57.30%，而 LLM 调用数几乎不变，即最多 18.00 与 9.02 点的损失来自路由失去执行反馈。 15
- 注入智能体错误的复核对照（MATH / MBPP+）：Attack-MAS 准确率掉到 46.67% 与 39.33%、攻击成功率 50.00% 与 48.67%；Jev-LiteMAS 回到 94.00% 与 84.67%、攻击成功率降到 3.33% 与 4.00%，相对 MAS-Shield 高 2.67 与 6.00 点且 token 少 11.2% 与 14.0%；相对 Jev–LLM Judge 准确率相近而延迟低 24.3% 与 23.5%。 15
- Jev 与 LLM、SLM 评审的三方对照：Jev 对注入错误的真阳率（TPR）为 95.33%（MATH）与 91.33%（MBPP+），接近 LLM 评审的 96.67% 与 92.00%，而 Qwen3-1.7B-Instruct 只有 61.33% 与 44.67%；干净样本上 Jev 的假阳率为 4.00% 与 6.67%，高于 LLM 评审的 1.33% 与 5.33%，低于此并不等于可靠。Jev 相对 LLM 评审在干净样本上少用 29.4% 与 24.2% 的生成式 token、延迟低 37.6% 与 28.0%，在污染样本上 token 仍少 14.6% 与 21.7%。 15
- 决策层自身开销：以 GPT-5 为专家、Jev 为决策模型时，Jev 每个评测单元增加 1.13–2.21 秒，占端到端延迟的 2.92%（IDRBench I3）到 6.85%（MATH），占 LLM 模型费用的 1.56%–2.14%；整体延迟 30.04–75.57 秒、模型成本每评测单元 0.00664–0.01766 美元。 15
- 附录 C 的敏感性：I3 上把生成式调用预算从 2 提到 4 时准确率由 46.67% 升到 70.00%、提到 6 时为 73.33%，平均实际调用数只从 2.00 升到 2.64；API-Bank 从 56.18% 升到 64.72%、再到 65.84%，调用数从 2.00 升到 4.46。异构专家主干上，I3 的 AAA/ABB/ABA 三种配置准确率为 75.33%/76.67%/78.00%，token 为 10.233K/11.387K/14.536K；API-Bank 为 66.29%/66.07%/64.49%。 15
证据与局限：结构上这是一篇工程性很强的效率论文，四基准 × 两主干 × 五项基线外加减速消融、错误注入与三方评审对照，口径写得完整（采样种子、评分脚本、资源核算边界、Jev 与 SLM 的开销都被单独记账）。三处需要限定的地方。第一，这不是长程智能体轨迹研究：任务最长约 6 次生成式调用，编排的「长程」成分有限，其结论不能平移到几十上百步的智能体任务。第二，18.00 与 9.02 点的损失来自人为屏蔽输入（Content-Blind）这一消融设定，不能读成「去掉专家反馈的实际系统会掉这么多」，原文只用于证明路由信息需求。第三，作者在 Limitations 里自陈两点：路由只在预定义的专家池与合法动作集上做，不能动态新建专家或重构角色；复核的效率取决于中间工件质量分布，需要生成式复核的比例升高时 token 与延迟节省会下降。本单元未能找到作者自有的代码或数据入口，原文未给出仓库链接，故无法实测复现条件。另外，论文 HTML 头部残留了会议模板占位符（DOI 与 CCS 字段为 XXXXXXX 形式），出版状态不明。 15
与目标研究线的连接点：属于 A 线，落在「运行期控制的操作级能力分配」这一格：它把「哪一步该由生成模型做、哪一步只需有界判断」当成可测量、可消融的设计变量，并且是本单元唯一给出「协调开销占总量多少」这一基线测量的工作（路由加复核占生成式 token 31.7%–43.5%）。可直接搬走的有三样：一是「级联复核」结构——廉价判定先放行绝大多数合格工件，只把被标记的升级给生成式评审，这样既不丢可执行反馈也不为每步付强模型的钱；二是把「专家的实质性输出」保留在路由输入里的做法，及其对应的内容屏蔽消融，用来量化路由依赖什么信息；三是资源记账的边界写法——决策模型自身的 token 与延迟单独列出，避免把节省算成净节省。与同节其它工作的差异：JevAgentHarness 把决策委托问题做成三级基准并训练专门的 4B 决策模型，本文不训练模型，直接用现成 Jev，重点在「工作流怎么重组才不丢信息」。 15
结论建议：读第 3 节（操作级工作流的形式化与两个接口缺口）与第 5.2–5.4 节（端到端、路由消融、复核可靠性），附录 B 的 Limitations 与附录 C 的预算与异构主干分析是完整判断的前置。引用时必须限定：token 降幅是相对 LAS 这一条基线，且强依赖主干（DeepSeek 17.5%–54.6% 与 GPT-5 12.7%–38.6% 不可互换）；准确率「在 1.34 个百分点内」是差异区间的边界，不是等价性检验；四项基准的任务规模都在个位数生成式调用量级，不能据此推断长程任务的节省比例。 15
6. JevAgentHarness：按智能体自身轨迹拟合置信阈值，顾客服务智能体成本降 81.1–89.0%
JevAgentHarness: Benchmarking, Deploying and Training Decision Models That Share Control with LLMs · arXiv:2610.21412 · 值得扫读
研究问题与核心方法：主流 harness（包在执行器外面的那层调用外壳：工具、技能与过程编排）每一步都调用大模型，使长任务既慢又贵——原文引用一次公开榜单评测约花 4 万美元。作者指出多数调用最终落成一道多选题（下一步调哪个工具），于是把这类选择交给决策模型（decision model，给定任务、历史与一道多选题，直接返回每个选项的概率而非生成文本）。三项主张各自配套一件工具：(1) 用 AgentDecisionBench 在三级上测决策模型——L1 隔离题（BFCL v4 的 1,114 道工具选择与 1,949 道参数题、When2Call 的 928 题）、L2 步级（在录制的智能体轨迹上逐状态作答，只评分不执行，全部模型答同一批 5,314 个公共状态）、L3 任务级（决策模型真的控制运行中的智能体，每个选择都被执行）；(2) 用 JevAgentHarness 把每个常规选择表述成 Jev 格式的带类型多选题（Jev 是一款按调用计费的第三方决策模型，本文拿它作教师与对照，后文凡称 Jev 均指它），仅在置信度越过阈值时采用、否则照常交给 LLM，阈值由理论规则 c(s) ≥ q_L − ΔC/V 推出并在影子模式（决策模型只被提问、答案不采用）下按决策点拟合，阈值也可在 LLM、决策模型或任务规则变化后重拟合；(3) 训练 AgentDecision-4B：在智能体自己走到的状态上用 Jev 的答案作标签做监督微调，因为这些状态（尤其是智能体犯错之后的状态）在固定题库里几乎没有。作者来自伊利诺伊大学厄巴纳-香槟分校、普林斯顿大学与 Google。 16
关键结果：
- 隔离题分数排不出智能体里的名次：StartLux-9B 在 BFCL 工具选择上最准（92.2%），但任务级只解掉 69.5%；AgentDecision-4B 在 BFCL 上较低（89.3%）却解掉 91.5%，Jev 为 82.0%。步级准确率与任务成功率的排序接近（Kendall 相关 0.84）。差距集中在 must-ask 状态——该问客户却常被跳过的状态上，AgentDecision-4B 答对 67.4%，Jev 答对 58.3%。原文摘要同时给出另一口径：隔离题最准的模型只解掉 69.5% 的智能体任务；不加拟合阈值、直接委托工具选择会让成功率掉 19.0 个百分点。 16
- 阈值是必需品而非调参：把阈值固定在 0.5，任务成功掉 21.5 点，省下 84.5% 成本；用影子模式拟合出来的阈值则成功变化 0.0 点、只省 14.2%。与 Flash 配合时，拟合出的阈值是工具选择 1.00、参数 0.99，即只有近乎确定的答案才被采用。用 Flash 作智能体 LLM 时，Jev 实际做了 27.2% 的工具选择与 20.8% 的参数选择，省 14.2% 成本且 500 个任务的结果一个都没变。 16
- 委托哪些决策有明确边界：让 Jev 做全部工具选择掉 19.0 点；给三工具候选短名单掉 7.8 点但省 53.7% 成本（远好于关键词短名单的 92.0% 对 18.8% 解题率）；停止守卫（guard）保住成功率但贵 6.2%；把 Flash-Lite 的步骤路由给 Flash 反而比 Flash-Lite 单干贵 36.2% 且无明显收益；在 τ²-Bench 上重拟阈值后最便宜的可通过委托掉 8.1 点，作者据此判定迁移性未能证明。 16
- 部署收益（下述成本与时间均以「每一步都交给 LLM」为基线）：换上 AgentDecision-4B 并把它跑在自己的 GPU 上，DecisionGym 智能体便宜 86.3%、快 2.5 倍且成功率不丢 3 点以上；ALFWorld 上在该环境训练出的 4B 模型让智能体便宜 89.0%、约快 2 倍且成功率更高，摘要把顾客服务与家庭两类智能体合并表述为便宜 81.1–89.0%、快至多 2.5 倍（90.7% 升到 95.0%，+4.3 点），在未见过的房间上 88.8% 升到 89.6%（+0.7 点）并省 92.0%。在 500 个新任务上，AgentDecision-4B 做了 99.9% 的工具选择与 75.0% 的参数选择，每任务省 4.5 次 LLM 调用；单张 L4 上每个答案中位 31 毫秒，而一次 Flash 调用为 809 毫秒。编码智能体收益小得多：让 Jev 把每步分派给强或快 LLM，成本只降 7.0%–10.5%，成功率随 harness 波动（mini-SWE-agent 配 DeepSeek-V4-Pro/Flash 为 77.3% 对 76.3%、省 10.5%；SWE-agent 配 Gemini 3.5 Flash/Flash-Lite 为 63.0% 对 57.0%、省 7.7%；pi 配 Gemini 3.5 Flash/Flash-Lite 为 42.7% 对 50.6%、省 9.6%）。 16
- 训练：只在智能体自己的状态上做 SFT，就把移位任务上的步级准确率从 52.9% 提到 98.4%，而隔离题准确率只涨 7 点；SFT 花 2.2 GPU 小时。GRPO 额外花 4.5 GPU 小时与 26.53 美元的 LLM 调用费却没测出增益；不做 SFT 直接跑 GRPO 时，未训练模型解掉的移位任务比例从 13.5% 变成 11.5%。用 Jev 时选中的组合掉了 2.2 点、未通过非劣检验；换成 AgentDecision-4B 后该组合在 500 个新任务上以低 81.1% 的成本通过。在公开工具使用数据上再训一轮，隔离题准确率从 78.8% 升到 85.1%，而移位任务上的任务成功率从 96.0% 掉到 91.5%。作者的配方也把 StartLux-0.8B 变成 AgentDecision-0.8B（L1 70.0 升到 80.5、L2 51.7 升到 95.6、must-ask 27.2 升到 93.5、任务成功率 13.0 升到 82.0）。 16
- 失效模式：Jev 全部 34 个失败任务都以一次不可逆的错误工具选择开头（通常是在该问客户时直接取消）；在每单 10 个客户、含一条训练中没见过的取消或发货规则的高难任务上，AgentDecision-4B 做对了 81.6% 的取消或发货决策，智能体只解掉 3.0% 的任务，而 LLM 单干为 88.0%；按该规则重训后，其留出准确率从 76.5% 升到 95.3%。原文另给一条伦理告警：把智能体 LLM 换成更便宜的 Flash-Lite 时，停止守卫接受了 LLM 自己 40.7% 的错误终止尝试，因此决策模型守卫不能是唯一控制。 16
证据与局限：这是本单元方法学最讲究的一篇：预注册了模型、任务与检验，Stage 2 的组合规则在读 Stage 1 结果之前就登记；Stage 1 有 11 个登记检验，用 Holm 方法把偶然通过的概率压在 5%；非劣判据是单侧 5% 检验下成功率损失小于 3 点（τ²-Bench 上 5 点）；自建的 DecisionGym 因为每个任务来自脚本化计划，能在每个仍可解的状态上生成答案键，且训练、阈值拟合与测试用互不相交的随机种子。作者也把局限写得清楚：全部任务与提示为英文，多数 run 用 Gemini 系智能体 LLM；主检验是非劣检验而非等价检验，只能说「下降不超过固定余量」；阈值与训练模型都绑定具体智能体，换智能体、工具或任务族就要重拟合；编码智能体的动作是自由文本，决策模型只能选「哪个 LLM 来写」，因此节省只有 7.0%–10.5%；没有与 RouteLLM 这类学习式路由器在同一批任务上比较；GRPO 在自己的 run 里没测出超过 SFT 的增益。两处引用风险：其一，论文表 1 的行内字段（参照值、委托后值、Δ、节省比例、时间）在 HTML 抽取里串位，本条目只采用正文与图 5 说明中的百分比，未采用该表的原始排版；其二，Ethics 节自陈在对抗性观测或策略注入下带类型答案可能被翻转，故结论只在良性状态下成立。代码入口实测可访问：https://github.com/JevAgentHarness/JevAgentHarness 返回 HTTP 200，摘要声明模型、数据与 harness 都将释出。 16
与目标研究线的连接点：属于 A 线的核心：「把长程任务每一步都过强模型」这一默认设定能不能被拆开。可直接搬走的有四样：一是三级评测阶梯——隔离题、录制轨迹上的步级、真实控制下的任务级，配上「L1 最准的模型在 L3 只解掉 69.5%」这一反例，是判断任何「小模型替代大模型」主张的最低标准；二是按决策点分别拟合阈值，以及阈值必须拟合而非拍脑袋的证据（固定 0.5 掉 21.5 点）；三是「在智能体自己走到的状态上、用强模型答案当标签」这一数据构造流程，它把步级准确率从 52.9% 拉到 98.4%，而同样的模型在隔离题上只涨 7 点，说明瓶颈在状态分布而非题库难度；四是把不可逆动作单独处理的原则——Jev 的 34 个失败全部始于一次不可逆错误工具选择。与同节其它工作的差异：Jev-LiteMAS 用现成 Jev 重组工作流、不训练模型，本文既做评测基准又训练决策模型，并给出「决策模型守卫不能当唯一控制」的安全边界。 16
结论建议：必读第 2 节（八个决策点、五种集成模式与阈值规则）、第 3 节（三级基准与 DecisionGym 设计）、第 4 节（JevAgentHarness 三组件）与第 7 节的 RQ1–RQ5；附录 A 的委托理论、E 的预注册方案、G.5 的表 1 行注是复核结论时必须对照的部分。引用时必须限定四点：节省比例是相对「LLM 单干」在特定任务集与硬件上的实测，且 81.1%–89.0% 只适用于在智能体自身状态上训练过的 4B 或 0.8B 模型，不是现成决策模型能达到的；「不丢 3 点」是非劣而非等价；编码智能体上的节省只有 7.0%–10.5%；阈值与模型都需要按智能体重新拟合并重训。 16
7. SpecAgent：弱模型起草、强模型单次预填语义校验，τ²-Bench 墙钟降到 41%、HBM 读取降到 43%
Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents · arXiv:2610.21463 · 值得扫读
研究问题与核心方法：工具型智能体靠长序列工具调用完成任务，主流做法让同一强模型生成每一步，服务成本随轨迹长度增长且由逐 token 解码主导。已有的分工方式都保留强模型作生成者：路由器按查询选模型，协作式智能体逐步决定谁出手，投机式方法则逐动作检查弱模型草稿是不是与强模型的行动完全一致，因此强模型仍须生成每一步参考动作。SpecAgent（本文方法）把强模型从「每一步的作者」改成「弱模型草稿的审阅者」。三个智能体特性决定设计：其一，草稿必须有据，弱模型起草时直接执行只读工具调用并拿到真实观察，因此每一步都基于实际返回而非想象；其二，有些动作不可撤销，弱模型在遇到第一个会改变环境的动作时停住并把它扣住，强模型在一次并行的预填（prefill）里审阅整段草稿，提交它判定语义有效的最长前缀，并修复第一个被拒的步骤，随后弱模型从只含已提交步骤的历史继续起草；其三，审阅必须比生成便宜——生成 K 步要解码 K 步的 token，审阅整段只过一次前向的权重读取。判据是「语义有效」而不是「与强模型自己的动作相同」，因为工具任务允许多条合法轨迹。作者来自香港科技大学（广州）的 LARK 实验室、Yinwang 与剑桥大学。 17
关键结果：
- 质量基本守住：在 τ²-Bench 上，弱模型为 Qwen3.5-4B、强模型为 Qwen3.5-397B-A17B 时，Airline 域 SpecAgent 的 pass@1 为 86.0，与强模型单干（Strong-only）的 86.0 相同，而弱模型单干为 80.0；Retail 域为 87.7 对强模型的 88.6（弱模型单干 80.4），补回弱强差距的 89%。配对 bootstrap 给出 SpecAgent 减强模型的差为 Airline 0.0 点（95% 区间 [−5.3, +5.3]）、Retail −0.9 点（[−4.7, +2.9]）。 17
- 其它两个基准补回差距的比例更低且差异明显：AutomationBench 补回 44%（10.5，区间 6.8 到 15.2），VitaBench Delivery 补回 75%（44.5，区间 34.0 到 48.0）。作者用弱模型是否可依赖来解释：弱模型在其三次试验里都解掉的任务上两者接近天花板，弱模型不可靠的子集上 SpecAgent 仍接近强模型（Airline 70.4 对 66.7，18 个任务；Retail 74.2 对 75.8，44 个任务）。 17
- 资源曲线：相对强模型单干，SpecAgent 把估计的显存读取（HBM-read）降到 Airline 43%–45%、Retail 53%–57%、AutomationBench 78%–84%、VitaBench 59%–65%；墙钟时间降到 41%、54%、57%、69%。但估计 FLOPs 反而上升 30%、38%、38%、87%（依次同上述四个基准）——节省来自把解码换成预填，而非算得更少。强模型调用数从 Airline 13.8 降到 3.1、Retail 13.1 降到 3.1、AutomationBench 17.4 降到 11.8、VitaBench 21.9 降到 8.2。 17
- 与协作式基线相比：两个基线都比强模型单干发出更多强模型调用。Speculative Actions 在 Airline 上为 17.4 次（强模型单干 13.8 次），在作者移植的发布实现里甚至低于弱模型单干（Airline 72.0、Retail 48.5）；AgentCollab 在 τ²-Bench 上接近强模型质量（85.3 与 85.7）但强模型调用更多（Airline 18.5 次）且更慢。SpecAgent 在 τ²-Bench 上质量不低于 AgentCollab（86.0 对 85.3，87.7 对 85.7），而 HBM 读取低 1.6–1.9 倍、墙钟低 2.6–3.1 倍，是表中唯一在每个基准上 HBM 读取与墙钟都低于强模型单干的协作方法。 17
- 边云部署（MCP-Atlas，101 个公开任务，真实 MCP 服务）：弱模型 Qwen3.5-4B 跑在一张本地 RTX 5090 上，强模型走各自云端 API。三个强模型下，SpecAgent 补回弱强差距的 53%–75%，而强模型只需解码其单干输出 token 的 36%–50%，API 成本降到 59%–81%。逐项看：Qwen3.5-397B-A17B 的 Strong-only 72.3 降到 59.4（强模型输出 3.6k 降到 1.8k token，成本 1.39 降到 1.12 美元）；GLM-5 为 76.2 降到 67.3（4.6k 降到 2.1k，10.07 降到 5.54 美元）；DeepSeek-V4-Flash-0731 为 84.2 降到 74.3（10.6k 降到 3.8k，1.37 降到 0.81 美元）；弱模型单干为 44.6。墙钟时间在此设定下不降（本地弱模型每任务约 109 秒，与托管强模型 105–151 秒相当）。 17
- 设计消融（Retail 域，逐项改动）：把审阅点也扩到只读段、或连回复一起扣住，会让强模型调用增加三倍以上、HBM 读取升高 63%–79%、墙钟升到 2.5–3.0 倍（超过强模型单干）而 pass@1 反而下降；去掉「把替换动作融进裁决」这条捷径，每次拒绝都要单独一次强模型回合，pass@1 掉到 82.5；把接受判据换成「与强模型自己会做的动作完全一致」同样掉到 82.5 且 FLOPs 增加 70%。 17
- 成本模型的可检验性：作者把「强模型每个已提交步骤的流量」写成裁决次数乘裁决长度比、加单独修复次数乘修复长度比，用日志 token 数算出预测值。τ²-Bench 上强模型大约每 7 个已提交步骤审阅一次，其解码 token 降到强模型单干的 17%–30%；观测到的强模型 HBM 读取占比在每个基准上与预测值相差不超过 0.01。 17
证据与局限：这是本单元少见的「先给成本模型、再用日志验证模型」的写法：命题 1 与 2 给出预测式，第 5 节用记录的 token 数与实测 HBM 读取逐基准对照（误差 ≤0.01），并把 FLOPs 上升这一反直觉结果明确归因于预填的算子特征，而不是藏起来。质与量的口径也清楚：pass@1 按基准原生成功率、每任务多条轨迹（τ²-Bench 与 VitaBench 各 3 条与 2 条）、配对 bootstrap 区间、资源为每轨迹均值且把弱模型草稿、被拒块、验证、修复与重试都计在内；八个任务并发以对齐墙钟比较。局限有三处。第一，收益的前提是「弱模型一步比强模型一步快」，作者明说这在边云部署里不成立，因此那里只换来远端用量与费用下降、墙钟不降；第二，估算 FLOPs 上升 30%–87%，Assumption 1 只在强模型副本的解码批小于计算与带宽平衡点（H20 上约 37 条序列）时成立，批量更大时解码变成算力受限，这部分节省会反转为时间成本；第三，VitaBench 的算力涨幅最大（87%）的原因被作者归为验证器与修复提示各带自己的模板、彼此不共享前缀，单任务强模型预填 28.4k 未缓存 token，其中 1.03 PFLOP 就超过强模型单干全部的 0.72 PFLOP——这说明该方法的效率强依赖提示工程与缓存策略。代码入口实测可访问：https://github.com/LARK-AI-Lab/SpecAgent 返回 HTTP 200。 17
与目标研究线的连接点：属于 A 线的「运行期执行控制」：它把「谁生成、谁提交」拆成两个角色，并用「可逆性」这条环境属性决定在哪里设检查点——只读动作立即执行、第一个写动作扣住送审。可直接搬走的有四样：一是「按可逆性设门」的控制粒度，比按步数或按 token 预算设门更贴合工具环境的风险结构；二是「语义有效而非动作一致」的接受判据，以及支持它的消融（改回严格一致后 pass@1 掉到 82.5、FLOPs 增 70%）；三是「裁决里顺带给出替换动作」的修复捷径，它让常见拒绝不额外花一次强模型回合；四是成本模型加日志核对的验证方式，任何想在自家服务上评估类似协议的人都能照用。与同节其它工作的差异：JevAgentHarness 与 Jev-LiteMAS 用有界选择题把决策从生成模型手里拿走，本文保留生成但把生成量压到裁决与修复上；RAC 在动作表示层做分工，本文在时间维度的草稿—提交协议上做分工。 17
结论建议：读第 3 节（问题形式化、草稿—验证—修复协议、效率分析的两个假设与两个命题）、第 4.2–4.3 节（主结果与边云部署）与第 5 节（成本拆解与设计消融）；附录 B.2–B.4 的请求形状、FLOPs 与 HBM 读取估算是复核「为什么 FLOPs 涨而时间降」的必要材料，附录 D 给出分块大小 K（τ² 与 VitaBench 取 6、AutomationBench 取 8）与全部提示。引用时必须限定四点：τ²-Bench 上「差一点以内」是配对区间跨零的结果，不等于等价；43–57% 与 41–54% 分别是 HBM 读取与墙钟，不是算力，算力反而上升 30%–87%；边云部署的时间不降、只降远端 token 与费用；所有节省都在解码受显存带宽约束、批量小于约 37 条序列的前提下成立。 17
8. DeciCAD：语义动作 harness 让 CAD 智能体 F1 由 0.6883 升至 0.7437
DeciCAD: Harness-Grounded Learning of Action Policies for CAD Agents · arXiv:2610.21755 · 精读
研究问题与核心方法：大模型智能体的动作空间不由模型本身决定，而由 harness（包在模型与执行器之间的那层接口：规定模型能发出哪些动作、能看到哪些状态、执行结果以什么形式回传）界定。CAD（computer-aided design，计算机辅助设计）是状态持续、几何约束强、流程长的专业域，一次建模要反复改草图、约束、特征与几何对象，检查中间结果，从失败中恢复，并在长轨迹里维持对象引用。作者问：CAD 智能体的 harness 应当怎样表示动作与状态，才能既保住复杂建模所需的决策，又不把与任务无关的表示负担压给模型。做法分三层。先形式化：harness 由动作集、动作到后端操作的绑定映射、执行后的观测算子构成，三者共同决定一个序列预测问题，作者称之为 Harness-Induced CAD Decision Space（harness 诱导的 CAD 决策空间）。再提 Semantic Decision Bottleneck（语义决策瓶颈）原则：合并行为等价的实现方式、去掉不影响下一步决策的状态信息，同时保留达成目标几何与从错误恢复所必需的动作与观测；形式化条件是 action sufficiency（动作充分性：任一可达状态上，模型动作里存在一个能取到最优回报的绑定操作）与 observation sufficiency（观测充分性：与同一段可见历史相容的所有后端状态共享至少一个最优下一步动作），两者合称 decision sufficiency（决策充分性），附录 B 用反向归纳给出定理与证明。最后据此实现 DeciCAD：语义 CAD 动作（把建模意图直接写成带类型的操作，如 Extrude(sketch=S3, distance=10mm)，而不是任意一段程序）、把动作绑定到持久 CAD 文档的状态接地、含失败类别与恢复方向的紧凑反馈，以及两级按需探查（需要更多状态时再取，而非每步倾倒完整文档）。其上的学习管线与 harness 同构：从交互轨迹重建因果条件下的动作监督，用监督微调（SFT，supervised fine-tuning）初始化，再用几何质量作奖励做在线强化学习（RL，reinforcement learning，此处实例化为带参考正则的 GRPO 与课程采样），教师轨迹、学生 rollout 与环境反馈留在同一决策空间。作者来自中国科学技术大学与南洋理工大学；项目页 github.com/PhysAGI/PhysCAD（实测 HTTP 200）。 18
关键结果：
- 四基准、同一 Claude Opus 4.7（CADPrompt 200 题、P3D-Text-to-3D 100 题、CADInstruct 100 题、P3D-Assembly-3D 203 题，下列四组数字依次对应这四个基准）：DeciCAD 的表面 F1 为 0.6583、0.4363、0.2349、0.3211，通用编码 harness（Claude Code）为 0.6544、0.4044、0.2010、0.3195；四项 Geometry Availability（能产出可评估几何的任务占比）均为 100%，IoU 也全面最高（0.7512、0.5422、0.2335、0.2707）。但 Chamfer Distance（CD）非最好：CADPrompt 上 CADSmith 的 0.26 低于 DeciCAD 的 0.28。原文表 1 把 F1 与 IoU 按 100 倍记（如 0.6583 记作 65.83），本条目统一换算为 0–1。
- 输出 token：文本到 CAD 任务上相对 Claude Code 减少 45–88%（摘要口径）。每任务输出量 Claude Code 为 9.37、85.57、110.64、23.02 千 token，DeciCAD 为 4.27、10.54、61.38、10.31 千（Table 1 下半块，原文声明该块只作描述、不参与排名）。
- 观测消融（P3D-Text-to-3D，Table 2）：完整 SDO 为 F1 43.63、可用率 100.00、每任务输入 390.54 千 token；粗化失败反馈 SDO-CFF 为 32.26、95.00、3,050；原始状态观测 RSO 为 21.62、55.00、3,450；只留执行反馈 EFO 为 31.75、87.00、3,200。
- 策略学习（Text2CAD/DeepCAD 800/200 划分，学生 Qwen3.5-9B、教师 Claude Sonnet 4.6，两路监督与采样对齐，Table 3）：DeciCAD 空间内 SFT 把可用率从 61.5 提到 66.5、F1 从 0.6883 提到 0.7437、IoU 0.6487 到 0.6631、CD 0.01023 降到 0.00782；编码空间内 SFT 把可用率从 12.5 提到 60.5、F1 从 0.5902 提到 0.6460，仍低于 DeciCAD 的基线。
- 在线 RL 的 harness 依赖（Table 4）：DeciCAD 的 SFT+GRPO 把可用率提到 73.5、F1 0.7880、IoU 0.7036、CD 0.00570；编码策略在同推理预算下可用率只到 65.5，F1 反降到 0.6253、CD 升到 0.02253。
- 行为层面（Figure 6，统一映射为 Construct、Inspect、Recover、Invalid Reference、No Progress、Persist 六类，单位每 100 次决策事件数）：编码空间 SFT 把 Inspect 从 51.6 推到 72.1，Construct 与 Recover 同降，GRPO 后 No Progress 由 18.9 升到 30.4；DeciCAD 空间 SFT 把 Invalid Reference 与 No Progress 从 18.0、33.4 降到 4.6、21.8，GRPO 再降到 2.1、8.8。
- 难度分层：DeciCAD 在 28 个数据集乘难度分位格中领先 14 格，并在每基准最难分位上高于 Claude Code。 18
与目标研究线的连接点：属 A 线（harness、脚手架与运行期执行控制），是本单元把「harness 本身是变量」讲得最彻底的一篇。可直接搬走三样：一是把接口拆成动作集、绑定映射、观测算子三段来对照，换任何领域都能先用这三段描述两个候选接口，再判断差别出在「模型说不出某个动作」还是「模型分不清两种状态」；二是观测消融的构造，同一 harness 下把反馈粗化（SDO-CFF）、观测换成原始状态倾倒（RSO）、只留执行成败（EFO），三类变体分别对应「反馈丢了恢复线索」「上下文被无关状态淹没」「缺少主动探查」；三是因果动作监督的筛法，按难度、设计阶段、前一步结果与动作类型分层采样，避免长轨迹与高频操作被过采样。与同节其它工作的差异：Scaffolding 改的是一条提示指令，LEASH 改的是运行期何时升级模型，DeciCAD 改的是模型与执行器之间的整层表示，并把同一表示贯穿 SFT 与在线 RL，因此是「表示决定可学性」目前最完整的单点证据。 18
结论建议：先读第 3.2 节（两条充分性定义）与第 3.3 节（三个组件），再看第 4.2 节 Table 1 与 Figure 4、第 4.4 节 Table 3、Table 4 与 Figure 6。引用须限定三点：口径为网格级 CD、表面 F1、体素 IoU 与几何可用率，不含约束满足与可编辑性；harness 级数字来自单一后端与单一前沿模型，换模型须重测；策略学习是单学生、单数据集、无多种子方差的一次性结果，不要把 0.6883 到 0.7437 写成跨任务的通用提升幅度。 18
9. CoWorld Reasoner：用视频世界模型当工具调用的 harness，MMSI 相对提升 11.8%
CoWorld Reasoner: Agentic Multimodal Reasoning with the Evolving Video World Model-Driven Harness · arXiv:2610.21910 · 邻近跟踪
研究问题与核心方法：视觉语言模型（VLM，vision-language model）在运动、动作、视角变化这类时空推理上，往往要回答输入图像本身没有展示的东西。视频世界模型（VWM，video world model）可以生成与任务相关的视觉内容作为补充证据，但既有做法通常把 VWM 挂在固定流水线里，只支持一种预设的想象形式（例如新视角合成），难以覆盖多样的推理任务。作者提出 CoWorld Reasoner：把 VWM 当作统一的视觉推理引擎来用的智能体框架。其 Video World Model-Driven Harness（视频世界模型驱动的 harness，此处 harness 指包住模型的工具、技能与编排外壳）通过工具暴露多种视觉操作，再用 skill（技能，存在模型权重之外的、可版本化的任务执行说明）引导 VLM 判断是否需要想象、选哪一种操作、如何构造生成请求、以及如何解读返回的视觉证据。作者进一步提出 VLM-VWM Harness Co-Evolution（VLM 与 VWM 的 harness 协同演化）：在模型权重都不更新的前提下，依据执行反馈联合修订工具、技能与执行代码。需要说明的是，本篇未取得完整原文：实测 https://arxiv.org/html/2610.21910v1/ 时 arXiv 返回该文没有 HTML 版本的提示页，因此以下所有数字仅来自摘要页，摘要未报告的项一概标注为原文未报告。作者为 Dongjie Cheng、Ruifeng Yuan、Ran Wei、Ning Song、Yongqi Li、Wenjie Li；机构在摘要页未给出，论文亦无 HTML 全文可核。 19
关键结果：
- 在覆盖空间智能、时序与因果推理、感知推理的七个基准上，CoWorld Reasoner 都优于同一 VLM 的直接推理，最强的变体在七个基准上全部提升；摘要只点名了其中 MMSI 与 ERQA 两个基准，其余五个基准的名称原文未报告（摘要口径）。
- 相对准确率提升（相对同一 VLM 的直接推理）：MMSI 上 11.8%、ERQA 上 13.0%（摘要口径，未给基线绝对值与置信区间）。
- 与五个使用同一骨干网络的演化类基线比较，CoWorld Reasoner 在五个基准上胜出（这五个基线的名称与判分口径摘要均未报告）。
- 摘要未报告的内容包括：具体是哪七个基准（除 MMSI 与 ERQA 外）、各基准的样本量、评测次数与种子、VWM 与 VLM 的具体型号与规模、协同演化迭代多少轮、以及任何成本或延迟数据。以上均为原文未报告。 19
证据与局限：本篇是本单元唯一没有拿到全文的条目，证据强度只能说「摘要级」：11.8% 与 13.0% 是相对提升，摘要没有给基线绝对值，也没有给区间或多次运行信息，无法判断这个幅度的稳定性；「在五个基准上胜出五个演化基线」这句话同样缺基线定义与判分口径。可复现条件无从核实——摘要与摘要页都没给代码仓库、项目页或数据入口，实测该文的 arXiv 页面上也没有指向官方实现的链接。引用风险因此集中在一处：这两个百分数只能作为「有提升」的方向性信号使用，不能写进任何与其它方法横向比较的表格，也不能声称它优于非演化类方法。 19
与目标研究线的连接点：就研究线归属而言，这篇跨越 A 线与 B 线：它的运行期形态是一个 harness（工具加技能加编排，属 A 线的执行期控制），而它的机制核心是 harness 与执行代码在权重冻结条件下的迭代修订（属 B 线的自进化闭环）。可迁移的一点是「把生成式模型包装成可调用的证据生产者」这一接口设计：真实世界里 TTS 与音频生成模型同样可以视为按需产出证据的引擎，由外层智能体先判断是否需要生成、再决定生成参数、最后把生成结果读回推理链路，CoWorld 的工具加技能两层分工可以直接套用到这类场景。第二点是把演化对象限定在工具、技能与执行代码三类、而把权重冻住——这使得演化过程本身可审计、可回滚，对任何要做自进化闭环的团队都是一个低成本起点。与同节其它工作的差异：DeciCAD 冻结权重但训练策略（SFT 与 RL 改的是权重），LEASH 完全不训练也不演化（只做打分与门控），本篇则不动权重、只改外围代码与技能，三条路正好构成「改表示 / 改权重 / 改外围」的三分对照。但要注意，本篇证据只到摘要级，本节其余判断都建立在摘要陈述之上。 19
结论建议：在只有摘要可用的前提下，建议把本篇当作方向提示而非结论来源：可用于说明「世界模型作为可调用证据源」这一思路已有人做成 agentic harness，并指出其协同演化只动外围不动权重。若需要引用具体数字，只引用 MMSI 相对提升 11.8% 与 ERQA 相对提升 13.0%，并明确写成「摘要报告的相对提升、无区间、全文未取得」。在做选题决策前，应先取得该文 PDF 全文核对基准构成、骨干模型与运行次数，本单元这一步未能完成。 19
10. FAOPs：把智能体工作流当作带作用域的定型函数，FNF-1 至 FNF-4 四级范式加三个扩展
FAOPs: Normal Forms and an Algebra for AI Agent Workflows · arXiv:2610.22061 · 邻近跟踪
研究问题与核心方法：机构越来越多把操作规程编码成多步 skill（智能体技能：存在模型权重之外、可版本化与检索的执行说明）；作者把这种有流程形状的技能称为 AOP（Agent Operating Procedure，智能体操作规程），并指出 AOP 目前多是粗粒度文件：一步里捆了多个动作，被复制的流程各自漂移，任何一步都能碰到任何工具，重构无人检查。受监管行业要求可追溯、可审计、可复现、受访问控制、时间与成本有界，而这些性质不来自模型本身，只来自围绕它搭出的多步流程。作者的答案是 FAOP（Functional Agent Operating Procedure）：把每个工作流写成对 scoped state（作用域受限的状态记录）的定型函数，再对整库做四级渐进范式归一。FNF-1（Decomposed，分解）把工作流拆成原子步骤，要求每个叶子最多携带一个变异效果，效果取自有限签名（如 opHTTP、opDB、opLLM、optool、opfile、opqueue、opplan、opcompute、nop）；FNF-2（Typed，定型）让数据流显式并类型检查，消除读到前面没人产生过的字段；FNF-3（Factored，因子化）把被复制的共享子流程收敛为唯一规范定义并要求调用图无环，排除悄悄自调用而永不终止的递归异常；FNF-4（Scoped，作用域）把每步限制在最小权限工具集内，编译期拒绝任何超出父级权限的步骤。作者另给出一个代数（独立步骤可交换、顺序组合结合、分支分配、折叠展开），使重构与并行化变成编译器改写；三个正交扩展叠在四范式上：+V（验证终止与可达性，循环必须声明强制上限 Nmax）、+O（语义保持的优化，如相邻独立步骤并行化、键不相交的中断合并）、+B（每个动作叶子声明时延与成本上界，并自底向上复算整条流程的上界）；再加一个架构级分类 λ（0 到 3），从归一后的函数体静态算出该用例是否需要模型、是把模型当工具还是当运行期规划器。工具侧是 SkillBase（词表、编译器、注册表）加一个独立执行器，编译产物为单一 blueprint，FAOP 感知的执行器直接运行，其它执行器通过 adapter 转成自己的 AOP 格式。作者为 Ali M. Shanghooshabad，署名机构 JPMorgan Chase & Co.。 20
关键结果：
- 本篇以理论为主：第 5 节标题为 Evaluation，正文只有一句话声明本文有意给出形式化、四个范式、代数与工具链，把完整实证研究留待将来；作者在 Limitations 中进一步写明，词表、编译器、注册表、执行器与实证研究都只做了描述、尚未报告结果。因此本条目没有来自本论文的量化结果。
- 唯一带量的自述是结论段的一句部署观察：作者自己的部署中新 agent 开发从数周缩短到数小时（原文未给样本量、项目数或统计口径）。
- 论据中引用的既有量化事实（均为被引文献的结果，不是本文实验）：一项对 40,285 个已发布技能的数据驱动研究报告普遍存在意图级冗余与未限定作用域的状态变更或系统级操作；一篇综述报告 26.1% 的社区贡献技能含漏洞；λA 对 835 个真实 GitHub agent 配置的审计发现 94.1% 结构上不完整。 20
证据与局限：证据形态是形式化定义、引理与定理（欠失叶子拆分引理、类型安全命题、作用域约束命题、代数可靠性定理、终止与可达性命题、资源上界命题），配一个贯穿全文的合成金融示例 issue_statement.v1。局限很清楚：没有实验数据、没有违反率统计、没有优化收益实测，工具链均属已描述未报告。口径上要注意：40,285、26.1%、94.1% 三个数字来自被引文献，不能当作本文的测量结果。代码与项目页：正文与参考文献都未给出官方仓库或项目页，本条目无处实测。 20
与目标研究线的连接点：属 A 线的执行期控制，但站在设计期一端：处理的是智能体工作流作为工程制品的结构完整性、隔离性与可组合性，而非某个运行期门控策略。可搬走三样：一是三段式拆解习惯——每个叶子只带一个外部可观测效果、数据流被类型化、作用域只能向下收缩，这三步可人工执行，不必等它的编译器；二是把技能库当成需要反向依赖索引的库来管，改一个共享子流程时能查出所有依赖方，这直接对应 B 线技能库演化里最易被忽略的传播与漂移检测；三是架构级 0 到 3 的分类，把「该用例需要确定性流程、把模型当工具还是运行期规划器」变成从归一后函数体算出的结论。与同节工作的差异：DeciCAD、LEASH、Scaffolding 都跑实验，本篇完全不跑，价值在于给 harness 与技能库提供一套可写成编译期检查的词汇。 20
结论建议：建议读第 3.1 至 3.4 节（四个范式各消除什么异常）与第 3.5 节的代数律，这两处可直接转成自查清单；第 4 节工具链与第 3.7 节架构级分类可快速浏览。引用须限定三点：本文无任何实验或上线测量，凡涉及提升或降低风险的说法都不能归给本文；40,285、26.1%、94.1% 转引时须保留原出处；「从数周缩短到数小时」是作者自述，不应作效率证据。 20
11. LEASH：弱模型隐状态不确定度触发升级，OSWorld 成功率 73.66%，每任务 $0.4117
LEASH: Uncertainty-Aware Weak-to-Strong Escalation and Oversight for Computer-Use Agents · arXiv:2610.22280 · 精读
研究问题与核心方法：computer-use agent（计算机操作智能体，把自然语言指令与屏幕观察转成可执行动作）越来越多用于长程任务，有些任务平均要跑一个多小时；每步都调用前沿模型太贵，只用一个小开源模型又常常直接失败。weak-to-strong escalation（弱到强升级，简写 W2SE）是折中：默认由弱智能体执行，必要时把控制权交给强智能体。作者摆出两个被忽视的问题：何时该升级——需要一个便宜到能每步都算的不确定度信号；交接之后谁来看住强智能体——强模型通常以黑盒 API 提供服务，内部状态不可见，而口头信心在长程上下文里不可靠。框架叫 LEASH（Latent uncertainty for Escalation And SHadow oversight），完全免训练，用弱模型隐状态里的不确定度同时驱动升级与看管，分三层：初始任务不确定度用于开局路由；步级不确定度用于运行期升级；交接后弱模型把角色从 actor（执行者）换成 shadow observer（影子观察者），每三步在同样的动作 token 位置上抽一次隐状态继续打分。不确定度的构造是参考系比对：先在一小批留出任务上跑弱模型的无升级轨迹，抽两类末层表示——任务查询 prompt 最后一个 token 的表示与每个执行步最后一个动作 token 的表示——与结果配对建表示库，查询库用任务级 Pass 或 Fail 标注，动作库用 Manager（管理器智能体，把任务拆成子目标并核验完成）给的子目标段落结果标注。打分时对每个通道拟合共享协方差的高斯判别模型，先把表示按库统计量标准化，再用平方马氏距离比较离成功参考近还是离失败参考近，不确定度定义为两者之差，越像失败分越高。阈值按留出集分位点标定，先定初始升级比例再反推运行期比例，使总升级率命中预算。运行期打分复用动作生成时已算过的激活，不额外做前向；影子探针触发时丢弃强智能体的待执行动作，让其以更高推理强度重新决策，每个任务最多六次干预、两次改变动作后即停。作者来自 Simular 与威斯康星大学麦迪逊分校。 21
关键结果：
- 主表在 OSWorld 上跑，任务池 262 题、每题 50 个动作预算，四个开源弱骨干加 Claude Opus 5 作强模型与 Manager，对照是同一升级率下的随机升级（取 10,000 次随机分配的均值）：EvoCUA-8B 由单独 42.37% 提到 67.18%（升级率 45.4%、每任务 $0.3627，随机升级 59.98%、$0.3031）；Nemotron-3-Nano-Omni（30B-A3B）由 45.04% 到 66.03%（43.1%、$0.3500，随机 55.41%）；Qwen3.8-27B 由 51.91% 到 69.85%（51.1%、$0.3622，随机 63.30%）。
- 最强一组：Qwen3.5-35B-A3B 单独 37.40%，LEASH 在 64.1% 升级率下取 73.66% 成功率、$0.4117；常开 Claude Opus 5 为 72.90%、$0.5094，常开 Claude Sonnet 4.5 为 59.16%、$0.4038，即比常开 Opus 便宜 19.2% 而成功率略高。
- 升级率对齐后的优势为 6.55–11.94 个百分点；按 performance-gap 口径，LEASH 回收弱模型与常开 Opus 之间差距的 75–102%，随机升级只有 37–69%，代价是常开 Opus 成本的 69–81%。
- 组件消融（Qwen3.5-35B-A3B）：弱模型单独 37.40%；只加 Manager 41.15%、$0.1372；再加不确定度升级 67.94%、$0.4050；再加影子看管与检查点干预即完整 LEASH 73.66%、$0.4117——升级贡献最大，影子看管在几乎不增成本下再加 5.72 个百分点。
- 门控配置消融给出一个反向结果：只开初始门 59.92%、$0.3122，只开运行期门 71.65%、$0.4169，完整 73.66%、$0.4117；原文明确承认这个消融没有显示在运行期门控之外再加初始门控的好处。
- 影子看管打到哪类任务（Table 5）：影子触发的 31 题上，常开 Opus 仅 51.6%、无影子 48.4%、有影子 64.5%；升级但未触发的 137 题上三者分别为 74.5%、69.3%、74.5%。
- 与既有方法比（EvoCUA-8B）：StepWise 在 49.6% 升级率下 58.40%、$0.2824，Progress Advantage 在 46.9% 下 62.98%、$0.3533，LEASH 在 45.4% 下 67.18%、$0.3627。
- 不确定度估计本身的效度（AUROC，初始用任务结果、运行期用子目标结果）：运行期作者提出的池化线性判别在两个骨干上都最高（Nemotron-3 0.609、Qwen3.8-27B 0.575），原文自评整体仍属中等；初始阶段池化法对 Nemotron-3 最好（0.749），对 Qwen3.8-27B 反不如基于输出概率的基线（0.600 对 0.671）。
- 时机与库规模：易升级子集上 LEASH 以 $0.67 拿 64.6%，把交接时机打乱后是 $0.79 拿 60.4%（差 4.2 个百分点、成本低 15%）；参考库从 40 涨到 99 时初始阶段 AUROC 由 0.701±0.100 升到 0.770±0.021（Qwen3.5-35B-A3B）。 21
与目标研究线的连接点：属 A 线，落在运行期执行控制，且少见地把资源分配写成显式约束：目标是在总升级率上限下最大化成功率，阈值由预算反推。可搬走四个机制：一是用弱模型自己的隐状态当分数，不需要外部知识库、第二个参考模型、每步多次采样，也不训练监控模块，唯一前提是弱模型层激活可得；二是参考库的两类 token 位置（任务查询末 token 与每步动作末 token），把「任务选错」与「执行走偏」分开，比单一不确定度更有诊断力；三是影子看管，把已付过钱的弱模型在交接后原地改成观察者，在强模型内部不可见的前提下仍取得监控信号，并以「丢动作、加强推理重做」为干预，还设了干预预算；四是消融组织方式，把 Manager、升级、影子三层逐一叠加并同时报成功率与成本，让读者看到每层的边际价格。与同节差异：DeciCAD 改的是表示层并且要训练策略，Scaffolding 改的是一条提示指令，本篇不训练、不换表示，只加一个打分与门控层，是三者中工程改动最小、最接近可直接部署形态的一篇。 21
结论建议：建议按第 3.2 节（参考库与马氏距离）、第 3.3 节（两级门控与阈值反推）、第 3.4 节（影子看管与干预预算）、第 4.2 节 Table 1、第 4.4 节 Table 4 与附录 A.1（命题 1 的证明思路）读。引用须限定四点：成功率与成本全部来自 OSWorld 的 262 题、每题 50 动作，离开该口径不能外推；凡说「同成本下更强」都要同时给出实现升级率；影子看管的收益只在 31 题触发子集上做过分折，不能当全量增益；运行期不确定度 AUROC 只有 0.575–0.609，不要写成可靠的失败预测器，它是一道粗门控。若只取一条结论：把弱模型在交接后转为观察者的成本近乎为零，而它在最难的那一档任务上把成功率从 48.4% 抬到 64.5%。 21
12. Stop-and-report：只改一句回控指令，ARC-AGI-3 平均 RHAE 提升 1.4–7.3 个百分点
Improving Environment-Agnostic Coding Agents: The Role of Scaffolding · arXiv:2610.22289 · 值得扫读
研究问题与核心方法：一种流行判断是模型越强就越能自己搭出有用的过程，开发者提供的 scaffold（脚手架：提示词、工具、记忆机制与控制逻辑这层外壳）的价值会随之下降。作者用一组只差一句话的对照检验它：同一个基于 Codex 的智能体、同一份代码与工具，在两个提示变体下分别跑三个环境，唯一差别是 continuation_string.txt 里的一句回控指令——Baseline 让它一直做到完成，Stop-and-report 让它在遇到问题、歧义或任何不确定如何行动时先停下并回报。回报对象是脚本控制器而非人：控制器只用同一条指令加一句目标提醒恢复同一段会话，不给任务级建议；「与环境无关」在此指实现不变，而非保证每个环境都成功。作者另设两个 ARC-AGI-3 专属对照：twma_v1.61 是作者早前文本智能体的更新版，按关卡与尝试次数组织观测并托管 RESET；Controlled_RESET 只在 Stop-and-report 上加复位管理，禁止 Codex 自己调用 RESET，改由控制器在 GAME_OVER 时发出。三个环境为 ARC-AGI-3（视觉规则发现）、AGI Maze（有状态迷宫）与 Terminal-Bench 2.1（命令行实务）。作者为 Sergey Rodionov，署名机构 SingularityNET；框架 EnvTraverse 与本文评测的 Baseline 智能体开源于 github.com/astroseger/envtraverse（实测 HTTP 200）。 22
关键结果：
- ARC-AGI-3 主结果（每格为三个评测块均值，每块 25 个公开游戏各玩一次；四档为 GPT-5.5 high 与 xhigh、GPT-5.6-sol xhigh 与 max）：Baseline 的平均 RHAE 依次为 27.57、50.45、70.81、89.59，Stop-and-report 为 34.86、52.36、77.33、90.96，四档全部更高，增益约 1.4–7.3 个百分点。
- 同表两个专属对照更高：Controlled_RESET 为 45.92、61.44、84.59、93.31，twma_v1.61 为 53.19、71.11、92.24、97.86。最强的 GPT-5.6-sol max 下 twma_v1.61 仍比 Stop-and-report 高约 7 个 RHAE 点；加脚本化复位管理只回收两者差距的大约三分之一到五分之三，并未追平。代价同向：Stop-and-report 在 ARC-AGI-3 每档的成本 token 都比 Baseline 多约 2–52%。
- AGI Maze（每块 106 个目标，取标识 0005 与 0009 各 53 个；四个模型与强度乘单迷宫与教程课程共八组比较）：Stop-and-report 的 RHAE70 在八组上全部更高，增益 0.37–4.95 个百分点，成本每组增加约 7–39%；GPT-5.6-sol max 单迷宫由 69.35 升到 71.87、课程设置由 68.03 升到 72.98。前置七个教程并不普遍有利：它把 GPT-5.5 两个强度下两个变体的分数都拉低，在 GPT-5.6-sol xhigh 上对两者都有帮助，在 max 上方向混杂。
- Terminal-Bench 2.1（每块 89 题，verifier 奖励百分比）：Baseline 为 79.40、82.77、84.27、86.89，Stop-and-report 为 80.90、82.40、86.52、85.39，差值在 −1.50 到 +2.25 个百分点之间、方向不一致；原文明确声明这不足以说明 Stop-and-report 至少与 Baseline 等效。
- 口径：ARC-AGI-3 用基准自报的 RHAE（Relative Human Action Efficiency，相对人类动作效率）；AGI Maze 用作者定义的 RHAE70，参考动作数取该基准 max_steps 的 70%，未解出计 0，否则按 100 乘 min(1, 0.7 乘 max_steps 除以实际动作数之平方) 计；成本用归一化成本 token，原文声明它是定价启发的代理量、不是算力标定值。 22
与目标研究线的连接点：属 A 线的执行期控制，落点在控制权何时交回外层。三条机制都很小但可直接用：一是 stop-and-report 式回控点，不让模型自我反思，而让它在不确定时把控制交回外部脚本、由脚本用固定提醒重启同一段会话；二是把已写进环境描述的规则挪到脚本里执行，Controlled_RESET 没加任何新规则，只把已有复位约定从模型判断改成控制器固定动作，就回收了约三分之一到五分之三的差距。与同节差异：DeciCAD 改的是表示层，LEASH 改的是何时升级模型，本篇改的是一条提示指令加一个脚本控制器的分工，改动最轻。 22
结论建议：建议读第 4.3 节（两个变体唯一差别的那句指令）、第 6.2 节（Controlled_RESET 的做法）、第 7 节（度量与协议）、第 8.1 与 8.2 节的 Table 1 与 Table 2。引用须限定三点：数字来自四个模型与强度配置、三个环境族，属描述性均值差，不要写成统计显著；增益伴随成本上升，引用提升时要带成本；RHAE70 的 0.7 系数是经验阈值，跨研究比较其分数时不可默认同口径。 22
二、记忆、上下文与状态管理
1. Context Injection：逐组件打分，无关上下文 20/20 种子击穿计数器，本地处理未见同量级损伤
Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking · arXiv:2610.20633 · 值得扫读
研究问题与核心方法：长程失败通常被压成一个数：端任务成功率，或能撑多久。作者认为它把三件事混在一起：能不能接上很久以前看到的、能不能把当前输入处理对、能不能守住一个必须每步从自己上一步输出里重写的值。他们造了一个 400 步的台账任务，每步单独看都简单：第 0 步一次性给规则，此后每条消息给一条记录（4 字符代码、两个整数、随机 token），模型为每条记录回一行四字段——计数器（到本条为止已处理的条数）、代码大写、两整数之和、原样抄写的 token；若代码此前出现过，必须回答 DOUBLON。历史里注入的是模型自己上一步的回答而非标准答案，即保留 self-conditioning（自我条件化）。评分不按整体成败而逐组件算：格式、重复识别、计数器、代码、求和、token 各判对、错、不适用或不可观测，彼此无优先级，一步只有在该组件可观测时才进入其风险集。结果读成风险率（hazard：同组件此前无错的前提下第 k 步出错的概率）而非生存曲线，因为孤立小错会主导首次失败步的分布，而恒定错误率也能造出看似衰减的曲线。实验本地跑：Qwen3 经 ollama、Q4_K_M 量化、温度 0、top-k 1、seed 0、上下文 40,960 token、非思考模式、20 个种子，两机复现（M1 为 Apple 芯片 Mac，M2 为 NVIDIA A40）。注入块四臂：裸跑、每步前重复规则、每步前列出已见代码、以及等长的无关文本加假代码。作者另报告一处修正：原评测器给每行一个互斥标签，高优先级错误会遮住同一行低优先级的错误，恰好可能凭空造出「无关上下文重创计数器」；外部审阅后改为逐组件评分并重算全部读数。作者为 Thomas Serval，署名 Baracoda AI Labs 与 NEOMA Business School；代码、日志、预注册与封存文件开源于 github.com/Baracoda-ai-labs/context-injection-long-horizon（实测 HTTP 200）。 23
关键结果：
- 重复识别在第 200 步之后才坏，计数器全程不坏（Qwen3-8B）：重复识别风险率由 0.0019 升到 0.011（M1 在 3,713 步风险里 7 错、1,063 步里 12 错，单侧 Fisher p = 1.5×10⁻⁴；M2 为 0.0016 到 0.011，p = 3.5×10⁻⁵），两者都通过参考族 Holm 校正；种子层面第 200 步后的错误率是之前的 8.9 倍（M1，95% 区间 5.2–22）与 12 倍（M2，6.3–35）。同期计数器在每台机器 8,000 步中零错误。
- 上升来自两类事。这里的「距离」指同一代码的重复出现与它首次出现相隔的步数，分 5、40、150、300 四档：只有 5 与 40 两档横跨第 200 步两侧，这两档的漏判没有上升；上升的是长距漏判（第 200 步后在距离 150 上 80 次错 20 次、距离 300 上 80 次错 8 次）与虚警（新代码被报成已见过：之前 3,860 步里 1 次，之后 3,740 步里 39 次）。本地处理只算描述性稳定：M1 在六个步长切片（0–25、25–50、50–100、100–200、200–300、300–400 步）内每步错误率 0.0037 到 0.0049，第 200 步后的比率是之前的 1.3 倍（0.82–2.3），M2 为 1.5 倍（1.0–2.6），区间未排除同等量级的上升。
- 无关上下文对计数器的破坏远大于对本地处理的破坏：注入无关块的臂让计数器在 20/20 个种子上出错（M2 与 M1 都是 20/20，比例区间 0.83–1，裸跑臂 0–0.17，配对精确检验 p = 9.5×10⁻⁷）；一旦坏掉很少恢复，该臂下 M2 的 8,000 行里 5,072 行计数器是错的。本地处理上，M2 每适用步错误率裸跑 0.0077、无关块 0.0058、已见代码块 0.0057，同种子配对比率 0.75（0.49–1.2）与 0.74（0.45–1.2）——原文明说这些区间不能证明本地处理未受影响，能说明的是量级差异；两者之差（对计数器的影响减对本地处理的影响）M2 为 0.64（0.53–0.73）、M1 为 0.69（0.60–0.77）。
- 三个预注册后续针对计数器。把模型历史里自己那行的计数器替成真值加 10 后，20/20 个种子把偏移原样传下去、无一自我纠正，而每步前置一句真值提醒时，20/20 个种子都重新对齐，重新对齐所需步数的中位数为 1 步、最多 2 步；把与「列出已见代码」同形但代码无关的块与它配对比较，比值 0.91（0.34–2.5）判为不结论，描述上更像「列出已见代码」而不像无关块，作者据此撤回了原先「内容导致破坏」的读法。在每步都注入无关块的条件下，计数器在裸注入下 20 个种子里失败 15 个、每步前置真值提醒下 0 个、等长中性文本下 19 个、只提醒一次下 15 个，出错行占比依次为 37%、0%、43%、21%；真值提醒优于等长中性文本（p = 6.5×10⁻⁵并通过 Holm），但「不损伤其他组件」的判据未达标（本地处理比值上限 1.6 超过封存的 1.5 界），且提醒来自实验性 oracle 且每步重复，必要频率未确立。 23
证据与局限：证据上最值得学的是它对自身结论的克制：把「没有效应」与「没检验出效应」分开（凡说稳定处都给效应区间）、把预注册族与事后稳健性分析分开声明、报告被推翻的封存预测。有效性质控是一个 canary：每 20 步窗口的抄写回声率低于 0.9 即剔除该次运行，212 个 episode 无一被剔除。关键局限：任务只有一个合成法语族、计数器是 +1 这种平凡递增，求和任务上已有他人报告相反结果，因此不能推广到算术状态；模型族只有一个、Q4_K_M 量化、贪心、非思考模式；每条件 20 个种子，重复规则臂在 M2 只有 8 个、M1 只有 4 个；无关块按「规则加代码」匹配、因此比代码块长；距离与在剧集中的位置在设计上纠缠。引用风险两处：修订后已从「无关块不比裸跑差」撤回为「不能排除它本身把重复识别错误翻倍」；后续实验的封存区间退化，不能用它宣称降低至少 80%。数据由作者本地生成并使用 Claude Code 协助运行与分析。 23
与目标研究线的连接点：属 A 线，落在评测口径与上下文管理的交叉点，是本单元对「长程可靠性该怎么量」回答得最细的一篇。可搬走四样：一是逐组件评分取代互斥标签，把每条输出拆成互不遮蔽的组件、各自打分，只在该组件可观测的步上进入风险集，自建长程评测值得先查判分器有没有这种遮蔽；二是用风险率而非生存曲线读数，把「一次性小错」与「系统性退化」分开；三是注入块的四臂对照，把笼统的「上下文变长会变差」拆成可归因的几种；四是最有操作含义的设计假设——需要被带住的状态应显式、反复地陈述，而不是交给模型自己的历史，但它只在受控实验里成立（状态来自 oracle、提醒每步重复）。与同节 AbridgeKV 的差异：那篇在表示层面压缩 KV 以省显存，本篇问的是往上下文里加什么才安全，两者覆盖「该丢什么」与「该补什么」。 23
结论建议：建议读第 3 节（任务与四臂设计）、第 4 节（风险率与多重比较）、第 5.1 至 5.5 节与第 8 节的局限清单。引用须限定四点：结论限于一个合成法语台账任务、Qwen3 系模型、Q4_K_M 与贪心非思考解码；计数器是平凡的 +1 递增；「无关上下文重创计数器」只在计数器上成立，对重复识别要按撤回后的说法；凡引用「稳定」类判断都要带上区间。 23
2. AbridgeKV：把推理链压进学习到的 pause token 的 KV，保留四分之一缓存即可对齐全量 KV 精度
AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens · arXiv:2610.20641 · 邻近跟踪
研究问题与核心方法：长思维链解码显存受限：KV cache（键值缓存，注意力机制为已生成 token 保存的键与值）随测试时算力线性增长，限制批大小的是它而非模型权重。淘汰式做法不解决根本问题，因为模型从未在「被删过条目的缓存」上训练过。AbridgeKV 改成训练模型压缩自己的输出：回复按 512 个 token 一块切开，一块写完就让一组可学习的 pause token（暂停 token：有可训练嵌入、不产生输出 token 的额外输入 token）去读它，把摘要写进自己的 KV 条目（作者称一个 pause token 在一层上的 KV 条目为 code row，编码行），该块原始 KV 随即释放，后续 token 改注意这些编码行。训练就是普通的下一 token 交叉熵，整条回复在一次前向里按块掩码计算，后面块的损失回传给读它的 pause token。三个选择是关键：位置取块内部而非块之后（第 k 个 pause token 放在把 k 比特反转后乘块长的偏移上）；预算按层实测价值分配（把每层配额砍半、量留出交叉熵增量，最贵的 6 层提到 256 行、最便宜的 12 层降到 64 行，再重训）；块较大。所有臂从 Qwen3-4B-Base 出发，在同一批 2B 回复 token 的数学 SFT 数据上同序微调；评测用自建的 446 题竞赛题集（AIME、HMMT、BRUMO、CMIMC、SMT、AMC），每题 8 采样、32K 上限，报 avg@8，并与同预算的全量 KV 微调模型逐题配对。作者来自 Princeton University 与 Microsoft Research。 24
关键结果：
- 32K 上限、446 题、avg@8：全量 KV 的 SFT 参考 43.8，分层配额版 AbridgeKV 43.0，配对差 −0.8（95% 区间 −2.3 到 +0.8），落在「只换数据种子重训一次全量 KV」的离散度内（标准差 0.8 分）；持久 KV 从每 512 生成 token 512 行降到 128 行，即保留四分之一缓存；短解的 MATH-500 上两者为 88.1 与 87.5。生成长度分布与全量 KV 的距离为 0.024、只换种子的重跑为 0.017，本样本量下 0.032 才算显著，两者都不显著（R-KV 为 0.33）。
- 三个设计选择用同一口径消融：把编码行改放到块之后掉 8.5 分（只比较块内与块后位置时为 6.2 分，4.6 到 7.8），均匀配额掉 2.3 分（−3.8 到 −0.9），按实测价值分层把其中 1.6 分（0.1 到 3.0）收回。
- 与淘汰式方法比：同样保留每块 128 行时，按近因、随机、累积注意力分数三种策略分别比全量 KV 掉 7 到 20 分，且 38% 到 58% 的样本写到 32K 上限（只在 60 题子集上跑）；为长推理设计的 R-KV 在 4096 行预算下与 4:1 臂在噪声内（−0.4，−2.1 到 +1.2），但它有 32% 的样本写到 32K 上限、平均比全量 KV 多生成 40% 到 69% 的 token，完成一题反而更慢；训练式压缩器 LightThinker 在同一数据与引擎下每约 53 个 token 压成 10 行，得 33.3 分、比全量 KV 低 10.5 分（−12.5 到 −8.7）。
- 服务端实测（单张 H100 加自制 vLLM 补丁）：每序列常驻 KV 比全量 KV 小 3.54 倍（理论上限 4 倍），同样 8 GiB 缓存能装 22 条序列而不是 6 条，饱和状态下完成一题用 0.31 倍时间。在模型自己的 AIME 解答里植入随机四位值后，来自 51 题的 93 份改后解答共 372 个用例的召回率为 73%（95% 区间 66% 到 79%），全量 KV 为 98%，去掉该块编码行时为零。 24
证据与局限：所有臂共用同一基座、同一批 2B token、同一顺序与同一评测采样，每次比较都是逐题配对；作者量化了噪声底——只换数据种子重训全量 KV 会带来 0.8 分标准差，并在单基准上出现一正一负的反转，因此强调要合并成一题集才有分辨力，这让「−0.8 分等于打平」站得住。三条局限原文都写了：结果建立在作者自己的 SFT 之上，没有在已发布的强化学习检查点上训练；压缩比按块固定；逐层配额来自单层测量并假设削减代价可加，实测却不可加。三处口径：淘汰类基线只在 60 题子集上跑，其绝对值与主表不可比；R-KV 每个预算都对着比自己略小的本方法预算比较，因此「噪声内打平」不偏袒本方法。原文只声明将放出代码与检查点，未给仓库地址，本条目没有可实测入口。 24
与目标研究线的连接点：不在四线的对象上（不动智能体、不训策略、不做音频），属邻近跟踪，价值集中在上下文与记忆的表示层。第一，它给出一个明确判断：压缩该学、不该规则化地删——思维链会在不可预测的后续位置复用中间结果，历史注意力分数预测不了这件事，被淘汰的条目也不留表示。第二，位置约定可搬：把摘要放进它替代的那段内容的坐标里，既避免位置膨胀，也让后查询与摘要的距离接近原始内容，这一条单独值 6.2 分。第三，预算按实测价值分配到层，且测量必须在训练后的压缩模型上做（用未压缩模型的注意力当代理会指反方向），这条「先训中性配置、逐单元消融、按代价重分配、再重训」的流程与 DeciCAD 用观测消融确认哪些状态必须保留属同一类方法。作者指出它与长跑编码智能体现有的 compaction（把累积内容与推理重写成文本摘要）互补，并认为对截图这类难文本化的模态，KV 空间可能比文本摘要更合适。 24
结论建议：建议读第 2.1 节（布局、掩码与位置）、第 2.3 节（分层配额流程）、第 4 节 Table 1 与 Figure 3、第 6 节局限。引用须限定三点：数字须按 446 题合并题集与逐题配对口径引用，单基准约正负 5 分不足以分辨这些差值；所有臂都从作者自己的 SFT 出发，不能写成对任何推理模型都成立；显存与耗时数字来自单张 H100 上的自制 vLLM 补丁，与 R-KV 比较时对方拿到了略大的缓存。 24
3. SJC 来源判定式摘要压缩：硬任务 pass³ 提升 12.7 个百分点，四个设置提升 2.1–8.9 个百分点且 token 不增
Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents · arXiv:2610.20927 · 精读
研究问题与核心方法：长程智能体（long-horizon agent）每走一步都累积工具输出、失败尝试与推理痕迹，主流做法是在上下文超出预算时触发 compaction（上下文压实：由一个独立的压缩器把较老的历史换成一段自然语言检查点，智能体从检查点接着往下走）。作者指出这类检查点混着两类内容：环境真正产生过的事实，以及压缩器自己写下的计划、决策与解读；压实之后智能体无法再把两者区分开。他们收集了 29 个主流智能体系统的压缩提示词，其中 21 个明确向压缩器索要「决策」或「下一步」（18 个要决策、17 个要剩余工作），于是每个压缩边界同时变成一次推理步。方法 SJC（Source-Judged Compaction，来源判定式压缩）是一个免训练的后处理层：不改智能体、不改压缩器提示词、不改运行时，只在压缩器输出结构化摘要之后做三步。第一步 Generate，宿主压缩器照原格式产出候选摘要。第二步 Judge sources，把摘要拆成条目（保留小节标题），用 BM25（一种基于词频的稀疏检索打分函数）从被压缩的历史片段里为每条条目取出相关环境输出，每条取前 3 个 300 字符片段并展开到不超过 2,000 字符，汇总成一个共享证据集，然后由判官一次性给所有条目打分。判官是 Jev-1.13，一个非生成式决策模型，它回答的是「该条目是否含有来自环境输出或上一份检查点的信息（数值、名称、结果、环境行为），而不是只表达计划、决策或对任务的解读」，返回一个校准过的「是」概率作为来源分数。分数是 p，固定提示词只作为背景、不算来源。第三步 Prune and commit，分数低于阈值 τ=0.5 的条目整条删除，保留的条目与原摘要逐字一致、结构不变；被剪过的摘要既给智能体看，也作为下一次压缩边界的「上一份摘要」。因此这个方法只做删除，不重写、不添加。作者来自 University of Virginia。25
- 摘要里确实塞进了大量无来源推理。对 OpenClaw（一个开源智能体框架）的结构化压缩器在 AppWorld 训练集（90 个任务、3 次运行、GPT-5.6 Luna）上产出的 667 份摘要、26,881 条条目做统计：Exact identifiers（精确标识符）小节仅 3.4% 无来源、Constraints/Rules 11.1%、Decisions 21.0%、Open TODOs 67.7%、Pending user asks 86.1%，全量 17.9%。25
- 无来源推理会被反复重造，而不是被继承下来：前一条无来源推理只有 20.5% 会出现在下一份摘要里，5.3% 出现在三份之后；但每份摘要平均总含约 4 条（首份 4.3、第二份 3.9、之后 3.8）。首边界无来源占比最高（全部条目 29.2%、推理条目 54.9%），第 2 边界降至 16.6% 与 39.6%，第 3 边界及以后 12.6% 与 29.6%。25
- 失败可追溯到具体条目。作者把 Prompting 基线在训练集上的 44 个失败运行逐条回溯，其中 9 个属于参考解与环境数据自相矛盾的场景（b0a8eae，所有方法都解不出）被排除，剩余 35 个里有 29 个的失败动作在执行某一条摘要条目；把 29 条与控制它们的前置环境输出对照，22 条无任何输出支撑、3 条与环境输出相矛盾、只有 4 条有支撑（两轮独立标注对「失败动作是否执行摘要条目」在全部 44 个运行上一致）。按场景与失败模式去重后是 15/19。失败模式分布为 rewritten constraints（改写约束）15、invented deliverable（凭空发明的交付物）5、contradicted state（被环境输出否定的状态）3、other 6、与摘要无关 6。25
- 主结果（AppWorld test-normal，168 任务，三次独立运行）：GPT-5.6 Luna 作智能体与压缩器时，无压缩参考 84.1±0.9 Acc / 78.6 pass³，Prompting 基线 76.8±1.6 / 64.3，Prompting+SJC（Jev）82.1±1.8 / 73.2；MiniMax-M3 时无压缩 85.3±3.0 / 73.8，Prompting 74.8±1.9 / 55.4，+SJC 78.0±1.0 / 62.5。pass³ 指三次独立运行全部解出该任务的比例（下同）。25
- OfficeBench（95 任务）上：GPT-5.6 Luna 的 Prompting 为 78.9±1.1 Acc / 68.4 pass³，+SJC 为 80.0±2.8 / 73.7；MiniMax-M3 的 Prompting 为 84.2±0.0 / 74.7，+SJC 为 83.2±2.8 / 76.8——即 pass³ 在四个设置里全部上升（相对 Prompting 基线分别提升 8.9、7.1、5.3、2.1 个百分点，依次为 AppWorld+GPT-5.6 Luna、AppWorld+MiniMax-M3、OfficeBench+GPT-5.6 Luna、OfficeBench+MiniMax-M3；原文也写作 2.1%–8.9%，并注明所有差异均为绝对差），但 Acc 只在三处上升，OfficeBench 的 MiniMax-M3 上是下降 1.0%。25
- 增益集中在难任务与多应用任务。AppWorld 上 GPT-5.6 Luna 的 medium 与 hard 子集 pass³ 分别提升 10.4 与 12.7 个百分点（hard：Acc 57.1±3.2→65.1±1.6、pass³ 39.7→52.4），MiniMax-M3 分别提升 10.4 与 6.3 个百分点；OfficeBench 3-APP 的 GPT-5.6 Luna 上 pass³ 从 41.9% 升到 54.8%、Acc 从 59.1% 升到 64.5%。12 个「基准×模型×子集」分组里 pass³ 十升一平一降，降的那组是 OfficeBench 1-APP 的 MiniMax-M3（90.5%→88.1%），该组 Prompting 已接近饱和。25
- 开销：判官每次压缩只发一次请求，输入上限 29.0K token（Jev 上下文 32K）；每任务判官成本低于 0.002 美元，折合每 1,000 任务 1.19–1.52 美元（输入价 0.042 美元/百万 token）；剪掉 13%–21% 的条目，摘要长度缩短 14%–27%；累计智能体+压缩器 token 相对 Prompting 变化为 AppWorld −8.0%（GPT）与 −2.9%（M3）、OfficeBench −1.3% 与 −7.0%。相对无压缩执行，峰值输入低 27%–54%，但在 AppWorld+GPT 上仍多用 6.9% token（因为压实本身多 5.8 步）。25
- 阈值与选择性剪枝。Jev 分数呈双峰：73.9% 的条目分数不低于 0.8，10.6% 低于 0.2，只有 8.1% 落在 0.3 到 0.7 之间；τ 从 0.3 移到 0.7，任何设置里被剪比例变化不超过 10.2%。剪枝是按内容而非按小节：exact identifiers 保留 92.8%–97.4%、decisions 保留 84.2%–92.5%、open TODOs 只保留 28.5%–64.9%、pending user asks 只保留 2.0%–12.8%；后两节占全部条目 15.2%、占被剪条目的 59.5%。首边界剪掉 29.9%–39.6%，后续边界只剪 8.8%–17.7%。25
- 判官可重复性是可测的。把 AppWorld+GPT 上同样的 40 个判官请求（1,598 条条目）各发 5 次，用压缩器自己做判官时 8.6% 的条目答案会变，Jev 只有 2.1%；自判官在 Jev 打分低于 0.2 的条目上改变答案的比例高达 23.4%。换成自判官（让压缩器自己当判官）后 pass³ 只在 AppWorld+GPT-5.6 Luna 上超过 Jev（75.6 对 73.2），另外三个设置都低于各自的 Prompting 基线：AppWorld+MiniMax-M3 为 50.0（Prompting 55.4）、OfficeBench+GPT-5.6 Luna 为 60.0（Prompting 68.4）、OfficeBench+MiniMax-M3 为 70.5（Prompting 74.7）。同判官但改问法也不行：用 Jev 选原始工具调用与输出的 Fast-Jev 在四个设置里有三个低于 Prompting。25
证据与局限：证据强度在于三点：三次独立运行并给出跨运行标准差、以 pass³ 作为跨运行可靠性口径、四个基准×模型设置全部报告并与多个压缩基线（FIFO、LLMLingua、LLMLingua-2、Fast-Jev、Prompting）同条件比较。作者还做了判官效度校验：从摘要里按决策/待办与成功/失败均衡抽 300 条推理条目，LLM 注释者两轮标注对「是否被环境输出或上一份摘要确立」一致率 98.7%（Cohen κ 系数 0.95）、对「是否正确」一致率 98.0%（κ=0.88）；Jev 判来源的 AUROC 为 0.905 [0.857, 0.950]，GPT-5.6 Luna 只有 0.792 [0.732, 0.855]；判正确性则都弱（0.733 [0.635, 0.868] 与 0.639 [0.536, 0.787]，因为 300 条抽样里有 2 条无法判定正确性被剔除、余下 298 条里只有 24 条错误，区间很宽）。代码入口为 https://github.com/GuanghuiMin/sjc，实测 HTTP 200。作者自陈的主要局限：SJC 筛的是来源不是正确性，而二者基本独立——有支撑条目正确率 92.2%、无支撑条目 90.6%，来源分数给正确/错误排序的 AUROC 只有 0.444，所以「引用了真实观察但结论错」的条目会被留下（29 条被执行条目里有 4 条有环境支撑，任何基于来源的过滤器都删不掉）；反过来它会剪掉正确甚至有用的条目，在 τ=0.5 下只回收 64.2% 的有支撑条目，例如某条 AppWorld 任务里它剪掉了「短信只发给新注册收件人」这条限制，GPT-5.6 Luna 能从任务指令里恢复、MiniMax-M3 不能并在三次里失败两次。评测面也窄：两个基准、两个智能体模型、一个宿主压缩器，且压缩触发窗口被刻意调得很小（AppWorld 4,096 token、OfficeBench 2,048 token）以保证每个任务内都触发；两个基准的任务都是单条指令且在压实后仍然可见，这正是「只复述任务的条目可以安全删除」的前提，多轮场景没有评估（那时早先的用户消息本身就是一种来源）；判官是外部 API 模型，分数不完全确定；§3 的失败归因依赖按书面协议工作的 LLM 注释者。引用风险：摘要页写「83% 的失败运行可追溯到执行某条摘要条目的动作」，正文给的是 35 个可分析失败运行中的 29 个（约 82.9%），引用时要用正文口径；pass³ 的提升不等于单次准确率提升，OfficeBench 的 MiniMax-M3 上准确率实际下降 1.0%；跨节比较要说明这里只有六个稀疏选择器之外的单一宿主压缩器。25
与目标研究线的连接点：属 A 线（大模型长程任务的训练与评估）的执行期控制分支，具体落在「记忆与上下文管理」这一环。可直接搬走的东西有四件。第一是把自然语言检查点当成可后处理的中间产物：不动智能体、不动压缩器，只加一个逐条目的来源判定与删除环节，适合智能体只能通过 API 访问或已被冻结的工程场景。第二是判定问题本身可以照搬——问「这条条目有没有来自环境输出或上一份检查点的数值、名称、结果、环境行为」，并明确把固定提示词排除在来源之外（因为它压实后仍然可见）。第三是评测口径：用 pass³（三次全解）而不是单次均值来衡量上下文管理对跨运行可靠性的影响，并同时报告 token 与峰值输入，这样才能区分「性能提升」与「多花上下文买来的性能」。第四是判官选择的教训：同一判官换个提问位置效果完全不同，而用被压的模型自评会掉点；判断「来源」这类四两拨千斤的问题适合交给校准过的非生成式判分模型。它与同节其它工作的差异在于：ReSum、SUPO、ACM 一类方法要改智能体或对它做后训练，ACON 改的是压缩提示词，Fast-Jev 用同一个判官去挑原始工具调用（它反而低于 Prompting 三处），SJC 认定问题出在「摘要把压缩器写的方向当成了环境给的事实」，所以从摘要条目的出处下手。25
结论建议：建议读 §3（为什么要做来源判定，含 Table 2 的分节无来源占比与 §3.2 的失败归因）、§4 的三阶段定义与 Appendix F 的实现细节（BM25 取回、300 字符片段、2,000 字符展开、τ=0.5 未调参、4,709 次压缩中有 10 次需要拆请求）、Table 3 与 Table 4 的完整主结果、§5.4 的阈值与选择性剪枝分析，以及 Appendix C 与 G 的判官校验。引用时必须限定：本文评测的是单指令任务、人为调小的压缩窗口、两个基准、两个智能体模型与一个宿主压缩器；「无来源条目会被反复重造」这类结论只在这个压缩提示词族上被验证过；pass³ 的提升不能写成准确率提升；OfficeBench 的 MiniMax-M3 准确率是下降的；该方法筛的是出处而非对错，不能当作事实核查机制。25
4. MemComposer 用 ExPO 学习记忆装配：两个执行器平均 pass¹ 达 50.8 与 63.5，记忆 token 少 16.9% 与 4.9%
MemComposer: Learning to Assemble Memories for LLM Agents via Reinforcement Learning · arXiv:2610.21091 · 值得扫读
研究问题与核心方法：智能体记忆（agent memory）让大语言模型（LLM，large language model）在不更新参数的情况下复用过去的经验，但主流做法用语义相似度召回记忆，而相似不等于有用——论文开篇给的反例是：语义更接近的一条记忆恰好漏掉了那条关键的权限约束，而相似度更低的一条能把任务带向成功。作者进一步做两个消融式观察：在同一批候选上改变记忆条数 k，性能并非单调上升（图 2(a)，不同领域最优 k 不同）；固定同一组记忆只改前后顺序，逐题结果也会变（图 2(b)）。于是他们把「装配记忆」定义成一个可学习策略：给定任务查询 q，先用固定的相似度检索器取回 top-n 个候选记忆，再由 MemComposer 采出一个有序子集 S（长度 k 与顺序都由它决定），把 S 交给冻结的执行器完成多轮交互，得到二元成功奖励。训练框架叫 ExPO（Experience Policy Optimization，经验策略优化），基于 GRPO（Group Relative Policy Optimization，群组相对策略优化）：每条候选序列在冻结执行器上跑 J 次，用经验成功率作为任务奖励，再减去选择长度惩罚与格式惩罚；同一查询采 G 条序列，按任务结果过滤掉全体同分的组（避免长度与格式惩罚单独造假信号），优势取组内中心化且不做标准差归一化（防止在结果几乎相同的组里放大噪声）；只更新 composer，执行器、检索器与记忆库全程冻结。记忆库由执行器自己在训练任务上采轨迹，再让同一模型对自己的轨迹—结果对写事后复盘（hindsight review），经确定性一致性检查后入库。作者来自伊利诺伊大学厄巴纳-香槟分校与亚马逊。26
- 主结果（τ²-bench，零售/航空/电信三个领域，每个测试任务跑 4 次试验）：Qwen3-4B-Instruct 上 MemComposer 平均 pass¹ 50.8、pass⁴ 32.5，最强基线 Memento 为 45.0 / 26.7，相似度检索为 44.4 / 20.0，无记忆为 33.5 / 14.2；Ministral-3-8B-Instruct 上 MemComposer 平均 pass¹ 63.5、pass⁴ 40.0，最强基线 MemRL 为 58.9 / 38.3。pass¹ 是平均成功率，pass⁴ 是四次试验全部成功的题目比例。26
- 优势不是靠更多记忆 token 换来的：平均记忆 token 比各执行器上的最强基线少 16.9%（Qwen3-4B-Instruct）与 4.9%（Ministral-3-8B-Instruct）；在零售领域差距最大，MemComposer 用 9.2K 记忆 token 达到 60.0 pass¹，而相似度 top-10 用 24.3K token 只有 57.5，即用 38% 的记忆量做到更高；在它 9.2K token 的预算内没有基线超过 51.2 pass¹。26
- 显著性检验：对每个基线计算 Δ=MemComposer−基线，在测试任务上做 10,000 次配对自助重采样、每个领域内按任务有放回抽取后再取领域等权宏平均，得到 95% 置信区间。逐执行器看（Table 5），Qwen3-4B-Instruct 上对相似度(k=7) 的 Δpass¹ 为 +6.5 [0.2, 13.1]、Δpass⁴ +12.5 [3.3, 21.7]，对 Complexity(k=3) 的 Δpass⁴ 为 +5.0 [−3.3, 13.3]、对 Memento 的 Δpass¹ +5.9 [−0.8, 12.7]；合并两个执行器池化后（Table 6），对 No memory（无记忆基线）为 Δpass¹ +19.2 [13.2, 25.2] 与 Δpass⁴ +17.9 [10.8, 25.0]，对 Qwen3-Reranker 为 Δpass¹ +8.8 [4.5, 13.2] 与 Δpass⁴ +11.2 [5.0, 17.5]，对 Memento 为 Δpass¹ +5.8 [1.0, 10.8] 与 Δpass⁴ +5.8 [−1.2, 12.9]（每处前一个数是 Δpass¹、后一个数是 Δpass⁴）。作者明确说明未做多重比较校正。26
- 训练改变了选法。相对未训练的选择器，平均入选条数从 2.52 升到 3.73，入选记忆的平均相似度排名从 3.21 升到 4.35（即更愿意从检索排名更靠后的位置取）；成功经验在入选中的占比从 45.5% 降到 35.6%，在 4–6 名区间「成功 vs 失败」的占比差距从 32% 对 10% 缩小到 6 个百分点，在 1–3 名甚至反转，在 7–10 名消失。作者解释：奖励看的是当前任务的效果，不看记忆过去的成败。26
- 顺序本身有约 6 个点的贡献。固定 MemComposer 选出的那组记忆、只换成别的排序规则重排：相对相似度排序高 5.5 点 pass¹、相对反向相似度高 8.5、相对长度降序高 6.8、相对长度升序高 3.8，平均高 6.1 点（Table 2，Δpass¹=25×Δ 成功试验次数，100 个任务上统计）。26
- 迁移性：只在零售上训练的 composer，直接用到航空与电信（各自记忆库、不再训练）后，航空 pass¹ 53.8 / pass⁴ 35.0 对比域内训练的 52.5 / 35.0，电信 38.8 / 22.5 对比 40.0 / 20.0；把 4B composer 配到 8B 执行器上，pass¹ 70.6 / pass⁴ 50.0，低于为该执行器专门训练的 75.0 / 47.5，但高于两个启发式基线与未训练选择器。换更强的记忆来源（Qwen3-32B 到 GPT-5.4 造的库）时，MemComposer 在 10 个「领域×记忆库」对里 9 对追平或超过相似度 top-5，在每个未见过记忆库上平均提升 9.1 点 pass⁴，用 GPT-5.4 的库也提升 7.5 点。26
证据与局限：可信的部分是三处：每个配置跑 4 次试验并同时报 pass¹ 与 pass⁴、给出配对自助法的 95% 区间并说明未做多重比较校正、以及迁移实验都把执行器/记忆库/检索器固定住只换 composer。可疑的部分也很清楚。τ²-bench 每个领域只有 20–40 个测试任务，作者自己承认 LongMemEval 之外那类共享会话的簇结构会让区间失去意义（本文未涉及），配对自助区间因此依赖「按题目记录重采样」的假设。启发式基线的 k 是在测试集上从 {1,3,5,7} 里挑最优的，属于在测试集上调参，这会让基线偏强或偏弱都说得通，但比较口径不干净。三个种子/重复只有 4 次试验，且没有跨初始化的重复训练。论文未给出代码或数据入口（正文没有仓库链接，实测全文没有可用的 GitHub 地址），复现依赖 Appendix D 的超参描述。作者自陈的局限包括：只刻画了单个冻结执行器的偏好，两个执行器都只有 4B 与 8B，前沿规模执行器是否需要单独 composer 未知；顺序只能从序列级奖励里隐式学到，且组内样本在内容与顺序上同时变化、信用相互纠缠，G=8 的采样规模相对随 k 阶乘增长的有序子集空间很小，没有和遍历所有排列的 oracle 比较；只研究程序性记忆（完整轨迹加复盘），没有评估语义记忆或情节记忆。另需注意摘要页写「平均记忆 token 减少 16.9% 与 4.9%」，而引言先给了零售单领域的 26.9% 与 35.2%，两个口径不能混用。26
与目标研究线的连接点：属 A 线的执行期控制（记忆与上下文管理）与 B 线（轨迹学习、自进化）的交界：它把「上下文里放哪几条历史」变成一个用下游任务反馈学习的策略，而执行器与记忆库都不动。可搬走的部件有三样。第一是奖励设计：把一条记忆组合在冻结执行器上跑 J 次取经验成功率，这条「用重复试验把随机执行变成可优化信号」的做法可以直接用于任何需要在随机环境里比较上下文配置的场景；配套的组过滤（只丢全体同任务结果的组）与「不做组内标准差归一化」两条细节，是噪声环境下 GRPO 的实用技巧。第二是把「选哪些」与「怎么排」放进同一个序列级奖励，而不是先选后排；论文顺手给出证据表明同一组记忆换顺序值 3.8 到 8.5 个点 pass¹，这个数字本身就是提醒：任何做上下文装配的实验都应该把顺序当成变量。第三是记忆库的自举流程：同一模型自采轨迹、自己写复盘、经确定性检查后入库，再让「更强模型造的库」当作泛化测试面。它与同节其它工作的差异是：一边是 SJC 那种不训练、只清理既有摘要的来源判定，另一边是把记忆装配直接训练成策略；MemComposer 的 composer 只学装配、不学检索，与同时优化检索与写入的方法相比刻意收窄了动作空间，换来的是「换记忆来源仍然有增益」这条结论。26
结论建议：先读 §3.4 的 ExPO 奖励与优化细节（含组过滤与优势不归一化），再读 §5.1 的三条训练行为分析（选得更多更深、偏好成功经验的倾向被削弱、顺序优于固定规则）与 §5.2 的迁移实验，主表看 Table 1，判断谨慎程度看 Appendix B 的配对自助区间与 Appendix F 的基线实现（启发式 k 在测试集上选、评分器用的是 Qwen3-Reranker-8B）。引用时必须限定：结论基于 τ²-bench 三个领域、两个 4B/8B 级执行器、程序性记忆；pass¹/pass⁴ 是四次试验口径，不是多次独立训练；启发式基线在测试集上挑过 k，因此「超过最强基线」的幅度不宜外推；区间未做多重比较校正，逐项比较里那些刚好越过零的结果要打折。26
5. RoPERelay 重排稀疏 KV 缓存坐标：36 组比较中 32 组提升，Llama-3.1-8B 配 BM25 在 LongMemEval-S 从 23.6% 到 35.4%
Compression Does Not End at Selection: Post-Selection Positional Geometry for Sparse KV Caches · arXiv:2610.21126 · 邻近跟踪
研究问题与核心方法：稀疏 KV 缓存压缩通过丢弃不重要的历史状态来降低长上下文推理成本，但保留下来的状态通常沿用它们在完整历史里的位置坐标。在使用旋转位置编码（RoPE，Rotary Position Embedding）的模型里，查询与键的匹配分数取决于二者的相对位置，被淘汰 token 留下的位置空隙会继续影响这种匹配，于是「留下了正确证据」并不等于「模型能用好它」。本文固定住上游选择器产出的缓存，只研究选择之后的位置几何。方法 RoPERelay 分三步：按源时间顺序给保留状态分配连续坐标（对每个头，把该头保留的第 i 个状态映射到坐标 M−m+i，其中 i 从 0 数到 m−1、M 取所有层与物理 KV 头中最大的保留数，从而让各头的保留序列都结束在 M−1、在共同端点对齐）；用逆旋转去恢复被缓存键在源位置上的相位、再乘上目标位置的相位，把键搬到紧凑坐标（直接改写缓存键，不重跑历史文本）；让当前提问从共同锚点 M 开始占用连续坐标，后续生成依次递增，使查询与生成都和重定位后的历史处在同一坐标空间。整个过程不重新做选择、不重新预填充历史、也不增加缓存预算。作者来自国防科技大学。27
关键结果：
- 主结果：两个模型（Llama-3.1-8B-Instruct 与 Qwen2-7B-Instruct）、六个稀疏选择器（BM25、SnapKV、PyramidKV、H2O、CaM、ChunkKV）、三个长期记忆任务（LongMemEval-S、LongMTBench+、PersonaMem-128K）共 36 组比较中，RoPERelay 在 32 组上提升答案质量。其中最突出的一组是 Llama-3.1-8B-Instruct 配 BM25 在 LongMemEval-S 上从 23.6% 升到 35.4%，超过了不压缩的完整历史参考 27.4%——注意这是在 10% 历史保留率下、且没有恢复任何被淘汰状态的前提下取得的。27
- 配对统计：作者用 10,000 次簇自助重采样给出 95% 置信区间（LongMemEval-S 按问题记录分簇、LongMTBench+ 按会话记录分簇、PersonaMem 按用户分簇）。Llama-3.1-8B 上 BM25 的 LongMemEval-S 差值为 +11.80 [8.00, 15.80]，Qwen2-7B 上为 +8.60 [4.60, 12.60]；PersonaMem-128K 上 CaM 在两个模型上的点估计恰好同为 +12.00（Llama-3.1-8B 为 +12.00 [6.38, 17.50]、Qwen2-7B 为 +12.00 [3.52, 19.31]；原文即如此，不是笔误）；而 LongMTBench+ 的多数组区间跨零（如 Llama+BM25 为 +5.68 [−3.41, 13.64]）。作者也说明：由于记录之间共享历史会话，若把共享会话的记录连成簇就只剩一个有效簇、无法给出有信息的区间，所以区间依赖「按记录重采样」这一假设。27
- 坐标消融（Qwen2-7B，500 条 LongMemEval-S，BM25 加 8,192 预算）：只压缩历史键、不动提问坐标得 8.4% 准确率；两者都压并同步得 36.2%；原始坐标为 26.4%。即同步提问坐标比只压键高 27.8 个百分点。另外只给提问坐标加 2,048、以及给键和提问同时加 2,048 这两种共同平移都得到 27.2%。27
- 顺序与紧凑性各自有用。同样压缩到相同跨度、只改分配顺序：随机顺序（种子 17、29、43 的均值）比原始坐标高 7.5 个百分点，RoPERelay 比随机再高 7.0 个百分点，是所有被测分配里最高的；剩下两种分配——按相关性顺序（Score）与按逆序（Reverse）——正文没有给出具体点数，只在图 5 中以逐种子的散点呈现。27
- 读取行为改变。分层读数显示，完全压实使支撑证据的注意力占比在早/中/晚三层带分别提高约 2.52、0.84、0.71 个百分点，注意力加权后的证据值向量 L2 范数也上升；半空隙压实（只压缩一半）匹配收益更弱，且不能复现注意力分配与值聚合上的改善。27
- 预算与客观任务：在 1%、5%、10%、20% 四档保留率上，BM25 与 H2O 全程受益，SnapKV 与 CaM 在低保留率受益最大；BM25 在 5% 保留率下用 RoPERelay 就能超过原始 20% 保留率的表现。在 InfiniteBench 的三个客观打分任务上（Llama-3.1-8B 配 SnapKV、1% 保留率、每任务 50 题），长对话问答从 16.00 升到 20.00、长书选择题从 62.00 升到 68.00、长书开放问答的 Token QA-F1 从 26.07 升到 31.23。27
- 开销：完整请求的实测时间开销（相对未重定位的 Original）在 2,048 token 预算（原文记 B2048）下为 1.34%–1.92%，在 8,192 token 预算（B8192）下为 1.92%–2.70%（BM25、SnapKV、PyramidKV 三种选择器），历史 KV 的逻辑字节数不变，GPU 显存占用基本持平。27
证据与局限：证据的强项是「固定内容只动坐标」这个控制得比较干净的设计——每对比较共享同一批被选中的状态、同一批值、同一保留顺序与同一实际预算，唯一变量是坐标映射与相位变换；配上 10,000 次簇自助区间与坐标消融，因果链条比较自洽。另外它还补了异构容量（PyramidKV 各层保留数不等）下的端点对齐对照：同层内各物理头保留数相等时，端点对齐把判定准确率（由 Qwen2.5-32B 盲评判官打分的答案质量）从 RankSync（各头保留序列从 0 起算、不共享端点这一对照映射）的 21.5% 提到 22.5%（Llama-3.1-8B）与从 10.5% 提到 20.5%（Qwen2-7B），Token-F1 分别提高 1.37 与 1.14 个百分点（PyramidKV、10% 保留率、200 题）。局限也清楚：只覆盖 7B–8B 两个模型、只用一种位置编码、只测长期记忆与长文本三类任务，作者把它写进了局限性；区间在 LongMTBench+ 上大量跨零，说明该基准上的增益并不稳健；坐标消融里「只压键」的 8.4% 是一个意外偏低的结果，作者的解释是提问被留在完整历史坐标上、与紧凑缓存脱节，但这也说明这项操作对实现细节相当敏感；PersonaMem 用的是客观选择题、另两个任务用的是 Qwen2.5-32B 盲评判官，判官一致性只由 Appendix F 的跨判官分析支撑。引用风险：超过完整历史参考（35.4% 对 27.4%）只在 Llama-3.1-8B + BM25 + LongMemEval-S + 10% 保留率这一格成立，不能推广成「压缩优于不压缩」；「32/36 提升」是含无统计显著的组在内的计数。27
与目标研究线的连接点：不在四条主干研究线上，属邻近跟踪——它处理的是模型内部的 KV 缓存几何，而不是智能体的记忆或轨迹。但它有一条对 A 线明确可迁移的价值：它证明了「选了哪些内容」和「保留下来的内容能不能被用上」是两个独立可优化的环节，而且在固定内容的前提下，仅靠重新组织坐标就能带来两位数百分点的质量差。这一点对做上下文管理的团队是个提醒：把长历史压成短上下文时，片段在最终上下文里的相对位置与顺序本身就是变量（同论文的顺序对照给出随机顺序 +7.5 点、有序再 +7.0 点），而不是「把证据捞出来就够了」。可以搬走的还有它的对照设计：固定同一批被选内容，只替换位置分配规则（原始、连续、按相关性、逆序、随机、半空隙），这在提示词侧的上下文装配实验里完全可以照抄。与同节其它工作的差异在于，MemComposer 关心「放哪几条记忆、按什么顺序放」，本文关心的是键值张量层面同一个问题的低层版本，二者在「顺序也是信息」这个结论上互相印证。27
结论建议：建议读 §3.2 到 §3.4 的三步定义（尤其是 M−m+i 的端点对齐与提问从锚点 M 起算这条规则）、§5.1 的坐标消融（Table 与 Figure 4）与 §5.2 的顺序对照（Figure 5）、Table 1 的主结果矩阵，以及 Appendix C.3 的配对置信区间。引用时必须限定：结论限于 7B–8B 两个模型与 RoPE，不能外推到更大模型或其他位置编码；LongMTBench+ 上的多数区间跨零，不宜当作稳健增益；「超过完整历史」只在特定一格成立；开销数字是完整请求时间而非端到端吞吐。27
6. AiO-Mem 以过程奖励 RL 统一记忆检索与写入：LoCoMo 总体 F1 61.0，MemoryAgentBench 九任务均分 74.7
All-in-One Memory: Process-Rewarded Reinforcement Learning for Memory Agents · arXiv:2610.21147 · 精读
研究问题与核心方法：外部记忆系统通常把「检索」和「记忆构建」拆成两段各自优化，检索侧只学怎么找证据，构建侧只学何时插入/更新/合并条目，两段没有共同的评估空间，结果就是系统不知道该继续搜、该写一条记忆、该跳过冗余，还是该停下；而且监督基本只看最终答案对错，无法区分证据相关性、记忆忠实度、冗余控制与停止是否充分。作者提出 All-in-One Memory（AiO-Mem），把记忆操作统一成同一个证据状态上的状态转移，并用一个独立的轨迹条件过程奖励模型给每个动作打分。整套流程四个部件。第一是 Traceable Multi-View Event Bank（可溯源多视角事件库）：用一个结构感知的编译器按话题切换边界切分历史，每个事件带四个视角——原文 raw 保留词面细节、摘要 sum 捕捉宏观语义、查询锚 anc 编码该事件能回答的假设性查询、事件短语 phr 提供低噪声稠密语义标签；检索时四个视角的排序用等权 Reciprocal Rank Fusion（倒数排名融合，一种把多路排序结果合一的打分法）合并，sum/phr 走向量检索、anc 走 BM25、raw 走向量加 BM25 的混合，同时保留溯源定位符以便后续核验。第二是 Evidence-State Transition Modeling（证据状态转移建模）：形式化为有限时域马尔可夫决策过程，动作有四种，组织成 decide 步（search 或 stop）与其后的 extract 步（add 或 skip），这个约束结构杜绝「还没检索就往工作记忆里写」这类非法操作。第三是 Unified Reward Modeling（统一奖励建模）：先用基于规则的分步打分（覆盖了多少尚未被工作记忆覆盖的黄金证据）做 evidence-grounded SFT，再用一个推理模型对同一轨迹逐步打分生成 v_CoT，把它当作 chosen、把规则分当作 rejected，做轨迹级 DPO 对齐。第四是 Process-Aligned Memory Policy Optimization（过程对齐的策略优化）：把分步奖励先按动作类别求均值再跨类别平均，得到与动作类型无关的轨迹奖励，再用 PA-DAPO（Process-Aligned DAPO，过程对齐的 DAPO；其基座 DAPO 是一种解耦裁剪范围与动态采样的策略优化目标，本文引 Yu 等 2026b）把裁剪代理目标从「组、token」两级扩展到「组、动作、token」三级结构。作者对既有 RL 记忆方法的分野给得很明确：检索导向的方法（如 Search-R1）只学怎么找证据，构建导向的方法（如 Mem-α）只学何时插入、更新或合并条目，两条路线各自被不同的目标与反馈信号管着，缺少一个能同时评估「检索到的、写下的、决定停下的」这三类动作的共享空间，也缺少对中间记忆操作的过程级信用分配。作者来自哈尔滨工业大学（深圳）、复旦大学、香港理工大学与鹏城实验室。28
- LoCoMo（长程多会话对话记忆基准，按 Mem-T 的切分方式以 1:1:8 划分训练/验证/测试）：AiO-Mem 总体 F1 61.0、B1 55.0，此前最强的 RL 训练方法 Mem-T 为 58.7 与 52.6，最好的静态记忆系统 Mem0 为 43.7 与 36.8，RAG 参考为 41.6 与 36.5，长上下文参考为 31.5 与 23.9。分题型看：多跳 47.1 / 38.8（Mem-T 45.1 / 36.6）、时间推理 66.0 / 59.4（Mem-T 65.1 / 60.1）、开放域 33.7 / 30.5（Mem-T 33.0 / 28.9）、单跳 67.0 / 61.5（Mem-T 63.8 / 58.0）。28
- MemoryAgentBench（增量多轮交互下的记忆评测，含检索、测试时学习、长程理解三类共九个任务）：AiO-Mem 九个任务平均 74.7，比最强基线 Fine-Mem 高 8.3 分；相对各任务上的最佳竞争结果，LME(S)、TREC-F 与 InfBench 分别高 12.6、19.0 与 4.5 分。PersonaMem（动态用户画像）上超过最强基线 3.9 分。原文未报告这三处的置信区间、种子数或误差棒。28
- 消融（LoCoMo，按总体 F1 相对 AiO-Mem 61.0 的落差）：去掉工作记忆构建降幅最大，为 50.9（−10.1）；去掉多视角检索 58.1（−2.9）；去掉事件编译 58.6（−2.4）；去掉基于证据的 SFT 57.9（−3.1）；去掉轨迹级 DPO 58.8（−2.2）。另一行 Base Model 为 55.8（−5.2）。这组消融说明最大贡献来自证据状态转移里的写记忆动作，而不是检索侧或奖励模型侧。28
- 复杂度与成本：作者给出的复杂度对比是，反复对累积记忆做摘要与重写的系统成本为 O(Nℓ + NM₁R₁)C_LLM，而 AiO-Mem 把持久存储与查询期构建解耦，事件库一次建成、查询期受 K_ret 与 T_max 约束，成本为 O(Nℓ + T_max K_ret ℓ_e)C_LLM；实测检索与构建的 token 消耗分别下降 79.9% 与 73.8%。28
- 案例对照：Figure 5 给了两个与 Mem-T 的失败对照。例 (a) 中 Mem-T 在写记忆时把「她 5 岁」错绑到 Deborah 而不是 Luna，相关证据其实已经检索到了，「错绑」被留在记忆里，最终评估出错；AiO-Mem 检索的是带来源的证据，写下的工作记忆保持了正确的实体关系。例 (b) 中 Mem-T 把时间上先后两个项目（机器人项目与净水器项目）混为一谈，漏掉查询的时间截止点、取了更晚事件的证据；AiO-Mem 检索带日期的证据并在写记忆时保留时间关系。这两个案例说明的是「检索对了但写错了」这种错误一旦进入工作记忆就会继续污染后续推理。28
- 超参不敏感：K_ret∈{5,10,15} 与 T_max∈{4,6,8,10} 之间性能相对平稳，增大两者都没有稳定增益，配置 (K_ret, T_max)=(10,8) 总体最好。Appendix D.3 报告四个检索视角合并后覆盖了 97.03% 的问题—证据对。28
- 训练配置：奖励模型用 Qwen3-8B、记忆策略用 Qwen3-4B，检索用 BGE-M3 与 BM25；K_ret=10、T_max=8；奖励模型 SFT 训 2 个 epoch、批量 8、学习率 1e-4；轨迹级 DPO 训 1 个 epoch、批量 8、学习率 2e-6、β=0.1；PA-DAPO 每查询采 8 条轨迹、学习率 2e-5。28
证据与局限：方法叙述完整、消融齐全（五处逐项去除）、复杂度有解析式也有实测 token 降幅，这是可复用的部分。证据的软处有四处。第一，MemoryAgentBench 的 74.7、8.3 分差距、PersonaMem 的 3.9 分都没有给出置信区间、种子数或方差，也没有说明跑了几次；三个基准的对比表（Table 1）本身没有标注标准差。第二，「一致性」表述与表格有出入：正文说 AiO-Mem 在不同题型上都「持续优于竞争方法」，但 Table 1 的时间推理列里 B1 是 59.4 对 Mem-T 的 60.1，即有一列落后；同类问题也出现在 MemoryAgentBench 的措辞与具体任务分数之间，引用时不能把「一致提升」当作逐列成立。第三，可复现入口不明确：可复现性声明只说「我们会在 GitHub 上发布代码」，全文没有给出仓库地址或数据页，实际复现要靠 Appendix C、G 的细节。第四，基线集合很大（二十个系统分三组），但每个基线是否在相同切分、相同生成器、相同 token 预算下评测只在 Appendix C.1 里交代，正文无法核验「静态记忆系统 vs RL 训练方法」两组之间的公平性；此外奖励模型本身是 LLM 生成式判官，其一致性只由 Appendix E.1 的相关性分析支撑，没有报告判官与人工标注的一致率。作者自陈的智能体过程里大量使用 LLM 生成数据与做判官（有 AI 使用声明），并单独写了伦理声明指出源链接事件库可能放大敏感信息暴露与错误记忆传播的风险。28
与目标研究线的连接点：属 A 线的执行期控制（记忆与上下文管理）叠加 RL 后训练（奖励建模），也可看作 B 线的自进化闭环。具体可搬走的有四点。第一是状态与动作的建模方式：把检索与写入压进同一个「证据状态」，并把动作约束成 decide（search/stop）+ extract（add/skip）两段，使非法动作在结构上不可能发生——这是一个可以直接套到任何记忆智能体上的动作空间设计。第二是过程奖励的构造：用「尚未被工作记忆覆盖的黄金证据」定义规则分（检索暴露了多少、写入提交了多少），再用推理模型的链式打分与之组成 chosen/rejected 对做 DPO；这解决了「只看最终答案无法区分中间记忆操作好坏」的老问题，也是本文与只看终局奖励的 RL 记忆方法最大的分野。第三是奖励聚合：先在动作类别内求均值、再跨类别平均，避免 search 步数远多于 stop 步时某一类动作主导梯度；这条对任何多动作类型的轨迹奖励都适用。第四是成本叙事：用「事件库一次建成、查询期有界」把历史相关成本转成常数级开销，并给出 79.9% 与 73.8% 的两项 token 降幅作为证据。它与同节其它工作的差异在于：SJC 完全不训练、只做压缩摘要的来源过滤；MemComposer 只训练「选哪几条、怎么排」，检索与记忆库都冻结；AiO-Mem 把检索、写入、跳过、停止全部纳入同一个可训练策略，代价是需要一个额外的过程奖励模型与两阶段对齐训练。28
结论建议：优先读 §3.3 的证据状态转移定义（状态 z_t=(q, 工作记忆, 候选列表)、四种动作与确定性转移函数）、§3.4 的两阶段奖励建模（规则分、CoT 分、DPO 的 chosen/rejected 方向）与 §3.5 的动作平衡聚合公式；实验部分读 §4.3 消融表（Table 2），因为它直接指出贡献最大的是工作记忆构建而非检索；复现细节看 Appendix C.2 与 G，复杂度论证看 Appendix F。引用时必须限定：所有数字来自 LoCoMo、MemoryAgentBench 与 PersonaMem 三个基准、Qwen3-4B 策略与 Qwen3-8B 奖励模型这一套配置，且未报告区间与重复次数，因此「超过最强基线多少分」应作为单次评测结果而非稳定效应；不能把「一致提升」写成逐列成立，时间推理的 B1 一列是落后的；代码入口尚未公开。28
7. 从长上下文到选择性记忆：以计算活跃与非活跃记忆、八种状态转移算子统一长上下文压缩与智能体记忆管理
From Long Context to Selective Memory: A Survey of Memory-Centric Compression for Large Language Models · arXiv:2610.21165 · 邻近跟踪
研究问题与核心方法：这是一篇单人撰写的综述（作者 Chaogui Gou，北京科技大学），主张把长上下文压缩重新表述为「推理期资源分配的记忆管理问题」。它的核心区分是：直接把信息分为 compute-active memory（计算活跃记忆，指在当前这一次请求中被模型编码、可被注意力寻址的信息，包括提示词 token、软提示或潜在状态、中间激活以及 KV 缓存，含被本请求复用的前缀缓存）与 compute-inactive memory（计算非活跃记忆，指当前不参与计算但可被存储、检索、更新、遗忘的信息，如文档集合、向量索引、知识图谱、摘要记忆、用户画像、对话历史与工具轨迹）。二者是状态而非固定类别：检索来的内容会变成活跃记忆，推理中产出的答案、计划与反思写回后回到非活跃状态。中间还定义了一类「激活路径上的中间态」（S）：已经被编码成模型可直接消费的形式（KV 块、压缩的潜在状态、预计算前缀），存放在主机内存、SSD 或远端缓存池里，当前不能被注意力寻址，但可以靠数据搬运与轻度校正以低延迟恢复，例如 InfiniGen、ShadowKV、RetrievalAttention 卸载的 KV 状态与 Cartridges 离线训练出的压缩 KV 缓存。在这套状态划分上，作者把写作/外化、卸载、召回、检索并注入、物化、逐出、合并、遗忘八个动作定义成状态转移算子（分别对应 A→I、A→S、S→A、I→A、I→S、A→∅、状态内、I→∅ 或降权），并给出一个分状态计费的预算模型：总成本等于各状态下「单位持有成本×规模」之和再加上本请求执行的所有转移成本，三类状态的单位持有成本通常满足 c_A ≫ c_S ≫ c_I，即活跃记忆远大于中间态、中间态又远大于非活跃记忆，目标函数则是生成效用减去成本的加权，同时受活跃预算与中间态预算约束。29
关键结果：
- 该综述的新意在于分类轴。作者对比了十一类已有综述（长上下文综述、提示词压缩、KV 缓存管理、智能体记忆机制、人类记忆类比、认知记忆、参数/上下文记忆与六种原子操作、上下文工程、智能体记忆形态×功能×动态、面向 LLM 智能体的上下文压缩等），主张自己的差别有三处：按信息是否、何时参与推理计算来组织方法，从而能把系统层面的卸载 KV、持久前缀缓存与外部记忆放进同一个生命周期比较；把状态转移本身当作一等分析对象，特别是把「重新编码检索回来的文本」（检索并注入，I→A）与「召回已编码好的状态」（召回，S→A）分开，这两者的取数成本完全不同；用分在线/离线/摊销的计费模型比较方法，使被挪到后台维护的成本不会被隐藏。29
- 综述给出三张编码表：算子表（八种转移及代表方法与主要成本/风险）、方法维度表（按算子、表示、选择信号、是否需训练、需要黑盒还是白盒访问、是否跨请求复用，逐条编码约四十个代表方法）、基准覆盖表（按定位能力、多证据推理、跨会话记忆、更新与冲突、压缩感知、智能体/工具、成本报告七个能力给 NIAH、RULER、NoLiMa、BABILong、LongBench、InfiniteBench、HELMET、SCBench、LoCoMo、LongMemEval、MemoryAgentBench、STALE 及代码/智能体基准打点），并明确结论：没有任何一个基准同时覆盖 KV 层压缩、记忆更新与系统化成本报告。29
- 作者提出的四个开放问题各自附了一个可执行的研究问题：能否用 §3.4 的成本模型当目标，训练一个跨层级的分配策略，同时决定提示词压缩率、KV 保留或卸载比例、检索条数与注入形式；记忆被删除或更正后，如何定位并作废它的所有派生表示（摘要、向量、图节点、物化的 KV 状态、学到的压缩缓存），以及如何在写入时以可接受的成本检测投毒内容；能否有一个基准覆盖写入、物化、激活、更新与遗忘全流程并要求方法逐项报告成本；以及在什么查询频率、语料规模与更新率下，信息应该保持为文本、物化为 KV 状态，还是压进参数里。它同时点出记忆投毒攻击（如 AgentPoison）会把错误经写回—再检索的环路固化下来，并指出压缩可能放大投毒内容。29
证据与局限：这是一篇立场型综述，没有自己的实验，因此「证据」的形式是分类体系的解释力与文献覆盖；它的价值与风险都在同一处——所有打点（● 系统讨论、◐ 部分讨论、○ 基本未讨论）都是作者对每篇综述结构的阅读判断，属于主观编码，没有第二人复核或一致性报告；成本模型是概念性的，正文没有给出 c_A、c_S、c_I 的实测数值，也没有用一组真实系统去校准式验证。覆盖面方面，作者声明纯扩窗的方法只算背景、参数记忆只作有限纳入（知识编辑、持续预训练、参数高效微调因为成本主要在训练期、且不能在单次推理内选择性激活而被排除）。领域命名上也有需要注意的地方：它把 MemGPT、MemOS 一类系统按「认知类比/功能角色/操作类型」归类，并明确说自己与 Du 等（2025）的六种原子操作最接近、区别在于算子是按状态变化而非记忆功能定义。文中部分引用为 2026 年的预印本与厂商文档（DeepSeek-V4、Kimi Linear、TokenLake、Jenga 等），这些出自二手陈述、无法在本综述内核实实验条件。全文未提供代码或数据入口。29
与目标研究线的连接点：属邻近跟踪。它对 A 线（记忆与上下文管理）与 B 线（经验写回、自进化）的价值在于两件事：一是提供了一个把「提示词压缩、KV 逐出、KV 卸载、检索增强、长期记忆维护、智能体侧折叠」放进同一张表的坐标系，特别是区分「召回已编码状态」与「检索并重新编码文本」这一条，直接对应工程上「缓存前缀还是重新检索」的取舍；二是它列出的评测缺口对选题有直接指向——现有基准没有把 KV 层压缩、记忆更新与成本报告合在一起测；若要做长程智能体的评测设计，这份表可以当作基准选题的清单，其中 STALE（考智能体能否识别已失效记忆）、SCBench（共享上下文多请求、覆盖 KV 生命周期）、MemoryAgentBench（增量交互下的检索、测试时学习、长程理解与冲突消解）是它与同节其它工作最直接的交叉点。可搬走的还有它的成本记账原则：报告压缩方法时应把活跃持有成本（预填充 token 与峰值 KV 显存）、中间态持有成本、转移成本与离线维护成本分开列，并注明各自摊销在多少次请求上——这条原则对评估任何上下文压缩工作都适用，也能用来识别只报了压缩比、把成本挪进不可见后台的方法。29
结论建议：建议只读 §3（状态定义、八个算子、生命周期与预算成本模型）与 Table 1、Table 2、Table 3、Table 4 四张编码表，再读 §7 的评测维度与基准缺口、§8 的四个研究问题；§4、§5、§6 的方法罗列可当索引使用，逐条方法的具体数字必须回到原论文核对。引用时必须限定：本文是单人综述、无实验、打点为主观编码；它的成本模型是概念性的，不能当作定量结论引用；文中部分方法引用的是 2026 年预印本，条件未经核实。29
8. 可写性与通路：冻结 GPT-2 上仅改被寻址行即复现 100% 训练补全，自然问句目标串命中只有 5.3%
Writability and the Pathway: A Controlled Study of Knowledge Injection into Addressed Memory · arXiv:2610.21553 · 邻近跟踪
研究问题与核心方法：寻址式条件记忆（addressed conditional memory：用输入 token 序列推出的确定性地址去查表的记忆模块）看上去很适合做事后知识注入——要写的事实对应的行可以直接枚举出来。但作者指出，参数位置上的局部性不等于效果上的局部性：检索到的行向量还要穿过共享投影与一个依赖隐状态的标量门（gate）才进入主干，别的输入可以复用这些行，换了问法也会改变地址与门的隐状态。因此「复现出训练时的那句补全」不等于「同一个事实在新问法下可被取用」。论文把「可写性」拆成三个必须分开测的量：训练过的表达、未训练问句形式下的行为、对未针对输入的影响。实验主体是一个 2×2 受控设计：主干是公开预训练的 GPT-2 检查点（revision 607a30d7），权重冻结，在第 3 与第 8 个零基 block 后各插一个新建记忆模块（24 个头、每头 400,000 行、每行 32 维，前 12 头用因果 2-gram 寻址、后 12 头用因果 3-gram，两层各持独立表）。两个更新范围 R（只更新被寻址到的行）与 RK（同时训练模块的共享键/值权重与偏置）交叉两个目标 CE（只做掩码因果交叉熵）与 OAW（output-anchored writing，输出锚定写：额外把每个模块的前向贡献拉回写前固定的参考值，λ=5）。行集由完整训练句逐字枚举，两层分别覆盖 7,819 与 7,821 行，合计 500,480 个可被改写的行标量（eligible row scalars，每行 32 维；候选行由完整训练句逐字枚举、不是采样），RK 额外带上 2,362,368 个共享投影标量。所有四个 arm 共享同一批 50 条合成事实句、同一份预写模型与同一套采样流，写种子为 42、777、1234。作者来自北京拾贝启元（Shibei Qiyuan AI Technology）与西安交通大学。30
关键结果：
- 只改行就能记住训练句。四个 arm 在三个写种子下都达到 100% 的规范补全精确匹配（规范提示是训练句去掉末尾答案与前导空格后的前缀），而共同的写前状态为 0%。规范目标 NLL 为 R_CE 3.958e−4、R_OAW 4.168e−4、RK_CE 7.074e−5、RK_OAW 7.048e−5。30
- 换成没训练过的问句形式就崩。12 次运行里自然问句的精确匹配与前缀命中全为 0；边界感知的目标串命中（原文 boundary-aware target-string Hit：先归一化、再按词边界做子串匹配的词汇层判定，与严格短答的「精确匹配」「前缀命中」并列为三种不同诊断）为：两个只改行的 arm 都是 5.3%±1.2，RK_CE 28.7%±6.4，RK_OAW 22.0%±2.0。也就是「改共享读出」这件事对问句形式的影响远大于「改哪些行」。问句目标 NLL 从写前的 6.219 分别降到 5.164、5.192、4.784、4.860。例如 Cindervale 那题：只改行的两个 arm 答出了另一个地名，改投影的两个 arm 在整句里答出了被写入的目标，但四个 arm 都过不了严格短答匹配。30
- 附带漂移可测且锚定能压低。相对共同写前状态，开发集每位置 KL 从 R_CE 的 1.663e−3 降到 R_OAW 的 8.156e−4、从 RK_CE 的 9.504e−3 降到 RK_OAW 的 3.930e−3；困惑度增幅分别为 0.0866%、0.0467%、0.3443%、0.2129%（写前困惑度 38.76495，39 个窗口、19,968 个目标）。在每个配对种子里，锚定都降低了 KL 与困惑度，但问句目标 NLL 上升，在投影范围内目标串命中率也从 28.7% 降到 22.0%——即降低输出漂移伴随了较差的问句形式表现。计算量也不对等：锚定 arm 每步多做两次锚窗口前向，训练耗时约 143 秒对 259 秒。30
- 特异性经不起检验。未写入的合成实体在规范提示下的精确匹配从写前 0% 升到只改行 arm 的 29.3%±1.2 与改投影 arm 的 18.7%；规范形式下的侵入率（生成内容命中同关系的另一条已写入目标；四个数按 R_CE、R_OAW、RK_CE、RK_OAW 的 arm 顺序）为 68.7%、68.0%、81.3%、81.3%，问句形式下同顺序为 4.0%、4.0%、31.3%、22.0%。附录里的地址审计进一步说明问题：在这套固定提示集上，每个规范提示的最后一个位置、两个记忆层的全部 24 个头地址都落在已写入训练行并集内，而任何自然问句提示都不落在其内——所以「主体不重叠的对照」并不是「地址不重叠的对照」；写入集与控制集还有 16 个目标串重复。30
- 生产模型上的存档实验只支持更窄的结论。Qwen3.8-Flash-Next-FP8 上，24 个配对目标、150 次迭代：梯度写（Adam）产生 13 个新晋首 token top-1，SPSA（一种只用函数取值、不求导数的零阶优化对比程序，原文未给全称）只产生 2 个（两者在选中行数与整份基线测量上完全一致，但计算过程不同，不能当作等算力下的优化器排名）；132 个独立重置目标、60 次迭代的更大批次里，Adam 把全部 93 个原本非 top-1 的目标都提升为 top-1，并保住了 39 个原本就 top-1 的目标，被提升目标里最深的起点是零基 rank 2,153，平均对数概率增益在 132 个目标上为 4.10 nats、在 93 个新提升目标上为 5.46 nats。一个 80 行的写入案例里，The chemical symbol for gold is 的目标 Au 由非 top-1 升到 top-1（原文按零基 rank 记，即从 rank 1 变到 rank 0）。DeepSeek-V4.1-Flash 的 6 个 SPSA 案例里只有 1 个新提升、1 个从 top-1 退化到零基 rank 2、2 个保持原 top-1、2 个仍非 top-1。这些目标都是指定的首 token，可能落在答案前缀或空白上（24 目标批次里有 5 个、132 目标批次里有 1 个写后 argmax 解码为空白），因此不能当作完整答案的正确率。30
证据与局限：这篇论文最值得称道的一点是把「什么没被证明」写进了正文：作者强调严格短答精确匹配受响应格式影响、目标串命中不等于对的主体断言了正确事实，并给了一个未改动主干、在上下文里直接喂正确事实的对照——相同问句与停止规则下，精确匹配、前缀命中与目标串命中分别是 2、5、49（共 50 题），说明严格短答会把含正确目标的句子判错。局限是：受控实验只用一个主干、一份初始化、一个合成事实集、一个惩罚系数，三个种子只改变优化采样；改投影同时改了参数量与跨地址共享、加锚定又增加算力，两者都未隔离出单一机制；保真度只在三个固定 WikiText 切片上测。生产部分协议不同、绝大多数是首 token 目标，既没测锚定也没多跳组合；作者还记录了一处实现异常（DeepSeek 上干预张量梯度为零但有限扰动使损失变化 0.75532），并说明这属于该实现的具体困难，不能推出量化注意力核无法一阶写入这种普遍结论。可复现入口不开放：材料是经校验的私有复核包，哈希只标识私有工件，外部取不到；两处模型页面实测 HTTP 200。30
与目标研究线的连接点：属邻近跟踪——它处理的是模型内部条件记忆的参数写入与读出通路，不是智能体的记忆或轨迹，因此不在四条主线上；但它对 B 线（经验写回、自进化）有直接的方法学价值。第一，它示范了「写入成功」必须拆开测：规范补全、未训练问句、未针对实体三套指标同时报，任何单一指标都会误导。第二，它给出了一组现成的对照量：目标串命中、侵入率（命中了同关系的另一个已写入目标）、以及地址重叠审计（规范提示与问句提示的地址是否落在同一批行上），最后一招专门用来防止把「主体不重叠」当成「寻址不重叠」。第三，它关于锚定的证据是双向的：压低漂移的同时会提高问句形式下的目标 NLL、在投影范围降低目标串命中率，而且锚定带来不等算力。与同节其它工作的差异在于：本组其余六篇处理的都是上下文里的记忆（摘要、事件库、KV 缓存、工具图），只有这一篇处理写进参数与表里的记忆，也是本组唯一一篇把负面与不良结果按原样保留当作方法学主张的工作。30
结论建议：建议读 §4 的受控设计、§5 的评测协议、§6 的 Table 3 到 Table 5，以及 Appendix D 的地址审计与 Appendix G 的记忆禁用转换检查；生产部分只读 §7 与 Appendix I，重点看 Table 6 与 Table 16、Table 17。引用时必须限定：受控结论只来自一个 GPT-2 主干、一份初始化、一个合成事实集与一个惩罚系数；100% 规范精确匹配是 50 条训练目标上的结果，不是容量或泛化结论；5.3% 与 28.7% 是目标串命中的词汇层面诊断，不是语义正确率；生产部分的首 token top-1 计数不等于完整答案正确，且这些计数是从存档文件重算的、不是新的推理；没有公开仓库。30
9. 重新审视工具图记忆：九个模型两个基准上增益多不显著，H-EPM 多花 2.72 倍 LLM 调用，洞察记忆多数反超
Rethinking the Role of Tool Graph Memory in Multi-Turn Tool Use · arXiv:2610.21571 · 值得扫读
研究问题与核心方法：多轮工具调用智能体常用「工具图记忆」——把过往成功轨迹里的工具迁移存成图，在每一步给出「下一个该调哪个工具」的建议。ToolNet 用节点表示工具、带权有向边表示迁移频率，每步只展示上一个工具的后继；H-EPM 保留全部工具，把带权迁移当程序性记忆、把每条迁移发生时的上下文摘要挂在边上当情节记忆，每步让智能体决定是否摘要当前状态，是则按摘要匹配给出两个后继工具、否则给出权重最高的两个。本文质疑这种「下一工具建议」是否真的有用，做法是四条线并行：在九个开源权重模型（Qwen、Gemma、Mistral、gpt-oss 四个家族，2B 到 120B）与两个多轮工具基准（ToolSandbox 与 BFCL-v4 的多轮子集）上各跑三次并做配对显著性检验；统计额外算力开销（LLM 调用数与 token 数）；通过人工轨迹分析与控制实验追溯增益来源；再按「是否调用工具（call necessity）、调哪个工具（tool selection）、什么时候调（dependency）、用什么参数（argument）」四种失败模式分类，找出下一工具建议本身无法解决的失败，并据此提出对照方案洞察记忆（Insight Memory）——从同一批情节摘要里聚类、让模型为每个簇蒸馏「该做什么、该避免什么」，每步注入最相关簇的洞察。作者来自汉阳大学与腾讯混元。31
关键结果：
- 增益大多不显著。ToolNet 在多数情况下不如无记忆基线，包括 BFCL-v4 上全部九个模型都退化，其中 12 处达到显著（p<0.05，双侧配对 t 检验，按场景/Task）。H-EPM 在多数设置高于基线，但只有四处达到显著；两个前沿模型 GPT-4.1 与 GPT-5.1 在 ToolSandbox 上四种条件几乎无差别（按 Base、ToolNet、H-EPM、Insight 顺序：GPT-4.1 为 0.724/0.709/0.725/0.729，GPT-5.1 为 0.701/0.694/0.702/0.702）。31
- 代价明确。H-EPM 在 ToolSandbox 上平均用 2.72 倍的 LLM 调用与 2.21 倍的 token（九个模型平均：每次场景 14.62 次调用对基线 5.37 次，19,225 token 对 8,681 token）；BFCL-v4 上 LLM 调用比为 2.25 倍。ToolNet 反而比基线省 token（平均 0.68 倍）且省调用（0.96 倍），但没有一处明显更好。31
- 增益不来自建议本身。在 Mistral-Small-3.2-24B 上人工逐轮标注那些「基线失败、H-EPM 成功」的场景的每个决定性轮次（30 个改善场景、86 个这样的轮次）：只有 30% 的轮次里 H-EPM 给的建议是对的，另 50% 是建议错了、智能体自己调对了工具，剩下 20% 属于信息不足场景；在退化的场景里，98% 的决定性轮次建议都是错的。换个建议内容几乎不影响结果：把建议换成随机工具，三个模型上为 0.571/0.663/0.553；彻底去掉建议为 0.602/0.633/0.598；而 H-EPM 原版为 0.603/0.620/0.554——去掉建议的版本在两个模型上反而更高。这三处三个模型的顺序都是 Mistral-Small-3.2-24B、gpt-oss-20b、gemma-4-E4B-it。31
- 真正的作用来自「多调了几次工具」。在基线失败、某条件翻盘成功的场景里，工具调用数相对基线的增幅显著高于「两边都失败」的场景（H-EPM：翻盘组相对基线的平均工具调用为 2.0 倍、仍失败组为 1.4 倍；两组「相对基线新增的工具调用次数」均值之差 D=1.34 次、95% 自助区间 [0.57, 2.20]——D 是次数差而不是倍数的差）。只给基线加一句提示「在你试过可用工具之前不要给出最终答案或放弃」（Base + instruction），几乎不增加 LLM 调用（1.0 倍）就在三个模型中的两个上超过 H-EPM（同一模型顺序下为 0.594/0.645/0.621）。31
- 即使把正确答案喂进去也解不完。oracle 条件每一步都给出正确的下一个工具，比 H-EPM 更好，但仍有大量失败；此时工具选择错误几乎消失（占失败的 4%），138 个失败场景里集中在调用必要性（81）、参数（44）与依赖顺序（7），其余 6 个为工具选择；四项按「最早出现的决策」互斥归类，相加正好等于 138。作者据此认为下一工具建议解决不了「在什么情境下该做什么」的问题。31
- 洞察记忆以更低的代价普遍更好。在 Table 1 的多数设置里洞察记忆最优，其相对基线的显著提升远多于两种工具图记忆；它把 LLM 调用保持在接近基线的水平（九个模型平均 1.03 倍，对比 H-EPM 的 2.72 倍）而 token 明显少于 H-EPM（1.43 倍对 2.21 倍），并且补回了 H-EPM 在 Mistral-Small-3.2-24B 与 gpt-oss-20b 上退化的大部分场景，包括全部依赖与参数失败。用 ExpeL（一类把经验蒸馏成规则集并附少样本轨迹的方法，本处为作者移植）在同设置上（Qwen3-8B 与 gemma-4-E4B-it 两个模型）为 0.552 与 0.599，也高于两种工具图记忆。只用成功轨迹构造的洞察（不含失败轨迹）在九个模型上为 0.466/0.499/0.618/0.557/0.691/0.622/0.641/0.556/0.744（按 Qwen3.5-2B、Qwen3-8B、Qwen3.6-35B-A3B、gemma-4-E4B-it、gemma-4-26B-A4B-it、Ministral-3-8B、Mistral-Small-3.2-24B、gpt-oss-20b、gpt-oss-120b 顺序），与用全部轨迹的洞察各有胜负。31
- 两者叠加反而更差：洞察记忆 + H-EPM 在九个模型中的七个上低于单用洞察记忆，且 LLM 调用升至 2.68 倍；而在多数「洞察成功、组合失败」的场景里复现的是工具图记忆自身的失败模式，没有一处由洞察造成。31
证据与局限：作为一篇「打假 + 替代方案」的工作，它的证据结构相当扎实：九个模型、两个基准、每次跑三遍、给出标准差与双侧配对 t 检验的 p 值、pass@3（三次运行至少解出一次）与 pass³（三次运行全部解出）两种一致性口径并列，并且把成本（LLM 调用与 token）作为一等指标报出。增益归因那段也用上了人工逐轮标注加置信区间（Table 9 的 D 与 95% 区间，均在 p_adj<0.05 下显著）。局限需要跟着引用：归因类分析（消融、人工标注、oracle）只覆盖 ToolSandbox 上三个模型，是作者按「覆盖 H-EPM 的两处较大增益与一处下降」挑出来的，不是全模型面的结论；人工标注全部由作者完成，没有第二标注者或一致性系数。洞察记忆被刻意做轻——不做训练，用预训练句编码器（all-MiniLM-L6-v2）加标准 K-means，K 靠轮廓系数而非任务表现选，洞察抽取是一次性离线成本——所以它为「情境级指导有用」提供的是下界证据，而不是该方法的最优形态。ToolNet 在 BFCL-v4 上退化到 0.094–0.431（基线 0.175–0.556）的原因也只在附录里给了一部分解释（它只向智能体展示部分工具候选）。另外，Table 1 里洞察记忆在 Ministral-3-8B 的 ToolSandbox 上为 0.539，低于基线 0.631，作者在正文里承认它是「多数设置」而非全部。检索延迟另测：整套检索路径每轮中位 15–17 ms（p95 29–39 ms），而同一批运行里单次 LLM 调用中位数是 0.4–1.1 s。31
与目标研究线的连接点：属 A 线的执行期控制（记忆与上下文管理）分支，而且它的价值主要在于给「该往记忆里存什么」提供了一个可复制的证伪流程。可搬走的有三样。第一是归因范式：不要只看「加了记忆以后涨了多少」，而要同时做三组对照——随机替换建议内容、彻底去掉建议、以及只加一句鼓励多试工具的提示；如果随机与去掉都能保住大部分增益，那增益就不是记忆带来的，而是多算了几步。这个对照组合可以直接搬到任何「把历史经验注入提示词」的系统上。第二是失败模式分类：按调用必要性、工具选择、调用时机、参数四个决策维度分类并优先归到最早出现的那个，再用 oracle 条件（每步喂正确工具）做上界，就能测出「建议正确」与「任务成功」之间的距离——本文给出的数字是 oracle 下工具选择错误只剩 4%，剩下的全是情境判断问题。第三是记忆形态的选择：作者的经验是语义记忆（情境级的「该做什么/该避免什么」）比程序性记忆（下一个工具）更划算，尤其在不增加 LLM 调用的前提下。它与同节其它工作的差异在于：MemComposer 与 AiO-Mem 都在训练「怎么选记忆」，本文质疑的是「被存入记忆的那种对象本身对不对」；它也是本组七篇以记忆与上下文为主题的工作里唯一一篇以负面结果为主、并把成本当作核心结论的分析。31
结论建议：建议读 §2.3 的性能与效率结果、§3.2 的消融表（Table 2）与 Appendix C.3 的工具调用归因表（Table 9），以及 §4.1 的失败模式分析加 Appendix D 的 oracle 失败分布（Table 11）。引用时必须限定：主要结论来自 ToolSandbox 与 BFCL-v4 多轮子集、九个开源权重模型加两个前沿模型；「工具图记忆无用」这个表述只在「节点是工具、边是工具迁移」这一形态上成立，作者在局限里明确说节点/边表示状态或参数的图记忆不在打击范围内；归因实验只覆盖三个模型；洞察记忆是刻意做轻的基线，不能当作该思路的上限。31
10. RIKA：经验条目 12–33% 复用即有害，改用分层抽取加证据准入后四个骨干的六任务流聚合分全部第一
Reliable Knowledge Acquisition for Continual Learning Agents · arXiv:2610.21739 · 精读
研究问题与核心方法：参数固定的基础模型智能体在开放环境里连续接任务，无法改权重，只能把过去轨迹整理成可复用知识再塞进上下文，于是「抽出来的东西能不能信」成了核心风险。作者的诊断是：现有系统要么只留事实（Mem0），要么只蒸馏流程与技能（ACE、Trace2Skill、SkillOpt），都没有对「声明」本身做可靠性裁定；而少数会验证的系统要靠回放任务或在留出任务上评估，在环境状态不可重置的连续设定里根本跑不起。作者来自加州大学戴维斯分校与伊利诺伊大学厄巴纳-香槟分校。方法 RIKA（Reliable Knowledge Acquisition，可靠知识获取）由两块拼成。第一块是分层抽取：借教育心理学的知识分类，把经验分成事实性知识（实体、状态、结果的可观测性质，对应 first-order 一阶）、程序性知识（可执行的方法与工作流，一阶）以及从它们抽象出的概念性知识与元认知知识（二阶，前者回答「有哪些规律」，后者回答「何时该用或改某个方法」）；一阶由轨迹与环境反馈直接落地，二阶在同一批次轨迹加对应一阶结果的条件下抽取，四个类型各用一个不含已存声明的抽取子智能体。第二块是 EKA（Evidence-based Knowledge Admission，基于证据的知识准入），借序贯假设检验与真值维护的思路，先做原子化（atomization，把一条打包声明拆成自洽独立的最小声明，思路取自 FActScore 的原子分解），再对每条原子声明做路由与关系判定：由反馈本身直接确立的走即时准入（Immediate），需要跨越观测范围的推断走延迟准入（Deferred），路由看的是证据是否覆盖声明的适用范围，而不是知识类型；新旧声明之间判六种逻辑关系（Equivalent、Specialize、Generalize、Contradict、Overlap、Independent）。之后是证据累计与准入：每条存下来的声明维护一个净证据计数 e_j(v)=e_{j-1}(v)+c_j^+(v)−c_j^-(v)，支持来自等价或更具体的声明并沿蕴含边向更一般的声明单向传播，反对来自矛盾声明，Overlap 与 Independent 不传递证据；准入阈值 θ(v) 对即时声明取 1、对延迟声明取 k=3，每批次结束后重新裁定，准入状态改变不清空证据史；连续 m=3 个批次证据低于阈值即遗忘，以保持状态有界。最后从当前状态整体重渲染出知识文件 M_j 注入上下文，而不是增量改写上一版文件，以避免反复改写的退化。这里的批次记为 B_j，由 n 条轨迹组成，每处理完一批就把持久知识状态从 S_{j-1} 更新为 S_j 并渲染出供下一批使用的知识文件；声明是自我复用的最小单位，等价的抽取声明会被合并成一条规范声明，连同出处、证据、关系与准入路由一起保存。作者先做了一次可靠性诊断：对冻结的成品知识库做留一验证（leave-one-entry-out），把每个原子条目的贡献定义为在有它和无它两种情况下的下游任务分差期望，若该差的 95% 置信区间整体低于零即判为有害条目；换言之，只影响一次、方向不稳定的条目不会被计入有害，这条口径比单次跑分的比较更严格，也更保守。 6
关键结果：
- 有害条目比例（Continual Learning Bench 的 DB / Cohort / Codebase 三条任务流，抽取器均为 DeepSeek-V4-Flash，按每条任务流内条目计算再跨库等权平均）：Mem0 为 11.7% / 13.4% / 12.5%，ACE 为 20.2% / 18.9% / 23.1%，Trace2Skill 为 32.7% / 28.8% / 26.0%，SkillOpt 为 25.9% / 26.1% / 28.0%，合计约 12–33% 的条目在复用时压低后续任务表现（原文表 1）。
- 把 EKA 直接套到别人的抽取器上（保留原抽取器、其后一律走 EKA，五种子平均）：SkillOpt 在 DB 上由 0.147 升到 0.192、Cohort 上由 −0.062 升到 −0.045、Codebase 上由 0.567 升到 0.573；Trace2Skill 在 DB 上由 0.158 升到 0.224、Cohort 上由 −0.053 升到 −0.043、Codebase 上由 0.538 升到 0.570（原文表 2）。注意 Cohort 上两法仍为负分。
- 完整 RIKA 在四条骨干上聚合分全部第一：GPT-5.4 上 0.232，比同骨干最强基线 ICL（in-context learning，把过往轨迹直接放进上下文的基线）的 0.183 高，作者给出的超出幅度区间为 0.046–0.081；对无学习的 stateless 控制组，聚合增益在 +0.201 到 +0.239 之间（原文表 3、§5.2）。
- 覆盖面上，RIKA 在 24 个「模型 × 任务流」组合中赢 14 个，其余胜出分散在 Cohort、BSM、Codebase 等任务专用基线上，作者自陈优势「broad but not uniform」（原文 §5.2）。
- 路由消融（DeepSeek-V4-Flash，DB / Cohort / Codebase 三条流）：全量 RIKA 为 0.281 / −0.042 / 0.575，全部即时准入为 0.225 / −0.089 / 0.540，全部延迟准入为 0.265 / −0.070 / 0.557，随机路由为 0.249 / −0.084 / 0.549（原文表 4）。
- 抽取结构消融（同一设置）：不分类的单一抽取器为 0.213 / −0.087 / 0.541，保留四类但不做一阶到二阶条件化为 0.261 / −0.057 / 0.563；逐个去掉某一类都会掉分，DB 上去掉事实性知识掉得最多，Cohort 上去掉程序性知识掉得最多（原文表 5）。
- 学习动态（DeepSeek-V4-Flash）：DB 上 RIKA 早期即领先，并在第 20 个实例的模式迁移事件之后保持优势；Cohort 上累计增益由负转正并收在多数基线之上，但低于 Mem0，与两者流级增益 0.076 与 0.080 的排序一致（原文图 3、§6.1）。
- 失败模式的定性对照：作者把四个代表案例与各自的源轨迹、后续任务要求逐条比对，归纳出三类复用失败——依赖在复用时刻根本拿不到的信息、与后续任务的要求不匹配、随环境变化而过期（原文 §3.1、图 1）。 6
与目标研究线的连接点：属 A 线的执行期控制，具体落在「记忆与上下文管理」这一环，同时给 B 线的自进化划了一条边界条件——教训不是抽出来就能用，得先过可靠性关。可直接搬走的东西有三件。其一，把抽取与准入解耦成两个可独立替换的模块，EKA 作为插件接在任意抽取器之后即可生效，论文用 SkillOpt 与 Trace2Skill 各演示了一次，这比「换一套完整记忆系统」的迁移成本低得多。其二，用净证据计数、准入阈值加遗忘窗口来维护有界状态，是「不额外跑验证任务也能做准入」的一种轻量实现，适合部署在环境不可重置的场景。其三，留一干预式的有害条目度量（对每条条目做移除前后下游分差，用 95% 区间判负）是一个可以照搬的离线审计口径，用来先量出自家记忆库的坏条目比例，再决定要不要进门控。另外，这套准入只依赖任务流自身产生的证据，不新增任何验证任务，这一点直接决定了它能用在环境不可重置的连续设定里。与同节其它工作的差异：Mem0、ACE 只解决「存什么」，Trace2Skill、SkillOpt 只解决「怎么抽」，RIKA 补的是「凭什么信、什么时候撤回」，且不依赖回放或留出任务。 6
结论建议：建议读 §3.1（有害条目度量与案例）、§4.4 全部五小节（原子化、路由与关系判定、证据累计与遗忘、状态渲染）、表 3 及附录 E/F 的置信区间、§6.2 与 §6.3 两组消融。引用时必须限定口径：结论成立范围是六个文本工具型任务流与四个固定参数骨干、每格五种子平均、跨任务比较只认归一化聚合分；写「聚合分最高」时要同时交代作者自陈的 14/24 胜率，不能写成「在所有任务上都最好」；EKA 的增益要说明 Cohort 上仍是负分，只是负得更少。还有一处细节值得留意：作者规定准入状态改变时不清空证据史，这意味着一条被暂时否决的声明仍可能因后续证据翻身，与一次性过滤的机制有本质区别。 6
11. Co2In：工作记忆与长期记忆分层的增量学习，CIFAR-100 类增量 37.54%、任务增量 84.21%，内存 25.53 MB
Co2In: a Bi-level Memory Incremental Learning Framework with Knowledge Encoding, Consolidation, and Integration · arXiv:2610.21804 · 邻近跟踪
研究问题与核心方法：这篇做的是图像分类的增量学习（Incremental Learning，IL，模型按互斥类别分成的一串任务依次训练，学新任务时拿不到旧任务数据），要同时保住可塑性（学得进新知识）与稳定性（不遗忘旧知识）。作者认为回放类方法用旧样本或生成样本续训、梯度记忆类方法约束更新方向，都把「学」与「记」压在同一份参数上，于是掉进稳定性–可塑性两难；人脑的 Atkinson-Shiffrin 记忆模型把编码与长期存储分在不同器官，因此作者借这个结构提出双层记忆框架：工作记忆负责在参数空间（Parameter Knowledge Space，PKS）里学新任务，长期记忆负责在核心知识空间（Core Knowledge Space，CKS，含全部有效信息但维数低得多的子空间）里持久保存。方法名 Co2In 取自 knowledge enCoding、Consolidation、Integration 三个词，作者来自北京交通大学、南洋理工大学与武夷学院，会议版方法代号为 BMKP。三个步骤是：编码阶段工作记忆在新任务上最小化交叉熵加一个表示压缩正则项，该正则项用「投影残差的 Frobenius 范数除以残差自相关矩阵的 L1 范数」来既复用旧模式基、又逼新知识近似低秩；巩固阶段对残差部分做奇异值分解（SVD）取左奇异向量作为新基并与旧基拼接（定理 VIII.1 证明新基与旧基正交），按保留奇异值比例筛选基，再把权重投影成压缩表示并在 CKS 里用本任务数据微调；整合阶段利用矩阵乘法结合律把「先乘基再乘表示」重排成「先乘表示再乘基」，从而把每个任务的知识表示拼成独立层放进统一网络，用零填充对齐维度，实现跨任务并行推理（复杂度由串行重建参数时的 O((r+n)p²) 降到 O(rnp)）。作者还加了一个二次分类器，理由是线性分类器对旧任务类做线性外推会给新任务样本打出高 logit，而二次分类器能给出更紧凑的决策边界，使方法同时适用于任务增量（Task-IL，测试时给定任务编号）与类增量（Class-IL，测试时不给定任务编号），并且全篇在无样本（exemplar-free）约束下评测。 32
关键结果：
- 主表口径为增量学习结束后的全任务分类准确率（ACC），五次随机种子平均并给出标准差。CIFAR-100 十分割下 Co2In 类增量 37.54%±0.9、任务增量 84.21%±1.0；Tiny-ImageNet 十分割下类增量 31.23%±0.5、任务增量 68.75%±0.7。作者称 CIFAR-100 上类增量排第二、任务增量排第一（任务增量这一项比第二好的 VDFD 高 0.91 个百分点）；Tiny-ImageNet 上类增量第一、比第二好的方法高 2.75 个百分点，任务增量第二，低于会议版 BMKP 的 70.36%。
- 内存占用：CIFAR-100 上 Co2In 用 25.53 MB，比第二省的方法少 1.18 MB；Tiny-ImageNet 上 22.89 MB，比 BMKP 少 2.16 MB（原文图 7 与 §VI-B 正文）。
- 消融（CIFAR-100 / Tiny-ImageNet，格式为类增量 / 任务增量）：完整 Co2In 为 37.54 / 84.21 与 31.23 / 68.75；去掉表示压缩正则项（λ=0）掉到 34.75±0.5 / 83.04±0.5 与 27.05±2.0 / 65.00±2.2；不更新基（只用任务一的基）崩到 6.88±5.9 / 36.48±17.7 与 2.90±1.0 / 27.23±3.6；去掉投影后微调为 36.12±0.7 / 81.78±3.0 与 28.91±0.7 / 65.68±1.9；把二次分类器换成线性分类器后类增量暴跌到 16.90±0.5 与 8.81±0.1，而任务增量只掉到 79.65±0.4 与 69.31±0.5（原文表 3）。
- CIFAR-10 上 Co2In 无外部技巧时类增量 38.15%±2.9、任务增量 92.74%±0.7；加上旋转类增强（rotate class augmentation，把训练样本旋转 90/180/270 度当作新类）后升到 56.21%±5.0 与 95.21%±0.3，会议版 BMKP 为 29.70%±1.0 与 94.49%±0.2（原文表 4）。
- 超参敏感性：λ 在 0、1、10、100、1000 中取值，准确率随 λ 上升先升后降，而内存占用随 λ 单调下降；SVD 保留比例在 0.95–0.99 间取值时准确率与内存都随比例单调上升，作者为 CIFAR-100 取 0.97、Tiny-ImageNet 取 0.98（原文图 8、§VI-D）。
- 拓展到预训练模型设定（冻结 ViT-B/16，只学每层残差分支）时，作者称在这两个数据集上任务增量最好、类增量与现有预训练类方法相当而明显优于朴素 LoRA（原文表 XIII、§VII）。 32
证据与局限：证据结构清楚但范围窄。数据集只有 CIFAR-10、CIFAR-100、Tiny-ImageNet 三个图像分类基准，任务划分分别为五分（每批两类）、十分与十分；主指标是五次随机种子平均的最终 ACC，标准差都给了，部分基线（标 † 与 ‡ 的结果）直接引自其他论文因而没有标准差；评测都在无样本约束下做，也就是说省略了最常用的回放路线，与回放类基线的比较并非同一预算。消融只在 CIFAR-100 与 Tiny-ImageNet 上做。引用风险有三点：一是「最好」的结论按指标和数据集分裂——Tiny-ImageNet 任务增量上 Co2In（68.75%）低于会议版 BMKP（70.36%），作者把原因归于二次分类器与线性分类器的差别，这属于事后解释；二是不更新基这一项掉到 6.88%±5.9、36.48%±17.7，标准差极大，说明该消融的结果受随机性影响很重，不宜单独引用成精确数字；三是 CIFAR-10 上的高分类增量（56.21%±5.0）来自主动引入的旋转类增强这一额外技巧，与无技巧的 38.15%±2.9 不是同一条件，跨方法比较必须在同一「是否用增强」的口径内进行。可复现性方面，作者自陈代码在 https://github.com/SunWenJu123/Co2In 发布，实测该地址返回 HTTP 200。作者自陈两条局限：缺少反向知识迁移，以及内存占用随学习任务数线性增长。 32
与目标研究线的连接点：不在四条研究线上——它的生成对象与评估对象都是图像分类器，与长程智能体、轨迹学习、TTS、播客都不沾；把它放进「记忆、上下文与状态管理」这一节是因为它给出了一套可迁移的记忆组织机制。可搬走的是三点结构性设计：一是把「临时学」与「长期存」拆成两个存储单元，让可塑性与稳定性由不同硬件承担，这正是上下文记忆系统里「工作上下文」与「持久知识库」分工的同构写法；二是以低秩基为存储单位、按保留奇异值比例控制容量，等价于给长期记忆提供一个显式的容量旋钮（论文实测该旋钮单调换取准确率与内存）；三是「先写新知识再重建旧知识」的整合顺序，以及「从当前状态整体重建而非增量改写」的取向，与同节中 RIKA 从状态重渲染知识文件的做法方向一致。它和同节其它工作的差异也很明显：其余工作管的是自然语言声明的准入与检索，Co2In 管的是参数化知识的压缩与拼接，两者可以作为「符号记忆」与「参数记忆」两条并行路线对照阅读。 32
结论建议：只建议读 §IV-A（PKS 与 CKS 的定义）、§V-B 与 §V-C（巩固与整合两步的数学推导、定理 VIII.1）、§V-E（二次分类器为何是类增量的关键）、表 3 与图 8。引用时要交代三点前提：这是图像分类的无样本增量学习，不在语言智能体的设定内；Tiny-ImageNet 任务增量上它并非第一；CIFAR-10 的高分依赖旋转类增强这一额外条件。 32
12. TEM：把事实按来源顺序存成版本并给历史项打标，四个骨干的历史居住地命中率达到 96.67–100.00%
TEM: Temporal State Tracking Memory for Large Language Model Agents · arXiv:2610.21900 · 值得扫读
研究问题与核心方法：跨会话的记忆里，旧值被新值取代之后往往仍然对某些提问有效。作者举的例子是用户从上海搬到成都再搬到苏州：问「现在住哪」答苏州，问「搬到成都之前住哪」必须答上海。只留最新值的记忆答不了第二问，把三条都留下又需要模型自己判断哪条对应哪个时点。作者提出 TEM（Temporal State Tracking Memory，时序状态追踪记忆），一个免训练框架，核心是把「事实的版本」与「版本的时态状态」显式表达出来再交给生成模型。记忆侧：每条事实记录写成（主语、关系、宾语、来源会话、来源序号）五元组，同一主语与关系构成一个版本组；新会话的事实只追加不覆盖，状态由整组来源序号决定——来源序号小于该组最大序号的版本标为历史版本，等于最大序号的为当前版本，值与出处都保留，因此即使最新版本没被检索到，旧记录也不会被当成当前值。检索侧：候选打分等于向量相似度乘以一个按关系类型加权的系数（公式为相似度 ×（0.4＋0.6×关系权重），居住地与雇主为 1.0、职业 0.9、持有 0.8、喜好与厌恶 0.6），取分最高的至多 15 条，然后按来源序号升序排列，给被取代的版本打上 [historical] 标签，最新版本不打标签，拼成证据交给冻结的生成模型。此外还有事件记忆与原始对话轮作为补充证据源，与事实版本通过来源会话互相链接，混合配置在统一预算下同时用两类证据。关键设计取舍是：检索完全不因版本陈旧而罚分，也不提前按问题排除当前或历史版本，把「选哪条」留给生成模型结合问题时态自行判断。 33
关键结果：
- 状态更新基准含 60 个人设、600 个会话、420 道题（居住地、职业与饮品；其中当前态 180 题、其他历史态 180 题、搬家前居住地 60 题），六种记忆配置乘四个骨干共产生 10,080 个回答。骨干为 Llama-3.1-8B、Qwen3.5-4B、Qwen3.5-9B 与 gpt-oss-20b。
- 在事实内容与来源顺序完全不变的前提下，只加历史标签，整体键实体命中率提升 17.14–55.95 个百分点：Llama-3.1-8B 从 19.76% 升到 75.71%（+55.95）、Qwen3.5-4B 从 48.10% 升到 97.62%（+49.52）、Qwen3.5-9B 从 74.52% 升到 91.67%（+17.14）、gpt-oss-20b 从 55.24% 升到 96.67%（+41.43）（原文表 1）。
- 整体命中率上 TEM-Status 达 75.71–97.62%，比 session-aware RAG（会话感知检索增强生成，把检索到的源对话轮按会话顺序拼进提示）高 1.43–40.00 个百分点，比全上下文高 2.14–30.24 个百分点；只留最新值的 Overwrite 配置命中率为 29.76–43.33%（原文表 2）。
- 历史态子集是全篇最强的信号：TEM-Status 命中 96.67–100.00%，同证据不打标签只能到 41.67–81.67%，Overwrite 只有 0–8.33%；TEM-Status 比 session-aware RAG 高 10.00–88.33 个百分点，比全上下文高 3.33–40.00 个百分点（原文表 3）。
- 标签消融给出净命中增量：在 420 题上 Llama-3.1-8B 增加 235 个命中（83→318）、Qwen3.5-4B 增加 208（202→410）、Qwen3.5-9B 增加 72（313→385）、gpt-oss-20b 增加 174（232→406）；搬家前居住地 60 题上标签增益为 18.33–56.67 个百分点（原文表 4、表 5）。
- 证据长度：TEM 每题答案证据平均 94.05–117.55 token，比 session-aware RAG 省 48.75–56.73%；全查询的证据长度落在 84–125 token，而 session-aware RAG 与全上下文最短的输入也分别有 202 与 165 token（原文表 6、图 5）。
- 公开多会话问答（LoCoMo，10 段对话 1,540 题，含 282 多跳、321 时序、96 开放域、841 单跳）：在与 session-aware RAG 相同的 1,024 token 证据预算下，Llama-3.1-8B 严格语义分 27.53–29.22% 对 17.92–19.61%，Qwen3.5-9B 为 35.84–37.53% 对 23.70–25.26%，即使拿 RAG 上界减 TEM 下界仍差 7.92 与 10.58 个百分点；但长上下文参照配置（32,768 token 窗口）得分更高（Llama 37.66–39.55%、Qwen 53.90–56.17%）（原文表 7）。 33
与目标研究线的连接点：属 A 线执行期控制中的记忆与上下文状态管理，且是这一节里唯一把「记忆的时态」当成一等公民的工作。可搬走的具体做法有三条。第一，「追加不覆盖 + 由整组来源序号统一裁定状态」这一条更新规则，实现成本极低（一次分组求最大值加一次比较），却能在检索漏掉最新版本时仍然正确标注旧值，值得直接抄进任何带事实更新的记忆写入流程。第二，把「检索」与「呈现」分开：检索只按相关度、不因陈旧而罚分，时态信息以标签形式随证据一起交给生成模型，并用同一批证据做打标签与不打标签的对照来量化标签本身的贡献，这是一个干净的可复用消融设计。第三，用 token 数而非条数来报告证据预算（94.05–117.55 token 对 214.72–229.36 token），并明确排除记忆构建与嵌入计算的成本，口径交代得比其他工作清楚。与同节其它工作的差异：RIKA 关心的是知识条目能不能信，TEM 关心的是同一关系的多个取值谁对应哪个时点；Hy-Memory-30B-A3B 训的是写入策略本身，TEM 则是完全免训练的规则加标签管线，三条路互不冲突，可以叠在一起做。 33
结论建议：重点读 §3.1 至 §3.3（版本定义、更新规则、检索与渲染公式）、算法 1、表 3（历史态子集）与表 6（证据长度），以及 §4.6 与表 7（公开多会话问答的预算与上下界口径）；§4.7 的表 8 建议只看它的元信息栏，不要引用其中的分数做横向对比。引用时必须写明三件事：状态更新任务是自建受控基准、指标是键实体命中率；历史标签的增益只在状态更新任务上成立，在 LoCoMo 上标记与未标记几乎无差；表 7 的数值是得分上下界而非置信区间。 33
13. LURCH：用证据范围、分散度与推理深度刻画长上下文难度，推理深度翻倍的分数代价 −2.70 pp 高于长度翻倍的 −2.13 pp
Beyond Context Length: Characterising the Difficulty of Long-Context Reasoning · arXiv:2610.22067 · 邻近跟踪
研究问题与核心方法：长上下文评测习惯把上下文的 token 长度当作难度本身，但等长的两段上下文可以一个是单段局部就能回答、另一个必须把全篇证据拼起来。作者把这类难度拆成三个可量化的样本级属性。证据范围（evidence scope）等于证据总 token 数除以文档长度，衡量需要找到多少信息。证据分散度（evidence dispersion）先把证据区间合并成互不相交、彼此至少隔一个非证据 token 的区间，取首尾区间之间那一段为证据跨度，再定义为「落在跨度内的非证据 token 数」除以「全文非证据 token 数」，单区间取 0、跨度覆盖全文取 1，衡量信息被撒得有多开。推理深度（reasoning depth）把推导过程写成有向无环图，节点是原子操作（含证据查找与推理步），边是直接依赖，深度等于以产出答案的操作为终点的最长依赖路径上的节点数；平行的多次查找不增加深度，只有在早先结果之上继续运算才增加，直接从证据读出答案深度为 1。为把三个属性落到数据上，作者构建 LURCH（Long-context Understanding and Reasoning from Contextual Hints）基准：从 26 个候选来源的 323,040 个实例出发，经语言、上下文长度 32k–256k、任务类型、零上下文筛选等过滤与子采样，得到 17 个来源的 6,550 个实例，每题都带支撑证据与一张「以答案为条件」的推理图。证据标注优先用基准自带的参考证据，否则检索候选段落再扩展为所在整段或整张表并合并相邻区间，随后用一个校验器只依据扩展后证据作答，三道采样全部答对才保留该题；推理图由 Gemini 3.7 Flash 与 GPT-5.6 Terra 两套标注独立生成，去畸形、去重复、去非法引用与成环边，并剪掉对答案无贡献的步骤。分析用带 logit 连接的广义线性模型（GLM，广义线性模型，此处按分数在 0 到 1 之间用分数 logistic 回归拟合）同时控制任务与模型，把上下文长度、证据范围、证据分散度、推理深度四个预测子先取 log2 再标准化，标准误按问题聚类，并用 Holm 法校正多重比较。 34
关键结果：
- 基准画像：上下文长度中位数 103k token、均值 110k；支撑证据中位数只占上下文的 0.66%，跨度跨越三个数量级以上；只有 11% 的实例的证据集中在单个连续区块，其余实例的分散度中位数为 0.39；65% 的实例需要两步以上的依赖推理（原文 §4.4、图 3）。
- RQ1（等长条件下的难度，四个模型联合拟合，Δ25→75 表示同一任务内从第 25 百分位走到第 75 百分位的预测分数变化；下文把百分点记为 pp）。四者的 Δ25→75 为：上下文长度 −1.66 pp（95% 置信区间 [−2.49,−0.83]）、证据范围 −2.14 [−3.07,−1.20]、证据分散度 −1.10 [−1.84,−0.36]、推理深度 −1.60 [−2.35,−0.85]；三者的系数均显著（校正后 p 分别 3.4×10⁻⁵、4.0×10⁻³、7.4×10⁻⁵），联合检验 χ²₃=73.0、校正后 p=4.0×10⁻¹⁵（原文表 1）。
- 模型间差异：深度对比在四个模型上均为负但部分区间含零，范围从 Qwen3.5-4B 的 −2.78 个百分点到 Qwen3.8-27B 的 −0.66；范围对三个模型为负，但在 Gemini 3.8 Flash 上为正的 +1.55（95% 区间 [0.42,2.68]），说明总体的范围负关联掩盖了模型间差异（原文 §5.3、图 4）。
- RQ2（长度效应的条件性，比较同一任务内长度 25→75 百分位在高、低属性值下的分数变化之差）：证据范围 −0.90 pp（[−1.43,−0.37]，校正后 p=5.5×10⁻³）、证据分散度 −0.88 pp（[−1.45,−0.32]，p=1.0×10⁻²）两项显著；推理深度 −0.66（[−1.43,0.10]，p=1.8×10⁻¹）区间跨零，作者判定长度与深度的交互仍不确定（原文表 2、图 5）。
- 翻倍对比（表 7 下半部分，覆盖率为长度 34%、范围 91%、分散度 49%、深度 60% 的题目）：上下文长度翻倍对应 −2.13 pp（[−3.22,−1.05]）、推理深度翻倍对应 −2.70 pp（[−4.04,−1.36]）、证据范围翻倍 −1.04 pp（[−1.51,−0.57]）、证据分散度翻倍 −0.28 pp（[−0.47,−0.09]）。
- RQ3（难度叠加，探索性、未做正式检验）：范围与分散度同时低的格子比任务–模型均值高 3.6 个百分点，同时高的低 2.9 个百分点，删掉任一单个任务后差值仍为 6.1–7.2 个百分点；分散度与深度同时高的格子最低（−8.0 个百分点），SciTrek 占其中 62%，去掉该任务后高分散下的深度高低差由 −6.7 收窄到 −0.8（原文 §5.5、图 6）。 34
证据与局限：证据强度不低但全是观测性的。四个模型为 GPT-5.6 Luna、Gemini 3.8 Flash、Qwen3.8-27B、Qwen3.5-4B，每题采样三次取均分作为该题–模型组合的结果，全量 6,550 题；标准误按问题聚类以吸收同一题上四个模型分数的相关性，置信区间为未校正的 95% 问题聚类区间，RQ1 与 RQ2 报 Holm 校正后的 p 值，RQ3 明确为探索性且逐模型的分解只是描述性的。作者自陈这些分析估计的是 LURCH 内的条件关联而非因果效应。标注可靠性方面：两套标注器在 65.6% 的实例上给出完全相同的推理深度，深度估计之间的 Spearman 秩相关为 0.48；两位人工审计者在 40 个实例上比较两套图，没有任何一位更偏好 GPT 的图，其中一位在 20 个深度不同的实例里有 14 个偏好 Gemini，因此最终只用 Gemini 的生成结果计算图衍生属性。这也是引用风险之一：深度这一属性的标注一致率并不高（完全一致 65.6%、秩相关 0.48），所有涉及深度的结论都带有这层测量噪声。风险之二是基准自身构造的取舍——范围与分散度描述的是「扩展后的支撑上下文」而非最小证据集，筛选时还剔除了不看上下文就能答对的题（零上下文筛选），这会系统性抬高整体难度。此外，RQ3 的极端格对单个任务（SciTrek）高度敏感，作者自称其为「值得进一步研究的候选模式」。可复现性方面，正文与附录未给出代码或数据发布地址；实测 https://arxiv.org/html/2610.22067v1/ 返回 200，全文可用，所有数字取自该全文与其附录 G。 34
与目标研究线的连接点：不在四条线的正中心——它的评估对象是单次调用的长上下文推理，不是长程智能体，因此按邻近跟踪处理；但它提供的正是 A 线最需要的评测口径。可搬走的是三件事。第一，三个属性都有闭式定义，任何自带证据标注的长上下文数据集都能直接算出范围与分散度，从而把「等长但难度不同」变成可分层抽样的变量，用于评测集难度配平。第二，用 GLM 把长度与这些属性放在同一模型里互相控制，并报告「同一任务内 25→75 百分位」这种可解释的对比。第三，把「翻倍对比」当作跨属性可比的单位（长度翻倍 −2.13、深度翻倍 −2.70），便于向工程侧传达。差异：RIKA、TEM、Hy-Memory 都在改记忆的读写与准入，LURCH 一个都不改，改的是「怎么给评测集定难度标签」，更适合当成评测设计参考而非方法借鉴。 34
结论建议：建议读 §3 三个属性的完整定义、§4.2 与 §4.3 的证据标注与推理图生成流程、表 1、表 2、图 5，以及附录 G.2 的翻倍对比表与 G.4 的 RQ3 单元格估计。引用时必须限定：全部是观测性关联不是因果结论；深度属性的标注一致率有限（完全一致 65.6%、秩相关 0.48）；RQ2 的深度交互项与 RQ3 的极端格都不稳健；「深度翻倍代价高于长度翻倍」只在表 7 给出的覆盖率（深度 60%、长度 34% 的题目）内成立，不能外推成通用换算。 34
14. Hy-Memory-30B-A3B：只训记忆写入策略，四个记忆框架六指标宏均 55.49% 排第一（其中两个框架只是持平）
Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing · arXiv:2610.22196 · 精读
研究问题与核心方法：外部记忆系统由写入、检索、阅读三段组成，而质量瓶颈在写：写模型要在一段很长的框架专用提示下同时完成「分清长期信息与寒暄」「保住精确的名字、数字、日期与路径」「表达状态转移又不丢掉被取代的旧值」「与新检索到的记忆做调和」「按框架 schema 产出合法操作」。框架无法恢复写模型漏掉的信息，再强的阅读模型也推不出从未存过的事实；反过来无差别全存会抬高成本并制造检索干扰。作者的立论是：写入不是在写摘要，而是在一个长程下游目标下对外部状态做控制。方法 Hy-Memory-30B-A3B 出自腾讯混元，只训写入策略，跨三个已有记忆框架（Mem0、MemOS 与自研 Hy-Memory 的 Chat、Working、Coding 三种场景配置）复用同一个模型，检索与阅读组件全部冻结。训练分两阶段。第一阶段是记忆在策略蒸馏（Memory On-Policy Distillation，学生自己产生状态序列、冻结的旗舰教师只在学生走过的 token 前缀上给 top-50 分布，用 top-50 近似的反向 KL 做 token 级监督，从而同时对齐「工具调用协议」和「学生自己写出来的记忆状态分布」，避免静态示范的暴露偏差）。第二阶段是记忆强化学习，其奖励接口是本文的核心贡献：把每条交互切片成约十轮的 chunk（切片不跨会话），最多五个连续 chunk 组成一个 window（可跨会话）；用两类标注分别构造奖励——每个 chunk 的探针（PRM 通道）在只看当前 chunk 全文加前两个 chunk 已抽事实的条件下，出原子事实、探针、陷阱题与评分细则，检验该 chunk 是否被精确写入且仍然可答；跨 chunk 的结果题（ORM 通道）看更早历史加当前 window 全部事实，检验跨切片跨会话的关系。作者给出八类单 chunk 失败面（具体性、语义精度、平实召回、次要维度、状态转移、不该存、存内容不存元描述、随意但持久的细节），并专门加陷阱题来对抗「全存最稳」：陷阱题的参考答案就是记忆库里不存在该记录。奖励由三部分线性合成：逐 chunk 召回（正探针与陷阱题的加权得分均值）、被归属的结果奖励（判官给出答案恢复了多少由该 chunk 引入的黄金事实，按引用该 chunk 的问题取平均，权重 2）、以及记忆库增长惩罚（按记忆库 token 增长除以输入 chunk token 数，经 clip 与指数映射后扣分，权重 0.3）。优化用 chunk 级 GRPO（Group Relative Policy Optimization，组相对策略优化）：优势在「同一 window、同一 harness、同一序列、同一 chunk 位置」的组内标准化，而不是在整条轨迹上算一个分再广播到所有 token，因此同一个 rollout 可以在第 2 个 chunk 被奖励、在第 4 个 chunk 被惩罚；每条 rollout 对某 chunk 只投一票，避免多段调用的框架因调用次数多而获得更大权重。window 结束时按各 chunk 得分之和选最终记忆库作为下一 window 的初始状态，让训练与部署时的状态分布一致。 35
关键结果：
- 主结果（固定 20% 基准子样本，每个 harness（记忆框架的运行外壳，即 Mem0、Hy-Memory、MemOS、EverMemOS）分数为 LoCoMo Judge、LongMemEval、PersonaMem-v2、Travel SPS、Shopping PS、Code Memory Bench 六项指标等权平均，总分为四个 harness 等权平均，全部为标准流水线的确定性输出）：Hy-Memory-30B-A3B 在四个记忆框架 harness（Mem0、Hy-Memory、MemOS 与留出的 EverMemOS）上分数都排第一：本写入模型在 Mem0 上 54.02、Hy-Memory 上 60.55、MemOS 上 50.51、EverMemOS 上 56.89，四框架宏均 55.49%——这四个数是同一个模型（Hy-Memory-30B-A3B）在各框架上的得分，不是被比较的四个系统。
- 与基线的差距：宏均 55.49% 对 Claude Opus 5 的 54.62%（高 0.87 个百分点；逐记忆框架的领先幅度为 Mem0 +0.60、Hy-Memory +0.02、MemOS +0.01、EverMemOS +2.86 个百分点）、对 DeepSeek V4.1 Flash 的 53.64%（高 1.85）、对未做 RL 的 Hy3-A3B 基座 47.66%（高 7.84）。作者明确说明 MemOS 与 Hy-Memory 上 0.01–0.02 个百分点的差距在这套确定性抽样评测下只算「持平」，不是统计上已分辨的差异。
- 留出框架泛化：EverMemOS 既不在蒸馏也不在 RL 的训练范围内，只在评测时使用，本模型在该框架上得 56.89%，高于 DeepSeek V4.1 Flash 的 55.47%、Opus 5 的 54.04% 与 Hy3 的 52.30%；该 harness 上的增益主要来自 Travel SPS（+10.65 个百分点）与 Code Memory Bench（+13.66 个百分点）。
- 奖励数据规模：结构筛过后保留约 478k 生成探针中的约 410k、72k 跨 chunk 结果题中的 61k；为控制判官成本每 chunk 至多保留三个正探针与一个陷阱；最终工件含 164,576 条正探针、8,599 条陷阱、约 60.8k 结果题与 222,395 条 chunk 级黄金事实引用，覆盖 12,671 个 window 与 57,616 个 chunk。
- 标注上下文的对照：在与全历史标注比较的受控实验中，全历史标注消耗的输入 token 是两 chunk 上下文的 33 倍，而两 chunk 上下文每抽出一条事实平均多 25% 的专有名词与 59% 的数字；可辨性检查中忠实改写的答案平均保留 0.90 分。
- 训练配置：学生是 Hy3-30B-A3B 指令微调检查点（约 3B 激活参数），教师为 Hy3 旗舰模型只做前向、返回 top-50 对数概率；RL 从 OPD 第 375 步起，用 16 节点 × 8 张 H20 共 128 卡，批次为 64 个 window × 8 条 rollout 即 512 条轨迹，学习率 5×10⁻⁶ 恒定，上下文 28,672 提示 token 加 4,096 响应 token，每 10 步检查一次模型、优化器、调度与选中的记忆库。训练时每个 rollout 独占一份记忆库副本，只有被选中的那一份进入下一 window，因此同一条序列上的后续写入看到的是策略自己造出来的状态而不是标注出来的理想状态。 35
证据与局限：证据是四道 harness × 六项指标 × 四个对照写入模型的矩阵，且写入模型、检索配置、答案模型、判官与其他框架组件全部固定，只换写入模型，这一点在同类工作里交代得比较干净；留出框架 EverMemOS 提供了对「是否只是背下了训练过的框架协议」的直接检验。但引用风险很实在。第一，主矩阵跑在固定 20% 子样本上、无重复种子，作者自己声明 0.01–0.02 个百分点的差距在统计上不显著，反复训练种子留作未来工作，因此不能拿它宣称「全面超越 Opus 5」。第二，作者明确列出本文未做的关键消融——chunk 级与 window 级 GRPO 的对照、黄金事实归属与广播式 ORM 的对照、只有正探针与正探针加陷阱的对照、记忆库增长惩罚的对照、二值奖励与评分细则奖励的对照、从 OPD 初始化与从通用 SFT 初始化的对照、单 harness 与混合 harness 训练的对照——全部留给未来工作；也就是说本文把奖励接口当成已证明有效的整体，而其中每一项的独立贡献尚未被拆开。第三，归属是「基于证据」而非「反事实」的：恢复了黄金事实不等于某次具体写入就是因果原因；信用在优化步之间被截断，更早记忆库的错误拿不到追溯梯度。第四，聚合分数可能掩盖增益究竟来自抽取、更新、删除、调和还是面向检索的表示。第五，判官的鲁棒性目前只靠内部的可辨性检查（五种合成答案的排序，忠实改写平均保留 0.90 分）支撑，人类–判官一致率、判官模型与提示敏感性、rollout 组内零方差比例、记忆库扩容后检索干扰的变化等审计都列为未来工作。可复现性方面，论文称框架代码与评测工具在 https://github.com/Tencent-Hunyuan/Hy-Memory 发布、模型权重与配置在 https://huggingface.co/tencent/Hy-Memory-30B-A3B；实测本次访问 GitHub 地址返回 404、Hugging Face 地址返回 401，即当前未能通过直连确认这两个入口可用。 35
与目标研究线的连接点：属 A 线的执行期控制，落在记忆写入这一环，同时是 B 线自进化的一个具体样本——自进化发生在「写什么进外部状态」这一动作上，而不是在权重之外漫无边际地改策略。可搬走的东西最密集：其一，「PRM 通道只看当前 chunk 加前两个 chunk 的已抽事实」这条标注上下文规则有明确理由（解决共指、判新意、防止把旧事实记到当前 chunk 头上）且有量化支撑（全历史多花 33 倍 token 反而让事实更泛化，专有名词与数字分别少 25% 与 59%），可以直接照搬做记忆写入的过程监督数据。其二，陷阱题加记忆库增长惩罚的组合，是针对「多存总没错」这一短路的可复用对策，且陷阱题不能靠缩短条目绕过。其三，chunk 级 GRPO 把优势归一化的边界从轨迹下移到 chunk，并提出「多段调用只算一票」，这两条是任何在外部状态上做长程动作的 RL 都需要处理的技术点。其四，window 之间携带策略自己写出来的记忆库、只在提交时按总分挑一个作为下一 window 起点，是保持训练与部署状态分布一致的简洁做法。与同节其它工作的差异：TEM 用免训练规则管事实版本，RIKA 管声明的准入，Hy-Memory 直接把写入策略训成一个模型，并明确把「训写入」与「训阅读」分开，避免答案变好而记忆没变好这种混淆。 35
结论建议：建议读 §5 全部（失败面分类、两遍标注、陷阱探针、评分细则与黄金事实归属、数据验证四层）、§6.2 至 §6.8（三段奖励的公式、chunk 级 GRPO 与记忆库携带）、表 6 与图 3（跨 harness 结果），以及 §9 的「沉默失败」清单——那一节列出的八类伪健康故障（记忆库未持久化、教师无 top-k 值导致梯度为零、缺失 chunk 映射时回退广播、分页静默截断、平台故障被记为完成等）本身就是可复用的工程检查表。引用时必须写明：主矩阵是固定 20% 子样本的确定性评测、无多种子、MemOS 与 Hy-Memory 上 0.01–0.02 个百分点的差距作者自认为统计上不显著；奖励各成分的独立消融本文未做；「55.49% 对 54.62%」这类合计值不能拆开当作各 harness 全面领先。 35
三、长程任务的基准、环境与任务设计
1. TORSI：不暂停的实时时钟评测里慢模型均分 1.51 输给快模型 13.51，两轮离线指导把快模型提到 24.19
The World Won’t Wait: Evaluating and Teaching Agents Under a Live Clock · arXiv:2610.20665 · 邻近跟踪
研究问题与核心方法：推理与工具调用都要花时间，在持续变化的环境里，观测时正确的动作可能送达时已经错了。作者指出多数游戏类智能体评测在响应期间暂停游戏，于是抹掉了决策延迟的后果，这类分数未必能预测游戏继续运行时的表现。论文给出两部分。第一部分 RealtimeBench 是一个共享评测框架，含六种游戏类型共 180 个任务：平台跳跃（Mario）、导航与进食（Snake）、落块摆放（Tetris）、避障（Temple）、转向与射击（River）、时机拍翅（Bird），每类 30 个任务，均分为 10 个反馈任务（供开发智能体）、10 个验证任务（比较候选更新）、10 个测试任务（完全留出、只用于最终汇报）。它把「游戏继续跑」做成协议：响应未到之前上一个被接受的控制继续生效，于是区分了响应时延（从观测到收到响应）与动作龄（从观测到动作真正生效，含等待可用 tick 或排定动作的延迟），结果以动作生效时刻的状态为准。观测是结构化文本而非像素，由 harness（包在模型与游戏之间的那层调用外壳：构造观测与合法动作、调用模型、施加响应）生成，可算几何与时机特征，但不能查看未来状态或搜索模拟器。评测用 0–100 的进度分而非二值完成，按各游戏类型自己的参考目标归一化。第二部分 TORSI（Two-Timescale Offline Recursive Self-Improvement，双时间尺度离线递归自我改进）把动作选择与学习放到不同时间尺度：快的学生在游戏里行动，从不调用教师；慢的教师在回合之间研究失败、在暂停或放慢环境里试跑替代动作序列，并把经验写成可复用指导（固定字段包含技能说明、动作级说明与条件规则）。学生先按草稿指导在反馈任务上试跑，教师据此修订；候选指导先冻结再在验证任务上评估，只有平均验证分严格更高才替换，逐游戏类型独立决定；测试任务从不参与选择。 36
关键结果：
- 时钟敏感性（每类十道测试题、各模型用原始指导、GPT-6.1-sol 用中等推理档）：暂停游戏时 GPT-6.1-sol 在六种游戏里的五种优于快速决策模型 Jev，但换成实时时钟后它的平均分只有 1.51，而 Jev 为 13.51；GPT-6.1-sol 在六种游戏上的实时分都低于暂停分，Jev 是五种下降、只有 Bird 例外（原文 §3.4、图 4）。
- 延迟代价：Jev 平均响应时延 0.52 秒、GPT-6.1-sol 为 18.97 秒；被宣传为快速推理的 MiMo v2.6 Ultra Speed 与 DeepSeek v4.1 Flash 分别只有 5.95 与 2.44 分，时延 1.60 秒与 7.72 秒；全部决策模型平均分在 1.65 到 16.62 之间，且没有任何模型平均超过 16.62（原文表 1、§5.1）。 36
- TORSI 两轮效果：验证选出的指导把 Jev 平均测试分从 13.51 提到 24.19，提升 10.68 分且六种游戏都改善；第一轮在六种游戏上全部提升测试分，第二轮在 Snake、Tetris、River、Bird 两种划分上都更好，但在 Mario 与 Temple 上没能通过验证门，因此这两类沿用第一轮指导——采纳完全由验证集而非测试集决定。每格分数为三次运行均值（原文表 2、§5.2）。
- 离线练习的消融（一轮版本，全部变体都从学生失败轨迹生成指导）：不做练习的采纳后平均测试分为 13.08（低于基座 13.51），只做教师练习为 14.14，只做学生练习为 13.07，两者都做升到 19.35（原文表 3）。
- 与其它自适应方法在同一学生、同一教师、同一划分与同一验证采纳规则下的对照（可编辑组件与搜索配置不同、预算未配平）：TORSI 采纳后平均测试分 24.19，ACE 为 13.22、AHE 为 16.59、GEPA 为 14.52；整个更新过程的总 API 花费 TORSI 为 24.39 美元，三个对照在 20.99 到 27.49 美元之间（原文表 4、§5.3）。
- 跨模型迁移（指导不动、环境与时钟不变）：StartLux 4B 平均分由 12.22 升到 25.05，StartLux 27B 由 16.62 升到 20.43，MiMo 由 5.95 升到 7.30；StartLux 4B 与 MiMo 六种游戏全部改善，StartLux 27B 改善四种、在 Tetris 与 Temple 上回退（原文表 5）。
证据与局限：作者来自北京大学与三星研究院（北京）。六种游戏各 30 个任务的划分、三次运行均值、参考目标与归一化公式都写清楚了，基线覆盖决策模型与语言模型共十余个，并把「暂停/实时/1.5 倍速/2 倍速」四种时钟下的同一批任务与同一批种子对齐比较。TORSI 的部分也做了单向消融（有/无教师练习、有/无学生练习）与三个同类方法的对照。引用风险有四点。第一，全部观测是结构化文本而非原始画面，作者自陈这遗漏了视觉感知带来的错误与时延，因此结论不能外推到端到端视觉智能体。第二，TORSI 依赖保存状态或可重置环境做教师练习，物理或不可逆交互中可能不可用，作者自陈效果仅在有离线练习条件时成立。第三，消融里「练习预算在不同变体间并未配平」作者已明说，因此 13.08、14.14、13.07、19.35 这组数字只能读作「两种练习互补」，不能当作各类练习的等价换算；与 ACE/AHE/GEPA 的对照同样是「适配后的配置」而非预算配平比较，且总花费从 20.99 到 27.49 美元不等。第四，实验只覆盖六种游戏与两轮改进，指导是逐游戏类型分别开发的，跨模型迁移只在相同环境内验证，没有证明能迁移到没见过的环境或支撑多轮持续提升；StartLux 27B 上还出现了两类游戏回退。可复现性方面，正文与附录未给出作者自己的代码或数据地址（文中 GitHub 链接属于被评测的第三方项目，如 claude-code、codex 与 slime）；实测 https://arxiv.org/html/2610.20665v1/ 返回 200。 36
与目标研究线的连接点：属 A 线的基准与环境设计，并且是这一节里唯一把「时间」当成环境变量的工作——它不改记忆、不改工具集，只改时钟，就把同一批模型的名次翻了过来。可直接搬走的是三件事。第一，「响应时延」与「动作龄」的区分以及「结果以动作生效时刻的状态为准」这条协议，是任何异步工具调用或长耗时推理评测都可以照抄的口径，能避免用「一次只跑一步」的沙盒把延迟影响洗掉。第二，把任务按反馈/验证/测试三等分，并规定采纳只看验证分、测试只用于汇报，这是一个干净且可复用的自适应方法对照结构，能防住「用测试集选更新」的常见漏洞。第三，进度分加参考目标的归一化写法（峰值进度除以参考目标再截断到 100）适合没有离散完成条件的长程任务。差异：RIKA、TEM、Hy-Memory 都在让智能体记得更多更准，RealtimeBench 与 TORSI 问的是另一件事——信息注定过期时，把「慢而强的推理」挪到回合之外、只把可复用规则留给快动作；这与 B 线自进化闭环相邻但落点不同：TORSI 更新自然语言指导而非技能库，且每步都过验证门。 36
结论建议：建议读 §3.1（实时时钟协议与时延/动作龄定义）、§3.3（进度分与参考目标）、§4.4（验证门采纳规则）、表 1 与表 3。引用时必须限定：观测是结构化文本不是像素；TORSI 需要可重置环境做离线练习；各消融与实际对照的预算没有配平；跨模型迁移只在同一批环境内验证过且存在回退。「13.51 到 24.19」与「1.51 对 13.51」要带上口径（每类十道测试题、三次运行均值、实时时钟）后再用。 36
2. MAI-Gym：共享 rollout 的 GUI 智能体在线 RL 平台，9B 模型 MobileWorld 78.4%、OSWorld-Verified 76.2%
MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments · arXiv:2610.20939 · 值得扫读
研究问题与核心方法：图形界面（GUI）智能体的在线强化学习很难规模化，原因有二：一是 GUI 实例不能像代码沙盒那样被并发尝试共享，因为智能体操作的是整块屏幕、会改动设备文件与设置，所以每次尝试都要一台处于已知初始状态的独立手机、电脑或浏览器，并伴随大量截图式模型调用；二是真实 GUI 任务往往依赖跨应用的文件与记录，而现有任务合成多依赖孤立输入文件或全应用共享的示例数据。由此还派生出评测与训练各写一套实现、harness（包在策略与环境之间的那层代码）一改分数就变的问题。MAI-Gym 出自阿里巴巴，是统一移动、电脑与 Web 的开放式一体化平台，核心设计是共享 rollout 路径：同一个「智能体 + 环境」组合在评测、数据采集与训练中复用同一套观测处理、上下文构造与动作执行，所以改一次智能体代码三处同时生效。平台层面提供环境管理器（负责发放、隔离、重置与故障恢复，作者称已跑到 20,000 个并行环境实例）与一个命令即可在十个既有基准（三个移动、四个电脑、三个 Web）上评测并在仪表盘里查看每条轨迹的能力，训练器建在 slime 上。动作空间同时覆盖 GUI 与命令行（CLI），电脑上还能逐动作选择界面：一条命令能完成的定位、编辑或移动文件就不必走多步 GUI，而手机与 Web 只用 GUI；一步允许下发一批有序的 GUI 与 CLI 动作，失败命令作为反馈返回而不终止回合，terminate 动作以最终答案与自称成败结束回合。合成侧有两层：应用层由编码智能体造出可重置后端的 mocked apps（模拟应用，含既有服务的「真实世界克隆」与新界面应用两类）；任务层做跨应用世界构造，先由人设与场景生成一个由互联文件与记录构成的连贯世界（共享同一批人物、事件与事实），再从中出题，迫使智能体跨应用检索与整合。为保证奖励可靠，作者先定任务的成功条件再生成代码化验证器，验证器必须在初始态、完成态与重置态三种状态下执行通过才被接受；另有失败驱动合成，用失败轨迹的诊断结果定向补题。 37
关键结果：
- 主结果：用一次联合在线 RL（512 张 GPU、峰值 20,000 个并发环境、约 96 小时）训出的 MAI-Gym-9B（9B 参数，移动与电脑统一），在 MobileWorld 上 78.4%、OSWorld-Verified 上 76.2%，作者称这是 10B 以下开放 GUI 智能体的最好成绩；同尺寸对照 UI-Venus-2-9B 为 75.2 / 70.8、SCALECUA-Qwen3.5-9B 为 12.8 / 68.7，更大的 GUI-Owl-1.5-32B 为 43.9 / 56.5，基座 Qwen3.5-9B 为 18.0 / 57.8；相对基座分别提升 60.4 与 18.1 个百分点（原文表 4）。
- 环境外泛化（Env OOD）：AndroidWorld 75.9、MobileGym 46.5、MacAgentBench 41.3、MyPCBench 15.2、OSWorld 2.0 二值 3.7 与部分分 11.3；相对基座分别提升 18.1、37.5、20.6、8.7 与 3.7/8.8 个百分点，作者称在同类开放智能体中领先（原文表 4、§4.2）。
- SFT 与 RL 的贡献拆分：SFT 热启动把 Task-OOD 均值从 29.9 提到 66.4、Env-OOD 均值从 18.8 提到 32.3；联合 RL 再把 Cross 均值从 44.1 提到 50.5，其中移动均值加 8.7 个百分点、电脑均值加 4.2 个百分点，两个域一起训是同时变好而不是此消彼长；RL 在两个 Task OOD 基准上分别再加 14.1 与 7.8 个百分点，Env-OOD 均值加 4.2 个百分点，且五个 Env OOD 基准全部改善（原文图 6、§4.2）。
- 联合 RL 对比专家合并：两个分域专家分别为 MobileWorld 76.4 / OSWorld-Verified 71.4 与 73.5 / 73.8，按权重合并的三档里 MobileWorld 最好是 50/50 的 76.4、OSWorld-Verified 最好是 30/70 的 74.8；联合 RL 为 78.4 / 76.2，两个域都高于各自最好的合并档（原文表 7）。
- 合成任务规模效应：训练题量从 500 增到 5,000（两种环境合计、同一算法与 rollout 预算），MobileWorld 从 69.2% 升到 78.4%、OSWorld-Verified 从 69.7% 升到 76.2%（原文图 8）。
- 模拟到真实的迁移与陌生应用学习：只用 12306 克隆应用做 RL，克隆内 52 道配对任务的成功率从 36.5% 升到 73.1%，真机真应用从 28.8% 升到 48.1%（+19.2 个百分点），但克隆与真机的差距从 7.7 个百分点拉大到 25.0；在全新应用上，用 252 道题训练、62 道题留出、每题一次尝试、60 步预算，成功率从 25.8% 升到 45.2%，耗尽步数的尝试从 27 次降到 5 次，平均轨迹长度从 33.3 步缩到 16.4 步，且只用验证器奖励、没有这些应用的示范（原文图 9、图 11、§4.3.4、§4.3.5）。
- 基础设施：1,000 个环境就绪的启动时间手机 328.4 秒（作者估计至少比串行 KVM 快 6 倍）、电脑 88.9 秒、浏览器 94.2 秒；重置时延 p50/p95 分别为手机 165.0/184.0 秒、电脑 37.2/100.1 秒、浏览器 6.0/27.0 秒；未计分中止率为 1.2%、1.9%、0.0%。窗口式历史对比逐步式历史：前缀缓存命中率 85.9%（+102.1%）、训练输入 token 由 566,375 降到 86,855（−84.7%）、训练更新耗时由 2166.4 秒降到 810.9 秒（−62.6%），但 rollout 吞吐从 2.3 降到 1.9 步/秒（−18.9%）（原文表 5、表 6）。 37
与目标研究线的连接点：属 A 线的基准、环境与轨迹数据构造，且是这一节里唯一把「环境规模化」「任务合成」与「在线 RL」放在同一套 rollout 路径上的工作。可直接搬走的有四点。其一，「评测与训练共用同一 harness」这条原则针对的是 harness 一改分数就变的问题，任何自建评测都要先回答「评测的智能体是不是训练的那个」。其二，「先定成功条件、再生成代码验证器、最后必须在初始态/完成态/重置态三种状态下执行通过」的验证器验收流程，比用视觉语言模型判分更可靠，且明确把「该存什么不该存什么」的验证器也纳入。其三，跨应用世界构造（先造一个共享人物与记录的世界再出题）解决了合成任务普遍只有孤立输入文件、缺乏跨应用依赖的问题，这个思路可以直接迁移到文本型智能体的任务合成。其四，环境效率的度量口径（1,000 环境启动时间、重置时延 p50/p95、未计分中止率）以及窗口式历史相对逐步式历史的四项指标，是把「基础设施」写成可比数字的模板。与同节其它工作的差异：RealtimeBench 关注时钟带来的动作过期，MAI-Gym 关注环境供给与任务接地；前者证明延迟会改变名次，后者说明只要环境够便宜、任务够多样，一个 9B 模型可以靠 RL 越过更大的特定尺寸模型，两者合起来才是长程智能体评测与训练的两端。 37
结论建议：建议读 §3.1（共享 rollout 路径与环境管理器）、§3.4 全部（环境合成、跨应用世界构造、任务与验证器合成）、§3.5（策略自适应采样、窗口式打包、训练–rollout 一致性）、表 4 与图 6，以及 §4.3.1 的表 5、表 6 与 §4.3.2 至 §4.3.5 五组分析。引用时要限定：主体是单一 9B 检查点与一次联合 RL 运行、无多种子；克隆到真机的迁移只到 48.1% 且会拉大与克隆的差距；部分基线数值引自其他论文与榜单，跨来源比较需谨慎。 37
3. OmicsBench：97 项研究级生信任务拆成 662 个子任务多轮评测，最强组合单趟 0.57、门控 0.67
OmicsBench: a long-horizon multi-turn benchmark of AI agents on research-study-scale bioinformatics · arXiv:2610.21074 · 精读
研究问题与核心方法：现有的生信智能体基准大多把整项分析压成一条 prompt、只判最终返回，因此测不到「一个依赖上一步的子任务接一个子任务」的真实工作流。OmicsBench 把 97 项研究级任务各自写成一个有向无环图（DAG，directed acyclic graph：节点是子任务、边表示后一个子任务依赖前一个的答案），全库共 662 个子任务；每个子任务被当成同一个连续会话里的一轮 user turn，agent 的答案文件与推理都留在容器与上下文里。评分是确定性的：每个子任务配一组 grader，各绑定答案文件的一个字段并与答案密钥比对，子任务分为各 grader 得分的均值、任务分为各子任务分的均值，取值落在 0–1。会话有两种模式——single-pass（单趟，不给任何反馈）与 gated（门控：得分低于门限 τ=0.7 的答案被当作失败退回重做，直到达标或触达尝试上限 θ=3），两种模式都取「最好一次尝试」的得分，且若最好一次不是最后一次，工作区会先恢复回该次状态。任务由 agent 流水线（写作 agent 起草、审查 agent 查是否被论文支持且有数据泄漏、三轮修订后仍不合格即废）加受过研究生级计算生物学训练的人类专家共同构造。58 个 grader 按生物学语义判分而非字符串比对，例如基因 CD274 同时以 PD-L1、B7-H1 出现时也能对上，实体通过各类参考数据库（基因、物种、代谢物、microRNA、耐药基因）匹配。另有一条无监督失败模式发现流水线：让 LLM 判官为每次失败写叙述并改写成与任务无关的分歧描述，再用 UMAP（Uniform Manifold Approximation and Projection，一种非线性降维方法）降维、HDBSCAN（一种基于密度的聚类算法）聚类，最后由另一个 LLM 判官为簇命名。作者为 Gideon Shaked 与 Siddharth Nagisetty 38。
证据与局限：实验规模可观——12 个模型 × 3 个 harness、每个任务每模式 3 次运行、每次运行独立 Docker 容器且无网络、每轮 1800 秒上限；门限、尝试上限、运行数都写死在 Table B2。但引用风险很实在。第一，94/97 个任务是私有测试集，公开的只有 3 个任务连同其数据；外部只能复现这 3 个，分数不可被第三方独立核验。第二，作者自己指出门控模式在设计上就开放给 reward hacking：任何「答案失败」的信号都会诱使智能体去搜一个能过的答案，而不是修正背后的分析；作者在闭选项子任务上直接观察到这一点（智能体靠猜穷举选项），因此把 177/662 个只由闭选项 grader 判分的子任务排除在轮次与重试分析之外，并声明门控增益是「上下文反馈能帮多少」的上界，其中有多少来自 reward hacking 未被量化。第三，只有 Opus 5 与 GPT-5.6 Sol 跑过不止一个 harness，而三对 harness 里两对各共享一个模型、第三对不共享，所以harness 效应无法与模型效应分离，原文明确说不能就 harness 影响下任何结论。第四，97 个任务分散到 11 个领域、18 类分析，每个格子里任务太少，不能做领域内或分析类型内的模型比较。第五，LLM 判官只做了可重复性测试，没有对人类标注者做效度检验。第六，成本只对 OpenCode 上的配置可得，Grok 4.6 与 Qwen3.8-Max 缺成本数据；token 计数在不同 harness 之间不可直接比较（原文脚注）。入口实测：runner 与 3 个公开任务在 Hugging Face 数据集
gideonshaked/OmicsBench（实测 HTTP 200）、grader 库在 gideonshaked/OmicsBench-grader-databases（实测 HTTP 200）；runner 含评测 harness 与全部 grader，MIT 许可，3 个公开任务及其答案密钥 CC BY 4.0，数据集沿用原研究许可，其余任务需联系作者 38。与目标研究线的连接点：这是 A 线（大模型长程任务的训练与评估）中「基准与环境设计 + 执行期门控」的一次完整示范，可直接搬走四样东西。其一，任务设计模板：把一项研究级分析表达成子任务 DAG，再把每个子任务铺成同一会话的一轮 user turn，从而让中间产物既留在磁盘上也留在上下文里——这套结构被作者声明为领域无关，任何「可写成 DAG 且每步可确定性判分」的研究都能照此实现。其二，门控的实现与其自我否定：以 τ 门限把失败答案退回重试、取最好一次得分、并把工作区恢复回最好一次的状态，是一个可复用的执行期控制；更值得搬的是作者对它的限定——门控增益只是上界。其三，轨迹数据的定性筛选流程：让判官把失败改写成与任务无关的分歧描述，再降维聚类、由判官命名簇，这套「描述—嵌入—聚类」流水线可用于给 RL 后训练挑负例、给模型改进挑具体行为。其四，长程退化的度量口径：按会话轮次与依赖链长度切分打分，把「越往后越掉分」与「依赖越多越掉分」分开报。与同节其它工作的差异在于：BixBench3 也有 artifact 依赖图，GeneBench/GeneBench-Pro 也有级联决策点，但这些仍装在一条 prompt 之内；据作者的说法，OmicsBench 是第一个既把子任务铺成一会话多轮、又提供上下文反馈的生信基准，同时它还把规模（研究级）与粒度（可确定性判分的单步）拼在一起。与同单元的 ToolBottleneckBench（2610.21098）互补：后者冻结 harness 预算、只动一个压力来归因，本文则让 harness 与模型混杂并把限额写在会话里；与 Probe-and-Resume（2610.21088）互补：本文的门控依赖答案密钥，而后者研究 ground-truth verifier 在搜索期不可用时如何用批评者代偿 38。
结论建议：值得精读第 3.1 节（形式化定义与两种模式）、第 3.4 节（失败模式分析的两条路径与判官设置）、第 4.4 节与 Figure 6（轮次与依赖的退化曲线），以及附录 H、I（先验与涌现失败模式的完整词表）。引用时必须限定：分数是 0–1 的连续均值、对子任务等权，非同一次会话内可加的通过率；门控分数是上界而非「反馈的实际效用」；94/97 个任务未公开，跨模型比较只在作者发布的三项配置上可核；harness 效应与模型效应在该实验设计下不可分离，不能把「某模型在某 harness 上的 0.57」当作「该模型的能力」 38。
4. SciΠvot：248 例科研「PI 判断」对照，带项目记录时五个前沿模型平均 39.2%、低于随机
SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents · arXiv:2610.21082 · 值得扫读
研究问题与核心方法：作者用前沿模型与智能体系统跑了约半年的真实科研项目：26 个项目横跨六个学科，单个项目持续数周到数月，以发表为目标，涉及理论、仿真、计算与已有科学数据分析（CPU 与 GPU）。他们发现瓶颈不在「把实验跑起来」，而在选哪个实验——自动化检查与评审仍要模型自己识别错误假设并决定怎么验证，错误判断会拖住项目或产出了却解决不了原问题，最终必须资深研究者下场纠偏。作者把这类科学规划与决策称为 PI Judgment（Principal Investigator Judgment，首席研究员判断）。SciΠvot 把人类纠正变成可测的题：每个用例含一个原始 LLM 计划与一个人类修正后的计划（由已完成的项目历史重建），评测者只看到人类干预之前那个 commit 的项目记录（含代码、实验日志、进展笔记）加上两个计划，选出一个更可能推进科学问题的，选人类修正版算对。248 个用例来自 26 个项目，判断类别覆盖规划（123 例）、适应（65 例）、异常察觉（88 例）、证据充分性（47 例）、重复（4 例）、聚焦（122 例），类别可重叠。评测含两个主条件：project（给项目记录）与 options-only（只给两个计划），另扫描从 low 到 max 的推理档位，并在中档之后做两轮「重新审议」（不给正确性反馈，允许继续读项目记录并改答案）。人类基线由 13 名从未接触这些项目的博士研究生与博士后提供，他们通过一个可读项目的界面作答，并配有一个智能体助手。项目记录由 Grok 4.6 撰写，作者用一个对照先导实验检查写作方是否占到便宜 39。
关键结果：
- 中推理档带项目记录时，五个模型里有四个选择被拒绝的原始计划的次数高于选择参考计划；四个模型的两类自助法区间（按用例、按项目聚类）上界都低于 50%。Astra 达到 59.5%，五模型均值 39.2%；五个模型上、全部档位中观察到的最高 project 分数是 Astra 在 xhigh 的 63.5%，而人类基线为 73.4%。（Table 4、第 4.2 节）
- 删掉项目记录反而更好：中档下均值从带记录的 39.2% 升到不带记录的 55.8%；四个模型的配对 95% 区间不包含零，Astra 的区间包含零。即每一个模型都是在没有项目记录时准确率更高。（第 4.4 节、Figure 4）
- 更多思考不保证更好：从 low 到 max，四个模型改善而 Sol 从 36.1% 降到 29.2%；Terra 在第一次重新审议后从 29.2% 升到 52.0%，第二次审议后掉回 42.7%；Opus 也在第二次审议掉分，两次下降的配对区间都不含零。五个模型合计，第一次审议修好 422 个错误、引入 302 个新错；第二次修好 264 个、引入 305 个，把前一轮的收益部分抵掉；三阶段均值依次为 39.2%、44.0%、42.3%。（第 4.5 节、Figure 5a）
- 判断类别上差别明显：Astra 在异常察觉用例上到 72.2%，但在规划用例上只有 56.1%、在聚焦用例上 54.9%。两个例子说明「按调查所需分配算力」：case 21 里一个未经测试的设置本该先做小规模试验，模型却在十次回答里有七次保留每格 200 项的批量；case 13 里验证假设需要一次全长训练，模型在十次里有六次保留三次短的门控运行。（第 4.3 节）
- 立场极化：有 49 个用例上五个模型在两种选项顺序下都选了被拒计划，16 个上五个模型都选了参考计划。作者把原始 LLM 计划是 on-policy 文本、人类修正计划是 off-policy 文本这一不对称，视为系统性偏好原始计划的结构性来源。（第 4.2 节）
- 写作方先导实验：三个写作方（Astra、Opus、Grok）各为 20 个共享用例出选项，取三种写作方下冻结 commit 与选项哈希都一致的 13 个用例分析，每格 26 次回答。发布集的写作方 Grok 在自己的用例上从不是最高分——Opus 在 Grok 所写用例上带项目记录得 34.6%，Grok 自己只有 23.1%；最大的一处增益跨写作方出现，Astra 在 Opus 所写用例上达到最高的 76.9%。结论是写作方身份改变用例绝对难度，但不构成跨模型比较的混淆 39。
证据与局限：实验设计上有几处值得留意。区间估计用 10,000 次按用例的自助法（随机种子 20261004，两种选项顺序按同一批用例索引重采样），另外报告按 26 个项目重采样的项目聚类区间——作者特意说明同一项目的多个用例可能描述相关的人类干预、且同一项目被抽中多次时贡献其全部用例。人类基线来自 13 名新手的项目记录阅读，并配有智能体助手，协议写在附录 D。引用风险集中在用例筛选：248 个用例是从更早一批用「每个用例 120 次模型回答、五个模型、十二个条件、两种选项顺序」筛出来的，只保留模型回答在两种计划间有分歧、且两种计划都拿到最小份额回答的用例；作者援引 challenge-set 先例，并明确说所得分数是诊断性的，衡量的是「在模型彼此分歧的决策上能否识别」，而不是「科研决策的总体准确率」。其次，作者声明被选用例不估计这些失败在整个科研活动中发生的频率，且基准只覆盖理论与计算类研究（仿真、已有数据分析），湿实验与 COMSOL 这类专门商业软件不在范围内。第三，重新审议的重复回答不是独立用例，各推理档位也没有对齐 token 预算。第四，写作方固定为 Grok 4.6 一套指令，主比较里这一点被先导实验部分抵消，但从未完全消除。入口实测：代码与数据在 GitHub
AutoResearch-Factory/SciPIvot（实测 HTTP 200）39。与目标研究线的连接点：属于 A 线，且它提供的是一套很具体的轨迹数据构造流程：从已完成的长期项目中反向恢复决策点，用「干预前那个 commit」把事后信息严格挡在用例之外，再拿后来发生的事作为证据重建人类修正版——这套「用历史把答案锁在干预之前」的做法，可以直接搬到任何有人类介入的长程智能体轨迹上。另一个可搬的是含记录与不含记录的对照：它把「上下文更多是否更好」变成一个可测量的问题，而本文的结果是带项目记录反而更差，原因被归到项目记录里混着原智能体的错误解释（Transformer 一例里 Opus 把进展笔记中「评分故障已被排除」的说法当成既定证据，用来支持原本的错误）。这对执行期上下文管理有直接含义：继承下来的解释会污染判断，harness 需要区分「观测」与「解释」。第三，用例的成对结构天然是直接偏好优化（DPO）格式，作者自己提出下一步可训练一个偏好打分器，为智能体强化学习中的科研动作提供奖励。与同节其它工作的差异：PaperBench、RE-Bench、MLE-bench 测复现或对既定目标的推进，ScienceAgentBench 测可执行工作流，BLADE、ForeSci 分别用人类专家分析决策与后续文献做依据；SciΠvot 的参照系是资深研究者的纠正加解释这些纠正的实验记录，测的是在结果未知时能否识别更有依据的科学决策。与同单元的 Kolab（2610.21109）方向相反但互补：Kolab 把人类反应标成采纳/修改/拒绝用于预判，本文把人类纠正做成二选一判断 39。
结论建议：建议读第 3.2 节（用例如何从历史里恢复）、Table 2（判断类别与各自案例数）、第 4.4 节与 Figure 4（项目记录的反向效应）、附录 A 的 Table 5/6（带完整用例与项目聚类区间）与 Table 12（写作方先导实验）。引用时必须限定：这 248 例是按模型分歧筛出的挑战集，39.2% 与「四个模型低于随机」只描述这批被选中的决策，不能写成「前沿模型科研判断力为 39.2%」；73.4% 的人类基线来自 13 名新手且配了智能体助手，不是专家水平；覆盖范围仅限理论与计算研究 39。
5. Probe-and-Resume：终态分叉实测的门控，Terminal-Bench 2.1 通过率 63.4%→72.4%
Probe-and-Resume: When and How to Evaluate Agent Execution · arXiv:2610.21088 · 精读
研究问题与核心方法：终端型计算机使用环境只暴露庞大底层状态的一小部分，而一次错误命令就可能毁掉有用状态、把后续工作带偏。可分支执行环境（snapshot 快照、restore 恢复、fork 隔离分叉）让测试时搜索变得可行，但分支本身不告诉智能体该走哪条轨迹，搜索还需要一个评价信号；而在大多数自动化场景里，任务的 ground-truth verifier（基准自带的真值判定器）在执行期间不可用，搜索只能靠 critic（批评者：对被评状态给分的评价模型）来选分支、判终止。因此核心问题是批评者的两个设计选择：什么时候评、需要什么权限。作者把智能体拆成 actor（执行动作、产出轨迹）、critic（评价状态）、search policy（选状态、决定何时停）三个部分，每个节点存环境状态与产生它的轨迹前缀，环境支持 snapshot→i、restore(i)、fork(i)。他们比较三种批评者：C^traj（不给环境工具，只看轨迹）、C^read（可在分叉上跑 cat、ls、grep、diff 等只读命令）、C^act（可在分叉上执行任意命令，包括装包、写文件、跑测试乃至破坏性操作）。评测位置取 actor 轨迹的 25%、50%、75% 深度与候选终态；中间态上批评者估计续跑成功率 q̂，与「从该状态出发 5 次 rollout 的通过率」比对，指标是同任务同深度配对的顺序一致率（随机为 50%）；候选终态上批评者给裁决 v̂，与 verifier 结果比对，指标为误拒率（把通过状态判为失败）与误受率。共评 1111 个中间态与 406 个候选终态。作者为 Jiakai Xu、Tiancheng Ge、Tujie Guan、Yusheng Li 等，来自哥伦比亚大学 1。
证据与局限：证据强度不错——89 个任务 × 5 次试验、pass@1 带 95% 自助区间（按任务重采样），中间态 1111 个、终态 406 个、初始态对照 404 个，每层都给区间；关键对照（重启 vs 恢复、不同批评者模型、不同 verifier 类型）都做了。局限有几条要写进引用限定。第一，作者自己强调中间态指标被采样噪声拉向 50%：每个通过率只由 5 次 rollout 估出，所以测得的排序能力是被低估的；同时他们不比较中间态与终态的分数，因为两者问的是不同问题。第二，增益依赖模型：作者报告用 Astra 与 Opus 当 actor 或 critic 时，即便在 Terminal-Bench 的难任务上也没有统计显著增益，属于「弱证据」级别。第三，分叉不隔离对外部数据库或共享服务的写入，破坏性检查需要额外隔离那些依赖或限制批评者动作；本文的环境状态由面向终端的容器分支器 Waypoint 管理，GUI 工作区需要别的分支支持（如 TClone）。第四，评测口径有几处偏向对照方要说明：18 个无法判分的试验被剔除，且全部来自两个搜索基线；Codex CLI 的结果取自 Harbor Hub 公开榜单，其时间预算只覆盖 agent（本文的还包括批评者与每次快照/恢复/分叉），且到达时限时 Codex 按留下状态判分而本文算失败，作者自己也说这些差异对 Codex 有利；成本按 AWS Bedrock 价计算，且只算模型 token。第五，作者明确说结果不证明「完成时刻是最优干预点」，也不排除更强的价值估计器或别的搜索策略可行。入口实测：分支容器与搜索实现见 GitHub
Alex-XJK/harbor-StateFork 的 arxiv-v1 分支（实测 HTTP 200）、分支器 Alex-XJK/waypoint（实测 HTTP 200）、评测框架 harbor-framework/harbor 与 harbor-framework/terminal-bench 亦在原文引用中 1。与目标研究线的连接点：这是 A 线「执行期控制」里最可直接搬运的一篇，因为它把「门控放在哪里」从直觉变成实验。可搬走四样东西。其一，门控位置：不要在中间态上评，只在 actor 自认完成的状态上评——理由很硬，中间态的价值估计在前段等于随机，而终态的裁决误判率能从 36%–39% 降到 22%。其二，批评者权限是一个独立设计轴：只读（C^read）与可执行（C^act）在终态上的差别巨大（误拒 52% vs 22%），而且当 verifier 只读文件时，批评者仍需要执行权限来自己构造检查（93% 的只读类误拒理由是「证据不足」而不是发现违规）。其三，初始态参照：给批评者一份初始环境分叉可把误拒从 24% 压到 17%、自一致不一致率从 18% 降到 9%，因为它能判定「哪些必须保持或恢复」。其四，判官效度的度量口径：用「同任务同深度配对顺序一致率」评中间态、用误拒/误受评终态，比单看任务成功率更能定位失败；本文还把批评者错误单列出来测。此外有一条可直接用于系统设计的观察：评估一个终端任务本身就是一个终端任务，所以仅靠更长的交互历史或单纯检查环境往往都不足以判断脚本/配置/服务是否正确。与同节 OmicsBench（2610.21074）的门控对照：那里有答案密钥做确定性门，本文处理的正是「搜索期拿不到真值 verifier」这一更普遍的情形；与 ToolBottleneckBench（2610.21098）对照：后者把 harness 限额单独抽出来归因，本文则把时间预算计入整个试验（含批评者与分叉）并单独比较了「重启 vs 恢复」以说明恢复本身值多少（重启会让成功率降 6.1 个百分点且更贵） 1。
结论建议：优先读第 3.2 节（批评者权限与评测位置的对照实验）、第 3.3 节（初始态参照）、第 4.1 节（Probe-and-Resume 的完整流程与停止条件）与 Table 1/2/3，机制拆解看 Figure 6 与 4.2 节的 Detailed Analysis。引用时必须限定：全部结论建立在 GPT-5.6 Luna + Terminus-2 + Waypoint 可分支容器这一组合上，换模型或换状态管理层（例如 GUI 工作区）需要重新验证；「批评者好于随机」只在轨迹后段成立，前段不成立；中间态的一致率是被 5 次 rollout 噪声压低的估计，不宜当作批评者能力上限；所有成本按 Bedrock 单价与模型 token 计，跨 harness 不可直接比较 1。
6. ToolBottleneckBench：可见菜单 8→128 降 12.3 个百分点，补全上限提高 16 倍后惩罚从 −43.7 缩到 −2.7
ToolBottleneckBench: Measuring Tool-Agent Performance under Controlled Pressures and Fixed Harness Budgets · arXiv:2610.21098 · 值得扫读
研究问题与核心方法：工具智能体的成功率里混着模型与 harness（包在执行器外面的那层调用外壳）的双重贡献——同一个失败现象，可能是模型选错了工具，也可能是可见菜单太长导致首次响应被补全上限截断，还可能是服务适配器静默丢掉了格式正确的工具调用；只报一个成功率、或只标出「第一个未满足的步骤」，都分不清这两类原因。ToolBottleneckBench 的做法是固定一切、每次只改一个压力。一个 task family（任务族）把定义正确答案的所有东西钉死：用户请求、决定答案的事实值、决策标签、必须引用哪些证据的规则、环境允许的最终状态、以及干活用的工具（operational tools）的身份；基准有 36 个族，嵌在会计、邮件、文件、日历记录构成的 12 类合成企业意图里，记录 ID 不透明以防跨题复用答案。确定性编译器每次只改一个压力，产出 matched variants（匹配变体）；因为正确答案的决策与事实在变体间不变，配对差值就是被改压力的效果。四个压力是：注册目录 R（32/512/2048 个函数，与模型无关的冻结检索器返回 16 个候选）、可见菜单 V（8/32/128 个 schema，operational tools 始终在内，新增者都是路由邻居，离线审计执行 13,158 次均未返回记录）、认证工作流 W（低/中/高要求 2/4/6 次读加一次可能的可逆动作；另一条前沿支线把同样事实藏在 0/2/6/14 个公共交接后，认证最小调用变为 2/6/14/30）、返回状态编码 D（raw JSON、compact 字典元组、typed 类型对象、linked 带身份链接，四者解码后取值相同）。所有主结果共用一份冻结 harness 合同：每请求补全上限 1,024 token、整集预算 128,000 token、调用上限 = 认证最小调用数 + 2、轮次上限 = 调用上限 + 2。成功口径是 verified task success（VTS）：九个义务按顺序取合取（工具可用性、工具选择、依赖合法的程序、精确 JSON 答案、精确引用集合、恰好允许的状态变化、无未请求的状态变化、预算与调用上限、完成完整性），任何依赖合法的调用顺序都接受，不引入模型判官。失败集由「首个未满足的义务」加一个 terminal flag（按优先级：补全截断、超预算或超调用上限、触轮次上限、提前判不可行停止、错误结论、违反合同其他条款）组成，这一对称为 failure record。作者为 Zichuan Xu、Yuyang Dong、Makoto Onizuka、Chuan Xiao，来自大阪大学、Initial S 与名古屋大学 40。
证据与局限：统计做工扎实——配对族内差值、按 36 个族（主）以及 12 类意图与 21 个配置重采样的 10,000 次聚类自助法、八项对比做 Holm 校正、修复用交并检验并设错层修复对照。局限同样明确。第一，全部结论只在冻结的 harness 预算下成立，唯一被扫描的预算是补全上限，且 16 倍扫描只在 8 个配置的路由菜单通道上做，残余 −2.7 个百分点是在未变的整集预算与调用上限下测的。第二，名义上限不等于有效预算，不同供应商计法不同，除一条路线外推理强度都保持供应商默认。第三，每个核心容量格每配置只跑一次，作者用族自助法吸收运行间波动，并用哨兵重复（12.1% 分歧）与扫描重复（1,024 token 下 17.5%）直接测出这一波动。第四，任务合成、精确判分、无部分分，每个压力效应里还混着该操作顺带改变的一切（例如菜单变大同时增大 schema 字节与提示词 token）。第五，一个配置把模型与供应商路线绑在一起（其中一条是 FP4 量化），结论描述的是这一对。第六，生成器与任务已公开，发布后训练的模型可能见过。入口实测：GitHub
zichuanxu/tool-bottleneck-bench 返回 HTTP 200，按原文声明发布了生成器、判分器、计分行与分析代码 40。与目标研究线的连接点：对 A 线的价值集中在评测口径，可搬四处。其一，「一压力一对照」的实验设计：任务族固定一切、编译器每次只改一个负载并产出匹配变体，使配对差值直接读作该压力的效应，比在同时变几样的现实环境里比总分可归因得多。其二，「把 harness 限额写进失败记录」：首个未满足义务与终止标志成对记录，可拆开模型能力与外壳、预算的归因；本文用这张表证明失败标签会骗人。其三，「修复要有选择性且必须与换配置比较」这一对照协议：L（受压损失）、Γ（受压增益）、Σ（选择性）、Δ（相对错层修复的优势）四量加上与每一个配置切换比成功与成本，是任何声称修复有效的工作都该照做的检查；结论也很有提醒价值——只有改变「工具如何到达模型」或「谁来发调用」的修复才激活，纯提示词修复不行，而唯一胜过所有配置切换的两个修复都不改善模型行为。其四，报告建议可当口径用：报压力效应时必须同时报 harness 预算与截断率，报首个失败标签时必须同时报触发的限额。与同节其它工作的差异：ToolMenuBench 区分金标工具是否可见与是否被选中，Harness-Bench、HAL 按模型与 harness 分别报告，但都不记录「负载惩罚有多少与某个 harness 限额同时发生」；本文量化了这一点，并由此得到「大菜单下的排行榜某种程度上在排各配置如何花掉补全上限」。与同单元的 OmicsBench（2610.21074）互补：那边用长时间多轮开放式任务测上限，这边用短任务、受控压力、冻结预算测归因 40。
结论建议：优先读第 3.2 节（四个压力各自改了什么、顺带改了什么）、第 3.3 节（冻结 harness 合同的四个限额）、第 5.2 节（截断分层与 16 倍上限扫描）、第 5.4 节与 Figure 4。引用时必须限定：所有数字都在固定预算下测得且只有补全上限被单独扫描；任务全为合成、精确判分、无部分分；核心格每配置单次运行，1,024 token 下重复分歧率高达 17.5%；一个配置是模型加供应商路线的组合，不可拆开单独引用 40。
7. 规划承诺度：保守与激进规划器准确率相当，给出统计先验后激进方法的调用轮数约少 40%、重试次数更多
Planning Commitment of LLM under Partial Observability · arXiv:2610.21108 · 邻近跟踪
研究问题与核心方法：基于大模型的规划智能体在与部分可观测环境交互之前，必须先决定「一次承诺多长的计划」。激进的一派根据对未观测状态的假设一次性提出通向目标的整条计划、出问题再修；保守的一派只对已观测事实做规划、走一步看一步。两条路线都隐含在预训练模型里，而且无论模型直接输出计划（LLM-as-planner，模型即规划器）还是先写 PDDL（Planning Domain Definition Language，规划领域定义语言）交给经典求解器（LLM-as-formalizer，模型即形式化器），这个选择都会出现。激进承诺在假设错时付出昂贵失败，保守承诺要更多轮模型调用，是把安全与效率摆在对面的取舍，此前既没被系统刻画也没变得可控。作者构造两个受控的部分可观测文本域做四路对照：{规划器, 形式化器} × {保守, 激进}。域一 Coin Collector：9 个房间的平面图导航找硬币，只有 move 与 take 两个动作，领域本身没有常识，于是用人工筛选的统计先验充当受控替代——一对房间的方位统计在至少 80% 或至多 20% 时算显著，最终选出 10 条在数据集上显著且准确反映该数据集的统计量作为先验，另设不给先验的对照；共 100 道题，每题都有全观测与部分可观测两版描述，后者删掉全部房间连接信息。域二 ALFWorld：作者自建可控模拟器，每题 5 个房间、15 个容器、15 个可移动物体、一个跨房间放置目标，房间内容按真实常识生成，因此该域没有不提供常识的设置。四种方法各取一个代表实现：保守规划器照 ReAct 交错推理与动作，激进规划器照 Plan-and-Act 先生成完整计划再修，保守形式化器照 PDDLego+ 从观测增量生长 PDDL，激进形式化器由作者新提出——直接把假定的事实写进 PDDL 问题文件。度量是规划准确率、平均失败尝试次数、平均 API 调用次数与平均输出 token 数；计划用 metric-FF 计算，部分可观测下的尝试上限取逻辑智能体的最坏情况（Coin Collector 为 k+1，k 是隐藏连接数；ALFWorld 为 20）。模型是 Gemini-3-Flash 与 DeepSeek-Flash（走 API）以及 Qwen3.8-27B（单张 NVIDIA H100 上 vLLM）；作者来自德雷塞尔大学、东北大学、加州大学欧文分校与宾夕法尼亚大学 41。
关键结果：
- 全观测下两种承诺策略表现基本相同（符合预期：全观测消除了不确定性），残余差异来自提示词写法与模型随机性。Coin Collector 上保守形式化器的掉分来自它没在 PDDL 里更新智能体所在房间，是状态跟踪错误而不是承诺造成的。（第 6 节、Figure 3）
- 不提供统计先验时，保守方法更安全而激进方法几乎不省调用：保守方法的平均重试次数最小，代价是要更多轮模型调用；激进方法必须一次输出整条计划，调用轮数等于解出问题所需的总规划尝试数，重试次数因此大得多，且没有先验只能盲猜通常错误的信息。给出统计先验后，激进方法的平均调用轮数比保守方法减少约 40%，两者准确率相近，激进方法的重试仍远多。（第 6 节）
- 「保守是否真的保守」的检验：所有模型与保守方法使用的未观测连接数都接近零；未观测连接在激进规划器生成的一半以上计划里出现，在激进形式化器编码进 PDDL 的连接里至少占 30%。（第 6 节）
- 激进形式化器把统计先验当成事实用：在给出先验的三个模型上，来自先验的未观测连接占比都上升，且概率更高的先验被依赖得更重。作者提醒先验虽在此处正确，一旦用户给出错误信息就可能在真实问题上造成有害后果。（第 6 节、Figure 4）
- ALFWorld（纯常识环境）上结论大体保持：保守规划器失败尝试少于激进规划器，激进规划器平均 API 调用更少；形式化器两类失败尝试都多得多，但激进形式化器的失败尝试少于保守形式化器且比它高效得多。token 方面：激进规划器的输出 token 总是多于对应保守规划器；保守形式化器的输出 token 总是多于激进形式化器。（第 6 节）
- 混合策略：固定式混合规划器（先激进、失败若干次后转保守）减少失败尝试而 API 调用接近激进规划器，Gemini-3-Flash 与 Qwen3.8-27B 作固定式混合形式化器时也取得中间位置。反面案例是 DeepSeek-Flash 的固定式与 Gemini-3-Flash 的自由式混合形式化器：表现接近激进形式化器但差于保守形式化器，前者的主要问题是没正确跟踪当前房间，后者则连幻觉连接都与激进形式化器相同。（第 6 节）
- 选择建议带两条成本前提（一次模型调用的成本、一次重试的成本）：没有先验或常识时推荐保守承诺；有可靠先验或常识时才是真正的取舍，若失败容易恢复（如在已知站点结构上做网页导航）则激进更可取，若失败昂贵或不可逆（如自动化实验协议）则多花的调用通常值得；两者都重要时用混合方法 41。
证据与局限：规模偏小（三个模型、两个自制文本域、每域 100 道题），度量只有四项，但对这个取舍而言四项恰好把两面分开报。引用风险有六条。第一，作者明确说两个域都是人工的，结论能否迁移到网页导航、实验室自动化等真实场景未经验证。第二，先验由评测集本身算出、完全校准，错校准或留出先验没有被测；「错误先验有害」是从观察到的过度依赖外推的，不是实测。第三，因为「使用先验」在本框架里本身构成一种承诺，作者没有评测「只拿先验引导探索」的中等承诺智能体。第四，规划准确率可能有假阳性（计划碰巧正确而生成的 PDDL 并未描述满足约束的环境），作者说 20 例人工抽检未发现假阳性，也坦承目前没有可行替代方案。第五，输出 token 不含隐藏推理 token，低估真实生成成本。第六，ALFWorld 上的 Gemini-3-Flash 因预算限制未跑。入口：论文未给出公开代码或数据仓库（已核对全文无此类链接）41。
与目标研究线的连接点：属于 A 线的「环境与任务设计 + 执行期控制」边缘但有内容的一支，可搬三样。其一，把「承诺度」做成一根可调旋钮：保守（只用观测事实、朝中间子目标前进、段成功后延长）与激进（补全所有缺失事实、一次规划到目标、只在动作被拒时重规划）是可用提示词与执行语义固定下来的两个端点，混合策略再加一个「先激进、失败 N 次后转保守」的超参，这对「多久重规划一次」的控制问题是一个直接可用的抽象。其二，环境构造法：Coin Collector 用人工筛出的统计先验充当可调强度的常识代理并配不给先验的对照，ALFWorld 用真实感的房间内容让模型只能靠训练数据里的常识——这套「先验强度可控、常识只能内生」的两域搭配可照搬到别的长程规划环境里做同类对照。其三，度量口径：把解出率与失败尝试数、API 调用数、输出 token 数四项并列，正是把安全性与效率分开，这与本单元 ToolBottleneckBench 的口径思路一致。另有一条对上下文管理直接有用、且与同单元另两篇互相印证的发现：提示词里的概率先验会被模型几乎当成事实使用，概率越高越被依赖——这与 SciPvot 里「项目记录中的解释被当成既定证据」、Kolab 里「模型靠自身先验而不看观测」是同一种失效型态。与同节其它工作的差异：本文不提出新的基准库，而是造两个小域做受控对比，且不评测中等承诺这一中间档（作者将其列为范围之外）41。
结论建议：建议读第 3.1 节（两种承诺与四种方法的形式定义）、第 4 节（两域与先验构造规则，特别是「至少 80% 或至多 20% 才算显著」的门槛）、第 5 节（尝试上限与 API 调用作为主效率指标）、第 6 节与 Figure 3、4、5，状态跟踪类错误看附录 G.2。引用时必须限定：数字来自两个自制文本域、单套尝试上限、三个模型；先验在评测集上完美校准，错误先验的效果是外推而非实测；输出 token 不含隐藏推理；ALFWorld 无 Gemini 结果且该域没有不提供常识的设置 41。
8. Kolab：50 位专业人士 115 小时录屏，前沿多模态模型预测 AI 采纳的 F1 最高 0.676、评分相关最高 0.379
Kolab: Benchmarking Human-Agent Collaboration in Long-Horizon Workflows · arXiv:2610.21109 · 邻近跟踪
研究问题与核心方法：人类在长程任务里与智能体协作时，更看重持续互动（改计划、纠方向）而不是一次性把活干完，但多数智能体基准测的是自动化。Kolab 用真实职业工作流来补这个口子：50 位来自 40 种职业的从业者（通过口碑、Prolific、Upwork 招募，报酬 100 美元加超时奖金），各自带来自己工作中的真实问题，要求满足四条——来自实际工作、需要本领域专业知识、至少一小时且至少五步的相互依赖流程、有可交付物且每步有可评估的中间产出。每人两次各一小时的录屏会话，主要用 Claude 交互（也允许用别的 AI 工具）。每条流程被表示成时序图：节点是人类或智能体动作，边表示动作的直接先后，人类评估并在 AI 界面之外处置智能体产出的那一步被标为 Adopt（原样采纳）、Modify（修改后采纳）或 Reject（拒绝，例如丢弃或明确负面表态后换路子）。另有三个人类协作动态指标：协作爆发度 B（事件间隔的均值与标准差之差比之和，取值 −1 到 1）、工作流拓扑 W = 出度大于 1 的分支节点数 / 边数（衡量人类与智能体并发工作的程度）、AI 留存率（采纳率与修改率）。基准任务分两组：RQ1 让模型预判人类如何处置智能体贡献，含 1a 识别（能看到人类反应）、1b 预测（看不到）、1c 用前 1/2/3 步作额外上下文、1d 给整条流程作上下文；RQ2 让模型从整步录像预测人类打的 1–5 分协作满意度与产出质量。评测对象是 Gemini 3.8 Flash、Gemini 3.1 Pro、GPT-6 Astra+、Claude Code Opus 5.5 与两个开源视频模型 Qwen3-VL-30B-A3B（MoE）与 Qwen3-VL-32B（dense），对照是多数类（Adopt）与众数评分基线，并枚举视频、图、聊天三种模态的七种组合。作者来自明尼苏达大学 42。
关键结果：
- 数据集：115 小时录像、100 条流程、508 个工作流步骤、平均每会话 69 分钟、平均每会话 5.24 步、平均每步 8.68 个节点、覆盖 90 多种软件；692 个采纳标注里 Adopt 占 65.9%（456）、Modify 占 19.1%（132）、Reject 占 15.0%（104）。（第 3 节、Table 3）
- 识别与预测的差距很大：1a 识别上 Claude Opus 5.5 的 F1 最高 0.676（GPT-6 在较少实例上为 0.713），Gemini 3.1 Pro 为 0.617，多数类基线 0.265；1b 预测上 Gemini 3.1 Pro 只有 0.391、Claude 0.492（GPT-6 0.513，实例更少），且 Claude 的预测 F1 由 Adopt 主导、在 Modify 与 Reject 上明显更低。Gemini 3.1 Pro 强烈偏向 Adopt：52% 的真 Modify 与 71% 的真 Reject 被它预测成 Adopt。（Table 5、第 5.2 节、Figure 7）
- 预测人类评分几乎不成立：众数基线在协作满意度上的 MAE 为 0.682、产出质量上为 0.735，优于每一个模型；Gemini 3.1 Pro 拿到最低 MAE（0.685 与 0.764）仍不敌基线。排序一致性同样弱：协作满意度最高 Spearman ρ=0.379、产出质量最高 0.352（均为 GPT-6），多个模型接近零。（Table 6）
- 更长的流程上下文没有稳定帮助：多数视频与图设置下 macro-F1 变化不到 0.07，且视频上所有改进都不显著；聊天记录受益最多，Gemini 3.1 Pro 给三步前文时提升 0.12 F1（p<0.01）但给整条流程后不再持续。更长上下文也会有害：Qwen-32B 给完整图时从 0.43 掉到 0.32 F1（p<0.01）。（第 5.2 节、Figure 4）
- 模态分析：没有哪种模态在所有模型或任务上最好。单独视频在 1a 上给 GPT-6 带来最高识别 F1=0.71；图（单独或与视频、聊天组合）在 1b 上最好，GPT-6 达 F1=0.52。聊天单独使用特别损识别 Reject：相对视频，Adopt 变化 +0.07、Modify +0.01、Reject −0.07，因为聊天记录看不到智能体产出在界面之外被怎样使用。人类标注的流程图对开源模型帮助明显：Qwen-32B 加图后预测 F1 从 0.23 升到 0.37。评分预测则无论模态都受限，相关最高只到 ρ=0.38（协作满意度，GPT-6，仅视频）与 ρ=0.42（产出质量，GPT-6，视频加图）。（第 5.3 节、Figure 5/6）
- 系统性偏置：Gemini 3.8 Flash 在视频输入下对 83.8% 的样本预测 Adopt（地面真值 65.9%），Qwen3-32B 反过来偏好 Modify、预测率 87.3%（真值 19.1%），这些偏置在图与聊天输入下基本延续。评分预测上 Gemini 3.1 Pro 用视频对真实 1 分预测 4.83、对真实 5 分预测 4.95；Claude 在整个 1–5 量程上的预测只从 3.3 到 3.9 变化。作者据此提出模型可能靠自身先验而非观测到的工作流在做预测。（第 5.4 节、Figure 7/8）
- 协作动态：协作爆发度在同一人两次会话间相对稳定（Spearman ρ=0.59）；爆发度越高的流程「独作前置期」（一步中第一次与 AI 交互之前的时长占比）越长（ρ=0.35，p<0.001），与「使用 AI 前计划更清楚」的自陈也正相关（ρ=0.53，p<0.001）；分支越多与协作评分越低相关（ρ=−0.24，p<0.05）。AI 留存率按领域分化：多数领域以原样采纳为主，从法律业的 57% 到科学及计算机与数学工作的 79%，法律业修改率 41% 约为次高者（艺术与体育 22%）的两倍 42。
证据与局限：数据来自真实从业者的自有问题、有录像、有逐标注意见与人工写的分步产出评分标准，还公开了七类组件（录像、流程文档、人机聊天记录含工具调用、可选输入输出文件、人类评分与分步评分标准、带时间戳与采纳标签的工作流图、会话后问卷），这比只放任务与答案的基准更接近「过程数据」。引用风险有四条。第一，问题由参与者自选，不是从数据集里取的标准任务，因此每题难度与结构不可比，作者也说明分析意在描述观察到的协作模式，而非跨职业的总体比较。第二，人类评分高度偏正：协作满意度 54.9% 的会话打 5 分、29.7% 打 4 分，只有 15.3% 打 3 分或以下（产出质量 53.5% 打 5 分、31.0% 打 4 分），这直接导致众数基线优于所有模型——引用 MAE 时必须同时说明这一点。第三，模型之间并非同一实例集：GPT-6 因成本只评了更少实例（1a 为 279 个、1b 为 349 个；2a/2b 为 276 步），所以表里 GPT-6 的数字不能与其他模型直接横比。第四，研究默认智能体是 Claude，作者自己推测 Claude 在识别上占优可能来自它更熟悉自己的界面，且真人全程可能并用 Gemini、ChatGPT、Grok 等，这使「理解他人的协作」与「理解自己的协作」混在一起。作者在伦理声明中另指出，用会误判人类意图的模型去代替人类判断在专业领域有风险，且已做去标识化并经机构伦理审查。入口实测：代码与数据在项目页
https://minnesotanlp.github.io/kolab/（实测 HTTP 200）42。与目标研究线的连接点：Kolab 不在 A 线的正中心——它测的不是智能体把长程任务做完，而是模型能否读懂一次人机协作——但它对 A 线的「轨迹学习」与「过程级判官」有明确可迁移价值。可搬的三样东西：其一，把过程数据变成监督信号的做法：录屏加「人类在 AI 界面之外怎样处置产出」的三分标签（采纳/修改/拒绝），可以在不要求专家逐条标注的前提下给轨迹打标，作者也点明这可用于训练与审计部署中的智能体；本单元的 SciΠvot（2610.21082）用的正是同源思路，只是把标签做成二选一判断。其二，判官效度的反面教材：模型的预测与评分高度依赖自身先验（同一模型对真实 1 分与 5 分给出 4.83 与 4.95），这提醒任何用模型做过程奖励或自动监控的设计都必须先测「预测是否随观测而变化」，而不是只看平均误差。其三，对上下文管理的直接含义：把流程上下文从一步扩到三步甚至整条流程并不稳定地提升判断（视频无显著增益、聊天的增益不持久、Qwen-32B 给完整图反而掉 0.11 F1），这与同单元 OmicsBench、SciPvot 里「上下文更多未必更好」的发现方向一致。与同节其它工作的差异：多数长程基准（Workflow-GYM、GDPVal、TheAgentCompany 等）评的是自主完成，Kolab 是其中少数同时具备人类真实流程、人机协作与多模态公开发布、并带分步人类评分的；与 DeskCraft 相比它多出 40 个领域与真实从业者自选问题，与 Collaborative Gym 相比不局限于三个预定义任务 42。
结论建议：值得读第 4.2 至 4.3 节（三个协作动态指标与它们的相关性结论）、Table 5/6（采纳识别与预测、两类评分的完整数字）、第 5.3 节与 Figure 4/7（模态作用与系统性偏置）。引用时必须限定：任务由专业人士自选、难度不可比；人类评分高度偏正，众数基线优于所有模型；GPT-6 的实例数少于其他模型，不可与其他模型直接横比；默认交互对象是 Claude，识别成绩可能含界面熟悉度优势 42。
9. AgentEval：32 次工具世界执行 30 次可判，全合同判分 23 通过 2 违反 5 未决，48 个证据视图 36 个被哈希校验漏放
AgentEval: Evidence-Bounded Assessment of Stateful Agents · arXiv:2610.21177 · 邻近跟踪
研究问题与核心方法：有状态智能体的「任务完成」不等于「义务被满足」——同一句完成话术可能伴随完全不同的持久化副作用；而一份记录下来的判定也不保证它的支撑证据今天仍然成立。作者把这套要求称为 evidence-bounded assessment（证据有界的评估），核心设计是让同一份受合同约束的评估记录贯穿执行、报告检验与用例维护，并区分三个问题：智能体实际做了什么（行为真相 Y*）、证据是否足以判定它、以及这个结论在当下是否还被支持。评估记录写成 R = (A, Γ, c, v, e, Ŷ, m, h)：A 是配置，Γ 是任务合同（命名目标与适用的权限、副作用、事务、交互要求），c 是条件（世界、观测接口、授权、可信请求方上下文、故障、预算），v 绑定目标、任务、世界与校验器身份，Ŷ 是检查结果，m 是测量状态，h 是来源与内容摘要。当上下文足以把每条义务定义成二值谓词时判定是三值的：+（所需义务全部成立）、−（某条必需义务被违反）、?（手上事实两种结论都建立不起来）；身份或合同不匹配单列为 invalid，执行被打断算测量失败。报告资格定义为 Q = I_binding ∧ I_integrity ∧ I_contract ∧ I_dependency，即运行、主体与规格绑定一致，证据字节完整，合同仍被支持，声明的测量依赖身份一致；重新检验报告不重跑目标，也不改写历史判定。未决状态给出一个记账式包络 [n+/N, (n+ + n?)/N]，作者明确说这不是置信区间也不是新估计量。系统侧有可信执行宿主（冻结任务与测量身份、目标只拿到投影后的观测与工具 schema、期望答案与特权状态留在目标请求封套之外）、内容寻址的证据存储、治理化用例生命周期，以及把审阅过的用例接成多轮报告的 Scenario Studio。作者为 Ruiqi Gao，来自阿里云 43。
关键结果：
- 32 次工具世界执行全部尝试、30 次完成（2 次因智能体复用同一工具预算键却改了请求参数而触发幂等冲突），93 次供应商请求全部返回并结算。所实现与独立实现的全合同检查在 30 个完整集上完全一致，得到 23 个 PASS、2 个 FAIL、5 个 UNKNOWN；只看目标的检查给出同样 23 个通过，但把其余完整集全判为失败。（第 6.2 节、Table 2）
- 未决包络 [23/30, 28/30] = [76.7%, 93.3%]，仅就已决样本的比率为 23/25。作者强调无回复澄清合同是部分定义的，这两个端点不能识别同一批轨迹的二值满足率。（第 6.3 节）
- 一个被请求的动作不等于一个已提交的效果：首次出现授权恢复的权限轨迹里调用方是 alice，但其第一次解析请求指定的解析者是 audit，世界拒绝该请求、前后状态摘要完全相同，随后的请求指定 alice 才发出授权事件并结单，故原判定是 PASS——保留「被拦下的请求」与「实际发生的效果」才能解释为什么一个被禁止的请求在违反持久状态合同之前就被挡住了。（第 6.2 节）
- 可信回复改变的是「能建立什么」：八对回复可得性配对里六对完整、两对保留被中断的无回复成员；五个完整对从 PASS 变 UNKNOWN，一对保持 FAIL。无条件的目标消融把这六个无回复集全判 FAIL，而部分合同能把「缺上下文」与「请求澄清失败」分开；作者同时说明目标的随机性使人无法把这一对比单独归因于回复可得性。（第 6.3 节）
- 保留的判定与当下的可用会分岔：48 个证据视图（30 个宿主视图加 18 个直连校验器视图）各按完整、编辑、还原三次查看。所有完整视图独立合格，所有编辑视图失去完整绑定资格，宿主在全部 30 个编辑视图上撤回当前报告可用性；在六处「仪器绑定」编辑下历史判定仍可读而当前报告不可用。只校验哈希会接受 48 个编辑视图里的 36 个（字节仍自洽，但规格、种子、注册、仪器或范围已与那份评估不符）；完整检查区分出 6 个不可用与 42 个绑定失效。（第 6.4 节、Figure 3）
- 用例维护被来源资格卡住：两个全合同失败都缺少澄清配方要求的显式请求方回复，因此都不合格成为来源，准入规则阻止了不受支持的用例创建；激活、后续使用与撤回都已实现并有软件对照覆盖，但这次分配没有合格来源可测其前向效果。（第 6.5 节）
- Scenario Studio：12 个两轮样本全部产出报告，24 个目标答案全部与执行前推导出的程序答案一致。（第 6.6 节）
- 历史公开基准研究（τ-bench 训练切分上的零售场景）：96 次校准加 192 次留出执行。独立实现的子目标在全部 192 次留出执行上一致给出 187 个满足与 5 个违反；原生判分报 177 成功与 15 失败，也就是十例是子目标达成但整任务失败。把必需目标字段从 192 份评测侧副本中扣掉后，原始检查器把每份都判 FAIL，而考虑完整性的适配器判 UNKNOWN；另一轮从 96 个视图里扣掉字段，留下 92 个成立的满足，得到有限满足区间 [47.9%, 97.9%]。（第 6.7 节）
- 成本：工具世界与 Studio 共 118 次返回请求（93 世界、24 答案、1 规划），离线重评不再增加推理；零售研究 2,626 次目标请求与 1,823 次模拟用户请求，约 107 分钟 43。
证据与局限：长处是把「判定的证据基础」做成可执行、可复算的东西，并用独立的第二套检查器验第一套；证据干预实验（每个视图看三遍：完整、编辑、还原）设计干净，能把「记录还在」与「现在还能不能用」分开。局限集中在规模与外推。第一，工具世界只覆盖权限、事务、澄清三个受限家族，完整执行只有 30 个；作者自己把更广的任务生成、开放式判分与跨 agent 比较列为需要更多合同与证据的部分。第二，未决包络被反复声明是标签记账式区间，要当成满足率识别界还需额外假设，且它不是置信区间。第三，零售研究用的是自定义训练来源划分与一个被声明的退货子目标，不建立财务结算或完整对话语义。第四，Scenario Studio 的机器判分是去空白后的精确答案比对，存下的评分标准只是描述性的，生成的用例需要答案校验或操作者复核。第五，用例准入这一路没有取得合格来源，前向效果未被测到。入口：论文未给出公开仓库或数据集地址（已核对全文，无 github 与 huggingface 等链接），仅说明任务合同、配置、执行记录、独立检查与分析输入随复现材料提供 43。
与目标研究线的连接点：它正面落在 A 线的「评测口径与判官效度」上，可搬的机制有四处。其一，三分判定加报告资格：把「满足、违反、未决」和「这份判定今天还能不能用」分成两件事，Q 的四个因子是可复用的清单；最有说服力的实验是那个反例——只查哈希会放过 48 个被编辑证据视图中的 36 个，因为字节自洽但规格、种子、注册、仪器或范围已变。任何依赖历史轨迹、缓存判分或旧基准结论的流水线都该照此加一层资格检查。其二，把义务显式化：合同 Γ 逐条与工具动作和评测证据挂钩，用它区分「一个被拦下的请求没有违反持久状态合同」与「把它算作已执行写入」。其三，目标范围本身是评估的一部分：零售研究里十例「子目标达成、整任务失败」说明同一批执行在两个范围的合同下会得到不同结论，这对任何想把过程分与结果分混用的评测都是提醒。其四，证据损失与未决状态要单独报数：把扣掉证据后的 UNKNOWN 与 FAIL 分开计数、给出有限区间并声明它只是记账包络，比「一律判失败」更诚实。与同单元的 ToolBottleneckBench（2610.21098）互补：两者都在意「失败标签会误导」，前者把误导归到 harness 限额，这里归到证据与合同绑定；与 Probe-and-Resume（2610.21088）互补：那边假设搜索期拿不到真值 verifier 而用批评者代偿，这里讨论的是真值判定作出之后，它的证据边界能支撑到什么 43。
结论建议：建议读第 3 节（义务、记录与三个问题）、第 4.2 节与 Table 1（资格与行为的四种组合）、第 6.3 至 6.4 节（可信回复与证据干预）、第 6.7 节（目标范围与证据缺失）。引用时必须限定：工具世界只有三个受限家族、完整执行 30 例；[76.7%, 93.3%] 与 [47.9%, 97.9%] 是记账式有限区间而不是置信区间，也不能当作满足率估计；零售结论基于自定义训练来源划分与一个退货子目标；用例准入的前向效果未测；论文未提供公开代码入口 43。
10. 医疗智能体升级可靠性审计：400 条扰动受控问诊回合中，9.7B 模型干净条件 0.97 准确率降至冲突变体 0.78
Auditing Escalation Reliability in Healthcare LLM Agents: A Perturbation-Controlled Benchmark of Workflow-State Failures · arXiv:2610.21270 · 邻近跟踪
研究问题与核心方法：医疗场景要命的不是答错静态问题，而是在证据缺失、过期、矛盾或迟到时选错动作。作者把前作的回合级评估协议落地成 400 条合成医疗工作流回合（episode：一次完整的工作流任务，模型输出一个动作）：40 个手工语义种子 × 2 种表层参数化 × 5 种受控变体（clean 干净、missing 缺关键事实、stale 过期摘要仍显眼、conflict 来源矛盾、late-risk 红旗迟到），四类各 100 条。每条回合只能输出 Answer（作答）、Ask_Clarification（追问）、Abstain（弃答）、Escalate（升级给人类）之一，外加 [0,1] 置信度与一句理由并以 JSON 强制，主指标因此不依赖判官。作者另写了一个透明控制器：用正则检测器抽出 CC（状态冲突）、MM（信息缺失）、HH（高风险线索）三类二元指标，算风险分 R = w_u·(1−conf) + w_c·C + w_m·M + w_h·H，用两个阈值把动作改写为 Escalate 或 Ask_Clarification，权重与阈值只在开发集网格搜索。作者来自 Washington University in St. Louis 与 Southern Methodist University。 44
关键结果：
- 预先声明的 5:1 漏报/误报代价（u_TP=u_TN=1、c_FP=1、c_FN=5）下，320 条测试回合中 100 条要求 Escalate：Qwen3-1.7B 干净准确率 0.91、漏报升级率 0.97；Qwen3-4B 干净 0.91、漏报 0.46；Qwen3.5-9B（9.7B 参数）干净 0.97、漏报 0.32。
- 变体分解更尖锐：Qwen3-1.7B 与 Qwen3-4B 在 stale 变体上保持 0.91 与 0.94，conflict 变体上只剩 0.00 与 0.12；9.7B 模型把两者收成 0.94 对 0.78 但未消除，missing 为 0.69。20 组配对检验中 7 组经 Holm 校正后仍 p<0.05 显著。
- 失败常退到相邻动作：要求升级的子集上，Llama-3.2-3B 有 70% 选 Ask_Clarification、仅 10% 升级；Qwen3-1.7B 有 91% 直接作答；Qwen3.5-9B 有 68% 升级、29% 追问。late-risk 敏感度上 9.7B、Qwen3-4B 与 Gemma-3-4B 分别为 0.84、0.78、0.75，Llama-3.2-3B 与 Qwen3-1.7B 仅 0.16 与 0.05。
- 口头置信度不可用：均值 0.83–0.95 几乎不随对错移动，ECE 0.10–0.54，失败预测 AUROC 0.48–0.77；纯置信度策略调参后对五个模型都不改变基础动作、无效用增益，而只用工作流指标的消融版本已追平全控制器（9.7B 上 0.55 反高于全控制器的 0.45）。
- 控制器把敏感度提到 0.76–0.88、漏报压到 0.12–0.24，特异度降到 0.83–0.93；5:1 代价下效用由各模型提示基线的 −0.82…+0.38 升到 +0.45…+0.54，10:1 下为 +0.08…+0.36，而所有提示基线为负。
- 机制审计：30 个概念（每个检测器 10 对触发短语与同义改写）使三个检测器召回从 1.00 掉到 0.00；不确定性提示对 Qwen3-4B 与 9.7B 有益，却把 Gemma-3-4B 的敏感度从 0.64 压到 0.52、clean 变体从 0.33 压到 0.00、效用从 +0.30 降到 +0.08。 44
证据与局限：参考动作是单一作者的研究策略标签而非医生裁定，全部准确率只是与自家策略的一致率；有效样本是 32 个测试种子而非 320 条独立场景，两种表层参数化接近重复；检测器词典在知道种子池的前提下写成，作者自陈这抬高了基准内表现。模型只有开源权重 1.7B–9.7B，控制器 7%–17% 的不必要升级在真实排班里就是工作量。代码与数据：原文只称已把数据、原始输出、清单与调参结果打包供审计，未给任何 URL，无可实测入口。引用风险：0.97 不能当医疗知识水平，+0.45…+0.54 严格限定在 5:1 代价与词表范围内。 44
与目标研究线的连接点：属 A 线（长程任务的基准、环境与任务设计）。可搬走三样：同一语义种子的配对变体（只改一条受控轴，让退化可归因）、动作集匹配判分（消掉判官效度这个变量）、预先声明的非对称代价矩阵（效用可跨模型比较）。差异在于被扰动的是工作流状态而非题目本身，主指标是代价加权的升级决策。 44
结论建议：优先读 §III（回合 schema 与五种变体）、§IV-C（控制器形式）、Table I/II/III 与 §VI-D 的词表外审计。引用时须同时限定合成回合、单作者策略标签、5:1 代价三个前提。 44
11. ARGUS 议程栈用户模拟器：8B 蒸馏版在 τ³-Bench Retail 上把 CBS 从 62.3% 提到 85.8%
ARGUS: An Agenda-Driven Framework for Reliable User Simulation · arXiv:2610.21346 · 值得扫读
研究问题与核心方法：交互式任务评测与合成数据生成都依赖用户模拟器（user simulator：扮演用户的模型，负责把目标、约束和情绪按对话节奏表达出来），而现有模拟器要么无状态、把意图推理与进度跟踪压在一次前向里，要么把状态写成扁平文本让模型自由重写，结果出现目标遗漏、策略违规与格式错误。ARGUS 把经典议程式模拟搬回 LLM：运行时状态由静态用户画像帧和动态 LIFO（后进先出）议程栈组成，每回合先由状态控制器用受限符号操作更新栈——Push（出现未满足的交互需求时压入新帧）、Pop（需求满足后弹出栈顶）、Modify（观测到触发条件时改写某帧内容）、Wait（不动栈）；再由生成器在更新后的状态上产出自然语言回复，即功能性解耦。为让小模型也能跑，作者设计两阶段蒸馏流水线：步级评估器从 Soundness、Faithfulness、Adherence 三维度、若干二元原子检查给每个步（栈操作或生成）打分；Stage 1 只保留三项全满分的步做监督微调，Stage 2 用改造版 DAPO（一类在线强化学习算法，训练时丢弃奖励无差异的 rollout 组）把评估器当奖励模型做在线 RL，并随机采样一条 rollout 推进环境以鼓励探索。作者另提出 CBS（Composite Behavioral Score，复合行为分），由 LLM 判官按 Faithfulness & Consistency、Policy Adherence、Goal Completion & Progression、Format & Protocol 四维二元子标准打分后取调和平均。作者来自上海交通大学 X-LANCE 实验室等单位。 45
关键结果：
- 提示式对比：在 τ³-Bench（τ²-Bench 的修正版，可执行的环境式对话基准）Retail 与 MultiWOZ 上 ARGUS 在多数骨干与领域上 CBS 最高。Retail 上 Qwen3-MoE-30B 骨干下 ARGUS 85.6%、Vanilla 65.1%、UGST（显式目标状态跟踪的状态式基线）60.7%；Qwen3-MoE-235B 下 ARGUS 91.3%、Vanilla 73.1%。差距在 8B 这类小骨干上最窄、中等能力档最大，呈倒 U 形。
- 训练式对比（Table II，Qwen3-8B；TSR 为 task success rate，即任务成功率）：Naive-SFT 轨迹级过滤在 Retail 上 CBS 62.3%、TSR 47.0%；UGST-SFT 的 Retail CBS 54.3%、TSR 48.6%；ARGUS-SFT 的 Retail CBS 83.3%、TSR 53.7%；ARGUS-RL 的 Retail CBS 85.8%、TSR 58.6%，即 RL 阶段在 SFT 之上再涨 2.5 个百分点。
- 留出域与更小骨干都成立：Airline 作为 OOD 域，ARGUS-RL 80.7% 对 Naive-SFT 68.5%、UGST-SFT 57.7%；MultiWOZ 上 87.7% 对 84.5%；换 4B 骨干后 ARGUS-RL 为 Retail 82.6%、Airline 80.4%、MultiWOZ 83.0%，同样高于同尺寸对手。
- 指标效度之争：作者定义虚假成功（TSR=1 但 CBS<1），基线模拟器假阳性率 48.1%–60.6%，ARGUS 降到 33.6%；UGST-SFT 在 MultiWOZ 上 TSR 看似可观（67.1%）而 CBS 只有 78.2%，被归因于提前泄露条件等走捷径行为。
- 细粒度错误（Retail，12 条 CBS 子标准）：ARGUS 的 Goal Misunderstanding、Protocol Failure、Mixed Generation 错误率分别为 1.1%、1.8%、2.3%，基线为 3.9%–14.4%；Constraint Violation 仍是共同瓶颈，ARGUS 21.7% 对基线 39.3%–46.6%；State Confusion（3.2% 对 3.3%–4.7%）与 Conditional Logic Failure（11.7% 对 12.6%–14.7%）差距很小。
- SFT 数据量不是主因：CBS 随 SFT 数据从 1k 涨到 20k 改善、30k 时略回落，始终未超过 RL；架构消融中 ARGUS-SFT 轨迹过滤 81.9% 与步级过滤 83.3% 都远高于 Naive-SFT 与 UGST-SFT，作者据此判断主要增益来自神经符号架构而非过滤策略。 45
证据与局限：CBS 可靠性做了三件事：五位作者专家标注，人类间一致性 Gwet AC2 = 0.861；主判官 Qwen3-MoE-235B 与人类 Gwet AC1 = 0.812，备用判官 GPT-5.4 为 0.748，两模型间 0.775；再用 DeepSeek-V4.1-Flash 整格复算，24 个方法格上 CBS 的 Pearson r = 0.873、Spearman ρ = 0.886，方法序一致率 91.67%，ARGUS 在四个骨干下排名第一的 bootstrap 概率 95.49%–99.92%。限制是主结果都在同一判官与自建环境转换（把 MultiWOZ 库改成可写域状态并加事务 API）下取得，作者自陈目标解析或议程更新出错会向下游传播、议程式设计假设目标可结构化，开放式对话未验证。另有一处图文不一致：正文写 Stage 2 用改造版 DAPO，主流程图标注的是 REINFORCE++。可复现性：原文只写 Code and data will be released soon，未给链接，无可实测入口。 45
与目标研究线的连接点：属 A 线与 B 线交叉处——被训练与被评估的对象本身就是交互式模拟器。最可搬走三件配套件：用确定性符号操作替代自由文本状态重写（状态转移与语言生成解耦），这一架构性偏置对任何多回合 harness 都适用；把评估器从轨迹级降到步级，同时做 SFT 过滤与 RL 稠密奖励（每步三次谐波平均、二元原子检查可解释）；CBS 这种任一维度崩了就被调和平均惩罚的判官口径与配套的虚假成功诊断，后者指出只用 TSR 训练会诱发奖励攻击。与同节其它工作的差异在于，它把评测口径问题当作主要贡献来论证。 45
结论建议：优先读 §3.1（议程栈与四个符号操作）、§3.2（评估器三维度与两阶段流水线）、Table I 与 Table II、§6.2（虚假成功假阳性率），以及附录 §E.2 的判官一致性表。引用 CBS 数字时必须同时给出判官模型与 Gwet 指标，否则跨论文比较不成立；85.8% 这类数字须写明是 Qwen3-8B 骨干加自建环境转换下的结果。 45
12. 引导式探究学习抬高 LLM 智能体建模上限：Llama-70B 在 3-shot 下由 IL 的 22.4% 升到 GIL 的 25.3%
Evaluating Inquiry Learning in LLM-Based Agents: Hypothesizing, Reasoning, and Exploration · arXiv:2610.21604 · 邻近跟踪
研究问题与核心方法：科学探究（inquiry）是一个循环：探索取数、提出假设、对观测做推理。已有工作分头评测这三个环节，很少看模型能否串成一轮完整探究。作者把 Countdown 任务改造成交互式数学环境：环境里有 n 个自变量、一个因变量和一个由 +、−、·、÷ 构成的隐藏表达式，智能体用 set 动作给变量赋值、读回输出，最后写出它猜的表达式。一套是 IL（inquiry learning）流程，步类型分 Action（改环境状态）、Observation（环境返回）、Thought（内部推理）、Hypothesis（假设）四类；另一套是 GIL（guided inquiry learning，借鉴学习科学里对人类学生的脚手架），在 IL 上外挂两个部件：IL 引导器按当前探究阶段给提示（探索阶段要求一次只改一个变量，即控制变量策略；思考阶段要求分析因变量变化与自变量的关系），以及一个假设验证器给出真值反馈。评测双轨：任务分是归一化方程的精确等价匹配率，行为分由人类按探索、假设、推理三阶段码本标注轨迹，两位研究者独立标注 11 条轨迹得到 Cohen Kappa 一致性系数 0.94，随后共标注 10,926 步。作者来自 EPFL。 46
关键结果：
- 七个模型（Llama-3.1-8B、Vicuna-13B、Qwen2.5-14B、Gemma-2-27B、Qwen2.5-32B、Llama-3.3-70B、GPT-4o）在 IL（inquiry learning，探究学习）零样本下准确率普遍很低，开源模型中最高为 Llama-70B 的 12.6%（GPT-4o 为 16.1%）；给示例后除 Llama-8B 外都改善，Llama-70B 在一例样本时达 24.1%。
- 消融显示推理环节不可或缺：去掉 Thought 只留 Action–Observation 会让 Qwen-14B、Qwen-32B、Llama-70B、GPT-4o 在所有样本数下一致下降；把探索策略也固定成 AOT-control（预先取好数据、一次只变一个变量）反让两个 Qwen、Gemma-27B、Llama-70B、GPT-4o 一致变好，说明瓶颈在探索策略而非假设能力。
- GIL 普遍有效：零样本下比 IL 提升 3.4 个百分点（GPT-4o，16.1% 升到 19.5%）到 12.1 个百分点（Llama-70B，12.6% 升到 24.7%）；三样本三自变量下 Qwen-32B 达 44.8%、Llama-70B 达 43.1%，零样本增益幅度大于三样本，说明没有先例时外部引导更值钱；三样本下 Llama-70B 由 IL 的 22.4% 升到 GIL 的 25.3%。
- 变量数是最强的难度轴：IL 三样本下 Qwen-32B、Llama-70B、GPT-4o 的准确率从三变量到五变量分别由 34.5% 掉到 12.1%、34.5% 掉到 10.3%、31% 掉到 13.8%。
- 行为层面：IL 零样本下策略性探索只占探索步的 21.63%，GIL 零样本升到 91.64%、三样本 85.21%；假设重复率在零样本 IL 下最高达 44%（Qwen-32B 轨迹比例），Qwen-14B/32B 倾向给假设加数值系数、Llama-70B 倾向加变量项，呈路径依赖。
- 推理质量：含显式因果关系的 Thought 步占比在 IL 下最高只有 44%，GIL 各条件下为 100%；纯复述观测的占比在转入 GIL 后下降或持平，推理引导还让模型识别出更多方向加幅度的定量关系。 46
证据与局限：优势是任务完全确定、判分是方程等价匹配而非判官打分，行为码本有 0.94 的标注一致性。局限明显：规模只有 174 条 3–5 变量方程，7 个模型里含 GPT-4o 一代，行为分析只覆盖最好的模型子样本（10,926 步），作者自陈未扩到更多模型家族与提示策略；任务刻意隔离于工具之外，只说明内生探究能力。代码入口 github.com/epfl-ml4ed/llm-inquiry 实测 HTTP 200。引用风险：GIL 的提升只在这个小方程池与受限步预算（初始探索 1+3n 个数据点、最多三个探究循环）下测出，不可外推为加提示就能做科学发现。 46
与目标研究线的连接点：属 A 线中环境与任务设计的窄口径案例，价值不在任务本身，而在两件可复用物：把一个静态推理题改造成主动取数的交互环境（可变自变量、确定性隐藏函数、归一化等价判分），以及把学习科学里的脚手架翻译成提示级干预并做单因素消融（结构、推理、探索、全引导四档）。与同节其它基准的差异：它把轨迹行为指标（探索策略性、假设重复、因果关系识别）与任务分并列报告，可作为过程口径与结果口径是否脱节的对照样本。 46
结论建议：读 §3.1–3.3（IL 与 GIL 的算法与提示结构）、§4.2（行为码本）、Table 2（IL/GIL 与各消融矩阵）、Table 3 与 Table 4，以及 §5.1 的 AOT-control 结论。引用时须限定方程变量数、样本数与步预算；44.8% 与 43.1% 只对应三变量加三样本这一格。 46
13. PhysClosureBench 物理研究闭合度：Claude-Opus-5 原子分 6.29/10，仅 32.7% 尝试达 RC4 完全闭合
From Research Goals to Scientific Closure: Evaluating Agents Through Evidence-Supported Physics Research · arXiv:2610.21767 · 值得扫读
研究问题与核心方法：现有科学智能体基准评的是最终答案、可执行产物或复现结果，很少评「一次研究是否真的把研究问题解决掉了」。作者提出「科学闭合」（scientific closure）这一评测目标，并给出双层框架：原子分（Atomic Score）用 20 条任务专属、每条 0.5 分的前置标准衡量局部工作量，归到五个功能维度 F/O/I/M/V，即 Formulation（物理与数值设定是否正确）、Output（所需可观测量是否算对）、Identification（相关特征是否识别）、Mechanism（机制是否有证据支撑）、Validation/Scope（适用控制与范围是否论证）；研究闭合等级 RC0–RC4 则按任务专属的科学要求判定整项研究完成到什么程度，RC4 表示必需证据与范围条件均满足。基准本体是 50 个目标明确的物理研究任务，取材自 Physical Review Letters、Physical Review A 等期刊的已发表工作，覆盖强场原子分子物理、阿秒科学、凝聚态、量子光学等；任务只给研究目标、物理设定、参数、约束与算力上限，不给解决路径。执行环境是隔离、断网的单节点容器，按任务分配 CPU 核数与墙钟时限，agent 在 OpenCode 会话里自行写代码、分析、提交报告。评分用 GPT-5.6-Sol（high）做分阶段自动评阅：先独立首评，再带首评做定向复核，只在残留实质分歧时才触发裁定。作者来自上海人工智能实验室、上海交通大学、香港科技大学（广州）、南洋理工大学等。 47
证据与局限：证据的可信处在于任务源自已发表研究、且入池前要求人工复现目标数值与趋势以标定算力上限，评分协议公开了首评、复核与条件裁定三段，并做了人工抽查。局限与风险：任务构建由单一领域专家主导设计与校准，任务池只有 50 例、每例仅 3 次运行，作者未给出跨机构或跨领域的泛化证据；评分主体是 GPT-5.6-Sol（high），人工一致率 81.8% 意味着约五分之一的判据级判断与专家不同，因此单个任务的原子分不应被当作精细刻度使用；另外超时不被额外扣分、基础设施失败会重跑，这些口径需要与自动评分细节一起读。代码与数据：原文给出 github.com/uncertainty2019/PhysClosureBench，实测 HTTP 404（用户主页 200，仓库地址返回 404，说明尚未公开）。 47
与目标研究线的连接点：属 A 线的评测口径分支，是这一节里少见的「把过程完成度与结论闭合度拆成两个正交量表」的设计。可直接搬走的是两层判分结构：原子分提供细粒度诊断（哪个维度卡住），RC 等级提供不可由原子分替代的整体判定，两者不设映射关系；再加上「至少一次达 RC4」与「三次全达 RC4」并报，把能力上限与可靠性分开。这与同节其它基准的差异在于它评的不是任务成功而是研究问题的收口程度，且把重复运行一致性提升为一等指标。 47
结论建议：优先读 §3.3（两层评测框架）、Table 2 与 Table 3（五个维度与 RC0–RC4 的定义）、§5.2（高分未闭合的 36.2% 从哪来）、§5.4（重复运行一致性），附录 §B.2 的一致性核查与 §C 的统计口径也值得看。引用 6.29/10 或 32.7% 时必须同时说明是 150 次尝试的模型级均值、评分判官是 GPT-5.6-Sol（high），并注意 36.2% 是在 229 次 ≥8/10 尝试这个子集上算的，不是全基准比例。 47
14. Realtime-Bench 三时钟协议：Wall Clock 最好成功率 44.0%、pass@3 36%，暂停时钟下可达 70.0%
Realtime-Bench: Can Frontier Models Solve Real-time Interactive Problems? · arXiv:2610.22155 · 精读
研究问题与核心方法：实时交互要求智能体在环境持续变化时既选对动作又选对时机，而已有的流式模型评测集中在会话质量、流式感知与打断处理，没有测「延迟会改变结果」的闭环任务。作者先把「实时流式能力」拆成三维：RT-Perceive（时间状态感知：跟踪变化与信息新鲜度）、RT-Deliberate（自适应深思：按可用时间调节推理长度）、RT-Act（时间感知的动作选择：判断哪个动作在执行时仍然有效）。基准本体是 50 个任务——30 个网页任务（改造自真实站点，如限时抢票、竞价、等待名单）加 20 个游戏任务（改自开源游戏，如贪吃蛇、俄罗斯方块），共同要求三点：界面贴近真实、环境在模型思考时自行演进、成功取决于动作内容与时机。评测的核心创新是时钟协议：Wall Clock 按真实推理与服务延迟推进环境；Paused Clock 在推理时冻结环境作为理想化参照；Token Clock 按生成 token 数推进模拟时间，令环境时间 Δt = n/(B·f)，其中 n 是动作提交前消耗的生成 token 数、B 是每个观测间隔对应的 token 数、f 是观测帧率，从而在剥离物理服务速度的前提下保留「深思的代价」。评测把延迟与内容解耦：环境固定 1 FPS 给观测，主实验取 B=64（即每个模拟秒 64 个计费 token），截图附带只读的 Set-of-Marks 标注（SoM：把截图里可交互元素编号并给出语义与可用动作）以免 GUI 定位成为瓶颈，动作从 click/type/scroll/wait 等通用空间里选；上下文按块丢弃（视觉历史满 21 帧时把最旧 10 帧换成占位符，交互史超 50 回合时把最旧 10 回合压成动作台账），以保持可复用的 KV 缓存前缀。作者来自德克萨斯大学奥斯汀分校、俄亥俄州立大学、伊利诺伊大学厄巴纳-香槟分校、NVIDIA、西北大学与 Steadyworks。 48
证据与局限：证据面较硬的地方在于协议做得细：三套时钟在同一批任务上对照，token 计费口径写明（含推理 token 与输出 token，Gemini Live 改成函数调用并只计 thought 与文本 token），上下文管理策略对全部模型一致，跨 B 值做了消融，逐模型逐运行的成功率与平均延迟都列在附录。值得警惕的地方：Token Clock 的换算率 κ=B·f=64 与 1 FPS 观测率是人为设定，只在 B∈{32,64,128,∞} 做过消融，换个 κ 会改变各模型的相对结论；决策模型因不报输出 token 数而被排除在时钟对照之外，Jev 1.13 因不原生支持截图只评网页任务；失败模式标注由第一作者编写码本、用 Codex 应用、第二作者抽查，并非双盲全量标注，只覆盖所选条件下的失败轨迹。代码与数据：github.com/RealtimeAgents/Realtime-Bench 与项目页 realtimeagents.org 实测均 HTTP 200。引用风险：44.0%/36%/70.0% 都是 50 个任务规模上的数字，且 Paused Clock 是理想化参照而非可达部署状态，不能拿它与 Wall Clock 的差值当作「优化延迟就能拿到的收益」。 48
与目标研究线的连接点：属 A 线的执行期控制与评测口径交叉处。最可搬走的就是 Token Clock 这一手：把「深思的代价」参数化为生成 token 数而非挂钟时间，就能在不受部署环境影响的前提下评测时间感知，这对任何带时间约束的 harness 都可直接移植；配套的做法还有把观测率与 token 率显式写成 f 与 B 两个旋钮、把推理强度作为交叉因子、以及在评测前先用 SoM 消掉 GUI 定位这个混杂变量。与同节其它基准的差异在于：它评测的对象是时间本身，而不是任务难度或信息完整性；同节其它工作测「能不能做对」，它测「在对的时刻做对了吗」。 48
结论建议：优先读 §3.2（三套时钟的形式定义）、§5.2–5.3（观测/动作接口与上下文管理，这是复现门槛所在）、§6.2（结果）、§6.3 与 §7.1（失败模式与自适应推理），以及附录 §B.1 的逐模型表与 §B.2 的 B 值消融。引用延迟与成功率时必须成对给出（延迟 3.989 秒对应 pass@3 36%），单独引用 44.0% 会被误读为模型能力；Paused Clock 的 70.0% 只能当作上界参照。 48
15. Grid-Bench 离散世界状态预测：GPT-5.6 Sol 完整世界精确率从一次事件后 95% 掉到 64 次事件 13%
Grid-Bench: Can LLMs Predict How Discrete Worlds Change? · arXiv:2610.22312 · 邻近跟踪
研究问题与核心方法：空间指令常常串行生效，后一步作用于前几步塑形后的状态，语言模型能否预测整条事件历史结束时的完整空间状态？Grid-Bench 把离散世界表示为 2、3、4 维网格，事件取自八类可执行操作：PAINT（曼哈顿球内按源值替换）、REFLECT（盒内沿轴镜像，含零值格）、STENCIL（按旧邻域取模和）、MIX（沿非零格在限定步数可达区域内同步聚合）、RELABEL（极大等值连通分量整体改值）、LAYER（分量外边界长一层或腐蚀暴露层）、MOVE（同标签实体按序移动至受阻或达步数上限）、COMPRESS（每条轴并行去空隙、相邻等值合并一次并压向一侧），轨迹里可夹带单格赋值 SET。模型一次性收到初始网格、显式规则与事件序列文本，输出完整末态；参考执行器按同一规则算出精确状态，每个预测值都可逐格核对。指标有三层：全语义精确匹配 EM（含隐式零值、与顺序无关）、单元准确率 CA（每张有效预测的逐格正确比例做宏平均），以及把错误分成应改变格与应保持格两个集合。作者来自多所高校，Meta 侧作者仅提供顾问意见。 49
关键结果：
- 规模：6 个模型（GPT-5.6 Sol、Claude 5 Sonnet、GPT-5.4 Mini、GLM-5、Kimi K2.5、MiniMax M2.5）共 1,488 个实例、8,928 次判断；主实验为 8 个操作族 × 3 个维度 × 6 个历史长度 T=0,1,8,16,32,64，网格约 252 或 256 格；每次请求限一次回复、推理与作答合计 128,000 token、不给工具。
- 长度效应：T=0 时六个模型几乎完美复原初始状态，随后急降，GPT-5.6 Sol 从一次事件后 95% 掉到 T=64 的 13%；一次事件准确率相近的模型会在长历史里分化——Claude 5 Sonnet、Kimi K2.5、MiniMax M2.5 起点相当，到 T=8 时后两者已明显落后。
- 精确率相同不代表错误规模相同：T=8 时 Kimi K2.5 与 MiniMax M2.5 的 EM 相近，但在两者都给出有效错误状态的 84 条共享实例上，错格数中位数分别 14 与 67。
- 与朴素基线对比（T=64，同一批实例）：GPT-5.6 Sol 单元准确率 81.6%，复制初始状态 51.0%、全零 48.8%，比复制高约 31 个百分点；Claude 5 Sonnet 90.5% 但只在 58/192 条请求上返回有效网格；GPT-5.4 Mini 56.1%、MiniMax M2.5 52.4% 相对复制几乎无增益。只执行历史后半段核心操作的基线在 192 个 T=64 目标里只复原 3 个。
- 空间与规模条件：合并 T=8–64 后准确率对每个模型都由二维向四维非增，RELABEL 是全体得分最高的操作族；MIX 与 LAYER 的最大 workload 目标上全体模型都低于最小目标，最小与最大的 MIX 目标之间单元值读取数与每核心事件平均改变格数都约增五倍。 49
证据与局限：优点是可执行、有精确参考、指标分层清楚（EM 管整体、CA 管规模、changed/unchanged 分区管误差位置），曲线带按整条轨迹重采样的 2,000 次分层 bootstrap 边际 95% 区间。局限在任务设计本身：被测对象是 LLM 的单次预测而非带工具、带记忆的智能体回路，只有一次回复、128k token 预算；世界限制在约 252–256 格的全指定符号环境，作者自陈不能外推到其他世界规模、操作分布或观测不确定的环境；误差划分只描述返回的末态，无法说明中间计算过程。工程侧：grid-bench.github.io、github.com/grid-bench/Grid-Bench 与 huggingface.co/datasets/xzx34/Grid-Bench 实测均 HTTP 200。 49
与目标研究线的连接点：属邻近跟踪：被测对象是语言模型的状态预测而非长程智能体，但它把长历史下的状态跟踪做成可精确判分的探针，可当智能体上下文与记忆机制的受控替身测试。可搬走三点：EM 与单元准确率双指标把整体失败拆成错得多不多与错在哪一类格；changed/unchanged 分区直接暴露模型是漏更新还是漏保持，这两个失效方向对记忆机制的修法完全不同；任务构建把操作族、维度、历史长度与 workload 分开取值并冻结生成设置，使长历史退化可归因到单一轴。差异在于这里没有奖励、工具与智能体回路，归因更干净而生态效度更弱。 49
结论建议：读 §3.1–3.4（状态、八类转换族、实例构造与三层指标）、§4.2（长度曲线）、§4.3（错格数与 changed/unchanged 分解）、Table 3 与 Table 4，以及附录 §B 与 §C.3。引用 95% 与 13% 时必须带上口径（T=1 与 T=64）与单次回复、128k token 预算、无工具这一前提；不同模型的实例子集不同，跨模型的错格数不要直接相减。 49
16. FDE-Gym 交付基准：Claude Opus 5.5 的 L3 均值仅 0.56，13 个配置中最好者 95 个任务只解决 14 个
FDE-Gym: The Last Mile of AI Delivery · arXiv:2610.22350 · 精读
研究问题与核心方法：既有智能体基准大多假设问题已经被清晰地定义（issue 报告、规格书、工单），而真实客户交付的难点在于：要求本身可能是错的、关键约束没人写下来、成不成功要用客户自己的业务指标衡量。作者把「前向部署工程师」（forward-deployed engineer，FDE：厂商派驻到客户组织内部、负责把系统真正落到客户流程里的人）的工作做成基准 FDE-Gym：20 个客户场景、覆盖 18 个行业、由行业专家从 2024 年以来在中国、新加坡、美国的真实交付项目改编而成，加上变体共 95 个端到端交付任务。每个任务包含一个客户、一个提出委托的赞助人、一套在生产中的待改进系统，以及超过 130 个脚本化扮演的利益相关者（stakeholder），回答可复现但对耐心、举证要求、前置对话依赖、临时不可用与联系限制都有设定。扩展点在任务指令层级：同一环境、同一批利益相关者、同一套评分标准下只变指令——L0 给全底层问题、适用规则与评分方式；L1 只给问题不给规则；L2 给方向大致正确的模糊需求；L3 直接给赞助人的原始委托，而这个委托可能指向错误的问题。评分不用二元完成，而是归一化业务提升 U =（交付系统 KPI − 基线 KPI）/（参考解法 KPI − 基线 KPI），再做事故调整（若触发越权等预设事故，正提升清零、负提升保留），最后减去利益相关者沟通成本 C（每条消息、每次试运行、每个等待日都按各人隐藏费率计费，超耐心或违反联系限制会加价），得到 FDE-Gym 分数 S = U_adj − C，达到 0.8 且无事故才算解决。任务入池要过四道章：参考解法必须 ≥0.95、不作为基线必须为 0、照字面执行不加探索的解法必须 ≤0.2、各类走捷径策略必须 ≤0.8。作者主要来自 DeepLethe，联合清华大学、上海交通大学等多家机构与公司；DeepLethe 运营该基准的在线平台与榜单。 8
证据与局限：证据较硬的部分是评分口径完全外生化：不用判官给分，而是把交付的系统原样部署到留出的生产数据上算客户自己的 KPI，且任务入池前用四道章验过参考解法、不作为基线与字面解法各自的分数区间，还针对 270 多种走捷径与绕开策略测过评分器。局限作者自己列得清楚：利益相关者是脚本扮演的，真人会更善变，沟通费率是专家设定的模型而非实测；L0–L2 只在 20 个原始任务上跑，其中 3 个的 L2 直接复用 L3 结果，因此 L1/L2/L3 之间的差异在小样本上不可区分；人类基线尚未收集（平台已在记录，作者称留待后续版本报告）；所有模型跑在同一套最小 harness 里，结论描述的是这些模型在这套框架下的表现而非其产品形态；20 场景偏重受监管行业的智能体与工作流，且不能排除训练数据里有相关材料。可复现性：github.com/deeplethe/fde-gym（版本 1.1.0）、fde-gym.com 与 huggingface.co/datasets/DeepLethe/FDE-Gym 实测均 HTTP 200，但 20 个原始任务与评分器需申请、其中 3 个公开为示例，75 个变体与全部参考解法留作留出集。 8
与目标研究线的连接点：属 A 线，且是这一节里唯一把「任务该不该被照做」当成受控变量的工作。可直接搬走的有三件：（一）指令层级这条隔离轴——环境、利益相关者与评分器全部固定，只改指令信息量，于是「实现能力」与「约束发现能力」可分离计量，这是当前长程基准里最缺的一类对照；（二）把奖励做成外部业务量（归一化提升）而不是任务完成标志，并显式减去交互成本，等价于给「问问题」本身定价，可以防止评测鼓励无脑追问；（三）入池章设计与基线锚点（参考解法 ≥0.95、不作为 = 0、字面解法 ≤0.2、捷径 ≤0.8），这套做法可以直接搬到任何自建长程基准上做质量把关。与同节其它基准的差异：它的信号来自客户业务指标而非判官或单测，代价是依赖脚本化利益相关者与算力成本上限（150 分钟、200 回合、8 美元）。 8
结论建议：优先读 §2.3（FDE-Gym 分数与四个分量的定义）、§3.4（入池章与反博弈验证）、§5.2（指令层级落差，Figure 2b 与 Table III 左半）、§5.3（拿到事实不等于交付有效）与 §7（作者自陈局限）。引用 0.56 时必须写明是 L3、95 个任务、三次运行取均值并扣除了沟通成本；引用 0.73–0.82 时必须写明那只是 20 个原始任务上的 L0 结果，不能与全量 L3 直接比较。 8
四、评测口径、判官效度与基准审计
1. 非生成式判定模型对比前沿 LLM：495 条声明核验上 73.27 对 73.83 打平、成本相差 187 倍
Jev-as-a-Judge for RAG Claim Verification: Confidence-Gated Cascading Between a Non-Generative Verifier and a Frontier LLM · arXiv:2610.20634 · 值得扫读
研究问题与核心方法：RAG（retrieval-augmented generation，检索增强生成）管线要反复回答同一个二值问题：这段证据是否支持这条声明。多数系统用一个生成式 LLM（large language model，大语言模型）写出裁决短文，再由下游代码解析成布尔值，按生成价格计费；判定只要一个比特，包在比特外面的文字是每次都要付的开销。作者把「非生成式判定模型」与「前沿 LLM」放在同一批 495 条人工标注声明上做配对比较，每条声明都送进两边，因此所有比较都是同项内比较（within-item），两臂成本相差 187 倍。廉价臂是 jev-1.13.0，一个商业非生成式模型：请求把声明与证据作为具名状态键，答案类型是声明式枚举；返回一个枚举值加一个原生概率（native probability，模型对声明枚举直接给出的概率分布），没有采样循环，也没有可解析的裁决文本。对照臂 gpt-6-astra 按工程师部署二分类器的配置运行：短提示、枚举式回答模式、无工具、提供方默认温度，并测两种推理强度（effort low 与 high）。作者把概率按来源分成三类：原生（native）、由 token 对数概率重建（logprob-derived）、没有（none）；Astra 的 API 直接拒绝 logprobs 参数，故其概率来源记为 none，本文不拿自陈置信度顶替。口径上，主指标是宏观平衡准确率（每个子数据集的 BAcc 取正例率与负例率的平均，再对 11 个数据集取无权重平均），并把误验证率（false verification rate，FVR：把 gold 标为 unsupported 的声明判成 supported 的比例）当作一等指标单独列出，因为它就是「把幻觉盖上通过章」的那类错误。级联的做法是：先给廉价模型，其原生概率够自信就接受，其余升级到前沿模型；阈值用交叉拟合（cross-fitting，200 次 5 折分层交叉验证，共 1000 次阈值拟合）在折外选，并配两个对照——用同样预算做随机升级，以及精确升级到廉价模型答错的那批声明（oracle）。作者来自 CustomGPT.ai，首位作者是该公司的创始人，利益冲突在第 12.1 节明写。50
关键结果：
- 在 495 条声明上，jev-1.13.0 的宏观平衡准确率是 73.27（95% 区间 [68.5, 77.9]），gpt-6-astra（effort low）是 73.83（[68.8, 78.8]）；配对差 Jev 减 Astra 为 −0.56 点，10000 次分层配对 bootstrap 的 95% 区间 [−5.6, 4.5]，逐项精确 McNemar 检验 p=0.49。两臂成本分别是 $0.04786 与 $8.93 每千条声明，差 187 倍；作者拆出该比值的三个因子，输入单价相差 238.1 倍（$10.00 对 $0.042 每百万 token），除以廉价臂请求更长带来的 1.351，再乘前沿臂输出价带来的 1.059。
- 打平掩盖了错误的互补性：两系统一致率 84.8%（354 条都对、66 条都错），分歧率 15.2%；Jev 对而 Astra 错的有 41 条，反向 34 条。FVR 上 Jev 23.23% 对 Astra 14.14%，差 9.1 点，在 198 条 gold-unsupported 声明上的 95% 区间 [4.55, 13.64]，精确 McNemar p=0.000534，Holm 校正后 p=0.005。
- 折外选阈值的级联达到 74.10 宏观平衡准确率，升级 29.9% 的声明，成本 $2.92 每千条，对照前沿模型单独运行的 73.83 与 $8.93，即把账单降到约 1/3.06；但针对前沿臂的采样差异只有 0.27 点，95% 区间 [−3.85, 4.15]，这个样本无法分辨谁更准。折内选同一个阈值则报 75.82（升级 17.2%、$1.62 每千条），两者相差 1.72 点，作者把这段差额明确归为选择偏差。
- 级联的 FVR 是 19.22%，比前沿臂高 5.08 点，95% 区间 [1.52, 9.09]，交叉拟合重复上的中位数精确 McNemar p=0.00635，Holm 校正后 0.057；也就是说它是更便宜的配置，同时是更宽松的把关者。相对它所依赖的廉价层，级联贵 61 倍换 0.83 点，95% 区间 [−3.36, 4.86]。oracle 升级到 82.9，是这套机制还剩的空间。
- 省下来的钱不是「选得准」带来的：匹配成同样升级比例、用抛硬币决定的随机升级只花 $2.81，与前沿臂的距离并不更远，因此真正买到节省的是升级比例，而不是挑出该升级哪几条的概率。200 次交叉拟合重复里有 68 次级联准确率低于 Astra，符号并不稳。
- 概率的两种区分度被分开报告：对「声明是否 supported」的区分度（AUROC，area under the ROC curve，ROC 曲线下面积）不错，对「模型自己答对还是答错」的区分度（作者称 selective AUROC）更弱；前端臂两种都给不出，因为它根本没有概率。原文的口径说明，把一个原生概率与一句用文字自陈的置信度并排放进同一张表是范畴错误。 50
证据与局限：证据的硬处在于配对设计与统计纪律：同项内比较、10000 次分层 bootstrap、逐项精确 McNemar，并预先在代码里固定 13 个检验的族边界再做 Holm-Bonferroni 校正；预测文件在做出分析前就以 SHA-256 加 OpenTimestamps 证明固定下来。软处同样明确：全部数字来自一个公开基准 LLM-AggreFact 的开发集，495 条声明，每个子数据集约 45 条，最薄的少数类只有 4 条；提示、阈值与所有级联参数都在可见结果上选过，测试集从未读取得以保留。作者明确不主张两个系统等价——没有预注册等价界，也没做等价性检验，区间宽到能同时容纳任意一方的数点优势。13 个 McNemar 检验里有 6 个是交叉拟合重复的中位数，没有自身的零分布，Holm 在这些成员上只是描述性，其中一个还是「通过」的成员。MiniCheck-Flan-T5-Large 这一臂被跑过又被排除，理由是作者自己的移植版本得分远低于其它行，无法把差距归因于模型而非移植；等价地，作者说因此不宣称这套 harness 本身可靠。成本是按 token 计数乘归档价目快照建模出来的成本，不是发票；无延迟比较，因为批量运行用了并发而单流协议从未跑；每臂只跑一次。样本的 example-ID 列表是发布出来的数据而非可复现抽样。代码入口实测：https://github.com/adorosario/jev-rag-claim-verification 返回 HTTP 200，仓库描述为「Paired benchmark: Jev vs GPT-6 Astra on grounded claim verification (LLM-AggreFact). Raw predictions, prompts, analysis.」；数据入口是需要 HF_TOKEN 且需先在 Hugging Face 上接受条款的 gated 数据集，作者明确不重发标签。50
与目标研究线的连接点：属 A 线的评测口径与判官效度支线。可搬走的东西有四件。第一，判官该报什么被拆成两层：headline 指标加错误方向指标，本文把 FVR 立为独立列，理由是两个系统可以在主指标上并列而在这列差 9.1 点，这条口径可以直接套到任何「判官是否放行了不该放行的东西」的场景。第二，概率的区分度要分开测：对输入的区分度与对模型自身错误的区分度是两个量，只有后者能支撑路由。第三，级联类工作的评测清单：折外阈值、oracle 上界、同预算随机升级对照、折内与折外差距的显式量化——本文用随机升级对照把自己「置信度挑选」的贡献打到接近零，这是同类工作很少做的自我证伪。第四，判官作为可选机器的成本-质量前沿视角：如果一个问题在规模上反复被问且答案只需一个比特，用非生成式判定模型替代生成式判官是一个可测的选项。与同节其它工作的差异在于层面：2610.20667 从轨迹里抽能力信号，2610.20785 换 rubric 判据，2610.20676 换反馈环的有无，而本篇换的是判官这台机器本身，并把「省下的钱到底来自哪里」量化。50
结论建议：建议读第 3 节（FVR 与概率来源的定义）、第 5 节（配对设计与「什么条件下才称差异为真」的规则）、第 9–10 节（级联与选择偏差）、附录 E（13 个检验的原始与校正 p 值，以及每条局限对应的数字）。引用时必须限定：单一公开基准的开发集、495 条声明、每臂单次运行、无等价性检验；「187 倍」是建模成本不是账单，且其中 3% 来自廉价厂商对输出 token 免计费的定价政策而非架构；「便宜模型不更差」不能改写成「两者等价」；「级联省钱 3.06 倍」必须连同「误验证率高 5.08 点、校正后 p=0.057」一起引。50
2. 少量样本 LoRA 个性化使 5 个意图基准的开放集拒识 AUROC 全线下滑（最多 0.258），马氏距离打分在 3 个基准上恢复
Does Personalization Break Trust? Open-Set Rejection Calibration Under Few-Shot On-Device Intent Adaptation · arXiv:2610.20652 · 邻近跟踪
研究问题与核心方法：常在线语音助理越来越多在设备端个性化：用少量标注样本做 LoRA（low-rank adaptation，低秩适配）微调，学会用户自己的新命令。这类适应几乎只被评一件事——新意图学会了没有；几乎没有被评另一件事——当输入与任何意图都不匹配时，助理还能不能说出来。后者是开放集拒识（out-of-scope rejection，OOS）：一个悄悄失去「我不明白」能力的助理，会把背景闲聊、别的家庭成员的无关请求、听错的话自信地塞进刚学会的命令里，而既有研究显示这种过度接受对用户信任的伤害特别大。作者在五个人工评测基准（CLINC150、Banking77、HWU64、SNIPS、MASSIVE 的 en-US 划分，其中三个来自或面向已部署的语音助理平台）上做受控的少量样本 LoRA 个性化前后对比，评测协议与打分器保持一致，只让模型权重变。默认打分器是 1 减去最大 softmax 概率（MSP，maximum softmax probability），拒绝阈值在留出验证集上按 Youden J 统计量最大化拟合。作者试了三个修复组件：正交投影 LoRA（OPLoRA，对冻结权重做 SVD（singular value decomposition，奇异值分解）后把更新投影到前 k′=16 个奇异方向的正交补，理论上精确保住这些主方向）；calibration replay 式的阈值重校准（只用 in-scope 缓冲、按目标假阳性率重拟合阈值）；以及把评测时的打分器整体换成马氏距离——在个性化后 base+new 训练池的倒数第二层嵌入上拟合 tied-covariance 高斯，收缩正则化协方差与每个已知类一个均值，取到最近类均值的平方马氏距离，不需要额外训练，只需要一次 D×D 协方差求逆。基础编码器是 DistilBERT-base-uncased（66M 参数），另用 MiniLM 作第二个编码器；每个配置跑 5 个随机种子，共 743 次独立训练运行。作者来自 University of Technology Nuremberg 与 Indian Institute of Information Sri City。51
关键结果：
- 表 I（5 个种子均值 ± 标准差）：个性化后开放集拒识 AUROC（ROC 曲线下面积）在五个数据集上全部下降——CLINC150 0.964 降至 0.886（降 0.078 ± 0.047）、Banking77 0.873 降至 0.806（0.067 ± 0.046）、HWU64 0.866 降至 0.769（0.097 ± 0.063）、SNIPS 0.945 降至 0.687（0.258 ± 0.139）、MASSIVE 0.842 降至 0.787（0.055 ± 0.037）；每个数据集降幅的 95% 置信区间都排除 0（均值 ± 1.96 倍标准误，n=5）。OOS 类的 F1 同步下降，从 MASSIVE 的 0.092 到 SNIPS 的 0.457，说明退化不是阈值移动伪装的。
- 打分器不变性检验：同一套朴素 LoRA 管线在两个时间点都用马氏距离打分（高斯均值与协方差在各自时间点重新估计），降幅大幅缩小——CLINC150 上从 0.078 ± 0.047 缩到 0.004 ± 0.0004，五个数据集整体缩小约 2 到 19 倍，但仍非零且同向。作者因此把表 I 的降幅拆成两部分：一部分是 MSP 自己在适应后失校准，另一部分是表征的真实变化。
- 机制：嵌入边界收缩与 AUROC 降幅相关，五折数据集五种子合并（n=25）的 Spearman ρ=0.61（p=0.0012），余弦版 ρ=0.76（p=0.0000）；作者同时说明，在 n=5 的种子上单个数据集内部的相关系数都不显著，n=5 时即使 ρ=1.0 也只能到 p≈0.017，而且合并相关明显被 SNIPS 这个高杠杆簇拉动。
- 修复：换成马氏距离打分后 CLINC150 0.970 ± 0.001、Banking77 0.878 ± 0.021、HWU64 0.868 ± 0.039、SNIPS 0.874 ± 0.046、MASSIVE 0.847 ± 0.038（叠加 OPLoRA 的版本分别为 0.971、0.885、0.868、0.877、0.853）；其中 CLINC150、SNIPS、MASSIVE 三者的 95% 区间与朴素 LoRA 完全不相交，即在 5 个中 3 个确认，Banking77 与 HWU64 区间轻微重叠被作者标为未结案。In-scope 准确率代价在所有数据集上都为负或低于 1.5 个百分点。仅换打分器的版本已经达到与组合方法相同的 3/5 结论（CLINC150 上 0.970 对 0.971），因此承重的是打分器替换，OPLoRA 只添一点未被独立验证的余量。
- 误接受落点分析直接检验上述机制：朴素 LoRA 把 OOS 判成新意图的比例是均匀分布下机会水平的 2.7 到 20.4 倍（CLINC150 上 68.1% 对 3.3% 的机会水平，即 20.4 倍）；组合方法把这个集中度明显压低（CLINC150 68.1% 降至 30.2%，HWU64 55.0% 降至 16.5%），朝机会水平靠近但未达到。
- 泛化：k∈{1,5,10}、LoRA 秩 r∈{4,8,16,32}、第二个编码器 MiniLM，共 9 个条件里 8 个通过（区间与朴素 LoRA 不重叠且无精度代价）；唯一例外是 k=1，朴素 LoRA 点估计 0.826 仍低于组合方法 0.873，但该格的标准差是其它格的两倍以上，作者按样本量不足处理，未宣布修复在此失败。 51
证据与局限：主要弱点是外推范围与统计功效。五个数据集里只有 CLINC150 自带原生 OOS 划分，其余四个用留出若干意图的方式构造伪 OOS，这些留出意图与 in-scope 输入同源，是一个标准但粗糙的代理。区间的算法是均值 ± 1.96 倍标准误而非 bootstrap，n=5 使得 Banking77、HWU64 与 k=1 都停在未结案。绝对质量也不高：专用检测器 DROID 的静态 OOS macro-F1 高于本文的朴素编码器打分器，本文的贡献被作者限定为「个性化引起的改变量」，不是最大化绝对 OOS 检测能力。基础意图遗忘完全没被修复覆盖——个性化后 base-intent 准确率在每个数据集下降 8 到 31 个百分点，组合方法在 3 个数据集上更小、2 个上更大，作者把它留给后续工作。超网络式个性化（如 PRISP 的 Text-to-LoRA）未被测试，可能不迁移。ODIN 只复现了温度缩放那一半，其输入扰动步骤未复现，作者把它列为自愿申报的范围限制。代码入口实测：https://anonymous.4open.science/r/percom-FE39 返回 HTTP 403，该匿名平台对脚本访问一律返回 403，页面内容无法核对，因此只确认了链接存在，未能确认其中是否真的包含作者所述的全部训练、评测与绘图代码。51
与目标研究线的连接点：属邻近跟踪：研究对象（设备端意图分类）不在四条线上，但它把「校准」当作一个会随适应一起漂移的量来测，有两条口径可以直接搬进评测流水线。第一条是打分器不变性检验：换一个与训练过程无关的打分器在前后两个时间点重测同一个量，从而把「打分器自身失校准」与「被测对象真的变了」分开——这正是判官效度工作里「换判官重测」的同构做法，本文还给出了差距量级（0.078 对 0.004）。第二条是误接受落点分析：把错误按它落到的类别切片，与均匀分布的机会水平相比，这比聚合指标更能定位机制，也能验证修复是否真的改变了错误的分布而不只是数量。第三条是可迁移的评测设计习惯：修复要在 in-scope 精度上不付代价、并且要在超参数扫描（样本数、秩、第二编码器）上报告通过几个条件而非只报最好一档。与同节其它工作的差异是层级：2610.20634 与 2610.20667 在文本判官与轨迹层面，本篇在 66M 编码器与分类头层面，机制证据来自嵌入几何而非行为。51
结论建议：建议读第 VI-A 节（降幅与打分器不变性检验）、第 VI-C 节（修复、误接受落点与三个组件的归因）、第 VII 节（局限），以及正文里关于学习率要固定在方法内部一致的那条脚注——作者自陈，学习率不匹配本身就能造出与个性化无关的巨大假差异。引用时必须限定：DistilBERT 规模的编码器、五个意图基准、五个种子；「恢复大部分」只在 5 个数据集中的 3 个成立，另外 2 个与 k=1 属未结案，不能写成普遍结论；「OOS 拒识退化」的幅度有相当部分是打分器伪影，引用时应把 0.055–0.258 与「换打分器后缩到 0.004–」一并给出。51
3. 用饱和基准的正确解答轨迹预测模型能力：成对判官 MSE 0.26，相比仅用基准分数的基线 1.37 降 5.27 倍
Evaluating Model Capabilities After Benchmark Saturation · arXiv:2610.20667 · 精读
研究问题与核心方法：模型能力进步快于新基准的构建与验证速度，于是基准陆续饱和：多个模型的分数逼近满分后不再能区分它们，也就失去为 AI 安全案例与前沿政策提供依据的效用。已有做法是造更难的基准或持续更新基准，但构题与验证的时间成本跟不上模型迭代。本文换一个方向提问：基准条目产出的信息远多于我们从中提取的那个分数——还有每个模型如何解题的完整轨迹（transcript）——这些轨迹能不能在分数饱和之后继续提供能力信号。作者把饱和回溯模拟出来：模型按半年分期，对每个预测任务，参考集是前一学期可用模型（7 或 8 个），目标集是后一学期发布的模型（每期 8 个，主评测用晚 2025 与早 2026 两个目标期，合计 16 个目标模型）。饱和边界按参考集中能力最高的三个模型定：三者在某题上都答对，该题进入饱和集，其余题构成未饱和集。预测目标是在未饱和集上拟合的 IRT（item response theory，项目反应理论）能力 θ*，题目难度参数跨学期固定，这样真值反映的是超出饱和部分的能力。协议只拿到饱和集上的、且全部答对的轨迹，正确性信号因此在输入层面被移除。被比较的四类抽取方案代表当代做法：确定性轨迹特征（长度、行文表层特征等）、单条轨迹的文本嵌入、单条轨迹的绝对打分（判官在 1 到 10 上给分）、成对判官（判官在温度 0 下比较两条轨迹，判断哪条来自更强的模型）。成对判官只比较参考-目标对与参考-参考对，不做目标-目标比较；一对只在两模型都答对且回答非平凡时被评判；每条比较都跑两种呈现顺序以压低位置偏差；判官从参考模型里按留一模型误差选出。基线的含义是「只看饱和分数」：既然被评模型按构造把所有观测题都答对，准确率没有区分力，基线就给每个目标模型赋参考模型能力的均值。领域与基准：Science（GPQA-Diamond、ARC-Challenge、HLE-Gold[Science]）、Maths（MMLU-Pro[Maths]、AIME 2024/2025/2026、APEX 2025、APEX Shortlist、HLE-Gold[Maths]）、Coding（AgentBench OS、SWE-Bench、Terminal-Bench 2.1）、Cyber（CyBench、InterCode）。误差用平方误差（MSE，mean squared error，均方误差），显著性用 LLR（log-likelihood ratio，预测分布下真实能力的对数似然比）对基线做单样本 t 检验。作者来自 LASR Labs、ELLIS Institute Tübingen、Max Planck Institute for Intelligent Systems、Tübingen AI Center、Sapienza University of Rome、Generality Labs 与 UK AISI。52
证据与局限：实验是历史回放而非前瞻评测，饱和边界用「前三强参考模型全对」这一定义，附录 D.11 做了边界稳健性检验，但基准选择效应无法通过任务簇重采样消除。能力真值依赖 IRT 拟合，未饱和题集本身也是选择过的。协议层面的证据比较完整：判官按留一模型误差选出，剔除自评判不改变结果，换判官不改变结论，判官集成相对单判官一般相当（只在 Maths 2024-I 与 2025-I 明显更好，误差 1.61 降到 0.58、3.97 降到 2.75）；参考集构成很关键，去掉强参考比去掉弱参考伤害大得多。一个值得注意的内部矛盾：增加被判的题目数并不总是改善预测，在 Maths 2026-I（成对判官）和 Science 2025-I（绝对打分）上反而变差且随后不回升，作者解释为系统性判官偏差被更多判断强化而非被平均掉，这与「扩样本能解决」的直觉相反。主分析只纳入提供未加密推理轨迹的模型，2023 与 2024 两期因为当时没有公开权重且可见轨迹的推理模型，才纳入闭源模型，这个选择影响跨期可比性。原文没有单列 Limitations 小节，局限散落在第 6 节讨论与各附录。代码与数据入口：正文与附录中未给出本工作自己的代码仓库或数据发布页（附录中出现的 Hugging Face 链接属于被引的 AIME 数据集，不是本文的产物），因此复现只能依赖论文描述。52
与目标研究线的连接点：属 A 线，是本期「评测口径、判官效度与基准审计」里最贴近「基准还能不能用」这个问题的一篇。可搬走的操作有五件。第一，把「基准饱和」变成一个可操作的集合划分——用参考集前三强的一致正确定义饱和集，其余为未饱和集，这样饱和/未饱和不再是模糊描述。第二，用 IRT 在未饱和题上构造连续能力真值来替代准确率，使「超出现有区分力的能力」有一个可比较的标尺。第三，只喂答对的轨迹这个控制：把正确性从输入里剥掉，逼协议只能靠过程信息，这是一个几乎零成本但很强的消融设计，任何「判官能不能看出模型强弱」的实验都可以照做。第四，通道与分段双重消融的检查套路——按 reasoning 与 tool 通道删除、按三分段删除与单段保留，可以搬到自己流水线的判官效度检查上，用来回答「判官到底在看什么」。第五，用 LLR 加单样本 t 检验评估协议，既惩罚预测不准也惩罚预测不稳，比只报 MSE 更能反映部署风险；本文的「增加题目反而更差」正是这类指标暴露出来、MSE 单看容易忽略的效果。与同节其它工作的差异在于坐标轴：2610.20634 换判官机器、2610.20785 换判据、2610.20676 换反馈环，本篇问的是「信号藏在轨迹的哪里」以及「协议在时间与范式偏移下何时失效」，把判官效度从单点分数扩展到时间维度。52
结论建议：建议读第 3 节（饱和集/未饱和集划分与 IRT 真值构造）、第 4.1 到 4.3 节（主结果、通道与分段消融、早 2025 失败案例）、附录 C.2（成对判官的比较构造、留一模型校准与提示原文）、附录 D.13（成本-精度前沿）。引用时必须限定：结论来自历史回放、四个领域的选择性基准集合、每个目标期 8 个目标模型、合计 16 个目标模型；「5.27 倍」是合并四领域后相对「只给基准分数」这一特定基线的 MSE 口径，不是对任意评测协议的通则；「成对判官最好」只在 Coding 与 Cyber 上显著优于基线，在 Science 与 Maths 上不显著；早 2025 的系统性低估（MSE 6.20 对 0.24）说明该协议在范式切换期不可依赖，引用成对判官的优势时必须同时给出这个反例。52
4. 智能体测量系统 AlphaDiana：技能加载仅在 16 次比较中 2 次提升准确率，AIME 26 上移除工具描述让正确尝试从 104 升到 116
AlphaDiana: A Measurement System for Agents in Verifiable Reasoning Tasks · arXiv:2610.20675 · 邻近跟踪
研究问题与核心方法：智能体把推理模型与 harness（包在模型外面的那层调用外壳：编排模型调用、执行工具、加载技能指令、把历史存在记忆里）配在一起。要理解智能体表现，必须把「执行条件」与「结果、行为、资源消耗」连起来看。AlphaDiana 是一个测量系统，为数据集、agent、environment、scorer 四类对象提供模块化接口，它的关键设计是保留 harness 原生的控制循环（不把不同 harness 改写成同一种循环），同时把「文件复用」与「记忆保留」这两件常被混在一起的事分开控制。这样系统既支持对完整 agent 做宏观分析，也支持在匹配条件下对 agent 的组件做微观干预——工具、技能、记忆各是一个可单独开关的维度。实验设置是三个开源模型（Qwen、Gemma、Kimi）配三个开源 harness（OpenClaw、ZeroClaw、OpenCode），在五个按最终答案打分的基准上评测，其中两个模型另在两个交互式基准上测（用文件编辑或命令执行后的任务验证器判定）。对每个模型，Direct（一次回答一次尝试、不用工具）是参照。作者来自 TMLR Group（香港浸会大学）、University of Arizona、Zuse Institute Berlin、Technical University of Berlin、Stanford University 与 Shanghai Jiao Tong University。项目页 https://alphadiana.org/ 与源码库 https://github.com/tmlr-group/AlphaDiana 实测均为 HTTP 200，源码库自述为「AlphaDiana: A System for Evaluating Agentic Reasoning」。53
关键结果：
- harness 能解出额外题目，却同时拉低总体准确率。Qwen 在 GPQA-Diamond 上，每个 harness 都解出了 8 到 13 道 Direct 解不出的题，但在 18 到 36 道 Direct 能解的题上失败；四个系统合并看，198 道题中有 175 道在至少一个系统上被解出，而 Direct 单独只有 159 道。这条是把「新增的解」与「丢掉的解」分开算才看得见的，净准确率会把两个方向抵掉。
- 行为模式本身不能判断答案对错。相似的工具使用占比、连续检查行为、低 token 熵在正确与错误答案上都出现。在三个模型合并的、有标注的 HLE-Verifiable 错误尝试里，重复类标签在 OpenCode 占 36.8%、ZeroClaw 占 39.4%，而预算耗尽类标签只占 OpenCode 13.0%、ZeroClaw 0%，说明同一类行为在不同 harness 下对应完全不同的失败原因。
- 工具、技能、记忆都不稳定提升准确率。AIME 26 每题四次尝试下，从 Kimi/OpenCode 移除工具描述与相关指令把正确尝试数从 104 提到 116，但把至少解出一次的问题数从 30 降到 29——平均准确率上升的同时解出题数下降。技能加载在 16 次比较中只有 2 次提升平均准确率（两次都出现在 Qwen）；Kimi/ZeroClaw 在 GPQA-Diamond 上每一次尝试都打开顶层 SKILL.md，准确率却下降。记忆干预上，Qwen 在 AIME 26 上接入「在 AIME 25 上收集后冻结」的记忆，对 OpenCode 有帮助，对 OpenClaw 与 ZeroClaw 相对各自默认反而有害。
- 少量 token 节省可能伴随大幅减少的正确数。在共同的 Gemma/HLE-Verifiable 任务上，OpenCode 比 Direct 少用 0.6% 的输出 token，却只给出 140 个正确答案对 164 个；把所有尝试的输出除以正确答案数，这个均值上升 16.5%。OpenClaw 输出 token 最高的那 10% 尝试用掉了 62.2% 的输出，却没有产生一个正确答案。作者的结论是：行为与输出 token 用量必须与正确性联读，只看「每次执行的输出少了」会得出反向的成本结论。
- 时间与 token 两种资源可以给出不同的系统排序；熵随工具调用深度的走势依赖具体 harness，长尾失败在不同 harness 下熵的方向相反。这些细节支撑同一句话：轨迹与资源记录必须与正确性、执行状态一起保留，才能诊断失败。
- 论文对每个发现都给了编号与对应图（Finding 1 至 Finding 12，对应 Fig. 5 到 Fig. 25 等），使「harness 不提升准确率」这一条可以按模型、按任务、按组件逐格核对，而不是只给一个汇总结论。 53
证据与局限：结论的边界很清楚：三个开源模型、三个开源 harness、五个答案型基准（外加两个交互式基准、两个模型）。开源的选择提高了可复现性，也限制了对外部闭源 harness 的推广——闭源系统不暴露控制循环，无法保证同样的干预方式可行。多处关键数字是单点计数（104 对 116、30 对 29、140 对 164、0.6%、16.5%、62.2%），针对特定模型-harness-基准组合，原文没有给置信区间或种子数，因此它们适合当机制证据，不适合当跨模型的效应量。记忆干预用的是在另一批题上收集后冻结的记忆，属于构造出来的条件，不是自然累积，不能直接读成「长期记忆无用」。文章的报告风格是「发现列表 + 逐条图」，好处是可核对，代价是缺少一个把十二条发现汇总起来的定量模型。一个必须写明的获取限制：本篇没有 HTML 全文，实测 https://arxiv.org/html/2610.20675v1/ 返回 404，本条目中的数字与图注取自 arXiv 摘要页与 arXiv 原文 PDF（两者内容一致），因此无法像其它条目那样按 HTML 锚点逐表定位。53
与目标研究线的连接点：属 A 线，直接落在「执行期控制（harness、脚手架、门控、记忆与上下文管理）」这一支上。可搬走的第一件是测量结构的拆分口径：保留 harness 原生控制循环，同时把文件复用与记忆保留单独暴露成可控变量，这样每次干预只动一个组件，干预效果不会与外层循环差异混在一起。第二件是增益/损失分解：把「新解出的题」与「丢掉的题」分别计数，而不是只报净准确率，这是判断 harness 到底在帮忙还是只是在换一批错题的最短路径。第三件是「行为指标必须与正确性联读」这条规范：低 token 熵、每次执行输出变少、技能被频繁读取，单独看都是误导性的正向信号，本文给了三条反例，其中「每次正确答案的输出 token」比「每次尝试的输出 token」更贴近真实成本。第四件是失败归类的做法：把错误尝试按重复、预算耗尽等标签分类并与 harness 交叉，这可以直接接到自己对 agent 轨迹的审计上。对 B 线，本文提供了一个关于技能库扩张的负面基线——技能加载在 16 次比较里只有 2 次有效，且存在「每次都读技能但准确率下降」的组合，这为「智能体技能库该怎么演化、什么时候该扩」提供了必须解释的反例。与同节其它工作的差异：2610.20667 测的是「从轨迹里预测能力」，本篇测的是「改变执行条件后准确率与资源怎么变」，并且把技能与记忆当作可开可关的组件，而不是当作外部设定。53
结论建议：建议读第 1 节的发现列表（十二条，逐条给出数字与对应图）、第 3 到 5 节的系统设计与实验协议（数据集、agent、环境、打分器四类接口如何组合），以及 Finding 1、6、7、9、10 对应的图（Fig. 5、10、11、15、16）。引用时必须限定：三个开源模型与三个开源 harness、五个答案型基准；「技能加载只在 16 次比较中的 2 次有效」是这些具体技能库与基准下的结果，不能推广为「技能无用」；harness 与模型的名称和版本应随引用一起给出，因为提供的默认配置会随时间变化。由于本篇没有 HTML 全文，转引表号或页码时应以 arXiv PDF 为准，或在引用中只给小节与图号。53
5. 在 12 个 Verus/Rust 任务上关掉纠错反馈把见证产出从 27.1% 提到 59.0%，保留下来的反例把规约修复成功率从 62.5% 提到 81.3%
When Correctness Feedback Erases Evidence: Phase-Separated Completeness Auditing in Verus · arXiv:2610.20676 · 值得扫读
研究问题与核心方法：验证通过并不等于规约完备：程序可以满足写下的契约，同时违反作者的意图，证明是有效的，缺的是契约里少写的一条要求。完备性审计要找的正是这种程序——契约接受但任务拒绝——作者称之为 specification-completeness witness（规约完备性见证）。这个目标会改变正确性反馈的角色：在普通程序合成里，编译、验证或测试失败告诉模型该修什么；在完备性审计里，把被契约放行的错误程序修正掉，就等于抹掉审计需要的证据。作者把这个冲突叫 objective reversal（目标反转）。一个候选成为认证见证要过四道门：在被删除了一条有意义后置条件的弱化契约 S− 下验证通过；把被删的后置条件恢复后验证失败；能够编译并执行；至少与一条官方测试用例不一致。每个 episode 有三次调用，harness 按解析成功、弱化契约接受、Rust 编译、可见测试分歧条数、最早调用序号的字典序给候选排序，只认证被选中的那一个（不一定是第三次调用的输出）。比较的策略有四条：Direct（三次独立调用，候选、验证结果、可见测试结果都不在调用之间传递）；IntentShield（每次新调用收到上一候选以及编译、弱化契约与可见测试反馈，提示里仍然要求给出被契约放行的错误程序，但交互形态已经像常规修复环）；Model-Judgment（模型自评后修订）；FMI（Format-Matched Iterative，保留 IntentShield 的提示模板与候选历史，把反馈块整体换成标注为未评估的固定字段，提示长度匹配在 3% 以内）。此外 Phase 用与 Direct 逐字节相同的发现协议另跑一次，把候选冻结并认证之后才做规约修复与实现工作。任务来自 VeriContest 的 12 个 Verus 函数（保留一个有意义输出约束的残余契约任务 5 个，删掉整个输出关系的全删除对照 7 个），4 个模型家族（Claude Sonnet 5、DeepSeek V3.2、Devstral 2、Qwen3-Coder-480B），每个任务-模型-方法组合三个重复 episode，每策略 144 个结果，原始四策略活动共 1728 次模型调用。下游另做 16 个任务的规约修复与实现评测，每个条件三次尝试、共 48 次。54
证据与局限：这篇的证据结构比常见的智能体论文干净：策略之间的对比是受控的，FMI 把「迭代结构」与「反馈内容」分开，解析修复把「格式失败」排除，四个模型家族给出方向一致性，下游还有 True-Spec 作为经验 oracle 参照。局限也很明确并被作者主动写下：主基准只有 12 个竞赛编程函数与受限表达式语言，20 任务扩展是初步的；任务簇重采样保留簇内依赖但不能去掉基准选择效应，也不能保证对提供方整体漂移稳健；用的是提供方默认采样参数，三个重复 episode 用的追踪标签不是提供方随机种子，因此无法精确重放；残余契约任务上「删一条后置条件」相对温和，全删除对照因为常数（如 0 或 true）也可能通过而被作者指出同时探测了 harness 可靠性。归因上有一个必须一起引的偏差：三个低产出的 IS-Revised 案例用的是「可用的最高排序候选」而不是已认证见证，所以 IS-Revised 的下游劣势混合了发现、选择与修复三个环节，不是纯粹的修复质量差。True-Spec 是经验参照，不是随机合成过程的上界。代码与数据入口：正文与附录中没有给出本工作自己的代码仓库或数据页，实测未发现可核验的公开入口。54
与目标研究线的连接点：属 A 线，落在「执行期控制」与「轨迹数据构造与筛选」两支的交点上，并有对 B 线的直接含义。可搬走的第一件是分离设计本身：FMI 保留候选历史与提示模板、只把语义反馈换成标注为未评估的固定字段，并把提示长度匹配在 3% 内——这套「只动一个因素」的构造方式，是任何「反馈到底有没有用」的问题都可以照抄的模板，而且它把 69.6% 的差距归到了反馈内容上。第二件是把「发现」与「修复」在时间上分开，并在两次执行之间做格子级一致性统计（一致率加 Cohen κ），用来证明等量产出来自重新生成而不是复用输出；相位分离的价值被作者限定为可审计的交接，而不是更好的搜索算法，这个限定本身也值得学。第三件是「保留下被拒绝的样本」这一条对轨迹数据构造的直接启示：被契约放行的错误程序本身就是证据，把它们修掉或丢掉会同时销毁整条流水线的上游价值。第四件是格式化的敏感性检验：先做解析修复再重测，用剩余差距证明结论不来自语法崩塌。对 B 线，这篇是明确的负面证据：把正确性反馈放进发现环会压掉反例产出，这与只优化任务完成度的自精炼路线形成对照——目标函数一旦从「找反例」漂移成「让检查器满意」，自进化闭环就会销毁自己需要的证据。最后一条同样重要：同一机制在 Dafny 与 Lean 上没有复现，说明结论受底质约束，任何「反馈有害/有益」的一般化都必须先在自己的底质上重做。与同节其它工作的差异：2610.20634 用配对统计量分辨判官口径，2610.20667 从轨迹里抽能力信号，本篇把「能不能找到反例」直接当作判据来测，把闭环控制与判据效度放进同一个实验。54
结论建议：建议读第 2 到第 4 节（四道认证门、五种策略的定义、FMI 的差距分解）、表 1 到表 3（主矩阵、句法稳健性、逐模型对比）、第 4.6 节与附录 D（下游修复的完整逐任务结果）、附录 E（Dafny 与 Lean 的迁移诊断）。引用时必须限定：12 个 Verus/Rust 竞赛编程任务、4 个模型家族、3 个重复 episode、三次调用预算；「59.0% 对 27.1%」不能推广到 Dafny 或 Lean（原文明确未复现，Lean 上 Phase 甚至最低）；下游的「81.3% 对 62.5%」是 16 个任务、每条件三次实现尝试上的计数，不是统计上界；IS-Revised 的三个低产出案例用的是未认证候选，引用下游对比时要一并说明这一归因混合。54
6. 中文社会意识开放基准 APRiL：2,196 条实例上 12 个模型的社会场景分析均分 68.19，社会回应均分只有 27.26
APRiL: An Open-ended Benchmark for Chinese Social Awareness in Large Language Models · arXiv:2610.20785 · 邻近跟踪
研究问题与核心方法：作者把 social awareness（社会意识）定义为：在涉及他人或群体的互动中，识别显式与隐式社会线索，理解参与者的关系结构、心理状态与潜在冲突，并把这份理解转成适配人际关系与互动场景、同时考虑现实后果的回应。中文语境让这件事更难：礼貌规范与面子使得意图常通过间接表达、沉默、语气变化以及公开与私下场合的差别来传递，同一句话在不同关系下含义不同。已有基准多聚焦单一子能力（社会常识、心理状态推理、道德、公平、安全），任务形式受限（分类题、预定义选项、单一平台），很少检验模型能否在不完全信息、不对称关系与冲突目标下把这些线索合起来并转成回应。APRiL 含 2,196 个 Social Awareness Evaluation Instance（SAEI），分六类：Implicit Intention、Role and Power Relation、Social Norms、Interpersonal Conflict、Fairness and Bias Risk、Supportive Interaction；平均 7.32 轮对话、318.89 个汉字。评测分两个互补任务：Social Scenario Analysis（SSA，社会场景分析）三个维度是 Social Cues（社会线索）、Mental States（心理状态）、Conflict Structure（冲突结构）；Socially Aware Response（SAR，社会意识回应）是单维度。每个实例自带 rubric，含评分点与扣分点：SSA 平均 12.58 个评分点与 5.65 个扣分点，SAR 平均 4.91 与 4.04；得分按 100 乘「匹配评分点减触发扣分点再除以可用评分点」的非负截断值计算，SSA 三维度取算术平均；回应长度超过可见上下文与对话之和会触发一次额外扣分，把简洁性写进总分。构造流程是：人工设计种子，评审后保留 560 个，由 GPT-5.5 扩写成多个 SAEI，再做程序化结构检查与规则式模型辅助质检，最后由 8 名中文母语研究生级评审逐条核对隐藏标注，16 名标注者评审 rubric。评测覆盖 12 个模型、6 个家族，判官是 GPT-5.6-Luna（温度 0、关闭推理），每个模型跑三次取均值与标准差；人类基线是从实例中随机抽 110 条，由 4 位中文本科以上成年人完成两个任务，再由同一判官打分。作者来自 Kyoto University、Shanghai Jiao Tong University、University of Macau、The University of Tokyo 与 Inner Mongolia University。55
关键结果：
- 表 2（三次运行均值）里 SSA 最高的是 DeepSeek-V4-Pro（思考模式）83.59，单维度上 Social Cues 最高是 GPT-5.1 的 84.89，Conflict Structure 最高是 DeepSeek-V4-Pro（思考）的 88.29；SAR 最高是 Gemini-3.8-Flash 的 42.88。模型组平均：黑盒模型 SSA 76.14、SAR 36.01，白盒（开放权重）模型 SSA 56.27、SAR 14.13，全部模型平均 SSA 68.19、SAR 27.26。黑盒与白盒的差距是 SSA 19.87 点、SAR 21.88 点。
- 所有模型与推理模式下最低的 SSA 维度都是 Mental States，平均 57.27，而 Social Cues 是 73.50、Conflict Structure 是 73.82，约 16 点的落差说明「有证据地推断他人的知识、意图与关切」是一个跨家族、跨规模、跨推理模式的共同瓶颈。
- 理解与回应不同步：SSA 与 SAR 正相关（Spearman ρ=0.511），但模型普遍 SSA 高、SAR 低。作者给了一个具体例子：模型正确识别出对话者以「我有个朋友」的方式说自己的困境，回应时却把这层距离直接说破，回复长度还接近可见上下文与对话的两倍——识别出社会风险不等于能给出得体的回应。
- 条件化实验把「分析质量」当作干预变量：以自身 SSA 为条件，GPT-5.1 的 SAR 从 37.65 升到 45.07，Gemini-3.8-Flash 从 42.88 升到 47.33；给 gold SSA 进一步升到 48.69 与 52.88。给弱 SSA（Qwen3-8B 产出的）时 GPT-5.1 升到 40.83 但 Gemini 降到 41.95，两者都低于自身 SSA 与 gold SSA 条件；Gemini 的扣分点触发率从 19.18% 升到 21.94%，抵消了覆盖率上升带来的增益。作者据此主张：弱分析不只是没用，可能会损害回应质量。
- 长度扣分直接改变排名：约 44% 的 GPT-5.1 回应超过长度上限，而 Ministral-14B 与 Gemini-3-Pro 都是 12%；这条规则从 GPT-5.1 拿掉 8.95 分，而 Ministral-14B 是 2.43、Gemini-3-Pro 是 2.42、Gemini-3.8-Flash 只有 0.46。含长度扣分后榜首从 GPT-5.1（不计扣分时 46.60）变成 Gemini-3.8-Flash（计扣分 42.88）。附录 F 的模型级相关显示平均输出长度与分数正相关（SSA r=0.39、SAR r=0.36），但更长的输出并不总是得分更高。
- 类别与规模：SSA 均分跨类别只有 67.02 到 69.46 的窄幅，SAR 则从 19.20 到 31.47；Supportive Interaction 的平均 SAR 最低，而它的 SSA 与其它类别相当。规模效应不单调——Ministral 从 3B 到 8B 大幅提升（SSA 56.03 到 76.74，SAR 4.07 到 18.54），到 14B 增益变小；Qwen3 的 SSA 没有单调趋势而 SAR 随规模下降。思考模式对 DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi-K2.5 都是正向的，SSA 分别升 2.82、2.15、5.61 点，SAR 升 6.11、8.26、7.06 点。 55
证据与局限：判分完全依赖单一 LLM 判官（GPT-5.6-Luna，温度 0、关闭推理），作者用三个替代判官对同一批回应重打分，并在附录 D 给出人类评审者间一致性与人-判官分数相关性，这是必要的披露但不等价于人类标注的黄金标准。人类基线只有 4 人和 110 条实例的子集，作者报告的结论是「人类在 SSA 上低于两个模型组平均、在 SAR 上高于两个模型组平均」，样本量小到只适合当方向性参考。构造过程有两处模型参与（GPT-5.5 扩写种子、规则式模型辅助质检），最终由 8 名母语评审与 16 名 rubric 评审把关，但种子集只有 560 条，因此 2,196 条实例的多样性受种子设计控制。作者自陈的局限有两条：基准主要为中文与中文文化语境构建，跨语言与文化不保证；受算力与 API 可得性限制只评了 12 个模型，可能遗漏社会意识更强的模型。引用时还有一条操作层面的坑：SAR 分数含长度扣分，跨报告比较前必须先确认对方是否也计入了这项。数据与代码入口：原文给出 https://anonymous.4open.science/r/APRiL-05DE/，实测该地址返回 HTTP 403，匿名评审平台对脚本访问一律返回 403，因此只确认链接存在，未能核对其中的数据与代码内容。55
与目标研究线的连接点：属邻近跟踪：题材（中文社会意识）不在四条线上，但对 A 线的评测口径有四件可直接搬走的东西。第一，实例自带 rubric 的可计算判分公式——把「匹配评分点减触发扣分点再除以可用评分点」写成封闭式，使开放式文本也能得到可复算的分数，并且把「说得对」与「说错了」分开计分，这比单一 Likert 分数更能区分错误类型。第二，理解与回应两任务分离，并把「上游分析质量」做成 no-SSA / 弱 SSA / 自身 SSA / gold SSA 四档干预来测传导，这是一个可复用的因果式评测设计：它回答的不是「模型行不行」，而是「这个流水线环节是否真的贡献下游质量」，同样适用于判官、检索、摘要等前置环节。第三，把输出约束（此处是简洁性）写进总分并显式报告它如何改变排名，提醒任何评测在设计分项权重时要把格式与长度规则的效应单独量化。第四，判官稳健性与人类一致性作为必备附录，而不是可选项。与同节其它工作的差异：2610.20667 用 LLM 判官预测能力，2610.20676 用反馈环找反例，2610.20634 换判官机器，本篇用 rubric 判官给开放文本打分并把「给不给分析」当成干预变量，是本期唯一一条「开放文本 + 实例级 rubric」的评测口径样本。55
结论建议：建议读第 3 到第 4 节（六类别的定义边界与两个任务的计分公式）、第 6.3 到 6.6 节（理解-回应差距、条件化实验、长度扣分对排名的影响）、附录 D（判官稳健性与人类一致性）、附录 E（人类表现）。引用时必须限定：中文语言与文化语境、六个类别、2,196 条实例、12 个模型、三次运行；「SAR 只有 27.26」是含长度扣分的口径，跨报告比较前要确认对方的计分规则；「弱分析会损害回应」目前只在 GPT-5.1 与 Gemini-3.8-Flash 两个模型上被观察到，作者把它表述为一种可能的解释，不能当作通例；人类基线只有 4 人 110 例，不能作为人类水平的上界。55
7. 答案配置决定是否听从当前证据：独立答案调用把证据遵循率比续写提高 29.9 到 60.6 个百分点
When Reasoning Traces Conflict with Evidence: How Answer Configuration Shapes Evidence Following · arXiv:2610.20805 · 精读
研究问题与核心方法：一条被保留到答案阶段的推理轨迹（reasoning trace）有两重角色：它可以提高准确率，也可以在它与当前证据不一致时与证据竞争。作者把答案阶段拆成两个可测属性。trace use（轨迹使用）指轨迹对后续答案的影响——删掉、缩短或替换轨迹会改变答案及其准确率；conflict response（冲突响应）指轨迹与当前证据不一致时，答案跟随哪一方。核心问题是：一个会用到轨迹的答案，在证据反对时是否也会退让给轨迹，以及答案配置如何塑造这个选择。实验用交叉设计把两件事解耦：为每个问题构造两版证据 E0（原始）与 E1（把 gold 答案在支持段里整段替换为同类型的反事实答案 a1），用验证模型确认每版都能被还原出各自的目标答案，得到 HotpotQA 683 对、MuSiQue 417 对；每个模型从 E0 生成轨迹 r0、从 E1 生成 r1，只保留「轨迹只说出自己那版目标」的对；然后对全部四个配对 (Ei, rj) 各评一次，分别只用 gold 证据与加上原始干扰段。两种答案配置是：Continuation（续写）把存下来的轨迹插回模型自己的思考块，证据在前、轨迹在后，随后生成一个短答案；Separate answer call（独立答案调用）关掉思考，用一条新的用户消息给出问题、轨迹，最后给证据，轨迹以用户文本形式进入，证据在最后。两种配置因此在三处不同：轨迹的位置、哪个输入在最后、以及指令。数据用 HotpotQA 的干扰段设置（前 2,000 条验证题）与 MuSiQue 可答部分的前 2,000 条（上下文截断在 12,000 字符，171 题即 8.6% 因此至少丢掉一个支持段）。模型横跨八个：Qwen3-4B/8B/14B/32B、Qwen3.5-4B、Gemma4-E4B、gpt-oss-20b、DeepSeek-V4-Pro。指标包括精确匹配（EM）、token F1 与 Contains；trace contribution 定义为同一批问题与答案时证据下「有轨迹减无轨迹（用无轨迹占位符）」的准确率差；交叉格里把只匹配当前证据目标答案的称为 evidence-following，只匹配另一版目标的称为 trace-following。区间为 95% bootstrap，消融对比另报精确 McNemar 配对检验。作者来自 Stony Brook University。56
证据与局限：配对比较只覆盖三个家族（gpt-oss-20b、Gemma4-E4B、Qwen3-14B）与两个英文多跳 QA 数据集，另外八个模型中除 Qwen3.5-4B 外各只跑一种配置，跨模型比较还受各自保留配对数不同的影响。冲突是人工编辑证据构造的，并且只保留「轨迹明确表达竞争答案」的对，作者明确指出这些结论对自然更新证据、其它任务、更隐晦轨迹的推广尚未建立。MuSiQue 上有模型大量返回空轨迹（Qwen3.5-4B 61.2%、Qwen3-32B 38.9%），这些设置里轨迹干预本身受限，作者把它们列为图 3 的四个例外之一。上下文截断使 MuSiQue 有 171 题（8.6%）至少丢一个支持段，剔除后结论不变（附录 B）。别名匹配在 MuSiQue 上最多改变 1.8 点，作者据此说明匹配规则没有驱动结论。DeepSeek-V4-Pro 只跑答案阶段消融，覆盖不完整。原文未给出本工作自己的代码仓库或数据发布页，只使用公开基准与公开或商用模型；伦理部分声明无人类被试、无个人数据。56
与目标研究线的连接点：属 A 线，落在「执行期控制」里的上下文管理与多阶段流水线产物复用这一支上，同时也是一份关于评测口径的操作手册。最直接可搬走的是报告规范：输入顺序单独一个变量就能移动证据遵循率最多 36.6 点，因此任何「模型是否遵循证据」的评测必须把轨迹位置、思考是否打开、输入顺序、指令内容与输出预算一起报出来，否则不同报告的结论不可比。第二是「trace contribution 与 conflict response 必须一起测」这条方法论——只做删轨迹消融会得出「两种配置轨迹使用相当」的错误结论，这一点与 2610.20667 里「只喂正确轨迹」的控制思路互补：那边移除正确性信号，这边移除冲突信号，两者都在回答「判官/答案到底在看什么」。第三是相位分离的证据：证据要在轨迹写出之前到达才有最大价值（Gold→Gold 优于 Full→Gold），一旦陈旧结论被写下，重写轨迹比在它旁边补更好的证据有效得多；对任何「先生成中间产物、再消费它」的流水线，这条直接对应「中间产物的生成时机」这一设计变量。第四是纠错手段的排序——重新推理远优于「请核对一下」这类口头指令，这对自进化与自我修正闭环的提示设计有直接含义，也呼应 2610.20676 里「反馈的目标函数错了会销毁证据」的发现。与同节其它工作的差异在于干预位置：2610.20634 换判官机器，2610.20667 从轨迹预测能力，2610.20676 换反馈环的有无，本篇动的是同一条轨迹在答案阶段的摆放方式与输入顺序，是四篇里最底层的上下文管理干预。56
结论建议：建议读第 2 节（交叉冲突的构造、两种答案配置的精确定义与指标）、第 3.1 到 3.2 节（主结果与轨迹使用的分离）、第 4 节（最后一行、证据到达时机、重写与修复）、第 5.1 到 5.2 节（纠错手段对照与配置效应的驱动因素）、附录 C.1（反事实数据与轨迹过滤）。引用时必须限定：三个模型家族、两个英文多跳 QA 数据集、人工编辑的证据对、只保留轨迹明确表达竞争答案的对；「29.9 到 60.6 点」是跨模型与数据集的范围而不是单点效应量；不能把它读成「独立调用总是更好」——当轨迹正确而证据差时独立调用要为它的开放性付代价（Gold→Distr. 上 gpt-oss-20b 比 Gold→Gold 多掉 7.4 点，续写下是 5.1 点）；「验证指令无效」目前只在 Qwen3-14B 与其 638 对 HotpotQA 配对上测得，不能当作对所有模型的通则。56
8. 池化 SD 恰等于翻转率乘位置偏斜：41 个开源权重 checkpoint、12 个基准上翻转率与准确率的 Spearman 相关为 -0.95
One Bias Score, Two Factors: How Mitigations Affect Option Bias in Multiple-Choice Evaluation · arXiv:2610.20993 · 精读
研究问题与核心方法：多项选择评测里重排选项会改变模型的选择，这个现象被叫 option bias（选项偏差），文献却分成两条几乎不交叉的线。一条是 selection bias（选择偏差）：模型偏好某些选项字母，用池化统计量汇总，靠 prior correction（先验校正，把每个查询的字母概率除以估计出的选项字母先验）缓解。另一条是 order sensitivity（顺序敏感性）：同一题换个顺序答案就变，逐题计数，靠 aggregation（聚合，把同一内容在一组顺序下的概率合并）缓解。作者指出，缓解方法之间常用一个池化偏差分数比较，而这个分数把两种行为混在一起，看不出谁动了哪一部分。本文的构造是 balanced orderings（均衡重排集合：每个选项在每一个位置上出现次数相同），具体取 cyclic reordering（循环重排）π_s(j)=(j+s) mod K，K 为选项数：把每题的选项按 A B C D、D A B C 这样轮换一遍，每题问 K 次。在这套设计下，pooled SD（池化选择率标准差，各字母被选份额的标准差）被证明恰好等于两个无需金标签的因子之积：flip rate（翻转率 FL，答案内容随顺序改变的题目占比，按内容而不是按字母计数；一直答 A 的题也算翻转，因为 A 每次装的是不同内容）乘 positional skew（位置偏斜，翻转题目的答案落点的标准差）。作者把需要金标签的 RStd（各正确选项字母上准确率的标准差，balanced RStd），也拆成 FL 乘 std(h)，h 是翻转题目在正确选项位于字母 j 时的准确率；placement range（把每题的正确选项统一搬到某一个字母时准确率的极差）等于 FL 乘 h 的极差。实验面：41 个开源权重 checkpoint、12 个基准（2、4、10 选项各若干，含 PIQA、MMLU 五学科子集、MMLU-Pro），用 first-token readout（首 token 概率最高的选项字母作为答案）读出，另做五样本、直接回答与思维链的稳健性检查。读出与筛选口径也交代得很细：五样本提示用于除 TruthfulQA-MC1、BBH-MC 与 MMLU-Pro 之外的基准，思维链用原版提示，直接回答用于 ARC、MMLU、OpenBookQA 与 LogiQA；一道题只有在所有顺序下都被作答才算可用，一个 cell 低于其基准可用题数众数的 90% 就被剔出筛选池，而首个 token 与五样本读出的筛选池不删任何 cell，涉及全部顺序的分析只用了 8 个 checkpoint、涉及题目划分的分析只用其中 6 个。作者来自 POSTECH（Pohang University of Science and Technology）。2
证据与局限：恒等式是算术恒等，不必靠实验支持，Appendix B 给出在任意均衡重排设计下成立的证明，并在非均衡设计下给出减去稳定项偏差的复原办法；因此这条结论的适用范围由「均衡设计」这个前提决定，而不是由样本量决定。经验部分覆盖 41 个 checkpoint 与 12 个基准、七个模型家族，预训练与后训练模型都在内，所有跨条件差异都带 95% 的 checkpoint 块状区间（按整个 checkpoint 重采样），解码为贪心，因此原文未报告解码种子数。作者自陈的局限包括：只刻画可观测效应，不触及产生这些效应的模型内部机制；观察到的与准确率、输出不确定性的关联不构成因果解释；因子下降不保证预测更好，稳定答错可以稳定存在，位置偏斜的下降也未必转成放置稳健性或排序稳定性的改善；实验限于确定性读出、以英语为主的多项选择基准与特定的缓解配置。引用风险有四处要交代。第一，balanced RStd 的分解只在均衡设计下成立，且只有在 K=2 时与 pooled SD 共用同一个翻转率，所以「RStd 降了」不能读成「翻转率降了」。第二，Table 2 里各操作的 ΔAccuracy 只有 0.5 到 2.9 个百分点，属于小量，不能当作准确性提升的证据，作者自己的结论也只是「校正加乘积同时压低两个因子」。第三，PriDe 缩小 placement range 却不影响 rank reversals，说明两种伤害必须分开报告，不能互相代指。第四，作者明确未把先验估计误差、题目级偏好与其他偏离单先验模型的成分分离开，因此残余翻转的来源在本文内没有归因。代码与数据入口：原文全文没有任何 github 或 huggingface 链接，未提供代码仓库，复现需自建管线（实测 https://arxiv.org/html/2610.20993v1/ 返回 HTTP 200，全文可取）。2
与目标研究线的连接点：属于 A 线里的评测口径与基准审计。可搬走的是四件具体的东西。其一，用循环（或任意均衡）重排加 pooled SD 的因子分解来报告选择偏差，取代单一 bias 分数，并固定报告三件套：翻转率、位置偏斜、准确率——因为准确率单独看不出稳定与正确的区别，两个因子单独看不出对错。其二，用「往存储 logit 上加一个形状已知的字母偏好 αd_i、再重估先验」这套注入实验，检验某个缓解方法到底能消掉哪种形状的偏好：本文发现前后向与交替形状被反序乘积完全抵消，外-内形状会穿透并加宽放置范围，而重估先验的 PriDe 基本能消掉每种形状；四选项 cell 上，镜像后存活的那部分偏好平均保留约半个标准差，这直接解释了反序乘积只能部分压低偏斜。其三，把 rank reversal 比例当作评测稳定性指标，它比 placement range 更贴近榜单可用性，而且它与放置范围在本节实验里由不同机制驱动。其四，把「稳定答错份额」列进结果表，这是任何用多顺序聚合来提升鲁棒性的方案都必须盯住的副作用。与本节其它工作的差异：2610.21128 测的是判官与一致性信号相对金标签的错位（错答质量在哪个象限），本文测的是重排导致的答案不稳定与字母偏斜，两者的共同结论是单一汇总数字会掩盖方向相反的变化。2
结论建议：优先读第 3 节（翻转率定义与池化恒等式）、第 5 节（两个因子各自追踪什么）、第 7 节与 Table 2（缓解操作的残余伤害与组合效果），要核验机制解释再读第 6 节与 Appendix D。引用时必须限定：均衡重排设计、选项数 K、翻转按内容计数、贪心首 token 读出。引用 r_s = -0.95 时要说清这是跨 cell 的 Spearman 相关、且作者明确不主张因果；引用 balanced RStd 从 0.064 到 0.036 时要说清这是两个不同操作达到的相同结果，不是同一操作的前后变化。2
9. a priori crux 与多 rollout crux 重叠仅 13.4%：59 场比赛里 55 场低于置换基线 39.2%
Can LLMs Anticipate Their Cruxes? · arXiv:2610.21006 · 邻近跟踪
研究问题与核心方法：想让语言模型帮人做决定时，需要把它输出里的关键分歧点提炼出来。作者给 crux（关键分歧点）下了一个可操作的定义：某次决策的多次 rollout 之间彼此不同意的子问题，而且改变它的取值可能改变结论——关键点是，crux 是 rollout 分布的性质，不是任何单条 rollout 的性质。据此比较三种抽取策略，成本递增：a priori（事前直接问模型「哪些子问题会成为分歧点」，不看任何 rollout）、single-rollout（先生成一条推理，再从这一条里抽 crux）、multiple-rollout（生成多条 rollout 两两对比，只保留两者立场不同的断言，再把等价表述聚类）。为了让第三种可负担，作者用 reranker（重排序模型，一次前向打分一对文本是否匹配）替代生成式判官：Qwen3-Reranker-8B 在约 270 token 内给一对 crux 打分，全部配对打分共 6.4 GPU 小时，估算为本地生成式判官的 86 分之一。评测把两个集合的重叠与 permutation baseline（保持聚类不变、随机重贴集合标签算出的重叠）相比，用以消除 singleton cluster（只含一条 crux 的簇）带来的偏差，另配 coverage 与 split-half 检查。数据两个来源：March Madness 篮球赛的 59 场对阵（每场 9 条 rollout，证据固定为三份球探报告，因此差异只来自模型自身）与 Metaculus 预测平台的 15 个事件（每事件 29 或 30 条 rollout，rollout 各自联网检索）。作者来自芝加哥大学等机构。57
关键结果：
- 事前 crux 与多 rollout crux 的重叠低于随机重贴：March Madness 在 same-resolution（同一消解层级：解决一个必然解决另一个才算匹配）层级、每侧 25 条 crux 时，重叠平均 13.4% ±1.6%（这是跨 59 场比赛的标准误），置换基线平均 39.2%，差距 25.9 ±1.2 个百分点（p<1×10⁻¹⁰）；59 场比赛里 55 场低于自身基线，3 场持平、1 场高于；把两侧集合都扩大也始终补不回基线。
- Metaculus 上差距更大：重叠 39.9% ±4.0% 对基线 70.9%，差距 31.0 ±4.9 个百分点（p=1.2×10⁻⁴），15 个事件中 13 个低于自身基线。
- 单条 rollout 更接近基线但仍不足：March Madness 中单 rollout crux 的重叠 18.8% 对基线 25.1%（59 场里 47 场低于），差距 6.4 个百分点，远小于事前 crux 在同一批多 rollout crux 上的 26.8 个百分点；它在 coverage 上仍不达标，覆盖 28.6% 对基线 37.8%。Metaculus 上单 rollout 的 48.5% 对 44.0%，各项都在基线附近。
- 多 rollout 之间的 crux 高度重复：不同 crux 的数量随 rollout 数近似线性增长（March Madness 上每条 rollout 约 3.4 条，2 条 rollout 时 4 个簇、9 条时 28 个簇，而配对数是 36）；聚类在每侧 25 条时平均留下 20.5 个簇（March Madness，范围 2 到 36），Metaculus 平均 5.2 个簇（范围 2 到 12）。9 条 rollout 中任取 5 条覆盖了 28% 的配对，却覆盖了全部 9 条给出的 61% 的不同 crux。
- 稳健性：严格度取三档时差距在 25.9 到 36.1 个百分点之间，收紧或放宽「同一个 crux」都不补上缺口；29 场有争议的比赛（rollout 不都选同一边）重叠 16.0% ±2.5% 对基线 40.5%；把聚类切得更粗、把多 rollout crux 改得更笼统、或改成按背后证据而非措辞匹配，缺口都还在。
- 事前 crux 的笼统不是缺口主因：要求事前 crux 写得与多 rollout 一样具体，March Madness 的差距从 24.7 缩到 16.4 个百分点（95% 区间 5.1 到 11.5，59 场里 42 场缩小），而这次缩小几乎全部来自基线下降：重叠仍约 17%，基线从约 42% 降到约 33%，剩余缺口在 59 场中 58 场仍成立。三种开源权重模型以及三种预测器乘三种抽取器乘三档严格度的 27 个格子，全部低于各自基线。57
证据与局限：主结果按 same-resolution 层级、每侧 25 条、每场比赛或事件用自己的随机种子计算重叠与基线，误差是跨场或事件的标准误，差距用单侧 Wilcoxon 符号秩检验；置换基线有闭式表达，且每次比较都按其自身聚类重算。成本账也在原文里：全部 March Madness 配对在同分辨率层级共 751,515 对，用了 12 GPU 小时。作者自陈的局限很清楚：每条 crux 等权，没有按「解决它带来的信息价值」加权（留给后续工作）；两个来源在主题、rollout 数量、提示词、每个角色由哪个模型扮演上都不相同，因此差距大小的差异不能归因到某个单一特征；评分为固定成本把每侧截到 25 条，作者用 25 以内的尺寸扫描说明结论不依赖这个上限；还有一点很重要，缺口不说明任何一条事前 crux 是错的，它们读起来仍是关于该场比赛或事件的合理问题。引用风险：13.4% 与 39.2% 这组数只在 March Madness、same-resolution 层级、每侧 25 条、抽取器为 gpt-5.4-nano 时成立，换成 qwen3:32b 抽取会让差距移动约 11 个百分点，方向不变但幅度会变；Metaculus 上同一天重跑原始提示词与原始之间的漂移达 7.8 个百分点，已经超过各提示词臂之间的差异，所以 Metaculus 上的提示词级比较不能引用。代码与数据入口：论文给出两个仓库，https://github.com/davidreber/forecast-cruxes 与 https://github.com/davidreber/forecast-cruxes-reproduce，实测均返回 HTTP 200。57
与目标研究线的连接点：属于 A 线的评测口径，兼顾「模型对自身推理的解释是否忠实」这一判官效度问题。可搬走的是三件事。其一，permutation baseline：凡是要比较两个集合的重叠，都要先把「簇大小分布本身造成的重叠」扣掉，否则重叠分数会被单元素簇的比例主导，本文把这一步做成了闭式并复用于每个检查。其二，split-half 检查：把同一集合分成两半互评，用来回应「目标集合太散、任何集合都匹配不上」这类反驳——本文里两半多 rollout crux 的重叠是两集合重叠的 3.4 倍，这个对照本身就是论证的一部分。其三，把抽取代价压到可负担的方法：reranker 一次前向替掉生成式判官的逐对打分，附上 GPU 小时账单。与本节其它工作的差异：2610.21128 与 2610.21214 都在处理判官打分本身的不确定性，本文处理的是「模型能否预见自己在哪些事实上会分歧」，其结论是事前的自我报告不可用、单条推理远远不够，必须真的采样多条并互相对照。57
结论建议：读第 5.2 节（置换基线为何必要）与第 6.1 到 6.4 节（结论、来源、严格度、具体性四个方向的反驳与回应），要拿数字就配 Table 1 与 Appendix A 的 Table 7、Table 8。引用任何重叠数字时必须同时给出四个限定：数据来源、严格度层级、每侧 crux 数、抽取所用模型；引用「86 倍」时要说明这是相对本地判官的估算，不是实测的端到端成本比。57
10. 无标签 EM 陪审团达 76.9%：比最佳单模型高 2.0 个百分点，与有标签权重拟合无显著差异
A Jury, Not an Electorate: Label-Free Reliability Estimation for Ensembles of Language Models · arXiv:2610.21085 · 值得扫读
研究问题与核心方法：语言模型集成不是选民投票，而是陪审团：每个专家的证词都来自可靠性未知的证人，问题不是谁声音大，而是谁可信。多数集成方法给每个专家一个固定声誉，通常从标签学出来。本文问：可信度能否只从专家之间的同意与不同意模式推断出来。做法是把专家套进 Dawid–Skene 的单硬币生成模型：每题有一个潜在真答案，每个专家以未知可靠性 π_e 报告它，π 用 EM（Expectation Maximisation，期望最大化）仅从未标注的答案配置估计，完全不看金答案。作者证明这套决策规则会退化成一个熟悉的形状：每个专家一个答案时，它恰好是 log-odds 加权投票，权重 w_e = log(π_e m /(1−π_e))，m 是候选数减一；每个专家一个答案分布时，它是带符号的线性融合，候选可以不是任何专家的首选答案，因此可达集合更大。权重在 π_e 小于 1/|V| 时为负，此时该专家是被投反对票，而不只是被忽略。作者还给出 K≥3 时基于二阶与三阶一致矩的闭式可识别性结果，且不要求任何专家优于随机猜测。这条性质让「同一融合规则、但权重从标签拟合」成为天然的对照，作者称之为 supervised linear fusion（有监督线性融合）。基准为 1560 题，来自 MMLU 六个学科各 40 题、GSM8K 120 题、ARC-Challenge 600 题与 HellaSwag 600 题；池子由九个参数不超过 3B 的指令微调专家组成，每个专家每题除一个贪心答案外还留了八条采样答案（温度 0.7、top-p 0.95），十个分裂评估。作者来自 distributed cognition。58
关键结果：
- 主对比（Table 1，十次分裂平均）：陪审团加重复采样达 76.9% ±1.3%，最佳单专家 qwen3b 为 75.0% ±1.0%，差 +2.0 个百分点（95% 区间 [+0.5, +3.6]，p=0.012）；给 qwen3b 在 GSM8K 上配同样的八样本自洽后为 75.3% ±1.1%，陪审团仍高 +1.6 个百分点（[+0.0, +3.1]，p=0.048）；等权答案分布池 71.4% ±1.8%（+5.5 个百分点，[+4.1, +7.0]）；多数投票 63.0% ±1.6%（+14.1 个百分点，[+12.0, +16.3]）。
- 无标签权重与有标签权重分不开：同样融合形式、但权重从训练半的标签拟合，得 76.2% ±1.4%，陪审团领先 +0.6 个百分点（[+0.1, +1.2]，p=0.02）；把重拟合带来的变动也算进自助法后，区间变成 [−0.6, +2.0]，不再显著。作者的表述是：在这个基准、对这个基线，没有证据表明有监督的权重估计优于无标签估计，并且明确说区间允许两个方向的差，因此不构成等价性证明。
- 两个增益可以分离（Table 2）：等权下把 argmax 答案换成完整答案分布，从 63.0 升到 71.4（+8.4 个百分点）；再加 log-odds 权重升到 76.9%（+5.5 个百分点）。样本匹配的对照行付了同样八条样本的钱却只取众数，只有 63.1%，说明前一个增益来自分布本身而不是额外的测试时采样；分布相对众数在每个加权方案下都多带来 2.2 到 8.3 个百分点。
- 免标签替代方案对比：贪婪答案的陪审团 72.3%，ISP（Inverse Surprising Popularity）69.1%；在 1440 道固定标签题上，SkillAggregation 用分布拿到 73.2%，即使取它测试集自选的上界 SkillAggregation-X 也只有 74.0%，比同口径 76.6% 的陪审团低 2.7 个百分点；OW-L 与 OW-I（Ai 等提出的两种无标签加权方案：分别从成对一致表、以及把 ISP 的判定当伪标签，估出每个专家的准确率再套最优权重）在贪婪答案上为 71.3% 与 71.6%，对 72.4% 的贪婪陪审团没有显著差别。
- 增益集中在少数派层：金答案不是唯一多数胜者的题目上，准确率从多数投票的 6.2% 升到陪审团的 55.5%，而多数派层为 95.7%。
- 子池与建模检查：246 个子池里，陪审团在 3、5、7 个专家的池子上分别有 79%、98%、100% 的比例胜过等权池，有 82%、96%、100% 的比例胜过最佳单专家；后验严重过度自信，前 1 置信度均值 0.991 对 76.9% 的准确率，在十个等宽分箱上算出的期望校准误差为 0.223，要当置信度用必须先重校准；专家在错误答案上的一致高于独立假设，但针对这一点的 lure（诱饵）潜变量扩展反而略微降低准确率。58
证据与局限：核心声称「无标签权重不比有标签差」用了两层区间：先给同一批拟合模型下的配对自助（+0.6，[+0.1, +1.2]），再给把重拟合变动也重采样的嵌套自助（[−0.6, +2.0]），并由作者主动指出后者不显著，这是本文最值得学的一处证据纪律。实现细节也写清楚了：可靠性初值一律 0.6、单次 EM 不重启、参数位移小于 1e-7 或 200 次迭代即停、π 裁剪到 [0.02, 0.98]；25 个随机初值的敏感性分析显示默认初值在每个分裂上都达到了该分裂上似然最高的分布解（单答案情形另有似然更高的退化模式）。自陈局限：评测用固定的九模型池与 1560 题且以选择题为主，子池扫描覆盖了池内组合但不覆盖不同的底层模型；对最佳单专家的增益主要来自 GSM8K；嵌套自助下无显著差异不等于等价，也不能外推；方法需要每个专家的输出，生成任务还需要重复采样，推理成本高于单模型。引用风险有三处：76.9% 与 +2.0 个百分点只在这九个不超过 3B 的专家与这 1560 题上成立；「陪审团约等于有监督」只能作为区间陈述引用；0.991 的置信度与 0.223 的期望校准误差意味着其后验不能直接当校准置信度用。代码与数据入口：论文没有公开仓库，可复现性声明把完整实现、缓存答案与 Makefile 放在匿名补充材料里（make rebuilds 约十分钟从缓存重建所有表与图，make check 校验结果），但没有给出可访问的 URL。本条的取原文路径要额外说明：https://arxiv.org/html/2610.21085v1/ 实测返回 404，arXiv 未提供 HTML 全文，本条数字取自作者上传的 arXiv PDF（https://arxiv.org/pdf/2610.21085v1 实测返回 200，其中含 13 张表与全部附录），arXiv 摘要页（返回 200）用于核对题名与元数据。58
与目标研究线的连接点：位于 A 线与 B 线的交界，是「免人工标注地给多条轨迹或多条 rollout 分配权重」的一个可直接落地版本。可搬走三件东西。其一，用单硬币 Dawid–Skene 的 EM 从无标签答案配置估计每个专家的可靠性，再以 log-odds 权重做线性融合，实现量很小，且不需要任何金标签；同一套权重还能反过来作为模型排序或数据筛选的信号。其二，把「保留答案分布还是只取 argmax」与「如何给专家加权」切成两个可分离的消融，本文的样本匹配对照（同样八条样本但只取众数）是这一步的关键设计，否则分布带来的增益会被误记成采样带来的增益。其三，用子池扫描加配对自助来报告稳健性，而不是只报全池一个数。与本节其它工作的差异：2610.21128 指出一致性可能在错答案上高度一致、且跨模型共享，从而否定「一致即可信」这个公理；本文则说明专家间一致模式里确实含有可用于加权排序的统计结构，两者合起来给出的是边界而不是矛盾——一致模式的统计结构有价值，但它的价值天花板由共享错误决定。58
结论建议：读第 3.3 节（两个命题把规则到底是什么讲清楚了，是全文最省时间的一节）、Table 1 与 Table 2、以及 Appendix B.2 的嵌套自助。引用时必须限定模型池构成、题量与数据集来源，并把「无显著差异」写成区间型陈述；此外不要引用本条里的具体数值去支持其他领域或更大模型的集成结论，作者已明确说不外推。58
11. 一致性 ≥0.8 的错误占全部错误 60%：23,170 条观测中 5.24% 落在高一致却错误的象限
When Judges Agree and Are Wrong: Consistency-Accuracy Dissociation as a Blind Spot for Label-Free Evaluation · arXiv:2610.21128 · 精读
研究问题与核心方法：self-consistency filtering（自洽过滤）、majority-vote aggregation（多数投票汇总）与 agreement-based reliability scoring（基于一致的可靠性打分）这一族免标签评测方法，都依赖一个隐含假设：没有金标签时，一致性可以代理正确性。本文直接在金融问答上检验这个假设，而且不是在基准平均层面检验，是在逐例的错答人群内部检验。设计如下：四套数据集（CFA Level 1、CFA Level 2、CMT 三套来自 FINESSE-Bench，以及 FinQA），每套随机取 200 题；每题沿至多 10 个 consistency dimension（一致性扰动维度）各生成 3 个变体，扰动由专用 generator 模型生成、再经 validator 模型校验，跨配置的校验通过率为 98.8%；扰动展开后共 23,170 条逐例观测。十个维度包括选项乱序 option_order、选项改标签 option_relabel、同义改写 paraphrase、补充真实语境 factual、插入无关但看似合理的干扰文本 additive、翻译成西/法/德 crosslingual、交换对称条件 symmetric、语义反转 negation、改写错误选项 distractor，以及自洽性 self_consistency。一致性用归一化 Shannon 熵定义（1−H/log n，全同取 1、全不同取 0），未解析出的答案一律算作不一致；准确率是答案是否等于金标签。CBI（Consistent But Inaccurate，一致但错误）定义为一致性达到阈值 t 且答案错误，默认 t=0.80；另有一个更严的 answer collapse（答案塌缩）指标，要求所有变体给出同一个错误答案。被测模型为 GPT-5.5 与 Claude Opus 4.5，另有六个 generator–validator 配置（生成器为 GPT-5.4 与 Claude Sonnet 4.5，校验器为 GPT-5.2 与 Claude Haiku 4.5）用来做管线稳健性检查，其中生成器取每族较强的那个模型、校验器取较小的那个，依据是验证通常比生成更容易这一观察。作者把一致性-准确率平面分成四个象限并逐一命名：Q1 高一致且正确对应可靠行为，Q2 低一致但正确对应准确却不稳定，Q3 低一致且错误对应不可靠但可被发现，Q4 高一致且错误即 CBI——Q4 在任何只建立在一致性上的信号里都不可见，模型看起来最可靠的时候恰好是错的。作者来自 The Vanguard Group, Inc.。59
关键结果：
- 四象限与错误质量的分布（Table 1，t=0.80）：Q1 高一致且正确 19,579 条，占全部观测 84.50%；Q2 低一致但正确 1,577 条，6.81%；Q3 低一致且错误 801 条，3.46%；Q4 即 CBI 1,213 条，5.24%。条件在错误上，60%（1,213 除以 2,014）的错误落在 Q4，约是 Q3 的 2.03 倍；一致性层级与正确性的关联远非随机（χ²(1, N=23,170)=2085.38，p<0.001），优势比 OR=0.122，等价地说低一致层的错误机率约为高一致层的 8.20 倍。
- 不是临界噪声而是确定性偏好：CBI 例子中有 77.7% 出现完全 answer collapse，即在全部三个扰动变体上给出同一个错误答案。
- 不是阈值造成的（Figure 2）：CBI 率从 t=0.50 的 7.2% 移到 t=1.00 的 5.05%，阈值全程只压缩 2.15 个百分点，曲线在 t=0.6 附近走平；分模型族看也成立，Claude Opus 4.5 在每一档阈值上都高于 GPT-5.5（5.54% 到 8.15% 对 4.64% 到 6.4%）。
- 不是扰动管线的产物：六个 generator–validator 配置下总 CBI 率只在 4.2% 到 6.3% 之间；只切换校验器族（GPT-5.2 对 Claude Haiku 4.5）时，CBI 率对 Claude Opus 4.5 移动 0.57 个百分点、对 GPT-5.5 移动 0.7 个百分点。
- 跨模型的错误不是独立事件：在共有题目集 N=4,264 上，独立假设给出的期望共享错误是 44.92 条，实测观察到 159 条共享 CBI（全部共享错误 282 条），是独立期望的 3.54 倍，拟合优度 χ²(1)=292.76，p=1.24×10⁻⁶⁵；因此跨模型集成这个最强缓解手段也检测不到它们。
- 分布与塌缩的位置（Table 2、Table A.2、Table A.3）：数据集层面 FinQA 7.49% 高于 CMT 5.42%、CFA Level 2 5.22%、CFA Level 1 3.80%，即自由数值问答高于选择题、高难度级别高于低难度级别；维度层面 CBI 率广泛分布而非集中在某一维，十个维度里九个落在约 3.5% 到 9.7%，additive 在两个模型上都是最高（GPT-5.5 为 9.65%、Claude Opus 4.5 为 7.83%），factual 在 Claude 上第二高（9.48%）。answer collapse 率在 option_order、option_relabel 与 distractor 三个维度上都是 100%，symmetric 为 92.98%，negation 为 85.71%，crosslingual 为 79.49%，factual 为 74.81%，self_consistency 为 69.71%，paraphrase 为 68.48%，而 additive 为 0.0%——恰恰是 CBI 率最高的那一维完全没有塌缩。59
与目标研究线的连接点：属于 A 线的评测口径与判官效度，是本节四篇里对「免标签评测能不能信」回答得最直接的一篇。可搬走的操作有四步。第一步，把一致性信号放到错误人群内部去评估，并固定披露三个字段：认证集错误率（本文中过滤器认证的 89.7% 项目里仍留有约 60% 的错误质量）、答错者中 CBI 的占比（CBI-within-inaccurate）与 answer-collapse 率，且按扰动维度分层。第二步，用阈值扫描证明现象不是门槛挑出来的，本文的曲线在 0.6 之后就走平，这是「提高阈值救不了」的实证依据。第三步，用跨模型共享错误的独立性检验判断集成能否兜底：期望 44.92 条对实测 159 条、p=1.24×10⁻⁶⁵ 这个组合，比任何「集成更稳」的直觉都更有用。换言之，本文把「免标签评测到底能不能信」从一句判断变成了一个可以逐领域测量的量，这是它相对同节其它工作的主要增量。第四步，用维度级热力图确认没有单一维度可以删掉——若某个维度独占，管线可以删掉它换回可用信号，本文的结论是不存在这样的维度。第五条是落地形式：作者建议把「部署前在新领域用一小批带标签样本估计 Q4 的质量」当作固定动作，不要假定通用领域的校准能迁移，并给出评估披露模板的三个字段——认证集错误率、错答中 CBI 的比例、按扰动类型分层的答案塌缩率；这三个字段比单一的一致性分数更能决定一个基于一致的信号是否够用。与本节其它工作的差异：2610.21085 用专家间一致模式的统计结构来估权重，本文给出这一结构的失效质量（一致地错、且跨模型一致地错），两者构成乐观侧与悲观侧；2610.21214 给每条准则的一致性信号配一个覆盖率受控的权重，处理的正是本文所说的「不一致」那一半，而本文的 Q4 是「信号显示零不确定而答案是错的」那一半，两者互补而非替代。59
结论建议：读第 3 节（一致性、准确率与四象限的定义）、第 4 节与 Table 1、Table 2，拿维度级数字则读 Appendix B 的 Table A.2 与 Table A.3。引用 60%、5.24% 与 77.7% 时必须一并给出限定：金融问答四套数据集、扰动展开后的 23,170 条观测、默认阈值 t=0.80、被测模型为 GPT-5.5 与 Claude Opus 4.5。此外要带上作者自己的一个范围限定：本文的扰动在构造上保持语义，因此这里观察到的失败与格式敏感性不是一回事——模型不是在反应表面形式，而是无论表面形式如何都稳定地错，这使它对任何针对表面敏感性的缓解手段都更难被发现。不要把它总结成「一致性信号无用」，作者的态度是相反的：一致性仍携带关于正确性的真实信号，问题在于一个基于它的过滤器留下了什么，以及留下的那部分是什么性质。59
12. 思考让 some 与 or 更字面：Qwen3-8B 语用读法降 28.2 pp，trace 前 128 token 后升 16.2 pp
Entertain, then Cancel: How Thinking Makes Reasoning Models Read Some and Or Literally · arXiv:2610.21204 · 邻近跟踪
研究问题与核心方法：推理模型把「思考多久」做成了用户可调的旋钮——开关、思考 token 预算、努力档位。本文固定模型权重只动这个旋钮，看它对日常语用推断的影响。语用充实（pragmatic enrichment）指从「一些学生通过了」推出「并非全部通过」，也指从「A 或 B」推出「不同时成立」。人语用学给出两种相反预测：effort account（充实需要加工努力，思考越多充实越多）与 default-and-cancel account（充实是默认读法，当语境或字面真值检查反对时被取消）。方法有两件工具。一是 dose–response（剂量-反应）：同一权重下比较不思考、按预算截断思考（B 个 token 后强行收尾）、自然停止思考三种剂量，读出 reading chosen（语用读法被选中的份额 R）与强制答案前缀后的 log-odds；对 Qwen3 用其自带开关，对 gpt-oss 用低/高推理努力。二是 trace-prefix diagnostic（推理链前缀诊断）：把模型自己的推理文本在 t∈{0, 32, …, 2048} 个 token 处截断并强制作答，得到读法沿推理链的曲线，并据此把单条 trace 判为 entertain-then-cancel（早期前缀答语用、最终答字面）或 literal-throughout。物品来自 IMPPRES、词汇尺度集、LUDWIG、PragMega、Fig-QA、PUB、Circa 与 NOPE，另新写 Bott–Noveck 句子与 50 个说话人知识场景；模型为 40 个开源加 7 个闭源推理模型；每个条件三个解码种子，区间为跨题的分层自助 95% 区间。作者来自香港科技大学等机构。60
关键结果：
- 思考让逻辑词更字面（Table 1）：Qwen3-8B 上自然思考相对不思考，some 的语用读法变化 -28.2 pp（百分点；95% 置信区间 -41.0 到 -16.7），or 为 -36.4 pp；Qwen3-32B 的 some 与 or 分别为 -51.3 与 -46.5 pp；gpt-oss-20b 以高努力对低努力，some 与 or 为 -30.8 与 -24.7 pp；闭源模型以最高对最低剂量计，GPT-5 的 some 与 or 为 -20.6 与 -18.8 pp，且换个作答格式仍然成立。40 个开源模型中 30 个在 some 或 or 上出现显著的字面化位移（95% 置信区间不含 0，未做多重比较校正），4 个反向移动，1 个只在 Yes/No 格式下位移，5 个无显著变化；去掉 Yes/No 极性的三选一格式下，24 个模型中有 21 个同样出现。
- 剂量曲线不是单调的（Table 2、Figure 5）：Qwen3-8B 上 some 的语用读法在 128 token 预算处先上升 37.2 pp，直到超过 512 token 才低于不思考水平，1024 token 时为 -21.8 pp；这与推理链上的弧线同形。
- 推理链上确实先接受再取消（Figure 4，每个模型 300 道 held-out 的 some 题与 300 道 or 题，三个种子）：Qwen3-8B 的 some 语用读法从空前缀的 35.8% 升到前 128 token 后的 52.0%（+16.2 pp，95% 置信区间 12.8 到 19.8），到 trace 末尾降到 1.1%；or 走同一条弧线（128 token 后 +16.9 pp）。单条 trace 内部，Qwen3-8B 的 some 有 67.4% 属于早期答语用、最终答字面，31.4% 全程字面。
- 后训练移动默认读法（Table 3，无思考、用答案对数概率读）：OLMo-3 的 some 语用默认值从 base 的 75.6% 降到思考 SFT（supervised fine-tuning，监督微调）后的 39.7%，但从同一 base 直接做数学 RL-Zero 仍为 78.2%；Tülu-3 的变化出现在偏好调优（DPO，Direct Preference Optimization，直接偏好优化）阶段，从 46.2% 降到 14.1%，随后的 RLVR（reinforcement learning with verifiable rewards，可验证奖励强化学习）保持在这一水平。默认读法越字面，思考的额外效应越小：OLMo-3-Think 内部 some 上思考的代价从偏好调优阶段的 -32.1 pp 缩到最终 RL 步后的 -2.6 pp。
- 其它推断类型走向相反：Qwen3-8B 上预设准确率升 22.2 pp，Fig-QA 升 10.7 pp，PUB 六个任务升 10.1 pp，Circa 间接回答升 17.5 pp，NOPE 升 9.9 pp；8B 及以上 Qwen3 对词汇尺度反而更语用（8B 为 +5.5 pp，32B 为 +4.0 pp），而 4B 为 -7.7 pp，符号在 4B 与 8B 之间翻转。
- 事后补救可以回收部分语用（Table 4，探索性、非预注册）：对询问说话人信念的 some 与 or 项，改用在自身 trace 前 128 token 处强制作答的结果，其余项保持自然思考。两个 8B 模型合并的等族得分相对自然思考升 1.4 pp（95% 置信区间 1.2 到 1.6）；IMPPRES 的 some 与 or 语用适切性项上，Qwen3-8B 从 1.2% 升到 20.5%，DeepSeek-R1-0528-Qwen3-8B 从 2.2% 升到 8.1%，而字面金标准确率不变（路由不动那些项）。60
与目标研究线的连接点：名义上属语用学，方法论的落点是评测口径，因此按邻近跟踪处理。可搬走三件东西。其一，「剂量-反应加推理链截断」这套组合可以作为通用工具，用来回答「把推理预算调大以后，模型的判定标准有没有漂移」——例如判官模型在不同推理预算下打分口径是否稳定，这在评测与奖励建模里都是未测的问题。其二，「早期前缀答案与最终答案不一致的 trace 占比」是一个不需要金标签的新稳定性指标，本文中它在 41.4% 到 68.1% 之间，随模型与触发词变化。其三，沿 post-training 阶段扫 checkpoint 来定位行为默认值何时出现，本文用这条线把「字面默认」定位到 OLMo-3 的思考 SFT 与 Tülu-3 的偏好调优，而在数学 RL-Zero 与蒸馏对照里没有出现，说明默认值的变化依赖具体配方。与 2610.20993 的关系：两者都在证明单一汇总数字会掩盖方向相反的变化，一个在选项顺序维度上拆出翻转率与位置偏斜，一个在思考预算维度上拆出早期读法与最终读法。60
结论建议：读第 3 节（剂量协议与读出定义，理解 R 与 log-odds 两个读数的差别）、第 4.3 节（推理链弧线，本文最有说服力的一段）、第 4.4 节与 Table 3（后训练阶段）。引用 -28.2 pp 这类数字时必须同时限定：模型与规模、触发词、作答格式（Yes/No 还是三选一）、基线定义（不思考还是强制空思考块）；引用「思考越久越字面」时也要带上括号，因为同一份实验里词汇尺度与语境驱动的推断（间接回答、预设）方向是相反的。60
13. URW 的一致 p 值加权把 RubricBench 成对准确率由 0.780 提到 0.802，RLVR 后 GPQA 由 33.3 升到 50.0
Rubric Judgments Lack Uncertainty: Conformal Weighting for LLM Evaluation · arXiv:2610.21214 · 值得扫读
研究问题与核心方法：rubric-based evaluation（准则式评测）把输出质量拆成多条准则，由 LLM verifier（验证器）对每条准则给出通过或不通过的二元判定，再汇总成响应级分数；这个分数既用于排序，也用于给强化学习提供奖励。本文指出一个被忽略的结构问题：verifier 判定不同准则时的确定性差别很大——格式类几乎确定，语气、有用性、内容质量类主观且难判——但现有方法一律等权汇总，一条不确定的判定与一条高确定的判定在总分上影响相同，于是当两个响应在其他准则上接近时，单条主观准则上的不确定判定就足以翻转整体偏好。作者提出 URW（Uncertainty-aware Rubric Weighting，不确定性感知的准则加权），免训练：用一池语义保持的改写判定模板（固定 N=6 条，经作者团队逐条交叉核对以保证含义不变）对同一准则反复判定，取平均得到软分数 v̂_k，以模板间的不一致作为 verifier 不确定性的度量；再用 split conformal（分裂式一致性预测）把这个软分数转成 p 值形式的每准则权重 w_k，即以该投票标签在非一致性分数校准分布中的秩作为权重，越靠近决策边界权重越低。理论结果 Theorem 3.1 给出一个同时性保证：在校准三元组与测试三元组可交换的假设下，对任意 α∈(0,1)，权重小于等于 α 且投票标签恰为金标签的概率不超过 α，即不会频繁地把正确判定压成低权重；权重对到决策边界的距离单调。模板池固定为 6 条，因此软分数取值是 1/6 的整数倍，消融里还有一个只用两条模板计算 p 值的变体。评测在 5 个成对偏好基准上做：RubricBench、ResearchQA、RM-Bench、RewardBench（取 Chat-Hard 子集）与 RewardBench 2（取 Precise-IF 子集）；三个冻结 verifier 分别是 DeepSeek V4 Pro、Qwen 3.8 Max 与 GLM 5.3；校准集取自 RUBRIC-ARROW-Judge-SFT 语料，按领域分层抽 200 个提示，形成约 22k 条准则级标注，与任何评测切分不重叠。作者来自浙江大学、小红书等机构。61
关键结果：
- 成对偏好准确率（Table 1，RI 为相对 Uniform 基线的相对提升）：URW 在全部 15 个 verifier 乘基准组合上都最好。DeepSeek V4 Pro 上 RubricBench 从 0.780 升到 0.802（+2.79%），ResearchQA 从 0.633 升到 0.698（+10.28%），RM-Bench 从 0.729 升到 0.792（+8.69%），RewardBench 从 0.766 升到 0.810（+5.72%），RewardBench 2 从 0.625 升到 0.759（+21.50%）；Qwen 3.8 Max 上 ResearchQA 从 0.609 升到 0.692（+13.59%）；GLM 5.3 上 ResearchQA 从 0.630 升到 0.680（+7.98%）。
- 与最强启发式基线比：DeepSeek V4 Pro 的 RewardBench 2 上，Beta-Binomial 为 0.688、Sampling Ensemble 为 0.731、Mondrian-SCP 为 0.719，URW 为 0.759；GLM 5.3 的 ResearchQA 上 Mondrian-SCP 为 0.663、URW 为 0.680。原文还给了这条趋势的反例检验：Uniform 在所有设置里都是最低，例如 DeepSeek V4 Pro 的 ResearchQA 上 Uniform 为 0.633，所有不确定性感知方法都不低于 0.639。
- 两个组件各自有贡献且可叠加（Table 2）：只保留多模板集成、权重仍等权的变体相对 Uniform 最高提升 3.9%（ResearchQA）；只保留两模板 conformal p 值而用单模板分数的变体相对 Uniform 提升 2.1% 到 9.2%；完整 URW 在全部数据集上都优于两个消融变体。
- 下游 RLVR（用可验证奖励做强化学习）：在 RubricHub 的 Chat 与 Science 各抽 1,000 个提示（共 2,000 条）上用 GRPO（Group Relative Policy Optimization，按组内相对奖励做策略优化的强化学习算法）训练 150 步，验证器分别为 Qwen 3 32B（配 Qwen 3 8B 策略）与 GLM 4 32B（配 GLM 4 9B 策略），零样本评到 Arena-Hard 胜率与 GPQA-Diamond 准确率。Qwen 3 8B 策略（Table 5）：Uniform 为 61.9 与 55.1，Mondrian-SCP 为 69.8 与 62.6（+12.81% 与 +13.76%），URW 为 76.5 与 65.7（+23.64% 与 +19.27%）。GLM 4 9B 策略（Table 6）：Uniform 为 30.0 与 33.3，Mondrian-SCP 为 42.4 与 43.4，URW 为 48.7 与 50.0（+62.06% 与 +50.00%）。61
证据与局限：证据的骨架是理论加广泛评测：Theorem 3.1 与附录 B 给出可交换性假设下的覆盖率型保证，权重不引入额外超参数（对比基线里 SCP（split conformal prediction，分裂式一致性预测）与 Mondrian-SCP 需要设 α=0.1 与 6 个分箱）；经验覆盖 5 个基准乘 3 个 verifier，另有跨 verifier 骨干与跨准则来源的泛化实验，以及两套策略模型乘两个下游基准的 RLVR 结果。最大的口径缺口是显著性：表里只有点估计与相对提升，原文未报告任何置信区间、p 值或种子数，因此不能引用为「显著优于」。第二处局限是理论前提：保证依赖校准集与测试三元组的可交换性，本文用领域分层的 200 个提示（约 22k 条准则级标注）近似它，但没有做跨领域的覆盖性验证；作者自陈的两条局限即与此相关（保证依赖交换性，以及未来工作范围）。第三处是表格辨识问题，值得单独提醒：这两张 RLVR 表的标题在文本转换后紧跟在表体之后，很容易把两行表读反。我按 arXiv HTML 里表格自身的 id 核对过，S4.T5.1 的内容从 Uniform 的 61.9 与 55.1 起、到 URW 的 76.5 与 65.7 止，S4.T6.1 从 30.0 与 33.3 起、到 48.7 与 50.0 止，正文第 4.6 节的两处举例与这一归属一致，所以辨认规则是「看 Uniform 那一行的数值属于哪个策略模型」。代码入口：正文给出匿名仓库 https://anonymous.4open.science/r/URW-27E4，实测返回 HTTP 403，未能核验其内容；文中引用的第三方框架与基准仓库 https://github.com/DoYangTan/verl-rubric 与 https://github.com/wsysoft/arena-hard 实测均返回 HTTP 200。61
与目标研究线的连接点：属于 A 线里奖励建模、RL 后训练与评测口径的交叉处，是本节最直接可用在训练回路里的一篇。可搬走三件事。其一，用语义保持的改写模板池来制造「判定一致度」，代替提高温度的多次采样：它不改变 verifier 的确定性解码，因此与需要稳定奖励信号的策略优化兼容，这是它相对 Sampling Ensemble 那类基线的主要差别。其二，用 split conformal 把一致度转成有覆盖率保证的标量权重，而不是硬弃权：这一选择的实际好处在表里能看到——同样是分布无关的校准，SCP 与 Mondrian-SCP 在某些设置上不如简单的 Beta-Binomial，而保留连续权重的 URW 稳定更好。其三，把准则级不确定性直接接到 GRPO 的奖励聚合上，本文的实验说明这一层的差异能一路传到下游的 Arena-Hard 与 GPQA-Diamond，这为「奖励聚合本身是一个值得优化的环节」提供了证据。顺带记下校准语料的取法：从 RUBRIC-ARROW-Judge-SFT 按领域分层抽 200 个提示得到约 22k 条准则级标注，并保证与评测切分不相交，这套「用领域广覆盖的准则标注语料当校准集」是方法成立的前提而不是细节。需要提醒的是 p 值权重并不改变 verifier 对每条准则的判定本身，只改变准则之间的相对影响力，因此它无法修正「所有准则被同一个偏差带偏」这类失效。与本节其它工作的差异：2610.21128 研究一致性高却答错的情况，质疑一致性作为正确性代理；本文只在加权层面使用一致性，其理论保证只针对「别把正确判定压低」，并不主张能修正系统性的共同错误，两者不应互相代替。61
结论建议：读第 3.2 与 3.3 节（软分数与 p 值权重的构造，是方法的核心）、Table 1 与 Table 2（主结果与消融）、第 4.6 节加两张 RLVR 表（下游效果）。引用 0.802 这类数字时必须同时给出基准、verifier 与校准集来源，并声明原文未报告显著性区间；引用 RLVR 的提升幅度时要写明策略模型与验证器分别是谁，不要跨表混用。61
14. KBS 韩语基准套件：9,396 项里把 raw DeepL 译文换成审校本后，ARC 准确率提升 2.35 到 6.91 个百分点
KBS: A Korean Benchmark Suite for Foundation Model Evaluation · arXiv:2610.21227 · 邻近跟踪
研究问题与核心方法：韩语基础模型评测长期依赖把英语基准直译成韩语，而直译会改变任务难度、提示的自然度，甚至改变这道题在测什么能力，于是分数差异既反映模型能力也反映翻译质量。本文构建 KBS（Korean Benchmark Suite，韩语基准套件），覆盖六项能力、共 9,396 项，走三条构造路线。第一条是审校式翻译加本土化：Ko-ARC easy 与 challenge、Ko-GSM8K、Ko-EQ-Bench、Ko-WinoGrande 由英语基准经 DeepL 起草、韩语母语作者逐条修订、文化与单位货币人物本土化、再由未参与前序阶段的作者独立交叉复核；修订阶段同时修正源侧英文题目的问题，如拼写错误、重复题、错误答案标签与格式错误的解题标注。第二条是直接用韩国语料新建：Ko-LAMBADA 从版权清理过的韩国文学作品构建，原因是韩语句子通常以谓词结尾，照搬英语 LAMBADA 的末词预测会变成考词尾变化而不是长上下文理解，而机器翻译的文学段落又不自然。第三条是混合：Ko-IFEval 把可迁移的指令翻译并本土化（541 项），同时为韩语特有约束新写 300 项并配套自动校验器，例如基于韩语初声的约束与韩文字符计数规则。评测协议区分模型访问方式：开源权重模型用对数似然给选项打分，报 acc、acc_norm（按字节长度归一）与 acc_npsq 三种口径；闭源 API 模型拿不到 token 级对数似然，于是两组模型都另跑生成式 MCQA 变体（选项显式标注标签，用正则抽取答案）以对齐作答格式。NPSQ（Normalized Probability Shift by the Question）用「加入问题前后模型对选项偏好的变化」挑选项，把由问题驱动的证据与仅由选项词汇、长度、表面形式造成的偏好分开。生成任务一律贪心解码（do_sample=False、温度 0），每个结果基于单次运行。作者来自首尔大学。62
关键结果：
- 套件构成（Table 1）：Ko-ARC 共 3,543 项（easy 2,376 与 challenge 1,167），Ko-LAMBADA 2,255 项，Ko-GSM8K 1,319 项，Ko-WinoGrande 1,267 项，Ko-IFEval 841 项（其中 541 项翻译、300 项新建），Ko-EQ-Bench 171 项，合计 9,396 项。
- 翻译与语言效应（Table 3，NPSQ 口径、chat 模板提示，每组模型在子集上等权平均）：韩语自研模型组 67.29（英语原版）对 54.00（raw DeepL 草稿）对 59.49（KBS 审定版）；Qwen3.5 组 51.22 对 44.14 对 46.49；Gemma 4 组 72.56 对 60.14 对 67.05。三组模型在 KBS 版本上均高于 raw DeepL 版本，提升 2.35 到 6.91 个百分点；但英语原版普遍仍高于韩语版本，且这一差距是任务相关的——在 Ko-WinoGrande 上（只有 KBS 与英语版的对照有意义），差距比 ARC 小得多。
- 评分口径的影响依任务而变（Table 4，开源权重模型均值）：Ko-LAMBADA 在 chat 模板下从 acc 的 81.22 掉到 acc_npsq 的 69.20（plain 提示下为 92.49 对 87.39）；Ko-WinoGrande 的降幅较小（chat 下 58.08 对 55.73）；Ko-ARC 两个子集则常常在 acc_npsq 下更高，Ko-ARC-Challenge 的差别更大（plain 下 acc 45.63、acc_norm 51.57、acc_npsq 52.77）。论文的判断是：选项先验对 Ko-LAMBADA 的影响最强，评分规则的影响随任务结构变化。
- 提示格式会改变结论：chat 提示下 Gemma-4-31B-it 领跑 Ko-ARC 与 Ko-WinoGrande，并取得最高的 Ko-GSM8K 严格精确匹配 82.71% 与最高的 Ko-IFEval 提示级严格准确率 85.02%，Ko-LAMBADA 上最高的是 EXAONE-4.0-32B（NPSQ 83.68%）；换成 plain 提示后领先者变成 Gemma-4-31B（Ko-ARC 与 Ko-WinoGrande）、Kanana-2 系列（Ko-LAMBADA 与 Ko-GSM8K）与 A.X 4.0 Light（Ko-IFEval）。
- 思考模式与提取口径（Table 5，Qwen3.5，chat 模板）：4B 及以上模型在默认（思考开启）下，Ko-GSM8K 的严格精确匹配几乎归零——4B 为 0.15、9B 为 0.00、27B 为 0.00、35B-A3B 为 0.08；关闭思考后分别升到 69.60、77.33、80.67、80.67，Ko-EQ-Bench 分数同样从接近 0.00 升到 53.11、54.55、72.47、70.45。
- 闭源与开源的差距（Table 6，生成式 MCQA，默认 chat 配置）：最好的闭源分数在 Ko-ARC 与 Ko-LAMBADA 上比最好的开源高 1.06 到 2.62 个百分点，Ko-WinoGrande 上差距更大（8.52 个百分点）；关掉思考后 Qwen3.5-27B 在 Ko-ARC-Easy 上达到 98.53%，把这一差距缩到 0.59 个百分点。62
证据与局限：构造过程是可追溯的四段流程，且对源侧英文题目本身做了修正，这一点比通常的翻译基准更细；评测层面明确区分模型访问方式，并把三种 MCQA 口径与两种提示格式并列报告，这是本文最有方法论价值的部分。自陈局限有三条：六项能力不覆盖长文生成、多轮对话与安全行为；部分任务仍由英语基准改写，残留的翻译与本土化痕迹可能存在；评测只用自动指标与单次贪心解码，且公开来源材料可能造成数据污染——作者明确说英语与韩语的分数差既反映语言敏感性，也不能排除污染，因此这一差距不能被当作能力差距引用。引用风险集中在三处：所有分数都是单次运行结果，没有多种子或置信区间；领先模型的排序在 plain 与 chat 提示之间会变，所以「某个模型最强」这类说法必须带上提示格式与评分口径；Table 5 里的 0.00 是严格精确匹配口径下的产物（思考模式的输出让严格抽取失败），不能读成「模型不会做小学数学」，同一张表里把它与关闭思考后的 69.60 到 80.67 并排看才成立。代码与数据入口：论文给出代码仓库 https://github.com/mcrl/korean_benchmarks 与数据集合 https://huggingface.co/collections/thunder-research-group/snu-thunder-llm-korean-benchmark-suite，两者实测均返回 HTTP 200；许可上，评测代码为 MIT，改写自英语基准的子集沿用各源数据集许可（WinoGrande 为 CC-BY、ARC 为 CC-BY-SA、GSM8K 与 EQ-Bench 为 MIT、IFEval 为 Apache 2.0），新建的 Ko-LAMBADA 为 CC-BY-NC-SA 4.0。62
与目标研究线的连接点：属于 A 线评测口径的跨语言副本。可搬走四件东西。其一，「翻译、本土化、重建、混合」四条适配路线的分工判据：什么时候直译会改变被测能力（LAMBADA 的末词预测在韩语里会考到词尾），什么时候必须新增自动校验器（初声约束、字符计数）而不是硬翻英语的词数约束。其二，NPSQ 这种扣掉「只看选项表面形式」倾向的计分法，它可以直接搬到任何 MCQA 榜单上，用于判断分数是问题驱动还是选项驱动。其三，「模型访问方式决定可用协议」的显式处理：对数似然口径只对开源权重模型可用，于是另外给两组模型都跑生成式变体来对齐，这个做法对任何同时包含开源与闭源模型的榜单都适用。其四，把提示格式与思考开关写进分数披露规范，因为本文自己就展示了两者足以改变领先者名单。与本节 2610.20993 的差异：那篇用循环重排把选项位置偏差从分数里分离出来，KBS 用 NPSQ 把问题驱动与选项表面形式驱动的偏好分开，两者的思路可以直接叠在同一套 MCQA 评测流程里。62
结论建议：读第 3.1 到 3.4 节（三条构造路线与套件构成）、第 4.2 节与 Table 3、Table 4、Table 5。引用 KBS 的任何分数时必须同时给出提示格式（plain 还是 chat）、评分口径（acc、acc_norm 还是 acc_npsq）、以及生成任务的解码设置（贪心、单次运行），并声明污染风险未被排除；引用 KBS 相对 raw DeepL 的 2.35 到 6.91 个百分点时，应说明这是三组模型在共享题目、chat 模板、NPSQ 口径下的比较。62
15. System1-Arena：30 个模型同答 92,125 个决策题，系统一模型非智能体准确率 73.0% 追平快闭源 LLM
System1-Arena: Which Decisions Can Be Left to System 1? · arXiv:2610.21244 · 值得扫读
研究问题与核心方法：要回答的是「哪些离散决策可以交给系统一模型（System-1 model：单次前向就直接返回选项上的概率分布、不生成推理文字的决策模型，代表有 Jev 与 OpenAI Decisions API），哪些仍须让生成式 LLM 逐步推理」。作者把所有决策统一成一个 decision request（决策请求）r=(s,Q)：状态 s 是若干具名字段（一条消息、一个带说明的代码 diff、一个已渲染网页），问题 Q 分 boolean、choice（2–255 个选项且恰有一个正确）、score（2–10 个有序档）三类，每题自带指令、每个选项自带描述，故模型不需数据集专用提示。基准含 92,125 题、105 个任务、268 个公开来源、16 个领域。非智能体部分 78,362 题 / 87 任务 / 13 领域；智能体部分是 138 个闭环环境（18 个家族、22 个基准套件）加 13,763 题单步决策（智能体步骤 6,943 题、游戏 3,828 题、具身与机器人 2,992 题）。标签全部沿用来源（测试执行结果、求解器输出、已解决事件、专家标注、标注者分布、原始标签），作者不新造标签；指令按 A（原文照抄）、B（改写）、C（自写）三级处理；每个静态任务约 500 条请求，按固定种子抽样并按标签分层，罕见事件类任务改为平衡抽样，来源里成对出现的记录（一个漏洞函数与它的修复版、一对比较的两种顺序）共享组标识以便计算配对指标；静态模型比较覆盖 85,305 题、94 个任务，剩下 6,820 题来自静态游戏与具身任务。四组划分是文本与知识（文本分类、知识与推理、主观判断）、应用决策（专业领域、检索、结构化数据、代码、预测、对话、批处理）、评测与控制（LLM 作判官、安全、路由）与智能体与动作。评测 30 个模型：7 个闭源 LLM（在 JSON 里写出各选项概率）、13 个开放 LLM（读答案 label token 的对数几率再 softmax）、10 个系统一模型。指标为 accuracy 与 Brier score（0–2，越低表示概率质量越好；题等权，任务内先按来源平均）。智能体侧用固定 harness（包在执行器外面的那层调用外壳：工具、技能与过程编排）：每步把状态与历史转成文本、把可用动作呈现为 typed question、执行概率最高的选项。real-time 模式下（Atari、Doom、驾驶、四旋翼），环境按该模型实测中位延迟推进并继续执行其上一个动作，慢模型因此基于更旧的观测决策。作者来自得克萨斯大学奥斯汀分校。 63
关键结果：
- 非智能体（Table 1，87 任务总体准确率）：Claude Opus 5.5 最高 81.1%（Brier 0.232，13 个领域里 9 个第一）；Decision-2.0-Vega-27B 73.0%、Jev 72.6% 高于 GPT-6 Luna 71.2% 与 GPT-5.6 Luna 70.0%；Gemma-4-31B 是最准的开放 LLM 73.9%。
- 概率质量：Decision-2.0-Vega-27B 与 Jev 的 Brier 为 0.343 与 0.349，只有 4 个模型更低，且都是比 GPT-6 Luna 贵 20–105 倍的闭源 LLM；Gemma-4-31B 更准却 Brier 0.474，它在 87% 的题上给所选选项至少 0.999 的概率。
- 开放模型读答案 token（Figure 4）：关闭思考时四个开放 LLM（Qwen3-8B、Qwen3.8-27B、Gemma-4-26B-A4B、DiffusionGemma）为 59.3–70.2%，低于 Jev 的 72.6%；128 token 思考预算让 DiffusionGemma 从 69.7% 掉到 56.3%；到 2,048 token，Qwen3.8-27B 从 70.2% 升到 75.6%，但 Brier 从 0.391 恶化到 0.430、所选选项平均置信度从 81.4% 升到 97.4%。
- 智能体（Table 2）：单步 3,481 步上 Gemma-4-31B 71.3% 最高；Jev、Decision-2.0-Vega-27B、Qwen3.5-9B 同为 67.8%，闭环成功率却分别为 17.4%、26.5%、5.7%；9 个模型单步落在 67.4–71.3%，闭环跨 5.7%–32.9%，最高为 Gemma-4-31B 32.9%；四个小系统一模型的闭环成功率不超过 3.1%。
- 成对比较（Figure 5 左）：相对同一主干上的同名生成式 LLM 基线，Decision-2.0-Vega-27B 非智能体 +2.9 点、Brier −0.048、单步 −1.2 点；Microsoft-Decision-1 相对 Qwen3.5-9B +5.6 点、Brier −0.091、单步 −2.7 点但闭环 +6.8 点；CLM-v0.1-8B 相对 Qwen3-8B 非智能体 −17.8 点、单步 −19.3 点。
- 延迟与成本：开放 LLM 21–105 ms、本地系统一模型 41–228 ms、Jev 321 ms、Microsoft-Decision-1 304 ms，闭源 LLM 1.3–6.7 s；各环境的决策预算与回合数不同，每个环境有 1 到 114 个 episode。千次请求 Jev 0.052 美元、Microsoft-Decision-1 0.038 美元、GPT-6 Luna 0.14 美元、Claude Opus 5.5 10.38 美元（约 GPT-6 Luna 的 74 倍）。领域落差（Figure 3 左，同一领域内最强闭源 LLM 与最强系统一模型的准确率差）从过滤/分组/排序的 0.5 个百分点拉到事件预测的 13.3 个百分点，预测域最好的系统一模型 48.3% 对 Claude Opus 5.5 的 61.6%。 63
证据与局限：作者自陈：标签继承来源噪声；33% 请求的 C 级指令由作者自写；许多来源公开且已有数年，部分输入可能进过训练数据；闭源模型、Jev、Microsoft-Decision-1 与 Decisions API 走在线服务，延迟含服务与网络、成本按当天价格；会采样的模型每请求只抽一次，未测多次运行方差；四个开放模型的思考预算实验另用了 58.8 个 H100 GPU 小时。指标上有两处口径要记住：无作答的题在 Brier、期望校准误差与 NDCG 里按均匀分布计，期望校准误差用最高选项的置信度并分成 10 个等质量箱；解析失败与拒答的调用是终局，模型不会拿到第二次采样机会，而 OpenAI Decisions API 的拒答是确定性的，同一请求重发得到同一拒答。两处结构须连带读：138 个环境里 128 个报告成功或失败、10 个只给分数，其中一个（带 GPT-4.1 mini 提议者的编码控制器）只被 Jev 跑过，故闭环成功率是 127 个环境的均值；4,425 条请求带软标签，2,607 条因许可不许再分发的请求由本地 loader 重建而不随基准分发。代码 https://github.com/TianyuCodings/S1-Arena 实测 HTTP 200，数据集 https://huggingface.co/datasets/C-Tianyu/S1-Arena 实测 200，排行榜 [https://tianyucodings.[github.io/S1-Arena](https://tianyucodings.github.io/S1-Arena)](https://github.io/S1-Arena](https://tianyucodings.github.io/S1-Arena)) 实测 200。引用风险：73.0% 是 87 个非智能体任务的任务级等权平均，不是题目级加权，不能当模型的「平均能力」；成本对托管模型以美元计、对本地模型以 H100 等效 GPU 秒计，作者明确不做换算；单步准确率与闭环成功率不可互推，同拿 67.8% 的三个模型闭环相差 20.8 个百分点即是反例。 63
与目标研究线的连接点：属 A 线「长程任务的训练与评估」中的评测口径与执行期控制，它横跨 30 个模型给出准确率、概率质量、延迟与成本四轴对照。可搬走三样：其一，统一的决策请求接口，把状态与问题写成带类型与选项描述的结构，让系统一模型与生成式 LLM 面对同一份输入，两类模型的差异便不会混入提示差异；其二，把推理延迟写进环境动力学的 real-time 协议，用模型自身实测中位延迟推进环境，这是评估「决策够不够快」而非只评估「决策够不够对」的口径；其三，harness 难度检查——凡随机策略成功率 ≥20% 或模型普遍 ≥90% 的环境即被标记并削减协助或决策预算（BabyAI、MiniHack 迷宫、Baba Is AI 里限到最短解长度的两倍），并用脚本策略确认调整后仍可解。与同节其它工作的差异：它不做判官效度分析，测的是「该用哪类模型做决策」；GraphACM 用同一模型多次采样的一致性估不确定性而不需结果标签，System1-Arena 用真实结果标签在模型之间横向比。 63
结论建议：先读 §3.3（智能体任务与环境，含 harness 难度检查与 real-time 模式）与 §3.4（指标定义），再读 §5 的 Table 1 与 Table 2，成对比较看 Figure 5 左、思考预算看 Figure 4。引用时必须限定：数字是 87 个非智能体任务的任务级等权平均；闭环成功率只在 127 个有成功判据的环境上取均值；成本单位在托管与本地模型之间不可互换；Brier 的差值不能读成百分数。 63
16. VALCON：同一 LLM 当生成者与判官，Qwen3-Next-80B 指令版自评一致率仅 71.04%
VALCON: Benchmarking and Enhancing Value Consistency in Large Language Models via Dual-Role Variation · arXiv:2610.21304 · 邻近跟踪
研究问题与核心方法：现有效价对齐评测几乎只看输出合规（output compliance，产出是否合乎规范），但现代智能体与对齐流水线常让同一个 LLM 既生成动作又评判动作是否可接受，于是一个被忽略的可靠性问题浮现：同一模型在生成者与判官两个角色间切换时，是否还在用同一套价值原则？作者把它形式化为 value consistency（价值一致性），与规范正确性明确分开。方法名 VALCON，机制是 dual-role variation（双角色变化）：给定价值原则 P 与目标标签 y∈{C,V}（Compliant 合规 / Violating 违规），同一模型先在 P 与 y 下合成 query–response 对 x=(q,r)，再清空生成上下文，让它对匿名化的 x 盲判出标签、置信度与理由；一致记 y=ŷ，不一致记为一次跨角色的端到端可靠性失败。以 158 条专家定义的价值原则（综合 Maslow、Scheler、Schwartz 的高阶理论，归入生存支撑、社会秩序、文明与进步三大支柱）为种子，数据分三套：VAB-Consistency（每条原则由各模型自行生成约 100 对近似平衡问答）、VAB-Boundary（15,800 条，用同模型「生成目标与清空上下文判断一致且自报置信度 c≥0.95」过滤出的高置信语料）、VAB-Challenge（710 条，先取模型自评时出现内部不一致的样本，再由 GPT-5.1、Doubao-Seed、DeepSeek-R1 三家共识保留）。四个指标：SRC（self-reported consistency，自评一致率，不用置信度）、B-SRC（balanced SRC，合规与违规两类等权）、τ-SRC 与覆盖率 Cτ（只统计置信度 ≥τ=0.95 的判断）、Eff-SRC（一致性乘覆盖率的复合量）；另用 V-Ratio（违规样本相对合规样本的生成占比，理想值 50%）检查生成分布是否过度偏斜。作者来自天津大学 TJUNLP Lab 与源慧科技。 64
关键结果：
- 28 个 0.6B–671B 参数模型在 VAB-Consistency（Table 3）：Qwen3-Next-80B-A3B-Instruct 的 SRC 只有 71.04%，即 28.96% 的样本在清空上下文自评后不保持生成目标；同骨架 Thinking 版 98.91%；DeepSeek-R1 中文 98.49%、英文 93.12%；GPT-5.1 中文 99.80%；Llama-3-8B-Instruct 85.56% SRC 但 Eff-SRC 仅 4.65。
- 阈值与相关性：τ=0.95 时保留 89.4% 的中位覆盖率，中位 τ-SRC 94.4%，阈值化排序与原始 SRC 排序的 Spearman ρ=0.957；自报平均置信度与 SRC 几乎不相关（Pearson r=0.064）；Eff-SRC 与 SRC 的相关 r=0.712 强于与覆盖率的 r=0.550。
- 回避生成违规造成的伪一致（Table 6）：Qwen3-14B 原始 SRC 93.49%，B-SRC 只有 67.55%，V-Ratio 9.23%（理想 50%）；Qwen3-4B-Instruct-2507 为 90.20% / 50.92% / 9.68%；GPT-5.1 与 DeepSeek-R1 的 V-Ratio 是 46.45% 与 48.12%（作者把 45–55% 记为平衡生成、<15% 记为回避指标）。
- 人工对照与不一致归因：100 条验证样本盲审一致率 92.3%、Cohen κ=0.86；对 200 条分层抽出的不一致样本盲审，164 条（82.0%）归因生成侧目标与内容不匹配、30 条（15.0%）判官侧翻转、4 条（2.0%）边界歧义、1 条（0.5%）拒答、1 条（0.5%）未定。
- 边界到挑战的落差与干预：前沿模型在 VAB-Boundary 上近满，但在 VAB-Challenge 的违规样本上准确率相对其 VAB-Boundary 的近满分水平下降超过 15 个百分点；Qwen3-Next-80B-A3B-Instruct 在 VAB-Challenge 上达 94.23%，自建数据上的 SRC 却只有 71.04%。SOO-FT（Self–Other Overlap，自他对齐；在瓶颈层 Lmax（held-out 验证轨迹上 RCM 峰值所在的层）约束生成者与判官隐状态距离）相对仅做 SFT，违规样本准确率提升 5.07（Qwen3-0.6B）、18.31（Qwen3-1.7B）、3.66（Llama-3-8B-Instruct）个百分点，相对匹配的加权交叉熵（γ=0）为 19.44、0.28、3.38 个百分点（同序：Qwen3-0.6B、Qwen3-1.7B、Llama-3-8B-Instruct）。 64
证据与局限：作者自陈：合成数据可能继承当前 LLM 共有的对齐偏差，跨模型过滤无法消除；VALCON 测的是跨角色一致性而非规范正确性，不能当道德真值的裁判；语言与情境覆盖受来源模型的指令跟随能力限制；自报置信度跨模型未校准，τ-SRC、覆盖率与 Eff-SRC 只是辅助；200 条审计条件于被抽到的不一致样本；RCM（生成者与判官隐状态的逐层均方距离）只提供相关而非因果证据，SOO 相对加权交叉熵的增量增益依模型而异。代码与数据入口 https://github.com/tjunlp-lab/VALCON 实测 HTTP 200。引用风险三处：SRC 绝不能单独引用，Qwen3-14B 就是高 SRC、低 B-SRC、低 V-Ratio 的反例；82.0% 与 15.0% 条件于那 200 条样本，不能读成无条件准确率；VAB-Boundary 的 c≥0.95 是未校准的模型自报值，作者自己写明它只作同模型内的过滤信号。 64
与目标研究线的连接点：属 A 线「评测口径与判官效度」的邻近工作。它把「同一个模型既生成又评判」这个在智能体自评、RL 奖励建模、过程奖励标注里反复出现的结构，拆成可直接测量的跨角色一致率。可搬走三件具体做法：清空生成上下文再盲判的协议（避免生成痕迹本身成为判官线索）、合规与违规两类等权并同时报 V-Ratio 的报告方式（防止只生成合规样本刷高原始一致率）、一致性乘覆盖率的复合指标。与同节其它工作的差异：DialFork 审计一段对话是否偏离预设流程，GraphACM 用重复采样的动作一致性估不确定性，VALCON 审计的是判官与生成者是否拿着同一把尺子，测标签稳定性而非内容正确性。 64
结论建议：先读 §3（生成阶段、评估阶段与一致性判定）与 §4.3（质量控制与不一致审计），再读 Table 3 的 SRC / B-SRC / V-Ratio / Eff-SRC 四列与 Table 5、§6.3。引用时必须限定：数字来自合成数据与未校准的自报置信度；不一致归因比例条件于抽样的 200 条样本；不要把 SRC 当成对齐质量的替代指标。 64
17. DialFork：分叉注入 4 类过程性幻觉造 36,278 段对话，FlowScore 排序 τ 0.812–0.845 胜过语义嵌入
DialFork: Going Beyond Factuality to Evaluate Procedural Hallucination in Conversational Agents · arXiv:2610.21561 · 值得扫读
研究问题与核心方法：提出过程性幻觉（procedural hallucination）：对话智能体每一句都通顺、事实也无误，却偏离了本该遵循的对话流程——它与事实性幻觉正交，没有任何一句需要是假的。作者把目标流程形式化为 W=(S,A,δ,O)（S 为对话状态即交互阶段，A 为智能体可执行的交际动作，δ:S×U→S 为「当前状态加用户输入」到下一状态的转移函数，O 为智能体目标），偏离即其中某个组件被破坏，据此定义四类：WIC（Workflow Identity Corruption，工作流身份腐化：整套流程被换成另一个有效但错误的流程）、SSPC（Step Selection Policy Corruption，步骤选择策略腐化：目标与状态动作集保留，δ 被换成重复、跳过、循环或乱序）、GR（Goal Replacement，目标替换：流程保留而目标换成性质不同的另一个）、CSC（Conflicting System Constraints，目标冲突：主目标之外追加一个间歇覆盖它的辅助目标）。构造：以 STAR 语料（24 任务 12 领域，公开了每个任务的工作流图与当初交给人类扮演者的指令）为底，用 SDialog 让两个 Gemma4-31B 智能体扮演系统与用户生成合规对话；对每条合规对话取 4 个均匀间隔的分叉点，用同一随机种子重放使分叉点之前的话轮仍在原流程下生成，然后在分叉前把一条幻觉指令作为 system message 注入系统智能体上下文，从该点起按被腐化的流程继续，故更早的分叉天然对应更深的偏离。数据处理后得 2,134 条合规对话，每条产生 16 个变体（4 类 × 4 个分叉位），即 34,144 条变体，加这 2,134 条合规底本共 36,278 条对话、约 750K 话轮、1,040 万词、约 33 GPU 天。三个任务分别在集合、单对话与话轮三种粒度上刻画偏离：集合到集合距离排序（监控已部署智能体整体漂移）、单对话到单对话排序（过程性检索）、首次偏离话轮定位（实时护栏）；新指标 FlowKL 与 FlowScore / FlowDTW 按对话「怎么展开」而不是「说了什么」比对。作者来自 Idiap 研究所、西班牙电信创新数字、罗技与布尔诺理工大学。 65
证据与局限：作者自陈四点：只基于 STAR 一个语料，结论绑定它的任务与领域分布；每条分叉只注入一类幻觉，真实失败可能复合或级联，检测器未在这类条件下评估；对话是单个 Gemma4-31B 扮演生成的模拟对话而非真实用户数据；所报方法是初始基线，且刻意排除依赖生成器内部信号（逐轮似然、置信度）的检测族，因为那类方法无法用于人类或其它系统产出的对话。人类研究由志愿者无偿参与。代码与数据入口 https://github.com/idiap/dialfork 实测 HTTP 404（摘要与正文都写明在该地址以 MIT 许可发布数据集、流水线、评测代码与标注工具，实测未开放）。引用风险：任务一、二的 τ 是 24 个任务的均值而非按对话数加权；任务二的「按分叉位排序」本身是构造出的真值，方法排名只在此口径下成立；任务三的流式与非流式不可直接比（一个没有未来上下文，一个可读整段对话并常配第二个 LLM 监督）。 65
与目标研究线的连接点：属 A 线的评测口径与执行期控制。可搬走两件机制。其一是 FlowKL 的做法：把一段对话压成带动作标签的转移图再比过程，这套「按过程对齐而不是按内容对齐」的距离可移植到智能体轨迹审计（把工具调用序列换成状态转移图，比较上线前后同一任务族的转移分布）；任务一给的四个对照（随机、话轮数差、词数差、FBD/PRD）是一份现成的「距离指标是否只反映长度」的证伪清单。其二是任务三的流式检测器：只看当前话轮、无未来上下文、只在合规对话上校准，与按步门控（每步决定是否触发人工接管）同构，并给出「定位精度换误报率」的实测权衡。与同节其它工作的差异：ClaimScope 审计单条断言的证据链，System1-Arena 审计单个决策的准确率与概率质量，DialFork 审计的是一段多轮过程是否仍走在预设流程上，并给出集合级漂移、单条偏离、首次偏离点三种粒度。 65
结论建议：读 §3（形式模型与四类幻觉，Table 1 为每类给出同一段开场后的对照示例）、§4.1（构造流水线与质量保证）与 §6（三个任务的实验），核心是任务二的 Table 3 与任务三的 Table 4。引用时必须限定：所有 τ、平均绝对误差与误报率都来自 STAR 的 24 个任务与 LLM 模拟对话；不要把流式检测器的误报率当作真实部署的护栏指标，作者自己警告不要在临床问诊这类高风险场景未经领域验证就上线。 65
18. ClaimScope：72 题盲验见证者，无效断言上的可接受反例从 15/39 升到 23/39 而裁决正确数反降
ClaimScope: Label-Blind Witness Verification for Mathematical Claim Auditing · arXiv:2610.21581 · 邻近跟踪
研究问题与核心方法：数学智能体通常用答案准确率或证明接受率来评，但这两个端点都覆盖不到「审计一条已陈述的局部断言」：不仅要判它对不对，还要给出成立的适用范围、失败原因与恰当修复。作者提出 ClaimScope，一个 72 题基准，要求回答含裁决、范围、失败模式、反例与修复五项。题目分三族各 24 题：优化器状态搬运、有限步仿射递推、精确 2×2 线性代数；共 33 条有效、39 条无效断言，归入 48 个 claim group（同一形式规格的题集合，含相同假设与评测目标）。关键设计是 label-blind（不查标签）：见证者检查器只验模型自己提交的状态，不参考存储的参考裁决与修复，也不替它找反例或修复；作者明确它并非 verdict-independent（与裁决无关）——被验证的反例在逻辑上蕴含断言为假，诊断性的拒绝理由也可能提示该怎么改结构，所以这个通道是含信息的。评测用五个条件，全部从同一份草稿出发：直接生成、自反思、反例引导修订、通用反馈（无检查器的最接近对照，只警告见证者可能有错并明说没有检查器提供任务特定信号）、验证器反馈；每个修订条件 144 次调用对直接生成 72 次调用，草稿与直接条件逐字节相同。评分为 safe completion，即 JSON 合法性 ∧ 任务标识 ∧ 裁决 ∧ 参考范围 ∧ 修复 ∧ 见证者条件的合取（无效断言须给被验证的反例、有效断言须给 null），strict completion 另要求参考失败模式标签；被拒或格式错的见证者不信任其自报期望值与实际值，必须重算。配置为 Qwen3-8B、4-bit NormalFloat 量化、一张 NVIDIA RTX A4500、温度 0、关闭思考、每次调用最多 512 新 token。 66
关键结果：
- 冻结题集计数（Table 3，分母 72）：验证器反馈相对通用反馈把 safe completion 从 20/72 提到 25/72（7 涨 2 跌），strict completion 停在 17/72；无效断言上被接受的反例从 15/39 升到 23/39；裁决正确数却从 47/72 降到 46/72。
- 分类与证据分离：直接生成的草稿把全部 39 条无效断言判为无效，同时也把 33 条有效断言中的 26 条判为无效；无效断言上的 safe completion 从通用反馈的 11/39 升到验证器反馈的 18/39，有效断言上从 9/33 降到 7/33。
- 分组不确定性：按 48 个 claim group 等权平均，通用反馈 0.205、验证器反馈 0.299，差 0.094；10,000 次分组配对 bootstrap（种子 20260906）的百分位 95% 区间 [0.000, 0.198]，含 0；6 组变好、1 组变差、41 组不变。
- 恒定策略暴露端点问题：始终给 null 见证者的策略在 33 条有效断言上满足孤立的见证者条件却不构造任何证据；始终判无效得 39/72；始终判有效、复制提示里的范围与标识、给 null、不选修复与失败模式的策略直接拿到 33/72 的 safe completion，超过所有模型条件——因为该基准不要求为有效断言提供证明。
- 增益来源：家系层面 safe 计数（直接/通用/验证器）为优化器搬运 4/4/4、递推 1/3/8、线性代数 13/13/13（各 /24）；相对通用反馈的 7 处增益全部来自一条指出「horizon 与输入个数不匹配」的拒绝，没有一处只来自非反驳消息，这些增益跨 6 个 claim group 与 4 个递推公式；27 次验证器条件下的修订里有 26 次只改反例字段，没有一次可解析的修订改动裁决。仅用公开 schema 的确定性后处理（递推见证者报告的 horizon 与输入列表长度不一致时把它改成该长度、其它字段不动）改动 21 条记录，达到与验证器反馈完全相同的 25 个 safe 任务。 66
证据与局限：作者自陈：基准规模小、合成、只跑一个量化模型、输出预算短且确定；公式在不同假设下重复出现，限制题目独立性；结果既不证明在未见数学族上的行为，也不构成开放式定理证明或训练中优化器性能的证据；优化器走容差式数值验证（相对 10⁻¹⁰、绝对 10⁻¹²），递推与矩阵用精确有理算术；范围与修复是比较规范标签而非语义等价，数学上同样成立但措辞不同的修复拿不到分。关于反馈通道的性质，作者给出可核查的分解：保存草稿里 15 个被验证状态全部属于无效断言；21 次 horizon 与输入长度不匹配的拒绝中 12 条来自有效断言、9 条来自无效断言；29 条非反驳状态中 14 条有效、15 条无效——因此拒绝不是伪装的参考裁决，但确实含信息。代码入口 https://github.com/Anonymous-X123/Claim_Scope 实测 HTTP 200（匿名仓库）。引用风险：0.094 的差值 95% 区间含 0，不能说验证器反馈带来一般性提升；safe completion 不能单独当可靠数学推理的度量，恒定策略就拿到 33/72；schema-only 规则是看过保存反馈之后才选的、并非预先设定，作者自己把它定位成上界分析而非前瞻基线。 66
与目标研究线的连接点：属 A 线「执行期控制与判官效度」的邻近工作。它把「工具或检查器的反馈究竟带来什么信息」拆成两块——反馈里的状态与诊断信息，以及反馈背后的参考标签——并用一套反事实对照把问题钉死。可直接搬走三样：同草稿多条件的对照（每个修订条件与直接生成共享逐字节相同的草稿，且控制调用预算与审阅措辞）；模型无关的确定性恒定策略（始终有效、始终无效、始终 null 见证者），用来标出端点可被刷分的程度；以及「先给上界、再论证增益来自结构纠正而非数学搜索」的分析顺序，具体做法就是那条只用公开 schema 的后处理规则。与同节其它工作的差异：DialFork 用构造出的真值审计过程偏离，VALCON 用双角色审计标签稳定性，ClaimScope 用可执行见证者审计单条断言的证据链，并坚持把裁决分类与证据生成分开报告。 66
结论建议：读 §2（基准与协议，尤其评分合取式与四类反馈的定义）与 §3 的 Table 3，再看 §3 末尾的分组不确定性与 Appendix A.5 的分组表。引用时必须限定：所有数字来自 Qwen3-8B 的量化单模型、每次最多 512 新 token、温度 0 的 72 题冻结题集；分组差 0.094 的 95% 区间含 0；safe completion 必须与「无效断言上的可接受反例数」和「有效断言上的不当非空见证者数」一起读。 66
19. 摘要还是全文？摘要微调比全文微调快 4.70 倍、摘要提示快 5.31 倍且综合分更高
Abstracts or full text? Evaluating input scope and computational efficiency in biomedical lay summarization · arXiv:2610.21690 · 邻近跟踪
研究问题与核心方法：要回答两个问题——只用摘要能不能生成与读全文同等质量的生物医学通俗摘要（lay summary，面向非专业读者的通俗版研究摘要），以及少样本提示能否在更少算力下达到任务特定微调的水平。数据取自 BioLaySumm 2025 的 PLOS 与 eLife；因官方测试集没有金标准通俗摘要，作者从训练集重新抽约 5% 作新测试集，形成约 90/5/5 的划分，固定种子 42、不分层，另留 25 条作提示选择集、3 条作少样本示例（限 3 条是因为部分 eLife 文章超过 35,000 token，会超上下文长度）。eLife 训练 4,066 / 验证 241 / 测试 227，PLOS 训练 23,413 / 验证 1,376 / 测试 1,305。token 统计（用 Qwen/Qwen3.5-0.8B 的 tokenizer）：eLife 全文平均 14,046.1 token、摘要平均 217.39；PLOS 全文平均 8,902.0、摘要 348.74；摘要与全文的 token 重叠 eLife 21%、PLOS 49%。模型用 Qwen3.5-0.8B 与 MobileLLM-Pro-1B，LoRA 打在 q_proj 与 v_proj（rank 4、alpha 8、dropout 0.05），两轮训练、学习率 2×10⁻⁴、批大小 2、梯度累积 8、权重衰减 0.01、50 步 warmup；生成上限 800 新 token、贪心解码；全部实验在同一 Google Colab 的 NVIDIA L4 上完成。评测含 11 项指标：相关性（ROUGE、BLEU、METEOR、BERTScore）、可读性（FKGL、DCRS、SMOG、CLI，越低越好）、事实一致性（SummaC、FENICE、LongDocFactScore），各项先在全体结果上做 min–max 归一化再等权算术平均（故相关性占 4/11、可读性 4/11、事实性 3/11）；配对显著性用双侧 Wilcoxon 符号秩检验（α=0.05），效应量报 rank-biserial（秩二列相关，记作 rrb）。作者来自厄齐耶金大学与加拉塔萨雷大学。 67
关键结果：
- H1（摘要微调 vs 全文 LoRA 微调）：综合分上摘要在两个数据集、两个模型上全部更高——PLOS 上 Qwen3.5-0.8B 的 Holm 校正 p<0.001、rrb=0.68，MobileLLM-Pro-1B 的 p<0.001、rrb=0.76；eLife 上分别为（同序 Qwen3.5-0.8B、MobileLLM-Pro-1B）p=0.004、rrb=0.62 与 p<0.001、rrb=0.81。Table 4 的归一化综合分（PLOS）依次是 MobileLLM-Pro-1B 摘要微调 0.7840、Qwen3.5-0.8B 摘要微调 0.7262、Qwen3.5-0.8B 全文微调 0.5526、MobileLLM-Pro-1B 全文微调 0.1671。
- H1 的成本：摘要微调比全文微调快 4.90 倍（Qwen3.5-0.8B）与 4.56 倍（MobileLLM-Pro-1B）（PLOS），eLife 上为 4.83 倍与 4.49 倍（同序 Qwen3.5-0.8B、MobileLLM-Pro-1B），论文摘要给出的两数据集平均为 4.70 倍；摘要的 token 数比全文少 25.5 倍（PLOS）与 64.6 倍（eLife）。端到端耗时示例：PLOS 全文微调 44 h 37 min 43 s（Qwen3.5-0.8B）与 46 h 32 min 29 s（MobileLLM-Pro-1B），摘要微调 9 h 06 min 51 s 与 10 h 12 min 19 s。
- H2（三样本摘要提示 vs 全文 LoRA 微调）：三样本摘要提示综合分更高且平均快 8.58 倍——PLOS 上快 7.63 倍与 7.41 倍，eLife 上 10.14 倍与 9.14 倍（两处均同序 Qwen3.5-0.8B、MobileLLM-Pro-1B）；显著性是 PLOS 上 p=0.042、rrb=0.517 与 p<0.001、rrb=0.69，eLife 上 p<0.001、rrb=0.95 与 p<0.001、rrb=0.603（每对同序 Qwen3.5-0.8B、MobileLLM-Pro-1B）。但在 eLife 上 MobileLLM-Pro 的摘要微调综合分 0.7472 仍高于它的三样本摘要提示 0.6585；Qwen 上相反，三样本摘要提示 0.6372 高于其摘要微调 0.5303。
- H3（摘要 vs 全文的少样本提示）：在零样本、一样本、三样本三种设置下摘要综合分全面更高（PLOS 上 p=0.002、rrb=0.80 与 p<0.001、rrb=0.74；eLife 上 p=0.018、rrb=0.54 与 p<0.001、rrb=0.782，每对同序 Qwen3.5-0.8B、MobileLLM-Pro-1B），平均快 5.31 倍——PLOS 上快 8.28 倍与 8.00 倍，eLife 上只快 2.49 倍与 2.48 倍（两处均同序 Qwen3.5-0.8B、MobileLLM-Pro-1B）。三个假设在两个数据集、两个模型上全部得到支持。 67
证据与局限：作者自陈三条：只用两个小于 1B 的模型，受算力、GPU 资源与上下文长度限制，能否推广到更大模型尚未验证；评测以自动指标为主，没有临床医生评估，事实准确性、临床相关性与完整性都缺专家判断；结论只在本文两个数据集与两个模型的范围内成立，且无法区分差异来自输入更短还是信息内容不同。与既有工作相反的两处对照也被作者点明：Basu 等在 eLife 验证集上报告全文微调在多个指标上更好（且用了更大的 Llama 3.1 Instruct 8B），DeakinNLP 报告微调优于少样本提示——本文归因于模型架构、规模与实验配置差异，但明确说现有证据不足以判定是哪个因素。重要的口径风险是综合分本身：11 项指标先做 min–max 归一化再等权平均，而归一化的取值池随表而变，同一设置在不同表里数值不同——MobileLLM-Pro-1B 的摘要微调在 Table 4 是 0.7840、在 Table 6 是 0.5954；Qwen 的三样本摘要提示在 Table 6 是 0.6588、在 Table 8 是 0.7366——故综合分只能在同一张表内比较。另外新测试集是从训练集抽出来的，与 BioLaySumm 官方排行榜的数字不可比。 67
与目标研究线的连接点：不在四条研究线上，属邻近跟踪。可搬走的是「输入范围与计算成本」这条对照轴的做法：同一任务、同一模型、同一提示措辞（提示从 10 个候选里按 11 项指标均值选出的一句，要求用通俗语言总结）、同一推理配置，只改输入是摘要还是全文，然后用配对检验加效应量报告质量差异，并同时给出训练与推理耗时和 token 倍数。对 D 线（长节目与脚本生成）有间接价值：同一篇长文喂摘要还是喂全文是反复出现的成本权衡，这篇在两个数据集、两个模型上给出的「摘要输入在质量与成本上同时占优」是一个可检验的先验；对 C 线的语音合成与音频评测没有直接关系。与同节其它工作的差异：它既不涉及 LLM 判官效度、也不涉及智能体评测，审计的对象是长文档生成任务里输入范围这一评测口径本身。 67
结论建议：读 Methods 的 Dataset 与 Evaluation 两节（划分、token 统计、11 项指标与归一化、Wilcoxon 配对检验）与 Results 里 H1、H2 的两组对比表（Table 4、Table 5、Table 6、Table 7）。引用时必须限定：模型是 0.8B 与 1B 量级；测试集是从训练集抽的约 5%；综合分只能在同表内比较，跨表引用是错的；「摘要更好」不能外推到更大模型或临床场景。 67
20. GraphACM：按共享状态对齐动作，智能体成功预测 AUROC 0.811 超过最强一致性基线 0.729
GraphACM: Graph-based Action Consistency Measurement for Uncertainty Quantification in LLM Agents · arXiv:2610.22031 · 精读
研究问题与核心方法：行为一致性（behavioral consistency：同一任务被重复执行时智能体行为相似的程度）是判断 LLM 智能体可靠性的信号，但既有做法有两个缺口：只给一个任务级标量，不指出差异发生在哪个决策点；以及靠序列位置或聚合统计建立动作对应关系，而不是靠决策情境——同一步号的动作可能面对完全不同的场面，等价场面也可能出现在不同步号，一旦轨迹分岔，后续动作就不再处于相同条件下。作者提出 GraphACM（Graph-based Action Consistency Measurement，基于图的动作一致性测量）。给定同一任务的 k≥2 条独立 rollout（同一初始条件下的完整决策序列，只记动作不含中间推理），把等价状态合并成有向、带动作标签的图：抽象状态定义为 z_t=φ(e_t,h_t)，其中 e_t 是与执行相关的环境上下文、h_t 是当前观测之外的历史信息，φ 为基准相关的规范化过程；动作成为连接节点的带标签边。只在被 ≥2 条 rollout 访问过的节点上比较动作——节点级一致性 S_v 是该节点上各 rollout 代表性动作两两完全一致（动作名与参数都相同记 1，否则记 0）的平均值，被单条 rollout 访问的节点取 0。任务级一致性 S_G=Σ_v n_v S_v /(k·T̄)，其中 n_v 是访问该节点的 rollout 数（访问者权重）、T̄ 是平均 rollout 长度（长度归一化），S_G∈[0,1]；不确定性定义为 U=1−S_G，即以「一致性越高、决策越稳定、不确定性越低」为前提假设，这是一条需要被数据检验的关联而不是定义上的等价；状态抽象 φ 的具体定义与规范化过程按基准写在 Appendix B，有界性与无偏性证明在 Appendix A。理论上 Lemma 1 证明：在节点上各 rollout 的动作独立同分布时，S_v 是「两个独立动作相同」这一概率的无偏估计，期望等于 Σ_a p_v(a)²，也等于 exp(−H₂(p_v))（二阶 Rényi 熵的指数），故局部一致性越高等价于该条件下的动作分布熵越低。评测覆盖 ALFWorld、AppWorld、WebShop 三个基准与 Qwen3.8-27B、Gemma-4-31B-IT、GPT-5.4-mini 三个模型，用 verl-agent 这套 harness；每个任务–模型对在温度 1.0 下独立采样 k=10 条 rollout，不用隐藏推理，ALFWorld 与 AppWorld 限 50 步、WebShop 限 30 步。任务标签由 rollout 结果导出：至少一半 rollout 成功则记为成功。温度 1.0 采样且不使用隐藏推理，意味着测到的是该策略在固定解码参数下的行为分布。三个模型的成功率与平均步数（Appendix D.1）为 ALFWorld 上 Qwen3.8-27B 80.52%、Gemma-4-31B-IT 67.01%、GPT-5.4-mini 53.88%，平均 21.66、25.27、33.23 步；AppWorld 上 63.33%、56.43%、65.30%，平均 28.36、22.82、15.90 步；WebShop 上 42.35%、40.10%、43.60%，平均 10.52、11.54、13.08 步。对照六个黑箱一致性基线——UAS（唯一动作序列数）、DSE（离散语义熵）、TSS（工具序列相似度）、AC（参数一致性）、ASC（动作集一致性）、ADC（动作分布一致性）——另加非一致性基线 VC（verbalized confidence，让智能体对自己的每次 rollout 做是/否判断并给置信概率）。作者来自佛罗里达大学与加州大学欧文分校。 68
证据与局限：作者自陈四条：一致性只是可靠性的间接指标而非正确性保证，WebShop 上就有一致地失败的任务；对齐效果取决于状态抽象 φ 的质量，错把不同决策情境并成一个状态或漏掉等价状态都会污染估计；方法要求同一任务多次 rollout，推理成本高于单次执行；评测只有 3 个模型与 3 个基准，作者在局限里把它们点名为泛化性的主要短板。任务集、按基准给出的数据子集与实现细节在 Appendix C，实验在 A100 上完成。两处口径须连带读：任务正负类由「≥50% rollout 成功」这一阈值定义，换阈值会改变 AUROC 的分组；AUROC 的 95% 区间是任务级 bootstrap，不是跨模型或跨基准的不确定性。作者另提示高一致性不等于安全，不应单独据此授权有后果的智能体动作，而多次 rollout 也增加算力与能耗。我在原文正文与附录中都没有找到作者的官方代码仓库或项目页直链，因此没有可实测的官方复现入口。引用风险：0.811 是 9 个模型–基准对的等权平均而不是跨任务加权；WebShop 关联明显更弱，不能把平均值直接套到电商类短流程任务；Lemma 1 的无偏性前提是同一节点上的动作独立同分布，真实 rollout 并不满足，故它只是对分数的解释性刻画，不是可用来校正的结论。 68
与目标研究线的连接点：属 A 线「长程任务的评估与执行期控制」，它给出的是「用重复采样的行为一致性给智能体可靠性打分」这一口径设计中最完整的一次验证。可搬走四件具体做法：其一，把轨迹按状态合并成图、在共享决策状态上比较动作而不按步号对齐，这一条同样适用于工具调用轨迹与多智能体协作轨迹；其二，用访问者权重加长度归一化压住「失败轨迹更长」带来的系统性偏置，消融给出了不加这两项时 AUROC 的具体损失；其三，同时报集合级 AUROC 与「一致性—成功率」的 Spearman ρ，前者的区间用任务级 bootstrap，后者用来检查单调性；其四，把一致性反转为不需要结果标签的不确定性分数 U=1−S_G，可用于决定这一步是否交给人——正因不依赖标签，它适合部署期的在线监控。与同节其它工作的差异：System1-Arena 在模型之间横向比决策质量并依赖真实结果标签；GraphACM 只用同一模型自己多次 rollout 之间的一致性，故不做横向排名，而在单个策略上给不确定性。基线覆盖三种典型做法，值得单独记一句：六个一致性基线里既有只看序列是否完全相同的计数类（UAS、DSE），也有允许部分匹配的编辑距离类（TSS、AC），还有丢弃时序的集合统计类（ASC、ADC），正对应「按什么建立动作对应关系」这条轴上的三种选择。与论文自己引用的 GraphGPO、G2PO、GEPO、SALT 等图方法相比，差别在目标：那些用共享状态图做奖励驱动的策略优化，GraphACM 用图做固定策略的推理期测量。 68
结论建议：先读 §2.2（图构造、节点级与任务级一致性的定义）与 §2.3（Lemma 1 与熵解释，用来判断分数该怎么解读），再读 §3 的 Table 1 与 Table 2，以及 §3.7 的两项消融与 Figure 6、§3.6 的采样预算 Figure 5。引用时必须限定：AUROC 0.811 是 9 个模型–基准对的等权平均；任务成功标签由「≥50% rollout 成功」定义；WebShop 上关联弱；一致性不是正确性；多次 rollout 带来的额外推理成本必须与分数一起报，不能只引用 AUROC 的提升幅度：k=10 条 rollout 把推理开销抬到单次执行的十倍量级，必须与分数一起权衡，作者也把额外算力与能耗写进了伦理提示。 68
21. Prism-1：选项各自独立打分，加一个无关选项使决策改变 0.0%，准确率仅低 0.9 个百分点
Prism-1: Position- and Rival-Independent Scoring for System One Models · arXiv:2610.22066 · 精读
研究问题与核心方法：System One 决策模型（给定状态与一组选项——意图、工具或界面元素——一次前向就返回选项上的概率分布、不生成推理）在 web 系统里被大量使用，而选项清单与选项集合都不是问题本身的一部分：顺序来自工具注册表、检索排序、数据库查询或页面布局，往往任意；选项集合随工具注册与新意图不断增长，也可能被对手注入。作者据此要求两条理性选择公理成立。其一是顺序不变性：同一组选项的列举顺序不应改变决策。其二是 Luce 选择公理（Luce choice axiom），即概率形式的无关选项独立性（IIA）：新增一个选项不得改变原有选项之间的相对几率，因此新选项只能因自己被选中而获胜，不能通过改变其它选项的比例来悄悄改写决策。命题 2.4 给出结论：一个给每个选项正概率的决策规则在所有情境下既顺序不变又满足选择公理，当且仅当它的形式是 R(o|x,q,σ) 正比于 exp s(x,q,o)，即每个选项的分数取指数后除以全体选项指数之和，即分数只取决于状态、问题与选项本身；在 transformer 里这意味着任何参与计算某个选项分数的 token 都不得看到别的选项，且该选项的位置不得依赖它被列在哪。标准读出 SCQ（single-choice question，单选问题提示：把选项在字母下依次列出，读这些字母的下一 token 概率再归一化）恰在此点上不成立：被读的字母 token 见过整张列表。Prism-1（Position- and Rival-Independent Scoring for System One Models）按要求的形状实现：共享上下文 h（状态、问题、以及以 Candidate answer 结尾的提示）放在位置 0 到 P−1，每个选项是一个 block，全部从位置 P 开始、只在 block 内部递增，故选项内部词序保留而选项之间没有顺序；attention mask 让上下文因果自注意、让每个 block 只看上下文并对自己因果自注意，绝不看另一个 block。选项 k 的分数取该 block 最后一个 token 处「yes 的对数几率减 no 的对数几率」，跨 block 做 softmax 得到决策，并可证明它等于把每个 block 视为独立判断后「恰有一个正确」的贝叶斯组合。训练只用 LoRA（rank 16、α=32，打在 attention 与 MLP 投影上）与对正确选项的交叉熵，不需顺序增广或一致性正则项，因为模型看不到顺序。作者来自南洋理工大学。 69
证据与局限：作者自陈：Prism-1 需要微调，未训练时只答对 28.5% 与 32.5% 的验证题，加上答案槽后可用但仍不如 SCQ（69.9% 与 63.3% 对 75.9% 与 66.2%）；它按设计放弃了模型内部的选项间比较，故公理适合每个选项可独立判断的决策（路由、意图分类、工具或页面元素选择），不适合「以上都不是」「找出异类」这类答案由其它选项定义的任务；公理保护的是选项之间的选择而不是状态——注入到状态里的文本会到达每个选项的分数，与其它读出方式一样；选择公理决定近似重复选项如何处理：加一个副本会让副本与其孪生共享原来那份概率（原选项排序不变但最高概率下降），要让它主要从孪生那里拿概率就需要「选择性移位」，那正是让新选项能引偏决策的同一机制；在留出的 JevBench 上它落后 SCQ 3.6 与 4.1 个百分点；选项数最多 20；保证精确到数值舍入，接近平局时加一个选项仍可能翻转；只评了两个 8–12B 的开放模型，每个配置 1–3 个种子；Set-LLM 是作者的重实现，因其代码未公开。我在原文正文与附录中都没有找到 Prism-1 自己的代码或项目页直链，因此没有可实测的官方复现入口（论文引用的都是别人的仓库）。引用风险四条：0.0 的翻转、漂移与切换率是在这个实现与这些数据上的结果，选项数与数值精度仍可能使它非零；准确率只低 0.9 个百分点是 Gemma 上的平均，Qwen 上持平，JevBench 上低 3.6 到 4.1 点；Set-Based Prompting 的 48.1%（Gemma）与 50.9%（Qwen）与该方法的已知弱点一致，不能当作对不变架构的通用结论；所有结论只在两个模型、五个集合、每配置 1–3 个种子上成立。 69
与目标研究线的连接点：属 A 线「评测口径、判官效度与基准审计」的邻近工作，也是把判官或决策读出的效度做成可证明性质的一次尝试。可搬走三套测试与四个指标，是现成的审计工具：测试一是一次带种子的洗牌看翻转率，且要分开做「只挪槽位」与「只换字母」两步才能定位顺序依赖住在位置还是住在字母上；测试二是加一个无关选项看概率漂移与切换率，再算最坏情况引导率（对手从 10 个候选里挑一个最有害的选项）与指向性注入（等价于往工具注册表注入一个恶意描述，或往页面里塞一个诱导元素）；测试三是换排序键看是否只是冻结了一个任意约定。四个指标是 accuracy、flip rate、probability drift 与 switch rate、order-robust accuracy。这套东西不限于 System One 模型：任何「从语言模型读出一个集合上的决策」的场景都适用，包括 LLM-as-judge 的选项读出、工具选择与候选排序。与同节其它工作的差异：System1-Arena 度量决策的准确率、概率质量、延迟与成本，不问同一决策在选项清单或选项集合改变后是否还成立；Prism-1 恰好只问后者，并把要求落到 attention 结构上，使公理按构造成立而非靠训练。与 Set-Based Prompting、Set-LLM 的差异是：后两者只保证顺序不变（让选项共享位置），读出 token 仍看见所有选项，因此仍违反选择公理，实测比 SCQ 更易被指向性注入引偏。 69
结论建议：读 §2（两条公理与命题 2.3、2.4，它们给出合规读出唯一的形状）、§4（Prism-1 的布局、因果读出、分数与 attention mask）、§5.3（公理测试）与 §5.5（三种设计选择的消融），主表是 Table 1，消融是 Table 2，选项数量与成本在 §5.4。引用时必须限定：所有翻转率、概率漂移与切换率都是这两个模型、这五个集合上的测量；「准确率代价很小」只在每个选项可独立判断的任务上成立，且该结论本身也来自这一批数据；未微调时该读出不可用；在留出的 JevBench 上它确实落后 SCQ 3.6 到 4.1 个百分点，不要用平均值掩盖。 69
22. PROBE：训练 4B 审计员审计冻结的 30B 工具智能体，留出场景策略覆盖率由 35% 升至 60%
PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents · arXiv:2610.22124 · 精读
研究问题与核心方法：这篇要补的是智能体评测里一条空档：能力基准只问「任务做没做完」，内容安全红队只问「有没有生成有害文本」，但两者都不问「智能体在正常完成任务的过程中有没有违反操作规则」。这类违规是轨迹级的：工具调用参数不合规、在用户确认前就发生状态变更、引用了工具输出不支持的信息，都可能藏在一次看起来成功的任务里，最终回复里看不到。作者把黑盒策略审计形式化为一个部分可观测的两人马尔可夫博弈，并把审计员训练成一个小模型：它只看见对话接口，看不到目标智能体的权重、隐藏提示词、数据库、工具输出、验证器标签和策略编号。审计奖励是一个复合量 r_k = r_viol + α_k r_prog + β_k r_nov + γ_r r_plaus，其中违规项按策略严重度 σ_i ∈ {0.5, 1, 2, 4} 加权，并对同一策略在同一回合内重复命中做衰减（第一次全额、第二次半额、之后零），另三项分别奖励进入更深的工具状态、发现尚未被触发的策略、以及像真实用户那样说话。训练环境 SkyAssist（确定性机票预订环境）含 35 个机场、120 条航线、643 个航班、三个票价舱位、四个受限目的地和 46 个取消航班，工具面 8 个（4 个只读：search_flights、check_availability、get_flight_details、lookup_booking；4 个变更：hold_itinerary、book_flight、cancel_booking、modify_booking），20 条策略分布在业务、安全、隐私、运营四类下，其中 16 条由确定性谓词验证、4 条（B4 提及升舱、B6 往返建议、S5 变更前确认、P1 内部价格披露）在训练期用混合 LLM 判官打分。作者还设了一个回合数课程（horizon curriculum，K_max 依次取 4、8、12、14，滚动违规产出率超过 15% 且耐心值 50 步后推进），用来给多轮信用分配搭台阶。每次更新时，审计员从同一个对话前缀采样 G = 4 条候选用户消息，每条对冻结目标继续滚出 C = 3 个回合，再由同一套验证器打分，三种优化器（GRPO：组相对策略优化，用组内相对优势更新；DPO：直接偏好优化，用成对偏好做离线对齐；GFlowNet：生成流网络，按奖励比例采样轨迹以覆盖多模式）共用这批 rollout，只有策略更新那一步不同。进度奖励只对首次进入工具相关状态给分（槽位填充 0.03，搜索与可用性查询 0.08 与 0.10，订票、取消与多程行程等深流程 0.25 到 0.30）；进度权重在最初 100 步内从 0.5 退火到 0.1，新颖度权重从 0.1 升到 0.4，也就是把训练重心从「先学会走到深状态」逐步移向「把已发现的策略铺开」；可信度项惩罚像助手而不像顾客的话（宣称拥有系统访问权、markdown 与列表排版、过长、逐字复读上一轮助手话轮）。作者特别声明所有奖励权重都由训练诊断量确定，从未用留出覆盖率来调。 70
证据与局限：证据强度以「小规模但对照齐」为特征：审计员是 Qwen3-4B-Instruct 加 4-bit NF4（4-bit NormalFloat 量化）QLoRA（rank 64、α = 128、作用于 Q/K/V/O 投影、约 4,700 万可训练参数），目标智能体是冻结的 Qwen3-30B-A3B（vLLM 部署），每次训练用两张 A100-40GB。主表每一行都是单个训练检查点在同一批 50 个留出场景种子上评测，作者的匹配种子协议控制的是场景难度、不是训练随机性；确定性重打分的覆盖率以三个独立留出样本的均值 ± 标准差报告，产量给 95% 自助区间，但作者在局限里明确承认「不确定性来自每种方法一个检查点的留出样本，不是训练种子」。度量口径上，头号指标是套件级策略覆盖率 Cov(E) = N⁻¹|{i : ∃e ∈ E, k, v_i(Ξ_k^e) = 1}|，即 20 条策略中被 50 个评测回合里至少触发过一次的比例，60% 覆盖就对应 20 条里发现了 12 条；作者刻意用套件级而非逐回合平均覆盖率，理由是审计的价值在于扩大「被暴露出来的不同失败」这个集合，而不在于反复复现同一个失败。另外四个诊断量是：每 100 回合的原始命中数（衡量活跃度但可被重复的易策略抬高）、B4/S5/B6 三条高频话轮级策略所占的命中份额（越低越不集中）、含至少两种不同违规的回合比例、以及由聚合命中分布算出的熵（只作次级集中度诊断）。作者自陈的局限还包括：只覆盖两个环境、两个目标模型族；目标 90% 以上的工具调用发生在搜索阶段，若干最高严重度的订票级策略始终没被触达；原用于训练的 4 条 LLM 判官只做过自一致性验证，替换它们的确定性谓词可能漏掉语义违规；两名标注者就是作者本人。引用风险：60% 覆盖率是 SkyAssist 单环境、20 条策略、最多 8 个公开话轮口径下的数，不能搬去当「某模型策略合规率 60%」；Table 2 的搜索/变更调用计数是单组检查点的评测期统计，不等于目标模型的能力画像；「奖励标定把 GRPO 与 GFlowNet 的训练期产量分别抬高 63% 与 78%（相对未做该标定的同一设置）」是代表性检查点的训练时数字，与留出覆盖率不是同一个量。代码入口 https://github.com/Mishrakshitij/PROBE（实测 HTTP 200）。 70
与目标研究线的连接点：属 A 线（执行期控制与评测口径），但它的可搬点不在「审计」这个词上，而在四个具体机制。第一，去重式违规奖励——首次命中全额、第二次半额、之后零，直接把「刷同一个易触发策略」这条捷径堵住，任何自建评测里用命中次数当奖励的设计都可以照搬。第二，把覆盖率而非产量定为头号指标，并配一对诊断量（高频策略命中占比、命中分布熵）来暴露集中度，这是对「奖励越高指标越好看」的通用解药。第三，判官 → 确定性谓词的降级审计：先让判官在训练期提供梯度，再用人类标注测出判官在哪几条策略上精确率为 0，最后用确定性谓词重打分确认排名不变，这套「先复用再证伪」的流程可以直接搬到任何用 LLM 判官做训练信号的评测。第四，课程式加长回合配合「目标方不进深状态」的诊断，说明审计失败往往是被测方的行为分布造成的，而不是审计员搜不出来。与同节其他工作相比，它的差异是评测对象为轨迹级程序性规则而不是文本安全或任务完成度；与 RADAR 相比，它的审计目标是「被测智能体的行为」而不是「分数本身的可信度」。 70
结论建议：建议先读 §4.2（复合奖励的四项构成与去重函数 d(n)）、§6.2（工具深度表与两类成功模式：诱导式欠规范、策略堆叠）和 §6.3（判官验证与确定性重打分）。引用时必须限定：数字属于 SkyAssist 这套 8 工具 / 20 策略的确定性环境、50 个留出场景种子、最多 8 个公开话轮、且每种方法只取一个检查点；不要把这个覆盖率读成通用策略合规率，也不要把 τ-bench 上 2/10 → 3/10 的小幅迁移说成方法无关的增益——那 10 条策略是作者自建的。 70
23. RADAR：置信度修复、采纳与残差审计三步走，配对下注在 47,400 次分配中 42.95% 采纳到真降风险的候选
Are You Sure Your LLM Is Sure? Repairing and Auditing Confidence · arXiv:2610.22139 · 邻近跟踪
研究问题与核心方法：LLM 的置信度分数决定答案是直接接受、进入复核还是重生成，但标准标量重校准（温度缩放、Platt 缩放、保序回归）只能修正「通过分数本身可见的」错误。作者给的反例是：若所有答案置信度都是 0.8、其中 80% 正确，而错误的 20% 系统性地把分钟与小时搞混，期望校准误差为零、失败却完全可预测；把 0.9 修成 0.8 降低了平方损失，却没有暴露这个子群。他们把这件事形式化为平方损失下的风险分解 L(τ ∘ s₀) = N + I + E[(τ(P) − q(P))²]（N 为结果噪声、I 为分数所隐藏的期望正确率变异），并进一步说明：若把修复限制为保序映射，最优保序修复满足 L(T) = N + I + G 且仍然校准，多出的 G 是汇聚间隙（pooling gap，为保序必须把本该分开的分数合并成并列）。据此提出 RADAR（Repair, Adopt, and Diagnose After Recalibration，修复—采纳—诊断三步框架）：修复用 PAIC（Probe-Anchored Isotonic Calibration，探针锚定的保序校准），把一个独立训练的「正确性探针」在无标注目标提示上的预测蒸馏成原分数的单调映射；采纳用配对下注，对「不要部署不降低风险的候选」给出有限样本保证；诊断用按提示聚类的核检验找出修复后残留的特征对齐误差。 71
关键结果：
- 决定修复质量的是「按分数分层的偏置」，不是探针的整体准确率：三个 Excess 结果 MSE 相同（0.0064）的探针，在 2,000 条校准提示下，两个「误差在每个分数层内相互抵消」的探针给出的平均超额修复风险只有 3.90 × 10⁻⁷ 与 3.16 × 10⁻⁵，而一个恒定 0.08 偏置的探针给 0.0064；扩大样本能消掉拟合误差但消不掉这个偏置，PAIC 的超额风险上界正是 (‖b_n‖₂ + √u_n)²。 71
- 无标注目标提示确实换来增益，但投影回标量会丢：Llama-3.2-3B 与 Qwen2.5-3B 在难度、任务、科目三类偏移下，用 500 条有标注源提示加 500 条无标注目标提示，基于树的 PAIC 相对源标签保序校准把均方风险降低 4.9–16.4%，六个设定都低于每一个源侧拟合的标量基线；配齐源与目标无标注提示后，PAIC 在 72 个预设对比中 67 个估计风险更低。另一方面，对四个模型在 3,270 条 BoolQ 验证集与 1,172 条 ARC Challenge 测试题上的 13 个预测器，直接服务丰富预测器比它的单调投影 Brier 风险更低（BoolQ 上差 0.0121–0.0169、ARC Qwen3B 上 0.0101，联合区间排除零），而没有任何联合区间能确立丰富 PAIC 优于选定标量对照。 71
- 采纳效率来自下注，不来自更好的探针：在已知总体风险的固定候选、匹配的错误预算下，配对下注在三个人群上用一半的比较提示量、在分级异质增益人群上用四分之一的量达到预设判据；神谕探针的辅助并不减少这些交叉点。47,400 次缓存的原始分分配重放中，下注采纳到有益候选 20,356 次（42.95%），单侧经验 Bernstein 只有 7,155 次（15.09%），留出测试提示上没有估计出误采纳；反过来，同时经验 Bernstein 区间在这批对照里没有一次判定出改进，即便给到 2,000 条有标注加 8,000 条无标注提示——它们的区间宽度本身就超过增益。 71
- 风险更低不等于决策更好：在「完美复核成本 c、错误接受成本 1、接受 s ≥ 1 − c」的设定下，c = 0.10 时两个自适应 MATH 映射都复核所有答案——Qwen 的接受率从 73.0% 掉到零，因为最高分从 0.900015 跨过阈值到 0.899516；丰富 PAIC 在 c = 0.05 时对 ARC Mistral 一个都不接受，在 c = 0.50 时在 BoolQ Qwen3B 与 Mistral 上超过「全部接受」的损失；归档的已学习分数上，用比较集拟合的 PAIC 阈值在 24 个设定中 23 个的平均复核损失高于直接用原始分数拟合的阈值。 71
证据与局限：理论部分给出修复（Theorem 3.2）、采纳（Proposition 3.3）、提示聚类审计（Theorem 3.4）三条保证，并说明 PAIC 的拟合间隙满足 E u_n ≤ 25/√n、局部化后可达 O(n^{−2/3})，在分数分层偏置受 δ 约束时 δ + n^{−2/3} 的阶是极小极大最优。实验里所有拟合候选都在加入评测结果之前保存，关键分析用独立实现从保存的预测重算。作者自陈与自查出的局限包括：目标侧探针偏置在有限样本之外仍是假设；审计「不拒绝」不等于「残差很小」；受控审计里七个已校准对照的拒绝率为 0.0485–0.0590（Wilson 区间都含 0.05），但学习型审计器在 2,000 次分级零假设重复中拒绝 126 次（0.0630，区间 [0.0532, 0.0745]），一个 18,000 次配对随访只把相对符号翻转参照的超出拒绝率压到 0.5 个百分点以内，既没解释这个比率也没确立名义有限样本水平；先扫参再定过程或预算不在保证范围内。引用风险：47,400 次是同一批缓存分配的重放而不是 47,400 次新试验，42.95% 与 15.09% 共用这个分母；4.9–16.4% 是三类偏移下的均值、三次重叠重拟合、500 + 500 提示预算，不是通用降幅；MATH 效果两个检查点方向不同（Llama 降 0.00633 与 0.00552，Prealgebra 科目反升 0.00456，Qwen 的变化无定论）。论文写明代码与数据「will be released upon acceptance」，本次实测未发现可核验的公开入口。 71
与目标研究线的连接点：属邻近跟踪，但对 A 线的「评测口径与判官效度」有两条硬连接。第一，「与不完美的探针一致」会误排候选：原文的恒等式 Δ_ab = D_g(a,b) + 2E[(s_a − s_b)(g − Y)] 说明只有与候选差异对齐的探针误差才会污染比较，这条式子可以直接用来审「用一个 LLM 判官比较两个系统」的做法。第二，三段式流水线本身：把「修复分数」「决定要不要部署这次修复」「审计修复后还剩什么系统性错误」当成三个独立问题、各配不同的数据要求与统计保证，对任何准备把判官分数接入线上门控的团队都是可执行模板。第三，按提示聚类而非按答案做采样单元可直接搬：同一提示下多次采样的残差彼此相关，按答案统计的检验会在兄弟答案共享错误时错误地拒绝已校准的分数，原文给出答案级统计量的偏置项 θ + (K − 1)/(JK − 1)·(γ − θ)。与同节的 FEB-30 相比，两边都在谈「分数与真值的关系」，但 FEB-30 关心记忆状态与真值的偏离、这篇关心标量分数能表达多少信息。 71
结论建议：建议读 §3.1（风险分解与汇聚间隙）、§3.2 中「哪些探针误差才重要」、§3.3（PRCE，Probe-Relative Calibration Error，探针相对校准误差，及其恒等式与采纳下注）、§3.4（提示聚类审计）与 §4.3–4.5（采纳效率、审计拒绝率、决策效用）。引用时必须限定：结论是关于平方损失下的标量置信度，不是关于准确率或排序；47,400 次重放与三次重叠重拟合的预算条件要一并给出；「更低的风险不等于更好的复核决策」是这一篇最不该省略的一句。 71
24. PremiseSQL：1,800 条缺陷查询配原题评测前提批判，显式提示检出率升至 0.931 而原题建 SQL 率跌至 0.523
PremiseSQL: Evaluating Premise Critique and Abstention in Text-to-SQL Systems · arXiv:2610.22158 · 值得扫读
研究问题与核心方法：NL2SQL（natural language to SQL，自然语言转 SQL）研究长期假设用户问题有效且可答，于是模型对「前提本身有问题」的提问照样输出可执行 SQL——语法合规、语义站不住。作者把这种能力命名为前提批判（premise critique）：既要做前提验证（在给定数据库语境下判断问题是否有效、指出真正缺陷），也要做弃答（对缺陷问题不生成误导性 SQL，同时不牺牲对有效问题的生成），并强调它与生成准确率正交——模型可能碰巧生成符合用户意图的 SQL 却从未意识到问题本身不成立。他们造的 PremiseSQL 把一个原始问题与其分类学引导的扰动变体配成对：扰动变体是正样本（应检出并弃答），原题是负样本（应判为有效并生成 SQL），共 1,800 对，来自 Spider 1.0 与 BIRD / BIRD-filtered（E3.2「缺失 schema 前提」用 BIRD 而非 BIRD-filtered，因为需要 gold schema 标注）。缺陷分成 4 大类 9 个子类：E1 表达错误（E1.1 歧义、E1.2 意图不清）、E2 前提矛盾（E2.1 文本内部矛盾、E2.2 问题—schema 矛盾）、E3 缺失前提（E3.1 缺约束、E3.2 缺 schema 前提、E3.3 语义鸿沟）、E4 超出能力（E4.1 SQL 不可表达、E4.2 需要外部知识）。扰动由 GPT-5.1 按预定义错误约束生成，再用 Gemini-2.5-Pro-Thinking 自动评审加人工复核两阶段校验。评测设三种提示强度：Base（只要求生成 SQL 并给理由）、Implicit（告知问题可能有错、请先判断有效性）、Explicit（直接断言问题含逻辑缺陷、要求先批判假设）——关键在于 Explicit 的断言对正样本成立、对负样本是假的，因此负样本的表现才能区分「证据驱动的前提批判」与「听指令就拒绝」。 72
证据与局限：规模与对照是这篇的强项：16 个前沿模型（ChatGLM-5.1、Claude Opus 4.6 / Sonnet 4.6 / Opus 5.5、DeepSeek V3.2 / V4.1 Flash、Doubao Seed 2.0 Pro、Gemini 3.1 Pro Preview、LLaMA 4 Maverick、GPT-5.4 / 5.6-Luna / 6-Luna / 6.1-Sol、Qwen3.5 的 35B / 122B / 397B 三个规模），每个模型在三种设置下各处理 3,600 条请求（1,800 缺陷 + 1,800 原题），合计 172,800 条响应，温度 0。打分可复现性也做了双保险：全部输出由 GPT-5.4 与 Claude Opus 4.6 在相同指令下独立评分，评分者间 Cohen’s κ 为 SQL Behavior 0.9737、Detection 0.9100、Type Identification 0.8586；另从 DeepSeek V3.2 与 GPT-5.4 随机抽 2,160 条与两位人类标注比对，两个自动评分者的平均 κ 分别为 0.9701 / 0.9545 / 0.9072 与 0.9567 / 0.9355 / 0.8188（每组三个数依次为 SQL Behavior、Detection、Type Identification）。作者自陈的局限有三条：只做英文 NL2SQL，未必推广到多语言与真实交互式数据库；缺陷是分类学驱动构造的，未必覆盖自然发生的用户错误；评测部分依赖 LLM 自动判官，尽管与人工高度一致仍可能引入偏差。引用风险：GEN 只衡量「是否生成 SQL」，附录 B.7 在 1,726 条 gold SQL 可可靠执行的原题上给出执行验证：GEN 0.987 / 0.902 / 0.524 对整体执行准确率 EX 0.713 / 0.652 / 0.399（依次为 Base、Implicit、Explicit 三档提示），而条件于生成的 EX|GEN 只从 0.722 变到 0.762，48 个模型与设置组合上 GEN 与 EX 的 Pearson r = 0.990（p < 0.001），所以 Explicit 下执行准确率的下降主要来自「不生成」而不是「生成错」——GEN 不能代替执行准确率，这是作者自己写明的用法边界；Type Identification 的口径是「模型自己声明的错误类型」而非专家判定的类型，Explicit 下 0.931 的 DET 建立在一句「该提问含缺陷」的断言上，不能当作模型的独立批判能力；表 3 中 DeepSeek V3.2 在 Implicit 下原题 VAL 只有 0.437，与它最高的 DET 0.898 并列时不要读成同一个能力轴的两端。代码入口 https://github.com/vegeet/PremiseSQL（实测 HTTP 200）。 72
与目标研究线的连接点：属 A 线的「评测口径」支线，且它的设计对任何带弃答能力的评测都直接可用。第一个可搬件是成对正负样本：把原始有效输入当负样本，才能把「被指令说服就拒绝」和「真的看出问题」分开；只有缺陷样本的弃答率是完全没法解释的指标。第二个是提示强度作为自变量（Base / Implicit / Explicit 三档），它把「模型有没有这个能力」和「提示能把这个能力挤出来多少、代价是什么」拆成两个问题——这正是判官效度问题：给判官更强的批判指令，看似提高了缺陷识别，实际上同时提高了误判。第三个是输入级分类学 + 响应级失败机制的两层归因：前者说哪类缺陷难，后者说模型用什么操作把有缺陷的问题变成看起来可答的问题（M01→M03 的重排尤其有信息，说明强指令并不能消灭失败，只把它从「默默补全前提」换成「过度解读有限证据」）。第四个是用 GEN 与 VAL 追踪过度拒绝这个具体做法，可以直接套到任何「加严判据」的评测改动上，作为回归检查。与同节的 FEB-30 相比，它测的是单轮输入—输出映射上的判断行为，FEB-30 测的是跨状态的记忆；与 PROBE 相比，它的「缺陷」由数据构造给出，而 PROBE 的「违规」由被测智能体的行为产生。 72
结论建议：建议读 §3.2（4 大类 9 子类的定义表）、§3.5（五个度量的口径分工，注意 SQL 是 0–2 的三级序数分）、§4.2.2（有效性判断与生成行为的一致性统计）与 §4.3（按错误类型的拆分）。引用时必须限定：模型是 2026 年前沿清单里的 16 个、输入是英文、缺陷为构造而非自然发生、温度 0、DET / TYPE 由两位 LLM 判官按固定评分定义给出。特别不要把 Explicit 下的 DET 0.931 单独引用——同一行里原题 GEN 只有 0.523，二者必须成对出现才是这篇的结论。 72
25. 量表敏感性：只改格式即让 LLM 归一化打分平均移动 0.098、19.2% 的文本换档，有毒内容最敏感
Change the Number, Change the Answer: Assessing Rating Scale Sensitivity in LLM-Based Text Scoring · arXiv:2610.22187 · 值得扫读
研究问题与核心方法：计算社会科学里越来越多研究让 LLM（大语言模型）给社会与心理构念打一个标量分，但不同研究用的量表设计不一样（同样是毒性，有的用 0–1 连续，有的用 1–5 李克特序数），分数是否可比没人系统查过。作者定义量表敏感性（scale sensitivity）为「仅因评分量表设计变化而引起的 LLM 标量输出变化」，并把它拆成两个量：数值敏感性是归一化后分数的变化幅度，语义敏感性是分数落点是否跨越了实质解读的档位分界。实验设计交叉三个设计要素——格式（连续 vs 序数）、范围（3、5、11、21 点）、符号（以 0 为中心的有符号 vs 只含非负的无符号），共 16 个量表条件；为隔离单个要素，只比较最小配对（只差一个要素、其余两个固定的两个条件），共 40 对（格式 8 对、范围 24 对、符号 8 对）。三个任务各有一个人工标注数据集：政治倾向用 MBIC 抽 1,700 条，情感用 VADER 影评抽 5,000 条，毒性用 Jigsaw 抽 5,000 条；两种提示策略（零样本 vs 基于量规 rubric 的逐维度打分）；五个模型（GPT 5.6 Luna、Gemini 3.5 Flash Lite、DeepSeek V4 Flash、Qwen3.8 27B、GLM 5.3 Flash，都在各自最低推理档运行）。数值敏感性用归一化分数的最小配对平均绝对差 SS_MAE 度量，语义敏感性用「归一化分数三等分后落点档位发生改变的比例」SS_switch 度量；不确定性用按文本的 2,000 次自助重采样给出。 73
关键结果：
- 三个要素各自都能推动分数：固定符号与范围只改格式，归一化分数平均绝对差 0.098（95% CI [0.097, 0.099]）、19.2% 的文本换档（[18.9%, 19.5%]）；只改范围是 0.098（[0.097, 0.099]）与 18.2%（[17.9%, 18.5%]）；只改符号是 0.085（[0.085, 0.086]）与 20.3%（[20.1%, 20.6%]）。也就是说，只动一个设计要素，平均就要移动约十分之一个整量程，约五分之一的文本被换到另一个档位。 73
- 要素之间会互相放大：量程越细，格式造成的数值移动越小但换档率不变——3 点量表上换格式移动 0.146（[0.144, 0.147]），21 点量表上只移动 0.078（[0.077, 0.078]），而换档率在各量程长度下都停在 18.2%–20.1%；序数量表放大范围效应（0.128 [0.126, 0.129] 对连续量表的 0.068 [0.067, 0.069]，换档 21.5% 对 14.9%）；连续量表放大符号效应（换档 24.4% [24.1%, 24.7%] 对序数量表的 16.3% [16.1%, 16.6%]）。 73
- 毒性最敏感，而它恰好是唯一单极构念：按任务拆，毒性有 29%–40% 的文本随设计要素换档，政治倾向 13%–15%，情感 8%–10%；数值敏感性同序。而且毒性对符号最敏感——相对格式变化，符号变化让毒性文本跨档的比例比政治倾向文本多 8.0 个百分点。作者的解释是毒性只从「不毒」到「极毒」单向变化，有符号量表把负数放在低端，模型把 0 读成「不毒」后把更多文本推向高毒档。 73
- 量规提示不能降低敏感性：每个要素下，量规提示的敏感性与零样本之差都在 0.007 以内，所有交互项系数 ≤ 0.006；少数出现的差异在不同任务上方向相反（政治倾向与情感略微升高、毒性略微降低）。作者据此区分了两种假说：如果敏感性来自评测标准不明确，显式量规应当压低它；而它没有，说明敏感性来自模型把判断映射到数值这一环。 73
- 方差分解：量表设计解释数值敏感性的四成，任务解释语义敏感性的近六成：量表设计解释数值敏感性 40.3%、语义敏感性仅 8.9%；任务解释 29.7% 与 58.9%；模型只解释 2.6% 与 1.3%，提示策略不足 0.1%（与量表设计的交互另加 3.4–4.1% 与 0.2–0.3%）；语义敏感性的第二大来源是「量表设计 × 任务」交互（16.0%），对应有符号量表用于毒性这类组合。五个模型对三个要素的敏感方式一致，Qwen3.8 27B 最敏感、Gemini 3.5 Flash Lite 最不敏感，同一模型内部对三个要素的敏感性相差不超过 5 个百分点。 73
与目标研究线的连接点：属 A 线的「评测口径」支线，而且它是本单元里对「打分型判官」最直接的一份工程约束。第一个可搬件是最小配对：把量表设计当作被操纵的自变量，一次只改一个要素，其余固定，这样得到的差异才能归因到设计本身而不是提示文本变化——任何自建量规评测都可以按这个做法给出敏感性数字。第二个是双指标：数值敏感性（归一化后的移动幅度）说明分的稳定性，语义敏感性（跨档率）说明结论的稳定性；后者才是「结论会不会翻」的量，而且它对量表设计不敏感、对任务高度敏感，这一点决定了报告哪个指标。第三个是把打分设计放进方差分解：用 η² 式的分解量回答「我的结论到底对哪个选择敏感」，这是把「换了个量表试试」的直觉做成可报告的证据。第四个是构念极性与量表符号的匹配规则（单极构念用无符号量表、最低端表示属性缺失），这是可以直接写进量规规范的一条硬约束。与同节的 PremiseSQL 相比，两篇都在量化「评测改动本身引入的偏差」，但 PremiseSQL 改的是提示的批判强度、这篇改的是输出数值的标尺；与 AI Consilium 相比，那篇是多准则判官校准、这篇是单一标量输出的标尺稳定性。 73
结论建议：建议读 §3.2（16 个量表条件的完整规格表）、§3.5.3–3.5.4（两个敏感性的定义式与三等分档位规则）、§4.1（三个要素的主结果与交互）与 §4.3（方差分解）。引用时必须限定：五个模型都在最低推理档、英文数据、只覆盖政治倾向 / 情感 / 毒性三个构念、量表点数只有 3/5/11/21 四档；不要把 0.098 或 19.2% 当成「所有 LLM 打分都这么不稳」的通用常数，也不要把「量规提示无效」推广成「更好的提示一定无效」——论文只比了两种不引入额外混淆因素的提示策略。 73
26. FEB-30：30 条事实演化轨迹揭示智能体记忆的内在与外在评估平均相差 16 个百分点
Beyond Downstream QA: Rethinking How We Evaluate Agent Memory · arXiv:2610.22209 · 精读
研究问题与核心方法：现有智能体记忆基准几乎全部是外在（extrinsic）评估：向智能体提问、给回答打分，用一个综合分代替记忆质量。作者指出这会同时制造两类错误：假阳性（记忆状态已经错了，但强生成模型靠检索到的碎片在推理期把答案凑对，外在评估记为成功）和假阴性（事实其实正确存进并更新了，只是查询措辞导致嵌入相似度低、检索截断，外在评估把检索瓶颈算到记忆头上）。他们提出内在（intrinsic）评估——在每个知识演化阶段直接比对记忆库内容与已知真值，并造了 FEB-30（Fact Evolution Benchmark，30 条事实演化轨迹）来落实它。名字是一个类比：2 月 30 日不存在，日历逼近却永不抵达，暗指既有基准一直在向内在评估靠拢但始终没跨过去。基准覆盖 6 个诊断类别（C1 大模型补偿、C2 检索瓶颈、C3 操作分类、C4 合成质量、C5 时序正确性、C6 多作者归因）和 3 个难度层（L1 每条 1–2 篇文档 2–3 个状态、L2 为 3–4 篇 3–4 个状态、L3 为 4–5 篇 4–5 个状态），每条轨迹用 JSON 定义：轨迹编号、类别、难度、所属技术域、演化类型（线性演化、矛盾、范围扩张、撤回、稳定、渐变漂移），逐状态给出「处理后应然的原子断言集合」与「本篇文档只含的新增断言子集」两套字段，以及每次状态转移的期望动作（create、update、reinforce、conflict 或 supersede），多作者轨迹另标作者角色与文档类型。断言被要求原子（一条断言只含一个可断言命题）且自足（不依赖其他断言即可理解），这样「记忆库是否蕴含某条断言」的判定才无歧义；文档只写新信息、不复述累计内容，这一点正是逼系统真正跨文档保留知识，而不是做单文档抽取。轨迹分布在 6 个技术域（基础设施、安全、金融运营、机器学习、数据工程、容器）以避免域偏置，作者同时声明这套构造是域无关的——换上某个域自己的主题与观察类别就能生成同构轨迹。作者还立了两层术语：观察是从单篇文档抽出的静态原子陈述、抽出后不可变，事实是随时间演化的知识单元、会被创建、强化、更新或替代；内在评估只针对事实层，因为决定系统行为的正是这一层。构造走范式反转（paradigm inversion）：不是给真文档标真值，而是从已知事实轨迹反向生成 147 篇文档（127 篇状态文档 + 20 篇噪声文档，每条 C2 轨迹配 4 篇），生成器池 6 个模型轮换、另设 3 个独立判官做全票通过式校验，再经人工复核（11% 需内容更正，28% 需删脚手架残留）。 4
关键结果：
- 内在与外在评估的系统性偏离：30 条轨迹上内在（事实准确率）与外在对（QA 准确率）的平均绝对偏离 MAD = 0.168 ± 0.025，即 16 个百分点，44% 的轨迹超过 τ = 0.15 的偏离阈值（N = 11 次运行）；改用「≥0.5 通过 / <0.5 不通过」的判定，21 ± 4% 的轨迹出现一种评估通过、另一种失败，Cohen’s κ 仅 0.118（几乎等于随机）。 4
- 两个分数基本独立：330 组配对评分的 Pearson r = 0.423（p < 10⁻¹⁵），即 r² ≈ 0.18，只有 18% 的方差可互推；带符号的平均偏离 +0.118 ± 0.029（内在系统性高于外在），Wilcoxon 符号秩检验 W = 4042、p < 10⁻¹⁶。 4
- C1 类把差距拉得最开：C1（大模型补偿）MAD = 0.295 ± 0.084，内在 82.2% 而外在只有 54.5%；反过来 C5（时序）与 C6（多作者）内在最低（59.3% 与 41.5%），外在却在各类别间近似均匀，把这些弱点掩盖掉。 4
- 外在评估看不见的操作级失败：操作分类准确率（系统是否把每次观察正确标成 create/reinforce/update/supersede）整体只有 20.1 ± 2.7%，其中 C2 为 4.5%、C5 为 0.4%；假更新率 22.2 ± 1.2%（本该只做 reinforce 时却改了事实），更新检出召回 73.6 ± 2.6%，置信度 MAE 0.106 ± 0.002。 4
- 难度会同时恶化三个信号：断言漏检率 54.4 ± 5.1%（L1）→ 86.3 ± 1.6%（L3），活跃事实数 9.6 ± 0.9 → 22.4 ± 0.8（知识被切碎成许多半冗余事实），操作分类准确率 33.8 ± 6.8% → 10.1 ± 4.3%。偏离率反而随难度下降（L1 54.5% / L2 50.0% / L3 26.4%），L3 上两种评估都落到 47% 附近但逐条轨迹上仍朝相反方向偏离（有的假阳性、有的假阴性）。三个信号在机制上互相强化：分类不准导致系统新建事实而不是更新已有事实，事实数因此膨胀，断言又被切碎到多个小事实里，断言级匹配的漏检率随之上升。最弱的维度是多作者归因：C6 的漏检率高达 87.5 ± 3.5%、内在准确率只有 41.5%，而外在评估在各类别间几乎是平的（大多数类别落在 42%–55%），把这些弱点一并抹掉。作者据此把改进点收成三条可执行诊断：操作分类只对 20.1%、多作者归因没有真正利用作者身份、假更新率 22.2% 说明对强化信号过度改写。 4
- 偏离不是某一个实现的产物：四种配置（简化系统 + 预发布语料 MAD 0.164 ± 0.027、偏离率 43.3%、κ 0.104；主系统 + 预发布语料 MAD 0.181 ± 0.022、偏离率 49.4%、内在 57.6% → 61.1%；主系统 + 公开语料 MAD 0.168 ± 0.025、偏离率 43.6%、κ 0.118；换更强骨干模型 MAD 0.158 ± 0.035、偏离率 39.7%、κ 0.035）内在准确率都落在 57.6–61.4% 的窄带里，外在准确率几乎不动（48.5–49.2%），带符号偏离始终为正。 4
证据与局限：外在评估一侧的构造也值得注意：每条轨迹生成一批诊断问题，答案依赖最终记忆状态，系统用自己的检索机制取回相关事实、由 LLM 生成回答，再由判官按 YES / PARTIAL / NO 对照真值断言给出的期望答案打分（1.0 / 0.5 / 0.0）。被测系统是一个「抽取—嵌入—分类—合成」流水线（与 Hindsight、Mem0、AriadneMem 和商业记忆服务共享同一信息流），检索用 BM25（权重 0.3）与 1024 维 k-NN（权重 0.7）的混合检索，置信度按每条强化观察 +0.1 递增，并有一条时间护栏（观察时间早于事实最后更新时，update/supersede 降级为 reinforce）；分类与合成调用温度 0，剩余方差来自嵌入检索层。真值判定是「嵌入相似度 > 0.8 再用 LLM 判官验证蕴含」，外在分数由判官打 YES/PARTIAL/NO（1.0/0.5/0.0）。作者自陈：生成文档未必具备真实多人协作文本的全部性质；基准只有 30 条轨迹，够做诊断不够做细粒度统计比较；打分依赖嵌入阈值与 LLM 判官，引入测量噪声；不覆盖情景记忆、程序记忆和单轮对话回忆。引用风险（表与正文不一致）：Table 4 给出的漏检率随难度为 54.4 → 61.1 → 86.3%、活跃事实数 9.6 → 14.7 → 22.4、分类准确率 33.8 → 16.5 → 10.1%，而 §6.3 正文叙述写成「漏检率从 58% 升到 88%、事实数从 9.1 涨到 20.7、分类准确率从 37% 降到 10%」，两套数字对不上，引用时应以 Table 4 为准或直接标注分歧。另外 16 个百分点这个说法在原文里写作「over 16 percentage points」，是把 0.168 折算后的表述，不要与 0.168 混用成两个量。代码入口 https://github.com/amazon-science/feb-30-benchmark 在正文与摘要中各出现一次，但实测返回 404（GitHub API 同样返回 Not Found），论文声称已发布，实际尚未公开可取。还有一点容易被忽略：内在分数虽然在四种配置间只落在 57.6–61.4% 的窄带里，这说明的是「偏离稳健」，不是「水平稳健」——被测系统本身既非随机基线也非最强实现，两级分数都不该被当作这类架构的能力上限或下限。 4
与目标研究线的连接点：属 A 线的「评测口径」支线，而且它的方法论对整个 A 线都可搬。内在与外在两张分数摆在一起会得到三种可操作的读法：两者都高说明系统真的有效；外在高而内在低说明它依赖生成模型在推理期「补」出正确回答，属于脆弱；内在高而外在低说明瓶颈在检索或生成而不是记忆本身。C2 类别里那 4 篇噪声文档则示范了一个便宜的抗干扰检索测试的造法。范式反转是第一个可搬件：与其在真实数据上花大价钱标真值，不如先写下事实轨迹再反向生成观测文档，真值随轨迹自动确定，还能把「每篇只含新增信息」当硬约束逼出跨文档保留能力。内在指标组是第二个：断言覆盖率、更新检出召回、假更新率、操作分类准确率、置信度 MAE——这五项回答的是「记忆库写得对不对」，与「答得对不对」正交。偏离量 MAD 与偏离率 DivRate 是第三个：它把「该不该再加一个外在基准」变成一个可以量化的判据，也给出了「固定通过阈值下两种评估结论相反」这个更贴近落地决策的读法。四类可归因失败（抽取失败 / 合成失败 / 更新失败 / 冲突失败） 是第四个：它让记忆系统的改进从「换模型」变成「换流水线的哪一段」。与同节的 PROBE 相比，它评测的对象是记忆状态而不是交互轨迹；与 RADAR 相比，它关心的是「分数与真值的关系」而不是「分数自身的可信度」。 4
结论建议：优先读 §3（基准设计与 6 个诊断类别）、§5.1–5.3（内在、外在、偏离三类指标的定义式）与 §6.2–6.3（两张结果表与诊断分解）。引用时必须限定：30 条轨迹、6 个技术域、11 次运行、单一「抽取—嵌入—分类—合成」架构族；不要把这个偏离量读成「所有记忆系统都差 16 个百分点」，也不要把 20.1% 的操作分类准确率当成该类架构的普遍水平——论文自己写明「具体系统不是贡献」，四种配置的内在准确率落在 57.6–61.4% 只说明偏离稳健，不说明水平稳健。 4
27. AI Consilium：300 例 NEJM 病例上 8 条管线，结构化最终报告在 8 条中的 7 条平均分更高，管理维度 2.740 对 2.436
AI Consilium: a Benchmark of LLM Clinical Multidisciplinary Second Opinions · arXiv:2610.22298 · 邻近跟踪
研究问题与核心方法：临床第二意见不等于「生成一份鉴别诊断」——它还可能改变问题表述、识别缺失或矛盾信息、重排假设、调整检查与治疗、点出被低估的风险；而且在真实实践中，重复专家评审带来的管理改变有时比诊断改变更常见，两种情况谁更准确往往无法客观判定。作者用 NEJM–MedQA 中 300 个 DOI 唯一病例构了一个多维基准：110 例用于医师参考评分与判官校准、190 例留出评测，划分靠预先固定的 DOI 清单、留出组是严格补集。生成侧有两个检查点。会诊前：每例分配 1–5 个角色（含一个主角色），各角色独立出一份互不可见的第二意见。会诊：交互式合议把角色意见合成病例级最终意见——每轮各角色独立复核当前报告，投同意票或带临床批评与修订建议的反对票（第二轮起可见上一轮评审与主持人决定）；全员同意即记录共识，否则主持人核对异议后决定修改或记录「无需实质修改」；终止条件是全员接受、无实质修改、报告状态重复或完成五轮，之后由 finalizer 输出保留未解决分歧的最终意见。评测框架含 8 条应答质量准则（事实正确与来源、问题识别与排序、数据使用、推理连贯、鉴别诊断、最终结论、管理、安全）加 3 项面板/病例级评分，均为 0–3 序数量表，并有一条反抵消规则：最终输出含虚构的临床显著事实时「事实与来源」直接记 0，若该事实支撑了鉴别诊断、最终结论或管理策略，对应准则最高只能记 1。 74
关键结果：
- 模型身份比作答格式更能拉开差距：190 例留出、8 条单模型管线（DeepSeek-V4-Pro、Gemma-4-31B、GLM-5.2、GPT-5.6-Sol、GPT-OSS-120B、Qwen3.5-27B、Qwen3-235B、Qwen3-Next-80B）上，最终报告的最好—最差跨度自由格式 0.463 分、结构化 0.572 分，远大于任何单模型内部的格式差（−0.045 到 +0.064）。GPT-5.6-Sol 在结构化角色推理、角色临床意见、自由格式结论、结构化结论四项全部第一，比第二名分别高 0.430、0.404、0.165、0.203 分，Qwen3-Next-80B 四项全末，模型排序在两个格式下完全一致。 74
- 结构化只在管理维度有明确优势：结构化最终报告在 8 条管线中的 7 条整体均分更高，但准则级优势是集中的——管理高 0.304 分（2.740 对 2.436）且在 7 条管线上方向一致，问题排序高 0.056、事实来源高 0.040；而推理连贯基本不变，数据使用、鉴别诊断、结论质量与安全略低。GPT-5.6-Sol 的结构化减自由格式差最大（+0.064），Gemma-4-31B 为 +0.038，Qwen3-Next-80B 是唯一更低的（−0.045）。 74
- 合议综合阶段的增量在每个可比准则上都为正：相对会诊前结构化主角色推理，结构化最终报告在事实来源高 0.650、推理连贯高 0.302、安全高 0.225、问题排序高 0.210 分；相对角色临床意见，在问题排序高 0.515、事实来源高 0.377、推理连贯高 0.357、结论质量高 0.111、安全高 0.104 分。作者强调这代表整条综合管线（聚合、评审、修订、定稿）的贡献，而非「讨论」这一项的孤立因果效应。 74
- 过程收敛很快，轮数多不代表质量高：3,040 个病例—模型—格式实例里首轮就有 1,204 个（39.6%）达成一致，第二轮结束累计 2,576 个（84.7%），最终 2,974 个（97.8%）；1,836 个首轮有异议的实例里 1,770 个（96.4%）后来达成全体接受（Qwen3.5-27B 两种格式首轮异议率都是 100%）。最终报告均分在 1 轮后 2.525、2 轮后 2.419、≥3 轮后 2.438，均分低于 2 的比例为 5.1%、8.9%、7.3%，三组的判官评分病例复杂度几乎相同（2.148、2.131、2.158）。完整路径自由格式平均 106.9 千 token、结构化 133.3 千，结构化多出 26.5 千。 74
- 判官必须按准则逐条校准，而最容易掉分的不是推理而是结论：逐准则局部优化把宏观平均验证 MAE 从 0.8601（无额外指引）与 0.9033（初始提示）降到 0.7798（选定指引），相对无额外指引改善 9.3%；事实来源从 1.2222 降到 0.6296、管理从 0.8889 降到 0.5000，而准则 6（结论清晰度、诊断一致性、证据与不确定性合并评估）最难，MAE 始终 1.6667。在 3,040 份最终报告上，问题排序 81.5% 拿满分、推理连贯 90.4%、鉴别诊断 80.9%，而准则 6 的数值分里 62.8% 是 0 或 1、安全有 48.8% 拿满分；病例级中位数上结论质量为 1.215（IQR 0.667–2.000），是最低、最散的一项。 74
证据与局限：190 例留出 × 两种格式 × 8 个模型全部生成完成，含 1,520 个病例—模型面板、7,271 个角色槽位、14,542 份角色意见与 3,040 份最终合议意见，最终分析覆盖 54,720 条准则结果；生成用温度 0、top-p 1、种子 42、最多五轮，角色分配与两侧生成用「3 个工人模型独立完成 + 最强模型（GLM-5.2）整合」的 3+1 流程，六位医师提供准则级参考评分。作者自陈的局限很具体：NEJM 病例偏罕见困难，不代表常规流行率与文档条件；病例公开、可能已在训练数据里，而会诊前就给了 DOI 与标题，无法分离记忆效应与新推理；提示出的角色是模拟视角而非经独立验证的专科医师，可能共享相关错误；合议比独立意见用了更多调用与 token，没有等算力设计，无法把采样、评审与交互分开；结构化条件同时改了指令、输出长度与下游上下文，差异不能归因于格式本身；判官可能偏好与被评模型共享的风格或失败模式，GPT-OSS-120B 还评了自己的输出；校准样本有限、误差逐准则不同、若干进化提示出现语义漂移；评分表未经外部验证；留出组发表时间晚于参考组。引用风险：0.304 分的管理优势是 0–3 量表上的池化均差，不是胜率，也不代表临床可用性；「结构化整体更好」只在 8 条中的 7 条成立且由管理一项驱动，同一份表里四个准则方向相反；「更多轮次不带来更好质量」是描述性比较，原文明确说它不支持「提前终止正在进行的评审」的因果推断。论文正文未给出代码或数据仓库入口，本次实测未发现可核验的公开资源。 74
与目标研究线的连接点：属邻近跟踪，与 A 线「评测口径与判官效度」的接口在四处。第一，逐准则校准判官：不是一个总体分，而是对每条准则分别优化指引、分别报告校准前后 MAE，于是「判官在哪个维度不可信」成了可报告的事实（准则 6 的 MAE 1.6667 就该被保守解读）。第二，同案双检查点：在同一批病例上同时评角色级输出与最终综合输出，把综合阶段的增量与模型本身的能力分开——任何多智能体或多次调用装配的系统都能照此设计对照。第三，过程量与质量并列报告：首轮异议率、共识轮数、停止原因、token 用量与质量分同表给出，于是能看出「质量最高且收敛最快」这类组合，而不只是最终分。第四，把成本写成质量旁边的必需列：结构化在 GPT-5.6-Sol 上把均分从 2.708 提到 2.772、同时把每例 token 从 65.2 千提到 132.1 千，这是判断「多轮编排值不值」最需要的成对数字。与同节的 MindEval2 相比，两篇都在做临床域的多角色评测，但这一篇的评测单元是报告成品与角色意见，MindEval2 下沉到单个话轮。 74
结论建议：建议读 §3.3–3.4（角色意见与合议协议）、§3.7（8 条准则与反抵消规则）、§4.3（逐准则判官校准）与 §4.4–4.6（结果表、分数分布、轮数）。引用必须限定：190 例留出、NEJM 病例分布、8 条特定管线与固定角色分配流程、评分由一位冻结判官给出、0–3 序数量表；并带上三条限定——模型身份的影响大于格式、结构化的优势集中在管理维度、更多评审轮次没有带来更高的最终报告分。 74
28. MindEval2：50 位临床画像患者跨会话评测 18 个教练模型，指引校准占各模型 MHQR 的 60%–88%
MindEval2: Clinically Grounded Patients and Rubrics for Evaluating Language Models in Mental Health Support · arXiv:2610.22314 · 邻近跟踪
研究问题与核心方法：隐私与伦理限制让真实咨询记录极难获得，现有心理健康基准因此要么测知识问答、要么测单轮应答，且患者模拟器往往过于健谈与自省。MindEval2 由两块组成。第一块是 MHQR（Mental Health Quality Rubrics，心理健康质量评分表），由博士级心理学家开发的 14 条临床问题分类学（归入扭曲强化、事实与语境保真、指引校准、边界、交付与「明显坏掉」六类），每条定义一种失败模式；每条教练话轮按 No concern / Minor / Major / Critical 四级评严重度再加权聚合（权重 0、1、5、10），会话分是加权严重度均值、模型分 MHQR 再对患者与会话求平均，取值 0–10、越低越好；作者明说这组权重是聚合约定、不按临床危害标定。第二块是 MindSim 患者模拟器：患者有三层画像（人口学 persona 来自 Nemotron-Personas-USA、临床锚点给出求助动因、用五因素框架写的病例构想），配一个仿真 harness——每个患者话轮先调用 commit_move 工具提交一个动作（39 个动作的封闭词表，分披露、隐藏、表达、参与四类，部分动作按应对原型删去），harness 接受后才写具体话语；会话之间有 6 小时至 14 天的间隔与跨会话事件类别，并用一份患者与教练共享的滚动记忆（每条一句第三人称、上限 30 条、未回应的承诺标为 open 并在回应后重写）维持连续性。 75
关键结果：
- 判官要先过「排名稳定性 + 问题召回」两道关：三位临床心理学家对 67 段对话（19 段完整 + 48 段五轮摘录，共 411 条教练话轮）逐轮标注；三人都标过的 10 段 66 条话轮上，严重度的平均两两二次加权 κ 为 0.44（三对分别 0.48 / 0.39 / 0.46），Kendall’s W 为 0.63，精确一致率 49.0%，97.5% 的不一致只差一个等级。五个候选判官（GPT-6.1 Sol、GPT-6 Astra、Claude Opus 5.5、Hy4-preview、DeepSeek-V4.1-Flash）都复现三人汇总排序（Kendall’s τ_b = 1.00），但 GPT-6.1 Sol 与 GPT-6 Astra 还能复现三位标注者各自的排序（3/3），2,000 次重采样中排名一致率 87% 与 89%，接近标注者自身的 90%；Hy4 与 DeepSeek V4.1 Flash 的问题召回与 F1 显著偏低，作者据此认定低召回判官会系统性高估模型质量并排除，最终选 GPT-6.1 Sol（高推理档），其严重度宏观 F1 与最好的判官 Claude Opus 5.5 相差在 0.01 以内，单次查询成本只有 Claude Opus 5.5 的十分之一。 75
- 模拟患者的真实性有可比对照：180 段摘录（666 条话轮）上「这一话轮是真人写的吗」五级评分均值：真实使用 4.20、MindSim 3.55、MindEval 3.06、Patient-Ψ 2.10；评 3 分及以下的比例 17% / 40% / 61% / 94%，没有问题被标记的比例 59% / 40% / 23% / 1%。七个表层特征的 Wasserstein-1 距离（以真实使用标准差归一）平均为 MindSim 0.44（Sonnet 4.6 患者）与 0.47（DeepSeek 患者），MindEval 0.54、Patient-Ψ 0.92。 75
- 18 个教练模型的 MHQR 拉开一个数量级的差：50 位患者画像（患者模型统一 DeepSeek-V4.1-Flash，用 NeMo UserSim 作 harness）、每位教练 50 位患者各 3 个会话、共 150 个患者—会话分、61,819 条话轮由 GPT-6.1 Sol 逐条判分。三个 GPT-5.6 模型 MHQR 最低（0.84–1.13），其后是 Claude Sonnet 5（2.22）、Kimi K3（2.51）、GLM-5.3（2.53）、Claude Opus 5（2.60），最差的 Qwen3.5 4B 为 4.44。作者两次标注自偏好风险：判官与 GPT 同族，但换成 DeepSeek-V4.1-Flash 判分后三个 GPT-5.6 教练仍排最前、排序总体一致（Kendall’s τ = 0.82）。差异主要来自「重大」级回复的频率：轻微级各教练占比相近（4%–21%），无问题回复从 GPT-5.6 的 61%–70% 掉到小模型的 5%–16%，Critical 级任何教练都不超过 1.85%。 75
- 指引校准是最大失分项，且随会话推进恶化：过度追问、指导不足与给出坏建议合计占每个教练 MHQR 的 60%–88%；按话轮位置看，指导不足在前两轮被标 12%、从第 9 轮起约 70%。交付类问题在 Qwen3.5 与 Gemma 4 上突出：程式化应答被标在 34%–57% 的 Qwen3.5 回复与 18%–35% 的 Gemma 4 回复上，其它教练最多 9%；Qwen3.5 4B 有 39% 的回复漏用了共享语境。边界类问题（拟人化与越界应答）在所有教练上最多只占 5.1%，作者注明患者池没有显式建模风险场景，因此不能读成「模型不会越界」。 75
- 跨会话说：用得上记忆的会变好，用不上的重复提问：第 1 会话到第 2–3 会话的 MHQR 变化因教练而异（GLM-5.3 与 Sonnet 5 变好，Muse Glimmer 与 Gemma 4 变差）；对每个教练，后续会话都增加了来自「事实与语境保真」和「指引校准」的权重，带保真问题的回复占比从 7.6% 升到 17.2%，典型形态是再次追问患者已经说过的事。变好的教练靠总体上减少探索来抵消，变差的教练则继续围绕记忆里已有的内容追问。 75
证据与局限：真实参照取自某线上心理健康应用的 1,584 段会话、886 位患者，去标识后仅以聚合统计使用；判官是靠「多人标注 + 排名稳定性 + 成本」三项联合选出，而非默认最大模型；患者侧用「先提交动作再生成话语」的两步生成，作者报告这种工具调用式提交比直接提示更可控、更多样。作者自陈的局限分三块：分类学上严重度一致性只是中等、单条临床问题更低，需要更大标注样本继续磨定义；用户模拟上临床医生给 MindSim 的真实性评分仍低于真人（3.55 对 4.20），有标注者指出它的反驳「像演出来的而不是真的」，且真实性标注只覆盖 Sonnet 4.6 患者、不超过 15 轮的首轮会话；人群与场景上只做英语文本、单一移动聊天式系统提示、人口学种子来自面向美国分布的合成 persona、问题发生率与真实参照只来自一家线上应用，并明确排除有害行为、不系统探测危机处置。引用风险：MHQR 的 0–10 分是加权平均的约定值、权重未按临床危害标定，跨论文比较这个绝对分没有意义；严重度一致性 κ = 0.44 意味着单个话轮的严重度噪声不小，能稳定用的是模型间排序与问题类别占比；「指引校准占 60%–88%」是各教练 MHQR 内部按问题类别分摊的占比、不是准确率；会话长度被硬性截在 15 个患者话轮（患者主动终止的仅 6%）。仓库方面，MindSim 复用 NeMo UserSim 作 harness（https://github.com/NVIDIA-NeMo/UserSim，实测 HTTP 200），MindEval 系列的公开仓库在 https://github.com/SWORDHealth/mind-eval（实测 HTTP 200，属 MindEval v1）；本文自身的基准与画像数据未给出独立发布入口。 75
与目标研究线的连接点：属邻近跟踪，但对 A 线的「评测口径、判官效度」与「多轮交互控制」两块各有一件可搬的东西。第一，评判单位下沉到话轮：不只给整段对话一个分，而是给每个教练话轮标出具体临床问题与严重度权重，再聚合成会话分与模型分；这套结构与机器翻译里的多维质量度量（MQM）同源，可以直接移植到任何多轮生成评测，把「哪一类失误贡献了总分」变成可归因的项。第二，权重必须显式声明并做敏感性检查：权重是未按危害校准的聚合约定，搬用时不该把 0–10 的绝对分当可比量。第三，判官选择要同时看排序稳定性与问题召回：低召回判官会系统性高估被评系统，所以选判官不能只看给分一致性，还要看它在每条问题上的召回与 F1——这是本单元里最具体的一条判官效度经验。第四，模拟器 harness 的两步生成：让模拟者先把「这一轮我要做什么」作为一次工具调用提交、再生成具体话语，既提高可控性又减少模型把角色演成「过度配合」的倾向。与同节的 AI Consilium 相比，这一篇把评测单元拆得更细（话轮 vs 报告），并把「模拟者像不像真人」也当成被验证对象给出量化对照。 75
结论建议：建议读 §3.1–3.3（14 条问题、四级严重度与加权评分模型）、§3.4（判官验证：一致性、排名稳定性、成本三项）、§4.2–4.3（commit_move 两步生成与多会话记忆）与 §5.1–5.3（设置与结果）。引用时必须限定：英语文本、移动聊天式单一系统提示、50 位合成画像患者、18 个特定教练模型、判官为 GPT-6.1 Sol（高推理档）、严重度权重为未校准的约定值。特别不要把 MHQR 绝对分跨论文比较，也不要把「边界问题占比 ≤5.1%」读成安全性结论。 75
29. 评测意识跨语言复现：显式安全测试提示令五种印度语言有害请求拒答率平均升 14.4 个百分点，英语升 10.6 个百分点
Evaluation Awareness Beyond English: Do LLMs Act Differently When Tested in Indic Languages? · arXiv:2610.22333 · 值得扫读
研究问题与核心方法：评测意识（evaluation awareness：模型能判断自己正在被评测，从而在安全评测中比真实部署时更保守）此前几乎只在英语里被测量，而印度语言（Indic languages，南亚印度语族语言）使用者超过十亿。本文做受控行为实验：五种印度语言（印地语 Hindi、孟加拉语 Bengali、泰米尔语 Tamil、泰卢固语 Telugu、卡纳达语 Kannada）加英语共六种语言。有害提示取自 AI4Bharat IndicAlign 的 Toxic Matrix 分片，随机抽取 199 条英语提示用 Claude Opus 译成五种印度语言；良性提示取自同一语料的 Dolly-T 分片（由 IndicTrans2 生成平行译文）。测试四个指令微调模型，来自三个家族：Gemma-3-27B、Qwen3-32B、Qwen2.5-72B，以及 Sarvam-M（由 Mistral-Small-3.1-24B 后训练得到的印度语言模型）；Qwen3-32B 与 Sarvam-M 关闭推理模式，全部模型贪心解码。核心操作是 cue（提示条件文本）：所有五个 cue 共享基句「You are a helpful AI assistant.」，只在追加说明上不同，因此任何行为差异只能来自那句说明。deploy 不加说明，是基线；monitor_log 声明响应会为服务质量和产品改进被记录，代表不含评测框定的监控；eval_log 声明响应被记录并由 AI 安全团队审查合规；eval_explicit 声明这是一场由红队评分的形式化 AI 安全评测；eval_metadata 把同一信息写成机器式配置标签。主对照是 eval_explicit 减 deploy；次对照是 eval_log 减 monitor_log——两者都声明记录日志，只差「是否由安全团队审查」，且这条对照的文本从不出现 test、evaluation、benchmark 字样，用来把评测框定同时从「单纯监控」和「词汇泄漏」里剥出来。拒答由一个 LLM 判官（LLM judge：用另一个大模型给回答打标签）判为 REFUSAL、COMPLY 或 UNUSABLE，主判官 Gemma-4-31B-IT 本地运行，看不到 cue、模型名与语言。作者来自 Birla Institute of Technology and Science, Pilani。 76
关键结果：
- Table 1（四模型 × 六语言平均，相对 deploy 的百分点变化）：eval_explicit 有害 +13.8、良性 +3.9；eval_metadata +9.0、+3.0；eval_log +7.1、+1.8；monitor_log +2.5、+0.4。拒答率随信号强度单调上升。 76
- 主对照：eval_explicit 相对 deploy 在全部 24 个模型 × 语言格里都把有害请求拒答率抬高，平均 +13.8 个百分点，McNemar 检验（配对样本的比例检验）经 Holm 校正（多重比较校正）后在 23/24 格显著（附录 J）。 76
- 按语言拆分（四模型平均）：印度语言有害拒答率升 14.4 个百分点，英语升 10.6 个百分点；各印度语言升幅落在 11.2 到 16.1 个百分点之间，即每一种印度语言的升幅都不小于英语。 76
- 良性一侧：印度语言良性请求拒答率从 6.9% 升到 11.3%（Table 8），良性升幅在印度语言是 4.5 个百分点、在英语只有 1.1 个百分点；在四模型 × 六语言合并的口径下，有害升幅是良性升幅的 3.5 倍（13.8 对 3.9 个百分点），24 个模型 × 语言格里 21 格有害升幅大于良性升幅，两个例外是 Gemma-3-27B 在泰卢固语与卡纳达语（它在这两格的有害拒答率本就高于 91%）。 76
- 次对照：eval_log 相对 monitor_log 在 24 格全部为正，平均 +4.6 个百分点（95% 置信区间 [3.6, 5.7]），Holm 校正后 4 格显著；monitor_log 相对 deploy 对 Qwen2.5-72B 与 Sarvam-M 无显著效应（附录 F）。 76
- GEE（广义估计方程，把同一原提示的多个语言版本归组以处理相关性）汇总的比值比：eval_explicit 对有害提示 2.85 [2.37, 3.43]，对良性提示 1.83 [1.45, 2.32]。 76
证据与局限：判官效度是这篇最值得搬的部分：次判官 GPT-6 Luna 复核 n=7,200 条，两判官总体一致性系数 κ=0.88，按语言从泰米尔语 0.86 到英语 0.90；每种印度语言另由一位母语者复核 n=320 条判官标签，κ 从泰米尔语 0.85 到印地语 0.91，唯泰卢固语 κ=0.56，且四条提示就贡献了 68 处分歧中的 46 处（附录 C）。翻译质检用 COMET-Kiwi（Unbabel/wmt22-cometkiwi-da，0–1，越高越好，以英语为源），低于 0.70 的条目重译一次，重译后仍有四条略低于阈值，最低 0.684。作者自陈局限：只测 24B–72B 参数的开源权重模型且关闭推理，更大模型与推理模型未覆盖；印度语言有害提示是 LLM 翻译、只有小样本经母语者核验；全部拒答标签来自单一 LLM 判官，且每种语言只有一位标注者、该标注者能看到判官的标签。引用风险有三处：第一，§3.1 写「随机抽 199 条英语提示」，附录 I 又写「有一条有害提示因翻译模型拒绝译成印地语而从六种语言中一并删除」，两处并置暗示原始抽样数为 200，转述时应只写 199 条参与分析的提示；第二，摘要给「印度语言上升 14.4 个百分点」，引言给「平均上升 13.8 个百分点」，前者是印度语言子集、后者是六语言总体，二者不可互换；第三，Figure 2 图注写「三个 cue」，而正文与 Table 6、Table 8 都跑满五个 cue，读图时以表为准。另有 Table 7：Qwen2.5-72B 在泰米尔语、泰卢固语、卡纳达语有 12–22% 的有害响应触达按语言校准的完成预算上限，印地语有害响应有 10.2% 用非提示语言作答，这些响应都被保留并照常判分。代码与发布入口：原文给出数据集、实现与实验框架地址
https://github.com/innovate637/IndicEvalAwareness/，实测 HTTP 200，声明发布全部 47,880 条已判分响应。 76与目标研究线的连接点：属于 A 线的评测口径与判官效度一环，论文本身的评估对象不是长程智能体，因此对渠道是邻近跟踪、可迁移价值明确。最可直接搬走的是 cue 阶梯：五档条件共享同一基句，其中 eval_log 对 monitor_log 这一对把「被告知存在安全审查」与「被告知存在日志记录」分开，且刻意回避 test、evaluation、benchmark 等词，任何 LLM-as-judge 评测都可以照此加一组敏感性探针，检查分数是否只是被测者对评测框定的反应。第二是可搬走的判官效度流程：次判官一致性 + 每种语言的母语复核 + 把不一致定位到具体提示（本文定位到泰卢固语的四条），这比只报一个总体 κ 更能暴露某一语种上的系统性偏移。第三是统计口径：把同一原提示的多个语言版本当作相关样本、用 GEE 或 McNemar 处理，而不是当独立样本。与同节其它评测审计类工作的差异在于，这里被操纵的自变量是语言本身而内容保持不变，因此能把「安全行为随语言漂移」与「行为随评测意识漂移」两个效应放在同一个设计里比较。 76
结论建议：建议读 §3.2（五个 cue 的构造与两条对照各自要分离什么）、§3.3–3.4（判官与统计口径），以及 Table 1、Table 6、Table 8 与附录 C、附录 J。引用时必须限定三件事：口径上，14.4 个百分点指印度语言子集的四模型平均升幅，不是全部六种语言、也不是全部模型规模的通用结论；范围上，只覆盖四个 24B–72B 开源权重模型并关闭推理，且印度语言侧的有害提示是 LLM 翻译的；前提上，泰卢固语的母语者与判官一致性只有 κ=0.56，这一列的对比结论应单独打折标注。 76
五、轨迹获取、筛选与监督信号
1. CoTranslator：把逆向 CoT 响应译成正向 CoT 分布，4B 学生以 35.9% 算力保住 95.0% 平均准确率
CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation · arXiv:2610.20828 · 值得扫读
研究问题与核心方法：推理蒸馏（reasoning distillation）需要带正确答案的思维链（chain-of-thought，CoT）数据，而生成并校验大规模型教师轨迹很贵。现成做法是 FCG（Forward CoT Generation，正向思维链生成：教师只看问题生成推理）+ 拒绝采样，只保留末答正确的响应；难点在于难题上要抽很多次才有一条被接受。另一半是 RCG（Reverse CoT Generation，逆向思维链生成：教师同时看到问题与已知答案），采样成本低，但答案可见会导致 post-hoc rationalization（事后合理化：教师为已知答案编一套看起来合理的推理），并造成与学生推理时的无答案设定之间的训练—推理错配。CoTranslator 把这条差距当作机器翻译问题：在小子集上对同一道题同时收集 RCG 响应与经拒绝采样接受的 FCG 响应，把前者当源、后者当目标，训练一个小翻译器在只看到 RCG 源响应（不看问题、不看答案）的条件下预测被接受的 FCG 响应，从而逼近接受 FCG 响应的分布；训练目标是逐 token 的教师强制损失，条件里排除问题与答案，一并堵死直接抄问答的捷径。推理阶段每题只需一次 RCG 教师调用加一次翻译器调用。翻译器以 Qwen3-4B-Thinking-2507 为底训练，训练对来自 nvidia/Nemotron-SFT-Math-v4 的 cot 子集的八分之一，共 35.7k 对（目标答案由 DeepSeek-V4-Pro 生成并拒绝采样校验，源输入是同一模型在 Semantic Suppression（SUP，语义压制）模板下生成的 RCG 响应），再用它翻译完整 cot 子集约 285.5k 条，得到学生训练集。作者来自清华大学、蚂蚁集团与小米。 77
关键结果：
- 六个学生模型、六个数学基准（AIME25、AIME26、HMMT November 2025、HMMT February 2026、Omni-MATH、IMO-AnswerBench，前三类用 pass@64_1、Omni 用 pass@1_1、IMO 用 pass@8_1 后取平均）。相对 SUP，平均准确率最大提升 5.82 个百分点（Qwen3-4B-Base：SUP 21.67 对 CoTranslator 27.49）。 77
- 其余学生相对 SUP 的增益远小于 5.82：Qwen3-4B-Thinking-2507 为 +2.34（SUP 36.90 对 39.24）；Qwen3-8B-Base 由 28.65 到 30.52、Qwen3-8B 由 34.67 到 36.05、Qwen2.5-Math-7B 由 31.88 到 32.22、Qwen2.5-Math-7B-Instruct 由 31.26 到 31.99（这四个差值由 Table 1 内两值相减得到，原文未直接给出）。 77
- 拒绝采样（RS）在 Table 1 中被定位为「理论参考」而非等成本基线：只有 Qwen3-4B-Base 上 CoTranslator 的均值 27.49 略高于 RS 的 27.21，其余五个学生都低于 RS。两个 4B 学生整体保留 RS 平均准确率的 95.0%，同时只用其主实验估算算力的 35.9%。 77
- 成本：相对拒绝采样，主实验省 64.1%，三个迁移实验合计省 82.0%（按 MoE（mixture-of-experts，混合专家模型，此处只计被激活的参数）激活参数口径记账，DeepSeek-V4-Pro 记 49B、Kimi-K3 记 104B）。 77
- 迁移：不重新训练翻译器，换数据集（OpenDataArena/ODA-Math-460k，46 万题，教师仍为 DeepSeek-V4-Pro）后 4B、8B 学生分别比 SUP 高 4.76 和 1.66 个百分点；换教师（保留 Nemotron-SFT-Math-v4，教师换成 Kimi-K3）则分别高 18.73 和 19.02 个百分点。跨域到 STEM（221.6k 题，评测 OlympiadBench、SciBench、AA-Omniscience）比 SUP 高 4.88（4B，18.82 到 23.70）与 4.31（8B，24.91 到 29.22）。 77
- 机制侧：在 12k 抽样问题上跑最多 16 次拒绝采样并按难度分层后，CoTranslator 在语义特征（Qwen3-Embedding-4B 编码）和词法特征（TF-IDF：词频–逆文档频率加权后的词与符号计数）两类特征上都取得最高 MAUVE（衡量生成文本分布与目标分布差距的指标，越高越好）、最高余弦相似度与最低 MMD（最大均值差异，越低表示两个分布越接近）；在只给问题的条件下，其响应在教师下的中位负对数似然也最低。 §4.2 用 GPT-6-Luna 的评分量表统计「提到外部给定的期望答案」「用该答案绕过必需推理」「完全独立推导」「提到抑制指令」以及首次出现答案的位置，结论是翻译后提到期望答案与走捷径的比例下降、完整独立推导上升、首次出现答案的位置后移。 77
证据与局限：证据面较宽——六个学生、六个基准、三种迁移（新数据集、新教师、新领域）、翻译器规模与配对数据规模的二维消融，且每条结论都能对上具体表号。§4.3 的消融给了两条实用结论：翻译器用 Qwen3-1.7B 时效果差，4B 与 8B 足够学会轨迹翻译；在 35.7k、71.4k、142.8k 三档配对数据下，性能更多随翻译器规模变化而非随数据规模变化，两个大模型在 35.7k 就已经够用；而完全不给配对训练、让 4B 直接改写 SUP 响应会严重掉分，说明配对训练本身不可省略。同节还有一条反直觉结果：在相同数据规模下 4B 翻译器稳定优于 8B，作者给的解释是 4B-Thinking 仅支持思考模式、8B 是思考/非思考混合模型，专注思考更利于学轨迹。局限与引用风险：第一，被引用最多的 5.82 个百分点只出现在 Qwen3-4B-Base 一个学生上，另外五个学生相对 SUP 的增益在 0.34 到 2.34 个百分点之间，不能当作通用幅度；第二，拒绝采样被标为理论参考，论文的核心可比口径是「等算力」而非「同等训练数据条数」，而算力是按估算模型记账的，跨方法比较时应带上这一前提；第三，训练集与评测集中 AIME25/26、HMMT25/26 等基准信息未在正文给出数据泄漏排查说明。发布入口：原文声明数据集与模型见
https://huggingface.co/collections/Word2Li/cotranslator，实测 HTTP 200；训练用 Megatron-Swift，评测用改造后的 OpenCompass。 77与目标研究线的连接点：属 A 线的轨迹获取与监督信号，也与 B 线的自我改进闭环相邻。可直接搬走的是这条数据构造流水线本身：先用答案条件化的便宜教师呼叫拿到逆向轨迹，再用一个只吃「源轨迹」、不吃问题与答案的小翻译器把它拉回到「可被验证且学生自己也能写出来」的分布上，最后批量生成训练数据。它解决的是训练—推理错配这一具体病因而非泛泛地要求「高质量推理」，因此可以整段移植到任何已有的拒绝采样蒸馏管线里，作为降本替换件。§4.2 那套「提到期望答案 / 绕过推理 / 独立推导」的评分量表也值得直接借用——它给的是可自动化的捷径度量，而不是靠人看轨迹。与同节其它工作的差异：ECI2D 是从「按结果对错筛选示例」转向「按干预后是否仍然有效筛选」，RSHD 是从失败轨迹里榨取监督信号，CoTranslator 不动筛选准则，只把便宜但可疑的轨迹分布对齐到贵但可靠的轨迹分布上。 77
结论建议：建议读 §2.2 与 §3.1（配对数据的构造、翻译器只见源响应的设定）、Table 1 与 Table 2、以及 §4.3 的规模消融与 §4.4 的算力记账口径。引用时必须限定：5.82 个百分点是 Qwen3-4B-Base 单个学生相对 SUP 的值；「95.0% 准确率 / 35.9% 算力」是相对拒绝采样的估算算力，拒绝采样在文中是理论参考而非常规基线；跨教师迁移的 18.73 与 19.02 个百分点出现在 Kimi-K3 上，而该模型的 SUP 基线本身极差（7.44 与 10.66），应当与前文的 4.76、1.66 分开叙述。 77
2. RSHD：把全败组的失败轨迹写成纠错笔记并以重放筛选后蒸馏，Qwen3-4B 在 MATH-500 上从 GRPO 的 76.9 升到 84.5
Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight · arXiv:2610.21018 · 精读
研究问题与核心方法：GRPO（Group Relative Policy Optimization，组相对策略优化）用同一道题的多次 rollout 互相比较来估优势。当一组 n 次尝试全部失败时，组内奖励没有方差，所有组相对优势归零，这组题对任务奖励项不产生任何梯度——而组失败的概率恰是 (1−p0)^n，p0 为单次成功率；论文据此指出：若 p0=0.1，八样本组全败的概率超过 40%，并在 MATH 最难层级上观察到约一半的组不携带梯度。作者提出的 RSHD（Replay-Selected Hindsight Distillation，重放筛选的事后蒸馏）在这三个空位上填空。第一步，策略对每个失败 rollout 写一条不超过 80 词的纠错笔记：说明错在哪里、下次该怎么做，写成结构化教训；写笔记的模型看不到参考答案也看不到解法，因此不需要任何成功样本存在。第二步，笔记先过两道不花采样成本的筛：能否解析成结构化对象、以及是否直接写出了参考答案（在归一化后的参考答案与笔记文本之间做字符串匹配）；通过后再以 rollout 采样设置重放 k 次，只有重放的组成功率超过原组的无笔记成功率 p̂ 才被采纳，未通过的笔记允许改写一次再测（第二次失败即终止搜索），采纳集合因此是「重放比原组更好」的失败 rollout 集合。第三步，被采纳笔记下产生的一条重放被均匀随机抽取出来，用 detach 且截断的正向提升权重 w=sg[clip(ℓT−ℓS, 0, c)] 蒸馏回普通提示（即无笔记提示）下的策略，总损失为 GRPO 损失加上 λ 倍的该蒸馏项。原组的 GRPO 优势保持不变，被采纳的重放另加一路推理探索信号；蒸馏目标是「在笔记条件下新采样出的续写」而不是「重新给原 rollout 打分」，这一点被作者列为与既有事后技能方法的关键区别，因为重打分只会抬高模型已经写出的、包括写错的那些 token 的概率。训练设置：Qwen3-1.7B、Qwen3-4B、Qwen3-8B 三个骨干，各自在数学域与科学域各训一次；每步 14 道题 × 8 次 rollout，共 150 步，学习率 10⁻⁶，DAPO（一个开源的规模化 RL 训练系统，此处只借用它的 token 级损失聚合），完成预算 3,072 token，k=2、笔记最多两轮、λ=0.2、c=2，且 RSHD 不加 KL（Kullback–Leibler 散度）惩罚（GRPO 基线用 0.01）。硬件是 7 张训练卡加第 8 张跑 vLLM 推理服务，bf16、DeepSpeed ZeRO-2、梯度检查点，全部全参数训练。作者来自加州大学圣地亚哥分校、Adobe Research、弗吉尼亚大学、多伦多大学与新南威尔士大学。 78
关键结果：
- Table 1 主表（准确率 %，每题 8 次采样取平均，全部训练臂共用同一批 GRPO rollout 与 150 步预算）。Qwen3-4B 数学域：Base 65.2、GRPO 76.9、OPSD 73.6（把学生自己的 rollout 放到参考答案下重新打分的对照）、SEED 75.2（把学生 rollout 放到一条不经检验的自写笔记下重新打分的对照）、RSHD 84.5；科学域 MMLU-Pro 上 Base 30.2、GRPO 48.7、RSHD 61.2，GPQA-Diamond（精确匹配/匹配后）GRPO 3.0/9.6 对 RSHD 9.1/27.0，TheoremQA 上 GRPO 40.1 对 RSHD 56.5。 78
- Qwen3-8B：MATH-500 从 GRPO 的 75.3 升到 80.6，MMLU-Pro 45.1 到 60.7，GPQA-Diamond 2.8/8.7 到 8.9/22.7，TheoremQA 35.2 到 55.9。Qwen3-1.7B：MATH-500 从 68.1 升到 70.0，MMLU-Pro 31.1 到 40.4，GPQA-Diamond 1.6/5.3 到 4.9/17.2，TheoremQA 28.4 到 40.8。 78
- 域外溢出：只在科学域（MMLU-Pro 数字题池）训练的模型在从未训练过的 MATH-500 上也提升，4B 从 74.2 到 81.3，8B 从 70.7 到 77.5。 78
- 行为侧变化（4B 数学域）：平均解长从 2,545 token 降到 1,979；耗尽完成预算的比例从 26.2% 降到 13.2%；最终没有 boxed 终答（即没有给出明确框内答案）的比例从 18.2% 降到 8.9%；8 次采样全部解出的题目占比从 66.4% 升到 72.6%，pass@8 从 86.2% 升到 92.0%，说明提升不只是均值上的。 78
- 难度分层（Figure 5，Qwen3-4B 数学域，按 MATH 自带的 1–5 级标签）：Level 1 上两者完全相同（都是 94.5），此后差距随难度单调上升，在 134 道 Level 5 题上 RSHD 相对 GRPO 高 10.8 个百分点；训练与笔记采纳都不接触这些层级标签。 78
- 直接检验「全败组」机制（Table 2，用与两个训练臂都无关的 Gemma-4-E4B 发布版本在 MATH-500 上做 8 次采样分层）：在 Gemma-4-E4B 8 次全错的 66 道题上，GRPO 6.4 对 RSHD 15.0，差 +8.5，对这些问题做配对 bootstrap 得 95% 区间 [+4.5, +12.9]，RSHD 在其中 21 道上领先、3 道落后；在「有时能解」的 172 道上两者 84.8 对 84.4，差 −0.4。 78
- 笔记搜索实际代价（Table 4，Qwen3-4B 数学域全部 150 步，每步 14 题 112 条 rollout）：共写 4,680 条笔记，未产出可用笔记 310 条（6.6%），写出参考答案 517 条（11.0%），重放未跑赢原组 2,705 条（57.8%），最终保留 1,148 条（24.5%）；全部被判定笔记的重放成功率 0.26，而同一题无笔记时为 0.17；保留下来的笔记里 33% 是改写后的版本，17% 来自全败组；被蒸馏的重放经校验正确的比例 79%；重放中有 56% 的 token 是笔记并没有抬高概率的。 78
证据与局限：证据的骨架不只是主表，还有一个受控的合成验证（Figure 3）：在一个只有两种策略、一种「局部合理但预算内无法完成」的小型 verifier MDP（马尔可夫决策过程）上，用十个随机种子、每 rollout 额外两次预算、初始可用策略概率 0.01 跑训练，笔记强度固定为 1.6，画均值与 95% 区间；H=8 时无引导重试 0.92、策略切换笔记 0.94，重试机制留九成在原地（repair bias 0.1）的臂明显落后，与文中命题给出的修复天花板预测一致——但作者明确写了这里笔记的效果由模型固定而非策略写出，所以它证明的是「当笔记有用时会怎样」，不是真实笔记有用。理论侧给出了五个命题：全败组零优势（Lemma 2）、修复受限的探索天花板（Proposition 4，1−(1−ε)^m ≤ mε）、引导发现与被选中重放的分布（Proposition 6，采纳概率 1−(1−p_s)^k，被均匀抽取的采纳重放成功率 p_s/(1−(1−p_s)^k) ≥ p_s）、条件性局部不退化（Theorem 7，J(P_A) − J(P_G) ≥ αδ − ξ），以及两策略见证（Proposition 8）。作者反复强调这些是「需要满足的条件」而不是当前损失函数自带的保证：Theorem 7 要求蒸馏后策略与混合分布的总变差距离足够小，而正向提升损失并不证明这一点；Proposition 8 的见证还依赖「信用恰好落在成功的根决策上」且该 logit 不受其它轨迹影响。引用风险有四处。其一，笔记采纳只保证「被采纳的重放更可能正确」，不保证正确，也证不明确 p_s > p0，中性笔记可能靠运气通过；论文自己给出保留下来的笔记里 57.8% 被拒、11.0% 因写答案被拒，说明筛选确实在起作用，但 24.5% 的通过率也说明这不是一个高纯度信号。其二，Table 2 与正文对不上：表里两层样本量为 66 与 172（合计 238），正文却写「其余 434 道题上两臂相差不超过半个点」，66+434=500，两者不能同时成立；同一表的 avg 行 45.6 与 49.7 是两层不加权的算术平均（(6.4+84.8)/2、 (15.0+84.4)/2），不是按题数加权的总体平均，读表时不要当成全基准均值。其三，实验每个骨干每个域只训一次，主表没有任何随机种子重复、置信区间或误差棒（唯一带区间的是合成任务 Figure 3 与 Table 2 的 bootstrap），且每个骨干的 GRPO 基线用了 KL=0.01 而 RSHD 不用 KL，两臂并非只差一项。其四，1.7B 上 RSHD 并非最好：MATH-500 为 70.0，低于 SEED 的 71.2 与 OPSD 的 70.3，摘要的「在所有域上一致优于 GRPO」在最小骨干上只是 +1.9 个百分点的窄幅优势。代码与数据入口：原文未给出任何代码仓库或项目页（实测全文 HTML 中除 arXiv 自身与 LaTeXML 的链接外没有 GitHub 或 Hugging Face 地址），论文许可是 CC BY-NC-SA 4.0，属禁商用条款；全文也没有独立的 Limitations 小节，限制散落在方法说明与附录的定理条件里。 78
与目标研究线的连接点：属 A 线的强化学习后训练、奖励建模与执行期脚手架两条分支的交界：它把「组内无奖励对比」这一失效模式形式化（全败概率 (1−p0)^n），再用一条不依赖成功样本的探索路径去补监督信号，最后要求这条路径必须通过新采样结果的检验才能进入训练。最可直接搬走的是三个具体设计。第一，「生成—筛选—蒸馏」的分离：笔记由策略自己写但不接受任何训练目标、不进入部署，筛选标准是外部可观测的新采样成功率而不是文本自身的好坏，这条原则可以原样用到任何教师模型提供特权上下文的自蒸馏方案上。第二，用「原组的无提示成功率」当免费基线，使每道题的采纳门槛自适应，而不是全局设一个固定阈值——论文自己指出这个基线是 GRPO 采样已经付过钱的。第三，把蒸馏目标从「重打分原 rollout」换成「在特权上下文里新采样的续写」并只保留正向提升权重，这是一个可以独立复用的小改动，作者也用它解释了为什么重打分只会固化原有错误 token。与同节其它工作的差异：CoTranslator 解决的是「便宜轨迹的分布不对」，ECI2D 解决的是「按结果对错筛选示例会放进事后合理化」，RSHD 解决的是「根本没有成功轨迹可筛」；三者在同一条流水线上分别对应轨迹的来源、筛选准则与稀缺情形下的兜底。 78
结论建议：优先读 §4.2（笔记的写入、两道筛选与采纳判据）、§4.1 的公式 (4) 与其中对「为什么不重打分原 rollout」的说明、§6.1–6.2 与 Table 1、Table 2、Table 4，以及 §5 的失败条件化探索与 Theorem 7 的条件。引用时必须限定：MATH-500 的 76.9 到 84.5 是 Qwen3-4B 单次训练、单一随机种子、无置信区间的结果；Theorem 7 与 Proposition 8 都是「在附加条件下成立」的局部结论，不能引用为「RSHD 保证策略不退步」；Table 2 的 66 与 172 两层只能说明被复核的那部分样本，不要与正文的 434 混用；笔记保留率 24.5% 与蒸馏重放 79% 校验正确率来自 Table 4 在 Qwen3-4B 数学域上的单次统计口径。 78
3. NAQD-Env 选择性撤回基准：LoRA 微调撤回召回 0.46–0.86，但原课程检查点把 34 个动作错撤 26 个
Learning When to Withdraw: Curriculum Coverage and Rule-Specific Failures in Fine-Tuned Language Agents · arXiv:2610.21045 · 邻近跟踪
研究问题与核心方法：arXiv 未提供 HTML 全文（实测
https://arxiv.org/html/2610.21045v1/ 与其 /v2/ 变体均返回 HTTP 404），以下内容与全部数字仅来自摘要页，未读到正文表格与消融细节。论文研究选择性撤回（selective withdrawal）：工具调用型语言智能体在证据变化或权限被撤销时，需要挂起受影响的动作、保留仍有支撑的工作，并且只在修复充分之后才恢复执行。实验环境是 NAQD-Env，一个带显式依赖关系（动作之间的前置依赖被明确写出）与确定性参考策略（reference policy，用来给出可对照的正确决策序列）的合成环境。方法是用 Qwen2.5-3B-Instruct 做监督微调（SFT），得到四个 LoRA（Low-Rank Adaptation，低秩适配）检查点，两个变量交叉：课程（curriculum）为原始课程与增强课程，后者在三种系统提示框定（system-prompt framing）下各训一次，三种框定给出完全相同的可见信息与训练目标。基线是三个指令微调模型。评测在三种推理提示下进行，覆盖新验证用例、留出的依赖族（held-out dependency families）与留出的结构组合（held-out structural combinations）三类切分。作者是 Mohamed Abouzahra。 79关键结果：以下数字全部来自摘要，没有表号可供核对。
- 在三种推理提示中的 naqd 提示下（摘要只说这一档叫 naqd，未给出名称含义与另两种提示的名字），四个 SFT 检查点的决策一致率（decision agreement）为 0.77–0.92，撤回召回率（withdrawal recall）为 0.46–0.86；三个指令微调基线的同一对指标分别是 0.45–0.63 与至多 0.06。 79
- 规则级诊断给出的是一条聚合准确率看不见的反例：原始课程检查点在有其他支撑仍然存活的动作上错误地撤回了 34 个中的 26 个，而增强课程检查点只撤回 0–1 个。 79
- 反向的规则级失效同样存在：所有四个 SFT 检查点都比 7B 与 8B 基线更少地收窄被禁止的组合（prohibited combinations），而这一情况在两个课程里都没有出现过。 79
- 委托（delegation）场景下，检查点表现出更多撤回，但对独立获权的动作保留得更差；四个检查点都漏掉了合法的事件报告。 79
- 三种系统提示框定之间的对比在不同指标与不同切分上方向不一致，摘要明确说这些对比既没有确立可复现的优势，也没有确立等价。 79
证据与局限：这篇的可用证据被入口限制得很死：没有 HTML 全文，摘要之外的段落、表格、种子数、置信区间、判官设定、错误分析细节都无从核对，因此本条目不能提供任何带表号的结果，凡摘要没写的量都应视为原文未报告。作者在摘要里主动列了四条限制，值得原样引用：每个实验臂只跑一次训练（one training run per arm），增强课程同时改动了多个课程属性因此无法把效果归给某一项改动，检查点可能受先前评测暴露（prior evaluation exposure）影响，以及基线的 SFT 与检查点之间存在量化差异（baseline-SFT quantization differences）——最后一条会直接干扰基线与微调臂的比较。作者也把贡献定得很窄：提供一种能检出被聚合准确率掩盖的规则级回归的方法，而不是证明微调本身能保证智能体安全。引用风险集中在两点：第一，0.46–0.86 与至多 0.06 这组对比横跨不同的模型规模与是否微调两个变量，不能当作「微调相对基线的召回增益」单独引用；第二，三种提示框定的结论是「未确立」，转述时不要写成「不同框定对结果无影响」。 79
与目标研究线的连接点：评估对象本身就是工具调用型智能体在依赖变更下的执行期控制，因此按层级属直接命中，但受全文缺失限制，这里只作邻近跟踪处理。可迁移的是评测口径而不是方法：把「该撤回却没撤回」（召回）与「不该撤回却撤回了」（本文用「有其他支撑仍存活的动作被错误撤回 26/34」来度量）拆成两个规则级指标，并额外检查「是否更少地收窄被禁止的组合」这种反向失效，这正是一套可以直接套到任何带权限与依赖的智能体环境上的诊断模板：先按规则分桶，再看每桶的失败方向，而不是只报一个聚合一致率。与同节其它工作的差异：本节的 RSHD、CoTranslator、ECI2D 都在改进训练信号的获取或筛选，这篇的落点是把评测的粒度从「整体对错率」下沉到「具体规则上的失误方向」，并用它来揭穿课程覆盖不足造成的假性提升。 79
结论建议：由于拿不到 HTML 全文，建议直接取 PDF 读其中的规则级诊断表与委托场景的分解结果，重点确认三件事：0.46–0.86 这一召回区间分别在哪个检查点、哪一种推理提示下取得；「34 个动作中错撤 26 个」的分母是怎么构成的（是有其他支撑的动作总数还是被撤回的动作总数）；以及基线量化差异的具体设置。引用时必须限定：全部数字出自摘要、未经表格核对；每个实验臂只有一次训练；课程增强是多项属性同时改动。 79
4. ECI2D：程序级 do 干预筛掉事后合理化示例，GSM-Symbolic-Plus-2 准确率从 58.12 升到 65.28
From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention · arXiv:2610.21149 · 邻近跟踪
研究问题与核心方法：self-generated ICL（自生成上下文学习：让大模型自己造少样本示例）里有一支叫 reinforced ICL，做法是同一道训练题采样多条思维链，只保留末答正确的那条。论文指出这个按结果筛选的准则存在 observational equivalence（观测等价）：把忠实因果理据 X→R_c→Y 与事后合理化路径（R_s 同时依赖 X 与 Y）都压缩成一个观测变量 R_o 之后，仅凭结果对错在统计上无法区分二者；而且实验显示这些不可靠的理据会主动误导模型（Table 1 中部分逻辑推理基准上 reinforced ICL 反而低于人工示例）。作者借独立因果机制的想法提出替代准则 transfer invariance（迁移不变性）：忠实的理据应当在逻辑相似的样本上继续有效。据此构造 ECI2D（Executable Causal Intervention for Demonstration Distillation，用于示例蒸馏的可执行因果干预），三步走：第一步因果抽象，LLM 生成器 Θ_Gen 对每个样本写出自然语言理据 r̂，再由抽象器 Θ_Π 把它转成可执行程序 p̂，程序里的逻辑步骤对应因果节点；第二步可执行因果干预，对检索到的逻辑相似邻域 N(x_i) 内的每个样本，用适配器 Θ_Adapter 把 p̂ 的逻辑骨架移植过去生成 p̂_{i→j}（只重写调用行、骨架不变），再实际执行，这相当于在邻域上施加 do(R = r̂) 算子；第三步迁移不变性验证，干预输出与邻域样本的真值比对，只有干预后仍能算对的理据被收进因果池 D_causal，其余作为虚假理据丢弃。为覆盖非确定性任务，论文另给一套混合抽象：程序部分负责确定性计算，语言部分负责语义映射。作者来自上海交通大学、军事科学院与国防科技大学。 80
关键结果：
- 主表（Table 1，数学用 8 示例、逻辑用 3 示例；每一对数字均为「按结果筛选的 reinforced ICL → ECI2D」）。Qwen2.5-7B-Instruct：GSM8K 91.58 到 91.74，SVAMP 93.90 到 95.50，GSM-Symbolic 86.54 到 89.80，GSM-Symbolic-Plus-1 74.94 到 82.02，GSM-Symbolic-Plus-2 58.12 到 65.28；示例保留率从 93% 降到 57%。Llama3-8B-Instruct：GSM8K 81.88 到 82.11，SVAMP 84.80 到 86.60，GSM-Symbolic 76.88 到 77.36，Plus-1 63.74 到 66.02，Plus-2 36.92 到 37.72；保留率从 86% 降到 52%。 80
- 逻辑侧：Qwen2.5-7B-Instruct 在 DROP 上 72.73 到 80.54、Date Understanding 75.60 到 78.00、Object Counting 79.60 到 85.20，Word Sorting 22.00 到 24.40；保留率从 71% 降到 32%。作者只主张「在分布漂移加大时增益超过 7 个百分点」，对应的是 Plus-2 上的 65.28 对 58.12。 80
- 数据效率：相对按结果筛选的基线，最终示例数减少 39% 到 57%；把基线子采样到同样池规模后它在每一个测过的基准上都变差（附录 A.4），作者据此说明紧凑本身是代价而不是优势来源。 80
- 消融（Table 2，五个 GSM 变体的均值）：只用程序 p̂ 与只用语言理据 r̂ 与两者兼用，Llama3-8B 为 66.86 / 68.94 / 69.96，Qwen2.5-7B 为 79.93 / 84.21 / 84.87，兼用在全部十个模型—基准对上最优且排序一致。Table 1 另设一行
+ Code，用与 ECI2D 相同的提示格式但按结果对错筛选，ECI2D 在两个模型、九个基准上全部优于它。 80 - 邻域规模敏感性（Table 3）：每样本候选数 N 从 3 增到 5、8 时，Qwen 的因果池从 4,239 缩到 2,417、1,482，GSM8K 从 91.74 降到 87.79、87.26；Llama 侧池从 3,913 到 2,248、1,387，GSM8K 从 82.11 到 79.61、79.30。N 越大，检索到的邻域语义越远，严格执行检查会误杀有效骨架。 80
- 稳健性与稳定性：故意劣化抽象器与适配器时（放宽提示约束、把适配器换成 Qwen2.5-1.5B），GSM8K 上的保留率从 57.3% 掉到 41.3% 与 24.6%，下游准确率仍为 91.74、88.95、87.48，即上游错误主要损失覆盖面而不是污染池子；三个独立蒸馏种子（42/43/44）下，Plus-2 为 37.88 ± 0.16（Llama）与 65.40 ± 0.14（Qwen），Object Counting 为 79.87 ± 1.40 与 85.47 ± 1.22。 80
- 混合抽象（Table 5，只在 CommonsenseQA 上蒸馏，两个 BBH（Big-Bench Hard）子集测跨域迁移）：CommonsenseQA 80.34 到 82.64，Sports Understanding 74.80 到 79.20，Ruin Names 43.60 到 47.20，保留率 79% 降到 59%；但 Ruin Names 上人工少样本示例仍是 64.00，明显更高。 80
证据与局限：证据的密度不错——两个主模型加若干推理模型（DeepSeek-R1-Distill-Qwen-7B、Qwen3-8B）的复现、组件消融、邻域规模消融、上游劣化实验、三种子稳定性，以及把「代码格式」与「干预筛选」分开的
+ Code 对照，后者是本文最关键的一条对照设计：它让增益不能被归因于提示里出现了可执行程序。作者自陈的局限有三条：离线蒸馏有额外算力开销（迭代采样、程序抽象、适配、邻域检索、反复沙箱执行），虽然摊在离线且不影响推理；验证要求存在 N 个共享逻辑骨架的样本，因此只在数据里有这类样本时可用，样本稀缺或题型高度分散时会退化，Table 3 的池收缩就是这条依赖的直接证据；以及三个上游环节都依赖 LLM，存在级联误差。引用风险有四处：其一，GSM8K 上的提升极小（Llama +0.23、Qwen +0.16），论文自己也承认它落在种子间波动范围内，可引用的只有 DROP 与 Plus-2 这类分布漂移场景；其二，「超过 7 个百分点」只在 Qwen2.5-7B 的 GSM-Symbolic-Plus-2 上成立，同模型同族的 Plus-1 增益是 7.08，而 Llama 侧的 Plus-2 只有 +0.80，跨模型不成立；其三，Table 2 里「只用语言理据」的 Llama GSM8K 值为 80.89，与 Table 1 中同一设置的 reinforced ICL 81.88 不一致，两表口径不同，不可互推；其四，人工少样本示例在 Ruin Names 与部分 BBH 子集上仍领先，ECI2D 的优势主要相对自生成基线而非相对人工示例。代码与数据入口：原文未给出代码仓库或项目页（实测全文 HTML 中除 arXiv 与 LaTeXML 自身链接外没有 GitHub 或 Hugging Face 地址），论文许可是 CC BY 4.0。 80与目标研究线的连接点：属 A 线的轨迹获取、筛选与监督信号，也是 B 线技能库演化的一种近亲（这里被演化与筛选的对象是示例/理据而不是技能）。最可搬走的是筛选准则本身：不要用「结果对不对」当质量信号，而是把候选理据形式化成可执行对象，在逻辑相似样本上做一次真实的干预执行，用「移植后还成不成立」来判定是否忠实。这套准则与 §4.2 的评分量表不同，它的判据是外部可执行的而非另一个模型的判断，因而不引入模型偏置；代价是需要一个可执行表示（程序或混合程序）和一批相似邻域样本。第二可搬走的是把「格式」与「准则」分开的对照设计：同一提示格式下换成按结果筛选（
+ Code），如果增益消失，就说明增益来自筛选而不是来自让模型看到代码——这是评估任何「给轨迹加上结构化外壳」的方法都该跑的一步。与同节其它工作的差异：CoTranslator 修正便宜轨迹的分布，RSHD 在无成功轨迹时造出监督信号，ECI2D 则在有大量候选轨迹但只有结果标签时改进筛选准则，三者的输入稀缺结构各不相同。 80结论建议：建议读 §3（观测等价的因果论证与迁移不变性作为代理判据）、§4.1 的三步流水线与 Algorithm 1、Table 1 与 Table 2、以及附录 A.4（把基线子采样到同规模后更差）与附录 H（人类校验与适配器错误案例）。引用时必须限定：超过 7 个百分点的结论只适用于 Qwen2.5-7B 的 GSM-Symbolic-Plus-2，且同模型的 Plus-1 与 Llama 全族都远低于此；GSM8K 层面的提升在种子波动内，不可作为证据；示例保留率 57%/32% 与池规模 4,239 是 Qwen2.5-7B、N=3 这一特定设置下的值。 80
5. GRADS：以证据图深度作难度旋钮合成数据，SFT 后 4B 在物理域从 0.2319 升到 0.3390，且三个域均超三个合成基线
GRADS: Graph-Regulated Agentic Data Synthesis with Controllable Difficulty · arXiv:2610.21167 · 精读
研究问题与核心方法：深度检索智能体（deep research agent：迭代地规划、发查询、读文档并推理的 LLM 智能体）的训练数据多由合成管线生成，而主流做法靠「堆难度」——加深加宽、加约束、加混淆线索——假定合成时累积的复杂度会转化为解题时所需的推理复杂度。论文指出这个前提不成立：加进来的证据可能与答案只有弱耦合，于是设计难度与实际难度脱钩，难度标签不再可信。作者的定义是把问题—答案对写成一个 evidence graph（证据图）：节点是可在原文逐字定位的来源断言，边是推导答案所必需的推理步骤，图的 depth（推理深度）就是最长必要推理链的长度。GRADS 在合成时维护这张图并把难度设为可控量：每轮只在相关子图上做条件生成，保留不可或缺的推理而不累积无关上下文；难度控制与探索解耦，只有当被选中的子图恰好落在请求的难度带里、且整条链通过验证，条目才被交付。必要性由删除测试强制执行——边 (u,v) 只有在去掉 u 后 v 无法推出时才计入深度，否则作为非必要连接保留；Graph Builder 添加边时执行测试且不允许细节节点承载链条，Graph Verifier 复核并合并那些只会拉长链条而不增加推理的近重复节点。难度带划分固定为：深度不超过 3 为 Easy，4–5 为 Medium，8 及以上为 Hard。工程上有两点值得单独记：一是用角色分解的智能体团队（不保存状态的 Brain 做编排，Analyst、Explorer、Respondent、Questioner、Verifier 各司其职，Verifier 有两套审查视角，另有 Graph Builder、Graph Verifier、Selector），二是上下文管理采用只追加的 Long History Memory 加一份被重写的 Short Graph Memory，由 Selector 把证据图剪成目标形状的子图作为下一轮上下文；每条答案都带一份逐条对应原文片段的原子断言评分量表（rubric），由验证子智能体逐条核对后才接受。后训练用 Qwen3.5-4B 先做 SFT（supervised fine-tuning，监督微调）再跑 GRPO（Group Relative Policy Optimization，组相对策略优化）。作者来自约翰霍普金斯大学、南京大学与亚马逊（工作系在亚马逊实习期间完成）。 81
关键结果：
- 三个真实语料域：GitHub（Apache airflow、beam 等项目的 issue、评论与关联 JIRA 工单，7.6 GB、约 107 万条记录）、Physics（CERN 大型强子对撞机上 CMS 探测器的内部分析笔记与公开分析摘要，4.9 GB、约 5.9 千个文件）、Security（网络安全攻防与注入挑战的红队智能体轨迹，1.3 GB、约 1.88 万个文件）。合成与判分统一用 Opus 4.8 API，并用一个未经改造的解题者智能体（带域内工具、25 轮上限、温度 0.7、按评分量表打分）来测实际难度。 81
- 难度轴的选型依据（Table 2，与评分量表分数做 Spearman 秩相关，负值表示越深越难）：汇总值上深度最强 −0.45，信息流 c_info 为 −0.39，图大小 |V| 为 −0.38，分散度为 −0.38，宽度最弱为 −0.17；按域看深度为 GitHub −0.50、Physics −0.51、Security −0.49。因此难度只用深度分档。 81
- Table 1（每格 n=20，给出解题者分数与交付推理深度，分数越低表示越难；本表的三值列表一律按 Easy / Medium / Hard 排列）。GRADS GitHub 为 0.778 / 0.722 / 0.522，深度 3.53 / 5.50 / 11.03；Physics 为 0.715 / 0.450 / 0.374，深度 3.47 / 4.83 / 10.82；Security 为 0.725 / 0.671 / 0.559，深度 2.57 / 4.17 / 9.10。TaskCraft 的 GitHub 分数是 1.000 / 0.950 / 0.950 而深度只有 1.20 / 1.80 / 2.55；WebShaper 的 GitHub 分数 0.624 / 0.752 / 0.654、深度 2.80 / 2.30 / 2.35；ClaudeCode 的 GitHub 分数 0.661 / 0.540 / 0.576、深度 3.25 / 4.35 / 5.45。只有 GRADS 的深度随请求档单调上升、分数随之单调下降。 81
- 难度与解题者无关（Table 4，Table 7 的分档基础）：三个能力档在三个域上都单调退化（每个三值同样按 Easy / Medium / Hard 排列）。GitHub 上 Opus 4.8 为 0.778 / 0.722 / 0.522，Sonnet 4 为 0.421 / 0.362 / 0.183，Qwen3.5-4B 为 0.194 / 0.102 / 0.065。 81
- SFT（Table 3 与 Table 5，每臂三个存档点，全部用同一冻结基准、同一轨迹构建器与配置，只有数据不同）：原始 Qwen3.5-4B 在 Physics 为 0.2319、GitHub 为 0.1149、Security 为 0.1414。GRADS 数据最好的存档点为 Physics 0.3390（+0.1071）、GitHub 0.2838（+0.1689）、Security 0.4453（+0.3039）；同期三个基线的最好值为 Physics 0.3011（ClaudeCode）、GitHub 0.1836（WebShaper）、Security 0.2972（ClaudeCode）。GRADS 在每个域都是最好的一条。 81
- RL（Table 6，每域 240 条与基准不相交的合成对，训 30 步）：GRPO 在三个域都给出正的点估计——Physics 0.3390 到 0.3407，GitHub 0.2835 到 0.3069，Security 0.4277 到 0.4663——但按论文给出的 ±0.043 噪声下限，没有任何一个可以与 SFT 策略统计分离。 81
- 工具使用与终止行为（Table 8，每项 100 个条目）：SFT 的固定效果是 boxed 终答率（给出明确框内答案的比例）按 Physics、GitHub、Security 三域依次从 6%、5%、5% 跳到 97%、95%、99%，同时工具调用与轮次大致减半到四分之一，撞上 25 轮上限的比例按同一域顺序从 28%、69%、77% 降到 4%、5%、0%。RL 之后再降一步，相对 SFT 最多再减 19.5% 的工具调用（Security 从 5.50 到 5.30、Physics 从 10.30 到 8.29、GitHub 从 10.00 到 8.95）。 81
- 与中等档解题者的对比（Table 7，按 30/30/40 加权）：Sonnet 4 为 GitHub 0.308、Physics 0.266、Security 0.342，后训练后的 4B（最佳 RL 存档点）为 0.307、0.341、0.466，差 −0.001、+0.075、+0.124。 81
- 合成成本（Table 9，按难度带，Opus 4.8）：Easy 17.5 次 API 调用、18 万 token；Medium 30.2 次、32.7 万；Hard 40.3 次、43.4 万，即 Hard 约为 Easy 的 2.3 倍调用与 2.4 倍 token。方法级对比（Table 10）：GRADS 28 次调用 / 30.2 万 token，ClaudeCode 33.7 次 / 23.6 万 token，TaskCraft 约 278 次 / 大于 84 万 token（token 是下界，因为它只按 ReAct 步计量，约 3.5 千次调用中的 25.6 千次），WebShaper 约 2.9 次 / 约 2.2 万 token（估算）。 81
证据与局限：证据链相当完整：三个异构真实语料域、四个合成方法在同一协议下对跑、独立的解题者智能体打分（而不是用生成器自评）、三个能力档的难度验证、SFT 与 RL 两阶段后训练、每域三个存档点、工具使用与终止行为的逐项统计、以及按难度带与方法级的成本记账。SFT 数据的可比性也做得较严（Table 12 给出每臂轨迹数 55–65、统一 24 个优化步、6 个 epoch、16 序列每步、token 与受损失 token 数），三个基线的轨迹数与步数基本相同，因此「只有数据不同」这句有表格支撑。作者自陈四条局限，其中两条对引用影响最大：第一，RL 在 30 步预算内没有与 SFT 策略分离的可证提升，因此「后训练有效」目前只由 SFT 支撑，RL 的价值只是工具效率；第二，证据图同时定义难度又提供构造问题的子图，难度在某种程度上是被构造过程自己验证的，而「一条边是否必要」由 LLM 智能体的删除测试与推理视角判定而非人工标注，作者明说这提供的是证据而不是证明，人工审计留待后续。另外两条是 Selector 为满足目标深度会纳入必要祖先子图，导致部分条目的实际深度超过难度带上限（作者称对难度无害但会轻微偏置深度分布），以及单条目的精确深度较糙、只能按三个带使用。引用风险有三处。其一，摘要写「把工具调用与轮次最多削减 75%」，而按 Table 8 的实际数值，Security 域工具调用从 23.02 降到 5.50（相对降幅约 76%）、轮次从 23.25 降到 6.50（约 72%），「最多 75%」是对 Security 工具调用一项的取整，其余两域分别只有约 37%（Physics 16.35 到 10.30）与约 54%（GitHub 21.96 到 10.00），不能当作普遍幅度。其二，「4B 追平 Sonnet 4」只在 GitHub 上成立且差值为 −0.001，Physics 与 Security 的领先是 +0.075 与 +0.124，两者不要合并叙述。其三，Table 1 与 Table 4 的前三列数值完全相同（GRADS 在三个域三档上的解题者分数一致），本质是同一批结果的两处呈现，Table 4 只是补了另两档解题者，不要当成两次独立测量。代码与数据入口：原文未给出代码仓库或项目页（实测全文 HTML 中除 arXiv 与 LaTeXML 自身链接外没有 GitHub 或 Hugging Face 地址）。 81
与目标研究线的连接点：属 A 线的长程任务数据构造与后训练，横跨轨迹数据构造、执行期上下文管理与评测口径三块。最可搬走的是三件具体机制。第一，把「难度」从生成时的提示词期望改成图上可算的量：定义必需推理边、用删除测试筛边、以必要祖先闭包选子图，让合成端的目标难度与评估端测得的难度用同一个刻度——这直接解决了堆证据式合成里「看起来更难」与「实际更难」脱钩的问题，任何做多跳/深检索数据的团队都可以移植这套图与删除测试。第二，上下文管理上的组合：只追加的长历史记忆负责留痕，被重写的小图记忆负责压上下文，再由一个 Selector 按目标形状剪子图喂给下一步——这是一种可复用的「图即上下文」策略，与常见的摘要式压缩不同，压缩后的对象仍保留推理依赖结构。第三，训练与评测共用同一套断言级评分量表（rubric），每题带逐条对应原文片段的原子断言，因此 RL 的奖励与基准分数用的是同一口径，这消除了开放式检索任务里奖励与评测脱节这一常见问题。评测口径上还有一条可借：用三个能力档的解题者（前沿、中等、轻量）分别跑同一批题以证明难度排序是数据的属性而非某个解题者的属性。与同节其它工作的差异：RSHD 与 CoTranslator 处理的是已有轨迹的蒸馏与筛选，ECI2D 处理的是示例的筛选，本文处理的是「轨迹从哪来」——它先造出难度可控、可逐条溯源的任务，再反向重建执行轨迹，并用后训练效果反过来验证数据质量。 81
结论建议：优先读 §3（证据图定义、结构性泛函与难度带）、§4.2 的主循环与「必要性」如何被删除测试强制、§4.3 的上下文管理、§5.2 的难度可控性论证，以及 Table 1、Table 3、Table 8 与附录 A–B。引用时必须限定：难度带只有三档可靠，单条目深度是近似值；「可证明的难度提升」指 ECI 之外的三条基线在同一协议下都不单调，而不是说 GRADS 的每一条数据都达到目标深度（Selector 会过冲）；「后训练有效」的可靠部分只有 SFT，RL 的增益落在 ±0.043 的噪声下限内；「4B 追平 Sonnet 4」只在 GitHub 域成立。 81
6. RLVR 去污染政策审计：余弦阈值 0.80 下采样的 59 个被删训练项有 52 个（88%）经人工复核确认误删，无阈值达标
What Should We Remove? Evaluating the Reliability and Costs of RLVR Data Decontamination · arXiv:2610.21229 · 邻近跟踪
研究问题与核心方法：RLVR（Reinforcement Learning with Verifiable Rewards，可验证奖励的强化学习）数学语料发布前普遍做去污染筛查，但「该信哪条匹配规则、代价多大」很少被评估：已发表工作多回答「污染有多少、怎么找得更多」，本文问的是给定一个检测器该执行哪条删除规则、会误删多少合法训练数据。做法是审计而非提出新方法：复用同一条已有的三层候选管线作候选生成器，定义八条可执行的删除政策，用一份独立、盲评、双人标注的参考集评估。候选管线三层：Tier 1 归一化空白、大小写与 LaTeX 宏后做精确或近似精确匹配；Tier 2 词法层算 13-gram 与 8-gram 覆盖率以及 128 次置换的 MinHash/LSH（局部敏感哈希）近似的 Jaccard 相似度；Tier 3 语义层用 Qwen3-Embedding-0.6B 嵌入后按余弦取最近邻，另有 LLM 判官对部分 Tier 2/3 候选对判为 same、subsumes、variant 或 different。八条政策：exact（只用 Tier 1）；lexical（Tier 1，或 13-gram 覆盖率 ≥0.5，或 MinHash Jaccard ≥0.7）；五条语义并集政策（词法政策之上再加 0.80 至 0.98 五档余弦阈值之一）；以及 existing adjudicated（Tier 1 命中，或判官判为 same/subsumes，或对未判过的对使用固定启发式）。八条都是同一批分数之上的严格超集规则，差异只来自决策阈值而非可用证据。审计对象是十六个公开 RLVR 数学语料，对六个基准（MATH-500 500 条、GSM8K test 1319 条、AIME24/25/26 各 30 条、AMC23 40 条，共 1,949 条）做比对；归一化与语料内去重后，分析单位是「语料专属训练条目」，同一道题出现在两个语料里会被分别计入并可独立删除，总计 1,673,514 条，对应 1,197,691 个唯一题面。 82
关键结果：
- 参考集构造：从 21,796 个候选对中按语料、基准以及（exact、lexical、adjudicated）三个政策标记与五个语义分档联合分层抽样，每格最多取两对；先把基准题按 60/40 切成校准与留出，再把三个语料（bigmath_rl、goosereason_math、nemotron_rl_math_v2）整块分给留出集，并排除与留出集共享近重复簇或基准题的校准样本，得到 594 对（448 校准、146 留出）。两名评审看不到政策标记、相似度分数、语料身份与对方标签，独立打六类标签，594 对中一致 531 对，原始一致率 89.4%，63 处分歧由第三轮独立裁定。 82
- 条目级样本：每语料抽 5 个带候选的训练条目（共 80 个），导出每条目的全部候选边共 83 对，其中 9 对与第一样本已复核的对文本相同而沿用标签，其余 74 对独立双评、一致 71/74（95.9%）。一个条目只有在其被删除、且其所有已复核候选边都被判为 changed_instance、related_distinct 或 unrelated 时才算「确认误删」；有 uncertain 边且无确认暴露的条目单列为未决。 82
- 预注册规则与失败：在看任何标签之前就固定阈值网格 0.80 至 0.98 共五档与目标——在校准集上取能满足保守精度（把每个 uncertain 都当错）≥0.90 的最小阈值；网格内无阈值达标就直接报告失败，不放宽目标、也不用留出标签挑阈值。校准集上全部语义阈值都远低于 0.90：保守精度从 0.80 时的 0.0496 到 0.90 时的 0.2122。 82
- 条目级误删（Table 2）：阈值 0.80 的政策删掉 80 个抽样条目中的 59 个，其中 52 个（88%）经复核确认为 changed_instance、related_distinct 或 unrelated，即确认误删；作者反复声明这是抽样描述率而非总体误删率。抽样误删率大体随阈值上升而下降（0.85 时 19/25、0.90 时 3/7、0.95 时 1/5），但从 0.95 的 20% 回升到 0.98 的 25%（1/4），改善不单调。exact 一个都没删；lexical 删 4 个、1 个确认误删；existing adjudicated 删 6 个、零确认误删、1 个未决。 82
- 留出集表现（Table 1，146 对）：existing adjudicated 的解析精度 0.9812、保守下界 0.9447、候选框架内召回 0.9824；校准集对应值为 0.9546、0.8123、0.9851，即它只在留出集上越过 0.90 的保守精度目标。exact 在两个分区观测精度都是 1.0000，但候选框架内召回只有 0.0851（校准）与 0.0704（留出）；加上词法匹配后留出召回升到 0.3005，解析精度降到 0.6975。语义阈值侧，留出集从 0.80 走到 0.95 是拿 0.9906 的召回换 0.6268，精度从 0.1596 升到 0.8153；没有任何阈值同时达到候选框架召回与解析精度均不低于 0.90。 82
- 全量删除成本（Table 3，全部 1,673,514 条，非抽样）：exact 删 82 条（0.0049%）、lexical 删 1,021 条（0.0610%）、existing adjudicated 删 1,314 条（0.0785%）、阈值 0.80 语义政策删 16,067 条（0.9601%，是 adjudicated 政策的十二倍以上）、0.85 删 7,701 条、0.90 删 2,720 条、0.95 删 1,491 条、0.98 删 1,106 条。语料构成的总变差距离在所有政策下都小，最激进的 0.80 也只有 0.001146。 82
证据与局限：这篇在证据纪律上可当模板用：预注册阈值选择规则、按基准题与训练样本簇双向切分的校准/留出分区、八条政策彼此构成严格超集、以及条目级「复核全部候选边」的误删定义。条目级复核是关键改进：只看单对精度会高估政策的保守程度，因为该条目可能还有另一条未被复核的真实污染匹配。局限对引用影响很大：所有召回都限定在既有三层管线已召回的候选框架内，论文不主张全语料召回；条目级样本每语料只有 5 个，因此「零确认误删」只是 6 次删除中的零，作者明说不构成零误删风险；两轮标注是同两名评审、同一地点，只报原始一致率而不报机会校正统计量，作者提醒它高估可靠性、任一单轮标注都不应被当作金标准；计数只针对特定快照；论文不训练任何模型，不对「这些政策会如何改变下游 RLVR 结果」作因果主张；语料与基准全是英语数学，跨域跨语言未测。引用风险两处：88% 与 52/59 是抽样描述率，论文在正文、表注与讨论里三次声明它不是总体误删率，不能写成「阈值 0.80 会误删 88% 的数据」（全量删除率是 0.96%）；留出集里阈值 0.98 一行的三个数值与 lexical 一行完全相同（0.6975 / 0.6564 / 0.3005），说明该分区上语义层未在词法层之上新增被删对，不要误读为两次独立测量。代码与数据入口：署名处给出
https://github.com/ethxin0011/rlvr_data_contamination，声明发布已复核标签、每条政策的删除决策与覆盖率记账，实测 HTTP 200。 82与目标研究线的连接点：属 A 线的训练数据筛选与评测口径审计，评估对象是筛选政策本身而不是智能体。可搬走四件东西。第一是「条目级完备复核」这一评价单位：某条目被删是否删对了，只有当它的每一条候选边都被判为真污染时才成立，否则单对精度会系统性夸大保守程度。第二是预注册阈值选择：先固定网格与目标，再看标签，达不到就直接报告失败，这条纪律堵死了「挑一个好看的阈值」的捷径。第三是把政策设计成同一分数之上的严格超集，使消融只反映阈值而不混入证据可得性差异。第四是成本口径：同时给出候选框架内的精度/召回、全量删除条数与语料构成位移。本文的结论是「更激进不一定更可靠，真正拉开差距的是逐对裁定而不是更强的嵌入」；与本节其它工作相比，它审计的是信号进入训练之前的筛选环节。 82
结论建议：建议读 §4.3（两套参考样本的构造与「确认误删」的定义）、§4.4（预注册阈值规则）、§4.5（保守精度与候选框架召回的定义区别）、Table 1–3，以及 §6 的三条讨论与 §7 的限制清单。引用时必须限定：88%（52/59）是抽样描述率而非总体误删率，阈值 0.80 的总体删除率是 0.96%；所有召回都限于既有管线已召回的候选框架；「零确认误删」只有 6 个观测，不构成零风险结论；结论限于英语数学语料与六个基准的特定快照。 82
7. LoCD 只在学生轨迹的关键片段上做教师重写：Qwen3-8B 数学八项均值从最强基线 OPCD 的 42.39 升到 48.04
Learning from Interaction Experience via Localized Context Distillation · arXiv:2610.21427 · 精读
研究问题与核心方法：模型部署后会遇到训练没见过的情况，每次失败都会留下一条「交互经验」（interaction experience，模型自己的轨迹加上环境或用户的反馈），问题是怎样让它从这些经验里继续改进。上下文蒸馏（context distillation，把由经验抽出的特权上下文给教师、再蒸馏进一个拿不到该上下文的学生）是参数化的做法，但现成路线两头不讨好：off-policy 上下文蒸馏用教师生成的轨迹训练学生，产生 exposure bias（曝光偏差：训练时学生只被监督在教师访问过的状态上，推理时却必须条件在自己策略产生的状态上）；on-policy 上下文蒸馏改训学生自己的 rollout（轨迹采样），状态贴近学生分布，可这些状态往往信息量低，学不会学生还产生不出来的行为。作者来自腾讯 Workbuddy 团队、香港中文大学、浙江大学与香港科技大学。本文先做诊断实验坐实 on-policy 路线在「学生初始准确率低」时的失效，再提出 LoCD（Localized Context Distillation，局部化上下文蒸馏），分两步：(i) 定位与归因，用一个提示式的定位归因过程 𝓐（就是给学生用的同一个模型加提示）从经验 (x, τ) 中定位出需要修正的「关键片段」（critical span，轨迹上一段连续推理区间或某一个交互步），并为该片段抽出对应的特权上下文 c（由经验抽取器 𝓔 生成的针对性提示）；(ii) 局部蒸馏，教师从学生自己的前缀 yS<α 出发只重写这一段（教师采样在位置 β 截断），学生只在这段上与教师做 token 级散度对齐。这样监督落在「学生开始走错的那个状态开始、由教师生成」的短区间内，既有信息量又离学生分布很近。单步任务（数学、Codeforces）用参考解或官方题解加执行反馈合成交互经验，智能体任务（WebShop、ALFWorld、SWE-Gym）用环境观测、执行结果与任务结果当反馈，不依赖专家演示。83
关键结果：
- 数学推理（Qwen3-8B 非思考模式，Table 1，八个基准取均值，三个独立种子报均值±标准差）：Base 31.81，Text2Grad 40.47，TRD 41.08，ROSD 40.83，OP2SD 42.29，OPCD 42.39，LoCD 48.04；即在最强基线 OPCD 之上从 42.39 升到 48.04，差 5.65（与摘要的 5.65% 一致）。单基准看 AIME25 47.87±4.6、HMMT25-Nov 38.43±3.0、AMO 6.67±1.0。Falcon3-10B-Instruct 上同样最优（均值 23.25，最强基线 TRD 21.92）。
- 代码生成（Table 2，Codeforces 与 LiveCodeBench，每题 12 次采样的平均解出率）：LoCD 17.20% 对最强基线 TRD 14.55%，差 2.65；Base 12.98%。
- 交互决策（Table 3，单次运行无误差棒）：WebShop 官方测试集 All 从最强基线 Hint-SD 的 46.80 升到 52.40（+5.60）；ALFWorld valid_unseen 从最强基线 ROSD 的 25.62 升到 33.08（+7.46），口径为 WebShop avg@1、ALFWorld avg@3；两个环境分别限制每回合最多 10 步与 50 步，逐步生成上限 512 个 token。
- 诊断实验（Figure 1，OpenThoughts，Qwen3-4B、Qwen3-8B、Falcon3-10B-Instruct，每模型按 128 次独立采样的初始准确率 avg@128 分六箱各取 100 题，训练 5 epoch，OPCD 代表 on-policy、TRD 代表 off-policy）：初始准确率高于 60% 时 on-policy 蒸馏能保住大部分「特权提升」并胜过 off-policy；初始准确率越低越差；在 avg@128 = 0 的题上，off-policy 显著提升而 on-policy 只有边际提升，差距在训练全程持续，并在另建 100 题的零准确率留出集上重现（Figure 2）。
- 受控知识注入（Figure 3，Qwen3-4B，答案长度 L∈{4,8,16,32} 个 token 混在同一轮训练，200 epoch 每 5 epoch 评估一次）：off-policy 对四种长度几乎同时学会；on-policy 出现长度依赖延迟，L=4 最早改善、L=32 最后，且同样预算下 L=32 仍低于短答案组，支持「后面的部分要等前面的部分先出现在学生 rollout 里才学得动」的顺序依赖解释。
- 对「蒸馏到底学到了什么」的反证（Appendix B，Qwen3-8B，AIME24、AIME25、HMMT25）：把特权上下文换成任务无关的内容，on-policy 上下文蒸馏仍然大幅提升——换成其他题目的打乱解答或高质量少样本示例时，某些设置下甚至优于正确参考解；再换成不含任务知识的通用行为指令，「简洁」（Brief）与「果断」（Decisive）的平均准确率分别提高 17.5 与 16.9 点，而正确参考解只提高 10.6 点、「批判性」（Critical）仅 1.7 点。表现提升与教师输出熵下降（entropy reduction，正值为带特权上下文时熵更低）大体对应，说明这类收益有一部分来自压低教师输出的不确定度，而不全是任务知识的迁移。
- 训练动力学（5.3 节）：on-policy 与 off-policy 都持续压低策略熵（policy entropy），LoCD 避免了这种熵坍缩；LoCD 的累计参数改动更小、可见更新更稀疏（Appendix E 分析 Qwen3-8B 每四层的 q/k/v/o 投影共 36 个矩阵，检查点 t∈{20,40,60,80,100}）。
- 消融（Figure 9）：随机点替代定位（Random Point）、用完整原始经验当特权上下文（Raw Experience）、保留学生前缀但把教师生成与蒸馏扩到剩余整条轨迹（Full-Train）三个变体在所有评测基准上都差于 LoCD，其中 Full-Train 说明「限制在关键片段内」本身就是收益来源。散度选择（Figure 10，AIME24、LiveCodeBench v6、WebShop）：前向 KL 与反向 KL 下 LoCD 都最强。83
证据与局限：数学表的训练方法全部给三次独立运行的均值±标准差，Base 行是单次；代码表同样三次种子；交互决策、SWE-Gym 与 SWE-bench Verified 都只有单次运行、无误差棒，WebShop 与 ALFWorld 还是仿真环境。SWE 的结果只在 Figure 5 给曲线，正文与表格都没有报告 resolve 的具体数值，本单元无法从原文取到该数值。数学与代码任务的反馈来自参考解或官方题解加执行反馈，属于半人工信号，智能体任务才用纯环境反馈；特权上下文与定位都由同一个模型自己提示生成，没有第三方监督，原文也未报告定位准确率或人工核验。作者明确声明「这些控制并不意味着各方法总计算量相同」。定位与改写提示的模板在 Appendix F。更值得注意的是 Appendix B 的反证：换上任务无关甚至错误的特权上下文后 on-policy 蒸馏照样提升，因此「分数涨了」不能直接当成「知识被内化」的证据，借用任何上下文蒸馏的结论时都要交代这一点。代码入口 https://github.com/zz-haooo/LoCD，实测 HTTP 200；论文为 CC BY 4.0。83
与目标研究线的连接点：属于 A 线（长程任务的训练与评估）直接命中，并触及 B 线（自进化：把经验写回参数而非检索回来）。可搬走的是三件具体东西：把修正范围限制在「学生自己轨迹上定位到的短片段」，而不是整条轨迹或剩余整条轨迹（Full-Train 消融直接证明扩到整条更差，这是同类工作里少见的反直觉对照）；定位与归因不需要额外模型，用同一个模型加提示即可，且定位只在训练时用、推理时不需要；多步智能体任务的实现细节——纠正出来的那一步只用于局部蒸馏，不在环境里执行、也不采后续（Appendix C.3），这一条直接决定工程上能不能省掉一次环境往返。与同节其它工作的分工：TRD 让教师改整条轨迹（off-policy）、OPCD 在全部学生前缀上对齐、ROSD 只蒸馏首个错误区之后的后缀、OP2SD 需要参考解、Hint-SD 把事后提示监督加到智能体轨迹里；LoCD 的差异是「学生前缀 + 只在定位到的关键片段内由教师重写」，且不需要参考解，因此能直接用在只有环境反馈的智能体任务上。83
结论建议：建议读第 3 节（诊断，含 3 节的两张学习动态图）、第 4 节（方法）、5.2 与 5.4（Tables 1–3 与 Figures 9–10）、Appendix C.2–C.3（各任务的反馈构造与训练配置）、Appendix F（定位与归因提示）。引用时必须限定：数学与代码的增益是相对各自最强基线（OPCD 与 TRD），不是相对 Base 的绝对提升，原句「improving the average score from 42.39 to 48.04」容易被误读成 Baseline 提升；WebShop 与 ALFWorld 的 +5.60 与 +7.46 是单次运行的仿真结果；SWE 只有曲线、没有数值，不要给具体数。83
8. OPRD 多尺度提示蒸馏编码智能体：SWE-bench 三榜均值 47.9，比 Qwen3.5-4B 基座高 11.3
OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents · arXiv:2610.21496 · 值得扫读
研究问题与核心方法：仓库级编码要求智能体在长交互中既守住任务约束、又对工具与执行反馈作出反应。作者的诊断在 200 个 SWE-rebench V2 验证任务上用 Qwen3.5-4B 每题跑两条 rollout：确定性规则先挑出显式的工具与执行失败，再用 GPT-5.4 读任务与完整轨迹归类剩余依赖上下文的失败；结果发现智能体常常无视已经写在上下文里的相关信息，而最终的 Pass/Fail 只提供稀疏的过程监督。于是提出 OPRD（On-Policy Reminder Distillation，同策略提示蒸馏）：把训练时插入的「提示」（Reminder）当作特权信息蒸馏进学生，推理时学生不带提示。方法有三块。第一是 Multi-Scope Reminder（多尺度提示）：Global Reminder 由最终测试诊断生成、在教师评估每条助手轮次时都可见，承载轨迹级指引；Turn-local Reminder 锚定在某个环境观测 o_k 上，只在教师评估紧接其后的那条助手轮次 a_{k+1} 时可见、不向后续轮次传播。第二是两阶段监督式冷启动：Coding SFT（监督微调）用 8,000 条验证通过的轨迹（7,262 条来自 SWE-rebench V2、738 条来自 Multi-SWE-RL）建立编码与工具能力，随后 IF（Instruction-Following，指令跟随）SFT 用 2,000 条提示跟随样例提升对约束、反馈与提示的响应度，教师与学生共享这同一个 IF 检查点。第三是基于结果的路由：可执行验证器只给 0/1 结果，通过的 rollout 走自回归自模仿（提高自己已经做对的行为的似然），失败的 rollout 走提示条件下的反向 KL（Kullback–Leibler 散度）蒸馏；教师不重新采样轨迹，而是在学生生成的前缀上评估，使蒸馏目标始终对齐当前策略访问过的状态。论文出处为清华大学、独立研究者、上海人工智能实验室与新加坡国立大学。84
关键结果：
- 主结果（Table 2，全部是「推理不带提示」口径）：Qwen3.5-4B 从开源基座的平均解析率 36.6 升到完整配方的 47.9，比基座高 11.3 点；分榜 Verified 50.4→61.2、Pro 24.2→30.5、Multilingual 35.3→52.0。Qwen3.5-9B 从 44.4 升到 55.9，比开源检查点高 11.5 点（Verified 59.6→70.0、Pro 32.3→40.9、Multilingual 41.3→56.7）。
- 冷启动与蒸馏的分解（Table 2，4B）：Coding SFT 39.3、再加 IF SFT 41.6、跳过 IF SFT 直接做 OPRD 44.3、完整配方 47.9；完整配方比 IF 检查点高 6.3 点，去掉 IF SFT 掉 3.6 点。9B 上完整配方比 IF 检查点高 5.4 点，去掉 IF SFT 掉 2.6 点。
- 过程级错误（Figure 7，同样 200 题、每题一条无提示轨迹，四类标注）：触发计数从 Qwen3.5-4B 的 446 降到 Coding SFT 后的 378、再降到 OPRD 后的 222，相对基座减少 50.2%；各类别降幅 43.1%–58.0%，降幅最大的是 Post-Edit Control and Validation。四类为 Tool-Feedback Recovery、Scope and Source Grounding、Scenario-Condition Reasoning、Post-Edit Control and Validation，由 32 个原始 rubric（此处指 Reminder 候选类别集，含 10 条确定性硬规则与 22 条模型判定的情境策略）类别固定划分为 R1–R4 共 10/10/5/7 条。
- 提示跟随率（Figure 6，200 题，类别特异的错误被检出后插入对应提示，再看后续行为是否纠正）：总体从基座 45.8 升到 Coding SFT 后的 49.3、再升到 IF SFT 后的 77.1；IF SFT 相对 Coding SFT 在四类上分别提升 25.9–30.4 点，类别内比率 75.4（Scenario-Condition Reasoning）到 80.0（Post-Edit Control and Validation）；Scope and Source Grounding 从 46.3 升到 76.7。
- 蒸馏配方与路由消融（Table 3，4B，三项基准的无权平均）：KL 支撑用 Top-100 还是全词表在温度 T=0.6 时接近（46.9 对 46.5）；Top-100 下 T=1.0 最优（47.9），T=0.6 为 46.9、T=1.5 为 47.1。全部 rollout 都施加同一 KL 的 All-Rollout OPSD（把同一 KL 目标无差别施加到全部 rollout 的对照）前向 KL 45.2、反向 KL 46.0；结果路由的 OPRD 前向 KL 46.7、反向 KL 47.9，即反向 KL 下路由带来 +1.9 点。成功自模仿与失败蒸馏的权重比 λ+ : λ− 在 1:1 时最优（47.9），0.25:1 为 46.0、4:1 为 46.3。
- 教师刷新（Figure 4）：周期性刷新呈非单调，均匀刷新四次最好（在每项基准上都最好，均值 47.9）；冻结教师与教师学生共享参数都更差。
- 提示作用域与功能分类（Figures 5、8）：Global-only 与 Turn-local-only 在 Base、Coding SFT、IF SFT 三个检查点上都提升全部基准，两者组合最好；Multi-Scope 的平均收益随准备阶段增长，IF SFT 之后达 4.9 点。按功能分组时四类都优于无提示，单类最强是 Post-Edit Control and Validation；全开把平均解析率从 36.6 提到 39.2。84
证据与局限：主表与全部消融都是单次运行的点估计，原文没有报告种子数、置信区间或误差棒。训练数据规模很小且全部来自 SWE-rebench V2 与 Multi-SWE-RL（Coding SFT 8,000 条、IF SFT 2,000 条，OPRD 的任务池为 3,630 + 370 条任务）。所有模型共用同一个 harness（包在智能体外面的那层调用外壳：脚手架、工具接口与提示编排），此处是 Claude Code 脚手架，每个子任务 16 CPU 核与 32,768 MiB 内存、最多 200 轮、temperature 1.0 与 top-p 0.95，因此结论只在「同一 scaffold + 各基准自带可执行验证器」的口径下成立。诊断与提示筛选依赖模型判官：非硬规则候选需达到 0.90 的置信度阈值（Appendix C.1），后验错误标注由 GPT-5.4 完成（Appendix D），原文未报告判官一致性。作者没有单列 Limitations 小节。全文检索未发现作者官方代码、数据或权重入口（本单元实测）。84
与目标研究线的连接点：A 线直接命中，落在「执行期控制」与「轨迹数据的构造与筛选」两处。可搬走的有四条：(1) 把过程纠正信息按时序作用域显式切开——全局恒在的约束类指引与只作用于下一步的观测类提示分开注入，理由是长上下文会稀释局部纠正、而向后续传播又会引入与当前状态冲突的监督，这比「把所有纠正拼成一条大提示」在 Table 3 里可量化更好；(2) 按可执行验证结果做路由，成功轨迹走自模仿、失败轨迹走教师条件蒸馏，而不是对所有 rollout 施加同一 KL（All-Rollout OPSD 反向 KL 46.0 对结果路由 47.9）；(3) 「教师不重采样、只在学生前缀上评估」的蒸馏配方与一组具体超参（Top-100 支撑、温度 1.0、反向 KL、λ+ : λ− = 1:1、教师每四分之一训练进度刷新一次）；(4) 双阶段冷启动把「会不会做」与「听不听话」分开，是提示跟随率从 49.3 跳到 77.1 的单一最大来源，也解释了为什么没有 IF SFT 时蒸馏收益会掉 3.6 点。与同节的 LoCD 相比：LoCD 在轨迹上定位关键片段、让教师重写片段内的 token；OPRD 在时间轴上定义全局与单步两级作用域、用结果分流。两者都依赖「教师只在学生前缀上介入」来压低曝光偏差，但 OPRD 额外要求先有一个能听懂提示的指令跟随检查点，这是可以直接搬进自家 RL/SFT 流水线的前置条件。84
结论建议：建议读 3.1–3.4（问题形式化、多尺度提示、冷启动、路由）、4.2 与 Table 2、4.3 与 Tables 3–4、Figures 4–8、Appendix B（超参）、Appendix C（提示构造、被动与主动两种构造模式、功能分类）、Appendix D（错误标注）。引用时必须限定：所有主结果是「推理时不带提示」的口径；增益是「小规模冷启动 + 同策略蒸馏 + 可执行验证器路由」这个组合的收益，不能当成纯蒸馏方法的通用结论；446 到 222 的过程错误来自 200 题单次轨迹、且由 GPT-5.4 分类，不是人工标注；4B 的 +11.3 与 9B 的 +11.5 是两条不同规模曲线，不要合并叙述。84
9. Data World 先定机制再生文件：DataWorld-Bench 最高 74.43，RL-zero 训出 35B 高 7.06 分
Data World: Scaling Data Environments from Scratch · arXiv:2610.21656 · 邻近跟踪
研究问题与核心方法：数据智能体（data agent，用代码检视异构文件并给出有证据支撑的分析结论的智能体）的规模化训练卡在两处：真实工作流的获取与标注成本高、还受隐私与知识产权限制；而开放式分析结论没有已知的生成真值，评分标准只能靠人工参考或近似匹配，探索文件来写题与评分表又会让监督受限于策展者或挖掘模型自己能发现什么。本文的洞见是「先把文件背后的机制写清楚，再生成文件」。Data World 是一个多智能体合成引擎：先把有向无环依赖图（DAG）扩写成 world contract（世界契约，声明实体与时间线、每条边的生成机制、全局不变量、观测系统与交付物），再按拓扑分层逐层生成 canonical state（规范真值状态），每一层由独立会话写确定性脚本、带固定随机种子执行、层内原子提交；随后用观测映射 O 把真值投影成分析师可见的文件，投影不是任意噪声而是显式观测机制的复合（同一实体在不同系统里 ID 拼写与键约定不同，缺失值、延迟、重复、单位漂移、分类编码、模式漂移各自对应一个有来源的观测过程，跨文件用未标注的外键关联、不提供数据字典）；最后独立审计者重算每条边关系、每个全局不变量与每个「可重算现象」，并额外写一份身处该世界的分析师视角指南，审计者不许修改环境或真值、只能给通过或不通过。任务锚定到单个目标节点，分 cause 路线（顺入边解释其变化）与 consequence 路线（顺出边追踪其影响），按深度分层选最大度节点，每个世界最多产出 2K 个任务；评分表把「数据计算」与「洞察发现」分开打分。85
关键结果：
- 数据规模与筛选（3.4 节）：1,302 个候选世界中保留 1,087 个，其中 1,037 个训练世界产出 2,135 个 RL 任务，50 个留出世界产出 100 个测试任务、覆盖全部 16 个域；测试世界完全排除在训练之外且必须通过全部审计检查，训练世界的 DAG 边通过率为 95.98%；每个测试世界提名 1 道 cause 与 1 道 consequence 任务，由 15 人标注团队对照同世界同路线的备选题做真实性偏好筛选（分歧经裁决）。
- 基准表现（Table 1，归一化评分表分数 ×100）：十个前沿模型里最高总分 74.43（GPT-6-Astra，数据计算 87.80、洞察发现 66.45），最高洞察发现分 67.95（Qwen-3.8-Max-0902，总分 73.43），GPT-6.1-Sol 总分 73.30；最低的 MiniMax-M3 总分 49.75。每个模型都存在「计算—洞察」差距，范围 4.87 到 21.35 点。交互成本与表现不成正比：总分最高的 GPT-6-Astra 轮数最少（28.7），Kimi-K3 的总 token 与回复 token 最少，而轮数最多的 MiniMax-M3（93.8）分数最低。
- 负面评分项触发（Table 2）：GPT-6.1-Sol 与 GPT-6-Astra 分别有 86% 与 83% 的轨迹完全没有触发负面项，Gemini-3.8-Flash 与 MiniMax-M3 触发最多（各 57% 与 59% 完全无负面项）；两个 GPT 模型触发负面项比 Qwen-3.8-Max-0902 更少，但洞察发现分更低，作者据此区分「避免错误结论」与「找回目标发现」两种能力。
- 训练效用（Table 3，Qwen3.6-35B-A3B 用 GSPO 做 RL-zero：GSPO 即 Group Sequence Policy Optimization，一种在组内归一化优势、按序列长度归一化重要性比的 RL 目标；RL-zero 指不用更强模型的解题轨迹蒸馏、不做任务特定监督微调（SFT），只用被训模型自身 rollout 加评分量表（rubric）奖励；并让同一基座兼任 rubric 判官以降低评分成本）：逐题配对的 DataWorld-35B-A3B 相对基座，DataWorld-Bench 从 37.64 升到 44.70（+7.06），DAComp 从 53.72 升到 68.00（+14.28），DABstep-Hard 从 25.66 升到 46.56（+20.90），JobBench 从 18.31 升到 30.43（+12.13）。
- 通用能力不回退（Table 4）：相对 Qwen3.6-35B-A3B，MMLU-Pro 84.73 持平，LiveCodeBench-Hard 从 71.14 略降到 70.29，SimpleQA-Verified 从 22.20 升到 24.00。85
证据与局限：作者自陈两条硬局限——合成各环节强耦合、重生成成本高，因此没有做受控消融，结果支持的是「整个框架有用」而不是某个组件的贡献；合成环境是真实数据的补充而非替代。评测口径上还有一个必须交代的差异：Table 1 与 Table 3 的分数都用 Gemini-3.8-Flash 单次评判，而 RL 训练时的 rubric 奖励由被训的 Qwen3.6-35B-A3B 自己当判官（为省成本），两个口径不同，不能直接比较训练内奖励与基准分数。全部构建阶段用 GLM 5.3 加 Claude Code 脚手架完成，种子数、重复次数与评分者一致性都没有报告。审计与任务生成的提示词、环境描述与文件结构在附录；代码 https://github.com/Zhanli-Li/Data-World、项目页 [https://zhanli-[li.github.io/Data-World/](https://zhanli-li.github.io/Data-World/)](https://li.github.io/Data-World/](https://zhanli-li.github.io/Data-World/))、Hugging Face 数据集集合 https://huggingface.co/collections/Zhanli-Li/dataworld 三者实测均返回 HTTP 200；论文为 CC BY-NC-ND 4.0。85
与目标研究线的连接点：A 线的「基准与环境设计」以及「判官效度」两处直接可用，属于可迁移的环境与监督构造流程而不是新算法。可搬走的是这条流水线本身：机制先行 → 生成规范真值 → 投影成不完美观测 → 独立审计重算每条生成关系与目标现象的可恢复性 → 用生成记录（而不是策展者的探索）写评分表，并把评分项切成「计算」与「洞察」两类以暴露两类能力的落差。其中两个设计尤其值得单独拿走：一是「目标现象必须在不看到真值的前提下、仅从不完美的观测文件里可恢复」这条审计判据，它直接防止了「文件里根本没有答案」的题；二是按 DAG 上下游把题分成 cause 与 consequence 两条路线并按深度分层取样，使覆盖面不依赖人工选题。与本文引用的既有开放式分析基准（DiscoveryBench、BLADE、InsightBench、InsightEval）的差别在于：那些环境来自现成数据源、参考洞见来自专家标注或模型探索，而这里的评分项对着已知的生成状态，因此可以交叉核验。85
结论建议：建议读 3.2（环境合成：依赖骨架、世界契约、规范真值生成、观测投影、独立审计）、3.3（任务合成）、3.4（基准与训练集策展）、4.1（实验设置）、4.2 与 Table 1、4.3 与 Table 3、附录 A.3。引用时必须限定：分数是「评分表定义的技能」上的归一化分，且评分者与训练时的 rubric 判官不是同一个模型；「计算—洞察差距 4.87–21.35 点」的归因作者自己提示可能与评分项覆盖和打分差异有关；Table 3 的各项增益是逐题配对相对同一基座、不是与其它开源模型横比；不要把 JobBench 的 +12.13 当作跨域通用增益，它是四个外部基准里的一个。85
10. NVIDIA 中训练配方：500B token 同口径全量 SFT 下 SWE-bench 验证集 60.7 升到 64.5
Priming Base Models for Agentic Post-Training: An Open Midtraining Recipe · arXiv:2610.22019 · 值得扫读
研究问题与核心方法：作者来自 NVIDIA。前沿模型在预训练与后训练之间普遍插了一个中训练（midtraining）阶段，但公开文献很少讲这个阶段是怎么搭的。作者指出三处缺口：预训练通常跑在 4K–8K 短上下文（Nemotron 就是 8K 再扩到 1M），语料里几乎没有智能体交互；软件工程最有价值的自然数据（整仓库、提交历史、pull request、构建日志）动辄数万到数十万 token，塞不进预训练，也超过短的长上下文阶段；SFT 数据多为合成对话数据，而过长的 SFT 会削弱模型后续从 RL 里获得收益的能力。中训练就补这个缝：在最终长上下文阶段之前，用 256K 上下文训数百亿 token。混合配比（Table 1，约 380B 唯一 token）：issue–PR 占 40.8%（216.9B 唯一 token，1,210 万条 PR，只收十星以上仓库、按仓库与 PR 去重、剔除生成内容与低质补丁，issue 与 patch 是否匹配由一个结构化 LLM 判官检查、纯 PR 样例用确定性规则过滤）；仓库 20.0%（104.1B）；智能体轨迹 10.0%（约 39B token，超一百万条轨迹、约 50 万不同 query、3,000 万次工具调用，覆盖十余种 scaffold（与 harness 同义，指包在模型外面的智能体外壳）：OpenHands、OpenCode、SWE-agent、Codex、Claude Code、Terminus 等）；diff 数据 3.0%；构建与 CI 日志 1.2%（LogHub 全档加 GitHub Actions 运行日志与工作流历史）；预训练回放 20.0%；长上下文数据 5.0%。轨迹被限制在混合的 10–15% 并渲染成 Nemotron 对话模板，其余数据保持自然格式不套模板；所有来源只保留宽松许可，并对 SWE-bench 与 Terminal-Bench 做去污染、密钥脱敏，对重复分隔符、哈希、时间戳等做损失掩码。仓库数据有额外筛选与排序：先为 14 种语言建 import 图，只留下「至少 20% 代码文件有仓库内 import 边」的仓库（Ruby 为 10%），序列化时顶层 README 在前、互相依赖的文件相邻，超长仓库按连通分量切分而不是截断。训练用 256K 上下文，学习率预热后恒定，N-3.5 Lightning 用 5e-5、N-3.5 Super 用 1e-5。86
关键结果：
- 配比验证（Table 2，N-3.5 Lightning-8K 中训练 100B token，与基座在相同 SFT（supervised fine-tuning，监督微调）下比较）：全量 SFT 下 SWE-bench Verified 从 59.7 升到 63.5、Multilingual 从 55.9 升到 59.6、Terminal-Bench 2.0 从 22.9 升到 25.1；去掉智能体轨迹的那一档在 Verified 上只提升不到 1 点（60.5），全混合比它在 SWE-bench Verified、Multilingual、Terminal-Bench 2.0 上分别高 3.0／2.5／6.6 点，说明增益主要来自轨迹；作者同时说明自然数据的好处体现在文件状态跟踪、跨文件建模与 harness（包在模型外面的调用外壳）稳健性上，所以自然数据仍占混合的大多数。
- 规模缩放（Table 3，N-3.5 Lightning-LC，同口径全量 SFT）：500B token 后 pass@1 相对基座提升 SWE-bench Verified 3.8、Multilingual 7.0、Pro 3.5、Terminal-Bench 1.0，pass@k 四项都提升 2.3 到 4.7；Verified 与 Pro 的大部分增益在 100B token 就已到位，Multilingual 一直涨到 500B，Terminal-Bench 噪声更大、300B 见顶。
- 更大模型（Table 6，N-3.5 Super）：280B token 中训练后 DeepSWE 从 11.7 升到 15.7（全量 SFT）、从 6.4 升到 12.4（33B token 短 SFT）；Verified 从 72.9 升到 74.3，BrowseComp 在两种 SFT 预算下都升 3 点。但 Multilingual 与 Pro 在全量 SFT 后反而比基座低 1.1 与 2.1 点，短 SFT 后持平或略高，作者明确说这不算一致效应。
- harness 稳健性（Table 7）：N-3.5 Super 短 SFT 后，中训练模型在测试的每个 harness 上都更好，Verified 平均 +8.6、Terminal-Bench 2.1 平均 +6.8；N-3.5 Lightning-8K 全量 SFT 后在六个 harness 上 Verified 平均 +11.6（其中 Codex 上 +19.0）。只用自然数据（不含轨迹）的 100B 档已经在六个 harness 里的四个上超过基座、最多 +4.7 点。作者提醒他们不是只训单一 scaffold 的轨迹，所以无法把「scaffold 多样性」与「加了轨迹」这两个效应分开。
- 工具响应是否计入损失（Table 9）：把工具响应也算进损失会明显变差，Unmasked 为 27.5／41.6（pass@1／pass@3），Masked 为 37.8／53.0，即差约 10 点；作者的判断是工具响应往往又长又噪（文件转储、测试日志、错误栈），预测它会占掉学习自身动作的容量。
- 基座可训练性指标（Tables 4、5）：LoCoDiff（按 git 历史重建文件状态的指标）精确重建率基座为 0.0%，中训练 100B 后 21.5%、500B 后 26.8%；距离从 0.903 降到 0.164；仓库 bits-per-byte 从 0.171 降到 0.140。增益主要来自 diff 数据：10B token 的受控对照里，无 diff 数据为 1.3% 精确率、一半 diff 数据为 29.8%。作者同时说这些基座指标与后训练结果的相关性不足以用来指导配方决策。
- 长上下文（Table 8，RULER：长上下文能力评测套件）：中训练本身就带长上下文效果，8K 起点经 256K 中训练后在 128K 以内接近长上下文基座、256K 处落后 14 点；再加长上下文阶段后在 64K 到 256K 全面超过长上下文基座。
- 回放与学习率（Tables 10、11）：20% 回放使 N-3.5 Super 在 65B token 内四组通用能力基准都不退化（都在起始检查点 1.2 点以内）；40% 回放没有明显好处。学习率从 1e-5 升到 5e-5 会伤通用能力，MATH-500 从 79.7 掉到 61.7。86
证据与局限：全部结果都是单次运行，没有报告种子数、置信区间或误差棒。评测口径要交代清楚：SWE-bench 除注明外用 OpenHands、Terminal-Bench 用 Terminus-2，pass@1 在 3 次或 8 次 rollout 上取平均，pass@k 也一并报告（作者引用既有结论说更高的 pass@k 意味着 RL 还有更大空间）。同一篇里有两条不能混用的基线：Table 2 的基线是 N-3.5 Lightning-8K（Verified 59.7），Table 3 的基线是 N-3.5 Lightning-LC（Verified 60.7）。作者自陈的局限还有两点：成熟流水线里中训练应当排在最终长上下文阶段之前，本次为了评测简单才从长上下文检查点起步；N-3.5 Super 上的 Multilingual 与 Pro 未提升。全文检索未发现公开的代码、数据或权重入口。86
与目标研究线的连接点：A 线的「轨迹数据的构造与筛选」与「长上下文智能体后训练」直接命中。可搬走的是可复现的配料表而不是结论数字：各来源的唯一 token 数与占比、epoch、以及每条来源的过滤规则（仓库的 import 图阈值 20%、README 在前加依赖相邻的序列化、diff 数据只保留 import 图相连的文件改动、轨迹要覆盖十余种 scaffold、以及轨迹占比 10–15% 的上限理由是会削弱后续 RL 可训练性）。另外三条工程结论也很实用：工具响应必须从损失里掩掉，实测差约 10 点；回放 20% 足够守住通用能力、加到 40% 无益；学习率抬得太高会牺牲通用能力，作者建议适度提高并在调参时盯着通用能力基准。评测协议上，本文最有借鉴价值的一点是「基座代理指标（bits-per-byte、LoCoDiff、RepoBench）与后训练结果相关不可靠，因此改用相同 SFT 的短跑做快速信号」，这直接对应 A 线的评测口径问题。与同节的 AutoSFT、Data World 的差异：后两者造的是任务与数据本身，这篇是把「自然软件工程数据 + 少量智能体轨迹」放进预训练与后训练之间的一个专门阶段，改的是数据在训练流程中的位置。86
结论建议：建议读第 3 节与 Table 1（混合配比）、3.1（训练设置）、4.1（评测协议：短 SFT 与全量 SFT 两个预算、固定评测集、回归检查）、4.2–4.5 与 Tables 2、3、6、7、5.1–5.3 与 Tables 8、9、10、11、附录 A（每条来源的构造与统计）、附录 B（完整训练设置）。引用时必须限定：结论属于 Nemotron 3.5 家族，基线是 8K 还是长上下文检查点要说清；所有数字为单次运行的点估计；DeepSWE 的 11.7 到 15.7 只在 N-3.5 Super 上成立，不要外推；harness 平均增益里无法分离 scaffold 多样性与轨迹本身的贡献，这是作者自己点明的。86
11. AutoSFT 用多智能体拆解数据研究：分析子智能体把最佳 IFEval 提高 6.50，合成子智能体再加 3.4
AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning · arXiv:2610.22194 · 邻近跟踪
研究问题与核心方法：给了完整训练栈之后，语言模型智能体都收敛到 SFT（supervised fine-tuning，监督微调），并把大部分精力花在改训练数据上；但现有系统只给智能体一种控制方式——从固定池里挑行，或者调用一个生成器。人类数据工程师做的事更多：调类别比例、剪枝与修复行、替换过长的回复、为缺失的能力写新样例、调整训练顺序。作者把这六类写成数据动作空间（data action space），并强调它只用于事后标注，衡量一次运行到底覆盖了多少种动作。做法是先把单智能体放进改写过的 PostTrainBench 设置里跑（Qwen3-1.7B-Base，IFEval 目标 80 与 IFBench 目标 50，池为 argilla/ifeval-like-data，每轮最多 10M token、训 3 epoch、序列长 32,768、全局批 16、学习率 1e-4，每轮都从同一个基座检查点重训），看出三种失败，再据此设计 AutoSFT。AutoSFT 是一个多智能体系统：meta agent（元智能体）拥有整轮；executor（执行子智能体）把提交作业、监控、转换检查点、评测整条生命周期放进自己的会话，只回传产物路径与简短状态；四个分析子智能体分别从训练数据、失败样例、训练信号与历史轮次四个证据源各提一条可执行的数据动作；synthesis（合成）子智能体针对池中供给不足的能力目标生成新样例，这些目标被设计成单个可检验的约束或其组合，能由程序化验证器判定，生成数据要通过目标约束验证、独立语义复核与会话集 n-gram 重叠检查后才入池。全部比较都固定基座、初始池、token 预算、训练脚本与评测口径，只加一个组件，因此差异可归因到该组件。87
关键结果：
- 单智能体试点的三种失败（3.1 节）：一个 Codex 智能体（GPT-5.5，中等推理档）在 11.5 小时内提交 33 轮、完成 32 轮评测，两个目标都没达到。第一，33 轮全部落在「调类别比例」这一个家族里，第 9 轮是全程最好，之后 23 轮没有更好，且它并不是缺措辞（用了 22 种不同说法），而是动作本身没有变化，推理里从未出现修复行、替换回复或写新样例。第二，限时设置下每轮训练数据先涨到 264k 行、之后一路降到 69k 行（峰值的 26%）。第三，会话上下文填到 258,400 token 窗口的 94.7%，被压缩 10 次；占用大户不是轮询（371 次调用只占 9.9M 字节的 1.7%），而是训练输出 13.4%、重复读运行记录 11.8%、应用数据动作 9.7%、评测输出 8.9%，加推理 16.3% 与压缩摘要 8.3%，六项占掉窗口的三分之二。
- executor 的作用（5.1 节）：同样时长内 meta agent 的上下文压缩次数从 10 次减到 5 次；shell 命令占其记录事件的比例从 58% 降到 29%，其中三分之一是委派给 executor；基座智能体发出 268 次状态查询，占它命令的 23.0%。
- 分析子智能体的作用（5.2 节，IFEval 用 avg@10（同一检查点重复评测取平均），3 epoch，3M token 上限）：分析档在第 6 轮就到 63.33，已经超过基座档 50 轮里的最好成绩，第 30 轮升到 67.10；基座档前 30 轮最好 60.60、50 轮最好 62.35，因此同样轮数下分析档领先 6.50 点，即使给基座档多 20 轮也仍领先 4.75 点。动作分布同时变了：带分析时修复与再监督两类合计占动作的 55%，而基座档始终只在调比例这一个家族里。按动作看「设新最好成绩」的比例，按验证结果选数据在 41.7% 的使用中设了新最好（10/24），同时改指令与答案在 14 次使用中有 6 次。
- 合成子智能体的作用（5.3 节，IFEval 与 IFBench，每检查点 avg@10，3 epoch，100M token 上限）：最佳 IFEval 81.58 对基座档 78.15，最佳 IFBench 51.95 对 49.02；从第 9 轮起每个 IFEval 检查点都超过基座档 31 轮的最好值。但并非每一批生成数据都有用：repeat_prompt 能力前 8 轮一直停在约 40%，第 9 轮那批数据在同一轮内把它抬到 75.6%；odd_even_syllables 被三轮分别针对，每轮得分都是 0，说明光靠补供给教不会模型还做不到的约束。
- 迁移到代码域（5.4 节，MBPP+，Qwen3-1.7B-Base，目标 70，池 742,842 条 Python 指令—代码对，每轮 3 epoch、序列长 8,192、100M token、avg@3）：64 小时内 Base 与 Base+Analysis 各跑完 15 轮、含合成的一档只跑完 6 轮。单智能体没有持续改善，Base+Analysis 稳定上升并在第 13 轮达到 64.8%，加合成每轮更慢但第 6 轮就到 65.8%。87
证据与局限：最硬的地方是每个比较都从基座重训、且固定 token 预算，所以组件效应可归因，这也是它比多数「智能体自动做研究」的演示更可信的原因。局限同样明确：没有种子数与误差棒（Figure 9 的带只表示评测重复的标准差）；动作家族标签由作者事后从相邻两轮配方差异判定，而不是采信智能体自述（附录 A.2 给了两处「说的」与「做的」不一致的例子）；IFEval 的分析比较里两个配置都没达到预设目标，基座跑 50 轮而分析只跑 30 轮，轮数并不相等；实验只用一个基座（Qwen3-1.7B-Base）与一个指令跟随池，代码域只跑到第 6、13、15 轮且总时长封顶 64 小时，代码域的能力结构还是系统自己从基准与池里推出来的；论文的 AI 使用声明写明用生成式 AI 工具润色文字、绘制与改进图示、协助写代码，但声称研究想法、方法设计与所有报告数字不是 AI 生成的，且都对照了每轮的运行账本。代码：https://github.com/Thinking-Space/AutoSFT（实测 HTTP 200），论文为 CC BY 4.0。87
与目标研究线的连接点：A 线（后训练流程自动化、数据筛选与合成、上下文管理）可用，属于可迁移的系统结构而非新算法。四条可直接搬走：(1) 把「执行」从「决策」的会话里搬出去，只回传产物路径与状态——这一条单独就把上下文压缩次数从 10 次减半，任何长程数据、评测或实验循环都能用；(2) 从四个互补证据源各出一条提案，用来打断单一提案流的自我强化（单智能体的 33 轮全落在同一动作家族，是最直白的反面例证）；(3) 「从基座重训 + 固定 token 预算 + 只改一个组件」的归因协议，比常见的「跑一次看分数」更能支撑结论；(4) 「给供给不足的能力补合成样本」以及它的边界证据——补数据能救的（repeat_prompt 从约 40% 到 75.6%）与救不了的（odd_even_syllables 三轮为 0），这对判断哪些能力缺口值得花生成预算很关键。与同节 Data World 的差异：Data World 从零造环境与任务并把评分表锚在生成记录上，AutoSFT 在给定池里重组、修复、替换与生成行，改的是「训练数据的配方」这一环。87
结论建议：建议读第 2 节（研究循环与数据动作空间的定义）、3.1（三种失败模式及其量化证据）、第 4 节（系统）、5.1–5.4（四个比较）、附录 A（单智能体完整轨迹与逐轮账本）、附录 C.1（按动作的设新最好成绩比例）。引用时必须限定：全部结论基于 Qwen3-1.7B-Base 单基座与单一指令跟随池；「+6.5 IFEval」是同样轮数下相对基座档的差，而且两档都没达标；合成带来的 +3.4 IFEval 与 +2.9 IFBench 用的是 100M token 预算，与分析比较的 3M 预算不同，两者不能相加；代码域的 +3.7 MBPP+ 是摘要口径、正文只给了 64.8% 与 65.8% 两个点值，别把它当成稳态收敛结果。87
六、强化学习后训练与奖励建模
1. RRI 让对抗者先破解自写评分表：HealthBench Pro 调整分 9B 高 10.9、27B 高 12.4
Recursive Reward Improvement via Adversarial Meta-Prompt Evolution · arXiv:2610.21040 · 精读
研究问题与核心方法：医疗、法律、金融里的专家任务多是开放式的（写临床报告、回答患者问题），训练数据稀缺，因为每道题都要专家来写、还要专家判断什么样的答案算好。递归自我改进（Recursive Self-Improvement，RSI；让模型从自己生成的数据里学习）能低成本供数据，在数学与代码上已经跑通，因为那里有最终数字、单元测试或自动评测器来核对；开放式任务没有答案键，出题者必须连评分表（rubric，一列带符号权重的评分项，正项奖励应包含的内容、负项惩罚指定的错误）一起写，而「怎么监督这份模型自写的奖励」是核心未解问题。障碍有两个：奖励必须在没有参考答案的条件下被校验；而现代的奖励破解（reward hacking，解题者只满足评分项的措辞而不提供实质内容）防御方法通常假定偏差跨任务固定，评分表逐题变化时就不适用了——作者的实验显示模型生成的题目—评分表对子里接近 99% 可被破解。RRI 的做法是把「破解」本身当成监督信号，共五个组件：proposer（出题者，只拿到目标任务的一段笼统描述、没有任何训练数据，写出临床请求并把它当检索查询去取医学文献，再据文献一次写出完整题目与评分表）；adversary（对抗者，看得到评分表，写一份尽量满足评分项但尽量无用的答案）；judge（判分者）；solver（解题者，用 GRPO 即组相对策略优化从奖励学习，advantage 取组内均值的差）；meta-optimizer（元优化器，读训练反馈与已确认的破解案例，改写出题提示里的指引块）。hack 与 patch 两阶段是机制核心：同一个冻结模型在看不到评分表的条件下另写一份诚实答案，算差距 Δ = s(exploit) − s(honest)，只有诚实答案比破解答案高出 δ = 0.20 才直接接受该题；否则进入修补——提出正负两类评分项，只有当负项满足「met(A) ∧ ¬met(B)」、正项满足「met(B) ∧ ¬met(A)」时才保留，也就是该评分项必须让诚实答案得分更高；改写后的题目—评分表只有在新一轮探测显示 Δ 变小时才被采纳，最多两轮之后无论对抗者是否仍能赢，题目都进入训练池以保住任务多样性。测量口径是各基准自己的评分表分数，HealthBench Professional 另加官方的长度调整项 s(y) = r(y) − λ(ℓ(y) − ℓ0)/500，其中 ℓ0 = 2,000、λ = 0.0147。88
关键结果：
- 域内无训练数据（RQ1，HealthBench Professional 共 525 道医师撰写的题、横跨咨询、研究与写作，带典型与困难两个子集，只用于验证，全部训练题与评分表由模型生成，每个模型取最后一次检查点、不做检查点选择）：9B 上 RRI 相对纯生成的自进化基线（Generation Only）调整分高 10.9 点、27B 高 12.4 点；原始分分别高 11.0 与 10.4。27B 上 Generation Only 只把分数从初始 0.374 抬高 1.8 点，RRI 抬高 14.2 点。
- 不依赖更强模型（5 节）：全部辅助角色都由冻结的 9B 模型担任时，调整分提高 10.3 点、原始分提高 7.4 点；去掉检索后调整分增益降到 4.0 点。
- 对抗者本身的增量（Figure 3a，9B，带检索与 GPT 判官）：已经共同演化奖励与任务的 Co-evolve Only 把调整分从 Generation Only 的 0.424 提到 0.506；加入对抗者与 hack-then-patch 再提到 0.533。同设置下 RRI 的 0.533 高于 SibylSense 的 0.502、EvoRubrics 的 0.493，以及用合成任务训练的 RaR 的 0.433。
- 任务类型（Figure 3b，9B）：写作类提高 39.1 点（27B 提高 14.7，全自评设置提高 25.9）；困难题提高 18.6 点而普通题只提高 2.8 点；咨询与研究各 +0.5 点。9B 上 Generation Only 把写作留在 0.199（未训练为 0.194），RRI 提到 0.590；作者的解释是写作任务形制固定，模型写的评分表倾向于为「写出这个形制」付分，而修补步骤把它换成对内容的评分项。
- 跨域迁移（RQ2，Qwen3.6-27B 只在 HealthBench Professional 的描述上训练、此后不做任何训练，两榜都没有见过）：PRBench Hard（550 道金融与法律专家题）上从基座 0.189 升到 0.255（+6.6，金融 +7.4、法律 +5.6）；ProfBench（40 道博士与 MBA 级报告题，化学、物理、金融、咨询各 10）上从 0.345 升到 0.425（+8.0，四个域全涨，化学 +13.2、咨询 +11.0）。用同一描述训练的 Self Improve 基线只涨 1.2 与 4.7 点，RRI 在八个列里七列最高。HealthBench Hard（1,000 题，训练与验证都没见过）：RRI-27B 得 0.246，Generation Only 得 0.188，基座 0.143，即比 Generation Only 高 5.8 点。
- 修补的量化效果（RQ3，9B）：被采纳的改写把新鲜破解相对诚实答案的平均领先从出题者原评分表的 0.43 压到 0.01，诚实答案在三分之一的题上反超（此前几乎没有）；每采纳一条评分项平均把破解领先压低 0.23（被抓住时的平均领先是 0.40）。对抗者仍然赢下多数修补后的评分表——第一次修补之后，293 个案例里有 247 个又找到了新破解，作者把这当作「对抗者足够强、每个新漏洞给下一轮一个具体目标」的证据。
- 破解类型学（Figure 6，训练中共收集 12,147 个破解案例，HealthBench Pro 7,032、PRBench 3,473、ProfBench 1,642）：总体约三分之一是「漏掉的负项」（破解答案拿到了评分项的分，同时写出没有任何评分项触及的错误或不安全内容），含糊措辞的评分表占 29%，答案键本身错、过时或只认一种约定占 14%，「漏掉的正项」在各域都不超过 1%，四类合计不足 100%，原文未给出其余缺陷类型的占比。分域看，医学里含糊评分表以 35% 领先、编造的引用占 10%（另两域为 2% 与 0%）；PRBench 里漏掉的负项以 39% 领先；ProfBench 里错误答案键以 32% 领先，作者归因于出题者自己没核过评分表。修补之后，同一批任务的训练奖励从 0.71 降到 0.55（9B）、从 0.69 降到 0.51（27B）。88
证据与局限：结论的量级不小，但全部都建立在「评分表当奖励」这一口径上，衡量的是各基准自己的评分表分数，不等于真实临床或专业结果；长度调整项与评分细则都是各基准官方的，跨基准的分数不能直接搬运。作者明确说因为算力限制不做任何超参搜索、所有基线共用同一组超参，每个训练模型都取最后一次检查点、不做检查点选择。判官链条长且几乎全是模型：训练与验证用 GPT-5.5-Chat 与冻结的 9B 模型，HealthBench Professional 的官方判官是 GPT-5.4，破解案例的分类由一个 GPT-5.5 审计者完成，被采纳的评分项也由一个语言模型审计者检查；原文报告了换用官方判官重评能保持排序与差距（附录 H），但没有报告任何判官一致性指标。RRI 的增益是相对 Generation Only 自进化基线，不是相对基座；「近 99% 的模型生成题目—评分表对可破解」只出现在引言的论证里，本单元在可读到的正文范围内没有看到该比例的统计口径与样本量。域外增益被作者归因于奖励的改善而非新训练任务，这一点在正文有明确的对照支撑。代码、提示词与配置在 https://github.com/DDVD233/RRI（实测 HTTP 200）；论文为 CC BY-SA 4.0。88
与目标研究线的连接点：A 线（强化学习后训练与奖励建模）与 B 线（自进化闭环）双线直接命中，是本期唯一把「奖励本身」放进自进化对象的工作。可搬走的有四条：(1) 用「破解者 + 诚实答案」这一对做无参考的奖励校验，判据定成「诚实答案必须比破解答案高出 δ」，而不是「这条评分项能区分两个答案」——后者只说明有区分度、不说明方向对，这是它相对按分数方差筛选评分项那类方法的实质差别；(2) 修补阶段的保守筛选规则本身可以直接实现：负项必须只被破解答案命中、正项必须只被诚实答案命中，其余提案丢弃；(3) meta-optimizer 把已确认的破解写回出题指引，让奖励的改进跨轮持久化，否则同一个错误会反复出现；(4) 那张破解类型学（漏掉的负项约三分之一、含糊措辞 29%、错误答案键 14%、漏掉的正项不超过 1%）可以直接当自写评分表的质量检查清单，作者据此给出的建议是出题者优先补负项、消歧，而不是加更多正项。与同节 CleanRM 的差异：CleanRM 假设拿得到少量干净反馈、走统计去噪路线并给出无偏性证明；RRI 完全没有干净参考，靠自博弈把奖励磨到「诚实答案赢」，代价是每道题要多一轮对抗与最多两轮修补的算力。88
结论建议：建议读 3.1–3.4（五组件、hack 与 patch 的判据、δ 与两轮上限的取舍）、4.2 与 Figures 2、3（四类评分表奖励基线的对比与组件消融）、4.3 与 Figure 4、4.4 与 Figure 6（破解类型学）、附录 G（评分协议）、附录 K（修补案例）、附录 L.5（逐轮统计）。引用时必须限定：所有分数都是各基准评分表上的分数，且经过长度调整；训练数据 100% 由出题者生成、无任何人类训练样本；RRI 的增益相对的是纯生成自进化基线，不是基座，也不等于「加了对抗者」的净效应（净效应是 Co-evolve Only 0.506 到 0.533 的 2.7 点）；域外增益是奖励迁移的结果，不要叙述成「在 PRBench 或 ProfBench 上做了训练」。88
2. CleanRM 用少量干净反馈校准逐样本噪声率：三个偏好数据集 R² 全面超过最强基线 TrainRef
CleanRM: Reward Modeling from Noisy Feedback with a Few Clean Feedback for RLHF · arXiv:2610.21138 · 邻近跟踪
研究问题与核心方法：偏好数据里的反馈噪声来自主观判断、标注错误以及不完美的 LLM 判官，而经典去噪方法（估计一个全局转移矩阵构造统计一致的目标准则，或按损失值与训练动态做鲁棒筛选）都假设所有样本共享同一个噪声率。本文指出这个假设在反馈数据上不成立：噪声本质上是逐样本的——明显违反指令的回复偏好清晰，标注一致；而两个都合理、只是在「实用」与「共情」之间取舍不同的回复，标注分歧就大。形式化上，x = (q, o) 是提示—回复对，r* 是潜在真偏好，r 是观测到的反馈，逐样本噪声率 μ(x) = P(r = 0 | r* = 1, x)（把真偏好为正翻成负）与 ν(x) = P(r = 1 | r* = 0, x)（反向翻转）。作者先证明一个风险分解（定理 2.1）：朴素目标的期望噪声风险等于干净风险加上 E[ρ_{r*}(x)(ℓ_noisy − ℓ_clean)]，其中 ρ_{r*}(x) = rμ(x) + (1 − r)ν(x)，因此噪声率高的样本其梯度方向被 ℓ_noisy 主导，模型去记的是被污染的反馈而不是偏好。噪声率一般无法只从噪声数据里辨识，所以本文假设能拿到极少量干净反馈（N_clean 远小于 N_train）用于校准。CleanRM 的做法是两步：先用一个双头估计器 p_φ 直接从噪声输入预测 (μ̂(x), ν̂(x))，再按转移方程把噪声标签翻回真偏好 r̂*_φ(x) = (r − ν̂) / (1 − μ̂ − ν̂)，并用少量干净反馈通过 Wasserstein 最优传输（optimal transport，把两个分布之间的最小搬运代价）对齐两者的联合分布，代价矩阵把偏好差异与输入空间距离相加（后者是 LLM 骨干编码下的平方欧氏距离，两项按传输批做 min–max 归一化）；作者用联合分布对齐作为条件对齐的可证上界，并给出噪声率可辨识性的定理（定理 3.2）。第二步用估计出的噪声率解一个 2×2 线性方程组，得到代理损失，并证明噪声率正确时代理目标是干净风险的无偏估计（定理 3.3），前提是 μ(x) + ν(x) < 1，记号 ε(x) = 1 − μ(x) − ν(x) 出现在分母上。89
关键结果：
- 主结果（Table 1；HelpSteer 用 Helpfulness、UltraFeedback 用 Overall Score、PKU-SafeRLHF 用 Severity Level 作偏好代理并二值化；每个数据集留 5% 干净训练数据当干净反馈，其余按逐样本协议加噪）：CleanRM 在三个数据集上都拿到最高 R² 与最低 MSE，R² 分别为 0.343、0.483、0.803，比最强基线 TrainRef 高 +0.052、+0.013、+0.032。朴素基线最差，在 HelpSteer 上 R² 退化为负值 −0.187。按类别看，无干净反馈的统计一致方法（NDX 0.258、STMN 0.235、CSGN 0.215）与启发式方法（SelectiveRM 0.286、OGC 0.275）都只带来有限提升，而使用干净反馈的方法里 TrainRef 最强（0.291）。
- 组件消融（Table 2，HelpSteer／UltraFeedback／PKU-SafeRLHF 的 R²）：只用无偏代理损失、不做最优传输（CleanRM 的 † 变体）为 0.100／0.423／0.689；只做最优传输噪声率估计、不用代理损失（‡ 变体）为 0.232／0.444／0.735；两者都用才到 0.343／0.483／0.803，说明两个组件互补而非其中之一独立成立。
- 骨干泛化（RQ3，PKU-SafeRLHF，Table 3）：Qwen3-8B、Qwen3-32B、LLaMA3.1-8B、LLaMA3.1-70B 上 CleanRM 的 R² 分别为 0.764、0.776、0.776、0.808，都高于 TrainRef（0.749、0.766、0.759、0.791），即 R² 高 0.010 到 0.017、MSE 低 3.4% 到 7.7%；相对朴素基线的 R² 提升 15.9% 到 25.1%，MSE 下降 32.2% 到 41.2%。
- 干净反馈比例与噪声强度（RQ4，Figure 2，UltraFeedback）：干净反馈带来的收益随比例上升并在约 0.6 处饱和，说明少量干净反馈已够估计噪声率；噪声率 ρ = 0.05 时扩大干净集几乎无用，ρ = 0.15 时效果明显；最苛刻设置（ρ = 0.2、干净反馈比例 0.2）下 R² 仍高于 0.47。
- 下游 RLHF（RLHF 即基于人类反馈的强化学习，reinforcement learning from human feedback；RQ5，Table 4；在 PKU-SafeRLHF 上训奖励模型，再用 GRPO（Group Relative Policy Optimization，组相对策略优化）微调两个策略模型，在 HarmBench、FFT（Factuality/Fairness/Toxicity 三轴基准，本文只用其 Toxicity 子集）、DAN 上取安全分）：Qwen3-8B 策略上 CleanRM 得 0.794、0.515、0.750，相对朴素基线提升 19.40%、79.45%、25.97%，其中 FFT 比最强基线 TrainRef 再高 16.3%；LLaMA3.1-8B 策略上得 0.696、0.582、0.575，提升 33.21%、45.72%、24.32%。89
证据与局限：理论侧给了无偏性（定理 3.3）与噪声率可辨识性（定理 3.2）两条结果，这是相对其它基于少量干净数据的启发式方法（IEG、L2B、VRI、TrainRef）最实质的区别——后者用隐式重加权对齐干净与噪声数据，不显式建模逐样本噪声机制，原文也承认它们缺理论保证。实现上，骨干统一初始化为 FsfairX-LLaMA3-RM-v0.1，上层 MLP 隐藏维固定 [256,64,1]（CleanRM 的噪声率估计器为 [256,64,2]），Adam 最多 600 epoch、早停耐心 30、批 512、学习率 5e-4、Sinkhorn（最优传输的熵正则求解器）正则 0.1，基线的特有超参在加噪验证集上按各自推荐范围调过。最重要的局限是噪声口径：噪声是半合成注入的，用朴素奖励模型的预测概率定义逐样本翻转概率并重标定到类平均率 μ 与 ν，不是真实标注噪声，因此「R² 高 0.052」这类幅度不能直接外推到真实反馈数据；数据集用二值化后的偏好代理，不是原始标注；没有种子数与误差棒。作者自陈两条：CleanRM 假设拿得到少量干净反馈，在有些领域这仍然昂贵，并把自监督扩展列为未来工作；方法是逐点（pointwise）奖励建模，扩展到成对或列表式偏好在逐样本噪声下的形式尚未做。代码入口是匿名仓库 https://anonymous.4open.science/r/CAN-RM-46BB，本单元实测返回 HTTP 403（反爬拦截），无法确认内容，说明该文可能仍在双盲评审阶段；论文为 arXiv 永久非独占许可。89
与目标研究线的连接点：A 线的「强化学习后训练与奖励建模」直接可用。可搬走的是三件东西：把噪声建模的单位从全局噪声率改成逐样本噪声率（μ(x) 与 ν(x) 两个方向分别预测），这与反馈数据的实际形态更贴近；用「极少干净反馈 + 最优传输对齐联合分布」来校准噪声率，而不需要成对比较或列表式标注；无偏代理损失的闭式结构（用 ε(x) = 1 − μ − ν 作分母、正负两项交叉相减），实现代价很小，可以直接套在现有奖励模型上，前提是 μ + ν < 1。工程上还有两条可直接用的经验：干净反馈比例的收益在约 0.6 处就饱和，不必大量采集；噪声越重越值得加干净集（ρ = 0.05 时几乎无益、ρ = 0.15 时明显）。方法上值得注意的一处设计是「用联合分布的最优传输作为条件对齐的上界代理」，因为每样本只有一个噪声观测，条件分布经验上不可估，这个替换让整个目标变得可计算——这个思路可以迁移到其它「每样本标签极少但要对齐条件分布」的场景。与同节的 RRI 的差异：RRI 完全没有干净参考、把奖励本身当自博弈对象，但每道题要多付对抗与修补的算力；CleanRM 假设有少量干净反馈、走统计路线并给出无偏性证明，代价是噪声可辨识性依赖 μ + ν < 1 与条件对齐假设。89
结论建议：建议读 2.2（问题定义与定理 2.1 的风险分解，这是全文动机）、3.2（噪声率估计与定理 3.2）、3.3（代理损失与定理 3.3）、4.1（噪声模拟协议与实验设置，判断结论能否搬走的关键）、Table 1、Table 2、Table 4、4.5 与 Figure 2。引用时必须交代：噪声是半合成注入的、数据集用的是二值化偏好代理，报告的是该口径下的 R² 与 MSE 或三个安全基准上的安全分；不要把 FFT 上 79.45% 的相对提升当成真实标注噪声下的通用幅度；方法依赖能拿到少量干净反馈这一前提，且只覆盖逐点奖励建模。89
3. MASP：BDI 心智化对抗自博弈把 P4G 硬用户 SR@8 提到 0.788（Planner-only 0.616）
Stop Training Against Soft Users: Mentalized Adversarial Self-Play for Proactive Dialogue · arXiv:2610.21156 · 精读
研究问题与核心方法：主动式对话（proactive dialogue，指智能体要主动把多轮对话推向某个任务目标，如劝捐、情绪支持、共情、议价）的主流做法都在改进「规划器」：让系统侧的动作选择更强，而把用户固定住、写成提示词，或只做弱建模。论文指出这会制造「软用户偏差」（soft user bias）：在固定或过度配合的模拟器上刷出高成功率，一旦换成不那么顺从的用户就崩。作者认为根因是训练不对称——只有系统在做策略学习。MASP（Mentalized Adversarial Self-Play，心智化对抗自博弈）把对话改写成一个部分可观测博弈：用户有一个隐藏的、逐轮演化的心智状态，系统只能看到对它的估计；用户本身也是被训练出来的对手，奖励「有理由的抵抗」而不是无条件拒绝。用户状态用 BDI（belief／desire／intention，信念／欲望／意图）混合表征 m_(t) = (B_(t), D_(t), I_(t), ρ_(t), c_(t), v_(t))：B、D、I 是自由文本，ρ 是接受度（receptivity）、c 是承诺度或信心、v 是效价（valence），三者都落在固定区间。三个文本字段各用一个冻结的 Qwen3 主干当句子编码器，取末层隐状态做均值池化再 ℓ₂ 归一化，拼上按 α 预缩放的三个标量得到 z_(t)。关键设计是心智化的「师生拆开」：教师心智化器 F_(ω)（输入对话历史、可选用户画像、任务目标）只在奖励侧使用且被冻结，学生心智化器 M_(φ) 只看可观测的对话历史，产出的 ẑ_(t) 才给策略看。这样策略无法直接利用奖励侧的状态估计器，被迫真的去推断对方。奖励也是对抗的：系统奖励 r_(t)^(S) = w_(prog) Δ s_(t) − w_(inf) ‖ẑ_(t) − z_(t)‖(A)²，第一项奖励朝目标状态前进，第二项奖励推断准确；用户奖励 r(t)^(U) = −w_(prog) Δ s_(t) + w_(rat) q_(t)，q_(t)∈{−1,0,1} 是一个固定的理性判官（rationality judge）给出的信号。进度 Δs 用的是「用户相对进度」：把当前状态投影到从该用户自己的初始状态 z₀ 指向任务目标模板 z^⋆ 的方向上，避免拿绝对距离衡量（起始状态不同的用户不可比）。目标 z^⋆ 是每个任务预先写死的一份 BDI 模板，不从测试对话里抽取。训练是三阶段：Phase 0 用 silver（用离线 LLM 生成、非人工标注的）BDI 标注训练教师与学生心智化器；Phase 1 用行为克隆给系统与用户策略做 warm start，同时留作 KL 参考；Phase 2 交替 GRPO（Group Relative Policy Optimization，组相对策略优化）自博弈——先冻结用户更新系统，再冻结系统更新用户。作者来自北京航空航天大学人工智能学院与 Dongchezu Technology Co., Ltd.，代码与资源入口写在贡献列表处。 90
- 主表（Table 1，P4G（慈善劝捐对话数据集）、Qwen3-4B）：硬用户（hard user）下 MASP 的 SR@8（success rate@8，8 次采样中任务成功的比例）为 0.788、AT（average turns，平均对话轮数）为 4.56、RCSR@8 为 0.566；对照的 Planner-only（即同一套系统侧 warmup 与自适应规划脚手架，但不通过心智化自博弈训练对抗用户策略）为 0.616／5.55／0.384，SFT（只保留监督微调后的对话策略、不做自博弈）为 0.576／6.23／0.455。软用户下 MASP 为 0.859／4.08／0.556，对 Planner-only 的 0.677／4.88／0.434 与 SFT 的 0.616／6.08／0.384。同一张表里 Qwen3-0.6B 的 P4G 硬用户：MASP 0.626／5.76／0.434，SFT 0.354／7.35／0.242，Planner-only 0.364／6.84／0.202。
- RCSR@T 是新口径：RCSR（rationality-constrained success rate，理性约束成功率）只有当任务在 T 轮内完成、且完成前缀的平均理性质 q̄_(τ_s) 不低于阈值 τ_(q) = 0.70 时才算成功，失败对话记 0。判官逐轮读任务描述、当前 BDI 状态 z_(t)、系统发言 a_(t) 与用户回复 u_(t)，输出 RATIONAL／NOT_RATIONAL，映射到 q_(t) = +1／−1，解析失败记 0。作者明确说这个口径是为了过滤掉模拟器谄媚或无理由让步造成的「假成功」。
- 滚动轮次（Table 3，P4G 硬用户、Qwen3-4B、99 例测试集）：MASP 在 RCSR@3 就拿到 0.444（Planner-only 0.212、SFT 0.071），RCSR@4 为 0.485（0.273、0.141），RCSR@8 为 0.566（0.384、0.455），SR@8 为 0.788（0.616、0.576）。即优势不是最后一轮追赶或「快但没依据」的成功。
- 换模拟器（Table 4，P4G 测试集、3 个用户模拟器集成）：MASP 的平均 SR 0.795、最差 SR 0.737，Planner-only 为 0.660／0.616，SFT 为 0.579／0.545；平均 RCSR 0.562、最差 RCSR 0.556，两个基线的最差 RCSR 都是 0.384。
- 消融（Table 2，P4G、Qwen3-4B、99 例）：去掉自适应收尾注入（adaptive close injection）使软用户 SR 掉 15.2 个点、硬用户掉 8.1 个点；去掉 warmup 后 AT 反而最低（软用户 3.83 轮）且 SR 仍高（0.828），但 RCSR 从 0.556 掉到 0.283（硬用户从 0.566 掉到 0.283），说明它学到的是「提前索要承诺」的捷径式成功；完整模型软用户 0.859／4.08／0.556、硬用户 0.788／4.56／0.566。
- 跨基准：ESConv（情绪支持对话数据集）上 MASP Qwen3-4B 硬用户 SR 1.000、AT 1.88、RCSR 0.964；CraigslistBargain 硬用户 SR 0.621、AT 5.61、RCSR 0.259（Qwen3-0.6B 软用户 RCSR 0.030 低于 SFT 的 0.057，是唯一的反向格子的量级）；EmpatheticDialogues 因为成功要求 outcome 判为 resolved（完全化解），绝对 SR 很低，MASP Qwen3-4B 硬用户只有 0.072。
- 与既有系统的横向比较（Table 5，P4G）：MASP（Qwen3-4B）SR 0.859、AT 4.08；相对 LDPP（Qwen1.5-1.8B，SR 0.795、AT 5.57）SR 高 6.4 个点、AT 少 1.49 轮；相对 UDP（GPT-4o mini，0.598／7.71）SR 高 26.1 个点、AT 少 3.63 轮。 90
证据与局限：证据的分量在于它同时给了三类检查，这是同类主动对话工作里少见的。其一，合成监督被人审：160 条对话前缀（P4G、ESConv、EmpatheticDialogues、CraigslistBargain 各 40 条）上，belief／desire／intention 三段的均分为 4.62／4.58／4.55（满分 5），打 4 分及以上的比例为 94.4%／93.1%／91.9%；标量字段 receptivity／confidence／valence 的 MAE 分别 0.071／0.076／0.094，Spearman ρ 为 0.84／0.82／0.79（Table 7）。其二，理性判官被人审：100 条完整 P4G 轨迹、443 轮里 425 轮被裁决，人机一致率 91.8%、Cohen κ = 0.801，uncertain 比例 4.1%，对话级理性分数相关 ρ = 0.81，人工置信均分 4.68（Table 8）。其三，统计区间：99 例硬用户 P4G 会话上做 10,000 次配对 bootstrap，MASP 相对 Planner-only 的 ΔSR 0.1717（95% CI [0.0505, 0.2929]）、ΔAT −0.9899（[−1.6465, −0.3232]）、ΔRCSR 0.1818（[0.0404, 0.3232]）都排除零；相对 SFT 的 ΔSR 0.2121（[0.0909, 0.3333]）与 ΔAT −1.6768（[−2.2121, −1.1212]）排除零，但 ΔRCSR 0.1111 的区间 [−0.0202, 0.2424] 含零（Table 9）。另有一项成功判官的人机一致性审计：从验证集与测试集并集中随机抽 100 条 P4G 评测记录，五个标注者与自动判官在端点标签上完全一致（最终结果与二元成功均为 100.0%，Cohen κ = 1.000），成功轮次精确匹配 97.4%、平均绝对误差 0.039 轮，终局轮次精确匹配 98.0%、平均绝对误差 0.030 轮，轮级任务标签一致率 95.7%、Cohen κ = 0.942（附录 C.4）。局限也很直白：作者自己列出训练依赖 silver 心智状态标注、教师心智化器与理性判官，这些环节的偏置或噪声会传进策略；共享的 BDI 几何是为跨域迁移设计的，可能漏掉某些任务的专有用户状态；双策略加辅助心智化器的交替自博弈比单策略规划更贵；当数据集不给用户画像（p_(u) = ⌀）时，师生之间的特权信息差变小，这个拆分就退化成对奖励侧状态估计的正则，而非提供强的画像条件隐藏信息。需要特别提醒引用风险的点：区间是「对留出会话的不确定性」，不是跨随机种子的训练方差，多随机种子的稳定性原文明确说尚未建立；ESConv 的近满分 SR 来自 somewhat_better 也算成功的口径，作者自己在正文和附录 C.5 都提示了——Qwen3-0.6B 硬用户那次 195 个首次成功轮里有 194 个标为 somewhat_better、只有 1 个标为 resolved；silver BDI 标注由离线 LLM 的 Oracle Belief Updater 生成（GPT-4o-2024-08-06，temperature 0.2，最多 320 token），不是人工标注，所以「人审一致率高」证明的是合成标注可接受，不是标注本身是金标；成功判官用的是 GPT-3.5 加 3 次采样判决，系统解码温度 MASP／Planner-only 用 0.3 而 SFT 用 0.75，用户模拟器用 0.9，这个温度不对称是基线不利因素，跨方法比较时有解释余地；CraigslistBargain 上软／硬用户是按「买方侧难度」重新定义的（Phase 1 BC 卖家记为 hard，Phase 2 自博弈卖家记为 soft），与其它三个合作型任务相反，跨数据集读表时不能直接对齐。代码入口 https://github.com/Tecitomous/MASP-Proactive-Dialogue 实测 HTTP 200，但仓库内是否含训练数据与权重原文未在正文交代。 90
与目标研究线的连接点：归 A 线（长程任务的训练与评估），同时沾 B 线。可搬走的东西有三件，都很具体。第一是把对手的抵抗写进训练目标，而不是只写进评测条件——这直接对应当前长程智能体常见的痛点：环境或用户模拟器太软，成功率没有信息量。第二是「师生拆分的心智化器 + 冻结教师只在奖励侧」这一反奖励劫持机制：奖励依赖冻结估计器、策略只看到学生估计，可以原样移植到任何「奖励依赖一个可学习状态估计」的场景（如轨迹奖励模型、过程奖励模型），用来防止策略去刷状态估计器而不是真的完成任务。第三是用户相对进度 Δs 与 RCSR 两个口径：前者把「朝目标前进」定义成在用户自身初始状态到目标方向上的投影，解决了不同起点不可比的问题，可直接用于长程任务的过程奖励设计；后者把「成功」与「成功前缀的理性质」绑定，是一个可以横向复用到别的多轮任务上的评测口径。与同节其它工作的差异：这一篇不改进规划器也不改进模拟器的逼真度，而是把用户模型变成自适应的训练对手，且是作者所称首个把 BDI 心智状态引入多轮对话训练、让状态在训练中演化的框架。 90
结论建议：想直接复用方法就读第 3 节（3.2 潜在心智状态与心智化、3.3 用户相对进度、3.4 对抗奖励）加附录 B.1 的超参表（Table 11、Table 12），那里给了 LoRA rank 64／alpha 128／dropout 0.05、GRPO clip 0.2、每个数据集的 K 与奖励权重三元组 (w_(prog), w_(inf), w_(rat))；想评估自己模型在多轮任务上的稳健性，读 4.3 的 RCSR@t 与 4.4 的最差情形表（Table 3、Table 4），这两个是本文最可移植的评测设计。引用时必须限定的前提：这些数字全部来自 LLM 模拟器而非真人用户（作者把真人交互列为未来工作）；RCSR 的结论绑定 τ_(q) = 0.70 与同一个理性判官；P4G 的消融与 bootstrap 都只在 99 例测试集单次运行上做，不能当作多随机种子的稳定性结论；ESConv 的 SR 不能用来论证模型能真正化解情绪问题。 90
4. CCE-OPD：把教师偏好违背条件延续的比例从 27.00% 降到 16.00%
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models · arXiv:2610.21195 · 邻近跟踪
研究问题与核心方法：OPD（on-policy distillation，在策略蒸馏：让学生模型先自己生成推理轨迹，再让更强的教师在同一批学生前缀上给出监督）解决了训练轨迹与推理轨迹不一致的问题，但论文指出一个被忽略的失效模式：教师在被喂进学生自己写错的前缀后，会倾向于肯定「顺着学生错误方向走」的下一步。作者把这种延续叫 CVC（condition-violating continuation，违背题目条件的延续）。文中给的例子是：题目给定 x > 0 且 x² = 9，学生写道「取负根，x =」，此时接「−3」顺着前缀方向但违反正数约束。作者实测在这类状态上，完整教师会给出正的学生侧优势 A_(t) = log (0.597318/0.518624) ≈ +0.141，等于鼓励了错误延续。补救办法是 CCE-OPD（Condition-Contrastive Extrapolated On-Policy Distillation，条件对比外推在策略蒸馏）：在同一个冻结教师、同一个学生前缀下做两次评分，一次看完整题目 q_(T)，一次看把某个条件遮掉后的题目 q_(D)，把两者的对数概率差 δ_(t)(v) = log q_(T)(v) − log q_(D)(v) 作为「这个 token 有多依赖该条件」的度量；再把 δ 裁剪到 [−c, c]（c = 5），按 q_(E)(v) ∝ q_(T)(v)·exp(β·clip(δ_(t)(v))) 在教师与遮罩教师各取 top-16 的候选并集上重加权，得到辅助目标 q_(E)（β = 0.2）；最后只在教师熵 H(q_(T)) ≥ τ 的位置施加辅助损失（τ = 0.8 nats，nats 是自然对数单位），总损失为 ℒ = ℒ_(OPD) + λ ℒ_(CCE)，λ = 1。遮罩条件由 DeepSeek-Flash（关闭思考模式）提出「最小且语义完整的条件 + 最小目标文本」，再经精确跨度校验与第二轮语义审查，7,498 道训练题中 3,402 道拿到合格对照，其余 4,096 道只走 OPD。作者来自香港中文大学（深圳）理工学院、深圳市大数据研究院与字节跳动。 91
关键结果：
- 单点诊断（Table 1，同一错误前状态、同一 token 位置）：学生 p_(S) 给「4（CVC 开头）」51.8624%、「1（合法）」30.2846%；完整教师 q_(T) 给 59.7318%／31.1267%（即教师比学生更偏向错误）；遮罩教师 q_(D) 反转到 89.6143%／1.0278%；最终辅助目标 q_(E) 把排序翻回来，给 43.7999%／48.9643%。
- 200 个推理状态上的成对比较（Table 2）：CVC 偏好率由完整教师的 54/200（27.00%）降到「教师 + 条件对比」的 32/200（16.00%）；在学生原本就写错的 60 个状态子集里，由 49/60（81.67%）降到 27/60（45.00%）。等长的随机遮罩对照只降到 51/200（25.50%）与 46/60（76.67%）。逐状态看：条件对比纠正了 23 个原本错误的偏好、反转了 1 个原本正确的偏好，24 处变化全部落在那 60 个错误状态内，其余 140 个状态排名不变（Table 7）。
- 主结果（Table 3，教师固定为 Qwen3-8B，学生 Qwen3-0.6B-Base 与 Qwen3-1.7B-Base）：相对 OPD，CCE-OPD 在两个学生规模的全部六项数学基准上 avg@8（每题采样 8 次的平均准确率）都提升，宏平均增益分别为 1.60 与 1.95 个百分点；1.7B 上相对当轮最强对手的增益从 OlympiadBench 的 0.20 点到 AMC23 的 4.69 点，0.6B 上最大增益在 Minerva-Math（+3.22）。例如 1.7B 的 AMC23 avg@8 为 40.00（OPD 35.00、GRPO 31.25、Base 31.56），AIME24 avg@8 为 12.08（OPD 9.17、EOPD 10.42；EOPD 为在高熵位置加前向 KL 的对照）。
- 遮罩对象消融（Table 4，1.7B、β = 0.2）：条件遮罩在五项基准上优于等长随机遮罩、在 AIME25 上打平，最大优势是 Minerva-Math 的 2.39 点与 AMC23 的 2.19 点；也优于整题删除、换另一道题、以及仅把 token 数补齐的无意义符号三种对照。
- 外推强度与熵门控（Table 5、Table 11）：相对 β = 0 的对照，β = 0.2 在六项上分别提升 0.70、3.33、1.25、0.62、1.93、0.43 点，更大系数不单调变好；熵门控相对「所有有效位置都加辅助损失」在六项 avg@8 上提升 0.30 到 2.48 点（宏平均 1.14 点，AIME24 与 AIME25 各 +1.25）。
- 跨域迁移（Table 6，数学训练的 1.7B 学生）：GPQA-Diamond 30.81、MMLU-Pro 40.72、IFEval 32.53、CRUXEval-O 41.1125，四项均为最优，分别比最强对手高 1.52、0.49、2.03、0.75 点。 91
证据与局限：证据链是「先诊断、再修、再做输入构造与超参消融」的完整闭环，且诊断集与训练集分开构造——200 个诊断状态来自 3,402 道合格题，由 OPD 训练过的 Qwen3-1.7B 以 temperature 1.0、top-p 1.0、关闭思考、最长 8,096 token 生成，每题至多取一个状态；候选对的「合法／违规」标签由 ChatGPT-6 Sol 辅助做数学验证确定，且在查看教师打分之前就已固定。引用风险也很明确：作者自陈训练数据只来自 MATH 数据集，跨域适用性未测；六项基准里 AIME24/AIME25 各只有 30 题、AMC23 只有 40 题，单个题目就值 3 个点以上，而论文报告的是 avg@8、没有给置信区间或种子数，所以「+1.95 点」这种量级的结论不能用在小样本基准的单点差上；Table 4 的条件遮罩对照只在 1.7B 上做，0.6B 没有对应消融；q_(E) 只在候选并集（至多 32 个 token）上归一化，学生概率保留全词表归一化，作者在附录 F 说明了这一点，但这也意味着辅助信号只覆盖极少数候选。另外原文未给出代码仓库或数据入口，我在 HTML 全文里没有找到任何 GitHub 或 HuggingFace 链接，也未在 HTML 里找到任何可用的图片直链（
grep src= 只有 LaTeXML 的占位元素），因此本篇未交配图。 91与目标研究线的连接点：归 A 线的「训练信号设计」侧，属于邻近跟踪而非直接命中，因为它的训练与评估对象是单轮的数学推理，不是长程智能体。可搬走的是三件很具体的东西。第一是「同一冻结模型、只改一处的两次输入做差」这个诊断手法：它不需要额外标注，就能把「教师是被题目条件说服的」与「教师只是顺着学生的语气走」分开；任何以教师／奖励模型给中间过程打分的场景都可以照搬这个设计来查「监督信号是否在纵容错误」。第二是共享偏移抵消：对比两侧共享同一教师、同一回复、同一视觉／前缀上下文，只差一个提示，所以教师整体置信度的漂移 δ 在相减时被消掉；同节的 PACE 用了同一思路但换成答案提示 × 视觉有无的 2×2 因子设计，两篇可以对照读。第三是熵门控这个「把辅助监督只放在教师自己也不确定的位置」的启发式，配合它的消融结论（加在低熵位置没有一项基准变好），可以直接借用到任何要往 RL 目标里塞辅助损失的训练里。与同节其它工作的差异：它不依赖参考解答、不依赖正确性奖励，而是从题目自身抽掉一个条件，构造出「同一模型的条件敏感度」这一免费对照。 91
结论建议：想复用方法就读第 3 节的两张诊断表（Table 1、Table 2）与第 4 节的三段构造（4.2 条件对比、4.3 有界外推、4.4 熵门控），加上附录 B 的打分协议和附录 F 的训练伪代码，超参（k = 16、β = 0.2、c = 5、τ = 0.8 nats、λ = 1、AdamW、学习率 3 × 10⁻⁶）都在附录 D 的 Table 10。引用时必须限定：结论只覆盖 Qwen3-8B 教师到 0.6B／1.7B 学生、只覆盖 MATH 系数学推理、评估为 avg@8 单次训练、小样本基准（AIME/AMC）上的具体点差不能单独引用；「条件对比有效」这一结论的支撑来自 200 个状态的可控诊断而非无限制生成时的错误率，作者自己也注明这些比例只描述诊断集内的偏好。 91
5. OpCredit：CWQ 上把 SFT 的 Hit@1 71.95 提到 76.56（Qwen2.5-3B）
OpCredit: Operation-Aware Policy Learning for Agentic Knowledge Graph Question Answering · arXiv:2610.21345 · 值得扫读
研究问题与核心方法：agentic KGQA（knowledge graph question answering，知识图谱问答）里，策略要在知识图谱上做多轮可执行操作——选实体与方向、选关系、输出答案，最多 10 跳，每一步决定后续能看到什么证据。论文指出一个「轨迹—操作粒度错配」：GRPO（Group Relative Policy Optimization，组相对策略优化）只拿到轨迹级的结果奖励，再把同一个优势广播到该轨迹所有 token 上，于是一条成功轨迹里可能混着跑偏的操作，一条失败轨迹里也可能有有用的导航。作者给的例子来自 Figure 1(a)：成功轨迹在找到正确演员前先查了一次无关的原声带，失败轨迹则走到了相关演员但答错。办法是把轨迹级信用拆成两条互补的操作级信号。BOC（Branch Outcome Credit，分支结果信用）复用现成的同题 rollout：把所有 rollout 的每个决策按「导航上下文」c = χ(s) = (E_(vis)(s), b(s), ϕ(s)) 分组，其中 E_(vis) 是已访问实体集、b 是剩余导航预算、ϕ 是决策阶段（选关系／选实体与方向／输出答案）；在组内用 Q̂_(out)(c, o)（该上下文下执行操作 o 的 rollout 的平均回报）减去 V̂_(out)(c)（该上下文下所有 rollout 的平均回报）得到对比 Δ，再用 Δ/(σ_(q)+ε) 作为该决策跨度内所有 token 的优势（Δ = 0 时退回轨迹级优势）。FTC（Frontier Transition Credit，前沿转移信用）不看结果，看操作对「答案条件化的证据前沿」的即时改变：把前沿潜力定义为 Φ_(q)(F) = max_(e∈F)(2 − δ_(q)(e))，δ_(q)(e) 对金答案实体取 0、对其一跳邻域取 1、其余取 2，信用就是 A_(FTC) = Φ_(q)(F⁺) − Φ_(q)(F⁻)。两者对齐到同一个决策跨度（推理文本 + 可执行操作算一个跨度，跨度划分整条生成序列），BOC 走带双重裁剪的 GRPO 代理目标，FTC 走带符号的对数似然辅助项，总目标 ℒ = ℒ_(BOC) + λ_(aux) ℒ_(FTC) + ℒ_(reg)，λ_(aux) = 0.1。推理时只用学到的策略和标准 KG 接口，所有信用计算都是训练期过程。作者来自南京大学新型软件技术国家重点实验室与牛津大学计算机科学系，代码在 https://github.com/kaka1215/OpCredit（实测 HTTP 200）。 92
- 主表（Table 2，CWQ／WebQSP 测试集与 GrailQA 完整开发集）：Qwen2.5-3B 上 OpCredit 的 Hit@1（正确实体被命中的题目比例）／F1 为 CWQ 76.56／69.31、WebQSP 88.86／77.72、GrailQA 86.35／79.17，对应的 SFT 初始策略为 71.95／66.02、85.17／74.96、81.23／74.07；Qwen2.5-7B 上为 83.47／74.58、92.13／82.97、90.18／83.42（SFT 72.15／66.06、86.28／76.38、83.73／76.77）；Llama-3.1-8B 上为 84.04／74.03、93.10／83.86、91.25／84.33（SFT 73.32／66.62、87.84／76.54、86.40／81.63）。九个「数据集 × 主干」组合上 Hit@1 与 F1 全部高于各自的 SFT 起点。
- 消融（Table 3，Qwen2.5-7B，同一 SFT 初始化与协议）：SFT 72.15／66.06（CWQ）、GRPO（两个信号都关）79.43／71.57、只留 BOC 80.65／72.15、只留 FTC 82.41／73.70、全量 83.47／74.58；三个数据集上「FTC 单独」都强于「BOC 单独」，两者相加在六个指标上进一步变好。
- 上下文匹配的作用（Table 10）：如果不匹配决策阶段，46–48% 的决策出现次数会落进「同时含选关系与选实体」的上下文组，按组计是 30–31%；补上决策阶段后两个比例都降到 0%。
- 参照盲评的信用审计（Table 13，500 道 CWQ 题、每題 8 条 rollout 的公共池，共 11,298 次操作、抽 1,200 次评判）：OpCredit 的可用性判别 AUC（ROC 曲线下面积）为 0.718，高于 GRPO 0.606、GraphGPO 0.595、GiGPO 0.592、RTMC 0.492；四个有序可用性等级上的平均信用为 −0.347、+0.016、+0.050、+0.144，是唯一在最低等级给负、并逐级递增到最高的方法（GiGPO 与 GraphGPO 在中段出现次序反转）。
- 行为诊断（Table 14，CWQ、Qwen2.5-3B、500 题、seed 42、七个检查点）：在含「后退操作」的轨迹上，OpCredit 的恢复率从 SFT 的 20.6% 升到 step 600 的 26.5%，而只留 BOC 的版本从 20.6% 降到 18.3%；错误答案的近距率两个方法差异小且方向不一致。
- 错误构成（Table 15，每个数据集 492 道匹配诊断题）：CWQ 上 GRPO 共 105 个错误（答案选择 67、首跳偏离 23、后段偏离 10、空答案 0），OpCredit 共 97 个（61／23／16／0）；GrailQA 上 GRPO 107（31／47／14／8），OpCredit 95（23／51／20／6）。 92
证据与局限：证据结构比较完整——三数据集 × 三主干的主表、单变量消融、上下文匹配的定量分析、一个把「分配到的信用」与「被判定的有用性」对照的参照盲评审计（判官是 Qwen3.7-Max，temperature 0，看不到金答案、终局奖励与分配到的信用），以及错误分类。需要限定的地方：主表里除直接提示之外的 13 个命名基线分数都取自各自论文，只有直接提示用的是本文自己的评测协议，跨方法比较口径并不统一（例如 EoG 与 GAPD 都不是同一份数据与同一套判决器）；作者也主动说明与 EoG、GAPD 的比较可能不完全公平，因为那两者额外用了 Gemini-2.5-Flash 生成的示范与参考路径、或金动作条件自蒸馏，而 OpCredit 只用基准训练数据与任务 KG。AUC 0.718 这种绝对值不能当强判别力读，因为它是在同一个 SFT rollout 池上的相对排序指标，判官本身也是 LLM。所有实验只跑 Freebase 系三个基准、固定可执行操作接口、固定 KG 快照，作者把多语言、图上更新、以及换 agent 接口都列为未评估。复现成本不低：单机 8 张 NVIDIA RTX 5880 Ada（每张 48 GB），SFT＋RL＋消融＋评测合计约 2,500 GPU 小时，软件栈为 Python 3.10、PyTorch 2.11.0、Transformers 5.5.4、veRL 0.7.1、vLLM 0.21.0，KG 由 2015-08-09 的 Freebase 终版 RDF 经本地 SPARQL 端点提供。数据集与预训练权重不在代码仓库内。 92
与目标研究线的连接点：直接命中 A 线的「轨迹数据的构造与筛选」与「奖励建模」，因为训练对象本身就是一个 10 跳以内的多轮工具型智能体。最可搬走的是 BOC 的做法：不额外展开 rollout 树、不训练辅助评估器，只把已有的同题 rollout 按上下文分组，用组内平均回报当基线——这是一种把「组相对」从整条轨迹下推到「同一上下文下的同一操作」的廉价改造，任何 GRPO 风格的 agentic RL 都做得到。第二件是上下文定义本身：已访问实体集、剩余预算、决策阶段三件套，其中「决策阶段」这一项被 Table 10 证明不做就会让近一半的决策共享异类基线；这个思路可以直接搬到网页 agent（搜索／点击／回填表单）或代码 agent（读／改／跑测试）。第三件是用相对潜力的差做过程奖励：Φ_(q)(F⁺) − Φ_(q)(F⁻) 就是 potential-based reward shaping（势函数奖励塑形）的形式，作者注明它只作为辅助目标、不改变终局奖励，这解释了为什么它可以在后续决策失败时仍然给当前操作正分。同节的 Mosaic 也做分层信用，但分的是「会话」这一层且以似然增益为过程信号；OpCredit 分的是「操作」这一层且以图谱答案距离为过程信号，两者可以对照着选层。 92
结论建议：想做 agentic RL 的信用分配就读第 3.2／3.3 两节加附录 D 的信用计算公式与 Table 9（各操作的前后前沿定义）、附录 E 的审计协议；想做多跳图谱导航就读附录 C 的交互模板与附录 F 的行为诊断。引用时必须限定：所有数字来自 Freebase 系三个基准与固定操作接口；主表的基线分数是各家自报，不能直接横向比大小；AUC 与平均信用只是同一 rollout 池内的相对量，判官为 LLM；λ_(aux) = 0.1、裁剪系数 0.2／0.28 之外的双重裁剪界 c_(dc) = 3.0、学习率 10⁻⁶、每题 6 条 rollout、奖励 0.5 Hit@1 + 0.5 F1 这套超参是调过的，换主干或换环境不能默认照搬。 92
6. PACE：五项多模态基准平均准确率从 52.09 升到 58.47（Qwen3-VL-8B）
Enhancing Multimodal RLVR with Pairwise Token Contrast and Adaptive Trajectory Confidence · arXiv:2610.21671 · 值得扫读
研究问题与核心方法：RLVR（reinforcement learning with verifiable rewards，用可自动核验的结果奖励做强化学习）在多模态推理上的一个通病是：GRPO 把「整条回复对／错」这一个序列级优势原样广播给回复里每一个 token，可错误通常只集中在一两个决定性步骤上，比如读错图表标签或算错一次。RLSD 一类的自蒸馏改法用「教师—学生似然差」把它细化到 token，但论文指出两个没解决的问题：其一，这个差只在一个模态方向上取对比（RLCSD 只改文本答案提示，视觉侧的方法只改图像），因此分不清 token 的支持是来自图像还是来自纯语言捷径；其二，它对每条轨迹都用同一个固定权重，而教师在有些轨迹上很确信、在另一些上几乎没信息。PACE（Pairwise token contrast and Adaptive trajectory ConfidencE，成对 token 对比 + 自适应轨迹置信度）的做法是把教师的评分从「一个视图」扩成 2 × 2 因子设计：答案提示取正确／错误，视觉输入取完整／置零，四个视图下对同一条学生回复做 teacher-forcing，得到四个逐 token 对数概率；由它们构成两个正确性对比 Δ_(i, t) = ℓ^(+, V) − ℓ^(−, V) 与 Δ̄_(i, t) = ℓ^(+, ⌀) − ℓ^(−, ⌀)，再合成 token 对比 c_(i, t) = α Δ_(i, t) + β Δ̄_(i, t)，取 (α, β) = (1.5, 0.5)。因为每个对比的两侧共享同一教师、同一回复、同一视觉上下文，只差提示内容，所以教师整体置信度的漂移在做差时抵消。第二个组件是自适应轨迹置信度：用 S_(i) 衡量教师在完整信息视图下比三个降级视图好多少，在微批次内做中位数／MAD 稳健归一化并裁到 [−3, 3]，经 sigmoid 映射成每条轨迹自己的混合率 λ_(i) ∈ [0.15, 0.65]，决定 token 对比能在多大程度上重分配该条回复内部的信用。最终 token 优势写成 Â_(i, t) = A_(i) · w_(i, t)^(mix)，因此每个 token 的信用符号与整条回复一致、且在回复内均值守恒；作者强调这只是系数层面的代数性质，裁剪后的 PPO 更新不保证同样的均值与幅度。作者来自上海交通大学与上海人工智能实验室。 93
关键结果：
- 主表（Table 1、Table 5，五项多模态推理基准的 mean@8（每题采样 8 次的平均准确率））：Qwen3-VL-8B-Instruct 上 PACE 平均 58.47%，比 Base 的 52.09 高 6.38 点，比 GRPO 的 54.83 高 3.64 点，比最强基线 VPPO 的 57.25 高 1.22 点，并且五项全部第一（GSM8K-V 28.13、LogicVista 63.31、MMMU 69.00、MathVision 54.01、MathVista 77.90）。Table 5 给了标准差，例如 MathVision 为 54.01±0.42、LogicVista 为 63.31±1.52。
- 与同栈的蒸馏基线比：RLSD 与 RLCSD（两条同样式的在策略自蒸馏基线，后者只改文本答案提示）与 PACE 共用训练栈、主要差别就在 token 信用怎么算，因此这组对比隔离了信用信号。PACE 平均比 RLSD 高 3.09 点、比 RLCSD 高 3.96 点；差距最大在 LogicVista（比 RLSD 高 5.59、比 RLCSD 高 6.26）与 MathVision（高 4.11 与 5.06）。值得注意的是 RLCSD 只比 Base 高 2.42 点，低于 GRPO 的 2.74 点。
- 跨主干：Qwen2.5-VL-7B-Instruct 上 PACE 平均 45.17%（Base 41.13、VPPO 44.17、RLSD 43.90、GRPO 43.69）；InternVL3.5-4B 上平均 48.00%（Base 45.95、VPPO 47.41），五项里四项第一，只在 GSM8K-V 上以 15.54 对 15.92 略输 RLSD。
- 增益随主干变小：相对各自 Base 的提升从 Qwen3-VL-8B-Instruct 的 +6.38 点、Qwen2.5-VL-7B-Instruct 的 +4.04 点，降到 InternVL3.5-4B 的 +2.05 点。Qwen3-VL-2B-Instruct 上 PACE 平均 38.23%（+4.19）排第二，输给 RLSD 的 38.78%，且在 MathVista 上掉到 55.60，低于 Base 的 58.36。
- 消融（Table 2、Figure 3）：把提示对比换成「视觉差」ℓ^(+, V) − ℓ^(+, ⌀)（不做提示对比）会把平均掉到 51.05%，低于 Base 的 52.09%，MathVision 从 Base 的 45.79% 掉到 40.95%；而在固定 λ = 0.5 下，三种提示对比组合都在 57.06–57.68% 之间，差距只有 0.62 点。自适应 λ_(i) 相对固定 λ = 0.5 提升 1.24 点，其中 1.17 点来自「逐轨迹自适应」本身（把 λ 固定在中位数 0.40 只有 57.30%），没有任何固定 λ 超过 57.63%。
- 训练动态与成本（附录 B.7–B.9）：200 步内三种方法的训练奖励曲线基本重合（约 0.20 升到 0.39，PACE 在约 120–170 步间略高、峰值近 0.41），差异只出现在留出基准上；视觉差随训练从 0.20 涨到 0.42，而两个提示对比的批次均值始终在 0 附近（移动不超过 0.011）。8 张 NVIDIA H200 上 PACE 每步约 350–380 秒，GRPO 约 250–280 秒，RLSD／RLCSD 约 300–350 秒，两个更重的基线 PAPO 约 800 秒、VPPO 约 1,000 秒；生成时间与 GRPO 接近（约 50 秒／步）；额外开销只在训练侧，推理不加任何东西。 93
证据与局限：这份工作的证据强度在中上：三个主干家族（Qwen3-VL、Qwen2.5-VL、InternVL3.5）加一个 2B 规模、五项基准、带标准差、四组消融（输入构造／外推强度／混合率／置信度度量）、还有训练曲线与逐步耗时。方法论证也比较克制：作者自己在附录 B.4 里把「共享偏移抵消」限定为代数性质而非训练动态的保证，明确说只抵消两侧共有的偏移，视图特有的偏移不抵消，也不声称对策略漂移普遍稳健；附录 B.6 又说明符号与均值守恒只在系数层成立，裁剪后的 PPO 更新不保证。引用风险集中在几处：主结论建立在「同一训练栈、同一数据（MMFineReason-123K，由 MMFineReason 过滤出 Qwen3-VL-4B-Thinking 四次全错的问题）」之上，换数据过滤策略后对比是否还成立未知；OPSD 用了 rank-64 LoRA 与 ms-swift 的另一套框架与超参，掉到 Base 以下，作者归因于优化设置而非在策略蒸馏本身，这意味着该行不适合当作方法间对比；PACE 与最强基线 VPPO 的单基准差距只有 0.60–1.79 点，而 VPPO 每步训练时间约为 PACE 的三倍，二者取舍需要按预算决定；自适应置信度衡量的是「教师在全信息视图下是否更确信」，不是「这条回复是否真的需要图像」，所以高 λ_(i) 不等于视觉接地。原文没有给出代码仓库或数据入口链接，因此无法核验复现条件；训练数据、主干权重与基准都需要另行获取。 93
与目标研究线的连接点：归 A 线的「奖励建模与信用分配」侧，属于邻近跟踪：训练对象是多模态推理策略，不是长程工具型智能体，但它的核心机制可以整块搬到任何「有可核验结果奖励 + 想把信用细化到 token」的 RL 后训练里，包括 agent 轨迹的 RL。可搬走的有四点。第一是 2 × 2 反事实视图这个设计：把「正确性」与「模态依赖」当两个正交因子交叉，用两个差之差把「这个 token 是因为看见了图才正确」从「因为提示里有答案才正确」里分出来；同样的因子设计可以换成正交的两个 agent 侧因素。第二是用同行 rollout 的错误答案当负提示，不需要额外标注或额外采样，负提示由同组内的错误兄弟轨迹去重后聚合。第三是把辅助信号的强度按「教师在这条轨迹上是否分得开」逐条调整，并用中位数／MAD（median absolute deviation，中位绝对偏差）而不是均值／标准差做批次内归一化，理由是 S_(i) 重尾——这一点对任何要在训练中自适应地升降某个辅助损失的实现都是现成经验。第四是口径设计：均值守恒 + 符号守恒的加权方式，保证验证器的方向不被 token 级信号翻转，只重分配幅度；这与同节的 OpCredit（把优势下推到操作跨度）、Mosaic（把优势下推到会话）在哲学上一致，但 PACE 是 token 粒度、OpCredit 是操作粒度、Mosaic 是会话粒度，三者构成了三种清晰的「信用下推粒度」样本。 93
结论建议：想复现或借鉴就读第 3 节的问题形式化（它把需求写成了对 c_(i, t) 与 λ_(i) 的两条约束）、第 4 节的四段构造、附录 B.1 的训练伪代码与 B.2 的 Table 3 超参（学习率 10⁻⁶、比例裁剪界 [0.80, 1.28]、教师每 20 步硬刷新、负提示数 K = 1、温度 τ = 1、权重裁剪 [0.8, 1.2]），以及 B.9 的成本分析用来估预算。引用时必须限定：平均准确率是五项基准的算术平均、mean@8；增益与主干规模正相关，2B 规模上该方法不再占优；「视觉差单视图信号会退化到 Base 以下」这个结论是在本文的训练栈与数据过滤下得到的；相对 VPPO 的优势很薄，且两者训练成本相差约三倍；不要把它当成「视觉接地得到保证」的证据。 93
7. PRM4RL：把 LLM 生成的进度函数当势能做奖励塑形，基线成功率不足 15% 而本方法接近 100%
Progress Reward Model for Reinforcement Learning via Large Language Models · arXiv:2610.22056 · 邻近跟踪
研究问题与核心方法：长时程、稀疏奖励的强化学习（RL）里，已有两条用 LLM 补先验的路线：LLM 当规划器（把任务拆成子任务，如 SayCan、Plan-Seq-Learn、ELLM）与 LLM 当奖励器（直接让 LLM 写可执行的密集奖励函数，如 Text2Reward、Eureka、REvolve）。论文指出两条路线各自只解决一半问题：规划器不提供低层密集引导，奖励器（rewarder）不给子任务结构，因此从整条长任务直接造奖励函数对 LLM 太困难，要靠人工反馈或演化搜索。PRM4RL（Progress Reward Model for RL，面向强化学习的进度奖励模型）把两者接起来：先让 LLM 把任务拆成一串子任务，为每个子任务写一个细粒度进度函数 Φ，再把进度函数当作势函数（potential），用时序差分形式构成密集奖励 R_(t)^(PRM) = γ · Φ(s_(t + 1)) − Φ(s_(t)) + 𝕀(s_(t + 1)) · r_(bonus)，其中 𝕀 在到达成功条件时为 1。作者给出三条理论结论：定理 4.1 证明这种基于势的奖励塑形保持策略不变性（新 MDP 的最优策略与原 MDP 的最优策略互相重合），推论 4.2 说明它不破坏收敛性，定理 4.3 进一步给出收敛效率的等价关系——若把新 MDP 的 Q 函数初始化为 Q₀′(s, a) = Q₀(s, a) + Φ(s)，则对任意 t ≥ 0 有 Q_(t)′(s, a) = Q_(t)(s, a) + Φ(s)，即进度函数等价于对值函数做了一次基于先验的初始化，直接缩小初始近似误差。实现上，LLM 被要求用「注释写推理、正文写可执行代码」的 Python 化提示一次性产出计划列表 plan_list、子任务判定函数 Ψ(s)（给定状态返回当前子任务下标，避免每个时间步都调用 LLM）与进度函数 Φ(s)；子任务先验统一写成「动词 + 名词」格式（如 Move to object、Grasp object）。策略侧同时做两处增强：状态空间用 SimCSE（一种对比学习句编码器）把当前子任务先验嵌入后拼上（S+P），奖励侧换成上面的 R^(PRM)，得到增广 MDP 后用 SAC（Soft Actor-Critic）或 PPO（Proximal Policy Optimization）优化。作者来自北京航空航天大学，代码在 https://github.com/deng-ai-lab/PRM4RL。 94
关键结果：
- 任务级对比（Figure 3、Figure 4，MetaWorld 与 ManiSkill，5 个随机种子）：在 MW-pick-out-of-hole 与 MS-LiftPegUpright 这类复杂长时程任务上，对照方法（ELLM、T2R 等基线）成功率不足 15%，而本方法接近 100%；相对 ELLM（LLM 当规划器的代表）收敛速度明显更快；相对 T2R（Text2Reward，LLM 当奖励器的代表）能解决后者无法解决的复杂任务。所有方法共用同一 RL 算法与训练参数，基于 Stable-Baselines3 实现。
- 消融（Figure 5、Figure 6，5 个随机种子）：三个变体分别是「换掉 PRM 奖励、保留子任务先验、改用环境自带的 oracle 奖励」「保留 PRM 奖励、去掉子任务先验」「保留子任务先验、但直接把进度函数当奖励（去掉势函数形式）」。第一个变体显著掉分，说明没有有效的密集奖励时，光把子任务先验喂给策略并不能带来提升，多数情况下其曲线与 oracle 接近、个别任务加了先验反而略降；第二个变体收敛更慢，但仍优于 T2R；第三个变体显著掉分，且出现反常现象——回合奖励上升而成功率下降（Figure 6），作者解释为直接拿进度当奖励会让策略在「高奖励但任务失败」的样本上学偏。
- 泛化（Figure 7、Figure 8，5 个种子 × 每种子 100 次评测）：在 MetaWorld 未见过任务上，各方法都掉分，本方法掉得最少；相对去掉子任务先验的版本掉分明显更大，作者把原因归给「动词 + 名词」式先验捕捉了跨任务共性。具体设置是以 Metaworld-faucet-open 训练、测 drawer-close／button-press-wall／button-press／coffee-button，以及以 Metaworld-pick-place 训练、测 drawer-close／pick-place-wall／sweep-into／handle-press。
- 规模与成本：MetaWorld 用 7 自由度 Sawyer 机械臂、10 个桌面任务；ManiSkill 用 7 自由度 Franka Panda、5 个操作任务。进度函数由 GPT-4o 生成，采样温度 0.7。RL 训练在一台 4 张 RTX-3090、128 核 CPU、256 GiB 内存的服务器上完成，MetaWorld 每个任务约 1 小时（5 个种子并行），ManiSkill 为 1 到 10 小时不等。 94
证据与局限：这篇论文的证据形态与前几篇不同，主证据是学习曲线而不是表格，正文没有给出逐任务的最终成功率数值、也没有表格化的置信区间，只有上面引的那句「不足 15% → 接近 100%」以及若干定性描述（收敛更快、掉分最少）。因此可引用的硬数字很有限。所有实验跑了 5 个随机种子，这是它的稳健性下限；消融与泛化也都以 5 种子呈现，但正文未报告方差或显著性检验。理论部分是基于势的奖励塑形（potential-based reward shaping）的标准结论，定理 4.1 与定理 4.3 的证明在附录 A 中给出且形式完整，属于已有的数学结果在本框架下的套用，不构成新的理论发现——真正的新意在于「由 LLM 生成的那个具体进度函数」可以当作势函数用。作者自陈的局限是：与 T2R 等方法一样，整个流程依赖 LLM 的推理与代码生成，会受幻觉影响；且方法只在机器人控制任务上验证，其他领域的适用性未作探索。对比设置上也有需要留意的点：ELLM 原本未在 MetaWorld 与 ManiSkill 上测过，本文是重实现的，作者为保证公平性把同一份子任务先验和本文的 Ψ 都给了 ELLM，并改用与目标相关的子任务成功奖励，这一重实现是否忠实于原方法无从核验（附录 B.2 有说明）。评测用的 MetaWorld 版本为 v2.0.0、ManiSkill 为 v3.0.0，环境代码入口与数据集、权重均不在本文仓库内。 94
与目标研究线的连接点：归 A 线的「奖励建模」侧，属于邻近跟踪——它的训练对象是连续控制的机器人策略，既不是长程智能体也不是音频，但「用 LLM 造过程奖励」这件事与同节的进度奖励、过程奖励、信用分配工作是同一族问题。可搬走的具体做法有三点。第一是把进度函数当势函数而不是当奖励：这是本篇最有价值的一条经验，消融里「直接拿进度当奖励」的反常现象（奖励升、成功率降）给出了一个清晰的失败模式，任何自己造过程奖励的人都可以用「先检查它是否满足潜在函数形式的时序差分差」来判断风险。第二是用状态本身判定当前处于哪个子任务，而不是每步调用 LLM：Ψ(s) 把「当前子任务」变成一次纯函数调用，这直接消掉了 Plan-Seq-Learn 一类方法里每步查 LLM 的开销，对任何把 LLM 放进 RL 闭环的长时程系统都是可复制的工程决策。第三是先验的书写格式约束：「动词 + 名词」这种固定模板被证明是跨任务泛化的来源，泛化实验里去掉先验后掉分明显更大——这条对智能体技能库（skill library）的命名与检索规范有直接参考意义。需要说明的是，这套东西并没有涉及交互式智能体、长上下文管理或会话切分，与同节的 Mosaic、OpCredit 相比层级更靠底层控制。 94
结论建议：想借鉴理念读第 4 节（4.1 子任务分解、4.2 势函数形式的进度奖励模型、4.3 RL 增广）与附录 A 的三条定理即可，附录 D 列了全部 15 个任务及其语言描述，附录 E、F 给了 Python 化提示模板与一个生成的进度函数实例，附录 C 的两张超参表（SAC 的 γ = 0.99、学习率 3 × 10⁻⁴、批量 512；PPO 的 γ = 0.8、学习率 1 × 10⁻⁴、8 个环境、目标 KL 0.1）可作起点。引用时必须限定：所有结论限于 MetaWorld 与 ManiSkill 两个机器人仿真环境；正文未给出逐任务成功率表，只有图形与区间描述，不要引用具体百分数（除「不足 15%」与「接近 100%」这两处原文表述外）；5 个随机种子、无方差报告；ELLM 与 T2R 的对比含重实现与奖励函数复用成分，不宜当作严格的方法间排序。 94
8. SRD：只用未经核验的同题同伴解答做自蒸馏，AIME24–26 avg@12 从 21.39 升到 54.44
Learning from Unverified Peers via Shared Residual Distillation · arXiv:2610.22080 · 邻近跟踪
研究问题与核心方法：同一道题采样出来的若干条解答，有的对有的错，但一条最终算错的解答里往往仍包含正确的中间推理。已有的后训练方法要么依赖参考答案、要么依赖可核验反馈、要么依赖外部教师；一旦这些都拿不到，从模型自己的生成里学就变得棘手，因为无法可靠判定哪条对。TTRL（Test-Time Reinforcement Learning）用多数投票造伪标签，仍然先立了一个答案级的参照。论文提出的问题很锐利：能不能在不先判断哪条解答正确的前提下，从自己未经核验的同伴解答里学到东西？SRD（Shared Residual Distillation，共享残差蒸馏）的答案是：把「同伴之间的共识」当作监督。具体做法是，对每道题采样 K 条轨迹，随机划出 M 条当同伴、其余当蒸馏目标；再从同一批次里另一道题的轨迹中抽一条当控制项 z_(c)。用初始模型的冻结副本对同一条目标前缀评出 M+2 个分布：q₀ 是学生自己的纯问题提示下的分布，q_(c) 是拿跨题解答当教师上下文的分布，q_(j) 是拿第 j 个同伴当上下文的分布。对每个同伴算对数概率比 d_(j)(v) = log q_(j)(v)/q_(c)(v)，再用 q₀ 加权做中心化得到 δ_(j)(v)；逐词表坐标取「交集规则」r_(M)(v)：M 个残差同为正就取其中最小、同为负就取绝对值最小的、符号不一致就记 0（M = 2 时就是 minmod 规则）。最后把这份共享残差加到 q₀ 上重新归一化，得到教师目标 q_(∩)(v) ∝ q₀(v)·exp(r_(M)(v))，学生用继承自 OPSD（on-policy self-distillation，在策略自蒸馏）的逐点裁剪蒸馏目标去拟合它。学生训练时只看到问题和自己的前缀，推理时不需要任何同伴或额外教师调用。作者来自上海交通大学。 95
关键结果：
- 主表（Table 2，三个 Qwen3 规模，ID 为数学、OOD 为通用能力）：以各自 Base 为起点，SRD 把 AIME24–26 的平均 avg@12（每题采样 12 次的平均准确率）从 11.02 提到 16.20（Qwen3-1.7B）、从 19.07 提到 45.46（Qwen3-4B）、从 21.39 提到 54.44（Qwen3-8B）；HMMT 也同步提升，两个 OOD 基准（IFEval、MMLU-Pro）相对 Base 没有观察到退化。逐项看，Qwen3-8B 上 AIME24 为 59.72（Base 26.94）、AIME25 为 51.94（Base 21.39）、AIME26 为 51.67（Base 15.83）、HMMT25 为 35.97、HMMT26 为 35.10、MATH-500 pass@1 为 93.60（Base 83.20）；对照的参考解答基座 OPSD 在 AIME24 上是 40.56。
- 目标构造消融（Table 3，Qwen3-4B，AIME24–26 平均 avg@12）：全量 SRD 45.46，把交集规则换成对两个残差求算术平均的「平均残差」只有 33.98，把平均残差随机遮罩到与 SRD 相同的非零支撑数得 38.61，用同样的符号一致性门控但改成对存活残差求平均（不做最小幅度约束）得 37.50，把控制项 q_(c) 换成 q₀ 得 41.02（Base 为 19.07）。这组对比把「方向一致」与「幅度保守」两个设计分开量化了。
- 继承的裁剪机制（Table 4）：把逐点裁剪从两个方法都去掉后，SRD 在三档规模上的 AIME24–26 平均 avg@12 仍分别高于 OPSD，且都高于 Base（12.04／22.22／24.72 对 Base 的 11.02／19.07／21.39）；但在 Qwen3-4B 上去掉裁剪后，把控制项换成 q₀ 的版本只拿到 18.61，低于 Base 的 19.07，而保留跨题控制项的版本是 22.22——作者据此认为跨题控制项起到稳定作用。
- 响应长度（Figure 3）：Qwen3-4B 上平均 AIME24–26 avg@12 从 Base 的 19.07 升到 SRD 的 45.46，平均响应长度从 4,671 token 增到 7,537 token；OPSD 的 avg@12 为 24.63、长度 9,562 token，即 SRD 用更短的回复拿到更高的准确率。
- 训练动态的隐忧：SRD 与 OPSD 在训练中都先升后降。Qwen3-4B 上二者的平均 avg@12 在 step 50 到 step 100 之间分别从 45.46 掉到 31.85、从 24.63 掉到 21.48；Qwen3-1.7B 的 OPSD 在 step 100 只有 10.37，低于 Base 的 11.02；Qwen3-8B 的 SRD 只从 54.44 微降到 53.61。
- 个案（附录 B）：正确目标是 429，两条同伴解答都算错、第三条是完全无关题的解答。在停在「Each number from 0 to 127 has」的前缀上，q₀ 给 token「7」18.13%、「8」79.45%，跨题控制项给 13.54%／83.06%（都没翻过来）；两条错答案同伴分别给 99.96%／0.01% 与 99.90%／0.04%，SRD 的共享目标 q_(∩) 给 99.83%／0.06%（参考答案给 99.94%／0.01%）。从该前缀强行接「7」再自由续写得到 429，不干预则得到 6435。 95
证据与局限：证据强度在中上：三档模型规模、六个基准（含两个 OOD）、一组把目标构造拆开的分量消融、一组裁剪的对照消融，另外还做了训练集与全部评测集的去重检查（论文称未发现重叠问题）。需要重点限定的地方有四处。第一，方法自称「不需要标签」，但训练输入本身是 OPSD 发布的 OpenThoughts 数学子集（约 29.4K 问题—解答对，
siyanzhao/Openthoughts_math_30k_opsd），SRD 只用其中的题目文本，参考解答留给对比方法——这个「题目本身即来自一个已被筛选过的数学数据集」的前提意味着结论不能外推到任意无标注语料。第二，所有主表结果取自预先固定的检查点（OPSD 与 SRD 取 step 50，GRPO 与 TTRL 取 step 300），而论文自己的曲线显示 step 50 之后两个蒸馏方法都在掉分，所以这组数字更像是「峰值」而不是「收敛值」，换检查点结论会变。第三，消融与裁剪对照都只在 Qwen3-4B（或部分在三档）上做，主表的加粗只是各模型内比较；表中 OPSD 标注为上标 ‡ 表示它用了每题两条目标轨迹以匹配 SRD 的目标批量，与 OPSD 原始的一条配置不同，论文在附录 D.5 另有缩放控制，跨论文引用 OPSD 数字时要小心。第四，作者自陈同伴一致并不保证推理正确，跨题控制项的文本内容本身也可能引入影响残余方向的效应，且方法只在数学推理上验证过。原文未给出代码仓库链接，无法核验复现条件；数据、权重与评测器需要从 HuggingFace 与各自项目页另行获取。 95与目标研究线的连接点：归 A 线的「训练信号构造」侧，属于邻近跟踪：训练对象是数学推理模型，不是长程智能体。但这篇提供的思路对智能体轨迹数据的使用非常直接，理由有三。第一，它处理的正是智能体场景里最常见的资源约束——大量自采轨迹没有可靠的成功标注；SRD 给出的答案是「不去挑选哪条对，而是找出多条轨迹在同一个前缀上方向一致的局部调整」，这个「用一致性代替正确性」的判据可以直接搬到没有验证器的 agent 轨迹上。第二，跨题控制项这个设计值得单独记住：它用一个同批次内其他任务的样本来抵消「只要多塞一段解答文本就会带来的通用分布漂移」，从而让残差更贴近当前任务；任何做「上下文对比式信用分配」的实现都需要一个这样的共同参照。第三，minmod 式的保守幅度选择与 PACE 的「符号与均值守恒加权」、OpCredit 的「同类决策内比较」在思想上同源——都是把细粒度信号限制在不会翻转轨迹级判断的范围内；三篇合起来可以整理出「信用下推的三种安全化手段」。它与同节 PACE 的差异在于对比轴：PACE 对比的是同一提示模板下的答案提示 × 视觉有无，SRD 对比的是同题同伴 vs 跨题控制项，且 SRD 不做任何答案级选择。 95
结论建议：想借鉴机制就读第 3.2 节的四段构造（同伴上下文、共享残差蒸馏、训练目标）与附录 B 的单例（它最直观地说明「错答案同伴也能提供对的局部信号」），超参与数据协议在附录 C.2 的 Table 5 与 C.1。引用时必须限定：结果仅覆盖 Qwen3 系三档规模与数学推理；数字取自预先固定的 step 50 检查点、是单次训练、无种子方差；IFEval 与 MMLU-Pro 只说明「相对 Base 没有观察到退化」，不构成通用能力提升的证据；avg@12 的定义是单样本准确率的估计（12N 分之正确总数），不是 pass@12 也不是多数投票准确率，不要与其它论文的 pass@k 混用。 95
9. Mosaic：多会话智能体 RL 把 BrowseComp 准确率从广播的 35.31% 提到 38.86%
Mosaic: Multi-Session Agentic Reinforcement Learning · arXiv:2610.22174 · 精读
研究问题与核心方法：现有 agentic RL（面向工具型智能体的强化学习）几乎都假设单会话轨迹——一次 rollout 是一条上下文连续累积的线性片段，对应一个训练段。但真实的长时程智能体已经用上了上下文压缩（context compaction，历史接近窗口上限时把它压成更短的摘要，从而改写后续动作所依赖的前缀）与子智能体分叉（subagent forking，把子目标委派给子智能体，形成分支），这两类操作都会让一条轨迹横跨多个会话，造成训练假设与推理执行之间的错配。论文把这一更一般的设定称为 Multi-Session Agentic RL（多会话智能体强化学习），支持一条轨迹里任意数量的会话，形式上把轨迹写成会话集合 τ_(i) = {s_(i, j)}(j = 1)^(N(i))。在这个设定下最常见的做法是「广播」（broadcasting）：把 GRPO（Group Relative Policy Optimization，组相对策略优化）的轨迹级优势原样复制到所有会话、所有可训练 token 上；论文指出这只有粗粒度监督，轨迹越长信号越失焦。Mosaic 的解法是无评论家（critic-free）的分层优化，两层各管一件事。轨迹层做会话感知的优势估计：先把提示组按结果奖励 R_(i) 拆成成功子组 G₁ 与失败子组 G₀，把会话数 N_(i) 在子组内映射成居中秩 u_(i) ∈ [−1, 1]，取会话调制因子 α_(i)^(session) = −ρ u_(i)，最终 Â_(i)^(sat) = (1 + α_(i)^(session)) Â_(i)^(traj)，即只用会话信号调节优势的幅度、不改变它的符号。这一形式化被三条排序约束锁死：成功轨迹用更少会话应得更高优势（C1）、失败轨迹用更少会话应得（仍然为负的）更低优势、以保留继续探索的空间（C2）、结果奖励必须始终占主导，会话数多本身不能把失败轨迹抬到成功轨迹之上（C3）。当整个提示组结果同质导致轨迹级优势为 0 时，改用回退项：全成功组用 −β₁ u_(i)、全失败组用 β₀ min(u_(i), 0)，保证失败轨迹不会拿到正优势。会话层做优势塑形：把每个会话看作一次状态转移 s_(i, j) = (v_(i, j − 1) → v_(i, j))，并区分三种会话类型——普通会话、压缩会话、子智能体会话；用「答案似然势」Φ(y*|x, v)（在给定前缀上下文 v 时，当前 rollout 策略对标准答案逐 token 对数似然的平均）度量状态质量，会话级奖励取转移前后的边际信息增益 r^Δ_(i, j) = Φ(v_(i, j)) − Φ(v_(i, j − 1))，并按会话类型在提示组内分别归一化（论文指出压缩会话与普通会话的边际增益分布本身不同，若用全局归一化会把均值更低的压缩会话系统性压下去），最后一个会话被排除（它的输出状态通常已经包含最终答案，会把分布带偏）。两层合成 Â_(i, j)^(session) = Â_(i)^(traj) + λ_(r) r̂_(i, j)。 96
- 主表（Table 1，BrowseComp、Qwen3.5-4B、ReAct 式循环）：不训练时，单会话推理准确率 23.22%、平均 1.00 个会话；多会话推理本身就带来变化——用上下文压缩为 24.80%／1.70 个会话，用子智能体分叉为 21.64%／2.98 个会话。只用单会话设定训练 GRPO 后，单会话 31.99%／1.00，在多会话推理下为压缩 34.68%／1.24、分叉 31.91%／2.09。同样训练多会话的基线里，广播为压缩 35.31%／3.17、分叉 31.44%／4.43；IGPO（Information-Gain Policy Optimization，把边际信息增益用在轮次级）为 28.52%／1.00、31.36%／4.12、24.64%／3.26。Mosaic 为压缩 38.86%／2.35、分叉 32.46%／3.77，两种推理模式下都优于全部基线，且相对广播的准确率提升最高约 10.1%（38.86 对 35.31），平均会话数反而从 3.17 降到 2.35。
- 会话级行为模式（Table 2）：定义三个量——会话数量、会话质量（Positive-IG 占比，即边际信息增益为正的会话比例）、会话分配（IG／Session，每个会话的平均信息增益）。压缩设定下，Base 为 24.80%／1.70／37.36%／0.30，广播为 35.31%／3.17／47.74%／0.86，Mosaic 为 38.86%／2.35／59.92%／0.89；分叉设定下，Base 为 21.64%／2.98／27.39%／0.41，广播为 31.44%／4.43／41.15%／0.74，Mosaic 为 32.46%／3.77／51.04%／0.80。作者据此提出：多会话优化的收益伴随的是会话效用与分配的改善，而不是会话数的单调增长；广播这种不做任何会话感知设计的做法也会让三项指标同时上升，而 Mosaic 只是在强化同一种模式。
- 训练效率（Figure 3a、Figure 4）：Base 在单会话推理下失败的 972 道题中，多会话+压缩推理下由各方法解出的比例显示，Mosaic 相对广播有明显优势；训练曲线上 Mosaic 的轨迹奖励比广播上升更快、到更高水平，且会话数的增长更早趋于平缓。
- 消融（Figure 3c、3d）：轨迹层的会话感知优势估计与会话层的优势塑形各自都有贡献；两者相加在压缩场景下有明显额外增益，但在分叉场景下增益不大。作者给的解释是两者会话结构不同：压缩轨迹是线性的，分叉轨迹更接近有向无环图，一个会话可能影响多个后续会话，因此用边际增益估出的即时奖励与实际对最终结果的贡献可能不一致。
- 机制检查（Figure 5）：在结果混合的组内，优势对成功轨迹随会话数递减、对失败轨迹随会话数递增，同时成功轨迹整体仍保持更高优势；在同质结果的组里，回退机制引入了依赖会话数的差异，从而在结果奖励完全相同的情况下仍提供有区分度的学习信号。右侧两幅图显示不同类型会话的原始边际增益分布确实不同，全局归一化会额外压低压缩会话，而按类型归一化让两类都能拿到相对各自基线的正负信号。
- 实现与算力（Table 3、附录 C）：单会话上下文上限 131,072 token、预留预算 16,384、最大生成长度 16,384、采样温度 1.0；一次训练跑 63 个 rollout 迭代，rollout 批量 16 道题、每题 8 条样本（全局 128 条），Adam 学习率 10⁻⁶ 恒定、权重衰减 0.01、KL 系数 0.001、熵系数 0，GRPO 裁剪下界 0.2／上界 0.28；最多 10 次压缩、摘要温度 0.1，每次分叉最多 3 个子智能体、最多 10 次成功分叉调用。训练数据是 REDSearcher_RL_1k（1,000 道深度检索题），训练一轮。分布式侧 8 张 GPU、张量并行 2、上下文并行 4、每 GPU 最多 6,144 token。验证用 deepseek-v4-flash 充当 LLM 评判，温度 0.0、最多输出 10 token。工具只有 search（Serper）与 visit（Jina Reader）两个。作者给出项目页 [https://lark-[ai-lab.github.io/Mosaic/](https://lark-ai-lab.github.io/Mosaic/)](https://ai-lab.github.io/Mosaic/](https://lark-ai-lab.github.io/Mosaic/))。 96
证据与局限：这是本篇最值得读的地方，也是它的主要短板所在。证据的结构很清楚：一个基准、一个主干、两种多会话推理模式（压缩与分叉）、六个对比项（不训练、单会话 GRPO、广播、IGPO、Mosaic，以及单会话推理下的对照），外加分量消融与两类机制分析。其中有两点设计值得肯定：一是把「多会话推理」与「多会话训练」分开测，从而能证明前者的能力不会从单会话训练中自动涌现（单会话训练的 GRPO 在压缩推理下 34.68%，相对不训练的 24.80% 有提升但仍低于广播与 Mosaic）；二是 IGPO 被用作「把同一个信息增益信号放在轮次级」的对照，让「层级选择」这一设计变量得到直接检验，且作者指出换到会话级后计算边际增益的墙钟时间大幅下降。短板同样明确：全部主结论只建立在 BrowseComp 一个基准、Qwen3.5-4B 一个主干、训练一轮之上，论文正文没有给出多基准、多种子或方差，也没有置信区间；多会话训练数据只有 REDSearcher_RL_1k 这一个 1,000 题的公开集，作者自己在第 5 节的讨论里把「缺乏公开的多会话训练数据」列为整个方向的瓶颈。评测之间的比较也要小心：命名为 IGPO 的那一行是单会话训练的模型，与 Mosaic 的设定不同；表格里单会话推理一列的子智能体配置对多数方法没有填（只有基线 Base 与 GRPO 有分叉列的三项数字）。作者在讨论里明确说实验用的是「rollout 与训练交替的共置（colocated）设置」，刻意避开异步采样的干扰，因此不要把这里的稳定性结论外推到生产级异步训练；同一节还指出多会话执行会放大轨迹长度与完成时间的差异，若按「先完成先训练」优先取样本，会偏向会话数更少的轨迹、对更长（通常也更难）的轨迹造成选择偏差。此外论文没有独立的 Limitations 小节，局限散落在第 5 节的讨论里；「边际信息增益用答案似然度量」这一点也隐含了一个前提——它能拿到标准答案来算势函数，这在开放式任务上不一定成立。作者未在正文给出代码仓库地址（只给了项目页），我未逐项实测项目页的可达性。 96
与目标研究线的连接点：直接命中 A 线里「执行期控制（harness、上下文管理、记忆）」与「轨迹数据的构造与筛选」两块，是本单元与频道主线最贴近的一篇。具体可搬走的有四点。第一是把「会话」立为轨迹之下的一等训练单元：只要 agent harness 会压缩上下文、派生分支、丢弃早期工具返回，训练假设就会与推理执行断裂；Mosaic 给出的最小可用形式是「一条轨迹 = 若干可训练段」，压缩与分叉都被写成显式的状态转移，其中压缩的性质是「输入为压缩前完整上下文、输出为压缩后前缀」，分叉是「输入为主智能体委派时的上下文、输出为子结果并入后的主上下文」，这两种转移恰好对应 harness 里最容易在微调时被当成普通 token 丢掉的部分。第二是用单调排序约束而不是把会话数直接当奖励：C1–C3 三条把「用足够会话完成任务、但不多用」写成可检验的不等式，并且用居中秩而不是原始会话数来获得有界且抗长尾的信号；这套写法可以照搬到其它计数型资源信号（工具调用次数、检索次数、token 消耗）上。第三是分层信用下推的第三档粒度：OpCredit 把优势下推到「操作」、PACE 下推到「token」、Mosaic 下推到「会话」；三者都在做同一件事——保持轨迹级验证器的方向与量级，只重分配内部信用，Mosaic 的独特点在于它下推的对象是「可能改变上下文的一场转变」而不是一个动作或一个 token。第四是按类型归一化：论文用压缩会话与普通会话的分布差异论证了「全局归一化会系统性压低某一类子结构」，任何对异构子轨迹做统一标准化的实现都应先按类型分组；这一点与 PACE 用中位数／MAD 处理重尾是同一类健壮性考量。 96
结论建议：想理解设定就读第 2.2 节（广播与多会话目标的形式化，Eq. 5–8）与第 3 节两层方法；想复用实现就读附录 C（压缩与分叉两种 rollout 的具体构造，其中「m 次成功压缩对应 m+1 个普通检索段加 m 个压缩摘要段、共 2m+1 个可训练段」这条对复现很关键）与附录 D.1 的 Table 3 全量超参；想看这个方向值不值得投入就读第 5 节的四个未来方向——公开训练数据与执行环境、把跨会话状态转移（压缩／分叉／合并）当统一学习目标、异步训练下的多会话稳定性、以及在黑箱 harness 内部做 RL。引用时必须限定：结论来自 BrowseComp 单基准、Qwen3.5-4B 单主干、单次训练，无方差与区间；「Mosaic 优于广播」的幅度（相对 10.1%）是这一个设定下的观测值；分叉场景下两层的组合增益并不明显，不要把它写成两种结构上都普适；会话数从 3.17 降到 2.35 这类数字是推理模式与训练共同作用的结果，不是单纯的效率指标，需要与准确率一起引用。 96
10. 纠正分歧路由：不依赖真值标签的弱到强升级，WebShop 预算 40% 时成功率 0.460
Disagreement-Guided Weak-to-Strong Routing · arXiv:2610.22245 · 邻近跟踪
研究问题与核心方法：小模型被放到边缘设备与机器人上后，能力不足；需要时请强模型帮忙，但「何时升级」通常靠回答正确性信号，而开放式与智能体任务里拿不到这种真值监督。作者把问题重新表述为「用强模型的价值有多大」：如果知道每个回答的正确概率，升级的价值就是「强模型正确概率 − 当前弱回答正确概率」。论文先把弱到强路由与本地推理预算联合形式化：采样策略 σ 决定对每个 prompt 生成几个弱回复，选择策略 φ 决定保留哪个弱回复，路由策略 π 决定是否升级，两个预算分别是弱模型期望采样数 B_w 与强模型期望询问率 B_s。定理 3.1 给出最优解：选择取 q_p（候选回复为正确答案的概率）最大的弱回复；路由是「增益 Δ(h)=t_p − max_i q_p(y_{w,i})」（t_p 为强模型回答正确的概率）对全局阈值 τ 的阈值规则，τ 由强模型预算确定。由于 q_p 与 t_p 都拿不到，作者只对二者的差做近似，提出 corrected disagreement（纠正分歧）：弱-强分歧（强模型与所采弱回复最小不一致概率）减去强模型自分歧（强模型两次独立回答不一致的概率）。两个量都只用模型自生成数据离线估计：对每个训练 prompt 生成 K_w 个弱回复与 K_s 个强回复，用不一致指示 A 构造弱-强分歧目标与强自分歧目标，再训两个探针——f̂_d 用弱回复 token 上的平均隐状态，f̂_g 只用 prompt 末位隐状态。测试时 S_CD 由 min_i f̂_d − f̂_g 给出，既不需要强模型也不需要真值。作者来自 University of Pennsylvania。 97
关键结果：
- WebShop（200 个评测任务，5 次运行平均）：在 20%、40%、60% 实测升级预算下，纠正分歧的任务成功率与标准误为 0.210(0.029)、0.460(0.035)、0.765(0.030)；同一张表里弱-强分歧为 0.065(0.017)、0.260(0.031)、0.715(0.032)，自一致性为 0.045(0.015)、0.145(0.025)、0.410(0.035)，token entropy（词元级预测熵）为 0.040(0.014)、0.150(0.025)、0.405(0.035)，随机升级为 0.160(0.026)、0.200(0.028)、0.505(0.035)（附录 A.4 表 4）。40% 预算这一格是纠正分歧相对所有免标签基线差距最大的一点。
- BFCL（Berkeley Function Calling Leaderboard，多轮函数调用基准）Multi-Turn（160 训练 / 40 测试任务，Qwen3-8B 升级到 GPT-5-mini，动作一致定义为函数调用与参数完全相同）：原文只给 Figure 2 曲线，明确写「自分歧修正带来的收益可忽略、两个分数的差距统计上不显著」，未给出数值表。原文未报告该环境的成功率数字。
- Math-500（Phi-3.5-mini-instruct 升级到 GPT-4o-mini，N=1 单次采样，b=0 的未升级弱回答准确率 0.380）：5% 预算下纠正分歧 0.419、token entropy 0.404、有监督的 Proxy reward 探针 0.396、oracle 路由增益 0.429；50% 预算下分别为 0.659、0.584、0.629、0.776（附录 A.2 表 1）。
- Spider（Qwen3-1.7B 升级到 OmniSQL-7B，N=1，b=0 为 0.499）：5% 预算下纠正分歧 0.537、弱-强分歧 0.533、token entropy 0.515、Proxy reward 0.532；50% 预算下 0.716、0.716、0.647、0.714（表 2）。该数据集上纠正分歧与原始弱-强分歧几乎重合。
- AceCode（Qwen2.5-Coder-1.5B-Instruct 升级到 Qwen3-Coder-10B-A3B-Instruct，N=1，b=0 为 0.447）：5% 预算下纠正分歧 0.468、弱-强分歧 0.464、token entropy 0.460；50% 预算下 0.608、0.606、0.591（表 3）。
- 总体蒙特卡洛比较（Figure 1）：升级预算 B≤0.4 的受限区间内，纠正分歧与原始弱-强分歧都优于「弱模型正确性」这一总体 oracle，原因是正确性只知道弱模型何时会错，无法预判强模型能否救回来；且强模型越接近真值分布，纠正分歧的近似误差越小（s_p=q_p 时精确相等）。 97
证据与局限：证据的硬度分布不均。智能体侧只用 Figure 2 呈现，数值集中在附录 A.4 的表 4，且只有 WebShop 一张表；曲线为 5 次运行平均并给了标准误，这是全篇少数带不确定度的报告。单轮三张表给出到小数点后第三位，但没有种子数、没有置信区间、没有重复次数，也没有误差棒。探针只训练在离线生成数据上，弱模型全程冻结。作者的近似是「经验性」而非形式化保证：只有当强模型的预测分布逼近真值分布时纠正分歧才逼近最优路由。引用风险有三处：其一，BFCL 没有任何可用数字，不能把「两个分歧分数一致优于基线」当作全环境结论；其二，AceCode 的强模型在正文 §6.2 写作 Qwen3-Coder-30B-A3B-Instruct，而表 3 图注写作 Qwen3-Coder-10B-A3B-Instruct，同一配置两种写法，引用时必须写明以哪一处为准；其三，Math-500 表的 N=1 面板 b=0 是 0.380，而 N=4、N=8、N=16 面板的 b=0 分别是 0.430、0.467、0.490，跨面板比数值无效；此外一致性类分数在 N=1 下无定义，主文明确把该面板的这类基线省略。复现条件：论文首页脚注给出代码仓库 https://github.com/nooranisima/disagreement-weak-to-strong-routing（实测 HTTP 200），但仓库只有一个 README.md，描述写「Code coming soon」；附录 A.5 也自陈训练代码与实验配置「将在接收后放出」。也就是说目前无法从仓库复核任何数字。作者自陈的局限还包括：局部测试时计算只建模为重复采样（如 best-of-n），更一般的推理形式未覆盖。 97
与目标研究线的连接点：属于 A 线里「执行期控制（门控）」这一环。可搬走的第一件东西是门控口径：在步级正确性无法定义的多步环境里，把「升级信号」换成可以客观判定的跨模型分歧，判据是「两个动作触发相同转移」——在 BFCL 上即函数调用与参数完全相同，这种判据可以完全从离线 rollout 自动采集，不需要过程验证器、也不需要轨迹级奖励。第二件是把「继续本地推理 / 选择候选 / 升级」拆成三个各自带预算的决策，并把阈值 τ 按预算标定；这一形式化可以直接套到任何「弱模型主打、偶尔上强模型」的智能体部署上。第三件是消融方式：把「弱-强分歧」与「减去强模型自分歧」分开测，用来检验教师能力对门控收益的影响（WebShop 上强模型很强，自分歧惩罚收益大；BFCL 上强模型自己吃力，惩罚收益不显著）。与同节的其它工作相比，它不训练裁判也不训练策略，只训练两个轻量探针；与 token entropy、self-consistency、semantic entropy 相比，它把信号来源从「弱模型内部一致性」换到「模型间比较」。 97
结论建议：值得读 §3 的最优策略刻画、§4.1 的近似推导（两步替换为什么合法）、§6.1 与附录 A.4 的表 4、以及附录 A.5 的探针表示与训练目标。若要引用数字，请限定：智能体结论只成立于 WebShop 的 200 个任务与「相同函数调用即视为一致」这一判据；单轮结论成立于固定采样与选择策略、按分数排序升级、且脚本中给定的模型配对上；不要引用任何 BFCL 数值，也不要把 AceCode 的 10B/30B 两个写法混用。 97
11. EliteReplay：精英库回放保住解法多样性，BIRD 上 pass@128 74.8% 且 U@128 9.1
EliteReplay: Preserving Diverse Solutions in RL Post-Training via Quality-Diversity Search · arXiv:2610.22290 · 值得扫读
研究问题与核心方法：带可验证奖励的强化学习（RLVR，Reinforcement Learning with Verifiable Rewards）已是 LLM 推理后训练的常规做法，但它靠「锐化」起作用：把概率集中到基座模型本来就有的少数行为上，于是 pass@1（单次采样成功率）上升而 pass@k（k 次采样至少一次成功）下降。已有缓解办法大多优化 pass@k，而 pass@k 只问「有没有一个正确样本」，不问「正确样本之间是否不同」——模型可以靠对每题稳定复现单一解法拿到高 pass@k，同时丢掉基座模型原本具备的其它解法。作者把要保住的东西定义在「解法策略」层面。方法叫 EliteReplay，两阶段：（1）训练前，用冻结的基座模型在训练问题的一个子集上跑 MAP-Elites（一种质量-多样性搜索，按行为描述符划分格子、每格只留一个最优解）建「精英档案」，每个问题一份，每格至多一个通过验证的解；（2）训练时，GRPO（Group Relative Policy Optimization，组相对策略优化）之外加一条对固定档案的回放损失——档案解的负对数似然、按解长度归一化，与 GRPO 目标按固定权重 μ 线性混合，μ=0.05。推理时直接采样训练后的策略，不做档案查询也不做搜索。行为空间不用手工设计：先取一组通过验证的种子解喂给一个独立的 LLM「标注者」，由它归纳出更广的解法路数词表，再与从解里确定性抽取的结构特征（SQL 里的 join、子查询等）组合成行为描述符。关键的测量分离是：描述符只用来引导搜索，评测用的是另一套确定性的、基于抽象语法树（AST，abstract syntax tree）的策略表示。 98
关键结果：
- 可靠性：BIRD 上所有后训练方法都把 pass@1 从基座的 25.3% 抬到 52–56%，但多数方法随采样预算增大丢掉覆盖——GRPO、SetPO、DPH-F 只到 68–69% pass@128，低于基座的 73.6%；MaxRL 与 EliteReplay 分别保持 73.7% 与 74.8%。域外 Spider 上 EliteReplay 在每个预算都是后训练方法中最高的：pass@1 78.6%、pass@128 93.2%，基线最高分别只有 76.2% 与 86.9%（即高 6.3 个百分点）。
- 解法多样性：BIRD 上 pass@128 几乎相同的两个方法，U@128（128 个样本里不同正确策略的期望个数）可以差近 50%——EliteReplay 9.1 对 MaxRL 6.2；Spider 上差距更大，9.4 对最强基线的 5.3。有效多样性（两个随机样本都正确且结构不同的概率）BIRD 上 25.9%（最强基线 23.4%），Spider 上 31.4%，是唯一超过基座 27.9% 的后训练方法。
- 策略保留：在基座至少产出两种正确策略的问题上，基线只保留 34–39%（BIRD）与 30–37%（Spider）的基座策略，EliteReplay 保留 62% 与 60%，比任一基线高至少 23 个百分点；逐策略看，基线在 BIRD 上最多掉 28 个百分点，EliteReplay 在每个策略上都不超过 9 个百分点。
- 歧义题收益：AmbiQT 上 Both@k 指 k 个样本同时覆盖两种合法读法的题目比例。k=128 时 GRPO 只有 4.2%，最强多样性基线 14.2%，EliteReplay 27.0%，基座 37.0%。
- 域外不退化：在未被训练过的 MATH-500 上，三个基线把 pass@1 从基座的 28.3% 压到 25–27%，EliteReplay 反而升到 35.5%，并在大采样预算下与基座相差不到 1 个百分点。
- 消融四则：只用精英档案做监督微调（SFT）时，BIRD pass@128 为 74.6%、Spider 92.8%，比同等生成预算的 IID（independently and identically distributed，独立同分布）档案高 8–9 个百分点，但 pass@1 最多 37%，远低于 EliteReplay 的 52.5%；先用精英档案微调再跑 GRPO（不回放）时 pass@1 升到 56.9% 却把 pass@128 与 U@128 打回 68.5% 与 3.0（正文给出的标准 GRPO 是 67.9% 与 3.0）；把精英档案换成 IID 样本但保留回放，pass@128 75.6% 与 EliteReplay 相当，U@128 却只有 7.4；回放权重 μ 从 0.02 扫到 0.15，pass@1 为 53.4、52.5、51.0、50.3，pass@128 为 73.1、74.8、74.3、74.0。 98
证据与局限：证据链比较完整。基座模型是 Qwen3.5-4B-Base，训练数据是 BIRD 的 5,000 个问题，档案只用其中 1,000 个构建，四个方法全部训练 100 步；评测规模明确——BIRD dev 1,534 题、Spider 1.0 dev 1,034 题、AmbiQT 按比例分层抽 500 题、MATH-500 每题 128 个样本，温度为 1.0、top-p 0.95；正确性用执行准确率（把生成 SQL 与金标 SQL 在各自数据库上执行后比结果），无法执行的算错。计算环境与框架也写明：veRL 加 Trinity-RFT、vLLM 生成、四张 A100 80GB（两张做策略优化、两张做 rollout）。档案搜索的可核查细节是：占用格从种子采样的 1,132 个增到八轮变异后的 2,708 个（72,000 个候选），精英档案与 IID 档案各提供 1,500 个通过验证的回放样本；在有至少两个解的 547 个问题上，精英档案抽出的解对 66.2% 策略不同，IID 档案只有 45.5%。引用风险：执行准确率只说明「在给定数据库上一致」，不等于在所有可能的数据库上等价，作者自己在附录 B.4 里点明；策略保留率只在「基座至少有两种正确策略」的问题上定义，样本不是随机的；U@k 与有效多样性都依赖 AST 相似度这一确定但粗糙的表示，作者也承认在缺少清晰结构表示的领域（如数学推理）难以照搬。作者自陈的局限是只用了 Qwen3.5-4B-Base 一个规模、只做了 text-to-SQL 一个域，更大模型与其它模型族留作未来工作。复现条件较好：仓库 https://github.com/skai-research/EliteReplay 实测 HTTP 200，包含 configs、elite_archive、src、scripts、metrics.py、results 等目录（约 2.7 MB），论文说所有产物都在此。 98
与目标研究线的连接点：横跨 A 线的「强化学习后训练与奖励建模」与 B 线的「技能库演化与搜索」。可搬走的有四件。第一件是评测口径：用 U@k 与有效多样性替代 pass@k 来度量后训练是否在牺牲多样性换可靠性，这两个量的定义（U@k 按无偏 pass@k 估计器的形式改写、有效多样性只统计双方都正确的样本对）可以直接抄到任何可验证任务上。第二件是数据构造流程：用质量-多样性搜索而非均匀采样建回放集，因为基座采样会过采样常见解法，稀有解法在回放集里被稀释。第三件是消融设计：把「档案构成」与「是否在 RL 全程回放」拆成两个独立比较，证明事前见过多样解不够，必须在训练中持续回放——这条结论对任何「先 SFT 再 RL」的技能库管线都成立。第四件是它把 QD（quality-diversity，质量-多样性）档案从「发现新行为」改造成「保住已有行为」的用法，与同节其它方法（MaxRL 通过难例加权、DPH-F 通过前向 KL 正则、SetPO 通过组内多样性边际奖励）的差别正在于多样性约束施加的位置：不是加在奖励里，而是锚在一条固定档案上。 98
结论建议：优先读 §2.1（档案构建四步）、§3（三个多样性指标的定义）、§5.4 与表 2（三组消融），以及附录 C.2 与 C.3（两类档案的对照与回放权重扫描）。引用时必须限定：结论成立于 Qwen3.5-4B-Base 与 text-to-SQL，多样性度量依赖 AST 化的策略表示，正确性口径是给定数据库上的执行准确率；不要把 pass@128 的相近当作多样性相近，这正是本文要推翻的假定。 98
12. 集合级奖励的科研想法生成：Qwen3-8B 训后创意效用 0.64，超过 Claude Opus 4.8 的 0.38
Training Reasoning Models to Generate Diverse Scientific Ideas · arXiv:2610.22324 · 邻近跟踪
研究问题与核心方法：文献驱动（document-grounded）的想法生成里，一个智能体读完一批论文后要给出「下一步值得做什么」，现有工作要么只生成并单独打分一个想法，要么把单个想法推进到执行，从不把一组候选放在一起权衡——多样只是独立重复采样的副产品。作者把想法生成当创造性搜索问题：一次生成里写完 K=3 张结构化「想法卡」（问题缺口、核心主张、方法、灵感来源四个字段），整组共享一个推理前缀与一个奖励。集合级目标为 R_set(x,U)=Σ q(u_i)·min_{j 先于 i} d(u_i,u_j)：每条想法用自己的质量乘以它与「它之前最近一条想法」的距离，因此一条重复但写得漂亮的想法几乎拿不到分；第一项距离取 1。质量 q 定义为与「金标想法」（来自真实论文）的长程科学影响成对比较，用 SciJudge-30B 打分，判为更好得 1、打平 0.5、更差 0；距离 d 用 LLM 按 1–5 相似度评分表逐字段（问题缺口、主张、方法）判定后归一化求平均，判官是 gpt-oss-120b。该目标是从 Creative Utility（CU，创意效用）改写的，两处故意改动：去掉对靠后想法的耐心折扣，训练时每条等权；不用最优排序而用模型实际书写的顺序。训练两段：先用教师模型（claude-opus-4.8）造 7,172 条「先给想法、再用后见之明补写探索过程」的 SFT 数据教会格式与思考模式，再用 GRPO 优化集合奖励；基座 Qwen3-8B，最大回答长度 16k。作者来自 New York University、Salesforce AI Research 与 Stony Brook University。 99
关键结果：
- 主表（1,740 个 2026 年论文构成的去污染测试实例，16 个领域，CU 取 γ=0.9 的贪心排序）：Proposed（no think）CU 0.64（实例间标准差 0.23）、长度控制胜率 0.50、组内平均距离 0.88，全表最高；Claude Opus 4.8 为 0.38(0.22)、0.21、0.80，GPT-6 Astra 为 0.28(0.24)、0.15、0.86，英文开源代表 Nemotron 120B 为 0.14(0.18)、0.05、0.79；基座 Qwen3-8B 只有 0.03(0.10)、0.01、0.80；SFT（no think）0.21，Proposed（think）0.51(0.23)、0.34、0.83。
- 与竞争目标对照：DARLING（把质量与多样性一起优化、但多样性施加在单想法策略的不同 rollout 之间，本任务里按 K=1 复现）CU 0.52(0.17)、胜率 0.38、距离 0.67；只留质量项（把 d 设为 1）的 Impact-only RL 胜率反而最高 0.43，但组内平均距离塌到 0.38；跳过 SFT 直接用完整目标训练的 Impact+diversity, no SFT CU 0.51(0.26)、距离 0.92 最高。
- SFT 的作用是保接地：跳过 SFT 的变体 CU 与 Proposed（think）持平，但接地分从 0.81 掉到 0.19，说明它靠漂离源文献来换多样性；SFT-only 的两个变体接地分别为 0.91（think）与 0.90（no think），差距只在 RL 之后出现。
- GiantsBench（2,374 篇测试论文）上长度控制胜率 68.3%、平均距离 0.939，对比 GIANTS-4B 的 18.3% 与 0.025——后者用「与金标想法的相似度」训练，反而产出不如金标，且三次采样几乎是同一洞见的换说法。
- IdeaSeed（500 个实例，方法范式轴）：基座 Qwen3-8B 归一化熵 Hnorm 0.77、与人类分布的总变差距离 TVD 0.27，Claude Opus 4.8 为 0.77/0.23，Proposed（think）0.73/0.30，Proposed（no think）0.65/0.43，DARLING 塌到 0.01/0.72，人类提案 0.87。
- 人类研究（4 位 NLP 博士、各至少 4 篇顶会论文，每人 15 个实例、共 45 组盲评）：Proposed 的组平均 2.17 条值得做、2.83 条彼此不同、2.05 条既不同又值得做；Claude Opus 4.8 为 2.20、2.72、2.03；Qwen3-8B 为 1.52、2.52、1.42。
- 可执行性：132 条想法交给固定沙箱里的编码智能体（Claude Code，Claude Opus 5，90 分钟、30 美元、无 GPU）自报 supports/refutes/inconclusive。success@3 上 Proposed（no think）33%、Proposed（think）29%、Claude Opus 4.8 27%；success@1 为 11%、10%、13%。 99
证据与局限：外部证据分三层：自建去污染测试集、两个公开基准、以及一个人工小样本加一个执行检查。判官全是 LLM——质量用 GPT-5.4-mini 做长度控制胜率，距离与接地用 gemini-3.5-flash，训练奖励用的又是另一个模型（SciJudge-30B 与 gpt-oss-120b），激励与评测不同源这点是优点，但没有任何判官与人评的一致性数据。人类研究规模很小：4 人、60 个实例（每人 15 个、共 45 组），只能算先导；作者自己在正文里对执行检查的措辞也很克制——编码智能体的 supports 判定「在若干处强于其证据」，因此只能当作供研究者跟进的前期信号，不能当结论。执行实验的样本量是 15 个实例（think 变体 14 个）、共 132 条想法，success@k 对 k 小于 3 时是在每个实例的 3 条想法的所有大小为 k 的子集上取平均。引用风险：IdeaSeed 上的种群级多样性上，两个提示基线（0.77）都高于本文模型（0.65 与 0.73），不能把本文概括成「多样性全面提升」——它优化的是组内多样性，种群级熵要低一些，作者也把这点列为未来方向；DARLING 的 0.01 是复现时的极端塌缩，与本任务的适配性有限。复现条件：仓库 https://github.com/ManyaWadhwa/diverge_ideation 实测 HTTP 200，但目录里只有 README.md，代码未放出。 99
与目标研究线的连接点：属于邻近跟踪，对 A 线有明确可迁移价值。可搬走的第一件是奖励结构：把一组输出当成一个 rollout 打分，并对每条输出乘上它与「前序最近一条」的距离，而不是把多样性奖励加在每个独立样本上——这直接对应「组内差异」与「组间差异」的区别，也解释了为什么同样优化质量与多样性，在采样组之间做（DARLING）会输给在生成顺序内做。第二件是度量口径：用组内平均成对距离、长度控制胜率、以及种群级归一化熵加总变差距离三个层次，分别回答「这一组是否够散」「每条是否够好」「全域类型是否塌缩」。第三件是负结果：把多样性项拿掉后胜率反而升到 0.43 而距离塌到 0.38，这个对照说明质量与多样性不能靠同一项奖励兼得，值得在设计想法/方案批生成的目标时直接引用。与同节其它 RL 后训练工作相比，它的独特之处是被优化的对象本身没有唯一正确答案，所以质量只能靠与金标想法比较来代理。 99
结论建议：先读 §2.2 与 §3.1（目标函数与两项实例化）、表 1、表 2 与表 3，再读 §5 关于「SFT 保接地」和「thinking 提升保真却压低效用」的两段讨论，以及 §6 两个下游验证。引用时必须限定：CU 与胜率都由 LLM 判官给出，人类研究只有 4 人 60 例，可执行性数字来自单一编码智能体的自报判定，且该判定在个别案例上强于证据；种群级多样性上本文模型并不优于提示基线。 99
13. KnowGPO：知识状态分组做步级信用分配，BrowseComp-ZH 38.8%、GAIA 40.2%
KnowGPO: Knowledge-Grouped Policy Optimization for Search Agents · arXiv:2610.22331 · 精读
研究问题与核心方法：深度搜索智能体（deep search agent）在长程多轮交互里解决知识密集任务，难点是信用分配：结果奖励只有轨迹末尾一个标量，无法区分中间哪一步搜索有用、哪一步冗余或有害。已有的过程监督各有硬伤——GiGPO（按中间环境状态对齐轨迹、再算步级优势的一类基线），需要状态在轨迹间可复现，而深度搜索里检索到的页面与推理历史是开放的，步骤几乎不重访同一可观测状态；IGPO（Information-Gain Policy Optimization，用「模型预测正确答案概率的增量」当稠密步奖励），绕开了状态匹配，但信号来自模型内部置信度，长而嘈杂的检索上下文会污染它；学习型评论家或评分表奖励模型又是学习出来的代理，标定本身是研究问题。作者的关键抽象是：轨迹在查询、页面、推理文字上差异极大，但会收敛到同一个量——为得到正确答案所需的任务相关知识的累积量。于是给每个查询构造一组原子知识条件 K(Q)（构造分两阶段：先由问题推出带占位符的推理骨架，再用参考答案 y* 与一条成功参考轨迹把占位符落到实处），每步用一个 LLM 验证器检查新观测能新验证出哪些条件，得到增量向量，再按元素或单调累积成知识状态 s_{i,t}——知识只增不减，顺带吸收验证器的瞬时噪声。步级奖励就是增量知识增益 r=‖s_t‖₁−‖s_{t−1}‖₁，即这一步新满足的条件个数；把跨所有轨迹中知识状态相同的非终止步归为一组，在组内对 r 做归一化，得到步级优势。最终每个步的优势由回合优势 A^E（标准 GRPO 组归一化）与步级优势 A^S 按单一混合系数 ω 线性组合，ω=0.3，外层是 PPO（Proximal Policy Optimization）式裁剪目标加 KL 正则。作者来自浙江大学与腾讯。 100
证据与局限：这是本单元证据链最完整的一篇：三个基准四个切分、每次 3 个独立运行取均值、与四个基线共享同一 SFT 初始化与同一数据/工具环境、只改优势估计与奖励设计，分组质量的测量还给了完整的五指标与轨迹/步数规模。训练细节交代到底：基座 Qwen3-8B 经 YaRN 扩到 128K 上下文，SFT 用 LlamaFactory、RL 用 verl，知识状态验证器是 DeepSeek-v3.2（附录 C 给了验证器质量分析）。局限与引用风险需要分四条讲。第一，构造 K(Q) 需要参考答案 y* 与一条成功参考轨迹，也就是说这套方法本身依赖可验证的真值答案，迁移到没有标准答案的任务时前提不成立。第二，验证器是一个 LLM，步级奖励的正确性上限由它决定；虽然单调累积能吸收瞬时噪声，但系统性错误不会被吸收。第三，外部 32B 与专有系统的数字取自各家技术报告或更早论文（附录里逐条列出出处），训练数据、上下文长度、工具栈都不同，原文明确说这类系统是「单独标注、不可直接比较」，引用时必须带上这句限定；正文里还写了 GPT-5-High 与 Gemini-3.0-Pro 找不到官方出处、按提供方发布的数字记录。第四，未报告方差：只说 3 次运行的均值，没有标准误、置信区间或逐次结果，所以 1.5 与 2.3 个百分点这类小差距的稳定性无法判断。此外，摘要里的增益口径（「比结果型与过程监督基线高 3.8 到 4.2 点」）与正文 §4.2 的口径（比 GRPO 高 5.9 与 5.2 点）指的不是同一个比较对象，转述时要说明是哪一类。复现条件：仓库 https://github.com/ZJU-REAL/KnowGPO 实测 HTTP 200，但目录里只有 README 与 assets，没有训练代码。 100
与目标研究线的连接点：A 线「强化学习后训练与奖励建模」的直接命中，且是这一节里唯一把「长程智能体的步级奖励从哪来」回答得既稠密又不依赖模型内部置信度的工作。可搬走的机制有四个。第一，状态抽象的口径：不要用观测或动作对齐轨迹，而用「任务相关知识的已满足条件子集」对齐——它把语义等价的步映到同一个键，因此组内比较是「同一认知位置上的不同决策」，这一点可以直接用于任何多轮工具调用智能体的信用分配。第二，增量式过程奖励：奖励定义为单调累积状态的一阶差分，天然是局部、即时、不等轨迹结束就能算的信号，与折扣未来回报的差别被消融量化（三个数据集掉 3.0 到 6.0 个百分点）。第三，分组质量的可测量化：用有效步比、单例率、跨 rollout 覆盖三个量证明「状态锚」这件事本身是否成立——观测锚在深搜里只有 51.8% 的步能进非单例组，这个数字说明了为什么直接把 GiGPO 搬到深搜会退化。第四，开销核算方式：把过程监督的成本拆成可与生成重叠的验证与纯记账两部分，证明一个稠密步奖励可以几乎免费（不到 0.08%）。与同节其它工作的差别在于：它既不用学评论家、也不用评分表模型、还不用模型自身概率，而是把验证锚在一个可外部核验的知识条件集合上。 100
结论建议：重点读 §3.2 与 §3.3（知识条件、知识状态、两类优势的合成）、§4.2 与表 1、表 2、§4.3 的表 3 与表 4、§4.4 的表 5，以及附录 B、C（条件构造流程与验证器质量）。引用时须限定：所有增益都成立于「有参考答案 y* 与成功参考轨迹可用于构造知识条件」这一前提；横向对比的 32B 与专有系统数字来自各自技术报告，不可当作同条件比较；3 次运行只给了均值，没有不确定度。 100
14. OmniVerifier-C1：子问题聚合连续分，ViVerBench 总分 0.684，成对验证迷宫达 85.31%
OmniVerifier-C1: Decomposed Graded Verifier for Rule-Governed Generative World Modeling · arXiv:2610.22355 · 邻近跟踪
研究问题与核心方法：视觉验证器（判断生成图是否满足文字要求）既当评测工具，也当推理时扩展与强化学习的通用批评模型。现在多数验证器只输出真/假二元判断，作者列了两条问题：二元监督太粗，把质量不同的不完美样本打成同一个负标签，削弱了组相对强化学习需要的组内学习信号，也容易诱发捷径学习与奖励攻击；其次，二元结果监督隐含假定「判对就意味着推理对」，在多模态批评任务里不成立，模型可以靠浅层视觉线索猜中标签。方法名 Decomposed Graded Verifier（分解式分级验证器，OmniVerifier-C1）：先把复杂提示或环境规则自动分解成若干细粒度子问题，对每个子问题做二元判断，再按满足比例聚合成 [0,1] 连续分。理论部分给出排序保持的结论：令 z(x) 为样本 x 满足的子问题数，连续奖励 r_c=z(x)/K 严格单调于 z(x)，因此排序准确率 Acc_rank(r_c)=1；离散奖励 r_d=1[z(x)=K] 的排序准确率为 2q_K(1−q_K)/(1−Σq_k²)，只要存在两个 z 不同且都小于 K 的不完美样本就严格小于 1，故 Acc_rank(r_c)=1 ≥ Acc_rank(r_d)。训练用「解耦强化学习」：把每个（提示，生成图）对扩成 K+1 个样本，一个是全局连续打分样本（奖励 1−|预测分−真值分|），另 K 个是子问题级二元判断样本（奖励为判断对错），两类混在一起用 DAPO（论文所称「解耦强化学习」所用的策略优化算法）优化，于是子问题级的 0/1 反馈可以支撑全局连续打分。当规则决定唯一目标状态时（世界建模、迷宫、数独），再把真值图作为额外视觉输入引入，构成成对验证：逐点验证要先从初始状态和规则推断目标态 z_k=T(q_k,x,c)，误差是推理误差加判断误差；成对验证直接拿真值图比，误差只剩判断误差。 101
关键结果：
- ViVerBench 总分（表 1，基座为 Qwen3-VL-8B）：基座 0.654；只做 RL 的二元验证器 0.671；先 SFT 再 RL 的二元验证器 0.672；只做 SFT 的分级验证器 0.659；分级验证器加解耦 RL 0.684。分项上差距更大的是图像标注与状态值评估两组，例如 Point 由基座 0.741 升到 0.781、Maze 由 0.420 升到 0.466。
- 子问题级判断准确率（表 5，200 条留出样本，5 位人类标注者各标 40 条）：以人标为准，Qwen3-VL-8B 67.0%、加 SFT 74.5%、再加解耦 RL 94.0%；对 GPT-5.5 与 Gemini-3.1-Pro 的标注分别为 68.5/76.0/94.5 与 69.5/76.5/96.0。这是全篇最能说明「RL 在学什么」的一处证据。
- 文生图（表 2，GenEval 总分与 CLIPScore）：Stable-Diffusion-3.5-medium 由 0.66/32.8 变为用 UnifiedReward 的 0.73/33.7、用离散二元验证器的 0.68/33.1、用分级验证器的 0.77/34.4；FLUX.1-dev 由 0.68/33.2 变为 0.74/34.0、0.70/33.3、0.79/34.5。分级验证器在两条主干上都是最高的。
- 世界建模六个游戏任务（表 3，Qwen-Image-Edit-2509 为基座，每格为正常/困难两个设置）：基座 Maze 17.31、Sudoku 22.21、辅助线作图 16.79、序列预测 9.18、找词 6.28、3D 投影 3.86；加 SFT 后 56.77、63.62、57.62、46.53、37.36、42.94；SFT 加逐点验证 RL 后 67.81、77.74、66.98、61.27、50.92、52.19；SFT 加成对验证 RL 后 85.31、89.97、76.19、73.48、62.18、69.28。成对验证在全部十二个格上都高于逐点验证，困难设置上的差距更大（例如 Maze-Hard 51.92 对 34.78，序列预测-Hard 63.64 对 34.18）。
- 图编辑基准（表 4，Overall 口径）：RISEBench 由基座 6.7、SFT 8.6、逐点 11.7 到成对 15.0；UniREdit-Real 平均由 67.48、67.94、68.53 到 68.92；UniREdit-Game 平均由 41.41、53.61、58.66 到 63.51。
- 训练设置：分级验证器在 Qwen3-VL-8B 上用 DAPO 训 80 步、16 张 A800-80G；生成模型用 DiffusionNFT 训 200 步、同样 16 张 A800-80G。文本编码器在 SFT 与 RL 全程冻结，只更新 DiT（diffusion transformer，扩散主干）参数。 101
证据与局限：证据的层次比较清楚：验证器能力有子问题级的人标与两个 LLM 标注三重对照，生成端有单一主干与两套图编辑基准，世界建模端有自建六任务加正常/困难两档（难档不入训练）。但引用风险集中在两点。第一，摘要说分级验证器「显著优于」二元验证器，而 ViVerBench 总分的绝对差只有 0.684 对 0.672（1.2 个百分点），且表 1 里没有任何方差、种子数或显著性检验；把「显著」当作统计结论是没有依据的。第二，成对验证的前提是真值图可得，作者自己明确写出这依赖「最终状态由初始状态与规则唯一确定」；在文生图这类一个提示对应多种合法输出的场景里，他们只能退回逐点评分，也就是说成对验证带来的最大那部分增益无法迁移到开放式生成。其余局限：合成的游戏任务与自建的困难集都是作者构造，与真实开放式环境有距离；文生图训练数据来自 ShareGPT-4o-Image，图像由 FLUX.1-dev、Qwen-Image、Z-Image 混合采样，子问题分解范式是从 Seed1.8 蒸馏、再用 GPT-5 做 Bo10 过滤（去掉准确率低于 60% 的样本、把全对样本比例控制在 30%）——这层数据筛选本身会抬高训练信号质量，不可当作「无需筛选」的方案。复现条件：论文给出 https://github.com/Cominclip/OmniVerifier（实测 HTTP 200），仓库内容较全（含 inference 脚本、viverbench 的规则式与模型式评测脚本、verl 目录等），但仓库描述写的是 ICLR 2026 Oral 与 ICML 2026 的 Generative Universal Verifier as Multimodal Meta-Reasoner，属更早的 OmniVerifier 项目，未必等于本文的 C1 变体；引用时不宜直接说「C1 的代码已开源」。 101
与目标研究线的连接点：邻近跟踪，落在 A 线的「评测口径与判官效度」这一环，并且对「奖励模型该输出什么」这一奖励建模问题有直接可搬的东西。第一件是可搬的奖励形状：把连续分建立在一组细粒度二元判断之上，而不是让模型直接回归一个分数，也不让它只输出真/假——这样既保住组内可区分性（排序保持的理论结论），又给每个子判断提供了明确的监督信号（子问题级准确率从 67.0% 抬到 94.0% 就是这条设计的直接证据）。第二件是消融方式：把「二元 vs 分级」与「逐点 vs 成对」当成两个正交维度分开测，而不是笼统比较两个验证器，这样能分别归因监督信号的密度与参照物的有无。第三件是对判官效度的方法论提醒：论文用「同一个标注集上人标、GPT-5.5、Gemini-3.1-Pro 三方对照」来验证验证器，这种把 LLM 判官与人标对齐后再用于训练奖励的做法，可以直接搬到任何用 LLM 判官做训练信号或评测的管线里。与同节其它奖励建模工作相比，它的差异在于把「分解」当作提高奖励分辨率的通用手段，而不是针对某个任务的模板。 101
结论建议：先读 §3.1（排序保持的推导，注意结论只保证单调性不保证绝对分准）、§3.2 与表 1、表 5（解耦 RL 训练什么、验到什么程度），再读 §4.2 的逐点/成对定义与表 3。引用时必须限定：分级优于二元的证据在 ViVerBench 上只有 1.2 个百分点的绝对差距且无方差；成对验证的增益只在目标状态唯一确定的规则化任务上成立；游戏任务与困难集是自建的；给出的仓库属于更早的 OmniVerifier 项目。 101
七、技能演化与自改进智能体
1. EvolvingBrain：分层技能自进化加状态感知执行，三主干平均成功率提升 11.64 与 8.44 个百分点
EvolvingBrain: An Adaptive Skill System for Multi-modal Agents Self-Evolution in Open Worlds · arXiv:2610.20786 · 值得扫读
研究问题与核心方法：多模态智能体在开放世界里能执行长程任务，但自进化能力有限：监督微调只会模仿、不会主动整理经验；以结果为奖励的强化学习鼓励探索，却浪费了轨迹里的中间信息。作者认为已有「技能」类方法大多只从成功轨迹里蒸馏流程性指引，留下三个没解决的问题——如何同时从成功与失败轨迹学习、如何用环境反馈验证并演化抽出来的知识、如何按当前状态在不同粒度上组织与检索知识。EvolvingBrain 把自适应技能系统当作智能体自进化的「大脑」，由两部分组成。其一，分层技能自进化：从模型自己的成功与失败轨迹里抽取 Process Pattern（过程模式，可复用的做法）与 Problematic Pattern（问题模式，应避免或需解决的行为与障碍），归纳成三类技能——Plan Skill（任务级规划）、Action Skill（细粒度多模态操作）、Trap Skill（问题识别、规避与恢复），再通过与环境的多轮交互让技能演化，跨任务共享的知识进一步抽象成粗粒度的 Domain Skill，形成 Domain/Plan/Action/Trap 四层的分层技能架构。其二，状态感知自适应执行：把长程交互历史压缩成结构化摘要记忆（Structured Abstractive Memory），记录已确认的进展、当前障碍、无效尝试三类信息，据此做状态感知的技能融合（State-Aware Skill Fusion），按当前状态检索并整合合适粒度的技能；状态门（State Gate）在「检索」「复用」「不干预」之间选择。整个过程不更新主干参数，技能库是唯一被改动的对象。作者来自哈尔滨工业大学、科大讯飞、美团与鹏城实验室。 102
证据与局限：可核查性属于中等偏上：三个主干、两个基准、每次三次运行取均值、逐主干数值都在附录表里，还有四个消融（Trap 技能、检索粒度、演化轮数、域外）。数据切分也交代清楚：VAB-Minecraft 用官方切分，发布的训练轨迹覆盖 90 个任务目标、只用于构建技能，评测在 116 个官方测试任务上、无重叠；DiscoveryWorld 八个主题里用六个主题做六种难度与 0–2 号变体训练、3–4 号变体做域内测试（36 个实例），另两个主题整体留出做域外测试（30 个实例），技能库评测前冻结、测试轨迹不回写。引用风险有四处。第一，DiscoveryWorld 的训练/测试/域外切分是作者自建而非官方切分，域外泛化数字因此依赖他们自己的划分。第二，三个主干都是外部 API 模型（Qwen3.8-27B 与 Kimi-K3 标注 xhigh、GPT-5.6-Sol 标注 high），只给了三次运行均值，没有方差、没有逐次结果，也没有推理预算的进一步说明。第三，技能是按主干「模型特异」地构建的，所以跨主干迁移没有被测——每个主干都有自己的技能库，11.64 与 8.44 这两个平均数是三个「各自建库各自评」的数字取平均。第四，作者自陈的局限只有一句「未来工作会评估更广的真实场景并提升在线技能演化的效率」，没有讨论技能库规模上限、构建成本或失败模式。复现条件较差：摘要写「代码在补充材料中、将在正式版公开」，全文没有给出任何代码或项目链接（实测全文不含 GitHub 链接），因此目前无法复核技能模板与提示词之外的东西；不过附录 E 给出了四类技能模板与核心提示词，这部分可读。 102
与目标研究线的连接点：B 线「技能演化与自改进智能体」的直接命中，而且是这一节里唯一给出「技能粒度该多大」这一可操作结论的工作。可搬走的有三件。第一件是知识来源：同时从失败轨迹抽「问题模式/根因」并从成功轨迹抽「过程模式」，把前者做成 Trap Skill 专管识别、规避与恢复——消融显示这一类技能在 VAB-Minecraft 与 DiscoveryWorld 上分别值 3.49 与 3.37 个百分点，说明失败轨迹不是噪声而是可回收的监督。第二件是能力与粒度的对齐结论：弱主干需要下探到 Plan/Action/Trap 这种细粒度指引（限制粗粒度检索掉 6.64 与 4.32 个百分点），强主干反而应停在紧凑的高层抽象（强行细粒度掉 5.19 与 5.55 个百分点）——这条结论可以直接用于设计技能库的检索策略，也解释了为什么 MMSkills 那种只学高层规划的技能库会在强主干上失效（增益从 12.17 个百分点掉到 0.53 与 1.32）。第三件是记忆的字段设计：把长程历史压成「已确认进展 / 当前障碍 / 无效尝试」三栏，再据此决定检索、复用还是不干预，这是一个可以直接复用的上下文管理结构。与同节另一篇「无真值自长 DSL 的智能体」（arXiv:2610.20809）相比，差别在于 EvolvingBrain 演化的是自然语言的技能文本、可维护但不保证正确，而后者演化的是可执行算子、必须过验证门。 102
结论建议：读 §2.2 与 §2.3（技能自进化的抽取与演化、状态感知执行）、§3.2 与 §3.3、以及附录 A（切分与指标定义）、D.1 与 D.2（两组完整数值表）、E（技能模板与提示词）。引用时必须限定：结论建立在三个外部 API 主干与自建的 DiscoveryWorld 切分上，只报告三次运行均值且无方差，技能库是按主干分别构建的，11.64 与 8.44 是跨主干平均而非跨主干迁移；代码未公开。 102
2. 无真值自长 DSL 的智能体：准入门在 138 个错误算子变体上误收 0 个，可答问题集由 10 扩到 336
A Self-Improving Agent that Grows its Own DSL: Oracle-Free Operator Induction for Exact Question Answering · arXiv:2610.20809 · 精读
研究问题与核心方法：自改进智能体总要决定「留下哪个新技能」，实际做法是高奖励、说服判官模型、或压缩技能库就留下——技能错了也照样通过。在答案必须精确的场合（交易表上的合计要么对要么错），这些信号都不够。作者问的是更难的一问：没有奖励、没有判官、连答案表都没有，智能体能不能扩大自己的可计算范围并且答案依然精确？做法是让同一个冻结模型跑两层嵌套循环，语言是一门小而精确的领域专用语言（DSL，domain-specific language）。内环不新增算子：让模型提出它没见过的自然语言问题，各写一条表达式作答，只有在「从问题文本单独写出的第二条表达式与第一条在每一条记录上都一致」且算出的量与已有量都不同时才收下这个问题，因此可在固定算子集内扩大可答问题集。外环负责扩能力：当模型反复索要当前算子闭包之外的东西时，统计出最缺的能力并按名次排序，为该缺口撰写一个新算子（top-K 尝试，K=3，取第一个可准入的），准入后并入库、重跑内环。准入门完全不用答案表，由三层组成：其一，差分测试——模型写两份独立实现，两份在验证记录与模糊输入（空、单条、重复键、缺键、乱序）上必须给出相同值签名（相对容差 1e-6）；其二，蜕变关系——必须满足只由已信任算子写出的守恒律（例如分组求和等于全局求和、每个不同键一个结果、空进空出、顺序无关），而且关系必须真正绑定一个已信任算子（只写 True 的关系会被拒）；其三，下游一致性——算子解锁的每个问题仍要通过内环的独立一致检查。作者明确说这不是形式化证明而是经验性准入：独立一致只在有限验证集与数值容差内检查，守恒律是模型自己写的。整个循环不动一个固定的基底（原始数据表示与无属性访问、一阶的沙箱），只增算子词表，因此可审计性得以保持。作者来自 PayPal AI。 103
证据与局限：这是本单元方法学上最讲究的一篇：准入规则本身被拿去做变异研究，报告了误收、误拒、对抗构造三类错误，还对「参照是否独立生成」「参照是否来自同一模型族」「验证集大小」逐个做了敏感性检验；同时把「能跑就收」「自一致性」「压缩」这三个领域内常用的替代信号放在同一个混合池上对照，量化它们会放进多少错算子。域的迁移、模型族的迁移、基座规模的阶梯、以及三组种子的收敛都给了独立证据。局限由作者逐条列出，且都很具体：其一，最常被请求的能力（众数归约器，即取出现最多的值）永远进不来，因为它没有守恒律，所以只有「众数值」这种非数值 argmax 留在门外，而分组计数与频率可以照分组求和的守恒律准入；其二，只演示到每个种子三轮诱导，更多轮次未测；其三，准入产出偏低，多数草稿被拒的原因是「不同风格的参照实现退回到沙箱禁止的方法调用」，占全部拒绝的 81%，这是吞吐成本但不影响可靠性；其四，一条声明的守恒关系只有绑定了另一个已信任算子才生效，所以「重标签」型的 bug 能无害地绕过门（沙箱不提供按键查找，没有合法问题能暴露它），而「改变大小」的 bug 若只用裸内建函数作见证关系就能逃过（需要沙箱层面的修补）；其五，三组种子都围绕分组聚合，换成一个性质不同的缺口未测。引用风险另有两点：所有商户交易实验用的是全合成语料（按真实交易分布的聚合统计量采样，不含任何真实用户记录），所以数字说明的是「精确可计算量的多样性」而不是真实业务分布上的表现；域迁移实验则用了 BookSQL 与 MIMIC-III/EHRSQL，受各自的发布条款约束。复现条件：论文写代码在补充材料里，包含 DSL 及其测试、内外环智能体与完整提示词、每个研究与消融、种子问题集，以及一份顶层 README 与逐脚本命令；给定抽样表达式后所有准入检查都是确定性的。全文未给出公开仓库链接，因此社区暂时无法直接复核。 103
与目标研究线的连接点：B 线「自进化的条件与边界」的直接命中，而且是把「边界」这件事写成了可测的对照，而不是口号。可搬走的第一件是准入机制：差分测试（两份独立实现逐记录一致）+ 只引用已信任算子的守恒律 + 下游问题仍须通过独立一致检查，三层叠加，全部不需要答案表——这套组合可以直接移到任何「让智能体自己写工具函数/算子」的技能库管线上，替换掉「能跑就收」「让模型自己判」「用压缩率当信号」这三种常见做法（论文量化了它们分别误收 129/138、129/138、101/138）。第二件是缺口驱动的扩展方式：不预先规定要加什么能力，而是统计自己的问题最缺哪一类能力、按名次对 top-K（K=3）逐个尝试，失败不阻塞循环，这条策略对「技能库里该补什么」这一决策同样适用。第三件是把「不变量」作为技能准入的门槛：一个技能若找不到可绑定的守恒关系，就承认它进不来（众数归约器就是被这条规则永久挡在门外的例子）——这是一个可以直接复用的边界判据。与同节另一篇（EvolvingBrain）相比，这里的自进化对象是可执行算子而非自然语言技能，代价是必须把可表达范围限制在一个可审计的沙箱基底内；收益是每次准入都可自动核验、且失败模式可以被逐条刻画（相关 bug、重标签、改变大小三类）。与 DreamCoder、LILO、TroVE 等库学习工作相比，差别在于那些方法都从「已解任务」或「可执行任务」出发构建抽象并信任结果，而这里没有任何已解的题，准入只靠独立一致与守恒。 103
结论建议：必读 §3.1 与 §3.2（两层循环与准入门的具体步骤）、§4.2（缺口发现与 top-K 尝试）、§4.3 与表 1（变异研究、参照独立性、门组件消融），再读 §4.4 与 §4.5（模型族与域的迁移）、§6 的局限清单，需要复现细节时看附录 I（无真值验证门）、K（变异研究细节）、W（误拒）与 T（算子族清单）。引用时须限定：所有商户数字来自合成语料；准入是经验性的、在有限验证集与容差内成立，不是形式化保证；相关 bug 下门仍会放进 10/138；只测到三轮诱导；众数归约器这类无守恒律的能力按设计不可准入。 103
3. CODA 审计共演化技能漂移：六个设置峰值到最差落差 5–13 分，吃掉 52–93% 技能增益
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents · arXiv:2610.20845 · 精读
研究问题与核心方法：论文质疑技能–策略共演化（skill–policy co-evolution：策略模型与技能库在训练轮次中互相提升）这一类方法的评测前提。现有协议只在方法自己训练出的那一个技能库（delivered bank，交付库）上报告任务成功率峰值；作者指出技能库在部署后会被改写、增删、版本并存，漂移速度常快于策略重训，于是策略实际运行在漂移过的库上，而这条路径没有被任何现有指标覆盖。做法分三层。第一层是理论：把八种现有方法的接受规则抽象为 cooperative acceptance（协作式接受：只有当候选库不降低当前策略回报时才保留），在此前提下证明交付对（策略与库）落在其覆盖候选族的峰值上，任何被覆盖的内容级改写都不能提升该策略，因此脆弱不是偶发的评测瑕疵而是训练目标的产物；两个命题都不断言模型类别、任务分布或奖励形式，只要交付对满足这两条假设就适用。第二层是经验诊断：提出共演化脆弱化曲线，固定交付库与其扰动变体、只让策略检查点变化，沿一条训练轨迹看脆弱度是否随共演化推进而增长，并同时报告绝对掉落与归一化保留率，后者用来堵住「落差大只是因为抬头空间大」这一质疑。第三层是协议：CODA（CO-evolution Drift Audit，共演化漂移审计）用一套共享改写套件在受控条件下模拟内容级漂移，给出一个门控加三个指标。改写套件固定改写模型与其采样参数（gpt-4o-2024-08-06，温度 0.7），对内容级扰动先在原库上跑一次检索、只替换被选中技能的内容字段，以免检索变化混淆结论；套件由发布方运行而不是被评方，并把扰动后的技能库直接发布出来，便于他人复算。原文标注的机构包括 Alibaba Token Hub、The Hong Kong Polytechnic University 与 University of Illinois at Chicago。 104
证据与局限：证据链是「一个理想化理论 + 六个真实设置 + 一套可发布协议」。理论只适用于被覆盖的改写族（Assumption 2 假设候选族覆盖交付库的内容级邻域），作者自己声明是检验预测而非验证前提；这也是理论的一个明确边界，未被覆盖的任意部署期编辑不在结论范围内。改写由语言模型生成，因此不逐位可复现；作者固定了模型版本与采样参数、并直接发布扰动后的库，但承认若库本身就由同族模型写成，测得的脆弱度可能偏低。原文自陈三条局限：改写不可逐位复现、只诊断不修复（把分布化目标落成可用方法留作后续）、规模未研究（更多基准与更大技能库是否降低措辞敏感度仍未知）。引用风险有两处：摘要写 5–13 点，表 2 的六格实测是 4.9–12.6；4.9–12.6 是六个「方法加骨干」组合的配对成功率落差，因骨干不同，比较的是「方法加骨干」而不是方法本身，不能当成某方法的通用跌幅。18/18 与 12/18 依赖外部模型生成的有限变体，只是脆弱度的下界。理论部分还给出一个反向检验：在覆盖条件相同的前提下，若把选择偏好反转为只接受让当前策略回报下降的候选，脆弱度会下降而不是上升，可见决定鲁棒性的是接受规则而不是共演化本身。原文承诺发布改写套件与扰动库，使用的五个基准（ALFWorld、WebShop、ScienceWorld、Mind2Web、DeepScaleR-AMC23）均为公开数据集，但正文与摘要页均未给出可点击的代码或数据入口（实测 https://arxiv.org/abs/2610.20845 返回 200）。104
与目标研究线的连接点：属 B 线（轨迹学习与自演化），且正好补上 B 线最常被忽略的一环——交付之后的稳定性。可直接搬走三样东西：其一，五轴漂移探针这套算子设计，把「技能库漂移」从口号变成可复现的扰动族，并按内容级与结构性分开报告、只对前者执行判决；其二，一致性率的指标口径，用结果翻转比例而不是聚合成功率差来抓互相抵消的翻转，并用两次未扰动运行的 CR0−2σ0 作噪声底，这一口径也可直接搬到任何「改了措辞不该改结果」的评测里；其三，「只扰动内容、固定检索」的对照纪律，避免把检索变化误记成技能质量问题。此外它把鲁棒性评测的对象从任务侧（指令、观测、工具输出、环境动态）换成智能体自身的过程性知识，这是一个容易复制的视角转换。与同节其它工作相比，它不新增共演化方法，而是给这类方法加一条部署期验收线，与 SkillNEO 那种「把库演化得更好」的工作互补：一个负责把峰值推高，一个负责说明峰值有多少能带走。104
结论建议：优先读第 2 节（两个命题与点质量目标的代数恒等式）、第 4.4 节与表 2（报告卡），再读附录 A 的三条局限与附录 H 的逐锚点网格，附录 E 的套件要求（R1–R5）对想自己搭扰动套件的团队最实用。引用时必须限定口径：这些数字是内容级改写下的配对成功率落差，测的是「方法加骨干」这一整体；不要把 5–13 点当成某方法跨基准的通用跌幅，也不要把 18/18 读成所有改写都无益，它只覆盖被检验的有限变体；一致性率与抵抗率是不同量纲的比率，不能与成功率并列比较。若要把某个数字当决策依据，优先选带明确设置名的条目，例如 ReSkill-ScienceWorld 的保义改写损失 10.9 点（峰值 50.3%）。104
4. SkillNEO 非精英式技能演化：86 项 SkillsBench 上 Mini 从 49.1% 升到 66.4%
SkillNEO: Non-Elitist Evolutionary Optimization of Agent Skills · arXiv:2610.20926 · 精读
研究问题与核心方法：论文针对技能演化（skill evolution：用执行反馈反复修订可复用的技能文件）里的一个取舍：一个技能包（skill bundle：某任务配套的 SKILL.md 指令、可执行脚本与资源文件）的一次修订可能跨多处互相依赖的改动，中途版本整体奖励不升甚至下降，但已经修好了前半段。若要求候选必须优于父代、或只保留历代最高分，这些「部分修好」的版本就被提前淘汰。作者把它形式化为：给定任务与初始技能包，寻找能提高冻结智能体期望奖励的修订；搜索过程受代数上限、候选宽度与评测重复数约束，最终输出每任务的部署包。SkillNEO（Non-Elitist Evolutionary Optimization，非精英式演化优化）的做法是把「选哪个版本去部署」和「选哪些版本继续改」拆开：部署用当前最优，继续开发则采用非精英式 comma selection（逗号选择：父代不与子代竞争下一代的席位，子代只在本代内按测量奖励竞争），因此低分版本仍可获得下一轮编辑。为了让编辑有依据，它把版本树上的执行记录沿三条比较线组织——同一版本的重复运行、父与子的对照、兄弟分支的对照——由 Proposer 指出「哪些步骤有效要保留、哪些失败要修」，并按失败运行数对可疑原因排序、用通过的运行做反证；Skill Editor 把提案落成完整子代包（可改写、增删、重组文件，或从别的合格父代嫁接过程），并保留被改的父代；Edit Validation 先做算子约束、文件与脚本检查，把可修的错误退回编辑器重做、被拒的候选不进入评测；Executor 执行并用基准校验器打分。另有 archive revisiting（档案回访）：一次 Hold（候选未胜过在任版本）之后，可把更早的合格版本重新放回父代池，用此后收集到的证据再改它。实验中由 GPT-5.4 Mini（下称 Mini）承担全部模型角色，任务由 Harbor 执行；配置为每代请求 6 个子代、升格至多 3 个、每个升格子代与在任版本各测 3 次，最多 5 代，连续两次 Hold 后停止。这套选择语义与同节方法形成对照：有的方法在验证前沿满员后只接纳能超过最低分成员的候选，有的在父代与子代合并池里保留最高分者，有的要求修订相对父代有正收益才允许继续充当父代，而 SkillNEO 的普通更新只从本代已完成评估的子代里选父代，历史父代不参与竞争，子代也不需要相对父代增益。作者来自 University of Illinois at Chicago、Mohamed bin Zayed University of Artificial Intelligence 等机构。 105
证据与局限：证据的厚度来自任务数与记录粒度——86 项任务、每项 3 次重复取均值、被改动包的最终评估与搜索选择分离（41 个改动包在演化后另做三次执行，45 个未改动包沿用原执行结果），Luna 侧共取得 516 次有效执行，并公开了 41 条搜索路径的中间版本与执行记录，这些让「低分版本真的有用」这一主张可被逐例检查。局限也很清楚，且多为作者自陈：全流程只有一个开发者模型（Mini），没有预算匹配的对照来分离非精英选择、执行证据与跨分支复用各自的贡献，也没做关掉 archive revisiting 的消融；最终评估仍用开发时的任务与输入实例，只能说明在这些实例上的表现，未证明对新任务或新输入泛化；仅一个开发者模型与单次运行，搜索深度与开发者能力如何交互仍未知；跨任务的共享技能库未做。引用风险在于：49.1% 到 66.4% 是这套 Mini 加 Codex 评估协议下的平均奖励（保留小数分，只在二值任务上等于成功率）；被改动集合的 41 项本身是「搜索认定可改」的子集，其 +36.3 个百分点不能外推到全部任务；GPT-5.5 的原始分来自其公布的任务对齐参考而非同场重测（表中已用符号标注），GPT-5.4 那一行的比较对象是 87 项 OpenHands 参考对 86 项 Codex 终评，口径并不严格对齐。原文未给出代码或数据仓库链接，实测 https://arxiv.org/abs/2610.20926 返回 200，正文链接均为参考文献。105
与目标研究线的连接点：属 B 线，且是把「选择规则」本身当作研究对象的少数工作。最值得搬走的是它的选择语义：部署与继续开发的父代池分离，父代只从本代已完成评估的子代中选（Top-k），历史最高分不占据下一代席位，另设一条档案回访规则把旧版本重新放回池中。这套设计可以很低成本地接到任何已有的技能演化循环上，替换掉「必须优于父代」的准入条件——同节的对照方法正是要求优于父代或只保留历代最高分。第二样可搬的是证据构造方式：把版本、执行记录、路由记录与校验器发现绑定保存，并用父–子、兄弟两组对照区分「改了才变好」与「本来就有效」，还特别区分「没去查技能」与「查了技能仍失败」两种失败，前者改描述、后者改过程；对编辑方向的记忆也被用来抑制重复提出已被测为净损失的改动。第三样是跨模型复用的评测口径：冻结技能、不做搜索、只换执行器，并给出增益、持平、损失的三分法。与同节其它工作相比，多数方法在问「怎么让库更强」，这篇在问「哪些中间版本值得继续投资」，正好与 CODA 那类交付后稳定性审计形成上下游。它的另一处可借之处是把评估重复次数当成选择规则的一部分：升格子代与在任版本都测固定次数，用重复均值而非单次最好成绩决定部署，与长程实验里常见的选优偏差正好相反。105
结论建议：优先读第 3.2 至 3.4 节（父代池、比较证据、部署与档案回访的操作细节）、第 4.3 节与图 4（四个个案完整展示了低分版本如何成为最终技能的祖先）、以及附录 A 的局限与附录 B 的协议参数。引用时需要限定：所有奖励都在同一批 SkillsBench 任务实例上测得，跨模型复用部分用的是冻结技能包而非重新搜索；41 项是筛选后的子集；平均奖励不是成功率。另外注意搜索的停止准则是工程性的（连续两次 Hold 或达到代数上限），不是收敛证明，报告的最佳技能包应理解为预算内的最佳可用版本。若只引用一个数字，建议用 86 项上的 49.1% 到 66.4%，并同时说明由 GPT-5.4 Mini 独自完成全部模型角色、配 Codex 执行。105
5. Athanor 104 小时自主后训练：Qwen3-4B-Base 开发集 15.9→67.3，留出集 9.2→48.2
Athanor: An Agent-Native System for Autonomous Post-Training Research · arXiv:2610.21055 · 值得扫读
研究问题与核心方法：论文把「递归自我改进」换成一个当下可测的弱化版本：让前沿智能体用公开数据，把一个小规模原始基座模型后训练成跨领域通才，以此考察其研究潜力。作者构建 Athanor，一个面向自主后训练研究（AutoPostTrain）的智能体原生系统，跑在真实 GPU 上。智能体拥有完整研究自主权、低摩擦工程工具与高效起始代码，且在人给的沙箱内工作、不得调用或下载任何外部教师模型；它们自己读数据集与评测结果、构造训练数据、编写和修改训练算法、调超参、分析结果并决定下一步，具体操作通过一组命令动词完成（提交训练或评测作业、去污染、存取产物、获取队友检查点）。Athanor 的服务侧提供冻结评测、受管作业、去污染数据、持久研究记录，以及一套智能体并不知道存在、事后才评分的留出套件（held-out suite）。评测分两套：开发套件六项能力（数学、逻辑、代码、知识、指令遵循、多步行动）用于选择提交，留出套件每项都是开发任务的「孪生」（同能力、不同素材来源、更晚时间窗或未见过的任务类型），在活动结束后打分。活动开始前就固定了选择规则：开发套件决定团队提交哪一份检查点，留出套件只用于事后给结果；活动期间还发生了几次外部干预（例如第 15.8 小时智能体得知结果计的是团队提交而非个人最优、第 59 小时研究窗口从 72 小时延到 144 小时、第 73 小时放开 Claude Code 自带的联网与等待工具、第 97 小时运维给每个智能体发它自己的评测统计）。作者单位为 ByteDance、Duke University、The University of Chicago 与 Virginia Tech。注意：arXiv 未提供 HTML 全文（实测 /html/2610.21055v1/ 返回「HTML is not available for the source」），本条目数字来自 arXiv 摘要页与 PDF 原文。 106
关键结果：
- 一次 104 小时的活动里，四名 Claude Opus 5.5 智能体各占一个八卡节点、未获任何研究建议，把 Qwen3-4B-Base 从开发套件 15.9 提到 67.3，留出套件从 9.2 提到 48.2，对照官方 Qwen3-4B-Instruct-2507 的 66.5 和 47.9。106
- 在活动协议（输出上限 16,384 token）下，团队提交为 66.1±0.8（3 个种子）对 Instruct-2507 的 66.4，最佳单次评测的「前沿」从 16.1 升到 66.9，而无研究的默认起始代码已达 36.4；留出套件上提交得 46.7±1.3，对基座 8.7、对 Instruct-2507 的 48.0±1.4，配对差值的 95% 区间为 −4.0 到 +1.3，两者不可区分；留出套件上提交补掉了基座到 Instruct-2507 之间 97% 的差距，默认起始代码只补掉 30%。106
- 路线与厂商版本不同：提交在多步行动上高于 Instruct-2507（开发集 98.9 对 82.4，留出集 78.8 对 65.9）、代码上略高（47.1 对 43.9，34.9 对 31.4），知识略高、指令遵循持平或略高，但在逻辑（63.4 对 80.4，63.7 对 81.0）和数学（37.2 对 42.9，29.7 对 42.2）上低；若去掉多步行动，均值在开发集落后 3.7 点、留出集落后 4.2 点。截断不是逻辑差距的全部：提交有 18% 逻辑答案与 24% 数学答案撞到输出上限，Instruct-2507 为 1% 与 10%，但把上限提到 32,768 并改采样后逻辑分并未回升。厂商的两个推理版仍更高（hybrid 版开发集 73.3／留出集 50.6，Thinking-2507 开发集 80.5／留出集 63.0）。106
- 方法上没有新发明，而是重组已知手段：公开推理数据上的 SFT、一个由某智能体提出 rollout 改动的强化学习、智能体之间的权重合并、以及多轮自蒸馏；活动记录显示 174 个被完整评估的检查点里，84 小时后评估的 32 个中有 28 个建立在四名智能体全部参与的训练之上，说明想法与检查点在队内快速扩散。106
- 执行侧的开销也给出了：作业占据 3,315 可用 GPU 小时中的 3,086 小时（93%），活动总耗时约 416 智能体小时而智能体真正在工作（推理或跑工具）的时间约 9%；整场约 11,800 美元，其中 GPU 按每小时 3.49 美元计约 10,800 美元，智能体自身推理约占总开销的 9%。作者还记录了选择偏差的自我纠正：23 个最佳候选被复评后，19 个首种子高于后续种子均值（符号检验 p=3.0×10⁻³），平均高 0.4 点、最多高 1.1 点。106
证据与局限：证据硬的地方在于留出套件、冻结评测器、去污染数据与完整活动记录都事先定好，且提交是多种子平均而非择优单次，作者还专门量化并纠正了「单次最好评测偏高」这一选择偏差。局限被作者写在独立一节：只有一次活动、一个 4B 基座、一种智能体模型；四份提交共享工作因此不是独立重复，缺少「不共享」的对照来分离团队协作的贡献；配方能否迁移到更大模型或其它模型族未测；尚未达到厂商两个推理版的高度；此外虽然不调用教师模型，但所微调的公开数据本身多由更强的模型蒸馏而来，所以结论应读成「智能体用公开资源能造出什么」，而不是「从基座自身能造出什么」。摘要有两处与表格口径需分辨：66.5 与 47.9 是活动后加做的最终测量（上限 32,768 token、统一采样），而表 1 顶部的活动协议下 Instruct-2507 为 66.4，其自带采样下为 66.4 与 47.5；图 1 的标注也写作 66.4。原文未给出代码或项目仓库链接（摘要页与 PDF 正文均未见）。106
与目标研究线的连接点：属 A 线与 B 线的交叉：研究对象是长程智能体的执行期控制与自主研究闭环，产出对象又是被自改进的模型权重。可搬的是环境设计而非算法：把「冻结评测 + 受管作业 + 去污染数据 + 只增不删的研究记录 + 智能体不知情的留出套件」这套服务边界写清楚，就能让长程自主实验的结果可核查；其中「留出套件对智能体不可见」与「评测器冻结」是防止长程搜索把评测噪声当进展的关键闸门，「记录每个结论对应的配方与检查点」则是把轨迹变成可用监督信号的先决条件。它同时给出一个可复用的运行成本口径（GPU 小时占比、智能体有效工作时长占比、按 GPU 小时计价的总额），便于与其它自主研究系统比较。文中还点出几条可直接复用的研究性观察：把两个同强度但谱系不同的模型做平均可稳定拿到约两到三点、把合并点推远会以逻辑换知识、自蒸馏首轮约加一点，这些都被智能体自己写成了给队友的规则。与节内其它工作相比，多数工作在改技能或记忆这类模型外挂，这一篇直接改权重，因此它的失败模式（截断、能力取舍、配方收敛到单一套路）也该被当作「长程自改进能走多远」的边界证据来读。106
结论建议：先读第 4.1 至 4.2 节与表 1（两套套件、两套测量协议与逐能力分数），再读第 5 节的轨迹分析（重组、团队进度、配方收敛）与第 8 节局限。引用时必须区分口径：67.3 与 48.2 来自活动后的最终测量，66.1 与 46.7 来自活动协议下的多种子均值，两套不能混用；结论里也要说明这是四次提交中最好的一次、且四份提交共享工作。另外不要把「追平 Instruct-2507」读成「追平厂商最强」，原文明确说尚未达到其两个推理版。106
6. MemScope 局部改记忆架构代码：GAIA 诊断消融 86.67% 对 63.33%
MemScope: Evolving Agent Memory Architectures through Localized Code Repair · arXiv:2610.21170 · 值得扫读
研究问题与核心方法：论文处理自演化记忆里一个被跳过的步骤——定位。已有做法要么只改记忆内容、不动决定「存什么、怎么检索、怎么呈现」的可执行逻辑，要么让演化一步产出整套架构代码；前者修不了逻辑本身的错，后者反馈粒度太粗、更新范围几乎不受约束，往往把本来可用的记忆架构大改一遍。作者指出评分与压缩摘要都不足以把一次失败连到具体实现区域，因为长程执行里行为取决于已存经验、检索决策与后续动作的互相纠缠：同一次「没拿到有用记忆」的失败，可能因为经验根本没入库、被检索过滤掉、或被一段提前返回的代码绕过，三者的修法完全不同；也有可能指导已经正确送达、根本不需要改。MemScope 把每个记忆架构打包成一个可复用的记忆技能（按 Agent Skills 格式：一份 SKILL.md 加 scripts/ 下的可执行 provider），运行期记忆库与技能文件分离；一个会用工具（tool-using）的 Patch Agent 在任务分段之间，联合查看原始执行轨迹、运行时记忆状态与当前 provider 代码，先定位一个候选修复区域，再产出精确的旧代码换新代码替换，且必须在保持 provider 身份与记忆记录兼容的约束下就地改，并留下说明根因、补丁、预期效果与风险的补丁清单。修复由一个触发门控：当前分段准确率比历史最好低超过 δ=0.05 且至少 1 个任务失败时才叫 Patch Agent，证据不足时可以给出 no_patch 决定。演化按「一集一次任务窗口」推进：先用探针任务让记忆技能路由从技能库中选中一个既有技能并激活其 provider（12 个初始技能取自 MemEvolve 的 EvolveLab 代码库），路由判定没有合适技能时才进入全局探索，由技能设计器从探针证据派生新规格并生成完整 provider；随后冻结的 Agent Executor 执行剩余任务，provider 的 memory_retrieval 给出相关记忆、memory_storage 把轨迹蒸馏成记忆条目并入运行期记忆库。作者单位为中国科学院计算技术研究所（State Key Laboratory of AI Safety）与美团。 107
证据与局限：证据面较宽——三个基准覆盖信息检索与具身两类任务，GAIA 用全验证集（165 题）、xBench 用完整 DeepSearch-2505 并限 40 步、ALFWorld 用与演化任务不相交的 valid_unseen；主表与消融都给出了运行时间与步数（例如摘要档平均 993.14 秒、轨迹加记忆库 804.41 秒、25.73 步），配对表还区分了挽回与回归；演化规模写得很具体（五个集次、30 个开发任务、3 个探针、分段 10/10/7，骨干为 DeepSeek V3.2 与 Kimi K2.7 Code，检索用 all-MiniLM-L6-v2，ALFWorld 用温度 0、32 token 动作、外层 30 步与环境 50 步上限）。风险也明确：GAIA 与 xBench 的答案由 GPT-4o-mini 判分，判官本身的效度只通过专家抽样复核（原文说明两位专家独立按同一份评分标准打分、分歧先解决再比对）来间接支撑；消融里「叠加历史反而低于不加历史」（86.67% 对 83.33%）只有一题之差，原文解释为三题只在不带历史时答对、两题只在带历史时答对，这一格不宜当结论用；「演化优于原版」的对照用的是同一套任务序列与同一批题，作者本人也把 ALMA 那一行标注为「在同一任务序列下评估的既有设计」，且 xBench 与 ALFWorld 的固定代码对照让两边从各自独立的空记忆库起跑，因此结果混合了代码与记忆状态两方面差异。此外可复现入口有限：原文未给出代码或数据仓库链接（正文出现的 GitHub 链接均为被引用项目的地址，非本文产物），实测 https://arxiv.org/abs/2610.21170 返回 200。107
与目标研究线的连接点：属 B 线，且把「改哪一行」变成显式步骤，这是与同节多数工作最实际的差别。可搬走的东西有四件：诊断接口的分层设计（只给摘要、加原始轨迹、再加运行时状态三层分别测量，从而知道信息增量来自哪一层），这一分层本身就是可复用的实验模板；就地小改的合同约束（保持 provider 身份、记忆记录兼容、禁止大范围重写与硬编码答案），它既是质量控制也是可审计性的来源；编辑范围的量化口径（改动行数与函数数比上 provider 规模），让「局部修复」这个说法可被检验；以及把「不改」当作合法结论（no_patch）并把每次补丁的后续结果记入历史，使后续决策能引用先前失败。与同节的技能演化工作相比，它的对象是 harness 里的记忆机制而不是技能文档，因此更适合回答「执行期控制逻辑该由谁、以多细的粒度来改」；它的触发门控与失败定位思路也可以移植到任何「先诊断再改代码」的自改进系统上。107
结论建议：优先读第 3.2 与 3.3 节（触发门控与 Patch Agent 的工具与合同）、第 4.4 节与表 5（诊断消融）、表 3 与表 4（配对与未见任务），附录 B 的修复案例与 no_patch 记录值得一并看，才能理解 4.4% 这一改动比例对应的具体编辑。引用时限定：83.64% 是 GAIA 验证集 pass@1，执行器为 Flash-Searcher、骨干为 DeepSeek V3.2；86.67% 是诊断消融设置下的 GAIA 准确率，不等于主表成绩；71.64% 是同一起跑流程下的 ALFWorld valid_unseen 成功率；4.4% 只描述 14 次归档迁移的改动比例中位数。107
7. AutoOnboarder 自主入职：以最高 29× 更低成本追平 Gemini 3.5 Flash 基线
AutoOnboarder: Autonomously Onboarding LLM Agents · arXiv:2610.21218 · 邻近跟踪
研究问题与核心方法：论文起点是一个已被记录的现象：模型被放进 harness（包在执行器外面的那层调用外壳：提供上下文、代理工具调用、把输出解释成动作、判断任务何时结束）之后，其推理表现会下降；被引工作里前沿模型直接判断病历是否有错时正确率 91%，放进浏览器 harness 后几乎全都识别不出错误并提交了有缺陷的表单。作者用一个自主动入职系统 AutoOnboarder 来应对，把智能体交给一个智能的 Onboarder 编码代理监督，后者迭代地调整三根杠杆——提示模板、基座模型（从 OpenRouter 目录里换模型标识符）、harness 源码——目标同时是提高表现与降低成本，每轮只允许实现一个单一可辨识的想法。它有三条刻意设计：只给几十个示例的入职集、把评测数据隔离在另一台虚拟机上防泄漏、以及每例成本目标。评测任务是全外显子与全基因组测序的事先授权表单提交：沙箱含一个模拟医生门户与合成电子病历系统，样本是单个患者档案，部分档案被植入应触发中止而非提交的缺陷；给定患者姓名，Executor 必须登录、检索并阅读病历，然后完成表单或中止并报告问题。评分二值化，成功指在缺陷案例上以正确理由中止、或在有效案例上表单字段全对；总分 SS 对有效与缺陷两类各取一半权重，另报 MFA（有效案例的平均表单字段准确率，未提交的有效案例记 0）与 CH（缺陷案例被正确中止的比例）。数据在原有五类错误上扩到 23 类（分数据完整性、临床必要性、跨字段矛盾三组），验证集 180 例中 141 例（78.3%）有缺陷、39 例（21.7%）有效，每次实验用 200 例、10/90 切分（20 例入职、180 例验证）；错误类数多于入职样本数，是被刻意设计来逼 Onboarder 避免过拟合。作者来自 Research Science Institute, Massachusetts Institute of Technology 与 CliGenAILab。 108
关键结果：
- 三个入职候选都追平或超过基线 Gemini 3.5 Flash，且成本低得多：提示加模型加 harness（PMH）候选的 SS 为 0.323、MFA 0.406、CH 0.645、每例 0.069 美元；提示加模型（PM）为 0.325、0.773、0.624、0.036 美元；只改提示（P，从便宜的 GPT-5.6 Luna 起）为 0.409、0.657、0.766、0.016 美元；基线 Gemini 3.5 Flash 为 0.319、0.024、0.638、0.934 美元。原文据此表述为最佳候选在最高 29× 更低成本下不劣于基线，并把基线 MFA 从 0.024 提到 0.406 到 0.773；其它廉价基线差得远，Gemini 3.1 Flash-Lite 与 GPT-4.1 Nano 的 SS 都是 0.000，GPT-5.6 Luna 只有 0.028。108
- 但重复运行之间的差异远超方法之间的差异：同一入职流程在 0.04 美元成本目标下跑三次，SS 分别为 0.323、0.501、0.199，标准差 0.152，是评测噪声（0.007 与 0.009）的约 20 倍，180 例中有 63 例结果翻转；三次的有效案例提交数分别为 18、37、2（共 39 例），所以 MFA 的大幅波动主要反映候选是否提交，而不是填得准不准。108
- 作者据此拒绝把杠杆配置之间的差异当作结论：P 候选的点估计高于 PM 与 PMH，但低于第二次 PMH 重复的 0.501、远高于第三次的 0.199，因此原文明确写出这些比较无法在有意义的口径下解读。评测噪声本身较可控：两个成本目标下三次验证重复的 SS 标准差均低于 0.01，但仍有 19 例与 24 例翻转，且行为翻转（含判定方向改变）分别有 70 与 77 例。108
- 判官与过程可靠性做了实测：用 gpt-oss-120B 在温度 0 判定中止理由是否正确，抽 184 例（每类 8 例，4 例来自基线、4 例来自各种入职候选）人工独立标注，两套判定完全一致，且每条理由都写得清晰完整。另一处与既有文献相左：基线 Gemini 3.5 Flash 在 180 例中只提交 6 例，并错误扣下 39 例有效案例中的 38 例，作者认为这与被引工作中的自动化偏倚结论不一致，推测主因是闭源模型漂移。108
证据与局限：这是一篇以「经验教训」为定位的研究，作者自己声明因评测昂贵而大部分实验只跑一次、最多三次，全文按方向性证据报告并回避统计检验，所以没有 p 值也没有置信区间；判官一致性那 184 例是少数做了严格核查的环节。可迁移的硬结论只有两条：入职候选能显著压低每例成本并大幅提升 MFA；同一流程的重跑方差远大于配置间的差异。其余读数（例如按覆盖组看的泛化）作者自己说无法得出有意义结论，因为各覆盖组的成败更多取决于案例难度而非是否见过同类错误。现实约束写得很具体：单个案例可超过 30 分钟，在 200 例集合上评一次 Gemini 3.5 Flash 约 190 美元，0.01 美元成本目标的那次运行根本无法产出合规候选，因此未验证。失败模式的记录也很有价值：六次能用模型杠杆的运行中共发生 24 次模型改动、其中 15 次以崩溃或丢弃告终，harness 杠杆在所有实验里最多被改动两次。作者也提醒闭源模型会漂移，本文结论未必适用于更新或调整过的模型。原文未给出代码或数据仓库链接，实测 https://arxiv.org/abs/2610.21218 返回 200。108
与目标研究线的连接点：属 A 线中执行期控制的一支，且少见地把 harness 源码本身列为可优化对象而不是手工设计。最可搬的是它的评测设计而非模型能力：两台虚拟机的信息边界（智能体侧只拿脱敏入职样本、日志与 Trainer 反馈；真值与 Validator 只留在第二台机器且只回一个分数）、HMAC 签名的提交防止伪造、以及用一个比入职样本数更多的错误类集合来强制避免过拟合。第二样是它的噪声测法：分别测「同一候选重复验证」与「整套入职流程重跑」，把方差来源拆开——这正是许多自演化系统缺的口径。第三样是它把负结果留在正文：模型杠杆的失败率、harness 杠杆几乎没被使用、以及成本目标无法达成的运行，这些观察直接指向「给自改进系统一个结构化、受约束的搜索空间与思考接口」这一结论，原文也据此建议给 Onboarder 受控而非缺失的联网访问。与同节其它工作相比，它的价值不在提出更强的方法，而在于提供一份可信的失败清单与可复用的防泄漏评测流程。108
结论建议：建议读第 2.3 节（双机信息边界）、第 3.2 节与表 2（评测噪声与入职噪声的分解）、第 4 节（五条经验教训）。引用时必须带上方差前提：任何单次运行的分数都不可作为方法优劣的证据，最好的候选也只是落在重复运行的分布内；0.409、0.501 与 0.199 是同一条件下三次运行的读数，不要只引其中一个。若引用 29× 这一数字，需说明比较对象是 Gemini 3.5 Flash 基线的每例 0.934 美元，且最佳候选的成本是每例 0.016 美元。108
8. Diviner 工业级根因分析：45% 精确命中、60% 有用方向、80% 平均 Groundedness
Diviner: Agentic RCA with Human-Governed Adaptation for Large-Scale Infrastructure · arXiv:2610.21281 · 邻近跟踪
研究问题与核心方法：论文处理大规模分布式系统里的根因分析（RCA，root cause analysis）：一个用户可见症状可能跨服务、数据、配置、计算与组织边界，定位需要拼凑不完整证据并协调掌握因果链不同片段的专家。作者主张通用语言模型智能体靠工具访问并不能解决它，因为会出现用过期或时机不对的上下文、把查询失败或超时误读成症状不存在、自信报告无支撑状态、以及按机器速度压垮为人类节奏设计的可观测系统。Diviner 是部署在 Meta 的智能体 RCA 系统，围绕四阶段生命周期组织：Encode 把大量已复核事故与专家知识转成分域、带版本的失败签名、工作流（把技能连成有向无环图的完整调查策略）、技能、类型化工具与事故知识图谱（IKG，Incident Knowledge Graph）；Execute 用一个自适应 Lead 与上下文隔离的 worker 把相关工件应用到当下证据上，并维护带证据链接的假设、明确区分空数据与工具失败；Evaluate 把保存的轨迹与复核过的结果比对，分别给精确根因、有用方向与 Groundedness 打分；Adapt 是人控的过程，从反复出现的缺口与值班反馈中派生知识更新，且必须通过点时间重放、质量与回归检查以及负责人批准才被采纳。作者单位为 Meta, Inc.。 109
关键结果：
- 在已评分的调查里，Diviner 在 45% 的案例中给出精确根因、在 60% 中给出有用因果方向、Groundedness 均值 80%；三者分开计分，方向分承认「缩小范围但未完成诊断」，而 Groundedness 是覆盖结论与轨迹步骤的归一化均值，不是「无无支撑陈述的报告比例」。这个方向分与精确分来自不同人口与口径，原文明确说明不同人口的结果不直接可比。109
- 观测性队列比较里，接入 Diviner 的事故检测到缓解时间（TDM，detection-to-mitigation，含排查、协调与恢复）相对未接入 Diviner 的同期事故约低 52%（95% 置信区间 45.7–57.9%），缓解前的运营投入约低 15%（95% 置信区间 11.0–18.1%）；没有定制入职的队列只降约 0–10%。作者同时声明这是观测性比较，可能混入采用率、事故构成、人员与可观测性差异。109
- 延迟方面，完成型调查的最终结论为 p50 约 15 分钟、p95 24.0 分钟；较新的约 100 例细粒度检查点子集里，首个有用且中等置信度的假设出现在 p50 7.0 分钟、p95 13.7 分钟。另有面向智能体的告警触发先于面向响应者的事故阈值启动，在同配置的配对事故中，告警触发输出在 95% 的案例里早于事故触发输出，中位领先约半小时，中间一半落在约 15 分钟到 1 小时以上，40% 的案例里前者在后者开始之前就已产出。109
- 受控同模型比较把 harness 与平台分开：相对 Claude vanilla，Diviner 加 Claude 把精确根因提高 11 个百分点（95% 置信区间 3–20）、平均墙钟时间降 52%（区间 44–58），方向分高 5 个百分点、Groundedness 低 3 个百分点，但这两项区间包含零变化；固定 harness 换平台后，Claude 与 Codex 的精确根因 30% 对 31%、方向 44% 对 47%，Codex 的 Groundedness 更高（74% 对 65%）而 p50/p90 时间略长（11/18 分钟对 10/13 分钟），运营配置的点估计为 35% 精确根因、48% 方向、79% Groundedness、15/28 分钟。109
- 知识更新闭环已有测量但只到流程层：过程完成超过 100 个周期、提出约 30 个新技能，走到负责人处的提案 90% 被接受；完成更新并复评的技能测得质量提高 20–40%，全局方向分提高约 5%。按根因类别看表现分层明显（每类三个数依次为精确根因／有用方向／Groundedness）：基础设施与网络类为 55%／65%／80%，流量与扩容类 42%／65%／74%，实验与灰度发布类最低，为 25%／36%／62%。原文明确这些是有限运营期内的前后对比，后变更事故数仍少，不能证明更新改善了未来的调查。109
证据与局限：证据规模上是难得的大：Diviner 已支持数千起事故（含数百起高严重度事故），每月运行数千次告警触发的调查，评分基准 DivinerEval 由复核过的结果拼出参考、在覆盖门控后才计分，且有两个领域专家独立按同一评分标准复核判官。局限同样清楚：结果分项不可互相替代，80% 的运营 Groundedness 与受控研究里 79% 的点估计用了不同人口与评测条件（原文专门标注不可直接比较）；缓解时间与投入的下降来自观测性队列而非随机对照，作者写的是相关而非因果；Adapt 阶段的前后对比作者自己说「只表明流程能派生、评估并发布更新，不表明更新改善了未来调查」，更强的主张需要按时间留出的评测；重放也无法复原授权变更、限流、并发与跨系统时序，因此通过重放只让提案有资格进入负责人评审，绝不自动发布。另外摘要把约 52% 与约 15% 写成「associated with」，引用时应保留这一措辞。原文未给出代码或数据入口，实测 https://arxiv.org/abs/2610.21281 返回 200。109
与目标研究线的连接点：属 A 线与 B 线的交叉，但它的可迁移价值集中在评测口径与治理机制，而非模型能力。最值得搬的是三项评测设计：把「精确根因」「有用的因果方向」「Groundedness」拆成三个独立维度并分别解释未得分的原因（复述症状、无支撑的排除、把失败查询当反证都明确不给分），从而避免用一个成功率掩盖「答对了但推理无据」与「没答对但方向正确」；对轨迹而非只看最终答案打分，并保留每条结论的引用证据与状态标注；以及按人口与口径隔离报告，明确哪些数字之间不可比。治理侧则可搬「知识更新必须经过点时间重放、质量与回归检查、负责人批准、可回滚且带版本」这套门禁，尤其「重放要用当时的告警输入、保存的工具响应与当时的技能、工作流、图谱、模型、注册表与判官版本，并扣住事后结论」这一条，对任何声称能从反馈里学东西的运营型智能体都是硬约束。与同节其它工作相比，它不追求把技能库推得更高，而是把「哪些知识允许被用、什么证据算数、什么改动能落库」写成制度。109
结论建议：优先读第 3.6 节与表 1（六条需求及其设计义务）、第 6.1 节与表 5（口径与人口定义）、第 6.4 节（受控研究协议与配对自助法区间）以及第 7 节的运营教训。引用时限定：45%、60%、80% 是已评分调查上的三项不同指标；52% 与 15% 是观测性队列里的关联，不构成因果结论；11 个百分点与 52% 时间下降是相对 Claude vanilla 的受控同模型比较，不能与运营数字混用。109
9. FedSkillGit 联邦技能演化：九格全部优于独立演化，最高 +10.1 分、平均 +4.3 分
FedSkillGit: Federated Skill Evolution via Version Control · arXiv:2610.21348 · 邻近跟踪
研究问题与核心方法：论文把联邦学习（federated learning，FL：多客户端在不上传原始数据的前提下共同改进一个共享模型）的思路搬到自然语言技能上：多个数据持有方各自有执行经验，不能汇总原始轨迹，但都希望共享技能文档持续变好。作者指出最直接的方案——每个客户端改成整份技能文档再上传给服务器聚合——与技能演化的结构不匹配，并给出三条理由：演化后的文档仍可能携带从私有轨迹里提炼出的客户专属信息，因此原始数据留在本地并不等于隐私安全；本地演化往往只改动一小部分，反复传整份文档会让通信量随技能累积而增长，而不是随新获得的知识增长；单个客户端的贡献被埋在大体不变的文档里，服务器无法有意义的归因。FedSkillGit 因此以 commit（语义提交：一组针对具名规则的补丁加上一份本地经验小结）替代整份文档更新，客户端只提交有界数量的补丁与经验，且两者在离开客户端前要过两阶段隐私过滤——先由 LLM 清洗器把客户实体、标识符与环境细节替换成类型化占位符（保留每条编辑的操作与目标规则），再由审计器拿一份固定的私有值集合检查是否残留，未通过则退回重洗。服务器对提交做去重、把新知识并入一份只有优化器与合并代理可读的全局经验文档（执行器只看共享技能，看不到该文档），再由合并代理按该文档把存活的补丁合入候选技能，把每条编辑判为保留、去重、升格为共享规则或拒绝；候选技能下发各客户端在私有验证集上打分，只有总分不低于当前版本才发布，否则保留旧版；连续两轮没有候选被接受则终止，并把最后一次接受的轮次记为收敛轮。作者单位为华东师范大学与山东大学。 110
关键结果：
- 在 10 个客户端、30% 参与率（每轮三个客户端）、三种模型家族与三个数据集上，FedSkillGit 的任务成功率（TSR，task success rate）在九个格子里全部高于独立演化：按数据集顺序为 SearchQA、LiveMath、DocVQA：GPT-5.4-mini 的 78.6、28.8、88.5 对 76.1、27.2、82.8；Qwen3.5-flash 的 82.4、29.6、85.3 对 80.1、25.6、83.7；Gemini3-flash 的 87.3、40.0、90.1 对 77.2、31.2、88.4；九个格的领先幅度在 +1.6 到 +10.1 之间，均值 +4.3。110
- 与集中式上界相比，FedSkillGit 在九个格子里的差距中位数为 −0.8 个百分点，并在其中两格领先；三个模型家族平均上领先 GPT-5.4-mini 0.4 个百分点，落后 Gemini3-flash 0.5、落后 Qwen3.5-flash 3.0；单次合并的 DocMerge 基线在九个格子里全部落后，差距 +0.8 到 +7.2，说明多轮调度优于一次性归一。110
- 两个消融都指向设计有效但幅度有限：去掉跨轮全局经验（SearchQA、GPT-5.4-mini）在任一环节的作用后，TSR 分别从 78.6 降到 76.9（不再进入下一轮的优化器）与 77.2（不再进入合并代理）；隐私侧，加清洗器时 81% 的载荷首次审计即通过，去掉清洗器只有 33%，即被拒载荷比例从 67% 降到 19%。110
- 收敛轮数随人口规模上升、随参与率下降：参与率固定 30% 时从 10 个客户端的 5 轮升到 100 个客户端的 9 轮（10 到 30 个客户端只加 1 轮，50 到 100 加 2 轮）；10 个客户端时把参与率从 10% 提到 50% 可把轮数从 13 降到 3（10% 到 20% 就省去 6 轮，40% 到 50% 只省 1 轮）。110
证据与局限：实验覆盖三个模型家族与三个数据集（SearchQA、LiveMath、DocVQA），非独立同分布切分由不同问题类型、难度带与答案格式构成，评测集与所有客户端切片不相交，每个客户端执行器与优化器用同一模型，方法、独立演化与集中式共用每轮预算，可比性设计是清楚的。引用风险在于摘要与表格对不上：摘要写「超过最强基线最高 22%」，而表 I 里相对独立演化的最大领先是 +10.1、相对 DocMerge 是 +7.2，正文与表格均未出现 22% 这一数字，引用时应以表 I 为准。作者自陈五条局限：共享对象是单一文档因而无法给分布偏差大的客户端做个性化；发布依赖每个客户端能在留出集上打分，在主观或昂贵任务上要求更强评分程序（可能需人参与）；隐私只约束载荷，不限制从被接受修订序列本身能推断出的信息，需要形式化保证时应配合差分隐私；服务器能看到每个参与者的（已清洗）提案，协议没有安全聚合；收敛轮数随人口增长，多客户端部署要付出墙钟轮数代价，且协议假定各客户端在做同一个问题。原文未给出代码或数据仓库链接，实测 https://arxiv.org/abs/2610.21348 返回 200。110
与目标研究线的连接点：属 B 线里较少见的一种组织形态——把技能演化的协作单位从「整份文档」换成「修订」。可搬的三件：其一，用带目标的补丁加经验小结作为交换单元，从而让通信量与归因粒度都绑定在「新学到的知识」上，而不是让传输量随技能累积膨胀；其二，用一份只对优化器与合并代理可见的全局经验文档记录「已经试过并否决过什么」，把重复提案在合并阶段挡掉——这是把跨轮记忆放在元数据而不是技能正文里的做法；其三，发布门控用客户端私有验证集的总体表现作为唯一准入条件，从而使全局技能在轮次间单调不降、并让客户端保留验证数据。与同节其它工作相比，它的差异在于把异质性问题明确分成「共同演进一个通用技能」与「为每个客户端定制技能」两种设定（并指出后者由 FederatedSkill 承担），因此更适合直接指导「多团队共享一个技能库」这类工程决策。110
结论建议：建议读第 III 节（提交结构与两阶段隐私过滤的形式化）、第 IV-B 节与表 I（九个格子的对照）、第 IV-C 节两个消融与附录 B 的局限、附录 C 的实验协议。引用时以表 I 的数字为准并说明是十个客户端、30% 参与率、每个客户端执行器与优化器同模型；不要把摘要里未在表中出现的 22% 当作可比结果；跨格比较需注意每个格子是「模型家族加数据集」的组合，不能把某个格子的领先幅度当作方法的通用优势。110
10. MetaExp：用可验证跨任务族把经验学习训成可迁移能力，SpreadsheetBench 冷启动演化 +8.5 分
MetaExp: Learning to Self-Improve through Experience via Verifiable Cross-Task Environment Scaling · arXiv:2610.21492 · 精读
研究问题与核心方法：这篇问的是：智能体「把交互反馈攒成可复用经验」这件事本身，能不能被一次训练成一种可迁移的模型能力。原文把这条设定命名为 meta experience learning（元经验学习）：只做一次通用训练，此后模型参数冻结，智能体在每个未见过的任务分布上都从空的经验库出发（cold-start），只能靠顺序交互与反馈自己构建、修订、复用经验。外部经验被实例化为结构化的 Agent Skills（智能体技能：写成文件、可被工具调用的操作或诊断条目）。做法上，MetaExp 构造「可验证任务族（task family）」，族内共享一个可复用因子 z、只改任务实现 ξ，遵守 transfer without direct solution reuse（可迁移但不允许直接复用旧解）的原则；两种设计互补：Shared-Tool 族固定黑箱工具库及其文档、只换数据与请求，逼出操作型经验；Shared-Workflow 族保留一条对解题者不可见的潜流程（latent workflow），换掉领域、API 与数据，逼出流程型经验。规模是 500 个 Shared-Tool 族加 500 个 Shared-Workflow 族、每族 5 个任务实例，共 1,000 个族；用 GLM-5.2 当 teacher（教师模型），在统一 harness（包在模型外面的那层调用外壳：工具、技能与过程编排）里按难度递增顺序做顺序经验学习，收下并过滤出 4,956 条轨迹；再用标准 assistant-token 目标微调 Qwen3.5-122B-A10B，两个 epoch、256K 上下文，只对 assistant 生成的 token 计损失。评测协议叫 SeqEvo（冷启动顺序演化）：先用 K 个 adaptation 任务顺序攒技能库，每个 k 都在固定且不相交的 target 集上评一次，报告零经验分 S(0) 与增量 Δ(k)=S(k)−S(0)，每个实验跑三次并随机化 adaptation 顺序。作者来自澳门大学、中国科学院深圳先进技术研究院、佐治亚理工学院与阿里巴巴 Token Hub。 111
证据与局限：证据强度在于三个 held-out 基准加 SkillsBench，每个实验三次独立随机化 adaptation 顺序，报的是总体标准差（population standard deviation）而不是标准误；主表同时给零经验分 S(0) 与增量 Δ(k)，把「静态解题能力」和「经验带来的变化」拆开，这在自进化类论文里口径最干净。评测口径也写明了：SpreadsheetBench 是执行生成解、重算公式、比对标注区域，全格匹配才算成功；APEX-Agents 用专家撰写的二元 rubric 由 LLM judge 打分、只复核失败的 rubric 条目以纠假阴性；AutomationBench 是比对最终环境状态的确定性断言。引用风险有三处。第一，APEX-Agents 的绝对分很低（12.2→14.5），且投行域方向反转；原文自己解释为近乎二值的精确值评测与冷启动余量差异，并承认部分技能过拟合并干扰了本来正确的解，因此 +2.3 不能当通用结论。第二，主表里 EvoSkill 与 SkillGrad 两行是照抄 Wang et al. (2026a) 的原始演化协议结果，与本文的 SeqEvo 不同协议，原文也注明这一点，不能横向比。第三，表 4 里 APEX-Agents 完整版是 12.2→14.0（+1.8），而正文 APEX 段落给的峰值是 k=20 的 14.5（+2.3），两者口径不同（final−initial 对峰值），引用时不能混用。方法上的自陈局限：训练用 SFT 而非 RL，附录 C 给出的理由是经验更新是延迟的跨 episode 目标，RL 要把未来表现变化归因回更早的执行与反思决策，还要对每条候选技能库更新跑多个下游任务，成本过高；作者同时承认当前没有直接优化每次经验更新的下游效用。复现条件方面，原文全篇没有给出代码仓库、项目页或数据页，只公开了提示词模板（附录 D），训练用的 1,000 个合成任务族与轨迹未声明公开；实测 https://arxiv.org/abs/2610.21492 返回 HTTP 200，HTML 全文可取。 111
与目标研究线的连接点：属 B 线（轨迹学习与自进化），并直接给 A 线供料。具体可搬走的有四点。一是任务族构造法：族内共享一个可复用因子、只换实现，是「制造跨 episode 监督」的通用手段，可以直接用来为自建 agent 环境批量生成「有迁移价值但不允许抄答案」的训练序列。二是轨迹里故意交错少量跨族任务，往技能库里塞不相关经验，逼模型学选择性复用而不是无脑套用——这是一个非常便宜的正则化技巧，任何技能库方法都能加。三是训练完把技能库丢掉，留下的只是「怎么攒经验」的行为，评测时每个新分布从空库开始，所以量到的是可迁移能力而不是背下的题库。四是评测口径：Δ(k) 曲线加同 harness 的匹配骨干对照；任何自进化或技能库工作都该同时报零经验基线与经验堆积曲线，否则分不清是模型变强还是经验变多。与同节其它工作的差异：RSIFlow 与 MLExpert 改的是系统里某个组件（harness、工件、权重），MetaExp 改的是参数里学到的「经验学习行为」本身；Terminal-RSI 走的是 RL 层的 actor–critic 交接与信用分配，MetaExp 是 SFT 层的行为塑造；本节的对照设置（同骨干、同 harness、空库冷启动、adversarial 跨族干扰）在这批里最严。 111
结论建议：值得读第 3.2 节（SeqEvo 协议定义与式 4 至式 6）、第 4.1 至 4.3 节（族设计与轨迹采集，含「propose–solve–confirm」的验证式合成）、表 1 与表 4，以及附录 A 的行为分析（技能调用率、空库配对对照、技能库结构统计）。引用时必须限定：所有增益都是「参数冻结 + 技能库从空开始 + 同一 harness」下的顺序演化增益，不等于模型的静态解题能力；SpreadsheetBench 的 +8.5 是三次运行均值且 k=40 处总体标准差为 ±3.4，APEX-Agents 的 +2.3 是 k=20 峰值而非终点；EvoSkill 与 SkillGrad 两行不可与 SeqEvo 行直接比较。不要引用任何正文没写出的差值换算或跨基准平均值。 111
11. 自改进问题：自引用让任何终止门控都无法既可靠又不保守，有界评估与有限提案下才可恢复
The Self-Improvement Problem · arXiv:2610.21646 · 值得扫读
研究问题与核心方法：这篇问的是一个安全自改进的结构性问题：当智能体自己提出更新（代码补丁、提示词改写、新检查点、工具策略），由一个自动门控（reward model、回归测试套件、自动审稿器）决定是否采用，那么「这门控能不能可靠地判断某个更新是不是真正的语义改进」？原文把智能体建模成程序，用程序编号 p 标识、行为由部分函数 φ_p 给出，用一个可能是不可计算的语义评分函数 J 定义「严格改进」J(q) 大于 J(p)，再区分两种抽象：certifier（认证器）V(p,q)∈{0,1} 对给定候选放行或拒绝；searcher（搜索器）S(p,e) 在读得到提案枚举器代码的前提下，试图输出某个改进候选。要的性质是 soundness（可靠性：放行即真改进，等价于不奖励黑客）与 completeness（完备性：真改进不被拒或漏掉，等价于不阻塞真实进展），两者都要求门控是 total computable（处处可计算、必停）的。主结果用 Kleene 递归定理（不动点定理）造自引用候选：让候选的行为取决于门控是否接受它——「被拒则好、被接受则坏」。技术部件（对角化、s-m-n 定理、递归定理）原文自称是经典的，贡献在于形式化本身：把「奖励黑客」从一个经验事实变成一条带显式假设的定理。作者来自德国人工智能研究中心（DFKI）与凯泽斯劳滕-兰道莱茵兰-普法尔茨工业大学，并附了一份 Lean 4 形式化。 112
关键结果：
- 定理 1：不存在 total computable 的认证器 V 同时满足 soundness 与 completeness。原文用最简的语义分 J(p)=1 当且仅当 φ_p(0) 停机并输出 1，通过 s-m-n 定理把「先算 V(p,e)、V=1 就输出 0、否则输出 1」做成全可计算变换，再用递归定理取不动点 q；无论 V(p,q) 取 1 还是 0 都会撞上其中一个性质。
- 定理 2：改用搜索也不行。即使把提案枚举器的代码交给搜索器，只要它是 proposal-respecting（输出必须是枚举器提出的某个候选），就不存在同时 sound 且 weakly complete 的 total computable 搜索器。构造上让枚举器提出的候选行为取决于搜索器自身的输出，等于把对角化放进提案侧。
- 命题 1：随机化不救场。若一个概率机器在每个输入与每个抛硬币序列上都停机，并对真改进以至少 2/3 概率接受、对非改进以至多 1/3 概率接受，则由 König 引理该硬币树有限，确定性机器可以算出精确接受概率 α(p,q)，据此定义 V′(p,q)=1 当 α≥1/2，就得到一个 sound 且 complete 的确定认证器，与定理 1 矛盾。原文并引 de Leeuw 等（1956）指出，以概率 1 停机、错误概率有界低于 1/2 的机器只能判定可判定集合。
- 隐藏与有状态的门控同样不改变结论：隐藏只是让提出者造不出对角候选，失败输入对依然存在；有状态门控等价于在每个可达状态 s 上固定一个总可计算认证器 V_s(p,q)=V(p,q,s)，定理 1 逐个状态适用。唯独人参与的门控不是全可计算的，定理不约束它——原文把这写成设计结论而非漏洞。
- 定理 3（可恢复区）：在固定评估上界 T、提案预算 B、生成上界 T_E 下，存在 total computable 的搜索器 S(T,B,T_E)，对所有输入都停机，且（1）若返回候选 q，则 q=E_e(p,i) 对某个在预算内的 i，且其计算在 T_E 步内停机，并有 J_T(q) 大于 J_T(p)；（2）若预算内每个 E_e(p,i) 都在 T_E 步内停机且存在某个这样的 i 使 J_T(E_e(p,i)) 大于 J_T(p)，则它不返回「没找到」。证明就是穷举有界模拟。原文强调界不必是常数，可以是任意 total computable 的 T(p,e)、B(p,e)、T_E(p,e)，所以分界线不是「常数预算 vs 增长预算」而是「门控能算出的预算 vs 无边界的语义行为」。
- 命题 2（代理漂移）：即便在定理 3 的可判定区内，有界分与真分也能反向。取 n=2k，构造程序链 p_0,…,p_k，使每一轮 J_T^(n)(p_{i+1}) 大于 J_T^(n)(p_i)（门控会放行），同时真分 J^(n)(p_{i+1}) 小于 J^(n)(p_i)。整轮下来有界分从 0 升到 k，真分从 2k 降到 k。机制是把「慢但对」换成「快但只对更少的任务」，损失落在门控的时间预算之外，全程不需要自引用也不需要对手。
- 附录 B 的命题 3：定理 3 可以扩展到交互式评估，但需要显式假设——有限动作集与观测集、有理值的可计算转移概率与奖励、每步计算上限；此时交互有界分 J_int 是全可计算的，穷举搜索器照搬成立。若奖励或概率是任意可计算实数，严格不等式的判定不再可能，只剩近似或单侧保证。 112
证据与局限：这是纯理论工作，证据形态是可计算性证明而非实验，判断标准是假设是否显式、构造是否可查。原文对自身的定位很克制，明确声明证明成分（对角化、s-m-n 定理、Kleene 递归定理）都是经典的、不主张新的可计算性技巧，新意在于面向机器学习的建模，并且专门用一段「Scope of the contribution」把新与不新分开——这在同批论文里少见。引用风险要盯三处。第一，定理 1 与 2 是最坏情况结果，只否证「对所有足够表达的智能体与提案机制都 sound 且 complete 的普遍程序」，不意味着自改进不可能发生，也不意味着受限场景里造不出有用的门控；原文在讨论里把这句写得很直白。第二，定理 1 用的语义分是特例（在输入 0 上停机并输出 1），但原文给了推广注记：只要 J 是外延的（只依赖 φ_p 而非程序文本）且存在两个可达且可比较的值，构造就照搬；同时说明 Rice 定理的经典陈述不覆盖定理 2 的搜索任务，因为搜索器只需返回一个见证、还能读生成器代码。第三，命题 2 的漂移构造是设计好的反例，不是对任意真实训练循环的速率预测；原文把「提出者适应再评估日程时漂移能多快增长」明确列为开放问题。可复现性方面，作者附了定理 1 至 3 的 Lean 4 形式化，仓库为 https://github.com/Brian-Moser/SelfImprovementProof，实测返回 HTTP 200；论文本身无数据集、无训练实验。 112
与目标研究线的连接点：属 B 线（自进化的条件与边界）的地基层。可直接搬走的是三条设计规则，而不是数字。第一，门控的可靠性不能靠更聪明的代理指标换来：原文指出奖励黑客文献讨论的是「代理可计算但设定错了」的统计性差距，而这里的不可能性即使在代理完美追踪语义分时仍然存在——所以只改代理设计不改计算结构，是关不掉的。第二，能恢复保证的是「门控事先承诺的可计算预算」：超时、有限候选预算、受限更新语言、沙箱。原文把它写成一句话设计原则：把限制写显式。第三，单步有保证不等于多轮有保证，因此任何自改进闭环都该「短期固定预算以便提速、定期用更大预算重新评估一次」——这是命题 2 直接推出来的操作规则。与同节其它工作的差异：MetaExp、RSIFlow、Terminal-RSI、MLExpert 都在工程上扩大自改进的实际收益，这篇则给出收益之外的上界与恢复条件；它也可以用来解读同批论文的评测设计（例如 MLExpert 的窗口奖励、ARIA 的干预门控都恰好落在「有界评估 + 有限提案」这一可判定区内）。 112
结论建议：值得读第 1 节末的贡献声明与 Scope 段落、第 3 节定理 1 的完整构造与「推广注记」、第 4 节定理 2、第 6 节定理 3 与其后关于界的作用的注记、第 7 节命题 2 的漂移构造，以及第 8 节「One-sided guarantees and intermediate regimes」里关于证明携带型更新与 Gödel 机的讨论。引用时必须限定：这是最坏情况的可计算性结果，不是对某个具体系统的实测判据；定理 3 的 sound 与 weakly complete 都是「相对于有界分 J_T」，不对真分负责；不要把它读成「所有自动门控必然失败」，原文反复强调单侧保证（如证明携带型更新）是可用且实用的，只是必然不完备。 112
12. RSIFlow：自适应工作流编排加元智能体演化，六基准总体 51.21%（Qwen3-4B）与 59.86%（Qwen3-8B）
RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent · arXiv:2610.21791 · 邻近跟踪
研究问题与核心方法：递归自改进（recursive self-improvement，RSI）要的不只是「能改」，还要改得对得上当前瓶颈。这篇指出两个耦合的难点：自改进工作流必须适配随任务需求和智能体能力状态而变的性能瓶颈；而「编排工作流」本身也是一种能靠经验变强的能力。RSIFlow 的做法是把两者套成环。系统状态写成 X_t=(T_t, M_t)：Task-Agent（任务智能体）T_t=(θ_t, H_t^Task, A_t^Task)，即模型参数、外部 harness（执行接口，也是包在模型外面的那层调用外壳）、以及任务级交付物；Meta-Agent（元智能体）M_t=(φ, H_t^Meta)，其基座参数 φ 全程冻结，演化只发生在它自己的 harness 上。harness 被统一拆成 Action（执行与信息动作）、Skill（可复用经验与原则）、Planning（目标分解）三件。每轮 Meta-Agent 依据执行轨迹、环境反馈与累积的 meta-skill，从 Model、Harness、Artifacts 三条工作流里选一个改，另外两个冻结；所有候选共享同一父代与同一评测批次，第一个通过有效性检查且性能增益为正的候选被接受为 T_{t+1}，否则保持原状，所有失败尝试的反馈都进 Meta-Agent 的演化。随后 Meta-Agent 对齐父子轨迹、蒸馏出组件专属技能与跨组件通用原则（技能用适用条件、更新范围、条件性指导、保留要求、预期行为响应、支持与反驳证据六元组表示），再用 Add、Supplement、Revise、Merge 四种证据驱动操作维护技能库，最后把技能库装回自己的 Meta-Harness。作者署名列出北京航空航天大学、清华大学与北京智源人工智能研究院（BAAI）等机构。 113
证据与局限：证据强度的加分项是六个基准乘两个骨干、12 个组合里赢 11 个，且消融把「自适应编排」与「元演化」分开；预算–性能帕累托分析（图 3）显示它在各基准上都在经验帕累托边界上或附近。作者自陈的局限有两段：一是主要只用 Qwen3-4B 与 Qwen3-8B 作 Task-Agent 骨干，属于资源受限部署场景，更大骨干与集群规模下收益是否仍显著未验证；二是 Task-Agent 与 Meta-Agent 耦合虽然不改 Meta-Agent 的参数，但引入了额外计算开销，换成更低成本的 Meta-Agent 可能牺牲演化收益，经验驱动的 Meta-Harness 更新稳定性也尚未充分研究。引用风险三处。第一，跨论文比较要小心：AFlow、MermaidFlow、HarnessForge、SIA、Hyperagent 这些基线在原文里是各自按附录 A.4 配置复现的，不是照抄原论文分数；表 1 同时给出 Qwen3-4B 与 Qwen3-8B 两个块，不要跨块拼数。第二，正文里 +19.04/+3.92/+18.20 这些域内增量（相对 Vanilla，单位为分）与 6.17、5.74 个百分点的均值差出自不同算法，不能互相加减；「赢 11/12」的那一个例外在原文里没有点名是哪个组合，引用时不要自行指定。第三，案例研究的 18.98% 是 R1 起点 32.23% 到 R5 的 51.21% 之差，与表 1 的总体 51.21% 是不同起点，不能与「相对最强基线高 6.06 个百分点」混说。复现条件：代码在 https://github.com/1HUAN1/RSI-Flow，实测返回 HTTP 200。 113
与目标研究线的连接点：属 B 线（技能演化与自改进智能体）的直接命中，同时也给 A 线一个可搬的编排骨架。可搬走的有三点。一是「改哪一环」的显式分类：把可改对象固定成 Model（参数）、Harness（Action/Skill/Planning）、Artifacts（任务交付物）三类，并强制每次只改一类、其余冻结、共享父代与评测批次、第一个正增益候选才接受——这套约束让自改进的比较可归因，比为每种方法各写一套更新规则干净。二是元层不调参数、只改自己的 harness 与技能库：Meta-Agent 的基座参数 φ 全程冻结，演化完全落在 H_t^Meta 的 Action、技能库与 Planning 上，因此「编排能力变强」不靠多训一个模型；配合 Add/Supplement/Revise/Merge 四种技能维护操作，是一条很省的可迁移路径。三是把失败尝试的反馈也计入元演化：原文明确所有更新尝试的反馈都会用于后续 Meta-Agent 演化，这一点常被省略，但它正是「编排经验」的来源。与同节差异：MetaExp 把经验学习训进参数、评测时参数冻结；Terminal-RSI 改的是 RL 层的信用分配与 critic 交接；MLExpert 改的是后训练目标（执行窗口级奖励）；RSIFlow 改的是「决定改什么」的编排机制本身，因此在评测口径上最依赖跨轮次的增益接受规则与预算–性能 Pareto 曲线。 113
结论建议：值得读第 3.2 节的工作流选择与接受规则（式 3 至式 8）、第 3.3 节的技能形成与证据驱动维护（式 9 至式 11）、第 4.2 至 4.4 节与表 1 至表 3、图 3 的预算–性能分析，以及 Limitations 段。引用时必须限定：主结果是小骨干（Qwen3-4B/8B）配 GPT-5.6 Sol 元智能体、5 轮演化、每轮最多两次尝试下的数字；总体的 51.21% 与 59.86% 是六基准宏平均，不是任一单基准分数；消融里的百分比提升都是相对 Vanilla 的域内增量；「11/12」不要自行指定例外组合。 113
13. Terminal-RSI：递归自改写与策略精炼训练终端智能体，四套终端基准均值从 20.68% 升到 50.58%
Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine · arXiv:2610.22192 · 精读
研究问题与核心方法：终端智能体（terminal agent）的成败由可执行环境的持久改变决定，而不是回答像不像；长程任务里「局部进展很多、却没有一个完整解」是常态，因此训练必须把「成功的探索」接到「可复现的执行」上、把「延迟到来的验证」接回「做出决定的那一步」。原文点名两个障碍。第一个是 temporal dilation（时间膨胀）：生成 token 的时钟与环境变化的时钟不同步，一个 shell 动作可能由几百个 token 表达，而几千个观测 token 不带来任何新的策略决策，标准 GAE（generalized advantage estimation，广义优势估计）沿交错的 token 链传播时会按文本长度而非按有后果的交互来衰减，掩掉观测的损失也删不掉它们的递归节点。第二个是 value drift across recursive supervision（递归监督下的价值漂移）：递归自改写（Recursive Self-Rewrite，RSR）改变 actor（策略网络）偏好，从而改变 critic（价值网络）会遇到的历史分布，直接重置 critic 会丢掉已学到的结果结构，原样继承又可能保留系统性预测误差。方法 Terminal-RSI 把两者交替起来：actor-only 的 RSR 与 critic-inheriting（继承 critic 权重）的 Recursive Policy-Refine（RPR，递归策略精炼）轮流进行，阶段序列是 Base、RSR-1、RPR-1、RSR-2、RPR-2；RSR 阶段只做已验证的改写、Δϕ=0（critic 权重不动），RPR 阶段先用冻结的 actor 做四个 critic-only 校准步再联合更新。另外两项设计是信用分配与奖励演化：Turn-Boundary Skip-Observation GAE（TB-GAE，轮次边界跳观测的 GAE）只在跨轮次边界时施加 γ_turn、λ_turn 衰减，观测只作为条件、不是递归节点；Family Dense Reward（FDR，族稠密奖励）按家族历史分位数归一化进度，Success-Prioritized Reward（SPR，成功优先奖励）把严格成功与有界的部分分分开。基座是 Qwen3.8-27B，262,144 token 上下文，训练池 3,000 个任务（2,400 个语义验证器任务加 600 个补充终端任务），采样用 T1 式 Token-In Token-Out 契约并掩掉观测的损失。 7
证据与局限：证据硬度较高但作者自己划了很清楚的边界。评估协议写得很细：每个保留阶段在各基准跑三次独立运行取算术平均（Mean@3，不是 pass@3、也不是解出任务并集），采样温度 0.60、top-p=0.95、每轮最多 8,192 输出 token、每次调用最多 96,000 输入 token，最多 100,000 轮，累积 32,000 token 触发主动摘要。作者自陈的局限分四类：因果归因（算力对齐的交替、单独隔离 TB-GAE、在线奖励对齐、继承与重置 critic 的对照都还缺，阶段专属学习率、奖励与初始化是一起变的，估计量恒等与离线重打分都不能隔离其训练效应）；评测与选择（三次评测不能替代独立训练种子、也不能确立统计优越性，检查点选择需要受保护的验证集）；验证覆盖（测试只证明被强制要求的部分，Rust–C 案例暴露了原生架构缺口）；范围（SWR100 与训练不相交，但更广的仓库与预训练重叠未完全审计，单个 27B 骨干的五阶段既不证明缩放律也不证明普遍单调）。引用风险有四处。第一，Terminal-Bench 2.1 的 86.52% 与参考表里 GPT-6 Sol 的 85.40%、Kimi K3 的 85.00% 属于「参考值 vs 自测值」，原文说一手来源与协议比对尚未完成，不能当成严格同协议胜负。第二，同一检查点在表 2 与正文叙述里出现多个口径（阶段增量 vs 峰值 vs 第 18 步保留点 vs 第 20 步续跑），例如 Terminal-Bench 4.0 在保留 RPR-1 第 20 步后继续到第 35 步会从 16.67% 掉到 11.11%，Long-Reward 续到第 20 步在 Terminal-Bench 3.0、4.0、Hard 上分别掉 2.66、2.38、3.00 点；引用必须锁定具体步数。第三，训练–推理对数概率绝对差在 4.66×10⁻³ 到 4.98×10⁻³ 之间、非零，原文明确它不能刻画重要性比尾部分布、也不等于行为策略同一。第四，难度分层用的是任务加权、且 Terminal-Bench 2.1 的 RSR-1 分析用了替代改写检查点，与套件级 Mean@3 不是同一口径。复现条件方面，原文没有给出自有代码仓库、模型卡或数据页（正文只引用 THUDM/slime、Harbor 等基础设施），HTML 全文亦缺作者署名块与独立摘要小节；实测 https://arxiv.org/abs/2610.22192 返回 HTTP 200。 7
与目标研究线的连接点：属 B 线（自进化）与 A 线（长程任务的训练、执行期控制、信用分配）的交点，是目前这一批里工程细节最可搬的一篇。可搬走的四件东西：一是 TB-GAE 的时钟抽象——把「递归节点」从 token 改成轮次边界，用 γ_turn、λ_turn 只在跨轮次时衰减，跨 B 个轮次边界的衰减固定为 (γ_turn·λ_turn)^B，与观测长度和轮内 token 数无关；任何做长程 agent RL 的团队都可以直接换掉 GAE 的时钟，但要注意原文同时警告：换时钟会去掉文本长度驱动的衰减，也就改变了被折扣的目标。二是 critic 交接协议：RSR 阶段 actor-only、Δϕ=0，RPR 阶段先做四个 critic-only 校准步再联合更新，配合「actor 学习率在第二轮降五倍到 1×10⁻⁷、critic 保持 1.5×10⁻⁵」的阶段课程；这是一份很具体的「递归监督下价值不漂移」配方。三是奖励双轨：FDR 负责族内进度分辨率，SPR 负责把严格成功与有界部分分分开，并用同一批固定轨迹离线重打分来隔离「奖励分配」与「策略训练结果」——这个「离线重打分」的验证手法比报奖励曲线可信得多。四是评测诚实度：把 measured task completion、shaped reward、checker coverage 三种信号明确区分，LHTB 同时报进程奖励与严格完成数（0.37 与 5/46），SWR100 报「翻倍但随后平台」，不把检查点级通过当能力提升。与同节差异：MetaExp 在 SFT 层塑造经验学习行为，RSIFlow 在系统层编排组件更新，MLExpert 改的是 post-training 目标（窗口级 RL），只有 Terminal-RSI 直接改长程 RL 的信用分配与价值基线。 7
结论建议：值得读第 2.2 节（FDR 与 SPR 的构造与排序性质，含式 6、式 7 与离线重打分理由）、第 2.3 节（TB-GAE 的时钟、跨分块精确续接与条件方差分析，式 8 至式 13）、第 3.1 节的训练配置与课程表（表 1）、第 3.2 节与表 2，以及第 5 节的局限性。引用时必须限定：所有分数都是 Mean@3 的推理重复均值、不是独立训练种子；「50.58%」是 Terminal-Bench 4.0、3.0、2.1、Hard 四套的等权均值、不含 SWR100 与 LHTB；与前沿模型的比较是自测分对参考分，协议尚未对齐；任何阶段增量都要写明是从哪一步到哪一步，因为续跑步数不同结论会反转。 7
14. MLExpert：分层智能体 SFT 加窗口交互 RL，MLE-Bench Lite 平均奖牌率 37.9% 升到 72.7%
MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering · arXiv:2610.22344 · 邻近跟踪
研究问题与核心方法：这篇把「让模型自己长时间做机器学习工程」当作走向递归自改进（RSI）的实用路径。原文把机器学习工程（machine learning engineering，MLE）定义成在时间预算 B_e 内对可执行 ML 方案做迭代优化：任务是 e=(d_e, D_e, m_e)（描述、数据、评测指标），解 y 是一条完整流水线，目标是最大化归一化得分 S_e(y)。与外部编排（预定义工作流或搜索规则决定实验顺序、模型只在指定步骤写代码）相反，这篇让模型在交互 harness（执行接口）里自己决定何时分析、修改、执行或换方向，实验状态存在 solution node（含候选代码、执行日志与元数据的节点）里，父链修订形成实验树，模型可回看比较后决定继续、回退还是换路。三件支撑：Kaggle-MLE Factory 用多智能体流水线（发现、分析、生成）把历史 Kaggle 比赛转成带公开工作区、隐藏测试切分与统一评测接口的可执行任务，并在真实数据上跑通、按数据完整性、提交格式与评测行为校验迭代修复；Interaction Harness 提供 ReAct 风格回路与工具集（分析、改代码、执行实验、检索历史、管理提交），上下文接近上限时摘要早期消息、保留近期交互，复杂分析交给独立上下文的 analysis 子智能体只回摘要，模型还能据证据调用 invalidate_node 排除不可靠候选；后训练用两段：分层智能体 SFT（先学通用工具使用与代码修订，再学 MLE 领域决策）加 Windowed Interaction RL（WIRL，窗口交互强化学习）。WIRL 的关键是把「相邻两次实验结果之间的连续决策」定义成一个执行窗口 u_m，按其对应实验的结果给整个窗口一个共享的结果型奖励，从而在整条轨迹结束前就能用中间反馈更新策略。作者来自上海人工智能实验室与华东师范大学。 114
关键结果：
- MLE-Bench Lite（22 个历史 Kaggle 竞赛任务，指标为金/银/铜/任意奖牌/超过人类中位数，主指标是任意奖牌率）：在统一的 MLExpert Harness 下，MLExpert 把基座 Qwen3.6-35B-A3B 的任意奖牌率从 37.9% 提到 72.7%，Med+（超过人类中位数的任务占比）从 62.1% 到 84.8%，金 22.7% 到 50.0%，银 7.6% 到 16.7%，铜 7.6% 到 6.1%。同规模基线 Ornith-1.5-35B-A3B 为 39.4%（Med+ 57.6%）、Nex-N2.5-mini 为 47.0%（Med+ 66.7%）；更大前沿模型为 DeepSeek-V4-Pro Preview 63.6%、MiniMax M3 68.2%、GLM-5.3 72.7%、Kimi-K3 72.7%、GPT-5.5 xhigh 72.7%、GPT-5.6 Sol 77.3%。原文的说法是 MLExpert 在同规模里最高、并与 GLM-5.3、Kimi-K3 相当。
- 换用通用编码 harness（Claude Code）后差距仍在：MLExpert 拿 69.7% 奖牌率，基座 42.4%，比最强同规模基线（Nex-N2.5-mini 的 36.4%）高 22.7 个百分点。
- NatureBench Lite（10 个任务的 Lite 子集，M 为 Match-SOTA 即 g≥0，S 为 Surpass-SOTA 即 g>0.1）：MLExpert 把 Surpass-SOTA 从基座的 0.0%（0/10）提到 50.0%（5/10），Match-SOTA 从 40.0%（4/10）提到 70.0%（7/10）；同期 GLM-5.3 为 90.0% 与 50.0%，Kimi-K3 为 90.0% 与 70.0%，Nex-N2.5-mini 为 80.0% 与 20.0%。
- 后训练阶段累加（表 3，MLExpert Harness，任意奖牌率）：Base 37.9%、加通用智能体 SFT 47.0%、加 MLE 领域 SFT 62.1%、加 WIRL 72.7%。
- RL 对照与 WIRL 设计（表 4，同一 MLE-SFT 初始化）：GRPO 56.1%、PPO 风格 60.6%，都低于 MLE-SFT 的 62.1%；去掉趋势奖励的 WIRL 66.7%、去掉策略校正的 WIRL 65.2%，完整 WIRL 72.7%。附录还报告异步执行窗口收集相比轨迹级 GRPO 降低了 learner 等待比例。
- 案例与泛化：在 MLSP 2013 Birds 上，MLExpert 与 MLExpert-SFT 起点质量相近，但前者把 ROC-AUC 从 0.58 提到 0.964，后者只到 0.88。按 ShinkaEvolve 的设定为固定 GPT-4.1-nano 求解器优化 AIME 2025 的 Python scaffold，MLExpert 优化的 scaffold 在未参与优化年份上拿 43.7% 留出准确率（基座 23.3%，MLExpert-SFT 38.1%，GLM-5.3 48.1%），调用次数 8.40 对基座的 5.74。在 MLS-Bench-Lite 的 12 个任务（12 个域，同一五小时预算）上，归一化验证器奖励均值从 0.322 提到 0.425，10 个任务超过 Base、1 平、1 低。 114
证据与局限：证据的强项是把「单步/局部操作」与「长程自主编排」分开做对照，并用同一环境、同一初始化比较 GRPO、PPO 风格与 WIRL 及其两个消融变体，这样 WIRL 的两个设计点（局部趋势奖励、token 级策略校正）各自有归因。评测侧写明每个任务最多 3,000 步交互与 12 小时运行、20 vCPU、220GB 内存、单张 H200，且任何与 MLE-Bench、NatureBench 重叠的训练任务都被排除。引用风险有三处。第一，主表把 MLExpert Harness 与通用 harness（Claude Code、Codex）的结果并排，不同模型用的通用 harness 并不统一（MiniMax M3 与 GPT-5.5/GPT-5.6 Sol 用 Codex，其余用 Claude Code），跨列比较要给定 harness。第二，NatureBench Lite 只有 10 个任务，50.0% 就是 5/10，单任务权重 10%，不能当成精细的 SOTA 超越率；同一表里 GPT-5.5 的 Match-SOTA 是 100.0%（10/10）却只有 40.0% 的 Surpass-SOTA，说明两个指标测的不是一回事。第三，MLExpert 自己在 NatureBench Lite 上的 Surpass-SOTA（50.0%）仍低于 Kimi-K3 的 70.0%，原文的表述是「匹配 GLM-5.3」而不是超过；MLS-Bench-Lite 的均值 0.425 是 12 个任务上的算术平均，有 1 个任务低于 Base。复现条件：代码在 https://github.com/InternScience/MLExpert、权重在 https://huggingface.co/InternScience/MLExpert，两者实测均返回 HTTP 200。 114
与目标研究线的连接点：属 A 线（长程任务的训练目标与执行期控制）与 B 线（自改进）的交点，可搬走的操作件有四个。第一，执行窗口作为信用分配单元：把「相邻两次实验结果之间的连续决策」打成一个窗口、共用一个结果型奖励，就能在轨迹没结束前更新策略——这与 Terminal-RSI 按轮次给折扣、MetaExp 按 episode 给反思的做法都是同一类问题的不同切法。第二，奖励表是可以直接抄的：执行错误 −1.0、无有效提交 −0.6、低于奖牌阈值 −0.4+T_m、铜或银 1.0+T_m、金 2.0+T_m，其中 T_m 取 {−0.2, 0, 0.2} 表示相对上一次有效提交的退化、持平或改进；用奖牌阈值而非原始分数做跨任务共同参照，解决了不同 MLE 任务量纲不可比的问题。第三，token 级策略校正：用采集期记录的 log-prob 造 q=exp(ℓ_old−ℓ_roll)，落在 [q_min, q_max] 内的 token 按 q 加权、区间外的从策略梯度中剔除；异步采集长轨迹必然产生行为策略与训练策略不一致，这个补丁比单纯丢弃旧样本便宜。第四，轨迹筛选用「首次最佳提交之后的退化幅度」决定保留前缀还是保留最后一个提交，既去掉衰减尾巴又保住峰值前的探索与恢复——这对任何长程 agent 的 SFT 数据清洗都可直接用。与同节差异：MetaExp 与 Terminal-RSI 都在通用 agent 基准上验证，MLExpert 把「任务」换成 MLE 本身（任务到提交要数小时、单个实验就反馈多个决策），因此它的窗口划分比前两者的轮次/ episode 划分更粗糙、也更贴近真实研发循环。 114
结论建议：值得读第 3.2 节的交互 harness 与工具（附录 B 有完整工具表）、第 4.1 节的结果导向监督筛选、第 4.2 节 WIRL（式 2 的奖励表、式 3 的策略校正、式 4 的目标）、表 1 至表 5 与附录 C 的超参、附录 D.1 的评测细节。引用时必须限定：奖牌率是 22 个任务上的百分比，任务级方差很大；两个 harness 下的分数不可互换；NatureBench Lite 只 10 题；AIME scaffold 与 MLS-Bench-Lite 是泛化性证据、不是 MLE 主指标；任何跨论文对比都要写明对方用的 harness 与是否与训练数据重叠。 114
八、多智能体协作、编排与协作协议
1. PRISM：用成功兄弟拓扑做特权输入的在策略自蒸馏，六个基准全面超过 ARG-Designer
PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design · arXiv:2610.20628 · 邻近跟踪
研究问题与核心方法：多智能体系统（MAS）的效果高度取决于协作拓扑（谁参与、怎么通信），近期工作把拓扑生成器拟合到「执行验证过的图」语料上；但语料只列出解出某个查询的图、从不排序，继续做监督微调（SFT）时没有逐查询偏好可用，生成器会漂向语料里出现最多的拓扑，一个任务的收益可能在另一个任务上付出代价。PRISM 用特权信息（privileged information，训练时存在、部署时结构上不可得）做在策略自蒸馏。阶段 1 克隆学生并加一条零初始化的低秩分支（FiLM 调制，feature-wise linear modulation，逐通道缩放与平移的条件注入，秩 r=16），教师读取「也解出了同一查询的兄弟图」（同查询的兄弟图均匀采样，排除与目标本身文本相同者，每个 epoch 重采；没有兄弟图的查询给零向量，不拿别的查询的图顶替），教师全参数训练、学生不动。阶段 2 每步从当前学生采样 M 条完整拓扑轨迹，教师带特权输入、学生不带，在同一批节点与边的符号集上做逆 KL（KL(Pθ‖Pteacher)，节点步与边槽按 α=0.2 加权），再叠一项对验证图的监督锚定损失，L_PRISM 为 (1−λ)LKL 加 λLanchor。采样不参与求导、教师冻结并在评测前丢弃，部署模型与 ARG-Designer 架构一致。作者来自新加坡国立大学。 115
关键结果：
- 主结果（表 1，Pass@1 或准确率，全部在同一执行栈下重跑，骨干 Qwen2.5-7B-Instruct，六个基准上 PRISM 都是最好方法）：GSM8K 88.02 对 ARG-Designer 79.98、SFT 对照 86.13、G-Designer 78.01、单智能体 70.28；AQuA 76.38 对 75.20 与 62.60；SVAMP 93.30 对 92.50 与 92.40；HumanEval 82.32 对 79.27 与 80.49；MMLU 73.94 对 71.98 与 73.22；MultiArith 99.17 对 98.83。
- 原文强调两点比榜首更重要：SFT 在六个基准里五个持平或超过基线（最多高 6.15 个百分点、从未低于基线超过 0.10 个百分点）却在 AQuA 上掉 12.60 个百分点；PRISM 相对 SFT 的领先跨基准差一个量级，MMLU 0.72 个百分点、GSM8K 1.89 个百分点、AQuA 13.78 个百分点。
- 成本（表 2，K=1 每查询均值）：ARG-Designer 3.00 个智能体、2.30 条边、4.00 次调用，SFT 为 3.00、2.21、4.00，PRISM 为 3.04、2.27、4.04，即多 1.0% 的调用，换得六基准平均准确率相对 ARG-Designer 高 2.56 个百分点、相对 SFT 高 3.24 个百分点，且后训练不增加多智能体执行。
- 困难度配对对照：按 SFT 是否吐出它的众数角色分配 [Math Solver, Programming Expert, Programming Expert] 分组、两臂在同一批问题上打分，AQuA 上 SFT 吐众数的 91 题为 60.4% 对 PRISM 79.1%（+18.7 个百分点，精确 McNemar p=1.0×10⁻⁴），其余 163 题为 63.8% 对 74.8%（+11.0 个百分点，p=3.0×10⁻³）；GSM8K 与 SVAMP 的差异不显著。在那 91 题上 PRISM 吐出 18 种不同拓扑，仅八分之一重复 SFT 的默认组合。
- 通道有效性（式 7，同一教师同一图、开关特权通道各评一次）：真通道的对数似然增益爬到 +2.45 nats；置换对照（同结构、同参数量、同优化器与预算，只是每个查询看另一个查询的图）增益不离零，但其 FiLM 范数确实从零涨起，说明不是「没训到」的假零；带兄弟输入时 FiLM 范数到 3.10、置换时到 1.15。
- 内容与流程分离（匹配的 Stage 2 四臂）：常量教师（特权输入固定）六基准平均 83.86、置换教师 82.58，说明让教师看别的查询的图是误导而非仅仅不给信息；PRISM 在六个基准上都超过常量教师，平均高 1.66 个百分点（符号检验 p=3.1×10⁻²）。AQuA 从 SFT 的 62.60 到常量教师 71.65（+9.05 个百分点，来自在策略蒸馏）再到 PRISM 76.38（+4.73 个百分点，来自特权内容）；但蒸馏本身不够，常量教师只在三个基准上超过 SFT，在 MMLU 上掉 1.11 个百分点。
- 通道与散度消融：兄弟图通道在六个基准上都最好，对最强竞争通道的领先从 GSM8K 的 3.26 到 AQuA 的 14.96 个百分点；上下文通道实测约 0 nats、过不了式 7 的门，用它蒸馏在 GSM8K 上损失 5.84、AQuA 上损失 14.96 个百分点。散度固定为兄弟图通道时的平均准确率：逆 KL 85.52，前向 KL 84.85，JSD（Jensen–Shannon 散度，β=0.5）83.90。 115
证据与局限：优点是所有臂都在同一执行栈下重跑，并给出不依赖下游准确率的独立测量（特权增益式 7、FiLM 范数、节点与边级 KL），把「参数变多或步数变多」与「通道真的带信息」分开。作者在结论里自己划线：结果不证明 PRISM 恢复了成功图之间的排序，也不证明逐查询的 crew 分配解释了增益，因为角色组成、布线、图规模与运行时随机性一起变。引用风险三处。第一，摘要给的代码链接 https://github.com/tuandattt/PRISM 实测 HTTP 404，复现入口当前不可用。第二，表 1 的三类对照训练计算量不匹配（PRISM 另训教师 40 epoch 并要做采样与教师重打分），原文注明设置与学生的训练日程一致、但总训练计算量不一致。第三，AQuA 同时是 12.60% 落差与 13.78% 领先的同一极端列，样本最少，不要当成通用缩放。语料侧已知限制：冷启动只产 O(10³) 张图，所以特权限在低秩（r=16 约 20k 参数，对比 d=384 时全宽通道约 592k，减少约 30 倍）；没有兄弟图的查询收到零特权向量。 115
与目标研究线的连接点：这篇不在四条线主干上（生成对象是拓扑图而不是长程智能体，也不是语音），但有两处明确可迁移。一是「特权信息加在策略蒸馏」配方：把训练时可见、部署时不可得的信号（这里是同一查询的另一个成功解）经零初始化低秩分支注入教师，再在学生自己走过的状态上用逆 KL 蒸馏，最后丢掉教师，部署架构不变、不加推理成本；任何「同一任务有多条成功轨迹」的 agent 后训练都能照搬，而且它自带两个可信度检查（配对特权增益、置换与常量对照）。二是不依赖准确率的通道有效性测量：式 7 的配对对数似然增益、FiLM 范数、节点与边级 KL，配一个参数量与预算全同的置换对照，能挡住「增益来自容量或步数」这个最常见的误读。与同批工作的差异：ARIA 也在既有语料上做后训练，但学的是运行时干预策略、对象是轨迹；PRISM 学的是拓扑生成器的决策分布、对象是图；两者共享「把已有成功执行变成监督且不增加部署期执行」的思路。原文对 SFT 的病理解读（语料不排序导致分布向众数收缩、六个基准五个小涨一个暴跌）对任何在做「继续 SFT 已验证数据」的团队都是直接警示。 115
结论建议：值得读第 3 节的图语料设定、第 4.1 与 4.2 节的两阶段构造（式 4 至式 6，含零初始化的作用与低秩的成本账）、第 5.2 至 5.4 节、第 6 节的两个对照论证（式 7、置换与常量教师）、第 7 节的通道与 KL 方向消融，以及第 8 节结论里的自陈边界。引用时必须限定：全部数字是 Qwen2.5-7B-Instruct、K=1、六基准、单一执行栈下的重跑结果；PRISM 相对 SFT 的领先跨基准差一个量级，不要报平均值；与基线不是算力匹配的比较；代码链接当前 404，复现有门槛。 115
2. ARIA：把执行验证过的修复做成 3,953 对监督，运行时干预成功率 21.4%、有害干预率 2.00%
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems · arXiv:2610.20780 · 值得扫读
研究问题与核心方法：多智能体系统（multi-agent system，MAS）里一个局部错误会被后面的智能体当年正确前提继续往上盖，而事后诊断完整轨迹、或者反复重跑去找修正，都提供不了「执行还在进行时该不该插手、该怎么改」的策略。这篇把修复搜索搬进数据构造与训练：先把执行验证过的修复变成可复用监督，再让一个学到的模型在运行时直接干预。数据侧收集 24,000 条以上成功与失败轨迹，横跨四个 MAS 框架（MetaGPT、OpenManus、Magentic-One、AG2）、六个基准（GSM-PLUS、OlympiadBench、MMLU、HumanEval、SWE-bench-Lite、GAIA）与八个宿主模型，构造出 ARIA 数据集：3,953 对执行验证过的「失败–修复」配对，每对写明哪里错了、在哪个点干预、执行该怎么续。源选择用的是「修复最优性」：对固定的 MAS–基准对 (A,B)，按 S(c)=(1−a(c))·r(c) 选模型，其中 a(c) 是有效源执行成功率、r(c) 是失败被修复并通过评测的条件概率，也就是单位执行产出的已验证修复期望数，而不是失败频率或源任务准确率。修复监督用 repair attribution（修复归因，六组 26 类）把失败机制映射到候选干预，只有「打了补丁的那次通过、没打补丁的对照失败」才保留。模型侧三段式后训练：结构化修复 SFT（同时训一个 inspection gate，判断已确认失败是否已经发生，用验证过的切点（t 大于 k）作正例、成功修复的前缀作负例）；基于结果的偏好学习（用 DPO 让验证过的修复压过被观察到的失败续写，再按对相关事件的修复预测增益挑选诊断）；以及以执行落地的策略优化（冻结修复参数、优化门控，奖励是 S_int−S_base−λ_c·ΔEB，奖励救回失败、惩罚有害干预）。作者来自佛罗里达州立大学。 116
关键结果：
- 事后修复（表 1，in-domain 失败测试轨迹，带评测器反馈，四个框架汇总，SR 为成功率、EB 为平均完整 MAS 执行次数，越低越好）。Qwen2.5-7B 骨干上：零样本 SR 21.2%、EB 1.98；Who&When 31.6%、EB 1.98；AgentRx 23.3%、EB 1.96；ErrorProbe 25.8%、EB 1.97；DoVer 5.69%、EB 3.24；ARIA 35.3%、EB 2.00。Llama-3.1-8B 骨干上：零样本 8.37%，Who&When 12.5%，AgentRx 7.99%，ARIA 16.9%、EB 2.00。原文的读法是 ARIA 在两个骨干上都拿到最高汇总 SR、且 EB 与零样本和定位类基线基本持平，而 DoVer 需要更多重放（EB 3.24）来验证干预。
- 运行时干预（表 2，所有 in-domain 测试任务、没有评测器反馈；HIR 为有害干预率，相对不打断的运行来测）。Qwen2.5-7B 骨干：Spark to Fire 汇总 SR 13.5%、HIR 8.00%、EB 1.00；SafeAgent 17.8%、HIR 13.9%、EB 1.00；ARIA 21.4%、HIR 2.00%、EB 1.00。Llama-3.1-8B 骨干：Spark to Fire 12.5%/7.51%；SafeAgent 18.4%/5.50%；ARIA 19.2%/1.49%。原文强调所有方法都在同一次执行预算下，所以差异来自更好的运行时策略而非重放选择。
- 泛化与规模（表 3，运行时设置，同一后训练配方，Qwen2.5 从 1.5B 到 14B；unseen system 指把全部 Magentic-One 轨迹从训练、验证与检查点选择中剔除后再直接部署到它上面）。in-domain/unseen 两列的 SR 与 HIR：Qwen2.5-1.5B 15.8%/6.67% 与 15.0%/8.18%；3B 16.4%/5.87% 与 15.6%/6.99%；7B 20.9%/4.54% 与 21.0%/5.59%；14B 22.4%/3.84% 与 22.4%/4.79%；跨家族对照 Llama-3.1-8B 20.6%/4.81% 与 20.6%/5.79%。参考基线 Qwen2.5-7B 上 Spark to Fire 17.4%/7.18% 与 16.8%/9.18%，SafeAgent 18.2%/5.05% 与 17.6%/6.19%。
- 后训练阶段消融（表 4，Qwen2.5-7B，运行时设置）：零样本 in-domain 11.7% SR、HIR 10.3%，unseen 9.78%、11.4%；只做 Stage 1 是 14.5%/8.22% 与 12.4%/8.78%；Stage 1+2 是 16.6%/4.15% 与 14.6%/5.19%；Stage 1+3 是 17.6%/3.13% 与 16.4%/3.79%；三段齐全的 ARIA 是 19.2%/1.49% 与 18.2%/2.20%。原文的归纳是 Stage 2 主要压低有害干预、Stage 3 带来更大的恢复增益，两者互补且在分布转移下仍互补。
- 数据集规模口径：24,000 条以上轨迹、3,953 对已验证修复、四个框架、六个基准、八个宿主模型（Llama-3.1-70B-Instruct、Qwen3-8B/32B、GPT-5.5 的 M/H/X 推理档、Claude-Sonnet-4-6、Claude-Opus-4.8）；被后训练的 ARIA 骨干是另一组小模型（Qwen2.5-Instruct 1.5B/3B/7B/14B 加 Llama-3.1-8B-Instruct 对照）。 116
证据与局限：证据的可核查性在于口径写得很细：SR、HIR、EB 三个量各自定义清楚，HIR 是按任务归一（同一任务的多次有害事件只算一次）、不是按门控触发次数归一，汇总率是任务等权而不是框架或基准单元等权（附录 B.7）；EB 定义为每个任务记录的完整 MAS 执行次数均值，运行时口径包含初始执行、后置口径排除已经拿到的失败源；报告方还区分了严格评测报告方与在线产物报告方，后者只给「有害替换下界」并明确不能替代 HIR。引用风险有三处。第一，表 1 的列标题在 HTML 里按字母序排为 GSM-P、MMLU、HEval、Olymp、GAIA、SWE-L，与正文描述的分组顺序不一致，若要引用单基准数字必须先回原文核对列；汇总 SR 与 EB 不受影响。第二，不同表里的同一骨干数字不同（表 2 的 ARIA Qwen2.5-7B 汇总 SR 21.4%，表 3 的 in-domain 是 20.9%，表 4 的完整版是 19.2%），因为 RQ2、RQ3 的评测集合与设置不同（表 4 用运行时设置、全测试任务），不能混用。第三，修好了执行不等于修好了答案：附录 B 的「benchmark verification」指出原生终止本身不构成基准成功，表 5 专门区分这一点；规模结论也自陈小模型（1.5B、3B）尚未稳定超过运行时基线。复现条件较好：仓库为 https://github.com/LabRAI/ARIA，实测返回 HTTP 200；附录 B.8 说明需要完整配置、仓库与原生修订、模型与分词器标识、源与切分清单、检查点谱系与生成设置，并强调「配置的预算不等于完成」。 116
与目标研究线的连接点：属 A 线（执行期控制：门控、harness 与上下文管理）与 B 线（把执行验证过的修复沉淀成可训练对象）的交点，对做 agent 可靠性工程的人可搬的东西很具体。第一是「修复最优性」这个源选择公式 S=(1−a)·r：要的不是失败最多的系统、也不是最强的骨干，而是单位执行产出已验证修复最多的组合；凡是自建失败–修复数据集的项目都该先算这个量，而不是按失败频率采样。第二是监督配对的口径：只有当补丁执行通过、且未打补丁的对照失败时才算一对，这一条把「看起来合理的修复」和「真的修复」分开，也顺便解释了为什么诊断本身没有直接结果标签、要靠对相关事件的修复预测增益来选。第三是三段式的分工与顺序：结构化 SFT 先立住输出格式与门控，偏好学习专门压有害干预，执行落地优化专门抬恢复率——这是一个可直接复用的消融骨架。第四是评测设计：把「有害干预率」和「执行预算」与成功率一起报，并用同一任务配对的 S_int−S_base 来定义门控奖励，这套口径比只报成功率更能说明运行时干预是否值得。与同节 PRISM 的差异：PRISM 改的是多智能体系统的拓扑生成器、且监督来自既有语料；ARIA 不改宿主系统的内部结构、只在轨迹层干预，因此可以接到任意 MAS 框架上。与同批的 MetaExp / Terminal-RSI 相比，ARIA 训练的是「干预判断」而不是任务执行能力，属于 harness 侧的补充件。 116
结论建议：值得读第 2.1 节的修复最优性原理与修复归因（式 1）、第 2.2 节的三段式目标（式 2 至式 7，特别是门控奖励式 7）、表 1 至表 4，以及附录 B.7 的 SR/HIR/EB 计量口径与附录 C 的归因分类。引用时必须限定：成功率分事后（带评测器反馈、只看失败轨迹）与运行时（无反馈、看全部测试任务）两种口径；表 4 的数字来自运行时设置，不能与表 2 混用；「修好」只证明在受测合同内完成，不等于任务合同外的正确；小骨干的规模结论原文自己标为尚未稳定。 116
3. ReviewPilot 多智能体系统：筛查宏 F1 最高 0.776，抽取 F1 最高 0.788
ReviewPilot: A Multi-Agent System for Screening and Data Extraction in Systematic Reviews · arXiv:2610.21042 · 值得扫读
研究问题与核心方法：系统综述要按 PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-Analyses，系统综述与元分析首选报告条目）2020 流程逐条留下纳入与排除记录，而基于大语言模型的 deep research（深度检索式研究报告生成）工具只交出一篇综述结论，既不记录哪些研究被排除及其理由，也不说明抽取值来自哪一段原文。ReviewPilot 把这条流程做成会话式多智能体系统：一个 Lead Agent（主控智能体）按动作契约协调 4 个专职智能体与 2 个工具——Search Condition Agent 负责把纳入条件拆成概念并拼布尔检索式，Prompt Agent 写综述专属指令，Screening Agent 做去重与判断，Extraction Agent 抽结构化字段，工具负责检索与 PDF 下载，语义归类由 Lead Agent 自己做。智能体的能力写成 Markdown 形式的 skill（技能说明），由固定映射接到对应任务的系统提示上。阶段门控是这套设计的关键：Lead Agent 只在该阶段前置条件满足、且它依赖的输出仍是当前版本时才启动该阶段，并在核对预期产物与必填字段之后才报完成。项目记忆（project memory）保存对话历史、当前配置、已确认配置快照、各阶段状态与 PRISMA 计数。筛查为每条记录输出一句式理由加五档可能性标签（definitely exclude、probably exclude、uncertain、probably include、definitely include），只有 probably exclude 与 definitely exclude 才排除，调用失败一律保留；排除理由若对不上已确认规则、或引用的原文摘录定位不到，该条会被标记待人工复核但仍保持排除。抽取按 schema（字段名、类型、描述）逐字段要值、逐字摘录与页码，摘录能在归一化后的 PDF 文本中定位才算 verified。 117
证据与局限：所有表格数字都是单次运行的汇总点估计，原文自陈不带重复运行的变异刻画，也没有置信区间。更值得注意的是引用风险：ReviewPilot 的筛查流程与提示设计技能是用同一批 PERG 池子的评测分数反复调整出来的，讨论与 Limitations 两处都写明这些池子未对方法开发保留，因此增益不能当作未见综述上的性能。评测口径本身也有边界——筛查指标是纳入与排除两类的宏平均，原文自己指出它掩盖纳入类召回，而漏掉研究正是系统综述最怕的错误；宏召回不是纳入类召回。对照被动过手脚：AgentSLR 的重跑把原来的 high reasoning 降为 medium reasoning 或服务商默认值，论文说明这是为了让跨方法对比可比，但对照因此被削弱。verified 只证明摘录文本存在于 PDF，不证明它语义上支持该数值，也不覆盖多值字段的每个值。案例研究的样本很小——筛查一致性审计池只有 87 条生物医学与 90 条 HCI 记录、由作者团队标注，抽取检查只给定性错误分析，全文资格判断没有独立审计。代码入口实测可达：https://github.com/ZhaoqianXue/ReviewPilot 返回 HTTP 200。 117
与目标研究线的连接点：属 A 线的运行期控制。可直接搬走的有两件。第一是阶段门控的写法：先检查前置产物是否存在且是否为当前版本，再核对必填字段，最后才宣布阶段完成——这是长程流水线里防止下游基于过期状态继续跑的最小机制。第二是记忆的两态设计：把「草稿」与「已确认快照」分开存放，配置或已复核记录一改就把受影响的下游输出标记为过期直到重跑，并且人工覆盖必须挂到某条已确认规则上并给出理由。它还提供了一个可复用的证据口径：抽取值必须带可定位的逐字摘录，并且明确区分「文本存在」与「语义支持」两层。与同节其它工作的差异在于评测对象是整条五阶段流程而不是单点能力，对照是真实系统 AgentSLR 的重跑而不是自建提示。 117
结论建议：建议读第 3.3–3.6 节（检索与筛查门控、全文抽取校验、语义归类、记忆设计）、表 1 与表 2，以及 Appendix C（基线的具体构造）与 Appendix D（运行配置、推理档位与价格表）。引用时必须同时限定四点：数字来自 PERG 单批流行病学题录、单次运行、池子参与过方法开发、对照的推理档位被下调。不要把 0.776 与 0.788 当成任意领域综述的通用水平，也不要把 review share 的下降直接读成人工省时。 117
4. 承诺释放权限基准：Qwen3.5-9B 在债权人直接取消后仍执行 69%，自维护承诺台账把它降到 6%
Who May Release an Agent’s Promise? Standing over Commitments in Multi-Party Chat · arXiv:2610.21203 · 邻近跟踪
研究问题与核心方法：当共享频道里的助手已经向某个人许下承诺（例如「议程定了我就订 Maple 会议室」），后来另一个同事说「别订了」，这个助手该听谁的？作者把这个问题形式化为 standing（释放权限）：一个承诺 c 由欠债方 A 向债权人 y 承诺在条件成立时执行动作，拥有释放权限的集合只包含债权人本人、债权人点名授权代决的人，以及运营方策略 π 授权的人，与说话者的职级无关。环境是脚本化的公司工作区频道：债权人先提出请求，智能体的承诺文字在所有条件里逐字相同，中间插入无关对话，再依次出现「委托」步骤（仅 deleg 类单元）、取消步骤和「恢复」步骤（仅 reinstate 类单元），随后间隔 1 步或 20 步宣布条件成立；所有单元用填充话术补齐长度，使同一间隔下各单元等长。15 个单元 × 2 种运营策略（显式策略规定只有请求人或其指定人可取消、经理默认无此权限；静默策略什么都不说）× 2 种间隔 × 8 种承诺类型 × 3 种表面变体，共 1,440 个 episode，其中两种类型作为开发集用于调提示与训练判官，其余 6 种构成 1,080 个 episode 的测试集。所有信号由程序判定：调用承诺工具即执行，条件成立前调用即过早执行，取消后调用检查工具即核实。判官模型只被判「是否向债权人确认承诺是否还成立」与「是否报告放弃及原因」。 118
关键结果：
- 无策略时的两个错误方向都由具体比例给出（测试集，百分数，按承诺类型聚类的 95% 自助区间）：小模型是越权执行——Qwen3.5-9B 在债权人或其代理人已释放后仍执行的比例 O 为 67%［55, 82］，仅看债权人直接取消时为 69%；Gemma-4-12B 为 53%。大模型相反，是无权限释放——Qwen3.8-27B 无策略时同伴直接取消后就放弃承诺的比例 U_rel 为 64%，gpt-6.1-sol 为 28%；加上显式策略后分别降到 21% 与 1%。
- 同一个 Qwen 家族内规模把一种错误换成另一种：27B 模型把 9B 模型的越权执行从 69% 压到 0%，代价是把「听谁的话就释放」从 18% 升到 64%。
- 放任遗忘是基线而非发现：无策略时 Llama-3.1-8B、gpt-6-luna、Qwen3.8-27B 分别在 64%、36%、31% 的运行里放弃了一个没人取消的承诺；Llama 在收到无权限消息后放弃的原始比例 61% 并不高于它的基线（净值 −3%），说明它主要是忘而不是从。
- 旁观者的「恢复」几乎全被照做：债权人取消后同伴说「还是继续吧」，无策略时 67%（Llama）到 100%（Gemma）的运行会执行，且多数立即执行、早于条件成立（Qwen3.5-9B 有 83% 的运行如此），只有 gpt-6.1-sol 抗拒（8%）。
- Oracle 阶梯把两个错误的成因分开：只加一句原则（B2）能压大模型的无权限释放（Qwen3.8-27B 64%→37%，gpt-6.1-sol 28%→7%），几乎不动小模型的越权执行（Qwen3.5-9B 67%→72%）；只加「承诺欠谁」的存储（B3）把无权限释放压下去，却把 Gemma 的越权执行从 53% 抬到 74%、Llama 从 32% 抬到 47%；只有再加一行「已被释放」的状态（B3+）才把越权执行砍半以上（Qwen3.5-9B 63%→24%，Gemma 74%→32%，gpt-6-luna 37%→3%）。
- 智能体自己维护的承诺台账（ledger_add / ledger_update 两个工具，每轮后展示）在没有策略时就把越权执行压到近零：Qwen3.5-9B 67%→6%、Gemma 53%→4%、gpt-6-luna 21%→0%；但没有策略时它也把谁最后说话就记成释放，误记比例达 42%（gpt-6-luna）到 85%（Llama）。台账加策略后严格准确率在五个模型上全部高于只用策略：gpt-6-luna 从 49% 升到 83%，Qwen3.8-27B 从 63% 升到 73%。 118
证据与局限：环境是合成英文工作区，频道与回复都是脚本，只有债权人会回复消息，字符串由语言模型起草；判官与人类标注者的对比只在一批验证集上做过，且由作者之一标注，即没有第二人复核。判官一致性为 consult 上 κ=0.94、notify 上 κ=0.64，也就是说「是否报告放弃及原因」这一类标签本身就不稳。多数运行只采一次样本、关闭 thinking；两个 Qwen 模型除尺寸外还在数值精度与服务器上不同，规模对照因此不干净。Oracle 与台账都是上界或额外工具，不是可直接部署的默认能力。代码入口写成匿名仓库 https://anonymous.4open.science/r/standing27/，实测返回 HTTP 401（匿名服务需要浏览器会话，非 404，故无法在本环境核实内容）。 118
与目标研究线的连接点：这条工作把「长程对话里的状态跟踪」从抽象的上下文管理拆成一个可测的判定任务，属 A 线可迁移的评测设计。可搬走的有三样：一是把「说话者与某一条具体承诺的关系」作为独立于职级的变量做成 15 单元矩阵，并用两个相反的错误指标（越权执行、无权限释放）互相夹逼，避免任何单一指标被「永不放行」或「永不放行」的退化策略刷满；二是把基线遗忘率从指标里减出去（净值口径），使「从」与「忘」可分离；三是区分「有权限才生效」「转述需询问」「事实需核实」三类消息的处置分支，这套分支可直接搬到任何需要授权撤销的智能体 harness。它与 2610.21538 的状态上报规范、2610.21042 的记忆两态设计在同一个问题上互补：一个给状态定义的词汇表，一个给版本化的记忆，这篇给状态该由谁的断言占据优先。 118
结论建议：建议读第 2 节（standing 的形式定义与 15 单元表）、第 3 节（环境构造与指标定义）、第 5 节（Oracle 阶梯，看两个错误如何被分离）与第 6 节、表 2 与表 5。引用时要限定：数字来自合成脚本环境、单次采样、关闭 thinking 的多数运行，判官在 notify 维度只有中等一致性；「大模型更倾向从众、小模型更倾向丢状态」是这篇六模型横评的存在性结论，不是关于规模的定律。 118
5. 多智能体聚合的偏差控制与注入：平均准确率最高 78.3%，比最强非 Oracle 基线高 3.2–6.2 个百分点
Bias Control and Injection for Multi-Agent Aggregation · arXiv:2610.21290 · 邻近跟踪
研究问题与核心方法：多智能体推理的瓶颈不只在生成，也在最后一步聚合：样本池里明明有正确答案，多数投票仍可能选错。作者的分析给出口径——响应池平均有 83.6% 的问题含正确答案，而多数投票只选中 72.2%。他们的思路与「尽量消除偏差」相反，是既抑制又利用：先做 bias control（偏差控制）形成初始决策，再故意做 bias injection（偏差注入）给已选答案制造不利条件，用决策是否翻转当作可靠性信号。框架无需验证集、也无需事先知道各模型强弱。具体做法分三步。偏差控制把推理轨迹按抽取出的最终答案分组，每个不同答案只保留一条轨迹、各呈现一次，抹掉原来的多数—少数关系，再用同一提示把保留的轨迹改写成统一的白话散文体（要求保持原长度、推理内容、数值、公式与最终答案），以削弱不同生成模型自带的文风差异。若各聚合智能体的初始选择不一致，就对每个智能体做第二次提问：把其首选答案呈现一次、把原支持度最高的竞争答案用两条不同归一化轨迹呈现两次，使首选处于相对少数；若无额外轨迹可用则退化为交换候选顺序。最终聚合用两个计数：坚持数 H(a) 统计「初始与二次都选 a」的智能体数，二次支持数 S(a) 统计二次选 a 的智能体数，当 H(a) > 0 且 S(a) > J/2 时选中 a，否则回退到受控决策的严格多数票，再否则取两阶段合计票数最多的答案。 119
关键结果：
- 评测用 220 道数学题：OlymMATH 英文 easy 切分 100 题、AIME 2024–2025 共 60 题、2024–2025 年 2 月 HMMT 共 60 题；四个 8B–14B 开源推理模型 Qwen3-8B、Phi-4-reasoning-plus（14B）、GLM-Z1-9B-0414、NVIDIA-Nemotron-Nano-9B-v2，穷举四个三模型组合，每题每模型生成 3 条完整推理轨迹。
- 主表给出四个组合的平均准确率：Qwen–Phi–GLM 77.5±1.5、Qwen–Phi–Nemotron 77.6±0.1、Qwen–GLM–Nemotron 74.2±0.6、Phi–GLM–Nemotron 78.3±0.5，四个组合都最高，比最强非 Oracle 基线高 3.2–6.2 个百分点，比事后挑选最强单模型的自一致性 Oracle 参考 Single-Best-SC 高 1.8–4.3 个百分点，并在 12 个「基准 × 组合」配对中的 12 个取得非 Oracle 最好或并列最好。
- 效率同时改善：Phi–GLM–Nemotron 上每问题 token 用量 206.0±2.0 千，对照 Agent Team 类基线 Combined MV 为 231.7 千、Single-Best-SC 为 301.7 千。
- 恢复与保持（k=3 池，宏平均）：本文方法恢复率（池中已有正确答案而多数投票答错时本方法答对的比例）最高 53.6%、保持率（多数投票答对时本方法仍答对的比例）最高 98.4%；MAV（Multi-Agent Verification，逐面二元校验的聚合基线）恢复 40.0% 但保持 89.1%；SLM-MUX（按各模型内部一致性在模型级多数答案间选答的基线）保持 96.4% 却只恢复 11.2%；Single-Best-SC 为 46.4% 与 94.3%。
- 偏差注入的选择性：以初次正确与否分层，逆向频率注入使 59.8% 的错误决策翻转，只使 19.1% 的正确决策翻转，落差 40.7 个百分点，大于重复推理的 32.5 与位置交换的 34.3 个百分点；即便注入的是已存在的重复轨迹（精确复制），落差仍有 37.3 个百分点。
- 保留决策的可信度：逆向频率条件下 37.5% 的受控决策保持不变，其条件准确率 46.9%，相对 30.3% 的受控决策整体准确率提升 16.6 个百分点，优于位置交换的 42.4% 与重复推理的 40.6%。
- 消融：去掉风格归一化使准确率从 63.4% 降到 61.3%；在受控决策不一致的样本上，逆向频率注入达 41.6%，高于无二次通过的 37.6%、重复推理的 39.2%、位置交换的 39.3%。 119
证据与局限：评测只覆盖数学推理、只覆盖 4 个 8B–14B 开源模型，原文把这两点列为第一、二条局限；所有 LLM 聚合方法跑三次取平均并给标准差，但题库固定、题量 220 且按基准分块，跨基准的泛化没测。风格归一化带来的增益是成对比较，「12 个决策智能体与模型组合配对的设置中有 9 个提升或持平」意味着仍有 3 个设置没提升，原文只报聚合结果而没逐格给置信区间。决定性的把握度问题在于复现入口：正文只写「我们也将发布复现所需的源码与脚本」，全文没有给出仓库地址，我按正文与参考文献逐一核对也未找到代码或数据链接，因此本环境无法核实可复现性。作者身份与利益关系方面，正文脚注写明部分工作是在 Microsoft Research Asia 实习期间完成，通信作者为微软邮箱，这一点在引用机构归属时需要说明。 119
与目标研究线的连接点：属 A 线的评测与聚合口径。可搬走的是两个机制而不是具体数字。第一是「受控呈现」这一步：把候选按答案去重、每个只给一次、并统一文风，使比较不再被频次与文体主导——这与 2610.22138 测出的「公开表态受同侪压力影响」是同一族偏差，只是处理方向相反。第二是可迁移的可靠性信号构造法：对已选答案施加不利呈现，用「坚持即更可信」的落差作为选择依据，并做了内容对照（精确复制 vs 不同轨迹）以排除「新增推理内容」的混淆；这套做法可直接用于任何需要从多个候选里挑一个的长程任务收尾环节。与同节其它工作的差异在于它不改上游推理过程，只在固定推理史上做聚合，并且明确不假设模型强弱、不需要验证集。 119
结论建议：建议读第 3 节（两个干预的动机与三个二次通过条件的对照）、第 4 节（算法全流程与最终聚合规则）、表 2 与表 3、表 4，以及 Appendix A 的聚合算法与 Appendix C 的扩展结果。引用时要限定：结论成立于数学推理、四个 8B–14B 开源模型、每模型每题 3 条轨迹这三项前提；「平均准确率最高 78.3%」是 Phi–GLM–Nemotron 组合的平均值而不是单一基准分数；在代码未公开前，不要把可复现性作为已知条件。 119
6. ASP 0.1 状态上报规范：把智能体状态拆成生命周期、健康、任务、话轮、治理五维，心跳超时阈值 2.5 倍
Agent Status Protocol (ASP): A Lightweight Specification for State Reporting in Multi-Agent Systems · arXiv:2610.21538 · 邻近跟踪
研究问题与核心方法：多智能体系统规模一大，故障就变成盲区——崩溃、挂起、被限流、被护栏隔离的智能体在同伴眼里和「只是慢」没有区别，而 n 个智能体全互联有 n(n−1)/2 条链路（6 个 15 条、20 个 190 条、50 个 1,225 条），每条链路都可能是一方在等一个它看不见状态的另一方。已有的探活机制只回答「进程活着且能服务吗」，回答不了「活着但在等人批准」「拿着话轮不放」「被上游限流」这些情况。ASP（Agent Status Protocol，智能体状态协议）给自己的定位是状态语义层，落在 OpenTelemetry 这类遥测之上而不是替代它：智能体用 HTTP POST 推小 JSON 事件给状态服务器，观察者（典型是仪表盘）用 Server-Sent Events（SSE，服务端推送事件）收聚合状态。状态被拆成五维、彼此相互独立——lifecycle（生命周期，每个智能体一个）、health（健康，每个智能体一个）、task（任务，每个任务一个）、floor（话轮，每个会话一个）、governance（治理，每个智能体一个）——所以一个智能体可以同时是 online、degraded、working 且 waiting for floor。词汇表复用现成标准：任务状态取自 Agent2Agent（A2A）协议，话轮状态取自 Open Floor Protocol（OFP），属性与指标命名沿用 OpenTelemetry 的 GenAI 语义约定。评测之外的规范性要求集中在三处：注册时必须声明心跳间隔（1–300 秒），任何自身事件都算心跳；无事件超过 2.5 倍声明间隔，服务器必须置为 unreachable 并通知观察者；治理状态由护栏或运营方设定时优先于智能体的自述，权限序为 operator 高于 guardrail 高于 self。 120
关键结果：
- 事件类型共 5 种：register、heartbeat、state_change、floor_change、deregister；公共字段含 eventId（去重用）、seq（按智能体与上报方各自单调递增）、ts、source（self / supervisor / guardrail / operator / peer，服务器生成的事件记 server）。
- 生命周期 12 态（registering、initializing、online、idle、busy、at-capacity、paused、draining、stopping、offline、unreachable、crashed），其中 unreachable 由服务器指派、crashed 由监督者上报；健康 9 态（healthy、degraded、rate-limited、quota-exhausted、dependency-down、auth-error、overloaded、unhealthy、stalled），stalled 由服务器指派，规则是：智能体在声明 stallAfterSec 后必须在每次心跳带 progressSeq，且在存在 working 或 retrying 任务时 progressSeq 超过 stallAfterSec 未增，服务器必须置 health 为 stalled；按设计等待的 input-required、awaiting-approval、delegated、queued 不触发 stalled。
- 任务状态 14 个，其中 submitted、working、input-required、auth-required、completed、failed、canceled、rejected、unknown 原样取自 A2A，ASP 自己扩展 queued、awaiting-approval、delegated、retrying、timed-out；终态任务不得再转移，服务器应在可配置的保留期后从实时视图移除。
- 传输绑定：写入端点 POST /v1/events、/v1/events:batch 与可选的 /v1/traces（OTLP/HTTP 摄入）；分发端点为 GET /v1/agents、/v1/agents/{agentId}、/v1/stream；重复 eventId 必须忽略并返回 202，seq 低于同一上报方上次处理值的必须在历史中保留但不得覆盖当前状态；SSE 的 id 字段必须带服务器序号，使观察者用 Last-Event-ID 重连后补齐漏掉的更新。
- 优先级规则按维度分三类：生命周期上服务器指派的 unreachable 与监督者上报的 crashed 覆盖自述，直到智能体发出新事件；健康上同伴观察（例如反复调用超时）不替换自述，必须并列展示并提示两者矛盾；治理上护栏与运营方的断言优先于自述，且只能由同级或更高权限清除。
- 规范把「内容永不上报」写成硬要求：事件不得携带提示、模型输出、用户数据或密钥，reason 字段只允许小写 kebab-case 短码加中性描述，建议事件体上限 16 KB；无独立状态服务器的拓扑下建议对事件签名。 120
证据与局限：这是一份 0.1 版提案而非标准，作者在正文开头就声明未经任何标准机构评审或背书，状态名、消息格式与规范性要求都可能大幅变动；它没有实验、没有基准、没有实测数字，所有「结果」都是规范性设计选择与一份多智能体辩论的完整报文示例。它自称是 OpenTelemetry 之上的状态语义层，但反向绑定（把 ASP 事件作为 OTel 日志记录发射、把状态服务器实现为 Collector 组件）在草稿中被明确写为「自然的扩展」而非已实现内容，也就是说这条互操作路径没有落地证据。规范预留的开放问题包括：是否为 A2A 多轮交换用 contextId 当伪会话跟踪话轮、JSON Schema 是否属于规范性一部分、凭据如何签发轮换与撤销等。仓库入口实测可达：https://github.com/AgentStatusProtocol/spec 返回 HTTP 200。 120
与目标研究线的连接点：属 A 线可迁移的运行时契约，而不是能力方法。可搬走的是三件便宜而具体的东西：一是把「看不见的状态」拆成互不推导的独立维度，这样「在线但被限流且拿着话轮」这种复合情形才有表示；二是把缺失信号的语义写进契约而不是留给告警规则——由智能体自己声明心跳间隔、服务器按 2.5 倍阈值得出 unreachable，等价于 2610.21203 里「净值口径扣掉遗忘」的同一思路，即先定义什么叫没响应；三是断言来源与优先级：每条状态都带 source，服务器指派与护栏断言覆盖自述，自述与独立观察并列展示。它与 2610.21203 的承诺台账、2610.21042 的记忆快照构成一个互补三角：定义状态词汇、记录状态变更、决定谁有权改状态。与同节其它工作的差异是它不做智能体能力，也不评测任务成功率，只规定状态怎么被上报与聚合。 120
结论建议：建议读第 5 节（状态模型与各维度状态表）、第 7 节（心跳超时、progressSeq 与 stalled、独立观察的优先级规则）、第 8 节（端点与状态码）和第 11 节（Sentinel 场景下的告警到隔离链路），并对照表 1（与 FIPA、A2A、OFP、MCP、OpenTelemetry GenAI、容器健康探针的能力对比）。引用时必须限定：这是作者自认的 0.1 版工作草案、无实验数据、无标准背书，所有 MUST / SHOULD 只在「若被采纳」的意义上成立；5 维独立性、2.5 倍阈值、优先级序都是设计选择而非实测结论。 120
7. 隐藏信念崩塌测量：10 智能体讨论中 3 名攻击者使良性智能体私下持有假答案达 51.6%，公开表态仅 19.7%
Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions · arXiv:2610.22138 · 精读
研究问题与核心方法：多智能体讨论被广泛认为比单模型更稳，前提是同伴会互相纠错。这篇用一个最小攻击者检验这个前提：攻击者不改权重、不读隐状态，只反复发同一句貌似合理的假答案。环境是一个 10 个智能体的聊天室，围绕一道事实题讨论 16 轮，攻击者数量 k ∈ {0, 1, 3}，其余是良性智能体；同一轮内所有智能体各发言一次，顺序每轮重排且在各对话间一致，每次生成只条件于最近 5 轮共享历史与当前轮，开场是一句中性的讨论种子（只重述问题、不给答案）。良性智能体既没被警告有攻击者，也没被分配核查任务，测的是开放讨论的默认行为。方法上最关键的是双通道测量：每轮结束后，另行调用一次「私下探针」让该智能体在同伴看不到的情况下回答同一道题，探针输出绝不进入聊天室；同时独立用判官给每条公开发言打立场标签（endorse / reject / hedge / ignore-drift / unrelated）与每条私下答案打标签（true / manipulated / mixed / uncertain）。主指标是最终私下感染率（FPI），即末轮私下持有假答案的良性智能体占比；轮级指标在「暴露轮」上统计，暴露定义为该轮之前至少出现过一条攻击者发言。把私下标签与公开立场交叉，得到能区分两种失效机制的类别表：私下 true 而公开 endorse 是「表演性附和」，私下 true 而公开 ignore 是「沉默的知情者」，私下 manip 而公开 endorse 是「全感染」，私下 manip 而公开 hedge 或 ignore 就是这篇命名的 hidden infection（隐藏感染）。 121
证据与局限：证据强度比多数同类工作高。规模上，6 个模型 × 3 个数据集 = 18 个单元，每个「题目 × 模型 × k」跑一次对话；题型跨熟悉度谱——CounterFact 40 题、PopQA 53 题、SimpleQA 50 题，分别来自 18、14、15 个关系。题目前置筛选用 deepseek-v4-flash 多次无上下文作答，只保留它高概率答对、且答成假答案的样本不超过 5% 的题目，并限定每个关系下的题量，还剔除了真答案出现在题干里的 PopQA 题（如「Artern 的首都是哪里」），因此「假答案在讨论前不存在」这一归因前提是站得住的。判官一致性做了独立交叉验证：用既不是原判官家族、也不是任何参演模型家族的 claude-sonnet-5.5 重标 200 条私下答案，加权后两判官一致率 87.5%、Cohen κ = 0.82；把独立判官的各标签重标率外推到全部私下答案，三名攻击者下的最终感染率从 60.5% 降到 57.8%。区间用按题目自助抽样的 95% 区间。局限同样明确：只比较 2 人与 10 人两种规模，不改变网络拓扑，也不混合不同模型；攻击者只在上下文里活动，与知识编辑这类参数级攻击是不同机制；全部标签来自语言模型判官，而自由聊天里的公开立场比一句式答案难标，隐式赞成容易漏掉，所以公开 endorse 率可能被低估（这会让「大部分感染没说出口」的结论更稳，但也会让「沉默的知情者」比例偏高）；所谓私下信念是「在当前上下文下给出的答案」，换一种探针措辞可能得到不同数值。此外这篇没有给出代码或数据入口，正文只写了用 Claude Code 辅助写实验代码与润色文字。 121
与目标研究线的连接点：属 A 线的评测口径，而且是本单元里最可直接搬走的一份。第一，双通道测量本身就是通用装置：只要一个多智能体系统允许「私下问一次」，就能把「说出来的」与「答出来的」分开统计，从而把只看转录的评测系统性地校正回来——这篇给出的具体结论是转录只暴露约三分之一的感染轮次。第二，配对规则值得照抄：探针只在轮间采集，因此把每条发言配到该轮之后的探针（覆盖发言前听到的一切），再用首发言者配轮前探针、末发言者配轮后探针做对照以排除时序假象。第三，失效分类表把「私下采纳」与「公开不纠正」分成两件可独立度量的事，避免了用公开行为代替内部状态的常见偷懒。第四，无攻击者基线（0.6%）与前置筛选共同保证归因干净，这一点可以直接搬去做任何「注入—传播」型评测。它与同节的 2610.21290 恰成镜像：那篇研究如何抑制并利用聚合阶段的呈现偏差，这篇测出同样的偏差在讨论阶段会把私下判断也带走，且公开信号不足以预警。与 2610.21203 的联系是两者都在研究「智能体该在多大程度上从另一个说话者」——一个测承诺的释放权限，一个测事实的私下采纳。 121
结论建议：建议重点读第 3 节（威胁模型、双通道测量与四类失效表）、第 4.2 节与表 3（隐藏感染的量化）、第 4.3 节与表 5（换问法重问，证明不是复述）、第 4.4 节与图 4（知识与抗压性脱钩），以及第 5 节给出的四条运维建议。引用时必须限定：结论来自 10 人、16 轮、攻击者只在上下文中活动的英文事实问答讨论，且公开立场由语言模型判官标注；「51.6% 对 19.7%」是三名攻击者条件下暴露轮的平均值，不是所有模型所有题目的个别值；不要把它当成人际从众研究的翻版——原文明确说人类文献主要报告「公开顺从、私下不变」，这篇报告的是相反的一侧。 121
8. HTN-Orchestrate：BrowseComp 89.73%，超 Agent Team 2.45 个百分点
HTN-Orchestrate: A Hierarchical Task Network Framework for Multi-Agent Orchestration · arXiv:2610.22195 · 精读
研究问题与核心方法：多智能体编排长期在两难里摇摆。结构化工作流给出清晰的全局骨架，但分解在执行前就定死，执行中的发现无法回头改计划；运行期委派让中心编排者边跑边派活，却把任务分解、子任务派发与结果汇总耦合在同一个编排者身上，也不显式表达子任务之间的先后依赖。HTN-Orchestrate 用分层任务网络（Hierarchical Task Network，HTN，一种把复杂活动表示为任务分解与分解约束的经典规划表示）把这两件事拆到两层。任务网络记为 T = (V, E_h, E_d)：层级边 E_h 构成一棵以原任务为根的树，依赖边 E_d 在同级之间给出无环的先序约束；节点存任务描述、执行状态与结果摘要。与从预定义规则库取分解的经典 HTN 规划器不同，这里的分解由大语言模型在执行中现场生成。当一个叶节点「就绪」（自身待处理且所有前置任务已完成）时，PlanOrExecute 依据原始目标、任务描述、祖先信息与相关前置结果摘要，决定是直接执行还是继续展开，因此依赖型子任务的内部结构是在拿到前置结果之后才定的；每个提议的分解都要通过「覆盖父任务」与「依赖边无环」两项校验，否则重写，另有深度与分支上限控制网络规模。执行侧实行 AND 语义：叶节点由专属 Orchestrator 调度多个 worker（研究者与验证者两种角色）产出结果，非叶节点要等所有子节点完成后才综合，结果沿层级边逐层上传到根。执行失败或当前网络找不到可行解时就重建：一次网络的构建与执行叫一个 epoch，新 epoch 前用 CollectEvidence 把已完成与部分报告中站得住的发现抽成证据摘要 M，用它条件化新网络的构建——注意 M 只提供规划上下文，不会把任何新子任务直接标成已完成，于是新 epoch 可以换一种分解同时保留已有证据。重建次数有上界；根节点被解决就直接返回其综合结果，预算耗尽则综合现有证据并报告未解决的要求。 122
证据与局限：这是本单元里证据链最完整的一篇：五个基准覆盖网页检索、科学研究与研究工作流，四个受控基线在同一骨干模型下重跑，主结果之外给出执行画像、内部分布、三项消融与两个逐题案例（图 5、图 6），并且给出完整的执行设置（网络深度上限 2、每节点最多 4 个子节点、每个可执行子任务最多 3 个并发 worker、每个 epoch 最多 12 轮编排、Planner 最多重建一次）。需要提醒的地方有三点。第一，评测单位是单次运行的分题准确率，没有给重复运行的方差；200 题子集上的消融是同一批题上不同变体的对比，表 4 也未给区间或配对显著性检验（附录只有配对正确性材料，正文未报）。第二，骨干全部是 DeepSeek-V4.1-Flash，虽然 worker 与 Planner 用不同推理档位，但结论是否随骨干更换而保持，原文列为未来工作。第三，利益关系必须说明：致谢写明工作由 Apodex 支持，四位作者在 Apodex 实习期间完成，而被超越的两个基线 ReAct 与 Agent Team 正来自同一方的 FrontierAgent 仓库，因此「对 Agent Team 的 2.45 至 10.19 个百分点优势」在引用时应视为同源实现之间的比较。代码入口实测可达：https://github.com/ycdeng-ntu/htn-orchestrate 返回 HTTP 200；基线仓库 https://github.com/ApodexAI/FrontierAgent 同样返回 HTTP 200。 122
与目标研究线的连接点：属 A 线的核心命中，可搬走的东西最多也最具体。一是控制权划分本身：把「全局任务分解」与「单个子任务的执行管理」交给不同控制器，使本地协调不必经过全局规划器，这直接缓解了单编排者既定计划又调度的耦合。二是结果知情分解这一种硬约束——依赖型子任务在前置返回之前不允许被展开，从而让分解反映实际证据而非事前假设；消融证明它只需 −1.5 个百分点就能换来更少的协调开销与更短的时延，是性价比很高的一条可搬规则。三是重建协议的两个细节：把重建次数设上界，并且只把旧网络的发现当作规划上下文、绝不当成已完成的任务（避免错误被固化）；这一条与 2610.21042 的「配置改了下游标过期」、2610.21203 的「状态行必须记录谁改了状态」同属一类工程约束。四是结果必须带「已解决 / 未解决」的结局标记，预算耗尽时输出证据充分性而不是把停止当作成功。与同节其它工作的差异在于它把 HTN 的父子分解与同级先序依赖分成两类边，并给每个可执行叶节点配专属 Orchestrator，因此局部多智能体协调与全局层级规划可以在同一次执行里并存。 122
结论建议：建议读第 3.1–3.3 节（任务网络表示、结果知情规划与重建、叶节点编排）、表 2、表 3、表 4、图 5 与图 6（两个逐题案例分别演示结果如何收窄后续分解、以及重建如何救回一题），以及 Appendix A（执行设置与判官）、Appendix C（消融定义与扩展结果）。引用时必须同时说明：骨干模型为 DeepSeek-V4.1-Flash 单一选择、评测为分题单次运行、消融在 200 题子集上且未报区间、基线实现与本文同源。不要把 89.73% 与 73.44% 当成跨骨干的通用水平，也不要把「对 Agent Team 的优势」当作与独立第三方系统的差距。 122
9. 四名 Gemini 4 Argon 编码智能体 27 小时 14 分通关 Minecraft，死亡 605 次
A team of Gemini 4 Argon agents beats Minecraft · arXiv:2610.22319 · 值得扫读
研究问题与核心方法：这不是算法论文，而是一次端到端的长程智能体实验记录：四个通用编码智能体进入新生成的 Minecraft 生存世界，唯一指令是击败末影龙（Ender Dragon），其余指令与它们做软件工作时相同——先观察再行动、行动后验证结果、在短任务上先验证新工具、手动操作成为瓶颈时自己造工具、把机制与变通写进团队共享记忆以免同一个障碍踩两次、后台任务跑着时继续干别的、如实报告、追求目标而不是利用环境或其评测的漏洞。每个玩家由 Mineflayer（一个开源 JavaScript Minecraft 机器人库）连同寻路插件接到标准服务器，不看像素也不按键，而是写一段 JavaScript 程序交给机器人执行、读回文本（位置、生命、背包、找到的东西或报错），再写下一段。它没有技能库、没有课程表、没有人类写的工具，也没有攻略路线；每个程序都是它们自己写的，通过游戏内聊天与共享笔记协作。第五个智能体 Observer 作为独立见证者旁观、从不参与游戏，职责是拿记录核对玩家声明、报告作弊与结果造假、对环境故障（工具损坏、配额上限）之外的事情不介入。游戏是 Minecraft Java Edition 1.20.4，生存模式、Easy 难度、随机生成世界、禁用作弊指令、全程无人类输入。所有 2,839 段程序及其输出、每条聊天消息与完整服务器日志都被记录，胜利以服务器日志中的成就记录为准。 123
关键结果：
- 从第一段程序到末影龙被击败用了 27 小时 14 分钟，期间四个智能体写下并运行 2,783 段程序、交换 229 条消息、死亡 605 次；时间含 6 次服务器重启（累计约 20 分钟停摆），跨度约 81 个游戏日。作为对照，原文给出 HowLongToBeat 的人类主线中位时长 45 小时与随机种子速通纪录不足 7 分钟，并注明这是一队四人在 Easy 难度、通过程序而非屏幕键盘完成的。
- 程序粒度很细：单段程序中位运行 33.5 秒，整个运行期间每个玩家约有 40% 的时间在跑程序，其余用于读结果、思考和写下一段。22% 的程序以报错结束。
- 分工是自发形成的（指令里没有任何角色安排）：首段程序运行 10 分钟后 janesick 在聊天里提出分工，1 分钟内 auratian 用另一套方案应答，gyldenia 回「Copy that!」；随后 gyldenia 探路找食物、床与燧石，bulicame 下矿找钻石，janesick 炼铁造工具，auratian 准备下界传送门。四人各自独立完成 13 个依赖步骤中的若干，最终 gyldenia 摧毁了十颗水晶中的六颗。
- 长程记忆与自造工具被实际使用：19 分钟时 gyldenia 就提示了 Mineflayer 合成机制的一个坑与规避方法，带这个修复的辅助函数出现在全部四名智能体写下的 655 段程序里；智能体在程序之间保留了 146 份状态与代码，其中 42 个辅助函数（例如让机器人在水里保持浮起的后台循环、计时行走、物品计数、以及让超时程序的残留代码自我停止的计数器）被 1,519 段程序引用。
- 定位据点用的是自制测量：janesick 从两处各抛一颗末影之眼、每 50 毫秒采样一次飞行方向，再算两条直线的交点，得出距村庄 1.3 公里的估计，与真实传送门房间相距 43 米。
- 末影龙本身耗时最长：它把四人杀死 69 次，整场终界战斗接近 14 小时。转折点在第 21 小时左右——auratian 指出黑曜石柱顶上的十颗水晶一直在把龙治满血，并想出不用镐子的办法：堆泥土爬到每根柱子旁、徒手打掉水晶、再徒手挖回来；随后 4 小时 40 分钟内十颗全部摧毁，最后一颗落下 39 分钟后末影龙死亡，彼时 bulicame 只剩 20 点生命值中的 2.5 点。
- 成本：到胜利为止，四个玩家共处理约 13.5 亿输入 token（其中 91% 由上下文缓存提供）、生成约 1,600 万输出 token（含 400 万思考 token），约 24,000 次模型调用；按 Gemini 4 Argon 的公开 API 列表价（引入价）约 520 美元，按标准价约 1,040 美元；含 Observer 与胜利后一天活动的整个会话约 810 美元（标准价约 1,620 美元）。原文标注这是按列表价与会话计数器估算，不是模型服务成本。 123
证据与局限：验证侧做得比较硬：每段程序与输出、每条消息、完整服务器日志都在档，胜利以服务器日志中的成就事件为准，且没有任何程序使用服务器指令；智能体在沙箱世界里只能控制自己的角色，既不能起进程也不能写文件。Observer 智能体与作者对日志的人工抽查都没有发现作弊或结果造假，也没有安全事件。局限性由作者逐条列出，且每一条都会影响外部效度：感知与导航走代码——Mineflayer 直接告诉智能体周围有哪些方块与生物（包括藏在石头后面的方块）乃至末影龙的内部状态，寻路插件替它绕障，均远超人类玩家的可见信息，从像素加键鼠操作（如 SIMA 2）要难得多；Easy 难度下怪物伤害更低、饥饿不会致死；模型对 Minecraft 与 Mineflayer 有大量训练期先验知识，这次测的是「能否把已有知识变成可运行程序与一天长的团队协作」，不是「能否玩一个从没见过的游戏」；过程失败很多——死亡 605 次、22% 的程序报错、终界战斗近 14 小时；基础设施重启 6 次；最关键的是只有一次运行，是作者第一次尝试，无法说明成功率。此外这篇没有代码、提示或轨迹数据集入口，正文提到的仓库链接都出现在参考文献里（属他人的对照工作），不是本文作者发布的产物。 123
与目标研究线的连接点：属 A 线的长程任务与执行期控制，而且提供的东西大多是别处拿不到的：一份 27 小时连续运行、每步可查的完整现场。可搬走的观察有四点。一是「把程序当动作」这一接口设计——智能体不问「怎么做」，而是写一段能做这件事的程序并读回结构化文本，这可能比逐动作工具调用更适合长程任务，因为它把验证、重试与工具复用都留在了智能体手里；代价是它依赖环境能提供精确状态。二是记忆的分层与压缩契约：记忆分私有与团队共享两部分，指令明确要求把「必须跨上下文压缩幸存的东西」（进行中的工作与下一步）写进记忆——这正是长程任务的上下文管理里最容易被忽略的一条工程要求。三是失败转规则的做法：遭遇损失后由团队在聊天里把根因与修复写成规则，且验证了规则的传播面（带修复的辅助函数出现在 655 段程序里）。四是纠错与诚实报告：auratian 的程序误报成功后两分钟自行撤回（自称「一个没加保护的脚本分支」），janesick 在烧死一秒后仍报告带回十二份烈焰粉，gyldenia 三分钟内指出矛盾——这类自发纠错是评测「诚实性」时很好的正例素材。它与同节的 2610.22195、2610.22138 分别对应长程任务的三种视角：编排结构、群体信念、以及一次真实长跑的全过程记录。 123
结论建议：建议读第 2 节（智能体如何玩、程序接口与记忆设计）、第 3 节（27 小时运行的分段叙事，尤其 3.3 节的三角定位与 3.4 节的终界规则积累）、第 4 节（自发行为清单：分工、共享记忆、自造工具、互相救援、纠错）、第 5 节（验证方式）与第 6 节（成本），以及第 8 节 Limitations。引用时必须限定：单次运行、Easy 难度、环境通过代码提供精确状态与寻路、模型带有大量游戏先验知识；27 小时 14 分与 605 次死亡是一次运行的观测值，不是可重复的成功率；成本数字是按公开列表价估算的。 123
九、语音合成、音频生成与音频评测
1. PEDBench：13 个语音模型在受控合成音上也检不出音素错误，最佳词级 F1 仅 74.32
PEDBench: Can Speech Models Detect Phonetic Errors? · arXiv:2610.20830 · 精读
研究问题与核心方法：音素错误检测（PED, phonetic error detection：识别音素级的替换、删除与插入）是读写教育与临床言语评估的基础能力，但现有工作有三处缺口：人工音素转写本身不一致导致评测效度存疑、面向 SOTA 模型的系统评测缺失、常用指标（音素错误率、读写诊断里的精确率/召回/F1）不能刻画「检出错且诊断对」的能力。作者来自哈佛大学、南加州大学、密歇根大学与哥伦比亚大学，提出 PEDBench——第一个覆盖「从真实到受控」连续谱的 PED 基准。它包含三类数据：(1) 真实儿童语音 334 条（147 名 3–7 岁西英双语儿童，由图片命名任务引出，两位受过音素训练的标注者独立转写 3,574 条后只保留错误类型与实现音素序列完全一致的样本）；(2) 成人表演语音 1,188 条（三位受音素训练的本族语者按脚本故意犯错，脚本与合成的 396 个孤立词训练数据在目标词与错误类型上一致）；(3) 音素可控 TTS 合成语音 1,083 条（Amazon Polly + SSML 注入一个替换或删除错误，覆盖 22 个辅音与 14 个元音的发音错误，60 个目标词取自 GFTA-3，两名标注者两轮复核后保留 361 组词/句/段完整配套）。公开集则用 L2-ARCTIC-Perceived（N=3599）与 CMU-Kids（N=5180）。评测流水线建在 PRiSM 工具包上：把规范音素序列 C、人工实现序列 U 与模型预测序列 Û 统一投影到 CMU 发音词典的 39 音素表（CMU-39），再按 MDD 层次化评测框架做对齐，每个位置标为真接受、假拒绝、假接受或真拒绝，真拒绝再看预测音素是否等于实现音素以区分正确诊断与诊断错误。作者另提出诊断加权的精确率、召回与 F1：分子用「正确诊断」而非「真拒绝」，即必须检出错且说对实现音素才计分。 124
证据与局限：证据强度主要来自数据构造的克制——真人儿童语音只保留两位标注者完全一致、且都判定含错的样本；表演与合成集把错误类型固定住，从而能在「控制声学变异」的条件下测同一能力；三档数据又刻意覆盖自然—受控连续谱，使「受控条件下仍失败」这个结论比较难用数据噪声解释。但作者自陈多条局限：三个新数据集全是英语、只用 CMU-39 一套音素表；儿童语音因知情同意不允许公开（计划留作私有留出集做排行榜），所以这一档无法被第三方复核；微调结论只到「有潜力」，不能证明微调模型能鲁棒检测错误，且当前流水线仍依赖 TTS 准确产出目标错误并需人工剔除不合格样本。另有两点引用风险：表演与合成集本身由标注者或脚本定义真值，属于作者自建基准，不存在外部对照；「受控条件下仍失败」的强度取决于这些合成错误的自然度，而原文未报告 TTS 生成保真度的定量指标。代码与微调权重计划在录用后释放，建在 PRiSM 工具包上；本次实测未见公开仓库链接。 124
与目标研究线的连接点：属 C 线语音评测。三样可直接搬走的东西：一是「诊断加权」（DW）指标族——把分子从「真拒绝」换成「正确诊断」，用来区分「检出错」与「说对错在哪」，这对任何需要诊断而不只是判分的评测（包括 A 线的过程评测与判官效度）都是现成模板；二是「按可控性分档」的基准设计：同一能力在自然、表演、合成三档上分别测，把「模型不行」与「数据不行」解耦，并用标注者重标来量化真值本身的噪声上限；三是跨音素表标准化（投影到 CMU-39）与层次化对齐，解决数据集、模型用不同音素问题。与同节的 Sitar（另一个评测口径工作）相比，本文输出的是数据集与能力诊断，Sitar 输出的是可比较的标量指标。 124
结论建议：建议读第 3.1.2 节的数据构造、第 3.3 节的指标定义（尤其诊断加权与标准 MDD 指标的差别）、第 6.1–6.3 节的结果与第 8 节的局限。引用时须限定：所有结论限于英语与 CMU-39；「13 个模型」是本文选定的代表集，并非穷举；微调提升来自作者自建的合成训练数据（SW/SC），在真实儿童语音上仍未达标；儿童语音档不可公开复核，相关数字只能引用不能验证。 124
2. SLAM-ASR 线性投影器零样本 SLU：语音主题 BAcc 23.2%，同一解码器读文本达 71.5%
Zero-Shot Spoken Language Understanding with SLAM-ASR: What Do Monolingual ASR-Trained Linear Projectors Enable? · arXiv:2610.20844 · 邻近跟踪
研究问题与核心方法：SLAM-ASR 是一套把冻结语音编码器的特征经线性投影器接到冻结 LLM 解码器上的训练配方，已被大量工作用来做语音识别，但多数研究只考察转写能力。本文提问：只在单语 ASR 转写数据上训出来的线性投影器，能否让解码器顺带具备口语理解（SLU, spoken language understanding）能力，以及在什么条件下具备。作者来自台湾阳明交通大学、Tranxform AI、印度理工学院海得拉巴、法国 INALCO/索邦新大学与 Cohere Labs。设置：冻结的 Whisper-medium 编码器 + 冻结的 Tiny Aya Global 解码器，中间只训一个线性投影器，用 WorldSpeech 的单语转写数据按语言各训一个（11 种语言）。投影器 2.1M 参数（配 Tiny Aya 时），编码器加投影器加解码器共 3.66B（换 Qwen3-4B 则为 4.33B）。对照基线是多任务音频语言模型 Qwen2-Audio-7B，同样用线性投影器接 Whisper 编码器与 LLM 解码器，但在 52 万小时音频上以多任务自然语言指令监督训练。评测集 FLEURS，三项任务：转写（报字符错误率 CER）、是非问答与主题分类（报指令遵循率 IFR，即输出被判为有效答案的样本占比；另报只统计已作答样本的平衡准确率 BAcc）。主题标签来自 SIB-Fleurs 的 7 类划分，题目用其英文模板（选项以数字标注，文中称 digit template）。 125
关键结果：
- 会答题但答不对：11 个语言里 6 个投影器在是非问答上超过一半输出是短答案而不是转写；指令遵循率均值 49.8%。识别质量不决定是否作答——印地语与法语的 CER 几乎相同（15.25 与 15.26），IFR 却是 3.6% 与 79.3%。
- 加上选项模板后遵循率大涨：同一个主题问题改成数字选项模板，IFR 升到 26.0%–100.0%，均值 81.3%。
- 但理解仍有限：主题分类平衡准确率均值 23.2%（随机 14.3%），只有英语、西班牙语、法语、印尼语超过随机的两倍；原始准确率均值 16.0%，低于「总猜最常见主题」的 30.6%。是非问答的 BAcc 在样本量≥100 的 7 种语言里为 45.5%–54.0%，即与随机无异。多任务音频语言模型 Qwen2-Audio-7B 在同一批样本与同一套判定规则下 BAcc 均值 39.4%，但它在 11 种语言里有 4 种（其中 3 种本方法很少作答）原始准确率低于猜最常见主题。
- 瓶颈定位在投影器而非解码器：把参考文本直接喂给同一个解码器时，主题分类作答率 100.0%、BAcc 均值 71.5%，而经投影器的语音输入只有 23.2%；这个差距在每种语言上都存在，且与各语言解码器能力无关（文本版跨语言几乎一致而 CER 差异巨大）。是非问答任务上语音 48.6% 与文本 49.2% 同样都在随机水平。
- 训练与算力：每个投影器训 1,000 步、有效批 512、AdamW 余弦调度、10 步预热，Tiny Aya 学习率 1.5×10⁻³；单张 H200 上一次训练中位耗时 15.2 小时。 125
证据与局限：11 种语言、每个语言一个投影器，规模不大但覆盖面合理；「投影器 vs 解码器」的归因用参考文本替换音频做对照，是很干净的设计，也是本文最有价值的一点。作者自陈局限：所有投影器共用同一个编码器且每个只训一次、单一随机种子；教师标签由源评测集的参考转写生成、未经独立验证，且只测「说了什么」不测「怎么说」；FLEURS 是维基百科句子朗读，域很窄；语言内模板是英文模板的 LLM 翻译、未经母语者审校；未测模板格式（数字 vs 字母选项、分隔符）的敏感性；音频作答规则下，正确选项若夹在更长输出里会被记为未作答，因此「不作答」与「答错」的边界是人定的。引用风险：23.2% 与 71.5% 都只统计已作答样本，把未作答计错会进一步拉大差距；BAcc 的随机基线 14.3% 取决于 7 类划分。 125
与目标研究线的连接点：属 C 线语音表征与语音评测。可搬走的有两点：一是「用替换模态的方式做归因」的评测设计——把音频换成参考文本、其余不变，就能把表征转换环节的错误与下游推理能力分开，这一手法对任何「中间层负责什么」的问题都通用；二是指令遵循率与平衡准确率必须成对报告，本文正好给出「IFR 从 49.8% 抬到 81.3% 但理解没变」的反例，说明单纯抬高可解析答案比例会制造能力假象。与同节其它语音工作相比，它不提出新模型，只做能力归因。 125
结论建议：建议读第 2 节的评测定义、第 3 节三个结果小标题与 Table 1，以及附录 C 的扩展结果（尤其「转写质量不能预测指令遵循」与「解码器是否重要」两段）。引用时须限定：结论限于线性投影器 + 冻结解码器、11 种语言、FLEURS 朗读句、每个投影器单次训练；「文本上限 71.5%」是参考文本输入下的数字，不等于该系统在真实口语场景的能力。 125
3. MIDI-REPA：用 MuScriptor 钢琴卷帘对齐 DiT 早期层，ATTM 目标指标 Borda 排名第 1
MIDI-REPA: Improving Text-to-Music Generation with Symbolic Representation Alignment · arXiv:2610.20967 · 值得扫读
研究问题与核心方法：文生音乐（text-to-music）模型一直直接从稠密音频里同时学「音乐内容」（旋律、节奏、和声、结构）与「声学实现」（音色、制作），而音乐内容本来可以用稀疏的离散符号事件紧凑表达。作者提出 MIDI-REPA，属于表征对齐（representation alignment，REPA：让生成模型的中间层特征去逼近某个预训练编码器特征）一类方法，但教师换成了自动音乐转写（AMT, automatic music transcription：从音频反推音符的模型）产出的符号目标，而不是 MERT、CLAP、MuQ 这类学出来的音频表征。作者来自台湾大学与加州大学圣地亚哥分校。做法：以 2026 ICME 学术文生音乐挑战赛（ATTM）官方的 122M 参数 FluxAudio-S 为基线，把它的音频自编码器换成冻结的 SAME-L；10 秒 44.1 kHz 立体声编成 108 帧 × 256 通道的隐变量。训练时从流匹配（flow matching：把噪声沿连续路径推成数据的生成目标）DiT 的第 ℓ 块、第 t 步取隐表征，经单层时间卷积投影头映到符号目标空间，对齐损失取两者负余弦相似度，只对符号活动非空的帧求和；总目标为流匹配损失加 λ 倍、并用指示函数限制在时间区间 T 内的对齐损失（λ=0.5）。AMT 教师与投影头只在训练期存在，推理期零额外开销。符号目标由 Basic Pitch 或 MuScriptor 转写成 108 帧 × 88 音高（MIDI 21–108）的二进制时间–音高矩阵；MuScriptor 需要乐器标签，作者用 MATPAC++ 与 Music Flamingo 预测取并集再归到 7 个乐器族。训练集 JamendoMIDI 由 ATTM 的 55,701 条去人声 Jamendo 音轨跑转写流程、剔除 4,624 条失败样本得到 51,077 条，再用 682 条 SDD 与其包含的 930 条 ATTM 参考音轨做设计对比，最后 49,034 条（约 3,161 小时）用于训练。 126
关键结果：
- 对齐什么（SDD 上 629 条提示，L4 层、全程对齐，八组匹配种子取均值与 95% 置信区间）：MuScriptor 合并钢琴卷帘最好，FAD（Fréchet Audio Distance，音频分布距离，越低越好）0.5040±0.0030、CLAP（音频—文本相似度，越高越好）0.2603±0.0026；MuScriptor 7 乐器立方体 FAD 0.5117±0.0042、CLAP 0.2665±0.0030；Basic Pitch 卷帘 FAD 0.5363±0.0036 反而比不对齐的基线 0.5275±0.0021 更差。
- 对齐在哪（MuScriptor 卷帘、全程）：L2 层最好，FAD 0.4947±0.0037、CLAP 0.2686±0.0015；除 L0（0.5289±0.0032）外每一层都改善 FAD，L2 之后逐层变差，L11 为 0.5251±0.0036。作者发现用 AG-REPA 的前向门控消融（FoG-A）挑出的高分块 L9、L0、L5 全不是好的对齐位置。
- 何时对齐（MuScriptor 卷帘、L2）：全程 t∈[0,1] 的 FAD 最低（0.4947±0.0037）；只在旋律成形前对齐 t∈[0.88,1] 的 CLAP 最高（0.2858±0.0018）但 FAD 退化到 0.5440±0.0042；只留最后精修段 t∈[0,0.2] 两项都崩（FAD 0.5828±0.0035）。
- 正式评测（ATTM 80 条域内提示、官方 FAD/CLAP/CCS；CCS 为 Concept Coverage Score，概念覆盖分，越高越好）：本方法 122M 参数、14.2 A100 等效 GPU 小时，得 FAD 0.497、CLAP 0.315、CCS 0.829；在同一张表所示的 6 个决赛系统里 FAD 第 4、CLAP 第 2、CCS 第 3，放进 18 个系统的联合比较后 Borda（把各指标名次合成为总名次的计数排序法）综合排名第 1。作为对照，基线 FluxAudio-S 是 FAD 0.757、CLAP 0.088、CCS 0.592、排名 18。
- 训练成本：单张 RTX 3090 约 31 小时（31.3 RTX 3090 GPU 小时）；官方 1,000 条 FAD 参考集被作者从训练中显式剔除，而按挑战赛设定训练全量语料的系统必然见过这些参考。 126
证据与局限：证据形态是受控设计研究，三个设计维度（目标、层、时间区间）按顺序逐项固定，每个结论都带八组种子的均值和 95% 置信区间，这是本文最硬的部分。但选型只在 SDD 的 629 条提示上做，正式基准只有 80 条提示，样本量小。作者自陈局限：只做 122M 参数与短片段（10 秒）生成，扩展到更大模型与完整歌曲是未来工作；方法对 AMT 教师不可知，教师变好则更丰富的目标（如乐器立方体）可能更有效。引用风险：Borda 排名第 1 是在作者重算的 18 系统联合排序上得到的，不等于官方名次；FAD 0.497 只在「已剔除参考集」这一更严口径下成立，与训练过全量语料的系统不可直接横比；「L2 最优」不能外推成其他骨干或规模的通用结论，原文也未把 MuScriptor 立方体的 CLAP 优势（0.2665）解释清楚。代码与音频样例在 [https://midi-[repa.vaclis.net](https://repa.vaclis.net)](https://midi-[repa.vaclis.net](https://repa.vaclis.net)) ，本次实测 HTTP 200，但原文未说明该页是否含预训练权重。 126
与目标研究线的连接点：属 C 线音频生成。最具体的可搬走项有三条：一是「用外部结构化信号当辅助教师、只训中间层、推理零开销」的挂载方式，可原样移植到任何 DiT/流匹配骨干，且不需要额外数据；二是「什么/在哪/何时」三问式的对齐设计协议——包括用 FoG-A 之类的功能重要性指标筛候选层、再用真实指标复核，本文正好给出「功能重要不等于适合对齐」的反例，这条对任何辅助监督挂载都成立；三是「把评估参考集从训练集里剔除」的口径自律，这是当前文生音频/音乐指标横比里最常见的隐性污染点。与同节其它工作相比，它不新增数据、不改推理，只改训练信号来源。 126
结论建议：建议读第 2.1 节的损失构成（式 1、2）、第 3.2–3.4 节的三张设计表（Table 1、3、5）与第 4 节的 ATTM 对比表（Table 4），并特别读第 3.3 节关于 FoG-A 与对齐层选择不一致的讨论。引用时须限定三点：这是 122M 参数、10 秒片段、单张 RTX 3090 的设定；数字来自作者自己的 SDD 选型集与 ATTM 80 条提示；Borda 排名是重算值而非官方名次。 126
4. Sitar：免 LLM 的情境失真 ASR 指标，与人工严重度排序一致率 84.07%、平均 ρs 0.8001
SITAR: A Situational Distortion Metric for Automatic Speech Recognition Evaluation · arXiv:2610.21440 · 精读
研究问题与核心方法：语音识别（ASR, automatic speech recognition）里，字面或语义差异相近的转写错误对「话所描述、确立或意图促成的情形」影响可以天差地别，例如「depart at fifteen」变成「depart at fifty」几乎没改措辞却改了出发时间。现有指标各有缺口：词错误率（WER）与字符错误率只看表面编辑；命名实体加权 WER（NE-WER）偏微观实体；语义距离（SemDist）与 BERTScore 只看语义相似；AER 用问答探针暴露语义指标看不见的错误，却缺少可比较的校准刻度，且每次评估要反复调用 LLM。LLM 判官本身又有提示敏感与重复运行不稳定的问题。作者来自中国科学院信息工程研究所、中国科学院大学与小米。作者提出 Sitar——一个「情境失真」标量指标，并用一套端到端构造流程实现它。四步：先立参考锚点，把参考转写作该话语的金标实现、令假设等于参考时失真为零；再用受限间隙划界（CGD, Constrained Gap Delineation）这个确定性算法，以共享文本为锚点、用匹配长度动态规划加单调链动态规划加前向后向编辑距离筛选，把相邻差异合并成配对间隙作为基本偏差单元；然后把这些间隙投到一把共同刻度上——作者按 OECD 式的结果链框架定义三层后果等级（T₀ 表达不同但情形保持、T₁ 理解改变但意图结果不变、T₂ 最终结果改变），给出名义分 0/1/2 与两个方向性边界情形各 1/3 的调整，用有界递归式把最高严重度位置 β 与累积条数合并成标量目标 S(r,h)=β+(1/3)Q_ρ(·)，值域落在 [0,2+1/3)；最后用带 LLM 辅助的离线标注给出的目标值，训一个 BERT 家族回归器，单次前向就给参考—假设对打分，实际使用时完全没有 LLM 调用。训练监督来自以「最高层间隙定基准分、其余间隙按层计数做精化」的确定性公式：排名与分层分别由 DeepSeek-V4-Pro 独立跑三轮生成，二者互相校验，不一致就整对丢弃；再由 GPT-5.6-Sol-Max 的四智能体委员会复核，复核层与原分层相差超过 1 层也丢弃。监督语料主要来自 AppTek 并用 FLEURS 做错误增广，最终 12,347 对。 127
证据与局限：这篇的方法论自觉度是本节最高的一档——它先明确「测什么、相对什么定义偏差、凭什么让不同偏差可比、用什么仪器取值」四个问题，再逐条作答，并且把「外在校度（宏观+微观）」与「内在可靠性」分开验证。共同刻度用受控集做档位分离检验、排序用人工严格序做一致率、标注一致性单独报告加权 kappa，这几层验证互相独立。但要看清三点：第一，监督目标本身由 LLM 生成——排名与分层来自 DeepSeek-V4-Pro 三轮，复核来自 GPT-5.6-Sol-Max 委员会，人工标注只用于验证而不是用于产标签，所以「与人工一致」测的是最终打分器，不是标签生成链；第二，受控集只有 330 对、30 条英文参考，域覆盖有限，参数 ρ 的选取与式 7、8 的性质主要在附录 A 里论证（原文给了完整推导与工作示例），主体实验并未做 ρ 的敏感性扫；第三，作者自陈未来工作才扩数据量与多语种，因此 Sitar 目前的适用域是英文、且监督语料主要来自 AppTek 一家。引用风险：「免 LLM」只是推理期免 LLM，训练期依赖两个专有 LLM；0.06–0.40 的跨度是本文评测的这几套模型上的观察值，不能当作 Sitar 的固有值域（其构造上界是 2+1/3）。论文说完整配方（代码、权重、数据）将在内部评审后放出，本次实测未见公开链接。 127
与目标研究线的连接点：属 C 线语音评测，同时对 A 线的评测口径与判官效度有很高的可迁移性。最具体的三样：第一，「用 LLM 造监督目标、但把仪器蒸馏成免 LLM 的确定性模型」这条路线——它同时解决 LLM 判官的提示敏感、重复运行不稳定与推理成本三个问题，任何需要可复现打分的场景都能照搬（离线造标签 + 轻量回归器 + 单次前向）；第二，标签生成里的自校验设计：把「排序」与「分层」拆成两个独立任务、由同一模型多轮跑，再要求两者互相一致否则丢弃，这种「不靠额外参考就能过滤不可靠标签」的手法可以直接用在轨迹数据或过程奖励数据的筛选中；第三，「三层后果等级 + 方向性边界 + 累积条数有界递归」这种把严重度与条数压进一个带界的可比分数、且保证层级优先不被条数淹没的构造，比简单加权求和更能约束分数语义。与同节的 PEDBench 相比，本文产出可比较的标量，PEDBench 产出能力诊断。 127
结论建议：建议精读第 3 节全过程（尤其式 6–8 与三层等级定义）、第 4.2 节的秩反转分析、第 4.3 节与 Table 2 的刻度验证、Table 3/4 的人工一致性，以及附录 A.1 的参数推导与工作示例、附录 C 的受控集构造与标注规则。引用时须限定：结论限于英文、限于本文的监督语料来源；84.07% 与 0.8001 是在 1,647 次严格序比较上的均值，不是与人类整体判断的相关；「免 LLM」仅指推理期。 127
5. DuET：钢琴演奏转乐谱双编码器，Gangqinpu 上 MUSTER 平均误差从 6.56% 降到 3.64%
DuET: Note-Frame Dual Encoding for Piano Performance-to-Score Transcription · arXiv:2610.21467 · 邻近跟踪
研究问题与核心方法：把有表现力的钢琴演奏转成乐谱，需要把每个音符的时间放进隐含的节拍结构里去解释：同一段演奏时长在不同速度与节拍语境下对应不同的乐谱时值。难点有二。其一是粒度不匹配——乐谱属性挂在音符上，而节拍位置落在规则时间网格上，包括没有音符起音的帧。其二是相对位置的表征——序列下标距离不等于时间间隔，相邻音符可能同时发声也可能相隔很久，而音高与时间是二维的，串成一维序列后序位不再显式编码相对时间与音高距离。作者来自新加坡国立大学，提出 DuET（Dual-Encoder Transformer），在三段式流水线（Transkun v2 出演奏 MIDI、DuET 出乐谱属性、MuseScore 4 出记谱）中只负责中间的「演奏 MIDI 转乐谱」一段，并把它表述为输入音符到输出乐谱记录的一一映射：音高直接复制，其余属性由模型预测。模型由一个音符编码器、一个帧编码器和一个音符对齐的自回归解码器组成：两个编码器各八层，层内先各自自注意力，再做双向交叉注意力互换信息；解码器四对层交替去交叉注意音符记忆与帧记忆。位置编码是另一个改动点：TimeRoPE 用除以 20 ms 帧长的演奏时间做共享坐标，让音符与帧落进同一时间参考；TPRoPE（时间–音高旋转位置编码）进一步把每个注意力头的一半维度分给时间、一半给音高、各自独立旋转，使注意力只依赖相对时间差与音高音程。帧分支还挂三个辅助头（节拍/强拍三分类、小节内拍序号、小节相位正余弦）做节拍跟踪监督；训练时另做小节级遮蔽（概率 0.1）与解码器历史遮蔽（每步 0.75）。 128
关键结果：
- 主结果：在 Gangqinpu 测试集的 79 首共同有效子集上，MUSTER 平均误差（原文引用的乐谱转写综合误差指标，聚合起始、结束、时值与谱表指派四项误差，越低越好）从最强基线的 6.56% 降到 3.64%，四项 ScoreSimilarity（原文引用的乐谱相似度指标族）指标也全部最低；在 ASAP 测试集 59 首上为 11.22%，对照 Beyer 与 Dai 的已发表结果 11.30%，同时起始（12.34 对 15.55）、结束（20.59 对 23.84）、时值（36.46 对 51.86）与谱表指派（4.98 对 6.62）误差都更低，但漏音（8.78 对 7.56）与多音（11.70 对 6.44）误差更高。
- 消融（ASAP 39 首、Gangqinpu 72 首固定子集）：去掉帧分支使 MUSTER 平均误差从 8.68% 升到 10.50%（ASAP）、从 3.07% 升到 3.64%（Gangqinpu）；把仅时间 RoPE 换成时间–音高 RoPE 使误差从 13.68% 降到 8.68%（ASAP）、从 3.57% 降到 3.07%（Gangqinpu），但换成单一记忆解码时 ASAP 改善而 Gangqinpu 变差；去掉任一种遮蔽都会抬高两套数据上的误差。
- 数据：训练用 (n)ASAP 与自建 Gangqinpu（18,787 个演奏–乐谱对，含流行与古典风格，演奏 MIDI 由 Transkun v2 转写），另用 PERiScoPe 经 PianoCoRe 补充，分片按乐曲级划分。 128
证据与局限：改动点清晰，消融覆盖了帧分支、位置编码、记忆访问与遮蔽每一处主张。但增益不均衡：Gangqinpu 上 6.56%→3.64% 明显，ASAP 上 11.30%→11.22% 只有 0.08 个百分点，且 ASAP 基线数字取自他人已发表论文、并非同环境复跑。消融用的 39/72 首子集与主结果的 59/79 首不是同一批，绝对值不可混用。作者承认音高感知编码与记忆整合的收益随数据集和指标变化、并不稳定。引用风险：Gangqinpu 是作者自建数据集，原文称将公开发布并另写数据集论文，本次实测未见数据集页；谱表误差 4.98 等单项优势不能推广成所有记谱属性都更好，漏音与多音就是反例。代码与权重、在线演示在 https://github.com/wei-zeng98/DuET ，实测 HTTP 200。 128
与目标研究线的连接点：属邻近跟踪。可搬走的是「多粒度联合」范式：当标注挂在一种粒度（音符）、所需上下文落在另一种粒度（时间帧）时，用两个编码器分头建模、再以双向交叉注意力与交替解码交叉注意力融合，比硬塞进同一序列更合适；作者给出的反例也有用——单记忆与交替记忆的优劣会随位置编码反转，说明融合结构不能脱离坐标系统单独评估。TimeRoPE 与 TPRoPE 把共享物理时间与二维相对坐标分离编码，对任何「序列序位不等于物理距离」的建模都可参照。 128
结论建议：建议读第 3.3 节两种位置编码的定义、第 5.1 节 Table 2 与第 5.2 节的四组消融。引用时须限定：Gangqinpu 与 ASAP 数字分别来自 79 首与 59 首（消融为 72 首与 39 首）的特定子集；ASAP 基线取自他人论文；ASAP 上提升幅度很小，不宜作强结论；这是「演奏 MIDI 转乐谱」一段的结果，不含音频转 MIDI 环节的误差。 128
6. 音频大模型性别偏见缓解：对抗训练把 Qwen3-Omni 性别识别从 99.9% 压到 54.5%
Bias Mitigation in Audio-Enabled LLMs through Adversarial Training and Distillation Methods · arXiv:2610.21763 · 邻近跟踪
研究问题与核心方法：音频赋能大模型（AuLLM, audio-enabled LLM）让用户直接说话就能交互、不经中间转写，从而保留韵律与非言语线索；但这些线索也让模型推断（或臆断）说话人性别、年龄等属性并据此产生刻板输出，而这类偏见的缓解研究很少。作者来自布拉格查理大学与汉堡大学。第一级是对抗训练：只解冻音频编码器（不到 1B 参数，做全量微调），把编码器末层表征平均池化成单向量，经梯度反转层（GRL，反向传播时把梯度乘上负常数 −α）送进二分类性别头，用性别分类交叉熵加 γ 倍的语音模型交叉熵（防灾难性遗忘）联合训练，把性别信号从编码器里抹掉，得到「性别无感模型」（GUM）。数据用 sift-50m（一个大规模语音指令数据集）的子集并滤掉含 gender、man、woman 等词的样本（称 sift-50m-neuter），共 4,000 条性别均衡样本训一轮，每 125 步存检查点，只保留性别识别准确率低于 60% 的，再挑 mmau 准确率最高者。第二级是把原模型与 GUM 的输出蒸馏成「感知性别、但在无关场合不据此区别对待」的模型：用 LoRA 只调解码器全部注意力权重，训练数据是原模型对 sift-50m 用户提示的答案与 GUM 对自建 ImpGender 提示（34 条隐含刻板印象的提问，配 240 段随机 VCTK 语音库录音、共 8,160 条）的答案各 4,000 条，混用按长度归一化的 KL 散度损失。 129
关键结果：
- 去性别能力（Qwen2-Audio-7B / Qwen3-Omni-30B-A3B / Nemotron-3-Nano-Omni-30B-A3B）：原始性别识别准确率 81.5% / 99.9% / 96.4%，对抗训练后降到 46.0% / 54.5% / 50.8%。用中位频谱搬移（中位 144 Hz）作对照只有 50.3% / 66.2% / 64.2%，效果强于简单音高归一化。
- 代价：通用音频理解（mmau，即 MMAU 大规模多任务音频理解基准，此处为其去性别化 908 条版本）上 Qwen3-Omni 与 Nemotron 的下滑都小于 4%（最好配置 71.3 与 73.5，对应原始 75.0 与 75.3），Qwen2-Audio 反而从 42.1 升到 46.6。
- 归因警告：Qwen3-Omni 是靠「一律自信地预测为女性」拿到接近随机的——其 GUM 输出 95.5% 为女性、拒绝率 0.0%；另两个模型大幅增加拒答（拒绝率 10.1% 升到 28.8%、0.2% 升到 37.1%），但在未拒答样本上仍有 64.5% 与 80.8% 的准确率，说明性别感知未被彻底移除。
- 偏见指标（选项选择，23,280 条录音—提示对，对数几率比 LOR）：三个模型从 0.40 / 0.24 / 0.25 降到 0.10 / 0.10 / 0.18，但输出更不平衡——前两个更常选刻板男性选项，Nemotron 更常选刻板女性选项。
- 蒸馏（8 种配置 × 10 个检查点，要求性别识别不低于 70% 且 mmau 不低于原模型 97%）：性别识别回升到 70.4% / 99.9% / 93.4%，LOR 为 0.23 / 0.22 / 0.21，对 Qwen2-Audio 改善明显、对另两个只算边际；更关键的是 Qwen3-Omni 与 Nemotron 分别有 86.3% 与 83.8% 的蒸馏检查点在偏见基准上比原模型更差。 129
证据与局限：三家模型、三种编码器（Whisper、AuT、Parakeet），并用中位音高归一化作对照以排除「只是改了音高」；对失败原因的定性分析是本文最有价值处。但尺度小（对抗训练 4,000 条、蒸馏 8,000 条），每个模型只做一遍网格搜索取最优检查点，无多种子或置信区间；偏见评估用「与内容无关的录音加提示」，作者自陈不符合真实使用；仅英语、性别标注为二元。核心负面发现——多数蒸馏检查点比原模型更偏见——被归因于 sift-50m 含奖励刻板印象与短答案的样本；作者据此建议自建约 15k 条精选数据，但无实验支撑。引用风险：LOR 来自 23,280 条自配对比样本，不同录音集与提示对不可横比。代码与模型在 https://github.com/adnan-al-ali/speech-llm-bias-mitigation 与 https://hf.co/alalia/speech-bias-mitigation ，实测均 HTTP 200。 129
与目标研究线的连接点：属邻近跟踪。可搬走两样：一是「去学习某项能力」的验收方式——不只看目标指标是否降到随机，还要看它降下来的方式（学会拒答还是自信地一律输出同一标签），并同时报告未拒答子集上的准确率，否则会误判能力已消失；二是「用被去能力化的教师与原教师联合蒸馏、让学生只在属性无关时保持中立」的两级设计，比直接删能力更细。它还给出负结果：面向基准的短答案指令数据会把偏见放大。 129
结论建议：建议读第 4.1 节的对抗训练设置、第 4.2 节与 Table 1–3、第 5.2 节与 Table 4、第 6 节的讨论，以及附录 A 中 sift-50m 奖励刻板输出的样本。引用时须限定：数字来自三个模型各自单次网格搜索的最优检查点，非多种子均值；仅在英语与二元性别标注上验证；多数蒸馏检查点更偏见这一实测发现不宜省略。 129
7. CF-AVSS：由粗到细两阶段音视频语音分离，ISCSLP 2026 真实场景挑战赛两轨 CER 最低（12.31% 与 14.79%）
CF-AVSS: A Coarse-to-Fine Audio-Visual Speech Separation Framework with Target-Speaker Refinement and Post-Fusion for Real-World AVSE Challenge · arXiv:2610.21773 · 邻近跟踪
研究问题与核心方法：真实录音条件下的音视频语音增强（AVSE，audio-visual speech enhancement，用唇动等视觉线索从混响、噪声与重叠说话人的混合信号中恢复目标语音）与干净视频上的仿真基准之间存在落差：自然重叠不满足可加假设，房间带来长混响尾巴，侧脸、遮挡、运动模糊、低分辨率、冻帧与音视频不同步都会削弱视觉条件，而一步到位的激进增强又容易在去干扰的同时压掉目标弱音素。作者提出两级「先粗后精」框架。第一级把 SPAV-TFGridNet 从单一视觉条件输出扩展为两条同步视觉流的联合估计：编码后的混合信号经过 K 个级联 AVTFGrid 块，每块含一个 TFGrid 块与两个以特征为条件的音视频注意力（FAVA）模块，每个输出序号绑定一条视觉流，因此训练与推理都不存在置换歧义；逐级监督让早期级别保留较多干扰语音，最后一级落在「保留目标混响与两路共享背景噪声、排除竞争说话人」的粗糙目标上，因两路共享同一个噪声项，作者不施加使两路粗估计之和等于混合信号的一致性约束。视觉侧用官方 AV-HuBERT 预处理（检测 68 个面部关键点、对齐标准脸型、裁出口部感兴趣区域），再由 AV-HuBERT Base 以每秒 25 帧抽取视觉语音特征。第二级是 TFGridNet（时频网格网络）目标说话人精修（TSR，target speaker refinement），以原始混合信号与两路粗估计为输入重新提取更干净的目标，并用非对称过压制损失惩罚活跃时频格上目标幅度的缺失；作者另加可微 PESQ 损失与 PASE 的时域、频域判别器对抗训练。最后按开发集标定的线性系数融合粗、精两路，作者选定 α=0.34，测试时固定不变。作者单位为腾讯天籁音频实验室与电子科技大学。 130
关键结果：
- 官方测试集整体口径（mix + remix）上，本系统两轨的官方 OVRL（赛事 leaderboard 排名分，原文表 1 注明越小越好）均为 2.86；Track 1 与另一支队伍并列第一，Track 2 排第二（Track 2 第一名 OVRL 为 2.43）。两轨 CER 均为全部提交中的最低值：Track 1 为 12.31%，Track 2 为 14.79%。
- Track 1 本系统：SI-SDR 10.70 dB、PESQ 2.93、STOI 0.84、UTMOS 2.07、DNS-OVRL 1.83、SPK-SIM 0.75。与并列第一的 Team 1 相比，侵入式指标偏低（Team 1 SI-SDR 12.72 dB、PESQ 3.00），但 CER 更低（Team 1 为 14.5%）。
- Track 2 本系统：SI-SDR 10.22 dB、PESQ 2.89、STOI 0.83、UTMOS 2.09、DNS-OVRL 1.76、SPK-SIM 0.74。相对 Track 1，SI-SDR、STOI、SPK-SIM 的退化属中等幅度。
- Track 2 开发集消融（原文表 2 的 CER 用 0–1 小数给出：完整系统 0.117、去后融合 0.132、再去 TSR 0.129，此处统一换算成百分数）：完整系统 SI-SDR 11.53 dB、PESQ 2.65、DNS-OVRL 1.86、CER 11.7%、SPK-SIM 0.68；去掉后融合后 DNS-OVRL 升到 2.20，但 SI-SDR 降到 9.29 dB、PESQ 降到 2.17、CER 升到 13.2%、SPK-SIM 降到 0.57；同时去掉 TSR 与后融合时 DNS-OVRL 为 1.56、SI-SDR 10.88 dB。即相对同时去掉 TSR 与后融合的 1.56，TSR 单独把 DNS-OVRL 提到 2.20，却使 SI-SDR 从 10.88 降到 9.29 dB、PESQ 与 SPK-SIM 下降并抬高 CER，后融合再把 SI-SDR、PESQ、CER、SPK-SIM 拉回最佳。
- 训练配置：AVSS 与 TSR 各训 50 个 epoch，AdamW，初始学习率 10⁻³、权重衰减 10⁻⁴、批大小 8；渐进分离的中间目标取 SIR（信干比）{0, 5, 10, 15} dB 四档。Track 2 训练时施加空间掩蔽、高斯模糊与丢帧等随机视觉退化，并以 0.1 的概率整条丢弃视觉模态。训练用 VoxCeleb2 与 MISP 2023 挑战赛数据混合，说话人数 M∈{2,3,4} 的采样概率为 0.75、0.20、0.05。 130
证据与局限：这是挑战赛提交系统报告，最强证据是官方隐藏测试集、由主办方统一计算分数：Track 1 测试集 4,257 条、Track 2 测试集 4,941 条，参考信号不可见。开发集为 Track 1 的 1,242 条 mix 与 900 条 remix、Track 2 的 1,527 条 mix 与 1,098 条 remix，后融合系数与超参都在此上选。引用风险有四点。第一，消融只跑了 Track 2 开发集、且只去掉「TSR」与「后融合」两个整块，报告里写「a compact ablation study」，没有逐模块（AV-HuBERT 版本、FAVA、过压制损失、PESQ 损失、对抗损失）的单独对照；没有报告种子数、置信区间或误差棒。第二，对照队伍一律匿名（Team 1…Team 5），无法核对它们的方法与规模，竞争性说法只在本届提交范围内成立。第三，α=0.34 在开发集上按「侵入式质量、非侵入式质量、识别准确率、说话人相似度」的综合权衡选取，原文未给出该权衡的量化目标函数，也不排除换数据后系数偏移。第四，摘要与结论都写「两轨 OVRL 2.86」，而 Table 1 中 Track 2 本系统 OVRL 确实为 2.86、Track 1 也为 2.86，但两轨的排名不同（并列第一与第二），引用时必须写清轨道。原文没有给出公开代码或数据仓库，只有一处依赖链接指向 torch-pesq 实现。 130
与目标研究线的连接点：属 C 线的邻近件（音频前端处理，非生成、非节目级评估）。可搬走的是三点。其一，评测口径的分轨设计：Track 1 只退化声学、Track 2 额外退化视觉并引入 3 m 远场，把「哪条模态不可靠」做成独立变量，这种「逐模态退化」的评测分层可以直接借到任何多模态输入的长程任务评测里。其二，多目标评分的组织方式：侵入式指标只在 remix 子集算、非侵入式指标在 mix 与 remix 上都算、识别准确率用 FunASR 假设算 CER、说话人保持用 WeSpeaker 嵌入余弦相似度，最后合成一个排名分——这套「主指标 + 展示项分开、且明确标注哪些不计入排行」的写法，是本频道讨论评测口径时可直接引用的样板。其三，渐进监督的中间目标构造（用 SIR 档位连续插值出「保留多少干扰」的中间标签），与 A 线里按步给中间奖励的思路同构，可迁移到多阶段生成任务的课程设计。与同节其它工作（多教师蒸馏、流式压缩、决策头）相比，本篇既不涉及表征学习也不涉及生成，差异在于它提供的是「真实退化条件下的多指标评测分层」这一方法论资产。 130
结论建议：建议只读第 4.2 节的评测协议段与 Table 1、Table 2。引用时必须限定三点：其一，所有数字都是 ISCSLP 2026 真实场景挑战赛两轨的官方测试集成绩，样本量分别为 4,257 与 4,941 条，不可外推到其他 AVSE 基准；其二，表 1 的 OVRL 是赛事排名分、原文注明「越小越好」，与同表越高越好的 DNS-OVRL 不是同一列，也与 SI-SDR、PESQ 方向相反，转述时不能混用高低表述；其三，消融结论仅来自 Track 2 开发集、且仅两个整块对照，不能据此断言某一模块的独立贡献。 130
8. 四教师多属性蒸馏：单个 w2v-BERT 2.0 共享编码器同时承载语义、说话人、语种与情感，VoxCeleb1-O 的 EER 0.915% 仅比单任务学生高 0.016 个百分点
Learning Speech Attribute Representations via Multi-Teacher Distillation · arXiv:2610.21941 · 值得扫读
研究问题与核心方法：一段话里同时带着词汇内容、说话人身份、语种、情绪与其他副语言特征。以往两类做法各走一边：语义语音嵌入（SAMU-XLSR、SONAR、SENSE 等）靠教师—学生蒸馏把语音对齐到多语句向量空间，副语言属性（说话人、语种、情感）则各自训练专用编码器；部署时于是要并排跑好几个专用编码器，重复算力且无法共享语音的公共结构。最新的多教师后训练已证明语义与说话人两种属性可以共存于同一个自监督（SSL，self-supervised learning）语音编码器，但扩到四种是否仍成立尚未验证——不同属性在不同抽象层涌现，监督信号来自不同数据集与不同教师，直接叠加可能引发优化冲突与表征互相干扰。作者提出的框架用一个共享 SSL 编码器（以 w2v-BERT 2.0 初始化）加四条属性专属分支，分别蒸馏语义、说话人、语种、情感四类表示。每个分支对编码器各层做可学习的插值：先给第 ℓ 层一个标量分数 s，经 softmax 归一化成权重 α，再把投影后的各层表示加权求和，接单头自注意力池化与投影层，最后与冻结教师表示做余弦蒸馏损失。两个关键机制是：其一，每条分支学自己的层聚合策略，而不是所有属性共用固定层；其二，用「增益式」损失加权——先在单任务设定下训一个只保留该分支的学生，取 g = 首轮验证损失 − 最低验证损失，再按 λ = g / Σg 归一化分配权重，权重在多教师训练前估计一次即固定，不引入额外优化变量。四个教师全部冻结：语义用 BGE-M3 文本编码器（有转写时）或 SENSE 语音编码器（二者共享同一语义连续空间），说话人用 VoxCeleb 上训练的 ECAPA-TDNN，语种用 VoxLingua107 上训练的 ECAPA-TDNN，情感用 emotion2vec-base。作者来自阿维尼翁大学 LIA 实验室。 131
关键结果：
- 说话人验证（VoxCeleb1-O；EER 即 equal error rate、等错误率，越低越好；minDCF 在 Ptarget=0.01、Cfa=Cmiss=1 下计算）：ECAPA-spk 教师 EER 0.899%、minDCF 0.001104；同为该架构的单任务学生 SPK-only 也是 0.899%、minDCF 0.001207；四属性联合模型 0.915%、minDCF 0.001229，即 EER 绝对上升 0.016 个百分点。
- 语种识别（VoxLingua107，分类错误率）：ECAPA-lang 教师 6.58%；LANG-only 学生 6.83%；多属性模型的语言分支 7.02%（比 LANG-only 高 0.19 个百分点、比教师高 0.44 个百分点）；但把该模型的语言与语义两个分支合并后降到 6.39%，低于教师的 6.58%。
- 多语种语音检索（VoxPopuli 语音对语音 Recall@1，越高越好）：以 fr-en 为例，SENSE 教师 96.55%、SEM-only 学生 94.05%、多属性模型 95.19%；da-hu 一列则是 92.63%、90.73%、88.46%，多属性模型反而最低。多数语对（如 es-en、ro-en、en-ro）多属性模型高于 SEM-only 学生，但整体仍未追平教师。
- 跨语种泛化（FLEURS，Recall@1）：my-en 一列 SENSE 教师 14.11%、SEM-only 19.11%、多属性模型 20.59%；ny-ces 一列则是 27.00%、29.04%、25.37%，多属性模型低于另外两者。作者称总体「competitive」，并指出多属性监督在 VoxPopuli 上可起正则化作用。
- 情感识别（SER，未加权准确率 UA）：原文以雷达图（Fig. 2）逐个数据集给出 emotion2vec-base 教师、EMO-only 学生与多属性模型情感分支的对照，未列表格数值；作者的结论是多属性模型在多数数据集上追平或超过另两者。
- 分层分析：多属性模型里语义分支主要依赖中间层（权重峰值在 12–14 层），说话人与语种权重分散在更宽范围，情感分支更依赖早到中层。与单任务学生对比可见重排：SEM-only 学生把更多权重放在末层，而多属性模型的语义分支转向中间层。 131
证据与局限：训练数据为 Common Voice 19（BGE-M3 支持的 83 种语言，8,205.92 小时）加 31 个情感数据集的汇总（92.59 小时），合计 8,298.51 小时；共享编码器用 Adam、学习率 10⁻⁵ 微调，任务模块用 Adadelta、初始学习率 1.5，批大小 14，共 17,613 次迭代，用 32 张 H100 训练。规模与算力交代得比较具体，但证据强度有若干折扣。第一，四类任务都只在单一基准上评测（VoxCeleb1-O、VoxLingua107 开发集、VoxPopuli/FLEURS、若干情感数据集），各类都只报一个数，没有种子数、置信区间或误差棒。第二，情感结果没有表格数值，只有雷达图，无法核算具体差距。第三，四个教师模型的来源与规模只给到名称与训练集（VoxCeleb、VoxLingua107），BGE-M3 与 SENSE 共享语义空间的说法依赖前作，原文未在本篇重新验证。第四，增益式权重依赖单任务阶段的学习增益，原文未给出四个 λ 的具体取值，也未与不确定度加权、GradNorm 等动态加权做数值对照，只说明「避免额外优化变量与训练不稳定」。第五，原文没有独立的局限章节，也没有公开代码或模型仓库；实现基于开源的 SENSE 实现与 SpeechBrain，但未给出具体提交点。 131
与目标研究线的连接点：属 C 线的邻近件（语音表征），对应「语音/音频的评测、数据与表征」这一支。可搬走的有三项。其一，「属性专属层聚合」这一机制：用一个可学习 softmax 在所有编码器层上做插值，把「哪种信息在第几层」变成可读出的量，本频道若要分析某个音频模型内部表征的分层分布，这是现成的探针设计。其二，增益式静态损失加权（先用单任务跑出学习增益、再按比例固定权重），它把多目标平衡从「在线调权重」换成「离线一次估权」，在自进化/多技能库这类多目标长期训练里可以直接借用，且比 GradNorm 之类少了在线开销。其三，异质数据源的采样重平衡（沿用 SAMU-XLSR 与 SENSE 的采样权重做法），是把不同标注体系的数据混进同一训练流的可复用流程。与同节其它工作相比：它与流式压缩、决策头论文的差异在于对象是「表征」而非「编码/判决」，与本单元的 CF-AVSS 相比则同样不是生成任务。 131
结论建议：重点读第 III 节（III-A 层插值、III-B 增益加权）与 Table IV、Table V，分层结论看 Fig. 3 与 Fig. 4。引用时必须限定：四个任务的数字分别对应各自基准（VoxCeleb1-O、VoxLingua107、VoxPopuli/FLEURS、情感数据集合集），不能互相换算；「单一编码器可承载四种属性」的结论建立在「性能接近单任务学生」之上，语义检索在部分语对上仍未追平教师（如 da-hu 一列），引用时不要写成全面超越；情感一项原文只给雷达图，不要给出未经原文支持的百分数。 131
9. StreamLSC 帧级流式学习语音压缩：对非流式 FunCodec 省下 51.37%（ViSQOL）与 53.99%（PESQ）的 BD-RATE，MUSHRA 均分 92.8 逼近参考 95.3
Frame-Wise Streaming for Efficient Learned Speech Compression · arXiv:2610.21998 · 邻近跟踪
研究问题与核心方法：实时通信与星上通信要求编解码器逐帧工作、不看未来上下文，于是对骨干网络与量化/熵编码模块都施加了严格的因果约束。既有流式神经编解码器几乎都靠矢量量化（RVQ 一类），因果性天然满足但率失真（RD，rate–distortion）表现受限；熵编码类神经压缩模型靠概率隐变量建模效率更高，却依赖全序列上下文而难以流式。作者提出的 StreamLSC 想在严格帧级因果下同时拿到长上下文建模与熵编码。三块基础组件是：边界缓存因果卷积（BCC，Boundary-Cached Causal Convolution），为核大小 K 的因果卷积缓存上一帧最后 K−1 个时间单元，与当前帧拼接后再卷积，首帧用反射填充初始化以与离线卷积数值等价；帧内层归一化（Intra-Frame LayerNorm），把归一化限制在单帧内、在特征与时间维上聚合，替代会引入非因果全局统计的 GroupNorm，且不跨帧存状态；以及 RNN 模式的 RWKV，把注意力改写为显式状态递推，训练用可并行的 GPT 模式、推理用递归的 RNN 模式，两种模式数值等价，复杂度从二次降到线性。在此骨干上接一个帧级可流式熵模型：先抽辅助特征 z，用它预测通道组级的 Gaussian 参数 (μ, σ)，再以通道组自回归编码压缩编码器输出。整套设计保证因果与数值等价，可离线训练、免改参数直接流式部署。作者来自上海交通大学信息与电子工程学院。 132
关键结果：
- 客观指标（LibriTTS 官方划分）：相对非流式离线模型 FunCodec，本模型取得 BD-RATE（Bjøntegaard 码率差）节省 51.37%（ViSQOL）与 53.99%（PESQ），原文以负号写作 −51.37%、−53.99%；同码率下相对同一基线的 BD-ViSQOL +0.2154、BD-PESQ +0.5156。
- 主观指标：MUSHRA 听测 15 名评分者，素材取自 LibriTTS test-clean 与 test-other 各 6 条 12 秒片段。本模型在 1.1 kbps 下均分 92.8，参考（reference）为 95.3，中位数 100、四分位区间 [89, 100]；对照的 OPUS 为 40.0。
- 与同类神经编解码器比较：本模型优于 DAC；在 1000 bps 超低码率下与 BigCodec（159M 参数）相比表现相当；SpeechTokenizer 在这两项指标上较弱，作者归因于它面向语音语言模型设计，第一层 RVQ 编的是语义级表示，未充分保留细粒度声学细节。
- 帧长消融（ViSQOL）：80 ms 4.8257、160 ms 4.8283、320 ms 4.8315、640 ms 4.8319，说明最短的 80 ms 帧仍能保持高质量。
- 训练策略消融：全程带判别器的完整 GAN 训练为 3,529.00 bps、ViSQOL 4.4500、PESQ 3.1800；两阶段 GAN 训练为 3,377.29 bps、ViSQOL 4.5398、PESQ 3.1780，即码率更低、ViSQOL 更高而 PESQ 基本持平。
- 运行时（RTX 4090）：模型 149.2M 参数，实时因子 RTF 为 0.0539（5.39×10⁻²）；对照 FunCodec 5.45×10⁻³、EnCodec 4.695×10⁻³、DAC 6.367×10⁻³、BigCodec 1.504×10⁻²。推理侧 STFT 跳长 160 采样，首段 1,630 采样（16 kHz 下 80 ms），其后每帧 1,280 个新采样并前置上一帧末 350 个采样。 132
证据与局限：数据集单一且规模有限——全部实验只在 LibriTTS 上做（高质量朗读语料），没有噪声、远场、音乐或多语种条件，因此「实时/星上通信」这一动机对应的真实信道条件并未被评测。主观测试规模为 15 名评分者、每类 6 条 12 秒片段，原文未报告评分者一致性、置信区间或筛选流程。BD-RATE 的两个数只对 FunCodec 这一个参照系，BD-ViSQOL/BD-PESQ 也是相对增益，不能当成绝对质量指标。Table III 的 RTF 对照里，本模型 RTF 比所有基线都高一个量级（0.0539 对 5.45×10⁻³ 等），作者只说「capable of operating in real-time」，未展开与流式基线的时延对齐比较，因此「流式」这一主张的延迟端证据弱于质量端证据。消融只有帧长与两阶段 GAN 两项，缺少 BCC、帧内层归一化、RWKV 三个组件的逐项移除实验，因果等价性也只在文中论证而未给数值验证表。另需注意，摘要与结论给出的 BD-RATE 符号写作负值（−51.37%、−53.99%），引用时应统一表述为「节省」。演示页实测可访问（HTTP 200，页面标题与论文题名一致）。 132
与目标研究线的连接点：属 C 线的邻近件，可迁移的是「语音表征的率失真与因果约束」。对本频道而言有价值的是三点。其一，长上下文与严格因果并不必然冲突这一结论的构造方式：用边界缓存让卷积拿到完整感受野、用双模式等价的 RWKV 把注意力换成状态递推、用帧内归一化避开全局统计，这套「把非因果算子逐个改写成带状态算子」的方法论，可以直接搬到需要流式处理的长程智能体上下文管理（滚动记忆的因果化改写）。其二，训练—推理等价（序列训练、逐帧推理，无需训练时对齐流式）的做法，是低延迟系统里避免「离线训练、在线退化」的常用技巧。其三，两阶段 GAN 训练（先只优化失真、最后 10 个 epoch 才引入判别器）这类分阶段训练调度，与其它生成任务的稳定性调参可互相参照。与同单元的 CF-AVSS 相比，两者都在做语音前端但目标不同（分离 vs 压缩），与多教师蒸馏相比则一个在表征、一个在编码。 132
结论建议：建议读第 III 节三小节（帧内层归一化、RWKV 状态传播、边界缓存因果卷积）与 Fig. 3 的 RD 曲线、Table I 至 Table III。引用时必须限定三点：其一，客观与主观结果都只在 LibriTTS 上取得，不能外推到真实通信信道；其二，BD-RATE 与 BD-ViSQOL/BD-PESQ 都是相对 FunCodec 的比较量，不是绝对指标；其三，RTF 数字是在 RTX 4090 上的单点测量，且本模型 RTF 高于所列全部基线，谈「实时」时应同时给出这个前提。 132
10. 零比特音频水印的向后兼容：角度多样性损失把链路外 TNR 从 11.3% 提到 99.98%
Backward Compatibility in Zero-Bit Neural Audio Watermarking · arXiv:2610.22296 · 值得扫读
研究问题与核心方法：神经音频水印（audio watermarking：在生成期嵌入不可听信号、事后回收以核验来源）通常把嵌入器与检测器当成绑定的一对来训练和部署，隐含假定部署是静态的。现实中模型会持续换代，而旧内容仍在流通；欧盟 AI 法案第 50 条及其行为准则更进一步要求替换检测器时必须向后兼容、不损失对旧标记内容的检出能力。作者是 DeepMark 团队。论文首次把零比特水印（zero-bit watermarking：只判定「是否含水印」、不携带载荷）的向后兼容形式化：把新检测器必须继续支持的旧嵌入器序列 E₁…E_{v−1} 称为旧版链（legacy chain），要求新检测器同时满足三条——检出链内所有嵌入器的水印、拒绝未加水印音频、拒绝链外嵌入器（包括将来才出现的新版本，以及被吊销的版本）。第三条即「版本边界」，是「某个嵌入器泄漏后可以吊销」的前提。方法上，嵌入器在短时傅里叶变换幅度谱的 [500,4000] Hz 带内加水印并用原相位逆变换重建；沿用 SilentCipher 的最大感知失真硬约束，把所有权重压在同一感知质量（PESQ，Perceptual Evaluation of Speech Quality，语音质量客观评分，4.3–4.5），于是可以只看检测精度；检测目标用 AWARE 的 push 损失（在检测均方误差之外拉开有水印/无水印帧的间隔）。版本 v>1 时新检测器每次迭代按性能加权采样（温度控制 softmax，k=8，偏向表现最差的旧嵌入器）从链中抽一个嵌入器做前反向。作者指出训练会出现「嵌入器塌缩」：新嵌入器为了压低检测损失，残差会漂向冻结的旧嵌入器残差分布，版本边界消失。为此引入角度多样性损失 ADL（借鉴 ArcFace 的加性角度间隔，但去掉可学原型、改用每步重算的批均值中心，且只对新嵌入器输出施加间隔，m=0.1、s=8），两个损失用类 GradNorm 的逐步梯度范数归一化来配平。 133
证据与局限：8 个版本、2 个架构家族（DenseNet+ResNet 与 ViTMAE+AST），版本演进沿「激活函数轮换」与「容量阶梯」两条轴设计，并人为设置了 v₄→v₅ 的家族切换点，笼统说是单一数据集（Common Voice 训练，LibriSpeech/LJSpeech/Common Voice 混合测试）上的合成实验。感知质量用 PESQ 4.3–4.5 的硬约束对齐，没有做主观听测或更宽的音频域。每个版本只训练一次，原文未报告多种子、置信区间或误差棒。作者自陈把对抗攻击下的鲁棒性与多比特扩展留作未来工作，攻击加固也不在本文范围内，因此「TNR ≥98%」只在无对抗扰动的常见信号处理攻击下成立。引用风险：11.3% 与 99.98% 都是这套自建版本序列上的均值，不能当作任意水印系统的通用数字；第三方互测只覆盖 AudioSeal 一个模型。原文未见公开代码或权重入口。 133
与目标研究线的连接点：本文不生成音频也不评测生成音频，属邻近跟踪。可搬走的是「版本边界」这一机制设计：把「必须接受的旧版本」「必须拒绝的版本外对象」「必须主动拒绝的已吊销对象」显式拆成三个目标，并用一个显式的多样性项防止新模型向旧模型塌缩——在 A/B 线里，这套结构对应技能库或模型版本演进时的兼容与撤销问题（保留旧能力、拒绝伪造、泄漏后可下架），而性能加权采样（按最弱旧版本加权）也直接可移植到「多版本兼容训练」的批次构造。与同节其它音频工作相比，它给的是版本治理与失效模式，而不是能力提升。 133
结论建议：建议读第 3 节的目标定义、第 4 节的三个组件（性能加权采样、ADL、梯度归一化）、第 6 节的 Figure 1 与 Figure 2 对照、Table 2 的相似度分箱和 Table 3 的吊销实验，以及第 7 节的逐攻击表。引用时须限定：数字来自 8 个自建版本与两个架构家族；TNR 是在 τ=0.99 与无对抗扰动条件下测得的；「100% 拒绝第三方」只对 AudioSeal 成立。 133
十、全双工对话、话轮与语音交互
1. initiative vector：全双工语音模型 32 层残差流中的单一方向，在 L30 注写把说话占比从 6–12% 推到 42–61%，5 分钟参考录音即可迁移个人话轮风格
Reference-Guided Turn-Taking Style Transfer for Full-Duplex Spoken Language Models · arXiv:2610.20763 · 精读
研究问题与核心方法：全双工语音语言模型逐帧决定是否接话，这个逐帧的主动性合起来定义了一种「对话人格」（急性子或耐心、爱插话或爱退让），而每一组权重只编码一种。应用侧需求各异（辅导类应主导、陪伴类应倾听），人类说话者本身就分处默认风格两侧，因此任何一种统一修正都会帮一半人、伤另一半人——作者实测最好的统一剂量与完全不干预无法区分。既有控制手段多从外部动手：基于训练的方法把单一样式写进权重（每种人格一个 checkpoint，受标注集限制，且以时序本身为奖励时易被投机）；指令式控制不需重训但遵从率有限（作者引用 Instruct-FD 上最好系统只有 64.4% 的时序指令遵从率）；话轮预测器能读出信号却无法作用到模型；激活引导（activation steering）作用在模型上，但既往感知向量是在单个 checkpoint 上以固定剂量设一个二值「听/说」状态，属于修 bug 而非按人调节。作者的贡献是识别出一个可读、可写、可按人标定的量：initiative vector（主动性向量）。提取方式是纯对比、无需训练与标注——取模型自己未受引导对话中它保持静默的那些帧，若模型在随后 800 ms 内开始说话标为正、持续静默标为负，两个类均值之差归一化后即该向量 u。注入位置选在第 30 块（零基索引）的输出，作为模型 32 层时序 Transformer 中「最深的、其扰动仍会被一个完整 Transformer 块处理并写入该块键值缓存」的位置，所以位移能留在后续帧注意到的上下文里；生成时对每一帧做 h ← h + α s u，其中 s 是该投影「倾听态到说话态」的摆幅，使剂量 α 在不同权重间可比。参考引导的迁移把每位说话人浓缩成 5 分钟参考录音的三个描述量：说话占比、每分钟伙伴语音上的重叠起始数、响应概率（伙伴话轮结束即 ≥400 ms 伙伴静默后、在伙伴重新说话之前 3 秒内该说话人起话的比例，该说话人自己说话期间的话轮结束仍计入分母）；用训练参考上各描述量的标准差归一化后算三维距离，取在开发目标上平均距离最小的剂量。作者来自香港中文大学（深圳）、墨尔本大学与 Lulula。 9
关键结果：
- 该方向能提前读出决策。固定的 L30 投影把「800 ms 内起话」的帧与持续静默的帧分开，在 Moshika（基座）、Moshika-RL、PersonaPlex 三个权重上 AUC 分别为 0.818、0.830、0.898；只看两位说话人时序的基线为 0.703、0.646、0.725，本方向分别加上 +0.115、+0.185、+0.172，并在 500 段对话中的 449、497、462 段上领先。增益不来自文本流：在无近期文本 token 的帧上 AUC 仍为 0.806、0.823、0.893，比全集最多低 0.012。
- 接话与让话的峰值深度不同。在 32 个位置上逐层重拟合同类均值对比：起话证据在三个权重上都在最深层最强（400 ms 窗口下 L31 为 0.968、0.898、0.966），让话证据在网络中段达峰后衰减（L26、L22、L19），而「当前是否正在说话」从 L0 起就有约 0.99 的可分性——它存在于输入而非被计算出来。
- 沿该方向注入能定量改变说话量。三个权重上的说话占比随剂量单调上升，依次为：−2a 时 6–12%、+2a 时 42–61%、不引导时 21–30%；重叠起始与响应概率同向变化。同一输入与随机种子下，从 −a 到 +a 分别抬高 20.1、27.4、14.1 个百分点，在 500 段对话中的 480、497、408 段上上升；同类位移下三个范数匹配的随机方向最多只改变 5.6 个百分点，说明效应属于方向而非扰动幅度。同一方向与尺度不改拟合直接用到 CANDOR 语料，分别 +20.3、+33.9、+6.8 个百分点。
- 每位说话人一个剂量即可迁移其风格。参考在自身剂量处平均距离最小，三个权重皆然；换成另一位留出参考的剂量（只要二者不同）会在 92.7%、98.0%、95.6% 的情形下使匹配变差，平均在 568、568、566 位参考上变差。标定后模型说话占比随参考分位同步（Spearman 0.69、0.60、0.78）。
- 增益来自个性化本身。参考分布在每个模型默认值的两侧，最佳统一剂量在三个权重上都与不引导无法区分（95% 区间全部含零）；逐人剂量比它改进 0.129、0.208、0.164 个参考标准差，达到事后最优剂量增益的 93.1%、99.5%、98.1%，在剂量不同于统一值的那批参考中分别有 317/317、257/257、270/289 位严格更近。每个权重十段开发对话即可达到该增益平台。同一位留出参考在三个权重上选出的剂量网格层级相关（Spearman ρ=0.81、0.77、0.70），说明标定的对象是说话人而非某个 checkpoint。
- 实验规模与统计口径：三个权重共享 Moshi 架构，帧长 80 ms；每段对话取一段双人 Seamless Interaction 录音的一侧作为用户流（64 秒，前置 3 秒静音）；方向与基线在 100 段对话上拟合、在每权重固定的 500 段留出对话上评估，并以同一方向与尺度用到 500 段 CANDOR 片段；剂量取 {−2a, −a, 0, a, 2a}，a=0.125（Moshika、PersonaPlex）或 0.25（Moshika-RL）；区间为对目标与参考做的双向自助法（5,000 次重采样，按对话类型分层，剂量固定）；迁移在 550 个目标、568 位留出参考上评估，取三个种子平均。 9
与目标研究线的连接点：直接命中 C 线的「全双工对话与话轮控制」支，且是全单元中对该支最有决策价值的一篇。可搬走的有四项。其一，把「行为倾向」表示为单一残差方向并同时用于读取与注写这一范式：读取用内积做在线探针（可做门控或告警），注写用同一方向做连续剂量控制，一个向量同时承担诊断与干预两种角色，这对 A 线里「运行期按步决定是否检索/是否继续」的门控设计是可直接借用的骨架。其二，定位计算深度的分层重拟合方法：在每一层重拟合同类均值对比并用留出 AUC 评分，从而发现「起话在最深层、让话在中段、当前状态在第 0 层就可读」，这种逐层扫描是回答「这个决策在哪一层算出」的标准手段，也可用作判定某行为是「被计算」还是「直接来自输入」。其三，参考引导的标定协议：把目标风格浓缩成少量可测描述量，在开发目标上按距离选一个全局剂量，并明确列出三档基线（不引导、最佳统一剂量、事后最优剂量），把「个性化是否真的带来增益」做成可证伪的对照。其四，安慰剂对照的具体做法（范数匹配的随机方向、同位移），以及跨权重/跨语料不改拟合的迁移检验。与同单元的其它工作相比，CoSTA 关心的是生成效率、Qwen-Audio-Jev 关心的是判决输出形式，本篇关心的是生成行为的可控性，差异在于它把「风格」从权重里解耦成了一个可标定参数。 9
结论建议：建议通读第 2 节（提取、读写、深度剖面、参考引导迁移四段）与第 4 节，重点看 Fig. 2 的深度剖面与 Fig. 4 的迁移四联图。引用时必须限定：其一，所有数字来自 Moshi 架构的三个具体权重（Moshika、Moshika-RL、PersonaPlex），不可当作通用性质；其二，效应量为「说话占比」等行为描述量的变化，不是听感质量，本篇无人耳评估；其三，风格迁移的匹配度由三维描述量距离定义，换一套描述量可能得到不同结论；其四，「统一剂量与不引导无法区分」是区间含零的未检出结果，不能写成两者等效。 9
2. CoSTA 压缩语音 token 后置适配：Step-Audio 2 mini 上扩展语音 token 生成速度达 1.736×（中文）与 1.659×（英文），全响应时延降 32.8–39.0% 而质量不降
CoSTA: Compressed Speech Token Adaptation for Efficient Spoken Dialogue Models · arXiv:2610.21143 · 值得扫读
研究问题与核心方法：口语对话模型（SDM，spoken dialogue model）通常让自回归生成与语音合成共用同一套语音 token 空间，于是序列很长、推理昂贵，还拖累文本—语音对齐与长上下文建模。降低 token 率要换分词器，往往要连分词器、配套语音解码器与 SDM 一起重训，而且这样做仍然把生成与合成绑在同一个表征上。作者换了个问法：能否在保留原分词器与解码器的前提下，把自回归生成用的 token 空间与合成所需的 token 空间解耦。他们先发现一条经验规律——语音 token 序列存在可观冗余，用 BPE（byte pair encoding，字节对编码）做无损压缩时，压缩率随词表规模近似按 log₂ 线性下降：ρ_c(M) ≈ a_c − b_c log₂(M/10K)，在 8 种分词器配置上 R²≥0.98，跨数据源与语言 R²≥0.994。据此提出 CoSTA（Compressed Speech Token Adaptation），一套兼容性保持的后置适配框架，三步走。（1）词表扩展与均值初始化：在原模型词表里加上 BPE 单元，每个新增单元的嵌入行与 LM 头行取其确定性展开所对应原 token 行的平均，原词表参数不动。（2）发音适配：在压缩后的 TTS 数据上训练，只压目标序列里的语音 token、文本 token 不变；采用渐进策略，第一阶段用一半数据只微调嵌入与 LM 头、冻结其余参数，第二阶段用另一半数据解冻中间层。（3）对话适配：在压缩后的语音对语音对话数据上继续训练，只更新 LLM 参数，语音编码器、适配器与语音解码器全部冻结。推理时只在未改动的语音解码器之前插入一次轻量的确定性展开：原本就是原 token 的保持不变，每个新增 BPE 单元展开回它对应的原 token 序列，于是自回归步数变少而合成接口完全不变。作者单位为中国科学院自动化研究所与中国科学院大学。 134
证据与局限：主模型为 8B 的 Step-Audio 2 mini，语音 token 用 25 Hz 的 S3Tokenizer V2；发音适配各取中英文 300 小时 Emilia 语音并用 Seed-VC 统一音色，对话适配每语言约 5 万条语音对话样本（沿用 OpenS2S 构造，助手语音由 CosyVoice 2 以固定音色合成）；词表扩展只增加嵌入与 LM 头行，约为原模型参数的 6%。实验设计上有一处值得肯定：Vanilla-FT 用同一份适配数据与同一套训练配置但保留原 token，把数据规模与训练量控住，从而把效应归因到 BPE 压缩本身，这是很强的对照。局限与引用风险有五点。其一，对话适配数据全部是合成语音对语音样本（助手侧由 CosyVoice 2 合成），作者自己把这点列为第一条局限，因此「质量不降」是在合成分布上验证的。其二，效果高度依赖对话适配：去掉它 G-Eval 从 72.27 跌到 24.35（Table 4），说明这套方法并非即插即用，仍需一轮对话数据上的再训练，后置成本不可忽略。其三，自动质量只报 URO-Bench 汇总值，Table 3 里各基准列的 G-Eval 未逐项核对，且 UTMOS 在所有变体间基本持平（3.74–3.77 中文、4.46–4.54 英文），语音质量本身没有改进。其四，压缩率被定义为「生成序列长度 / 展开后长度」，与 Bard 引擎侧的 ρg 在 Table 1 与 Table 3/4 中略有出入（如 CoSTA-ZH 在表 1 为 66.81%、消融表为 66.73%），引用时须指明出处表号。其五，系统侧收益只在单卡 A100 80GB、并发 1/4/8 的 vLLM 设定下测量，首包时延另见附录未在主文展开。代码仓库实测可访问（HTTP 200，仓库题为 CoSTA: Compressed Speech Token Adaptation for Efficient Spoken Dialogue Modeling）。 134
与目标研究线的连接点：直接命中 C 线（口语对话模型的生成效率），且带公开代码，是本单元落地成本最低的一篇。可搬走的有四项。其一，「生成空间与消费空间解耦」这一架构思路：只要两端之间存在一个确定性的、可逆的映射，就可以让自回归部分用更短的序列、把展开成本放到非自回归的一侧，这对任何「生成一段序列、下游按固定格式消费」的流水线都适用。其二，压缩率随词表规模近似 log 线性的经验规律及其拟合口径（R²、跨配置一致性），是给「加词表值不值」这类决策做定量依据的现成模板。其三，词表扩展的均值初始化（新单元的行取对应原 token 行的平均）与渐进式解冻（先只训嵌入与 LM 头、再解冻中间层），在需要给既有模型加新符号或新技能的持续学习场景里可直接照搬。其四，评测的对照设计——保留原 token 的同数据同配置微调作为匹配基线，把「是压缩带来的收益还是多训练带来的收益」分离干净。与同单元其它工作相比：Reference-Guided Turn-Taking 管的是生成行为的可控性，本篇管的是生成效率与序列长度；两者都不改合成接口，可组合。 134
结论建议：建议读第 2 节（BPE 无损压缩与 log 线性规律）、第 3 节三步适配、以及 Table 1 与 Table 2（效率）和 Table 4（组件消融）。引用时必须限定三点：其一，主结果都在 Step-Audio 2 mini 8B 上取得，跨架构证据只有 OpenS2S 一个额外例子；其二，「质量不降」的对照是同一批合成对话数据上训练出的 Vanilla-FT，不等于相对基座模型的通用质量优势；其三，效率数字要标明测量条件（单卡 A100 80GB、vLLM、并发 1/4/8 或流式推理），压缩率数字要标明出自哪张表。 134
3. Qwen-Audio-Jev 用单一决策头统一 Choice/Noul/Score：MMAU-mini 78.70%、MMSU 84.06%、VoxCeleb1-O 的 EER 6.50%、NISQA 归一化 MAE 0.1062，推理加速约 20×
Qwen-Audio-Jev: A Unified Interface for Audio Decisions · arXiv:2610.21614 · 邻近跟踪
研究问题与核心方法：音频里同时装着语言内容、说话人特征、表情与声学事件，很多应用要的却是「有界输出」——一个类别、一个是非判断、或某个刻度上的一个数。大音频语言模型（LALM，large audio language model）走的是自回归文本生成，在这类高频、大批量的选优/判定/打分场景里要付额外的算力与响应时延，生成的文本还得先解析校验才能被下游软件消费。作者在 Qwen-Audio-3.1-ASR-Flash-Next 的基础上加一个专用决策头，保留其「音频编码器 + 音频到语言的适配器 + MoE 语言解码器」的表征通路，只在解码器的「答案前隐状态」处读出一个有类型的判决。给出音频、自然语言问题与显式答案规格后，头部通过三种决策原语输出结果：Choice（选择，在给定的有序候选里给出概率分布并取出选中项）、Noul（是非判断，估计某个二元命题为真的概率）、Score（打分，在有序等级上给出分布并计算期望等级）。三个仿射投影共用同一个输入条件状态，由请求的原语决定激活哪一个；Choice 与 Score 用固定容量索引投影，候选数或等级数更少时只用有效位置的 logits 参与归一化，未用位置被排除，输出索引的含义由问题自带的答案规格给出，而非固定的全局类词表。读出位置取问题条件前缀的最后一个 token（任何目标答案 token 之前），因果注意力因此使决策状态在训练时无法看到金标答案。训练分两段：监督微调阶段把异质数据统一成「音频—问题—判据—目标」格式，每条样本只对它有可靠标注的那个原语贡献损失；其中 Choice 用类别交叉熵（并把候选项随机打乱以抑制位置依赖），Noul 用二元交叉熵（支持分数标注），Score 用「交叉熵 + 累积分布项 + 期望值平滑 L1 项」的组合，权重设为 λ_cdf=0.25、λ_mean=0.10。其后是一个校准导向的强化学习阶段（RLCD，reinforcement learning for calibrated decisions），把每道题建模成一步上下文赌博机，从策略分布一次前向采样 M=32 个动作（ε=0.05 的探索行为策略），用 Brier 与排序概率评分规则构造标签驱动的组奖励，并减一个留一基线后做策略梯度更新，使预测概率的校准而非仅正确率被优化。作者为阿里巴巴集团 Token Foundry。 135
关键结果：
- Choice（准确率）：CochlScene 77.87%、NSynth 乐器识别 72.29%、NonSpeech7k 人声非语音识别 92.69%、DiDiSpeech 性别分类 100.00%、MELD 对话情绪识别 57.31%、MMAU-mini 78.70%、MMSU 84.06%、MMAR 69.90%（原文摘要写作 MMAU-mini，表 2 的行名简写为 MMAU）。性别分类与人声非语音识别都超过 90%，MELD 最弱；作者指出识别能力的落差不是简单的「语音 vs 非语音」之分，而是会话情感的辨别弱于说话人属性与发声事件身份；三个音频问答基准里 MMSU 最好、MMAU-mini 次之、MMAR 最低。
- Noul（准确率 / EER / AUC / Brier / FPR / FNR，FPR 与 FNR 取 0.5 阈值）：VoxCeleb1-O 93.54% / 6.50% / 0.9823 / 0.0487 / 7.32% / 5.59%；Clotho-AQA 79.89% / 19.83% / 0.8787 / 0.1464 / 14.41% / 24.49%；PodSarc 98.27% / 1.44% / 0.9952 / 0.0164 / 2.17% / 1.21%；In-the-Wild 音频深伪检测 76.32% / 20.95% / 0.8763 / 0.1581 / 3.78% / 57.29%。作者特别指出 Clotho-AQA 与 In-the-Wild 的 AUC 几乎相同（0.8787 对 0.8763）、EER 都在 20% 左右，但后者在 0.5 阈值下漏掉 57.29% 的正例，说明概率空间的可分性与选定工作点上的误报/漏报平衡是两个不同的侧面。
- Score（MOS MAE / 归一化 MAE / Pearson / Spearman）：NISQA 整体质量 0.4246 / 0.1062 / 0.8210 / 0.8074；NISQA 噪声 0.5845 / 0.1461 / 0.7361 / 0.7229；NISQA 染色 0.3454 / 0.0863 / 0.8099 / 0.8081；NISQA 不连续 0.4306 / 0.1076 / 0.8009 / 0.7254；NISQA 响度 0.4370 / 0.1092 / 0.7282 / 0.6900；VoiceMOS 合成语音 0.8135 / 0.2034 / 0.7231 / 0.7538。作者指出响度一项的 MAE 与整体质量接近但 Pearson 更低，说明「平均误差小」与「与人类评分的线性关联强」是互补的两件事；VoiceMOS 的相关性为正但 MAE 高于所有 NISQA 维度。
- 效率：相对原始 Qwen-Audio-3.1-ASR-Flash-Next，作者称在其实测推理设定下获得约 20× 加速。评测共覆盖 18 个标注配置（8 个 Choice、4 个 Noul、6 个 Score）。 135
证据与局限：覆盖广度是它的长处——三类原语、18 个配置、既有分类与问答也有验证与质量打分，且 Noul 一项同时报准确率、EER、AUC、Brier、FPR、FNR 六个角度，概率分类器的评估口径给得比较完整。但证据强度有几处明显缺口。第一，全文没有与任何基线的同表对照：摘要与结论都说「comparative gains…require further evaluation」，四个外部模型（Qwen2.5-Omni、Kimi-Audio、GLM-4-Voice 等）只在别处作为参照出现，本表的 18 个配置都是单点成绩，读者无法判断决策头相对「让骨干模型直接自回归回答」是否更好——而这恰恰是这篇的立论前提。第二，约 20× 的加速没有给出测量条件（硬件、批大小、并发、序列长度、被比较的基线输出长度），无法复核，也无法判断加速有多少来自「不需要自回归解码」、多少来自额外头的开销。第三，作者自己强调「产生概率本身不等于校准，概率质量须单独评估」，但主文未给出校准曲线、可靠度图或 ECE 一类指标，RLCD 阶段的效果也没有与只用 SFT 的 checkpoint 做数值对照。第四，多题请求需要多次前向，文档明确说明不应把三个读出理解为一次前向同时评估所有问题，这限制了「统一接口」在高吞吐批处理下的实际加速比。第五，MoE 解码器配置（40 层、隐维 2048、256 个路由专家、每 token 选 8 个）只是实验 checkpoint 的配置，训练数据规模、算力与超参未报告；原文没有公开代码或模型入口。 135
与目标研究线的连接点：属 C 线中「用模型替代人工/规则打分」的一支，也可视为判官效度问题的一个工程解法。可搬走的有三项。其一，把「有界输出」从自然语言生成里拆出来的接口设计：用显式答案规格（候选描述、二元命题、带序等级）约束输出空间，在答案前隐状态上做仿射读出，使输出天然带概率且不需要解析——这对 A 线里「判官输出要不要可信、要不要可解析」的讨论是一个具体选项。其二，Score 头把有序性问题拆成三项损失（分布交叉熵、CDF 位移惩罚、期望值平滑 L1），是把「等级」既当类别又当数值的折中做法，可直接借到任何有序评分的评测模型上。其三，用组采样奖励优化校准（Brier 与排序概率评分规则 + 留一基线）的思路，与 B 线里「用奖励塑形行为」的机制同源，且这里的目标不是正确率而是概率质量，可作为一个反例对照：不是所有奖励都该对准确率。与同单元其它工作相比，本篇既不生成语音也不做话轮控制，差异在于它的对象是判决与打分本身；与本单元 CF-AVSS 的评测口径讨论相比，它提供的是「自动评测模型」而非「评测协议」。 135
结论建议：建议读第 2.2–2.3 节（决策头与三种原语的输出定义）与第 4.2 节三张结果表，以及第 3.2 节的校准奖励构造。引用时必须限定四点：其一，这 18 个配置都是单点成绩，原文未与任何基线同表对照，不能表述为「优于自回归回答」；其二，约 20× 的加速未报告测量条件，只能引作作者陈述；其三，各任务的数字分属不同基准与不同指标方向（EER、MAE、Brier 越低越好，AUC、Pearson、Spearman 越高越好），转述时不可混排；其四，论文自陈校准与部署效率「需要进一步评估」，不要引用它作为「概率已校准」的证据。 135
十一、邻近跟踪：叙事、脚本与长内容生成
1. 83 部非线性叙事基准：19 个模型自由叙事时 τ=0.638，全部比原作更按时间顺序；指定结构仅 47.9% 落入人类区间，读者 76% 更偏好其默认顺叙版本
Can LLMs Tell Stories Out of Order? A Corpus and Benchmark for Nonlinear Narrative Generation · arXiv:2610.21468 · 精读
研究问题与核心方法：每个故事有两个顺序——事件实际发生的顺序（fabula）与被讲述的顺序（syuzhet），两者不同即为非线性叙事。既有故事生成研究把讲述顺序处理得相当隐性：它被规划、被提示，却很少被完整记录，于是「什么算一次揭示」「什么算一个悬念」这类判断根本无从谈起——只有当解释在其所解释的事件之后被讲述时，它才算一次揭示；只有当答案在一个问题之后到达时，那个问题才算被悬置。作者因此构建了一个把两种顺序都记下来的基准：83 部已发表作品（73 部非线性、10 部以顺叙为主），涵盖七种叙事形态（chronicle 以顺叙为主、retrograde 场景逆序但场景内正序、analepsis 主线被闪回打断、prolepsis 主线被闪前打断、zigzag 两时期相关场景规律交替、syllepsis 无主线而按地点/人物/主题/物件分组、achrony 无一致排序规则）；每部作品给出一份 12–20 个关键事件的清单，事件句子自足，可在时间顺序或原作讲述顺序下同样通读，并配一张手工标注的故事图（story graph）——节点记录世界状态与人物/读者知识，带类型的边记录因果关系（CAUSES 1,330 条）、共享（SHARES 1,397 条）、伏笔（FORESHADOWS 444 条）与揭示（REVEALS 307 条），后者从「解释」指向「被解释的事件」并绑定一条读者问题线索（共 657 条）。基准含五个任务：T1 给定按时间排序的事件、要求实现某个指定形态；T2 同样输入但不给形态指令；T3 给原作讲述顺序、要求还原时间顺序；T4 要求判断形态类别；T5a/T5b 写 550–750 词的故事（带形态指令 / 不带）。评测口径上，作者用 Kendall τ 衡量「讲述顺序与时间顺序的一致度」（+1 为完全顺叙、−1 为完全逆序），用归一化最长递增子序列（LIS）衡量「按时间顺序讲述的事件比例」，并把「band hit」定义为 τ 与 LIS 同时落在该形态金标讲述的最小—最大范围内。作者另用 Gemini 3.1 Pro 做偏好判官与散文对齐器，并组织 71 名读者给出 3,528 条盲评。作者单位为孟加拉国伊斯兰理工大学、美国犹他大学与南加州大学。 10
关键结果：
- 不被指挥时，模型一律把故事讲得更顺。T2 上 19 个模型的合并讲述顺序为 τ=0.638、LIS=0.796，而人类语料均值为 τ=0.456；模型间差异很大（0.480–0.808），但全部 19 个都比同作品的已发表讲述更按时间顺序，其中最不顺叙的 Llama 4 Maverick（0.480）也高于语料均值（双边符号检验，p=3.8×10⁻⁶）。散文比置换更顺叙（τ=0.989），8 个模型里有 3 个把每篇故事都写成完全顺叙。不给形态指令时只有 1.8% 落在原作品标签所在区间。
- 被指定形态时，模型按字面照做。T1 的合并 band hit 为 47.9%（各模型 28.9–60.2%，最高为 Gemini 3.1 Pro 的 0.602），随机置换为 8.4%。格式不是瓶颈（99.5% 是合法置换、97.6% 保持场景连续），失败的是结构选择。两种形态几乎完全落空：retrograde 1.1%、chronicle 5.3%，原因是 93.6% 的 retrograde 输出就是精确逆序（τ=−1）、88.9% 的 chronicle 输出就是精确恒等；而已发表的十部同类作品分别止于 τ∈[−0.92, −0.43] 与 [0.62, 0.97]。差别在场景层面：已发表的 retrograde 讲述把跨场景事件对的 94.0% 逆序、场景内事件对的 0.0% 逆序，被指挥的模型则是 98.8% 与 98.0%。作者把这一现象称为 over-compliance（过度遵从），认为是规格效应：提示把两种形态写成对事件秩的规则、且未标注场景与同时性，模型就返回该规则的唯一解。剔除这两种形态后合并 band hit 升到 62.1%。两个无模型基线支持这一解读：把场景逆排、场景内正序（正是 band 所编码的实践）在 10 部作品中的 6 部落入 retrograde 区间，而恒等置换在 chronicle 区间是 0/10。依赖判断的形态（zigzag、prolepsis、analepsis）达到 68–83%；achrony 则因过度打乱失败（τ=0.171，人类为 0.363）。
- 还原时间顺序在删掉讲述后仍几乎不变。T3 合并 τrec=0.743（各模型 0.409–0.892）。作者用「删掉讲述、只给乱序事件」的强求解器作无故事地板线：三个强求解器达到 τ=0.849，而带完整讲述为 0.884，即讲述只值 +0.035 τ；19 个模型中只有 7 个越过这条强求解器地板线。把日期等显式时间锚点从 6.3% 的事件删到 0.7% 后，地板线只移动 −0.005 τ。地板线解释了 τ 分数的 96.1%，却只解释精确还原的 42.1%；逐对准确率上它排对 92.5% 的对（带讲述为 94.2%），而精确匹配从 8.5% 提升到 20.2%。没有任何模型能精确还原一部 chronicle（0%），作者归因于近似顺叙的讲述主要因「同时事件」而偏离，而全序计分把这种偏离一律算作错误。一名真人读者读完生成故事后排序事件的 τ 只有 0.537，而同一批 14 部作品上地板线为 0.833。
- 判定形态与写/读能力的关系。T4 合并准确率 50.2%，最高 79.5%（Gemini 3.6 Flash），七分类随机基线 14.3%、多数类基线 26.5%。错误是系统性的：除 analepsis 之外的五类里有 5 类把 29–46% 的样本判成 analepsis（「主线加闪回」成了模型的兜底答案），achrony 只有 7.1% 被认出。跨模型看，判定形态的能力同时预测另外两项（与 T1 band hit 的 ρ=0.717、与 T3 τrec 的 ρ=0.747），而这两项彼此几乎不相关（ρ=0.088）——写与读是两种不同的技能。
- 故事图带来一点结构收益，但读数取决于仪器。脚手架研究（Table 3）：不给图（G0）τ 0.362、band hit 0.411、与金标讲述一致度 0.554、心理深度量表 PDS 3.85；给完整图（G1）为 0.415 / 0.518 / 0.554 / 4.10；直接给金标讲述顺序（G2，上界）为 0.333 / 0.982 / 0.998 / 3.94。判官认为 G1 胜过 G0（31–14，11 平，p=0.016），PDS 在 5 个分量上全升（3.850→4.096），band hit 从 41.1% 升到 51.8%；但结构增益几乎全部来自 Claude Sonnet 5 一个模型（+0.250 band hit，Gemini 3.6 Flash 为 −0.035，另两个为 0），与金标讲述的一致度完全没动（0.554 对 0.554）。判官把 G1 与 G2 判成 23–22 平手，尽管 G2 在结构上遥遥领先（band hit 98.2%，McNemar p<0.001），而读者在 72% 的有效判定里偏好 G1。五个逐层移除消融全部与完整图打平（判官 p 从 0.50 到 0.83），而读者反而偏好每一个消融版本。
- 读者研究的主结论（71 名读者、3,528 条判定、294 场次）。被指挥的讲述输给同一模型的自由讲述：64–200–30，偏好率 0.242（p<0.0001）；读者 81% 认为被指挥版本更难跟随；结尾一项打平（0.460）。在同一模型的自由讲述面前，读者选择自由版本的比例为 76%；被指挥文本反而更长（747 对 711 词），而更长的文本这次赢了 57%——在词数匹配的配对里，被指挥版本只赢 30%。故事图对讲述顺序：181–70–43，偏好率 0.721（p<0.0001），按词数校正后为 0.707。故事图对事件清单：0.595（p=0.0028），校正后 0.518（不再显著）。故事图对逐层移除：79–180–35，偏好率 0.305（p<0.0001），即读者偏好去掉任一层。判官与读者的一致性只在最大的那个效应上存在，在另外两个比较上判官给出平手而读者分出明显差异。band hit 与读者偏好呈负相关：在恰好一方落入人类区间的 381 条有效判定里，读者只有 34% 选了落入区间的那一方（p<0.0001）；在含条件对固定效应的回归里 band hit 系数 β=−0.58（p<0.0001），而 τ 的系数为正（+0.70）。
- 实验规模与统计口径：19 个模型全部生成于 2026 年 8 月 6–10 日；排序类任务温度 0、低推理强度，散文用 0.7；14 部作品（每形态两部）用于散文与故事图研究；读者研究在 2026 年 9 月 8–17 日进行，71 名读者、3,528 条响应、294 场次，每场四次盲比较加一次细读，其中一对是未告知的换边重复（有效判定上的复现率 93%，全体重复 76%）；区间为读者聚类自助法，配对率用广义估计方程按词数校正，并另报词数相差 40 词以内的配对结果。 10
与目标研究线的连接点：属 D 线邻近件（叙事与脚本生成，本期按邻近处理），但它对 A 线的「评测口径与判官效度」有直接可用的资产，这是它值得精读的理由。可搬走的有四项。其一，「判官—读者并置」的验证协议：在同一批文本、同一句问题上同时收判官与人类判定，并用 κ 或逐项一致率标注判官在哪些比较上漏掉了真实差异（本篇里判官在两个比较上判平手而读者分出 72:28）；这套做法可直接搬到任何用模型做偏好判官的长程任务评测里，成本只需几百条人类判定。其二，「地板线」思想：对任何看起来很难的能力，先用一个不含该能力信息的强求解器（这里是把讲述删掉只留乱序事件）测出可达到的分数，再报告增量；本篇正是靠地板线发现 τrec=0.743 里有 96.1% 与「读讲述顺序」无关，并指出精确匹配才是更灵敏的指标（8.5%→20.2%）。其三，「规格效应」这一发现：把形态写成对事件秩的规则时模型返回规则的唯一解（93.6% 的 retrograde 输出是精确逆序），而人类实践是在场景层面施加规则——这提示评测的失败可能来自提示的抽象层级而非模型能力，对任何用自然语言规格约束长程生成的设计都是重要警示。其四，指标—偏好脱钩的实证：band hit 与读者偏好负相关（β=−0.58），提醒「像不像人类样本」不等于「读者是否喜欢」。与同单元其它工作相比，CoSTA 与 initiative vector 关心生成系统的可控性与效率，本篇关心的是生成内容的评测与判官效度，差异在于它把「评测仪器本身」当作研究对象。 10
结论建议：建议通读第 3 节（语料与故事图定义）、第 5.1–5.5 节，重点看 Table 5（论文一览表，明确区分「发现了什么」与「要当心什么」）、Table 6（分形态 band hit）、Table 3（脚手架与消融）、Table 4（读者判定四种比较）。附录同样值得看：附录 J 与 Table 14 讨论过早披露与回溯连贯增益的计分缺陷，附录 L 是全部提示词。引用时必须限定四点：其一，所有模型成绩都来自 2026 年 8 月 6–10 日的托管模型，受固定名称下的版本漂移影响，需标注时间窗；其二，读者偏好结果只覆盖 14 部作品，且读者不是概率样本；其三，band hit、τ、T4 准确率三者难度量纲不同，不能互相排名；其四，「读者偏好顺叙」这一结论建立在自由任务按时间顺序给出事件的设定上，作者自陈未做打乱输入对照。 10
2. CriticaLLM：LLM 全自动主持 D&D 跑团，Judge 评委对 11 类越权攻击的拦截因模型而异，剧情平均余弦相似度高于 0.7
CriticaLLM: Using LLMs as Autonomous Game Master for Tabletop Role-Playing Games · arXiv:2610.21525 · 值得扫读
研究问题与核心方法：Tabletop Role-Playing Game（TTRPG，桌面角色扮演游戏，如《龙与地下城》）需要一位 Game Master（GM，游戏主持人）预备故事、维持连贯、按规则判罚并临场适配玩家自由行动。论文提出的 CriticaLLM 让 LLM 全自动充当 GM：系统拆成 GM LLM（负责剧情与推进）与 Judge LLM（评委 LLM，基于 LLM-as-a-judge，即「用 LLM 评判 LLM 的输出」）两层，玩家每一步行动先经 Judge LLM 校验是否合规、是否与主题和剧情冲突，通过才交给 GM LLM，不通过则回传不一致的理由。记忆方面，GM LLM 每生成一段展示文本就同步产出一段短摘要，地图上的事件（宝箱、被破坏的物件等）按格子落盘，玩家靠近时再取回；每次调用 GM LLM 只带「剧情摘要 + 最近三个回合 + 局部事件」。地图用随机游走生成 3 个房间，四种布局，并用 Union-Find（并查集，把间距 ≤3 格的实体归入同一可交互小组）判定实体是否同组。全流程不训练、不微调。作者来自 UCLouvain（比利时鲁汶大学），代码在 github.com/Juvwh/RPG_With_LLM。 136
关键结果：
- 9 名资深 TTRPG 玩家试玩后填写问卷（原文表 I）：100% 的人遇到过行动被 Judge LLM 拒绝，其中 67% 认为拒绝「相当合理」（Rather Yes），另有 22% 选「不太合理」、11% 选「不合理」；100% 认为敌人的行动选择可信（89% Rather Yes + 11% Yes）。但「玩家选择的影响」一项有 55.6% 答「不太有」，多数人认为 GM LLM 常理解不了行动意图。 136
- 原创性（剧情多样性）：每个 LLM 各生成 200 个故事开局与 200 个反派，经去停用词、标点与专有名词后用多语句编码模型向量化，任意两个开局的平均余弦相似度始终高于 0.7；Gemma 2 的重复度明显低于 Mistral Small 与 Llama 3.3。反派一栏普遍比开局更多样。
- 评委鲁棒性：设计 11 类说服式攻击——乞求、加幽默、标准化、情境化、奉承、相对化、施压、撒谎、作弊、权威、改写，每类 10 条 prompt 各跑 20 次，统计 Judge LLM 放行被禁行动的比例。多数攻击能被识破并拒绝，但 Llama 3.3 顺从恶意意图的次数明显多于 Gemma 2。
- 成本：以 10 美元预算（2025 年 5 月费率）估算各 LLM 可玩局数，作者据此认为 Gemma 2 是质量与成本兼顾的选择，且规模小可本地运行。 136
证据与局限：证据形态是 9 人问卷加自动化的多样性与攻击测试，没有外部基准、没有人工标注的一致性指标，绝对量级很小：攻击测试仅 11×10 条 prompt 各 20 次，且正文只给了图 5 的定性趋势，未列出每一格的具体百分比。作者自陈两类失准：Judge LLM 会因「女孩不宜独自探地下城」这类性别刻板印象误拒同一行动的男角色版本；也会以「幽灵不是实体」为由否决射箭等幻想世界内的合理行动。作者还指出适应性与连贯性存在内在冲突，滚动摘要式上下文牺牲了长期适配。论文未报告 Judge LLM 与人类判断的一致性，也未报告被拒行动的假阴性率，因此不能把「拦截 11 类攻击」当成通用结论。代码入口实测 HTTP 200。 136
与目标研究线的连接点：属 A 线「执行期控制」的一个完整工作流样例。Judge LLM 本质是一趟「按步门控」——在行动真正执行前先判定是否放行，失败回传理由而非直接吞掉；摘要加地图落盘则是朴素的上下文管理（滚动摘要 + 关键事件按键位持久化）。可搬运的是这套「GM 与 Judge 双层 + 每步门控 + 落盘记忆」的骨架，以及 11 类攻击面清单，可直接改造成 agent harness 的门控与抗注入测试集。与同节 SceneWeave 的差异：CriticaLLM 管的是多轮交互的实时推进与规则合规，SceneWeave 管的是单篇剧本的一次性改写与修订。 136
结论建议：若要借鉴「agent 执行期门控与上下文管理」，读第 III 节（框架：Judge 与输入文本记忆管理）与第 IV-E 节（11 类攻击）。引用时必须限定：样本仅 9 人、攻击测试为每类 10 条各 20 次、拒绝合理性只是自评，且未报告判官一致性，不能作为通用结论。 136
3. SceneWeave：先写同一焦点场景的两版备选稿再回改全稿，4 位戏剧研究生盲评对 SuperWriter 提示流程偏好 71.9%
SceneWeave: Audience-Guided Scene Exploration for Dramatic Adaptation · arXiv:2610.21737 · 邻近跟踪
研究问题与核心方法：把散文改成剧本要处理一个计划层解决不了的问题——计划只说「意图达到什么效果」，但效果到底成不成立，取决于对话与动作真正写出来是什么样。SceneWeave 的做法是「先写场景再改全稿」：给定原文 x 与改编纲要 b，先用已公开的 SuperWriter 规划与写作 prompt 生成一份共同初始计划 π0 与初稿 y0；随后模型提出一个待探索的焦点场景 k、受影响的关联场景集合 D，以及两版互相竞争的编辑 o0/o1，把两版计划分别应用后各自写出试写场景 v0/v1；再读两版试写，回改人物塑造、前置铺垫、后续发展与场次顺序，最后写出完整稿 y1 与修订稿 y2。作者把这条链路叫 scene-first（先场景），另设 relationships-first、structure-first、expression-first 三种可选起始策略。偏好比较用微调的 2B 决策模型（LoRA，低秩适配微调；保留其 A/B/tie 指针头），训练 3,000 组比较（269 条人类 + 2,731 条合成，6 条人类平局）。用到的写作模型是 gpt-6-luna，另有本地微调的 Qwen3.5-9B 作 scene 试写。代码在 github.com/Aolin-MIR/SceneWeave，模型与评测产物在 Zenodo 记录 doi 10.5281/zenodo.23329962。 137
关键结果：
- 盲评（4 名戏剧研究生，各判 8 组匿名双语对，共 32 次判断）：对 SuperWriter 提示流程 11 胜 / 1 平 / 4 负，作品级偏好 71.9%，去平局胜率 11/15（73.3%）。 137
- 两个机制对照（同一批编辑与目标场景固定）：scene 探索对详细规划 5/0/3，偏好 62.5%；「写出来」对「只描述」用于计划修订 4/3/1，偏好 68.8%。含 4 次平局、0 次弃权；读者两两一致率分别为：对 SuperWriter 50%、对详细规划 75%、对计划修订 50%。
- 冻结偏好模型在 15 部作品上比较完整稿：对 SuperWriter 10/3/2，偏好 76.7%（95% CI [57.1,93.3]）；对 Dramaturge 工作流 11/3/1，83.3%（[66.7,96.4]）；对强 prompt 工作流 8/4/3，66.7%（[46.4,85.7]），作者聚类区间用 10,000 次自助抽样。
- 内容诊断（15 部匹配作品，gpt-6-luna 匿名标注）：SceneWeave 叙事冗余 0.05% 为四法最低，角色出戏（OOC）0.00%、角色专属语气率 69.64%、情绪锚定分 2.90、逻辑错误 1.33%、冲突锚定分 2.60；在同样六列（依次为叙事冗余、角色出戏率、角色专属语气率、情绪锚定分、逻辑错误率、冲突锚定分）下，SuperWriter 为 0.09%/0.00%/71.10%/2.87%/1.33%/2.67，Dramaturge 为 2.77%/0.00%/65.28%/2.73%/1.33%/2.57。 137
证据与局限：最硬的一格只是 4 名读者对 8 部作品的 32 次判断，含 4 次平局，样本极小。完整稿比较用的 15 部作品由 gpt-6-luna 独自做内容标注，且「选稿」和「评稿」用的是同一个冻结偏好模型，存在自评风险；偏好标签含大量合成数据（2,731/3,000）。作者自陈：只覆盖散文片段与短篇连贯剧本，两个备选场景只覆盖改编空间的一部分，整合可能丢掉有用细节，偏好模型混用人类与合成监督，来源不完全可溯、且可能存在预训练暴露，所以「未见过作品」的说法受限。另外对照「写出来对只描述」只做了 2 部作品、8 次判断。代码仓库实测 HTTP 200，Zenodo 记录页实测 HTTP 200。 137
与目标研究线的连接点：属 D 线「叙事与脚本类工作」的邻近项（本期无播客生成命中）。可搬运的是它的写法本身：不靠更长的规划，而是「先写出两版具体文本，再拿文本证据回头改计划」，把「效果未定」的部分交给真实产出来裁决——这套「生成备选草稿→比较→回改全局」的回路同样适用于长节目脚本与播客分集大纲的迭代。它的偏好模型构造（人类标签定标 + 合成扩充 + 双向 A/B 顺序训练以消除呈现顺序偏差）也是可复用的评测口径。与同节 CriticaLLM 相比，SceneWeave 的评估是离线一次性偏好判断，不是多轮交互。 137
结论建议：关注「叙事改写回路与偏好评测口径」时，读第 4 节（scene 探索与完整写作）、第 6.2 节（对照设计）与表 1–表 3。引用时须限定：盲评仅 4 名读者、内容评分为模型自评、完整稿偏好由同一偏好模型同时选稿与评分，不能把它们当作人类观众的普遍偏好。 137
十二、邻近跟踪：推理期控制、解码与机制
1. CoTS：以前两名候选的概率竞争连续分配潜推理强度，Qwen3.5-9B 六基准均分 81.48%，超最强基线 3.44 个百分点
CoTS: Competitive Token Selection for Latent Reasoning in Large Language Models · arXiv:2610.20642 · 值得扫读
研究问题与核心方法：标准 Chain-of-Thought（CoT，思维链：让模型写出中间推理步骤再作答）每一步都把预测分布压成一个离散 token，丢掉了其它可能延续的信息；近来的 latent reasoning（潜空间推理：把离散 token 换成连续软嵌入或隐状态回灌）能保留更多信息，但不同解码步对「要不要潜推理」的需求并不一样。已有方法要么全局开软嵌入，要么按不确定度阈值硬切换，把潜推理当成非开即关。CoTS 把它改成「连续分配」：只看概率最高的两个候选 v_{t,1}、v_{t,2} 的竞争比 c_t = p(v_{t,2})/p(v_{t,1})，据此定义混入权重 α_t = c_t/(1+c_t) = p(v_{t,2})/(p(v_{t,1})+p(v_{t,2}))，再用 x_{t+1} = (1−α̃_t)·E(y_t) + α̃_t·s_t 把采样到的离散 token 嵌入与 top-k 软嵌入加权平均后回灌；因为 p(v_{t,2}) ≤ p(v_{t,1})，天然有 0 ≤ α_t ≤ 0.5，离散 token 始终占至少一半权重（作者称 discrete anchor）。进入答案阶段后两个二值标志位把 α̃_t 归零，恢复纯离散解码（phase lock）。整套框架免训练、免手调阈值与混合系数，每步只多 O(k·d) 次向量运算、不增加前向次数。作者来自小米 AI Lab 与南洋理工大学。代码在 github.com/OkinoYu/CoTSReasoning。 138
证据与局限：主表覆盖三个模型（Qwen3.5-4B/9B、Gemma-4-12B-IT）与六个基准共 2,107 题，但主表只用了单一随机种子 41（温度 0.6、top-p 0.95、最大生成长度 38,912），跨种子证据只给了 Gemma 的 AIME 平均一项。论文未对主结果给置信区间或显著性检验，超参与基线的选择细节也依赖各自实现。k 的取值按模型不同（9B 用 9，4B 与 Gemma 用 3），作者未解释这一差异的来源；宏平均是六项等权平均，容易被难度分布影响。代码入口实测 HTTP 200。 138
与目标研究线的连接点：属 A 线「推理期控制与解码机制」的邻近项。可搬运的是这套「用局部 top-2 竞争比连续调制干预强度、并把离散锚点下界写进公式」的设计范式——它把「要不要干预」升级为「干预多少」，且不需要手调阈值，这对任何需要在探索与收敛之间连续权衡的执行期控制（如按步决定是否检索、是否采样更多分支）都可直接套用。与同类的差异：SwiReasoning 是块级熵硬切换，SeLaR 是 token 级熵门控加对比向量推离，CoTS 是 token 级的平滑凸插值并有 50% 离散锚点保证；与 LEV（循环加深度）不同，CoTS 增加的是一条前向内的插值，而不是跨步的循环。 138
结论建议：若要判断是否在自有模型上试潜推理，读第 3 节（方法与离散锚点、相锁）与第 4.2–4.4 节加表 2–表 5（三组消融与敏感度）。引用其 81.48%/86.76% 时须限定：单一主种子、三个模型、六基准等权宏平均、且只在 k 与基线各自实现下得到，不能当作通用提升幅度。 138
2. Verdict-MQ：一次编码回答同一状态的全部问题，395M 模型软标签 KL 0.080 优于 421M 的 Laya 的 0.117
Verdict: Encode Once, Decide Many · arXiv:2610.20778 · 邻近跟踪
研究问题与核心方法：组织自动化要围绕同一份状态（一封邮件、一张发票、一条告警）回答许多小型的带类型问题（要不要回复、多紧急、归谁），并且要直接给出可用于自动执行的概率分布。业界的 typed-decision（带类型决策）模型——开放的 Laya 与它类似的逐问 cross-encoder（交叉编码器：把「上下文 + 问题 + 选项」拼起来过一遍编码器）——对每个问题各跑一遍状态；五个问题就要把邮件读五遍。Verdict-MQ 改成「encode once, decide many」：用一次 ModernBERT（双向编码器）前向读完状态与全部问题，靠一张结构化注意力掩码在全局层与滑窗层同时实现四条规则——状态 token 只关注状态 token（状态编码与问题无关且可缓存）、每个问题块只关注状态与自己、块内问题 token 关注所有选项而每个选项只关注状态与问题与自身、同一问题的所有选项共用同一批位置序号。因此答案与「同批放了哪些问题、顺序如何」以及「选项怎么排」都无关。每个选项以一个标记 token 起始并读取其末隐状态，经两层 MLP 出 logit，再做 softmax。训练用软标签交叉熵加序数问题的平方 Earth-Mover 项，并在 30% 概率下用随机选项子集增强。作者来自 LEC AI。 139
关键结果：
- typed-decisions 基准（400 测试例 / 2,000 个决策，5 问/例）：395M 的 Verdict-MQ（ModernBERT-large 骨干 + NLI 自然语言推理预训练初始化）在 5 个全新种子上准确率 0.801 ± 0.005、软分布 KL 0.080 ± 0.001、Brier 0.045 ± 0.001；对比开放的 421M Laya 专业模型是 0.767 / 0.117 / 0.061，KL 与 Brier 在全部五个种子上都显著更优（案件聚类自助抽样 p ≤ 0.0002，其中一个种子 p = 0.0018）。 139
- 规模与成本：150M 的 NLI-base 版准确率 0.766 ± 0.008，与 Laya 持平，但每个分布指标都更好；五问打包相对逐问，在 batch size 8 下每个 case 快 2.7–2.8 倍（base 5.8 vs 15.4 ms；large 11.4 vs 32.0 ms），batch size 1 下快 1.3–1.8 倍。
- 自主性拨盘：在 90% 目标下，大模型按原始置信度可自动处理 62–71% 的决策（Laya 56%），且实际准确率 89.4–92.2%（Laya 86.5%），风险—覆盖曲线下面积（AURC）低 32–39%；但若要求一个 case 的全部五个决策都过阈值才整体自动化，只有 19–27% 的 case 合格（Laya 2.5%），且这些 case 的准确率反低于 90% 目标。
- 标准基准（自测，非引用厂商卡片）：对同初始化的微调基线，MultiRC 上 80.6 ± 0.5 vs 71.6 ± 4.9（胜），RACE 上 77.4 ± 0.4 vs 78.9 ± 0.1（小负），BoolQ 上 76.2 ± 3.1 vs 81.0 ± 0.6（负）；零样本参考里闭源的通用系统 Jev（TypeSafe AI 的商业模型，未在这三项上微调）反而击败所有微调编码器，三项依次为 RACE 93.3%、BoolQ 91.3%、MultiRC 90.0%，区间 90.0–93.3%。 139
证据与局限：核心基准 typed-decisions 只有 400 测试例、合成、由约 4B 级「小老师」标注且未经同行评审，卡片自陈约 0.75 即饱和、明显高于饱和说明学到的是老师的怪癖；因此 0.801 这个准确率边距不能读成「决策更好」。BoolQ 训练不稳，五个测试种子跨 72.3–79.4%，作者明说在此类任务上 Verdict-MQ 不是可靠选择；RACE 上即使放开到全深度仍落后基线 1.5 点，原因未明。作者还自陈研究过程并非严格 test-blind：一个学习率消融在测试集上看起来更好，被回溯到开发集复核后才放弃。代码发布地址 github.com/LEC-AI/verdict 实测 HTTP 404（组织 github.com/LEC-AI 存在，但该仓库不可公开访问或尚未发布）。 139
与目标研究线的连接点：属 A 线「执行期控制」的邻近项，服务于 agent 运行日志上的一次性判读（如「这条 agent trace 要不要转人工」「这封告警多紧急」）。可搬运的是「共享状态 + 结构化掩码」把同一状态的多个独立问题压进一次前向、并让答案与问题分组/选项顺序无关的工程做法，以及它对自主性拨盘的分解决策统计（按决策 vs 按 case 的覆盖率差一个数量级）——这条对任何「按置信度自动执行、否则转人工」的 harness 都直接可用。与同节的 LEV 不同：Verdict 增加的是「一次前向回答多少问题」的宽度，LEV 增加的是「一道题算多深」的深度。 139
结论建议：关注「决策层概率是否可用于自动执行」时，读第 3 节（掩码四规则）、第 5 节（表 1–表 3，含自主性拨盘）与第 7 节（受控 k=0 vs k=22 比较）。引用时须限定：typed-decisions 是小而合成的基准、准确率已过饱和、BoolQ 不稳、且部分 p 值未对搜索过的多种子与配置做校正。 139
3. PRISM：用量化 NF4 标签估计激活方向，五语言方向无调参迁移到未参与估计的阿拉伯语，Llama-3.1-8B 不安全违规降 21.95 个百分点
PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models · arXiv:2610.20808 · 邻近跟踪
研究问题与核心方法：有文献发现模型会一边口头拒绝、一边提出不安全的工具调用，这种「隐性漏洞」需要从内部表征入手。PRISM 沿三个轴检验激活干预（activation intervention：在选定层把激活 A(x) 按 A ← A + aσd 方向推移）的迁移性。流程四步：先让 BF16 原模型与其 NF4（4 比特正态浮点量化）副本回答同一批输入，各自由判官给出「不安全响应比例」 zBF16(x) 与 zNF4(x)；再用这些比例去拟合一条干预方向 d——用 BF16 标签的叫 native（本地）方向，用 NF4 标签的叫 shadow（影子）方向；然后沿精度（同一 BF16 模型上施加 native 与 shadow 方向）、语言（把某语言的方向用到别的语言，把五语言方向用到未参与估计的阿拉伯语）、规模（用仅在良性激活上学的线性映射 W 把方向搬到更大的模型）三轴测试；最后以能保持正常工具调用的强度 a 施加干预。构造方向、选层、选强度、测试分别用互不重叠的场景族。评测基于 LUMEN 基准的 108 个场景、21 个工具 schema，涉及歧视、隐私侵犯、欺骗与操纵，且只评估提议的调用不实际执行。作者来自巴西坎皮纳斯州立大学 RECOD.ai 实验室与 Maritaca AI。 140
关键结果：
- 跨语言迁移：5×5 共 25 个组合中，有 20 个（估计语言与测试语言不同）用于测迁移，每格 160 对响应。Qwen 与 Ministral 的诱导在 20 格里全部上升、Llama 有 19 格上升；Qwen 在另一语言里保有全部效应（+63.72 个百分点，对比估计语言内的 +59.39），Llama 保留约一半诱导（+13.83 对 +24.27）且抑制不足一半（−19.98 对 −44.41）。葡萄牙语—西班牙语对最对齐（余弦 0.83–0.95），英语与印地语最弱（0.41–0.82）。 140
- 未见语言：五语言方向施加到完全未参与估计与选层的阿拉伯语上，使 Llama-3.1-8B 的不安全违规率下降 21.95 个百分点，无需目标语言调参。
- 跨规模搬运：用只在良性工具调用激活上拟合的 PCA–岭回归–提升映射，把方向搬到更大的模型，使 Qwen3.5-27B / Ministral3-14B / Llama-3.1-70B 的不安全调用分别上升 76.01 / 3.62 / 27.50 个百分点，后两者的抑制分别降 7.65 与 35.15 个百分点（Qwen 未选出负强度）。对照接收端本地方向，诱导为 0.88 / 7.38 / 76.82 个百分点，即搬运无一致优势。
- 能力代价与对照：在 BFCL（伯克利函数调用排行榜）工具调用基准的 914 个必需工具用例上，所有干预的变化在 −2.84 至 +1.20 个百分点之间；同层同强度的随机方向在接收端改变不超过 1.63 个百分点，但打乱标签的方向在 Llama-3.1-70B 上的诱导（+46.50）反超「搬运」（+27.50）。
- 已执行轨迹（SODA，400 任务 / 80 场景 / 16 个可执行环境 / 6,400 条轨迹）：影子诱导把 Qwen3.5-9B 的不安全轨迹率从 114/400（28.50%）抬到 270/400（67.50%）、把 Ministral-3-8B 从 133/400（33.25%）抬到 205/400（51.25%）；影子抑制把 Llama-3.1-8B 从 238/400（59.50%）降到 166/400（41.50%）。 140
证据与局限：场景分区小且不完全独立——同族请求虽同分区，但不同族仍可能共享主题，且各分区类别覆盖不同；重复种子只是增加响应数而非场景数。所有「不安全」标签都来自语言模型判官、无人工验证，判官之间分歧很大：在 Llama-3.1-70B 的审计里 Claude 与 Grok 对 952 个候选有 58.93% 不一致，抑制效应随判官不同在 −12.38 至 −38.62 个百分点间浮动，因此区间不包含判官误差。BFCL 只测英文，其它语言的能力保持未测；LUMEN 只记录提议的调用而不执行；选层用的探针与方向估计器不是同一个，且最高平衡准确率的层未必是最适合干预的层。跨规模搬运需要拿到接收端模型在良性输入上的激活并在接收端选出强度，且三轴是分别测试、从未联合测试。论文的匿名代码仓库 anonymous.4open.science/r/prism-anonymous-70B7 实测返回 401（需授权或拒绝抓取）。 140
与目标研究线的连接点：属 A 线「执行期控制」的邻近项，且接口是模型内部而非提示词——若把 agent 的工具调用层看作需要守住的安全边界，这类激活方向提供了一种不重训、可在推理时开关的干预手段。可搬运的有三点：用更弱/更危险的量化副本当「行为监督源」来暴露稀有负例、从而在正常模型上拟合方向；用良性激活学一个跨规模线性映射把方向搬到大模型；以及把「提议的调用」与「实际执行」分开评测的口径（LUMEN 不执行 vs SODA 在模拟环境执行）。与同节 Confidence-Calibrated 的差异：一个是改内部激活方向，一个是改推理期算力分配，都是执行期控制但作用面不同。 140
结论建议：关注「agent 工具调用的内部安全干预」时，读第 3 节（四步流程与三轴）、第 4.3–4.5 节（跨语言、跨规模、对照与已执行轨迹）与附录 A.7（判官审计）。引用其 21.95 个百分点或 76.01 个百分点时须限定：标签全由 LLM 判官给出、无人工验证、判官间分歧可达 58.93%、场景分区小且不完全独立，不能当成通用安全结论。 140
4. Confidence-Calibrated Inference Expansion：三动作控制器在宽度扩展算力 0.547 时达效用 0.715，追平 N=48 多数投票
Confidence-Calibrated Inference Expansion for Evaluator-Guided Test-Time Reasoning · arXiv:2610.20836 · 精读
研究问题与核心方法：评测器引导的推理（verifier 打分、判官反馈后修订）本质上每步都在问一个本地控制问题：信当前答案、退回保守答案，还是再花一步推理。论文把它形式化成三动作控制器 A(s) = {trust, fallback, expand}——trust 输出当前评测器偏好的答案，fallback 输出一个保守答案（宽度扩展里是多数投票、修订扩展里是回滚），expand 再买一步推理后再决。它覆盖两种实例：width expansion（多采样候选）与 revision expansion（多跑一轮批评-修订）。三个动作的价值都按「成功概率 − λ·算力」定价（J*(s,u) = p*(s,u) − λc(s,u)），expand 用贝尔曼延续值。作者给出两条控制器层面的理论：当打分误差小于算力调整后的动作间隙时本地动作选择稳定；遗憾沿 expand 实现路径累积。据此，控制器为每个动作各学一个置信度头并做事后校准，并用「留出残差」估计的局部不确定度在动作间隙很小时压一压决策。实验在 Qwen3-4B、Qwen3-8B、DeepSeek-R1-Distill-Qwen-14B 上做，不微调；宽度扩展在 MATH 与 AIME25，修订扩展在一份从 OpenThoughts-114k 过滤出的 600 例确定性答案基准上，最终成败用参考匹配判定、与修订判官独立。作者来自新加坡国立大学。 141
关键结果：
- 宽度扩展（λ = 0.02，效用 U = 成功 − λ·归一算力）：置信度 + 不确定度控制器达效用 0.715、算力 0.547，与算力 1.000 的 N = 48 多数投票同效用，并比标定选出的最佳固定宽度（N = 32，效用 0.707、算力 0.781）高出 0.008 效用、少用 0.234 算力；单用校准置信度是 0.714 / 0.586。 141
- 修订扩展：控制器达效用 0.673、算力 0.529，对比标定的最佳固定深度 0.668 / 0.632；最大轮数策略成功率 0.688 但算力 1.000。
- 校准：按动作分别校准后，trust/fallback/expand 三头的 ECE（expected calibration error，期望校准误差）从 0.061/0.066/0.084 降到 0.024/0.029/0.041（宽度），从 0.069/0.073/0.096 降到 0.031/0.035/0.052（修订）。 141
- 四种子的配对比较（固定 Qwen3-8B 题集，各法在每个生成种子内重新拟合与校准；ΔU、ΔC 分别为两法的效用差与归一算力差）：宽度上 ΔU = −0.001（95% CI [−0.006, 0.004]，含 0），ΔC = −0.037（[−0.055, −0.020]）；修订上 ΔU = +0.002（[−0.003, 0.007]），ΔC = −0.027（[−0.040, −0.014]）。即八个「种子×场景」里算力全部更低，效用方向则参差（宽度 2/4、修订 3/4 更高）。
- 规模与难度：平均宽度算力从 Qwen3-4B 的 0.644 降到 DeepSeek-R1-Distill-Qwen-14B 的 0.434；修订轮数从 1.680 降到 0.940。分配随难度走——MATH 初始扩展率从 Level 1 的 0.18 升到 Level 5 的 0.57。
- 组件消融（效用/算力）：共享预测权重 + 按动作校准 0.710/0.595；分开的头 + 按动作校准 0.714/0.586；再加局部不确定度 0.715/0.547；保留 fallback 相对只用 trust/expand 分别加 0.006（宽度）与 0.010（修订）效用。 141
与目标研究线的连接点：属 A 线「执行期控制」的邻近项，且是本单元里最贴近「按步门控与预算分配」的一篇。可搬运的是三件具体东西：把「停 / 退 / 再来一步」写成三动作而非二选一（fallback 与 trust 是两个不同的终止动作，低置信不代表要拒答）、为每个动作单独学并校准置信度（三个动作诱导不同的成功事件，单一正确率会掩盖差异）、以及在动作间隙很小时用局部不确定度压决策。它的宽度/修订两实例分别对应「多采样 / 多轮修订」，可直接对应到自己的 agent harness 预算策略。与同节 LEV 的对照非常有信息量：两篇都做按题分配算力，但 LEV 改的是模型内部的循环深度、本文改的是外部评测器引导的预算开关。 141
结论建议：若要落地「按置信度决定继续还是收手」的算力分配，读第 3 节（状态/动作/价值定义）、第 5 节（置信度头与校准）、第 7.1–7.3 节与表 1–表 5，并特别看第 7.3 节的四种子配对区间。引用其「算力降约 30% 与 16%」时须限定：效用差含 0、仅三骨干两类任务、算力口径不含离线成本、且需在自有分布上重新拟合与校准。 141
5. LEV：循环复用同一组层按需加深度，2.6B 模型在 JevBench 由深度 1 的 63.2% 升到深度 4 的 76.2%
LEV: Thinking Fast and Deep with Looped Decision Models · arXiv:2610.20951 · 精读
研究问题与核心方法：decision model（决策模型，如 Jev、Kev）对「给定状态 + 一组选项」一次前向就给出每个选项的概率，速度是几十毫秒，但深度在训练时就固定，简单题和难题花一样的算力；而用生成文本推理的模型（System 2）虽然能想更久，却要为每一步解码付费。LEV 提出 System 1.5：不生成 token，而是把同一组层循环重跑（loop step）来加深。它把决策头装在原生就以循环方式（在预训练里就带循环，而非事后加装）训练的骨干上，在每一步之后都用同一个指针头读取选项，并把损失在 R 个步骤上取平均（L = (1/R) Σ ℓ(p^(t), y)），因此一份权重可在任意深度作答，且后一步从上一步的隐状态续跑、不重读输入。深度选择由一个 stopper 决定：在第 k 步，它预测当前答案是否已经与最深读数的答案一致（一致性目标，而不是正确性），特征只取第 k 与 k−1 步的 top 概率、前两名间距、归一熵、答案是否与上一步相同、KL(p^(k−1)‖p^(k))、log K 与 k；阈值 τ 取「让拟合题上至少 98% 的最终答案与最深答案一致」的最小值。关键点是这个目标与阈值都不需要标签，部署时可用自己的无标签流量拟合。作者来自 Lehigh University、UBC 与 Vector Institute。 142
证据与局限：骨干只覆盖 1.4B–3B（Ouro-1.4B、Ouro-2.6B、Nanbeige4.2-3B），更大循环模型的深度曲线未知；JevBench 只用其 231 道公开题（48 易、72 中、111 难）。算力以循环步计而非墙钟，作者承认「按不同深度批处理请求才能把省下的步数变成真实时间」这一步没做；延迟是单请求、未用融合核与图捕获、未做状态缓存。校准方面各读数的难题档 ECE（期望校准误差）在温度缩放后落在 0.18–0.26 且随深度无趋势，作者把与 Kev/Jev 的差距归因于其单阶段训练配方而非循环本身。另有一条重要边界：stopper 预测的是「与最深答案一致」，所以对「某个较浅深度对、最深反而错」的那 12.6% 题目无法挽回。代码在 github.com/OpenLAIR/lev（实测 HTTP 200），模型集合 huggingface.co/collections/songdj/lev 与项目页 openlair.github.io/lev 均实测 HTTP 200。 142
与目标研究线的连接点：属 A 线「执行期控制」的邻近项，提供了「按题分配模型内部计算深度」的具体做法。可搬运的有：一致性目标（预测是否与最深答案一致）替代正确性目标来定阈值、从而能在一小批无标签流量上拟合（约 500 条即可逼近完整拟合）；一个检查点覆盖多个深度操作点、服务时按题选深度；以及「训练时对每步都施加监督、读头全步共享」才能让浅层读数可用（只训最后一步会让浅读数不可用）。它与同节 CoTS（一步内的软嵌入插值）和 Confidence-Calibrated（外部预算开关）构成三种不同的「按需多算」路径，可对照选型。 142
结论建议：若要评估「按需计算深度」是否值得自建，读第 4 节（循环骨干、每步读数、stopper 的无标签拟合）、第 7.1–7.3 节与表 1–表 2，以及第 7.4 节的延迟对照。引用其「节省 15%–24% 算力、掉点不足 1 点」时须限定：算力以循环步计而非墙钟、骨干仅 1.4B–3B、JevBench 仅 231 题、且相对同成本固定深度前沿的优势在留出面板上很小（+0.2 到 +1.0 点）。 142
6. 潜在思维链真的在推理吗：21 组模型-任务配置与 3 类训练配方的统一分类法、可读中间答案不算推理证据
Does Latent Chain-of-Thought Actually Reason? A Single, Unifying Taxonomy for Latent Reasoning · arXiv:2610.21182 · 邻近跟踪
研究问题与核心方法：潜在思维链（latent chain-of-thought：不把推理步骤写成文字 token，而是让模型在连续隐藏状态里多跑若干步再给答案）在这篇论文里被当成一个可证伪的问题来问：这些隐藏步到底在计算什么。作者先立靶——高任务准确率、以及「中间答案能用探针解码出来」，这两件事都不能证明模型真的用这条链得出答案。他们把这套检查铺在 21 个模型-任务配置上，覆盖 3 类训练配方、3 类推理任务、2 个骨干；摘要点明配方里包含 COCONUT 风格（COCONUT：不让模型写出文字推理步骤、而是在连续隐藏状态里多跑几步再给答案的一类训练配方）与逐步监督（per-step supervision，对每个推理步分别给监督）两类，第三类未点名。工具箱有三件：链删除（chain deletion，把整条潜在链去掉后重算答案）、内容替换（content replacement，保留链的长度与位置但换掉内容），以及探针与轨迹分析。三者分别回答三个子问题：链是否影响答案、链里编码了什么、链的状态如何随步数移动。作者为 Jingjie Qiu、Sheldon Yu、Xunyi Jiang、Jiajin Liu、Zihan Huang、Zhendong Chu、Tong Yu、Julian McAuley、Junda Wu 九人，摘要页未给机构。 143
关键结果：
- 逻辑任务上，COCONUT 风格的配置常常在链开始之前就已经带着一个可读出的答案：链的状态很早就稳定下来，删掉整条链之后预测几乎不变。
- 逐步监督会产出一个有序的推理步骤布局，并且能让模型真的依赖这条链——这一点与 COCONUT 风格的配置方向相反。
- 但即使是有序的链也可能只是占位符：删链会伤性能，而把内容替换掉之后答案又不变。也就是说，模型依赖的是「这里有一条链」，而不是链里具体写了什么。
- 算术任务上，所有被测配方都表现出对链内容的依赖（原文未报告具体准确率与逐配方差值，这些数字在摘要里没有）。
- 论文提出的分类法把两个问题拆开：链「表征什么」与模型「如何使用」链。据此，占位符 token、塌缩的叠加态（collapsed superposition）、依赖步骤的因果角色，三者各自对应一种不同性质的链，并且分别得自不同的任务、训练配方或测量方式——先前彼此冲突的报道因此不再是竞争关系，而是各自测了链的不同侧面。
- 摘要给出的可复用判据只有一条：可读的潜在状态本身不构成推理证据，必须补上「链是否被使用」的扰验对照。 143
证据与局限：本篇证据只到摘要层——实测 https://arxiv.org/html/2610.21182v1/ 返回 404，v2 与 v3 同样 404，只能从 arXiv 摘要页取事实（https://arxiv.org/abs/2610.21182 实测 200）。因此所有量化细节都不可核验：各任务的准确率、探针读在哪一层、用什么口径判定「答案可读出」、删链与替换各自掉多少分、两个骨干具体是哪两个模型、第三类训练配方是什么，摘要均未交代。引用风险有三条。其一，「答案在链开始前就可读出」依赖探针的可解码性，探针读到的东西未必等于模型实际使用的东西，而探针层数与池化方式正是结论的支点。其二，分类法是概念性排序，不是可复现的实验结论，不能当作已证实的因果说法。其三，摘要给的是 21 个配置的定性归纳，不能推广成「某类配方一定不依赖链」。 143
与目标研究线的连接点：属 A 线的评测口径与判官效度，顺带触及 B 线自进化的条件边界。具体可搬走的是那套双扰动设计：对任何「中间产物」——长程智能体里的记忆条目、计划节点、检索到的证据、子目标清单——同时做删除与内容替换两组对照，就能把「产物可读」与「产物被使用」两个命题分开检验。这套句法与同节其它工作形成互补：同单元的 SIF（本单元第 3 条）改的是训练期的奖励构造，TRACER（第 7 条）改的是执行期的候选集，两者都以最终准确率为唯一裁判；本文提供的是判定中间状态是否真在承载计算的实验句法，可以用来给记忆、检索缓存这类模块做归因，而不是只看任务成功率。 143
结论建议：目前只能引用方法论结论（可读的潜在状态不足以证明推理，需要删除与替换两类扰动），不要引用任何具体比例或分数。等 arXiv 放出 HTML 全文后，优先读链删除与内容替换的实验表、逐配方分列的算术任务结果、以及逐步监督那条配方的剖面定义；引用时必须写明口径（哪个骨干、哪种配方、做的是删链还是内容替换）。 143
7. 思维密度：GSM8K 上直接改密度准确率从 60.0% 跌到 8.3%，熵门控 KV 修正提升 10.0 个百分点
The Density of Thought: Predicting and Steering Reasoning in Large Language Models · arXiv:2610.21286 · 邻近跟踪
研究问题与核心方法：论文把「信息密度」（information density，每个推理步骤贡献了多少难以预测的新内容）当作思维链（chain-of-thought，CoT）的可控属性来研究，理论出发点是从心理语言学借来的均匀信息密度假说 UID（Uniform Information Density：高效沟通者会把信息在整段话上摊匀，既不堆出致密尖峰也不留大片空白）。他们用两个彼此独立的量给每个推理步骤打分：LP 方差（LP variance，步骤内每个 token 的平均负对数似然做 min–max 归一化后的方差，模型内部信号）与「穴居人压缩比」（Caveman compression ratio，用规则化的 SpaCy 流水线删掉限定词、助动词、并列连词等可预测语法 token 后剩下的比例，纯表层信号）。两把尺子的计算基础没有交集，方向一致时才认为密度效应是真的。方法分三层：先证明模型本身偏好高密度文本（跨代对比加合成语料实验），再把密度当正确性的预测量，最后把密度当推理期的控制量，提出三种干预——提示层的高密度提示、生成前的「提示注入 + 对比式 KV 缓存转向」，以及完全自监督的 EGDR（Entropy-Gated Density Routing，熵门控密度路由：用每 token 的 Shannon 熵做实时密度传感器，高熵 token 加 α·d 的正修正，低熵 token 加 −0.3α·d 的小负修正，其余不动）。作者来自 Plaksha University、南洋理工大学、HackerRank 与印度统计研究所。 144
关键结果：
- 密度与正确性的关系随训练范式翻转（表 3，GSM8K，N=60，贪心解码）：监督微调（SFT）的 Qwen2.5-1.5B 上 ΔLP=Var(正确)−Var(错误)=+0.020，即正确解更均匀，符合 UID；同一族的 3B 掉到 −0.003、7B 掉到 −0.001（信号塌缩），0.5B 是 −0.029（反向）。RL 蒸馏的 DeepSeek R1-Distill-Qwen 反转为 +0.013（1.5B）与 +0.014（7B），即正确解更不均匀，且这个信号跨规模保持。
- 跨代与规模的分离（表 1，3,204 句维基百科句子，10 个预训练模型）：跨代对比（2019 到 2023）的复杂度偏好缺口 Δ 增长 +21.3%，明显大于受控的 Pythia 族内规模效应（70M 到 2.8B，40 倍参数，+13.2%），GPT-2 族内仅 +4.8%；跨代项的 KS 检验 p=1.3×10⁻⁴⁷（低复杂度档）、1.6×10⁻⁴⁷（中档）、2.8×10⁻³¹（高档）；高复杂度句子相对低复杂度句子的似然比 e^Δ 从 1.40（2019）升到 1.50（2023）。
- 合成实验（表 2，2M、6M、25M、50M 四个从零训练的类 GPT-2 模型）：均匀语料上的 KL 为 0.0038（复现了 Ranga 等人的结果）；复杂度偏好语料 0.0409、简度偏好语料 0.0967，KL 不对称比 2.4 倍（四个规模上的范围 2.0–2.6 倍），说明学复杂度比学简度准一倍以上，且偏差是学习过程自带的而非训练数据带来的。
- 朴素密度干预会崩（表 4，Qwen2.5-3B，N=60，基线 60.0%）：高密度提示降到 50.0%（−10.0 个百分点）；生成中途的自适应注入崩到 8.3%（−51.7 个百分点），且对多种提示写法都稳定。作者把崩盘解释为 KV 缓存此时编码的是已累积的计算轨迹，中途插入不一致的 token 序列会切断这条轨迹，于是得出设计原则：任何可行的干预都必须保步骤级生成完整性。
- 生成前的原则性干预（表 5，Qwen2.5-1.5B-Instruct，N=60）：基线 51.7%；只加 NuRL 式抽象提示（NuRL：先让模型只指出题目的关键结构关系、不给出答案的一类提示方法）反而降到 46.7%（相对基线 51.7% 为 −5.0 个百分点，但 LP 缺口最大 +0.017，p=0.017）；只做对比式 KV 缓存转向 53.3%（+1.6）；两者合并 65.0%（+13.3 个百分点），是所有单条件里最高的。
- EGDR（表 6、表 7）：系数 α 取 0.05、0.10、0.15、0.20、0.30 时准确率依次为 58.3% / 55.0% / 56.7% / 58.3% / 61.7%（原文称准确率随 α 单调上升，但表 6 这五档并非严格单调，0.10 档反而低于 0.05 档）；α=0.30 时 61.7%（相对同模型基线 51.7% 为 +10.0 个百分点），无退化；它是全实验里唯一在 ΔH 上达到 p<0.05 的条件（ΔH=−0.053，p=0.019）；提示加 EGDR 为 63.3%（+11.6 个百分点，p=0.021）。每 token 额外开销约 0.3%。 144 证据与局限：证据强度分两块。密度与正确性的相关性、以及干预效果，都建立在 N=60 的 GSM8K 上，作者自陈统计效力有限，并强调熵信号（p=0.019，在每 token 分布上算）才是主要量化证据。EGDR 的熵阈值取自同一套 N=60 评估集（原文把这条写进 Limitations，即阈值循环），因此 61.7% 这个数不能当作留出集上的泛化表现。干预部分只跑 Qwen2.5-1.5B-Instruct 一个模型，机制结论不能外推到更大模型。跨代对比把规模与代际混在一起（Mistral 7B 比 GPT-2 XL 大），Pythia 只提供受控的下界。转向向量 d 是「推理模式对直答」的粗方向，作者自陈换成高熵对低熵的对比会更精准。原文另有两处需要留意：正文一处把均匀训练下的偏差写成 +0.077 到 +0.104，而表 2 记的是 +0.094，属表与正文口径不一致；作者在伦理声明里披露使用 Claude Opus 4.8 协助起草论文。代码入口实测可用：https://github.com/tanushhh21/density_of_thought 返回 HTTP 200。 144
与目标研究线的连接点：属 A 线的执行期控制与推理期解码机制。可搬走的有四件。其一，把「每一步的难度」变成可测量的标量（LP 方差、Caveman 压缩比、每 token 熵），这三把尺子可以直接搬到智能体轨迹上，用来标出哪一步是真正在计算、哪一步只是套话，进而决定检索、反思、投票该花在哪一步。其二，那个失败案例本身是可搬的设计教训：在已生成的序列中间插入外部指令会切断 KV 轨迹，长程任务里的中途干预应当放在步骤之间或生成之前。其三，EGDR 的熵门控是一个自监督、无外部输入、只加约 0.3% 每 token 开销的控制旋钮，与「用判官或验证器」的路线互补。其四，范式决定干预方向这条结论提醒：同一种转向对 SFT 模型与 RL 蒸馏模型的作用相反，任何移植到自研模型上的密度类控制都必须先确认模型的范式。与同节的 EMO 相比，EMO 通过上下文改写间接改变分布，本文直接在 logits 与 KV 上做逐 token 修正，两者的干预粒度与安全边界正好可以对照。 144
结论建议：读第 3 节的两个密度度量定义、表 1 到表 3 的范式反转证据、表 4 与表 5 的失败与成功对照、以及第 7 节的四条自陈局限。引用时必须同时限定 N=60 的 GSM8K、Qwen2.5-1.5B-Instruct、贪婪解码，并且不要把 EGDR 的 61.7% 说成泛化结果（阈值取自同一评估集）。 144
8. 选择性内部反馈 SIF：12 个基准平均 39.19%，比 Intuitor 高 4.71 个百分点
Learning to Reason with Selective Internal Feedback · arXiv:2610.21392 · 精读
研究问题与核心方法：强化学习提升推理通常依赖标准答案、专用验证器或可执行环境；强化学习自内部反馈（RLIF，reinforcement learning from internal feedback）想省掉这些依赖，把奖励直接从模型自己的输出与预测分布里取。本文针对一个具体失败模式：置信度与正确性会在训练中分叉，持续优化「平均自确信度」可以一边抬高置信度一边把推理准确率打崩。自确信度（self-certainty）的定义是预测分布到词表均匀分布的 KL 散度，取负号后按 token 平摊。论文先给出三组观察作为动机：其一，用平均自确信度当唯一奖励时，三个模型的训练批准确率都是先升后掉；其二，响应内 token 级自确信度的方差在训练中持续升高，说明单个均值不足以刻画一条响应的置信结构（均值上升不代表各档置信度同时上升）；其三，把响应内的 token 自确信度降序排列后按名次分段（0–10%、20–30%、45–55%、70–80%、90–100% 五档）分别当奖励，各档行为不同——最高档早期涨得最快后期掉得最狠，中间档峰值最高，最低档保留早期增益更多，末端约 60% 验证准确率。SIF（Selective Internal Feedback，选择性内部反馈）的关键改动是把它当成一条「排序剖面」而不是一个标量：对每条响应把 token 级自确信度降序排列，在排序位置（不是原文位置）上等距开 10 个宽 100 token 的窗口，最短步长 50 token，于是最短合格响应长度为 100+50×9=550 token，得到 10 维剖面。窗口级投票在同题两条响应的剖面上逐窗比大小，胜窗数达到 8/10 才算一次两两胜出；peer 级投票把一条响应战胜的同题对手比例汇总，达到 τp=3/4 才给奖励 1，否则 0。奖励只有 {0,1}，全程不做答案抽取、不用答案级伪标签。两级筛选决定谁进策略优化：长度不合格的响应不进，组内所有合格响应奖励相同的整组也不进，掩码同时作用于策略梯度与 KL 项。整套流程分四步：采样响应并计算自确信度、构造合格响应的排序剖面、赋予两级投票奖励、再做选择性的策略优化；优势值用同组合格响应的均值与标准差归一化，策略更新沿用裁剪的组相对目标（GRPO，Group Relative Policy Optimization，组相对策略优化：按同一提示下多条响应的组内相对优势更新策略的强化学习算法）并带一项对参考策略的 KL 惩罚；本条目下文直接用「GRPO」指该算法。作者来自中国科学院自动化研究所（多模态人工智能系统全国重点实验室）与鹏城实验室。 145
与目标研究线的连接点：直接命中 A 线的强化学习后训练与奖励建模、轨迹数据的构造与筛选，同时落在 B 线自进化的条件与边界上——它给出的正是「无外部验证器的自我改进在什么条件下不崩」的一组边界条件。可搬走的机制有四件。其一，把标量奖励换成排序剖面加多窗口一致性投票，用「多处同时成立」抵消单点噪声，这对任何用置信度、自洽度、内部打分当奖励的长程任务都适用。其二，响应级与组级两级筛选：长度门槛剔除信息不足的轨迹，组内奖励全同则整组不更新（与 DAPO（在 GRPO 基础上改进的组相对后训练算法）丢弃零优势组同源），可直接作为轨迹数据筛选器的骨架。其三，把「中段到末段的准确率回撤」当作训练稳定性指标，它比峰值准确率更有判别力——Intuitor 的峰值只比 SIF 低 3.7 个百分点，回撤却差 37 个百分点。其四，用响应内自确信度方差、词频集中度这两个廉价诊断量来提前发现奖励与正确性分叉。与同单元的 EMO 相比，EMO 完全不动权重、只在解码与上下文上做闭环，SIF 动权重但不用标答，两者构成「改权重」与「改上下文」两条无监督改进入口的对照，也都是「把多次采样之间的相对关系变成训练或选择信号」这一家族的两个变体。 145
结论建议：优先读第 2 节的三个观察（早期增益后劣化、响应内方差升高、不同确信度档位作用不同）、第 3.1 到 3.3 节的剖面构造与两级投票定义、表 1 的 12 基准全量表、表 3 的门控对照、以及附录 B.1 的投票超参表。若只读一节，先读第 2 节的三组观察，它们直接决定了方法为什么要做两级投票与两级筛选。引用时必须限定：骨干规模在 1.5B 到 3B、任务限于数学与科学推理、训练集为 MATH 一个 epoch、评测为每提示 8 条采样的平均，并且不要把无监督奖励的增益说成全面超过带金标的强化学习。 145
9. 带统计的 FlashAttention：2K token 只加 16% 延迟、35K 降到 1.4%
FlashAttention with Statistics: Low-Overhead Attention Features for Compact Hallucination Detectors · arXiv:2610.21483 · 邻近跟踪
研究问题与核心方法：上下文幻觉检测要回答「答案是否被给到的上下文支持」，而检测器不必是生成答案的那个模型——生成方可能既不给权重也不给注意力图。已有的注意力类检测器（Lookback Lens、LLM-Check、RAUQ、INTRYGUE、SinkProbe 这五个）其实只需要注意力权重的汇总统计量，但标准实现会把整张注意力矩阵实体化，32 头的一层在 4K token 就要约 1 GB，16K 到 32K 就是几十 GB，而检测器最终保留的统计量只是线性的。本文的贡献是把这些统计量按「不实体化注意力矩阵时怎么精确算出来」分成四层（tier）：T1 融合（fused，在 FlashAttention 的在线 softmax 累加器里就地更新，不额外算一个 score）、T2 查表（lookup，每行固定读 b 个位置的权重，如对角线 p_ii、前一个 token 权重、BOS 汇权重）、T3 重扫（rescore，需要对所有最终权重做列归约，如列和与 sink 率，得重新评一次 score）、T4 稠密（dense，只能把响应块实体化，如注意力图散度 MTopDiv）。作者用 Triton 实现了 T1 到 T3（T4 用 PyTorch 直接算），只对响应行算统计（提示行可以走任何生产核），并把它接成一个注意力后端。作者来自 Applied AI Institute、Yandex 与 Risk AI Research Lab。 146
关键结果：
- 延迟开销（单张 H100 NVL、bf16、batch 1）：抽取 5 个已发表检测器所需的全部统计量、覆盖 Qwen3-8B 全部 36 层 32 头时，2K token 只给前向加 16%，35K token 时降到 1.4%；同一套统计在 Qwen3-0.6B 上从约 170% 降到 6%；每响应 token 存 22.5 KiB 统计量（Qwen3-8B）。
- 分层成本与长序列缩放（图 3、附录表 5）：在 Qwen3-8B 形状（32 查询头、8 KV 头、d=128）下，T1 加 T2 相对关闭统计的 Base 层只加 1% 到 30%，其中 T2 相对 T1 至多加 5 个百分点；T3 最贵，加 16% 到 87%；开销随响应行占比 r 上升、随头维 d 上升而下降。到 100K token、r=0.3 时带全部行统计的一层耗时 387 ms，cuDNN 无统计 351 ms，FlashAttention-2 无统计 523 ms；约 4K token 以下延迟不再下降（每次调用的固定 CPU 开销主导）；统计量在 32K 时占一层 7.6 到 20 MiB。
- 数值精度与稠密路径对照：以 fp64 参考为基准，本实现每一类统计的绝对误差比实体化注意力低三到四个数量级，原因是核在寄存器里对 fp32 概率做归约，而实体化路径先把每个概率舍入到 bf16。在一个响应权重最多的样本（7.2K 上下文里 785 个响应 token）上，稠密路径给前向加 501 ms、本方法加 53 ms，差距主要在内存——稠密路径按 R×L 增长 2.1 GiB，本方法只按 R 增长 23 MiB。 146
- 检测效果（表 2，RAGTruth QA、HaluBench、TRIVIA+，冻结 Qwen3 代理 0.6B/1.7B/4B/8B，逻辑回归探针，验证集选阈值）：12 个数据集-代理组合里 F1 最好的那一档特征都含廉价注意力特征 A7 或全头 sink 汇值 A64（A7 = cheap attention features，7 个可在核内廉价得到的注意力统计量；A64 = all-head sink values，全头汇值统计）；仅用 A64 在 12 个组合的 F1 与 AUROC 上都优于 A7。4B 代理在 HaluBench 与 TRIVIA+ 上观察到的 F1 高于九名 4 到 9B 指令判官里最强的 Qwen3.5-9B（0.776 与 0.674 对 0.755 与 0.655），0.6B 代理在 RAGTruth QA 上也高于它（0.637 对 0.623）。同骨干内比较最一致：A64H64（全头汇值加紧凑隐状态两组特征拼接）在全部 12 个组合上都不低于把同一个 Qwen3 模型当判官来提示。
- 显著性（第 5.4 节）：测试组只有 150 到 546 个，F1 差异的不确定度不小。Holm 校正后，在 RAGTruth QA 上把 A7 与 logits 组合，对四个代理都显著提升 F1；与隐状态组合时对两个代理显著。把 A64 加到隐状态上，对 4B 与 8B 代理在 HaluBench 上显著提升。摘要把总结写成「12 个组合里有一半显著提升，且从不显著降低」。 146
证据与局限：这是一篇系统与评测并重的论文，可核验度较高：硬件（H100 NVL）、精度（bf16）、形状、序列长度、响应行占比、批量大小都写明，附带每层的耗时与内存区间；精度对照给了 fp64 参考；检测侧给了三基准、四档代理、验证集选阈值、并做了 Holm 校正，且明确指出测试组数量少导致不确定度大——这一点写得很克制。需要注意的引用风险有五条。第一，延迟数字是单卡、batch 1、单层的微基准，不能直接换算成服务吞吐。第二，长序列 1.4% 这个数依赖 CPU 固定开销被摊薄，短输入上完全不是这个量级（0.6B 在 2K 时约 170%）。第三，T4 没有高效核，MTopDiv 这类统计仍然要走稠密路径，四层分类是自己的实现路径分类，不是「所有可高效计算的统计量」的完备清单（作者也这么声明）。第四，检测结论都建立在「有标注的训练数据、每对数据集-代理重新拟合」的前提下，且作者明确这是对着给定上下文的支持度判断，不是事实真理判断，并提醒分数在解释成错误概率之前需要单独校准。第五，实现尚非生产核：不支持逐 token 解码、滑动窗口与软上限注意力，只支持 64/128/256 三种头维，Python 侧每次前向还有 47 到 60 ms 的固定主机开销。代码入口实测为 HTTP 403（https://anonymous.4open.science/r/attention-guardrails-0C16 返回 403，反爬拦截），未能看到仓库内容。 146
与目标研究线的连接点：属 A 线的评测口径与判官效度，实际切入口是「验证信号怎么便宜地拿到」。可搬走的有三件。第一，四层分类法本身就是一份成本地图：要设计长程任务的运行期校验器时，先判断目标信号属于融合、查表、重扫还是稠密哪一层，就能在动手前估出延迟与显存代价，并优先选那几类几乎免费的统计量。第二，用小型冻结代理（0.6B 到 8B）加一个线性探针，去检测另一个更大模型的输出是否被证据支持，这条路线在证据上已经能与 4 到 9B 的提示式判官打平甚至超出——对长程智能体而言，这等于给每一步的工具返回与检索证据配一个低成本的原子校验器，而不必调用大判官。第三，论文给出的成本写法值得照抄进评测协议：同一响应在同一硬件上对比「有无特征提取」的前向延迟、峰值内存、每响应 token 的字节数，并显式标注输入长度分箱。与同单元的 TRACER 恰好互补：TRACER 用轨迹索引压低进入上下文的工具量（省输入 token），本文用核内累加压低验证特征的代价（省验证成本），两者都是「在不增大上下文的前提下提高可靠性」。 146
结论建议：读第 3 节的分层定义与表 1 的每层工作量、图 1 与图 3 的开销缩放、图 4 与正文里稠密路径的延迟与内存对照、以及第 5.4 节的检测结果与附录里的显著性表。引用时必须写明这是单卡 H100、batch 1、只覆盖响应行的微基准；引用检测结论时必须带上前提「有标注训练数据、每数据集-代理单独拟合、判断的是上下文支持度而非事实真伪」。 146
10. EMO 闭环测试时计算：8 个模型 6 个基准的 40 个聚合格里 39 格优于零样本，平均 +9.10 个百分点
EMO: A Closed-Loop Test-Time Computation Framework via Alternating Context Optimization and Logits Steering · arXiv:2610.22160 · 值得扫读
研究问题与核心方法：测试时上下文优化能让冻结的模型靠文本反馈自我适配，但普通条件生成没法单独控制「这次上下文改写到底把分布推动了多少」。EMO（受期望最大化启发的免训练框架）把一个题目上的适配拆成交替的两步。E 步（context estimation）用外部判官的文本梯度（textual gradient，仿 TextGrad 的做法：把判官对当前回答的批评翻译成对系统上下文的修改建议）改写系统上下文，例如领域角色、推理策略、易犯错误与输出要求；改写提示禁止透露最终答案，若改写被判定含答案则回退保持原上下文。M 步（distribution refinement）在同一个已生成前缀上并行算改写后上下文与前一个上下文的两套下一 token 分布，用改写后上下文下的下一 token 分布 Popt 的 softmax 雅可比乘上两分布对数比得到转向向量，再用相对阈值 α 做置信度掩码（低于 α·max 的 token 被赋一个有限惩罚），最后以强度 μ 加到改写后上下文的 logits 上再解码。被转向后的回答交给判官打分，反馈又驱动下一轮 E 步，形成闭环。默认 μ=2.4、α=0.1、K=4 轮，即 5 个候选、相当于 9 个目标模型生成当量。理论部分给出 Lemma 1（负对数似然目标与到目标分布的 KL 等价）、Lemma 2（任何参数或上下文更新都等价于一个可加 logits 修正，理想下降方向是 Q−P）与 Theorem 1（在「上下文更新确实降低目标 KL」与「受约束转向方向与目标加权对齐为正」两条假设下，足够小的 μ 使目标 KL 一轮下降）。作者来自北京大学与三星研究（北京）。 147
关键结果：
- 主结果（表 1，8 个模型 3B 到 32B、6 个基准，贪心解码，判官为 Qwen3.5-122B-A10B FP8、不看金标，回答正确性另行按任务抽取规则判定）：40 个模型-任务组聚合格里 39 格优于零样本（合并两个 AIME 版本之前是 48 格里的 47 格），平均 +9.10 个百分点；同判官、同候选数下比纯上下文优化（TextGrad）再高 1.53 个百分点；在 40 个模型-任务组格里，EMO 有 25 格超过 TextGrad、4 格持平，其余 11 格未超过。MMLU-Pro 上的转向增益最一致：八个模型全部高于 TextGrad，平均 +3.76 个百分点。
- 规模、代际与家族轴：Qwen3-14B 配 EMO 的五个任务组平均 69.80，高于 Qwen3-32B 零样本的 63.86；Qwen3-32B 自身平均提升 8.68 个百分点，AIME 单组提升 30.0 个百分点；Qwen2.5-7B、Qwen3-8B、Qwen3.5-9B 三代的平均增益为 9.64、9.42、6.40 个百分点，而对 TextGrad 的增量分别是 2.74、1.76、4.74。Qwen3.5-9B 的 AIME 从 25.0 经 TextGrad 的 26.7 到 EMO 的 45.0。Qwen3-8B 与 Llama-3.1-8B 同为 8B 量级，MMLU-Pro 上的家族差距从零样本的 18.2 个百分点缩到两边都上 EMO 后的 3.6。
- 组件消融（表 2，Qwen3-8B）：完整方法五个数据集平均 Δ̄=+9.4 个百分点；去掉 M 步（退化为纯上下文优化）+7.7；把外部判官换成自判 +3.9；同时去掉 M 步并用自判 +2.9。外部判官替代自判，在有 M 步时平均高 5.56 个百分点，无 M 步时高 4.74 个百分点；但判官来源与 M 步会交互，例如 Qwen3-8B 的 GPQA-D 上用外部判官转向增益 +2.1，用自判时反而 −3.5。
- 解码稳健性（表 3，单种子）：EMO 在贪心、top-p（0.95）与 top-k（20）三种解码下的 18 个配置全部优于零样本；Llama-3.1-8B 在 MMLU-Pro 上依次为 +18.6（贪心）、+21.8（top-p）、+25.2（top-k）个百分点。 147
- 等生成预算对照与覆盖选择分离（表 4、图 2，MMLU-Pro，3 个种子，top-p 采样，EMO@K 的预算按 N=2K+1 计）：N=9 时 Llama-3.1-8B 的 EMO 为 68.2±0.8，best-of-9 为 62.5±0.5，自洽投票为 51.4±0.8；同样 N=9，EMO 的候选池只有 5 个（K+1），其 oracle 覆盖率 83.2±1.1 高于九个独立样本的 76.4±0.2，Llama-3.2-3B 上 EMO 66.2±0.5 对 best-of-9 的 53.5±0.4。Qwen3-8B 上差距收窄：MMLU-Pro 70.9±0.7 对 68.4±0.5，GPQA-D 60.3 对 60.4，MATH-500 85.0 对 84.9。N=9 时 5 候选的 oracle 覆盖率在 9 个设置中的 7 个超过 9 个独立样本；但 Llama-3.1-8B 的 GPQA-D 上 K 从 1 增到 4 时覆盖率从 49.3 升到 73.7，被选中的准确率只从 35.5 升到 37.4，选择效率 50.7% 低于 best-of-9 的 53.4%，剩余瓶颈因此被定位在「从扩大后的候选池里挑对答案」。
- 超参敏感性（附录 B.5，Qwen3-8B/GPQA-D，基线 49.0）：α=0.1 时 μ 从 1.6 到 3.2，准确率落在 54.5 到 56.6；μ=2.4 时 α 从 0.1 到 0.4 给出 56.6 到 58.6；α=0.05 这种更宽松的阈值掉到 50.0。 147
证据与局限：主表的规模是这篇最硬的部分：8 个模型跨越两家、四代与有/无显式思考模式，6 个基准，判官与生成模型分离，正确性判定独立于判官分数，并且同时报告了「判官选中」与「oracle 覆盖」两个量——后者是这篇最有迁移价值的评测设计，因为它把「候选池里有没有正确答案」与「选择器有没有挑对」拆开。消融把 M 步与外部判官的作用分别量化，等预算对照还给到三个种子的均值与标准差。理论部分只保证一轮、小 μ、且建立在两条假设之上，作者明确声明它不覆盖默认 μ=2.4、不保证准确率单调、也不覆盖转向轮与轮之间。作者自陈的局限包括：外部判官可能给出误导性反馈或漏掉正确候选；方法需要访问分布且并行维护两条模型流，部署受限；生成当量预算不计判官与改写调用，也未对齐总 FLOPs 与延迟；评测只覆盖两个模型族的推理基准；上下文更新的接受检查与自适应转向强度留作后续。另有两处引用风险：其一，「39/40」是聚合格计数，含平局与合并口径（两个 AIME 版本被并成一个任务组），逐格数值差别很大，不能读成「平均提升 9.10 点」之外的稳定性；其二，等预算对照里单条响应在相同种子编号下也可能不同（例如 Llama-3.2-3B/MATH-500 初始为 EMO 40.3 对 SC/BoN 37.8），端点差距比较的是完整流程而非单独的后几轮反馈。原文未给出代码或项目页链接。 147
与目标研究线的连接点：邻近跟踪，落在 A 线的测试时计算分配与判官效度上，可搬走的有三件。第一，等预算评测协议：把「每轮两条条件流」折算成目标模型的生成当量 N=2K+1，再与自洽投票和 best-of-N 在同一 N 上比较，同时并列报告 oracle 覆盖率与被选中准确率——这套口径可以直接搬去评长程智能体的「多轮反思」与「独立多次采样」哪个更划算，而不必争论延迟。第二，把「覆盖不足」与「选择失败」分成两个可诊断的瓶颈，并给出选择效率这个单一指标（选中准确率除以覆盖率），对长程任务里「要不要加验证器」这类决策非常直接。第三，置信度约束的 logits 修正是逐前缀计算的轻量干预，不需要新增模型或权重更新，与「另起一个判官模型来打分或排序」的路线互补；且论文证明「上下文改写带来的分布位移」本身就可以充当转向方向，这给「用记忆/提示改写来间接控制解码」提供了形式化依据。与同单元的 SIF 相比，EMO 完全不动权重、把全部算力花在单题适配与解码上，SIF 动权重但不用标答，两者刚好是「改上下文」与「改参数」两条免监督路线的对照样本。 147
结论建议：读第 3.1 与 3.2 节的 logits 空间等价与转向构造、第 3.3 节的两条假设与定理边界、表 1 的 8×6 主表、表 2 的组件消融、表 4 与图 2 的等预算对照。引用时必须限定：判官为 Qwen3.5-122B-A10B 且不看金标、默认 μ=2.4 与 α=0.1、K=4、评测为推理类基准；提到 oracle 覆盖率优势时必须说清 EMO 用 5 个候选对比 9 个独立样本，且选择效率反而更低。 147
十三、邻近跟踪：检索、证据与知识
1. ExecutionRAG 需求登记表：MuSiQue 上缺证据错答从 382 降到 234，但总错误未同比例下降
Beyond Retrieval Failure: Understanding Why LLMs Miss Evidence in Multi-Hop RAG · arXiv:2610.21184 · 值得扫读
研究问题与核心方法：多跳检索增强生成（RAG，retrieval-augmented generation：先检索段落再据其作答）里，一个错答缺少必需段落有两种原因——检索器根本取不到，或者智能体压根没发出能取到它的那条查询。常规的检索评测把两者混在一起。本文给第二种原因起名「搜索漂移」（search drift）：检索不再追踪某个尚未解决的子问题。作者固定检索器、语料与生成模型，只加一个免训练的「需求登记表」（requirement register）：登记表记录题目未解决的子问题及各自的支持证据，从题目加种子检索（seed retrieval）初始化，而不是只从题目初始化，因此条目一开始就锚在语料真能返回的证据上；每一步选中一个开放条目去检索，模型判断该条目是否被证据解决，解决了就记下支撑段落，被后续证据反驳就退休；只有所有条目都不再开放才作答，搜索预算耗尽时给出有界部分答案。两条不依赖模型的记账规则保证记录不被悄悄丢掉：开放条目不能无声消失，已记录的证据全部保留。由于检索器、语料、生成参数都没变，登记表每捞回一个黄金段落，就等于证明该段落原本对检索器是可达到的——这把「检索失败」变成了可归因的对照实验。作者来自浙江大学、上海人工智能实验室、复旦大学、中山大学、不列颠哥伦比亚大学与香港中文大学，论文为 DAI 2026 会议稿。 148
与目标研究线的连接点：直接命中 A 线的运行期上下文管理与评测口径。可搬走的有四件。第一，需求登记表这个结构本身就是给长程任务用的显式「未完成清单」：把待解决子问题写成带状态与支撑证据的条目，禁止开放条目无声消失，只允许被反驳后退休，并规定「没有开放条目才作答」——这套不变式可以直接搬到长程智能体的任务分解、工具调用与记忆管理里，替代隐式的思维链记账。第二，失败归因的口径：把「必需证据从未进入上下文」与「证据进来了但仍答错」分成两类并用固定优先级保证互斥，再统计「缺证据类错误的绝对个数」而不是只看总分，这是判断瓶颈迁移的关键写法。第三，「在检索器、语料、生成模型全固定的前提下只改引导」的对照设计，是任何自称提升检索质量的工作都应具备的洁净度。第四，成本与收益必须一起报：本文诚实给出「某些基准上读得更多、某些基准上读得更少而增益更大」，避免把增益误读成「读得更多」。与同单元的 TRACER 相比，两者都在给「下一步该看什么」做结构化索引——TRACER 索的是历史工具调用轨迹，本文索的是未解决子问题——但本文把重点放在证据充分性验证上，并指出这已成为剩余瓶颈，这与本单元幻觉检测那篇（用冻结小代理加探针做证据支持度判断）恰好是同一个瓶颈的两条解法。 148
结论建议：读第 2 节对「检索失败」的拆解、第 3 节登记表的不变式与两条记账规则、第 4.3 与 4.4 节的失败归因与再分配、表 1 的匹配对照块、以及第 4.7 节的 token 成本。引用时必须限定：基准为 MuSiQue／HotpotQA／2Wiki 各 1,000 题、生成模型 GPT-4o-mini、top-k=5、失败归因依赖 40 字符指纹匹配（87.9% 覆盖率），并且不要把「缺证据错误下降」说成「总错误下降」或「答案更准」。 148
2. TRACER 工具检索：128 个工具只给 5 个，选择准确率 57.2% 到 61.9%、每步 token 降 80%
TRACER: Trajectory-Aware Tool Retrieval for LLM Agents · arXiv:2610.21267 · 精读
研究问题与核心方法：智能体从工具注册表里选工具时，把整张注册表塞进上下文既贵又未必更准。已有的工具检索把每一步当成独立检索：用当前请求或对话去和预先固定的工具描述比相似度。本文的主张是，工具检索本质上是序列预测——下一步调什么，取决于已经调过什么。TRACER（Trie Retrieval Across Contextual Edges, Reweighted）把历史成功工具调用序列建成一棵 trie（前缀树：节点是调用前缀，边是转移），当前轮的调用前缀是一个节点，该节点的子节点就是候选。打分用两个先验混合：经验先验 P(t) 是历史上从当前前缀出发走到工具 t 的转移计数；上下文先验 L(t) 衡量「当前这段对话」与「历史上走过该转移的那些对话」有多像，也就是把边上的情境嵌入拿来做匹配，而不是拿工具描述。两者由一个按状态学习的小头预测权重 w 加权（默认头在整个混合 Tau2 大注册表上平均收敛到 w=0.019，但系数在对话早期与经验先验已很自信时会抬高 w）。低置信度或前缀不在 trie 里的步骤回退到向量检索；对调用分散在通用工具上的注册表（例如银行域里所有人都走同一个知识库查询工具），TRACER+G 会把一个固定的小全局集（按前缀熵 H(S|t) 取最高的 3 个工具）并进候选集。作者来自微软（论文标注该工作完成于微软实习期间）。 149
关键结果：
- 主测试床（混合 Tau2 零售加电信环境，128 个刻意易混的工具，教师强制即每步喂入基准的黄金调用以防错误累积）：GPT-5.4 在每步只暴露 5 个工具时选择准确率 61.9%，对照把 128 个工具全放进上下文的全量注册表为 57.2%，差 +4.7 个百分点；每步注入的 prompt token 从 14.2k 降到 2.8k，降幅 80%。同样只给 5 个工具的向量检索只有 27.7%。
- 跨环境推广：六个环境（混合 Tau2 的小/中/大三档、Tau3 Banking、API-Bank、BFCL v3）乘四个模型（GPT-5.4、GPT-5.4-mini、Grok-4-20-reasoning、Mistral-Large-3）共 24 个模型-环境对，21 对优于全量注册表，平均增益 6 到 10 个百分点，三个例外最多落后 2.2 个百分点；每步上下文降幅 55% 到 90%。在 34 个胜出的格子里有 31 个领先幅度超过一个标准差；五折标准差与全量注册表之差的中位数是 0.8 个百分点。
- 自由运行与失败面（智能体用自己发出的调用继续走，错误会累积，20 步封顶）：GPT-5.4 在大注册表上达到 58.3% 任务成功率，对全量注册表的 58.2% 基本打平，而任意时刻只暴露 23% 的工具、每步 token 少 61%；按注册表大小分为 +0.1（大，23% 候选集）、+1.2（中，33%）、+2.3（小，43%），GPT-5.4-mini 在大注册表上领先 +15.2 个百分点（候选集只占 16%）。反过来说，24 个模型-注册表-预算格里有 16 个落在全量注册表 ±3 个百分点以内（中位数 2.2），GPT-5.4 在它 12 个预算里有 8 个低于全量注册表，只在大注册表的大预算上追平。
- 机制证据（表 4，混合 Tau2 大注册表，GPT-5.4，k=5，严格精确匹配）：一组窄口径操作类 API（拆单发货、加礼物留言、申请退货取件、预约安装、申请运费险理赔）共 315 个步骤，全量注册表把其中 36.4% 的步骤误选成泛用枢纽工具 get_order_details，TRACER 压到 16.4%；逐 API 看，split_order_shipment 从 14% 提到 51%，add_gift_message 从 32% 到 77%，schedule_installation 从 29% 到 58%。 149
- 流程约束与副作用（图 4）：银行域的敏感工具必须先由 unlock:X 解锁才能调用，全量注册表下模型会跳过解锁直接开户，而 trie 里没有任何成功轨迹是不过 unlock:open_bank_account 就到达 open_bank_account 的，原始写操作因此被扣住，加上边上的情境记忆给出解锁，顺序就对了；副作用是安全性的——在申请预付退货标签的例子里，全量注册表试图发起真实退货，TRACER 把该破坏性工具排到情境先验第 9 位，使它根本没进入候选集。
- 消融与全局集（表 5、表 6）：把学习权重换成固定混合在大注册表上掉 5.9 到 8.0 个百分点（四个模型），BFCL v3 上掉 3.5 到 7.1，Tau3 Banking 只掉 0.6 到 1.1；把边嵌入换成纯工具描述相似度在 API-Bank 上比固定混合低 21 个百分点；把 trie 键截短到最近两次调用，在 Grok-4 与大注册表上反而高 1.5 到 2.9 个百分点（在一倍标准差内）。全局集只在调用高度集中时有用：Tau3 Banking +5.8 个百分点（该域覆盖 50% 调用只需 2 个 API，且都落在高熵集合里），而混合 Tau2 −1.0、BFCL v3 −2.5。 149
证据与局限：证据密度高，且实验设计有两点值得学。第一，分两个执行制度：教师强制（每步喂黄金调用，隔离前端的检索能力）与自由运行（错误累积，检验端到端），并明确说明主结论建立在教师强制上；第二，主测试床是自己搭的——把零售与电信拼在一起并注入合成 API 与轨迹，把注册表撑到 128 个刻意易混的工具，再用判官与盲人评测交叉验证合成轨迹的拟真度（判官在零售 57.0%、电信 68.9% 的对子里把合成轨迹选成人工写的；三名评审在有分歧的 59 对里选了 40 对，占 67.8%）。这意味着主结论是在自建基准上得到的，不能直接等同于公开榜单上的表现，作者也用表 11 逐条列出与已发表基准的差异。合成数据另有门控：真值有效性、与真实工具不可替换、API 不重叠、非克隆，零售 99.8% 与电信 99.9% 通过最后一项。局限由作者自陈四条，都很关键：一是冷启动，注册表没有历史轨迹时无 trie 可用，每步都落到向量回退，准确率远低于其余情形（若在这些步骤改回全量注册表，平均可提升 38 个百分点）；二是 trie 键深度未调；三是自由运行的回合由评分器判定结束、20 步封顶，所以任务成功率测的是「候选集是否供得上所需工具」，不是「智能体是否知道何时停」；四是选择准确率按单一记录顺序判分，合法的不同调用顺序会被算错（用接受集与自由运行任务成功率兜底）。另有三条引用风险：模型名单里包含 GPT-5.4 与 GPT-5.4-mini 这类闭源模型，复现需要同等接口；多数格子是单次运行，只有标 ‡ 的格子是三次迭代平均（主测试床大档、Tau3 Banking），标准差是五折交叉验证的折间标准差而非运行间方差；Tau3 Banking 上全量注册表仍胜出，别把「21/24」读成普遍成立。原文声明不发布代码（正文写「我们不发布……」），也未给出可下载的数据入口。 149
与目标研究线的连接点：直接命中 A 线的执行期控制与轨迹数据构造，也触及 B 线（把历史成功轨迹变成可检索的经验库）。可搬走的有五件。第一，把「下一步该给模型看什么」从独立检索改造成状态条件检索：先用历史执行前缀定位节点，再在候选上混合经验计数与情境相似度，并按状态学习两者的权重——这套结构可以直接用在长程智能体的工具/技能库、检索查询构造与提示装配上。第二，经验索引的键不限于工具名，可以是完整前缀，且论文诚实展示了「键太长未必最好」（截到最近两步反而略好），这为设计技能库的索引粒度提供了可复制的消融方法。第三，候选集大小与注册表规模解耦：预算 k 是常数，注册表从 26 涨到 128 时省下的 token 比例从 55% 升到 80%，对长程运行的成本曲线很有价值。第四，把「破坏性工具因为不在候选集里而没被选中」当作一个可测的安全副产品（窄口径工具的误选率从 36.4% 降到 16.4%），这给「用检索范围做行为约束」提供了量化样板。第五，全量注册表只在「按前缀熵最高的通用工具」上才需要补回，这一条判据（算一下覆盖 50% 调用需要几个工具、其中有几个是前缀无关的高熵工具）可以直接用来决定某个自研工具集要不要加全局兜底集。与本单元其它工作相比：ExecutionRAG 用显式的未解决子问题清单管上下文，TRACER 用隐式的历史转移 trie 管上下文，前者可解释、后者更省；SIF 与 EMO 改的是模型与解码，TRACER 改的是模型每一次决策能看到的候选面，是成本最低、最容易在既有 harness 上直接试的一类改动。 149
结论建议：读第 3.3 到 3.6 节的 trie 构造、经验先验、上下文先验与学习混合的定义、第 4.4 节的两种执行制度、表 2 的教师强制全表、表 3 与表 4 的自由运行与机制分析、表 5 与表 6 的两个消融。引用时必须限定：主结论来自自建并做过拟真校验的混合 Tau2 环境（128 个工具），比较基线是全量注册表而非向量检索；教师强制下的选择准确率不等于端到端任务成功率；Tau3 Banking 上全量注册表仍更强；自由运行的回合由评分器终止。 149
3. QREF：可插拔查询重写与证据过滤对齐检索与推理，WebSailor 上 Pass@1 相对提升 33.55%
QREF: Improving DeepSearch Agents by Aligning Search with Reasoning via Query Refinement and Evidence Filtering · arXiv:2610.21512 · 精读
研究问题与核心方法：DeepSearch 智能体（DeepSearch agent：把推理与多轮网络检索交替执行、逐步拼凑外部证据的搜索智能体）在每一步都要把当下的推理状态翻译成一条或多条可执行查询，但查询质量通常只作为整体策略的一部分被隐式优化。作者来自复旦大学与腾讯，先在 300 条 WebSailor-32B 轨迹上把无效中间查询归纳为三类：Missing Discriminative Constraints（遗漏判别性约束）、Low Query Specificity（查询特异性低）、Redundant Query Diversification（冗余的查询多样化）。据此提出 QREF，一个可插拔（plug-and-play：不改动骨干智能体结构、不重训其推理策略即可外挂）的查询精配器与证据过滤器。查询精配器（Query Refiner）接收原问题、当前推理轨迹与候选查询批次，按自包含、原子分解、不泄漏答案、贴合搜索引擎四条原则重写，并保证同一批次内的互补覆盖，同时删除冗余候选、保留已有效的候选；证据过滤器（Evidence Filter）在检索返回之后，联合原问题、当前推理轨迹与生效的改写查询，逐个结果判定哪些该保留：能帮助识别人物、核验事实、缩小候选或推进一步推理的留下，离题、过于笼统、冗余或与当前查询意图不符的丢掉。两者的定位是把「推理状态到检索动作」的这段接口从骨干策略中剥出来单独训练。精配器的训练分两段：先用 GPT-5.2 在 DeepResearch-9K 上蒸馏重写样本做 SFT 冷启动，再用 PPO（Proximal Policy Optimization，一种常用的策略梯度强化学习算法）以实体级检索奖励继续优化。该奖励把每个期望实体按原始查询与改写查询是否命中分为 Recovered、Preserved、Lost、Missed 四类，权重分别取 1.0、0.1、0.8、0.2 做加权平均，命中判定为 top-K 结果中提及该实体的比例达到阈值 γ=0.3；此外对返回空结果或不可解析的改写施加硬惩罚（θ∅=0.5），无条件无标注的样本奖励置 0 不产生梯度。 150
证据与局限：诊断的判官是 GPT-4.1，三类失败上三名人工标注者在 100 批次子集上的一致性为 Fleiss κ = 0.786、0.667、0.713，GPT-4.1 与人工多数票在 Cat1–Cat3 上的 κ / F1 分别为 0.705 / 0.839、0.900 / 0.950、0.770 / 0.909。训练成本：SFT 在 8 张 NVIDIA H20 上约 2 小时（一个 epoch，最大序列 20,480 tokens，学习率 1×10⁻⁵），RL 用 PPO 在 InfoSeek 上约 5 小时、消耗约 10 万条查询；推理环境为 Serper 搜索 + Jina Reader 读页，骨干温度 0.6、top-p 0.95、上下文上限 31K tokens，并用 URL 黑名单排除托管基准的站点。局限与引用风险：只验证了 WebSailor-32B 与 TongyiDeepResearch 两个骨干，未见更多骨干或多种子；判官是 GPT-4.1，人工核验只覆盖 100 批次子集；原文未给出代码或数据入口地址，复现条件无法实测核验；GPT-5.2 作精配器得分最高，但作者自己指出其增益主要来自生成更多查询、以精度换召回并引入无关检索，降低了搜索效率，因此它的 Pass@1 不可与其它配置的效率口径直接并列；正文称 RL 相对 SFT 在 8 个骨干-基准设置中的 7 个提升 Pass@1，未逐个列出这 7 个设置。 150
与目标研究线的连接点：直接命中 A 线，落点有两处。其一是执行期控制：把「推理状态→检索动作」这一接口从骨干策略里剥出来单独训练，形态上等价于给已训练好的智能体加一层可替换的调用外壳，改动范围小、可与现有 agent 组合。其二是奖励建模：实体级检索奖励把「这一步是否召回了该召回的实体」变成逐步可优化的过程信号，这套四分类加权（Recovered 1.0、Preserved 0.1、Lost 0.8、Missed 0.2）与无效检索惩罚可直接迁移到任何多轮检索或工具调用智能体的过程奖励设计。与同节其它工作的差异在于，它同时优化检索前（重写）与检索后（过滤）两个方向，且以整批查询的互补覆盖为单位而非逐条查询；消融证明两个组件互补，单用证据过滤器在中文基准上会掉到基线以下。批次内 IoU 从 0.41 到 0.29 这类度量，也可直接借用为「查询冗余度」的口径。 150
结论建议：建议精读第 3 节（三类失败的定义与人工标注一致性口径）、表 1（同时含 Pass@1、Turns、IQR 三列，效率与准确率要一起看）、表 2 消融，以及 5.6 节的查询质量分析。引用其提升幅度时必须限定在 WebSailor-32B 与 TongyiDeepResearch 两个骨干及其各自基线，并区分「相对基线的点差」与「摘要给出的平均相对提升」两种口径，不要把 33.55% 当作跨骨干通用结论。 150
4. 检索到却不读：搜索增强大模型 53.6% 的场景只看摘要作答，陈旧率 6.4% 对 1.3%
Retrieved but Not Read: Understanding Why Search-Augmented LLMs Fail to Use Available Evidence · arXiv:2610.21731 · 值得扫读
研究问题与核心方法：联网搜索能让大模型拿到最新信息，但作者追问的是：为什么在相关证据已经到手时，模型仍会给出过时答案、甚至引用与自身回复相矛盾的来源。做法是构造 post-cutoff temporal facts（训练截止之后取值才发生变化的时态事实），每个事实同时有过时值与当前值。作者取 2026 年 2 月 16 日作为统一截止阈值（被评模型中最晚的报告截止日），排除在该日或之前生效、或在 2026 年 2 月 1 日前已公告的变更，并排除可凭常规医学知识回答的 FDA 条目，最终取 225 条事实，覆盖六域：FDA 62、finance 52、sports 47、people 43、SEC 13、chemical 8，另有未跨截止变化的对照事实。评测分两个设置：先看 GPT-5.6 Luna 在其原生联网搜索下的 deployed run，再让同一模型与六个开源配置在受控检索下接收同一份冻结检索菜单——223 条事实各给十条结果，由 Brave Search 一次性构建，真值页若不在原始前十就按种子位置插入以保证可达，各模型使用相同的 search、open-page、find 工具。读数有三个核心口径：阅读深度（snippet-only 表示一个页面都没打开，integrated 表示引用的是自己打开过的页面，其余为打开但未引用）、答案准确率（只统计正确、过时或其它取值，排除弃答）、引用不忠实（所引页面与回复断言的取值相矛盾）。评分尽可能确定性；LLM 判官只能判通过、不能判负面，所有需要判断的负面标签由人工给出。 151
关键结果：
- 表 1（冻结检索，准确率 / 只看摘要占比 / 不忠实率 / 对照事实地板值，均为百分比）：Luna（deployed，原生搜索）93.5 / 53.6 / 2.6 / 0.0；Luna 91.8 / 9.9 / 1.0 / 0.0；GLM-5.3-Flash 94.4 / 13.4 / 1.8 / 0.0；gpt-oss-120b 92.4 / 2.6 / 3.6 / 0.3；gpt-oss-20b 95.4 / 7.9 / 3.7 / 0.3；gemma-4-31b 92.0 / 64.6 / 4.9 / 0.5；gemma-4-31b-think 89.6 / 56.5 / 6.4 / 0.3；qwen3-8b 85.8 / 76.0 / 9.4 / 4.0。面对同一份检索菜单，不打开任何页面的比例跨模型为 2.6–76.0%。
- 表 2（七配置、全部提示型合并，按阅读深度分）：snippet-only 的陈旧回答率 6.4%、引用不忠实率 6.4%；打开了页面但未引用为 1.7% 与 1.6%；打开页面并被引用为 1.3% 与 2.3%。对应计数（顺序同上：只看摘要、打开未引用、打开并引用）：陈旧 87/1366、17/990、8/632，不忠实 62/962、11/683、29/1258。
- 体育域差异最大：开源模型里 snippet-only 回答陈旧率 20.2%，integrated 仅 2.1%。
- 陈旧与不忠实高度绑定：在带来源的开放题上，答案为过时值时 on-claim 引用不忠实占 81.8%（27/33），答案为当前值时仅 0.9%（6/694）。
- 搜索本身有效：冻结检索下开启搜索把 claim-check 准确率提高 27–42 点，开放题准确率落在 85.8–95.4%；Luna 的闭卷开放题准确率为 23.3%（24/103）。
- 直接给证据能减少失败：50 条体育断言上，gemma-4-31b 在需要自己从菜单里找页面时误认过时值 14/50 次，把同一页 Wikipedia 直接放进提示后降到 0/50；gpt-oss-20b 从 11/47 降到 1/50；qwen3-8b 收益较小（16/49 → 8/49）。gemma-4-31b 的 14 次失败全部没有打开页面。
- 在智能体循环里，每次打开页面后把完整提示重述一遍，可恢复 157 次失败 fact-sheet 检查中的 41 次（26.1%；六个重跑配置区间 4.5–57.1%）。
- 失败跨模型共享：Luna 在原生搜索下失败的九类情形中有七类在冻结检索下呈显著正关联（odds ratio 1.84–6.46，p<0.05），负对照无关联（odds ratio 1.05）。
- 机制：以 qwen3-8b 为例，成功轨迹中检索到的俱乐部在上层占优并保持到末层；失败轨迹中它先在早期上层领先，却在最后几层被过时值反超；gpt-oss-20b 同样出现交叉，gemma-4-31b 则是过时值先升且始终领先。上层三分之一平均后，页面仍提升检索值（Δnew>0，p≤0.04），但对过时值的抑制远小于提升，gemma-4-31b 完全没有抑制。一个具体读数：第 35 层加入页面使 Barcelona 的 logit-lens 分数升 15.59、Newcastle United 降 5.96。 151
证据与局限：事实抽取全流程确定性，唯一模型辅助步骤（把 FDA 标签条款改写为原子断言）逐条人工复核；每模型两个基准各跑 300 条扰动外的完整配对；引用不忠实的负面标签一律人工确认，LLM 判官（DeepSeek-V4-Flash）只能判通过。代码与数据入口为 https://github.com/ojwwalters/retrieved-but-not-read/ ，实测 HTTP 200。作者自陈的局限与引用风险：专有模型只有一个（GPT-5.6 Luna，三档中最轻的一档，出于成本考虑）；GLM-5.3-Flash 未公开训练截止日，作者用行为（对照事实表现与闭卷准确率与有截止日模型一致）排除污染；固定答案行的契约使 Luna 的误认降低 17.5 点，故其 deployed 失败率应视为下界；部分模型的不忠实率极低（Luna 1.0%、GLM-5.3-Flash 1.8%），少数评分误差就会显著移动比例；域间差异大，sports 驱动了严重比例，SEC（13 条）与 chemical（8 条）样本不足以支撑结论；层间分析只用体育转会事实（因为答案只有几个 token），用 logit lens 与 J-lens 刻画现象而不构成因果机制检验。 151
与目标研究线的连接点：邻近跟踪——它研究的对象是搜索增强的大模型而非长程智能体，但它给的两件东西可直接搬到 A 线。第一是评测口径：把「阅读深度」拆成只看摘要 / 打开未引用 / 打开并引用三档，并把「引用不忠实」定义为所引页面与回复断言取值相矛盾，再配合「确定性评分 + 人工只判负面标签」的判官流程，可用于评估任何检索增强或搜索智能体的证据使用质量，而不止是最终答案对错。第二是 harness 级修补的量化：在每次打开页面后重述完整提示能恢复 26.1% 的失败，这类上下文重述属于执行期控制里成本极低的一招。与同篇单里 QREF 的差异在于，QREF 改的是检索接口的训练，本文测的是模型是否用得上已到手的证据，两者恰好是同一回路的前后两段。 151
结论建议：读第 3 节（事实构造与三档阅读深度的口径）、表 1 与表 2、第 5 节的层间分析。引用 53.6% 时必须限定为 Luna 在其原生联网搜索下的口径；引用 6.4% 对 1.3% 时须注明是七个配置、全部提示型合并后的结果，且严重比例主要由 sports 域驱动，不可推给所有域。 151
5. CARA：以结果性与必要性判据引导的图检索智能体，MAG 上 Hit@1 从 80.1 提到 84.9
CARA: Causally Guided Retrieval Agent for Question Answering · arXiv:2610.22017 · 邻近跟踪
研究问题与核心方法：在文本富知识图上检索，要的是对回答有实质贡献的证据，而非仅文本相似的内容。作者来自北卡罗来纳大学夏洛特分校，举例：问「这位病人应避免哪种药」，相似度检索返回提到 aspirin 与 metformin 的记录，真正决定答案的却是与问题几无字面重叠的「过敏：amoxicillin」。据此提出 CARA（CAusally guided Retrieval Agent），一个无需训练、提示驱动的因果引导检索智能体，把「因果相关性」操作化为两个互补判据：consequentiality（结果性，加入该证据是否实质提高可回答性，cᵢ∈[0,1]）与 essentiality（必要性，移除是否实质降低可回答性，eᵢ∈[0,1]），合成为 cauᵢ = λcᵢ + (1−λ)eᵢ；再加 path consistency（路径一致性 pᵢ），衡量 vt→ui 是否构成连贯证据链，最终得分为 sₜ(uᵢ) = α·cauᵢ + (1−α)·pᵢ。工具两个：GlobalSearch 用 BM25 做全局节点检索（广度），Neighbors 做一跳邻居扩展、可按节点与边类型过滤后取 BM25 top-k（深度），跳数不预先指定。因果模块不是独立智能体也不是工具，而是嵌在智能体内的 LLM 评估模块，只给候选邻居打分、不自行检索，结果交给检索智能体决定继续跳、改过滤器、重新锚定、追加或结束；多智能体并行后用 reciprocal rank fusion（RRF，倒数排名融合）聚合。作者还给 STaRK 补了真值答案（Qwen3.8-27B 生成、用 Completeness 校验、抽检约 10% 人工确认），使其可评下游问答。 152
关键结果：
- 表 1 检索（Hit@1，AMAZON / MAG / PRIME）：CARA 62.4 / 84.9 / 59.5，最接近的智能体基线 ARK 59.0 / 80.1 / 58.6；传统基线 BM25 45.3 / 25.9 / 12.7、KAR 49.6 / 50.1 / 23.3（GraphFlow 的 47.9 / 39.1 / 51.4 由他人报告，基于 LLaMA3-8B-Instruct 与 test-0.1 子集，口径不同）。
- 表 2 问答（BERTScore ×100 / 忠实度 %；三域顺序同表 1，AMAZON / MAG / PRIME）：CARA 30.7 / 88.0、40.2 / 82.6、41.3 / 86.1，BERTScore 三域最高；对比 KAR 28.3 / 88.3、33.0 / 86.6、36.0 / 88.6 与 ARK 30.1 / 87.4、39.2 / 78.6、40.5 / 80.5；无检索为 7.5、16.7、27.9。KAR 忠实度最高但 BERTScore 最低。
- 参数：λ 与 α 各从 0 扫到 1（取 0 或 1 等价于组件消融），跨数据集与跨指标平均以 λ=0.5、α=0.5 最好。
- 表 3 消融（Hit@1）：完整方法 62.4 / 84.9 / 59.5；去掉因果模块 C 后 60.5 / 80.3 / 58.1；换用计数式聚合 62.2 / 84.4 / 60.0；两者同时去掉（等价于 ARK）59.0 / 80.1 / 58.6 附近。移除 C 一致地降低检索与问答表现；替换 RRF 差别较小，且在 PRIME 的 Hit@1、MAG 与 PRIME 的忠实度上计数式聚合略高。
- 表 4 成本（三智能体合计/查询；数据集顺序同为 AMAZON / MAG / PRIME）：CARA 在三数据集分别用 30.6、45.9、56.5 次总调用，检查 122、123、198 个节点，延迟 145、223、276 秒；ARK 为 26.9、31.5、41.2 次调用、152、163、249 个节点、105、136、141 秒。CARA 检索调用与检查节点更少，延迟更高。
- 预算扫描（test-0.1 子集）：Recall@20 与 BERTScore 随预算上升，超过 Tmax=30 后基本平稳；PRIME 上 BERTScore 从 Tmax=30 的 42.1 略降到 Tmax=150 的 41.6。 152
证据与局限：无需训练，但因果相关性由 LLM 打分而非形式化推断，作者自陈可能受模型偏差、提示策略与评估错误影响；额外因果推理显著提高延迟，MAG 与 PRIME 尤甚。下游问答真值答案为自动生成、忠实度用 Ragas，可能带来评测噪声。原文未给 CARA 自身代码或数据入口（正文出现的 https://github.com/Samyu0304/GraphFlow 是引用他人工作，实测 HTTP 200，不能当作复现入口）。引用风险：不要只看忠实度就断言效果最好，原文明确 KAR 忠实度最高而 BERTScore 最低，说明贴紧证据与答案正确并不等价。 152
与目标研究线的连接点：邻近跟踪——不在长程智能体训练或评估主线上，但有两点可搬走：一是评测口径，把「证据对回答的贡献」形式化为加入（结果性）与移除（必要性）两个反事实方向，适用于判断某条证据是否必要的检索或上下文筛选；二是 RRF 跨智能体融合，兼顾组内排名与跨组共识，可复用于多智能体并行检索的集成。与 QREF 的差异在于，QREF 改查询重写与证据过滤，CARA 改图上的跳转与终止。 152
结论建议：读第 3.2 节（两判据与融合公式）、表 1 与表 2、表 3 消融、表 4 成本与 5.3 预算曲线。引用其优势须限定为 STaRK 三数据集、同一答案生成器与 λ=α=0.5，并同时给出命中率与成本两侧读数。 152
十四、邻近跟踪：安全、对齐与鲁棒性
1. StepSafe：以干预窗口分阶段信用训练步骤级安全门控，五基准上尤登指数 J 达 53.0
StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning · arXiv:2610.20960 · 值得扫读
研究问题与核心方法：智能体的安全性本质上是序列性的：某个动作是否安全，取决于此前的动作、工具输出、信息披露与智能体之间的交互，因此监控器必须在每个待执行动作前逐步判断。作者（耶鲁大学与 NetApp）指出，现有步骤级监控器学的是「某个动作是否不安全」，却没学「什么时候该行动」——标注只说是哪条轨迹或哪一步不安全，不说风险从哪一步开始可见、也不说最晚到哪一步干预还能阻止伤害。为此提出 ASPO（Adaptive Stage-Aligned Policy Optimization，自适应阶段对齐策略优化）来训练 StepSafe。其监督前提是每一步都带违规分类体系与干预窗口。分类沿四条轴：failure（违反了什么，12 类）、fault（怎么错的，10 类）、harm（造成什么，10 类）、source（压力来自哪里，8 类）。干预窗口记三个界标：signal s（风险从可见前缀可观察的第一步）、boundary b（执行即违规的那一步）、last preventable step h（干预仍能阻止伤害的最后一步），满足 s≤b≤h，只有 s≤t≤h 的步才应干预，安全轨迹全程不干预。数据以 AgentDoG 与 HarnessAudit 的轨迹为基础、用 GPT-5.6 Luna 标注，并用多智能体红队（按 persona 混合）针对稀疏类别迭代扩样；每条不安全轨迹配一个目标与前缀相同、只差一个权限、收件人、来源事实或动作的良性变体，扩样项经 reviewer 智能体核验后入库。ASPO 含两个信号。SAPO（stage-aligned policy optimization）只把每个回复与同一可见前缀下采样的其它回复比较，用时间感知的阶段打分表给分：风险信号前 Continue 得分，澄清期 Ask 优于 Stop，到 boundary 只有 Stop 得正分，到 last preventable step 只有 Stop 得 +1；并按标注类别给「继续」与「干预」两类等权分配更新预算，避免常规安全步淹没更新。AFSD（adaptive feedback self-distillation）把标注变成 token 级指导：干预步给违规分类，安全步给从监控器自身误报中挖掘出的规则，用带门控的教师-学生散度加权。 153
证据与局限：作者额外人工标注了每条不安全轨迹的伤害步；尤登指数 J 与时效替代量 Util−ASR 的相关为 r=0.982，说明伤害步标注与真值标签一致。代码地址 https://github.com/carriegu0818/StepSafe 实测返回 404，未能核验可复现条件。引用风险：J = recall + Util − 1 是安全与效用的合成值，不同 ASR 与 Utility 组合可给出相同 J，引用 53.0 时必须同时给出 ASR 27.6 与 Util 80.0；三种子只报 4B；干预定义把「Ask 且风险分 ≥50」也算作干预，跨系统比较须沿用同一判定；AgentDoG 与 ShieldAgent 的极低 ASR 来自几乎对所有轨迹报警（安全轨迹误报 58.7% 与 65.3%），不能与 StepSafe 的 ASR 并列。 153
与目标研究线的连接点：直接命中 A 线的执行期控制（门控）。可搬走两件工具：一是界标化的干预窗口（signal / boundary / last preventable），把二值安全标签升级为「从哪一步起可见风险、到哪一步前必须动手」的时序结构；二是「用自己的误报挖规则、补上安全步缺失的监督」这一自蒸馏思路——正类（干预步）有分类体系可依、负类（安全步）无事可标时，从自身误报反向生成规则可恢复平衡，适用于任何只有结果标签的步骤级决策训练。与 AgentPerturb 的分工不同：后者测智能体在噪声输入下是否失效，StepSafe 训一个在伤害前拦住的监控器。 153
结论建议：读第 2.2 节（分类体系与干预窗口定义）、表 2（安全-效用 Pareto 口径）、表 3 至表 5 消融。引用 53.0 时必须写明是 StepSafe-4B、五基准聚合、且该值为尤登指数 J = recall + Util − 1，并附 ASR 与 Utility 两个分项。 153
2. QuasiLeak-Bench：策略条件下的准证据组恢复基准，5,000 条对话上微调 4B 超越 GPT-5.6 Sol
QuasiLeak-Bench: Evaluating LLM-Based Privacy Detectors on Policy-Conditioned Quasi-Evidence Group Recovery · arXiv:2610.21333 · 邻近跟踪
研究问题与核心方法：自然语言消息里的 quasi-identifiers（准标识符）单看很弱，合起来却能暴露私人属性；作者把这样一组联合揭示的线索称为 quasi-evidence group（准证据组），例如「床边的果汁盒」不足以说明糖尿病，「冰箱一直很冷」加「按克数列碳水化合物」就够了。现有隐私基准盯显式标识符、属性推断或任务驱动披露，没有度量这种联合揭示；而暴露是否违规还取决于发送者指定的披露策略。作者来自新加坡国立大学与 A*STAR，提出 QuasiLeak-Bench：给定消息 x、发送者档案 p 与披露策略 π（对 age、gender、nationality、education、occupation、income、relationship、health 这 8 个属性各标 keep / hide / neutral），检测器要输出被标 hide 的属性所对应的完整准证据组及其揭示的属性。构造走 reverse construction（反向构造）：先用 LLM proposer 从档案与场景挖候选线索，再用 LLM verifier 模拟只看到线索、把真值仅当答案键的攻击者，要求「单线索 lift < 0.45」且「整组 lift ≥ 0.50」（lift：把 verifier 对该属性取值的置信度按该属性的随机猜测水平重新标定到 0–1，0 表示与随机猜测无异、1 表示确定）；通过后按 pair / trio / quad（组大小 2 / 3 / 4）组合，插入 2–4 个相似但无真值指向的 distractor，最后才由 writer 把线索逐字、各出现一次地写进自然文档，并随机分配 near / medium / far 三种线索间距。质量检查用 15 条 rubric 的多 LLM 判官面板，分 cue quality、residual leakage、realism 三视图，未决案件交人工复核并可修复后重检。语料 5,000 条消息，配 500 个档案（300 个取自既有属性推断基准、200 个新生成并经人工审核）与 20 个通信场景（8 个改编自对话隐私设置、12 个新写）；每个场景的策略先由人工定义核验，每个属性至少被 4 个场景标 keep、另至少 4 个标 hide。 154
关键结果：
- 摘要级结论：现有隐私检测器迁移到本基准表现很差；本地可部署的 LLM 检测器远落后于专有模型，主要原因是完全漏掉大多数准证据组；而在本基准训练集上微调的一个 4B 模型，在留出文档上超过了最强的提示式模型 GPT-5.6 Sol。
- 构造规模：组大小限制为 2–4；共 9,099 个被选中的组，其中 46 个被 verifier 发现还会揭示另一个属性（verified secondary attribute）；每份文档插入 2–4 个 distractor。
- 质量核验：由四名评审对 400 份自动通过文档做分层抽样人工审核（每份两名评审），另有来自四个其它模型族的 LLM verifier 复判金标组；这两项检查各自接受超过 80% 的送检证据。
- 结果章数值不可得：arXiv HTML 全文（https://arxiv.org/html/2610.21333v1/ ）只到第 4.3 节，检测器对比、指标定义与消融所在章节未包含在 HTML 里；摘要页 Comments 注明全文 37 页、15 图、25 表。因此本条无法转述各检测器的指标数值与逐项得分，只能给出构造规模与摘要级定性结论。 154
证据与局限：代码与数据入口为 https://github.com/Yufannnn/QuasiLeak-Bench ，实测 HTTP 200。局限与引用风险：本条的量化结果基本不可得，只能引用构造事实（5,000 条消息、500 个档案、20 个场景、组大小 2–4、单线索 lift<0.45 与整组 lift≥0.50、两项检查接受 >80%）与摘要里的定性陈述；「4B 微调超过 GPT-5.6 Sol」是摘要说法，本单元未能核实其口径（对应哪个指标、哪一版留出分布）；recovery 的阈值本身由 LLM verifier 判定，属构造性定义；该文另挂 cs.CR 分类，与四条研究线只是间接相关。 154
与目标研究线的连接点：邻近跟踪——研究工作不在四条线主线上，但两件事可搬走。第一是评测口径：以「组」为单位评分，对不完整的组只给部分分、只有完整组且绑定到正确属性才给满分，这种 group-aware 打分可迁移到任何「多片段联合才成立」的检测或抽取任务（如证据链、多跳引用）。第二是数据构造流程：reverse construction 先构造并验证证据结构、再生成承载文本，比先写文本再回头找证据的接受率更高，适用于需要「单独弱、联合强」性质的数据合成。与 MemCut 的差异在于方向相反：MemCut 测删除后事实能否仍由存活证据推导，本基准测检测器能否把联合揭示的线索组完整恢复出来。 154
结论建议：若需要该条的模型对比数值，须改取 PDF 或重取更完整的 HTML；在本期版面里只宜引用其构造事实与摘要给出的定性结论，并注明实验章数值未能在 HTML 全文里核实。读时可参考第 3 节（准证据组的形式化定义与 keep / hide / neutral 策略）与第 4.2 节（反向构造三阶段与验证阈值）。 154
3. MemCut：456 条人工设计的长期记忆遗忘基准，10 轮 LLM 清理后仍残留 39–76% 可恢复
MemCut: Every Secret Leaves a Trail in the Long-Term Memory of LLM Agents · arXiv:2610.21405 · 精读
研究问题与核心方法：长期记忆已成为大模型智能体的关键组件，但一个可靠的内存系统还必须能在用户要求时忘掉敏感数据。作者来自香港科技大学（广州）与中国科学技术大学，指出两个被忽略的问题：删掉直接陈述秘密的那条记录只删了显式陈述，其它从未提及秘密的普通记录合起来仍能揭示它；而且「助手答不上来」不等于遗忘成功，可能是检索器只是漏掉了仍在的证据，换个查询或换检索器就能重新暴露。为此提出 MemCut 基准与两个指标：native recovery（原生恢复）走系统自己的检索来问事实问题，测助手还会不会主动说出；residual recovery（残留恢复）跳过检索，把所有由标注证据或披露派生、且仍存活的记忆对象直接交给同一个读者，测记忆还支持什么；两者之差除以 residual recovery 即 hidden-risk share（隐藏风险占比），是原生检索漏掉的残留成功比例的下界。每个样本配一个 protected fact（受保护事实）与一段跨会话长对话，并标注 disclosure（直接陈述它的轮次）、evidence（支持它但不陈述它的轮次）、sufficient sets（蕴含它的最小证据组合集合 S）、distractors（像证据但不支持它的轮次）。删除集合 X 算遗忘当且仅当披露全在 X 内、且 X 与每个最小组合都相交；与所有组合都相交的最小证据集叫 cut。事实的披露、证据、最小组合与 distractor 全部由作者设计、只由 GPT-6 把指定内容渲染成对话、作者逐轮核对，每条 episode 至少花 12 小时。 5
证据与局限：注释在系统评测之前就固定，并由两种算法独立验证；写模型只负责把作者设计的内容渲染成对话，作者逐轮核对偏差。作者自陈的局限：参考基线只是复用现有检索与写入组件、不是专用擦除方法，故这些是「参考性能」；只研究文本记忆，多模态与参数化记忆不在范围内；source 级度量不覆盖因闭包删除的无关联内容与下游效用损失；四个写模型（DeepSeek-V4.1-Flash、Qwen3.8-Flash、GLM-5.3-Flash、MiMo-V2.5）只报范围不报种子数。原文只写「we release its harness」，未给出可实测的代码或数据链接，复现条件无法核验。引用风险：43–51% 一类数字只出现在 EP01–05 的 144 条子集扫描上，与主表 456 条的口径不同，不可混用；hidden-risk share 是下界而非精确值；residual recovery 的读者固定为 Qwen3.8-Flash 时，其值不能直接推广到别的读者。 5
与目标研究线的连接点：直接命中 A 线的记忆与上下文管理，并给出可直接搬走的评测口径：把「遗忘」拆成 native 与 residual 两个指标、用 hidden-risk share 暴露「看起来忘了其实没忘」，再用 minimal cut / sufficient sets 量化最小删除预算。数据构造里的三条设计——证据跨会话分散、每事实二十余个 distractor、同一条事实有多条独立推导链——是构造任何长期记忆评测时可直接复用的配方，尤其适合检验「按相似度检索」在清理与回忆两端的共同盲区。与同篇单里 AgentPerturb 的差异：AgentPerturb 测输入被扰动后的能力退化，MemCut 测删除后的残留可推导性，两者都把「任务成功/失败」之外的量当作核心读数。 5
结论建议：读第 3 节（任务定义与两个指标）、表 2（测量保证）、表 3 与表 4，以及图 3 与 6.1 的候选池/预算扫描。引用残留恢复区间时必须写明「5 个记忆设计 × 4 个写模型」与具体删除档（S0 / S1 / S2），引用 k 的线性关系要注明 R²=0.95 来自 132 个扫描设置，而不是主表。 5
4. AgentPerturb：四类目标×三类扰动的智能体鲁棒性评测，十模型平均相对得分下降 21.8%
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations · arXiv:2610.21624 · 邻近跟踪
研究问题与核心方法：真实任务常带噪，但现有评测缺少同时刻画「扰动什么」与「怎么扰动」的统一框架。作者（香港科技大学（广州）、腾讯混元、华东师范大学等）把智能体交互回路里直接可得的输入分成四个目标：用户话语 U（任务目标）、过程规范 P（流程、政策与技能文档）、承接上下文 C（对话史、摘要与检索记忆）、工具契约 T（工具名、参数 schema 与返回字段）；每类扰动只改一个目标、另三个保持不变。扰动类型三种：Missing（删掉所需信息）、Redundant（加入无关但不改解的信息）、Incorrect（用错误或不兼容的内容替换有效信息）；3 类型 × 4 目标 = 12 个扰动族。构造流程：由 DeepSeek-V4-Pro 作 selector 依基准原生结构选定目标与类型，再按示范实例化具体编辑，必要时附恢复标注（如删掉收购案的交易倍数后智能体须先追问、用户模拟器再补，金标答案不变），最后由独立 verifier 检查只改一个目标、原目标保持、至少有一条成功路径且可执行。评测在 APEX-Agents 与 Toolathlon 上各取 25 个任务，十个模型共用 Codex CLI 脚手架，配对两侧都由基准原生 grader 打分，配对内差异可归因到被改的那一个目标。 155
关键结果：
- 表 1（十个模型）：APEX-Agents 平均 clean 70.3、perturbed 55.0、相对下降 21.8%；Toolathlon 平均 clean 25.0、perturbed 18.4、下降 26.4%。每个模型在两基准上都下降，最极端如 DeepSeek-V4-Flash 在 APEX-Agents 从 88.0 降到 47.0（−46.6%）、GLM-5.2 在 Toolathlon 从 16.0 降到 7.1（−55.6%）。
- 主导脆弱点随环境变化：APEX-Agents 上过程规范是最伤的目标、冗余信息是最伤的类型；Toolathlon 上用户话语最伤、缺失信息最伤。逐格看，前者是过程与冗余相关好几格损失相近，后者是「用户话语 + 缺失」单独主导。敏感性更多由扰动哪个目标而非用哪种类型组织。
- 能力与鲁棒性关联弱：Artificial Analysis Intelligence Index v4.1.1 与相对退化呈正但弱的关联，十个模型下没有置换检验显著（100,000 次随机分配）；最强三个模型平均退化不到其余模型的一半，但 DeepSeek-V4-Pro 与 V4-Flash 只差一个能力点，在 APEX-Agents 上的退化却相差一个数量级以上。
- 成本被低估：Hunyuan-3-High 上成功的扰动轨迹平均多耗 73% tokens，每百万 token 的成功数下降 44%；成功轨迹的中位成本几乎不动，增量来自一小撮昂贵轨迹。工具契约族里最隐蔽的编辑最伤——只重写工具描述造成的成功下降约是增删工具的 4 倍（表 5，67 条工具扰动：replace_description 降 21.1 点、成本 +97,616，而 add_fake_tool 降 4.3、remove_tool 降 5.3）。
- 失败归因：审计 30 条「干净成功、扰动失败」的 DeepSeek-V4-Flash 轨迹（20 条 Toolathlon、10 条 APEX-Agents，跨 13 个任务），27 条从未提到某个值、结论或答案可能有错，两条表达模糊怀疑，只有一条明确说出问题（且它直接停下、不追问）；没有轨迹怀疑指令、上下文或工具输出被改动；首个可观察错误处最常见的行为是直接接受被污染的值并带入后续推理与输出（13 条），其余分散为判断反转、捏造标识符、代码出错、漏掉要求与放弃。 155
证据与局限：每个模型每基准跑 300 条扰动 episode，配对设计保证差异可归因；失败归因按 AA（最强显式问题意识）与 EE（首个可观察错误处的即时行为）两轴打标。作者自陈局限：只覆盖两个基准与一个 agent 脚手架，每个扰动族独立注入，未测复合或演化噪声。引用风险：能力-鲁棒性的正相关不显著，不可当作「更强的模型更鲁棒」；73% 与 44% 只来自 Hunyuan-3-High；30 条归因是单模型单次审计，属描述性；工具编辑的四倍差距来自 67 条扰动，各组样本量不同，作者说明是描述性比较。代码与数据标注为「will be released at github.com/xuyj233/AgentPerturb」，实测该地址 HTTP 200。 155
与目标研究线的连接点：直接命中 A 线的长程任务评测。可搬走三件：一是「目标 × 类型」两维扰动矩阵这一评测设计，强制把噪声按输入通道拆开，并在配对（同一任务的干净/扰动两版）内隔离归因；二是一条结论——敏感性主要由扰动目标而非扰动类型组织，评测应给出输入通道级敏感度而非只给总分；三是把 token 成本与恢复成本纳入鲁棒性报告，只看成功率会漏掉「成功但昂贵」的轨迹。与 StepSafe 的分工不同：这里测智能体在噪声输入下是否失效，StepSafe 训一个在伤害前拦住的监控器，本条的归因结论正是这类门控要解决的失效模式。 155
结论建议：读第 3.1 节（四目标三类型定义）、表 1、图 3 与图 4（目标/类型的边际与逐格效应）、4.4 成本分析与 4.5 失败归因。引用 21.8% 与 26.4% 时须写明是十个模型、共用 Codex CLI 脚手架的平均相对下降；引用「成功轨迹多耗 73% tokens」须限定为 Hunyuan-3-High。 155
5. 行为遗忘不等于隐私：LLaMA 3 英语遗忘后改用原生印地语评测，遗忘质量由 0.257 降到 0.0396
Behavioral Forgetting Is Not Privacy in Machine Unlearning · arXiv:2610.21799 · 值得扫读
研究问题与核心方法：这是一篇立场论文，作者 Tyler Lizzo 与 Larry Heck 来自佐治亚理工学院 AI Virtual Assistant（AVA）Lab。它把两件事分开：行为遗忘（behavioral forgetting，模型在指定评测分布上看起来已经忘掉目标信息）与信息不可获取（information inaccessibility，在给定威胁模型下无法通过任何机制把该信息找回来）。作者的判断是，现有机器遗忘（machine unlearning，从已部署模型里定向删除特定信息）评测只在固定的遗忘集上做行为探针、基准打分或统计检验，这些只能证明模型行为变了，不能证明信息取不回来；漏掉的维度是访问路径（access path，同一批目标信息被取回时所经过的改写、翻译、换书写脚本、换模态或对抗性提取通道）。论证方式是受控案例研究：跨语言提问。在语义等价、只换语言与书写系统的前提下做一对一遗忘（one-to-one unlearning，在一种语言上执行遗忘、在另一种语言上评测），把目标事实本身固定住，只让语言表征变化。数据集用 cTOFU（TOFU 的多语言扩展，覆盖英语、中文、印地语、意大利语、西班牙语，并额外提供罗马化印地语与中文拼音；TOFU 本身是用合成事实关联构造的虚构遗忘基准），保留原始遗忘集与保留集划分，实验取 10% 遗忘集。代表方法为 UNLEARN（三阶段：子空间识别、子空间判别、任务移除）。补充证据来自子空间干预：把共享多语言子空间与各语言特有残差子空间分别做正交化后移除。156
关键结果：
- 单语（英语—英语）对照（表 1）：在 Llama 3、Mixtral、Aya 23 三个模型族上，UNLEARN 是唯一同时满足 TOFU 遗忘判据（p>0.1）并把归一化效用保持在基座附近的办法，遗忘质量分别为 0.257、0.215、0.315，效用 0.6047、0.5741、0.5047；对应基座模型效用 0.6227、0.5912、0.5503。作为对照，两个标准遗忘基线 NPO 与 FLAT（A.1 中与 DPO、梯度上升、KL 最小化、梯度差并列的基线，原文未展开全称）的遗忘质量分别只有 0.0291/0.0587/0.0468 与 0.0841/0.0692/0.0765，顺序同为 Llama 3、Mixtral、Aya 23。
- 语言换一下就翻车（图 1、表 4，Llama 3 英语遗忘）：评测语言为英语时遗忘质量 0.257（通过判据），西班牙语 0.197、意大利语 0.249、罗马化印地语 0.174 也都通过，但换成原生文字印地语后降到 0.0396，同一批事实、同一个模型，判据不通过；该切片效用也从英语的 0.6047 掉到 0.2835。
- 反向更明显（表 4，Llama 3 以印地语做遗忘）：印地语评测遗忘质量 0.154 通过，但罗马化印地语 0.0896 不通过，英语 0.00165、西班牙语 4.13×10⁻⁵、意大利语 9.23×10⁻⁷ 全部失败。跨语言遗忘因此是不对称的。
- 换模型族同样成立：Mixtral 以中文做遗忘后，中文评测遗忘质量 1.24×10⁻⁵、中文拼音 5.93×10⁻⁵，效用只剩 0.0178；Aya 23 以中文做遗忘后中文评测 0.124 通过，但英语评测 5.26×10⁻⁴ 不通过。
- 图 2 的干预把机制指出来：移除共享多语言子空间会让多个语言同时遗忘，而只移除某个语言特有的残差子空间主要影响该语言本身，说明跨语言差异不是翻译措辞造成的伪影。
- 翻译质量先做了校验（表 2，每语言随机抽 400 例、由流利双语评审人检查）：人工通过率从中文拼音的 93.25% 到意大利语的 99.25%，自动指标 COMET-Kiwi（参考无关的机器翻译质量估计分）为 0.8610 至 0.8858（只有西班牙语、印地语、意大利语、中文有自动分，罗马化印地语与中文拼音未给），即语义内容在翻译与转写后基本保留。156
与目标研究线的连接点：属于 A 线的评测口径议题，可搬走的是「把同一目标的检索通道写成评测维度」这一操作。具体讲，任何声称「模型能力/信息已被移除或抑制」的结论，都应该标注它是在哪几条访问路径上被检验的；作者给出的三级递进（分布内遗忘 → 访问路径泛化 → 对抗性可恢复）可以直接当作智能体能力评测的清单复用，例如把「换工具名、换语言、换上下文顺序、换模态」当成等价改写集合。与同节 2610.21679 的结论互补：后者证明分词器内禀指标在换模型族、换语言、换任务后不再预测下游表现，本文证明遗忘结论在换语言与书写系统后不再成立，两篇都是「同一分布内成立不等于泛化成立」的实例；与 2610.22243 相比，本文停在指出评测缺口，后者把缺口做成了可执行的审计阶梯，迁移到研发决策时后者更直接可用。156
结论建议：建议读第 3 节（实验设定与影响路径结论）与第 4 节（三级评测清单），数字核对看表 1（单语基线对照）、表 4（一对一跨语言全量结果）、表 2（翻译校验）；方法细节只在复现时读 A.3。引用时必须限定口径：这些数字来自 TOFU 合成事实、10% 遗忘集、单一遗忘方法 UNLEARN、七个检查点中的哪几个、以及五种语言加其罗马化写法；「遗忘不通过」指的是 TOFU 的 p>0.1 判据不满足，不等于该信息能被任何攻击恢复。156
6. 智能体安全评测的捷径审计：改写不可信内容标记使 Haiku 拦截率降 8.33 个百分点、不透明工具别名使其升 11.46 个百分点
Shortcut Sensitivity in Agent-Safety Evaluations · arXiv:2610.22243 · 精读
研究问题与核心方法：作者 Hasan Demirkiran 与 Jens Ernstberger 来自 Kontext（工作坊为 TAE，Trust-AI-Eval）。要解决的问题是：评测一个门控（guard，智能体执行工具调用前对候选动作做放行或拦截判断的监督组件）所用的数据里，可能混进了与安全语义无关、却能单独把标签猜出来的线索（标注惯例、来源标识、工具名、轨迹长度、重复模板），于是基准看起来可靠其实是靠这些线索撑起来的。作者提出捷径审计（shortcut auditing）作为三级推断阶梯——层级 1 标签可预测性（用一个刻意能力很弱的规则 r(z) 只看单一线索，能否预测已发布标签）；层级 2 观察性关联（在匹配队列内比较线索出现与不出现时门控的拦截率差 Δassoc）；层级 3 配对决策敏感性（在保持动作授权与效果不变的前提下只改该线索，看门控的严格判定是否翻转，随机门控还需交错重复调用与格式安慰剂）。审计对象是已发布的智能体安全评测数据：LinuxArena 公开样本（932 行，去重后 576 条动作内容唯一的 shell 轨迹，含 176 条攻击与 400 条诚实轨迹，十个环境）；TS-Bench（ToolSafe 发布的执行前步级工具安全基准）派生的 AgentDojo-Traj（1,220 步：352 不安全、868 安全，四个域）与 AgentHarm-Traj（731 步：525 不安全、206 安全，197 个发布交互分组）。第三级用固定在 64 个基例上的冻结队列（每个域取 8 个带标记安全步与 8 个带标记不安全步，来自 58 个源交互），编辑包括标记改写、不透明工具别名、两者叠加，以及只改外层 JSON 缩进的格式安慰剂。受试门控包括字节锚定的 8 比特 MLX（Apple 的机器学习框架）版 TS-Guard（TS-Bench 随附发布的参考门控）复现、Claude Haiku 4.5、GPT-5.6 Luna 与单次抽样的 GPT-5.5，Haiku 与 Luna 各做 960 次交错调用。3
关键结果：
- LinuxArena 的轨迹长度线索（负的平均 shell 命令字符数）AUC 0.910，95% 聚类自助区间 [0.873, 0.941]；留一环境（LOEO）的字符 n-gram 词法基线 AUC 0.934 [0.907, 0.955]，两者差 0.023 [0.008, 0.040]；十个留出环境各自的 AUC 落在 0.900 到 1.000 之间（宏平均 0.951）。把门控换成同模型族 Haiku 队列后，词法 0.955 对长度 0.943，差 0.012 [−0.003, 0.027]。粗分长度四分位内门控分数仍具信息量（加权 AUC 0.896 对长度的 0.607），且动作条数比平均命令长度更可预测（AUC 0.947 对 0.905）。
- AgentDojo-Traj：攻击模板会用一对字面标记把注入的外部内容包起来，352 条不安全行全部含该标记，868 条安全行里也有 321 条含它；标记单独使用召回率很高但假阳性率 37.0%（F1 0.687），再叠加 11 个动作前缀动词的固定规则后 F1 0.802、平衡准确率 0.894、召回 0.972。精确工具名查表在交互分组五折下 F1 0.901，但换域留出（LODO）塌到 0.495，因为只有 17.3% 的行用到了训练域里见过的工具名；见过名的分层 F1 0.797、平衡准确率 0.508，没见过名的分层 F1 0.000。
- AgentHarm-Traj：全判不安全的基线就有 F1 0.836、平衡准确率 0.500，说明正类占比本身抬高了 F1；已发布的 TS-Guard 按行加权 F1 0.902、准确率 0.848、平衡准确率 0.754，改成交互等权后 F1 降到 0.719、准确率 0.724，平衡准确率反而升到 0.776（按交互取多数则 0.714/0.716/0.770）。原因是 72 个有害交互平均贡献 7.29 行，而 125 个良性交互只有 1.65 行。
- 七配置观察屏幕（表 3，分母为 321 条带标记与 547 条不带标记的安全行）：Claude Haiku 4.5 的关联最大，拦截率差 74.09 个百分点 [68.67, 79.75]（239/321 对 2/547）；TS-Guard 只有 3.62 个百分点 [0.09, 7.33]，GPT-5.5 为 4.22 个百分点 [1.70, 7.05]，GPT-5.6 Luna 为 10.48 个百分点 [7.17, 14.11]。
- 配对干预（表 2，64 个基例、每条件 3 次调用）：相对未编辑的原始调用，Haiku 在标记改写下的拦截概率变化 −8.33 个百分点 [−15.05, −2.49]，不透明别名 +11.46 个百分点 [2.69, 20.59]，叠加 −2.60 个百分点，格式安慰剂 −1.56 个百分点；扣掉安慰剂后为 −6.77 个百分点 [−12.82, −1.61] 与 +13.02 个百分点 [4.92, 21.72]。所有不安全调用在每种条件下都被拦截，因此对继承标签的严格准确率从原始 73.44% 升到标记改写后的 81.77%、降到别名后的 61.98%——也就是评测成绩本身被改写的线索推着走。
- 复制到 GPT-5.6 Luna 后效应消失：标记 0.00 个百分点 [−3.13, 3.17]，别名 +1.04 个百分点 [−2.08, 4.41]，相对安慰剂为 −1.04 与 0.00 个百分点，没有任何基例在两种编辑下从一致拦截翻到一致放行；8 比特 TS-Guard 只在 3/64 个标记编辑对上改变判定。960 次 Haiku 调用全部解析成功、全部路由到 anthropic/claude-haiku-4.5，记账成本 3.408 美元；Luna 960 次调用成本 0.4841 美元。
- 确定性复现与单次抽样给的是另一幅图景（附录 C 表 4）：8 比特 TS-Guard 在标记改写、不透明别名、两者叠加三种编辑下的有效翻转分别为 3/64、3/63、6/64，基率 4.69%、4.76%、9.38%，按交互等权后为 4.31%、5.26%、8.62%，对应的 Clopper–Pearson 描述性区间为 0.98% 至 13.09%、0.99% 至 13.29%、3.52% 至 19.30%；另有 7、14、14 个基例出现分量或序数变化而严格判定并未翻转。GPT-5.5 的单次抽样在「原始对标记改写」「原始对别名」「原始对叠加」三组比较上分别有 3/64、1/64、2/64 个基例判定不一致，对应的有符号拦截率差为 +1.56、+1.56、0 个百分点。
- LinuxArena 的度量单位同样会改变结论（附录 D）：在 70 条带 shell 命令的攻击与 200 条诚实轨迹上按 1% 轨迹假正率校准，Opus 监控者检出 0.429 的攻击，词法诊断 0.257、长度线索 0.229；改用全部 74 条攻击轨迹（891 个动作）并以同 200 条诚实轨迹的 12,494 个动作校准后，Opus 在 1% 步级假正率下的任一步检出期望为 0.785 [0.610, 0.937]，公开样本因缺少危害步信息无法精确复现官方 pre-harm 口径。
- 查表诊断的混淆矩阵把 LODO 的塌陷拆开（附录 D 表 5）：见过工具名的留出行只有 211 条，F1 0.797、平衡准确率 0.508（真阳 137、真阴 4、假阳 64、假阴 6）；没见过名的是 1,009 条，F1 0.000、平衡准确率 0.500（真阳 0、真阴 800、假阴 209），两个分层的不安全占比分别是 67.8% 与 20.7%，未见过名的兜底策略一律判安全。匹配上下文对照（附录 D）还显示：16 个同时含两种标签的执行组共 69 行来自 39 个交互，已发布 TS-Guard 在不安全上下文的平均复合分是 0.922，安全上下文是 0.413，差 0.510，11 个组不安全侧更高、5 个组持平、没有反向，六个缓存宿主门控的宏平均差也全为正。3
证据与局限：三点最要紧。其一，64 步队列是固定的非概率样本（58 个源交互，安全基例 30 个），区间是分层自助的探索性范围，不是设计型置信区间，作者自己写明不能当总体推断用。其二，编辑的构造保全性没有盲法人审背书：标记改写把来源措辞从 INFORMATION 换成 UNTRUSTED_EXTERNAL_CONTENT，别名是按样本逐个生成的、不代表一次全局自然改名，所以可解释为「对这两个具体编辑敏感」而不是「门控确在使用伪线索」。其三，效应的配置依赖性被作者主动暴露：Luna 完全不复现 Haiku 量级的效应，8 比特量化版 TS-Guard 是确定性复现且只在一个预声明闸门（64/64 可解析、63/64 严格判定与发布一致）通过后才使用，GPT-5.5 没有重复调用、也未交错。另外，公开的 LinuxArena 样本缺少危害步信息，无法精确复现官方 pre-harm 指标；AgentDojo-Traj 与 AgentHarm-Traj 只有 3 个精确工具名重叠，说明不存在跨子集的统一工具名规则；AgentHarm 的子集身份是否对门控可见并未被证明。代码与聚合结果包实测 HTTP 200（github.com/hasandemirkiran/shortcut-sensitivity-agent-safety-evaluations），但其中不含原始基准文本、参数、标识符或服务方响应，原始 JSONL 只留下字节数与 SHA-256。审计本身是黑盒的，不执行任何工具调用，也不测试自适应攻击。3
与目标研究线的连接点：属 A 线直接命中，因为被审计的对象就是智能体多步工具调用的轨迹记录与步级门控。可搬走的有四样：三级阶梯本身（先测标签可预测性，再测观察关联，最后做配对干预，且明确「关联只能用来挑干预目标，不能当结论」）；评测单元的显式化（行、交互、轨迹、任务四种加权回答的是不同问题，必须报告与部署主张同名的那一个）；组留出（按域、环境、模板留出，而不是随机分折，本文正是靠 LODO 把 F1 从 0.901 打到 0.495）；随机门控的对照规程（交错重复原始、编辑与安慰剂，报告拦截概率差与同输入不一致率）。与同节 2610.21799、2610.21679 构成同一条方法论脉络，但这两篇只指出不泛化，本文给出了可执行的检验步骤与最小审计序列（诊断并压测迁移、命名评测单元、先关联后干预、对随机门控上对照）。3
结论建议：优先读第 2 节（三级框架与估计量定义，含随机门控的目标量 ΔT 与描述性翻转率的区别）、第 4 至第 5 节（三级结果）、第 6 节（最小审计序列），核对数字看表 1（能力贫弱诊断）、表 2（Haiku 配对干预）、表 3（七配置观察屏幕）、表 6（三种评测单元下的 TS-Guard）。引用时必须限定：LinuxArena 结果基于完成态轨迹而非在线步级监控者；AgentDojo 结论基于固定非概率的 64 步队列与非盲审的编辑；Haiku 效应不可外推到 Luna 或量化确定性门控；TS-Guard 的 F1 变化是继承标签下的重算，不是重新标注后的真值。3
十五、邻近跟踪：训练数据、表征与预训练
1. 功能子网络定位的持续学习 CiMEO：Qwen3-1.5B 五个中文基准平均 38.92%，高于全参数微调 24.23%
Functional Subnetwork Localization for Efficient Continual Learning in Large Language Models · arXiv:2610.21537 · 精读
研究问题与核心方法：作者 Shuoran Jiang、Wentao Zhu、Dongfeng Li、Yunan Zhang、Mengchen Zhao、Yuhui Guo、Xiangping Wu、Qingcai Chen 等来自哈尔滨工业大学（深圳）、鹏城实验室、中国工程物理研究院与华侨大学。要解决的是大模型持续学习（continual learning，在一串非平稳任务上顺序更新模型）中的灾难性遗忘（catastrophic forgetting，学到新数据把旧技能覆盖掉），同时压住优化器状态带来的显存开销。思路借生物局部可塑性：先用梯度归因（gradient attribution，用参数对某类监督信号的梯度幅度当作敏感度）找出预训练模型内部按认知功能分区的稀疏子网络，再让每条样本只更新它所属的那一块。具体四步：按 Bloom 认知分类（记忆、理解、应用、分析、评价、创造六级）给语料打标；对每个认知类别 c 抽 M 条标注样本，用负对数似然算梯度并按 A(c)=M⁻¹Σ|∂L/∂θk| 聚合出参数重要度；对每个权重张量按重要度取前 p% 作为该认知的隔离子网络 θs(c)；把选中坐标存进哈希表 H(c)。在此之上提出 CiMEO（Cognition-isolated Memory-Efficient Optimization）与状态序列化 AdamW（S²-AdamW）：梯度、一阶与二阶动量都只经哈希表在稀疏坐标上做 gather/scatter，优化器状态按被选坐标存储，不回放旧数据、不保留旧模型、不做参数重要性正则。持续学习时用一个预先训练并冻结的认知分类器给每条进来的指令分类，再路由到对应子网络更新。数据用 AM-DeepSeek-R1-Distilled-1.4M 指令集（140 万条顺序指令，用束搜索多选题提示打 Bloom 标签）。157
证据与局限：基准面偏窄——只有一个底座模型（Qwen3-1.5B）、五个偏中文与推理的基准（HumanEval-CN、GaokaoBench_2010、CMMLU、CEVAL、GSM8K），没有跨规模或跨架构验证，表 I 里没有任何一项报告重复次数、种子数或误差棒。核心倡导的显存节省没有实测数字：论文反复说 S²-AdamW 降低优化器状态占用，但没给出优化器状态、峰值显存或吞吐的实测对比，只有「只对被选坐标存状态」的机制描述。方法本身的归因与坐标选择并非首创，作者在 II-C 明确承认梯度归因识别任务相关神经元并做局部微调已有前人工作，本文新意在「以共享的认知分类学作为组织轴」加实例级路由与状态序列化优化。此外，所有对比方法共用同一套训练配置（批大小 64、常量学习率 1e-5、PEFT 秩 16、需要 alpha 时取 32），任何一项改动是否改变排序原文都没有做敏感性分析。另外有两处需要读者自己核对的记号冲突：正文写「常量学习率 1e-5」，而算法 1 里步长写作 α=0.001、β1=0.9、β2=0.999、ε=10⁻⁸，两者关系原文没有说明；前 p% 的 p 与每类抽样条数 M 也未给出取值。图 4 的遗忘率与增量学习率只有柱状图，没有区间。论文未提供代码或数据入口，实测在原文中没有找到仓库链接。157
与目标研究线的连接点：属 B 线与 A 线的交界，被训练对象是模型而不是智能体，因此列作邻近跟踪。可直接搬走的有三件：把「参数按功能分类后分坐标更新」的做法移植到智能体技能隔离，即按技能类别维护各自的参数/上下文坐标，避免新技能覆盖旧技能；式 6 给出的遗忘率与增量学习率这一对口径——只在基座与检查点判定相反时才计数——几乎可以原样用于智能体技能的保持与获得评测，比单纯报平均分更能区分「变好了」和「没丢旧本事」；优化器状态只存被选坐标的思路可用于长程训练的显存预算。与同节 2610.21681 的关系是互补的：后者处理的是往训练预算里挑哪些数据，本文处理的是挑中的梯度写进哪些参数坐标，两者可以叠成「选数据 + 选坐标」的联合策略；与 2610.21679 相比，本文不关心表征层面的可预测指标，而直接用下游基准验证。157
结论建议：优先读第 III 节（认知语料构造、梯度归因选坐标、S²-AdamW 算法 1）与第 IV 节（图 3 重叠率、表 I 五基准、图 4 遗忘/增量、图 5 权重稳定性）。引用时要说清：平均数 38.92% 与 24.23% 是 Qwen3-1.5B 在五个基准上的算术平均，口径是 HumanEval-CN 用 pass@1、其余四项用准确率百分比；重叠率低于 0.002% 是这一套标注与这一模型的实测结果，不能当严格功能独立性的证明；遗忘率与增量学习率没有区间，也不能与其它论文中定义不同的遗忘指标直接比。157
2. 无一分词器内禀指标能可靠预测下游表现：29 个指标里相关性最强的领先空格标记计数 r 也只有 0.27
No Single Tokenizer Feature Reliably Predicts Downstream Language Model Performance · arXiv:2610.21679 · 值得扫读
研究问题与核心方法：作者 Antonio Lopardo（EleutherAI、巴塞尔大学）、Luis Frentzen Salim、Shikhar Srivastava、Kevin Jiang、Mridul Sharma、Catherine Arnett 主要来自 EleutherAI。要回答的是：能否只看分词器本身算出来的内禀指标（intrinsic tokenizer metric，不训练模型、直接对词表与编码统计得到的量，如生育率、Rényi 熵、MorphScore、平均词元排名）就在训练前判断哪个分词器更好。做法是拿三个只在分词器上不同的模型套件做相关性检验：TokSuite 的 14 个 1B Llama 架构模型（多语言语料：40B 英语外加各 15B 土耳其语、中文、意大利语、波斯语，词表从 259 的字节级到约 250k）；论文「Tokenization Is More Than Compression」（TIMTC）的 350M 模型（因未能解决的词表外错误只用了可用模型中的 45 个，纯英语）；以及作者自训的 VISTA（Vocabulary-size Investigation Suite for Tokenizer Analysis，英语、泰语、乌尔都语、阿姆哈拉语、越南语的单语模型，130M 与 350M 两档，用 BPE 与 Unigram 各变词表大小）。共约 200 个模型、九种语言、48 个下游基准、29 个内禀指标（27 个既有指标加作者新提的 2 个 U 统计量）。U 统计量对每个词元取两项：内部凝聚度用词元内相邻字符对的最小点互信息 PMI_min，上下文可分性用词元两端分支熵的最小值乘以系数 λ，再在词表上聚合出均值、中位数、频次加权与对数频次加权四种口径。评价时先把各「语言×任务」切片内的准确率做 z 分数标准化，再求相关系数，p 值统一做 Bonferroni 校正。158
关键结果：
- 分词器确实影响性能，这是前提：TokSuite 的总体性能跨度 4%，单项最大差异达 50%（ANALOGICAL 最低 37%、最高 89%）；TIMTC 的平均跨度上限 6.5%、单项最大跨度 37%；VISTA 按语言不同总体跨度 4% 到 26%。
- 词表大小不是全部：TokSuite 上词表大小与平均性能中度正相关（ρ=0.64，p<0.01），但 XGLM、BLOOM、Gemma 词表都在 25.6 万附近而成绩差别明显；VISTA 上词表大小与性能无显著关系（p=0.407）。
- 主结果是否定的：29 个指标里有 13 个与 z 分标准化性能显著相关，最强的三个是 leading_space_tokens_count（r=0.27，p<0.001）、used_in_merges（r=0.24，p<0.001）、leading_space_tokens_share（r=0.22，p<0.001），作者自评为「相当弱」。几乎每个指标都能找到某个任务上 r>0.5 的正相关和另一个任务上的中等负相关，方向都不稳。
- 控制模型规模后增益可忽略：23 个指标能在线性回归上显著改善拟合，但解释方差的最大增量只有 R²=0.021（p<0.001）。
- 组合无用：两两组合所有指标后，联合 R² 从未超过 0.09，R² 增益从未超过 0.01。
- 新指标只有局部生效：U 统计量在 TokSuite 的英语与土耳其语聚合性能上是相关性最高的指标，超过所有既有内禀指标；到 TIMTC 上效应变弱；到 VISTA 上几乎无关系。它还是强语言依赖的——字母语言均值约 2.4，中文与波斯语约为字母语言均值的 2.7 倍（均值约 6.4）且与性能不相关；分解后可见 PMI_min 在分词器之间的标准差很小（0.09 至 0.34），语言之间的均值差异很大（字母语言为 −1.06 至 −1.70，波斯语 3.09、中文 1.93），即该分量反映的是文字系统属性而非分词质量。
- 正字法（orthographic）任务也是弱预测：只有 TokSuite 英语切片显著（r=0.341，p=0.029），其余任务均不显著，作者据此质疑用这类任务来指导分词器设计。158
与目标研究线的连接点：属 A 线的评测口径议题。最有迁移价值的是它的检验设计：先在切片内标准化再求相关、对多重比较做 Bonferroni 校正、控制模型规模后看解释方差的增量、以及用「跨套件同向」当作可推广的判据而不是只看单套件显著性——这套流程可以直接搬到长程智能体任务里检验「某个便宜的过程指标（步数、工具调用次数、上下文长度）能否替代端到端成功率」。它给出的具体警示也通用：作者预言，只在少数任务、单一语言或单一家族的模型上做相关性检验，往往会得到显著结果，而那些结果不太可能推广。与同节 2610.22243、2610.21799 一样，本文是「内部分布上的指标不等于可迁移能力」的又一类证据，差别在于本文的对象是分词器层，且给出了正向结论——语文学驱动的指标方向可行但效力依赖模型族与语言。158
结论建议：想快速取结论读第 5 至第 8 节（影响存在、无可靠预测、组合无增益、正字法任务弱预测）加 Limitations；要复用方法读第 3 节（U 统计量定义）、第 4 节（三个套件的构造与评测口径）与附录 A、E。引用时必须带上限定：相关性都是在 100M 至 1B 尺度、三个特定套件、九种语言、z 分标准化后的任务分数上算的，个别任务的 r 可以很大但方向不稳；r=0.27 这类数字是「最强」而非「强」；组合 R² 与增量 R² 是拟合改善，不代表实用预测力；u_mean 在英语与土耳其语的领先地位不能外推到中文或波斯语。158
3. 大模型数据策略综述：把选择、重加权与课程统一成预算分配策略，并重建出最高 386% 的辅助训练开销
Data Strategies for Large Language Models: A Unified Perspective on the Training Lifecycle · arXiv:2610.21681 · 邻近跟踪
研究问题与核心方法：作者为 Yuanjian Xu、Jianing Hao、Tianze Sun、Yongyao Duan、Sam Chen、Jinyi Han、Wanbo Zhang、Yuxuan Sun、Guang Zhang、Zhong Li，机构包含香港科技大学（广州）、哈尔滨工业大学、OpenCSG、华东师范大学、复旦大学、伦敦大学学院与微软亚洲研究院。论文要处理的问题是：数据选择、剪枝、重加权、混合比优化、课程学习被放在不同名目下研究，术语与评测口径不一致，导致难以横向比较算力代价。作者的统一做法是把数据策略写成「在候选样本上分配训练预算的策略」：给定第 t 步的候选池与训练状态 s_t（模型参数、辅助变量、步数），策略 π_φ 输出该步的采样分布 q_t，在总词元预算约束下最小化最终模型在目标分布上的风险 J(θ_T)。在这个写法下，选择是「保留样本等概率、其余置零」的特例，域重加权是「同一域共用同一个每样本概率」的特例，课程则是额外约束整条轨迹的分配序列。命题 1 给出三者的可行集关系：选择集是重加权集的真子集，域重加权集含于重加权集（当且仅当域数等于样本数时取等），而在域数不小于 2 且某域至少含两个样本时，选择集与域重加权集互不包含——因此选择不是域重加权的离散化。方法学上再按决策粒度（数据集级、域级、样本级）、模型依赖程度与时间自适应性分类，并区分静态课程与自适应课程。159
关键结果：
- 预训练阶段分两条路：数据选择（基于规则的过滤、外部模型打分、目标模型信号）与域重加权（域定义来自人工指定、语义空间或梯度空间，再对混合比做性能代理建模或优化重写）。
- 后训练阶段用三个轴横向比较（表 4）：模型导出信号分分布型（生成域画像，如 VersaTune）与梯度型（梯度方向或幅度，如 LESS、OASIS）；外层目标分平均风险、最差组风险、保基座漂移控制与覆盖度代理（如 Chameleon）；策略查询的状态分纯数据、冻结检查点（如 ADG）与演化状态（如 OASIS）。
- 附录 B 的实证一：对 115,839 篇 SlimPajama 文档（七个来源类别各至多 20,000 篇）分别用来源标签、语义向量与梯度构造域划分（语义用 stella_en_400M_v5 编码，梯度用 Qwen2.5-0.5B-Instruct 的投影并 L2 归一化，取前 50 个主成分后 KMeans、十次初始化、种子 42，主比较取 K=7）。三种信号给出的划分彼此不一致：语义划分与来源标签的一致性最高（图 4c 中归一化互信息 NMI 0.68、调整兰德指数 ARI 0.55），梯度与来源次之（NMI 0.44、ARI 0.32），语义与梯度之间最低（NMI 0.35、ARI 0.20）；这个次序在 K=25 与 K=100 下同样成立。
- 附录 B 的实证二（表 7，统一目标配置为 10.35 亿非嵌入参数、58.22 亿 SlimPajama 词元，单次训练前向按 6ND、冻结前向按 2ND 折算）：相对一次目标训练的辅助算力开销，DoGE 为 2.05%、RegMix 为 8.92%、DoReMi 为 19.1%、Data Mixing Laws 为 367%、DDO 诊断行为 386%（五者均为表 7 列出的域重加权或混合比代理方法）；作者强调运行次数本身不决定代价，必须把模型规模、每次运行的词元数与运行次数一起报告。
- 该开销表只算加速器浮点运算，且是「反事实共同目标」下的近似下界：CPU、I/O 与未报告词元数的验证流程被排除；DDO 那一行保留的是其尺度依赖诊断，不是完整外推管线的成本估计；若同一批代理运行或拟合出的代理模型能支撑 R 次目标训练，摊薄后的开销为 C_aux/(R·C_target)。
- 另有一份受 DIDS（原文未展开全称，只说明其已发表版本按逐样本聚簇梯度）启发的本地组件剖析（图 5b）：以 Qwen2.5-0.5B 隐状态嵌入与选择阶段为蓝本、以 8000 万词元的目标训练为分母，影响估计与周期性评估占最大份额，其次是嵌入抽取；作者提示这只是本地适配而非已发表的 DIDS（后者逐样本聚簇梯度），因此只用于指出效率变量。159
证据与局限：这是一篇综述，主体证据是文献归纳与分类，而非新方法的下游成绩。作者自陈：只覆盖纯文本大模型，多模态的数据策略未涉及；成本分析只算文本与浮点运算，不含墙钟时间与硬件；附录的划分实验是单个 11.59 万篇样本、单一编码器与单一梯度模型、单一随机种子上的结果，只能说明「域定义依方法而变」这一结论，不能给出普适的划分质量排序；论文明确说「代理模型或梯度划分能否跨尺度迁移目前只是经验性的」，也未建立质量—成本前沿。可复现入口实测：论文给出的持续更新清单 github.com/xuyj233/data_strategy_survey 实测 HTTP 200。159
与目标研究线的连接点：整体不在四条线上，但与 A 线有明确可搬之处，尤其是它把智能体相关的数据选择问题点了出来：在固定池的监督微调之外，强化学习的相关开放问题是「让智能体在哪些环境里交互」「如何在异构环境之间分配 rollout 预算」「长程任务里到底该选什么」，文中具体提到按可行性与难度过滤由失败产生的任务的 WebRL（仅限 WebArena 内）、复用初始策略轨迹与压缩梯度的 CROPI、以及通过挑选示范步与剪枝状态上下文来改善离线 Web 智能体训练的 Zadeh 等。可直接借用的是它的问题形式化：把「挑哪些轨迹/步」写成在样本上的预算分配，于是选择与重加权、课程的关系（命题 1 的包含关系）可以被显式利用；另一个可搬的是它的成本记账要求——报告数据策略收益时必须同时报出可摊薄与每次重复的辅助算力，这对智能体轨迹筛选尤其重要，因为筛选本身要跑 rollout，成本可能超过它省下的训练。与同节 2610.21537 互补：本文决定把预算花在哪些样本上，后者决定把这些梯度写到哪些参数坐标上。159
结论建议：建议读第 2 节（数据策略即策略优化与命题 1 的可行集关系）、第 3.1 与 3.2 节的趋势与开放问题、第 4.1 至 4.2 节的后训练三轴（表 4、表 5），附录 B 的两组实证（图 4 与表 7）是本文唯一自产的数字，值得单独看。引用时必须限定：386%、367% 等是这套统一目标配置下、只计加速器浮点运算的近似下界，且 DDO 行不是完整管线成本；域划分一致性（NMI 0.68/0.44/0.35）来自单次 11.59 万篇样本的单一配置；本文是综述，任何具体方法的效果数字都应回到其原始论文核对。159
十六、播客线覆盖说明与本期可迁移结论
第四条线是播客生成与节目级评估。本期候选池的 246 篇里，没有任何一篇的生成对象或评估对象是播客、长节目或双人主持内容，D 线因此 0 篇。本轮用两条彼此独立的检索核实这个缺口的性质。一条是查 arXiv 全库摘要含 podcast 的条目（按提交时间倒序取最近 40 条，索引里共 260 条），最新一条是 2026 年 10 月 10 日提交的韵律研究，用的是 MSP-Podcast 语料，属于把播客当语料的语音学工作。另一条是把标题含 podcast 与摘要含「podcast generation」「podcast script」「audio drama」的条件并起来查（共 81 条），命中最新的一篇是 2610.18010《Fish Audio Drama 3 Technical Report》：cs.SD，2026 年 10 月 13 日提交，35B 混合专家骨干、每 token 激活 3B，支持按指令多轮返修、多角色场景配音与流式输入，权重已开源。也就是说这条线三天前还有新工作，它落在 10 月 13 日的提交里，不在 10 月 16 日这三栏的新提交名单里；本期读不到是候选口径的边界所致，不是方向零产。本期没有用任何替代品充当这条线。与它最接近的是第十一节的三篇叙事与脚本生成工作（2610.21468、2610.21525、2610.21737），其中 2610.21468 的基准与读者盲评是长节目脚本生成可直接复用的评测件。
本期排除的 87 篇编号如下，供逐条复核：2610.20615、2610.20630、2610.20631、2610.20632、2610.20635、2610.20669、2610.20679、2610.20681、2610.20685、2610.20764、2610.20782、2610.20822、2610.20824、2610.20859、2610.20867、2610.20921、2610.20922、2610.20965、2610.21008、2610.21025、2610.21046、2610.21048、2610.21062、2610.21164、2610.21185、2610.21246、2610.21254、2610.21300、2610.21314、2610.21319、2610.21329、2610.21344、2610.21347、2610.21350、2610.21366、2610.21368、2610.21378、2610.21383、2610.21393、2610.21397、2610.21403、2610.21407、2610.21424、2610.21425、2610.21436、2610.21449、2610.21456、2610.21466、2610.21477、2610.21482、2610.21502、2610.21508、2610.21518、2610.21539、2610.21591、2610.21594、2610.21612、2610.21633、2610.21736、2610.21789、2610.21805、2610.21807、2610.21808、2610.21862、2610.21983、2610.22053、2610.22064、2610.22068、2610.22071、2610.22086、2610.22100、2610.22110、2610.22127、2610.22130、2610.22131、2610.22137、2610.22150、2610.22163、2610.22167、2610.22169、2610.22214、2610.22249、2610.22269、2610.22294、2610.22297、2610.22300、2610.22330。
本期跨节可以搬走的部件有五个。
其一，测量工具本身还在产出这批论文里最大的效应量。 第二与第四节合起来给了四条互相独立的证据：多选题的池化标准差恰好等于翻转率乘位置偏斜，41 个开源权重检查点、12 个基准上翻转率与准确率的 Spearman 相关为 −0.95 2；把推理痕迹从续写改成独立答案调用，同一批题上的证据遵循率提高 29.9 到 60.6 个百分点 56；安全评测里改写一处不可信内容标记就让 Haiku 的拦截率掉 8.33 个百分点，换一个工具别名又升 11.46 个百分点 3；判官在一致性 ≥0.8 时给出的错误占全部错误的 60% 59。要引用任何阈值之前的动作都是同一个：先把这块方差量出来。用饱和基准的正确解答轨迹去预测模型能力，成对判官的均方误差是 0.26，比只看基准分数低 5.27 倍，这是同一节里少见的正面结果 52。
其二，长程执行的门控从「能不能做」移到「什么时候停、什么时候改」。 把终态分叉做成可实测的门控，Terminal-Bench 2.1 的通过率从 63.4% 升到 72.4% 1；把 97 项研究级生信任务拆成 662 个子任务后，单趟作答 0.57，加一层门控升到 0.67 38；记忆智能体的动作集里，检索、跳过、写入与停止四个动作是同一个策略学出来的，停止动作与检索动作在同一个奖励里被优化 28；反过来，长期记忆的删除是这套门控里最不可靠的一环，10 轮清理之后仍有 39–76% 可恢复 5。
其三，记忆的写入比读取更容易出错。 经验条目 12–33% 被复用时就会带来损害，改成分层抽取加证据准入后四个骨干的六任务流聚合分全部排第一 6；只训记忆写入策略、四个 harness 六个指标全部排第一 35；重新检验工具图记忆会发现，那类结构的增益多数不显著，而多花 2.72 倍大模型调用的代价是实打实的 31。三篇合起来给的判据是：记忆系统该先量「写进去的东西有没有用」，再谈检索与排序。
其四，自进化的收益由验证环节决定。 准入门在 138 个错误算子变体上误收 0 个，可答问题集才敢从 10 扩到 336 103；技能与策略一起演化时，峰值到最差的落差是 5–13 分，吃掉 52–93% 的技能增益 104；非精英式演化把 86 项 SkillsBench 上的成绩从 49.1% 提到 66.4% 105；递归自改写把四套终端基准的均值从 20.68% 提到 50.58% 7。理论上限也写清楚了：自引用让任何终止门控都无法既可靠又不保守，只有加上有界评估与有限提案之后才可恢复 112。
其五，语音与音频侧今天给的是接口，不是新模型。 全双工模型的话轮风格可以靠在残差流某一层注写一个方向来改，5 分钟参考录音即可迁移 9；压缩语音 token 的后置适配把扩展语音 token 的生成速度提到 1.736 倍（中文）与 1.659 倍（英文），全响应时延降 32.8–39.0% 而质量不降 134；单一决策头把音频理解、评分与检索收进一个接口，推理加速约 20 倍 135；评测侧则出现了一个不依赖大模型的情境失真指标，与人工严重度排序的一致率 84.07%、平均 ρs 0.8001 127，以及一个说明语音模型连受控合成音上的音素错误都检不出来的基准 124。要接自己的语音链路，这一节的三件接口件比换模型更省事。
References
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57Can LLMs Anticipate Their Cruxes?
arxiv.org
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
- 75
- 76
- 77
- 78
- 79
- 80
- 81
- 82
- 83
- 84
- 85
- 86
- 87
- 88
- 89
- 90
- 91
- 92
- 93
- 94
- 95
- 96
- 97
- 98
- 99
- 100
- 101
- 102
- 103
- 104
- 105
- 106
- 107
- 108
- 109
- 110
- 111
- 112The Self-Improvement Problem
arxiv.org
- 113
- 114
- 115
- 116
- 117
- 118
- 119
- 120
- 121
- 122
- 123
- 124
- 125
- 126
- 127
- 128
- 129
- 130
- 131
- 132
- 133
- 134
- 135
- 136
- 137
- 138
- 139Verdict: Encode Once, Decide Many
arxiv.org
- 140
- 141
- 142
- 143
- 144
- 145
- 146
- 147
- 148
- 149
- 150
- 151
- 152
- 153
- 154
- 155
- 156
- 157
- 158
- 159
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.