10月15日论文雷达：最弱模型配上全流水线反超最强模型零样本、同一道题只换答案抽取协议就从 20.8% 跳到 93.9%、静音输入仍保住 +11.2 点的音频后训练增益：长程智能体与生成式音频的 147 篇分层雷达

全景表

一、harness、门控与运行期执行控制

1. 用一纸规范驱动训练与评测的催收语音智能体：文本化检查 67%→93%、场景 15/43→40/43

• 评测把检查按「期望值由谁决定」拆成两类：documented（文本化，期望值由流程规定，如必须调用的工具、收尾处置）与 grounded（接地的，期望值由本次对话决定，如工具参数是否与来电者所说一致）。训练前 9B 策略在 grounded 上已过 97–100%，documented 只有 67–71%；训练后 documented 升到 93–100%（含完全留出的谱系），grounded 到 100%（表 III）。 11
• 整条留出谱系的场景通过数从 8/21 升到 18/21，三个相关谱系部署合计从 7/22 升到 22/22；四个部署 43 个场景合计 15/43 → 40/43（表 IV、表 V）。 11
• 场景级配对检验：相关谱系 15/22 改善且 0 退步（exact McNemar 配对检验，即对配对二元结果差异的精确检验，p=6.1×10⁻⁵），整条留出谱系 10/21 改善（p=2.0×10⁻³），全部 43 个场景 25 改善（p=6.0×10⁻⁸）。 11
• 规模参照：未训练的 27B 检查点在同一评测口径下过 37/43，高于未训练 9B 的 15/43，但 40GB 硬件在 16 位精度下装不下 27B（表 VI）。 11
• 对共享规范的审计发现 11 处缺陷，其中 3 处连派生指标也暴露不出来（表 VIII 第 9–11 条：静默被判定为成功收尾、数据字段被当作暂存区、生成器内部字段写进对外的字段）；缺陷 7 在约 1% 的生成片段里把账户余额透露给尚未验证身份的来电者（表 VIII）。 11

2. HERO：执行证据驱动的 harness 离线优化加测试时修正，四基准 pass@1 平均 +7.6、再 +2.0

• 四类基准（BIRD-SQL 文本转 SQL、CypherBench 文本转 Cypher、BigCodeBench-Instruct 与 DSCodeBench 文本转 Python 函数）上，HERO-O 相对初始提示的 pass@1 提升分别为 4.16、11.5、4.66、10.1 个点，四类基准平均提升即摘要所称的 7.6 个点（表 1）。
• 测试时修正再带来 1.26、4.43、1.20、1.20 个点，四基准平均再加 2.0 个点；合并后 HERO 在四分之三基准上取得最高 pass@1 均值，只有 DSCodeBench 上 ReAct 略高（56.22 对 56.04）。
• 离线最优性：BIRD-SQL 63.55 对 GEPA 62.59，BigCodeBench 52.59 对 ACE 51.96，DSCodeBench 54.84 对 GEPA 52.14，CypherBench 85.50 对 SkillOpt 84.10；端到端做 harness 优化的 Meta-Harness 反而低于初始提示（BIRD-SQL 58.24 对 59.39，BigCodeBench 45.26 对 47.93）。
• 回归控制：累积 fix-to-break 比值（累计修复数除以累计回退数，大于 1 表示净修复）在 BIRD-SQL 上 HERO-O 约 3.0，MIPROv2 与 SkillOpt 约 2.0、GEPA 约 1.5、ACE 约 1.2；只拿失败案例做反馈时该比值从 2.23 降到 1.91。
• 成本与效率：最终提示平均 1,949 token，短于 GEPA 的 2,003、MIPROv2 的 2,704、ACE 的 35,881；每次优化调用平均 2.79K token，ACE 为 31.89K。执行效率用 VES（Valid Efficiency Score，按执行时间给正确程序加权的有效效率分）衡量：HERO-O 在 BIRD-SQL 取 91.9、BigCodeBench 取 75.0 居首，但 CypherBench 上 pass@1 从 85.5 升到 89.93 时 VES 反从 109.8 降到 101.7。12

3. 熵信号回退重写：MATH500 上 77.60% 对随机切点 MCMC 的 72.60%

• 熵与错误的关联：在 MATH500 上对 Qwen2.5-Math-7B 每题采样 20 条回答，错误回答的平均 token 熵比正确回答高约 112%（逐题相对增幅的均值，中位数 83.61%），在 463 道同时含对错回答的题里，88.12% 的题上错误回答熵更高。
• 回答级诊断：平均 token 熵区分对错的 AUROC（受试者工作特征曲线下面积）为 0.746（95% CI [0.731, 0.760]），高于最大熵增量 0.724 与峰值熵 0.677。
• 主结果：在 3 个模型族 × 5 个基准共 15 个组合上 REWIND 全部取得最高准确率，比随机切点的 MCMC 高 0.51–10.00 个百分点；Qwen2.5-Math-7B 的 MATH500 从 MCMC 的 72.60% 升到 77.60%、GSM8K 从 79.45% 升到 84.31%，DeepSeek-R1-Distill-Qwen-1.5B 的 AIME2025 从 16.67% 升到 26.67%。
• 提议消融（Qwen2.5-Math-7B/MATH500，每块 K=10 次随机 MCMC 提议；原文表 3 分「切点选择 / 边界对齐」两列）：主结果的对照基线 MCMC 是「全局随机切点 + 不做边界对齐」72.60%，与下列各档不是同一行；其余依次为随机分隔符（全局随机切点 + 完整边界对齐）73.20%、峰值处修订（在峰值 + 完整边界对齐）74.20%、窗口内随机切点（窗口内随机 + 完整边界对齐）75.20%、不做事先边界对齐（窗口内熵梯度 + 不做边界对齐）75.00%、受限边界（窗口内熵梯度 + 只用句号和换行）76.80%、完整 REWIND（窗口内熵梯度 + 完整边界对齐）77.60%。其中 73.20% 与 72.60% 同取全局随机切点，差别只在是否加完整边界对齐。 13

4. RouteWeaver：把模式选择并入路由策略，五域平均准确率 61.4%，较最强基线 Router-R1 高 11.03%

• 九个基准五个域（Math、Code、Knowledge、Reason、Recall）上平均准确率 61.4%，最强基线 Router-R1 为 55.3%，相对提升 11.03%，且五个域全部优于所有基线，相对增益从 Recall 的 5.20% 到 Math 的 12.52%（表 1）。14
• 消融（表 2，同预算同初始化）：换成普通 GRPO 平均掉到 58.8%，模式使用从 .35/.41/.24 偏到 .13/.82/.05（几乎全走多轮）；去掉渐进探索掉到 55.6%，策略完全塌到单轮（1.00/.00/.00）。两个消融版仍高于 55.3% 的最强固定范式基线。14
• 模式使用按任务强烈分化：Math 19%/50%/31%（单轮/多轮/agentic），Code 84% 走多轮，Knowledge 72% 走单轮，Reason 99% 走 agentic，Recall 96% 走单轮。14
• 代价曲线（α 为任务奖励优势与效率（成本）奖励优势的混合权重，α=0 表示只用任务信号、只优化任务性能，α∈{0,0.1,0.3,0.5}）：α=0.1 省 23% 成本、掉 1.0 个点；α=0.3 省 61%、掉 3.1 个点；α=0.5 省 86%、掉 11.2 个点。未见基准（AIME、GPQA-D、BBH）平均 53.7%，Router-R1 为 45.4%（相对 +18.28%）。14

5. Delta Tokenizer：会话增量分词约快 40 倍，SGLang 中 100K 上下文首 token 时间中位数降 59%

• 增量路径把单个会话轮次的分词时间相对 Hugging Face 参考分词器缩短约 40 倍，且该结论与上下文长度无关：固定追加 1.3K 字符时，全文从约 3.7K token 长到 662K token，拼接后被替换的部分始终在 300 token 附近。15
• 16 核上，400 万字符请求的分块并行编码比串行编码快 8.2 倍，比作者重实现的 LoPT 快 1.6–2.1 倍。15
• 接入 SGLang 后，100K token 聊天上下文的 TTFT 中位数下降 59%；agent 会话的 P99 TTFT 在负载下降 9.5 倍，在长请求占住前端、根本没进模型时降 23 倍；这些请求被接纳并由前缀缓存服务时仍约低 7 倍，在单核或更小模型上约低 20 倍。15
• 精确性检查（表 3）：快速编码器整体编码的 41.8B 篇文档与参考逐 ID 一致、0 处不同；agent 阴影重编码 2,195 次、含长文档时 2,268 次比较全部 0 处不同；作者刻意保留一行「去掉归一化检查」的对照，10 万次比较中有 2,115 次不同，说明检查本身有检出能力。15
• 会话状态开销很小：100K token 时文本 391 KB、token ID 526 KB、前缀块 562 KB，合计约 1,089 KB，而同一批 token 的 KV cache 为 14.75 GB。15

6. 强 harness 压平模型差距：153 份法案上最弱模型配全流水线 0.948 胜过最强模型零样本 0.806

• 主结果（153 份专家产出的 gold（人工产出的标准答案）议案 × 3 个 Claude 模型 × 3 级 harness = 9 格，每格 153 次运行）：153 指 gold 法案总数，两个 Overall 分别是各格在各自计分文档上的宏平均，n=133 则是配对检验里两臂都计分的文档子集。最弱模型 Haiku 4.5 在全流水线的 Overall 为 0.948，胜过最强模型 Opus 4.6 零样本的 0.806；同一段的配对 bootstrap 为 Δ=+0.117、p<0.001、n=133——两个 Overall 均值与 Δ 来自不同的文档集合，均值之差不能当作这个 Δ。Sonnet 4.6 全流水线 0.954（对 Opus·T1 Δ=+0.120，p<0.001，n=124）（Table 2）。1
• 模型零样本时 Overall 分布在 0.677–0.807，进入全流水线后收敛到 0.946–0.954：从 Haiku 零样本到 Haiku 全流水线抬升 0.677→0.948，而在零样本下从 Haiku 换到 Opus 只从 0.677 到 0.806（§6.1、Fig. 2）。1
• 引用规范化是 harness 属性：把引用解析到权威标识符这一维，Haiku 从零样本 0.024 只升到 T2 的 0.103，到 T3 才到 0.801；Sonnet 与 Opus 一拿到查找工具（T2）就到 0.881 与 0.593（§6.3、Fig. 3）。1
• 可靠性（低分文档比例，Overall<0.70）：从 T1 的 31% 降到 T2 的 8%、T3 的 4%；方差反而非单调——T2 的合并标准差（pooled std）0.188 高于 T1 的 0.167，T3 才收到 0.099（Table 3）。1
• 更难的辖区上 harness 优势更大而非更小：Sonnet 全流水线减 Opus 零样本在爱达荷为 +0.117、在新泽西为 +0.174；新泽西在两套 harness、每个模型下都更难（§6.5、Table 4）。1
• 输出完整性：T1 有 7/459 次尝试、T2 有 21/459 次出现截断或过量生成（重跑可复现，作者记为稳定属性），集中在最大的几份新泽西预算案；T3 共享同样工具访问却没有这两类失败（§6.4）。1

7. 决策头插件：冻结生成器上 τ=0.5 时 WebArena 从 12.5 升到 13.8%，每步生成词元砍到 3.1

• 线上任务成功率：WebArena 的 174 个测试任务上，级联把 4B 从 12.5% 提到 13.8%、8B 从 13.6% 提到 14.6%，同时每步生成词元从 7.4 降到 3.1（4B）与从 7.5 降到 3.3（8B），任务步数从 15.7 降到 14.0、16.8 降到 16.2（Table 2、§5.2）。16
• 严格阈值 τ=0.9 时，级联在七个离线测试集上与各自生成器基本持平（低 0.3 点到高 1.4 点之内），而决策头仍在 12% 到 64% 的步上作出决定（Table 1、§5.1）。16
• 放宽到 τ=0.5 后两个基准方向相反：Mind2Web 未见网站上步成功率提升 3.1 点（4B）与 1.8 点（8B），GUIAct 四个测试集掉 1.0 到 1.9 点；MiniWoB++ 上分别让出 0.8 与 1.9 点，但决策头独立行动的步占比升到 67% 与 69%（§5.1、§5.2）。16
• 增益来源可定位：按意图模板切开 WebArena 测试任务，47 个在回放训练任务中出现过的模板上 4B 级联为 41.8%、生成器为 34.8%，8B 为 36.9% 对 33.3%；127 个新模板任务上所有系统都低于 7%（Table 3、§5.2）。16
• 联合训练有代价：把决策头与生成器训进同一个适配器，会让生成器自身在七个离线集上掉 0.5 到 4.9 点；换来的头更强，但只值 0.3 到 1.9 点，多数基准上级联不如「冻结生成器 + 单独训头」（Table 5、§6.1）。16
• 速度：MiniWoB++ 上 4B 每步模型耗时从 0.234 秒降到 0.207 秒（τ=0.9，1.13 倍）与 0.168 秒（τ=0.5，1.39 倍）；生成器先写一段思考再行动时节省最大，联合级联把每步从 1.56 秒降到 0.70 秒并把成功率从 51.0% 提到 51.5%（Table 4、Table 9、§6.4）。16

8. 用层间几何波动触发检索：AUROC 0.7385 对 ReProbe 0.7350，检索调用少 72%

• 检测效果（骨干 Qwen2.5-7B-Instruct 与 Llama3.1-8B-Instruct；探针在 1,000 道 MedMCQA 加 173 道 AfriMedQA 上按 70/30 划分训练）：同分布 MedMCQA 上 PUlSE 的 AUROC（受试者工作特征曲线下面积，与阈值无关的排序质量指标）为 0.7385（Qwen）与 0.7528（Llama），同骨干下 ReProbe 为 0.7350 与 0.7431，PUlSE 的 F1 也最高（Table 1）。 17
• 分布外 MMLU-Pro（Biology）上优势更大：Llama 的 AUROC 0.7933，比 ReProbe 的 0.7406 高 5.3 个百分点，且未做任何再训练；输出层信号（困惑度、最大 softmax 概率、熵）在分布漂移下明显退化，说明输出层置信度难以反映事实依据状态（Table 1、§3.3）。 17
• 检索效率摘要口径：在四个医学基准上，PUlSE 定时检索与「每步都检索」准确率相当而检索调用减少 72%；正文按占 IRCoT（每步检索的对照方法）调用数的比例表述为 28–54%（§6、Table 2）。 17
• 具体数字：Qwen 上 IRCoT 在 MedMCQA 用 5.06 次调用达 85.33%，PUlSE_front 用 2.75 次得 81.67%；JAMA 上 PUlSE_front 58.83%（3.00 次）超过 IRCoT 的 53.87%（4.38 次）；MMLU-Pro（Biology）上 PUlSE_front 76.43%（2.62 次）超过 IRCoT 的 72.80%（5.51 次）（Table 2）。 17
• 同一注入协议下比 ReProbe 更准且更省：Qwen 上 JAMA 高 2.38 个百分点且调用少 13%，Health 高 2.57 个百分点且少 13%，Biology 高 2.24 个百分点且少 18%；Llama 上 JAMA 高 2.18 个百分点且少 20%（§4.2）。 17
• 两类几何量互补：只用幅度时 AUROC 0.6565 且只触发 2.51 次（漏检多），只用角度时 0.6866 但触发 2.94 次（过度检索），两者合并最好为 0.7273，端到端准确率 76.43%（Table 3）。 17
• 层区间选择有讲究：只用后层 [18,27] 最差（AUROC 0.7295），前层 [0,9] 为 0.7457，中层 [9,18] 为 0.7491，最终采用的 [7,25] 为 0.7588，甚至超过使用全部层的 0.7559；Llama 对应采用 [6,31]（§5.1、Figure 4）。 17
• 跨域零迁移：只用医学数据训练的探针直接用在 MMLU-Pro（Law）1,101 条上，取得 42.23% 准确率与 2.36 次调用，高于 CoT 的 28.52% 与 IRCoT 的 39.96%（4.48 次）（Table 4）。 17

9. HACHIMI-II：把学生模拟改成对下一个动作的预测，ENEM 模拟准确率 0.384 对真实 0.394

• 项目反应模拟（表 4）：HACHIMI-II 在 XES3G5M、Eedi、ENEM 上与真实标签一致的配对比例为 75%、61%、63%，基线最高只有 53%、52%、48%；其 W1（模拟与真实学生准确率分布的一阶 Wasserstein 距离）为 0.039、0.046、0.169，比各数据集最强基线小 2.4–8.4 倍；学生排序 Spearman ρ 为 0.691、0.703、0.668。
• 能力泄漏的量化（表 6）：ENEM 上真实最弱三分之一学生只答对 22%，基线却把它们模拟在 78–83%；HACHIMI-II 把三档模拟为 15%、39%、68%，真实值为 22%、39%、61%。
• 对话模拟（表 7）：Eedi QATD2k 上 F1_err 0.561，是最强基线的 2.3 倍；完整复现真实错误（三结构标签全同）的比例 31.5%，为最强基线的 1.8 倍；Khan/CoMTA 上 Rec_struct 56.5%、F1_struct 0.346；基线在 82–93% 的真实错误轮上完全不犯错，HACHIMI-II 则在 52%（QATD2k）与 76%（CoMTA）的错误轮上出错。
• 消融（表 8）：去掉状态推断后 ENEM 模拟均值从 0.384 升回 0.802（真实 0.394），W1 在三个项目反应数据集上放大 1.9–2.5 倍；去掉 harness 使 XES3G5M 的 W1 从 0.039 升到 0.056、ENEM 从 0.169 升到 0.257，Eedi QATD2k 的 F1_struct 从 0.339 降到 0.290；去掉 persona 先验把 XES3G5M 的 ρ 从 0.691 降到 0.603。 18

10. 免训练稀疏注意力 JSSA：128K 解码吞吐达全 KV 的 6.43 倍，LongBench 只差 0.67 分

• LongBench 平均分（KV 预算 256 token，表 1）：LLaMA-3.1-8B-Instruct 上 JSSA 49.16，全 KV 48.35，Loki 45.65；三个被测模型上与全 KV 的最大差距为 0.67 分，而单个基线没有跨架构的稳定最优。
• PG-19 困惑度（32K–128K 同密度预算，表 2）：与全 KV 的最大差距 1.11；128K 时 LLaMA 上 JSSA 11.49、全 KV 10.38，对照 FASA 56.59、Loki 56.29。
• 推理（KV 预算 1,024 token，表 3）：Qwen3-8B 的 AIME 2025 pass@1 为 68.33、生成长度为全 KV 的 1.07 倍，对照全 KV 69.58、FASA 60.42；Gemma4-26B-A4B-It 的 AIME 2025 为 86.67，FASA 73.75。
• 吞吐（单张 NVIDIA B200，128K 上下文）：JSSA 最高达全 KV 的 1.51 倍（Qwen3-8B）、1.88 倍（Gemma4-26B-A4B-It）、6.43 倍（GLM-4.7-Flash）。
• 700B 规模（表 4）：AIME 2025 上 JSSA 87.50 与模型原生 DSA（DeepSeek Sparse Attention，稀疏注意力）持平；GLM-5.2 的 GPQA-Diamond 上两者同为 90.91；解码吞吐达原生 DSA 的 96.1–99.2%。
• 消融（4.7 节）：免收集执行相对「先收集再注意力」在 128K、batch 16 时把注意力阶段加速比从 25.35 倍提到 65.26 倍；用 32K 序列校准的打分基在 128K 评估时困惑度升到 16.05–18.31，而用 128K 校准的基为 11.31–11.48。 19

11. JetSpec++：草稿与验证流水线化，Qwen3-8B 上解码吞吐最高 7.45 倍、草稿侧每轮只暴露 0.66 ms

• 服务吞吐（表 3，NVIDIA GB200、CUDA graph、temperature 0、验证预算 16、batch 1）：Qwen3-8B 在 MATH-500 上 1361.1 tok/s，也就是相对自回归解码 7.45 倍，对照 DSpark 4.94 倍；GSM8K 上 6.30 倍对 DSpark 4.08 倍。草稿每轮真正暴露的时间为 0.61/0.66 ms，而 DSpark 为 3.76/3.80 ms；被预先备好结果的轮次占 92.9%/91.7%。
• 更大目标模型（Qwen3.8-27B，表 3）：5.68 倍与 6.20 倍（对 DSpark 的 4.14 倍与 4.72 倍），即比 DSpark 快 1.37 倍与 1.31 倍。
• 接受长度 τ（每个验证轮次平均提交的 token 数，表 1，temperature 0、预算 16）：J3-R3 配置在 GSM8K/MATH-500/AIME25/HumanEval/MBPP/LCB/MT-Bench 上为 9.78/11.04/10.49/8.79/8.24/8.95/5.29，对照全文认定的最强基线 DSpark 为 7.31/9.01/8.35/6.57/6.17/6.92/3.89。
• 消融（表 4、表 5）：自精修本身把 τ 从 J0 到 J3 提高 0.42–1.27；每次上下文刷新加上锚点替换在 J1-R1 再补 0.92–1.55、J3-R3 补 1.72–2.97，而只刷新不加锚点替换最多加 0.84，即增益主要来自锚点替换；用全程加噪的块训练草稿模型时，J0 到 J3 的 τ 停在 4.36 完全不涨（本文训练法为 4.34→5.05）。 20

12. CircleClar：黑盒估计模型可用答案集，AmbigQA-HQ 上集合 F1 最高 74.09

• 可用答案集恢复：在 AmbigQA-HQ（100 题人工精修歧义集）上，CircleClar 的集合 F1 / 精确集合匹配（EM）为 Qwen3-4B 60.02±46.26 / 52.00、Qwen3-30B-A3B 64.88±40.76 / 49.00、GPT-5.4-mini 74.09±34.78 / 54.00、GPT-5.5 68.85±31.59 / 35.00，四个模型上都优于 ICE、Sampling-50（采样 50 次）与 1-Enumeration（一次枚举）三个基线（Table 1）。
• 同一方法在 1,000 题原版 AmbigQA 与 96 条 AMBROSIA 可执行 Text-to-SQL 歧义请求上整体领先；增益在小模型与精修集上最大，作者归因于原版 AmbigQA 标注噪声。
• 一致性检查主要提精度：从枚举得到的候选集到最终估计，几乎所有设置上宏精度上升、召回下降，但权衡幅度小于精度收益；模型越大精度增益越小（Figure 3）。
• 下游两用：用估计支持的基数（|M̂|≥2 视为该模型眼中的歧义）做歧义检测（AUROC），以及按支持（空=弃答、单答案=作答、多答案=澄清）选择回应动作（平衡准确率），CircleClar 在多数模型与数据集上最好；直接提示模型「要不要澄清」的两个基线相比通用提示几乎无稳定增益（Figure 4a、Figure 4b）。
• 论文未在正文给出 AUROC 与平衡准确率的具体数值（只出现在图中），可引用的具体数字集中在 Table 1 的集合 F1/EM。21

二、记忆、上下文与证据构建

1. 零化记忆掉分不等于记忆有用：9 系统对照与 QASPER 的 19.98 对 12.54

• 九个系统、每个三随机种子的对照（表 1）：CCM、ICAE、Beacon、MemoryLLM、M+ 在合成故事任务上同时 D>0、U>0，U 落在 +1.804 到 +2.185 nats；StreamingLLM、H2O、xRAG、LoCoCo 则被归零伤害（D 为 +6.367 到 +7.690）却仍劣于各自的训练替代（U 为 −1.414 到 −0.219）。22
• QASPER 979 道题（表 3）：文档输入的记忆投影器得 19.98 F1，同一架构输入常量得 12.54 F1；两者归零后同为 6.82，即归零造成的 13.16 分损失里有 5.73 分可由不含当前文档事实的学习型输入拿到；文档相对常量的优势为 +7.43 分（区间 [6.15,8.75]）。22
• TriviaQA 11,313 道题（表 4、表 5）：F1 在无文档时 19.38、换成他人问题的检索段（donor）24.78、本题检索段 29.88；donor 超过无文档 +5.40 F1，本题段再超过 donor +5.10；但 donor 的 Match 差为 −0.57（[−1.50,0.37]）不确定，EM 增益 +3.80（[3.22,4.42]）为正。22
• 词级探针（第 6 节，3,044 个 PG-19 重复词目标）：文档输入 4.5088 NLL，对常量输入 4.8145、后缀输入 4.8254，内容收益 C=+0.3057（[0.2530,0.3585]）。22
• 合成边界任务（第 4.1 节）：Llama-3.2-3B 上 D=0.4643、U=−0.1417 nats，但 512 个目标的准确率仅 14.78%，按训练频率猜为 18.55%，说明被比较的模型本身预测不可靠。22

2. 企业群聊记忆 EGCForest：三个基准平均分比最强基线高 4.77、8.59、12.61 点，检索 65 ms/查询

• 三个基准的平均答对率都是最高：EverMemBench 54.72（最强基线 Dense 49.95，高 4.77 点）、GroupMemBench 55.70（最强基线 BM25 47.11，高 8.59 点）、Company 53.31（最强基线 BM25+Dense 40.70，高 12.61 点）。23
• 对记忆系统 MemOS：GroupMemBench 平均 55.70 对 35.70，Company 平均 53.31 对 32.46，后者相差 20.85 点，即摘要里「最高提升 20.85 个百分点」的来源。
• 检索消融（3,000 token 预算）：P@20 从 S1 的 7.0 到完整方案 8.2、R@20 从 40.3 到 45.8、答对率从 45.4 到 53.3；其中 S3 把 P@20（前 20 条检索结果的精确率）从 7.1 抬到 8.0，S4 把答对率从 47.9 抬到 53.3。
• 视图消融：相对只用 Channel 视图（V1），加 Actor 视图（V2）在 Company 上把细分召回（Fine-grained Recall）一类题目提高 8.08 点、记忆感知（Memory Awareness）一类提高 5.32 点；全量 V4 比 V2 在 GroupMemBench 高 0.93 点、在 Company 高 3.37 点。
• 效率（GroupMemBench）：构建 1842 s、存储 206 MB、检索 65 ms/查询；GraphRAG 为 38200 s、641 MB、2107 ms，Mem0 检索 15339 ms。
• 配置：答案模型按各基准官方约定用 GPT-5（GroupMemBench）与 GPT-4.1-mini（EverMemBench、Company），冻结的 Qwen3-Embedding-0.6B 编码器，分支因子 k=16。

3. MemDuet：3.5M token 上下文下提速 49.61×、输出 token 少 99.14%

• RULER-HQA（7K–3.5M token）上，MemDuet（7B）在 3.5M 处准确率 75.78%，比 RL-MemAgent 的 71.88% 高 3.90 个百分点，同时推理时间加速 49.61×、生成 token 减少 99.14%（Table 1）。
• 三个数据集按评估设置平均：相对 RL-MemAgent 端到端加速 9.74×、输出 token 减少 73.91%（摘要）。
• 短上下文上优势消失：7K 处 MemDuet 的相对加速只有 0.983×，作者归因于 System 1 扫描与跨系统协调的固定开销（Table 1、§4.2）。
• LongBench v2 上 Long 组选项准确率 30.00%、Ultra 组 29.29%，均为最高，加速 3.00× 与 8.03×；Short/Medium 组则低于 MemAgent（31.03 对 33.62；31.38 对 31.91）（Table 2）。
• 2WikiMultihopQA 的 sub-EM（normalized substring exact match，归一化子串精确匹配）在 14K、56K 落后 MemAgent，在 224K（61.72% 对 57.81%）与 896K（59.38% 对 57.03%）反超（Table 2）。
• 消融：去掉 draft–verify 或 state reevaluation 最多掉 3.90 个点，去掉 draft–verify 还把加速压到 9.89×；去掉 Stage II 最伤，112K 处准确率跌到 38.28%，448K 处 25.78%（Table 3）。
• 免训练迁移到专有 API（小模型当 System 1、强模型当 System 2 做接受/拒绝）：延迟降 70.7–71.8%、成本降 58.2–59.9%，选项准确率变化不超过 0.60 个点（Table 6）。24

4. 冻结主干只训 1% 外部权重：QuALITY 23.87%→40.51%、LongHealth 14.50%→40.75%

• 相对「分段注意力窗口」基线，在 Llama-3.2-1B-Instruct 上 QuALITY 准确率从 23.87% 升到 40.51%，LongHealth 从 14.50% 升到 40.75%（摘要与图 3 口径），训练只动占总参数 1% 的外部权重。25
• RULER 表 1：S-NIAH-1（pass-key 检索）在 8K/16K/32K 上均为 100.0，与全注意力持平，而 Mamba-2、Gated DeltaNet 在 32K 都掉到 26.0。25
• RULER 表 1 的「平均相对解码耗时」（8K、16K、32K 下一 token 延迟除以全注意力延迟）为 0.689，全注意力为 1.00，对照 Mamba-2 为 2.70、Gated DeltaNet 为 2.59。25
• 效率侧：在长 prompt 下 prefill 比全注意力快 20% 以上（改造 5 层时），中等上下文长度下解码快 37%，稳态解码显存低 24%；但部分改造的混合模型在 prefill 阶段的峰值显存高于全注意力（4.3 节与图 4）。25
• 最弱项是 RULER 表 2 的 Multi-value 检索：32K 时 53.0，对照全注意力 70.0；FWE/CWE（词频/常用词抽取）在 8K 时 44.9，反而高于全注意力的 39.2。25

5. Mamba 检索瓶颈不在状态容量：只改 10 个目标词元的选择门，准确率可在近满与近零之间翻转

• 只加一个局部相关性标记，就把 Nvidia-Mamba 在长电话簿上的准确率提高到两倍以上；两个变体仅差一个词（编码后 0–2 个词元），说明检索问题本身没变（§4.1、Appendix A.1）。26
• 因果干预：把未标记提示中目标信息那 10 个数字词元的选择门替换为标记版捕获的门值，准确率几乎追平标记版基线；反向替换则把标记版压低到未标记版水平；用真值下标对同一批 10 个词元的门做放大，可达近满准确率，缩小则性能急降（§5、Figure 3）。26
• 相关性信号是逐层浮现的：标记版里相关性在 1–2 次残差流更新内即可线性解码，未标记版要到近 10 层才趋于平台；而门向量还要再晚若干层才反映同一信号，两层解码起始点相差约 10 层（§6.1–6.2、Figure 4）。26
• 门控插补的收益集中在网络早中期；在同一段层里，表示已经能解码相关性，但门还没跟上，而真正决定检索的状态更新就发生在这段（§6.3、Figure 4c）。26

6. 知识冲突下的单一引导方向：Llama-3.1-8B 的 RAG 答对率 62.0→82.0，四个模型族双向可控

• 域内源匹配率（四个指令微调模型，系数由验证集选定）：NQ-Swap 上参数侧 Llama-3.1-8B-Instruct 33.7→56.8（+23.1 点）、Qwen3-8B 46.5→54.6、Gemma-2-9B-IT 32.8→80.9、Mistral-7B-Instruct-v0.3 42.2→59.0；语境侧同四个模型为 49.4→55.5、36.7→56.0、52.6→65.4、45.8→60.2。
• 跨数据集迁移（方向与系数只在 NQ-Swap 上选）：ParaConflict 参数侧 15.8→83.9、语境侧 81.4→90.8；MemoTrap 为 66.7→75.4 与 30.0→53.3。
• 复杂任务（Llama-3.1-8B-Instruct）：RAG 的 RGB 62.0±1.2→82.0±0.5、CRAG 23.7±0.8→25.8±1.0；记忆侧 LoCoMo 8.5±0.4→13.2±0.9、LoCoMo-Plus 32.7±1.1→36.7±1.3、LongMemEval 43.2±0.9→45.4±1.1；规则侧 IFEval 14.5±0.6→14.9±0.7。同表对照方法在 RGB 上为 ContextFocus 69.0、JUICE 62.0、CK-PLUG 71.0。
• 与「只是对上下文更敏感」的区分：冲突上下文对比强于对齐上下文与无关上下文（ParaConflict 参数侧 86.5 对 72.6 与 74.0），且三类上下文的对比方向余弦相似度只有 0.875–0.899，相近但不相同。
• 无冲突时的代价：同一组固定方向与系数下，原始答案准确率大多保持，但语境方向在 ParaConflict 上从 100.0 降到 85.5、MacNoise 降到 86.7。27

7. 50 次顺序事实编辑后恢复 88.9% 的上下文增益，同时保留 99.8% 非目标能力

• 摘要层：在 4B–120B 的稠密与混合专家（MoE）骨干、纯文本与多模态模型上，Cortex 在多数评测设置中位于「巩固–保留」的经验帕累托前沿（consolidation–retention Pareto frontier）。28
• 摘要层：在 14B 模型上做 50 次顺序事实编辑后，Cortex-Structural 找回 88.9% 的上下文带来增益，同时保留 99.8% 的原始非目标性能。28
• 摘要层：测试台覆盖五个任务族，并在单次、批量、顺序三类更新下分别测量巩固与保留。28

8. Latent Compaction：32× 压缩下 RULER 96.7%，KVZip+ 只有 40.0%

• RULER 上 32× 压缩：Latent Compaction 准确率 96.7%，预算对齐的 KVZip+ 为 40.0%（摘要与 §4.3 Figure 1）。
• Phonebook Lookup（姓名→电话号检索）16× 压缩、Qwen3-1.7B：4K/8K/16K 上下文分别为 87.75%/83.75%/70.50%，均值 80.67%（Table 1）。
• 初始化消融：把 diversifiers 换成随机文档 KV，同样条件下均值只剩 20.50%；换成高斯随机向量 19.75%；换成文档开头 KV 43.50%；anchors 直接换成 KVZip+ 选择则均值 57.17%（Table 1）。
• 训练消融：去掉 Stage 2 均值从 80.67% 降到 70.67%，在 4K/8K/16K 上分别贡献 6.75/15.50/7.75 个点；去掉 Stage 1 更严重，均值跌到 13.92%（Table 2、Table 3）。
• 架构消融：去掉注意力偏置 b_cmp 只降 0.75/3.00/0.25 个点，但把归一化加权的混合写成两支等权平均会崩到 0.25% 以下，说明对数归一化因子是必需的（§4.8）。
• LongBench 上 0.6B/1.7B/4B 三个尺度在 16×、32× 强于 KVZip+，4× 时与 KVZip+ 接近；对文本摘要全程领先，但仍低于未压缩模型（§4.3）。
• 同流程在 Qwen3 的 0.6B/1.7B/4B/8B 与两个 MiniCPM5 模型上都能提升 Phonebook 检索（§4.4）。29

9. 9,263 份报告 macro-F1 0.831 对规则系统 0.721：抽取式证据锚定胜过模板化解释

• 最佳配置是 Qwen3 加「报告 + 特征引导理由」输入的流水线（记作 I,RG→O）：总体准确率 0.849、macro-F1 0.831；同一测试集上现行规则系统 SPOT 为准确率 0.736、macro-F1 0.721，论文表述为领先 15%。
• 特征引导理由在每一个数据划分上都优于特征模板化陈述，最好的特征引导模型比最好的模板化模型高 2.3% macro-F1。
• 只给理由不够：仅用理由预测（RG→O）明显差于直接从报告预测（I→O）与「报告 + 理由」（I,RG→O）；只用二值特征训练逻辑回归只有 0.621 macro-F1，比对应最佳 Qwen3 低 33.8%，说明可用信号在证据文本里而不在特征取值里。
• 模板化解释下两段流水线优于自解释模型：Llama-3.1 为 0.812 对 0.779 macro-F1，Qwen3 为 0.776 对 0.768；作者指出这与 Wiegreffe 等人报告的相反趋势并不冲突，因为他们的流水线把理由单独喂给分类器，而本文同时给了报告。
• 专家反馈把句级特征抽取的总体 F1 从 0.602 提到 0.684（+13.6%），对稀缺特征增益最大（冰毒类 +105.3%、苯二氮类 +97.0%、处方药由 0.0000 升到 0.3243），对物理可观察的现场证据反而略有下降（注射器具 −3.8%、吸烟器具 −2.3%）。30

10. 共享符号而非向量：跨五个模型族的新场景四答成功率 72.0–98.3%，比中层写入高 65.0–96.2 点

• 新场景四答成功率（572 条确认场景；四答成功=两个世界各两个问题全对，排除发送方与接收方为同一模型的格子）：三个新发送方与九个来自五个模型族的新接收方组成的 25 对里，内部写成 72.0–98.3%。31
• 相对中层写入（相对深度 0.4/0.5/0.6）：在 27B 以下的七个接收方上，早期写入（相对深度 0.2、γ=1）高出 65.0–96.2 点。
• 符号到方向的重指派对照（把符号指到别的符号的方向，字节数与编辑范数不变）在每个单元格最多留下 4.4%。
• 深度可预测性：无任务探针（只写两个符号问哪个对象带哪个符号）对九个新接收方的 45 个「接收方×深度」预测全部命中，与成功率的秩相关 0.89 [0.81, 0.96]；只用深度拟合的规则平衡准确率低 0.13 [0.08, 0.19]。
• 冻结设置迁到新排版：六个接收方在 144 条场景上保持 89.6–100%，18 个非劣性检验 14 个通过、4 个不确定。
• 多 token 符号的地标任务（Countries）：四个较大接收方 23.9–64.0%，无消息按构造为 0%，重指派后平均最多 5.0%，纯文本为 87.1–97.2%。

11. 级联双轨检索：延迟最高降 80.7 倍，ViDoRe 3 的 NDCG@5 以 58.85 超 SOTA 56.65

• 效率：SOTA 基线（ColEmbed-3B-v2）的单查询延迟为 4.5–32.8 秒，SCOUT 在四个基准上是 387–553 毫秒/查询，加速从 ViDoRe-HR 的 8.4 倍到 SlideVQA 的 80.7 倍，平均 28.8 倍。
• 质量：ViDoRe 3 上 NDCG@5 从 56.65 升到 58.85、NDCG@10 从 58.99 升到 61.31（平均提升 3.9%）；ViDoSeek 上 NDCG@5 从 85.48 升到 87.41（+2.3%）；REAL-MM-RAG 的四个子集里三个最好，增益最高 7.8%。
• 组件归因：把重排限制在 top-K 的子重排器相对只用父检索器提升 20.9%，CMQR 相对纯视觉级联最多再加 7.78 NDCG@10。 32

三、基准、环境与任务设计

1. CoffeeBench：12 个模型里只有 Gemini 2.5 Pro 一轮诊断准确率过 60%，状态追踪提示把超时压到 8% 以下

• 12 个模型（9 个商用模型 + 3 个开放权重 Nemotron 12B/30B/120B）中，只有 Gemini 2.5 Pro 的一轮 pass^1 超过 60%（61.1%）；Gemini 3.5 Flash 与 Claude 4.5 Sonnet 均为 56.8%；三个 Nemotron 模型分别为 12.6%、13.7%、14.7%（3.1 节图 2）。
• 诊断效率 RMST：Claude 4.5 Sonnet 1.74（95% CI 1.52–1.95）、Gemini 3.5 Flash 1.78（1.53–2.03）、Gemini 2.5 Pro 1.81（1.54–2.08），对照「理性猜测者」（随机猜并排除已错选项）的期望 5 轮；Nemotron 12B 为 5.21（4.54–5.89）、30B 为 6.78（6.06–7.51），比理性猜测还慢。
• 给 Nemotron 系列补上显式跟踪 episode 状态（已试与剩余诊断选项）的续写提示后，超时降到不足 8% 的 episode，诊断效率提升具统计显著性；此时 Nemotron 120B 与 Claude 4.5 Haiku 的效率差异已不可分辨（3.2 节图 3）。
• IDU 的预测力：高 IDU 的 episode 平均 4.85 轮（4.47–5.22）收敛，低 IDU 为 2.46 轮（2.31–2.60）；超时占比 20.71%（16.12–25.94）对 3.26%（2.17–4.67）；以 IDU 预测超时的 AUROC 为 0.821（0.785–0.857）。
• 解释健全度（独立判官按 0–100 打分）：成功轮平均 87.15（86.16–88.14），比失败轮高 24% 以上；以健全度预测诊断是否正确 AUROC 为 0.820（0.803–0.837）；把健全度做成提交前审议门槛后，Nemotron 120B 的首次提交准确率从 31.58% 升到 65.26%。 33

2. J-tau：50／114／114 题三域日语工具智能体基准，修复 tau-bench 无效任务与最多虚高 64.6 分的聚合缺陷

• 规模与题量：J-tau 覆盖 airline 50 题、retail 114 题、telecom 114 题；airline 由未改动 41、仅修无效题 4、兼有本地化与修题 2、仅本地化改动 3 构成，retail 为 80／12／0／22（附录 D 表 12，四类相加等于该域总数） 34
• 两处缺陷的规模：原文称原 tau-bench 的无效题在 airline 与 retail 约占 10%，评分聚合缺陷最多可为单个模型虚高 64.6 分（引言、5.1 节） 34
• 修题效果（表 2，三次试验均值）：在高分模型被修复的题组上 J-tau 明显高于只修了评分的 tau*（tau* 指只施加同一评分修复、其余仍为原 tau-bench 的对照版本），例如 airline 的 6 道修复题上 GPT-5.6 Sol 为 77.8 对 27.8；在未改动题组上 J-tau 反而低于 tau*，同一模型为 85.4 对 95.1，作者解释为同一批题在日语下的表现低于英语 34
• 修评分效果：Qwen3.5-4B 在 airline、retail、telecom 分别有 75/150、56/342、38/342 次试验以空回复结束，原基准仍给它 93.3、85.3、98.7，而 J-tau 上为 24.0±2.0、6.7±2.2、33.6±9.9（脚注 8、表 1） 34
• 与纯机翻流水线对比（表 4，失败试验按 agent／user／eval 归因）：retail 域 GLM-5.2-FP8 因评估框架导致的失败为 54 例，而 J-tau 上只有 4 例；另在 telecom 域 Kimi-K3 因 JSON 输出指令被去掉后从表 1 的水平升到 84.8±2.7（Δ+17.8，表 30） 34
• 主结果（三次试验均值±标准差，表 1）：闭源最高是 Claude Fable 5，airline 90.7±1.2、retail 84.5±4.1、telecom 99.4±0.5；开源权重最高是 GLM-5.2-FP8，89.3±4.6、81.6±1.8、98.2±1.5 34

3. Interlock：类型化完成图合成任务，AutomationBench 通过率 +4.00–4.50 个百分点

• 三个外部基准（AutomationBench 600 题、JobBench Main 与 Easy 各 65 题、Harvey LAB 1,251 题）上，各主干用自己通过判官筛选的轨迹做 SFT 后：Qwen3.6-27B 相对原检查点 AutomationBench 任务通过率 +4.00 个百分点、JobBench Main/Easy 加权分 +4.35/+6.64、Harvey LAB 判据通过率 +3.89 个百分点；Qwen3.6-35B-A3B 对应为 +4.50、+3.20/+4.31、+4.16（Table 1，同表 ClawGym-SFT 反而低于原检查点）。
• 判官形态是独立的增益来源：同一批 rollout、同一判官主干与同一监督预算下，文本级 LLM-as-judge 过滤得到 13.17/15.14/56.53/75.28（AutomationBench、JobBench Main、JobBench Easy、Harvey LAB），可执行校验的 agent-as-judge 过滤得到 18.33/18.46/61.10/77.85，判官输出从约 11.03k 升到 12.28k tokens/rollout（+11.3%）（Table 2）。
• 合成任务确实拉长执行链：32,370 条正常终止轨迹平均 84,293 tokens、27.63 个助手轮次、42.10 次工具调用，对照 ClawGym 已发布轨迹的 24,497 条为 14,940 tokens、11.92 轮、14.76 次（倍数 5.64×、2.32×、2.85×），中位数同样分离（轮次 25 对 9，工具调用 40 对 12）（§4.5）。
• 语料与训练规模：保留 3,278 个任务，覆盖 128 个领域、484 个任务族；每任务每主干 5 次尝试，共 32,780 次尝试（其中 32,370 次正常终止），每个主干取自己 8,957 条被接受轨迹、约 154M 监督 tokens。
• 领域覆盖消融：固定 8,957 条轨迹，训练领域数从 16、32、64 增到 128 时，四个指标逐档上升，128 域为最高（Figure 3）。4

4. 孟加拉语约束规划基准：1,000 题含 256 道不可行，11 个配置中 7 个低于 25.6% 基线

• 数据构成：744 道可行、256 道不可行；按结构难度（绑定约束与支撑事实总数 k，k≤10 为易、10<k≤20 为中、k>20 为难）分为 300 易、300 中、400 难；提示覆盖日常、正式、口语、孟加拉语-英语混合四种语域，答案有分配、分类、匹配、有序步骤、排序、路线、日程、选择八种结构（Table 1、§3.1）。 35
• 11 个模型配置零样本差距极大：GPT-6.1 Sol 精确匹配 98.7%、GPT-6 Luna 85.1%、Qwen3.5-27B（开启思考）80.3% 使用测试时推理；直接作答的配置最高只有 30.9%，且 11 个里有 7 个低于「永远回答不可行」这条 25.6% 的常数基线（Table 2）。 35
• 同权重加思考比扩规模更划算：Qwen3.5 从 2B 到 27B 精确匹配 3.3%→30.9%；在 27B 权重上开启思考再涨 49.4 个百分点到 80.3%，计划准确率从 19.5% 升到 76.9%，错误弃答从 41.0% 降到 2.0%（§5.1）。 35
• 难度主要打击「造计划」而非「识别不可行」：GPT-6 Luna 的计划准确率从易到难由 96.0% 降到 69.0%，Qwen3.5-27B（思考）从 91.6% 降到 59.6%；而 GPT-6.1 Sol 的不可行判定只从 100.0% 降到 99.0%，Qwen3.5-27B（思考）从 96.0% 降到 90.3%（Figure 4、§5.2）。 35
• 需要构造的答案最难、格式错误是主要漏分项：Qwen3.5-27B（思考）在分类题上 99.0%，在日程题上只有 68.6%；Gemma 3 12B 有 70.3% 的输出不合格式，即使只看格式合规的输出准确率也只有 28.6%（Table 2、§5.2）。 35
• 换英文提示与金答案微调都没真正提升规划：GPT-6.1 Sol 孟加拉语 98.7% 对英文 97.4%；Qwen3.5-2B/4B/9B 换英文只涨 2.5、8.3、4.7 个精确匹配点，且 Qwen3.5-4B 的不可行召回从 30.9% 升到 62.5% 的代价是错误弃答从 16.5% 升到 48.3%；用金答案微调 Qwen3.5-2B（834 训练／166 留出，其中 42 题不可行）后精确匹配 2.4%→27.1%、格式错误 18.7%→0、不可行召回 0→95.2%，但计划准确率只从 3.2% 到 4.0%，模型对 90.9% 的题回答不可行（Tables 3、4）。 35

5. 给事件加描述并改用符号标签：LLM 平均 F1 最高 0.290，强于最强非 LLM 基线的 0.231

• 自建基准 DescribeEvent 含 148,185 个事件、1,940 条序列、7 个数据集、6 个领域，时间粒度从分钟到周；描述的信息量用可恢复性 RR（recoverability：只给描述、让验证器 LLM 猜事件类型的准确率）衡量，7 个数据集为 0.602（Wikipedia）到 0.992（NBA），对应随机猜测基线 0.111 到 0.167。36
• 七数据集平均口径下，描述＋符号标签最好：Qwen3.5-27B 平均 F1 0.290（MAE 5.248），Gemini-2.5 为 0.289；语义标签且不给描述时 Gemini-2.5 为 0.261；六个非 LLM 基线的每数据集最优者在平均口径上是 KNN 的 0.231。36
• 符号标签的收益集中在稀有事件：在 46 个事件类型上，符号标签相对语义标签的精度增益与类型频率负相关（Pearson r=−0.51，p≈0.0003），而召回几乎不随频率变化（r=−0.01）。36
• 描述是否有益与推理能力挂钩而非模型大小：受益组在 GPQA Diamond 上均 ≥77%、在 HLE 上 ≥7%；GPT-4o Mini 与 Llama-3.1-8B 只有 42.6%／25.9%（GPQA Diamond）与 4.0%／5%（HLE），加描述后平均 F1 反而下降。36
• 描述对非 LLM 基线的作用不一致：给 NHP、RMTPP、MLP 加 Sentence-BERT 描述嵌入时常改善 MAE，却不稳定改善 F1（原文第 5.5 节）。36

6. 1,249 段对话、4,833 个样本：18 个 VLM 的候选集 F1 最高 0.649，召回是短板

• CandVG 由 1,249 段对话、4,833 个评测样本构成，其中 CVG 单目标样本 2,549 个、CSVG 多目标样本 2,284 个；标注质量高（两对标注者的 CVG Acc 为 0.962／0.971，CSVG F1 为 0.943／0.935）。
• 在 18 个视觉语言模型（VLM）、六个系列上，CVG 准确率随规模单调上升（Qwen3.5 27B 最高 0.819），但 CSVG 的 F1 不随规模稳定提升：Qwen3 VL 2B 只有 0.271，最高是 GPT-5.6 Terra 与 GPT-5.6 Luna 的 0.649。
• 视觉定位能力强并不等于 CSVG 强：这些模型在 RefCOCOg 上准确率很高（Qwen3.5 27B 为 0.917），在 CandVG 上普遍更低；CSVG 在两个基准上都存在精确率—召回率缺口，且 CandVG 上缺口更大，随规模上升的是精确率而召回率不升。
• 把金标候选集直接喂给模型能普遍提高 CSVG 的 F1（InternVL3.5 系列增益最大），说明候选生成是一个瓶颈；加面向 CSVG 的任务指令（TAI）只对 27B 以上模型有效（Qwen3 VL 召回 +0.097、Qwen3.5 +0.087），对 4B 模型效果不一致，且不能稳定改善精确率。
• 追踪同一批 1,234 段对话的前三轮，失败模式分两种：Qwen3.5 27B 第一轮就过早收敛到很小的集合（召回低），Qwen3 VL 4B 则选出接近金标规模的集合却不随上下文收缩（第 2 到第 3 轮反而增加），GPT-5.6 Luna 整体最贴近金标更新，但前两轮偏少、第三轮偏多。37

四、评测口径、判官效度与基准审计

1. 17 个模型上的诊断：提示控制权在 336B–630B token 间易主，四选准确率约 1.5T token 才越随机线，精确生成最晚到约 3.6T

• 17 个模型按 P(copy) 分成三档：6 个把两候选概率中至少 .70 给复制答案，8 个至多 .30，3 个落在两个阈值之间；复制偏好与「能不能在没有候选时写出正确形式」同序，高复制组正确形式四选排名第一的比例低、精确生成也低。38
• 在 OLMo-2-7B 的预训练 checkpoint（训练中途存档）序列上，请求值（提示里被问到的那个特征值）对答案的控制在 336B 到 630B token 之间超过最近示例的词尾；四选准确率约在 1.5T token 才越过 .25 的随机水平，重测条目为 1.79T；精确生成未示出组合最晚到约 3.6T。
• 16 个已发布训练序列里，Marin-8B、Comma-v0.1-1T、SmolLM3-3B、OLMo-3-7B 结束时的四选准确率在阈值之上，Apertus 只达到部分，11 个仍在阈值之下。
• 继续预训练实验：把 SmolLM2-1.7B 续训流里的 3% 换成「先定义词尾、再查询」的合成文档后，P(copy) 在前 50M token 内从 .82 降到接近 0、精确生成升到 .56，同规模普通续训仍以复制为主；留出文本损失变化小于 .001，而控制失衡量 D 变化超过 20 nats（自然对数单位）。
• 定义练习微调：SmolLM2-1.7B 在 5700 万 token 的改写练习上微调后，把标签名换成自造符号的准确率在 TREC 上升 17.6 点、DBpedia 上升 17.2 点、Yahoo 上升 3.7 点，而同一诊断任务上的 P(copy) 基本不变。

2. 8 个评估维度、26 个 2B 模型与 264 组设置：答案概率指标在 2B 模型上胜率 93%

• 在 26 个单语 2B 参数模型、四种语言（挪威语、芬兰语、法语、西班牙语）共 80 个任务上，答案概率（AnsProb，把正确选项的归一化分数取指数、不与其它选项比较）在 2B 模型上赢下 93% 的两两比较，是最有信息量的度量；准确率（Acc）最差，因为离散分数只增加方差而不给足够信号。
• 5 次示例（5-shot）优于 0 次示例，胜率 70%，在单调性维度最明显（84%）；任务表述上完形填空（CF）被三种方法一致选中，胜率 76%，而多选表述（MCF）信息量最低。
• 用各维度胜率最高的选项独立拼装出的分层配方，在四种语言共用的 264 组设置里排第 6，总体分 0.93，而最优完整设置是 0.95，两者只差是否使用 min-max 重标定；前五名完整设置在高影响维度上完全一致。
• 换成三个更大模型（≥7B）后结论分化：答案概率胜率从 93% 降到 63%，准确率从 6% 升到 37%（其单调性从 9% 升到 53%），CF 胜率从 76% 降到 61%、MCF 从 20% 升到 38%；字符归一化与 5 次示例仍被一致选中。39

3. 基准审计：把答案换成等义变体，DROP 精确匹配从 100.0% 掉到 33.3%；16 个资源无一记录目标用户

• 美国中心惯例占匹配信号的 62.4%（MedQA）到 94.4%（TruthfulQA）；惯例覆盖率（含被审惯例的题目占比）差异极大：WinoGrande 5.97%、TruthfulQA 7.59%，而 MedQA 65.85%、DROP 78.08%；排除拼写类匹配后仍有 8 个基准呈美国中心多数（TruthfulQA 90.5%、GSM8K 83.3%、SVAMP 80.0%、DROP 72.3%）。40
• 配对评分实验（等义变体对原始答案，均用官方评分器）：DROP 官方精确匹配（EM）从 100.0% 降到 33.3%，配对变化 −66.7 个百分点（95% CI [−92.3, −36.4]，12 对）；token 级 F1 从 100.0% 到 77.2%（−22.8，95% CI [−41.6, −5.2]）；其中 6 组拼写对平均损失 45.7 F1 分（95% CI [−72.2, −23.0]）。40
• TruthfulQA 对同类变体更宽容：BLEU 与 ROUGE-1 的正确性判定维持 97.0%、ROUGE-Lsum 维持 100.0%，ROUGE-2 从 100.0% 到 93.9%（−6.1，95% CI [−16.1, 0.0]，区间含 0）；但连续相似度下降明显——最高正确参考 BLEU 相似度 97.0 到 69.2（−27.7，95% CI [−34.0, −21.9]），ROUGE-1 相似度 100.0 到 88.9（−11.1，95% CI [−13.5, −9.0]）。40
• 地理可见度集中：美国在 DataComp1B 13.55%、WIT English 14.59%、RedCaps 21.18%、COYO-700M 16.30% 居首，CC12M 例外（冰岛 10.24%、美国 9.99%）；前三国家合计 26.8%–37.6%，欧洲、北美与大洋洲合计 60.9%–76.5%；国家可见度与世行 GDP 份额强关联（平均 Pearson r=0.780、Spearman ρ=0.778，平均 R²=0.614）。40
• 文档审计：16 个资源全部操作化了来源用户语境，但无一操作化目标用户语境；标注者信息 56.2% 提及、0% 操作化；地区假设 25.0% 提及、6.2% 操作化；评分归一化 75.0% 提及、68.8% 操作化；来源／地理元数据 37.5% 提及、31.2% 操作化。40

4. PersEvalBench：403 个多轮场景、9 类受控个性化错误，个性化不足人类识别 94.4%、最强判官仅 63.9%

• 主设定（Full 上下文 + 端到端）下，错误识别率（ERR，Error Recognition Rate，在错误响应上统计、被判成对应错误类即算识别）为 Kimi K2.5 66.5%、GLM-5 64.3%、DeepSeek-V3.2 62.5%、Qwen3-32B 32.0%；误报率（FAR，False Alarm Rate，把 Right 响应误判成 Under 或 Over 的比例）对应为 24.6%、12.2%、10.9%、2.5%。41
• 恒判「Over」的常数基线整体 ERR 67.7%、FAR 100%，已不低于任何真实判官——只用 ERR 会奖励乱报错误，必须与 FAR 一起看。41
• 个性化不足的识别最差：在 100 个共享人评场景上（其中 under 型 36 条），人类均值 94.4%，最强的已报告判官 Kimi K2.5 只有 63.9%；整体三者平均是人类 76.0% 对 Kimi 68.0%。41
• 判官常常方向判反：26.6% 的个性化不足响应被标成 Over，即把「没遵守适用的偏好」读成「用了不适用的偏好」。41
• 把证据指出来帮助很小：Kimi 从 Full 的 66.5% 升到「全历史+高亮相关轮次」的 70.5%，GLM 64.3%→65.8%，DeepSeek 62.5%→65.0%；给最近六轮的 ERR 反而高于给全历史（Kimi 70.7% 对 66.5%），说明难点不在「找得到」，而在「判断这条信息该起什么作用」。41
• 相关的历史被抽掉时判官崩得最厉害：五判官均值在「全历史减去相关历史」下 ERR 60.8%、FAR 67.6%（几乎见错就报）；抽掉无关上下文则 ERR 62.8%、FAR 14.4%，成对准确率 60.8%（50 个场景）。41

5. 回复可用性评测：480 条智能体回复 54% 不可用，256 个回复点上加要求消息从 0.52 降到 0.43

• 在 4 个项目（2 个研究、2 个商业）× 8 个模型（7 个家族，含 Claude Opus 5、GPT-5.6 Sol、DeepSeek V4 系等）共 32 组多会话协作、480 条回复上，258 条失败，失败率 0.54（即 54%）；单模型失败率从 0.30（GPT-5.6 Sol）到 0.82（Claude Opus 5），8 个模型里 7 个至少 48%（Fig. 3a）。3
• 失败构成：258 条失败回复中 222 条至少含一个信息缺口、73 条没有回答请求、17 条语言不对（一条回复可同时满足多条）；全库 46% 的回复至少有一个缺口，114 条含两个以上缺口，带缺口的回复平均 2.1 个、最多十个（§5.1）。3
• 缺口类型（占 258 条失败回复的比例，Table 3）：指向未见材料 46.1%、智能体自造的标签 42.2%、未解释的领域术语 23.6%、缺背景 1.6%；自造标签里 53.0% 最早出现在智能体自己写的文件、工具调用参数或跨会话加载的项目记忆中（Fig. 3c）。3
• 失败集中在汇报工作最多的回复：回复前有 3 轮以上工具调用的失败率 0.70，没有工具调用的 0.48，1–2 轮的 0.40（Fig. 3b）。3
• 干预一（在回复点追加一条列明「回复必须包含什么」的要求消息）：干预实验换了一套总体——从同一批协作里另取 256 个回复点，每个点把回复按各条件重写一遍，其默认条件失败率为 0.52，与全部 480 条回复上的 0.54 不是同一个总体；在此基准上把失败率从 0.52 降到 0.43，降幅 0.098［0.030, 0.168］；只提醒「读者没看过你的工作」的 notice 条件为 0.50，降幅 0.027［−0.052, 0.112］，与默认条件不可区分（Table 4）。3
• 干预二（用 DeepSeek V4 Pro 在回复后重写一遍，仍在这 256 个回复点上）：失败率从 0.52 降到 0.36，降幅 0.168［0.101, 0.242］；5 位标注者在 83 个回复点上盲评同一回复与其改写，失败比例从 0.52 降到 0.32，差 0.201［0.095, 0.321］（Fig. 4a/4b）。3
• 忠实度同步改善：检查器（checker，对照工作记录列出错误与遗漏）给出的「错误+遗漏」每条默认 1.41，加要求后 1.07，改写后 1.13（§6.2、§6.3）。3

6. 测量工具也是结果：抽取协议把同一学科成绩从 20.8% 抬到 93.9%，难度带约六周失效

• tw-exam-bench 规模与噪声底线：255,854 题、148 个学科、15 年；31,312 个重复题组的官方答案一致率 99.91%，27 处分歧全部人工归因（14 处依赖缺失插图、9 处是抽取器伪冲突、仅 2 处为真正的答案冲突）；复查第二轮又撤下 2,180 题（85.8% 依赖缺失插图、7.0% 承接上题），本文所有分数算在剩下的 253,674 题上（§3.2–3.4、Table 1）。 2
• 抽取协议对成绩的影响量级最大：同一学科、同一模型，从自由文本正则匹配选项字母改成要求显式输出 \boxed{}，准确率从 20.8% 变到 93.9%（§5.1）。 2
• 一个占位字符会重排名次：系统提示用传统序数「甲」作格式示例，Mistral-Large-675B 照抄示例字母表用甲乙丙丁作答，成绩 58.2% 排最后；把序数映射回 A–D 预测为 83.4%，改写提示后实测 83.9% 排第一，该学科 828 条「无法解析」里有 827 条其实是答对的；同一缺陷提示只让 Qwen3.8-27B 在 60,389 条里丢 17 条（§5.2）。 2
• 思考预算基本不买准确率：生成上限从 8,192 提到 16,384 token，会计审计法学科准确率只变 +0.21%（置信区间 ±2.6%），成本却是 1.72 倍，无法解析率只从 15.9% 降到 14.0%，且新预算救回 130 题的同时新丢 103 题（§5.3）。 2
• 三人评委「共识」实际等于一人：早期验证面板按逐评委统计，两名成员分别通过了展示给它们的 99% 与 92%，第三名只通过 36%，一致性规则退化为单人决定；改用植入缺陷（错答案键、无据事实、畸形选项三类）校准后，合格评委对三类植入缺陷的检出率为 100%（§5.4）。 2
• 榜单本身犯过同类错误：直到 2026 年 10 月 14 日，公开榜在模型没有给出 \boxed{} 时用正则兜底，越不守格式的模型越占便宜；修正后 215 个已发布单元中 185 个变动、122 个变动超过 1 分、49 个超过 10 分，中位变动 −2.4 分（§5.1）。 2
• 难度带的有效期：筛选池冻结于 2026 年 8 月 24 日，池内得分 46.9–74.6%、中位约 54%；到 2026 年 10 月 14 日，tw-formosa-bench 榜单已有 108 个模型，分数跨 0.0–91.6%、中位 45.4%，只有 29 个落在带内、22 个超过上限、8 个超过 85%、最高 91.6%，即约六周后难度带描述的是中段而不是顶端（§6.3）。 2

7. Luce 公理在 Chatbot Arena 失效：同族配对更决断 1.37 倍，榜首次序几乎不动

• 主日志（去掉平局、配对至少 50 票非平局：2,650 个配对、114 万票）上，相对无关配对，版本对、尺寸对、同实验室对的决断乘子分别为 ×1.37（95% 区间 1.20–1.76）、×1.26（1.14–1.34）、×1.12（1.01–1.19），对 Bradley-Terry 的似然比统计量 177.6（3 自由度），且满足嵌套 logit 的顺序约束。
• 一年后发布的 140k 语料（不同模型、票数只有十三分之一）方向一致：981 个配对（≥30 票）上为 ×1.24、×1.15、×1.17，联合似然比 13.3（3 自由度，p=0.004）；两批合并为 ×1.35（1.12–1.62）、×1.25（1.17–1.34）、×1.12（1.07–1.17）。
• 表面相似度跟踪该效应：140k 上只用措辞（wording）相似度即可预测决断性（每标准差 ×1.12，似然比 66.9），谱系标签几乎不再增益（0.8）；含义相似度贡献更小，读整篇答案不比读开头更好。
• 修正模型与迁移：4–6 参数修正优于 Bradley-Terry 与数百参数模型，但增益主要在平局项；预先冻结的迁移检验主结局（2024 日志学到的谱系修正迁到 140k 的胜率对数几率增益）+0.14 millinats（−2.92 至 +1.68，按实验室重采样），三分类增益 +9.7（−0.5 至 +19.3），作者判定该检验不确定。作为尺度参照：普通 Bradley-Terry 每票损失约 1,050 millinats，增益 1 约合 0.1%。
• 榜单基本不动：谱系修正与原始分数的排名相关 0.9999，模型平均移动 2.2 Elo 分、最大 8 分，Arena 式名次最多移动 3 位，因为约 89% 的投票发生在无关模型之间；140k 上相似度修正最多移动 21 Elo 分。
• 判官菜单实验：8 个廉价模型答 200 条英文 Arena 提示，4 个来自不同实验室的判官（Claude Haiku 5.5、GPT-4.1 nano、Gemini 2.5 Flash-Lite、DeepSeek V3.2）共 138,400 次判断；把外部选项与 s1 的比较放进含 s1 近似副本的三答案菜单后，外部选项相对 s1 的对数几率上升 δ 均值 +0.10（+0.05 至 +0.16），64 个设计中 51 个为正；限定在单个提示内比较时降为 +0.03（−0.03 至 +0.09），只有 4 个判官中的 2 个明显。9

8. 决策模型鲁棒基准：30 文本与 17 视觉配置，核验后 ASR 47.2%→26.4%

• 最终评测集规模：文本侧 141 条扰动（来自 120 个样本）与 374 条注入（来自 265 个样本），覆盖 30 个模型配置，其中 24 个未参与候选筛选；图像侧 200 条扰动（127 条常见、73 条优化）、223 条图内注入与 120 条指令注入，覆盖 17 个模型配置，其中 12 个未参与筛选（§3.2.3、§3.3.3）。 42
• 常见图像扰动（高斯噪声、离焦模糊、亮度偏移、JPEG 压缩、降分辨率各五档，共 320 个样本）在五个视觉模型上的样本级 ASR（attack success rate，攻击成功率）核验前为 47.2–70.4%，经标签一致性核验后降到 25.4–47.0%，每个数据集、每个模型都下降；以 Imajev-4B 为例，全部数据集合并的 ASR 由 47.2% 降到 26.4%（Table 5）。 42
• 优化图像扰动转移不均衡：对三个代理模型做 200 步动量迭代、ℓ∞ 预算 8/255 后，代理模型自身核验后 ASR 为 56.3–64.5%，而四个迁移目标里 OneJev-4B 为 32.4%、StandardOne-3B 为 8.9%、NeoHorse-Jev-4B 为 11.7%、StandardOne-8B 仅 6.2%，且四个迁移目标在 Geometry3K 上无一被攻破（Table 6）。 42
• 四种注入模板没有绝对赢家：Repetition（重复目标词）在 KEV 与 Bosun 上两个注入位置、两种口径都最强；Jev 与 OpenJEV 在观测位置以 Self-check 最强、在指令位置以 Direct 最强，说明措辞与位置都影响 ASR（Table 4）。 42
• 「抗扰动」不等于「抗注入」：筛选外模型中 GLiNER2.5-Decide-340M 扰动 ASR 最低（11.4%）而注入目标 ASR 达 55.3%；Perplexity Decider v1.1-27B 扰动 ASR 最低（3.2%）而指令注入目标 ASR 为 45.7%；Strands Decider-2B 两项都最高（扰动 31.8%、图内注入 81.2%）（§3.2.3、§3.3.3）。 42

9. ICW：用成对重要性比较给 rubric 定权，六个偏好基准上比均匀加权最高 +5.79%

• 主结果（表 1，六个成对偏好基准，GPT-4.1 作加权模型、Gemini-3.1-Flash-Lite 作验证器、温度 0、T=1，所有方法共用同一套 rubric 与验证结果、只改权重）：ICW 在 RubricBench、ResearchQA、JudgeBench、RM-Chat、Chat-Hard、Precise-IF 上的偏好准确率为 0.795、0.612、0.783、0.769、0.818、0.762，相对均匀加权的提升分别是 3.11%、5.08%、2.76%、3.84%、1.64%、5.79%，六项全部第一；均匀加权为 0.771、0.583、0.762、0.740、0.805、0.720。
• 与各类基线对比：让 LLM 一次性直接打分（Direct）只在部分基准小幅提升，在 RM-Chat、Chat-Hard 上反而低于均匀加权；间接方法里最强的 RRD-WU 为 0.780、0.610、0.772、0.760、0.815、0.744，仍全面低于 ICW。作者把 ICW 的优势归因于成对比较加上一致性检查与修正。
• 消融与泛化：去掉一致性修正的变体（ICW†）用于验证两个组件的独立贡献；换 5 种验证器与 5 种加权模型（含更小的 GPT-4.1-mini）后 ICW 相对均匀加权仍为正，说明权重与某一具体验证器/加权模型不绑定。
• 超参敏感性：比值 α 一旦 ≥2 就出现明显增益，继续增大后准确率基本稳定；一致性阈值 τ 越小触发越多修正、准确率一般越高。
• 下游强化学习价值（表 5）：用评测分当奖励训练策略模型时，ICW 的奖励带来更好的策略。以 Qwen2.5-3B-Instruct 为例，AlpacaEval 长度控制胜率相对 Base Model 提升 40.87%（23.54），均匀加权只有 14.12%（19.07）；Qwen2.5-7B-Instruct 上 ICW 为 54.12%（42.83）对均匀加权 44.91%（40.27）。

10. 改一个解读字段就把判定压低 0.62 分：78 个科学主张、1,582 次运行的 Claim Cards 审计

• 解读缺口（4.1 节）：60 个主张的五次运行共 300 张卡里，材料科学有 42%、生物医学有 44% 的字段值未被标为 stated；单位字段在材料科学 68%、生物医学 99% 的卡上未标 stated，比较子为 68% 与 61%，阈值为 35% 与 45%。
• 解读不稳定（4.2 节）：51 个主张中只有 2 个的九字段在五次运行里表达了同一种解读；量词在 34/51 个主张上五次一致（Fleiss κ 0.70）；一致率最低的是阈值 60%、比较子 62%、条件 69%，而系统 88%。
• 改一个字段就改判定（4.3 节表 2）：把量词改成全称后，56 个主张的分数平均变 −0.62（95% bootstrap 区间 −0.91 至 −0.35）；把阈值改严后 58 个主张变 −0.54（−0.79 至 −0.32）；编辑后的分数低于该主张全部五次未编辑运行的，量词编辑下 16/56、阈值编辑下 14/58（若无效应期望为 3.7 与 3.5）；带计算工具时量词编辑为 −0.55（−1.04 至 −0.10，20 个主张）。
• 卡没有提高准确率（4.5 节）：60 个主张上带符号准确率带卡 0.68、不带卡 0.71，差 −0.03（−0.07 至 +0.01）；24 个带工具主张上为 0.67 与 0.64。
• 成本（4.4 节）：记录解读使一次运行的 GPT-5.4 输入 token 增加 13%、墙钟时间增加 8%。 44

11. Manacá-1B-Instruct-2：安全 97.2%（N=218）压过四个基线，DPO 训练 margin 到 1.0 却仍有 0/16 拒答

• DPO 三条负结果：第 2 次是在策略上的 DPO（β=0.1），训练奖励 margin 达到 1.0（训练准确率约 1.0），但自由生成完全没有改变——加载适配器后在留出的 16 条上拒答率仍是 0/16。作者的教训是：DPO 的训练指标衡量的是 teacher-forcing 下「两条特定序列」之间的判定，不是自由生成时第一个 token 的决策，先验强而数据少时指标可以完美而行为零改变。第 3 次改用第三方偏好对（约 28.4k 条无害/有害对）同样没带来安全。
• 安全 SFT 三轮收敛（表 5，迭代期用小探针 N=16 安全 / 34 过拒）：有害种子从 50 增到 465、生成 1,539 条拒答样本而通用数据绝对量不变（v2）时，通用数据占比从约 49% 掉到 10.6%，模型变成「什么都拒」——安全 100% 但过拒 50.0%；把通用数据量补到 1,700 条使占比回到 48.7%（v3）后过拒降到 23.5%、安全 87.5%；再把有帮助样本加到 280 条（v4，最终模型）后安全 93.8%、过拒 11.8%。
• 受控组成扫描（图 5，固定 1,539 条拒答样本与 280 条帮助样本，仅把通用数据占比从 10% 到 60% 按 10 个百分点分六轮）：安全在 30% 及以下饱和于 100%，从 40% 起让位（50% 时 93.8%，60% 又回到 93.8%）；过拒从 10% 到 50% 单调下降（32.4%→5.9%），60% 时回升到 11.8%，曲线非单调。作者把 40–50% 定为拐点，并以安全和「1 减过拒」的调和平均推荐 40%（综合分 92.5，30% 为 92.1、50% 为 90.7）；每个点 N=16/34，作者自己承认这个样本量分不清 60% 的回升是真效应还是噪声。
• 与四个外部 PT-BR 基线的对比（表 6、表 7，同一套 harness、同一批样本）：v4 留出安全 97.2%（N=218，Wilson 95% 区间 [94.1%, 98.7%]），TeenyTinyLlama-460m-Chat 3.2%、Tucano-1b1-Instruct 15.1%、Tucano-2b4-Instruct 14.7%、Tucano2-qwen-1.5B-Instruct 70.6%——v4 区间下界 94.1% 高于四个基线的区间上界，配对 McNemar 加 Holm-Bonferroni 校正后 p 值在 10⁻¹⁴ 到 10⁻⁶² 之间。过拒率（N=184）v4 为 9.2%，只有对 Tucano-2b4（21.2%）的差异在校正后仍显著（p=0.0021）；与 Tucano2-qwen 原始率完全相同（各 17/184，但落在不同条目上，McNemar 得 p=1.000）。
• 原始启发式口径的错误被人工审计纠正：被判为「未拒答」的 6 条里，人工核查发现 4 条其实是换措辞的拒答、只有 1 条是真正的安全失败，因此真实有害顺从率是 1/218（0.46%）而不是启发式报的 6/218（2.8%）。
• 判官的隐性失效（4.5 节）：MT-Bench-PT 安全类别 6 条里有 2 条（safety_1、safety_2），判官（Claude）无论被评回答是什么都通过 API 的 stop_reason=refusal 拒绝打分，静默把该类别有效 N 从 6 降到 4；作者用 grep 回查项目全部历史评测报告，确认此前八份 MT-Bench-PT 结果都受影响，并在代码与已发布产物中补上每格 (n=X) 与逐模型判官拒评计数。
• 语料去污与算力归因：13-gram 精确重叠在 11 个评测基准共 15,026 条里命中 73 条（0.49%），在对齐工作自身用到的基准上为零；人工审计把 73 条分为法条样板 26 条、历年 ENEM/OAB/BLUEX 试题经备考网站间接收录 23 条、文化/文学巧合 5 条、真正的数据重叠 19 条。算力上以 Chinchilla 最优点与 6ND 估 FLOPs，Manacá 约为最优点 1.2 倍，而 Tucano2-qwen 继承的预训练算力约为 Manacá 的 849 倍，作者据此把通用能力差距归因于预训练规模而非对齐方法。

12. 双盲标注尼泊尔语基准：三分类 0.877，五分制 Claude 比最强编码器高 0.116

• 标注一致性：在两名标注者都给出极性标签的 4,943 句上，五分制标签完全相同只有 49.5%，未加权 κ=0.289、序数 Krippendorff α=0.625，但给出相反极性仅 2.4%。
• 三分类 macro-F1：修正 tokenizer 的 NepBERTa 为 0.877、IndicBERTv2 为 0.867，最好的 TF-IDF 基线为 0.766；三个商用零样本 LLM 为 0.882–0.896，其中最高的 Claude Opus 5.5 相对 NepBERTa 的优势（+0.019，95% CI [−0.015, 0.051]）不显著。
• 五分制宽松口径：Claude Opus 5.5 为 0.838，高于 NepBERTa 的 0.721（+0.116，95% CI [0.036, 0.187]）与 IndicBERTv2 的 0.734（+0.104）；严格口径下 Claude 为 0.750，而编码器最高不超过 0.640。
• tokenizer 修复的效果方向取决于预训练归一化：三个尼泊尔语 BERT 的默认 tokenizer 会删掉 44.5%–44.6% 的合并符号，只让 35.1%–36.8% 的词完整进入模型；恢复符号后 NepBERTa 的三分类 macro-F1 提高 0.084（95% CI [0.057, 0.115]）、Rajan 的检查点提高 0.049，而 Shushant 的检查点下降 0.095（95% CI [−0.131, −0.063]）；MLM 探针（掩码 15% 的 token、600 句）能预判每个方向，NepBERTa 在保留符号时 top-1 准确率 0.518、剥离后 0.205，Shushant 恰好相反（0.650 对 0.071）。 46

五、技能、工具与自进化

1. SkillGrain：把用户反馈拆成可迁移原子规则，三个基座平均分 81.96 / 84.02 / 87.29，各超最强基线 1.61 / 1.13 / 1.32 分

• 五项写作任务（Topic Writing、Yelp、Email 为域内，Product Review、Abstract 为域外）上，三个基座的平均分分别为 81.96（Qwen2.5-3B-Instruct）、84.02（Qwen3-1.7B）、87.29（Qwen3-4B），对应比各自最强基线高 1.61、1.13、1.32 分（表 1）。
• 消融里跌幅最大的两处：去掉原子化后平均分降到 78.93 / 82.22 / 85.23，去掉技能更新侧的强化学习后降到 79.33 / 81.56 / 84.15（表 2）。
• 迁移到训练时未见的四类写作偏好（40 组留出请求对）上，规则遵守率 82.5 / 72.5 / 82.5，Rule-RL 为 80.0 / 72.5 / 77.5，Outcome-RL 为 72.5 / 65.0 / 77.5（表 3）。
• 独立判官（GPT-6 Luna）在 Qwen2.5-3B 上对 200 条抽样测试实例打分：SkillGrain 76.44、Rule-RL 75.16、Outcome-RL 73.44（表 7）。
• 原子抽取与可迁移原子选择精度，在 Qwen3-4B 上分别为域内 94.54% 与 89.81%、域外 90.30% 与 81.80%（表 6）；训练开销 1.8 小时（Qwen3-4B、四张 H100），与 Rule-RL 的 1.7 小时同量级（表 8）。47

2. 社会支架决定自进化多智能体成败：GAIA 上最佳结构 74.2，超过单独进化的强智能体 49.2

• 只靠进化很少有用：在 27 个 MAS 配置里，相对进化前（Pre）最多只提升 4.3 分的情况有 23 个，11 个不升反降，17 个低于用同一机制单独进化的强智能体；大提升主要出现在全体强模型的团队（13.8–16.7 分）（§5）。48
• 合适的相互依赖结构让进化开始有回报：27 个配置里有 24 个优于只靠进化，最佳组合在每个基准、每种机制上都超过单独进化的强智能体，最多 +25.0 分（在 GAIA 这一以网页检索为主的通用助手基准上、用 SkillOpt 时为 74.2 对 49.2）（§5）。48
• 哪种结构有效取决于队里是谁：LoCoBench（长上下文代码库理解基准）只有弱模型的团队在竞争下崩到 22.6（协同最好，Meta-Team 59.3、SkillOpt 54.9）；OfficeQA Pro（文档数值问答基准）里弱模型单独只有 2.7 分，最好的混合团队也只有 21.5，仍低于强模型单独的 28.5，作者给出的解释是「近零成员无法被结构救回」（Table 4）。48
• 收益机理来自组织方式而不是更大算力：竞争把主席位交给得分最高的强角色 web_agent 后，GAIA weakstrong 的 LLM 调用降到 19.4 次（单独强智能体 22.6 次）；LoCoBench weakstrong 里弱读者分担阅读把超时率从 12.8% 降到 5.4%，而只有强模型的团队（onlystrong）里协同反而把调用从 80.0 抬到 107.3 并低于 Pre（Table 5、§6.2）。48
• 团队养出队长：留在主席位的智能体在 GAIA 上解出 35 个（任务, rollout）对是同一模型单独进化时解不出的（反向只有 5 个），LoCoBench 为 46 对 8；GAIA 上单独强智能体的 4 个候选技能都没通过 L1 门控，队内的 web_agent 通过了 2 个（Table 6）。48
• 门控与评测口径：L3 门控在固定 20 道验证题上用单侧二项检验，α=0.3（作者说明重跑同一团队会让约三分之一验证题结果改变，故放宽），只在「明显变差」时回滚整批改动；每轮最多保留 2 个角色增删与 2 个补丁包；评测基准为 GAIA（n=120）、LoCoBench（每个条件 297 个会话）、OfficeQA Pro，最终评测报 avg@3（同一进化团队评测三次的平均成功率）并给标准差（§3.1.4、Table 5）。48

3. AtomSearch：LiveMathematicianBench 超 SkillOpt 9.68 个百分点，SkillOpt 技能长 2.3–19.7 倍

• 四个任务（NDR 自建安全任务、SpreadsheetBench、SearchQA、LiveMathematicianBench）乘五个目标模型：deepseek-v4-flash 上四取三胜 SkillOpt，其中 LiveMathematicianBench 为 52.42% 对 42.74%（+9.68 个百分点），NDR 为 71.00% 对 65.00%（表 1）。 49
• 其余目标模型：GPT-5.2 也是四取三胜（NDR 72.00 对 66.00）；Qwen3.6-35B-A3B 四个任务全胜；Qwen3.5-4B 两胜一平；GPT-5.5 两胜两负（表 1）。 49
• 技能更短：deepseek-v4-flash 下四个基准上 SkillOpt 最终技能的字符数是 AtomSearch 的 2.3–19.7 倍（第 4.5 节）。 49
• 验证到测试的增益比（测试增益除以验证增益）在六个可比对照里都更高，中位数 124%，SkillOpt 为 82%（表 2）。 49
• 非短视搜索：30 次完整搜索里有 20 次（67%）最优验证状态经过一个同层并非最高分的祖先；NDR 一例中局部更弱的 node 4 分支最终到达最好的 node 20（第 4.4 节）。 49
• 组件消融（SpreadsheetBench + deepseek-v4-flash）：Base 68.93%、技能 16,536 字符；只加对比式原子编辑是 75.71%、2,352 字符；再加树搜索 77.14%；加结果记忆 78.21%（表 3）。 49

4. MMLA-RSI：RTT 改策略、RTMA 改记忆，四候选程序选择的组件实验期望误差降 24.65/36.65 点

• 四候选程序选择（在给定的 4 个候选程序里选，不是自由生成）：保留反馈更新使期望误差下降 24.65 与 36.65 个百分点（分别对应静态与适配后的两种初始化）；同信息量的直接规则误差为 29.302% / 24.611%，support-loss 选择规则为 0.78125%。该结果来自 16 个参数组、3 个配对训练种子，最终审计未开启（表 3）。50
• 按时间的 CI（持续集成）仓库回放：反馈绑定指标 G=−0.05337（相对 sham 有帮助），而状态保留指标 D=+0.14969（有害）；half-Brier 损失（半 Brier 评分，越低越好）从 0.12744 升到 0.18081，对照系统 HEDGE4 为 0.10243。队列为 1 个 NumPy commit 加 71 个 pandas commit，三种子均值只作描述。50
• SParC 交互任务：整交互成功率 18.42%，冻结的六提议基线 20.18%，配对增益 −1.75 个点（97.5% 区间 [−4.39, 0.88]），严格前缀读取任务增益为零。50
• CoSQL 纠错迁移：最终查询成功率 46.965%，冻结基线 47.944%，配对增益 −0.979 个点（97.5% 区间 [−4.247, 1.759]），两臂都没通过各自的在线 Φ 要求；copy-edit、retrieval、search 三条规则分别达 1.824%、5.348%、0.961%。50

5. MolLean：8,800 条化学任务上全轨迹修订在 12 项任务全部胜出，最多提升 48.2 个百分点

• 主对比用 Qwen3.6-27B，覆盖同一批 8,800 条样例、12 项任务：9 项 S2-Bench 任务（分子生成、编辑与优化类）各 500 条，USPTO-50k（公开化学反应数据集）的正合成与逆合成各 500 条，以及完整的 ChEBI-20（分子与文本描述配对的公开测试集）3,300 条；无效答案与失败的尝试都留在分母里（§3.1）。51
• Refine 相对直接 CoT 在全部 12 项任务上都有提升，幅度 12.0–48.2 个百分点（按各任务的二值成功判定）：原子计数 +46.8、键计数 +48.2、添加组分 +44.2；Refine 减 CoT 的配对 bootstrap 区间在每项任务上都排除零（§3.2、Table 1/2）。51
• One-pass 已在 12 项中的 11 项超过 CoT，但正反应预测例外：One-pass 23.6% 低于 CoT 的 35.0%，Refine 把它提到 62.8%（§3.2）。51
• 两种接口互补、按任务分工：MCP 在反应类任务最好（正反应 66.4%、逆合成 27.4%，Refine 为 62.8% 与 20.8%）；Refine 在原子计数（88.8% 对 82.6%）、键计数（69.0% 对 56.2%）、QED（药物相似性评分）优化（59.0 对 49.4 的加权分）与 ChEBI-20（33.1% 对 23.5%）上领先（§3.4）。51
• 轨迹「健全性」（soundness，轨迹被内核接受的比例）与答题正确率是两件事：MCP 在正反应上达 98.6%、逆合成 98.0%，接受不等于答对（§3.3、Table 2）。51
• 修订的收益很早就到位：正反应准确率在 k=2 次修订时为 58.0%、k=8 时 62.8%，添加组分在 k=2 就到 100.0%；且恢复多于损失——正反应恢复 207 条、损失 11 条，逆合成 48/2，ChEBI-20 290/33（§3.2）。51
• 小模型同样受益：Qwen3-4B 上原子计数从 CoT 的 15.8 到 One-pass 39.6、Refine 56.8（Table 3）。51

6. AdaRSI：只微调不可靠子步骤，RoboCasa365 未见复合任务成功率 4.6%→13.8%，GPU 时间仅 28%

• RoboCasa365 全部 50 个目标任务（18 个 Atomic-Seen + 16 个 Composite-Seen + 16 个 Composite-Unseen，每任务 50 个场景，执行器为 GR00T N1.5，全程无人类演示）：套件级成功率 AdaRSI 48.8%，VLA 单独 42.4%，Agent + harness 46.7%；未见复合任务从 4.6% 升到 13.8%，Atomic-Seen 75.4%→79.7%，Composite-Seen 43.0%→49.0%（表 1）。52
• 层级归因：只让智能体调用 VLA（Agent + VLA）并不稳定提升，Atomic-Seen 反而从 75.4% 掉到 72.2%；harness 开发把三个套件都拉起，Atomic-Seen 到 78.3%，Composite-Unseen 翻倍到 9.9%；权重轮再给 Composite-Unseen 加 3.9 个点，而 Atomic-Seen、Composite-Seen 只加 1.4 与 1.0 个点。52
• 该改哪里的证据（表 3）：Composite-Unseen 上用到 32/38 个已训策略、85% 训练时间花在被用到的策略上；已见套件上大部分训练策略从不被调用（Atomic-Seen 12/72、Composite-Seen 8/34）。全量微调（Always train）用 104/118 个策略、3,411 GPU 分钟，是 AdaRSI 966 GPU 分钟的 3.5 倍；与「每个子步骤都微调」相比，AdaRSI 成功率略高而 GPU 时间只用 28%、自采演示只用 22%。52
• 同状态配对测试：执行器 π0 在 18 个厨房里一次都没打开微波炉门，微调策略打开 7 次、平均开启度从 0.01 升到 0.61；而对 π0 本就会做的动作（如把羊角包或果酱放到砧板）微调反而降低成功率。52
• 是否保留智能体在环：把 AdaRSI 最终的 procedure 与策略冻结成固定程序（还额外提供特权状态）只有 6.9% 成功率，AdaRSI 为 13.8%；WaffleReheat 从 38% 掉到 4%、WashFruitColander 从 58% 掉到 28%，但在程序本就固定的 CuttingToolSelection 上固定程序 40% 反而略高于 36%。52

7. 多智能体处方系统 PRISMATIC：零交互率 98.20%、消融去掉安全检查降至 78.98%

• 在 MIMIC-IV Note 与 Hosp 合并数据（按慢病数与用药数用 K-means 分低/中/高三档）上，完整数据集上以 GPT-4o 为基座的 PRISMATIC 得到零交互率 ZIR（完全无药物相互作用的处方占比）98.20%、重叠率 OR 56.81%、精确匹配 EM 13.58%；ZIR 最好一档（DeepSeek-R1 基座）99.20%（表 2）。 53
• 消融研究（GPT-4o，表 3）：去掉 SC，ZIR 从 98.20% 掉到 78.98%；去掉 PR，OR 从 56.81% 掉到 44.13%；去掉 DFPC，EM 从 13.58% 掉到 7.42%；去掉 DSWA，EM 掉到 8.56%。 53
• DSWA 的权重演化（图 5，每 500 例一轮）显示 Dosage 与 Coverage 权重上升、Duplication 下降，安全相关的 DDI 与 DPI 权重保持高位。 53
• 绝对 EM 只有 13.58%，作者归因于三类误差：漏掉辅助用药、等效药之间的次优选择、无法利用书面记录之外的隐含临床语境。 53

六、轨迹、信用分配与训练信号

1. CAFT：批评＋修正双目标在 8 个设定上平均超只用修正动作 8.4%，WebShop 最差档 31.6→58.9

• 在 4 个学生模型（Nemotron 3 Nano 4B、Gemma 4 E2B/E4B/31B）× 2 个代理域（τ²-Bench 的 Airline+Retail，记 τ² AR；WebShop）共 8 个设定上，CAFT 全部高于仅动作蒸馏（Action Distillation），平均高出 8.4%（Table 1、§3.2）；8 个设定中基线与动作蒸馏都最低的一档是 WebShop 的 Nemotron 3 Nano 4B（Base 24.3%），其上仅动作蒸馏 31.6%、CAFT 58.9%。54
• 归一化到同一训练目标后，只训批评的 CAFT-Critique 在所有学生–环境对上高于只训修正动作的 CAFT-Correction，平均高出 5.0%，最大差距出现在 WebShop 的 Nemotron 3 Nano 4B（54.8 对 37.1）（Table 1、§3.2）。54
• 消融专家提示的两类帮助：去掉特权任务信息使成功率平均掉 7.5%，而把详细指导换成最小提示、只要特权信息仍在，性能基本保住（Table 2、§3.3）。54
• 与专家轨迹蒸馏对比：专家模型 Gemma 4 31B 本身在 τ² AR 与 WebShop 上分别为 65.1% 与 53.1%，但蒸馏其轨迹在 WebShop 上塌到 15.0–19.1%，低于全部学生基线（24.3–43.1%）；50% 专家轨迹 + 50% CAFT 数据的 CAFT+BC 在 τ² AR 的 Gemma 4 E2B 上反而最高（53.7%）（Table 3、§3.4）。54
• 第二轮迭代在 WebShop 上让每个学生平均再涨 5.3%（Nemotron 3 Nano 4B 涨 10.9%），在 τ² AR 上只有两个小 Gemma 学生小幅提升，Nemotron 已饱和（Table 4、§3.5）。54
• 以 CAFT 检查点做强化学习（RL，reinforcement learning）热身，用 GRPO（Group Relative Policy Optimization，分组相对策略优化）在 τ² AR 上跑 300 步时比基线初始化与专家蒸馏初始化高出约 5%，且约 60 步就追平基线初始化跑满 300 步的最好验证成绩（Figure 2、§3.6）。54

2. 高熵边界分叉 + 段级信用：GSM8K 90.4 对 JustGRPO 89.6，生成 token 少 18.75%–27.83%

• 表 1（生成长度 256）：ForkGRPO 在 GSM8K / MATH-500 / HumanEval / MBPP 上为 90.4 / 46.6 / 51.8 / 49.0，直接可比的 JustGRPO（LoRA）为 89.6 / 46.0 / 50.6 / 48.6。55
• 采样预算：表 5 与 4.4 节给出新生成 token 数 5912–6656（JustGRPO 为 4096），但训练更新 100 步对 200 步，归一化后总预算落在 0.7217–0.8125，即少生成 18.75%–27.83% 的 token。55
• 组件消融（表 2，GSM8K，10 次更新 × 5 个种子，均值 ± 样本标准差）：ForkGRPO 90.31±0.06，仅组信用 89.69±0.21，仅段信用 89.45±0.29，无分叉的 JustGRPO 88.81±0.53。55
• 分叉位置选择（表 3）：「熵 + 文本边界」90.31±0.06 优于只按最大熵（89.67±0.16）、只按随机边界（89.25±0.21）与固定中心（89.10±0.33）。55
• 分配策略（表 4，固定 K+M 共 32 条打分响应）：K=3 个分叉态、每态 8 条的最好（90.31±0.06），K=0/M=32 为 89.14±0.38，K=7/M=4 为 89.93±0.11。55
• ForkGRPO-fast 用自适应 rollout（先 4 条 pilot，奖励有差异才扩到 8 条）加稀疏分支重放，训练墙钟时间加速 2.49×（摘要），GSM8K 仍保持 90.3（表 1）。55

3. 选择性检索强化学习：IdiomKB Zh→En 的 I5（1–5 分习语评委分）从 0.652 升到 0.731

• 主实验骨架为 Qwen2.5-7B-Instruct，默认检索器 top-k=1，最多 5 轮交互；数据为 IdiomKB（Zh→En 训练 8K／测试 500，En→Zh 4.6K／500）、RAGtrans（En→Zh 74.5K／2K，En→De 85.2K／2K）、Document-MT-LLM（En→Ru 字幕 5.5K／500，唯一用在线搜索引擎、无预置语料的设定）（§4.1）。 8
• IdiomKB Zh→En：SRAT 的 I5（Idiom-Judge-5，习语翻译专项 LLM 评委分：由 IdiomKB 原三级评委 I3 扩出的五级量表，1–5 分、越高越好，原文报数在 0–1 区间，并充当该方法在 IdiomKB 上的 LLM 评委奖励项）0.731、MQM（Multidimensional Quality Metrics，多维质量指标的错误分，越接近 0 越好）−2.74，对照 Direct（不推理不检索）为 0.652 与 −3.94；与同句 MQM 的关系：I5 只判习语喻义翻得对不对、分数越高越好，MQM 记通用翻译错误、越接近 0 越好，两者同为 Claude Sonnet 4.6 评委给出；学到的检索率为 30.6%（Table 1）。 8
• 其余设定的检索率由策略自己定出来：IdiomKB En→Zh 77.0%（I5 0.792、MQM −1.85），RAGtrans En→Zh 52.2%（COMET 0.888、MQM −4.58），En→De 43.0%（MQM −5.98），Document-MT-LLM 在线检索 88.6%（Tables 1、2、5）。 8
• 相对「永远检索」对照 SRAT-A，SRAT 的 MQM 在两个 IdiomKB 方向提升 20.6% 与 17.4%，RAGtrans 为 8.0–12.8%，Document-MT-LLM 为 5.4%；检索率跨设定从 30.6% 到 88.6%，说明策略学的不是固定检索偏好（§4.2）。 8
• 检索器对齐只在相似度不够用时才划算：RAGtrans 默认相似度检索器的检索准确率仅 56.3%（En→Zh）与 72.6%（En→De），对比训练抬到 70.7% 与 81.4%，MQM 相应提升 6.8% 与 7.4%；IdiomKB 上默认检索器已约 95%，训练只到 97–98%，下游收益有限（§4.3）。 8
• 对比训练优于联合训练：RAGtrans En→Zh 的 MQM 从 −4.41 到 −4.27，En→De 从 −5.89 到 −5.54；作者归因于轨迹奖励要摊到很多 token 决策而检索动作只有少数，检索器信用分配方差大（§4.3）。 8
• 黑盒翻译器：冻结 Claude Sonnet 4.6、只训 Qwen 策略决定何时与检索什么，SRAT-Claude 在 RAGtrans 上把 MQM 相对直接翻译提升 12.4%（En→Zh）与 16.8%（En→De），En→Zh BLEU 61.10 对 53.54；而直接提示 Claude 自己决定检索（Claude-Ret）反而变差（IdiomKB Zh→En 的 COMET 0.826→0.821、MQM −0.92→−0.99）（Table 4、§4.4）。 8

4. HICO-Bench + PaCPO：Qwen3-8B 可验证成功率 20.4%→28.3%，36% 高分对话计划失败

• 基准规模与题型：180 个配对场景、6 个协调族（资源分配、授权、有界数量、共同排期、共享资源排期、集合同意），划分 96 训练/24 开发/60 测试；每个角色在每个世界分别评测得到 240 个测试任务。 56
• 对话分数与可验证结果背离：13 个模型的可验证成功率从 20.42% 到 82.50%；合并统计里 Goal ≥ 8/10 的对话有 36%（35.99%，即 1,010/2,806）未通过验证。 56
• PaCPO（Paired-Credit Policy Optimization，配对信用策略优化）在同一终局奖励与同等对话数下把 Qwen3-8B 从 20.42% 提到 28.33%，高于 PPO 的 25.00% 与 GRPO 的 26.25%；PaCPO 与 GRPO 的 Feasibility 相同，增益来自 Integrity（表 3）。 56
• 机制：每轮之后在场外问智能体「如果现在结束会记下什么计划」，把两个世界的试探计划互相检查，只在「差异条件已披露」时开门给配对信用，再用势能式奖励重塑把终局奖励分摊到具体轮次，且不改变每条对话的总回报。 56
• 消融（240 测试任务）：把另一世界的计划换成同世界第二个计划、或把信用位置打乱，可验证成功率都降到 26.25%；提前开门（不等差异条件披露）降到 25.83%，为最大降幅；完整方法 28.33%（表 5）。 56
• 族间差异大：相对 Base，增益最大的是有界数量 +22.50 个百分点与授权 +10.00 个百分点，资源分配三个方法都停在 17.5%，两个排期族仍难（第 5.3 节）。 56
• 迁移与自博弈：自博弈三次重复下 PaCPO 平均 28.33%，比 Base 高 6.39、比 PPO 高 1.11；在 154 条 MultiWOZ 与 86 条 CaSiNo 上分别小幅提升通信（81.17% 对 79.87%）与议价（归一化 Nash 49.37% 对 45.86%）（表 4）。 56

5. Stage2 只选 10% 高惊奇度根节点，把 KD 的 Macro 交叉熵收益再提高 48.85%

• 主对比（表 1，OLMo2-1B 学生续训约 10B token）：Train 后 Macro 交叉熵比 KD 低 2.87×10⁻⁴（Stage1）与 2.29×10⁻⁴（Stage2），折算成「相对 KD 超出下一 token 训练的收益」为 4.65% 与 27.69%。57
• 根节点覆盖度：Stage2 里只保留学生惊奇度最高的 10% 根节点（Top10）时，最终 Macro 交叉熵 2.531635，对照 KD 的 2.532039，超出 KD 的收益比例为 48.85%；而 Stage1 用同样的 Top10 反而低于 KD，为 −5.22%。57
• 根节点打分规则（表 2，50% 覆盖度）：按学生惊奇度选根，Macro「超出 KD」为 36.18%，优于按教师优势（教师观测 token 概率减学生概率）选的 29.07%。57
• 去掉与语料路径重合的分支损失后，全部语料上仍优于 KD（表 2 的 Drop coincident 为 44.37/26.58/34.80/37.80，四个数对应 C4/PG-19/Pile/Macro），说明非重合的学生诱导状态本身有用。57
• 增加深度或宽度：PA2（两步顺序采样）与 dual PA1（同根两条独立分支）在 1B token 续训后把 Macro 交叉熵再降 4.38×10⁻⁴ 与 4.56×10⁻⁴，Stage1 的「超出 KD」从 28.99% 升到 40.47% 与 40.94%。57

6. FACES：非补偿门控奖励融合 + 推理段对齐的 token 级信用分配，cap-15 下 MLLM 均分 3.61→4.04

• 在长度控制协议（cap-15，即把响应前缀截断到最多 15 词）下，MESC-FT 测试集上 MLLM 逐点均分从基线 FIRES 的 3.61 升到 4.04（共情 3.06→3.98、多模态适配 3.88→4.03、上下文一致性 3.89→4.11）。58
• 同一协议下的盲对偏好：450 个测试实例中 FACES 胜 361、FIRES 胜 53、平 36，胜率 80.22%（排除平局的双侧符号检验 p<0.001）；三个标注员在相同 450 例上给出的人评胜率 75.3%（Fleiss κ=0.62）。58
• 换判官不复现不了这个结论：独立模型族 GLM-4.6V-Flash 在 cap-15 下给 FACES 84.9% 胜率（排除平局后 93.4%）。58
• 同骨干、同 SFT 初始化、同提示下，DPO 3.62、SimPO 3.77、RLOO 3.83，均低于 FACES 的 4.04——增益不是「随便换个对齐目标」就能拿到。58
• 消融：去掉细粒度信用分配退化最大（METEOR 20.62→18.59、BERTScore-F1 87.14→86.02、DIFF-EPITOME 0.3643→0.4902）；去掉非补偿门控次之；去掉多源奖励会换回更高的 BLEU-2/ROUGE-L（9.68→10.46、21.09→22.31）但语义与多样性指标下降，正是「表层重叠指标方向相反」的直接证据。58
• 成本要说清：100 个稳定 GRPO 步下 FACES 用 42.2 墙钟小时 / 84.4 GPU 小时，FIRES 17.2 / 34.4，即 2.45 倍；部署时（不用奖励模型）延迟 15.828±2.820 s 对 13.752±2.145 s，输出更长（184.7 对 128.9 token）。58
• 奖励本身可信度有量化：三提示平均把判官维度的 ICC 从 0.74–0.79 提到 0.90–0.92，门控奖励与人评总质量 ρ=0.72（p<0.001）。58

7. VASPO：特权价值估计加自教师调制，六项数学基准均值比 PPO 高 2.59 / 1.81 个点

• 六项数学基准（AIME24、AIME25、AIME26、HMMT25 用 avg@32，Minerva 与 OlympiadBench 用 avg@8）的平均分：Qwen3-4B-Instruct-2507 上 VASPO 53.17、DAPO 51.59、PPO 50.58、Vanilla 49.76、OPSD 34.80，即比 PPO 高 2.59 个点；OLMo3-7B-Instruct-DPO 上 VASPO 33.42、RLSD 32.47、DAPO 32.26、PPO 31.61，即比 PPO 高 1.81 个点（表 1）。
• 逻辑推理：Knights and Knaves（avg@16）上 VASPO 平均 60.81 最高，其后为 RLSD 60.34、DAPO 59.88、PPO 59.19、Vanilla 58.30（表 2）。
• 消融（表 3，数学均值 / Knights and Knaves 均值）：去掉特权 critic 退化最狠，从 56.28 / 60.81 掉到 35.59 / 23.30（该变体等于退回 OPSD）；去掉 token 级掩码为 54.95 / 59.60，去掉 critic 预更新为 55.00 / 58.84，把解法降级为只给答案为 54.59 / 58.91，两支 reader 全去掉为 53.50 / 59.19，额外叠加优势白化为 54.41 / 58.24。
• 融合强度：概率比截断宽度取默认 0.2 时的最终 AIME 准确率高于关掉调制（0）与放宽到 0.5。
• 价值诊断：在冻结 actor 的固定续写上，注入解法的 critic 解释方差（EV，被价值预测解释的回报方差比例）最高、Brier 误差最低，但 ECE（期望校准误差）并非最好，说明点估计变好不等于校准变好。59

8. 2M 样本、同一份 rubric 兼作过滤器与奖励：PrismaCoder-9B 的 DesignBench 生成分 70.51

• PrismaCoder-2M 共 2M 样本，跨越 12 个以上类别与 10 种编程语言，最大单类是视觉侧的 WebUI 生成 357.1K（占 17.8%），其次是图表转代码 196.5K、图像转 SVG 181.0K。
• 视觉侧：PrismaCoder-9B 在 DesignBench 生成任务上的 LLM Score 为 70.51，高于 GPT-4o 的 58.48 与 Claude Sonnet 4.6 的 67.99；其在 WebCode2M 的 CLIP 视觉分为 90.41，与 Gemini 3 Flash 相同；35B 在 ChartMimic 上低层 83.42、高层 80.69，化学结构 Tanimoto 相似度 97.56 为表内最高，UniSVG 有效性 100.00%。
• 文字侧：PrismaCoder-35B 在 PandasPlotBench 的错误代码率 9.29%（越低越好），而 Gemini 3 Flash 为 3.43%、PrismaCoder-9B 为 10.29%；ArtifactsBench 总体 46.01，高于所有开源基线与 GPT-4o 的 33.54；在 VisPlotBench 的 Mean 上比最好的开源基线高 11.02 分。
• 数据侧消融：把同一个数据池按两种方式各取等量子集微调同一个 Qwen3.5-9B，用 rubric 过滤的子集在每一项基准上都优于用单一整体打分过滤的子集，Vega-Lite 上差距最大（论文表述为最多 24 分）。
• 强化学习的数据选择不用难度标签，而用 rubric 分的组内方差 U_i 挑「策略有时成功、有时失败」的指令：每个域先留出 20K 中等或困难候选，用 5 次 rollout 打分后保留 U_i 最大的 5K 条，从而以更低的 rollout 成本集中在策略能力边界上。60

9. 结构保留的文档级增广：标签迁移胜过 LLM 重标，中文摘要 BLEU 0.276 对 0.165

• 中文摘要语料（Inp+Con+Aug，即输入+对照+增广三类数据合并训练）：本方法 BLEU 0.276 / ROUGE-L 0.400，LLM 重标（Summary Relabeling）0.165 / 0.291，标准 RST 解析器 UniRST 0.174 / 0.282。61
• Newsroom：加入增广把 Inp 的 BLEU 从 0.634 提到 0.775，把 Inp+Con 的 0.686 提到 0.780。61
• IndoSum：Inp+Con+Aug 四项指标全部最好，BLEU 从 Inp+Con 的 0.757 升到 0.782，ROUGE-L 从 0.782 升到 0.799。61
• 抽取式问答：SQuAD 上 Inp+Con+Aug 得 EM 0.731 / F1 0.779，同样配置下 LLM 重标只有 0.370 / 0.515；JaQuAD 上 Inp+Aug 的 EM 最高 0.688，Inp+Con+Aug 的 F1 最高 0.811。61
• 修辞关系不是装饰：去掉关系标签（w/o Relation）后三个数据集全线下降——中文 0.240 BLEU / 0.362 ROUGE-L（全方法 0.276 / 0.400），Newsroom 0.618（全方法 0.780），SQuAD EM 0.570（全方法 0.731）。61
• 只允许相邻句作先行语（Adjacent-only）在 SQuAD 上 EM 0.573 / F1 0.591，F1 反而低于去掉关系的 0.615，说明「局部修辞标签 + 自由先行语选择」两者都需要。61
• 标签迁移有效性经人工抽检：中文摘要 100 条中 96 条有效，SQuAD 100 条中 89 条有效；语篇关系跨语言核验（中/英/印尼/日各 100 对句对）准确率 81% / 78% / 71% / 74%；四语各 50 条（共 200 条）的增广质量人评为流畅 4.11、连贯 3.93、语篇结构保留 3.86（满分 5），81.5% 保留了主要修辞关系。61
• 增益不只属于生成模型：判别式问答模型同样受益，RoBERTa 从 0.633/0.775 升到 0.653/0.795，ELECTRA 从 0.624/0.775 升到 0.659/0.798（EM/F1）。61

七、自蒸馏、后训练与能力保持

1. LALM 后训练增益多来自文本捷径：MMAU 准确率增益 +14.8 点、静音 +11.2 点，去选项后剩 +2.3 点

• 音频增益 ΔAcc^a（后训练模型在标准即含音频的评测下相对基座的准确率提升）与静音增益 ΔAcc^s（把音频换成等长静音后仍保留的准确率提升）高度同步，单位都是 MMAU／MMAR 准确率的百分点：Qwen2-Audio-7B-Instruct 上 GRPO 的 MMAU 音频增益 +14.8 点，静音条件下仍有 +11.2 点；同一模型在 MMAR 音频增益 +7.2 点、静音增益 +4.9 点。反向也成立：静音增益接近零的配置（Qwen2.5-Omni-3B 上的 RFT）音频增益只有 0.9%。6
• 训练期音频也非必需：把全部训练音频换成静音后，Qwen2-Audio-7B 的 GRPO 在 MMAU 上仍保留约一半增益（14.8 降到 7.6 点），MMAR 保留更少且方差更大。6
• 增益几乎不跨题型：开放式评测下 Qwen2-Audio-7B 上 GRPO 与 VCRL 的 MMAU 音频增益从 +14.8、+12.4 点掉到 +2.3、+2.1 点，GRPO 的静音增益从 +11.2 点掉到 +0.8 点；开源模型同样骤降（Audio-Reasoner 的音频增益从 +20.5 点掉到 +1.3 点；R1-AQA 从 +23.4 点掉到 −0.9 点）。把训练也改成开放式（消除训练／评测格式不匹配）并未恢复增益：开放式 GRPO 的 MMAU 音频增益只有 +2.0 点。6
• 一部分增益来自学会遵守多选格式：Qwen2-Audio-7B 在 MMAU 上给出选项外答案的比例从 17.2% 降到 7.6%（GRPO 后），而错误选项比例只从 37.6% 降到 32.4%；Qwen2.5-Omni-3B 的选项外比例从 7.5% 降到 2.0%。6
• 训练与评测设置：12,267 条多选题音频 QA（7,129 个片段、17.4 小时，来自 AudioSet、Medley-solos-DB、DailyTalk），分为 10,446 条训练与 1,821 条域内留出；四种后训练方法（SFT、RFT、GRPO、VCRL）共用 200 步 LoRA 配方与同一奖励，两个基座模型、三个随机种子；评测 MMAU test-mini 与 MMAR 各 1,000 题。6

2. INTACT：冻结主干上前置 16 个潜向量，GSM8K 75.8%→79.3%，每题时延 4,180→3,386 ms

• 主表（表 1，数学训练集 GSM8K-Aug 即 GSM8K 的增强版，768 token 生成长度上限，精度取 3 个编码器种子的均值）：Llama-3.2-3B 的 GSM8K 从冻结的 75.8% 升到第一段 77.9%、第二段 79.3%，域外（SVAMP、GSM-Hard、MultiArith 的宏平均）从 66.5% 到 69.1%、68.8%；Llama-3.1-8B 从 72.3% 升到 83.7%、83.6%，域外从 53.9% 升到 71.1%、72.1%；Qwen2.5-3B 从 77.6% 到 78.0%、79.7%，域外 74.6%→75.0%→75.1%；1B 上第一段在 GSM8K 几乎持平（44.2% 对 44.0%），域外提升 3.5 个点。
• 与同时更新主干的方法对比（表 2）：1B 规模 INTACT 低于 Aug-SFT（48.7/54.5 对 61.6/60.5）；到 3B 反超，比最强的已发表潜推理基线高 9.3 与 4.7 个点，比 Aug-SFT 高 7.8 与 6.7 个点；8B 与 Qwen2.5-3B 上对 Aug-SFT 的优势继续（83.6/72.1 对 74.2/67.0；79.7/75.1 对 74.8/69.5）。相对冻结主干的增益在 8B 上为 GSM8K 提高 11.3 个点、Qwen2.5-3B 上 2.1 个点。用原生对话模板评测时 8B 冻结模型升到 78.4%，仍低于 INTACT 两个阶段。
• 效率：Llama-3.2-3B 以 211 个位置达到 79.3% 精度，冻结模型是 261 个位置对应 75.8%；8B 的生成 token 从冻结的 754 降到第一段 269、第二段 182。端到端时延在完整 GSM8K 测试集、单卡 H100 NVL、batch size 1 下从每题 4,180 ms 降到 3,386 ms，即降低 19%（已含潜前缀构造成本 127.5 ms）；解码成本反而从 16.03 升到 16.67 ms/token，靠少生成 65 个 token 抵消。
• 多域泛化（表 6，Llama-Nemotron 混合语料训练一次，只训 Llama-3.2-3B-Instruct，2,048 token 上限，12 个留出基准的宏平均）：数学 68.8%→70.4%→71.1%、科学 57.4%→69.1%→73.6%、常识 42.6%→49.3%→61.6%；单训练常量的「固定前缀」对照在第二段只有 70.9%/64.6%/48.5%，说明增益不是学到了一段通用提示。单基准最大提升是 ARC-Challenge 的 22.5 个点与 HellaSwag 的 23.8 个点；与允许改主干的 Nemo-SFT 相比，科学低 1.0 个点、数学低 2.5 个点、常识高 6.2 个点。

3. 自蒸馏现实检验：10 种方法与 GRPO 在四个基准上对比，132 次训练无一种方法稳定胜出

• 规模：132 次训练运行、合计记录 12,124.4 H800 GPU 小时；对预训练基座与全部 11 个训练后模型都用 8 个 rollout 种子重复评测。5
• 结论一：相对 GRPO 的增益范围有限，没有任何一种方法在所有设置下稳定优于 GRPO。5
• 结论二：最终表现好可能掩盖训练不稳定。5
• 结论三：增加的训练成本没有稳定转化为更好的表现。5

4. RDD 把多条 CoT 蒸馏成隐式分布：S=6 预算下 pass@512 六基准全胜点值基线，MATH500 达 43.4

• 主结果（GPT-2-0.1B、GSM8K-Aug 训练、理由预算 S=6，单元格为 pass@512 / pass@1）：RDD 在六个基准的 pass@512 上全部超过同预算的点值基线，高级数学三项为 TAL 44.4、MATH500 43.4、Gaokao23 31.5，对照 CODI 33.5／30.7／21.1、PCCoT 38.9／35.6／17.5、MUX 37.1／38.0／28.3（Table 1）。63
• 但 pass@1 并不占优：MUX 在 MATH500 的 pass@1 为 2.2，RDD 为 1.5；LOTUS 在 GSM8K 的 pass@1 为 49.6，RDD 为 40.5；文本 CoT 参照为 89.5／47.5（Table 1）。63
• 与分布式基线相比：蒙特卡洛 dropout 的 CODI_(MCD) 在六基准上都低于 RDD（如 GSM8K 65.0 对 78.6）；随机化权重的 CoT_(SST) 在算术三项领先，但平均理由位置数远高于其它方法（Table 2、§4.1）。63
• 多路径监督的作用：同一套多条正确 CoT 监督下，点值式的 CODI 在算术三项平均 pass@512 从 52.3 微降到 52.0，但在高级数学三项从 28.4 升到 37.0；RDD 用同样监督在两组上分别达到 54.7 与 39.8（Table 3、§4.2）。63
• 消融（GPT-2-0.1B，算术三项／高级三项平均 pass@512）：去掉 mixup 为 52.6／36.2，λ∼Beta(2,2) 为 54.7／39.8；双向注意力 52.1／38.5 低于因果注意力 54.7／39.8；函数评估次数 NFE=3 的 pass@512 与 NFE=6 相当而流程评估减半（Table 5）。63
• 对齐性探针：在 10,000 组（问题、两条步数与长度对齐的正确理由）上，用原理由得 100% 准确率、查询内中点插值得 99.99%、把其中一条换成别的问题的理由则掉到 44.33%，支持只在同问题内插值的做法（§4.2、Appendix B.3）。63

5. DAGFormer：全局拓扑预测让 WikiText-2 NLL 低 0.18–0.29，1B/5B token 胜 1B/10B

• 在 75M、150M、300M、1B 四档匹配 OLMo-2 对上（相同主干、数据、token 预算与优化器），WikiText-2 的负对数似然 NLL 比 vanilla Transformer 低 0.18–0.29，即困惑度低 17%–25%（表 1）。 64
• 1B DAGFormer 用 5B token 训练的损失低于 1B vanilla 用 10B token 训练的损失（约同等训练算力），在 WikiText-2、MathInstruct、GSM8K 上一致（第 4.1 节）。 64
• 与四个同数据同预算的路由基线相比，DAGFormer 在 75M、300M、1B 取得最低困惑度；150M 上 MUDDFormer 低 0.04 nats（表 1）。 64
• 下游与指令微调一致领先：13 个任务的平均准确率在 300M 与 1B 上高 2.0–2.5 分，比最强路由基线高 0.7–0.8 分；AlpacaEval 对 vanilla 的胜率 0.63–0.70，高于所有路由基线（表 2、表 3）。 64
• 结构化剪枝（在 MathInstruct 域微调期间按一阶 Taylor 重要性逐步移除注意力头与 MLP 通道，路由器从不剪）中：50% 稀疏度下 DAGFormer 在每个规模降幅都最小，70% 下在 150M 与 300M 最小，六个设定里五个降幅最小（表 5）。 64
• 消融显示增益主要来自预测器：只看 token 的预测器单独就恢复约 90% 的增益，加细化项后在所有留出集上最好；换成逐层独立预测器只能恢复不到 80%，且多 7M 参数（第 4.2 节）。 64

6. 23 个方向均分 4.60：14B 学生用在线策略蒸馏追平 4.63 的 GPT-5.5

• 表 2（23 个官方方向，1–5 分绝对评分，指令遵循与翻译质量分开打分）：本系统总均分 4.60、整体通过率 87.7%，对照 GPT-5.5 与 Qwen3.7-Max-Think 同为 4.63（通过率 88.7% 与 88.9%），Gemini-3.1-Pro 4.59。65
• 分维度：本系统指令遵循 4.49（通过率 83.4%），与 GPT-5.5 的 4.49/83.4% 持平；翻译质量 4.71（92.0%）高于 Gemini-3.1-Pro 的 4.70（91.1%）。65
• 累积消融（表 4）：未适配的 Qwen3-14B 在指令型翻译 prompt 下指令遵循只有 1.14（通过率 0.6%），CPT+SFT 后升到 4.08（69.5%）；在线 M2PO 主要抬翻译质量（4.23→4.55）；OPD 把指令遵循从 4.13 提到 4.38（通过率 76.8%→82.1%）；后处理再提到 4.49（83.4%）。65
• 后处理的代价很小：在 en-zh_CN 上只改动了 945 条假设中的 31 条（3.3%），其中 7 条做确定性代码围栏修复、24 条经两轮复核后选择性重写。65
• 3.3 节的逐方向结果指出两个弱区互不重合：指令遵循最差的是 en→et 3.77、en→ru 3.97、en→cs 3.99、en→de 4.29（这些也是最大的测试集）；翻译质量最低的是 en→se 4.12、en→lld 4.24 等低资源新方向。65

7. 改成原子事实条件合成：源事实覆盖率由 77.0% 提到 85.1%，7B 的 PopQA 23.06%→29.80%

• 语料规模：源为约 6.7M 篇 FineWiki 文章，抽到 312.7M 条原子事实（34.9% 来自散文、29.2% 来自表格或信息框、19.6% 来自数值属性、16.3% 来自列表），合成 142M 条样本；在 500 篇文章的作者核对子集上抽取精确率 94.1%、召回 87.6%，列表与表格事实的召回 82.4%，对照单遍非结构感知抽取器的 48.7%（§4.4）。 66
• 主结果（各方法统一 20B token 继续预训练预算）：7B 上 Base 的 SimpleQA / SimpleQA Verified / PopQA / HotpotQA 为 3.63 / 3.95 / 23.06 / 27.78，AFCS 为 5.63 / 6.17 / 29.80 / 29.82，优于 WRAP（3.99 / 4.22 / 25.74 / 27.08）与 Nemotron-CC（3.99 / 4.16 / 26.42 / 27.40）（Table 2）。 66
• 32B 上同一排序保持：AFCS 9.11 / 9.08 / 37.22 / 35.40，对照 WRAP 7.10 / 7.20 / 32.46 / 35.07、Nemotron-CC 6.82 / 7.24 / 33.01 / 34.60、Base 5.94 / 5.78 / 29.17 / 34.50（Table 2）。 66
• 数据侧诊断：源事实显式覆盖率 AFCS 85.1%，对照 WRAP 73.0%、Nemotron-CC 77.0%；细分上列表与表格 82.3% 对 72.9% / 78.8%，次要实体 83.6% 对 73.4% / 79.9%，细粒度时间 80.8% 对 72.5% / 78.1%（Table 3）。 66
• 粒度消融说明条件单元本身重要：同一模型与预算下，事实级 5.63 / 6.17 / 29.80 / 29.82 高于块级 4.21 / 4.80 / 27.43 / 28.94、段级 4.52 / 5.10 / 26.35 / 27.61，也高于只给规范主谓值三元组的实体级 3.85 / 4.30 / 25.10 / 27.20，以及改编的 EntiGraph 3.91 / 4.56 / 23.53 / 26.56（Table 4）。 66
• 机制对照指向「覆盖更广加每个事实多次呈现」：把每条事实的问答实现限为一条降到 4.90 / 5.55 / 25.72 / 28.22，只保留一半事实降到 4.77 / 5.52 / 24.84 / 27.60，去掉源事实校验只有小幅变化（5.49 / 6.00 / 29.77 / 29.60）（Table 4）。 66

8. 多语 BabyLM：混合训练在 15 个配对配置全胜课程训练，荷兰语主导 60/20/20 拿 46.67

• 顺序维度：混合训练在全部 15 个配对的语言主导配置上多语平均都高于课程训练；差距在高主导度下更大但非单调，例如 80/10/10 上英语主导高出 3.29 分、荷兰语主导高出 2.66 分。英语主导 80/10/10 时，混合训练的荷兰语与中文平均分为 46.59 与 44.42，课程训练只有 40.81 与 40.19。67
• 分布维度：均衡 33/33/33 混合训练的多语平均为 46.23，但并非最优；荷兰语主导的五档全部高于它，最高为 60/20/20 的 46.67（全实验最佳，作者记为高出 0.44 分）；英语主导在 80/10/10 达 46.51；中文主导只在 50/25/25 与 60/20/20 略高于均衡（最高 46.33）。到 90/5/5 时只剩荷兰语主导仍高于均衡。67
• 同语言数据比例与同语言零样本分数的线性趋势（R² 为决定系数）：0.504（英语）、0.502（荷兰语）、0.516（中文）；微调侧关系弱得多（英语 0.369、荷兰语 0.367、中文 0.140），三种语言整体平均的 R² 为英语 0.451、荷兰语 0.483、中文 0.276。67

9. 碰撞率相对降 12.8% 与 10.8%：把未被占据的语义方向当作生成目标

• 五个手工主题上，相对碰撞率（Collision，集合内两两嵌入余弦相似度的均值）平均相对下降 12.8%；90 个 INFINITY-CHAT 查询（一组真实开放问题的集合）上从 0.7766 降到 0.6915，平均相对下降 10.8%，单查询最大降幅 20.5%，并且 90 个查询里有 88 个的最佳句子通过新颖性阈值（97.8%）。
• 方向选择消融说明产品目标只在方向分数上占优：GapScore 0.375、需求度单独 0.298、可辩护度单独 −0.228；但碰撞率降幅是可辩护度单独最大（11.5%），随机方向的新颖性通过率最高（100%），完整方法只有 84%。
• 换已有内容来源时各设置仍下降（8.8%–12.7%，均值 10.4%），四模型混合来源下从 0.602 降到 0.561（7.4%）；换写句模型时 GPT-4o-mini 为 9.0%、GPT-4o 为 11.6%、Claude-Sonnet-4.5 为 14.8%。
• 小规模合成数据增广：在 100 条训练样本、40 条真实测试样本的设置下，GapScore 把碰撞率从累积基线的 0.324 降到 0.298、Vendi Score（一种基于余弦 Gram 矩阵特征值的谱多样性度量）从 27.16 升到 29.20，但准确率 62.5% 对 60.0%，作者明确说这相当于 40 条测试样本里只多对了一个，不足以谈统计可靠。68

10. 多语言 MoE：32 个专家把 12→200 语言的损失惩罚压低 83%，但均值恢复时只有 36% 的原语言不掉分

• 留出配置上的预测 RMSE（表 1）：感知重复的联合律均值 0.03319，优于只给活跃参数的 ATLAS 基线（0.09511）与改用每语言 token 的 JointMoE 基线（0.04617），即分别低 65% 与 28%；只用核心联合律为 0.05067。在 1.15B 活跃参数、21.23B 总参数、32 专家、200 语言、68.7B token 的压力测试上，核心律（0.31586）反而不如被评基线，加入重复项后降到 0.17298。
• 覆盖代价随专家数下降（RQ1）：同样保持 N、E 与每语言训练 token 数，从 12 种语言扩到 200 种时，12 个共有语言的平均损失惩罚从 E=1 的 0.0796 降到 E=4 的 0.0648、E=16 的 0.0321、E=32 的 0.0135，即专家从 1 增到 32 把惩罚压低 83%；换用别的 12 语言组合，降幅在 76.6–93.3%。
• 分配随覆盖变化（RQ2）：在 0.4B 总参数预算下，首选配置从 92.8M 活跃参数 + 16 专家切到 190.3M + 4 专家，切换点从 1.70×10^18 FLOPs（12 语言）推到 2.75×10^18（200 语言），延后 1.62 倍；5.1B 预算下 E=32→16 的切换点从 4.51×10^19（K=1）推到 1.22×10^20（K=200），延后 2.70 倍。
• 能力保持口径（RQ3）：从 50 语言的参考模型（2×10^18 FLOPs 训练）扩到 200 语言，恢复到原 50 语言平均损失需要 1.92 倍计算量，但此时只有 36% 的原语言持平或更好，另有 32 种语言变差；要 50 种语言全部不掉，需要 2.32 倍计算量；而「每语言训练 token 数对齐」只需约 1.75 倍。 69

八、TTS 合成、可控性与语音交互

1. Revise-TTS：HBQ 替换 FSQ 并做重叠细化，Seed-zh WER 1.19% 但相似度更低

• 同一码本规模 2^16 下，HBQ [2^2]^8 在三个测试集上全面优于 FSQ [4]^8：LibriSpeech-PC 的 SIM 0.427 对 0.290、WER 1.86 对 2.07、UTMOS 4.15 对 4.04；Seed-TTS en 0.406 对 0.270、5.06 对 5.93、3.99 对 3.71；Seed-TTS zh 0.576 对 0.514、1.83 对 2.60、2.78 对 2.36（Table 1）。
• 主模型（16×A100、250k 步、推理 32 次细化）在 Seed-TTS zh 上 WER 1.19%，为 Table 5 各系统中最低之一；UTMOS 在三个测试集上都略高于真值（LibriSpeech-PC 4.03 对 4.01、Seed-en 3.60 对 3.52、Seed-zh 2.80 对 2.78），但说话人相似度大幅落后（0.519 / 0.532 / 0.645，对真值 0.690 / 0.734 / 0.755）。
• 主观评价（以真值为 0 的 CMOS）：英语集 −0.34±1.67、普通话集 −0.63±1.88，与 F5-TTS（英语 −0.30）和 MaskGCT（英语 −0.21、普通话 −0.37）相当；OmniVoice 为正（+0.28、+0.13）（Table 5）。
• 把 GRN 作为通用替代接到 Higgs 上做同样 100k 步微调，反而略差于掩码解码：LibriSpeech-PC 的 SIM 0.646 对 0.689、WER 1.80 对 1.81；官方 OmniVoice 检查点最强（0.697 / 1.57）（Table 4）。
• 码本重建（Table 3）：官方 XCodec 2.0 + FSQ 在 LibriSpeech-PC 上 SIM 0.781 / WER 3.08，换成 HBQ 后为 0.764 / 3.60，落后于 Higgs（0.877 / 2.33），作者归因于官方 XCodec 2.0 训练数据与步数更多。70

2. 无训练长文本 TTS：把注意力窗口从 625 缩到 375 并给声学提示加 b=1.5 偏置，整体 WER 从 8.63% 降到 3.58%

• 基线退化：在 LibriSpeech-Long dev-clean（281 条录音、15.89 小时）上，VoXtream2 的 10 秒窗口 WER（词错误率）从首窗口 2.74% 升到 40–50 秒的 11.23%；同期 SPK-SIM（说话人相似度，生成语音与声学提示的 ECAPA-TDNN 嵌入余弦相似度）从 0.760 降到 0.695。
• 位置而非重置：W 取 400、625、900 时，每帧音素推进率在位置 600 之前约 0.8，靠近位置 625 时分别升到该速率的 1.9 倍与 2.6 倍；W=900 时生成长度只有真值的 70%，删除错误从 W=625 的 0.7% 增到 16.6%。
• 提示不可缺：在 30 秒后屏蔽对声学提示键的注意力（仍保留生成历史缓存），接下来 10 秒窗口的 SPK-SIM 从 0.73 掉到 0.23，此后一直低于 0.25。
• 整体对比（表 1）：本文方法把 WER 从 8.63% 降到 3.58%、SPK-SIM 从 0.659 提到 0.759，MOS（5 点量表平均意见分）4.03±0.09 与原模型 4.03±0.08 持平，接近 Mimi 编解码重建上界 4.10±0.07。
• 窗口与偏置消融（表 2）：W=500 与 W=375 时 WER 为 5.42 与 4.82，再降到 W=250 反而升到 6.51；在 W=375 下常数偏置 b 取 0.5、1.0、1.5、2.0 时 WER 为 4.01、3.65、3.58、3.65，SPK-SIM 为 0.721、0.744、0.759、0.766；自适应方案 SpotLight 的最好 WER 为 3.69，但 SPK-SIM 只到 0.692。最终取 W=375、b=1.5，实时率 RTF 仅从 0.415 升到 0.433（RTX 3090）。7

3. 多人话轮基准：话轮结束召回 92.6% 而成功打断只剩 56.2%

• 语料构成：240 段对话共 6.89 小时，48 段开发、192 段测试，含 3,422 个 EOT 正例与 241 个「中途停顿」硬负例，367 个 INT 正例与 1,481 个非夺话负例。
• 离线系统：12 个系统先在开发集上取满足假正率不高于 0.10 的阈值再冻结跑测试，EOT 召回 82.5–92.6% 时假正率只有 4.3–11.8%，但合格工作点上的 INT 召回最高仅 56.2%；VAP 的 EOT 召回 92.6%、假正率 7.5%，INT 召回只有 11.7%。
• 声学检测器给不出可用的选择性：Silero VAD 的 EOT 召回 97.2% 但假正率 93.5%，INT 召回 85.4% 但假正率 89.2%；延迟上 VAP 的 EOT p50 为 143 毫秒，Kyutai SVAD 为 1,829 毫秒，两者召回几乎相同。
• 智能体行为：五个全双工智能体在 120 个交互场景各重复三次，其中四个的「开始说话」平衡准确率为 86.1–95.8%，但五者的「让出话语权」平衡准确率都只有 46.9–54.7%（置信区间覆盖随机水平）；Gemini-3.8-Live 对 97.7% 的附和声都让位，MiniCPM-o-4.5 则忽略 98.6% 的真实打断。 10

4. -6 dB 下 WER 0.378→0.224：Flow-GRPO 让合成语音随噪声强度自适应

• 表 I 与附录表 V（Seed-TTS test-zh，四种噪声平均，−6 dB SNR）：WER 从基线 0.378（95% CI [0.372, 0.383]）降到 SFT-only 的 0.289（[0.285, 0.294]），再到 NIL-TTS 的 0.224（[0.219, 0.228]）；同条件 ESTOI 为 0.246 → 0.279 → 0.298。71
• 主观盲听（ITU-T P.807，12 名听者、360 条普通话片段、Babble 噪声）：识别率在 0 dB 从 0.690 升到 0.824、−3 dB 从 0.549 到 0.723、−6 dB 从 0.367 到 0.598；配对 t 检验对基线在所有 SNR 上 p<0.001。71
• 消融定位（图 4）：只做 Flow-GRPO 而没有噪声条件（RL-only）相比基线只有边际提升，完整模型在所有 SNR 上都优于它（0 dB p=0.018，−3 dB 与 −6 dB p<0.001）；对 SFT-only 在 0 dB 无统计差异（p=0.368），但在 −3 dB（p=0.012）与 −6 dB（p=0.027）上更好。71
• 训练旋钮（5-D 节的超参消融）：KL 系数取 0 的整体可懂度最好（0.01 与 0.1 只在个别 SNR 上 WER 略低）；rollout 的 NFE 取 32（与推理一致）优于 8 与 16；扩散系数 a=0.4 优于 0.2 与 0.6。71
• 开销（5-C 节）：NIL-TTS 参数 382M、RTF 0.27，对比 vanilla F5-TTS 的 336M、RTF 0.26；对照 MetaVoice-1B Lomb 为 1.2B、RTF 3.04，F5-TTS-Style Lomb 为 387M、RTF 0.27。71

5. 675 种语言、30,202 小时语音：单语 TTS 宏 CER 16.98 低于真值录音 21.07

• 语料规模：共 30,202 小时、675 种语言，跨 78 个语系；人工标注子集 ELARSpeech-L 为 2,791 小时、443 种语言，无标注子集 ELARSpeech-U 为 27,412 小时、665 种语言；259 种语言不在现有多语模型的公开覆盖内，53 种在 ISO 639-3 标准中没有代码。
• ASR：微调 Whisper-large-v3 在 30 个 pivot（枢纽）语言中的 18 个上得到最低 CER（字符错误率），宏平均 CER 22.48；把 233 种语言联合训练的多语模型宏平均 CER 反而升到 30.71，只在 1 个语言上优于单语模型。
• 伪标注扩展：用按语言的置信度分位切点筛选 ELARSpeech-U，ASR 可达最多 6.1% 的相对 CER 下降，但保留全部伪标注数据不如中等置信度过滤。
• TTS：按信噪比与 C50 均高于 20 dB 过滤后，在 14 个数据量不少于 5 小时的语言上，OmniVoice 单语宏平均 CER 16.98、MOS（平均主观评分，由 36 名非母语听者评）3.42，多语版本 CER 17.78、MOS 3.55；而真值录音的宏平均 CER 为 21.07、MOS 3.88。
• 表征分析：按 ML-SUPERB 协议在 10 分钟与 1 小时两种监督预算下评测五个多语自监督模型，10 分钟单语 ASR 的 CER 在 ML-SUPERB 上分布在 30.3–41.0（相对差 26.1%），在 ELARSpeech 上压缩到 51.9–53.8（相对差 3.5%），原有基准上的相对优势大半消失。 72

6. 长提示零样本 TTS：37 位说话人、63.95 小时提示，韵律增益约 10 分钟饱和；中文 CER 1.03 优于逐说话人微调的 1.78

• 基准规模：LP-TTS-Bench 含 17 位中文与 20 位英文说话人共 37 位、63.95 小时提示、3,559 条验证与 2,728 条测试话语，每位说话人有 57–80 条长于 5 秒的留出测试句（2.1 节） 73
• 与短提示基线和逐说话人微调对比（表 1）：中文 WER／CER（错误率，越低越好）为 Qwen3TTS-Base（10 秒提示）0.73、Qwen3TTS-SFT 1.78、LPTTS 1.03；英文为 1.32、1.93、1.64 73
• 不微调也超过逐说话人微调：LPTTS 在两种语言上各于八项韵律指标中的六项数值优于 Qwen3TTS-SFT，且不需要为 37 位说话人各存一个检查点（4.2 节、表 1） 73
• 主观 P-MOS（1–5 分，与匹配的真实录音比韵律相似度）：中文 LPTTS 3.529、Qwen3TTS-SFT 3.471、Qwen3TTS-Base 2.941；英文 3.533、3.267、3.133（表 1） 73
• 提示时长的作用：把同一个 LPTTS 检查点的提示从 30 秒加到 30 分钟，语速、重音、语调与 MPM-SIM 类指标整体改善，通常在约 10 分钟达到最好值，之后不再单调上升；SIM-O（说话人相似度）基本持平（图 3、4.3 节） 73
• 文本与韵律的关系（表 2）：文本更相似的语句其韵律也更接近，整体 Δ（相似组距离减随机组距离）为 −0.059，95% 置信区间 [−0.067, −0.053]，更接近的比例 62.6%，四类特征比较的 p 均小于 0.001 73

九、邻近跟踪：安全、对齐与合规

1. 低偏见分数≠更公平：70 个模型–语言对全部低于英语，题级相关从改写的 0.48 掉到翻译的 0.23

• 平均刻板印象分数（0.5 为无偏好）：英语 0.536、二值口径下 63% 的题目由刻板续写胜出；七个语言的平均分全部低于英语，降幅从西班牙语 0.007 到印地语 0.030（Table 1、§4.1）。74
• 噪声地板为 0.008；70 个模型–语言对中只有 28 对的降幅通过符号翻转置换检验（二值口径为 39 对），而 30 个改写英语对照没有一个通过（§4.1）。74
• 题级延续性：英语分数预测译后分数的相关为 0.23（判定为完整保留的翻译上 0.27），而预测改写英语分数的相关为 0.48；拟合斜率同样为 0.26 对 0.66；模型在改写版中做出与英语相同选择的比例为 65–74%，翻译版只有 54–63%，而无关联的期望值是 50–53%（§4.2、Figure 4）。74
• 分数不是被拉向中立：与 0.5 的平均距离在英语为 0.12、其它语言为 0.11–0.16；模型之间在译后条目上仍一致（同题分数相关 0.50 以上），且英语中偏刻板的题目被翻译后 23% 反向、32% 归中，而改写只带来 15% 与 16%（§4.2）。74
• 分语言验证可靠性：在印地语与西班牙语内部用另一模型改写同语言条目后，译后分数与其改写分数的相关为 0.84 与 0.82，高于同批条目从英语到改写的 0.69–0.75，也远高于从英语到译文的 0.16 与 0.46，说明弱延续性是跨语言造成的而非语言内测量不可靠（§4.2）。74
• 翻译质量不是成因：2,497 条翻译中 1,729 条（69%）判定为完整保留、748 条部分保留、20 条丢失；不完整翻译的降幅更大（0.033 对 0.018），但每条英语题只计一次时，仅用完整保留的翻译仍比改写多降 0.018（全量为 0.020），延续性也只从 0.23 升到 0.27（§4.3）。74
• 检验的灵敏度与三个隐蔽流水线错误：注入 0.06 的偏移 94% 能被发现、0.04 为 70%、0.02 只有 19%，34,800 次未偏移测试无假报警；把 StereoSet 标签读反会让结果变成「英语看起来反刻板（0.49）且无可靠降幅」的假零结果（§4.1、§5、Figure 1）。74

2. 三层攻击者访问下的 GraphRAG 证据受损：HotpotQA 答案 F1 由 52.3 降到 23.7

• 测试面（第 5.1 节）：HotpotQA-Distractor 7,405 题、MuSiQue 2,417 题、2WikiMultihopQA 1,000 题开发子集，配 3 个检索器（Contriever、BGE-large-en-v1.5、mxbai-embed-large）× 2 个生成设置（LLaMA3-8B、Qwen3-8B-Base），共 18 个设置；主指标为答案 F1 与支撑事实 F1，超参固定 T_max=5、相似度阈值 θ_sim=0.8、桥接三元组删除比例 α=5%。75
• 主结果（第 5.2 节）：HotpotQA-Distractor 配 Contriever 与 LLaMA3-8B 时，答案 F1 从干净 52.3 降到 BB Query 的 37.6、WB Query 的 26.2、Graph-aware WB 的 23.7；18 个设置中 WB Query 全部低于 BB Query。75
• 组件消融（第 5.3 节，BGE 与 LLaMA3-8B）：干净答案 F1 0.558、支撑事实检索 F1 0.383；BB Query 单独几乎不动检索 F1（0.379），叠加桥接三元组删除后降到 0.313，而仅删图（Graph-only）只从 0.383 降到 0.370。75
• 迁移（第 5.5 节）：在 PPR 与社区式两种证据选择机制下，Graph-aware WB 把答案 F1 分别从 50.12 降到 27.32、从 54.16 降到 29.65。75

3. Moral Combat：道德化改写把 AdvBench 越狱率推到 90%（Llama-4）、66%（GPT-4.1）

• AdvBench 子集上单次攻击的越狱成功率（JSR，Jailbreak Success Rate）：Llama-4-Maverick-17B 为 90%，GPT-4.1 为 66%；重复攻击（n=3）分别升到 98% 与 86%（Table 2）。
• 同表的对照方法（原文注明评测模型不同，不可直接对等比较）：PAP 单次 Llama-2 46%、GPT-3.5 66%；PAP 重复 Llama-2 68%、GPT-3.5 86%；DeepInception 的 Llama-2 42.8%、GPT-3.5 55.6%、GPT-4 41.6%、GPT-4o 46.4%（Table 2）。
• 把整个框架在一道题上跑 5 次，累积 JSR 收敛在 92%（GPT-4.1）到 100%（DeepSeek-V3.1、Llama-4、Grok-3）之间，即单次守住的提示在重复尝试下未必守得住（Figure 3、§5）。
• 5 个模型上 AdvBench 的 JSR 最高，其次 JailBreakBench，再次 HarmBench；GPT-4.1 最不脆弱、DeepSeek-V3.1 最脆弱（Figure 2、§5）。
• 判官校准：三名作者标注，拒答二分类的 Cohen's κ（一致性系数）=0.948，adequate 打分的 Spearman ρ（秩相关）=0.754；作为判官的模型里 GPT-4.1 与人工参考的 ρ=0.610，Phi-4 为 −0.082（p=.196，不显著）（Table 1）。
• 基准审计：用 32 题 MFQ（Moral Foundations Questionnaire）逐题重复 6 次测模型道德偏好，并发现既有安全基准在违反的道德基础上分布不均衡，集中在模型本来就偏的那几条（§5）。76

4. 道路安全规则的时空语义检查：单次规则判定远低于 1 毫秒

• 评测由两部分组成：一个依赖轨迹的案例研究，以及在交通密度 N、时间跨度 H、分支因子 B 三个轴上的可扩展性基准。 77
• 摘要称该框架给出分支特定的判定，从同一初始场景可以同时导出安全与不安全的结论，并且能在控制指令更新后重新评估该场景。 77
• 摘要称在报告的整个扫描范围内，单次规则检查都远低于 1 毫秒，且时间跨度更长时 TTC 检查会变慢。 77

5. 多轮价值对齐：反向施压 48 例中 39 例由模型基线偏向决定胜负

• 设计规模：3 个助手模型（Qwen3-14B、Llama-3.1-8B、Llama-3.1-70B）× 10 个场景（两个价值权衡各 5 个）× 7 个干预条件 × 4 种引导方法（只用于含助手引导的 4 个条件）= 570 个配置，每个重复 5 个种子；用户模型为 gemma4-31B，对话上限 T=10 轮。
• 无引导基线一致偏向：所有模型都更偏普遍主义（相对权力）与自主（相对安全），且朝自主的偏置强于朝普遍主义的偏置。
• 对抗条件下由模型基线偏向决定胜负：朝被偏爱一端施压的一方胜出，48 个情形中 39 个时间平均对齐（TE）为正，不论那一方是助手还是用户；例外分散在各方法之间。
• 平均效应会掩盖过程：自主↔安全权衡的 AaUb 条件下 SP 的平均 TE 显示助手占上风，但净漂移（ND，末轮减首轮）对 Qwen3-14B 为 −1.96、Llama-3.1-70B 为 −0.73，只有 Llama-3.1-8B 略正（0.29）；Qwen3-14B 的对齐值从首轮 2.10 掉到第 2 轮的 0.1–0.4 并维持，Llama-3.1-70B 从 1.13 缓降到 0.40。
• 只用用户施压时助手会跟随（可把普遍主义↔权力权衡的 TE 符号翻过来），但助手同向引导的增量很小：Qwen3-14B 与 Llama-3.1-8B 多数情形下与仅用户条件落在方法间波动范围内，Llama-3.1-70B 的 SP 与 ASP 是部分例外。
• 生成质量：SP 与 ASP 在所有条件下连贯性接近基线；CAA 与 SCAA 有方向性崩溃——朝「塌缩方向」引导时退化为重复循环直到 token 上限，朝另一方向则与基线相当。78

6. 推理引导翻译扩多语安全评测：7 个资源 × 11 种语言，结构覆盖率 99.94%，拒绝行为按语言翻转

• 结构覆盖率（表 3）：需要修复的两个子集共 6,820 个「条目-语言」对，修复后接受 6,816 对，总体 99.94%；其中 WildJailbreak 为 2,750/2,750（100.00%），WildChat 为 4,066/4,070（99.90%，余下 3 条孟加拉语与 1 条波兰语未解决） 79
• 修复过程：生产校验发现 978 条失败翻译，第一轮 GPT-4o 修复恢复 392 条，余 586 条，后续修复把剩余失败降到 4 条（第 5 节） 79
• 结构通过不等于真的翻译了：脚本感知的语言识别标出 274 个「条目-语言」对（占审核对的 1.2%）的评测字段仍是英文，其中 XSTest 占 179 对（为其 4,950 对的 3.6%）；跨家族模型判官认为 99.6% 的翻译保留了安全意图或数学内容（附录 A、第 5 节） 79
• 配置取舍：选定的 GPT-5-mini 配置中位延迟 10.9 秒／条，而 GPT-5.1 是 3.4 秒，但把整批翻译成本从约 145 美元降到 97 美元（第 5 节） 79
• 下游评测（两个开源 7–8B 模型，贪心解码）暴露方向相反的漏洞：Llama-3.1-8B 在英语外拒绝不足，其对 JBB（JailbreakBench）有害行为的拒绝率从 94.0% 降到土耳其语的 74.0%，StrongREJECT 分数从英语的 1.5 升到土耳其语的 8.0；Qwen2.5-7B 相反，对 XSTest 良性提示的过度拒绝从英语 6.4% 升到其他语言的 13.0–23.7%，且 11 个差值都显著；MATH-500 准确率在低资源语言最多下降 20（Llama-3.1-8B）与 15（Qwen2.5-7B）个百分点（第 5 节） 79

7. 波斯语仇恨言论 7 跳基准：1,200 条样本、8 个模型，严重度 macro F1 最高 50.7 低于一级分诊的 82.8

• 数据构成：共 1,200 条文本，来自以往工作的 348 条加本研究新采 852 条（用关键词在 X 上按发布时间过滤抓取并匿名化），一级分级的四个类别各 300 条。人类校验抽 100 条（每个类别 25 条）由两名母语标注者独立标注：分级与严重度一致性较高，叙事推断与影响评估这类开放式判断一致性较低；分歧由第一作者裁定。
• 评估设置：8 个模型，闭源为 Grok 4.6、GPT-5.2、o3、Claude Sonnet 4.6，开源为 DeepSeek R1、DeepSeek V3、Qwen3 30B A3B Thinking 2507 与 Qwen3 30B A3B Instruct 2507；全部 one-shot 提示、温度 0、top-p 1；第 2–6 跳只在参考标注为「有害」的实例上评测，保证同一套金标。
• 逐跳表现（表 3）：第 1 跳四分类宏平均 F1，Grok 4.6 最高 82.8，GPT-5.2 79.7、Sonnet 4.6 79.2、o3 77.8，开源里 DeepSeek R1 75.0 最好，Qwen3 Instruct 只有 48.0。第 2 跳目标群体宏 F1 从 Grok 的 65.6 到 Qwen3 Instruct 的 20.3，微 F1 与宏 F1 差距大，说明少数类别覆盖差。第 3 跳仇恨策略的「自适应 F1」（是否至少识别出一个策略）普遍很高（77.3–97.7），但宏 F1 差距极大。第 4 跳道德基础相对第 3 跳微 F1 与自适应 F1 对所有模型都下降，自适应 F1 仍有 71.2–89.8。第 5 跳证据抽取里策略理由最好、道德理由最难复现，BERTScore 一致高于 Jaccard。
• 严重度（表 4）：宏 F1（macro-F1，各类别等权的平均 F1）最高是 GPT-5.2 50.8 与 Grok 4.6 50.7，Sonnet 4.6 与 DeepSeek V3 为 43.5、43.9，DeepSeek R1 32.1、Qwen3 Think 27.9、Qwen3 Instruct 29.9；加权 Cohen's κ（κ 是校正随机一致的序数一致性系数）从 Grok 的 0.829 到 Qwen3 两版的 0.525。作为参照，第 1 跳同规模四分类的宏 F1 是 82.8，作者据此说明越靠后越难。
• 多跳是否有用：把第 1–6 跳的中间结果喂给严重度预测，相比一次性直接判断，「宏 F1 在 8 个模型中有 5 个提高，加权 κ 对全部模型都提高」——作者自己的解释是序数一致性上的收益比分类性能上的收益更稳定。
• 关联分析：出现「煽动暴力或伤害」策略的内容落在最高严重档的条件概率为 70%，「呼吁歧视或排斥」为 51%；用卡方检验加 Benjamini–Hochberg 校正后，六种策略中五种与严重度显著相关，只有「阴谋论」不显著。身份依据上，政治立场与「颠覆」道德框架的关联最强；校正后最强的效应量为伤害×个人身份（Cramér's V = 0.281，V 是类别关联强度的效应量）、伤害×组织/机构归属（0.273）、背叛×政治立场（0.271）。目标群体识别召回率上，移民与族群/宗教少数群体在 Grok、GPT-5.2、o3、Claude、DeepSeek R1 上超过 80%，而人权/媒体/学术活动人士对每个模型都低于 61%、对所有开源模型低于 50%。

十、邻近跟踪：评测口径、判官效度与领域评测

1. 回归式元评估：10 语言 4 维度 32 指标，校准后简单指标可与最强 LLM 判官相当

• 语料构成（表 1）：10 种语言 × 4 个评估维度（风格准确性、事实准确性、泄漏、可用性）＝ 40 个评估设置，共 10,038 条实例，每条两个候选改写、三名标注者按序数打分，并有一条二选一偏好。81
• 元评估规模：32 个指标跨字符串、嵌入、LLM 判官三类范式并含若干集成，用同一套 5 折交叉验证重复 5 次。81
• 原始相关口径（表 2）：最好指标平均 Spearman ρ=0.56，其中泄漏维度最高 ρ=0.76、风格维度最难 ρ=0.40；LLM 判官整体约 0.53–0.56。81
• 校准后（第 7.2 节）：风格维度上全指标集成 Ψ=0.78，接近最好单指标 LaBSE 或 Verbatim 的 Ψ=0.43 的两倍；事实与泄漏维度上字符串和嵌入类指标可与最强 LLM 判官相当。81
• 标注属性（第 7.2 节）：标注者间一致性（序数 Krippendorff α，泄漏 0.85、事实 0.79、风格 0.76、可用性 0.75）与归一化分数呈强负相关，Spearman ρ=−0.71。81

2. 138K 对齐、人类 F1 0.703：多摘要分级显著性评分把模型间一致性提到 0.716

• 模型间一致性上，摘要式明显更稳：GPT 与 Claude 的互相 F1 从直接提问零样本的 0.464 升到摘要零样本 0.716、摘要一样例 0.767，作者报告一样例优于零样本、摘要式优于直接提问（p<0.05）。
• 对人工金标（池化二值口径），最好的直接提问配置是 Claude 一样例、F1 0.517，而摘要零样本下最弱的 Qwen 也有 0.580；McNemar 检验显示摘要零样本 Qwen 显著优于基线一样例 Claude，χ²(1, N=3,571)=5.10、p=.024。摘要一样例 Claude 的 F1 0.709 已接近人类 0.703，作者称二者差异不显著。
• 换成逐个 EDU–摘要对的细粒度评测，人类仍领先：人类 F1 0.703、MAE 0.328、RMSE 0.798；调好的 Random Forest 集成 F1 0.622、MAE 0.431、RMSE 0.988。集成的改进有统计支持（对 Claude 零样本 χ²(1,N=17,855)=20.59、p<.001；对 Claude 一样例 14.61、p<.001），人类相对集成仍显著更好（χ²(1,N=8,585)=39.47、p<.001）。
• 分级口径还压小了模型间差距：直接提问下小模型 Qwen 与 Claude 差 27 分，摘要式下只差约 10 分；Qwen 一样例的 RMSE 为 0.973，低于 Claude 的 0.993 与集成的 0.988，但仍高于人类的 0.798，作者说明这是因为它的错误多是 1 分偏差（假阳性补偿假阴性），与它 F1 最差并不矛盾。82

3. 决策模型改名换序只改 2–8% 判定，但表格组织方式一变就有约三分之一的行判定翻转

• 原始写法下的性能（行分类 Macro-F1 / TabFact 准确率 / 异常检测 AUROC）：GPT-6 Luna Decisions 61.2、78.7、80.5，Kev-27B 55.2、88.8、81.2，Clef 58.4、85.0、74.7，Jev 52.1、89.7、74.6，对照 GPT-6 Luna 62.5、79.0、77.3（Table 3）。83
• 问题表述鲁棒性：重命名或重排选项只改变 Jev、Clef、Kev-27B 的 2–8% 判定，最多高出各自重发率 5.5 个百分点，Macro-F1 变化不超过 1.3 点；同样改写改变开源 LLM 的 14–30% 判定，最多损失 11.5 点（§4、Figure 3）。83
• 但 GPT-6 Luna Decisions 不具备同样的表述鲁棒性：反转选项顺序改变其 23% 的行分类、12% 的 TabFact 判定与 22% 的异常检测判定，且 92–100% 的翻转都倒向改到首位的选项（§4）。83
• 表格组织鲁棒性：至少一类表格改写会改变 Jev 33.8%、Clef 31.7%、Kev-27B 32.2%、GPT-6 Luna Decisions 39.6%、GPT-6 Luna 42.8%、Qwen3.8-27B 31.8%、Llama-3.3-70B 35.5% 的行分类判定，而开源模型重发同一请求只改 2–9% 的行（Table 5、§5）。83
• 置信度标记易变判定：决策模型的翻转 AUROC（AUROC，ROC 曲线下面积）为行分类 0.82–0.87、TabFact 0.81–0.90、异常检测 0.84–0.93，其中 GPT-6 Luna Decisions 三项最低；置信度最高的 25% 项目里只有 0.1–5% 会被某类表格改写翻转，而整体约三分之一会翻转（§6、Table 6）。83
• 把置信度当配额用：全体重问只让 Macro-F1 涨 2.0–6.4 点，但只重问最不自信的 25% 行（平均多一次请求）就回收 79–89% 的增益（决策模型）与 64–86%（LLM），随机挑行只回收 23–44%（§6、Figure 4）。83
• 成本对照：Jev 与 GPT-6 Luna Decisions 每次判定 0.08–0.11 秒，GPT-6 Luna 为 0.73–1.62 秒；百万次判定计费 Jev 为 10／38／16（行分类／TabFact／异常检测，美元），GPT-6 Luna 为 81／62／68（Table 4、§3）。83

4. 同一提示可反号：CoD 让 Phi 多答对 15 题、让 Qwen 少 32 题

• 开发面板（表 1、表 2）：5 个开源部署（Qwen 2.5 7B Instruct、Gemma 3 4B、Llama 3.2 3B Instruct、Mistral 7B、Phi-4 Mini Reasoning 3.8B）× 9 个策略 × 120 题 ＝ 5,400 条结果；CoD（Chain of Draft，要求极简中间步骤）使 Phi 多答对 15 题、使 Qwen 少 32 题。84
• 同分不同答（第 5 节）：Qwen 上 CoT 与 KSD 同为 88/120，但 KSD 救回 10 题、损害 10 题，共 20 题正确性改变而总准确率不变；5 个部署两两策略排序的平均 Spearman 相关仅 0.394（Gemma–Phi −0.139 到 Gemma–Llama 0.831）。84
• 统一预算的 MATH500（表 3）：6 个候选、3 个部署、500 题、统一 2,048 token 上限，6 候选 oracle 为 86.0%/84.8%/68.2%（Qwen/Gemma/Llama），分别高出最好固定策略 13.4/10.0/26.2 分。84
• 追加 60 题 × 2 部署 × 4 提示 × 2 预算 ＝ 960 个任务（第 6.2 节）：Phi 在 2,048 token 下从 37 提到 45 个匹配（+13.3 个百分点），Holm 校正后 p=.03125；换端点后结构化答案范围为 +20.0（p=.00293），人工复核的答案承诺仅 +6.7（p=.2891，未达显著）。84
• 答案阶段对照（表 7，同一 2,048 token 上限与预留 128 token）：完整提示 38 个匹配、简洁 41、完整加答案阶段 50、加警告 51，后两者在 24 项族内校正后显著优于完整。84

5. semCER：LLM 判官按五级分布给字符编辑计严重度，6,100 万条编辑上蒸馏学生偏差 0.04

• 规模：判官覆盖 7 个系统、25 个公开数据集、16 种语言，共 6,100 万条编辑（原文作 61 million，过滤后 229,395 行转写）。85
• 在整篇转写层面，归一化 CER 与读者评分的 Spearman ρ 为 0.93/0.90/0.76（英/越/中），semCER 为 0.89/0.87/0.76——总分上归一化 CER 不输，所以 semCER 的价值不在替代总分。85
• 在两者排序相左的偏好池上（英 173 / 越 163 / 中 146 对，平局算错），读者多数站 semCER：英语 0.71 对归一化 CER 的 0.58、中文 0.78 对 0.60（带星号表示显著），越南语 0.79 对 0.80 打平。85
• 差距最大的子集是「归一化不改判」的对子（normalization-proof pairs，英 22 / 越 30 / 中 30 对）：semCER 为 0.77/0.53/0.83，归一化 CER 为 0.09/0.50/0.47。85
• 读出方式本身有效：读判官的完整分布比只取最可能级别更能对齐读者（「给定众数级别后的严重度」在越南语与中文上仍提升）；只用判官标签的三类固定权重（OK/minor/critical）或整句一次打分，都显著不如 semCER。85
• 跨语言：加错一个附标/声调这类「最小错误」的代价随文字系统剧烈变化，从西班牙语近乎 0 到泰卢固语接近一个错字母；在有标记的 15 种语言上，「最小学错代价」与平均严重度的秩相关为 0.75（英语 0.26 到泰卢固语 0.74）。85
• 蒸馏可本地复算：把判官蒸馏成 Qwen3.5-0.8B-Base 学生（不改权重外发），与读者的相关为 0.79/0.63/0.80，判官为 0.81/0.66/0.82；在判官严重度相差 ≥0.5 级的编辑对上，十对里九对排序一致，逐编辑平均绝对偏差 0.04。85

6. 8 个 LLM 英／孟 XL-Sum 零样本摘要评测：判官给流畅度 4.78–5.00、忠实度只有 1.10–1.34

• 语言不同、头名不同：英语 ROUGE-1 最高是 GPT-5.6 Luna 的 24.12，孟加拉语 ROUGE-1 最高是 LLaMA 3.3 70B 的 16.23（表 2，0–100 分尺度） 86
• 孟加拉语 ROUGE-1 上 LLaMA 3.3 70B（16.23 ± 9.05）对 GPT-4o Mini（15.63 ± 8.27）的配对 t 检验 p=0.0067，5,000 次配对重采样的 bootstrap p=0.0070（表 3，N=1,012） 86
• 事实性头名与词面头名不是同一个模型：英文 SummEval F1 最高是 DeepSeek V4 Flash 的 63.45，孟加拉语 BanglaSummEval F1 最高是 Gemini 2.5 Flash 的 58.43；Gemini 3.1 Flash Lite 两种语言都最低（52.28 与 49.73） 86
• 判官六维里流畅度集中在 4.78–5.00、连贯性 4.22–4.82，而忠实度只有 1.10–1.34；英语在相关性（2.84–3.16 对 2.36–2.60）与完整性（3.26–3.54 对 2.40–2.73）上都高于孟加拉语（表 4，1–5 分） 86

7. 零样本 LLM 从姓名推族裔达 83.8%，高于补名 BISG 的 78.0%，并给出 agent 抽样核验流程

• 在佛罗里达与北卡的选民名册（每州分层抽 10,000 人，四类各 2,500）上，全名 + 地理的 Gemini 3.0 Flash 准确率 83.8%、BISG（贝叶斯改进姓氏地理编码，此处为补入名字的「name-supplemented」版本）78.0%；北卡为 83.5% 对 78.4%。87
• 不给地理信息时准确率几乎不变（佛州全名 82.8%，对全名 + 地理的 83.8%），而 BISG 在没有地理时根本无法估计——这是 LLM 相对既有方法的结构性优势。87
• 差异集中在少数族裔：Gemini 在两州正确识别的黑人选民都比补名 BISG 多约 15 个百分点，亚裔多 10–12 个百分点；白人则是 BISG 更高，拉美裔两者接近。87
• 记录链接：默认配置（密集 + 稀疏候选）在 7 个基准上平均检索召回 96.4%、平均 F1 85.2%，逐基准 F1 从职业任务 56.1、产品表连接 66.6 到 Wikipedia 99.6；作者报告在名字跨文字系统书写时优势最大。87
• 融合确实优于任何单个专家：北卡选民上一致性加权融合 97.8%，最强单专家（字符 n-gram）96.5%、最弱（Jaro-Winkler）91.6%。87
• 无标注的可迁移细节：若把阈值固定为「重排序器对首选候选的概率 ≥ 0.5」（不需要任何标注），EnsembleLink 平均只掉 1.5 个 F1 点。87
• Agent 核验：作者用带联网检索的 LLM agent（Claude Code）对抽样输出逐条核验，同时记录判定、理由与所引来源，称其不能完全替代人判，但可重复、能生成详细文档，且在本文样本规模下最多花几美元。87

8. DUALVIEW：5 项任务 8 个 LLM 上 Pearson 提升 18.4%，可训练参数只 5.1K–57.4K

• 汇总（5 个数据集、8 个 LLM 骨干、21 个输出目标、3 个训练种子）：DualView 的 Pearson 0.432、NRMSE（按训练集标准差归一化的 RMSE）0.873；第二强的有监督基线 GAT-AES 为 0.365 与 0.898，即 Pearson 提升 18.4%、NRMSE 降低 2.8%（Table 1）。
• 21 个目标里有 20 个做到最强，唯一打平的是 MSumBench 的 faithfulness（0.675）（§5.1、Figure 3）。
• 可训练参数 5.1K–57.4K，三个最强基线为 1.84M–20.98M，即多出 82–1842×（Table 2）。
• 与 few-shot 的 Gemini 3.1 Pro 相比（骨干换成 Gemma 4 31B）：Pearson 高 30.7%、NRMSE 低 19.8%；五数据集平均 Pearson 0.455 对 0.348（Table 3）。
• 消融：两种证据合并比最强的单视图（满秩 broad ridge）Pearson 高 11.3%、NRMSE 低 2.1%；交替联合拟合优于分离拟合+α 融合（Pearson 0.432 对 0.419）（Table 4、Table 5）。
• 训练数据效率：从 64 条训练样本起，在五个数据集的每个预算档上都不低于三个最强基线（§5.3、Figure 4）。
• 统计可靠性：对两项关键消融做了按 source group 配对的 bootstrap（5000 次重采样），DualView 相对满秩 broad ridge 的 ΔPearson 区间为 [0.0328, 0.0497]、ΔNRMSE 为 [0.0134, 0.0229]，均不含 0（附录 Table 20）。88

9. 两参数贝叶斯线索组合：4 个 VLM 上 OOD 预测偏好 R² 达 0.69–0.86，迁移无需重拟合

• 数据与模型：2,765 条冲突样本（DocVQA 文档图、VQAv2 自然照片、RealworldQA 真实场景），4 个 VLM（Qwen2.5-VL-3B、Qwen3.5-4B、Gemma3-4B、GLM-4.6V-Flash），6×6 的 (σ, p) 退化网格。
• 采用半分布（OOD，out-of-distribution，分布外）协议：只用 11 个边界格（至多一个模态被退化）拟合，在 25 个内部格（两个模态都被退化）上测试；两参数线性线索组合的 R² 为 0.852（Qwen2.5）、0.800（Qwen3.5）、0.692（Gemma3）、0.860（GLM-4.6V）（Table 1）。
• 与竞争解释对比：最强单探针（跟更自信的模态走）低 0.22–0.35 个 R²，无权重校准朴素贝叶斯低 0.14–0.32 个；再加双线性交互项最多只涨 0.001、放宽成无约束线性最多涨 0.017，说明加性组合规则够用（Table 1、§4.3）。
• 迁移：把 text noise × blur 上拟合的权重不重拟合、直接用到 relevance × occlusion 网格，R² 仍有 0.785–0.832（Table 2）。
• 「盲信文本」被重述为证据强度问题：例如 Qwen2.5-VL 在 VQAv2 上 β_T/β_V 为 1.449［1.375, 1.514］，而 Qwen3.5-4B 为 0.563［0.539, 0.626］，即模型可以在行为上跟着文本走，却在拟合里给视觉证据更高权重（Table 3）。89

10. 法哲学推理基准 LePhilBench：220 份意见、9,240 条标注，法理画像总体 +11.74 点

• 无画像（No Profile）时 LLM 的答案 90.88% 落在法院意见一侧（即多数派）；给出画像后，平均法院意见准确率下降 7.94 点、异议准确率上升 31.42 点、总体准确率提升 11.74 点（表 3）——画像把答案从「回忆多数立场」拉向「按画像推理」。 90
• 人—人 Fleiss κ（三名标注者间一致性系数）=0.474；LLM—人 pairwise agreement 与人之保持一致：人一致率最高（76.4%–81.2%）的五个维度 Q4、Q5、Q7、Q9、Q14 也是 LLM 一致率最高（75.3%–78.9%）的五个（图 2）。 90
• 不一致类型里 Uncertain（标注者给 A/B 而模型给 C）是多数模型的最大类；人类共识越低，模型越常选 C（图 3、图 4）。 90
• 画像聚合方法中 Exponential Decay 的平均增益最高；纳入「排他性加入者」（exclusive joiner，只加入该意见、未另写或加入本案其它实体意见的法官）的历史，对 Mean、Exponential Decay、Random Walk 三种聚合均有小幅提升。 90

11. AgriJev：一次前向的候选打分在 17 个外部视图上均值 75.44%，9B 中位延迟 93.80 ms

• 17 个外部视图的均值（表 2）：AgriJev-9B 为 75.44%，原生 Qwen3.5 生成式作答为 69.54%，同规模 SFT 生成为 71.65%，差 5.89 与 3.79 个百分点（「计算于四舍五入之前」）；AgriJev-9B 在 13 个视图上超过原生生成、11 个视图上超过 SFT 生成。
• 其他规模的均值差更小：2B 为 59.19%（比其 SFT 高 0.27 个百分点）、4B 为 70.47%（高 0.57）、0.8B 为 53.55%（比 SFT 的 53.62% 低 0.07）。
• 任务级反转：CROP 视图上 9B 的 SFT 生成 93.02% 高于 AgriJev-9B 的 91.10%；同族里 AgriJev-4B 的 CROP 91.75% 也高于 9B 的 91.10%。
• 延迟（32 条 BIO 文本、27 个候选、A100 40GB、batch 1）：AgriJev 在 0.8B/2B/4B/9B 的中位数为 42.96/41.90/60.93/93.80 ms，原生生成为 124.04/125.17/161.79/181.24 ms，比值 1.93–2.99；9B 的 SFT 生成为 189.16 ms，相对 AgriJev 的比值 2.02。
• 输出合法性：SeedBench 3-2 视图上两个生成式基线在 808 次决策中分别吐出 113 与 236 个非法编码（仍计入分母）；即使把所有非法答案都当作正确做上界估计，原生生成也只从 69.54% 升到 71.02%、SFT 从 71.65% 升到 74.15%，仍低于 AgriJev 的 75.44%。 91

12. 多模态机器遗忘基准 GEMMU：139 个真实概念，共享超参下 KL Min 与 RMU 胜负翻转

• 在 GEMMU 上重评 9 种方法后，最强的是最老的两种简单方法 GADiff 与 SCRUB，与它们在旧基准上被新方法（如 MANU 在 MLLMU-Bench 上优于 GADiff）超越的结论相反（表 2）。 92
• 超参敏感性：同一共享配置下，学习率 10⁻⁵ 时 RMU 明显胜 KL Min，5×10⁻⁵ 时结论反转，KL Min 反超（图 5）——同一个「一刀切」协议能支持两种相反结论。 92
• 模态差区分了「删关联」与「删概念」：RMU 在 Qwen3-VL-8B 上把 VQA 分类压到 2.48 而 QA 仍为 83.91（FITB 填空 1.66 对 76.88），即只切断了视觉—知识关联；GADiff 删整个概念但保留侧损失最大（表 3）。 92
• 作者指出未经逐方法调参的许多配置落在 y=x 对角线上（图 6），即保留知识被破坏的程度与目标遗忘相当，「没有方法真正解决该任务」。 92

13. ReSemReason：BioHopR H@1 从 0.719 提到 0.772，Joint@1 0.602

• 三个数据集上 soft-schema 版在所有列都最强：BioHopR H@1（Top-1 命中率）0.772（Fixed-Candidate ReSemAttn 0.719）、R@10（答案集召回）0.648（0.556）；PrimeKGQA answer F1 0.761（hard schema 0.661）；MedReason 多选准确率 0.691、开放回答 F1 0.749（Table 1）。
• 五个种子在 BioHopR 上：Full H@1 0.772±0.006、Hard-Schema 0.748±0.007、Fixed-Candidate 0.719±0.008；对应的 Joint@1 为 0.602±0.007、0.548±0.009、0.495±0.010（§4.2）。
• 消融：去掉 relation-guided search 掉 5.3 个百分点 H@1，去掉 attention prior 掉 6.6 个百分点，是核心消融里最大的一项（Table 2）。
• 证据有效性口径：Joint@1 = H@1 × (1 − WPR)，WPR 是「答对但支撑路径无效」的比例；完整模型 Coverage 0.948、H@1 0.772、ValidPath@1 0.634、Joint@1 0.602（§4.5）。
• 判别力对照：在「同一候选、一真一假」路径对上要求真路径得分严格更高，完整模型 PairAcc 0.806，BFS + Cross-Encoder 只有 0.493（§4.5）。
• 路径有效性由两名标注者标 Valid/Invalid/Insufficient、第三人仲裁，总一致率 0.884（κ=0.761），在「答案正确」的路径子集上 0.901（κ=0.792）（§4.5）。
• 效率：BioHopR 上 276 ms/query、760 个扩展节点、峰值 19.8 GB；对比 GraphRAG 242 ms、1280 节点、H@1 0.548，Think-on-Graph 514 ms、1730 节点、H@1 0.655（Table 4）。93

14. 似然分数可被 8 个随机 ID 操纵：同一段文本跨上下文摆动 32–51 分

• 固定输出上的摆动达分数尺度的三分之一到一半：Matched − Hidden 在新闻集 2,100 个模型-文档对上为 32–51 分，在 600 个摘要对上 43–47 分；Matched − Wrong 为 16–29 分与 25–28 分，即精确复制值本身额外贡献 16–29 分（表 1）。 94
• 生成时攻击同样有效：追加 8 个 ID 生成的文章比独立生成的干净文章高 13–27 分（2,040/2,100 对为正）；把 ID 从评测上下文里拿掉，同样的文章掉 51–84 分，DeepSeek-V4-Flash 上同一批文章在「完整提示」下均值 0.85、在「用户可见请求」下 0.15（第 4.3–4.4 节）。 94
• 在验证该分数用的协助阶梯上，8 个 ID 值 20 分，超过从标题到摘要的整步（17 分）；300 项运行里 0.75 对 0.55（第 4.1 节）。 94
• 无提示的输出侧估计也失守：追加 8 个 ID 把 Llama-3.1-8B 的最小人类贡献估计从 0.36 抬到 0.68，300 篇文章全部上升（第 4.4 节）。 94
• 机制是「信用跟着惊奇量走」：分数等于各片段局部分数的惊奇量加权平均，稀有字符串一旦在上下文里变得可预测就拿到不成比例的信用；因此 padding 把分数拉向它自己的局部分数，最弱的贡献被抬得最多，而接近 0.84 的干净分数抬不动（第 5 节）。 94

15. 身份盲化诊断：只换源标签就让 91.2% 的二分类预测翻向假标签

• 诊断规模：六个任务跨四个领域（气味、分子性质、逆合成、反应收率），样本量为结构变化气味 179、手性变化气味 56、BACE 136、HIV 242、逆合成 42、反应收率 100（C3 配对分析后为 98）；四个受测模型是 Claude-Opus-4.8、DeepSeek-V4-Pro-Preview、GPT-5.5 与 Gemini-3.1-Pro。
• 常规口径下模型本身并不强：C0 条件里逆合成的精确匹配率为 34.9%–48.8%，收率的 MAE（平均绝对误差）为 32.34–56.46 个百分点，都差于均值基线 21.98 与中位数基线 21.65。
• 源标签带来的偏差随条件加强：C1 下 24 个「模型 × 任务」组合中有 10 个出现标签一致组占优，C2 下增加到 22 个；经 Benjamini–Hochberg 假发现率校正后，48 个组间比较里 34 个在 q<0.05 上显著（C1 为 12/24 个组合，C2 为 22/24）。
• 只替换源标签即造成系统性翻转：二分类任务上 Claude-Opus-4.8 有 91.2%（BACE）与 94.6%（HIV）的预测翻向假标签，GPT-5.5 为 58.8% 与 71.5%，DeepSeek-V4-Pro-Preview 只有 36.0% 与 19.8%；集合输出任务的方向响应在结构变化上为 0.059–0.135、在手性变化上为 0.307–0.869；收率任务有 61.2%–98.0% 的预测朝假源收率方向移动。
• 外部证据并非总是帮忙：加入结构化工具证据后，结构变化气味任务上 DeepSeek 的 F1 从 0.160 升到 0.312、Qwen3.5-9B 从 0.035 升到 0.248，但 Gemini-3.1-Pro 在混合物气味任务上从 0.190 降到 0.149。 95

16. 机器翻译保不保留媒体偏见：四种引擎译后仍保留 64%–78%，四译文间无显著差异

• 四种方法译成保加利亚语后，64%–78% 的媒体偏见仍被保留，即约四分之一到三分之一丢失；德语源略高于英语源（图 2）。 96
• 保留率更取决于偏见类型而非引擎：结构性偏见（omission 省略、false balance 虚假平衡、whataboutism 那又如何主义、flawed comparisons 错误比较）几乎 100% 存活，语气型偏低（Circular Reasoning 循环论证 50%、Discriminatory Bias 歧视性偏见 55%），最高频的 Word Choice 用词与 Emotional Sensationalism 情绪煽情约 75%（图 3）。 96
• 翻译还可能「新增」偏见：表中给出把无偏句译成被判为 Discriminatory Bias 的例子（表 2）。 96
• 统计：全局配对置换检验（paired global permutation test，其 p 值记作 p_MC）显示五种条件（原文加四种译文）的偏见类型组合显著不同（Cochran's Q 统计量 T_sumQ=168.20，p_MC<.001）；原文与每种译文均有显著差异（Holm 多重比较校正后），而四种译文两两之间无一显著（校正后 p_Holm 全为 1.00）。 96

17. 法律开放题评分 SoK：实例化评分规则是最强杠杆，但嵌入指令攻击在其上平均成功 56.9%

• 实例化评分规则（P7：为每道题写专家评分规则、判官逐条核对）是法律领域内最强的一致性杠杆：德国考试上 GPT-5 带样本答案＋评分表时 QWK（quadratic weighted kappa，二次加权 kappa）为刑法 0.60、公法 0.91，两者都不给时只有 0.31 与 0.58。97
• 但反例同样明确：JudgmentBench 上，执业律师的成对判断对 30 个任务三个质量等级的排序平均 Spearman ρ=0.91，而他们的评分规则打分只有 0.15（评分者之间一致性 0.44）；GPT-5.4 自动评分器成对为 0.38、用规则为 0.20。97
• 判官与人类的一致性必须对着人类之间的一致性读：LEXam 上判官通过了 alternative annotator test，而三位专家彼此的一致性 QWK 只有 0.49；BenGER 上判官与三名盲评者均值的 r=0.76、通过／不通过 κ=0.60，落在人类分歧范围内。97
• 失败模式有硬数字：某波兰考试中判官拿到委员会标准与答案要点后，给三个被委员会以严重错误判为不及格的判决书打了 85 到 90 分（满分 100），委员会给 8 到 37 分；嵌入答案的指令型攻击对基于评分规则的判官平均成功率 56.9%；标签粒度变细会降低一致性（同一批短答案从二分改五档，准确率 76% 降到 57%）；模型更新会把判官严厉度移动最多 1,000 分制里的 133 分；被强制对齐单一标签选出来的判官最多差 31%。97
• 作者据此提出「可信评分规则判官」的 7 条保障：S1 逐题的原子化评分规则、S2 每次给分都要引用原文且用代码核对引用、S3 上线前的探针集、S4 重复运行与方差分解、S5 对照独立人类评分做校准、S6 升级给主考人、S7 记录与数据保护；并指出成本可能吃掉收益——某微积分考试中约 70% 的题目必须交回人类才能达到人类准确率。97

18. CSWBench：12 个 LLM 的代码切换评测，事件级与全文质量相关仅 r=.254

• 12 个 LLM 的排序：GPT-5.5 领跑 Focused Narrative（总分 Σ=15.537），GPT-5.6-Sol 领跑 Extended Narrative（Σ=17.767），排除同族评分与改用其它聚合方式后名次不变。
• 评测框架先被校验：3 名人类评分者对 180 条 Focused 与 144 条 Extended 输出的一致性 Kendall's W=.718 与 .810；人类均值与双判官文章分的 ICC(A,1)=.864、Spearman ρ=.863（Focused）与 .816、.804（Extended）；两名双语标注者对事件发现的审计 F1 为 .963/.960（候选分类）与 .944/.998（事件分组）。
• 构造敏感性（swap 扰动）：在 36 条 Extended 文本里把代码切换事件对按 2、4、6、8 逐档互换，全文分从 3.702 降到 2.901；同日程互换中文片段（对照）降到 3.137，说明多语组织维度对切换位置更敏感，而中文片段互换更伤一般叙事执行。
• 局部与整体的关系：事件级语境适切性、功能增益同全文分的相关只有 r=.254 与 r=.255；而叙事显著性（salience，切换对情节后果的重要程度）与两者相关更强——Focused 为 r=.642 与 .496（4,884 篇），Extended 为 r=.768 与 .789（4,800 篇）。
• 模型差异最大的一维是多语文学融合（Multilingual Literary Integration，跨模型均值标准差 SD=0.742）；多语相关维度在难题（按六个代表模型的 D2/D3 均值划出的难易四分位）上掉分比一般叙事维度多。98

19. LLM 实体抽取失败分解：65.6% 是背景提及、19.9% 是口径缺口，幻觉只有 1.2%

• 不可靠性跨档位存在：微观精度 0.03–0.34、召回 0.81–0.99，自报置信的期望校准误差 ECE 0.53–0.94；旗舰对照同样如此（CVE 微观精度 0.057、召回 0.899，ECE 0.63–0.94），升档没有关闭这条差距（表 1）。 99
• 失败以背景污染为主：全量提及普查显示 CVE 假阳性中 99.7%–99.8% 在报告里有明确文本来源；三级标注按抽样权重回投后，假阳性构成里背景提及占 65.6%、事件相关但不在金标口径内的缺口占 19.9%，真正无文本支撑的只占 1.2%（表 2）。 99
• 置信信号可以排序但不能验证：SC 频率在 6 个测试格全部通过预注册门槛（top-30% 精度增益不低于 +0.10），控制文本频率后其与正确性的偏相关在 6/6 组显著（r = 0.30–0.43）；而 DeepSeek-V4-Flash 的自报置信被文本频率完全吸收（偏 r = 0.000，p = 0.997）。 99
• 关系级反事实击穿：45 个目标上各注入一句风格匹配的句子，一句错误归属就让两个模型在高置信下把事件绑到注入的组织（73.3% 与 95.6%），一句被明确标注为「与本事件无关」的背景句仍让伪造漏洞被绑定达 26.7%，一句撤回句则把真实漏洞从 34.1% 与 76.2% 的输出里抹掉（表 4）。 99
• 修复只在匹配失败模式时有效：检索增强与思维链修复对威胁组织最多 +0.133 宏观 F1，对 CVE 从不有效（Δ ≤ ±0.011）；在同一口径下把阈值按语料重新做分位校准是必须步骤（第 4.6 节）。 99

20. 跨时间文化意识：10,360 个题对、72 国，68.2% 已变化的题对连众数都没变

• 数据构成：10,360 个题对（对应 20,720 条带年份提示），来自 WVS 第 3–7 波（1995–2022）与 ISSP（1985–2022），筛出 408 个跨波可比、选项有序且每国每波至少 500 名应答者的变量；四档题对数为稳定 2,607、中度 5,535、强 1,828、极强 390（Table 1、§3.1–3.5）。 100
• 用众数打分会让大部分数据失真：分布已变化的题对里 68.2% 两个时期的众数相同（被读成「没变」），而 8.5% 的稳定题对分布几乎没动却换了众数（被读成「变了」）（§3.6）。 100
• 变化越大，两个时期都答准的题对越少，只有一边答准的比例在强与极强档超过 50%（容差 τ=0.10）；而且两个年份的预测通常更靠近同一年份的标准分布：同向对齐占已变化题对的 80–87%，各自对应自己年份的只占 9–15%（§4.2）。 100
• 方向比幅度学得好：随着人类位移增大，模型的幅度比 r=d_m/d_h（模型位移与人类位移之比，1 表示两者相等）中位数始终低于 1 并继续下降，即系统性低估变化；同一批题对的方向余弦相似度却上升，说明方向对不保证幅度对；即使最少给出相同预测的 GPT-5.4 仍低估变化幅度（§4.3、Figure 7）。 100
• 提示里点名年份收益很小：跨模型只有 20–44% 的条目因点名年份变准，同时有相近比例变差，平均收益接近零或略负；不带年份的预测只在 46–48% 的情况下最接近最新年份；不过在极强变化档上，点名较早年份在全部六个模型上都带来正收益，点名较晚年份收益微弱（§4.4）。 100
• 主题与地区差异随变化幅度放大：稳定题对上民主话题准确率可达 71%，大幅变化时降到 17%；民主与社会不平等两话题预测变化方向只有约 50%，而家庭与生活优先级为 82–94%；强与极强档下，WVS 里西方国家双期准确率 35%，中东与北非、南亚与东南亚平均 16%（§4.5）。 100

21. 真实说服对话基准：行为任务模型 76% 略超最佳人类 75%，认知三轴人类仍领先

• 数据规模：从 872 个合格帖子中随机抽取 200 个（2024 年 1 月至 2025 年 10 月），成功与失败标签各 100；认知任务每分支三个维度各一题，共 1,200 道四选一题。
• 行为任务：最强的 Qwen-3.5-397B（不开思维链）为 76%，最高的人类参与者为 75%，差距 1 个百分点；最好的闭源模型 Sonnet-4.6 为 71.5%，Gemini-2.5-Pro 为 71.0%。
• 认知任务：Claude Sonnet-4.6 三轴都最好（信念 83.0%、情绪 59.0%、意图 80.5%），但最佳人类分别是 85.0%、65.0%、85.0%，即模型在三轴上仍分别低 2、6、4.5 个百分点；四选一的随机水平是 25%，而 Gemma-4B 与 Gemma-12B 在情绪维度只有 20.5% 与 23.25%。
• 思维链不是一致增益：Qwen-3.5-397B 开启思维后情绪从 41.0% 升到 48.75%，但信念反而从 80.5% 降到 79.0%。 101

十一、邻近跟踪：推理期控制、解码与机制

1. 选择性推理：768 题准确率 70.96%→84.38%，对 1,024 token 末端推理省 46.30% 流水线时间

• 在 ProofWriter、LogiQA 2.0、ARC-Challenge 三个数据集的 768 道题上，准确率从直接读取的 70.96% 升到 84.38%。102
• 相对 512 token 的末端推理（先推理完再读答案），准确率提升 7.29 个百分点，平均输出工作量只多 2.25%。102
• 相对 1,024 token 的末端推理，流水线时间下降 46.30%，准确率差 −1.17 个百分点。102
• 摘要另称用精确前缀控制把「中断」带来的节省与其它因素分离，用读取调度控制区分「观测工作量减少」与「响应时间缩短」。102

2. GURI：把候选 token 身份编进灰盒检测器，3 个开源模型九个组合的 ROC-AUC 均值 72.09%→79.09%

• 主表（表 1）：3 个开源模型（Gemma-4-12B-IT、Llama-3.2-3B-Instruct、Ministral-3-8B-Instruct）× 3 个问答基准（HotpotQA、TriviaQA、NQ-WC）共九格，GURI 全部高于仅用概率的基线 LOS-Net，平均约 +7.00 ROC-AUC 分，逐格提升从 +2.11（Ministral/TriviaQA）到 +12.30（Gemma/NQ-WC）；例：Ministral/HotpotQA 由 70.68±0.97 升到 77.18±1.37。摘要口径的九格平均测试 ROC-AUC 由 72.09% 升到 79.09%。
• 闭源模型（表 2）：GPT-4.1 上均值 67.39%→71.84%（HotpotQA 64.20→70.12、NQ-WC 65.49→73.63），但 TriviaQA 上由 72.49 降到 71.78。
• 跨模型迁移（不微调，图 4）：三个开源模型的 18 个有向迁移中，GURI 有 17 个高于迁移过去的 LOS-Net，平均领先 13.52（NQ-WC）、11.93（HotpotQA）、11.27（TriviaQA）ROC-AUC 分；相对目标模型自带的置信度基线在 17/18 个迁移上胜出（LOS-Net 只有 7/18）。
• 跨数据集迁移：HotpotQA 与 TriviaQA 之间、目标模型固定时，比 LOS-Net 平均高 3.76 分；模型与数据集同时更换时高 4.94 分；涉及 NQ-WC 的联合迁移没有超过目标模型自身的置信度基线。
• 编码来源消融：固定随机编码与预训练嵌入（同分词器、同池化、同架构与训练协议）相当甚至更好，说明增益不依赖预训练的语义几何。 103

3. 稀有事件估计：无训练加权集成把相对误差压到 1.0%、样本效率提升 2.02 倍

• 理论部分给出三条结论：Proposition 1 证明有限样本量 N 下估计量 p̂_WE 无偏（期望等于真实概率 p*），Corollary 1 给出 L² 一致性，Proposition 2 给出渐近正态方差 σ²_WE；Proposition 3 进一步给出与直接 MC 的样本效率增益判据 N_MC/N_WE = p*(1−p*)/σ²_WE。
• 毒性故事生成任务（TinyStories-33M 作小模型、ToxiGuardrail 作稀有事件评分，总预算 14,336 样本，用 1,048,576 样本的直接 MC 作参考，40 个种子）：在参考概率 1.24×10⁻⁵ 的提示上，「Layer 3 final concat → R @ 8」配置的相对误差为 1.0%、样本效率增益 2.02 倍；同表对比对象 Twisted SMC 相对误差 10.5%（原文未报增益）、LMTailRisk 34.7%（原文未报增益）。
• 命中率（hit rate，落进稀有事件集的样本比例）在同表差异很大：WE「Layer 4 all → R @ 8」为 76.7%、仅用奖励的 WE 为 97.3%、Twisted SMC 44.7%，而随机分箱的 WE 只有 0.1%（它的有效样本量 ESS 反而最高，为 4085，说明高 ESS 不等于高命中）。
• StrongREJECT 越狱任务（Llama-3.1-8B，预算 1,024 样本，5 个种子）：WE hybrid 在信息误导类相对误差 13.9%、仇恨/骚扰类 15.8%、非法物品类 25.6%，同类别下 LMTailRisk 为 30.9%、43.8%、128.8%，Twisted SMC 为 54.4%、79.3% 和 100.0%（非法物品类估计值为 0）。
• 稀有事件定义放宽的鲁棒性测试（阈值 γ 从 5 依次降到 4.5、4、3，复用同一批样本）：提议分布类方法迅速失准，Twisted SMC 相对误差 16.0%→37.3%→60.9%，LMTailRisk 20.2%→36.1%→58.1%，而隐状态类 WE 变体在各阈值下保持低相对误差。
• 消融覆盖分箱数、检查点间隔、隐状态聚类方法与 walker 数（附录 E.4 表 30）。

4. GPT-2 句法头干预证据混杂：主体偏好 0.94→0.72，非句法头在 12.32% 模拟中反超

• 原模型平均 σ=0.94，10 万次自举模拟中 σ 始终 >0.5；把 4 个 SV 头全部强行指向干扰词后，平均 σ 只降到 0.72，仅 4.7% 的模拟出现 σ<0.5（图 2）。 105
• 非 SV 头在 δ_p 口径上效应更大者占 12.32% 的模拟，即诊断词对口径下没有证据表明 SV 头有专用因果作用；在 δ_f 口径下该比例降到 3.46%，只给出边缘证据。 105

5. 深度专业化假象：剔除空白目标后 GSM8K/Wikitext 对比由 +0.0253 翻为 −0.0247

• 规范设定（GSM8K 为焦点语料、Wikitext 为参考语料；H=3 即预测可见文本后第 3 个 token；mean-blend 扰动强度 α=0.2；每语料 300 条序列）下三个模型的合并 CAI 都为正：Qwen2.5-7B +0.0253、Llama-3.2-3B +0.0428、gemma-2-2b-it +0.0421，95% 自助区间均不含零（Table 1）。 106
• 同一个合并值里只有空白（whitespace）一类是正的：空白条件 CAI 为 +0.5181 / +0.8215 / +0.7155，其余四类（内容词、数字、标点、功能词）点估计全部非正，12 个区间里 11 个严格低于零，Gemma 的内容词区间含零且上端点为 +0.00001；把空白剔除后合并值变成 −0.0247 / −0.0330 / −0.0131，三个区间都在零下（Table 1）。 106
• 按参考语料混合重加权只救回两个模型：Qwen −0.0121、Llama −0.0116，Gemma 仍为 +0.0074，因为 Wikitext 2.7% 的空白占比下 Gemma 的空白单元仍贡献 +0.019，压过其余四类合起来的 −0.012（Table 1）。 106
• 高风险与中风险语料对里，合并为正的 14 行在剔除空白后 14/14 变号（合并区间整体在零上、剔除空白区间整体在零下）；参考混合重加权让其中 11 行转负（Table 3、Table 23、Table 30）。 106
• 只靠分词器就能在跑模型前打风险标签：输入为目标空白率差 Δws、每 token 字符数差 Δchars、两语料目标类型分布的 JS 散度（Jensen–Shannon divergence，分布差异度量），高风险门槛为 Δws≥0.045、Δchars≥0.50、JS≥0.01，低风险为 |Δws|≤0.020 且 |Δchars|≤0.35；被评为高或低风险的留出语料对共 9 行全部落在标签预测的区域，其中 8 行同时满足区间判据（Table 2、Figure 3）。 106
• 诊断交互量 I（空白减内容词的差在 H=3 mean-blend 与 H=1 mild-resample 两个设定间的对比）在五个同序列审计实例中全为正，范围 +0.52 到 +0.81，10,000 次自助重采样中没有一次非正抽样（Figure 2b）。 106

6. 尾部竞争解释 BoN 缩放：错误答案奖励方差更大即奖励劫持，尾部张力早停把 5.68% 拉回 11.61%

• 渐近三相（定理 1）：正确尾主导（成功率→1）、错误尾主导（→0）、临界相；奖励服从 Gaussian 时，正确答案（下标 c）与错误答案（下标 w）的奖励标准差满足 σ_c<σ_w 即进入错误尾主导；下文 μ 指奖励均值、σ 指奖励标准差。四相（表 1）按「n=2 相对 n=1 是否变好」×「渐近是否→1」划分：iA 单调改善、iB 延迟改善（U 形）、iiA 奖励劫持（reward hacking，指奖励模型给错误答案的高分在右尾压过正确答案、把 BoN 选歪）（倒 U 形）、iiB 单调退化。107
• 缩放律：oracle 选择下成功率按 1−e^(−np) 指数收敛，不完整选择器在 Gumbel 吸引域下的收敛是多项式（定理 2，指数见式 12），即奖励模型不完美会把 BoN 的收敛速度从指数级降为多项式级。107
• 反转尺度：n* = exp((μ_c−μ_w)² / (2(σ_w−σ_c)²))（式 7），即错误答案最大奖励追上正确答案的位置；Gaussian 下的奖励劫持条件为 μ_c>μ_w 且 σ_w>σ_c（式 6）。107
• 真实奖励分布（表 3，数据集为 Monkey Business：每题 10,000 个响应，覆盖 MATH、MiniF2F、GSM8K、CodeContests 的 2,878 个「题目–生成模型」对，配 6 个奖励模型）：正确答案平均分更高，但除 Sky-Qwen-4B 外错误答案方差更大，符合尾部张力。107
• 早停：把前 t 个候选的分数拟合成两成分 Gaussian 混合，高均值成分当正确答案代理，只在低均值成分方差更大时触发，最小预算 n_th=32。在已发生奖励劫持的子集上，标准 BoN 从 19.02% 掉到 5.68%，该方法把终点拉回 11.61%（附录 B.2，allenai/Llama-3.1-8B-Instruct-RM-RB2 分数）；在准确率单调上升的数据集上按设计不提前停，故不涨分。107

7. OBA 免训练并行解码：DiffusionGemma 每前向 token 数 15.64→22.25，吞吐 +16.3%

• 十个基准平均：TPF 从 15.64 升到 22.25（+42.3%），单请求去噪吞吐从 2375 升到 2761 tokens/s（+16.3%，单张 GB300），平均准确率下降 1.37 点。108
• 直接加宽块的对照：把块宽从 256 加到 512 只把 TPF 从 15.64 提到 16.67，而一次 512 位前向的成本约为 256 位的 1.84 倍，吞吐比原生 256 块低 41.4%。
• 状态继承消融（表 2，十基准平均）：只继承 token（掩码扩散的做法）α=0.25、吞吐 −2.8%；加上自条件信号 α=0.41、+7.7%；再加上去噪时间 α=0.54、+16.3%。扣掉自条件信号后 α 掉到 0.02、吞吐 −19.9%；换成双向稠密掩码 α=0.38 但要 α>0.70 才回本，吞吐 −20.9%、准确率 80.29。
• 与 FlowBlock（窗口 W=2）对比：FlowBlock 因等待就绪门阈值，只有 92.2% 的前向保持 256 位宽，α 降到 0.09，TPF +7.2%、吞吐 +4.5%（OBA 为 +42.3% 与 +16.3%）；窗口放宽到 W=3 或 4 变化在 1% 以内。
• 提升后的块在成为当前块的第一次前向上平均已有 41.0% 的位置被接受（原生新块为 5.4%），其中 39.9% 一直保留到提交（原生为 5.1%）。

8. Wenyan Thinking：1024 token 预算下 MMLU-ProX-Lite-ZH 从 11.4% 升到 52.9%，缺答率 87.5%→7.5%

• 数据与训练：原文对 10,000 条训练数据的现代汉语推理字段平均 1457.8 字（中位 926），改写后的文言字段平均 420.9 字（中位 382），即监督信号在解码之前就已显著更短；SFT 为全参数、2 epoch、学习率 1×10⁻⁵、最大长度 2048、bf16 加 DeepSpeed ZeRO-3。
• 主基准（表 2，MMLU-ProX-Lite-ZH 精确匹配，预算 1024/2048/4096/6144）：原始 Think 为 11.4%/32.3%/50.9%/58.8%，Wenyan 为 52.9%/55.3%/55.4%/55.6%，紧凑现代汉语对照为 52.2%/52.9%/53.2%/53.4%，纯提示「简洁作答」只有 13.4%/32.0%/44.9%/47.5%，不显示思维链的 Answer-only 稳定在 41% 上下。作者的读法是压缩本身解释了大部分收益，文言在低预算下稳定高于紧凑汉语对照但幅度不大。
• 效率与答案完成（表 4）：1024 token 预算下原始 Think 输出 1008.1 个 token、缺答率 87.5%（对应 11.4% 准确率），Wenyan 输出 394.2 个 token、缺答率 7.5%（52.9%），紧凑汉语对照为 254.7 个 token、3.1%；4096 预算下 Wenyan 458.4 个 token 对 Think 的 2901.8 个。
• 跨基准（表 6、表 7）：CEVAL-valid-direct 上 Wenyan 为 73.5%/74.8%/74.7%/74.7%，原始 Think 为 41.0%/63.0%/75.6%/79.3%；AGIEval-CN 直接子集上 Wenyan 准确率 49.92%/51.55%/51.43%/51.27%，端到端评测时间 07:54/08:53/10:14/11:20，而原始 Think 为 14.20%/24.37%/33.49%/35.89% 与 24:20/1:06:19/2:35:33/3:36:37。
• 通道归因（5.4 节）：只对推理段（到 </think> 为止）计损失时准确率为 52.4%/54.1%/54.6%/54.9%，比全序列监督低 0.5–1.2 个点，说明收益主要来自学到稳定紧凑的文言推理风格，答案段监督只是稳住过渡。
• 改写质量审计（表 5）：抽 40 条让 DeepSeek-V4-Pro 当自动判官打分，忠实性、步骤保留、可读性、答案支撑四项均值都高于 4.3（1–5 分），答案泄漏风险 1.00，判定为 27 通过、11 小问题、2 大问题。

9. LCMV：把“长推理链更容易错”写成长度条件先验，无标签测试时自适应后给多数投票加权

• 摘要称在多个大模型与多个推理基准上的大量实验里，LCMV 一致优于标准多数投票，也优于既有的基于长度与基于置信度的聚合策略（只到摘要层，无具体数值可引）。
• 摘要强调它保留了多数投票的简单性与模型无关性（只到摘要层）。
• 该文 arXiv 未提供 HTML 全文，以上两条均只有摘要支撑。110

10. 不是不会推理而是不会停：60% 稀疏度下 41.4% 的不终止轨迹已含正确答案

• 表 1（MATH-500，只取稠密模型答对的题，OBC 校准：按推理步骤重要性加权的剪枝校准）：稀疏度从 50% 升到 60% 时，DS-Qwen-7B 的不终止率从 3.8% 升到 16.8%，14B 从 2.4% 升到 16.4%，而「终止但答错」的比例基本不变；终止样本内的准确率仍为 93.5%（7B）与 88.9%（14B）。111
• 不终止轨迹里已有答案的比例：60% 稀疏度下 7B 为 41.4%、14B 为 39.2%，答案首次出现的中位位置分别是轨迹长度的 13.0% 与 11.9%（约 2.1k 与 1.9k token）。111
• 预算不是主因：把预算从 16,384 提到 65,536 token，7B 在 50% 稀疏度下不终止率从 42.5% 降到 12.5%，但准确率几乎不动，60–70% 稀疏度下不终止率几乎不降，附录 D.2 显示多出来的预算只换回 0–3 条正确轨迹。111
• 方向一致性（图 5）：DS-Qwen-7B 在 50–70% 剪枝率之间构造的终止方向两两余弦相似度至少 0.87，1.5B 在 40–60% 之间至少 0.83。111
• 效果：平均到三个基准，TGAS 在每个模型-稀疏度组合上都比标准推理高 1.3–3.7 个点，并在 18 个「检查点 × 基准」对中的 16 个提高终止率、没有任何一个下降；六个设置里平均准确率都是免训练方法中最好的，但 18 对里有 4 对输给最强基线。111
• 统计检验（附录 F.10，每题 16 个样本，两双侧问题级符号翻转置换检验，20,000 次置换）：四对模型-基准里三对的合并准确率提升有统计意义（DS-Qwen-7B 在 LCB +1.5，p=0.016；OT3-7B 在 AIME-25 +2.1，p=0.046；LCB +1.1，p=0.026），DS-Qwen-7B 在 AIME-25 上 +1.5 不显著（p=0.171）；检查点级别最大提升为 +4.4（DS-Qwen-7B，60% 稀疏度，LCB，p=0.003）与 +5.4（OT3-7B，50% 稀疏度，AIME-25，p=0.002）。111
• 生成长度：跨全部稀疏度平均减少 7.6%，60% 稀疏度减少 12.3%（每条少 1,423 token）；六个模型 × 四个检查点 × 三个基准共 72 个设置里有 64 个不低于基线，平均准确率从 46.5% 升到 49.1%。111

11. 用内在维度定注意力头数：k*=9.2（95% CI 8.6–9.8），10 头与 32 头在 SST-2／MRPC 等效（±1 分），注意力参数少 69%

• 等效性（表 2，10 个配对种子）：SST-2 上 10 头为 82.13%±0.42、32 头为 81.95%±0.33，配对 t 检验 p=0.31，TOST（Two One-Sided Tests，双单侧等效检验）在 ±1 个准确率点内判定等效（p=0.0005）；MRPC 上 70.47%±0.90 对 70.37%±1.03，p=0.74，同样等效（p=0.006） 112
• 参数成本：10 头配置的注意力参数比 32 头少 69%（摘要、5.2 节） 112
• 与剪枝对比（表 3，同样 10 个种子）：把训练好的 32 头模型剪到 10 头，剪完不微调掉到 71.69%±7.04，微调后回到 81.50%±0.37，而从头训 10 头为 82.13%±0.42，平均高 0.63 分（t=3.41，p=0.008，Cohen's d=1.08）；完整剪枝流程 10 个种子耗时 2.41 GPU 小时 112
• 开发史里的一个坑（附录 A.1）：早期版本让两个头数共用全局随机数发生器，而初始化消耗的随机抽样数随头数变化，导致同一随机种子下 10 头与 32 头的批次顺序不同，配对检验其实不配对；改成每个运行独立的带种子数据加载器后重跑了全部比较 112

12. 138 篇稀疏自编码器研究的批判性综述：把可恢复性、可解释性、机制忠实度与行为效用拆开评

• 语料规模与统计口径：纳入 138 项研究（正文与附录 B.2 一致）；附录明确多标签计数不可相加回归到 138（一项研究可同时计入多个格），语言功能一项从只算主议题的 8 篇升到保留次要功能后的 15 篇，作者声明这是编码属性、不代表发现了 15 个独立因果机制。
• 转述既有合成实验作为可恢复性的口径示例：在已知生成字典的设定下，TopK 的恢复率随保留坐标数 K 从 20 增到 50 时由 98.4% 掉到 23.4%；频率覆盖匹配与否使 GBA 的恢复率为 100% 对 3.9%（对齐阈值 0.9、128 个生成特征）。作者用它说明分配规则与覆盖假设的敏感性，而不是给 NLP 方法排名。
• 方法学结论：分配规则不能只按重建排序（BatchTopK 的重建优于 TopK，但在 Gemma-2-2B 上与 JumpReLU 的下游交叉熵退化比较结果混合）；跨方法比较必须匹配平均稀疏度、数据与插入协议，并记录解码器归一化，因为它会改变系数尺度。
• 实践建议（第 6.2 节）：有明确预测目标时先用调好的监督探针与匹配的标签预算；要控制输出时先用直接激活方向；要验证局部计算假设时，神经元、注意力头或功能代理可能才是合适的分析单元。113

13. TreeSpark：树形候选让接受长度较 DSpark 提升 23.4%–31.6%、单请求吞吐提升 15.1%–25.0%

• 主结果（表 2，Qwen3-4B 与 Qwen3-8B 目标模型，贪心解码，9 个通用基准 + WritingBench 六个写作域）：平均接受长度从 DSpark 的 4.23 升到 5.25（Qwen3-4B，提升 24.1%）、从 4.20 升到 5.18（Qwen3-8B，提升 23.4%）；写作域增益更大，2.68→3.52（31.4%）与 2.55→3.35（31.6%）。
• 逐位置接受率（图 2，并发 C=12，9 基准平均）：第 1 个草稿位置的接受率从 78.8% 升到 90.0%，第 7 个从 24.7% 升到 37.0%，说明增益不是只靠浅层。
• 吞吐（表 1、表 3）：相对 DSpark，通用套件单请求平均吞吐提升 15.1%（Qwen3-4B）与 17.9%（Qwen3-8B），写作域达 21.9% 与 25.0%；批处理下 Qwen3-4B 在 C=12 提升 17.2%、C=36 提升 12.6%（原文摘要写作 12.6%–17.2%）。
• 把「推理期多留候选」与「训练对齐」分开的对照（图 3，DSpark + Tree，容量与推理策略相同但关掉两个树损失）：平均接受长度 4.93→5.25，约 6.4%；系统吞吐在 C=12 从 283.54 升到 295.34 token/s（4.2%），C=36 从 615.68 升到 646.44（5.0%）。
• 组件消融（表 4，C=12，系统吞吐 token/s）：DSpark 均值 254.68，TreeSpark 295.34（+17.2%）；去掉生存损失降到 281.89（+11.9%），去掉覆盖损失降到 293.36（+16.0%）；把注意力头维度从 192 降到 128 则为 289.64（+14.6%），说明两个损失与额外容量各自都有贡献，但生存损失的聚合贡献更大。

14. 跨模型神经反馈：10 个 9B–32B 模型里只有 3 个能小幅拉动自身激活读数

• 自由生成（5×5 的 writer×subject、42 个 readout）：Gemma-4-31B 到第 20 轮把自己读数移动了 24 分（100 分制），Qwen3.5-27B 移动 11 分，其余三个模型停在零点 1 分内；但外部 writer 对它们也能移动同样多，diagonal excess 无一显著为正，因而不支持「特权访问自身激活」（§3.4、Figure 2）。
• 固定句子（10 个模型、40 句、30 轮）：只有 Qwen3.5-27B（1.8 分）、Qwen3.6-27B（1.1 分）、Gemma-4-31B（0.4 分）出现原文称为「小而显著」的控制效应（原文的显著性口径是 95% bootstrap 置信区间，对 40 个固定句子重采样、取 2.5／97.5 百分位，未给 p 值与检验名）；其余 7 个模型都在 0.2 分以内，置信区间宽度小于 1 分（§3.4、Figure 3）。
• 对 6 个激活监控器（truthfulness、deceptiveness、negative sentiment、negative emotion、immoral actions、formal style，测试集 AUROC（ROC 曲线下面积）0.71–0.97，deceptiveness 最低）：无思维链时只有 Qwen3.5-27B 从第 6 轮起有约 1 分的正差值；加上思维链后没有任何模型的正差值能跨轮保持（§4.3、Figure 4）。
• 没有任何模型学会按指令把监控器分数压低，只有一个模型能把它抬高，与「被要求想某概念会加强其表示、被要求不想也只能回到未提及时的水平」这一既有观察一致（§4.3、§5）。
• 分数计算方式的披露（disclosure）在固定句子设定下很少有用，对监控器反而有害（§3.4、§4.3）。115

15. FOLD：122K token 输入上把投机解码加速从 2.08× 提到 4.22×，平均 2.11×→3.40×

• 6 组 target–drafter 对、7 个长上下文基准、输入最长 256K token：最佳情形把相对自回归解码的加速从 2.08× 提到 4.22×（Llama-3.1-8B 在 LCA（Long Code Arena，代码续写基准）的 122K 输入上）（摘要、§4.2）。
• 平均加速：Llama-3.1-8B 2.11×→3.40×、Qwen3.5-9B 2.98×→3.39×、Gemma-4-12B 2.46×→2.68×；三个模型上 FOLD 的平均接受长度 τ 与加速都是最高（Table 2）。
• 随输入变长优势扩大：Llama-3.1-8B 在 LCA 32K 处 2.82×→4.64×，122K 处 2.08×→4.22×；Qwen3.5-9B 在 32K–122K 保持 5.67–5.68×（§4.2、Figure 5）。
• 诊断一：把草稿块相对所有已提交条目整体平移 8K–128K 位置、内容完全不变，2K 输入的 SPEED-Bench 上 Llama-3.1-8B 的接受比例从 0.351 掉到至多 0.014，Gemma-4-12B 从 0.241 掉到至多 0.076——单纯的大相对距离就能破坏草拟（§3.2）。
• 诊断二：只用上下文特征差判断两条目先后顺序的线性探针，间隔 ≥16K 时准确率 94–96%，间隔 64–256 token 时接近随机（51%）；换成 token embedding 的探针始终随机。打乱处理顺序后探针能恢复处理顺序（84–86%），恢复原始顺序只有 52%（§3.2、Figure 3）。
• 其他 drafter 与引擎：DSpark 上 Qwen3-8B 通用任务 3.41×→3.63×、Gemma-4-12B 2.62×→2.83×；SGLang 上 Llama-3.1-8B 通用任务 1.54×→2.50×（Table 3、附录 C.3）。116

16. 把循环状态当草稿上下文：Qwen3.8-27B 上 3.16 倍解码加速，吞吐再超 DSpark 7.97%

• 主结果（表 1，Qwen3.8-27B、单张 NVIDIA B200、贪心解码）：7 个基准上平均吞吐 302.78 token/s，对自回归 95.86 为 3.16 倍，对 DSpark 280.42 再高 7.97%；平均接受长度 4.5285 对 DSpark 的 4.1739（+8.50%）。117
• 分任务增益（第 4.2 节）：相对 DSpark 的吞吐增益为 6.43% 到 8.66%（数学与代码生成）、9.45%（MT-Bench）、9.83%（Alpaca）。117
• 草稿前缀存活（第 4.3 节）：第 7 个草稿位置的累计存活率，GSM8K 从 45.98% 升到 58.17%、HumanEval 从 25.89% 升到 31.19%、MT-Bench 从 12.59% 升到 16.11%。117
• 消融（表 2 至表 6）：只微调不接状态时 286.50 token/s、接受长度 4.2732，ReaDy 相对它再高 5.68% 与 5.97%；读取器秩从 8 增到 128 只把接受长度从 4.5285 提到 4.5404，吞吐反而从 302.78 降到 302.31；状态源层用第 62 层单独增益 7.48% 接受长度，第 2 层只有 2.45%。117

十二、邻近跟踪：环境、记忆与研究流程

1. PTI 四步法：1,203 段访谈上合并 AUC 0.756 高于单路 0.706，贡献增量的却是未进联表的两个主题

• 语料为尼泊尔 29 位母亲（9 例抑郁、20 例非抑郁，以 PHQ-9 ≥9 为界）的 1,203 段参与者回答；预处理漏斗为 4,253 行 → 1,242 段参与者发言 → 1,203 段（短句过滤去掉 39 段，占 3.1%）（Table 2）。118
• 留一母亲交叉验证（LOOCV，leave-one-mother-out cross-validation）下的 AUC（ROC 曲线下面积）：PV 特征 0.706（置换 p=0.106）、NMF 主题 0.680（p=0.090）、两者合并 0.756（p=0.050），置换次数 B=500（Table 5）。118
• NMF 的主题数 k=6 由 k=2 到 8 的 bootstrap 复拟合选出，平均 Jaccard 相似度 0.410；主题 T4「否认与否定」在缩写展开归一化后不再复现，被判为预处理敏感并排除出整合解释（§3.6、§4.2）。118
• PV 侧在 1,203 段上共出现 41 个 Code–Sub-code 对，构成 29×41 的母亲级密度矩阵；PV 密度与 NMF 主题权重之间的平均绝对相关为 |r|=0.152（246 个特征对）（§3.4、§4.3）。118
• 进入合并模型的 NMF 特征是 T0「婴儿照护与健康」与 T2「活动与偏好」，而这两个主题恰好都被排除在联表之外（§4.3、Table 6）。118

2. 给 LM 头加一个复制头：1.7B 上样本外困惑度降 0.5–1.5，滑动窗口模型省 12× 显存

• 训练效率与困惑度：CPLM 达到 vanilla 最终损失的速度在全注意力与混合结构下快 1.25×，在滑动窗口结构下 1.7B 规模快 2×；1.7B 的 SW CPLM 在 4k 词元处用 12× 更少的显存达到 Full LM 的水平（3.1 节、图 2） 119
• 样本外困惑度：1.7B 模型在 FinePDFs 文档上比同骨干 vanilla 低 0.5–1.5 点（摘要、引言） 119
• 1.7B 基座零样本平均分（表 1，95k 步）：Full 62.45→63.06、SW 61.63→62.48、Hybrid 62.22→62.59；增益最大的是 LAMBADA（+2.5 到 +4.0 分），参数与算力开销约 0.5% 与 3% 119
• 监督微调后（Tulu-3，1.7B）：CPLM 相对 vanilla 在平均分上高 1.2–5.1 分；数学类项平均 +3.9（全注意力）与 +7.9（滑动窗口）（表 2） 119
• 长上下文：合成基准（BABILong、RULER）平均 +7.5 分，LongBench 16k 平均 +4.1 分（表 3）；单针检索（7 位数字藏在 8 个深度、上下文 1k–64k 词元）全网格平均把 SW 从 14.3 提到 99.4、把 Hybrid 3:1 从 58.2 提到 83.6（3.3 节） 119
• 把 CP 头当外部记忆用：HotpotQA 干扰文档设置下，SW vanilla 在 20 篇干扰文档时只有 15% EM（Exact Match，精确匹配），SW CPLM 在 500 篇干扰文档仍有 34% EM；只保留 CP 头缓存（文档完全不进骨干）时，5 篇干扰文档下保留 90–97% 准确率，缓存比 Full 模型小 50×（3.4 节、图 5） 119

3. TopicMerge：Wiki 上 ARI 0.71，LLM 调用 562 次较逐文档法减少 92% 以上

• Wiki（15,242 篇维基百科文章，15 个真值主题）上 TopicMerge 取得 ARI 0.71、P1 0.72、NMI 最高 0.74；Bills（8,024 份美国国会法案摘要，21 个真值主题）上 ARI 0.42、P1 0.57、NMI 0.53，在 ARI 与 NMI 上优于 TopicGPT（Bills ARI 0.40 / NMI 0.49，Wiki 0.60 / 0.70）与 LiSA（Bills 0.40 / 0.51，Wiki 0.66 / 0.71）（Table 1）。
• LLM 调用量：TopicMerge 在 Wiki 用 562 次提示、Bills 用 645 次，而 PromptTopic、TopicGPT、LiSA 一类逐文档方法在两个数据集上都是 15,242+ 与 8,024+ 量级，减少 92% 以上（Table 2）。
• 上下文消融：去掉局域与全局上下文簇后，Wiki 的 ARI 从 0.71 掉到 0.63、P1 从 0.72 到 0.70，Bills 上同向但更小（ARI 0.42 到 0.41）（Table 3）。
• 初始簇数与纯度：Wiki 用 80 个初始簇（纯度 0.88）得最终 ARI 0.71，降到 30 个（纯度 0.79）时 ARI 掉到 0.50；Bills 在高簇数区间稳定（ARI 0.42–0.43）后才下滑（Table 4）。
• 两个 LLM 主干对比：Gemini 3.1 Flash Lite 相比默认的 2.5 Flash Lite 在 Wiki 上把 NMI 推到 0.74，作者称前者在合并仲裁与多级抽象上更一致。120

4. LLM-jp-4：8B 稠密与 32B-A3B 共 12 万亿 token 从零训练，日文均分 0.307→0.605

• 日文 llm-jp-eval v2.1.3 平均分：上一代 llm-jp-3.1-8x13b-instruct4 为 0.307，LLM-jp-4 8B 稠密 0.590、32B-A3B 0.605；同表参照 Qwen3-8B 0.608、gpt-oss-20b 0.604。121
• 英文子集平均：0.354 → 0.634（8B）与 0.650（32B-A3B），仍低于 Qwen3-8B 0.714 与 gpt-oss-20b 0.704。
• 难题基准：JMMLU 0.590→0.820；日文 GPQA Diamond 0.310→0.540；英文 GPQA Diamond 0.520（Qwen3-8B 0.560、gpt-oss-20b 0.670）；AIME 2024/2025 为 0.400/0.300；HLE 全部模型都很低。
• 最大上下文长度在中训练第二阶段从 4K 先扩到 16K、再到 64K。
• 用大模型当判官（judge 为 gpt-5.4-2026-03-05，三次推理与评测取平均）：32B-A3B 中等推理力度下 MT-Bench 日文 7.82、英文 7.86、AnswerCarefully 3.70、llm-jp-instructions 3.61；gpt-oss-20b 同设定为 7.33/7.85/3.55/3.16。

5. KoAGE：21 个模型定义截断前韩语新造词 34.7%、截断年词仅 13–30%，社区造词 48% 沿用人类机制

• 收集质量：盲验 200 条接受样本的精度 95.5%，而排序前的 top-2k 只有 19%；定年结果与词典编纂者的年份在 90% 可核对条目上相差不超过一年；方法只需替换规范化器、标记模式与形态分析器三个语言相关组件即可迁移，换英文后在 Reddit 与新闻上各从前 2,000 候选接受 210 与 160 个新造词，98–100% 是有效词、87% 出现在 2015 年之后。
• 词典构成：4,271 条按四类词法分类——FORM（用现有材料新造）2,506 条占 59%、MWE（新的固定多词表达）1,456 条占 34%、BORROW（整体借词）280 条、COIN（音或字形新造）29 条；其中混成（870）与缩略（613）合计占 FORM 的 59%。
• 基准与模型：KoAGE 共 5,930 条测试实例，含 3 个习得任务（A1 释义生成、A2 语境选择、A3 构词机制判断）与 2 个生成任务（G1 受限造词、G2 社区模拟）；共评测 21 个模型，训练截断时间从 2021 到 2026，结果按每个模型的截断前（pre-cutoff）/截断后（post-cutoff）分别报告。
• 截断效应：只看词面时（A1-W），闭源模型平均能定义 34.7% 的截断前词与 11.1% 的截断后词，开源模型为 11.1% 与 1.1%；加入语境选择的 A2 却高达 91.1% 与 83.3%，说明「会用」不等于「说得出」。五个模型的时序分析显示，各模型对自己截断当年词的释义正确率只有 13–30%。
• 结构理解有限：给出正确定义后，截断前词的构词机制判断只提高 3.3 个百分点，截断后词提高 10.8 个百分点，导致截断后准确率反超截断前（57.2% 对 59.3%）。
• 造词对比：G1 中单模型精确命中人创词的比例很低，但 82% 的情况下沿用了人类的构词机制；G2 社区模拟里，四个同主干智能体交互十二轮后涌现的词只有 48% 沿用人类机制，且缩略占比升到 32%，高于人类真词的 16% 与单模型的 12%；放开聊天时社区仅 8–24% 的会话会造词，加入真实社会情境后升到 38–84%，再加上一句中性的造词方法提示句后达到 88–94%。
• 判官与重复：四次 LLM 判官（候选准入、A1 评分、G1 机制标注、G2 结果标注）均做过人类盲验，一致率分别为 95.5%、81.3%（κ 0.72）、80.3%（κ 0.74），G2 为完全一致。

6. 视觉当锚点随算力增强：多模态锚点间隙 3.35%→8.09%，纯文本前沿几乎不动

• 纯文本侧几乎不动：两条件的损失前沿衰减指数同为 β_text = 0.198，偏移量 1.829 与 1.831；配对文本锚点间隙在 −0.095% 到 +0.128% 之间，均值 −0.006%（第 3.2 节）。 123
• 多模态侧视觉始终有效：img 前沿在整个 C_mm ∈ [1.042×10^19, 2.504×10^20] FLOPs 区间都低于 pad 前沿（第 3.3 节）。 123
• 相对收益随算力呈近似幂律上升：三种汇总口径的指数为 0.254、0.254、0.256（对数空间 R² 分别 0.978、0.972、0.955）；从最小到最大拟合预算，沿 img 包络的锚点间隙由 3.35% 升到 8.09%（第 3.4 节）。 123
• 语言能力不掉：15 个文本基准的平均分在两条件下接近，分项上 img 在编码、一般理解、常识推理略高（第 4 节）。 123
• 空间推理在纯文本输入下也获益：A71M 到 A3B，img 从 15.41% 升到 44.25%、pad 从 15.10% 升到 39.87%；A3B 规模上把 token 从 25B 加到 325B，img 22.56%→44.25%、pad 20.81%→39.87%（第 5.1 节）。 123
• 收益是选择性的：6 个任务组里 5 个在 A3B 上 img−pad 为正、最大 4.38%，但不单调（A128M 为 3.62%，A590M 与 A874M 约 1.2%）；A3B 训练期最稳定的是 localization 定位 2.88%、navigation 导航 3.02%、symbolic planning 符号规划 5.19%，其余三组均值间隙在 0.6% 以内（第 5.2–5.3 节）。 123

7. 职业路径预测里技能为何不奏效：文本与技能排序相关 0.79，增强仅 0.270 对 0.266

• 文本基线在 DECORTE 上 MRR（平均倒数排名）0.266（复现原文 0.256）；技能增强最好配置仅 MRR 0.270（增强测试集），清洗划分上最高 0.287（样本仅 227，对应极少数额外命中）（表 1）。 124
• 单用技能重叠评分（即使给金标技能）反而更差：MRR 0.198 对 0.266。 124
• 冗余诊断：文本模型与技能模型对全部候选职业排序分的 Spearman 秩相关均值 0.79（中位 0.84），两者 top-1 一致率 90.9%；文本能纠正技能错误占 6.2%，反向只有 2.9%（技能最多只能贡献 2.9% 的样本）。 124
• 排名移动悖论：43.3% 样本排名改善（平均 +55.4 位）多于 32.1% 退化（平均 −39.1 位），但改善落在低排名区（对 MRR 与 Recall 不敏感），退化集中在高排名区（前 1–10 名），合起来没有净收益（图 2）。 124
• 表示坍缩：文本嵌入的 top-10 邻居有 38.6% 落在同一职业，池化技能嵌入为 76–80%，说明技能嵌入坍缩到粗粒度职业簇（表 2、图 3）。 124

8. AI 智能体社区里 65.1% 的人类帖子出现质疑、智能体只有 21.3%，83.6% 的智能体帖在首个附和回复后锁定共识

• 流行度（每平台 1,500 条均匀随机帖）：宽定义下 PTT 35.4%（531 条）对 Moltbook 2.5%（37 条）；排除真实人类名流目标后为 13.8% 对 2.3%；换成对话型分母后 Moltbook 为 5.78%（37/640），排除名流为 5.31%（34/640）。差距方向不随口径改变，幅度约为 6 倍（全随机样本）到 2.6 倍（对智能体最宽松的对话型分母）。
• 目标构成：PTT 随机样本中 61% 的八卦目标为名流与政客；Moltbook 上 65% 指向其他智能体、22% 指向该智能体的操作者。
• 证据来源（表 3，均为同辈目标）：PTT 的 423 条中第一人称亲历占 49.2%、引述或文档占 8.7%；Moltbook 的 133 条中引述或文档占 36.8%、第一人称亲历占 17.3%；两边把评价只当传闻（“我听说”）的比例都在 1% 左右及以下。
• 后续互动（表 4）：在有八卦锚帖的 169 个 PTT 主题与 85 个 Moltbook 主题中，含至少一条质疑的主题占比 65.1% 对 21.3%（分母为有可编码回复的 169 与 61）；首个回复即为附和之后，质疑出现的比例为 55.3% 对 16.4%，共识不再受挑战的比例为 44.7% 对 83.6%。把每个主题截断到前 K 条在题回复后，两条曲线仍不重叠：人类侧从 26.0% 升到 65.1%，智能体侧只从 6.6% 升到 21.3%。中性补充在两边都是 22%，说明差异集中在评价性回复。125

9. AI 社区自相关 0.167 对 Reddit 0.313、PTT 0.622：词汇流行不等于语义固化

• lag-1 自相关上 AI 社区落在低端：MoltBook 为 0.167（有效词 n=199，置换检验 p=0.41，即与随机打乱切片顺序无法区分），Reddit 为 0.313（n=182，p<.001），PTT 为 0.622（n=158，p<.001）；与 Reddit 的均值差经 bootstrap 得 Δ=0.141（95% CI [0.085, 0.197]，p<.001），这一对照同时控制了语言与时间粒度。
• MoltBook 的 B1 漂移约为两个人类社区的两倍（对 PTT 2.0 倍、对 Reddit 1.9 倍），B2 稳定性比 PTT 低 20%、比 Reddit 低 30%；七个 Reddit 窗口的跨窗口标准差 B1≤0.005、B2≤0.019，说明这不只是窗口选择的偶然。
• 社区年龄这一混淆项只做了部分控制：与 MoltBook 同龄的人类社区 r/vibecoding（2025-02-08 建立）前 8 周自相关为 0.082（95% CI [0.013, 0.152]，p<.001）、15 周为 0.220（[0.163, 0.274]，p<.001），即年轻人类社区也显著，而 MoltBook 的 p=0.41 不显著；作者据此认为差异不能简化为发育阶段，但也承认无法据此排除。
• 第二个 AI 平台 Chirper 只做方向性复核：B1=0.135、B2=0.181，偏差校正后自相关约 0.185（仅 5 个切片对，作者称为提示性），与 MoltBook 一起把两个独立 AI 平台聚在 0.17–0.19 区间。126

10. 南亚 5 种语言的 Wikipedia 问答：直接给上下文在 Hindi、Nepali 上优于最好的 RAG 配置

• 主结论：不给上下文的准确率在全部 5 种语言上最低；但 RAG 并非总是更好——平均准确率上 RAG 只在 Bangla、Urdu、Tamil 高于直接给上下文，Hindi 与 Nepali 上直接给上下文仍更强（第 9 节、图 8、图 9） 127
• 框架对比（100 条试点，表 5，百分比）：多数设置下 LlamaIndex 略优或与 LangGraph 持平，LangChain 在 Nepali、Tamil、Urdu 上明显更弱，例如 Nepali 上 DeepSeek V3 为 LangChain 51.0、LangGraph 53.0、LlamaIndex 55.0；Urdu 上 Gemma 3 为 11.0、10.0、15.0 127
• 模型差异：Meta Llama 4 Maverick 17B 在多数设置里最强，例如 Nepali 上 LangGraph 74.0、LlamaIndex 76.0（表 5）；DeepSeek V3-0324 与 Grok 4.1 Fast 在部分语言与条件下明显更弱 127
• 文化属性与热度：文化题与非文化题并不一致地谁高谁低；热门条目总体准确率高于非热门条目；非热门文化题从 RAG 得到的相对增益大于热门文化题，作者解释为基线越弱检索帮助越明显（第 8、9 节，图 3–5、图 10） 127
• 问题生成口径：先用 250 条样本人工比较 1 行与 2 行上下文，判定 2 行更好（1 行过于含糊、4 行会泄露答案），因此正式生成统一用 2 行上下文，并丢弃只有 1 行上下文的条目（第 3 节） 127

11. COUNT 把 n-gram 计数放主机内存：LM 损失等效多 46–89% 算力，免训练换表即可适配新领域

• 固定算力预算下，把 COUNT 作为额外输入嵌入用于 1B 参数语言模型预训练：验证损失（11 个验证源的平均 token 交叉熵）等效于标准 Transformer 多 46–89% 算力的水平；下游任务损失（74 个任务配置的平均 BPB，bits per byte）等效于多 6–56% 算力。128
• 显存受限时的取舍：COUNT 不增加可学习参数，因此在「总可学习参数预算」这条硬件无关坐标上，多数设置里 Pareto 前沿由 COUNT 占据；把对照的学习式 n-gram 嵌入学到同等表现需要额外参数并占用显存。128
• 表规模：旗舰实验用 797 GB 的 n-gram 表服务 370M、600M、760M、1B 主干；60M、100M、190M 用同一流程但阈值更严的 17.1 GB 表；n-gram 阶数统计到六阶，分数用 stupid backoff。128
• 推理期换表（零训练适配新领域）：在 1B 主干上加权插值通用表（797.487 GB）与领域表（数学 83.398 GB、生物医学 81.723 GB、法律 80.151 GB），λ=0.25 时三个领域的域内损失都下降，数学与法律的任务损失和准确率改善比生物医学明显；参照量是同预算下通用表相对标准 1B Transformer 的任务损失改善 0.010 BPB，与中等强度的领域加权相当。128
• 缩表部署：把表换成 459.222、142.037、68.458、17.114 GB 的一般域表（按历史计数与 n-gram 计数阈值缩放），1B 检查点在缩小一个数量级以上仍优于标准 Transformer，且无需训练。128
• 吞吐：1B 规模下训练吞吐保留标准 Transformer 的 93.1–97.8%、prompt prefill 的 95.5–95.8%、自回归解码的 95.9–96.7%（8 张 H200 测训练、单张 H200 测推理）；对照的学习式 n-gram 基线若按整表更新优化器只有标准吞吐的 4.4%（190M、17.1 GB 表），改为只更新被检索行后为 96.3%。128

十三、邻近跟踪：语音与音频侧的数据、表征与评测

1. Soloist 盲语音分离：免人数与目标查询，WildTV 计数准确率 1.000、PI-WER 0.150

• LibriMix 双人重叠（给定人数，表 2）：Soloist 干净 PI-WER（置换不变词错误率，越低越好）0.060、加噪 0.192；加噪条件下其余系统为 0.218 到 0.854。129
• 真实多说话人 WildTV（盲计数，表 3）：Soloist 语料级 PI-WER 0.150、计数准确率 1.000；单模型盲计数的 SR-CorrNet 为 1.940 与 0.217。129
• 噪声环境 ViW（表 4）：未处理输入 WER 0.261，各分离器反而升高，Soloist 升得最少（0.302）；其 DNSMOS 背景分 3.18/3.45 与总体分 2.45/2.56（均值/中位数，1–5 分越高越好）为全场最高。129
• 歌声分离（表 5）：SongYT 上 WER 0.253、RPA（原始音高准确率，估计基频落在参考 ±50 音分内的比例）0.854；MIR-1K 上 WER 0.354。129
• 训练消融（表 6）：计数准确率从「去时间线 SFT」的 0.890/0.574/0.565（LibriMix 干净/加噪/WildTV）升到「标准 SFT」的 0.926/0.735/0.761，加 RL 后三者均为 1.000。129
• 裁判验证（第 6.7 节）：40 组已知源混合、每组 8 个输出，直接听音频排序 0/40 通过顺序一致性检查，改成「先独立描述再文本排序」36/40 通过；在 PI-WER 相差超过 0.2 的 307 对里，裁判对其中 207 对给出偏好、其中 184 对与 PI-WER 顺序一致，即 88.9%（95% 置信区间 80.8–95.6%）。129

2. 语音访问修复：256 条真人录音上 ROUGE-L 比无修复高 0.0941，匹配范数的 SALSA 低 0.0707

• 文本更新确实留下可测的语音访问缺口：在 CosyVoice（语音合成系统）渲染的 PopQA（维基百科事实问答集）配对问题上（14,267 条事实、16 种关系），同一检查点经文本为 0.9213 ROUGE-L（最长公共子序列召回率）与 0.9187 EM（归一化精确匹配），经语音只有 0.1840 与 0.1519（§6.1）。130
• 语音状态并非丢了问题信息：在 600 对配对问题里做状态检索，top-1 准确率 50.3%，随机水平 0.17%（§6.1）。130
• 合成语音上分不出胜负：在 balanced PopQA 上，配对 bootstrap 不能确立 Affirm-Direct 相对 DiReFT、LoReFT（两种在指定解码层学低秩隐状态干预的方法）或 SALSA（学一个共享的语音感知激活向量）的优势（§6.2）。130
• 真人录音迁移上明显分化：用 PopQA-20（PopQA 的训练子集）训练的算子在 SLUE-SQA-5（语音问答评测集，每条含一段文本与一个口语提问）的 256 条真人提问（50 位说话人、5 个来源数据集）上不重训直接迁移，Affirm-Direct 比配对的 No Repair 提高 0.0941 ROUGE-L，LoReFT 提高 0.0774，而编辑范数匹配过的 SALSA 变体比其配对基线低 0.0707（§6.2）。130
• 变体之间还会反转：加上同一个 route field 后，专家版 parent（Affirm-Expert）在 TOFU（虚构作者事实问答集）上更高，直接版（Affirm-Direct）在 SLUE 上更高，EM 领先 +0.0430±0.0185（bootstrap 标准误）（§6.3、Table 3）。130
• 部署代价小：Affirm-Direct 存 0.46M 个学到的值、只改一个 decoder 状态、语音侧一次前向且不需要问题转写；紧凑变体 Affirm-K1 迁到另一个主干模型 Kimi-Audio 上把 RL/EM（ROUGE-L 召回率与归一化精确匹配）从 0.6321/0.0850 提到 0.6451/0.1188（§6.4、§8）。130

3. Anuvani-LID：115.6M 参数 Conformer，37 个核心条件平均宏 F1 0.914，比 Gemini 3.5 Flash 高 5.2 分

• SUITE-42 的 37 个核心条件上平均宏 F1 0.914（模型在 23 类里自由选），比 Gemini 3.5 Flash 高 5.2 分（95% 区间 [4.8, 5.5]），比 Sarvam Saaras 高 6.8 分，比最好的开放模型 MMS-LID-126 高 8.8 分；限制到与 API 相同的 10 个候选时达 0.923。131
• 全 23 类面板上平均 0.897，Voxlect Indic-Whisper 0.713、Gemini 3.5 Flash 0.710、GPT-audio 0.384；21 种语言的 F1 超过 0.90，最低是 Hindi 0.84 与印度英语 0.89。131
• 短音频是分水岭：1 秒输入下 FLEURS 上 0.764、域内 0.854，两处都比 Gemini 高 24 分（Gemini 为 0.520 / 0.611）；0.5 秒时 0.545，Sarvam 0.439、Gemini 0.231。131
• 校准可单独修好：在开发集上拟合一个温度（T=0.674）后，留出全 23 类测试的 15 桶期望校准误差（ECE）从 0.054 降到 0.008，100·Cavg 为 3.16、等错误率 1.79%；开集拒绝（最大 softmax 概率）对音乐与非印度语言 AUROC 0.89–0.91，但对 Hindi 的近亲 Chhattisgarhi 只有 0.84。131
• 训练配方的可复用结论：损失决定校准（余弦间隔头的 ECE 为 0.75–0.79，softmax 头 0.02–0.08，focal loss 在同精度下 ECE 0.023、比交叉熵低 2.6 倍）；温度采样存在倒 U 拐点 T=2（跨语料宏 F1 0.919，T=1 为 0.890）；编码器必须全量微调（冻结编码器只有 0.362，LoRA 0.821，适配器 0.822）。131
• 层数可以砍：把编码器截断到前 12 个 block（84M 参数）得 0.848，与用满 17 个 block（116M）的 0.840 相当；全量模型的注意力聚合把 30% 的层权重给了最后一个 block，此时单 block knock-out 的代价不超过 0.08 分。131
• 多模型融合被作者自己否掉：把不同配置的臂融合在短语音上理论增益可达 11.1 分（oracle 口径），但多数投票几乎拿不回来，所以最终只保留单网络。131
• 权重平均（soup）比取末点更好：7 个 checkpoint（100k/175k/275k/325k/350k/400k/425k 步）均匀平均得 0.8453，相对最终 checkpoint 把电话域 0.898 抬到 0.923，并把全 23 类测试的 ECE 从 0.077 降到 0.054。131

4. MuseBench：361,166 首曲目、10 个生成器上评 11 个检测器，PGD 攻击把 M5 漏报率推到 92.4%

• 构成：人类子集 19,903 首（Genius-Lyrics 9,983 首 + JamendoMaxCaps 9,920 首）、AI 生成 179,224 首、人机共创 9,887 首、变换变体三组各 53,805／53,805／35,870 首、域外 Free Music Archive 8,672 首（Table 4、§3.3）。132
• 默认设置（70/20/10 划分，每曲随机取 10 秒片段，指标为平衡准确率 ACCB）：ResNet18+Spec 与 AST 均达 100.0，ConvNeXt 99.8、ViT 99.7、SpecTTTra 99.5；手写特征的 Deezer 检测器 97.6，而 Q-SVM 只有 68.9（§4.2.1、Table 8）。132
• 商业检测器表现分化：Ircam Amplify 平衡准确率 81.0、精确率 98.6 但召回仅 71.1（漏报 28.9）；Resemble AI 平衡准确率 46.9、假阳性率 70.8（§4.2.1）。132
• 鲁棒性（表内为把 AI 曲目误判为人类的漏报率 FNR）：用 M5 与 RawNet2 为代理模型生成的 PGD（projected gradient descent，投影梯度下降）对抗扰动把 M5 推到 92.4%、RawNet2 推到 88.1%；变速变调把依赖频域指纹的 Deezer 推到 93.6%；MP3 转码把 AST 推到 24.9%、把商业的 Ircam Amplify 推到 63.6%（Table 1、§4.4）。132
• 域外人声检测：只喂人类曲目时 Deezer 仍达 94.4%，AST 79.8%、M5 75.8%，其余检测器均低于 60%，说明跨生成器表现好并不等于对陌生数据可靠（§4.2.2）。132
• 人工痕迹分析给出四类可复用信号：非惯用和声进行、放大上采样产生的频谱周期性、超出人类演奏物理限制的事件、以及假歌词与近似发音类声乐痕迹；频谱证据需对幅度谱再做一次 FFT（快速傅里叶变换）才显形（§6）。132

5. 22 语言零样本 diarization：时长加权 DER 16.78%，标注约定值 1.9–4.1 分

• 主结果（表 3）：在全部 1,164 段录音上取得 17.11% 汇总 DER 与 16.78% 时长加权 DER，是所有参评系统中最低（汇总 DER 的 95% 自助区间 [15.80,18.45]）；配对自助差全部排除零：对 pyannoteAI Precision-2 为 −0.47 个百分点（[−0.84,−0.09]）、对 DiariZen md-v2 为 −1.21（[−1.40,−1.01]）、对 NVIDIA Nemotron-3-Diarization 为 −1.60（[−2.18,−1.06]）。133
• 标注约定敏感性（表 2）：把同一说话人之间短于阈值 g 的间隙桥接起来（g 在 0.8 到 1.0 秒之间于基准上选出，只改约定不动声学判断），DER 下降 1.90 个百分点（本系统）、2.03（Precision-2）、2.91（DiariZen md-v2）、4.14（Nemotron-3）；同样的桥接用在字对齐参考的 VoxConverse、NOTSOFAR-1 与 MagicData-RAMC 上反而把 DER 抬高 0.68 到 6.01 个百分点。133
• 约定不可迁移（第 5.1 节、表 4）：用 302 通 SPRING-INX 电话转写训练约定解码器后冻结并评分一次，DER 从 17.11% 升到 22.74%；漏检语音从 8.91% 降到 2.89%，但虚警从 3.55% 升到 15.29%。133
• 覆盖面与代价（第 7 节）：领先三个最强对手的语言为 14/22，最大优势在未参与适配的 Manipuri（−1.92 个百分点）等；六个国际基准上均值 12.03% 对父模型 DiariZen md-v2 的 12.19%；网络 69.5 M 参数，六张 RTX A6000 上训练约 91 分钟。133

6. 冻结神经音频编解码器的索引重编码：512 文件 129.591 kbps，比原索引 XZ 对照低 25.943%

• 最终格式在 512 文件队列上为 129.591 kbps（含全部文件头与压缩开销），比开发阶段选出的原索引 XZ 对照 174.988 kbps 低 25.943%；62 文件队列为 142.696 kbps，比对照 193.606 kbps 低 26.296%。134
• 同一 zlib 设置下，预测式打包相对原索引表示把字节数降 35.994%（62 文件）与 36.012%（512 文件），逐片段降幅 30.847–53.420%。
• 无损证据：574 个文件的 latent 与波形逐位相等，模型状态哈希不变；例外记录在 62 文件上是 15,864,832 个标量元组里的 2 个、512 文件上是 121,807,104 个里的 10 个，全部原样保留。
• 队列构造：512 文件从 183,064 条路径出发，排除后得 38,345 个候选，按集合轮转选出 512 个（覆盖 136 个两级 pack key）；保留解码时长 2208.396 秒，62 文件队列为 287.709 秒。
• 被保留的重建质量本身差异很大：512 文件队列全带 SI-SDR 均值 4.332 dB、下四分位 −5.055 dB。

7. 36 个生理标记做深度伪造语音检测：域内 EER 21.40%，跨域 32.77%

• 在自建的 EDS-14 池化语料（12,198 条真实、70,085 条伪造英语录音，全部长于 14 s）上做域内（ID）评测：RBF 核 SVM 的等错误率 EER 21.40%，逻辑回归（LR）27.60%（表 III）。 135
• 去掉 MLAAD/M-AILABS 的缩水域内设定上，LR 29.47%、RBF SVM 41.25%；把 MLAAD/M-AILABS 完全排除出训练、只用于评测的跨域（OOD）设定上，LR 32.77%、RBF SVM 37.83%（表 III）。 135
• 两个分类器的跨域行为相反：相对缩水域内，LR 退化 3.30 个百分点，RBF SVM 反而改善 3.42 个百分点，作者据此认为 LR 在三种设定间更稳定（第 V 节）。 135
• 线性系数给出标记级解释（表 IV）：标准化后 shimmer 的 APQ5 系数 −4.01 把判定推向真实语音，平均呼吸时长 +3.73、绝对 shimmer +3.29 推向伪造。 135

8. CAFE：把 CKA 蒸馏梯度关进语言路由适配器，Open ASR 榜平均 WER 从 8.55% 降到 8.02%

• 在 Open ASR Leaderboard 的 EN-7（7 个英语短句测试集）与 ML-9（9 个多语测试集）上，用检查点平均（CA，checkpoint averaging，把最后 7 个检查点权重取平均）后：CAFE 平均 WER（word error rate，词错误率，越低越好）为 8.02%，基线（监督损失 + logit 蒸馏）8.55%，只加适配器不加特征损失的 Capacity 对照 8.51%，直接加 CKA 的版本 9.04%（表 3）。136
• 分语言看：CAFE 的 EN-7 为 9.03%，优于基线 9.85% 与 Capacity 的 9.67%；ML-9 从基线 7.24% 降到 7.00%。去掉 stop-gradient 后 EN-7 回到 10.44%（比基线还差）而 ML-9 仍为 6.95%，说明该操作几乎不损多语、只护英语。136
• 诊断数字：多语 CKA 梯度与英语激活子空间的重叠为 97.5%–99.5%，随机水平约 81%；三种损失层补救（语言门控 CKA、按 loss gap 门控、子空间投影）都没止住英语退化，语言门控 CKA 的 EN-7 为 11.21%、ML-9 为 7.18%。136
• 规模与成本：学生 254M 参数、教师为 Parakeet-TDT-0.6B-v3（约 0.6B），作者称落后约 2 个 WER 点；适配器让吞吐下降约 2.0%–3.8%；8 语言小规模复现同样为正（EN-7 10.11%→8.71%，ML-9 6.62%→6.53%）。136

9. 口吃起始连续预测：因果 Conformer 达 AUROC 0.63，25% 报警占空比覆盖 58.6% 事件

• 数据：FluencyBank Timestamped（FBT）36 位说话人，人工复核补充后得到 2,872 个预测事件（2,593 重复、129 拖长、150 阻塞），按 100 ms 网格共 164,694 个可评分帧，300 ms 视界下正例 8,121 帧、阳性率 4.93%。 137
• 300 ms 视界上因果 Conformer 的平均精度 AP 0.0769（为阳性率的 1.56 倍）、AUROC 0.6300，比因果 TCN 高 0.0411（95% 置信区间 [0.0196, 0.0615]）；GRU 没有超过 TCN（表 1）。 137
• 增益不是「看得更多音频」带来的：把静态 Whisper 窗口从 2.0 s 加宽到 3.8 s，AUROC 反而从 0.5682 降到 0.5666，而建模状态序列把它提到 0.6300（第 4.2 节）。 137
• 事件级口径：25% 报警占空比下，Conformer 提前覆盖 58.6% 的可评分事件（TCN 57.4%、GRU 53.8%）；放宽到 66.5% 占空比时覆盖 91.6%。 137
• 分类型 AUROC：重复 0.630、拖长 0.655、阻塞 0.612；但换成说话人内 AUROC（wAUROC），重复只剩 0.576（95% 置信区间 [0.564, 0.590]），拖长 0.540 与阻塞 0.541 的区间跨过 0.5（第 4.3 节）。 137
• 多视界：离散时间风险模型用单个模型给出 0.30 s 到 1.5 s 的 AUROC（0.604 到 0.575），与分别训练的五个二分类器相当，但按构造保证单调；独立多视界累计输出在 68.9% 的帧上违反排序（表 3）。 137

10. 从复调混音直接克隆乐器音色：CLAP 相似度 0.696、FAD 1.92，逼近干净独奏的 0.762／1.85

• 在 27 个留出的 NSynth 乐器上，Point-and-Play 的 CLAP 相似度（生成音频与合成目标的余弦相似度）为文本提示 0.706、同类别音频提示 0.678、目标乐器音频提示 0.696，接近「目标乐器另一音符」的 oracle 0.762（表 1） 138
• 两条音频提示配置的 FAD（基于 VGGish 的分布级真实度，越低越好）都是 1.92，接近干净参考 oracle 的 1.85；文本提示的 FAD 是 2.23（表 1） 138
• 与「先分离再克隆」相比，Point-and-Play 在 CLAP 相似度、FAD、MSS（多分辨率频谱距离）上全面优于 Demucs-closest（固定 stem，FAD 4.13）与 CLAPSep（提示条件分离，FAD 2.38）（表 1） 138
• 音高泄漏探测：用五折交叉验证的岭回归从音色码预测混音中目标音符的 MIDI 音高，R²=0.263，而在干净独奏的原始 music-CLAP 嵌入上是 0.783，说明音高信息被压制但没有消除（4.2 节） 138
• 损失消融（表 2）：去掉音频选择性损失后错误音频提示的相似度从 0.430 升到 0.469；去掉音频对齐损失后匹配音频提示的相似度掉到 0.417，已接近错误提示水平；去掉不变性损失则两种提示都退化 138
• 提示时长：2 秒不够，4 秒已捕获大部分检索增益，更长上下文只保持稳定，因此默认用 4 秒裁剪（图 3、4.2 节） 138

11. 流式逆文本规范化：块大小 5 时总延迟从 206 ms 降到 60 ms，流式 WER 4.18% 对离线 3.63%

• 越南语主结果（含标点与大小写恢复，即 With PnC 设定）：流式变体 S2（右上下文 1 步 look-ahead）的 WER（词错误率）为 4.18%，离线基线 B1/B2 为 3.84%/3.63%，B2 与 S2 的标注 F1 分别为 97.34% 与 97.19%；作为对照，端到端但只对孤立片段解码的 AdapITN 在同一设定下 I-WER（只统计规范化动作引入错误的词错误率）156.88%、WER 40.08%（Table 1）。139
• 真实噪声 ASR 转写上：流式变体 S4（缓存优化全开）相对混合流式基线 H2（前人工作的神经标注加 FST 规则系统）取得 21.43% 的相对 WER 降幅，相对 Wait-k（固定滞后的读写策略基线）为 9.82%，相对最强离线基线 B1 只增加 7.29%（Table 2、§4.4）。139
• 延迟：在单张 H100、batch 100 的模拟高并发下，块大小 5 时总延迟从 206 ms 降到 60 ms（3.43×），编码器延迟从 54 ms 降到 10 ms；95 分位延迟（p95）165.5 ms（加解码器缓存）对 249.0 ms（仅编码器缓存），而块大小 5 大致对应 500 ms 音频，因此 95 分位也在实时以内（§4.2、Fig. 2）。139
• 右上下文很关键：有 1 步 look-ahead 的 S2 相对零 look-ahead 的 S1，在 With PnC 与 Without PnC 两种设定下分别取得 19.31% 与 21.95% 的相对 WER 降幅（Table 1）。139
• 数据规模：基于约 60 亿词的越南语新闻语料，用生成管线产出 500 万条训练句对、5 万条验证、5 万条测试，并附短语级对齐与 token 级规范化边界标注（IOB）（§2.6）。139

12. TVPara：492 小时剧集副语言字幕，微调 LALM 平均相对提升 31.26%，并暴露音量预测的伪提升

• 数据属性拉开与干净语音的差距：67.2% 的 TVPara 片段带非中性情绪，VoxCeleb 只有 2.9%；36.2% 带背景声，VoxCeleb 8.0%；多句片段里 55.5% 的相邻话语情绪类别不同。140
• 标注成本可用两个数字追踪：标注员最初改动约 38% 的预标注，回训后降到约 17%；首批约 1 小时双标注的「是否需要改」一致率为 87%；多句合并字幕人工只改了约 4%。140
• 微调增益：SFT 相对零样本的逐格平均相对提升为 31.26%，多数增益在逐片段 Wilcoxon 符号秩检验下 p<0.01。140
• 关键的「伪提升」反证：SALMONN 微调后预测的音量档位与实测片段能量的 Spearman ρ 从 0.03 升到 0.85，说明增益至少部分来自真实声学感知；Qwen2.5-Omni 的同一相关性微调前后都在 ρ≈0.03，只是把输出分布推向训练标签。140
• 泛化：在未见剧集上，带背景声片段的逐格平均相对提升 32.4%，不带背景声的仅 19.9%；转到更干净的 VoxCeleb 时 SALMONN 四个属性全部提升（音量 ρ=0.73），未见剧集上音量 ρ=0.87。140

13. ONCship：4521 小时水下声学语料，联合预训练把 DeepShip 线性探针准确率做到 62.45%

• 语料构成（表 3）：单船带船型标注 3106.8 小时、多船 929.1 小时、单船无标注 38.4 小时、无船 7.4 小时、未下载 AIS 的 USSLP 439.3 小时，合计 4521 小时；原始元数据 24 个船型标签去掉 Reserved 与 Unknown 后为 22 类，分布长尾。
• 预训练对照（表 5，EAT 线性探针）：DeepShip 上仅 ONCship 的 NMI（归一化互信息，K 均值聚类与真实标签的一致度）0.2021、检索 AUC 0.6437，高于仅 AudioSet 的 0.1877 与 0.6297；联合预训练取得最高 AUC 0.6540 与准确率 62.45%。ShipsEar 上仅 AudioSet 的 NMI 与 AUC 最好，但联合预训练的准确率 76.18% 最高，比仅 AudioSet 的 70.40% 高 5.78 个百分点。
• 与外部对比方法比（表 6）：EAT 联合预训练在 DeepShip 上 62.45% 准确率、62.49% 加权 F1，比 ResNet18(LARS) 的 57.78% 与 56.00% 高 4.67 与 6.49 个百分点；ShipsEar 上 76.18% 与 77.25%，比 43.94% 与 42.00% 高 32.24 与 35.25 个百分点。
• 增训（表 7，三次重复的均值加减标准差）：BEATs 从仅 DeepShip 的 68.11±3.95 升到同水听器增训的 69.41±2.22、异水听器增训的 68.85±4.43；EAT 从 65.64±5.96 升到同站 68.16±3.75，异站只到 65.95±5.16；ResNet50 反而从 39.45±7.94 降到 36.38±6.86。
• MMSI 级识别（表 8，50 个身份、100 小时）：交叉熵损失 Top-1 0.5312、Top-5 0.6957、宏 F1 0.5307，ArcFace 损失 0.5320、0.6892、0.5333。141

14. SEA-HELM Audio：语音输入让多选推理掉 9.00–18.50 分、指令跟随掉 20.00–42.86 分

• 多选（Global-MMLU-Lite，每次运行 400 题，TTS 用 OmniVoice）：中文 Δ 在 9.00–10.75 分之间，英语差得多，为 15.50–18.50 分；例如英语 Qwen3-ASR-1.7B + SEA-LION-4.5-27B 为语音 69.00 对文本 87.50（Δ=18.50），中文同配置为 71.50 对 80.50（Δ=9.00）（表 3）。142
• 指令跟随（SEA-HELM IFEval，每次运行 105 题，TTS 用 ElevenLabs v3）：Δ 扩大到 20.00–42.86 分（§5.2 表述为 20 到 43 分）；泰米尔语最严重，MERaLiON3-ASR-3B 管线为语音 47.62 对文本 87.62（Δ=40.00），商用管线同样 Δ=40.00（表 4）。142
• 商用栈（ElevenLabs Scribe Realtime + Gemini 3.5 Flash）语音准确率普遍更高，但文本侧 SEA-LION-4.5-27B 在印尼语 IFEval 上反超（94.29% 对 89.52%），作者据此判断开放权重管线的瓶颈在声学转写层而不是 LLM 的区域推理能力。142
• 任务结构影响 Δ 的机制：多选只要求认出关键概念，LLM 常能从带噪声的转写里恢复；IFEval 逐条校验提示里的词法、长度与格式约束，ASR 一旦丢掉约束词，回答的就是「另一道题」，规则验证器直接判失败。142

15. AUPR 23.0→64.0、TPR@FPR 0.1% 9.4→60.6：用单个故障的样本做少样本适配

• 协方差正则先改善无监督阶段：平均 AUPR 从 20.0 提到 23.0，10 次训练的 AUPR 标准差从 8.0 降到 6.2。
• 少样本适配再把平均 AUPR 从 23.0 提到 64.0；低误报区指标同步改善：pAUROC（限定在 FPR≤1% 区域的偏 AUC）从 39.6±0.9 升到 72.8±0.4，TPR@FPR 1% 从 64.4±1.0 升到 89.3±0.0，TPR@FPR 0.1% 从 9.4±0.8 升到 60.6±0.1。
• 未做正则的基线 UNS 为 pAUROC 35.5±1.2、TPR@FPR 1% 58.0±1.4、TPR@FPR 0.1% 7.5±0.8，即适配前在 0.1% 误报下平均检不出十分之一的异常样本。
• 逐折看，pAUROC 从 UNS 的 42.4／19.6／44.4 升到 75.2／64.5／78.7；作者据此指出样本极小时绝对数值对训练–测试划分很敏感。143

16. 声学-语义冲突诊断：四类冲突 ASPIRE 上 ACR-Net ACC 68.4 对 FAS 42.5（极性冲突）

• 基准构成（第 2 节）：1,800 条提示经 EmotiVoice-1.5B 生成 1,523 段音频，逐级过滤后得 1,200 条（800 冲突、400 正常），5 折交叉验证每折 960 训练与 240 验证，另加 200 条独立测试集；冲突由 4 种目标声学情绪（中性、悲伤、惊讶、愤怒）与 7 种文本情绪交叉出的 24 种非一致组合构成，保留 19 种，归为极性相反、唤醒相反、效价相反、情绪掩蔽四类（表 1）。144
• 表示策略对照（表 2）：朴素拼接 ACC 41.2、SOP 0.824、LDD 0.108；张量融合 43.8/0.776/0.115；MCR 重加权 48.5/0.628/0.242；只用跨模态注意力 53.0/0.534/0.334；只用解耦损失 62.1/0.253/0.697；ACR-Net 最优配置（λ=0.1、m=0.5）76.5/0.128/0.864。144
• 四类冲突（表 4）：极性相反上 MCR 为 ACC 35.2、SOP 0.612、LDD 0.205，FAS 为 42.5/0.548/0.288，ACR-Net 为 68.4/0.185/0.812；唤醒相反上 ACR-Net 为 85.2/0.092/0.885。144
• 标准一致语料（表 3，ACC %）：ACR-Net 在 EmoDB 88.5、SAVEE 88.6、RAVDESS 93.1，均高于 MCR 的 80.4/81.4/91.8 与 FAS 的 83.2/83.8/92.0；但 CASIA 上 Qwen2-Audio 的 91.8 高于 ACR-Net 的 86.8。144

17. Opus 感知透明：128 kbps 被判有损（p=0.030），160 kbps 通过等价检验（p=0.024）

• 第一阶段（26 名听众、23 段音乐、32／64／128 kbps）：事后筛查剔除 5 人（2 人违反强制选择、3 人未通过 32 kbps 锚点判别）后剩 21 人。128 kbps 平均 Diffgrade（压缩样本得分减参考得分）为 −0.082（95% CI [−0.298, 0.134]，p=0.456），与参考不可区分；64 kbps 为 −0.438、32 kbps 为 −1.661（均 p<0.001）；但严格等价检验下 128 kbps 以 p=0.064 未通过。145
• 第二阶段用第一阶段 LMM 的 BLUP（best linear unbiased predictor，最佳线性无偏预测）挑出 10 名最苛刻听众与 8 段最暴露伪影的样本做压力测试（32／96／128／160 kbps，每人 32 次试听）：128 kbps 被判有损（−0.236，95% CI [−0.449, −0.023]，p=0.030）；96 kbps 为 −0.217（p=0.045）；32 kbps 为 −2.982（p<0.001）；160 kbps 为 −0.035（95% CI [−0.248, 0.178]，p=0.747）并通过 TOST 等价检验（p=0.024）。145
• 模型选择本身得到验证：随机效应的标准差从听众 0.346、样本 0.286（第一阶段）降到 0.118 与 0.195（第二阶段），说明筛选出的是一批同质且严苛的听众与整体更难的素材。145
• 语料与设置：23 段 = 7 段取自 Hydrogenaudio 参考基准的最坏样本 ＋ 16 段自选；用 libopus 1.6.1 音乐模式（CELT）、非受限 VBR，23 段中有 17 段实际编码码率高于目标；全部归一化到 −23 LUFS（EBU R 128）；封闭隔声间、Beyerdynamic DT 770 Pro（80 Ω）耳机并做平频校准。145

18. 神经算子做 HRTF 上采样：100 测点 LSD 2.3 dB（低 18%），重建快 15–373 倍

• SONICOM（LAP24 测量配置，测点数 M∈{3,5,19,100}）上，SPARO 在每个稀疏度都取得最低 LSD（对数谱失真）与 ILD（双耳声级差）误差：100 测点时 LSD 2.3 dB、最强基线 IOA3D 为 2.8 dB，低约 18%；ILD 误差在 100 测点较最优基线低 43%（表 1）。 146
• 重建稠密 HRTF 比领先的神经场方法 RANF 快 15–373 倍（100 测点：SPARO 0.56 s 对 RANF 207.2 s）；ITD 误差与最优方法相当而非最优（100 测点 SPARO 10.4 μs、RANF 10.0 μs）。 146
• 在模拟 HUTUBS 上对球谐基线 SUpDEq 与 RANF 全面更低 LSD，仅 6 个观测方向即达 3.39 dB，约相当于把所需测点数减少 4–6 倍；10 名留出被试在每个采样档都更优（表 2）。 146
• 消融：去掉局部交叉注意力（LCA）或 TTO 都在多档退化，LCA 的收益随测点数增加而增大，TTO 在各档都有帮助（表 3）。 146

19. vst-bench-ml：密封清单做离线完整性核验，两次全新进程复现 8 个输出哈希

• 在固定 macOS arm64 与 Python 3.12.13 栈上，两个全新进程各自渲染并保留 8 条记录（4 组采样参数配置 × 2 个固定 MIDI 信号），两次复现同一渲染计划哈希与全部 8 个预期输出字节哈希。
• 12 个负例全部通过，覆盖替换包产物、错误插件身份、宿主不可达、参数格式错误、缺失归一化、越界值、复位/回读不一致、重复尝试、输出损坏与账本证据不全（Table 3）。
• 0.1.1 版本另做发布校验：包测试 31 项、配套测试 36 项通过，并再次复现计划摘与 8 个输出哈希；此前的 0.1.0 候选版本通过生产者侧持续集成与本地验证；负例集同样通过。
• 复用路径被明确分级（Table 4）：生成观察、核验核心数据集、跑配套一致性检查属「已在固定栈上演示」；换宿主实现与改质量规则只是「提案」，各自需另行验证与版本化。
• 论文对证据边界给了明确否定式：这些检查只在被测环境内确立完整性与可重复性，不确立可移植性、科学适用性或感知质量。147

十四、播客线覆盖说明与本期可迁移结论