
本期收录 9 月 16 日「自然语言处理学术速递」栏目 74 篇中的 30 篇:十种审计工具对同一批模型给出互不相容的排名、知识放进上下文还是参数里有明确的工程边界、强化学习会学掉奖励没有定价的行为。
| 优先级 | 层级 | 论文(英文原题 · arXiv ID) | 改动位置(维度) | 核心可比结果(含比较对象与口径) | 阅读风险与证据局限 | 入口 |
|---|---|---|---|---|---|---|
| 1 | 直接命中 | Are We Grading Properly? Understanding Failure Modes in Medical Benchmarks · 2609.16023 | 只改评分结构(捆绑 rubric 拆成等权子项),冻结回答与判官 | HealthBench Professional(HBP)525 段对话/1,135 条准则、LiveMedBench 2,756 例/16,702 条准则:把「至少满足一条」式(析取式)捆绑准则拆成等权子项后,受影响对话上分数移动 −8.4、−8.2、−15.9 个百分点(三个数分别对应不同的回答者与判官组合);把「必须全部满足」式(合取式)拆开后移动 +18.9 个百分点;全基准口径为 −3.1 到 −6.0(析取)与 +2.7(合取);LiveMedBench 析取 −0.43/−0.58 分 | 15.9 个百分点只限特定回答者与判官的受影响对话;结论依赖单一 GPT-5.4 检出标签;无显著性检验 | 栏目 · arXiv |
| 2 | 直接命中 | Challenges of Auditing: Variability in Outputs of Large Language Models for Health · 2609.16590 | 只改访问通道(标准 ChatGPT / ChatGPT Health / API) | 50 个健康问题、两个模型版本、每题每条件 3 次:跨通道网页引用 Jaccard 仅 10.9%,同通道约 17–18%;形式与行为多项 p<0.001;到了 GPT-5.4 这个版本,三条通道在可读性与格式密度上的差异方向反了过来 | 数据与代码只有将来时声明,不可复现;效应不跨版本稳定;多个未校正 p 值,n=50 | 栏目 · arXiv |
| 1 | 直接命中 | Bias Audits Detect Bias but Disagree on Ranking · 2609.15995 | 只改测量层(十种审计工具统一量纲与面板) | 10 模型 × 10 工具、温度 0、20,000 次置换:十种工具里 8 种能以 bootstrap 95% 区间检出偏见;跨工具 Kendall's W=0.07(p=0.83),ICC≤0.12;补入 6 个弱模型后工具内可靠性恢复、跨工具排名不恢复 | 工具按原设计重实现,不能与原论文数字对齐;主排名实际 9 模型/8 工具;负结果只能排除 W>0.23 的强一致 | 栏目 · arXiv |
| 2 | 邻近跟踪 | Few-Shot Degradation Is Not What It Seems · 2609.15990 | 只改测量指标(随机文本对照分离长度伪影与内容增量) | 12 个开放权重模型(10 个进入有效分析)、2 个任务:原始表示位移与获益 r=+0.20(p=0.59,n=10);内容增量与获益 SIB-200 ρ=+0.648(p=0.043,n=10)、法律 ρ=+0.588(p=0.074);Llama 3.3 70B 总位移 79% 来自长度 | n=10 仅提示性;因果消融只做一个 4-bit 模型;数据页 README 的标题与 arXiv 编号与本文不一致 | 栏目 · arXiv |
| 1 | 直接命中 | Latent Undertow: How Ordinary Typos Break Probes · 2609.15994 | 改探针读出位置与输入封装(KV 缓存分叉) | 168,440 条样本训练、5 折分层交叉验证、种子 42、Llama-3.1-8B 第 31 层:TPR@FPR=1% 97.4%→85.4%(−12.0 个百分点),AUC 仅降 0.55;KV 缓存分叉追加 30 token 后缀残差 −0.6 个百分点,补充训练残差 −3.7 | 探针后果只测单模型单层,无层扫描;堆叠错字重于真实噪声,12.0 应作上界;留一数据集外验证里无扰动 AUC 已降到 0.81–0.92 | 栏目 · arXiv |
| 1 | 直接命中 | An Empirical Study of Counterfactual Self-Explanations in LLMs · 2609.17119 | 只改自我解释生成方式与忠实性度量 | 10 个指令微调模型 × 2 任务 × 3 提示:忠实性与规模 Spearman ρ=0.866(p<0.001)、每规模翻倍 β=0.119(95% 区间 0.092–0.147);理由引导在 15/20 个设置上最小性与人类对齐最高,忠实性反而下降 | 实例数 N 原文未报告,所有比例缺分母;汇总统计为跨设置描述性分析;仅限二分类任务 | 栏目 · arXiv |
| 2 | 直接命中 | Vroom-Vroom at SHROOM-Visions · 2609.17327 | 只改判官聚合层(异质多评委字符级投票) | SHROOM-Visions 四语言字符级幻觉片段检测:字符级投票 ≥2 时未见挑战集 Cor 均值 0.5730、IoU 0.4943,法/意/中在相关类指标第一;判官票数越多的分组,对应的人类标注共识也越强(字符级 Spearman 0.39、记录级 0.51) | 训练/验证/挑战集样本量未报告;阈值在带标签测试划分上调好再用于挑战集;追加的探针未提升成绩 | 栏目 · arXiv |
| 2 | 直接命中 | Retrieval-Driven Memory Reconsolidation for Long-Term LLM Agents · 2609.16053 | 改记忆层与推理期检索(检索结果反过来改写记忆拓扑),权重不动 | LoCoMo 平均 75.97 对最强基线 MAGMA 68.80(+7.17);LongMemEval 65.11 对 Zep 63.80(+1.31);再巩固消融 73.96→75.97、62.98→65.11,骨干与判官均为 gpt-4o-mini | 基线数字跨论文拼装;样本量未报告;无种子/重复/显著性;LongMemEval 单会话偏好子类只有 36.66,低于所有基线 | 栏目 · arXiv |
| 1 | 直接命中 | The Immutable Past: Formalizing State Mutability and Conflict Resolution in Mutable RAG · 2609.16073 | 只改推理期控制(检索后、生成前的上下文一致化),写入保持追加式 | 冲突解决准确率:deepseek-v3(n=74)标准 56.8 / 时间戳 20.3 / 本方法 97.3;o4-mini(n=38)28.9 / 10.5 / 92.1;gpt-4o(n=38)68.4 / 10.5 / 10.5;仅两行 p<0.01 | 摘要的「>90%」只在三分之二模型上成立;正文 n=38/74 与附录 48/65 不一致;合成数据未公开,无代码,复现成本高 | 栏目 · arXiv |
| 1 | 直接命中 | Where Should a Document Live: Context, Representations, or Parameters? · 2609.17346 | 只改知识载体(上下文 / 潜表示 / 参数),按每文档内存对齐预算 | Qwen3-8B 单文档固定尺寸 3 次均值:上下文内学习 73.6、Compaction 73.4、Cartridges 70.6、LoRA 64.5、MLP 62.2、全量微调 59.8;多文档 k=3 时 LoRA 在 TechQA 57.4→23.5、FinQA 34.5→4.9,Cartridges 维持并提升 | 摘要里 10/29/15 个百分点与「编码掉 13%」在正文没有口径,只能读图;无代码;合成数据依赖 120B 模型,重建成本高 | 栏目 · arXiv |
| 3 | 邻近跟踪 | Persistent Recurrent Memory Between Transformer Layers · 2609.17251 | 改架构(层间插一个循环记忆模块并训练其参数) | TinyStories 22M 模型、5 个种子、均值±95% 区间:本方法评估损失 1.743±0.018 对标准 2.438±0.004(p<0.01),泛化间隙 0.255→0.122;对同拓扑 GRU 记忆 −0.023±0.028,不显著 | 单模型族、单数据集、22M 规模;方法章对辅助损失的定义自相矛盾,本方法那一行无法逐字复现;只能当小模型架构启发 | 栏目 · arXiv |
| 1 | 直接命中 | Register Tokens for Bounded-State Reasoning in Diffusion Language Models · 2609.16372 | 改权重(后训练 register 机制与解码器)加推理期状态携带 | LLaDA-8B/Dream-7B:GSM8K(C=128)离散文本携带 40.6、记忆携带 48.4、register 49.1,全序列监督微调 57.4±1.4;Dream MBPP(C=64)21.4→40.9;对离散文本携带在数学全 8 行占优 | 8.5 与 19.5 个百分点只对「离散文本携带」成立,数学上仍低于无携带的全序列监督微调;主表数学与部分消融评分器不同;多数对比单种子 | 栏目 · arXiv |
| 2 | 直接命中 | State of Thought Enables Endogenous Reasoning · 2609.16055 | 只改推理期控制(582 参数控制器决定激活哪段历史证据与何时停止),骨干冻结 | 3 个骨干 × 16 个数据集:Llama-3.1-8B 域级相对最强非本方法基线 +6.8 到 +15.9 个百分点;效率上 223.9 token/9.8 秒,对采样与搜索的 472.7 token/29.0 秒 | 摘要里 1.34×、1.62× 等倍数在正文无定义;62.6%/44.6% 与正文 52.6%/66.4% 属不同基准与聚合;无种子、重复、显著性;官方实现未发布 | 栏目 · arXiv |
| 1 | 直接命中 | When Should LLMs Abstain? Chain-of-Self-Questioning for Selective Risk Control · 2609.17516 | 只改提示层与门控决策,不动权重 | TruthfulQA 多选 817 题、11 个模型、17 种条件(τ=0.90):无条件错误承诺率 13.1%→8.9%(−4.22 个百分点,相对 −32.1%),已回答题目准确率 86.9%→89.7%,覆盖率 87.6%;配对 Wilcoxon p=0.00049,效应量 d_z=1.44,11/11 同向 | 89.7% 是条件准确率,须与 87.6% 覆盖率同读;链式思考基线本身不优于直接回答;弃权题里 68.7% 属本来答得对却被弃答 | 栏目 · arXiv |
| 2 | 直接命中 | Spurious Tool Use: When RL Agents Learn the Wrong Reason to Act · 2609.16268 | 改奖励信号(决策级工具必要性定价)与训练数据(线索注入) | Qwen2.5-7B、GRPO、1,000 条合成样本、30 步、单种子:注入无关线索后 GSM8K 虚假搜索率 +39.2 个百分点(0.9→40.1),DeepMath +19.9;补上必要性奖励后回落 0 到 0.3 个百分点,准确率维持;相关性 100% 时 +21.7,70% 以下约 0 | 1,000 条样本、单种子、30 步、单一 7B;判官标注的工具必要性会压制防御性调用,未做判官噪声敏感性;合成环境外推有限 | 栏目 · arXiv |
| 1 | 直接命中 | Smarter by the Moment: Environment-Driven Dynamic Policies for Continual LLM Improvement · 2609.16800 | 只改推理期提示(把检索到的对错案例蒸馏成 ≤5 条可执行策略),权重不动 | 7 个模型 × 6 个基准 = 42 个配置,对 Self-StreamICL 胜 29/42:Spider p=0.016、CoSQL p=0.031 显著,BIRD p=0.078、HotpotQA p=0.547、DDXPlus p=0.938、DS-1000 p=0.734 不显著;固定种子 42、温度 0 | 依赖每一步干净的二元对错反馈,真实部署难提供;13 个配置未胜出且无误差范围;部分配置低于基线 | 栏目 · arXiv |
| 1 | 直接命中 | Rewarding Reasoning, Not Answers: Fixing and Bounding Test-Time Reinforcement Learning on Medical QA · 2609.16660 | 改奖励信号(步骤分取最小)与权重(测试时自训练) | 无标签、N=16:Llama-3.1-8B avg@16 0.635→0.740(+10.5 个百分点),四数据集;maj@16 0.683→0.749;min 聚合比 mean 高 8.5 个百分点,mean 比基座低 0.9;专用医学模型最强约 0.665 | 单次运行,无种子、显著性、置信区间;只验证一个领域过程奖励模型;Qwen3-1.7B 上仍不占优,约 4B 以下边界未刻画 | 栏目 · arXiv |
| 2 | 直接命中 | Towards Scalable RLVR: Multimodal Instruction Following Data Synthesis and Distillation · 2609.16059 | 改训练数据(合成加三步蒸馏)与奖励(规则验证器) | Qwen3-VL 4B/8B/32B,四个基准平均、3 次运行:8B 基座 77.4→监督微调 80.5→强化 85.5→两者叠加 86.6;50 万条压到 90,838 条(压缩 82%),三档模型的四基准平均提升 8.16、8.13、8.52 个百分点,训练效率约 3 倍;只做监督微调时,通用视觉能力下降 12.3 个百分点 | 「四个基准」含自建同源集与纯文本基准;SFT 与 RL 的取舍需一起读;128 张昇腾 910B,复现门槛高 | 栏目 · arXiv |
| 2 | 直接命中 | The Imitation Game: When LLMs Learn to Reason Like Programs via Code-Centric Reasoning Data Synthesis · 2609.16076 | 改训练数据(代码中心四阶段合成)与奖励(代码插桩过程奖励,免外部过程奖励模型) | Qwen3-4B、GRPO:通用推理均值 +3.8、数学 +4.8 个百分点,AIME 15.6→28.3;奖励消融里插桩奖励 +5.0/+3.8,PRM800K 只 +1.2,Math-Shepherd 数学 −1.4 | 需要可执行且有插桩的参考代码,换任务不成立;单次运行无误差区间;奖励消融同时混入奖励形式与判官模型两个变量;仓库不含数据集本体 | 栏目 · arXiv |
| 2 | 直接命中 | TIAO: Token Importance-Aware Policy Optimization for Text Summarization · 2609.16748 | 只改信用分配(序列级优势重加权加 token 级更新掩码) | CNN/DailyMail、UniEval 四维总体、Qwen2.5-7B:0.960 对基座 0.879、GRPO 0.922、HVO 0.943、DAPO 0.909;掩码比例 20/50/80 对应 0.959/0.960/0.957 | 单数据集、单基座、单次运行;多数分差在 0.02 到 0.05 量级,表内标准差是四维分数间差异而非跨运行方差;对照分数引用他文而非同协议重跑 | 栏目 · arXiv |
| 3 | 邻近跟踪 | ViCo: Visual-oriented Coding with Self-Reflection for Chart Replication · 2609.16014 | 改奖励信号(自建视觉奖励)、信用分配(反思步与编码步分级)与训练数据(自监督搜索暖启动) | 8B 模型:RealChart2Code 通过率 98.8%(基座 86.6),复杂布局视觉分 1.2,加推理期外挂流程后 7.6;去掉反事实基线通过率 98.8→47.1;自建视觉奖励与人工判断相关 ρ=0.724(简单)/0.458(复杂),200 样本 | 项目仓库目前只有一行 README,无代码与权重;对照分数引自他文;复杂布局视觉分塌到 1.2,补救办法是推理期外挂而非训练所得;无多种子与置信区间 | 栏目 · arXiv |
| 1 | 邻近跟踪 | ECHO: A Matched-Contrast Benchmark for Context-Sensitive Turn-Taking in Full-Duplex Dialogue · 2609.17360 | 只改评测(配对对照基准与配对指标) | 266 组对照、549 条实例,构成 300 对可比较的对(每角色 183 条实例、每类对照 100 对):文本参考打断 90.71% 与附和保话轮 86.34%,Lychee-FD 打断 98.91% 而附和保话轮 1.09%;三个让出偏向系统整体准确率最高 35.70% | 标签与声学渲染共变(起始强调与轨道淡出),让出偏向的归因被削弱;每角色 183 例、无置信区间;无种子、无重复、无显著性检验 | 栏目 · arXiv |
| 1 | 直接命中 | RoleBreak: Benchmarking Long-Horizon Role-Playing Robustness in Spoken Dialogue · 2609.16614 | 只改评测(长程角色扮演基准、首次失败轮与声音情感维度) | 9 种配置、310 角色、6,688 轮、11,743 条标准、平均 21.57 轮:最强级联系统人设 80.3、首次人设失败 10.4 轮、安全 71.7、首次安全失败 11.6 轮、声音情感 14.1;九个系统输出情感全部低于 14.7 | 用户输入是语音克隆合成音频,未覆盖真实口语韵律与口音;评判依赖单一语言模型判官与两个自动情感模型,未做人工对齐;单次运行 | 栏目 · arXiv |
| 1 | 直接命中 | DiaWhisper-DPO: Role-Attributed Transcription of Clinical Interviews via Failure-Mined Preference Optimization · 2609.16661 | 改输出结构与训练目标(角色 token 加帧级辅助头,用真实解码失败构造偏好对) | DAIC-WOZ 测试 29 会话:角色准确率 0.973、说话人分离错误率 0.119(最强启发式基线 0.431,相对低 72%)、字错率 0.048;PDCH-HAMD 测试 26 会话:角色准确率 0.757、字错率 0.505,反而高于 CAM++ 的 0.489;逐对改善 87/87 与 78/78 | 双人对话里的医生一侧是合成音频,0.973 不能外推到真实录音;重叠语音没有单独结果,只有一个打断标记;无公开代码与权重 | 栏目 · arXiv |
| 1 | 直接命中 | Diagnosing the Fact-Grounding Gap in Multi-Hop Question Answering · 2609.17043 | 只改诊断口径(逐跳事实存在性与三类失败分解),附一个分类器做定向再检索 | 主分析 6,401 个跳步骤(每一次跳算一步):检索失败 30.7%、提取失败 27.3%、支撑事实齐全 42.0%(这三项按跳步骤计),提取失败占逐步缺陷 47%;分类器 F1 0.785;MuSiQue 准确率:基线 51.9% → 定向干预 55.6%(覆盖 50%、1.32 次调用)→ 每跳都干预 54.6%;三跳上全体干预 −2.1 个百分点;判官与人工一致率 92.0%、κ=0.840 | 27.3% 与 47% 必须带各自分母;「关系事实在全语料缺席 97.7%」依赖答案串检索,未人工抽检;分类器只在 MuSiQue 上训练,跨数据集需逐行看表 | 栏目 · arXiv |
| 2 | 直接命中 | Lit3R: Retrieve-Relate-Read for Evidence-Grounded Question Answering over Scientific Literature · 2609.16912 | 改检索与阅读的工程组合(双排名融合、伪相关反馈、分篇到跨篇) | 验证集 55 题候选召回@50:多篇 0.647→0.940、全量 0.814→0.968;官方测试集 71 题单次提交:论文级 F1 0.992、证据级 F1 0.737、多选 1.000、表格单元格准确率 0.309,榜上第 4 | 测试集仅 71 题且单次提交,0.992 与 1.000 不能当强弱依据;表格题是短板;同一批 55 题既调参又分析;训练-free 但仍含多轮调用与两个 8B 模型,成本未报告 | 栏目 · arXiv |
| 2 | 直接命中 | RiskChainBench: A Benchmark for Obfuscated Platform Message Restoration and Evidence-Grounded Web Investigation · 2609.16900 | 只改评测协议(两段任务分开评加离线门控复合、首次失败归因) | 600 个网站、3,600 条遮蔽消息、每模型每对一条轨迹:入口 Top-1 35.19%–95.22%,网页决策准确率 26.3%–62.8%,门控后端到端 16.7%–60.8%,损失 0.7 到 32.3 个百分点;首次失败中执行失败 31.9%、决策后类型错误 0.9%;区间为 2,000 次网站级 bootstrap | 基准本体没有公开地址,短期无法复现;每对只跑一条轨迹,31.9% 的执行失败里模型能力与环境稳定性不可分;门控损失由入口 Top-1 决定,更像恢复能力的再计分 | 栏目 · arXiv |
| 2 | 直接命中 | PaperDoctor: Evidence-Grounded and Actionable Feedback for Scientific Papers in Progress · 2609.16995 | 改工作流(表层筛查到类型化验证到选择性复现)与输出契约 | 30 篇进行中论文、1,299 条发现,作者逐条评:证据接受率 70.6%,验证层被拒 11% 对表层 27%,实验设计类发现接受 81%、图表 42%;40 篇稿件对照带证据比例 45.2%(人类)/2.2%(智能体)/100%(本方法);复现层 43.8 条主张里 14.5 条成计划、18.0% 可运行、47.0% 从未跑到命令 | 30 篇属作者自评,与「是否真改好稿子」有缺口;复现层没有统一分母;对照里人类一方的带证据比例按不同粒度统计;唯一相关统计 r=+0.29、p=0.12(n=30) | 栏目 · arXiv |
| 3 | 邻近跟踪 | Benchmarking Factual Robustness of LLMs via Multi-conversation Persuasion · 2609.16777 | 只改评测设定(无状态目标、有状态攻击者)与攻击侧控制回路 | 五组消融、CounterFact-Strict 50 题、每题 8 轮、攻击者、目标与判官三个角色都由 DeepSeek-Chat 扮演:无记忆随机基线说服留存率 96%(48/50),完整控制回路 90%;命中轮里说服型占比 84.7% 对 78.6% | 50 题、8 轮、单模型族,96% 与 90% 只差 3 题;命中判定是字符串匹配加否定过滤,与语言模型判官的一致性未报告;被批判的「拒绝惯性」没有被直接测量 | 栏目 · arXiv |
| 3 | 邻近跟踪 | EviScope: Paired Counterfactual Evidence Diagnostics for Faithful and Efficient Grounded Language Models · 2609.17081 | 只改评测协议与提示层(配对反事实证据干预) | 40 个问题 × 4 个证据条件 = 160 项,3 个模型 × 2 种提示 = 960 次生成:Qwen2.5-7B 上显式证据门控对朴素检索的 QCS 0.15 对 0.50(McNemar p=0.00052);Llama-3.1-8B 0.10 对 0.375(p=0.0074);Gemini 3.5 Flash 联合成功率 0.944,两臂仅 1 例不一致(p=1.0) | 40 个问题、3 个模型,无公开工件与四元组清单;高能力模型上接近饱和,区分力不足;片段级支持标签未外部验证;百分比只能当方向 | 栏目 · arXiv |



This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.