Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
8月18—19日论文雷达:20篇直接命中、7篇邻近,先看每一步究竟该负什么责
2026-08-19

8月18—19日论文雷达:20篇直接命中、7篇邻近,先看每一步究竟该负什么责

从8月18—19日六栏428篇中筛出20篇直接命中与7篇邻近工作,重点比较逐步信用分配、harness原生训练、自进化评测脆弱性和对话语音时序。

长程智能体与生成式音频论文雷达
长程智能体与生成式音频论文雷达@wei
公众号入口:8 月 18 日 人工智能学术速递 · 自然语言处理学术速递 · 语音与音频学术速递;8 月 19 日 人工智能学术速递 · 自然语言处理学术速递 · 语音与音频学术速递。
两天六栏共 428 篇:8 月 18 日的人工智能、自然语言处理、语音与音频栏分别有 200、97、11 篇;8 月 19 日分别有 65、49、6 篇。逐篇复核后,20 篇直接命中长程任务训练与评估、轨迹学习与自进化或 TTS/对话语音生成,另有 7 篇因提供了具体可迁移机制而进入邻近跟踪;合计收录 27 篇,其余 401 篇不收。123456
这一批最值得连起来看的,是长轨迹里的功劳究竟该记给谁。TRCA 看每次状态转移,PlanPO 比较成功轨迹的轮数和长度,FACA 把下一轮用户反应当作局部反馈,SOPD 让教师补完整步骤,ICSD 检查教师强调的 token 是否真的支持当前策略目标。五篇论文都在补终点奖励看不见的过程,但它们量的不是同一件事。
另一条主线落在 harness。LEGO-RL、Agent Lightning 和 ClawGym II 把工具调用、沙箱、概率重算、轨迹重建与奖励防作弊带进训练系统。训练器若把 token 与模型调用错位、错误合并多轮样本,或因沙箱隔离失效而泄露隐藏测试,策略优化得到的分数就不再可信。
音频线有三篇直接命中:FireRedTTS3 处理连续语音表征的语义稳定性,另一篇用单个零初始化层给音视频生成模型加语音克隆,DuplexGen 则把内容、对话时序和声学重渲染拆开。8 月 18—19 日六个允许栏目中,没有端到端播客生成或播客专项评估论文达到直接命中门槛;DuplexGen 解决的是双人语音生成中很关键的一段,还不是完整播客生产与评测方案。

如果只读 12 篇

顺序英文原题先看什么结论
1TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents不靠成功轨迹和在线 judge,怎样给每次状态转移记分精读
2PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs同样成功的轨迹,怎样按轮数和响应长度区分效率精读
3LEGO-RL: Harness-Native Reinforcement Learning for Coding Agents原生编码 harness 怎样与策略梯度训练对齐精读
4Agent Lightning v1.0: Towards Harnessed Agentic RL6K 训练样本与轻量代理层能否跑通完整 RL 闭环精读
5Write, Execute, Refine: From Skill Followers to Skill Optimizers via Reinforcement Learning from Execution Feedback执行结果怎样反过来训练技能编写者精读
6Step-Level On-Policy Distillation: Interpolating Between On-Policy Distillation and Supervised Fine-Tuningtoken 级提示为何不够,完整步骤怎样修复学生轨迹精读
7LongRCA Bench: Diagnosing Responsible Roles and Root Causes in Long-Horizon Agent Failures145 步量级的失败轨迹里,根因到底有多难找精读
8On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification自进化收益是否只是单次运行噪声或隐藏课程值得扫读
9DuplexGen: Decoupling Content, Timing, and Acoustics for Synthetic Dialogue Speech对话重叠与停顿怎样由实时互动产生精读
10FireRedTTS3: Unified Speech Generation and Editing with Semantically Enriched Speech Representations连续自回归 TTS 怎样减轻语义误差累积精读
11Adding Voice Cloning to Text-to-Audio-Video Models with a Single Zero-Initialised Layer语音克隆能否用极小改动接到音视频生成模型上精读
12Towards Better Agents for Multi-Turn User Interaction: The Next User Turn Is More Than Context下一轮用户反应怎样变成局部信用信号值得扫读
前七篇覆盖三个互相独立的环节:TRCA、PlanPO 与 SOPD 处理过程监督,LEGO-RL 与 Agent Lightning 处理训练接口,WER 与 LongRCA 分别处理技能更新和失败诊断。第八篇给按任务流持续更新记忆的系统加上评测门槛;后四篇补齐对话反馈、TTS 稳定性、说话人控制与自然对话时序。

先把五种过程信号和一个事后诊断分开

工作信号落点额外依赖代表结果口径边界
TRCA每次动作造成的状态转移每个环境的离线 rubric 库与确定性绑定Qwen2.5-7B 在 WebShop 成功率 83.8%,GiGPO 为 72.8%两者相差 11.0 个百分点;摘要中的提升区间不能统一当作相对增幅 7
PlanPO成功轨迹的总轮数与每轮响应长度同组多条 rolloutALFWorld 分布外成功率 87.1%,GRPO 为 70.1%相差 17.0 个百分点;摘要的 27.2%是跨三基准平均相对提升 8
FACA下一轮用户反应用户模拟器或真实后续反应同一九域设置下,8B 模型比结果奖励对照高 5.91 个百分点,14B 模型高 10.22 个百分点这是 8B、14B 两个设置的平均百分点差 9
SOPD学生到达的前缀之后,一个完整教师步骤black-box 教师与步骤边界ALFWorld seen/unseen 比 Vanilla OPD 高 18.57/21.64 个百分点教师补的是局部步骤,不是完整反事实修复轨迹 10
ICSD教师 token 对当前 RL 目标的一阶影响teacher 方向输出与 RL 代理目标7B 在 ALFWorld 与 WebShop 的成功率分别达 96.1%和 93.1%绝对分不能与其他论文的提升点直接比较 11
LongRCA失败后最早的决定性根因步骤完整失败轨迹与归因模型精确根因步 24.1%,最强基线 13.2%这是离线诊断,不是在线预警 12
TRCA 最接近环境内的逐步奖励。它为 Evidence、Execution、Invalidity 各准备确定性操作符,只读取任务指令和动作造成的可观察状态;系统训练时不调用在线 LLM judge,也不需要成功轨迹作锚点。代价是每个新环境仍要先建 rubric 库并完成任务绑定。7
PlanPO 和 FACA 都重新计算同组轨迹的优势值,却使用不同反馈。PlanPO 只在成功轨迹内部比较效率,避免把「成功但绕远路」和「成功且规划紧凑」视为等价;FACA 把下一轮用户反应对齐到前一段交互,让有效追问、明显错误和事后修复得到不同的局部信用。PlanPO 需要同组 rollout;FACA 需要可靠的后续反应。89
SOPD 与 ICSD 再把问题缩到教师监督。SOPD 要求教师在学生实际到达的前缀上补一个完整步骤,解决 token 级教师提示难以展开修复路径的问题;ICSD 关心教师强调的 token 是否与当前 RL 目标同向。一个改监督粒度,一个改监督权重,二者不能用同一个「蒸馏更强」概括。1011

harness 已经是训练系统的一部分

LEGO-RL、Agent Lightning 与 ClawGym II 都把 harness 从「推理外壳」变成训练边界,但三者拆的接口不同。
  • LEGO-RL 抓原始生成流。 系统在进程内代理 LLM 调用,训练端重新计算 log-prob,并用沙箱、隐藏测试和奖励完整性防护挡住作弊。OpenHands SDK 设置下,同一 Qwen3.5-35B-A3B 从 64.0%升到 70.4%;论文的三个主 harness 配置各只有一次生产运行,不能当成跨 seed 稳定性证明。13
  • Agent Lightning 抓请求—响应事件。 代理层把任意 agent 接到训练器;trainer 按整条 rollout 算 advantage,只在后续 prompt 严格包含前缀时合并多轮样本。Qwen3.5-9B 在 SWE-bench Verified 从 41.8%升到 56.4%,即 14.6 个百分点。14
  • ClawGym II 重建调用树。 服务代理捕获 harness 边界的调用,再用前缀树恢复多轮轨迹,让 PPO 或 GRPO 在树上训练。Qwen3-30B-A3B 在 OpenClaw 与 Claude Code 设置下的 Pass@1 分别提高 9.98 和 14.81 个百分点。15
这三条路线共同提醒研发团队:长程 RL 的复现清单不能只写模型、学习率和数据。清单还要写清 LLM 调用怎样捕获、样本怎样合并、概率怎样重算、测试何时暴露、verifier 怎样隔离,以及沙箱是否允许智能体读取参考修复。LEGO-RL 甚至测到,一次路由回放错位会让 log-prob 相关性从 0.9946 降到 0.7503。13

自进化先过三道验收

四篇论文保存的对象并不相同。WER 训练一个独立的 Skill Optimizer,用冻结执行器的成败反过来改自然语言技能;HyperSkill 把子任务步骤和可复用技能组织成超图;Evo-Harness 把一次噪声执行编译成结构化 skill harness;Chain-of-Experience 则在推理时累计自反馈或环境反馈。16171819
其中,按连续任务更新文本记忆库的系统还要接受 Fragility 的压力测试。Fragility 重评 Agent Workflow Memory(AWM)与 ReasoningBank(RBank),让它们各跑三次并打乱网页任务顺序。复杂多步任务的评测噪声会在这类有状态循环中被放大,默认顺序还可能偷偷提供课程。这个结论直接约束按任务流更新记忆的方法;WER 这类离线训练流程不能照搬同一实验设计。20
自进化至少要过三道验收:同一设置重复运行、任务顺序扰动、独立留出集验证。BaT 体现第三道验收:系统用阶段 rubric 验证医学研究工作流的 rollout,再由固定留出集选择下一阶段课程。BaT-9B 在 AutoMedBench-Lite 的 Overall 为 79.6;同一口径下,Claude Opus 4.6 加 Claude Code 为 77.5。证据来自专用医学影像工作流,不能直接外推到开放式科研。21

语音线:克隆、编辑、对话时序是三件事

FireRedTTS3 把语义稳定性放在连续语音表征层。RedAE 用冻结的音频理解编码器作语义教师;Base 模型覆盖多语言、多方言零样本克隆,Instruct 模型再统一处理声音设计和语音编辑。Base 在 Seed-TTS-Eval 上的平均文本错误率为 3.04(英语计 WER、中文计 CER),说话人相似度为 78.8;MiniMax-MLS-Test 的 24 种语言平均 WER/CER 为 3.75,说话人相似度为 84.8。训练规模很大:RedAE 用 50 万小时音频,Base 第一阶段用 260 万小时语音。论文公开了代码,但正文没有确认这些训练语料全部可下载或可再分发。22
Voice Cloning 论文追求的是低改造成本。作者在 5B 音视频扩散模型的音频骨干里加一个零初始化线性层,再把参考音频 latent 和说话人 embedding 注入生成过程。由 30 名英语说话人组成的 674 个说话人—文本配对样本上,它在三个说话人验证网络中的相似度都高于五个语音克隆 TTS 基线;但 WER 为 5.76%,高于 Qwen3-TTS 0.6B 的 0.81%。这条路线提高了「像不像」,没有同时赢下「说得是否准确」。23
DuplexGen 解决时序。LLM 先写脚本,两个全双工对话模型实时互听并表演脚本,TTS 最后重渲染声学质量而不改时序。真实临床对话的重叠转接比例为 42.8%,DuplexGen 为 38.5%,固定或随机间隔拼接都是 0;相对随机拼接,floor-transfer-offset 距离从 0.695 降到 0.366,下降约 47%。这项证据来自合成医患对话代理任务,而且 ASR 错误率主要随最终 TTS 渲染模型变化;它支持「让互动产生时序」,还没有证明能自动生成完整播客。24

一、20 篇直接命中

1. TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents

  • 作者与入口:Huan Zhang 等;arXiv v1,2026-08-17。公众号 AI 栏[8.18] · arXiv 2608.16156
  • 问题与方法:稀疏终点奖励看不见多步交互里哪一次状态转移有效。TRCA 用 Evidence、Execution、Invalidity 三组确定性 rubric 给每次转移打分,再把局部质量、新覆盖条件和终点结果合成 step-level advantage。
  • 结果、证据与局限:Qwen2.5-7B 在 ALFWorld/WebShop 的 overall、task score、success 分别为 94.5/92.9/83.8;GiGPO 为 90.8/84.4/72.8。三 seed 与采样效率实验增强了证据,但新环境仍需离线建 rubric 库;论文未给作者代码、权重或训练数据下载入口。它直接服务长程 RL 的信用分配。7 结论:精读。

2. PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs

  • 作者与入口:Dayang Liang 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17289
  • 问题与方法:GRPO 把同组成功轨迹视为同等奖励,无法区分规划效率。PlanPO 只在成功轨迹内按总轮数与每轮响应长度构造粗到细 advantage,避免把长度最小化当成目标。
  • 结果、证据与局限:Qwen2.5-1.5B 在 ALFWorld 分布内/外成功率为 91.3±4.1%和 87.1±3.6%,GRPO 为 72.8±3.6%和 70.1±2.5%。结果来自三 seed;三个主基准都是可执行多轮环境,Chem-Mix 上的 RL 方法仍集体失败。论文未公开代码。8 结论:精读。

3. Towards Better Agents for Multi-Turn User Interaction: The Next User Turn Is More Than Context

  • 作者与入口:Yiwen Zhao 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17499
  • 问题与方法:终点奖励把有效询问、错误回答和事后修复压成同一个分数。FACA 把下一轮用户反应对齐到前一段用户—智能体交互,计算局部 reaction advantage,再叠加到已验证的终点结果。
  • 结果、证据与局限:在九域τ-family 中,FACA 比相同模拟器、rollout 与初始化的结果奖励对照平均高 5.91 个百分点(8B)和 10.22 个百分点(14B),并在 Pare-Bench 与 Co-Gym 保持排序。它的价值取决于用户模拟器或真实后续反应是否可靠,论文未给代码入口。9 结论:值得扫读。

4. Step-Level On-Policy Distillation: Interpolating Between On-Policy Distillation and Supervised Fine-Tuning

  • 作者与入口:Changhui Sun 等;arXiv v1,2026-08-17。公众号 NLP 栏[8.18] · arXiv 2608.16333
  • 问题与方法:token 级 OPD 沿学生的错误轨迹给零散提示,难以展开完整修复步骤。SOPD 在学生实际到达的前缀上,让 black-box 教师生成一个完整局部步骤,再对学生的完整轨迹做 step-balanced 训练。
  • 结果、证据与局限:数学四榜平均分从 OPD 的 47.7 升到 57.7;ALFWorld seen/unseen 从 65.72/60.45 升到 84.29/82.09。数学评测每题采样 32 次,但这不是 32 个独立训练 run;作者没有报告跨训练 seed 的置信区间,也未给 SOPD 代码或模型入口。10 结论:精读。

5. Trust Is Not Enough: Influence Calibration for On-Policy Self-Distillation in Agentic RL

  • 作者与入口:Qizhen Lan 等;arXiv v1,2026-08-14。公众号 AI 栏[8.18] · arXiv 2608.14945
  • 问题与方法:教师对某个 token 有把握,不代表加强这个 token 会改善学生当前的 RL 目标。ICSD 测量教师方向输出扰动对 RL 代理目标的一阶影响,再把结果变成有界蒸馏权重;权重只改蒸馏损失,不增加模型前向。
  • 结果、证据与局限:在 ALFWorld、WebShop、Search-QA 的两种模型族和 GRPO/GiGPO 设置中,ICSD 都优于只看 teacher trust 的对照;7B 模型在 ALFWorld 与 WebShop 的成功率分别达 96.1%和 93.1%。摘要没有给跨 seed 统计,作者仓库链接来自论文,但本次未核验完整训练资产。11 结论:值得扫读。

6. LEGO-RL: Harness-Native Reinforcement Learning for Coding Agents

  • 作者与入口:Yiming Du 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17393 · 代码 · 数据
  • 问题与方法:原生编码 harness 掌握工具、仓库与执行反馈,训练器却要拿到严格对齐的 token 与 log-prob。LEGO-RL 用进程内代理抓生成流,编排沙箱与隐藏测试,并监控奖励作弊和路由回放错位。
  • 结果、证据与局限:Qwen3.5-35B-A3B 在 OpenHands SDK 上从 64.0%升至 70.4%;Claude Code 与 OpenCode 设置也分别升到 68.2%和 66.6%。三条主配置各是单次生产运行,且都用同一基座;完整复现还需要 Harbor、沙箱镜像、Kubernetes 与隐藏测试。13 结论:精读。

7. Agent Lightning v1.0: Towards Harnessed Agentic RL

  • 作者与入口:Zhiyuan He 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17528 · 代码
  • 问题与方法:trainer 只看到 LLM 请求—响应,harness 却掌握整个多轮交互。Agent Lightning 用兼容 OpenAI 接口的代理记录事件,按整条 rollout 计算 advantage,并在严格前缀一致时合并多轮样本。
  • 结果、证据与局限:作者从 SWE-smith 筛出约 6,000 个训练任务;Qwen3.5-9B 在 SWE-bench Verified 从 41.8%升到 56.4%。强结果对应一个编码配置,论文没有给主结果的多 seed 区间;rollout 内部怎样进一步分配信用仍留作后续工作。14 结论:精读。

8. ClawGym II: Exploring Black-Box RL on Agent Harness

  • 作者与入口:Huatong Song 等;arXiv v1,2026-08-17。公众号 NLP 栏[8.18] · arXiv 2608.16798
  • 问题与方法:黑盒 harness 不暴露内部控制流,训练器仍需恢复多轮调用结构。ClawGym II 在服务边界捕获模型调用,用前缀树重建轨迹,再让 PPO 或 GRPO 在树结构上优化;沙箱支持大规模并发 rollout。
  • 结果、证据与局限:Qwen3-30B-A3B 经黑盒 RL 后,OpenClaw 与 Claude Code 设置的 Pass@1 分别提高 9.98 和 14.81 个百分点,训练 200—400 个优化步后仍高于训练前基线。结果集中在指定 harness 与基准,作者代码和完整训练资产本次未核验。15 结论:值得扫读。

9. Wuying-Browser-Agent: Real-World Centric Fundamental Long-Horizon Browser Agents

  • 作者与入口:AIMAE Team 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17319
  • 问题与方法:多数网页基准任务不到 10 步,难以暴露恢复与上下文失控。Wuying 构造 350 个真实网页任务,平均 37.9 步;训练侧用反思与复杂 UI 课程做 SFT,再用势能 reward shaping 和偏航感知步骤加权做 DAO-GRPO。
  • 结果、证据与局限:27B 模型在 WebVoyager、Online-Mind2Web、BrowserBench 上的成功率为 80.6%、66.7%、65.1%,在浏览器外三个工具基准的平均分为 73.8。摘要称模型开源,但本次未核到作者仓库;真实网页变化也会影响结果重现。25 结论:值得扫读。

10. LongRCA Bench: Diagnosing Responsible Roles and Root Causes in Long-Horizon Agent Failures

  • 作者与入口:Yunfei Zhang 等;arXiv v1,2026-08-15。公众号 AI 栏[8.18] · arXiv 2608.15242
  • 问题与方法:终点失败不能告诉研发人员错误最早从哪里进入轨迹。LongRCA 收集 1,140 条真实失败轨迹,22 名计算机专业研究者标责任角色和最早决定性根因步骤;RCTA 先分段摘要,再生成轨迹纲要并回溯归因。
  • 结果、证据与局限:同用 DeepSeek-V4-Flash 时,RCTA 的责任角色准确率为 51.1%,精确根因步准确率 24.1%;最强基线的精确根因步只有 13.2%。论文未报告标注者一致性,也未给完整数据下载入口;它评估的是完成后的离线诊断。12 结论:精读。

11. Write, Execute, Refine: From Skill Followers to Skill Optimizers via Reinforcement Learning from Execution Feedback

  • 作者与入口:Kang Peng 等;arXiv v1,2026-08-18。公众号 NLP 栏[8.19] · arXiv 2608.17587 · 代码
  • 问题与方法:智能体会遵循专家技能,不等于它会从执行证据改好自己写的技能。WER 冻结执行器,单独训练 4B Skill Optimizer;程序化 verifier 给技能执行打分,成败配对轨迹进入下一阶段精炼。
  • 结果、证据与局限:BFCL v4 multi-turn 与τ²-bench 相对无技能基线平均提高 7.80 和 3.85 个百分点;第三训练阶段的平均 Pass@1 为 76.63%;单看推理时精炼深度,0/1/2/3 次的平均分为 67.28/70.67/76.63/75.33,第三次精炼出现回落。结果依赖可编程 verifier 与两个工具环境,未报告主表的多 seed 区间。16 结论:精读。

12. HyperSkill: Self-Evolving LLM Agents via Hypergraph-Structured Skill Memory

  • 作者与入口:Ruiyao Xu 等;arXiv v1,2026-08-17。公众号 NLP 栏[8.18] · arXiv 2608.16114
  • 问题与方法:扁平经验库难以同时表达步骤、整条轨迹与技能之间的共现关系。HyperSkill 用子任务步骤和可复用技能两类节点组成超图,按子任务与轨迹双路径检索,并定期剪枝、传播质量和合并冗余技能。
  • 结果、证据与局限:在 xBench、GAIA、WebWalkerQA 及两类模型上,HyperSkill 优于 10 个记忆基线;GAIA 与 WebWalkerQA 最高分别提高 11.51 和 11.18 个百分点。论文未公开代码,长期维护的图规模、错误技能传播和跨任务污染仍需原文实验之外的验证。17 结论:值得扫读。

13. BaT: Towards Self-Evolving Medical Research Agent with Stage Rubrics

  • 作者与入口:Junqi Liu 等;arXiv v1,2026-08-17。公众号 AI 栏[8.18] · arXiv 2608.16211
  • 问题与方法:医学研究工作流分阶段,专家轨迹又难共享。BaT 用异步 Stage Bank 在策略更新循环外合成训练内容,再用阶段 rubric 验证 rollout;固定留出集决定下一阶段课程,GRPO 完成更新。
  • 结果、证据与局限:AutoMedBench-Lite 上,BaT-9B 的 Overall 为 79.6;同一口径下,Claude Opus 4.6 加 Claude Code 为 77.5。它证明了 rubric 驱动课程在一个专门医学工作流中的可行性,尚未证明跨领域研究任务的迁移。21 结论:值得扫读。

14. On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification

  • 作者与入口:Qinyuan Ye 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.18066 · 代码 · 数据
  • 问题与方法:记忆型自改进系统的结果可能混入单次运行噪声和默认任务顺序。论文重评 AWM 与 RBank,让每个设置运行三次,并用两种随机顺序替换默认网页任务顺序。
  • 结果、证据与局限:24 组比较中,加入记忆型自改进后有 17 组方差增大,其中 11 组的相对增幅超过 50%;默认顺序还可能构成隐藏课程。结论适用于按连续任务更新文本记忆库的设置,不能直接套到所有离线训练方法。20 结论:值得扫读。

15. Chain-of-Experience for Continual LLM Improvement

  • 作者与入口:Haoqin Tu 等;arXiv v1,2026-08-18。公众号 NLP 栏[8.19] · arXiv 2608.18027
  • 问题与方法:一次性评测看不到模型能否从连续反馈中改善。Chain-of-Experience 让模型在数学、编码、知识任务中反复使用自反馈或环境反馈,并把每轮经验带到后续推理。
  • 结果、证据与局限:8 个模型上,摘要报告相对对照策略的总体任务表现提高 5.6%、API 调用成本下降 19%;摘要没有给这两个相对变化的统一绝对基准值。结果跨多个闭源与开源模型,但「经验」的存储、压缩和污染风险在摘要中没有充分展开。19 结论:值得扫读。

16. Evo-Harness: Context-to-Harness Skill Compilation for Self-Evolving Agents

  • 作者与入口:Tianxin Wei 等;arXiv v1,2026-08-15。公众号 AI 栏[8.18] · arXiv 2608.15071 · 代码
  • 问题与方法:真实系统常只有一次执行机会,完整上下文又包含大量噪声。Evo-Harness 把单次执行蒸馏成结构化 skill harness,冻结 agent 跨顺序任务持续更新并复用这些技能。
  • 结果、证据与局限:论文在 TerminalBench2、SWE-bench、CL-Bench、WebArena-Infinity 等五个真实基准验证一次性技能编译,但摘要没有给统一绝对分和多 run 方差。该机制值得跟踪,尤其要和 Fragility 的任务顺序警告一起验证。18 结论:值得扫读。

17. Every Coin Has Two Sides: On the Dual Nature of Generalization in On-Policy Distillation of Large Language Models

  • 作者与入口:Zhaoyi Li 等;arXiv v1,2026-08-17。公众号 NLP 栏[8.18] · arXiv 2608.16647
  • 问题与方法:多数 OPD 研究只测单域与近分布任务,难以分辨学生迁移了答案还是教师的推理行为。论文一次只改变一个因素,比较域内偏移、跨域迁移与多教师组合。
  • 结果、证据与局限:同源 teacher—student 组合可跨语言、推理跨度和领域缩小学生与教师的能力差距;跨源组合更容易只拟合训练分布,多教师还出现能力跷跷板。它是受控机制研究,不提供一个新的统一 SOTA 分数;代码与完整训练资产未报告。26 结论:值得扫读。

18. FireRedTTS3: Unified Speech Generation and Editing with Semantically Enriched Speech Representations

  • 作者与入口:Feiyu Shen 等;arXiv v1,2026-08-18。公众号语音栏[8.19] · arXiv 2608.17492 · 代码
  • 问题与方法:连续自回归 TTS 能保留声学细节,却容易累积语义误差。FireRedTTS3 用冻结音频理解编码器正则化连续表征;Base 统一多语言/方言克隆,Instruct 再处理声音设计和自由语音编辑。
  • 结果、证据与局限:Base 在 Seed-TTS-Eval 的平均文本错误率为 3.04(英语计 WER、中文计 CER),说话人相似度为 78.8;在 24 语种 MiniMax-MLS-Test,平均 WER/CER 为 3.75,说话人相似度为 84.8。训练音频达百万小时量级,主表未报告训练 seed 或显著性;自动识别器上限与替换后的 Gemini judge 也限制跨论文比较。22 结论:精读。

19. Adding Voice Cloning to Text-to-Audio-Video Models with a Single Zero-Initialised Layer

  • 作者与入口:Ivan Mikheev 等;arXiv v1,2026-08-16。公众号语音栏[8.18] · arXiv 2608.15690
  • 问题与方法:音视频生成模型能生成讲话,却难控制「谁在说」。作者只加一个零初始化线性层,用参考 latent 和说话人 embedding 调制音频 token;音频路径还能跳过视频子块。
  • 结果、证据与局限:674 个短文本样本、30 名英语说话人上,模型在三个说话人验证网络都超过五个克隆 TTS 基线,配对 Wilcoxon 检验均为 p<10^-89;音频独立推理约快 30 倍。说话人相似度提高时,WER 仍高于专用 TTS,长文本、多语种和真实噪声录音未得到验证。23 结论:精读。

20. DuplexGen: Decoupling Content, Timing, and Acoustics for Synthetic Dialogue Speech

  • 作者与入口:Pengcheng Wang 等;arXiv v1,2026-08-17。公众号 NLP 栏[8.18] · arXiv 2608.16053
  • 问题与方法:脚本加固定停顿的管线无法生成自然打断、重叠和 backchannel。DuplexGen 让两个全双工模型实时互听并表演固定脚本,使时序从互动中产生,再用 TTS 重渲染声学;整条管线无需训练。
  • 结果、证据与局限:5,611 次真实 floor transfer 对比中,DuplexGen 的重叠转接比例为 38.5%,真实对话为 42.8%;发布的合成基准有 180 段、175 分钟。数据来自合成临床对话代理场景,且只覆盖转接重叠,不处理深度话中打断后的内容修复;代码与数据下载入口未核到。24 结论:精读。

二、7 篇邻近跟踪

邻近项必须把迁移链说清楚。泛综述、只因题名出现 memory/agent/audio,或领域很窄却没有可复用机制的论文不进入这一层。

1. HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation

  • 作者与入口:XinQi Wang 等;arXiv v1,2026-08-16。公众号 AI 栏[8.18] · arXiv 2608.15703
  • 迁移机制、证据与局限:HyMem 把规划、执行与复杂子任务推理分层,隔离模块不把中间推理写回持久规划上下文,结构化摘要负责跨刷新保存进度。DeepSeek-V4 在 GAIA/Browsecomp-plus 的 Pass@1 为 66.7%/61.3%,比最强基线高 6.1/4.7 个百分点。它本身是免训练的推理框架;把分层边界用于 rollout 切分和训练样本组织仍待验证。27 结论:邻近跟踪。

2. AstronOS: A Unified Execution Model and Runtime for Long-Horizon Agentic Systems

  • 作者与入口:Zhenhang Nie 等;arXiv v1,2026-08-17。公众号 AI 栏[8.18] · arXiv 2608.16381
  • 迁移机制、证据与局限:AstronOS 为每个 work item 保留持久身份和版本化权威状态,只有验证并记录结果后才推进状态。实验把 10 个受控任务组成一套交接测试;五种策略各重复三次,共 15 个整套运行。AstronOS 完成 14/15 次,没有重读原材料,只有 2 次重放完整历史。受控基准很小,也没有与其他成熟运行时做匹配比较;版本状态与交接协议仍值得接入长程评测。28 结论:邻近跟踪。

3. Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents

  • 作者与入口:An He 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17718
  • 迁移机制、证据与局限:RGE 把 Role、Goal、Evidence 拆成可重放状态,对每个轨迹前缀输出漂移分数和干预点;LLM 只抽取结构,确定性规则负责状态更新。在 OSWorld、FinanceBench、EICU-AC 上,较大 estimator 的漂移 F1 都超过 93%,良性覆盖率至少 95.8%;pseudo-consistency 的中位 F1 却只有 18.2%。它适合做早期偏航信号,不能处理缺少外部完成证据的隐蔽失败。29 结论:邻近跟踪。

4. Do LLMs Know What to Ask and When? Evaluating Multi-Turn Information Seeking

  • 作者与入口:Yepeng Huang 等;arXiv v1,2026-08-14。公众号 AI 栏[8.18] · arXiv 2608.14808
  • 迁移机制、证据与局限:MT-InfoSeek 用 9,006 个任务实例分开评估问什么、何时问、已获信息如何影响答案,并用 final sufficiency 记录信息是否已经足够。逻辑任务缺少 2 条关键信息时,模型低估缺失信息数量的次数约为高估的 4 倍;错误查询顺序即使拿齐信息仍会降低准确率。它给长程交互增加了过程标签,但还不是开放工具环境中的长期部署证据。30 结论:邻近跟踪。

5. When Is an Agent Evaluation Over? Outcome Finality and Cross-Unit Separation

  • 作者与入口:Avyay M. Casheekar;arXiv v1,2026-08-14。公众号 AI 栏[8.18] · arXiv 2608.14940
  • 迁移机制、证据与局限:论文要求评测同时满足结果终局性与跨单元分离,并用 open-effects record 记录未完成操作。AgentDojo 受控回放中,150 次非零延迟检查的 endpoint 标记都早于真实终态。另一组 200 次任务状态判定里,即时快照只判对 50 次;等待副作用收敛后,200 次都判对。它不提升 agent 能力,却直接约束异步工具、渲染和存储任务何时算完成;证据来自固定动作的机制实验。31 结论:邻近跟踪。

6. EvoTS-Agent: A Self-Evolving LLM Agent for Financial Time Series Change Point Detection

  • 作者与入口:Lei Jiang 等;arXiv v1,2026-08-18。公众号 AI 栏[8.19] · arXiv 2608.17933
  • 迁移机制、证据与局限:EvoTS 用 Revision、Alternative Strategy、Recombination 三种轨迹算子生成候选检测策略,再用外部验证反馈筛选下一轮状态。四个金融变点基准上,所有评估骨干的执行成功率均为 100%;这个数字只表示代码跑通,不是检测准确率。可迁移的是「修订—换路—重组—验证」闭环,金融特征和任务结论不能外推。32 结论:邻近跟踪。

7. The Last Mile of Deepfake Speech Detection: An Industry-Academia Experience Report

  • 作者与入口:Anton Firc 等;arXiv v1,2026-08-18。公众号语音栏[8.19] · arXiv 2608.17585
  • 迁移机制、证据与局限:这份三年产业—学术经验报告指出,部分域内检测基准已低于 1%错误率,真实部署却要面对长音频、编码损伤、部分合成、未见攻击与分布漂移。报告要求数据集满足商业可用条件,benchmark 覆盖真实渠道,并把校准分数翻成非专家可行动的决策。它没有提出新模型或统一新数据集。可迁移之处很具体:TTS 和播客的安全测试也要加入长音频、局部合成、编解码损伤、未见攻击与分布漂移,并把校准分数对应到可执行阈值。33 结论:邻近跟踪。

研发判断落点

  1. 长程奖励要先说明信号落在哪一层。 TRCA 量状态转移,PlanPO 量成功轨迹效率,FACA 量后续用户反应,SOPD 量完整教师步骤,ICSD 量教师 token 对 RL 目标的影响。把这些都写成「细粒度信用分配」会遮掉它们各自需要的环境、教师和反馈。
  2. harness 训练必须交代数据怎样穿过系统。 研发报告至少要写 LLM 调用捕获、token 与 log-prob 对齐、多轮样本合并、沙箱隔离、测试隐藏、verifier 和奖励防作弊。模型分数无法替代这张系统清单。
  3. 自进化结果必须做多次运行和任务重排。 Fragility 已经指出,AWM 与 RBank 这类按任务流更新文本记忆库的方法会受固定顺序形成的隐藏课程影响。研发团队应在同类有状态评测中重复运行并打乱任务顺序;离线训练或无连续任务流的方法需要另设稳定性实验。
  4. 绝对分、百分点和相对提升要分开。 PlanPO 摘要的 27.2%是相对提升;ALFWorld 分布外 87.1%对 70.1%是 17.0 个百分点;Agent Lightning 的 41.8%到 56.4%是 14.6 个百分点;DuplexGen 的 47%是距离相对下降。把单位写错,跨论文排序会直接失真。
  5. 对话语音要分开测内容、说话人、时序和声学。 Voice Cloning 提高说话人相似度时 WER 仍较高;DuplexGen 让重叠与停顿更接近真实对话,却没有解决打断后的内容修复;FireRedTTS3 覆盖克隆与编辑,但自动识别器和 judge 协议仍会改变结果。播客系统还需要长音频一致性、角色轮换、事实忠实与整体收听体验评测,本批论文没有给出一套完整答案。
这一批最值得带进研发会议的是三张互相独立的检查表:TRCA、PlanPO、FACA、SOPD 和 ICSD 帮助选择过程监督的粒度与反馈来源;LEGO-RL、Agent Lightning、ClawGym II 说明轨迹怎样可靠地进入训练器;Fragility、LongRCA 与*When Is an Agent Evaluation Over?*分别检查运行方差、根因定位和异步结果是否真正终结。音频侧最值得实做的是 DuplexGen 的时序解耦、FireRedTTS3 的语义表征和单层语音克隆的低成本条件化,但三者仍需要一套面向长节目、多角色和真实渠道的联合评测。

References

  1. 1
    8月18日人工智能学术速递

    mp.weixin.qq.com

  2. 2
    8月18日自然语言处理学术速递

    mp.weixin.qq.com

  3. 3
    8月18日语音与音频学术速递

    mp.weixin.qq.com

  4. 4
    8月19日人工智能学术速递

    mp.weixin.qq.com

  5. 5
    8月19日自然语言处理学术速递

    mp.weixin.qq.com

  6. 6
    8月19日语音与音频学术速递

    mp.weixin.qq.com

  7. 7
    TRCA

    arxiv.org

  8. 8
    PlanPO

    arxiv.org

  9. 9
    Towards Better Agents for Multi-Turn User Interaction

    arxiv.org

  10. 10
    Step-Level On-Policy Distillation

    arxiv.org

  11. 11
    Trust Is Not Enough

    arxiv.org

  12. 12
    LongRCA Bench

    arxiv.org

  13. 13
    LEGO-RL

    arxiv.org

  14. 14
    Agent Lightning v1.0

    arxiv.org

  15. 15
    ClawGym II

    arxiv.org

  16. 16
    Write, Execute, Refine

    arxiv.org

  17. 17
    HyperSkill

    arxiv.org

  18. 18
    Evo-Harness

    arxiv.org

  19. 19
    Chain-of-Experience for Continual LLM Improvement

    arxiv.org

  20. 20
    On the Fragility of Self-Improving Agents

    arxiv.org

  21. 21
    BaT

    arxiv.org

  22. 22
    FireRedTTS3

    arxiv.org

  23. 23
    Adding Voice Cloning to Text-to-Audio-Video Models

    arxiv.org

  24. 24
    DuplexGen

    arxiv.org

  25. 25
    Wuying-Browser-Agent

    arxiv.org

  26. 26
    Every Coin Has Two Sides

    arxiv.org

  27. 27
    HyMem

    arxiv.org

  28. 28
    AstronOS

    arxiv.org

  29. 29
    Beyond Suspicious Steps

    arxiv.org

  30. 30
    Do LLMs Know What to Ask and When?

    arxiv.org

  31. 31
    When Is an Agent Evaluation Over?

    arxiv.org

  32. 32
    EvoTS-Agent

    arxiv.org

  33. 33
    The Last Mile of Deepfake Speech Detection

    arxiv.org

长程智能体与生成式音频论文雷达
长程智能体与生成式音频论文雷达@wei

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 如果只读12篇
  • 先把五种过程信号和一个事后诊断分开
  • harness已经是训练系统的一部分
  • 自进化先过三道验收
  • 语音线:克隆、编辑、对话时序是三件事
  • 一、20篇直接命中
  • 1. TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents
  • 2. PlanPO: Group Planning-Aware Policy Optimization for Multi-Turn Agentic LLMs
  • 3. Towards Better Agents for Multi-Turn User Interaction: The Next User Turn Is More Than Context
  • 4. Step-Level On-Policy Distillation: Interpolating Between On-Policy Distillation and Supervised Fine-Tuning
  • 5. Trust Is Not Enough: Influence Calibration for On-Policy Self-Distillation in Agentic RL
  • 6. LEGO-RL: Harness-Native Reinforcement Learning for Coding Agents
  • 7. Agent Lightning v1.0: Towards Harnessed Agentic RL
  • 8. ClawGym II: Exploring Black-Box RL on Agent Harness
  • 9. Wuying-Browser-Agent: Real-World Centric Fundamental Long-Horizon Browser Agents
  • 10. LongRCA Bench: Diagnosing Responsible Roles and Root Causes in Long-Horizon Agent Failures
  • 11. Write, Execute, Refine: From Skill Followers to Skill Optimizers via Reinforcement Learning from Execution Feedback
  • 12. HyperSkill: Self-Evolving LLM Agents via Hypergraph-Structured Skill Memory
  • 13. BaT: Towards Self-Evolving Medical Research Agent with Stage Rubrics
  • 14. On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification
  • 15. Chain-of-Experience for Continual LLM Improvement
  • 16. Evo-Harness: Context-to-Harness Skill Compilation for Self-Evolving Agents
  • 17. Every Coin Has Two Sides: On the Dual Nature of Generalization in On-Policy Distillation of Large Language Models
  • 18. FireRedTTS3: Unified Speech Generation and Editing with Semantically Enriched Speech Representations
  • 19. Adding Voice Cloning to Text-to-Audio-Video Models with a Single Zero-Initialised Layer
  • 20. DuplexGen: Decoupling Content, Timing, and Acoustics for Synthetic Dialogue Speech
  • 二、7篇邻近跟踪
  • 1. HyMem: Hierarchical Context Management for Long-Horizon Agents via Information Isolation
  • 2. AstronOS: A Unified Execution Model and Runtime for Long-Horizon Agentic Systems
  • 3. Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents
  • 4. Do LLMs Know What to Ask and When? Evaluating Multi-Turn Information Seeking
  • 5. When Is an Agent Evaluation Over? Outcome Finality and Cross-Unit Separation
  • 6. EvoTS-Agent: A Self-Evolving LLM Agent for Financial Time Series Change Point Detection
  • 7. The Last Mile of Deepfake Speech Detection: An Industry-Academia Experience Report
  • 研发判断落点