时间窗:2026 年 7 月 14 日 08:15 至 7 月 17 日 08:15(Asia/Shanghai)。三篇论文的首次提交都落在窗口内;排序优先采用可核验的直接讨论,Ring-Zero 同时出现在 X 与 Hacker News,GFlowRL、TRACE 目前主要是 X 的早期信号。
01|Ring-Zero:1T 参数的零 RL
论文:Ring-Zero: Scaling Zero RL to a Trillion Parameters for Emergent Reasoning;按 arXiv 时间戳换算,首次提交日为 2026-07-14。
作者与机构:Xinyu Tang(中国人民大学高瓴人工智能学院)、Gangqiang Cao(蚂蚁集团)、Yurou Liu(中国人民大学高瓴人工智能学院)、Yuliang Zhan(中国人民大学高瓴人工智能学院)、Xiaochong Lan(清华大学)、Yifan Li(中国人民大学高瓴人工智能学院)、Yuchen Yan(浙江大学)、Han Peng(中国人民大学高瓴人工智能学院)、Zican Dong(中国人民大学高瓴人工智能学院)、Zhenduo Zhang(蚂蚁集团)、Tianshu Wang(蚂蚁集团)、Xinyu Kong(蚂蚁集团)、Zujie Wen(蚂蚁集团)、Wayne Xin Zhao(中国人民大学高瓴人工智能学院)、Zhiqiang Zhang(蚂蚁集团)、Jun Zhou(蚂蚁集团)。
方法与结果:从基座模型直接做零 RL,训练管线包含多阶段 RL、自蒸馏、clipped importance sampling、训练与推理比率校正和混合精度控制。论文在 7 个数学基准上评估 Ring-2.5-1T-Zero,并报告了自验证、并行推理、结构化输出等行为在规模扩展中出现。[来源:arXiv 论文]
社区信号:X 讨论帖(66 赞、11 转发、2 回复);Hacker News 原帖(26 points、6 条评论)。
02|GFlowRL:把分布匹配 RL 做到大模型
论文:GFlowRL: Scaling Distribution-Matching RL to Large Language Models;按 arXiv 时间戳换算,首次提交日为 2026-07-15。
作者与机构:Xiaodong Liu、Michael Xu、Jack W. Stokes、Paul Smolensky、Doug Burger、Jianfeng Gao(均为 Microsoft Research)。
方法与结果:GFlowRL 去掉需要学习的 partition function,改用同一组 rollout 的 in-batch Monte Carlo 估计,再配合 importance-sampling correction、非对称 flow-gap clipping 和长度归一化。Qwen2.5-7B 数学 Avg@16 为 40.92,高于 GRPO 的 32.48;Qwen3-235B-A22B 的数学平均分为 83.35。论文也明确提醒,有限 batch 的非凸优化并不保证收敛。[来源:arXiv 论文]
社区信号:X 讨论帖(27 赞、4 转发、4 回复、约 4,493 次查看)。目前是较早的 X 传播信号,不能与 Ring-Zero 的 HN 讨论量直接相加比较。
03|TRACE:给长程智能体分配回合级奖励
论文:TRACE: Turn-level Reward Assignment via Credit Estimation for Long-Horizon Agents;按 arXiv 时间戳换算,首次提交日为 2026-07-16。
作者与机构:Leitian Tao、Sharon Li(威斯康星大学麦迪逊分校);Baolin Peng、Wenlin Yao、Tao Ge、Hao Cheng、Mike Hang Wang、Jianfeng Gao(Microsoft Research)。
方法与结果:把 rollout 按 tool-call 边界切成状态转移,用冻结参考模型对 gold answer 的 log-probability 变化构造状态价值,再将 TD 变化转成回合级奖励,最后与 clipped GRPO 目标融合。BrowseComp-Plus 上,Qwen3-4B 从 7.2 提升到 35.6,Qwen3-30B-A3B 从 8.4 提升到 42.6。限制也很具体:方法依赖可验证的 gold answer 和冻结参考模型,当前证据主要来自长程搜索智能体。[来源:arXiv 论文]
社区信号:X 讨论帖(42 赞、7 转发、2 回复、约 2,599 次查看)。
注:互动量是抓取时刻的公开计数,只用于说明直接讨论信号,不是跨平台可加总的统一热度分数。




댓글
로그인하면 댓글을 작성할 수 있습니다.