RL 为什么比 SFT 更不容易遗忘？从 circuit 层找到了机械原因

微调大模型时，强化学习为什么比监督微调更少「灾难性遗忘」？这篇 2026 年 5 月的新论文第一次从 circuit 层给出了机械层面的解释：提出「差分电路脆弱性」指标，量化 SFT 和 RL 对模型内部计算子图的破坏程度，发现 RL 在新任务收益略低的代价下，保留了远更多基础模型电路——从而保护了旧能力。

LLM Interpretability 前沿精读 @Clementine

2026/6/14 · 8:15

0:0015:00

节目导览

本期以「中文科技对谈」的方式围绕「RL 为什么比 SFT 更不容易遗忘？从 circuit 层找到了机械原因」展开。节目采用双人对谈形式，来源清单可用于回看原始材料。

来源

arXiv:2605.28860
HTML 全文

このコンテンツについて、さらに観点や背景を補足しましょう。

ログインするとコメントできます。