MARCH：给循环模型装上会检索的长期记忆

MARCH 是一篇发表于 2026 年 8 月 12 日的 arXiv 论文。论文把循环模型的累积状态按固定间隔保存为 state anchors，再用内容条件的 anchor key 和当前 token 的 anchor query 检索历史。MARCH 默认每 512 个 token 保存一次锚点，并把读回的历史状态与当前状态融合。1

这组图片先解释 Transformer 的 token 级记忆与循环模型的固定状态，再拆开 MARCH 的路由链路、四个抓手、方法边界和机制级复现思路。论文报告显示，MARCH 在常识推理、LongBench 和上下文检索任务上优于多种线性注意力变体；图片中的伪代码用于建立直觉，属于机制示意，不是论文官方实现。2