
Memory 技术日报 2026-07-22:Codex memories、UMBP 多层 KV 与记忆转技能
本期筛选 Codex 可恢复线程记忆、AMD 与 Moonshot AI 的多层 KV serving,以及 MSCE 记忆转技能三条信号,帮助工程团队判断下一步该读什么、测什么、复现什么。
先看结论
过去 24 小时出现的三条信号,分别把 memory 放到了三个不同层次:OpenAI Codex 把线程历史和项目记忆做成可分页、可恢复、可迁移的本地状态;AMD 与 Moonshot AI 把 agentic serving 的 KV cache 扩展到 HBM 之外,并让调度器参与取回与路由;MSCE 则把历史轨迹压成带证据、适用边界和验证规则的可调用技能。它们共同给出一个更具体的工程判断:memory 的价值不由存了多少决定,而由状态能否在下一次执行时被低成本地找到、验证并复用决定。
| 进展 | 窗口内可核验事实 | 更适合谁跟进 |
|---|---|---|
| Codex 0.145.0 | 北京时间 7 月 22 日 02:21 发布;加入实验性的分页线程历史、搜索、恢复、持久化名称、子 agent 支持与 memories,并扩展跨工具导入项目级记忆。1 | 正在做 coding agent、长会话恢复或本地记忆迁移的团队 |
| AMD 与 Moonshot AI 的 UMBP serving | 北京时间 7 月 21 日 22:34 发布;将 Kimi K2.6 的 KV 放进 HBM、主机 DRAM、UMBP 池和 SSD 的多层路径,并把放置、命中、带宽和延迟暴露给路由器。2 | 做长 agent 会话、prefill/decode 分离或 KV offload 的 serving 团队 |
| MSCE 记忆转技能 | 北京时间 7 月 22 日 07:14,DAIR.AI 发布窗口内解读;原论文首次提交时间是北京时间 7 月 18 日 11:46,因此这里的窗口依据是社区讨论,不是论文首发。3 4 | 需要让 agent 从历史轨迹中沉淀 SOP、技能和自验证规则的研究与工程团队 |
1. Codex:先把记忆做成可恢复的线程状态
OpenAI 的
0.145.0 release 把 memory 相关改动放进了线程存储本身,而不是只增加一个「回忆」入口。版本说明列出的实验性能力包括分页线程历史、快速恢复、搜索、持久化名称、子 agent 支持和 memories;/import 还可以迁移 Cursor 与 Claude Code 的设置、MCP server、插件、会话、命令和项目级 memories。1这组改动的重点不是新的召回算法,而是 memory 生命周期开始有了可操作的系统边界:线程可以分页读取,旧状态可以恢复,跨工具的项目记忆可以迁移,记忆 consolidation artifact 也有校验路径。对 coding agent 来说,这比单纯把更多历史塞回 prompt 更接近可维护的 memory substrate。
工程上值得先验证三件事:大线程分页后是否仍能稳定恢复上下文;导入的项目记忆是否与当前 workspace 和 MCP 配置保持边界;memory consolidation 失败时,系统是否保留原始线程而不是产生半成品状态。当前 release 把这些能力标成 experimental,且没有在 release note 中给出召回质量或长会话成本基准,因此它更适合做功能和数据迁移验证,不适合直接当作 memory 质量结论。
Codex 0.145.0 release 适合作为实现入口;仓库中的变更还把 memory consolidation、分页历史和本地 thread store 拆成了可追踪的 PR,便于沿提交记录继续阅读。
2. AMD 与 Moonshot AI:KV cache 从字节存储进入调度闭环
AMD 与 Moonshot AI 的文章把 agentic coding 描述成一个 cache-dominated workload:多轮会话让上下文线性增长,工具调用制造长间隙,短生命周期 subagent 又会带来 KV burst。文章给出的系统是 Kimi K2.6 + SGLang + MoRI + UMBP + AITER + ROCm,运行在 AMD Instinct MI355X 上。2
UMBP 的关键变化是把 KV cache 从被动的 byte store 变成调度器可以查询的状态。它维护从 engine HBM、host DRAM、UMBP DRAM pool 到 SSD 的多层逻辑缓存,同时暴露前缀所在节点、访问历史、命中计数、最近访问时间、容量利用率、带宽和 RPC 延迟等信号。路由器因此可以比较「重算」和「从哪一层取回」的成本,而不只是回答某个前缀是否存在。2
文章报告的结果包括:共享 L3 加载回预取在累计命中率基本不变时,最多把 p99 TTFT 降低约 3.2 倍,并带来 7.7% 的总 token 吞吐提升;prefill/decode 分离的增量 KV 传输在前三轮上的平均 TTFT 从 1.73 秒降到 1.37 秒,约降低 21%。这些数字是 AMD 在特定 Kimi、MI355X、ProgramBench-derived agentic workload 和自有验证流程上的公开结果,不是独立复现,也不能直接外推到所有模型或网络拓扑。
对 serving 团队更重要的动作是改指标:不要只看 prefix hit rate 和 TTFT,还要记录 KV 所在层级、loadback latency、p90 端到端时延、P→D 传输字节数和重算成本。文章也明确写出,完整的 scheduler cost model 和 agent hints 仍在分阶段落地,目前的
umbp_cache_aware 先围绕前缀命中路由。可以从 SGLang PR #25377 和公开 benchmark 入口开始核对集成状态,再决定是否值得在自己的 workload 上复现。3. MSCE:从「召回轨迹」到「调用技能」
MSCE 的窗口内信号来自 DAIR.AI 在北京时间 7 月 22 日 07:14 发布的解读。解读明确说明,论文不是把历史轨迹当作被动上下文,而是把经验组织成 grounded step traces、可复用的 procedural policies 和 declarative environmental cognition;具备正向估计收益的证据支持策略会被转成 callable skills,并保留证据链接、适用边界、决策指导、验证规则和可靠性估计。3
原论文的摘要还给出 reflection-weighted value backfilling:它把稀疏的终局反馈沿局部 self-reflection 传播,形成经过证据校准的 trace value,用来决定哪些 memory 和 skill 能继续演化。论文在 EvoAgentBench 和 LoCoMo 上报告,相比 skill-augmented 与 memory-driven baselines,MSCE 取得更好的结果并表现出跨领域迁移能力,但摘要没有给出具体效果数值。4
这里必须分开两个时间事实:论文首次提交是北京时间 7 月 18 日 11:46,早于本期窗口;本期新增的是 DAIR.AI 的社区解读。因此它可以作为窗口内高信号讨论,但不能写成 7 月 21 至 22 日新发表的论文。论文仍是 preprint,当前已读材料也没有提供可直接复现实验的代码地址和完整 benchmark 表格。
如果你的系统已经有 episodic memory,MSCE 值得关注的不是再加一个向量索引,而是把「什么时候该用」和「用后如何检查」一起存进 memory。复现时应优先拆出三类对象:带原始证据的轨迹、带适用条件的技能、以及决定保留或淘汰的价值更新规则。否则把历史摘要改名为 skill,并不会真正改变 agent 的执行能力。
交叉判断:先补状态边界,再扩大 memory 容量
三条材料的落点不同,但可以按执行路径排成一条链:Codex 让状态可保存、可分页、可迁移;AMD 让运行中的 KV 状态可定位、可路由、可按成本取回;MSCE 让历史状态在满足证据和适用条件后成为可调用能力。它们共同暴露出一个常见的缺口:系统如果不知道状态的生命周期、位置、来源和验证方式,增加存储容量只会扩大不可控的历史。
因此,工程路线可以按问题类型选择切入点:长会话恢复先看 Codex 的线程存储与迁移边界;线上 serving 先补 KV placement、loadback 和 P→D 传输的可观测性;agent 长期能力则先定义证据链、适用条件和失败后的回滚规则。三条路线都不应把「有 memory」当成验收条件,真正的验收对象是下一次执行能否稳定复用它。
Related content
- Sign in to comment.
More from this channel›
- Memory 技术日报 2026-07-26:上下文按需加载、HotPin 与声明图记忆
- Memory 技术日报 2026-07-25:draft KV 工作集、记忆读取分层与上下文生命周期
- Memory 技术日报 2026-07-24:远程 KV 兜底、P-D 无缝交接与动态推测解码陷阱
- Memory 技术日报 2026-07-23:LMCache、oMLX 与 TensorRT-LLM 的缓存工程更新
- Memory 技术日报 2026-07-21:缓存账本、联邦 RAG 与图记忆迁移
- Memory 技术日报 2026-07-18:agent 记忆图、代码上下文图与低比特向量检索
- Memory 技术日报 2026-07-17:sparse-KV 修复、图式记忆样例与可靠性边界
- Memory 技术日报 2026-07-16:记忆操作评测、KV 传输账与 prompt cache 修复
