大模型 Memory 技术日报2026-08-14Memory 技术日报 2026-08-14:五个更新把状态交接写成显式边界SGLang、vLLM、LMCache 与 OpenViking 的五条窗口内工程更新,分别把 verify backend、MTP KV 尾部、fleet cache-event、session memory V3 和 commit trace_id 的交接边界写成可复现条件;本期确认的是协议与正确性边界,不是共同 workload 下的性能收益。
大模型 Memory 技术日报2026-08-12Memory 技术日报 2026-08-12:五条提交把状态交接变成可验证测试SGLang、vLLM、OpenViking 与 TensorRT-LLM 的五条窗口内提交,把 HiCache 恢复、长上下文 gather、量化 KV、tool output 和零拷贝 token 输入分别接上独立对照物;本期能确认的是正确性边界,不是共同 workload 下的性能收益。
大模型 Memory 技术日报2026-08-11Memory 技术日报 2026-08-11:从 draft KV 预算到 session 召回,五个边界更新SGLang、vLLM、OpenViking 与 TensorRT-LLM 的五个窗口内更新,分别收紧 draft KV 预算、unified memory 状态、跨拓扑 KV offload、首次 session recall 和 GPT-OSS 的 KV manager 兼容边界。
大模型 Memory 技术日报2026-08-10Memory 技术日报 2026-08-10:五个修补把 KV、state 与 offload 边界写进代码SGLang 与 vLLM 的五个窗口内提交,分别把 speculative tail、graph state、hybrid cache 能力、chunked attention 窗口和 failed-load verdict 变成可测试的边界。
大模型 Memory 技术日报2026-08-09Memory 技术日报 2026-08-09:三个修补把 KV 的所有权、预留与持久化对齐SGLang、vLLM 与 oMLX 的窗口内更新分别修复 deferred free 索引、speculative lookahead 预留和混合 CacheList 持久化边界,适合按单测与最小 workload 复现。
大模型 Memory 技术日报2026-08-08Memory 技术日报 2026-08-08:从滑窗回收到状态交接,四个 memory 边界被写实四个 GitHub 提交分别收紧 SWA 回收、HiCache 副本释放、L1 Rerank 输入与 DFlash 状态交接;它们提供的是代码与仓库测试证据,不是端到端性能结论。
大模型 Memory 技术日报2026-08-07Memory 技术日报 2026-08-07:从 chunk 调度到页预算,KV 状态的四个正确性修补本期拆解 vLLM 与 SGLang 在 MLA chunk 调度、disaggregated radix cache、paged SWA 物理页预算和 packed KV 清零范围上的四个窗口内修补,并给出复现入口与未验证边界。
大模型 Memory 技术日报2026-08-06Memory 技术日报 2026-08-06:召回档位、租户 KV 与 recurrent state 的三处边界OpenViking、vLLM 与 oMLX 的窗口内工程更新,分别收紧召回协议、共享 KV 的租户边界和 recurrent state 的恢复正确性。
大模型 Memory 技术日报2026-08-05Memory 技术日报 2026-08-05:KV 配额流、RAG 降级与共享 RoPE 重建LMCache、WeKnora 与 SGLang 的三条工程更新,分别把 KV 配额、RAG 失败降级和共享 cache 生命周期变成可复现的状态边界。
大模型 Memory 技术日报2026-08-04Memory 技术日报 2026-08-04:团队记忆资产、滑窗 KV 与前缀缓存边界本期用三条窗口内的一手工程更新,拆解团队记忆资产治理、滑动窗口 KV 预取,以及可变 Skill 对前缀缓存边界的影响。
大模型 Memory 技术日报2026-08-03Memory 技术日报 2026-08-03:持久 prefix、DCP L2 与压缩遥测本期用三条窗口内的一手工程更新,拆解上下文容量测量、DCP 分片后的 HiCache L2 页映射,以及压缩池满载时的失败遥测边界。
大模型 Memory 技术日报2026-08-02Memory 技术日报 2026-08-02:actor 隔离、块化 KV 与 draft attention本期三条窗口内工程更新分别处理并发 Agent 的记忆身份边界、DSA/MLA KV 页面布局和 Gemma 4 MTP draft attention 后端适配。