CUDA 与 AI 系统加速日报2026-09-08CUDA Rust 两条路、Triton 两个补丁:从可运行样例到 MX 布局验证本期梳理 NVIDIA CUDA Rust 的 SIMT/Tile 两条路线,以及 Triton 对 async-copy 屏障追踪和 MX scale 符号布局的更新,重点标出可验证动作与尚未出现的性能证据。1
CUDA 与 AI 系统加速日报2026-08-298 月 30 日 CUDA 与 AI 系统加速速览:Triton 寄存器调度、TVM 精确 launch 与多 GPU 清理本期聚焦 Triton 的 NVPTX 寄存器压力调度、TVM 的精确 CUDA launch 契约与多 GPU 清理修复,并把公开证据和目标环境自测边界分开。1
CUDA 与 AI 系统加速日报2026-08-288月29日 CUDA 与 AI 系统加速速览:FlashInfer 修 Rubin、Triton 改 FP4 与跨 CTA、TVM 延迟启用 Z3本期聚焦 FlashInfer v0.6.18 的 Rubin 修复、Triton 的 FP4 与跨 CTA 改动,以及 TVM 的 Z3 惰性物化,逐项标出适用场景、验证动作和性能数字边界。1
CUDA 与 AI 系统加速日报2026-08-278月28日 CUDA 与 AI 系统加速速览:赤兔引擎全链路加速、Triton跨函数barrier本期聚焦赤兔引擎全链路加速和Triton/TVM编译器更新,给出适用场景、核心改动与第一步验证动作。2
CUDA 与 AI 系统加速日报2026-08-238月24日 CUDA 与 AI 系统加速速览:eStargz 冷启动 17 秒、边缘 RAG 能耗降 53.2%、Triton 跨函数 barrier本期聚焦大模型镜像按需拉取、边缘 RAG 压缩、Triton/TVM 工具链和序列推荐基准,给出性能口径、故障边界与最小验证动作。1
CUDA 与 AI 系统加速日报2026-08-228月23日 CUDA 与 AI 系统加速速览:SGLang 启动 2.38×、KV 命中 93.2%、TP 配置省 6.9%本期整理 SGLang v0.5.18、prefix KV 路由、SLO-aware fleet profiling、TVM/Triton 编译器修复、持续推荐蒸馏与 CPU 推理模型,给出条件化性能数字和第一步验证动作。
CUDA 与 AI 系统加速日报2026-08-208月21日 CUDA 与 AI 系统加速速览:分片推理 1.79×、ERASE +9.51%、OneModel 延迟 -66.7%本期整理 FlashAttention-V、预编译 pipeline shards、ERASE 与 OneModel 四项更新,给出性能数字、适用边界和可以直接开始的小规模验证动作。21
CUDA 与 AI 系统加速日报2026-08-198月20日 CUDA 与 AI 系统加速速览:rl-triton 最高 5.70×、MoNe 128K 节省约 80%、OGR 线上 +1.120%本期整理 rl-triton、MoNe、OGR 与 FLEXRec 四项更新,给出 GPU 与推理性能数字、适用边界以及可以直接开始的小规模验证动作。2
CUDA 与 AI 系统加速日报2026-08-188月19日 CUDA 与 AI 系统加速速览:稀疏 GPU 64.34×、边缘 MoE 2.3×与 KV-Pipe 迭代时间 -9.8%本期整理 DB-SpMSpV 动态稀疏 GPU kernel、FreeToken 边缘 MoE serving、KV-Pipe 流水并行和 FROG 范围过滤向量召回,给出性能数字、适用边界与最小验证动作。21
CUDA 与 AI 系统加速日报2026-08-178月18日 CUDA 与 AI 系统加速速览:MoE 小 batch 1.33×、VLM 共享 1.30×与端云推荐本期整理 DeaMoE 小 batch MoE 解码、Rollplex VLM 强化学习资源复用、Neuron barrier-free 同步和 PriCoRec 端云推荐四条更新,标出性能数字、适用边界与最小验证动作。2
CUDA 与 AI 系统加速日报2026-08-168月17日 CUDA 与 AI 系统加速速览:GPU kernel 契约违规 62.1%、移植 5.1×与边缘缓存 1.65×本期从 FlashInfer nightly、GPU kernel 正确性审计、边缘缓存、AI 辅助 GPU 移植和生成式 embedding 五个方向,整理可复用的验证动作与性能边界。11
CUDA 与 AI 系统加速日报2026-08-158月16日 CUDA 与 AI 系统加速速览:DARTree 9.73×、DrEM 评论 +1.388%与 FlashInfer FP8/MoE 修订本期聚焦 FlashInfer RC2 的 kernel 覆盖窗口、DARTree 推测解码、FSGR 的生成式推荐公平性与 DrEM 的线上抗噪排序,标出性能数字、适用边界和最小验证动作。12