CUDA 与 AI 系统加速日报 Content Archive
29 posts · Page 1 of 1
- 7月29日 CUDA 与 AI 系统加速速览：GPU 搬运、编译器修复与推荐缓存
- 7月31日 CUDA 与 AI 系统加速速览：GPU kernel 隔离评测、编译器回归与推荐检索
- 8月1日 CUDA 与 AI 系统加速速览：FlashInfer 与 TensorRT-LLM 的 FP4、MoE 与 KV cache 验证点
- 8月2日 CUDA 与 AI 系统加速速览：单卡 GB10 服务实测与 FlashAttention 4 beta24
- 8月3日 CUDA 与 AI 系统加速速览：混合长度推理、GPU wheels 与生成式推荐重排
- 8月4日 CUDA 与 AI 系统加速速览：共享 GPU 隔离、DOPS 异构推理与 GEM/TransX 推荐系统
- 8月5日 CUDA 与 AI 系统加速速览：FlashInfer 适配 B300、生成式推荐蒸馏与多模态 Embedding
- 8月6日 CUDA 与 AI 系统加速速览：TVM 0.26 RC、跨模型 KV 复用与长序列推荐压缩
- 8月7日 CUDA 与 AI 系统加速速览：稀疏 GPU kernel 2.7×、云边推测解码 28× 与部署搜索
- 8月8日 CUDA 与 AI 系统加速速览：TensorCast 降 TTFT 93.2%、PLoRA 6.6× 与单模型推荐 +1.41%
- 8月9日 CUDA 与 AI 系统加速速览：B300 16卡 53k tok/s、bursty 调度与直播排序
- 8月10日 CUDA 与 AI 系统加速速览：CUTLASS JIT 少 50ms、SGLang MoE Prefill 1.92×与推荐权重审计
- 8月11日 CUDA 与 AI 系统加速速览：HiSparse 长上下文 4.7×、Muse Glimmer 单卡 20K tok/s 与 20K 推荐序列
- 8月12日 CUDA 与 AI 系统加速速览：SwiftQK 降 TPOT 29.5%、UnionSparse 边缘 decode 2.63×与 IntHQ UVCTR +1.60%
- 混合 RL rollout +53.3%、LLMVisor 解码误差降 4.4×：8月13日 CUDA 与 AI 系统加速速览
- 8月14日 CUDA 与 AI 系统加速速览：MoE 训练吞吐 +14.89%、GPU-side 控制最高 2.39×
- 8月15日 CUDA 与 AI 系统加速速览：OpScale 少 36.3% GPU、vToken 吞吐 1.37×与 Qwen3-235B +4%–6%
- 8月16日 CUDA 与 AI 系统加速速览：DARTree 9.73×、DrEM 评论 +1.388%与 FlashInfer FP8/MoE 修订
- 8月17日 CUDA 与 AI 系统加速速览：GPU kernel 契约违规 62.1%、移植 5.1×与边缘缓存 1.65×
- 8月18日 CUDA 与 AI 系统加速速览：MoE 小 batch 1.33×、VLM 共享 1.30×与端云推荐
- 8月19日 CUDA 与 AI 系统加速速览：稀疏 GPU 64.34×、边缘 MoE 2.3×与 KV-Pipe 迭代时间 -9.8%
- 8月20日 CUDA 与 AI 系统加速速览：rl-triton 最高 5.70×、MoNe 128K 节省约 80%、OGR 线上 +1.120%
- 8月21日 CUDA 与 AI 系统加速速览：分片推理 1.79×、ERASE +9.51%、OneModel 延迟 -66.7%
- 8月23日 CUDA 与 AI 系统加速速览：SGLang 启动 2.38×、KV 命中 93.2%、TP 配置省 6.9%
- 8月24日 CUDA 与 AI 系统加速速览：eStargz 冷启动 17 秒、边缘 RAG 能耗降 53.2%、Triton 跨函数 barrier
- 8月28日 CUDA 与 AI 系统加速速览：赤兔引擎全链路加速、Triton跨函数barrier
- 8月29日 CUDA 与 AI 系统加速速览：FlashInfer 修 Rubin、Triton 改 FP4 与跨 CTA、TVM 延迟启用 Z3
- 8 月 30 日 CUDA 与 AI 系统加速速览：Triton 寄存器调度、TVM 精确 launch 与多 GPU 清理
- CUDA Rust 两条路、Triton 两个补丁：从可运行样例到 MX 布局验证