Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
DeepSeek 把训练栈整个搬上昇腾:六个开源仓库,哪些已经跑满、哪些还空着
2026-09-30

DeepSeek 把训练栈整个搬上昇腾:六个开源仓库,哪些已经跑满、哪些还空着

DeepSeek 把为英伟达写的一整套训练与推理软件做成了昇腾版本并开源;本篇把公告末尾那六个仓库逐个打开,核对「一一对应」对应到哪一层、性能数字的分母是什么、还差哪些没做完。

海外AI独家·科技评论
海外AI独家·科技评论@FC
2026 年 9 月 30 日,路透社发出一篇独家:DeepSeek 说,它已经与华为合作,为昇腾(Ascend)芯片开发编程工具。1
彭博同一天的标题把话说得更满:这些工具可能替代英伟达的产品。2
原始文本在 DeepSeek 自己的公众号上,当天上午 10 点发出,标题八个字:《DeepSeek 开源昇腾基础组件》。3
一句话说清楚做了什么:DeepSeek 把自己那套为英伟达写的训练与推理软件,做了一份昇腾版本,全部开源。3
公告里的原话是,「所有组件与此前面向英伟达平台的开源组件一一对应」。3
有三件事要提前交代。
这条新闻里的全部性能数字,来自 DeepSeek 自己仓库里的基准测试,没有第三方复现。4
DeepSeek 与华为都没有公布这次联合开发的投入规模、时间跨度和参与人数,也没有说这套组件在多大范围的集群上跑过。3
华为官网的新闻中心,截至本文核对时点,最新条目是当天的轮值董事长当值公告,找不到对应这次合作的独立稿件;华为一侧的公开口径,是通过向媒体供稿和开源社区发布的。5
本篇要做的,是把公告末尾那六个链接逐个打开:一一对应到了哪一层,性能数字的分母是什么,还差哪些没做完。

01 公告末尾的六个链接,合起来是一整条栈

公告那张清单列了六个仓库。3
它们各管一段。
TileLang 是写算子用的那门高级语言。6
DeepGEMM 管矩阵乘,训练和推理里最吃算力的那部分。7
FlashMLA 管注意力算子,长上下文跑不跑得动看它。4
TileKernels 管混合专家路由、量化、位置编码这一类常规算子。8
DeepSelect 管 TopK 选择与采样。9
DeepEP 管跨卡通信,分布式训练时数据在芯片之间怎么搬。10
其余五个此前都跑在英伟达平台上。其中三个——FlashMLA、TileKernels、DeepSelect——是在原有仓库里加上昇腾后端;另外两个——DeepGEMM、DeepEP——各开了一个新的昇腾仓库,当天首版,各只有一个提交。710
DeepGEMM-Ascend 的说明写得很直接:它完全兼容 DeepGEMM 的接口,用户装上这个包,就沿用其他平台上一样的工作流。7
TileKernels 的说法是,两套后端在运行时自动选择,同一套 Python 接口同时在英伟达 GPU 和华为 NPU 上跑。8
有一个细节值得单独记一笔:FlashMLA 这次发布昇腾算子的同一版里,删掉了对英伟达 Hopper 架构的支持。Hopper 就是 H800 和 H100 那一代。4
这张清单的价值在于覆盖面:写算子、矩阵乘、注意力、通信、采样,一条训练栈上要用的每一段都在里面——每一段做到什么程度,是另外一回事。

02 为什么第一个被点名的是编程语言

DeepSeek 的公告,开头用的是「工欲善其事,必先利其器」。3
它写:「建立新一代自主可控的 GPU 软件生态,首要的事情是先建立一个通用的、编程简单的、同时能达到硬件性能上限的高级语言。」3
被选中的是 TileLang。这个项目 2025 年 4 月挂上 arXiv,11 位作者,第一作者是 Lei Wang,作者名单里有北京大学计算机学院的杨智。11
它在英伟达平台上先跑通了。DeepSeek 说,TileLang 现在承载着 V4 系列模型训练中大部分算子的实现。3
更早的一次选择在 2025 年:观察者网在报道里提到,海外社区当时就注意到,DeepSeek 的 V3.2 用的是 TileLang,而当时同类项目多数选 OpenAI 开源的 Triton。12
两者的差别不只在语法。
Triton 编译出来的是英伟达的 PTX 和 AMD 的 GCN。它换掉的是 CUDA 的编程模型,产物仍是芯片厂商各自的中间代码。13
昇腾版走的是另一条路:它对昇腾 Ascend C 的底层指令做封装,向上提供高级语言接口,并且依托昇腾自己的 PTO 指令集。1415
PTO 是昇腾 CANN 定义的一套 tile 级虚拟指令集,官方说有 90 多条标准 tile 指令,PyPTO 与 TileLang 都接在它上面。16
DeepSeek 对这件事的表述是:「目前,DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。」3
换掉的是写算子的那一层。这一层一旦通了,用 TileLang 写的模型——包括 DeepSeek 自己的——就能在两边用同一份代码。

03 数字:多快,以及分母是什么

先看注意力算子。
FlashMLA 的昇腾版在昇腾 950 上,Prefill 跑到 410 TFlops,官方标注是硬件理论峰值的 95%;Decoding 跑到 360 TFlops,是峰值的 83%。4
同一个算子在英伟达 B200 上,Prefill 是 1350 TFlops,Decoding 是 1024 TFlops。4
绝对值大约是三分之一。这个比值要配着另外两组数字一起读。
矩阵乘那边,DeepGEMM-Ascend 在昇腾 950DT 上测出的稠密 GEMM,利用率落在 98.3% 到 99.8% 之间:FP4 精度 1701 TFlops(硬件极限 1730),FP8 是 861(极限 865),BF16 是 431(极限 432)。7
通信那边,DeepEP-Ascend 在 EP8 规模下 dispatch 实测 373 到 375 GB/s,combine 是 345 到 347 GB/s;官方说 EP32 以内,持续 dispatch 能到物理载荷带宽上限的 90% 到 95%。10
DeepSeek 自己的结论是,这些组件的计算与通信性能「已接近硬件上限」。3
读这组数字要补两个边界。
第一个边界写在同一份文档里:DeepEP-Ascend 的这组带宽,测的是一块「供应给 DeepSeek 的 PoC HDK,另加人工配置」,不是公开发布的版本。文档里写,推荐的公开部署基线是华为第三季度的商业版 HDK,计划大约 2026 年 10 月 15 日通过 Atlas 850E 的软件下载页发布。10
第二个边界是机型:全部数字来自昇腾 950 系列,其他昇腾代际的支持情况,文档写的是「尚未建立」。10
这批数字量的是「用了自己硬件的几成」:矩阵乘做到了九成八以上,注意力算子的 prefill 做到九成五、decoding 八成三。换一个方向读,同一个注意力算子,昇腾 950 交出的绝对值是 B200 的约三分之一——利用率更高,速度更慢。

04 还没过去的那些

先看 FlashMLA。
昇腾版发布的同时,文档里留着两句说明:把 norm、RoPE、attention 融在一起的那个融合 kernel,以及稠密注意力算子,目前只有 CUDA 版本。4
也就是说,长上下文那一路,昇腾接了稀疏注意力,稠密那一路还没接。4
DeepEP-Ascend 的待办清单更长。集合通信里只做完了 all-gather,reduce-scatter 与 all-reduce 还在建;专家负载均衡用到的两个接口,昇腾侧的通信 kernel 尚未实现;流水线并行与 Engram 远端内存访问仍是实验性功能;CPU 侧的内存后端和计算图捕获都不支持。10
DeepSelect 有一条细差别:昇腾实现只支持 bfloat16 输入,float32 那一档目前只有 CUDA 版本。9
还有一处差别藏在数据格式里。
DeepGEMM-Ascend 的说明里写:昇腾的缩放因子格式与英伟达不同,K 维度上每两个 UE8M0 缩放因子被打包进一个 int16,并按 MN-major 存放。7
接口一样,底下数据的排布不一样。这正是「API 兼容」四个字覆盖不到的地方。7
再往外一层,是整个生态的时间。
CANN 是华为在 2025 年 8 月宣布全面开源的17;代码托管在 GitCode 上,公开仓库 82 个。16
英伟达那一边,官方对 CUDA-X 库的说法是「数百个」。两边的计数口径不同——一个是代码仓库,一个是加速库——但量级上的差距摆在那里。18
「一一对应」说的是接口与功能的对应。从能跑通到同等可用,中间隔着的就是这些没做完的条目。

05 软件为什么值钱

要看清这次开源的分量,得先知道软件在英伟达的生意里占什么位置。
英伟达在自己的年报里写了两句话。
第一句:「我们超过一半的工程师在做软件。」18
第二句是它把自己称作「全栈计算平台」的理由:芯片只是起点,真正让它成为全栈的,是那套庞大的软件,包括 CUDA 开发平台、CUDA-X 加速库、模型与训练数据集、API 与 SDK。同一份年报里,累计研发投入是 767 亿美元。18
开发者这一侧,2026 财年年报的口径是「全球超过 750 万名开发者」使用 CUDA 及其软件工具。18
所以替代这件事,除了要把芯片做得足够快,还要让开发者肯把手上已经写好的代码搬过来。后面这一关更难。
AMD 的 ROCm 从 2016 年做到现在,官方博客的标题是《从 CUDA 到 AMD ROCm,不必从零重写》,卖点是 HIPIFY 这个把 CUDA 代码自动翻译过去的工具。19
OpenAI 的 Triton 从 2021 年起做,官方给自己定的目标是「比 CUDA 更高的生产力」。13
Intel 的 oneAPI 从 2019 年起做,如今已经不在 Intel 一家手里,转进了跨厂商的 UXL 联盟。20
时间排一排:CUDA 20 年,ROCm 10 年,oneAPI 7 年,Triton 5 年。13181920
还有一条先例照着看。Google 在 2016 年推出 TPU,官方说法是这颗芯片「为 TensorFlow 量身定制」,编译器 XLA 由 Google 自己写、自己开源。21
更近的两个例子,是把模型公司和芯片公司直接绑在一起:亚马逊的 Project Rainier 装了近 50 万颗 Trainium2,供 Anthropic 训练和运行 Claude;OpenAI 与 AMD 签了 6 吉瓦的协议,首期 1 吉瓦的 MI450 排在 2026 年下半年。2223
DeepSeek 这一次的方向是反过来的:过去的做法是芯片公司自己去兼容别人的模型,这次是最大的开源模型公司把自己训练时用的那套栈原样做了一份,放到对方的芯片上。3
英伟达自己也把这个风险写进了年报。风险因素一节写,被挡在中国数据中心市场之外,「帮助我们的竞争对手建起更大的开发者与客户生态,在全世界挑战我们」;同一节还写了开源基础模型如果跑在竞争对手的平台上,「可能降低对我们产品和服务的需求」,并点了 DeepSeek 与 Qwen 的名字。18
这次开源动到的是迁移成本:一套已经写进英伟达生态的训练栈,现在有了一条不经过 CUDA 的路径。它最终的分量,要看往后有多少不是 DeepSeek 的团队愿意走这条路。
下面这张表把六个仓库并排放好,每一格都指到仓库自己的说明。
仓库管哪一段9 月 30 日的动作实测与边界
TileLang写算子的高级语言昇腾版封装 Ascend C 底层指令,依托 PTO 指令集 1415DeepSeek 称训练中用到的每个 TileLang 算子都有昇腾实现 3
DeepGEMM-Ascend矩阵乘新仓库,当日首版 7昇腾 950DT 上稠密 GEMM 达硬件极限的 98.3%–99.8%;缩放因子格式与英伟达不同 7
DeepEP-Ascend跨卡通信新仓库,当日首版 10EP8 dispatch 373–375 GB/s;最优带宽依赖一块未公开的 PoC HDK 10
FlashMLA稀疏注意力发布昇腾算子 4Prefill 410 TFlops(峰值 95%)、Decoding 360 TFlops(83%);融合 kernel 与稠密算子仍仅 CUDA 4
TileKernelsMoE 路由、量化等常规算子加昇腾后端 8同一套 Python 接口跑两种硬件;要求昇腾 950 与 CANN 9.2.0 8
DeepSelectTopK 选择与采样发布昇腾算子 9昇腾侧只支持 bfloat16,float32 仅 CUDA 9
把时间放回来看:华为在 9 月 17 日的全联接大会上发布了下一代 AI 处理器与超节点系统;十三天后,DeepSeek 把跑在这些芯片上需要的那套软件补齐并开源。1
芯片的产能、软件栈的完整度、开发者的迁移意愿,是三条各自要走的曲线。这一次往前挪的是中间那条;它最后值多少,要看最后那条。

References

  1. 1
    Reuters:DeepSeek partners with Huawei to develop chip programming tools, reducing reliance on Nvidia

    reuters.com

  2. 2
    Bloomberg:DeepSeek Unveils Huawei AI Chip Tools That May Replace Nvidia's

    bloomberg.com

  3. 3
    DeepSeek 官方公众号:DeepSeek 开源昇腾基础组件

    mp.weixin.qq.com

  4. 4
    GitHub:deepseek-ai/FlashMLA

    github.com

  5. 5
    华为新闻中心(核对时点最新条目)

    huawei.com

  6. 6
    GitHub:tile-ai/tilelang

    github.com

  7. 7
    GitHub:deepseek-ai/DeepGEMM-Ascend

    github.com

  8. 8
    GitHub:deepseek-ai/TileKernels

    github.com

  9. 9
    GitHub:deepseek-ai/DeepSelect

    github.com

  10. 10
    GitHub:deepseek-ai/DeepEP-Ascend

    github.com

  11. 11
    arXiv:TileLang: A Composable Tiled Programming Model for AI Systems

    arxiv.org

  12. 12
    观察者网:DeepSeek开源昇腾基础组件:与面向英伟达的一一对应

    guancha.cn

  13. 13
    OpenAI:Introducing Triton: Open-source GPU programming for neural networks

    openai.com

  14. 14
    量子位:DeepSeek官方开源昇腾基础组件(华为供稿)

    qbitai.com

  15. 15
    GitHub:tile-ai/tilelang-ascend

    github.com

  16. 16
    GitCode:CANN 开源社区组织主页

    gitcode.com

  17. 17
    华为官方公众号:华为宣布 CANN 全面开源开放,共建昇腾生态

    mp.weixin.qq.com

  18. 18
    NVIDIA FY2026 Form 10-K(含风险因素与开发者规模)

    sec.gov

  19. 19
    AMD Blogs:From CUDA to AMD ROCm Software Without Starting Over

    amd.com

  20. 20
    Intel:oneAPI 官方页

    intel.com

  21. 21
    Google Cloud Blog:Google supercharges machine learning tasks with TPU custom chip

    cloud.google.com

  22. 22
    About Amazon:AWS's Project Rainier: the world's most powerful computer for training AI

    aboutamazon.com

  23. 23
    AMD 投资者关系:AMD and OpenAI Announce Strategic Partnership to Deploy 6 Gigawatts of AMD GPUs

    ir.amd.com

海外AI独家·科技评论
海外AI独家·科技评论@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 01 公告末尾的六个链接,合起来是一整条栈
  • 02 为什么第一个被点名的是编程语言
  • 03 数字:多快,以及分母是什么
  • 04 还没过去的那些
  • 05 软件为什么值钱