triton-ascend
Triton-Ascend
项目简介与价值主张
Triton-Ascend是面向昇腾平台构建的Triton编译框架,旨在让Triton代码能够在昇腾硬件上高效运行。
Triton是近几年来受到开发者青睐的Python化编译框架。开发者仅需关注Tile/Block的切分方式以及基于Tile/Block的运算逻辑,编译器将在Triton代码的编译过程中结合底层硬件特点自动完成内存分配、数据搬运、数据计算、流水并行等,因此,算子的开发难度大幅降低、开发效率显著提升。 Triton-Ascend将Triton编译栈适配到华为昇腾NPU上,在Triton的基础上提供一系列针对性的优化,使Triton代码能够编译后在昇腾硬件上高效运行。 目前,Triton-Ascend仍在持续完善中,我们将不断提升Triton Python API完备度、数据类型支持度、访存方式灵活性等,并持续优化编译器的自动优化能力,提升Triton-Ascend整体的功能与性能泛化性。
Triton-Ascend编译框架打通了Triton与昇腾硬件之间的壁垒,使熟悉Triton框架的开发者可以更有效率地使用昇腾NPU。它通过提供通用、高效的算子开发范式,为昇腾软件栈补齐了敏捷开发的关键一环,极大丰富了昇腾的算子库和上层应用生态。
最新动态与里程碑
当前版本:Triton-Ascend 3.2.0
配套CANN版本:昇腾CANN社区版8.5.0
2026年版本计划:升级triton版本到triton3.5
| 里程碑 | 重要特性更新情况 | 状态 |
|---|---|---|
| 2026.04 | Triton-Ascend 3.2.0 post版本上线 | |
| 2026.01.20 | Triton-Ascend 3.2.0 正式版本上线 | ✅ |
| 2025.11.14 | Triton-Ascend 3.2.0rc4预发布版本上线: 扩展 tt.fp_to_fp 接口,新增对 FP8的类型转换支持 新增 scatter_ub_to_out 接口,支持从UB到GM的高效数据分散操作 |
✅ |
| 2025.09.30 | 完善Scan/Sort类Triton Python API,支持非连续访存,完成vLLM、sglang开源仓中重点Triton算子适配 | ✅ |
| 2025.09.19 | 支持Triton-Ascend nightly包提取 | ✅ |
| 2025.08.15 | 完善Atomic类Triton Python API支持,完成Flaggems开源仓重点Triton算子适配,提供Matmul等简单算子高性能实现参考用例 | ✅ |
| 2025.06.30 | 支持85% Triton Python API,支持连续访存,覆盖基本使用场景需求 | ✅ |
| 2025.05.20 | Triton-Ascend开源,Gitcode代码仓Alive! | ✅ |
性能
GroupGEMM 算子性能
选取GroupGEMM算子作为示例。展示Triton-Ascend与AscendC的性能对比。
- Y轴为加速比(
Speedup= AscendC_Duration_Time / Triton_Duration_Time) - 使用硬件为
Ascend 950系列 - 算子性能优化请参考算子调优指南:
支持范围
Triton-Ascend 在昇腾 AI 产品支持使用,具体型号如下:
| 产品系列 | 产品型号 |
|---|---|
| Atlas A3 训练系列产品 | Atlas 800T A3 超节点服务器 Atlas 900 A3 SuperPoD 超节点 A200T A3 Box8 超节点服务器 |
| Atlas A3 推理系列产品 | Atlas 800I A3 超节点服务器 |
| Atlas A2 训练系列产品 | Atlas 800T A2 训练服务器 Atlas 900 A2 PoD 集群基础单元 Atlas 200T A2 Box16 异构子框 |
| Atlas A2 推理系列产品 | Atlas 800I A2 推理服务器 Atlas 300I A2 推理卡 A200I A2 Box 异构组件 |
支持操作系统: Triton-Ascend 所支持的操作系统与 CANN 一致。请参考 CANN 官方文档,下载并安装适用于您操作系统的 CANN 版本。
CANN版本:
- 商用版
| Triton-Ascend版本 | CANN商用版本 | CANN发布日期 |
|---|---|---|
| 3.2.0 | CANN 8.5.0 | 2026/01/16 |
| 3.2.0rc4 | CANN 8.3.RC2 CANN 8.3.RC1 |
2025/11/20 2025/10/30 |
- 社区版
| Triton-Ascend版本 | CANN社区版本 | CANN发布日期 |
|---|---|---|
| 3.2.0 | CANN 8.5.0 | 2026/01/16 |
| 3.2.0rc4 | CANN 8.3.RC2 CANN 8.5.0.alpha001 CANN 8.3.RC1 |
2025/11/20 2025/11/12 2025/10/30 |
入门指引
常见问题
在使用Triton-Ascend时遇到的常见问题,详见 FAQ
安全声明
我们重视开发者在使用Triton-Ascend时的信息安全,安全防护建议与相关信息请见 安全声明
许可证信息
本项目代码与文档均采用 MIT许可证
社区与贡献
欢迎参与Triton-Ascend的开发及代码贡献,详情请参阅 贡献指南