Triton Ascend 已经迁移到 triton-lang/triton-ascend

如果你在这个仓库下有存量工作,请迁移到新的仓库。

当前仓库将被归档。

项目简介与价值主张

Triton-Ascend是面向昇腾平台构建的Triton编译框架,旨在让Triton代码能够在昇腾硬件上高效运行。

  • 核心价值说明

Triton是近几年来受到开发者青睐的Python化编译框架。开发者仅需关注Tile/Block的切分方式以及基于Tile/Block的运算逻辑,编译器将在Triton代码的编译过程中结合底层硬件特点自动完成内存分配、数据搬运、数据计算、流水并行等,因此,算子的开发难度大幅降低、开发效率显著提升。 Triton-Ascend将Triton编译栈适配到华为昇腾NPU上,在Triton的基础上提供一系列针对性的优化,使Triton代码能够编译后在昇腾硬件上高效运行。 目前,Triton-Ascend仍在持续完善中,我们将不断提升Triton Python API完备度、数据类型支持度、访存方式灵活性等,并持续优化编译器的自动优化能力,提升Triton-Ascend整体的功能与性能泛化性。

  • 昇腾生态定位

Triton-Ascend编译框架打通了Triton与昇腾硬件之间的壁垒,使熟悉Triton框架的开发者可以更有效率地使用昇腾NPU。它通过提供通用、高效的算子开发范式,为昇腾软件栈补齐了敏捷开发的关键一环,极大丰富了昇腾的算子库和上层应用生态。

最新动态与里程碑

  • 近期版本更新

当前版本:Triton-Ascend 3.2.1
配套CANN版本:昇腾CANN社区版9.0.0
2026年版本计划:升级Triton版本到Triton3.5

  • 里程碑

里程碑 重要特性更新情况 状态
2026.04.30 Triton-Ascend 3.2.1 正式版本上线
2026.01.20 Triton-Ascend 3.2.0 正式版本上线
2025.11.14 Triton-Ascend 3.2.0rc4预发布版本上线:
扩展 tt.fp_to_fp 接口,新增对 FP8的类型转换支持
新增 scatter_ub_to_out 接口,支持从UB到GM的高效数据分散操作
2025.09.30 完善Scan/Sort类Triton Python API,支持非连续访存,完成vLLM、sglang开源仓中重点Triton算子适配
2025.09.19 支持Triton-Ascend nightly包提取
2025.08.15 完善Atomic类Triton Python API支持,完成Flaggems开源仓重点Triton算子适配,提供Matmul等简单算子高性能实现参考用例
2025.06.30 支持85% Triton Python API,支持连续访存,覆盖基本使用场景需求
2025.05.20 Triton-Ascend开源,Gitcode代码仓Alive!
  • 社区活动信息

  1. 会议日历
  2. 会议纪要看板

性能

GroupGEMM 算子性能

选取GroupGEMM算子作为示例。展示Triton-AscendAscendC的性能对比。

GroupGEMM Performance
  • Y轴为加速比(Speedup= AscendC_Duration_Time / Triton_Duration_Time)
  • 使用硬件为Ascend 950系列
  • 算子性能优化请参考算子调优指南

支持范围

  • 硬件支持

Triton-Ascend 在昇腾 AI 产品支持使用,具体型号如下:

产品系列 产品型号
Atlas A3 训练系列产品 Atlas 800T A3 超节点服务器
Atlas 900 A3 SuperPoD 超节点
A200T A3 Box8 超节点服务器
Atlas A3 推理系列产品 Atlas 800I A3 超节点服务器
Atlas A2 训练系列产品 Atlas 800T A2 训练服务器
Atlas 900 A2 PoD 集群基础单元
Atlas 200T A2 Box16 异构子框
Atlas A2 推理系列产品 Atlas 800I A2 推理服务器
Atlas 300I A2 推理卡
A200I A2 Box 异构组件
  • 兼容性

支持操作系统: Triton-Ascend 所支持的操作系统与 CANN 一致。请参考 CANN 官方文档,下载并安装适用于您操作系统的 CANN 版本。

CANN版本:

  • 商用版
Triton-Ascend版本 CANN商用版本 CANN发布日期
3.2.1 CANN 9.0.0 2026/04/30
3.2.0 CANN 8.5.0 2026/01/16
3.2.0rc4 CANN 8.3.RC2
CANN 8.3.RC1
2025/11/20
2025/10/30
  • 社区版
Triton-Ascend版本 CANN社区版本 CANN发布日期
3.2.1 CANN 9.0.0 2026/04/30
3.2.0 CANN 8.5.0 2026/01/16
3.2.0rc4 CANN 8.3.RC2
CANN 8.5.0.alpha001
CANN 8.3.RC1
2025/11/20
2025/11/12
2025/10/30

入门指引

常见问题

在使用Triton-Ascend时遇到的常见问题,详见 FAQ

安全声明

我们重视开发者在使用Triton-Ascend时的信息安全,安全防护建议与相关信息请见 安全声明

许可证信息

本项目代码与文档均采用 MIT许可证

社区与贡献

欢迎参与Triton-Ascend的开发及代码贡献,详情请参阅 贡献指南