环境变量与编译选项

本文汇总 Triton-Ascend 中可由开发者显式控制的行为开关,包括运行前设置的环境变量,以及编译期通过 triton.Config 或 kernel launch meta-parameter 传入的 NPU 编译选项。

环境变量

环境变量用法示例

环境变量需在运行 Python 程序前设置,例如:

export TRITON_DEBUG=1
python run_kernel.py

环境变量参考表

环境变量配置参考下表:

类别 环境变量 默认值 功能说明 配置说明 变更声明
调试与日志 TRITON_DEBUG 0 或未设置 启用 Triton 的调试输出功能,用于在运行时打印详细的调试信息。这对于排查编译或执行阶段的问题非常有用。 当设置为 1 时,Triton 会输出更多关于编译过程、内核生成和执行的信息。 某些实现中可能支持更细粒度的调试级别(如 2, 3 等),具体取决于 Triton 的版本和实现。 0:不启用DEBUG
1:启用DEBUG
调试与日志 MLIR_ENABLE_DUMP 0 或未设置 在每次 MLIR 优化前转储所有内核的 IR。使用 MLIR_ENABLE_DUMP=kernelName可以只转储特定内核的IR。 0:不转储
1:转储所有内核IR kernelName:转储特定内核IR
Triton 缓存可能干扰转储。如果 MLIR_ENABLE_DUMP=1 不生效,可尝试清理 Triton 缓存: rm -r ~/.triton/cache
调试与日志 LLVM_IR_ENABLE_DUMP 0 或未设置 在每次 LLVM IR 优化前转储 IR。 0:不转储
1:转储IR
调试与日志 TRITON_REPRODUCER_PATH 未设置 在每个 MLIR 编译阶段前生成 MLIR 复现文件。如果某阶段失败,<reproducer_path> 将保存失败前的 MLIR 状态。 <reproducer_path>:保存路径
调试与日志 TRITON_INTERPRET 0 或未设置 使用 Triton 解释器而非 GPU 运行,支持在核函数代码中插入 Python 断点 0:不支持断点
1:支持断点
调试与日志 TRITON_ENABLE_LLVM_DEBUG 0 或未设置 向LLVM 传递-debug参数,输出大量调试信息。若信息过多,可使用TRITON_LLVM_DEBUG_ONLY限制输出范围。 0:不传递
1:传递
另一种减少输出干扰的方法是:先设置 LLVM_IR_ENABLE_DUMP=1运行程序,提取目标LLVM优化通道前的中间表示(IR),然后单独运行LLVM的opt工具,此时可通过命令行添加-debug-only=foo参数来限定调试范围。
调试与日志 TRITON_LLVM_DEBUG_ONLY 未设置 功能等同于 LLVM 的-debug-only命令行选项。该参数可将 LLVM 调试输出限定到特定的优化通道或组件名称(这些名称通过 LLVM 和 Triton 中的#define DEBUG_TYPE宏定义),从而有效减少调试信息的冗余输出。用户可指定一个或多个逗号分隔的值,例如:TRITON_LLVM_DEBUG_ONLY="tritongpu-remove-layout-conversions"TRITON_LLVM_DEBUG_ONLY="tritongpu-remove-layout-conversions,regalloc" 逗号分隔值:通道或组件名称
调试与日志 USE_IR_LOC 0 或未设置 控制是否在生成的中间表示(IR)中包含位置信息(如文件名、行号等)。这些信息对调试很有帮助,但可能会增加生成的IR的大小。设置为1,会重新解析中间表示(IR),将位置信息映射为具有特定扩展名的IR文件行号(而非Python源文件行号)。这能建立从IR到LLVM IR/PTX的直接映射关系。配合性能分析工具使用时,可实现对IR指令的细粒度性能剖析。 0:不包含位置信息
1:包含位置信息
调试与日志 TRITON_PRINT_AUTOTUNING 0 或未设置 在自动调优完成后,输出每个内核的最佳配置及总耗时。 0:不输出
1:输出
调试与日志 MLIR_ENABLE_REMARK 0 或未设置 启用MLIR 编译过程中的备注信息输出,包括以备注形式输出的性能警告。 0:不启用
1:启用
调试与日志 TRITON_KERNEL_DUMP 0 或未设置 启用或禁用 Triton 内核的转储功能,当启用时,Triton 会将生成的内核代码(各编译阶段IR及最终PTX)保存到指定目录。 0:不启用
1:启用
调试与日志 TRITON_DUMP_DIR 当前工作目录或未设置 指定 Triton 内核转储文件的保存目录。当TRITON_KERNEL_DUMP=1时保存IR和PTX的目录。 "path":保存路径
调试与日志 TRITON_DEVICE_PRINT 0 或未设置 当设置为1 或者 true时(TRUE 将被转换为 true),启用tl.device_print功能。 重要说明:该功能使用GM缓冲区(其指针被传递给内核)。 0:不启动
1:启用tl.device_print功能
每个线程的GM缓冲区最大为16KB,超限内容将被丢弃。该值目前固定,后续将通过环境变量调整。
调试与日志 TRITON_MEMORY_DISPLAY 0 或未设置 控制是否生成内存使用情况的 json 文件。当TRITON_MEMORY_DISPLAY=1时保存 memory_info_aic/aiv.json 文件到当前目录 。 0:不启用
1:启用
编译控制 TRITON_ALWAYS_COMPILE 0 或未设置 控制 Triton 是否每次运行都强制重新编译内核,而不是使用已有的缓存版本。 默认情况下,Triton 会对已经编译过的内核进行缓存(基于参数和配置),以提高性能。 设置为 1 后,Triton 将忽略缓存并每次都重新编译内核,这在调试或测试新编译器特性时非常有用。 0:不启用
1:每次运行都重新编译所有内核
编译控制 DISABLE_LLVM_OPT 0 或未设置 当设置为 1 时,可以禁用 LLVM 编译过程中的优化步骤(make_llir和make_ptx的LLVM优化)。当设置为字符串,解析为要禁用的LLVM优化标志列表。例如使用DISABLE_LLVM_OPT="disable-lsr"可禁用循环强度优化(该优化在某些存在寄存器压力的内核中可能导致高达10%的性能波动)。 0:LLVM 的优化是启用状态
1:禁用 LLVM 编译过程中的优化步骤(make_llir和make_ptx的LLVM优化) :"disable-lsr":禁用循环强度优化
编译控制 MLIR_ENABLE_TIMING 0 或未设置 启用或禁用 MLIR 编译过程中的时间统计功能。 0:不启用
1:启用
编译控制 LLVM_ENABLE_TIMING 0 或未设置 启用或禁用 LLVM 编译过程中的时间统计功能。 0:不启用
1:启用
编译控制 TRITON_DEFAULT_FP_FUSION 1 启用 控制是否默认启用浮点运算融合优化,覆盖默认的浮点运算融合行为(如mul+add->fma)。 0:不启用
1:启用
编译控制 TRITON_KERNEL_OVERRIDE 0 或未设置 启用或禁用 Triton 内核覆盖功能,允许在每个编译阶段开始时用用户指定的外部文件(IR/PTX等)覆盖默认生成的内核代码。 0:不启用
1:启用
编译控制 TRITON_OVERRIDE_DIR 当前工作目录或未设置 指定 Triton 内核覆盖文件的查找目录。当TRITON_KERNEL_OVERRIDE=1时加载IR/PTX文件的目录。 "path":保存路径
编译控制 TRITON_ASCEND_COMPILE_SPEED_OPT 0 或未设置 控制JIT编译器在发现内核编译失败后是否跳过后续编译阶段。设为1跳过(默认0继续尝试)。 0:继续尝试
1:跳过
编译控制 TRITON_COMPILE_ONLY 0 或未设置 remote_launch时使用,只编译不运行。 0:不启用
1:启用
编译控制 TRITON_DISABLE_FFTS 0 或未设置 是否禁用FFTS。 0:启用
1:禁用
编译控制 TRITON_DISABLE_PRECOMPILE 0 或未设置 是否禁用预编译。 0:启用预编译
1:禁用预编译
运行与调度 TRITON_ALL_BLOCKS_PARALLEL 0 或未设置 启用或禁用自动根据物理核数优化逻辑核数,仅当逻辑核间可并行时方可启动。当逻辑核数大于物理核数时,启动该优化,则编译器自动调整逻辑核数量为物理核数,减少调度开销;启用后允许grid>65535。限制:triton kernel的逻辑必须对执行顺序不敏感才能开启该选项,否则可能会导致死锁。 0:不启用
1:启用
运行与调度 TRITON_ENABLE_TASKQUEUE 0 或未设置 是否开启task_queue。 0:不启用
1:启用
运行与调度 TRITON_ENABLE_SANITIZER 0 或未设置 是否启用 SANITIZER。 0:不启用
1:启用
运行与调度 ENABLE_PRINT_UB_BITS 0 或未设置 打开后可以获取当前UB占用量,给inductor使用。 0:不启用
1:启用
其他 TRITON_BENCH_METHOD 未设置 使用昇腾NPU时,将testing.py中的do_bench切换为do_bench_npu(需配合INDUCTOR_ASCEND_AGGRESSIVE_AUTOTUNE = 1使用)。设为default时即使NPU可用,仍调用原do_bench函数。 "npu":切换为do_bench_npu
其他 TRITON_REMOTE_RUN_CONFIG_PATH path 指定远程运行的配置路径。 直接给定path

编译选项

编译选项用于控制单个 Triton kernel 的编译策略,可通过 triton.Config、Autotune 参数或 kernel launch meta-parameter 传入。

编译选项用法示例

例如,可在 kernel launch 时直接传入 multibuffer

import triton
import triton.language as tl

@triton.jit
def kernel(..., BLOCK_SIZE: tl.constexpr):
    ...

grid = (triton.cdiv(n_elements, 1024),)
kernel[grid](..., BLOCK_SIZE=1024, multibuffer=True)

编译选项参考表

编译选项配置参考下表:

类别 编译选项 默认值/可选值 功能说明 配置说明
通用流水 multibuffer TrueFalse;910_95 编译场景默认关闭 启用或禁用 ping-pong/double buffer 流水。 triton.Config 或 launch meta-parameter
CV 融合 enable_auto_bind_sub_block NoneTrueFalse 启用或禁用自动绑定 sub-block。 triton.Config 或 launch meta-parameter
CV 融合 enable_hivm_auto_cv_balance NoneTrueFalse 启用或禁用自动 CV balance。 triton.Config 或 Autotune 参数
CV 融合/同步 sync_solver NoneTrueFalse 启用或禁用 HIVM 同步求解器。 triton.Config 或 launch meta-parameter
同步 unit_flag NoneTrueFalse Cube 搬出相关同步优化项。 triton.Config 或 Autotune 参数
同步 inject_barrier_all NoneTrueFalse 启用或禁用自动注入 barrier 同步。 triton.Config 或 launch meta-parameter
同步 inject_block_all NoneTrueFalse 启用或禁用自动注入 block 同步。 triton.Config 或 launch meta-parameter
多缓冲范围 limit_auto_multi_buffer_only_for_local_buffer NoneTrueFalse 限制自动 multi-buffer 只作用于 local buffer。 triton.Config 或 Autotune 参数
多缓冲范围 limit_auto_multi_buffer_of_local_buffer None"no-limit""no-l0c" 配置 local buffer 自动 multi-buffer 的 scope。 triton.Config 或 Autotune 参数
Workspace set_workspace_multibuffer None24 配置 workspace multi-buffer 档位。 triton.Config 或 Autotune 参数
CV 融合 tiling tile_mix_vector_loop None248 配置 Vector loop 的切分份数。 triton.Config 或 Autotune 参数
CV 融合 tiling tile_mix_cube_loop None248 配置 Cube loop 的切分份数。 triton.Config 或 Autotune 参数
CV 融合/同步 disable_auto_inject_block_sync NoneTrueFalse 启用或禁用自动 block sync 注入。 triton.Config 或 launch meta-parameter
运行流 stream None 或 NPU stream 标识 指定 NPU stream。 launch meta-parameter
编译 Pass enable_linearize 版本相关 启用或禁用 linearization pass。 triton.Config 或 launch meta-parameter
CV 融合/layout enable_nd2nz_on_vector 默认 False 启用或禁用 Vector 路径上的 ND 到 NZ 布局转换。 triton.Config 或 launch meta-parameter
大 grid 优化 auto_blockify_size 默认 1 启用或禁用 AutoBlockify pass。未设置 TRITON_ALL_BLOCKS_PARALLEL 时忽略。 launch meta-parameter 或 triton.Config