环境变量
环境变量配置参考下表:
| 类别 | 环境变量 | 默认值 | 功能说明 | 配置说明 | 变更声明 |
|---|---|---|---|---|---|
| 调试与日志 | TRITON_DEBUG | 0 或未设置 | 启用 Triton 的调试输出功能,用于在运行时打印详细的调试信息。这对于排查编译或执行阶段的问题非常有用。 当设置为 1 时,Triton 会输出更多关于编译过程、内核生成和执行的信息。 某些实现中可能支持更细粒度的调试级别(如 2, 3 等),具体取决于 Triton 的版本和实现。 | 0:不启用DEBUG 1:启用DEBUG |
|
| 调试与日志 | MLIR_ENABLE_DUMP | 0 或未设置 | 在每次 MLIR 优化前转储所有内核的 IR。使用 MLIR_ENABLE_DUMP=kernelName可以只转储特定内核的IR。 |
0:不转储 1:转储所有内核IR kernelName:转储特定内核IR |
Triton 缓存可能干扰转储。如果 MLIR_ENABLE_DUMP=1 不生效,可尝试清理 Triton 缓存: rm -r ~/.triton/cache |
| 调试与日志 | LLVM_IR_ENABLE_DUMP | 0 或未设置 | 在每次 LLVM IR 优化前转储 IR。 | 0:不转储 1:转储IR |
|
| 调试与日志 | TRITON_REPRODUCER_PATH | 未设置 | 在每个 MLIR 编译阶段前生成 MLIR 复现文件。如果某阶段失败,<reproducer_path> 将保存失败前的 MLIR 状态。 |
<reproducer_path>:保存路径 | |
| 调试与日志 | TRITON_INTERPRET | 0 或未设置 | 使用 Triton 解释器而非 GPU 运行,支持在核函数代码中插入 Python 断点 | 0:不支持断点 1:支持断点 |
|
| 调试与日志 | TRITON_ENABLE_LLVM_DEBUG | 0 或未设置 | 向LLVM 传递-debug参数,输出大量调试信息。若信息过多,可使用TRITON_LLVM_DEBUG_ONLY限制输出范围。 |
0:不传递 1:传递 |
另一种减少输出干扰的方法是:先设置 LLVM_IR_ENABLE_DUMP=1运行程序,提取目标LLVM优化通道前的中间表示(IR),然后单独运行LLVM的opt工具,此时可通过命令行添加-debug-only=foo参数来限定调试范围。 |
| 调试与日志 | TRITON_LLVM_DEBUG_ONLY | 未设置 | 功能等同于 LLVM 的-debug-only命令行选项。该参数可将 LLVM 调试输出限定到特定的优化通道或组件名称(这些名称通过 LLVM 和 Triton 中的#define DEBUG_TYPE宏定义),从而有效减少调试信息的冗余输出。用户可指定一个或多个逗号分隔的值,例如:TRITON_LLVM_DEBUG_ONLY="tritongpu-remove-layout-conversions"或TRITON_LLVM_DEBUG_ONLY="tritongpu-remove-layout-conversions,regalloc"。 |
逗号分隔值:通道或组件名称 | |
| 调试与日志 | USE_IR_LOC | 0 或未设置 | 控制是否在生成的中间表示(IR)中包含位置信息(如文件名、行号等)。这些信息对调试很有帮助,但可能会增加生成的IR的大小。设置为1,会重新解析中间表示(IR),将位置信息映射为具有特定扩展名的IR文件行号(而非Python源文件行号)。这能建立从IR到LLVM IR/PTX的直接映射关系。配合性能分析工具使用时,可实现对IR指令的细粒度性能剖析。 | 0:不包含位置信息 1:包含位置信息 |
|
| 调试与日志 | TRITON_PRINT_AUTOTUNING | 0 或未设置 | 在自动调优完成后,输出每个内核的最佳配置及总耗时。 | 0:不输出 1:输出 |
|
| 调试与日志 | MLIR_ENABLE_REMARK | 0 或未设置 | 启用MLIR 编译过程中的备注信息输出,包括以备注形式输出的性能警告。 | 0:不启用 1:启用 |
|
| 调试与日志 | TRITON_KERNEL_DUMP | 0 或未设置 | 启用或禁用 Triton 内核的转储功能,当启用时,Triton 会将生成的内核代码(各编译阶段IR及最终PTX)保存到指定目录。 | 0:不启用 1:启用 |
|
| 调试与日志 | TRITON_DUMP_DIR | 当前工作目录或未设置 | 指定 Triton 内核转储文件的保存目录。当TRITON_KERNEL_DUMP=1时保存IR和PTX的目录。 |
"path":保存路径 | |
| 调试与日志 | TRITON_DEVICE_PRINT | 0 或未设置 | 当设置为1 或者 true时(TRUE 将被转换为 true),启用tl.device_print功能。 重要说明:该功能使用GM缓冲区(其指针被传递给内核)。 |
0:不启动 1:启用 tl.device_print功能 |
每个线程的GM缓冲区最大为16KB,超限内容将被丢弃。该值目前固定,后续将通过环境变量调整。 |
| 调试与日志 | TRITON_MEMORY_DISPLAY | 0 或未设置 | 控制是否生成内存使用情况的 json 文件。当TRITON_MEMORY_DISPLAY=1时保存 memory_info_aic/aiv.json 文件到当前目录 。 |
0:不启用 1:启用 |
|
| 编译控制 | TRITON_ALWAYS_COMPILE | 0 或未设置 | 控制 Triton 是否每次运行都强制重新编译内核,而不是使用已有的缓存版本。 默认情况下,Triton 会对已经编译过的内核进行缓存(基于参数和配置),以提高性能。 设置为 1 后,Triton 将忽略缓存并每次都重新编译内核,这在调试或测试新编译器特性时非常有用。 | 0:不启用 1:每次运行都重新编译所有内核 |
|
| 编译控制 | DISABLE_LLVM_OPT | 0 或未设置 | 当设置为 1 时,可以禁用 LLVM 编译过程中的优化步骤(make_llir和make_ptx的LLVM优化)。当设置为字符串,解析为要禁用的LLVM优化标志列表。例如使用DISABLE_LLVM_OPT="disable-lsr"可禁用循环强度优化(该优化在某些存在寄存器压力的内核中可能导致高达10%的性能波动)。 |
0:LLVM 的优化是启用状态 1:禁用 LLVM 编译过程中的优化步骤(make_llir和make_ptx的LLVM优化) :"disable-lsr":禁用循环强度优化 |
|
| 编译控制 | MLIR_ENABLE_TIMING | 0 或未设置 | 启用或禁用 MLIR 编译过程中的时间统计功能。 | 0:不启用 1:启用 |
|
| 编译控制 | LLVM_ENABLE_TIMING | 0 或未设置 | 启用或禁用 LLVM 编译过程中的时间统计功能。 | 0:不启用 1:启用 |
|
| 编译控制 | TRITON_DEFAULT_FP_FUSION | 1 启用 | 控制是否默认启用浮点运算融合优化,覆盖默认的浮点运算融合行为(如mul+add->fma)。 | 0:不启用 1:启用 |
|
| 编译控制 | TRITON_KERNEL_OVERRIDE | 0 或未设置 | 启用或禁用 Triton 内核覆盖功能,允许在每个编译阶段开始时用用户指定的外部文件(IR/PTX等)覆盖默认生成的内核代码。 | 0:不启用 1:启用 |
|
| 编译控制 | TRITON_OVERRIDE_DIR | 当前工作目录或未设置 | 指定 Triton 内核覆盖文件的查找目录。当TRITON_KERNEL_OVERRIDE=1时加载IR/PTX文件的目录。 |
"path":保存路径 | |
| 编译控制 | TRITON_ASCEND_COMPILE_SPEED_OPT | 0 或未设置 | 控制JIT编译器在发现内核编译失败后是否跳过后续编译阶段。设为1跳过(默认0继续尝试)。 |
0:继续尝试 1:跳过 |
|
| 编译控制 | TRITON_COMPILE_ONLY | 0 或未设置 | remote_launch时使用,只编译不运行。 | 0:不启用 1:启用 |
|
| 编译控制 | TRITON_DISABLE_FFTS | 0 或未设置 | 是否禁用FFTS。 | 0:启用 1:禁用 |
|
| 编译控制 | TRITON_DISABLE_PRECOMPILE | 0 或未设置 | 是否禁用预编译。 | 0:使能预编译 1:禁用预编译 |
|
| 运行与调度 | TRITON_ALL_BLOCKS_PARALLEL | 0 或未设置 | 启用或禁用自动根据物理核数优化逻辑核数,仅当逻辑核间可并行时方可启动。当逻辑核数大于物理核数时,启动该优化,则编译器自动调整逻辑核数量为物理核数,减少调度开销;使能后允许grid>65535。限制:triton kernel的逻辑必须对执行顺序不敏感才能开启该选项,否则可能会导致死锁。 | 0:不启用 1:启用 |
|
| 运行与调度 | TRITON_ENABLE_TASKQUEUE | 0 或未设置 | 是否开启task_queue。 | 0:不启用 1:启用 |
|
| 运行与调度 | TRITON_ENABLE_SANITIZER | 0 或未设置 | 是否使能SANITIZER。 | 0:不启用 1:启用 |
|
| 运行与调度 | ENABLE_PRINT_UB_BITS | 0 或未设置 | 打开后可以获取当前UB占用量,给inductor使用。 | 0:不启用 1:启用 |
|
| 其他 | TRITON_BENCH_METHOD | 未设置 | 使用昇腾NPU时,将testing.py中的do_bench切换为do_bench_npu(需配合INDUCTOR_ASCEND_AGGRESSIVE_AUTOTUNE = 1使用)。设为default时即使NPU可用,仍调用原do_bench函数。 |
"npu":切换为do_bench_npu |
|
| 其他 | TRITON_REMOTE_RUN_CONFIG_PATH | path | 指定远程运行的配置路径。 | 直接给定path |