图编译Debug信息保存功能
功能介绍
GE图模式下提供了多种调试定位方法，例如日志打印和文件dump等，需手动分别进行配置。该方式虽然具有一定灵活性，但也增加了操作的复杂性。
为简化定位过程中的信息收集，可通过复用PyTorch原生DEBUG环境变量TORCH_COMPILE_DEBUG，当其设置为1时，将自动开启所有必要的日志打印与文件dump。
图 1 图编译示意图
开启本功能后，图编译过程中能自动收集的关键调试信息如上图所示 ，详细说明参见下表。
表 1 信息收集表
| 信息类型 | 说明 |
|---|---|
| 日志信息 | PyTorch原生Dynamo日志 TorchAir Python层日志 TorchAir C++层日志 |
| Debug信息 | AOT前的GraphModule AOT后的GraphModule 公共Pass图优化过程中每个Pass的输出FX图（txt文件） GE图优化前后及不同Pass处理后的图结构信息：该图结构信息可通过config.debug.graph_dump.type设置txt、pbtxt、py文件类型，可参考图结构dump功能。 |
使用约束
使用该功能时，需使用编译后端npu_backend ，不支持自定义后端。
使用方法
-
方法一：在终端设置环境变量
export TORCH_COMPILE_DEBUG=1 python main.py -
方法二：在Python脚本开头设置环境变量
说明
若在import torchair及from torchair import logger之后设置环境变量，会因环境变量未在日志模块导入前生效，导致目录下缺失torchair/debug.log文件。
import os # 配置环境变量 os.environ["TORCH_COMPILE_DEBUG"] = "1" import torch import torch.nn as nn import torchair from torchair import logger
使用示例
以如下模型脚本为例，实现简单的乘法功能，代码流程如下：
- 设置环境变量TORCH_COMPILE_DEBUG为1。
- 开启Dynamo日志。
- 设置图编译模式，设置device="npu:0"。
- 构造一个随机输入，设置dynamic=False及requires_grad=True，执行了一次前向和反向。
- 构造一个不同shape的随机输入，设置requires_grad=False，执行了一次前向推理。
import os
# 配置环境变量
os.environ["TORCH_COMPILE_DEBUG"] = "1"
import torch
import torch_npu
import torchair
import logging
# 开启Dynamo日志
torch._logging.set_logs(dynamo=logging.DEBUG,aot=logging.DEBUG,output_code=True,graph_code=True)
config = torchair.CompilerConfig()
config.debug.graph_dump.type = "pbtxt"
npu_backend = torchair.get_npu_backend(compiler_config=config)
device = "npu:0"
class Model(torch.nn.Module):
def forward(self, x):
return 2 * x
model = Model().to(device)
model = torch.compile(model, backend=npu_backend, dynamic=False)
x = torch.randn(10, 10, requires_grad=True, device=device)
out = model(x)
loss_fn = torch.nn.MSELoss()
target = torch.randn(10, 10, device=device)
loss = loss_fn(out, target)
loss.backward()
x = torch.randn(20, 20, requires_grad=False, device=device)
out = model(x)
运行示例脚本，编译过程中必要的Debug信息产物目录结构如下，仅供参考，具体取决于实际开启的Pass数量。“torch_compile_debug”为PyTorch原生开启环境变量时创建的目录，默认在当前脚本路径下。分布式场景下，运行目录名会在末尾追加-rank_<rank_id>（例如torch_compile_debug/run_<时间>-pid_<进程号>-rank_<rank_id>）。
torch_compile_debug
├── run_<时间>-pid_<进程号>
│ ├── torchair
│ │ ├── debug.log # Python和C++层日志
│ │ ├── model__0 # model__0为模型ID
│ │ │ ├── backward # 反向编译
│ │ │ │ ├── 000_aot_backward_graph.txt # AOT后的GraphModule
│ │ │ │ ├── 001_aot_backward_graph_after_${pass1_name}.txt # 公共图优化过程中每个Pass的输出FX图
│ │ │ │ ├── 002_aot_backward_graph_after_${pass2_name}.txt
│ │ │ │ ├── 003_aot_backward_original_ge_graph.pbtxt # 所有GE图优化处理前的GE图
│ │ │ │ ├── 004_aot_backward_graph_after_${pass3_name}.pbtxt # GE图优化中不同Pass处理后的GE图
│ │ │ │ ├── 005_aot_backward_graph_after_${pass4_name}.pbtxt
│ │ │ │ ├── 006_aot_backward_optimized_ge_graph.pbtxt # 所有GE图优化处理后的GE图
│ │ │ │ ├── ...... # 其他Pass优化
│ │ │ ├── dynamo_out_graph.txt # AOT前的GraphModule
│ │ │ ├── forward # 前向编译
│ │ │ │ ├── 000_aot_forward_graph.txt
│ │ │ │ ├── 001_aot_forward_graph_after_${pass1_name}.txt
│ │ │ │ ├── 002_aot_forward_graph_after_${pass2_name}.txt
│ │ │ │ ├── 003_aot_forward_original_ge_graph.pbtxt
│ │ │ │ ├── 004_aot_forward_graph_after_${pass3_name}.pbtxt
│ │ │ │ ├── 005_aot_forward_graph_after_${pass4_name}.pbtxt
│ │ │ │ ├── 006_aot_backward_optimized_ge_graph.pbtxt
│ │ ├── model__1
│ │ │ ├── dynamo_out_graph.txt
│ │ │ ├── forward # 前向推理
│ │ │ │ ├── 000_aot_forward_graph.txt
│ │ │ │ ├── 001_aot_forward_graph_after_${pass1_name}.txt
│ │ │ │ ├── 002_aot_forward_graph_after_${pass2_name}.txt
│ │ │ │ ├── 003_aot_forward_original_ge_graph.pbtxt
│ │ │ │ ├── 004_aot_forward_graph_after_${pass3_name}.pbtxt
│ │ │ │ ├── 005_aot_forward_graph_after_${pass4_name}.pbtxt
│ │ │ │ ├── 006_aot_forward_optimized_ge_graph.pbtxt
│ └── torchdynamo
│ └── debug.log # Torch原生Dynamo日志
└── ... # Torch原生其他产物