已关闭
[Feature] TorchBench 支持 triton_experimental NPU Inductor 后端 #4351
rmch创建于  9 天前关闭于  8 天前
rmch成员
9 天前 创建

背景

当前 TorchBench 的 --npu-backend 已支持 mlirdvmakgtriton,但尚不能显式选择独立的 triton_experimental 后端,导致该后端无法通过 TorchBench 进行标准化精度、性能及 profiler 验证。

同时,部分既有 TorchBench NPU 兼容补丁面向 ascend_npu_ir 后端,其 decomposition、GENERATE_LIST 和 fallback 配置不适用于 triton_experimental,可能影响实验后端的正常编译与运行。

目标

  1. TorchBench 新增 --npu-backend triton_experimental 选项。
  2. 正确配置 TORCHINDUCTOR_NPU_BACKEND,且不改变既有 triton 后端语义。
  3. 适配 nvidia_deeprecommender 在 NPU 上的训练和推理初始化。
  4. 避免 NPU profiler 与 Inductor 首次编译/Triton autotune 嵌套导致 profile 数据异常。
  5. triton_experimental 跳过仅适用于 ascend_npu_ir 的调优补丁,保留 stock Inductor decomposition 行为。
  6. 补充 TorchBench 使用说明和验证示例。

验收标准

  • triton_experimental 可通过 TorchBench 命令行选择并正常运行。
  • nvidia_deeprecommender 在 NPU 上训练、推理可完成精度验证。
  • 启用 profiler 时可正常生成 trace,数据库包含 TASK 表。
  • 既有 mlirdvmtriton 等后端行为不回归。
  • README 补充后端说明和使用示例。

关联 PR

likedislike
Rrmch成员
9 天前 关联了看板:FrameworkPTAdapter 版本issue看板
TorchNPU-BotTorchNPU-Bot成员
9 天前 添加了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9 天前 评论:

issue待分派,添加triage-review标签

likedislike
ascend-robotascend-robot成员
9 天前 添加了label:feature
TorchNPU-BotTorchNPU-Bot成员
9 天前 添加了label:bot-triaged;删除了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9 天前 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
rmch成员
9 天前 评论:

@TorchNPU-Bot 怎么关联里程碑

likedislike
ascend-robotascend-robot成员
8 天前 关闭了 issue
ascend-robotascend-robot成员
8 天前 添加了label:resolved