已合并
[v2.10.0] restore deferred Triton backend loading #44718
黄桂军创建于 6 天前
[v2.10.0] restore deferred Triton backend loading #44718
已合并
黄桂军创建于 6 天前
黄桂军
黄桂军成员
6 天前

关联 Issue

  • #4094

背景

import torch性能优化需求(pull/44372)将 Inductor 初始化从首次 backend 执行阶段提前到 torch.compile() wrapper 创建阶段。默认 Triton backend 因此被提前导入;在未安装 triton-ascend 的环境中,torch_npu/_inductor/runtime/triton_helpers.py 会报 tl.extra.ascend 缺失。

修改内容

  • 恢复默认 Inductor backend 的首次执行加载时机。
  • 增加测试,验证创建 backend="inductor" wrapper 时不会加载 torch_npu._inductor

验证

环境:torch-npu-2.10.0-py311、PyTorch 2.10.0+cpu、AArch64、CANN 9.1.0。

  • tl.extra.ascend 缺失错误消失。
likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 黄桂军 的贡献)
黄桂军黄桂军成员
6 天前 创建了 pull request,commit dc775139
黄桂军黄桂军成员
6 天前 关联了issue:[Inductor] defer Triton Ascend backend loading until first execution
黄桂军
黄桂军成员
6 天前 评论:

compile

likedislike
ascend-robotascend-robot成员
6 天前 添加了label:ci-pipeline-running
ascend-robot
ascend-robot成员
6 天前 评论:

ascend docs pipeline is running...

likedislike
此处折叠了129条消息 查看更多
ascend-robotascend-robot成员
4 天前 添加了label:approved
renyujin成员
4 天前 评论:

/lgtm

likedislike
ascend-robotascend-robot成员
4 天前 添加了label:lgtm
ascend-robotascend-robot成员
4 天前 合入了pull request
ascend-robot
ascend-robot成员
4 天前 评论:
流水线 pytorch_gitcode_PR_multiVersion#14196 [ commitID:415087c2 ] 已完成
likedislike