已关闭
[Bug]: `triton_experimental` 后端 TorchBench BertForQuestionAnswering报错 #3667
htchu创建于  8月5日关闭于  26 天前
htchu成员
8月5日 创建

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

⚠️ 安全信息提醒:请仔细检查提供的文本内容,确保其不包含敏感数据信息,包括但不限于:

  • API 令牌或密钥
  • 密码或身份验证凭证
  • 私有网址或接口地址
  • 个人或机密数据
  • ...

在分享配置信息或代码示例时,请将敏感信息脱敏处理,或使用 <TOKEN> 等占位符替代原有内容。

环境信息

  • A2
  • CANN 9.1.0
  • torch cpu 2.13 + torch npu 2.13 分支自编包

🐛 问题描述

使用 triton_experimental 后端编译训练
BertForQuestionAnswering 时,编译和 NPU Graph Tree warmup 依次暴露了四类问题:

  1. cat_store 的 dtype propagation 假设 value 一定有 .dtype
  2. control_deps 的专用 lowering 被通用 fallback 覆盖;
  3. linearize codegen 对常量索引 load 记录了不一致的 broadcast shape;
  4. launcher 的 downcast memo 将临时 Tensor 保留在 Graph Tree 私有内存池中。

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Hhtchu成员
8月5日 添加了label:bug
Hhtchu成员
8月5日 关联了看板:FrameworkPTAdapter 版本issue看板
Hhtchu成员
8月5日 修改标题为 “[Bug]: `triton_experimental` 后端”,原标题为“[Bug]: ”
Hhtchu成员
8月5日 修改标题为 “[Bug]: `triton_experimental` 后端 TorchBench BertForQuestionAnswering报错”,原标题为“[Bug]: `triton_experimental` 后端”
Hhtchu成员
8月5日 将 htchu 设为负责人
Hhtchu成员
8月5日 关联了pull request:fix: fix triton experimental error in BERT case
TorchNPU-BotTorchNPU-Bot成员
8月5日 添加了label:bot-triaged
TorchNPU-Bot
TorchNPU-Bot成员
8月5日 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
Hhtchu成员
28 天前 关联了pull request:fix: resolve Triton Experimental model correctness regressions
Hhtchu成员
26 天前 issue状态由 TODO 改变为 DONE
Hhtchu成员
26 天前 关闭了 issue
ascend-robotascend-robot成员
26 天前 添加了label:resolved