已关闭
fix(inductor): guard FlexAttention binary epilogue fusion #4546
a_knight创建于  9月3日关闭于  9月7日
a_knight
9月3日 创建

FlexAttention 连续调用后执行 out1 + out2 时,Inductor 会将二元 add 融合进其中一个 NPU Triton 模板。模板读取另一个模板输出时使用未注册到 range tree 的 xindex,触发 AssertionError: Unregistered range symbol: xindex。

期望:对这种读取另一 Triton 模板输出的二元 epilogue 禁止融合,让两个 FlexAttention 输出保持独立,并单独生成 pointwise add kernel。

likedislike
TorchNPU-BotTorchNPU-Bot成员
9月3日 添加了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月3日 评论:

issue待分派,添加triage-review标签

likedislike
Aa_knight
9月3日 关联了pull request:fix(inductor): guard FlexAttention binary epilogue fusion
TorchNPU-BotTorchNPU-Bot成员
9月3日 添加了label:bot-triaged;删除了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月3日 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
Aa_knight
9月7日 issue状态由 TODO 改变为 DONE
Aa_knight
9月7日 关闭了 issue
ascend-robotascend-robot成员
9月7日 添加了label:resolved