已关闭
flenattn:add multitemplate for epilogue fusion #4511
Jingming Liu创建于  9月2日关闭于  29 天前
Jingming Liu
Jingming Liu
9月2日 创建

Flex Attention currently finalizes one Triton config before scheduler epilogue fusion, so the selected config can overflow UB after fusion. Preserve multiple configs through lowering and select the fastest lowering-ranked config that compiles with the final epilogue.

likedislike
TorchNPU-BotTorchNPU-Bot成员
9月2日 添加了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月2日 评论:

issue待分派,添加triage-review标签

likedislike
Jingming LiuJingming Liu
9月2日 关联了pull request:flenattn:add multitemplate for epilogue fusion
TorchNPU-BotTorchNPU-Bot成员
9月2日 添加了label:bot-triaged;删除了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
9月2日 评论:

检测到当前 issue 已关联 PR,自动添加标签:bot-triaged

likedislike
Jingming LiuJingming Liu
9月2日 关联了pull request:flenattn:add multitemplate for epilogue fusion
Jingming LiuJingming Liu
9月2日 关联了pull request:flenattn:add multitemplate for epilogue fusion
chenrayray
chenrayray成员
29 天前 评论:

该需求已有实现。epilogue fusion 的 multitemplate 支持已通过 PR 45669、45690、45691 合入 v2.7.1、v2.10.0 和 master。因此先关闭此 issue。若仍有未满足的场景或问题,欢迎重新打开,并补充硬件型号、PyTorch/torch_npu/CANN 版本、复现步骤或最小示例及日志,以便继续跟进。

likedislike
chenrayraychenrayray成员
29 天前 issue状态由 TODO 改变为 DONE
chenrayraychenrayray成员
29 天前 关闭了 issue
ascend-robotascend-robot成员
29 天前 添加了label:resolved
chenrayraychenrayray成员
25 天前 关联了里程碑:v26.2.0