Closed
修复flash_attn arch92编译报错 #7159
jiang-liruiAdd on  8 days agoClosed at  8 days ago
jiang-liruiCollaborators
8 days ago Create

arch35和arch92的tilingkey定义当前是共用的,arch35的DN不合轴模板的s2基本块从128扩大到256,导致arch92编译报错

likedislike
Jjiang-liruiCollaborators
8 days ago Associated pull request
周云飞
周云飞Collaborators
8 days ago Comments:

/assign @jiang-lirui

likedislike
CANN-robotCANN-robotCollaborators
8 days ago Assign jiang-lirui as responsible person
周云飞
周云飞Collaborators
8 days ago Comments:

问题说明

按描述,arch35 的 DN 不合轴模板将 s2 基本块从 128 扩大到 256 后,共用的 tilingkey 定义影响了 arch92 编译。现有代码片段尚未展示该模板的配置及跨架构引用关系,因此具体报错原因仍需确认。

处理建议

可考虑按架构隔离受影响的 tilingkey 配置,让 arch35 使用新的基本块,同时保留 arch92 支持的配置,并确保主机侧生成的 key 与内核模板匹配。重点验证两种架构的编译及对应配置的选择。

请补充报错版本或提交号,以及首条编译错误(含模板实例化上下文),以便定位实际受影响的定义和引用位置。

likedislike
CANN-robotCANN-robotCollaborators
8 days ago Close issue
CANN-robotCANN-robotCollaborators
8 days ago Added label: resolved
周云飞
周云飞Collaborators
1 day ago Comments:

已针对 Flash Attention 的 DN 不合轴模板按架构区分 tiling key:arch92 使用 Config 0–9,arch35 保留 S2 对齐 256 的 Config 10–13,避免 arch35 的配置影响 arch92 编译。

关联 PR:PR #15375

likedislike