ops-transformer/attention/mixed_quant_sparse_flash_mla/op_kernel/arch35 · azyuli/ops-transformer

Files	Last commit	Last update
mixed_quant_sparse_flash_mla_common.h	topkvaluemode2 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !11625 merge master into master topkvaluemode2 Created-by: wangzhaonan Commit-by: zzzyh22 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A5支持topk_value_mode2 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#5772](https://gitcode.com/cann/ops-transformer/issues/5772) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11625	1 month ago
mixed_quant_sparse_flash_mla_common_arch35.h	fix(attention): 修复 arch35 物理地址预处理的非法事件 ID 8, FREE/READY 同号配对 Co-authored-by: changlei24<changlei24@huawei.com> # message auto-generated for no-merge-commit merge: !13714 merge fix/phyaddr-blktable-event-id8 into master fix(attention): 修复 arch35 物理地址预处理的非法事件 ID 8, FREE/READY 同号配对 Created-by: changlei24 Commit-by: changlei24 Merged-by: cann-robot Description: ## 修改内容 sparse_flash_mla / quant_sparse_flash_mla / mixed_quant_sparse_flash_mla / kv_quant_sparse_flash_attention 四个算子的 arch35 GetKVPhyAddr 物理地址预处理中，blkTableUb 的 MTE2_V READY Set/Wait 使用事件号 8，违反 SDK 对 `__NPU_ARCH__ == 3510` 的 `QUE_MAX_EVENT=8`（合法域 [0,8)）约束。本 PR 同时将预处理相位三块 UB 的 READY 方向事件号与 FREE 方向对齐（同一块 UB 每方向绑定一个事件号）： \| UB \| FREE \| READY 修改 \| \|---\|---\|---\| \| blkTableUb \| V_MTE2(3) \| MTE2_V 8 → 3 \| \| sparseIdxUb \| V_MTE2(4) \| MTE2_V 6 → 4 \| \| kvPhyAddrUb \| MTE3_V(7) \| V_MTE3 5 → 7 \| 改动文件： - `attention/sparse_flash_mla/op_kernel/arch35/sparse_flash_mla_common_arch35.h`（宏，使用点 csa_block_vector_arch35.h:1790-1794 等） - `attention/mixed_quant_sparse_flash_mla/op_kernel/arch35/mixed_quant_sparse_flash_mla_common_arch35.h`（宏，使用点 csa_block_vector.h:2100-2131 等） - `attention/quant_sparse_flash_mla/op_kernel/arch35/quant_sparse_flash_mla_csa_block_vector.h:1730-1731 / 1752-1754 / 1760-1761` - `attention/kv_quant_sparse_flash_attention/op_kernel/arch35/kv_quant_sparse_flash_attention_service_vector_mla_arch35.h:1519-1520 / 1539-1541 / 1552-1553` ### 选号依据 - 仓库已有先例：mixed `INNERCORE_STAGE0_IN(s)` 的 V_MTE2/MTE2_V 同号（0/1），sparse/mixed reduce 对 V_MTE2(2)/MTE2_V(2) 同号； - 相位内 MTE2_V 仅占用 {3,4}、V_MTE3 仅占用 {7}，与 FREE 方向同号但命名空间独立（两组硬件标志），无冲突； - 跨相位（主流程 `FD_MTE2_V(3)`、quant 池分配 0~3 等）经 SyncAll / tPipe->Reset 严格隔离、credit 全清。 ### 英文摘要 / English summary The blkTableUb MTE2_V READY pair uses illegal event ID 8 (QUE_MAX_EVENT=8 for `__NPU_ARCH__==3510`). This PR aligns each READY event ID with its FREE counterpart in the preprocessing phase — blkTableUb=3 (V_MTE2/MTE2_V), sparseIdxUb=4 (V_MTE2/MTE2_V), kvPhyAddrUb=7 (V_MTE3/MTE3_V) — following the existing same-number-per-UB precedent; namespaces are independent hardware flag banks, in-phase occupancy has no conflict, and cross-phase reuse is isolated by SyncAll/tPipe Reset. ### 补充：宏定义消除魔鬼数字 / Macros replacing magic numbers `quant_sparse_flash_mla` / `kv_quant_sparse_flash_attention` 的 GetKVPhyAddr 调用点原先使用裸数字事件号，已在各自 `common_arch35.h` 中按 mixed 风格定义 `INNERCORE_PHYADDR_{BLKTABLE,SPARSEIDX,KVADDR}_{FREE,READY}` 宏（含 HardEvent 命名空间与 FREE/READY 配对注释），调用点全部替换为宏。 ### Macros added (mixed style) Raw numeric event IDs at the GetKVPhyAddr call sites are replaced with `INNERCORE_PHYADDR_{BLKTABLE,SPARSEIDX,KVADDR}_{FREE,READY}` macros defined (with namespace/pairing comments) in each operator's `common_arch35.h`. ## 测试 - [x] pre-commit 检查通过（clang-format / codespell / OAT 等全部 Passed） - [x] dav-c310-vec 编译探针通过（本地 CANN 9.1.0 SDK，`MTE2_V(3)/(4)`、`V_MTE3(7)` 编译成功，QUE_MAX_EVENT=8 已在 kernel_macros.h 确认） - [x] 事件号占用静态审计：相位内 MTE2_V={3,4}、V_MTE3={7} 无冲突 - [ ] 950 硬件/模拟器整算子精度测试（与原审计口径一致，未执行） Fixes #6042 See merge request: cann/ops-transformer!13714	27 days ago
mixed_quant_sparse_flash_mla_csa_block_cube.h	fix(pre-commit): 全仓代码规范整改——attention 2/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13595 merge moe into master fix(pre-commit): 全仓代码规范整改——attention 2/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述全仓代码规范整改系列——attention 拆分 2/4（第 2 批 26 个算子目录：fused_floyd_attention ~ mixed_quant_sparse_flash_mla，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 `.clang-format` 统一格式（列宽 120、指针左对齐 `T* p`、引用对齐 `T& r` 等） - 行尾空白、文件末尾换行修复 - 规模：735 个文件，+27423/-26835 行，纯格式化改动语义等价，无逻辑变更 - op_graph/_proto.h、op_host/_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13595	1 month ago
mixed_quant_sparse_flash_mla_csa_block_vector.h	topkvaluemode2 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !11625 merge master into master topkvaluemode2 Created-by: wangzhaonan Commit-by: zzzyh22 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A5支持topk_value_mode2 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#5772](https://gitcode.com/cann/ops-transformer/issues/5772) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11625	1 month ago
mixed_quant_sparse_flash_mla_csa_kernel.h	MQSMLA回主线 Co-authored-by: XiyueL<lixiyue5@huawei.com> # message auto-generated for no-merge-commit merge: !13993 merge master into master MQSMLA回主线 Created-by: chenzeyu28 Commit-by: XiyueL Merged-by: cann-robot Description: ## 描述 MQSMLA算子 A6回合主线 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue [#6328](https://gitcode.com/cann/ops-transformer/issues/6328) <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13993	25 days ago
mixed_quant_sparse_flash_mla_kvcache.h	fix(pre-commit): 全仓代码规范整改——attention 2/4 Co-authored-by: gitcode_lijd<lijiandong20@huawei.com> # message auto-generated for no-merge-commit merge: !13595 merge moe into master fix(pre-commit): 全仓代码规范整改——attention 2/4 Created-by: gitcode_lijd Commit-by: gitcode_lijd Merged-by: cann-robot Description: 关联Issue https://gitcode.com/cann/ops-transformer/issues/5939 ## 描述全仓代码规范整改系列——attention 拆分 2/4（第 2 批 26 个算子目录：fused_floyd_attention ~ mixed_quant_sparse_flash_mla，按目录字母序均分）。基于仓库 pre-commit 门禁对存量代码做一次性规范收敛： - clang-format 按 `.clang-format` 统一格式（列宽 120、指针左对齐 `T* p`、引用对齐 `T& r` 等） - 行尾空白、文件末尾换行修复 - 规模：735 个文件，+27423/-26835 行，纯格式化改动语义等价，无逻辑变更 - op_graph/_proto.h、op_host/_def.cpp、op_api/aclnn*.h 等接口文件及 OWNERS 不在本 PR 改动范围 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/5939（全仓整改总跟踪） ## 测试 - pre-commit 全部钩子本地通过 - CI 流水线（compile/UT）验证 See merge request: cann/ops-transformer!13595	1 month ago
mixed_quant_sparse_flash_mla_template_tiling_key_arch35.h	topkvaluemode2 Co-authored-by: zzzyh22<zhangyaohui22@huawei.com> # message auto-generated for no-merge-commit merge: !11625 merge master into master topkvaluemode2 Created-by: wangzhaonan Commit-by: zzzyh22 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> A5支持topk_value_mode2 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> [#5772](https://gitcode.com/cann/ops-transformer/issues/5772) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!11625	1 month ago
mixed_quant_sparse_flash_mla_tiling_data_arch35.h	fix(mixed-quant-smla): disambiguate arch headers Co-authored-by: wangbin207<wangbin207@huawei.com> # message auto-generated for no-merge-commit merge: !12817 merge master-fix1 into master fix(mixed-quant-smla): disambiguate arch headers Created-by: wangbin207 Commit-by: wangbin207 Merged-by: cann-robot Description: ## 描述修复 mixed_quant_sparse_flash_mla 算子 arch22 与 arch35 目录下 tiling 头文件重名问题。主要改动： - arch22 头文件增加 _arch22 后缀。 - arch35 头文件增加 _arch35 后缀。 - 同步更新文件内 \file、include guard 及所有引用路径。 - 未修改算子功能和业务逻辑。 ## 关联的Issue 无。 ## 测试 - duplicate-header-check 检查通过。 - clang-format 检查通过。 - git diff --check 检查通过。 - 旧文件名引用检查通过，确认无遗漏引用。 - ascend910b 单算子目标完整编译通过。 - ascend950 host tiling 编译通过。 ## 文档更新不涉及文档更新。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [x] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12817	1 month ago
util_regbase.h	fix: SMLA系列算子降重 Co-authored-by: j60100428<jingsong5@h-partners.com> # message auto-generated for no-merge-commit merge: !13009 merge master into master fix: SMLA系列算子降重 Created-by: SH_jingsong Commit-by: j60100428 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!13009	1 month ago