| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
GMM arch35相关代码进行 clang-format 格式整改 Co-authored-by: zhangzhizhuo<zhangzhizhuo1@huawei.com> # message auto-generated for no-merge-commit merge: !8883 merge fixformat into master GMM arch35相关代码进行 clang-format 格式整改 Created-by: zhangzhizhuo Commit-by: zhangzhizhuo Merged-by: cann-robot Description: ## 描述 本次 PR 对 GMM arch35相关代码进行 clang-format 格式整改,统一代码风格,减少后续 pre-commit 检查中的格式告警。 整改范围如下: - 完整整改 gmm/common/cgmct 目录下的 C/C++ 文件。 - 其他 GMM 算子仅整改 arch35 子目录下的文件。 - 不整改以下两个算子: - gmm/grouped_matmul_swiglu_quant - gmm/quant_grouped_matmul_dequant 所有修改均为 clang-format 产生的代码格式调整,不涉及功能逻辑、接口或算法变更。 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/3797 ## 测试 gmm 类二级冒烟验证 ## 文档更新 不涉及文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!8883 | 3 个月前 | |
Gmm Code CleanUp Co-authored-by: lijiamin2025<lijiamin24@huawei.com> # message auto-generated for no-merge-commit merge: !10455 merge CleanCode into master Gmm Code CleanUp Created-by: lijiamin2025 Commit-by: lijiamin2025 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1.修改codeCheck相关问题 2.门禁触发的pre-Commit修改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-transformer/issues/4508 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10455 | 2 个月前 | |
torch extension整改成分布式 Co-authored-by: hblnb<huangbolin3@huawei.com> # message auto-generated for no-merge-commit merge: !9712 merge torch_extension_split into master torch extension整改成分布式 Created-by: hblnb Commit-by: hblnb Merged-by: cann-robot Description: ## 描述 ops-transformer仓支持各个算子独立编译torch_extention,并将torch_extension从集中式改成分布式(算子的文件分布到算子源码目录下新建的torch_extension文件夹) ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4502 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9712 | 2 个月前 | |
完成(gmm / mc2 纯组件)重名头文件整改 Co-authored-by: chenyifan<chenyifan66@h-partners.com> # message auto-generated for no-merge-commit merge: !10131 merge clear_pr2_gmm_mc2 into master 完成(gmm / mc2 纯组件)重名头文件整改 Created-by: mutex_lock Commit-by: chenyifan Merged-by: cann-robot Description: ## 描述 按仓内重名头文件规范,完成( gmm / mc2 纯组件)整改,消除单仓内同名头冲突。跨组件重名(gmm↔mc2、moe↔mc2 等)不在本批。 **原因**:上述组件存在同名头文件,违反「单仓内原则上不允许重名头文件」;易导致 include 误解析、维护成本上升。 **方法**:优先只改内部/次要副本(保留对外公开名与主路径原名),并同步更新 #include、\file 及必要 include guard。无业务逻辑变更。 ### 仓内分类规则 对每个重名头文件,先判断 **内容是否相同**、**是否对外/包间头文件**,再套用: | # | 场景 | 是否整改 | 处置 | |---|------|---------|------| | 1.1 | 内容不同,均为内部头文件 | 是 | 建议加模块前缀改名 | | 1.2 | 内容相同,均为内部头文件 | 是 | 只保留一份;**改 include 路径,禁止软链接** | | 1.3 | 部分内部、部分对外/包间 | 是 | **只改内部** 那份 | | 1.4 | 内容相同,均为对外/包间 | 否(兼容期) | 可用软链接保留多路径 | | 1.5 | 内容不同,均为对外/包间 | 兼容期内可暂缓 | 兼容期结束后改名 | | 1.6 | 其他 | 原则上不允许重名 | 特例需评审 | **原则**:除 1.4 外,单仓内原则上不允许重名头文件。 本 PR 实际用到:**1.1**、**1.3**。 ### 决策一览 | 文件名 | 是否修改 | 规则 | 原因 | 整改方案 | |--------|----------|------|------|----------| | grouped_matmul.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api/grouped_matmul.h;kernel → grouped_matmul_kernel.h | | grouped_matmul_add.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_add_kernel.h | | grouped_matmul_finalize_routing.h | 是 | 1.3 | 对外公开 + 包内(root/arch35),内容不同 | 保留 op_api;root kernel → *_kernel.h;arch35 → *_arch35.h | | grouped_matmul_swiglu_quant.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_swiglu_quant_kernel.h | | grouped_matmul_swiglu_quant_utils.h | 是 | 1.3 | 包内 + 对外公开(跨算子),内容不同 | 保留 v2 op_api 对外名;swiglu_quant kernel → grouped_matmul_swiglu_quant_utils_kernel.h | | grouped_matmul_swiglu_quant_v2_utils.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_swiglu_quant_v2_utils_kernel.h | | quant_grouped_matmul_dequant.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → quant_grouped_matmul_dequant_kernel.h | | matmul_allto_all_util.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;arch22 → matmul_allto_all_util_arch22.h | | matmul_all_reduce_910_general.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_add_x3.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_dequant_perchannel.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_empty_tensor_k_general.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant_perchannel.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant_reduce_sum.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_weight_quant.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | all_gather_matmul_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → all_gather_matmul_base_v2.h;v1 保留 | | all_gather_matmul_tiling_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → all_gather_matmul_tiling_base_v2.h;v1 保留 | | matmul_reduce_scatter_tiling_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → matmul_reduce_scatter_tiling_base_v2.h;v1 保留 | | matmul.hpp | 是 | 1.1 | 两算子包内内容不同 | → allto_all_matmul.hpp / matmul_reduce_scatter_v2_matmul.hpp | | mega_moe.h | 是 | 1.1 | host/arch22/arch35 内容不同 | → mega_moe_tiling_host.h / mega_moe_arch22.h / mega_moe_arch35.h | | moe_distribute_base.h | 是 | 1.1 | common 与 matmul_allto_all 内容不同 | matmul_allto_all 侧 → matmul_allto_all_moe_distribute_base.h;common 保留 | | alignment.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_alignment.hpp;3rd 保留 | | callback.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_callback.hpp;3rd 保留 | | coord.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_coord.hpp;3rd 保留 | | cross_core_sync.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_cross_core_sync.hpp;3rd 保留 | | helper.hpp | 是 | 1.1 | 3rd/tla gemv 与 mega_moe tla_v2 gemv 内容不同 | tla_v2 → tla_v2_helper.hpp;3rd 保留 | | numeric_size.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_numeric_size.hpp;3rd 保留 | ### 改名映射(旧路径 → 新路径) | 旧路径 | 新路径 | |--------|--------| | gmm/grouped_matmul/op_kernel/grouped_matmul.h | gmm/grouped_matmul/op_kernel/grouped_matmul_kernel.h | | gmm/grouped_matmul_add/op_kernel/grouped_matmul_add.h | gmm/grouped_matmul_add/op_kernel/grouped_matmul_add_kernel.h | | gmm/grouped_matmul_finalize_routing/op_kernel/grouped_matmul_finalize_routing.h | gmm/grouped_matmul_finalize_routing/op_kernel/grouped_matmul_finalize_routing_kernel.h | | gmm/grouped_matmul_finalize_routing/op_kernel/arch35/grouped_matmul_finalize_routing.h | gmm/grouped_matmul_finalize_routing/op_kernel/arch35/grouped_matmul_finalize_routing_arch35.h | | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant.h | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_kernel.h | | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_utils.h | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_utils_kernel.h | | gmm/grouped_matmul_swiglu_quant_v2/op_kernel/grouped_matmul_swiglu_quant_v2_utils.h | gmm/grouped_matmul_swiglu_quant_v2/op_kernel/grouped_matmul_swiglu_quant_v2_utils_kernel.h | | gmm/quant_grouped_matmul_dequant/op_kernel/quant_grouped_matmul_dequant.h | gmm/quant_grouped_matmul_dequant/op_kernel/quant_grouped_matmul_dequant_kernel.h | | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_util.h | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_util_arch22.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_910_general.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_910_general_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_add_x3.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_add_x3_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_dequant_perchannel.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_dequant_perchannel_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_empty_tensor_k_general.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_empty_tensor_k_general_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_perchannel.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_perchannel_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_reduce_sum.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_reduce_sum_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_weight_quant.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_weight_quant_arch35.h | | mc2/all_gather_matmul_v2/op_kernel/arch35/all_gather_matmul_base.h | mc2/all_gather_matmul_v2/op_kernel/arch35/all_gather_matmul_base_v2.h | | mc2/all_gather_matmul_v2/op_host/op_tiling/all_gather_matmul_tiling_base.h | mc2/all_gather_matmul_v2/op_host/op_tiling/all_gather_matmul_tiling_base_v2.h | | mc2/matmul_reduce_scatter_v2/op_host/op_tiling/matmul_reduce_scatter_tiling_base.h | mc2/matmul_reduce_scatter_v2/op_host/op_tiling/matmul_reduce_scatter_tiling_base_v2.h | | mc2/allto_all_matmul/op_kernel/arch22/matmul.hpp | mc2/allto_all_matmul/op_kernel/arch22/allto_all_matmul.hpp | | mc2/matmul_reduce_scatter_v2/op_kernel/matmul.hpp | mc2/matmul_reduce_scatter_v2/op_kernel/matmul_reduce_scatter_v2_matmul.hpp | | mc2/mega_moe/op_host/op_tiling/mega_moe.h | mc2/mega_moe/op_host/op_tiling/mega_moe_tiling_host.h | | mc2/mega_moe/op_kernel/arch22/mega_moe.h | mc2/mega_moe/op_kernel/arch22/mega_moe_arch22.h | | mc2/mega_moe/op_kernel/arch35/mega_moe.h | mc2/mega_moe/op_kernel/arch35/mega_moe_arch35.h | | mc2/matmul_allto_all/op_kernel/arch22/moe_distribute_base.h | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_moe_distribute_base.h | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/alignment.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/tla_v2_alignment.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/callback.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/tla_v2_callback.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/coord.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/tla_v2_coord.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/arch/cross_core_sync.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/arch/tla_v2_cross_core_sync.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/gemv/helper.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/gemv/tla_v2_helper.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/numeric_size.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/tla_v2_numeric_size.hpp | ### 范围汇总 | 项 | 数量 / 说明 | |----|-------------| | 同名组 | 28 | | 实际改名 | 32 个路径 | | staged 变更文件 | 117(含 include 引用更新) | | 涉及组件 | gmm、mc2 | | 不含 | 跨组件名(cast_*、copy_gm_*、tensor.hpp、grouped_matmul_utils.h、moe_v2_* 等) | ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4356 ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10131 | 3 个月前 | |
fix GMMFR 确定性卡死 Co-authored-by: zhangzhuoran3<zhangzhuoran3@huawei.com> # message auto-generated for no-merge-commit merge: !10289 merge dec into master fix GMMFR 确定性卡死 Created-by: zhangzhuoran3 Commit-by: zhangzhuoran3 Merged-by: cann-robot Description: ## 描述 修复A2A3的GMMFR算子确定性实现卡死问题,在 deterministicFlag == 1 时按 syncConfig.windowSize 将每个 group 的 M 维度切分为多个 chunk 分批处理,并大幅简化确定性同步逻辑,同时为确定性写回路径补充流水屏障,从而避免同步状态错乱导致的卡死。 ## 关联的Issue 关联Issue [#4334](https://gitcode.com/cann/ops-transformer/issues/4334) ## 测试 已经本地进行确定性测试和精度测试,本地验证已经通过 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10289 | 2 个月前 | |
docs: update README output description and data types Co-authored-by: yuanbin<yuanbin31@huawei.com> # message auto-generated for no-merge-commit merge: !10109 merge yuanbin0814 into master docs: update README output description and data types Created-by: aaaakai Commit-by: yuanbin Merged-by: cann-robot Description: ## 描述 修正grouped_matmul_swiglu_quant算子文档中参数output的描述与数据类型的错误。 ### 改动原因 原文档将输出output描述为量化因子,数据类型指定为FLOAT,与实际不符。 ### 改动方法 1. 修正参数output的描述:修改为“输出的量化结果,公式中的Q”。 2. 修正参数output的数据类型:修改为"INT8"。 ## 关联的Issue 关联Issue #4170 ## 测试 纯文档改动,不涉及代码逻辑变更,无需测试。 ## 文档更新 更新了gmm/grouped_matmul_swiglu_quant/README.md:修正了参数说明中output的描述与数据类型。 ## 类型标签 - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10109 | 2 个月前 | |
fix(grouped_matmul_swiglu_quant_v2): grouped_matmul_swiglu_quant_v2算子入参空指针加拦截报错 Co-authored-by: zhoushaolong<zhoushaolong3@huawei.com> # message auto-generated for no-merge-commit merge: !10145 merge fix/gmmswigluquantv2-required-nullptr-check into master fix(grouped_matmul_swiglu_quant_v2): grouped_matmul_swiglu_quant_v2算子入参空指针加拦截报错 Created-by: zhoushaolong Commit-by: zhoushaolong Merged-by: cann-robot Description: ## 描述 为 grouped_matmul_swiglu_quant_v2 算子补充必选输入的空指针校验,并使用预定义错误码宏替换原有不统一的校验逻辑。 ### 改动原因 - op_api 层:aclnnGroupedMatmulSwigluQuantV2GetWorkspaceSize 仅校验了 output/outputScale,aclnnGroupedMatmulSwigluQuantWeightNzV2GetWorkspaceSize 校验逻辑分散且不完整,缺少对 x、weight、weightScale、xScale、groupList 等必选输入的空指针检查 - op_host tiling 层:GroupedMatmulSwigluQuantV2TilingFunc 和 TilingPrepareForGMMSwigluQuantV2 缺少对 context 及必选输入 desc/shape 的空指针校验 - 原有校验使用 CHECK_COND/CHECK_RET/OP_LOGE 等通用宏,未使用预定义错误码宏 ### 改动方法 **op_api 层**(aclnn_grouped_matmul_swiglu_quant_v2.cpp): - 新增 CheckRequiredPointer:校验单个指针非空,使用 OP_LOGE_FOR_INVALID_ARGUMENT_WITH_REASON(EZ0037),返回 ACLNN_ERR_PARAM_NULLPTR - 新增 CheckRequiredTensorList:校验 tensor list 非空、列表非空、元素非空,空列表使用 OP_LOGE_FOR_INVALID_TENSORNUM(EZ0022),返回 ACLNN_ERR_PARAM_INVALID - 新增 CheckRequiredInputs:统一校验 x、weight、weightScale、xScale、groupList、output、outputScale 共 7 个必选输入 - V2 和 WeightNzV2 两个 workspace 接口均替换为调用 CheckRequiredInputs **op_host tiling 层**(grouped_matmul_swiglu_quant_v2_tiling.cpp): - 新增 CheckRequiredTilingInputs:校验 context 及 x、xScale、groupList、weight[0]、weightScale[0] 的 desc/shape 非空 - GroupedMatmulSwigluQuantV2TilingFunc 入口处调用 CheckRequiredTilingInputs - TilingPrepareForGMMSwigluQuantV2 增加 context 空指针校验 - 控制流和 GRAPH_FAILED 返回值保持不变 ## 关联的Issue - #4375 ## 测试 - op_api UT:新增 required_input_nullptr_error_case 测试用例,覆盖 x/weight/weightScale/xScale/groupList/output/outputScale 的 nullptr、空列表、空元素场景,验证 V2 和 WeightNzV2 两个接口均返回 ACLNN_ERR_PARAM_NULLPTR 或 ACLNN_ERR_PARAM_INVALID - op_host UT:新增 RequiredInputNullptrErrorCase 测试用例,覆盖 tiling 层 5 个必选输入的空指针场景,验证返回 GRAPH_FAILED ## 文档更新 无 ## 类型标签 - [x] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10145 | 3 个月前 | |
完成(gmm / mc2 纯组件)重名头文件整改 Co-authored-by: chenyifan<chenyifan66@h-partners.com> # message auto-generated for no-merge-commit merge: !10131 merge clear_pr2_gmm_mc2 into master 完成(gmm / mc2 纯组件)重名头文件整改 Created-by: mutex_lock Commit-by: chenyifan Merged-by: cann-robot Description: ## 描述 按仓内重名头文件规范,完成( gmm / mc2 纯组件)整改,消除单仓内同名头冲突。跨组件重名(gmm↔mc2、moe↔mc2 等)不在本批。 **原因**:上述组件存在同名头文件,违反「单仓内原则上不允许重名头文件」;易导致 include 误解析、维护成本上升。 **方法**:优先只改内部/次要副本(保留对外公开名与主路径原名),并同步更新 #include、\file 及必要 include guard。无业务逻辑变更。 ### 仓内分类规则 对每个重名头文件,先判断 **内容是否相同**、**是否对外/包间头文件**,再套用: | # | 场景 | 是否整改 | 处置 | |---|------|---------|------| | 1.1 | 内容不同,均为内部头文件 | 是 | 建议加模块前缀改名 | | 1.2 | 内容相同,均为内部头文件 | 是 | 只保留一份;**改 include 路径,禁止软链接** | | 1.3 | 部分内部、部分对外/包间 | 是 | **只改内部** 那份 | | 1.4 | 内容相同,均为对外/包间 | 否(兼容期) | 可用软链接保留多路径 | | 1.5 | 内容不同,均为对外/包间 | 兼容期内可暂缓 | 兼容期结束后改名 | | 1.6 | 其他 | 原则上不允许重名 | 特例需评审 | **原则**:除 1.4 外,单仓内原则上不允许重名头文件。 本 PR 实际用到:**1.1**、**1.3**。 ### 决策一览 | 文件名 | 是否修改 | 规则 | 原因 | 整改方案 | |--------|----------|------|------|----------| | grouped_matmul.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api/grouped_matmul.h;kernel → grouped_matmul_kernel.h | | grouped_matmul_add.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_add_kernel.h | | grouped_matmul_finalize_routing.h | 是 | 1.3 | 对外公开 + 包内(root/arch35),内容不同 | 保留 op_api;root kernel → *_kernel.h;arch35 → *_arch35.h | | grouped_matmul_swiglu_quant.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_swiglu_quant_kernel.h | | grouped_matmul_swiglu_quant_utils.h | 是 | 1.3 | 包内 + 对外公开(跨算子),内容不同 | 保留 v2 op_api 对外名;swiglu_quant kernel → grouped_matmul_swiglu_quant_utils_kernel.h | | grouped_matmul_swiglu_quant_v2_utils.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → grouped_matmul_swiglu_quant_v2_utils_kernel.h | | quant_grouped_matmul_dequant.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;kernel → quant_grouped_matmul_dequant_kernel.h | | matmul_allto_all_util.h | 是 | 1.3 | 对外公开 + 包内,内容不同 | 保留 op_api;arch22 → matmul_allto_all_util_arch22.h | | matmul_all_reduce_910_general.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_add_x3.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_dequant_perchannel.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_empty_tensor_k_general.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant_perchannel.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_quant_reduce_sum.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | matmul_all_reduce_weight_quant.h | 是 | 1.1 | arch22/arch35 包内内容不同 | arch35 → *_arch35.h;arch22 保留 | | all_gather_matmul_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → all_gather_matmul_base_v2.h;v1 保留 | | all_gather_matmul_tiling_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → all_gather_matmul_tiling_base_v2.h;v1 保留 | | matmul_reduce_scatter_tiling_base.h | 是 | 1.1 | v1/v2 包内内容不同 | v2 → matmul_reduce_scatter_tiling_base_v2.h;v1 保留 | | matmul.hpp | 是 | 1.1 | 两算子包内内容不同 | → allto_all_matmul.hpp / matmul_reduce_scatter_v2_matmul.hpp | | mega_moe.h | 是 | 1.1 | host/arch22/arch35 内容不同 | → mega_moe_tiling_host.h / mega_moe_arch22.h / mega_moe_arch35.h | | moe_distribute_base.h | 是 | 1.1 | common 与 matmul_allto_all 内容不同 | matmul_allto_all 侧 → matmul_allto_all_moe_distribute_base.h;common 保留 | | alignment.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_alignment.hpp;3rd 保留 | | callback.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_callback.hpp;3rd 保留 | | coord.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_coord.hpp;3rd 保留 | | cross_core_sync.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_cross_core_sync.hpp;3rd 保留 | | helper.hpp | 是 | 1.1 | 3rd/tla gemv 与 mega_moe tla_v2 gemv 内容不同 | tla_v2 → tla_v2_helper.hpp;3rd 保留 | | numeric_size.hpp | 是 | 1.1 | 3rd/tla 与 mega_moe tla_v2 内容不同 | tla_v2 → tla_v2_numeric_size.hpp;3rd 保留 | ### 改名映射(旧路径 → 新路径) | 旧路径 | 新路径 | |--------|--------| | gmm/grouped_matmul/op_kernel/grouped_matmul.h | gmm/grouped_matmul/op_kernel/grouped_matmul_kernel.h | | gmm/grouped_matmul_add/op_kernel/grouped_matmul_add.h | gmm/grouped_matmul_add/op_kernel/grouped_matmul_add_kernel.h | | gmm/grouped_matmul_finalize_routing/op_kernel/grouped_matmul_finalize_routing.h | gmm/grouped_matmul_finalize_routing/op_kernel/grouped_matmul_finalize_routing_kernel.h | | gmm/grouped_matmul_finalize_routing/op_kernel/arch35/grouped_matmul_finalize_routing.h | gmm/grouped_matmul_finalize_routing/op_kernel/arch35/grouped_matmul_finalize_routing_arch35.h | | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant.h | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_kernel.h | | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_utils.h | gmm/grouped_matmul_swiglu_quant/op_kernel/grouped_matmul_swiglu_quant_utils_kernel.h | | gmm/grouped_matmul_swiglu_quant_v2/op_kernel/grouped_matmul_swiglu_quant_v2_utils.h | gmm/grouped_matmul_swiglu_quant_v2/op_kernel/grouped_matmul_swiglu_quant_v2_utils_kernel.h | | gmm/quant_grouped_matmul_dequant/op_kernel/quant_grouped_matmul_dequant.h | gmm/quant_grouped_matmul_dequant/op_kernel/quant_grouped_matmul_dequant_kernel.h | | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_util.h | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_util_arch22.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_910_general.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_910_general_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_add_x3.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_add_x3_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_dequant_perchannel.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_dequant_perchannel_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_empty_tensor_k_general.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_empty_tensor_k_general_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_perchannel.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_perchannel_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_reduce_sum.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_quant_reduce_sum_arch35.h | | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_weight_quant.h | mc2/matmul_all_reduce/op_kernel/arch35/matmul_all_reduce_weight_quant_arch35.h | | mc2/all_gather_matmul_v2/op_kernel/arch35/all_gather_matmul_base.h | mc2/all_gather_matmul_v2/op_kernel/arch35/all_gather_matmul_base_v2.h | | mc2/all_gather_matmul_v2/op_host/op_tiling/all_gather_matmul_tiling_base.h | mc2/all_gather_matmul_v2/op_host/op_tiling/all_gather_matmul_tiling_base_v2.h | | mc2/matmul_reduce_scatter_v2/op_host/op_tiling/matmul_reduce_scatter_tiling_base.h | mc2/matmul_reduce_scatter_v2/op_host/op_tiling/matmul_reduce_scatter_tiling_base_v2.h | | mc2/allto_all_matmul/op_kernel/arch22/matmul.hpp | mc2/allto_all_matmul/op_kernel/arch22/allto_all_matmul.hpp | | mc2/matmul_reduce_scatter_v2/op_kernel/matmul.hpp | mc2/matmul_reduce_scatter_v2/op_kernel/matmul_reduce_scatter_v2_matmul.hpp | | mc2/mega_moe/op_host/op_tiling/mega_moe.h | mc2/mega_moe/op_host/op_tiling/mega_moe_tiling_host.h | | mc2/mega_moe/op_kernel/arch22/mega_moe.h | mc2/mega_moe/op_kernel/arch22/mega_moe_arch22.h | | mc2/mega_moe/op_kernel/arch35/mega_moe.h | mc2/mega_moe/op_kernel/arch35/mega_moe_arch35.h | | mc2/matmul_allto_all/op_kernel/arch22/moe_distribute_base.h | mc2/matmul_allto_all/op_kernel/arch22/matmul_allto_all_moe_distribute_base.h | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/alignment.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/tla_v2_alignment.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/callback.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/detail/tla_v2_callback.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/coord.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/tla_v2_coord.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/arch/cross_core_sync.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/arch/tla_v2_cross_core_sync.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/gemv/helper.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/gemv/tla_v2_helper.hpp | | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/numeric_size.hpp | mc2/mega_moe/op_kernel/arch22/template_linear_algebra_v2/tla_v2_numeric_size.hpp | ### 范围汇总 | 项 | 数量 / 说明 | |----|-------------| | 同名组 | 28 | | 实际改名 | 32 个路径 | | staged 变更文件 | 117(含 include 引用更新) | | 涉及组件 | gmm、mc2 | | 不含 | 跨组件名(cast_*、copy_gm_*、tensor.hpp、grouped_matmul_utils.h、moe_v2_* 等) | ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/4356 ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [x] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [x] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!10131 | 3 个月前 | |
更新gmm类算子文档,新增group_list约束说明 Co-authored-by: liutao249<liutao249@hisilicon.com> # message auto-generated for no-merge-commit merge: !9929 merge doc2 into master 更新gmm类算子文档,新增group_list约束说明 Created-by: liutao249 Commit-by: liutao249 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增 group_list 约束说明:在 GMM 类算子相关文档中补充了对 group_list 参数的约束条件描述,帮助开发者理解该参数的使用限制。 文档措辞微调:伴随上述新增内容,对个别原有描述进行了小幅调整以保持文档一致性和准确性。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> 关联Issue [#4277](https://gitcode.com/cann/ops-transformer/issues/4277) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了aclnn接口文档说明 ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [x] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!9929 | 3 个月前 | |
同步GMM代码 Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !546 merge move_all into master 同步GMM代码 Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-transformer!546 | 10 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 3 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 3 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 10 个月前 |