0
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
0
cann-robotcann-robotmoe类部分算子OP_LOGE接口调整
1ff1e037创建于 5 天前历史提交
文件最后提交记录最后更新时间
config
add moe_gating_top_k_softmax Co-authored-by: gcw_kTZ5XeTb<2491900587@qq.com> # message auto-generated for no-merge-commit merge: !3330 merge transformer_1 into master add moe_gating_top_k_softmax Created-by: gcw_kTZ5XeTb Commit-by: gcw_kTZ5XeTb Merged-by: cann-robot Description: ## 描述 moe_gating_top_k_softmax算子原实现不支持310P，新增一个支持310P的算子，算子接口与原接口和功能完全一致，合并到moe_gating_top_k_softmax目录下，共用一个接口，增加310P的编译支持，通过算子定义文件中增加310P配置和算子配置，注册的tiling函数，在IsCapable中根据soc判断，选择310P对应tiling，算子内通过宏选择310P算子，并且修复黄区编译问题，已跑蓝区冒烟和构建 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1493 ## 测试 已经验证生成的自定义算子run包在310P能正确调用torch_npu.npu_moe_gating_top_k_softmax接口并验证精度正确，aclnn接口完整 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 新特性 See merge request: cann/ops-transformer!33302 个月前
CMakeLists.txt
moe算子编译选项修改 Co-authored-by: tujun6<tujun6@huawei.com> # message auto-generated for no-merge-commit merge: !1134 merge fix_moe_cmake into master moe算子编译选项修改 Created-by: tujun6 Commit-by: tujun6 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> MoeFinalizeRouting\MoeFinalizeRoutingV2Grad\MoeGatingTopK\MoeGatingTopKSoftmax\MoeGatingTopKSoftmaxV2\MoeInitRoutingV2\MoeInitRoutingV3\MoeReRouting编译选项修改 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> MoeInitRoutingV2的README ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-transformer!11343 个月前
moe_gating_top_k_softmax_def.cpp
add moe_gating_top_k_softmax Co-authored-by: gcw_kTZ5XeTb<2491900587@qq.com> # message auto-generated for no-merge-commit merge: !3330 merge transformer_1 into master add moe_gating_top_k_softmax Created-by: gcw_kTZ5XeTb Commit-by: gcw_kTZ5XeTb Merged-by: cann-robot Description: ## 描述 moe_gating_top_k_softmax算子原实现不支持310P，新增一个支持310P的算子，算子接口与原接口和功能完全一致，合并到moe_gating_top_k_softmax目录下，共用一个接口，增加310P的编译支持，通过算子定义文件中增加310P配置和算子配置，注册的tiling函数，在IsCapable中根据soc判断，选择310P对应tiling，算子内通过宏选择310P算子，并且修复黄区编译问题，已跑蓝区冒烟和构建 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1493 ## 测试 已经验证生成的自定义算子run包在310P能正确调用torch_npu.npu_moe_gating_top_k_softmax接口并验证精度正确，aclnn接口完整 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 新特性 See merge request: cann/ops-transformer!33302 个月前
moe_gating_top_k_softmax_infershape.cpp
moe类部分算子OP_LOGE接口调整 Co-authored-by: lizexin<lizexin2@huawei.com> # message auto-generated for no-merge-commit merge: !5052 merge feat-error-code into master 【代码优化】moe类部分算子OP_LOGE接口整改 Created-by: Lizexin312 Commit-by: lizexin Merged-by: cann-robot Description: ## 描述 对moe部分算子的OP_LOGE进行可维测性整改，涉及如下算子： moe_compute_expert_tokens moe_finalize_routing_v2 moe_finalize_routing_v2_grad moe_gating_top_k_softmax_v2 moe_gating_top_k_softmax moe_gating_top_k moe_init_routing_quant_v2 moe_init_routing_v2 moe_init_routing_v2_grad moe_init_routing_v3 moe_re_routing ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 编译、冒烟 ## 文档更新 NA ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 🧹 代码清理 - [x] ❓ 其他，请描述：日志整改 See merge request: cann/ops-transformer!50525 天前
moe_gating_top_k_softmax_tiling.cpp
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前
moe_gating_top_k_softmax_tiling.h
add moe_gating_top_k_softmax Co-authored-by: gcw_kTZ5XeTb<2491900587@qq.com> # message auto-generated for no-merge-commit merge: !3330 merge transformer_1 into master add moe_gating_top_k_softmax Created-by: gcw_kTZ5XeTb Commit-by: gcw_kTZ5XeTb Merged-by: cann-robot Description: ## 描述 moe_gating_top_k_softmax算子原实现不支持310P，新增一个支持310P的算子，算子接口与原接口和功能完全一致，合并到moe_gating_top_k_softmax目录下，共用一个接口，增加310P的编译支持，通过算子定义文件中增加310P配置和算子配置，注册的tiling函数，在IsCapable中根据soc判断，选择310P对应tiling，算子内通过宏选择310P算子，并且修复黄区编译问题，已跑蓝区冒烟和构建 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/1493 ## 测试 已经验证生成的自定义算子run包在310P能正确调用torch_npu.npu_moe_gating_top_k_softmax接口并验证精度正确，aclnn接口完整 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 新特性 See merge request: cann/ops-transformer!33302 个月前
moe_gating_top_k_softmax_tiling_310p.cpp
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前
moe_gating_top_k_softmax_tiling_arch35.cpp
moe类部分算子OP_LOGE接口调整 Co-authored-by: lizexin<lizexin2@huawei.com> # message auto-generated for no-merge-commit merge: !5052 merge feat-error-code into master 【代码优化】moe类部分算子OP_LOGE接口整改 Created-by: Lizexin312 Commit-by: lizexin Merged-by: cann-robot Description: ## 描述 对moe部分算子的OP_LOGE进行可维测性整改，涉及如下算子： moe_compute_expert_tokens moe_finalize_routing_v2 moe_finalize_routing_v2_grad moe_gating_top_k_softmax_v2 moe_gating_top_k_softmax moe_gating_top_k moe_init_routing_quant_v2 moe_init_routing_v2 moe_init_routing_v2_grad moe_init_routing_v3 moe_re_routing ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 编译、冒烟 ## 文档更新 NA ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 🧹 代码清理 - [x] ❓ 其他，请描述：日志整改 See merge request: cann/ops-transformer!50525 天前
moe_gating_top_k_softmax_tiling_base.cpp
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前
moe_gating_top_k_softmax_tiling_base.h
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前
moe_gating_top_k_softmax_tiling_e_k_full_load.cpp
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前
moe_gating_top_k_softmax_tiling_k_full_load.cpp
moe类部分算子OP_LOGE接口调整 Co-authored-by: lizexin<lizexin2@huawei.com> # message auto-generated for no-merge-commit merge: !5052 merge feat-error-code into master 【代码优化】moe类部分算子OP_LOGE接口整改 Created-by: Lizexin312 Commit-by: lizexin Merged-by: cann-robot Description: ## 描述 对moe部分算子的OP_LOGE进行可维测性整改，涉及如下算子： moe_compute_expert_tokens moe_finalize_routing_v2 moe_finalize_routing_v2_grad moe_gating_top_k_softmax_v2 moe_gating_top_k_softmax moe_gating_top_k moe_init_routing_quant_v2 moe_init_routing_v2 moe_init_routing_v2_grad moe_init_routing_v3 moe_re_routing ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 编译、冒烟 ## 文档更新 NA ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 🧹 代码清理 - [x] ❓ 其他，请描述：日志整改 See merge request: cann/ops-transformer!50525 天前
moe_gating_top_k_softmax_tiling_perf.cpp
common目录整改 Co-authored-by: hello_simida<wangyi206@huawei.com> # message auto-generated for no-merge-commit merge: !4870 merge feature/common_dir_fix_v2 into master common目录整改 Created-by: hello_simida Commit-by: hello_simida Merged-by: cann-robot Description: ## 描述 本次修改对 common/ 目录进行整理，分为两个阶段： - **Phase 1**: 将 common/include/kernel/ 重命名为 common/include/op_kernel/ - **Phase 2**: 将 common/include/tiling_base/ 和 common/src/tiling_base/ 合并到 common/include/op_host/ 和 common/src/op_host/ 相应的 CMake 配置和所有 #include 路径引用已同步更新。 影响范围： - 351 个文件修改（include 路径更新） - 8 个文件重命名（tiling_base → op_host） - 2 个 CMakeLists.txt 修改 + 多个 tests 目录 CMakeLists.txt 更新 ## 关联的Issue Closes #2246 ## 测试 - 编译验证通过：bash build.sh --pkg --soc=ascend910b --ops=all_gather_matmul_v2 -j16 - 编译产物成功生成 .run 包 ## 文档更新 无 ## 类型标签 - [x] ♻️ 重构 - [ ] 🐛 Bug 修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!487026 天前