本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
fix(ci): compile.sh 用 sh 调用 bash 脚本 check_experimental_pkg.sh,改为 bash Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !11628 merge fix-compile-sh-use-bash-for-experimental-check-v2 into master fix(ci): compile.sh 用 sh 调用 bash 脚本 check_experimental_pkg.sh,改为 bash Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 问题 .gitcode/scripts/compile.sh 第 179 行 Compile_Ascend_experimental*) 分支里用 sh scripts/ci/check_experimental_pkg.sh 调用该脚本,但 check_experimental_pkg.sh 含 bash-only 语法([[ ]]/数组等),在 sh(Debian/Ubuntu 上为 dash)下执行会 Syntax error。同仓其它调用(如 bash scripts/ci/compile_ascend950_pkg.sh)均用 bash 调用。 ## 影响 CI 在 dash 为默认 sh 的环境里,experimental 包校验步骤直接语法报错,DP_ASSERT_EQUAL $? 0 失败。 ## 修改 sh scripts/ci/check_experimental_pkg.sh → bash scripts/ci/check_experimental_pkg.sh。(第 181 行 echo 里的字符串保持不动,仅作展示。) > 说明:此为对旧 PR #11440(因冲突被关闭)的重新提交,改动仍必要(当前 master 第 179 行仍是 sh)。 See merge request: cann/ops-nn!11628 | 30 days ago | |
fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12025 merge fix/act_ulq_clamp_max_grad-ut-example-rank into master fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Created-by: zhou-liang1027 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7318 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12025 | 27 days ago | |
feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Co-authored-by: smdbha<panzhijie2@huawei.com> # message auto-generated for no-merge-commit merge: !11505 merge master into master feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Created-by: smdbha Commit-by: smdbha Merged-by: cann-robot Description: ## 描述 为 quant_matmul_activation_quant 新增 activationType="silu"(Torch:activation_type="silu")。完整 FP32 MatMul 结果加可选 bias 后,逐元素计算 x * sigmoid(x),经 BF16 RINT 后进行 MXFP8 量化;输出保持 [..., M, N],scale 为 [..., M, ceil(N/64), 2]。 - ND 支持四种 E4M3FN/E5M2 输入组合及 FF/FT/TF/TT 转置;WeightNZ 要求 x2 为 E4M3FN、transposeX1=false,支持两种 x1 FP8 和两种 transposeX2。输出 dtype 与 x1 一致。 - 支持 batch 广播、FP32 bias、OCP/BLAS(scaleAlg=0/1)及 RINT。 - 补齐 ACLNN/Torch 参数校验、图推导、tiling 和单/多 batch、A 全载/非全载 kernel 分发。 - 共用 N 对齐常量统一为 MX_BASEN_ALIGN=32UL,扩展 CSV 驱动 UT/ST 和 CPU golden。 **依赖配套 ops-tensor PR:https://gitcode.com/cann/ops-tensor/merge_requests/466**。使用新的 BlockEpilogueSiluMxQuant 头文件,构建时需要同步该变更。 ## 关联的Issue 关联 https://gitcode.com/cann/ops-nn/issues/6395 配套 epilogue 需求:https://gitcode.com/cann/ops-tensor/issues/287 补充关联(TTK 用例失败):https://gitcode.com/cann/ops-nn/issues/6406 ## 测试 - 2026-10-07 的功能实现版本(当时名称为 sigmoid_mul)完成了定向完整二进制包构建和安装;在 CANN 9.3.0 / Ascend950PR_9589 NPUSim 上,20 条边界用例及 1 条 A 全载专项共 21/21 PASS。FP8 rtol=0.001、atol=0、最低匹配率 0.999,E8M0 scale 逐位比较,未放宽精度标准。 - SiLU 重命名后,30 条 kernel CSV 加载校验通过;21 条 CPU golden 输出与改名前逐字节一致。 - 本 PR 新增/扩展的 CSV 覆盖 Host/API/Kernel UT、TTK kernel/ACLNN/E2E:ND/NZ、dtype/转置、OCP/BLAS、N/K 尾块、M=1、batch/bias、全载/非全载和非法参数。上述用例配置不等同于整套 UT/ST 已完成设备执行。 - 提交前 clang-format、ruff、codespell、OAT 等钩子通过,当前分支差异检查通过。 - NPUSim 验证属于重命名前的实现版本;当前提交未重新编包或上板。原验证环境未识别到 NPU,故无实机通过结论。20 条专项边界 CSV 为独立验证输入,本 PR 保留仓内常规 CSV 回归和宽 N 全载用例。 ## 文档更新 更新算子 README、ACLNN ND/WeightNZ 文档、Torch API、算子目录、Torch API 目录和测试运行说明,统一正文名称为 SiLU,参数值保留小写 silu。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11505 | 30 days ago | |
feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !12618 merge feat/resp-ops-ascend960pr-completion into master feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置(与既有 ascend960dt 注册对齐),responsibility-ops 960pr 补齐系列之一。 改动面(4 文件,2 提交): - def.cpp:AddConfig("ascend960pr", aicoreConfig950) 紧随 960dt - config/ascend960pr/binary.json:与 960dt 逐字节一致 - ascendc_config.json:RmsNormDynamicMxQuant 条目 compute_units 补 ascend960pr、compile_options 增 960pr 键(--cce-no-dcache-flush,与 960dt 同值) 其余注册面 master 已就绪:op_host/CMakeLists 白名单已含 960dt/960pr(2f40bce01);op_kernel 为 arch35 目录形态,无独立 COMPUTE_UNITS 面;kernel 门禁(含 norm_common)全部已含 __NPU_ARCH__ == 9201 || 9202;tiling 为构造式平台访问,无 PlatformAscendCManager 依赖。 - fix(common):tiling_util.h IsRegbaseNpuArch 集合补 DAV_9202——960pr 下 regbase tiling 路由失效修复(master 上 aclnn 层已含 9202,tiling 层缺失) 背景:ascend960dt=dav_9201 / ascend960pr=dav_9202 同族变体,纯注册/配置使能,无 kernel 计算逻辑改动。 ## 关联的Issue #7243(本 PR 为系列首批,其余算子后续分批提 PR) ## 测试 - 注册面终审核对:def dt/pr 紧随配对、config pr≡dt、ascendc_config cu/co 对称 - 960 编译验证依赖黄区 CI ## 文档更新 无需(纯注册配置,无 API 行为变化) ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12618 | 30 days ago | |
sleep算子支持Ascend960 Co-authored-by: hw-zhangpanpan<zhangpanpan5@huawei.com> # message auto-generated for no-merge-commit merge: !11793 merge master into master sleep算子支持Ascend960 Created-by: hw-zhangpanpan Commit-by: hw-zhangpanpan Merged-by: cann-robot Description: ## 描述 为 sleep 算子新增 Ascend 960 平台(ascend960dt / ascend960pr)支持,使其可在最新 Ascend960 硬件上正常编译与运行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6909 ## 测试 泛化和冒烟测试 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11793 | 1 month ago | |
GE图模式融合链路适配output_padding属性 Co-authored-by: wishercy<zhaoyang56@huawei.com> # message auto-generated for no-merge-commit merge: !12266 merge output_padding_ge into master GE图模式融合链路适配output_padding属性 Created-by: wishercy Commit-by: wishercy Merged-by: cann-robot Description: ## 描述 适配GE通路相关代码和测试框架,具体参照issues和文件改动清单 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6942 ## 测试 补充UT通过,原RDV和UT均验证完成 ## 文档更新 更新dw的文档,添加公式 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12266 | 29 days ago | |
feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Co-authored-by: smdbha<panzhijie2@huawei.com> # message auto-generated for no-merge-commit merge: !11505 merge master into master feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Created-by: smdbha Commit-by: smdbha Merged-by: cann-robot Description: ## 描述 为 quant_matmul_activation_quant 新增 activationType="silu"(Torch:activation_type="silu")。完整 FP32 MatMul 结果加可选 bias 后,逐元素计算 x * sigmoid(x),经 BF16 RINT 后进行 MXFP8 量化;输出保持 [..., M, N],scale 为 [..., M, ceil(N/64), 2]。 - ND 支持四种 E4M3FN/E5M2 输入组合及 FF/FT/TF/TT 转置;WeightNZ 要求 x2 为 E4M3FN、transposeX1=false,支持两种 x1 FP8 和两种 transposeX2。输出 dtype 与 x1 一致。 - 支持 batch 广播、FP32 bias、OCP/BLAS(scaleAlg=0/1)及 RINT。 - 补齐 ACLNN/Torch 参数校验、图推导、tiling 和单/多 batch、A 全载/非全载 kernel 分发。 - 共用 N 对齐常量统一为 MX_BASEN_ALIGN=32UL,扩展 CSV 驱动 UT/ST 和 CPU golden。 **依赖配套 ops-tensor PR:https://gitcode.com/cann/ops-tensor/merge_requests/466**。使用新的 BlockEpilogueSiluMxQuant 头文件,构建时需要同步该变更。 ## 关联的Issue 关联 https://gitcode.com/cann/ops-nn/issues/6395 配套 epilogue 需求:https://gitcode.com/cann/ops-tensor/issues/287 补充关联(TTK 用例失败):https://gitcode.com/cann/ops-nn/issues/6406 ## 测试 - 2026-10-07 的功能实现版本(当时名称为 sigmoid_mul)完成了定向完整二进制包构建和安装;在 CANN 9.3.0 / Ascend950PR_9589 NPUSim 上,20 条边界用例及 1 条 A 全载专项共 21/21 PASS。FP8 rtol=0.001、atol=0、最低匹配率 0.999,E8M0 scale 逐位比较,未放宽精度标准。 - SiLU 重命名后,30 条 kernel CSV 加载校验通过;21 条 CPU golden 输出与改名前逐字节一致。 - 本 PR 新增/扩展的 CSV 覆盖 Host/API/Kernel UT、TTK kernel/ACLNN/E2E:ND/NZ、dtype/转置、OCP/BLAS、N/K 尾块、M=1、batch/bias、全载/非全载和非法参数。上述用例配置不等同于整套 UT/ST 已完成设备执行。 - 提交前 clang-format、ruff、codespell、OAT 等钩子通过,当前分支差异检查通过。 - NPUSim 验证属于重命名前的实现版本;当前提交未重新编包或上板。原验证环境未识别到 NPU,故无实机通过结论。20 条专项边界 CSV 为独立验证输入,本 PR 保留仓内常规 CSV 回归和宽 N 全载用例。 ## 文档更新 更新算子 README、ACLNN ND/WeightNZ 文档、Torch API、算子目录、Torch API 目录和测试运行说明,统一正文名称为 SiLU,参数值保留小写 silu。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11505 | 30 days ago | |
[L1] fix: ascend.cmake 的 include 列表有 4 行用 U+00A0 缩进 → CMake 把它当成 8 个独立列表项(实测),改为 ASCII 空格 Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !11442 merge fix-nbsp-indent-in-ascend-cmake into master [L1] fix: ascend.cmake 的 include 列表有 4 行用 U+00A0 缩进 → CMake 把它当成 8 个独立列表项(实测),改为 ASCII 空格 Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 问题 examples/fast_kernel_launch_example/cmake/ascend.cmake 里 set(ASCEND_INCLUDE_DIRS ...) 这个列表, 第 65、67、68、69 这 4 行的行首缩进**不是普通空格,而是不换行空格 U+00A0**(每行两个,UTF-8 字节为 C2 A0): console $ sed -n '65p' examples/fast_kernel_launch_example/cmake/ascend.cmake | od -c | head -2 0000000 302 240 302 240 $ { A S C E N D _ D 0000020 I R } / o p p / b u i l t - i n 同一个列表里其余 15 行用的都是 4 个 ASCII 空格。 **CMake 不认为 U+00A0 是空白**(它的参数分隔只认空格/制表/换行),所以这 4 行不是"缩进丑一点", 而是**每个非 ASCII 空格都会变成一个独立的列表项**。在昇腾开发机(cmake 3.20.5)上按同样的字节复现: console $ cat /tmp/nbsp_demo.cmake set(INCS aa/bb cc/dd ee/ff ) list(LENGTH INCS N) message(STATUS "N=${N}") foreach(i ${INCS}) message(STATUS "item=[${i}]") endforeach() $ cmake -P /tmp/nbsp_demo.cmake -- N=5 ← 期望 3 个元素,实际 5 个 -- item=[aa/bb] -- item=[ ] ← NBSP 单独成项 -- item=[ ] ← NBSP 单独成项 -- item=[cc/dd] -- item=[ee/ff] 对应到本文件:ASCEND_INCLUDE_DIRS 会多出 **8 个内容只有一个 NBSP 的"目录"**, 它们再经 CMakeLists.txt:37 进入 INCLUDE_DIRECTORIES 参与编译。 现在的后果是列表被污染(这些"目录"不存在,编译器只会忽略); 但它是个真实的陷阱:**只要哪天这种缩进后面少打一个 ASCII 空格**, ${ASCEND_DIR}/… 就会粘成**一个**项, 路径开头带 NBSP,头文件搜索静默失效,排查成本很高。 ## 修改 把这 4 行的行首缩进换成与同文件其它行一致的 4 个 ASCII 空格,**只动行首的 8 个字符,路径本身一字不改**: diff - ${ASCEND_DIR}/opp/built-in/op_impl/ai_core/tbe/impl/ops_nn/ascendc/conv3d_v2/arch35 + ${ASCEND_DIR}/opp/built-in/op_impl/ai_core/tbe/impl/ops_nn/ascendc/conv3d_v2/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/common/op_host/op_tiling/arch35 + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/common/op_host/op_tiling/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/conv3d_v2/op_host/op_tiling/arch35 + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/conv3d_v2/op_host/op_tiling/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv ## 复验 1. 脚本硬断言:全文件 U+00A0 恰为 8 个,且全部位于第 65/67/68/69 行的行首(\xc2\xa0 \xc2\xa0 前缀), 改完文件里 \xc2\xa0 为 0; 2. 脚本硬断言:同一个列表里其余 15 行( ${…} 形式)都是 ASCII 缩进(本改动是向既有风格对齐,不是引入新风格); 3. CMake 的空白判定与"U+00A0 会单独成项"是在昇腾开发机上用 cmake -P 实测的(上面 N=5),不是推断; 4. 不改任何路径、变量名、编译选项,也不动其它文件。 See merge request: cann/ops-nn!11442 | 30 days ago | |
docs: 修复注释与文档不一致(Celu与ApplyProximalGradientDescent README) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12513 merge docs/comment-cleanup-20261019-06 into master docs: 修复注释与文档不一致(Celu与ApplyProximalGradientDescent README) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/7184 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12513 | 30 days ago | |
[Fix] 长尾算子加固:ForeachLog10/ForeachMinimumScalar/ForeachReciprocal/ForeachSubScalarList 非法输入校验与 Ascend350(DVLite) 适配 - ForeachLog10:修复 membase 内核 Log10 就地复用违反 API 校验(TensorReuseLoopCheck)的既存问题——float/half 改为非就地计算(输入/输出队列分离,bufferNum=1 保持 UB 占用与原地版本一致),bf16 在 float 缓冲内 cast 后非就地计算;同时激活 3 个内核用例的 ICPU_RUN_KF 与结果断言,全部通过 - ForeachLog10 / ForeachReciprocal:arch35 tiling 接入公共 foreach_flat_regbase_validator(ValidateHomogeneous 输入/输出契约校验),补充 ubSize > DCACHE_SIZE 检查 - ForeachMinimumScalar:arch35 tiling 新增 tensorNum 上限、scalar 元素数/rank 校验;空 TensorList 以单核成功收口(HandleEmptyTensorList);op_api v2 校验补齐 - ForeachSubScalarList:arch35 tiling 新增 CheckTensorListAndScalars(x 列表长度上限、逐 Tensor rank<=8、形状非负、dtype 一致、标量 dtype 匹配),补齐 arch35 tiling UT 负例 - 平台适配:4 算子补齐 Ascend350(DVLite) 四件套(op_host/op_kernel CMakeLists、def.cpp 注册、新增 config/ascend350 二进制配置);中央 ascendc_config.json 按全局配置规范不在本 PR 修改 - 资料与用例:README/aclnn 文档、examples、ST/UT 用例及数据脚本同步更新;行尾空白/EOF 格式清理 - 检视意见响应(atomgit-bot):ForeachMinimumScalar 空列表/主路径的 ubSize-DCACHE_SIZE 下溢保护;ForeachMinimumScalar/ForeachSubScalarList 数据比对脚本改为非零退出码 - 检视意见响应(fanqirui):ForeachLog10 填充循环前恢复列表上限显式校验(MAX_TENSOR_NUM=256);ForeachMinimumScalar V1 op_api 补充 self/out 列表个数一致性校验(与 V2 对齐)并修正空列表读取顺序;ForeachSubScalarList 输出元素数约束统一为与 x 相等(含新增 y 更大负例)、空列表路径补充 scalars 元素数为 0 的校验 验证:pre-commit 全 hook 通过;ascend950/ascend350 定向构建通过(350 内核产物生成);ascend910b 包构建通过;UT 通过;检视修复后 minimum/sub_scalar_list UT 24 用例通过;本轮检视修复后 950 包构建通过(arch35 tiling 编译验证)、UT 32 用例通过。 | 24 days ago | |
更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12429 merge codex/init-embedding-hash-table-initializer-mode-20261021 into master 更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 InitEmbeddingHashTable 的 README 将常量初始化模式写为 const,而 Host 实现只接受 constant,按文档配置会被判为非法模式。已将 README 的初始化模式说明更正为 random、constant,并修正 constant_value 的生效条件。静态核对及补丁检查通过。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6992 See merge request: cann/ops-nn!12429 | 27 days ago | |
fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12025 merge fix/act_ulq_clamp_max_grad-ut-example-rank into master fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Created-by: zhou-liang1027 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7318 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12025 | 27 days ago | |
docs(loss): clarify ChamferDistanceBackward input layout Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12357 merge fix/2026-10-16-ops-nn-chamfer-backward-layout-doc-01 into master docs(loss): clarify ChamferDistanceBackward input layout Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # docs(loss): clarify ChamferDistanceBackward input layout The forward ChamferDistance interface uses (2,B,N) for xyz1 and xyz2, with separate x and y planes. ChamferDistanceBackward expects (B,N,2), with each point's coordinates in the last dimension. The backward documentation does not explain this layout difference. Clarify that callers must transpose each forward input with axis order (1,2,0) before passing it to the backward interface. This change documents the existing shape contracts and does not change runtime behavior. 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6932 See merge request: cann/ops-nn!12357 | 27 days ago | |
feat(quant_batch_matmul_v3): Ascend960 StreamK量化场景统一走Blaze Co-authored-by: jia-tingting7<jiatingting7@huawei.com> # message auto-generated for no-merge-commit merge: !12458 merge feat/quant-bmm-v3-streamk-ascend960-hif4-blaze into master feat(quant_batch_matmul_v3): Ascend960 StreamK量化场景统一走Blaze Created-by: jia-tingting7 Commit-by: jia-tingting7 Merged-by: cann-robot Description: ## 描述 将 Ascend960(DAV_9201/9202)的 quant_batch_matmul_v3 StreamK 量化场景统一走 Blaze 路径,并清理不再需要的 CMCT StreamK 死代码。 ## 背景 此前 9202 的 StreamK 走 CMCT BasicAPI、9201 走 Blaze,tiling key 与 kernel 分发存在两套逻辑,并残留大量仅 9202 CMCT 路径使用的死代码。 ## 改动 ### 1. tiling key(quant_batch_matmul_v3_apt_tiling_key.h) - SUPPORT_STREAMK_TILING_KEY 增加 HIF4 场景 - StreamK(kernelType{11})APILEVEL 统一为 TPL_API_LEVEL_BLAZE,去掉 9202 走 BASIC 的分支 ### 2. host tiling(qbmm_streamk_tiling_960.cpp) - IsCapable 量化场景分流统一:MX per-group + 非MX per-tensor - tensorapi 能力检查统一 - GetApiLevel 统一返回 BLAZE_LEVEL ### 3. kernel 分发(quant_batch_matmul_v3.cpp) - MX 分支 Nd/Nz 对称分发合并(引入 MxTeBLayout/MxCmctBLayout 别名) - non-MX per-tensor StreamK Blaze 扩展到 9202 - 清理 StreamK CMCT 死代码(include、宏、分发) ## 关联 Issue #7325 ## 测试 - [x] 编译验证通过 - [ ] 待补充 9201/9202 量化场景 StreamK 正确性与性能验证 ## 类型标签 - [x] 性能优化 - [ ] Bug 修复 - [ ] 新特性 See merge request: cann/ops-nn!12458 | 27 days ago | |
fix(batch_norm3_d_grad): 注册 V1 推导以放行 NCHW/NHWC Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !12696 merge fix/batch_norm3_d_grad_graph_infer into master fix(batch_norm3_d_grad): 注册 V1 推导以放行 NCHW/NHWC Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 CANN 内置的算子原型库( libopsproto.so 中 nn_batch_norm_ops.cc 的 BatchNorm3DGradInferShape)为同名图算子注册了一份 V1 推导,且仅接受 data_format 为 NDHWC/NCDHW,4D 的 NCHW/NHWC 用例一律被拒绝: data_format has wrong format [NCHW], it should be in NDHWC, NCDHW 而本算子的 tiling 实际支持 NCHW/NHWC/NCDHW/NDHWC 四种格式(op_host/config/ascend950/batch_norm3_d_grad_binary.json 的八条 binary 配置已覆盖)。GE 的 CallInferFunc 在 OpDesc 上存在 V1 推导时优先调用 V1,因此所有 GEIR 的 NCHW/NHWC 用例都在内置 V1 推导处被拦截,走不到 V2 的 IMPL_OP_INFERSHAPE 回调(op_host/batch_norm3_d_grad_infershape.cpp)。 ## 改动方法 新增 norm/batch_norm3_d_grad/op_graph/batch_norm3_d_grad_graph_infer.cpp,按 V2 的推导语义复刻一份不做 data_format 字符串校验的 V1 推导。本包先于内置包加载,据此占据同名 V1 槽位并遮蔽内置实现: x_backprop <- y_backprop(shape + dtype) scale_backprop <- scale(shape + dtype) offset_backprop <- scale(shape + dtype) reserve_space_4 <- {0} reserve_space_5 <- {0} op_graph 目录由 add_graph_plugin_sources() 以 GLOB_RECURSE 收集 *.cpp,新增文件无需改动 CMakeLists.txt。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7312 ## 测试 - 本地 clang-format -i -style=file(v18.1.8,与 .pre-commit-config.yaml 一致)校验通过,无格式改动 - 推送时仓库 Git Hooks 检查 PASSED - 本机无 CANN 环境,未做本地编译;GEIR NCHW/NHWC 用例验证依赖平台 CI,已在 PR 上触发 compile ## 文档更新 无需更新文档。op_graph 新增推导实现,算子对外接口与 README 描述均未变化。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12696 | 27 days ago | |
修正 InplaceApplyAdamWithAmsgrad README 中的标量 dtype 约束 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12428 merge codex/2026-10-17-inplace-adam-amsgrad-scalar-dtype into master 修正 InplaceApplyAdamWithAmsgrad README 中的标量 dtype 约束 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 修正 InplaceApplyAdamWithAmsgrad README 中的标量 dtype 约束 README 当前将 11 个输入错误描述为必须共享同一数据类型。本 PR 将约束更正为五个状态张量支持 BF16、FP16 或 FP32,六个标量固定为 FLOAT,与算子类型定义保持一致。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6991 See merge request: cann/ops-nn!12428 | 27 days ago | |
补充 AdaptiveMaxPool2d README 的无 batch shape Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12278 merge fix/2026-10-16-ops-nn-adaptive-max-pool2d-unbatched-shape-doc-01 into master 补充 AdaptiveMaxPool2d README 的无 batch shape Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 补充 AdaptiveMaxPool2d README 的无 batch shape AdaptiveMaxPool2d 支持无 batch 输入 [C, Hin, Win],输出为 [C, Hout, Wout]。当前 README 只列出带 batch 的四维 shape,与 API 文档和入口校验不一致。 在 README 参数表中补充 x、y 和 indices 的无 batch shape。 ## 验证 - API 文档、入口校验和 Host InferShape UT 均确认支持无 batch rank-3 输入;README 缺少对应输入和输出 shape。本修复只更新文档。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6890 See merge request: cann/ops-nn!12278 | 27 days ago | |
fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12025 merge fix/act_ulq_clamp_max_grad-ut-example-rank into master fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Created-by: zhou-liang1027 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7318 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12025 | 27 days ago | |
fix: DynamicRNN 和 DynamicRNNV2 的 README Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12167 merge fix/2026-10-17-dynamic-rnn-forget-bias-doc-default into master fix: DynamicRNN 和 DynamicRNNV2 的 README Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: DynamicRNN 和 DynamicRNNV2 的 README 将 forget_bias 默认值写为 1.0,但两个 Proto 都通过 .ATTR(forget_bias, Float, 0.0) 将缺省值设为 0.0。省略属性时,Proto 接口返回注册的 0.0;Host tiling 将属性值传入 kernel,kernel 将其加到 forget gate 输入。建议将两份 README 的默认值改为 0.0,与接口定义保持一致。 ## 验证 - Proto 公共接口缺省值可由注册宏语义确认是 0.0;README 声称的 1.0 与 Proto 及 Host 实现证据冲突。未运行 NPU 测试。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6800 See merge request: cann/ops-nn!12167 | 29 days ago | |
geluv2adapt Co-authored-by: TH<taohai2@huawei.com> # message auto-generated for no-merge-commit merge: !12681 merge geluv2Adapt960dt into master geluv2adapt Created-by: TH_HW Commit-by: TH Merged-by: cann-robot Description: ## 描述 为 **GroupedQuantMax** 算子补齐 **Ascend 960DT(NpuArch 9201)** 平台支持。 Ascend 950(DAV_3510)与 Ascend 960DT(DAV_9201)共享同一套 arch35 AICore 架构、kernel 代码与 tiling 逻辑,因此适配核心是在配置与源码中注册 960DT 芯片变体,并确保运行时 960DT 与 950 走完全相同的代码路径。 主要改动如下: 1. **算子定义** quant/grouped_quant_max/op_host/grouped_quant_max_def.cpp - 新增 this->AICore().AddConfig("ascend960dt", aicoreConfig950),与 ascend950 复用**同一个 config 对象**(dtype 列表与配置项完全一致)。 2. **编译配置** quant/grouped_quant_max/CMakeLists.txt - SUPPORT_COMPUTE_UNIT 追加 "ascend960dt"; - SUPPORT_TILING_DIR 追加 "arch35"(960DT 复用 arch35 tiling)。 3. **无需修改的部分(已核查)** - 该算子无 op_host/config/ 目录,binary 配置由构建系统从 kernel 源码自动生成,960DT 沿用与 950 相同的自动生成路径; - op_api、infershape、arch35 tiling 中无 SocVersion / NpuArch / IsRegbase 芯片分发逻辑; - op_kernel 中无 __NPU_ARCH__ 编译期分支(GetCtrlSpr/SetCtrlSpr<FLOAT_OVERFLOW_MODE_CTRL> 为无条件调用,9201 同样可用); - 公共函数 IsRegbase()(common/inc/op_api/aclnn_util.h)与 IsRegbaseNpuArch()(common/inc/op_host/tiling_util.h)的 NpuArch 集合已包含 DAV_9201; - op_api 中未引入 SocVersion::ASCEND960dt。 ## 关联的Issue 无。 ## 测试 - 通过 ascend960dt 编译与静态检查。 - 验证 960DT 与 950 使用同一 config 对象、同一 arch35 tiling,运行时走相同代码路径。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 新特性 - [ ] Bug修复 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12681 | 28 days ago | |
Revert "fix: hash trailing bytes after processed blocks" Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !12571 merge master into master Revert "fix: hash trailing bytes after processed blocks" Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 定界结论: 代码问题 / LLT编译失败 — common/tests/ut/op_host/test_common_hash_tiling.cpp / test_murmur_hash_tiling.cpp(基线分支引入, 非本 PR 变更) 失败类型: 代码问题 / LLT编译失败(UT 任务链接错误) 根因: 基线分支已合入的哈希 tiling UT 测试(common/tests/ut/op_host/test_common_hash_tiling.cpp、test_murmur_hash_tiling.cpp)引用 RuntimeKb::CommonHash 与 Ops::NN::HostTiling::MurmurHash, ascend910b 版本的 UT 链接闭包缺少这两个符号的实现, 导致 nn_op_host_ut 链接失败; 同一 UT 在 ascend950 版本链接成功且用例全部通过 与本 PR 的关系: 本 PR 的 21 个变更文件全部位于 norm/in_training_update_grad/(新增 ascend350 支持), 均不含失败文件; 近 30 小时内另有 6 个不同 PR 的 run 挂同一 Job(抽验错误完全一致)→ 失败为基线(master)已合入代码的缺陷, 非本 PR 引入 处置建议: ① 本 PR 无需修改代码; 通知基线哈希 tiling 测试/实现的相关提交者或仓库维护者, 为 ascend910b 补齐这两个符号的实现(或按版本裁剪/条件编译该测试); ② 基线修复后重新触发流水线即可完成验证 排除项: 非环境问题——同 run 内 29 个 compile Job、其余 3 个 ut Job(不同版本/目标)全部通过, 且同一错误在其他 PR 上确定性复现(非瞬时网络/设备/Runner 故障); 非本 PR 引入——失败文件不在 PR 变更集, 本 PR 的 CMake 改动(COMPUTE_UNIT ascend950 → ascend950 ascend350)仅作用于 in_training_update_grad 算子自身 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 配套issue 异常回退 https://gitcode.com/cann/ops-nn/issues/7196 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ok ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12571 | 30 days ago | |
fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !10891 merge fix/add-rms-norm-quant-public-entry-validation into master fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: ## 关联 issue fixes #6055 ## 问题 顶层入口 cann_ops_nn.add_rms_norm_dynamic_quant(文档单算子示例路径)解析为 dispatcher OpOverloadPacket,标量参数在进入算子代码前被 schema 静默归一化(torch.int4 -> 40、torch.uint7 -> 36、np.int64(36) -> 36 等)。torch.uint6/uint7/int4/int5 四个 dtype 的序号恰好完整覆盖合法 dst_type 值域 {35,36,40,41},导致传入非 int 类型完全不报错、静默按"碰巧"的量化类型执行,与约束说明承诺的入口 TypeError 不符。详见 #6055。 ## 修改内容 1. torch_extension/cann_ops_nn/ops/norm/add_rms_norm_dynamic_quant/add_rms_norm_dynamic_quant.py 拆分 PrivateUse1 kernel(原逻辑逐字保留)与公开入口 add_rms_norm_dynamic_quant:先 _validate_arg_types 校验**原始**参数,再委托 torch.ops.cann_ops_nn.add_rms_norm_dynamic_quant 分发;公开入口携带 _cann_ops_nn_public_entry_ 标记。 2. torch_extension/cann_ops_nn/__init__.py __getattr__ 优先导出带标记的公开入口(而非 dispatcher 句柄);未携带标记的算子保持原行为——opt-in 机制,对其余算子零影响。 3. norm/add_rms_norm_dynamic_mx_quant/tests/ut/torch_extension/test_torch_extension_param_validation.py 入口结构锁定用例更新为断言"公开入口 + 与 raw 入口同一函数对象"(标量拦截覆盖经同一性断言传递至既有用例);删除与 test_scalar_type_interception 完全重复(同函数×同 7 个坏值×同断言)的参数化用例。 4. norm/add_rms_norm_dynamic_mx_quant/docs/torchapi_add_rms_norm_dynamic_quant.md 约束说明修正严格校验适用入口(补充顶层入口;dispatcher 归一化说明限定为直接经 torch.ops 调用场景);两个调用示例改为打印 shape/dtype,避免大 shape 输出刷屏。 ## 为什么委托 torch.ops 而非直调 C++ 模块 保证图模式行为不变:torch.compile 下 Dynamo 将公开入口内联后,torch.ops 调用仍作为 FX 图节点(实测 node.target 与修复前同为 OpOverloadPacket、逐节点一致),graph_convert 注册的 torchair GE 转换不受影响;若直调 C++ 模块则会在 builder.load() 处 graph break,图模式静默退化为 eager(mxscale dtype 等文档承诺行为改变)。 ## 验证(Ascend 950PR 实测) - 参数校验 UT:**42 passed**(meta/CPU,设备无关) - NPU UT test_torch_extension.py:**113 passed** - 文档 eager 示例路径实测:torch.int4/uint6/uint7/int5、torch.float8_e5m2/e4m3fn、np.int64/np.int32、36.0、"36"、True 全部抛指名 TypeError(如 dst_type must be a Python int (35=FP8_E5M2, 36=FP8_E4M3FN, 40=FP4_E2M1, 41=FP4_E1M2), but got torch.dtype: torch.int4);dst_type=36 正常输出 float8_e4m3fn (4,64),示例新打印语句输出与返回值说明表一致 - 图模式:FX 图与修复前逐节点一致;graph(trace) 与 eager 数值 torch.equal 为 True;torch.compile 下传 torch.int4 在 trace 阶段即 TypeError - pre-commit run(ruff check / ruff format / codespell / OAT 等)全部通过,零自动改动 ## 兼容性 - eager 合法调用(Python 原生 int/str/bool/float、IntEnum)行为不变 - torch.ops.cann_ops_nn.* 直调路径行为不变(框架归一化 + 值域兜底,文档已说明) - 其余算子顶层入口解析行为不变(仅带标记的公开入口生效) See merge request: cann/ops-nn!10891 | 2 months ago | |
支持dvlite(ascend350):新增10个算子binary配置并扩展14个算子compute unit支持 Co-authored-by: yangjinwen<yangjinwen2@huawei.com> # message auto-generated for no-merge-commit merge: !12498 merge dev-dvlite into master 支持dvlite(ascend350):新增10个算子binary配置并扩展14个算子compute unit支持 Created-by: yangjinwen Commit-by: yangjinwen Merged-by: cann-robot Description: ## 变更说明 本 PR 为 dvlite(Ascend350)芯片提供算子适配支持,基于已有 ascend950(arch35)tiling 架构扩展 ascend350 计算单元,不改变 ascend910b/ascend910_93/ascend950 等既有平台行为。 ### 1. 新增 10 个算子的 binary 配置文件(共 14 份) | 算子 | 配置文件 | |------|----------| | ForeachMaximumScalarList | foreach/foreach_maximum_scalar_list/op_host/config/ascend350/foreach_maximum_scalar_list_binary.json | | ForeachPowScalar | foreach/foreach_pow_scalar/op_host/config/ascend350/foreach_pow_scalar_binary.json | | ForeachPowScalarAndTensor | foreach/foreach_pow_scalar_and_tensor/op_host/config/ascend350/foreach_pow_scalar_and_tensor_binary.json | | ForeachSinh | foreach/foreach_sinh/op_host/config/ascend350/foreach_sinh_binary.json | | SoftmaxFocalLoss | loss/softmax_focal_loss/op_host/config/ascend350/softmax_focal_loss_binary.json | | GnTrainingReduce | norm/gn_training_reduce/op_host/config/ascend350/gn_training_reduce_binary.json | | MultiAddRmsNormDynamicQuant | norm/multi_add_rms_norm_dynamic_quant/op_host/config/ascend350/multi_add_rms_norm_dynamic_quant_binary.json | | SingleLayerLstm | rnn/single_layer_lstm/op_host/config/ascend350/single_layer_lstm_binary.json | | ScaledMaskedSoftmaxV2 | vfusion/scaled_masked_softmax_v2/op_host/config/{ascend350,ascend960dt,ascend960pr}/scaled_masked_softmax_v2_binary.json(3 份) | | ScaledMaskedSoftmaxGradV2 | vfusion/scaled_masked_softmax_grad_v2/op_host/config/{ascend350,ascend960dt,ascend960pr}/scaled_masked_softmax_grad_v2_binary.json(3 份) | ### 2. CMakeLists / op_host 注册扩展计算单元 上述算子及 ScatterMax、ScatterMaxWithArgmax、LambUpdateWithLr、FusedMulApplyMomentumExtern 共 14 个算子,通过 SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR/COMPUTE_UNITS(CMakeLists)与 AICore().AddConfig(...)(def.cpp)注册: - 12 个算子注册 ascend350,tiling 复用 ascend950 的 arch35 目录; - ScaledMaskedSoftmaxV2、ScaledMaskedSoftmaxGradV2 各注册 ascend350、ascend960dt、ascend960pr 三个计算单元; - 公共模块 scatter_reduce_common(index/scatter_reduce_common)注册 ascend350(tiling 复用 arch35),供 ScatterMax/ScatterDiv/ScatterMin/ScatterMul 等 scatter 系列算子复用。 ### 3. op_api / infershape 适配 - aclnn_foreach_sinh:dtype 支持列表增加 SocVersion::ASCEND350 - single_layer_lstm:SoC 校验由仅 ascend950 扩展至 ascend950/ascend350 - softmax_focal_loss、multi_add_rms_norm_dynamic_quant:infershape 平台分支覆盖 short_soc_version == "Ascend350" ## 影响范围 53 files changed, +2712/-65。仅新增 ascend350(及 ScaledMaskedSoftmaxV2/ScaledMaskedSoftmaxGradV2 的 ascend960dt/ascend960pr)计算单元支持,既有平台行为不变。 关联的Issue:#7144 See merge request: cann/ops-nn!12498 | 30 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
docs: 修复注释与文档不一致(build脚本默认参数说明) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12379 merge docs/comment-cleanup-20261019-03 into master docs: 修复注释与文档不一致(build脚本默认参数说明) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正 build.sh 帮助信息与 docs/zh/install/build.md 中与实际实现不一致的默认参数说明: - -j[n]:默认值由「8」更正为「CPU 核心数」。build.sh 中 THREAD_NUM=$(grep -c ^processor /proc/cpuinfo),未显式传入 -j 时按 CPU 核心数编译。 - --vendor_name:默认值由「customize-nn」更正为「custom」。build.sh 在 run_example 场景下当 VENDOR_NAME 为空时设置为 custom。 涉及文件:build.sh(7 处 -j[n] 文案、1 处 --vendor_name 文案)、docs/zh/install/build.md(参数表 1 处)。 ## 关联的Issue - #6950 ## 测试 仅修改帮助文案与文档,不涉及代码逻辑变更;已核对 build.sh 中 THREAD_NUM 与 VENDOR_NAME 的实际默认值。 ## 文档更新 - docs/zh/install/build.md:更新 -j${n} 默认值说明为 CPU 核心数 - build.sh:更新 usage 中 -j[n]、--vendor_name 的默认值说明 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12379 | 1 month ago | |
Ascend960-matmul系列算子与Ascend950平台归一 Co-authored-by: yijiliang<yijiliang1@huawei.com> # message auto-generated for no-merge-commit merge: !12293 merge merge-test1 into master Ascend960-matmul系列算子与Ascend950平台归一 Created-by: yijiliang Commit-by: yijiliang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 为支持 Ascend960平台,将 MatMulV3系列算子与 3510 归一为单代码线,复用 arch35 既有 tiling 与 kernel 框架。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6802 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证950及960测试用例无问题 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12293 | 1 month ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
upgrade version 9.2.0 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !9513 merge master into master upgrade version 9.2.0 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 upgrade version 9.2.0 ## 关联的Issue [#5362](https://gitcode.com/cann/ops-nn/issues/5362) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述: 版本更新 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9513 | 2 months ago |
🔥Latest News
- [2026/05] 优化kernel编译配置项,减少simplified_key和ascendc_config配置文件(!3330)。
- [2026/05] 引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和简化指令参数(!5036)。
- [2026/05] 发布生态算子的精度验收标准(!4572)。
- [2026/03] 开源算子支持下一代芯片:Ascend950PR(!450)。
- [2026/03] 新增<<<>>>的算子开发样例(!620)。
- [2026/03] 低bit类算子和融合算子支持更多数据类型:fp8/mxfp8/hifp8/mxfp4等,并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式:全量化融合算子:quant_batch_matmul_v4,伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现:[MapIndex](#660),[ScatterSub](#710)。
- [2026/01] 新增QuickStart,指导新手零基础入门算子项目部署(支持Docker环境)、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90,可以通过NPU Simulator仿真工具开发调试;优化指南类文档,聚焦算子开发指南,明确最小交付件和关键示例代码,针对Ascend/samples仓算子提供迁移本项目的指导;新支持稀疏4:2量化matmul算子,针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录,完善贡献指南,支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线,开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN(Compute Architecture for Neural Networks)算子库中提供神经网络计算能力的高阶算子库,包括matmul类、activation类等算子,算子库架构图如下:

📌版本配套
本项目源码会跟随CANN软件版本发布,关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意,为确保您的源码定制开发顺利进行,请选择配套的CANN版本与Gitcode标签源码,使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提,请先完成NPU驱动、CANN包安装等,确保环境正常。
⬇️源码下载
环境准备好后,下载与CANN版本配套的分支源码,通用命令如下,${tag_version}替换为分支标签名。以9.0.0分支源码下载为例:
# 通用命令:git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明:若环境中已存在配套分支源码,可跳过本步骤,例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS:本项目功能和文档正在持续更新和完善中,欢迎您关注最新版本。