本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
fix(ci): compile.sh 用 sh 调用 bash 脚本 check_experimental_pkg.sh,改为 bash Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !11628 merge fix-compile-sh-use-bash-for-experimental-check-v2 into master fix(ci): compile.sh 用 sh 调用 bash 脚本 check_experimental_pkg.sh,改为 bash Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 问题 .gitcode/scripts/compile.sh 第 179 行 Compile_Ascend_experimental*) 分支里用 sh scripts/ci/check_experimental_pkg.sh 调用该脚本,但 check_experimental_pkg.sh 含 bash-only 语法([[ ]]/数组等),在 sh(Debian/Ubuntu 上为 dash)下执行会 Syntax error。同仓其它调用(如 bash scripts/ci/compile_ascend950_pkg.sh)均用 bash 调用。 ## 影响 CI 在 dash 为默认 sh 的环境里,experimental 包校验步骤直接语法报错,DP_ASSERT_EQUAL $? 0 失败。 ## 修改 sh scripts/ci/check_experimental_pkg.sh → bash scripts/ci/check_experimental_pkg.sh。(第 181 行 echo 里的字符串保持不动,仅作展示。) > 说明:此为对旧 PR #11440(因冲突被关闭)的重新提交,改动仍必要(当前 master 第 179 行仍是 sh)。 See merge request: cann/ops-nn!11628 | 29 days ago | |
修复 SoftplusGrad 动态 Rank 广播的 InferShape 失败 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12210 merge fix/2026-10-15-ops-nn-softplus-grad-dynamic-rank-broadcast-infershape-01-luna-batch-33 into master 修复 SoftplusGrad 动态 Rank 广播的 InferShape 失败 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 修复 SoftplusGrad 动态 Rank 广播的 InferShape 失败 ## 问题 SoftplusGrad 支持动态 Rank 与输入广播,但当前 InferShape 将 unknown-rank shape 当作普通维度参与广播比较。输入 rank 尚未确定时,即使已知 rank 一侧的维度合法,也会提前返回 InferShape 失败。 ## 修复 任一输入为 unknown rank 时,将输出 shape 保守设为 unknown rank 并成功返回;增加对应 Host UT。 ## 验证 - InferShape 失败已由真实 Host InferShape 函数的基线和修复后对照复现;没有据此推断设备执行行为。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6842 See merge request: cann/ops-nn!12210 | 28 days ago | |
feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Co-authored-by: smdbha<panzhijie2@huawei.com> # message auto-generated for no-merge-commit merge: !11505 merge master into master feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Created-by: smdbha Commit-by: smdbha Merged-by: cann-robot Description: ## 描述 为 quant_matmul_activation_quant 新增 activationType="silu"(Torch:activation_type="silu")。完整 FP32 MatMul 结果加可选 bias 后,逐元素计算 x * sigmoid(x),经 BF16 RINT 后进行 MXFP8 量化;输出保持 [..., M, N],scale 为 [..., M, ceil(N/64), 2]。 - ND 支持四种 E4M3FN/E5M2 输入组合及 FF/FT/TF/TT 转置;WeightNZ 要求 x2 为 E4M3FN、transposeX1=false,支持两种 x1 FP8 和两种 transposeX2。输出 dtype 与 x1 一致。 - 支持 batch 广播、FP32 bias、OCP/BLAS(scaleAlg=0/1)及 RINT。 - 补齐 ACLNN/Torch 参数校验、图推导、tiling 和单/多 batch、A 全载/非全载 kernel 分发。 - 共用 N 对齐常量统一为 MX_BASEN_ALIGN=32UL,扩展 CSV 驱动 UT/ST 和 CPU golden。 **依赖配套 ops-tensor PR:https://gitcode.com/cann/ops-tensor/merge_requests/466**。使用新的 BlockEpilogueSiluMxQuant 头文件,构建时需要同步该变更。 ## 关联的Issue 关联 https://gitcode.com/cann/ops-nn/issues/6395 配套 epilogue 需求:https://gitcode.com/cann/ops-tensor/issues/287 补充关联(TTK 用例失败):https://gitcode.com/cann/ops-nn/issues/6406 ## 测试 - 2026-10-07 的功能实现版本(当时名称为 sigmoid_mul)完成了定向完整二进制包构建和安装;在 CANN 9.3.0 / Ascend950PR_9589 NPUSim 上,20 条边界用例及 1 条 A 全载专项共 21/21 PASS。FP8 rtol=0.001、atol=0、最低匹配率 0.999,E8M0 scale 逐位比较,未放宽精度标准。 - SiLU 重命名后,30 条 kernel CSV 加载校验通过;21 条 CPU golden 输出与改名前逐字节一致。 - 本 PR 新增/扩展的 CSV 覆盖 Host/API/Kernel UT、TTK kernel/ACLNN/E2E:ND/NZ、dtype/转置、OCP/BLAS、N/K 尾块、M=1、batch/bias、全载/非全载和非法参数。上述用例配置不等同于整套 UT/ST 已完成设备执行。 - 提交前 clang-format、ruff、codespell、OAT 等钩子通过,当前分支差异检查通过。 - NPUSim 验证属于重命名前的实现版本;当前提交未重新编包或上板。原验证环境未识别到 NPU,故无实机通过结论。20 条专项边界 CSV 为独立验证输入,本 PR 保留仓内常规 CSV 回归和宽 N 全载用例。 ## 文档更新 更新算子 README、ACLNN ND/WeightNZ 文档、Torch API、算子目录、Torch API 目录和测试运行说明,统一正文名称为 SiLU,参数值保留小写 silu。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11505 | 29 days ago | |
feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !12618 merge feat/resp-ops-ascend960pr-completion into master feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置(与既有 ascend960dt 注册对齐),responsibility-ops 960pr 补齐系列之一。 改动面(4 文件,2 提交): - def.cpp:AddConfig("ascend960pr", aicoreConfig950) 紧随 960dt - config/ascend960pr/binary.json:与 960dt 逐字节一致 - ascendc_config.json:RmsNormDynamicMxQuant 条目 compute_units 补 ascend960pr、compile_options 增 960pr 键(--cce-no-dcache-flush,与 960dt 同值) 其余注册面 master 已就绪:op_host/CMakeLists 白名单已含 960dt/960pr(2f40bce01);op_kernel 为 arch35 目录形态,无独立 COMPUTE_UNITS 面;kernel 门禁(含 norm_common)全部已含 __NPU_ARCH__ == 9201 || 9202;tiling 为构造式平台访问,无 PlatformAscendCManager 依赖。 - fix(common):tiling_util.h IsRegbaseNpuArch 集合补 DAV_9202——960pr 下 regbase tiling 路由失效修复(master 上 aclnn 层已含 9202,tiling 层缺失) 背景:ascend960dt=dav_9201 / ascend960pr=dav_9202 同族变体,纯注册/配置使能,无 kernel 计算逻辑改动。 ## 关联的Issue #7243(本 PR 为系列首批,其余算子后续分批提 PR) ## 测试 - 注册面终审核对:def dt/pr 紧随配对、config pr≡dt、ascendc_config cu/co 对称 - 960 编译验证依赖黄区 CI ## 文档更新 无需(纯注册配置,无 API 行为变化) ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12618 | 29 days ago | |
sleep算子支持Ascend960 Co-authored-by: hw-zhangpanpan<zhangpanpan5@huawei.com> # message auto-generated for no-merge-commit merge: !11793 merge master into master sleep算子支持Ascend960 Created-by: hw-zhangpanpan Commit-by: hw-zhangpanpan Merged-by: cann-robot Description: ## 描述 为 sleep 算子新增 Ascend 960 平台(ascend960dt / ascend960pr)支持,使其可在最新 Ascend960 硬件上正常编译与运行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6909 ## 测试 泛化和冒烟测试 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11793 | 1 month ago | |
support conv bias add fusion Co-authored-by: huafeng793<chenhuafeng2@huawei.com> # message auto-generated for no-merge-commit merge: !11153 merge open_bias_add into master support conv bias add fusion Created-by: huafeng793 Commit-by: huafeng793 Merged-by: cann-robot Description: ## 描述 BiasaddConvFusionPass开源 ## 关联的Issue [#6310](https://gitcode.com/cann/ops-nn/issues/6310) ## 测试 RDV验证;ST、UT验证 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11153 | 29 days ago | |
feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Co-authored-by: smdbha<panzhijie2@huawei.com> # message auto-generated for no-merge-commit merge: !11505 merge master into master feat(quant_matmul_activation_quant): 支持 SiLU + MX 量化融合 Created-by: smdbha Commit-by: smdbha Merged-by: cann-robot Description: ## 描述 为 quant_matmul_activation_quant 新增 activationType="silu"(Torch:activation_type="silu")。完整 FP32 MatMul 结果加可选 bias 后,逐元素计算 x * sigmoid(x),经 BF16 RINT 后进行 MXFP8 量化;输出保持 [..., M, N],scale 为 [..., M, ceil(N/64), 2]。 - ND 支持四种 E4M3FN/E5M2 输入组合及 FF/FT/TF/TT 转置;WeightNZ 要求 x2 为 E4M3FN、transposeX1=false,支持两种 x1 FP8 和两种 transposeX2。输出 dtype 与 x1 一致。 - 支持 batch 广播、FP32 bias、OCP/BLAS(scaleAlg=0/1)及 RINT。 - 补齐 ACLNN/Torch 参数校验、图推导、tiling 和单/多 batch、A 全载/非全载 kernel 分发。 - 共用 N 对齐常量统一为 MX_BASEN_ALIGN=32UL,扩展 CSV 驱动 UT/ST 和 CPU golden。 **依赖配套 ops-tensor PR:https://gitcode.com/cann/ops-tensor/merge_requests/466**。使用新的 BlockEpilogueSiluMxQuant 头文件,构建时需要同步该变更。 ## 关联的Issue 关联 https://gitcode.com/cann/ops-nn/issues/6395 配套 epilogue 需求:https://gitcode.com/cann/ops-tensor/issues/287 补充关联(TTK 用例失败):https://gitcode.com/cann/ops-nn/issues/6406 ## 测试 - 2026-10-07 的功能实现版本(当时名称为 sigmoid_mul)完成了定向完整二进制包构建和安装;在 CANN 9.3.0 / Ascend950PR_9589 NPUSim 上,20 条边界用例及 1 条 A 全载专项共 21/21 PASS。FP8 rtol=0.001、atol=0、最低匹配率 0.999,E8M0 scale 逐位比较,未放宽精度标准。 - SiLU 重命名后,30 条 kernel CSV 加载校验通过;21 条 CPU golden 输出与改名前逐字节一致。 - 本 PR 新增/扩展的 CSV 覆盖 Host/API/Kernel UT、TTK kernel/ACLNN/E2E:ND/NZ、dtype/转置、OCP/BLAS、N/K 尾块、M=1、batch/bias、全载/非全载和非法参数。上述用例配置不等同于整套 UT/ST 已完成设备执行。 - 提交前 clang-format、ruff、codespell、OAT 等钩子通过,当前分支差异检查通过。 - NPUSim 验证属于重命名前的实现版本;当前提交未重新编包或上板。原验证环境未识别到 NPU,故无实机通过结论。20 条专项边界 CSV 为独立验证输入,本 PR 保留仓内常规 CSV 回归和宽 N 全载用例。 ## 文档更新 更新算子 README、ACLNN ND/WeightNZ 文档、Torch API、算子目录、Torch API 目录和测试运行说明,统一正文名称为 SiLU,参数值保留小写 silu。 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11505 | 29 days ago | |
[L1] fix: ascend.cmake 的 include 列表有 4 行用 U+00A0 缩进 → CMake 把它当成 8 个独立列表项(实测),改为 ASCII 空格 Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !11442 merge fix-nbsp-indent-in-ascend-cmake into master [L1] fix: ascend.cmake 的 include 列表有 4 行用 U+00A0 缩进 → CMake 把它当成 8 个独立列表项(实测),改为 ASCII 空格 Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 问题 examples/fast_kernel_launch_example/cmake/ascend.cmake 里 set(ASCEND_INCLUDE_DIRS ...) 这个列表, 第 65、67、68、69 这 4 行的行首缩进**不是普通空格,而是不换行空格 U+00A0**(每行两个,UTF-8 字节为 C2 A0): console $ sed -n '65p' examples/fast_kernel_launch_example/cmake/ascend.cmake | od -c | head -2 0000000 302 240 302 240 $ { A S C E N D _ D 0000020 I R } / o p p / b u i l t - i n 同一个列表里其余 15 行用的都是 4 个 ASCII 空格。 **CMake 不认为 U+00A0 是空白**(它的参数分隔只认空格/制表/换行),所以这 4 行不是"缩进丑一点", 而是**每个非 ASCII 空格都会变成一个独立的列表项**。在昇腾开发机(cmake 3.20.5)上按同样的字节复现: console $ cat /tmp/nbsp_demo.cmake set(INCS aa/bb cc/dd ee/ff ) list(LENGTH INCS N) message(STATUS "N=${N}") foreach(i ${INCS}) message(STATUS "item=[${i}]") endforeach() $ cmake -P /tmp/nbsp_demo.cmake -- N=5 ← 期望 3 个元素,实际 5 个 -- item=[aa/bb] -- item=[ ] ← NBSP 单独成项 -- item=[ ] ← NBSP 单独成项 -- item=[cc/dd] -- item=[ee/ff] 对应到本文件:ASCEND_INCLUDE_DIRS 会多出 **8 个内容只有一个 NBSP 的"目录"**, 它们再经 CMakeLists.txt:37 进入 INCLUDE_DIRECTORIES 参与编译。 现在的后果是列表被污染(这些"目录"不存在,编译器只会忽略); 但它是个真实的陷阱:**只要哪天这种缩进后面少打一个 ASCII 空格**, ${ASCEND_DIR}/… 就会粘成**一个**项, 路径开头带 NBSP,头文件搜索静默失效,排查成本很高。 ## 修改 把这 4 行的行首缩进换成与同文件其它行一致的 4 个 ASCII 空格,**只动行首的 8 个字符,路径本身一字不改**: diff - ${ASCEND_DIR}/opp/built-in/op_impl/ai_core/tbe/impl/ops_nn/ascendc/conv3d_v2/arch35 + ${ASCEND_DIR}/opp/built-in/op_impl/ai_core/tbe/impl/ops_nn/ascendc/conv3d_v2/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/common/op_host/op_tiling/arch35 + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/common/op_host/op_tiling/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/conv3d_v2/op_host/op_tiling/arch35 + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv/conv3d_v2/op_host/op_tiling/arch35 - ${CMAKE_CURRENT_SOURCE_DIR}/../../conv + ${CMAKE_CURRENT_SOURCE_DIR}/../../conv ## 复验 1. 脚本硬断言:全文件 U+00A0 恰为 8 个,且全部位于第 65/67/68/69 行的行首(\xc2\xa0 \xc2\xa0 前缀), 改完文件里 \xc2\xa0 为 0; 2. 脚本硬断言:同一个列表里其余 15 行( ${…} 形式)都是 ASCII 缩进(本改动是向既有风格对齐,不是引入新风格); 3. CMake 的空白判定与"U+00A0 会单独成项"是在昇腾开发机上用 cmake -P 实测的(上面 N=5),不是推断; 4. 不改任何路径、变量名、编译选项,也不动其它文件。 See merge request: cann/ops-nn!11442 | 30 days ago | |
docs: 修复注释与文档不一致(Celu与ApplyProximalGradientDescent README) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12513 merge docs/comment-cleanup-20261019-06 into master docs: 修复注释与文档不一致(Celu与ApplyProximalGradientDescent README) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/7184 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12513 | 30 days ago | |
fix(foreach_abs/asin/exp): arch35 tiling 校验补齐、空列表对齐与资料修正 Co-authored-by: zhang-wenbo-beat<zhangwenbo67@huawei.com> # message auto-generated for no-merge-commit merge: !12562 merge foreach-ops-fix into master fix(foreach_abs/asin/exp): arch35 tiling 校验补齐、空列表对齐与资料修正 Created-by: zhang-wenbo-beat Commit-by: zhang-wenbo-beat Merged-by: cann-robot Description: See merge request: cann/ops-nn!12562 | 29 days ago | |
fix(embedding_hash_table_import): InferDataType 对非法 counters 类型缺失失败返回 Co-authored-by: luohui46<luohui46@huawei.com> # message auto-generated for no-merge-commit merge: !12650 merge master into master fix(embedding_hash_table_import): InferDataType 对非法 counters 类型缺失失败返回 Created-by: luohui46 Commit-by: luohui46 Merged-by: cann-robot Description: ## 描述 EmbeddingHashTableImport 的 counters 动态输入在算子定义中限定为 DT_UINT64,但 InferDataType4EmbeddingHashTableImport 的 counters 类型检查分支在类型不匹配时仅打印错误日志,未返回 GRAPH_FAILED(与相邻 filter_flags/values 分支不一致)。 因此非法类型(如 DT_INT64)可绕过算子侧类型校验进入后续 tiling/kernel 流程。kernel 侧 counterGm_ 按 GlobalTensor<uint64_t> 读取并写入桶结构,int64 负值会被静默解释为巨大的 uint64 计数,造成数据错误。 本 PR 在 counters 类型校验失败分支补齐 return ge::GRAPH_FAILED;。 ## 关联的Issue Fixes #6653 ## 测试 新增 InferDataType 回归用例 2 个: - counters 为 DT_UINT64 时返回 GRAPH_SUCCESS(正例) - counters 为 DT_INT64 时返回 GRAPH_FAILED(反例,修复前该用例失败) 执行 bash build.sh -u --ophost --ops=embedding_hash_table_import,3/3 用例通过: [ OK ] embedding_hash_table_import_infer_shape_test1 [ OK ] embedding_hash_table_import_infer_dtype_test1 [ OK ] embedding_hash_table_import_infer_dtype_counters_int64 [ PASSED ] 3 tests. clang-format、行尾空白、文件末尾换行检查均通过。 ## 文档更新 无需更新:counters 类型限定 UINT64 与现有 README 及算子定义(TensorType({DT_UINT64}))一致,本次仅修复校验缺失。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12650 | 28 days ago | |
feat(index): 补齐 ScatterElements 的 Ascend 960 适配 Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !12552 merge codex/scatter-elements-960-adaptation into master feat(index): 补齐 ScatterElements 的 Ascend 960 适配 Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: 补齐独立 ScatterElements 算子的 Ascend 960DT/960PR 适配。#11516 已适配 ScatterElementsV2,本次补充 ScatterElements 的注册、arch35 映射、二进制配置,以及 L0 平台支持判断。 复用现有实现和模板;960 编译选项仅在算子目录配置。未修改公共文件、build.sh 或 matmul,保留既有 ScatterElementsV2 分发优先级。 验证结果: - Ascend 950:Host 构建通过,20/20 组 kernel 配置实际编译通过。 - 相关 API 单测:25/25 通过。 - pre-commit / OAT:全部通过,OAT 检查全部 6 个变更文件。 - CMake 路由检查:960DT/PR 选择 arch35,950/mc62/350 原有配置保持不变。 - 按要求不继续进行本地 960 编译验证,未将 960 编译计为通过。 关联:#11516、#6908。 See merge request: cann/ops-nn!12552 | 29 days ago | |
SigmoidCrossEntropyWithLogitsV2 补 InferShape/InferDataType Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !12663 merge feat/rt2-infer-4ops into master SigmoidCrossEntropyWithLogitsV2 补 InferShape/InferDataType Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> SigmoidCrossEntropyWithLogitsV2算子infershape&inferDataType缺失补充 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ST/UT pass ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12663 | 28 days ago | |
matmul_v3 SK 9201/9202 补留 RPC workspace Co-authored-by: yijiliang<yijiliang1@huawei.com> # message auto-generated for no-merge-commit merge: !12654 merge matmulv3-sk-rpc-workspace into master matmul_v3 SK 9201/9202 补留 RPC workspace Created-by: yijiliang Commit-by: yijiliang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12654 | 29 days ago | |
fix(bn_training_update_grad): Phase2 确定性归约改用 Kahan 累加,消除跨核合并 1 ULP 偏差 Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !12678 merge fix/bn_training_update_grad_phase2_kahan into master fix(bn_training_update_grad): Phase2 确定性归约改用 Kahan 累加,消除跨核合并 1 ULP 偏差 Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 修复 BNTrainingUpdateGrad arch35 kernel 确定性 rowSplit 路径下 Phase2 跨核归约的精度缺陷。 ### 问题 GatherReduceChunk 用裸 fp32 向量累加(AccumulateFrom)合并各核部分和。深归约下 |acc| 单调增长至输出量级,而单核部分和远小于它,每步加法的 0.5 ULP(|acc|) 截断不可逆,~cores 次(本平台 24)累积后稳定偏 1~2 ULP。 实证 coverage_range_bf16_negmax_002(NHWC (1397395,1) bf16,x=-3.39e38)output 1(diff_offset)rmse 比值 3.29 > 1.5 FAIL: - golden = fp64 真值;third_party = 最近舍入 fp32(|b-g| = 0.0547) - NPU = 最近舍入再偏 1 ULP(|t-g| = 0.1797)→ 比值 3.29 ### 修复 新增 KahanAccumulateFrom(复用带 ±Inf NaN 防护的 KahanAddReg)替换 Phase2 的裸 AccumulateFrom,跨核合并误差由 O(cores·eps) 压回 O(eps);补偿位复用 Phase2 阶段空闲的 kahanScale_,用前清零。求和序 = ws 槽序 = 核序不变,逐位确定性保持。 改动仅 1 文件,+34/-5。 ## 关联的Issue 无 ## 测试 Ascend950DT_9592,设备 0,--dl=1(确定性模式),seed=42: | 项 | 修复前 | 修复后 | |---|---|---| | 输出 t | -2096069.875(最近舍入偏 1 ULP) | -2096069.750(=正确舍入,与离线仿真预测逐位一致) | | rmse 比值 | 3.29 FAIL | 1.00 PASS | | 确定性 | MD5 三次一致 | MD5 三次一致 | | 性能 | 69.7 us | 71.5 us(持平) | 全量失败用例集(15 例)最终 **15/15 全部 PASS**。 ## 文档更新 无需更新文档。本次改动不涉及对外语义、接口或支持情况口径变化(输出仍为各核部分和之浮点和,仅跨核合并的舍入误差量级下降)。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12678 | 28 days ago | |
fix(inplace_apply_adadelta): 修复inplace_apply_adadelta算子精度和资料问题 Co-authored-by: Dyrong<dengyirong@huawei.com> # message auto-generated for no-merge-commit merge: !12668 merge master into master fix(inplace_apply_adadelta): 修复inplace_apply_adadelta算子精度和资料问题 Created-by: Dyrong Commit-by: Dyrong Merged-by: cann-robot Description: ## 描述 修复inplace_apply_adadelta算子精度和资料问题 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7266 ## 测试 基于资料泛化生成测试用例并验证 ## 文档更新 更新Readme文档 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12668 | 28 days ago | |
fix: 修正 avg_pool1_d 取整/空输出与 batch_norm_grad_ext2 推理属性越界读 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12108 merge master into master fix: 修正 avg_pool1_d 取整/空输出与 batch_norm_grad_ext2 推理属性越界读 Created-by: qq_41311449 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 1. avg_pool1_d 修复 - ceil_mode 末窗口修正按需求 §4.5.2 语义门控:仅 pad_left > 0 时生效 - 新增 FloorDiv 处理负被除数,tiling 与 infershape 取整口径一致 - golden 对齐算子口径,处理 L=0/L_out=0 空输出 - 修正 format 校验误用 INVALID_DTYPE 日志模板,注册 OpDef 名 AvgPool1D - 新增负被除数、ksize>>L 截断等 tiling/infershape 测试用例 2. batch_norm_grad_ext2 修复 - 移除对未注册属性 output_mask 的越界读取(原导致 is_training=false 静态 shape 编译报 EZ0025 整体失败) - dtype 校验改用 INVALID_DTYPES_WITH_REASON 模板,非法 format 统一返回 GRAPH_FAILED - 修复输出首轴校验误用 inputParamNames、examples 的 argv 解引用与内存泄漏 3. ascend350 平台适配(两算子) - 复用 arch35(DAV_3510)配置,追加 AddConfig("ascend350") - CMakeLists 增加 ascend350/arch35 编译与 tiling 配置 - 新增 batch_norm_grad_ext2 的 ascend350 二进制配置 JSON(8 条 op_list) - 已验证 build.sh --pkg --soc=ascend350 编译打包成功 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6970 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12108 | 29 days ago | |
修复 GroupedDynamicBlockQuant 对标量 group_list 的 InferShape 推导 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12427 merge fix/grouped-dynamic-block-quant-infershape-rank0-guard into master 修复 GroupedDynamicBlockQuant 对标量 group_list 的 InferShape 推导 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 修复 GroupedDynamicBlockQuant 对标量 group_list 的 InferShape 推导 GroupedDynamicBlockQuant 要求 group_list 为一维张量,但 Host InferShape 在读取 dim 0 前未检查秩。传入 rank-0 shape 时,InferShape 会将该维度误当作组数并返回成功,生成错误的 scale shape。补丁在读取维度前增加秩校验,并增加标量输入回归用例;有效的一维输入保持现有推导行为。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6990 See merge request: cann/ops-nn!12427 | 28 days ago | |
fix: DynamicRNN 和 DynamicRNNV2 的 README Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12167 merge fix/2026-10-17-dynamic-rnn-forget-bias-doc-default into master fix: DynamicRNN 和 DynamicRNNV2 的 README Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: DynamicRNN 和 DynamicRNNV2 的 README 将 forget_bias 默认值写为 1.0,但两个 Proto 都通过 .ATTR(forget_bias, Float, 0.0) 将缺省值设为 0.0。省略属性时,Proto 接口返回注册的 0.0;Host tiling 将属性值传入 kernel,kernel 将其加到 forget gate 输入。建议将两份 README 的默认值改为 0.0,与接口定义保持一致。 ## 验证 - Proto 公共接口缺省值可由注册宏语义确认是 0.0;README 声称的 1.0 与 Proto 及 Host 实现证据冲突。未运行 NPU 测试。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6800 See merge request: cann/ops-nn!12167 | 29 days ago | |
feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !12618 merge feat/resp-ops-ascend960pr-completion into master feat: rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 rms_norm_dynamic_mx_quant 补齐 ascend960pr 注册与配置(与既有 ascend960dt 注册对齐),responsibility-ops 960pr 补齐系列之一。 改动面(4 文件,2 提交): - def.cpp:AddConfig("ascend960pr", aicoreConfig950) 紧随 960dt - config/ascend960pr/binary.json:与 960dt 逐字节一致 - ascendc_config.json:RmsNormDynamicMxQuant 条目 compute_units 补 ascend960pr、compile_options 增 960pr 键(--cce-no-dcache-flush,与 960dt 同值) 其余注册面 master 已就绪:op_host/CMakeLists 白名单已含 960dt/960pr(2f40bce01);op_kernel 为 arch35 目录形态,无独立 COMPUTE_UNITS 面;kernel 门禁(含 norm_common)全部已含 __NPU_ARCH__ == 9201 || 9202;tiling 为构造式平台访问,无 PlatformAscendCManager 依赖。 - fix(common):tiling_util.h IsRegbaseNpuArch 集合补 DAV_9202——960pr 下 regbase tiling 路由失效修复(master 上 aclnn 层已含 9202,tiling 层缺失) 背景:ascend960dt=dav_9201 / ascend960pr=dav_9202 同族变体,纯注册/配置使能,无 kernel 计算逻辑改动。 ## 关联的Issue #7243(本 PR 为系列首批,其余算子后续分批提 PR) ## 测试 - 注册面终审核对:def dt/pr 紧随配对、config pr≡dt、ascendc_config cu/co 对称 - 960 编译验证依赖黄区 CI ## 文档更新 无需(纯注册配置,无 API 行为变化) ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12618 | 29 days ago | |
Revert "fix: hash trailing bytes after processed blocks" Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !12571 merge master into master Revert "fix: hash trailing bytes after processed blocks" Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 定界结论: 代码问题 / LLT编译失败 — common/tests/ut/op_host/test_common_hash_tiling.cpp / test_murmur_hash_tiling.cpp(基线分支引入, 非本 PR 变更) 失败类型: 代码问题 / LLT编译失败(UT 任务链接错误) 根因: 基线分支已合入的哈希 tiling UT 测试(common/tests/ut/op_host/test_common_hash_tiling.cpp、test_murmur_hash_tiling.cpp)引用 RuntimeKb::CommonHash 与 Ops::NN::HostTiling::MurmurHash, ascend910b 版本的 UT 链接闭包缺少这两个符号的实现, 导致 nn_op_host_ut 链接失败; 同一 UT 在 ascend950 版本链接成功且用例全部通过 与本 PR 的关系: 本 PR 的 21 个变更文件全部位于 norm/in_training_update_grad/(新增 ascend350 支持), 均不含失败文件; 近 30 小时内另有 6 个不同 PR 的 run 挂同一 Job(抽验错误完全一致)→ 失败为基线(master)已合入代码的缺陷, 非本 PR 引入 处置建议: ① 本 PR 无需修改代码; 通知基线哈希 tiling 测试/实现的相关提交者或仓库维护者, 为 ascend910b 补齐这两个符号的实现(或按版本裁剪/条件编译该测试); ② 基线修复后重新触发流水线即可完成验证 排除项: 非环境问题——同 run 内 29 个 compile Job、其余 3 个 ut Job(不同版本/目标)全部通过, 且同一错误在其他 PR 上确定性复现(非瞬时网络/设备/Runner 故障); 非本 PR 引入——失败文件不在 PR 变更集, 本 PR 的 CMake 改动(COMPUTE_UNIT ascend950 → ascend950 ascend350)仅作用于 in_training_update_grad 算子自身 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 配套issue 异常回退 https://gitcode.com/cann/ops-nn/issues/7196 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ok ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12571 | 30 days ago | |
fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !10891 merge fix/add-rms-norm-quant-public-entry-validation into master fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: ## 关联 issue fixes #6055 ## 问题 顶层入口 cann_ops_nn.add_rms_norm_dynamic_quant(文档单算子示例路径)解析为 dispatcher OpOverloadPacket,标量参数在进入算子代码前被 schema 静默归一化(torch.int4 -> 40、torch.uint7 -> 36、np.int64(36) -> 36 等)。torch.uint6/uint7/int4/int5 四个 dtype 的序号恰好完整覆盖合法 dst_type 值域 {35,36,40,41},导致传入非 int 类型完全不报错、静默按"碰巧"的量化类型执行,与约束说明承诺的入口 TypeError 不符。详见 #6055。 ## 修改内容 1. torch_extension/cann_ops_nn/ops/norm/add_rms_norm_dynamic_quant/add_rms_norm_dynamic_quant.py 拆分 PrivateUse1 kernel(原逻辑逐字保留)与公开入口 add_rms_norm_dynamic_quant:先 _validate_arg_types 校验**原始**参数,再委托 torch.ops.cann_ops_nn.add_rms_norm_dynamic_quant 分发;公开入口携带 _cann_ops_nn_public_entry_ 标记。 2. torch_extension/cann_ops_nn/__init__.py __getattr__ 优先导出带标记的公开入口(而非 dispatcher 句柄);未携带标记的算子保持原行为——opt-in 机制,对其余算子零影响。 3. norm/add_rms_norm_dynamic_mx_quant/tests/ut/torch_extension/test_torch_extension_param_validation.py 入口结构锁定用例更新为断言"公开入口 + 与 raw 入口同一函数对象"(标量拦截覆盖经同一性断言传递至既有用例);删除与 test_scalar_type_interception 完全重复(同函数×同 7 个坏值×同断言)的参数化用例。 4. norm/add_rms_norm_dynamic_mx_quant/docs/torchapi_add_rms_norm_dynamic_quant.md 约束说明修正严格校验适用入口(补充顶层入口;dispatcher 归一化说明限定为直接经 torch.ops 调用场景);两个调用示例改为打印 shape/dtype,避免大 shape 输出刷屏。 ## 为什么委托 torch.ops 而非直调 C++ 模块 保证图模式行为不变:torch.compile 下 Dynamo 将公开入口内联后,torch.ops 调用仍作为 FX 图节点(实测 node.target 与修复前同为 OpOverloadPacket、逐节点一致),graph_convert 注册的 torchair GE 转换不受影响;若直调 C++ 模块则会在 builder.load() 处 graph break,图模式静默退化为 eager(mxscale dtype 等文档承诺行为改变)。 ## 验证(Ascend 950PR 实测) - 参数校验 UT:**42 passed**(meta/CPU,设备无关) - NPU UT test_torch_extension.py:**113 passed** - 文档 eager 示例路径实测:torch.int4/uint6/uint7/int5、torch.float8_e5m2/e4m3fn、np.int64/np.int32、36.0、"36"、True 全部抛指名 TypeError(如 dst_type must be a Python int (35=FP8_E5M2, 36=FP8_E4M3FN, 40=FP4_E2M1, 41=FP4_E1M2), but got torch.dtype: torch.int4);dst_type=36 正常输出 float8_e4m3fn (4,64),示例新打印语句输出与返回值说明表一致 - 图模式:FX 图与修复前逐节点一致;graph(trace) 与 eager 数值 torch.equal 为 True;torch.compile 下传 torch.int4 在 trace 阶段即 TypeError - pre-commit run(ruff check / ruff format / codespell / OAT 等)全部通过,零自动改动 ## 兼容性 - eager 合法调用(Python 原生 int/str/bool/float、IntEnum)行为不变 - torch.ops.cann_ops_nn.* 直调路径行为不变(框架归一化 + 值域兜底,文档已说明) - 其余算子顶层入口解析行为不变(仅带标记的公开入口生效) See merge request: cann/ops-nn!10891 | 2 months ago | |
支持dvlite(ascend350):新增10个算子binary配置并扩展14个算子compute unit支持 Co-authored-by: yangjinwen<yangjinwen2@huawei.com> # message auto-generated for no-merge-commit merge: !12498 merge dev-dvlite into master 支持dvlite(ascend350):新增10个算子binary配置并扩展14个算子compute unit支持 Created-by: yangjinwen Commit-by: yangjinwen Merged-by: cann-robot Description: ## 变更说明 本 PR 为 dvlite(Ascend350)芯片提供算子适配支持,基于已有 ascend950(arch35)tiling 架构扩展 ascend350 计算单元,不改变 ascend910b/ascend910_93/ascend950 等既有平台行为。 ### 1. 新增 10 个算子的 binary 配置文件(共 14 份) | 算子 | 配置文件 | |------|----------| | ForeachMaximumScalarList | foreach/foreach_maximum_scalar_list/op_host/config/ascend350/foreach_maximum_scalar_list_binary.json | | ForeachPowScalar | foreach/foreach_pow_scalar/op_host/config/ascend350/foreach_pow_scalar_binary.json | | ForeachPowScalarAndTensor | foreach/foreach_pow_scalar_and_tensor/op_host/config/ascend350/foreach_pow_scalar_and_tensor_binary.json | | ForeachSinh | foreach/foreach_sinh/op_host/config/ascend350/foreach_sinh_binary.json | | SoftmaxFocalLoss | loss/softmax_focal_loss/op_host/config/ascend350/softmax_focal_loss_binary.json | | GnTrainingReduce | norm/gn_training_reduce/op_host/config/ascend350/gn_training_reduce_binary.json | | MultiAddRmsNormDynamicQuant | norm/multi_add_rms_norm_dynamic_quant/op_host/config/ascend350/multi_add_rms_norm_dynamic_quant_binary.json | | SingleLayerLstm | rnn/single_layer_lstm/op_host/config/ascend350/single_layer_lstm_binary.json | | ScaledMaskedSoftmaxV2 | vfusion/scaled_masked_softmax_v2/op_host/config/{ascend350,ascend960dt,ascend960pr}/scaled_masked_softmax_v2_binary.json(3 份) | | ScaledMaskedSoftmaxGradV2 | vfusion/scaled_masked_softmax_grad_v2/op_host/config/{ascend350,ascend960dt,ascend960pr}/scaled_masked_softmax_grad_v2_binary.json(3 份) | ### 2. CMakeLists / op_host 注册扩展计算单元 上述算子及 ScatterMax、ScatterMaxWithArgmax、LambUpdateWithLr、FusedMulApplyMomentumExtern 共 14 个算子,通过 SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR/COMPUTE_UNITS(CMakeLists)与 AICore().AddConfig(...)(def.cpp)注册: - 12 个算子注册 ascend350,tiling 复用 ascend950 的 arch35 目录; - ScaledMaskedSoftmaxV2、ScaledMaskedSoftmaxGradV2 各注册 ascend350、ascend960dt、ascend960pr 三个计算单元; - 公共模块 scatter_reduce_common(index/scatter_reduce_common)注册 ascend350(tiling 复用 arch35),供 ScatterMax/ScatterDiv/ScatterMin/ScatterMul 等 scatter 系列算子复用。 ### 3. op_api / infershape 适配 - aclnn_foreach_sinh:dtype 支持列表增加 SocVersion::ASCEND350 - single_layer_lstm:SoC 校验由仅 ascend950 扩展至 ascend950/ascend350 - softmax_focal_loss、multi_add_rms_norm_dynamic_quant:infershape 平台分支覆盖 short_soc_version == "Ascend350" ## 影响范围 53 files changed, +2712/-65。仅新增 ascend350(及 ScaledMaskedSoftmaxV2/ScaledMaskedSoftmaxGradV2 的 ascend960dt/ascend960pr)计算单元支持,既有平台行为不变。 关联的Issue:#7144 See merge request: cann/ops-nn!12498 | 29 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
docs: 修复注释与文档不一致(build脚本默认参数说明) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12379 merge docs/comment-cleanup-20261019-03 into master docs: 修复注释与文档不一致(build脚本默认参数说明) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正 build.sh 帮助信息与 docs/zh/install/build.md 中与实际实现不一致的默认参数说明: - -j[n]:默认值由「8」更正为「CPU 核心数」。build.sh 中 THREAD_NUM=$(grep -c ^processor /proc/cpuinfo),未显式传入 -j 时按 CPU 核心数编译。 - --vendor_name:默认值由「customize-nn」更正为「custom」。build.sh 在 run_example 场景下当 VENDOR_NAME 为空时设置为 custom。 涉及文件:build.sh(7 处 -j[n] 文案、1 处 --vendor_name 文案)、docs/zh/install/build.md(参数表 1 处)。 ## 关联的Issue - #6950 ## 测试 仅修改帮助文案与文档,不涉及代码逻辑变更;已核对 build.sh 中 THREAD_NUM 与 VENDOR_NAME 的实际默认值。 ## 文档更新 - docs/zh/install/build.md:更新 -j${n} 默认值说明为 CPU 核心数 - build.sh:更新 usage 中 -j[n]、--vendor_name 的默认值说明 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12379 | 1 month ago | |
Ascend960-matmul系列算子与Ascend950平台归一 Co-authored-by: yijiliang<yijiliang1@huawei.com> # message auto-generated for no-merge-commit merge: !12293 merge merge-test1 into master Ascend960-matmul系列算子与Ascend950平台归一 Created-by: yijiliang Commit-by: yijiliang Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 为支持 Ascend960平台,将 MatMulV3系列算子与 3510 归一为单代码线,复用 arch35 既有 tiling 与 kernel 框架。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6802 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地验证950及960测试用例无问题 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 无 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12293 | 1 month ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
upgrade version 9.2.0 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !9513 merge master into master upgrade version 9.2.0 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 upgrade version 9.2.0 ## 关联的Issue [#5362](https://gitcode.com/cann/ops-nn/issues/5362) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述: 版本更新 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9513 | 2 months ago |
🔥Latest News
- [2026/05] 优化kernel编译配置项,减少simplified_key和ascendc_config配置文件(!3330)。
- [2026/05] 引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和简化指令参数(!5036)。
- [2026/05] 发布生态算子的精度验收标准(!4572)。
- [2026/03] 开源算子支持下一代芯片:Ascend950PR(!450)。
- [2026/03] 新增<<<>>>的算子开发样例(!620)。
- [2026/03] 低bit类算子和融合算子支持更多数据类型:fp8/mxfp8/hifp8/mxfp4等,并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式:全量化融合算子:quant_batch_matmul_v4,伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现:[MapIndex](#660),[ScatterSub](#710)。
- [2026/01] 新增QuickStart,指导新手零基础入门算子项目部署(支持Docker环境)、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90,可以通过NPU Simulator仿真工具开发调试;优化指南类文档,聚焦算子开发指南,明确最小交付件和关键示例代码,针对Ascend/samples仓算子提供迁移本项目的指导;新支持稀疏4:2量化matmul算子,针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录,完善贡献指南,支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线,开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN(Compute Architecture for Neural Networks)算子库中提供神经网络计算能力的高阶算子库,包括matmul类、activation类等算子,算子库架构图如下:

📌版本配套
本项目源码会跟随CANN软件版本发布,关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意,为确保您的源码定制开发顺利进行,请选择配套的CANN版本与Gitcode标签源码,使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提,请先完成NPU驱动、CANN包安装等,确保环境正常。
⬇️源码下载
环境准备好后,下载与CANN版本配套的分支源码,通用命令如下,${tag_version}替换为分支标签名。以9.0.0分支源码下载为例:
# 通用命令:git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明:若环境中已存在配套分支源码,可跳过本步骤,例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS:本项目功能和文档正在持续更新和完善中,欢迎您关注最新版本。