本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
fix(ci): A5 冒烟镜像改用 image-conf 的 PreSmoke_A5 输出 Co-authored-by: he_kan<hekan4@huawei.com> # message auto-generated for no-merge-commit merge: !14630 merge feat/sync-master-20261116 into master fix(ci): A5 冒烟镜像改用 image-conf 的 PreSmoke_A5 输出 Created-by: he_kan Commit-by: he_kan Merged-by: cann-robot Description: ## 描述 A5 冒烟任务此前在 st_test_action.yml 中硬编码镜像 tag ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1001,镜像升级需要修改工作流。本 PR 改为使用 revise-img action 依据 image-conf/master/images.yaml 解析出的 PreSmoke_A5 输出(当前配置为 ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1007),与 ops-math 仓已适配的写法保持一致。后续 A5 镜像 tag 由 CI 镜像配置统一管理,无需再改工作流。 ## 关联的Issue 不涉及 ## 测试 CI 镜像配置侧已包含 ops-nn 的 PreSmoke_A5 输出。合入后需观察 PreSmoke_A5 job 的容器镜像是否为 swr.cn-north-4.myhuaweicloud.com/pre_smoke/ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1007。 ## 文档更新 不涉及 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:CI 镜像配置适配 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14630 | 3 days ago | |
fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !14222 merge fix/examples-quality-20261111 into master fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: 【MR来源】 CannbotHarness 扫描出的 examples 质量问题:样例调用 aclnn/GE 接口后不校验返回值、dump 写入失败不影响退出码、宏用字面量做指针偏移、数据生成与 dtype 宽度不匹配等。 【改动范围】 activation/、norm/、index/ 下 **20 个算子** 的 examples 与配套文档,共 **42 个文件**(20 个 .cpp、22 个 .md)。主要改动: 1. ADD_INPUT / ADD_CONST_INPUT 宏里 "placeholder" + inputIndex 是地址偏移而非字符串拼接,改为 std::to_string 拼接,并按序号设置 set_attr_index:**23 处宏定义、47 处调用点**。 2. aclCreate* 判空吞错:CHECK_RET 里的 ret 通常是上一步结果,创建失败也返回 ACL_SUCCESS;改为打印错误并 return ACL_ERROR_FAILURE,共 **5 处**。 3. WriteDataToFile 补 inputData 判空与 fopen / fwrite / fclose 失败判断;dump 失败通过局部 dumpOk 或 SaveInputOutput 返回值传回 main,**退出码不再恒为 0**。 4. 数据生成与 dtype 宽度不匹配:GenOnesData 按字节数算 data_len 却按 int32_t 分配和写入,改为按样例固定 dtype 分配与写值(float / BF16 取 float 高 16 位,BF16 转换改用 memcpy_s),分配后补判空。 5. 量化样例输出打印:AddLayerNormQuant、AddRmsNormDynamicQuantV2 的输出混有 BF16 / INT8 / FLOAT,原来统一按 float 读取会误解码并越过有效字节范围(实测打印出 3.396e38 与 -nan),改为按 **输出 dtype 分支解码**(DT_FLOAT / DT_INT8 / DT_BF16)后打印。 6. GroupNormV2 样例:恒定输入配 eps=0 属零方差退化(实测 y 全 NaN、rstd 全 Inf),eps 改为 **1e-5**,普通运行即得有限结果。 7. 其它:删除 argv[1] 越界打印、补 new Session 成功路径 delete session、README 调用说明表头改为「样例代码」并同步中英文、补 norm/batch_norm_grad 原先缺失的中英文 README。 【修改验证】 - 20 个 .cpp 逐个 g++ -fsyntax-only(CANN 头路径):**20/20 rc=0** - clang-format 对改动 .cpp 检查:**0 fail** - CI 流水线(compile 触发):CodeCheck、多平台编译、UT、PreSmoke **全部通过** 【边界说明】 只改上述算子的 examples 样例与其配套中英文文档;不涉及算子 kernel、tiling、proto 等生产实现,不改 build.sh、CMakeLists.txt 等公共构建件。 See merge request: cann/ops-nn!14222 | 3 days ago | |
fix(cmake): 移除 cust_proto acl_rt 链接项的 -Wl as-needed 包裹,修复样例执行崩溃 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !14688 merge fix/changwei_xukaiwei-75 into master fix(cmake): 移除 cust_proto acl_rt 链接项的 -Wl as-needed 包裹,修复样例执行崩溃 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: Fixes #9017 ## 根因 #13838 给 cust_proto 的 INTERFACE 链接项引入 acl_rt 时使用了 -Wl,--no-as-needed acl_rt -Wl,--as-needed 包裹。打包器在 es_math/es_nn/eager_style/c_sec 尾部自有 no-as-needed 包裹区,中插的 -Wl,--as-needed 提前闭合该区,把 es_math/es_nn 剔出 proto 库(libcust_opsproto_rt2.0.so)的 DT_NEEDED → 运行期 es 库与 vendor proto .so init 顺序反转、ES 注册态损坏 → GE 图编译 LayerNormONNXFusionPass::Patterns() 空指针 SIGSEGV(graph 样例 exit=1)。 证据链:单变量对照实验(基线/13838 态/候选修复态)+ gdb 栈 + readelf DT_NEEDED 逐态对照 + LD_DEBUG=libs 双态 init 顺序实证。 ## 修复 单文件 cmake/symbol.cmake:gen_cust_proto_symbol() 的 cust_proto INTERFACE 链接项删除 -Wl,--no-as-needed / -Wl,--as-needed 两行,保留裸 acl_rt: - es_math/es_nn 回归 proto 库 DT_NEEDED,样例执行恢复; - proto .so 对 acl_rt 的依赖声明保留——#8319 的安装校验修复保持、不回归(修复后 NEEDED = pre-13838 全集 ∪ {libacl_rt.so})。 ## 决策与权衡 - 纯回退(去掉 acl_rt)→ #8319 安装校验问题复发,不可取; - INTERFACE→PRIVATE → 实测无效:打包器对 OBJECT 库 PRIVATE 同样并入最终链接行,产物不变; - 源码层消除 acl_rt 符号引用 → 需改动 opbase/fusion 共享代码,影响半径过大; - 故采用最小改动:删两行 -Wl 保裸 acl_rt——同时保住 #8319 修复与样例恢复; - 红线:给 cust_proto 加链接项时禁止携带 -Wl,--as-needed/-Wl,--no-as-needed 对(打包器尾部 no-as-needed 包裹区机制)。 ## 验证 - graph 样例(inplace_apply_ada_max,ascend950):FAIL→PASS,exit=0,1/1 passed; - #8319 安装校验面:修复后 .run 免 --force 安装 SUCCESS、零 undefined symbol(保持修复); - proto 库 DT_NEEDED 全量 diff:4 制品 × 2 态唯一差异 = proto so +libacl_rt.so,es_math/es_nn 两态均在; - 存量 UT 39/39 全过,覆盖率零倒退; - 全量回归对账:FAIL→PASS 5 / PASS→FAIL 0 / PASS→PASS 39 / 新增看护 5; - 公共面抽验:另一 es 族算子(SparseApplyProximalAdagrad)独立构建→安装→graph 样例执行不破。 ## 环境 CANN 9.3.0 / ascend950 / Linux x86_64 See merge request: cann/ops-nn!14688 | 4 days ago | |
[feature]RadixTopK输出排序使用SortWithIndex替换sort+gather Co-authored-by: zzzsss1234<zhanglei802@h-partners.com> # message auto-generated for no-merge-commit merge: !14533 merge master into master [feature]RadixTopK输出排序使用SortWithIndex替换sort+gather Created-by: zzzsss1234 Commit-by: zzzsss1234 Merged-by: cann-robot Description: ## 描述 当前sort+gather在长序列场景下性能较差,使用SortWithIndex算子替换 需要保证nn仓在旧的math仓没有SortWithIndex的时候功能正常,这里旧 math 没有IsSortWithIndexA2A3Supported这个函数,新版 NN 中将它声明为弱符号,因此旧 math 不导出它时,NN 仍能加载,函数地址为 nullptr,此时可以判定math仓是旧代码,从而走旧的路径 ## 关联的Issue https://gitcode.com/cann/ops-math/issues/4809 ## 测试 通过公共接口执行 aclnnTopkGetWorkspaceSize → 获取 executor、申请 workspace → aclnnTopk → stream 同步 → 取回结果校验 实机环境为 A2 910B4、CANN 9.3.0。FP16、BF16 各测试一组: shape=[1,12000000], K=4096 dim=-1, largest=true, sorted=true 用 msprof 确认实际调用链 两种类型的原始记录均出现: aclnnTopk_RadixTopK_RadixTopK aclnnTopk_SortWithIndex_SortWithIndex aclnnTopk_CastAiCore_Cast 实测版本不匹配msprof采集结果:  版本匹配采集结果:  ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14533 | 4 days ago | |
fix: 加固npu_clear_float_status与sigmoid_cross_entropy_with_logits_grad两个长尾算子 Co-authored-by: klein8793<zhangli24@huawei.com> # message auto-generated for no-merge-commit merge: !14069 merge dev_zl_2026_1106 into master fix: 加固npu_clear_float_status与sigmoid_cross_entropy_with_logits_grad两个长尾算子 Created-by: klein8793 Commit-by: klein8793 Merged-by: cann-robot Description: ## 描述 对两个长尾算子进行加固,修复潜在缺陷并提升健壮性: **npu_clear_float_status** - 将 VEC_DUP_SIZE/VEC_DUP_SIZE_BYTES 常量从 op_kernel/arch35/npu_clear_float_status_simt.h 迁移到 op_kernel/arch35/npu_clear_float_status_tiling_data.h,Host Tiling 与 Kernel 引用同一常量(单一来源),避免两侧各自维护独立常量导致不一致;tiling_arch35.cpp 中的 TBUF_REQUIRED_SIZE 改为引用 VEC_DUP_SIZE_BYTES,并同步更新 static_assert。 - 测试 golden.py 由 TensorFlow 实现切换为 Torch 实现。 **sigmoid_cross_entropy_with_logits_grad** - 样例 test_geir_sigmoid_cross_entropy_with_logits_grad.cpp:GenData 改用 std::vector<std::vector<float>> 管理输入缓冲,消除 new[] 未释放的内存泄漏;AddGraph 增加失败检查;补齐 GEFinalize 成功路径与失败路径的 delete session。 - sigmoid_cross_entropy_with_logits_grad_arch35_tiling.cpp:totalElements 累乘增加负维度检查与 int64 溢出检查。 - sigmoid_cross_entropy_with_logits_grad_proto.h:dout 的 shape 约束由"满足广播关系"修正为"元素总数与 predict 相同,不支持广播"。 - README:参数名 d_out 统一为 dout,与 proto 及代码保持一致。 - 新增 tests/assets/golden.py 精度标杆。 ## 关联的Issue - #8855 ## 测试 冒烟测试已通过,算子L0级测试已通过 ## 文档更新 - 更新 loss/sigmoid_cross_entropy_with_logits_grad/README.md(参数名与 shape 约束说明)。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14069 | 5 days ago | |
【bugfix】修复tiling侧代码逻辑错误,回退depthwise错误应用 Co-authored-by: ray-shaw<shaorui4@huawei.com> # message auto-generated for no-merge-commit merge: !14634 merge master into master 【bugfix】修复tiling侧代码逻辑错误,回退depthwise错误应用 Created-by: ray-shaw Commit-by: ray-shaw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1、tiling跳写修复shape计算问题; 2、depthwise错误apply回退; 3、cleancode修改魔鬼数字。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#8982](https://gitcode.com/cann/ops-nn/issues/8982) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> RDV pass ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14634 | 3 days ago | |
docs(apply_adam_v2): 补充 ACLNN 接口文档和调用示例 Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !14498 merge codex/apply-adam-v2-aclnn-docs into master docs(apply_adam_v2): 补充 ACLNN 接口文档和调用示例 Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: ## 描述 为已启用的 ApplyAdamV2 ACLNN 接口补齐文档,承接已合入的 #14078。 - 新增 optim/apply_adam_v2/docs/aclnnApplyAdamV2.md,说明两段式接口、参数顺序、varRef/mRef/vRef 原地更新、可选输入默认行为、产品支持、计算公式和使用约束。 - 新增 test_aclnn_apply_adam_v2.cpp,给出完整的资源申请、接口调用、同步、结果读取及释放流程。 - 在算子 README、ACLNN 目录和接口列表中增加入口。 - 按当前源码注册范围说明 Ascend 950PR&950DT系列产品的接口支持,明确本表仅适用于本仓提供的 aclnnApplyAdamV2,其他调用方式参见算子说明。 ## 关联的Issue 关联 [#6540](https://gitcode.com/cann/ops-nn/issues/6540):[apply_adam_v2] 算子质量加固问题修复记录。 本PR补齐已合入PR #14078 的ACLNN接口文档和调用示例。 ## 测试 - 已更新到主线 67d7bc3c8642381e490641783d33a6edc3628caa。 - 两个函数原型与自动生成的 aclnn_apply_adam_v2.h 逐参数核对一致。 - 按[文档写作规范](https://gitcode.com/cann/community/blob/8275ac2211d2e91d0032bca240e38f70692f9ae1/contributor/docs/document_writing_specs.md)核对产品命名、过滤标签、标题、表格、术语、LaTeX公式、编码及目录入口;13处新增仓内链接和锚点检查通过。 - 内嵌C++示例与独立样例一致,两份源码均使用CANN 9.2公共头文件和此前构建的生成接口库,以 g++ -std=c++11 -Wall -Wextra -Werror 编译、链接通过。 - 对原有5个文件及补充的英文README执行pre-commit,通过适用检查,包括 clang-format、codespell、OAT、空白及冲突标记检查;git diff --check 通过。 - 使用 cann/.gitcode/actions/check-pr/dist/check_md_files.py 和配套白名单验证:旧提交复现缺少1个配对文件;本次修复后5个Markdown文件全部通过。中英文README的9组块级公式一致。 - 本次未执行样例的设备运行,未将既有设备测试记录作为本次样例运行结果。 ## 文档更新 - 新增 ACLNN API 文档和完整 C++ 调用样例。 - 更新算子 README、docs/zh/menu_aclnn_api.md、docs/zh/op_api_list.md。 - 规范产品名称与术语,补充README中的标量 [] shape,说明梯度裁剪开关与可选步长,移除无法承诺的长期精度保证。 - 同步 optim/apply_adam_v2/README_en.md,覆盖本PR的接口入口、支持范围、公式和约束修改,修复流水线run#19770的双语配对检查失败。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14498 | 3 days ago | |
fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Co-authored-by: HuangRZzzz<1106918531@qq.com> # message auto-generated for no-merge-commit merge: !13839 merge fix/example-opkernel-ut-soc into master fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Created-by: HuangRZzzz Commit-by: HuangRZzzz Merged-by: cann-robot Description: ## 描述 修复 bash build.sh -u --opkernel --ops=add_example 无任何 UT 用例运行的问题(#8321): 1. cmake/func.cmake:add_category_subdirectory() 中 examples 在算子循环外通过 add_subdirectory(examples) 加载时,宏作用域内 OP_DIR/OP_NAME 仍残留循环最后一次的算子目录,导致 examples 下 AddOpTestCase 误用该目录、在 --ops 过滤时提前 return(),用例注册被静默跳过(所有 SOC 均受影响)。在 add_subdirectory(examples) 前 unset(OP_DIR)/unset(OP_NAME)。 2. examples/add_example/tests/ut/op_kernel/CMakeLists.txt:注册补齐 Ascend910_9391(A3,注意 tikicpulib 目标名大小写)与 ascend950pr_9599(950),与 add_example_def.cpp 的 AddConfig、README 声明的 A2/A3/950 支持范围一致。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8321 ## 测试 - 修复前:bash build.sh -u --opkernel --ops=add_example --soc=ascend910_93 -j40 → fastOpTestSocVersions 为空、无 UT 可执行文件、无用例执行(CANN 9.2.0 / aarch64 / master b5949092)。 - 修复后(同一环境): - --soc=ascend910_93 → fastOpTestSocVersions=Ascend910_9391,[ PASSED ] 1 test; - --soc=ascend910b → ascend910B1,PASS; - --soc=ascend950 → ascend950pr_9599,PASS。 - kernel UT 为 CPU 仿真(tikicpulib),无需 NPU。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13839 | 12 days ago | |
docs: make CANN setup paths configurable in loss examples Co-authored-by: 梁晋轩<19303092837@163.com> # message auto-generated for no-merge-commit merge: !14484 merge docs-loss-cann-paths into master docs: make CANN setup paths configurable in loss examples Created-by: liangjinxuan-2026 Commit-by: 梁晋轩 Merged-by: cann-robot Description: Let readers set CANN_HOME before sourcing set_env.sh in five experimental loss guides. Keep the existing 9.0.0 example and run the hinge_loss eager commands from the repository root. Checked the commands against build.sh and ran git diff --check. Fixes #8843 See merge request: cann/ops-nn!14484 | 3 days ago | |
fix(foreach): #8272资料补256披露、#8677/#8679/#8680/#8681四个ScalarList转手写支持非连续输出 Co-authored-by: Tian_1122<tianjunhan@h-partners.com> # message auto-generated for no-merge-commit merge: !14412 merge fix/foreach-issue-batch-20261113 into master fix(foreach): #8272资料补256披露、#8677/#8679/#8680/#8681四个ScalarList转手写支持非连续输出 Created-by: Tian_1122 Commit-by: Tian_1122 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 一、#8677/#8679/#8680/#8681 Add/Sub/Minimum/PowScalarList 出参非连续只写一半(静默错值) - 按 35e6673de(ForeachMulScalarList/ForeachDivScalarList 同族已合入配方)将 4 个自动生成算子改为手写 op_api:新增 aclnn_foreach_<op>.cpp/h + l0op 桥接(pow 桥接命名 foreach_pow_scalar_list_l0op.* 以避包内与 op_kernel 头重名),op_host CMakeLists 由 aclnn 改 aclnn_exclude,统一接入 ForeachMakeContiguousTensorList + ForeachViewCopyToOutputTensorList(非连续 out 先算到连续 buffer 再按 stride 回写,非连续输入同样处理) - 与上游 7dde530ea(minimum arch35 tiling 加固)互补:其 arch35 契约校验、README、测试资产全部保留且继续有效(手写层传入连续化后的张量,校验照常通过);本 PR 补齐其未覆盖的 arch22 静默错值修复(910B + CANN 9.2.1/9.3.0 实测,auto 路径非连续 out 仍只写一半)。同族 Div/Mul(35e6673de)已合入支持方案,MinimumScalarList 统一后家族口径一致,不独树 × - 公共头按同族先例(aclnn_foreach_maximum_scalar_list.h)补齐 doxygen 参数资料说明 - 出参校验(含响应检视意见的补齐): - scalars 元素个数等于 x Tensor 个数(原 auto 数量失配 561002 拒绝,现前置 161002) - out 的 Tensor 个数大于等于 x(EZ0038,与同族五接口口径一致) - outi shape size 大于等于 xi(EZ0015,按资料"shape size 大于等于x”口径;同元素数异 shape 放行) - INT32 张量配 INT64 标量、浮点张量配 FLOAT/DOUBLE 标量(DOUBLE 内部转 FLOAT32,同 ForeachMaximumScalarList 既有口径) - 资料 zh:out 行非连续标注 ×→√(实现已真正支持)、scalars dtype 列与措辞对齐、错误码表补 out个数/scalars个数子项(minimum 系以上游 7dde530ea 新版资料为基合并,其中 scalars 个数行由 561002 移至 161002——host 前置校验后 tiling 分支不可达,属纠错)、约束说明补条目(英文资料由翻译团队后续统一提交) - UT 新增 4×12 例(非连续 in/out、dtype 配对、数量失配、空列表拒绝、out>x、out<x、out更小shape、同元素异shape放行) - 其余涉事接口(#8736/#8737/#8740/#8746)经真机盘点 master 已修复,本 PR 复验通过 二、#7936 互补补充(实现与中文资料已由上游 !14276 修复) - 补齐上游 UT 未覆盖的 AddScalarV2 与 AddcdivScalarList 的 out>x 成功用例 三、范围说明 - #8272(Tan 256 披露)已由上游 74678f445 处理(我方复现脚本复验通过),本 PR 不再涉及 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> #8677 (https://gitcode.com/cann/ops-nn/issues/8677) #8679 (https://gitcode.com/cann/ops-nn/issues/8679) #8680 (https://gitcode.com/cann/ops-nn/issues/8680) #8681 (https://gitcode.com/cann/ops-nn/issues/8681) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 真机 910B3(Atlas A2),基于本分支 13 算子全量自建包与 CANN 9.2.1 环境: - 4 个转换接口 × 7 种构造(基线 / out0 非连续 / out1 非连续 / 双 out 非连续 / 输入非连续 / 输入+输出非连续 / 全非连续),与手算期望值逐元素断言 28/28 全绿、哨兵零残留 - 9 个涉事接口 × out0/out1 两位置 × stride 倍数 K=2/3 共 36 例逐元素一致(对照:CANN 9.2.1/9.3.0 下 auto 路径 minimum 等仍只写一半,修复前后行为可复现对比) - 检视场景实测:out 块数<x、outi 元素数<xi 均前置 161002;同元素数异 shape({2,4} vs {8})放行,符合资料"shape size 大于等于"口径 - scalars 配对实测:FLOAT+DOUBLE / INT32+INT64 数值正确,混配 161002 拒绝 - #7936 契约回归(上游 !14276 实现):六接口 out=2 放行、out=0 拒 161002 - UT:bash build.sh --opapi -u --soc=ascend910b --ut_mode=fast(13 算子合并)127/127 PASS,含本 PR 新增 4×12 例与 2 例 #7936 互补用例 - 提交前 pre-commit(clang-format、codespell、OAT 合规等)全部通过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> #8677/#8679/#8680/#8681(4 个文件):out 行非连续 Tensor 标注 ×→√(实现已真正支持)、scalars dtype 列(FLOAT32、DOUBLE、INT64)与措辞对齐、错误码表补 out个数/scalars个数子项、约束说明补条目 - foreach/foreach_add_scalar_list/docs/aclnnForeachAddScalarList.md - foreach/foreach_sub_scalar_list/docs/aclnnForeachSubScalarList.md - foreach/foreach_minimum_scalar_list/docs/aclnnForeachMinimumScalarList.md(以上游 7dde530ea 新版为基合并,保留其分产品 rank/256 行) - foreach/foreach_pow_scalar_list/docs/aclnnForeachPowScalarList.md #7936 互补(1 个文件):与上游 !14276 合并态保留(out 个数约束/错误码子项) - foreach/foreach_addcdiv_scalar_list/docs/aclnnForeachAddcdivScalarList.md 英文(_en.md)资料不在本 PR 范围,由翻译团队后续统一提交 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14412 | 4 days ago | |
docs(embedding_hash_table_export): 修正 counters 输出描述为各导出 key 的计数器值 Co-authored-by: luohui46<luohui46@huawei.com> # message auto-generated for no-merge-commit merge: !14381 merge master into master docs(embedding_hash_table_export): 修正 counters 输出描述为各导出 key 的计数器值 Created-by: luohui46 Commit-by: luohui46 Merged-by: cann-robot Description: ## 描述 修正 hash/embedding_hash_table_export/README.md 参数表中 counters 输出参数的描述。 原说明「导出key数量」易被误解为本次导出的 key 总数;实际上 counters 保存的是每个导出 key 对应的计数器值,与 keys 输出按位置一一对应(例如导出两个 key,counters 可能为 [5, 9],两个数分别对应两个 key,而不是总数量 2)。 依据内核实现 op_kernel/arch35/embedding_hash_table_export.h:在写入每个导出 key 的同一轮循环里,读取该 key 所在桶的 counter 并写入相同的位置索引。 ## 关联的Issue Fixes #7705 ## 测试 仅文档描述修改,无代码变更,无需测试。 ## 文档更新 更新了 hash/embedding_hash_table_export/README.md 中 counters 参数的说明:由「导出key数量」改为「各导出key对应的计数器值,与keys按位置一一对应」。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14381 | 8 days ago | |
fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !14222 merge fix/examples-quality-20261111 into master fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: 【MR来源】 CannbotHarness 扫描出的 examples 质量问题:样例调用 aclnn/GE 接口后不校验返回值、dump 写入失败不影响退出码、宏用字面量做指针偏移、数据生成与 dtype 宽度不匹配等。 【改动范围】 activation/、norm/、index/ 下 **20 个算子** 的 examples 与配套文档,共 **42 个文件**(20 个 .cpp、22 个 .md)。主要改动: 1. ADD_INPUT / ADD_CONST_INPUT 宏里 "placeholder" + inputIndex 是地址偏移而非字符串拼接,改为 std::to_string 拼接,并按序号设置 set_attr_index:**23 处宏定义、47 处调用点**。 2. aclCreate* 判空吞错:CHECK_RET 里的 ret 通常是上一步结果,创建失败也返回 ACL_SUCCESS;改为打印错误并 return ACL_ERROR_FAILURE,共 **5 处**。 3. WriteDataToFile 补 inputData 判空与 fopen / fwrite / fclose 失败判断;dump 失败通过局部 dumpOk 或 SaveInputOutput 返回值传回 main,**退出码不再恒为 0**。 4. 数据生成与 dtype 宽度不匹配:GenOnesData 按字节数算 data_len 却按 int32_t 分配和写入,改为按样例固定 dtype 分配与写值(float / BF16 取 float 高 16 位,BF16 转换改用 memcpy_s),分配后补判空。 5. 量化样例输出打印:AddLayerNormQuant、AddRmsNormDynamicQuantV2 的输出混有 BF16 / INT8 / FLOAT,原来统一按 float 读取会误解码并越过有效字节范围(实测打印出 3.396e38 与 -nan),改为按 **输出 dtype 分支解码**(DT_FLOAT / DT_INT8 / DT_BF16)后打印。 6. GroupNormV2 样例:恒定输入配 eps=0 属零方差退化(实测 y 全 NaN、rstd 全 Inf),eps 改为 **1e-5**,普通运行即得有限结果。 7. 其它:删除 argv[1] 越界打印、补 new Session 成功路径 delete session、README 调用说明表头改为「样例代码」并同步中英文、补 norm/batch_norm_grad 原先缺失的中英文 README。 【修改验证】 - 20 个 .cpp 逐个 g++ -fsyntax-only(CANN 头路径):**20/20 rc=0** - clang-format 对改动 .cpp 检查:**0 fail** - CI 流水线(compile 触发):CodeCheck、多平台编译、UT、PreSmoke **全部通过** 【边界说明】 只改上述算子的 examples 样例与其配套中英文文档;不涉及算子 kernel、tiling、proto 等生产实现,不改 build.sh、CMakeLists.txt 等公共构建件。 See merge request: cann/ops-nn!14222 | 3 days ago | |
ChunkLoss反向融合算子支持 Co-authored-by: 镜心<wangyungfei@h-partners.com> # message auto-generated for no-merge-commit merge: !14125 merge chunk_loss_grad into master ChunkLoss反向融合算子支持 Created-by: mirror-center Commit-by: 镜心 Merged-by: cann-robot Description: ## 描述 新增chunk_loss_grad算子,包含aclnn接口,算子资料,torch适配,kernel实现 ## 关联的Issue 关联Issue [#9027](https://gitcode.com/cann/ops-nn/issues/9027) ## 测试 atk测试脚本见loss/chunk_loss_grad/tests/st/aclnnChunkLossBackward/executor_aclnnChunkLossBackward.py ## 文档更新 更新chunk_loss_grad算子README.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14125 | 4 days ago | |
docs: 修正 TQBMM 混合图调用示例 Co-authored-by: zihan0007<mazihan1@huawei.com> # message auto-generated for no-merge-commit merge: !14695 merge docs/tqbmm-mixed-mx-module-20261117 into master docs: 修正 TQBMM 混合图调用示例 Created-by: zihan0007 Commit-by: zihan0007 Merged-by: cann-robot Description: ## 描述 MXFP8+MXFP4 混合图示例在编译函数中生成随机输入,会触发不支持的 aten.randint.low 转换。改为 MixedMX Module,forward 仅保留两次 TQBMM 调用,输入及 scale 在图外准备。尾部仅保留编译、调用、同步和输出打印。 ## 关联的Issue 关联:https://gitcode.com/cann/ops-nn/issues/8437 ## 测试 950PR_958b,Torch/torch_npu 2.14.0:文档代码逐字提取后实测通过,fullgraph 静态图仅含两个 TQBMM 计算节点。外部脚本验证 graph/eager 完全一致;独立 CPU 参考最大绝对误差:MXFP8 0.00048828125(rtol/atol 0.01),MXFP4 0。git diff --check 及提交 hooks 通过。 ## 文档更新 仅修改 Torch API 文档的 MXFP8+MXFP4 混合示例。 ## 类型标签 - [x] Bug修复 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 ## 合入前补充验证 直接提取本 MR 文档中的全部 7 个 demo,在 950、Torch/torch_npu 2.14 环境逐个执行,均完成设备同步且无运行报错。按执行无报错标准验收;HIFP8 原随机编码示例输出含 NaN/Inf,本次不将其作为执行失败。 See merge request: cann/ops-nn!14695 | 3 days ago | |
fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !14222 merge fix/examples-quality-20261111 into master fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: 【MR来源】 CannbotHarness 扫描出的 examples 质量问题:样例调用 aclnn/GE 接口后不校验返回值、dump 写入失败不影响退出码、宏用字面量做指针偏移、数据生成与 dtype 宽度不匹配等。 【改动范围】 activation/、norm/、index/ 下 **20 个算子** 的 examples 与配套文档,共 **42 个文件**(20 个 .cpp、22 个 .md)。主要改动: 1. ADD_INPUT / ADD_CONST_INPUT 宏里 "placeholder" + inputIndex 是地址偏移而非字符串拼接,改为 std::to_string 拼接,并按序号设置 set_attr_index:**23 处宏定义、47 处调用点**。 2. aclCreate* 判空吞错:CHECK_RET 里的 ret 通常是上一步结果,创建失败也返回 ACL_SUCCESS;改为打印错误并 return ACL_ERROR_FAILURE,共 **5 处**。 3. WriteDataToFile 补 inputData 判空与 fopen / fwrite / fclose 失败判断;dump 失败通过局部 dumpOk 或 SaveInputOutput 返回值传回 main,**退出码不再恒为 0**。 4. 数据生成与 dtype 宽度不匹配:GenOnesData 按字节数算 data_len 却按 int32_t 分配和写入,改为按样例固定 dtype 分配与写值(float / BF16 取 float 高 16 位,BF16 转换改用 memcpy_s),分配后补判空。 5. 量化样例输出打印:AddLayerNormQuant、AddRmsNormDynamicQuantV2 的输出混有 BF16 / INT8 / FLOAT,原来统一按 float 读取会误解码并越过有效字节范围(实测打印出 3.396e38 与 -nan),改为按 **输出 dtype 分支解码**(DT_FLOAT / DT_INT8 / DT_BF16)后打印。 6. GroupNormV2 样例:恒定输入配 eps=0 属零方差退化(实测 y 全 NaN、rstd 全 Inf),eps 改为 **1e-5**,普通运行即得有限结果。 7. 其它:删除 argv[1] 越界打印、补 new Session 成功路径 delete session、README 调用说明表头改为「样例代码」并同步中英文、补 norm/batch_norm_grad 原先缺失的中英文 README。 【修改验证】 - 20 个 .cpp 逐个 g++ -fsyntax-only(CANN 头路径):**20/20 rc=0** - clang-format 对改动 .cpp 检查:**0 fail** - CI 流水线(compile 触发):CodeCheck、多平台编译、UT、PreSmoke **全部通过** 【边界说明】 只改上述算子的 examples 样例与其配套中英文文档;不涉及算子 kernel、tiling、proto 等生产实现,不改 build.sh、CMakeLists.txt 等公共构建件。 See merge request: cann/ops-nn!14222 | 3 days ago | |
docs(apply_adam_v2): 补充 ACLNN 接口文档和调用示例 Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !14498 merge codex/apply-adam-v2-aclnn-docs into master docs(apply_adam_v2): 补充 ACLNN 接口文档和调用示例 Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: ## 描述 为已启用的 ApplyAdamV2 ACLNN 接口补齐文档,承接已合入的 #14078。 - 新增 optim/apply_adam_v2/docs/aclnnApplyAdamV2.md,说明两段式接口、参数顺序、varRef/mRef/vRef 原地更新、可选输入默认行为、产品支持、计算公式和使用约束。 - 新增 test_aclnn_apply_adam_v2.cpp,给出完整的资源申请、接口调用、同步、结果读取及释放流程。 - 在算子 README、ACLNN 目录和接口列表中增加入口。 - 按当前源码注册范围说明 Ascend 950PR&950DT系列产品的接口支持,明确本表仅适用于本仓提供的 aclnnApplyAdamV2,其他调用方式参见算子说明。 ## 关联的Issue 关联 [#6540](https://gitcode.com/cann/ops-nn/issues/6540):[apply_adam_v2] 算子质量加固问题修复记录。 本PR补齐已合入PR #14078 的ACLNN接口文档和调用示例。 ## 测试 - 已更新到主线 67d7bc3c8642381e490641783d33a6edc3628caa。 - 两个函数原型与自动生成的 aclnn_apply_adam_v2.h 逐参数核对一致。 - 按[文档写作规范](https://gitcode.com/cann/community/blob/8275ac2211d2e91d0032bca240e38f70692f9ae1/contributor/docs/document_writing_specs.md)核对产品命名、过滤标签、标题、表格、术语、LaTeX公式、编码及目录入口;13处新增仓内链接和锚点检查通过。 - 内嵌C++示例与独立样例一致,两份源码均使用CANN 9.2公共头文件和此前构建的生成接口库,以 g++ -std=c++11 -Wall -Wextra -Werror 编译、链接通过。 - 对原有5个文件及补充的英文README执行pre-commit,通过适用检查,包括 clang-format、codespell、OAT、空白及冲突标记检查;git diff --check 通过。 - 使用 cann/.gitcode/actions/check-pr/dist/check_md_files.py 和配套白名单验证:旧提交复现缺少1个配对文件;本次修复后5个Markdown文件全部通过。中英文README的9组块级公式一致。 - 本次未执行样例的设备运行,未将既有设备测试记录作为本次样例运行结果。 ## 文档更新 - 新增 ACLNN API 文档和完整 C++ 调用样例。 - 更新算子 README、docs/zh/menu_aclnn_api.md、docs/zh/op_api_list.md。 - 规范产品名称与术语,补充README中的标量 [] shape,说明梯度裁剪开关与可选步长,移除无法承诺的长期精度保证。 - 同步 optim/apply_adam_v2/README_en.md,覆盖本PR的接口入口、支持范围、公式和约束修改,修复流水线run#19770的双语配对检查失败。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14498 | 3 days ago | |
fix(adaptive_avg_pool2d_grad): 支持空 tensor 空入空出 Co-authored-by: w00938615<wangshuo179@huawei.com> # message auto-generated for no-merge-commit merge: !14423 merge fix/adaptive-avg-pool2d-grad-empty-infer-20261113 into master fix(adaptive_avg_pool2d_grad): 支持空 tensor 空入空出 Created-by: qq_52056150 Commit-by: w00938615 Merged-by: cann-robot Description: ## 描述 修复 AdaptiveAvgPool2dGrad 在 GEIR 下的空 tensor 处理。输入: text input_grad = [0, 443, 443] orig_input_shape = [0, 390, 305] 原实现因 orig_input_shape 含 0 在 InferShape 直接报错;现改为空入空出,输出 [0,390,305]。 修改内容: - InferShape:orig_input_shape 为 0 时不再拦截,按正常逻辑输出 orig_input_shape;负数继续拒绝。 - 空 tensor 由 GE 框架在推算出 0 元素输出后自动拦截,不进入 Tiling/Kernel。 - 未修改 Tiling、Kernel、ACLNN 侧。 修改文件: - pooling/adaptive_avg_pool2d_grad/op_host/adaptive_avg_pool2d_grad_infershape.cpp - pooling/adaptive_avg_pool2d_grad/tests/ut/op_host/test_adaptive_avg_pool2d_grad_infershape.cpp 未新增 UT;原 {1,4,0,16} 期望失败用例改为 {1,4,-1,16}。 ## 关联的Issue #8755 https://gitcode.com/cann/ops-nn/issues/8755 ## 测试 - Host UT:508/508 PASS(CANN 9.3.0,ascend950)。 - pre-commit:trailing-whitespace、end-of-file-fixer、clang-format、codespell、OAT 全部通过。 - 未新增 UT;现有 Host UT 全量通过。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14423 | 5 days ago | |
fix(dequant_situ_quant): 修复op_api层codecheck告警(char算术、浮点相等比较) 修复 cleancode 扫描在本算子 aclnn 外层引入的 5 条新增告警: - G.EXP.13(3条):quantTypeOptional 大小写归一化中对 char 做算术运算 (quantTypeStr[i] - 'A' + 'a'),改为 std::transform + std::tolower(unsigned char), 与仓内 loss/pooling 等算子既有写法保持一致;语义等价(ASCII 大小写转换不变, 非 ASCII 字节保持原值); - G.EXP.27(2条):beta 校验使用浮点相等比较(beta == BETA_ZERO),改为 std::fpclassify(beta) == FP_ZERO,精确表达"±0"且不引入 epsilon,判定口径与 tiling 侧 beta == 0.0f 保持一致;同时删除不再使用的 BETA_ZERO 常量, 补充 <algorithm>/<cctype>/<cmath> 头文件。 验证(Ascend 910B3 / CANN 9.2.1): - op_api UT 56/56 通过(beta_zero、quant_type_uppercase_static 用例覆盖本次修改点); - 新增实现文件增量行覆盖率 99.07%(gcov 实测 214/216 行,未覆盖仅第二段执行 接口 2 行,该接口由实机用例覆盖); - clang-format 检查通过。 关联 issue: #8380, #8381 | 3 days ago | |
fix(rnn): 修正 aclnnLstmBackward 在 ascend950 上的入参拦截 Co-authored-by: fanyuwei_math<fanyuwei2@huawei.com> # message auto-generated for no-merge-commit merge: !14229 merge fix/lstm-backward-a5-gate-revert into master fix(rnn): 修正 aclnnLstmBackward 在 ascend950 上的入参拦截 Created-by: fanyuwei_math Commit-by: fanyuwei_math Merged-by: cann-robot Description: ## 描述 aclnnLstmBackwardGetWorkspaceSize 在 ascend950 分支上有一段入参拦截, 拒绝的入参在 A5 上 并不对应任何计算限制。实测后果: LSTM 反向的 200 条泛化验收用例**一条都执行不到**, 全部返回 161002 (ACLNN_ERR_PARAM_INVALID)。本 MR 撤销其中三条 (bidirectional / train / batchSizesOptional), 把 dropout 收窄到它真正生效的情形, 并修掉四处被这些拦截遮住的 "假设 input 三维"的写死下标。 逐条说明: - **bidirectional**: L2 层在主机侧把双向拆成 2N 次**单向**下发 (LstmBackwardMultiLayerBidirec, 建仓即有此结构, dx = Add(dx_fwd, dx_bwd)); arch35 tiling 把 direction 映射为 UNIDIRECTIONAL/REDIRECTIONAL 两值, 内核按 actTIdx = direction == DIRECTION_BACKWARD ? T - t - 1 : t 取时间步。双向在 A5 上是实现了的, 并已在真机上验证 (见"测试")。 - **train**: 在本文件里只出现在函数签名和一行入参日志 (DFX_IN) 中, 任何计算都不读它; 合入前同样不读。让 A5 单独更严属于可移植性问题, 不是多一道保护。 - **dropout**: **保留, 但收窄**为 train == true && numLayers > 1 && dropout != 0 才拒绝。 反向接口没有接收前向丢弃掩码的入参, 对"前向确实施加了 dropout"的调用无法给出正确梯度, 放行 等于静默算错; 而 torch 语义下 dropout 只作用于除最后一层外各层的输出、且只在训练态生效, 所以 train == false 或 numLayers <= 1 时它不参与计算, 不必拒绝。其它 SoC 的 CheckParams 签名里没有 dropout, 这一条仍是 ascend950 专属。 - **batchSizesOptional** (packed): **fp32 + packed 是一条完整可用的通路**: TilingSingleLayerLstmGrad4RegbaseSmall 一见 seq_length 便 handled = false 回落到遗留 tiling; fp32 下 privateReplay 为假, 于是 arch35 入口实例化 RNNGrad<float> (#include "../single_layer_lstm_grad.h"), 该类按 tiling.isSeqLength 逐时间步读 mask。 正向的 packed 也早在 ascend950 分支之前就路由到 LstmDataGetWorkspaceSize, 两端是配套的。 fp16/bf16 + packed 当前会被遗留 tiling 的 privateReplay && isSeqLength 拒绝。这是 0d62fc5b4 引入的**能力回退** (合入前该组合可用: 入口按 DTYPE_X 实例化, tiling 把 isSeqLength 当一等公民), **不在本 MR 范围, 另开处理**。 - **numLayers <= 0**: 不是撤销, 而是**从 ascend950 块里移出**, 改成与 SoC 无关的前置校验, 落在 CheckParams 中任何按 numLayers 索引 list 之前。原先它只在 A5 生效, 而公共路径上 CheckParamsListLength 的 paramsLength = N * numLayers (0 得 0, 负数转 uint64_t 得巨值) 在**非 A5 平台**先于它执行 —— 这个顺序隐患出自 a7af986c6, 本 MR 一并修掉。 (注: PR !14259 也把这条提到了公共路径; 后合入的一方 rebase 时去重即可。) - **input_size >= 0 && hidden_size >= 0**: eager 下张量维度具体且非负, 该检查不可触发。 放行 packed 之后, input 形如 [sum(T_i), D] 是**二维**, 于是本函数内四处"假设 input 三维" 的写死下标第一次变得可达 —— 它们此前正是被 packed 那条拦截遮住的。本 MR 一并修掉: 1. ascend950 的时间维检查移到 timeStep 算出之后 (CheckShapeValid), 不再从 GetDim(0) 读; 2. recurrentOnly 判定的 input_size 改取**最后一维** (GetDimNum() - 1), 不再写死 GetDim(2); 3. dy == nullptr 时构造的默认梯度改为按 dy 的实际 rank 取特征维, 不再写死三维; 4. H == 0 / B == 0 的置零块改从恒三维的 hx 取 batch/hidden, 不再从 input 取。 至此该入口**零布局假设**: 取维要么来自恒三维的 hx (具名常量), 要么走 GetDimNum() - 1。 保留的两处 ascend950 分支**不是入参拦截**: H == 0 / B == 0 时返回正确的空梯度 (删掉会让 这两种形状从"返回零"退回 tiling 报错), 以及 input_size == 0 时跳过空算子的权重拼接。与 SoC 无关的 outputMask 长度校验不动。 ## 关联的Issue - #8981 ## 测试 **真机精度验证 (Ascend950PR)**。构造两套配置 (aclnn 主机库 + ascend950 内核二进制 + tiling 三者同版本), 同机同作业, 只换版本; 判据用用例自带的 cv_fused_double_benchmark 双向 fp32 用例的相对误差在 1e-7 量级, 在判据阈值内。 **仓内测试的影响面 (静态分析)**: - rnn/single_layer_lstm_grad/tests/st/ttk_aclnn_lstm_backward.csv (466 条) 与 ttk_e2e_lstm_train.csv (466 条): 逐条解析 attributes, bidirectional 全 False、 dropout 全 0.0、train 全 True, 且两者都不覆盖 packed —— **全部落在放行区内, 结果不变**。 - tests/ut/op_api/test_aclnn_lstm_backward.cpp: 全文只有两处 mock SocVersion::ASCEND950, 都在 TEST_P 体内, 入参为 dropout = 0.0, train = true, bidirectional = false, 同样在放行区; 三个 TEST_F 跑默认 SoC, 不进 A5 分支。其中一条 EXPECT_NE(..., ACL_SUCCESS) 断言的是 **dtype 不一致** (由 CheckParams 拦), 不是本 MR 删除的条件。**结果不变**。 - torch autograd: 7 组配置在两份主机库下输出逐行一致。 **op_api UT (新增 9 条, CANN 9.2.1-950 容器内实跑)**: 原有 aclnn UT 的入参全部落在放行区内 (dropout=0.0, train=true, bidirectional=false, 非 packed), 本次新增的六处分支一条都测不到。 补的 9 条逐条覆盖: numLayers <= 0 (挂与不挂 ascend950 各一条, 钉住它与 SoC 无关)、dropout 收窄后的三种组合、bidirectional、time_step 非正、batch == 0 的参数梯度置零、以及 dy == nullptr 的默认梯度构造 (此前无任何用例传空 dy)。结果 30/30 通过; aclnn_lstm_backward.cpp 的**变更行覆盖率由 41.2% 升到 100% (17/17)**, 整文件由 77.2% 升到 84.7%。 ## 文档更新 rnn/single_layer_lstm_grad/docs/aclnnLstmBackward.md, 六处 / 12 行。该文档原本把 950 的四项 限制与对应返回码逐条写死, 放开任何一条都必须同步, 否则实现与契约矛盾。改动为: dropout 参数 说明改为收窄后的口径、train 与 bidirectional 的 950 限制删除、返回码表对应条目重写, 以及 约束节两处 (非 packed 路径的能力范围, 以及 packed 路径当前的 dtype 范围)。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14229 | 4 days ago | |
修复编包偶现文件冲突的问题 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14617 merge kernel into master 修复编包偶现文件冲突的问题 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本 PR 旨在解决编包过程中偶现的文件冲突问题。变更集中在算子信息生成与二进制构建脚本两处:移除了 gen_ops_info_and_python 中针对 binary 目标的手动锁文件清理逻辑,并在 build_binary_opc_gen_task.sh 中为 dump_cce 的调试目录命名引入 impl_mode 维度,同时提前创建目录,从而避免不同算子在生成产物时落到同名路径而产生冲突。 主要改动 移除锁文件清理构建步骤: 删除 cmake/gen_ops_info.cmake 中为 binary 目标添加的 POST_BUILD 清理命令 LOCK_CLEANUP_CMD(原用于删除 bin/.*.cleaned.lock),不再在构建后统一清理锁文件。当前已由build.sh进行清理 调试目录名加入实现模式: scripts/kernel/binary_script/build_binary_opc_gen_task.sh 中将 dump_cce 的 --debug_dir 由 ${op_type}_${i} 改为 ${op_type}_${impl_mode}_${i},区分同一算子的不同实现模式。 显式创建调试目录: 在拼接 dump_cce 参数前新增 mkdir -p 创建对应 kernel_metas 子目录,确保目标路径存在后再写入,避免并发或缺失目录导致的冲突。 ## 关联的Issue [#8952](https://gitcode.com/cann/ops-nn/issues/8952) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14617 | 4 days ago | |
kernel ut校验 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14507 merge fix into master kernel ut校验 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 当kernel ut执行时,部分算子可能没有对应soc的实现,当前没有日志提示,难以定位,需要解决。 ## 关联的Issue [#7232](https://gitcode.com/cann/ops-nn/issues/7232) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14507 | 4 days ago | |
A5新增算子quant_max_v2支持动静态分组量化 Co-authored-by: lingdong0725<lingdong1@huawei.com> # message auto-generated for no-merge-commit merge: !13696 merge grouped_quant_max_v2 into master A5新增算子quant_max_v2支持动静态分组量化 Created-by: lingdong0725 Commit-by: lingdong0725 Merged-by: cann-robot Description: ## 描述 接口功能:按 group_list 将输入 x 分组(不传 group_list 时整个 tensor 视为单组),对每组求 |x| 的最大值、并按该组唯一的标量系数完成量化,输出 y;逐组最大值 amax 为受属性门控的可选输出;动态量化下额外输出 y 的量化系数 y_scale(仅动态量化输出)。传入 x_scale_inv 时执行静态量化,不输入时执行动态量化。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13696 | 7 days ago | |
[L1] fix: vfusion 目录不可见字符清理(拆分自 !12724) Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !13371 merge fix-invisible-chars-vfusion-v2 into master [L1] fix: vfusion 目录不可见字符清理(拆分自 !12724) Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 拆分说明(响应 chenqi317 老师 11-02 指引) 老师 11-02 09:26 指引:"代码冲突,请修复后再@committer;文件修改量较大,涉及范围广,建议分目录 分模块申请合入,防止冲突"。 本 PR 为 !12724 按目录拆分的 ** vfusion/ 目录子 PR**:单一提交,仅含 1 个文件,基于最新 master,无冲突。 ## 文件清单(1 个) - vfusion/multi_scale_deformable_attention_grad/docs/aclnnMultiScaleDeformableAttentionGrad.md(1 行) ## 与 !12724 的一致性 - 本 PR 每个文件内容与 !12724 head(cd9f1b201f)**逐文件 blob sha 完全一致**(已校验); - 分支基于当前 upstream/master(e3cbfbd4),本组文件 master 侧无变更,无冲突。 ## 说明 - 清理内容:仅删除注释/文本中的不可见字符 U+200B / U+FEFF(含文件头 BOM),不调整任何业务逻辑、接口或数据流; - 原 !12724 保持 open,各分模块 PR 合入后由该 PR 统一核销; - 关联:#8306 前系列口径;提交前已按老师 11-02 09:28 指引核对 pre-commit 要求,并以 /compile 触发门禁流水线验证。 See merge request: cann/ops-nn!13371 | 4 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Co-authored-by: Ethan_Zou<tianjun.zou@foxmail.com> # message auto-generated for no-merge-commit merge: !11855 merge fix/b6-nn-compiler-option-substring-routing-20261013 into master fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Created-by: Ethan_Zou Commit-by: Ethan_Zou Merged-by: cann-robot Description: ## 描述 将普通选项、精确debug标志及tiling key解析分离,删除不可达重复分支;文件写入使用O_APPEND,保留原有权限与输出协议。 本轮直接修改并验证实际生产实现,保留仓库原有Huawei版权与CANN许可。没有替换许可证、移除来源信息、屏蔽SCA或降低门禁阈值。SCA以新源流水线实际结果为准。 ## 关联的Issue Fixes [#6591](https://gitcode.com/cann/ops-nn/issues/6591). ## 测试 实际环境:远端Ubuntu22.04.5 x86_64、Python3.12.15、Host回归pytest8.3.2及原生隔离hook固定pytest8.3.5;安装CANN9.1.0。本轮没有执行NPU算子。 - 当前实际生产模块及tests/host完整回归:5项通过,无跳过。新增用例在完整未修改的旧公开生产源上复现失败,修复后通过。 - tiling相关PR对实际生成的完整Host struct/Init进行C++17编译并执行逐字节比较,包括1/4/8/12/13字节尺寸;不代表整个SDK/NPU头编译或设备运行通过。 - Host测试已接入仓库原生pre-commit的隔离Python环境,匹配scripts及tests/host变更;并非仅作者手工执行。 - 最终修改通过正常pre-commit(含ruff/codespell/OAT及Host回归)、正常amend、干净提交树相同回归、diff检查、LFS检查及恢复bundle验证。 当前唯一源提交 60be4500a7581598175c087bd688f0b7c0972374,推送后通过/compile回查当前源CodeCheck、SCA与完整CI。旧源扫描结论不代替新源结果。 ## 文档更新 无文档接口变更;实际修复范围、Host与NPU验证边界如上。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他:生产结构改进、真实回归与原生门禁注册 <!-- maintenance-20261027a --> See merge request: cann/ops-nn!11855 | 12 days ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 17 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 12 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 12 days ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
[feat] 补充valgrind Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14047 merge valgrind into master [feat] 补充valgrind Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本次改动主要为构建脚本补齐 valgrind 相关支持:在 build.sh 中新增 --valgrind 长选项,使 UT 可在 valgrind 下运行,同时处理该选项与 --asan 的互斥关系,并更新帮助说明。 新增 --valgrind 命令行选项: 在 SUPPORTED_LONG_OPTS 数组中增加 "valgrind",使构建脚本能够识别该长选项。 选项解析逻辑: 在 checkopts() 中新增 valgrind 分支,将其置为 ENABLE_VALGRIND=TRUE,并同时设置 ENABLE_UT_EXEC=FALSE,从而关闭直接执行 UT 的行为。 帮助信息更新: 在 usage() 中补充 --valgrind 的说明,提示其用于以 valgrind 运行 UT,且会禁用 asan 并启用 noexec。 ## 关联的Issue [#6536](https://gitcode.com/cann/ops-nn/issues/6536) ## 测试 本地编译成功 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14047 | 9 days ago | |
chore: 责任田算子分类规则登记;清理责任田内死链 Co-authored-by: liangyuhua<liangyuhua4@huawei.com> # message auto-generated for no-merge-commit merge: !14667 merge chore/classify-norm-a5-20261117 into master chore: 责任田算子分类规则登记;清理责任田内死链 Created-by: liangyuhua Commit-by: liangyuhua Merged-by: cann-robot Description: ## 描述 本 PR 仅修改 classify_rule.yaml,三类调整均在责任田算子范围内: **1. A5 实现登记至 HPTG1@ops-nn** - batch_norm: op_host/arch35/、op_kernel/arch35/、op_kernel/batch_norm_apt.cpp、op_host/config/ascend950/(此前完全未登记) - batch_norm_v3:补登漏登的 op_host/batch_norm_v3_tiling_rar_block_split_r_arch35.cpp 与 op_host/config/ascend950/ - batch_norm_grad_v3:补登 op_host/config/ascend950/;docs/、README.md 补登至 HPTG1(对齐 batch_norm_v3 先例) - group_norm_grad:补登 op_host/config/ascend950/ - 同步将 norm-c 段 batch_norm 的 op_host/、op_kernel/ 目录级条目收窄为文件级(A5 配置移入 HPTG1),保证 A5 路径 HPTG1 独占,对齐仓内基础实现与 A5+ 实现分团队登记、互不重叠的既有惯例 **2. rms_norm_grad_quant 整算子移入 HPTG1** style 整目录登记(与 rms_norm_hi_f4_quant 同形态),test_code 登记 tests/、examples/;norm-c 段原整算子条目移除。 **3. 责任田内死链清理(12 条,均经 git 历史追溯定位去向)** - 5 条纯删(文件确认已删除):add_layer_norm_apt.cpp、rms_norm_dynamic_mx_quant 的 simplified_key.ini / tiling_arch35.h / 对应 UT、aclnn_add_rms_norm_quant_v2.h - 7 条改指向(文件是迁移而非删除):add_rms_norm_dynamic_quant 的 tiling 迁至 op_host/arch22/ 与 op_host/arch35/;batch_norm_backward.h、lp_norm_reduce_v2.h、lp_norm_update_v2.h 迁至 norm/common/op_api/ - 责任田外 2 条(unique 插件、group_norm_swish_grad ini)及其他团队段条目未动 ## 关联的Issue - #9006(https://gitcode.com/cann/ops-nn/issues/9006) ## 测试 - ci-skills 本地门禁(静态部分):pre-commit 适用 hook 全部通过(trailing-whitespace / end-of-file-fixer / check-yaml / check-added-large-files / check-merge-conflict / detect-private-key / codespell);隔离 OAT(oat-py==1.0.3)All checks passed;仓内 Check_Example 通过;md_links / example_skip 通过 - 根目录 yaml 无算子可定向映射,构建阶段按 ci-skills 规则返回 FULL_REQUIRED;本变更不含算子代码,无编译验证对象 - 自主校验:YAML 解析通过;登记路径与实际文件双向核对(新增幽灵 0、5 个涉及算子覆盖无丢失);A5 源码(arch35/、*_apt.cpp、config/ascend950)独占归属 HPTG1/style,无跨团队 style 重叠;A5 专属测试文件按约定由 norm-c 的 norm/*/tests/、norm/*/examples/ 通配符兜底为 test_code;全仓幽灵条目 89 → 77,剩余均为其他团队段或责任田外存量问题;本次删除的 15 行中死链为 12 条(5 纯删 + 7 改指向)、另 2 行为 batch_norm 目录收窄、1 行为 rms_norm_grad_quant 整算子迁移 ## 文档更新 无(仅 classify_rule.yaml) ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:算子分类规则登记与死链清理 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14667 | 4 days ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 17 days ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Co-authored-by: gao19871128<1897001@qq.com> # message auto-generated for no-merge-commit merge: !13020 merge master into master bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Created-by: gao19871128 Commit-by: gao19871128 Merged-by: cann-robot Description: ## 描述 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) ## 关联的Issue [#7675](https://gitcode.com/cann/ops-nn/issues/7675) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13020 | 21 days ago |
🔥Latest News
- [2026/05] Optimized the kernel compilation configuration items and reduced the simplified_key and ascendc_config configuration files (!3330).
- [2026/05] Introduced ops-tensor, optimized Cube-class operators based on a layered structure, reduced offset computation, and simplified instruction parameters (!5036).
- [2026/05] Released the accuracy acceptance criteria for ecosystem operators (!4572).
- [2026/03] Open-source operators support the next-generation chip: Ascend950PR (!450).
- [2026/03] Added operator development samples for <<<>>> (!620).
- [2026/03] Low-bit operators and fused operators support more data types, such as fp8/mxfp8/hifp8/mxfp4, and support different quantization modes and combinations, including pertensor/perchannel/pertoken/pergroup/perblock: full quantization fused operator: quant_batch_matmul_v4, pseudo-quantization fused operator: weight_quant_batch_matmul_v2.
- [2026/03] Supported the new homogeneous programming operator implementation for SIMD/SIMT: [MapIndex] (#660), [ScatterSub] (#710).
- [2026/01] Added QuickStart, which guides beginners to get started with operator project deployment from scratch (Docker environment supported) and with the operator development and contribution workflows.
- [2025/12] Open-source operators support the Ascend 950PR&950DT products/KirinX90, and you can develop and debug them with the NPU Simulator simulation tool. Optimization guide documents are improved, focusing on the operator development guide, clarifying the minimum deliverables and key sample code, and providing guidance for migrating operators from the Ascend/samples repository to this project. The newly supported sparse 4:2 quantization matmul operator enables hardware acceleration for sparse matrices.
- [2025/11] Newly supported operators: index_fill, masked_scatter, scatter, tf_scatter_add, fused_cross_entropy_loss_with_max_sum.
- [2025/10] Added the experimental directory and improved the contribution guide, so that developers can debug and contribute custom operators.
- [2025/09] The ops-nn project went online for the first time, with open-source operators supporting the Atlas A2/A3 products.
🚀Overview
ops-nn is a high-level operator library in the CANN (Compute Architecture for Neural Networks) operator library that provides neural network computation capabilities. It includes matmul-class, activation-class, and other operators. The architecture of the operator library is as follows:

📌Version Compatibility
The source code of this project is released together with CANN software versions. For the mapping between CANN software versions and the tags of this project, refer to the corresponding version notes in the release repository. Note that to ensure smooth custom development based on the source code, select a compatible CANN version and GitCode tag source code. Using the master branch may cause version mismatch risks.
🛠️Environment Preparation
Environment deployment is a prerequisite for experiencing the capabilities of this project. Install the NPU driver and CANN package first, and ensure the environment works properly.
⬇️Source Code Download
After the environment is ready, download the branch source code that matches the CANN version. The general command is as follows, where ${tag_version} is replaced with the branch tag name. The following uses the download of the 9.0.0 branch source code as an example:
# General command: git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
Note: If the matching branch source code already exists in the environment, you can skip this step. For example, CANNLab provides the source code corresponding to the latest CANN version by default.
📖Learning Tutorials
- Quick start: Quickly experience the core basic capabilities of the project from scratch, covering source code compilation, operator invocation, development, debugging, and other operations.
- Advanced tutorials: If you need to deeply understand project compilation and deployment, operator invocation, development, debugging and tuning, and other capabilities, go to the documentation center for detailed guidance.
💬Related Information
PS: The features and documentation of this project are continuously updated and improved. Stay tuned for the latest version.
- Issue feedback: Submit issues through GitCode Issues.
- Community interaction: Join discussions through GitCode Discussions.
- Technical column: Read technical articles, such as serial tutorials and best practices, through GitCode Wiki.