本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
fix(ci): A5 冒烟镜像改用 image-conf 的 PreSmoke_A5 输出 Co-authored-by: he_kan<hekan4@huawei.com> # message auto-generated for no-merge-commit merge: !14630 merge feat/sync-master-20261116 into master fix(ci): A5 冒烟镜像改用 image-conf 的 PreSmoke_A5 输出 Created-by: he_kan Commit-by: he_kan Merged-by: cann-robot Description: ## 描述 A5 冒烟任务此前在 st_test_action.yml 中硬编码镜像 tag ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1001,镜像升级需要修改工作流。本 PR 改为使用 revise-img action 依据 image-conf/master/images.yaml 解析出的 PreSmoke_A5 输出(当前配置为 ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1007),与 ops-math 仓已适配的写法保持一致。后续 A5 镜像 tag 由 CI 镜像配置统一管理,无需再改工作流。 ## 关联的Issue 不涉及 ## 测试 CI 镜像配置侧已包含 ops-nn 的 PreSmoke_A5 输出。合入后需观察 PreSmoke_A5 job 的容器镜像是否为 swr.cn-north-4.myhuaweicloud.com/pre_smoke/ubuntu24.04_x86:pre_mindspore_A5_conda_v1.1007。 ## 文档更新 不涉及 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:CI 镜像配置适配 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14630 | 4 days ago | |
hardtanh_grad: 修正输入参数语义 Co-authored-by: ASCEND222<dongfei16@h-partners.com> # message auto-generated for no-merge-commit merge: !14978 merge master into master hardtanh_grad: 修正输入参数语义 Created-by: ASCEND222 Commit-by: ASCEND222 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> - 明确 result 是前向输入 self,用来判断各值是否落在 [min_val, max_val] 内;grad 是反向传入的上一步梯度: 落在该区间内就直接透传,区间外则置 0。 - 修正原先的错误描述,即“result/grad 分别是最小/最大张量”;两个输入都补充了“支持 1D~8D”的说明。 - 把格式支持范围从 ND/5HD 改为 ND,同时修改了输入说明和 Constraints 段落。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/9226 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14978 | 2 days ago | |
feat(qbmm): support MX A8W4 ScaleB NZ and B L2 bypass Co-authored-by: sunduiyang<sunduiyang@huawei.com> # message auto-generated for no-merge-commit merge: !13932 merge perf/mxa8w4_scale_nz_l2_bypass into master feat(qbmm): support MX A8W4 ScaleB NZ and B L2 bypass Created-by: sunduiyang Commit-by: sunduiyang Merged-by: cann-robot Description: ## 描述 支持 QuantBatchMatmulV4 MX A8W4 的 ScaleB NZ 输入,并为 B 权重启用按 L1 基本块的 L2 bypass。 主要修改: 1. 扩展 torch/aclnn checker 与 process,识别 WeightNZ、ScaleB NZ 及对应逻辑布局。 2. 在 tiling 参数中对 A/SF/C 保持现状,仅对 B scale 配置与 weight 一致的 L2 cache hint。 3. 补充 ScaleNZ、L2 bypass 相关 tiling key、参数传递和 kernel 适配。 4. 增加 MX A8W4 WQP ND/NZ 组合的系统测试与格式测试。 ## 关联的Issue - #8527 ## 测试 - 已完成 torch + 静态图编译路径的 MX A8W4 精度验证。 - 已完成 ScaleB NZ、B L2 bypass 相关目标用例及 141-case 泛化性能验证。 - 已执行 git diff --check。 - CI 将在本次 squash 后的新 head 上重新执行。 ## 文档更新 不涉及 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13932 | 4 days ago | |
fix(onnx plugin): MaxPool/LpPool 增加 pads/strides/dilations 长度校验,修复 pads_vector 越界写 Co-authored-by: fengjiawei1<fengjiawei5@huawei.com> # message auto-generated for no-merge-commit merge: !14504 merge fix/onnx-pool-pads-size-check into master fix(onnx plugin): MaxPool/LpPool 增加 pads/strides/dilations 长度校验,修复 pads_vector 越界写 Created-by: fengjiawei1 Commit-by: fengjiawei1 Merged-by: cann-robot Description: ## 描述 ONNX MaxPool/LpPool 插件的 ParseParams 阶段此前仅校验 pads 长度的奇偶性,未校验其与 kernel_shape 维度的匹配关系(ONNX 规范要求 len(pads) == 2 * len(kernel_shape))。当非法模型携带超长 pads(如 kernel_shape 为 2 维但 pads 给出 8 个值),且命中大核 AICPU 分支(ksize > 255 或 stride > 63)时: - max_pool_onnx_plugin.cpp 的 GenAicpuOp - lppool_onnx_plugin.cpp 的 AvgLpPoolGenAicpuOp 中 pads_vector[i + 2](std::vector<int32_t> pads_vector(8))会发生堆越界写(UB)。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/9248 ## 测试 - make oponnx_plugin_nn_obj 增量编译通过(含 clang-format 格式化后复编),无新增告警; - 正常约束模型(pads 长度 4/6 或省略)不受影响。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及(实现向文档对齐,文档无需变更) ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14504 | 2 days ago | |
refactor(npuarch): glu/sleep/concat_offset/reverse_sequence 算子注册与构建配置按 NpuArch 整改 Co-authored-by: esok11<yangsifa@huawei.com> # message auto-generated for no-merge-commit merge: !14631 merge f1117-1114 into master refactor(npuarch): glu/sleep/concat_offset/reverse_sequence 算子注册与构建配置按 NpuArch 整改 Created-by: esok11 Commit-by: esok11 Merged-by: cann-robot Description: ## 描述 CANN 算子注册与构建链路正在从"SoC 型号"维度迁移到"NpuArch"维度:cmake 侧 cmake/soc_arch_variables.cmake 维护 socVersion → npuArch 映射(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),opbase 侧提供 op_common/op_host/util/op_arch_helper.h(opbase::ArchConfigHelper::AddConfigByArch)与 op_common/op_host/util/op_const_def.h(Ops::Base::DAV_*)作为统一入口。 本 PR 对 glu、sleep、concat_offset、reverse_sequence 四个算子完成按 NpuArch 的注册与构建配置整改,注册/编译结果与整改前等价,无功能与接口变化。 ### 改动方法 1. 算子注册按 NpuArch 注册(op_host/*_def.cpp,新增 include op_common/op_host/util/op_arch_helper.h) - activation/glu/op_host/glu_def.cpp、control/sleep/op_host/sleep_def.cpp、index/concat_offset/op_host/concat_offset_def.cpp、index/reverse_sequence/op_host/reverse_sequence_def.cpp - 原先 AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", cfg) 逐 SoC 注册,改为 opbase::ArchConfigHelper::AddConfigByArch(AICore(), Ops::Base::DAV_3510 / Ops::Base::DAV_9201 / Ops::Base::DAV_9202, cfg) - AddConfigByArch 内部按 arch→soc 映射展开(DAV_3510 → ascend950 + ascend350,DAV_9201 → ascend960dt,DAV_9202 → ascend960pr),因此注册结果与原逐 SoC 写法一致;同 arch 的新增芯片无需再改算子代码 2. 运行时 arch 判断改用 Ops::Base 常量(新增 include op_common/op_host/util/op_const_def.h) - activation/glu/op_host/op_api/aclnn_glu.cpp:NpuArch::DAV_2201 → Ops::Base::DAV_2201 - index/reverse_sequence/op_host/arch35/reverse_sequence_simt_tiling.cpp:NpuArch::DAV_9201/NpuArch::DAV_9202 → Ops::Base::DAV_9201/Ops::Base::DAV_9202 3. CMake 芯片配置统一为 npuArch 串 - control/sleep/op_kernel/CMakeLists.txt、index/concat_offset/op_kernel/CMakeLists.txt、index/concat_offset/CMakeLists.txt、index/reverse_sequence/CMakeLists.txt:COMPUTE_UNITS / SUPPORT_COMPUTE_UNIT 由 ascend950 ascend350 ascend960dt ascend960pr 改为 dav_3510 dav_9201 dav_9202(按 soc→arch 映射合并,tiling 目录仍为 arch35) - 新增 activation/glu/op_kernel/CMakeLists.txt、index/reverse_sequence/op_kernel/CMakeLists.txt,补全 add_kernel_sources 声明(COMPUTE_UNITS dav_3510 dav_9201 dav_9202、AUTO_SYNC false;GLU 保留 -mllvm -cce-aicore-dcci-before-kernel-end=false) 4. UT 适配 - index/concat_offset/tests/ut/op_host/arch35/test_concat_offset_tilling.cpp 更正为 test_concat_offset_tiling.cpp - 用例改用 TilingContextFaker::IrInstanceNum(输入实例数, 输出实例数) 双参数形式(动态输入 {1, 3}、输出 {1, 1, 1}),移除动态输入展开后冗余的 NodeInputTd(2) / NodeInputTd(3),Attr 改用 Ops::NN::AnyValue ## 关联的Issue - #9022 ## 测试 - 按提交记录:ascend950 UT op_host 19/19、op_api 31/31、op_kernel 7/7 通过(配合 COMPUTE_UNIT soc/npuArch 混配框架验证) - concat_offset tiling UT 已随 TilingContextFaker 实例数用法调整同步更新 - CI 编译流水线通过 ## 文档更新 不涉及,本 PR 仅调整算子注册与构建配置,未改动 docs。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:NpuArch 整改(算子注册与构建配置按 NpuArch 统一),无功能与接口变化 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14631 | 3 days ago | |
docs(depthwise_conv2d): 修正A5资料约束中INT4/INT8与offset_w的不支持描述 Co-authored-by: XianyongWang<aaronhkw@163.com> # message auto-generated for no-merge-commit merge: !14737 merge fix/depthwiseconv2d-md into master docs(depthwise_conv2d): 修正A5资料约束中INT4/INT8与offset_w的不支持描述 Created-by: XianyongWang Commit-by: XianyongWang Merged-by: cann-robot Description: ## 描述 修正 DepthwiseConv2D 在 Ascend 950PR&950DT(A5)上的资料约束,并将 proto 注释与 canndev 原文对齐。 ## 关联的Issue 关联 Issue [#9074](https://gitcode.com/cann/ops-nn/issues/9074) ## 测试 - 纯文档/注释修改,pre-commit通过。 ## 文档更新 - conv/depthwise_conv2d/README.md - conv/depthwise_conv2d/README_en.md(新增) - conv/depthwise_conv2d/op_graph/depthwise_conv2d_proto.h(注释) ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14737 | 3 days ago | |
docs: align Python prerequisites with dependencies Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !14395 merge docs/test-python-prerequisite-20261113 into master docs: align Python prerequisites with dependencies Created-by: gxhgxh2475698 Commit-by: aodebiao Merged-by: cann-robot Description: ## Description ### Motivation The setup guide permits Python 3.7 without stating the Python 3.9 minimum required by its TensorFlow 2.20.0 test dependency. The Extension guide also permits Python 3.8 while requiring PyTorch 2.6.0, whose minimum is Python 3.9. These stated versions cannot install the required packages. ### Changes - Add the TensorFlow-specific Python prerequisite to the UT installation step. - Align the Extension guide minimum with PyTorch 2.6.0: Python 3.9. ## Related Issue Fixes #8770 ## Test - pip target-Python 3.7 check rejects tensorflow==2.20.0; its published metadata requires Python >= 3.9. - Actual Linux / CPython 3.9.25: pip dry-run resolves the complete baseline tests/requirements.txt successfully. - PyTorch 2.6.0 resolution rejects target Python 3.8 and succeeds on actual Linux / CPython 3.9.25 (--no-deps). - Native pre-commit checks, including OAT for both changed documents, and git diff --check pass. Markdown rendering preserves the document structure. Dependency resolution only; no NPU tests. ## Documentation Update Updated the Python prerequisites in the installation and PyTorch Extension guides. ## Type Labels - [x] Documentation update ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!14395 | 3 days ago | |
fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Co-authored-by: HuangRZzzz<1106918531@qq.com> # message auto-generated for no-merge-commit merge: !13839 merge fix/example-opkernel-ut-soc into master fix(cmake): 修复 examples 下 AddOpTestCase 未注册并补齐 add_example UT 的 SOC Created-by: HuangRZzzz Commit-by: HuangRZzzz Merged-by: cann-robot Description: ## 描述 修复 bash build.sh -u --opkernel --ops=add_example 无任何 UT 用例运行的问题(#8321): 1. cmake/func.cmake:add_category_subdirectory() 中 examples 在算子循环外通过 add_subdirectory(examples) 加载时,宏作用域内 OP_DIR/OP_NAME 仍残留循环最后一次的算子目录,导致 examples 下 AddOpTestCase 误用该目录、在 --ops 过滤时提前 return(),用例注册被静默跳过(所有 SOC 均受影响)。在 add_subdirectory(examples) 前 unset(OP_DIR)/unset(OP_NAME)。 2. examples/add_example/tests/ut/op_kernel/CMakeLists.txt:注册补齐 Ascend910_9391(A3,注意 tikicpulib 目标名大小写)与 ascend950pr_9599(950),与 add_example_def.cpp 的 AddConfig、README 声明的 A2/A3/950 支持范围一致。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8321 ## 测试 - 修复前:bash build.sh -u --opkernel --ops=add_example --soc=ascend910_93 -j40 → fastOpTestSocVersions 为空、无 UT 可执行文件、无用例执行(CANN 9.2.0 / aarch64 / master b5949092)。 - 修复后(同一环境): - --soc=ascend910_93 → fastOpTestSocVersions=Ascend910_9391,[ PASSED ] 1 test; - --soc=ascend910b → ascend910B1,PASS; - --soc=ascend950 → ascend950pr_9599,PASS。 - kernel UT 为 CPU 仿真(tikicpulib),无需 NPU。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13839 | 13 days ago | |
docs: 修复资料与源文件路径不符的问题 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14830 merge graph into master docs: 修复资料与源文件路径不符的问题 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 docs: 修复资料与源文件路径不符的问题 ## 关联的Issue [#8937](https://gitcode.com/cann/ops-nn/issues/8937) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 activation/threshold_grad_v2_d/docs/aclnnThresholdBackward.md activation/threshold_grad_v2_d/docs/aclnnThresholdBackward_en.md experimental/activation/softplus_v2_grad/docs/aclnnSoftplusBackward.md experimental/activation/threshold_grad_v2_d/docs/aclnnThresholdBackward.md matmul/fused_linear_online_max_sum/README_en.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14830 | 3 days ago | |
docs(foreach_sinh): 回滚数据格式与 view shape 描述至 ND 与 shape size 口径 Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !15013 merge fix_1119 into master docs(foreach_sinh): 回滚数据格式与 view shape 描述至 ND 与 shape size 口径 Created-by: yefeicoding Commit-by: yefeicoding Merged-by: cann-robot Description: ## 描述 将 foreach_sinh 的资料描述回滚到基线口径,中英文一致: - 参数表数据格式列由“ND、NCHW、NHWC、HWCN、NDHWC、NCDHW等非私有格式”恢复为“ND”(README、README_en、docs/aclnnForeachSinh.md、docs/aclnnForeachSinh_en.md 共 4 处) - out/y 参数说明由“view shape 与入参 x 对应位置的 Tensor 一致”恢复为“shape size 大于等于入参 x 的 shape size”(共 4 处) - 删除 docs 约束说明中“x 与 out 的 TensorList 长度及对应位置 view shape 需一致”和“数据格式:支持…等非私有格式;私有格式返回161002”两条(中英文各 2 条) ## 关联的Issue - #9317 ## 测试 - 纯文档改动,未运行 UT/ST - 逐项核对 4 个文件 8 处描述的中英文一致性 ## 文档更新 - foreach/foreach_sinh/README.md - foreach/foreach_sinh/README_en.md - foreach/foreach_sinh/docs/aclnnForeachSinh.md - foreach/foreach_sinh/docs/aclnnForeachSinh_en.md ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!15013 | 2 days ago | |
fix(embedding_hash_table): 加固哈希表算子参数校验与输出防越界 Co-authored-by: luohui46<luohui46@huawei.com> # message auto-generated for no-merge-commit merge: !14452 merge fix/embedding-hash-table-param-validation into master fix(embedding_hash_table): 加固哈希表算子参数校验与输出防越界 Created-by: luohui46 Commit-by: luohui46 Merged-by: cann-robot Description: ## 描述 修复哈希表算子 5 项静态扫描发现的参数校验缺失与输出防越界问题(单 commit),合入背景见关联 issue。 | # | 问题 | 修复 | |---|---|---| | 1 | Import 不校验 counters/filter_flags/values 列表长度与维度,kernel 按 keys 的 keyNum 索引越界读并写入哈希表 | infershape:四动态列表 instanceNum 相等且等于表数(未知 shape 跳过表数比对,兼容动态 shape 图)、逐 tensor 校验 counters/filter_flags 不短于 keys;tiling:embedding_dims 数据可见时(InputsDataDependency)校验 **values 元素数 == keys 元素数 × dim**(含乘法溢出防护:先拒绝 dim > INT64_MAX/keysNum 的不可表示乘积;数据不可得时跳过,由前述校验兜底) | | 2 | Export embedding_dims 元素值未校验,负值使桶步长小于 24B 桶头导致越界读写 | GE shape 层拒绝负维度输出 shape(既有)+ kernel guard:dims/bucket ≤ 0 时 SingleTableCompute 返回 false,Process 据此跳过计数/偏移/导出/标志刷新(全核一致分支,不读取未赋值成员) | | 3 | ApplyAdamW table_size=0 时取模除零;table_size 与真实表容量无校验 | ①除零:infershape 由 <0 收紧为 ≤0 + tiling 0 值双保险;②容量一致性:handle 不记录表容量(kernel 与 host 层均不可见 device 内存),由调用方保证 table_size 与建表时 bucket_size 一致,README 已声明约束与后果(越界或更新错位) | | 4 | Import bucket_sizes/embedding_dims 元素值无校验(0 除零、负值负偏移越界写) | kernel guard:≤0 跳过该表(guard 前置于 handle 解引用,非法表零表访问) | | 5 | Export 输出按 table_sizes 分配但从不与实际导出条数比较,导致越界写 | kernel 读 table_sizes 写前钳制(位置单调递增,越界即 break 整条丢弃:不写输出、不刷导出标志、不计未导出计数,防 new 模式漏导出与输出越界写)。实际导出条数为运行时统计值,仅输出前缀为有效数据(README 已说明) | **精度/性能无回退(静态可证 + 两轮 A/B 设备实测)**:全部改动位于数值计算路径之外——value 拷贝、adamW 全部 fp32/fp16 表达式逐比特不变;训练热路径(ApplyAdamW)kernel 计算指令零变化;导出路径新增逻辑仅为每条目一次比较(钳制),无额外内存流量。 ## 关联的Issue Fixes #9147 ## 测试 - **op_host UT 21/21**(新增 13 用例:import infershape 列表校验拒绝 5 例 + 合法放行 1 例、adamW infershape 拒绝 2 例、adamW tiling 拒绝 1 例、import tiling values 对齐校验拒绝/通过 2 例 + 乘法溢出拒绝 1 例) - **Export ST(设备级,随 PR 入库)**:tests/st/export_output_st.py——有效前缀(已知插入数量 len(LK) 作为有效长度,恰为插入 key 集合,忽略约定外尾部)+ 截断(table_sizes=1 恰出 1 条、进程存活),950PR 实测 3/3 - kernel 编译通过(ccec ascend950 实机 + CPU 仿真两种模式) - **设备 A/B 实测(950PR,双通道:host 经 vendors 装载、kernel 经 built-in impl JIT 全新 shape 规避产物缓存)**: - **host 层**:counters 短于 keys、adamW bucket_size=0 被明确拒绝(Invalid_Argument),基线放行执行 - **kernel 层**:非法参数(bucket=0、dims=-100)无 kernel 崩溃;new 模式部分导出正确 - **精度(两轮交叉 A/B)**:adamW 更新数值逐元素精确(36/36 个 0.46);正常/传小/旧表场景、导出内容、截断行为**两版逐项一致**——FAIL 项两版完全相同(均为另行报告的既有缺陷:lookup 批量丢 key、EXPORT_FLAG 失效、特定 shape 命中异常) - **性能**:导出路径新增逻辑仅为每条目一次比较;训练热路径零变化 ## 文档更新 - embedding_hash_table_import/README(_en).md:导入参数约束(dims/buckets>0、四列表实例数相等、counters/filter_flags 不短于 keys、values==keys×dim) - embedding_hash_table_export/README(_en).md:导出参数约束(dims/buckets>0、table_sizes 分配/截断语义、实际导出条数为运行时统计值仅前缀有效) - embedding_hash_table_apply_adam_w/README(_en).md:bucket_size>0、table_size 与建表时 bucket_size 一致性约束 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14452 | 2 days ago | |
[NpuArch整改] Index、Pooling 算子统一 DAV_3510 注册与平台判断 Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !13760 merge codex/npuarch-3510-index-pooling into master [NpuArch整改] Index、Pooling 算子统一 DAV_3510 注册与平台判断 Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: ## 描述 对 Index、Pooling 共 31 个 AI Core 算子进行 NpuArch 整改,统一 DAV_3510 及原有 DAV_9201/DAV_9202 平台的注册、构建配置和相关平台判断。 - **算子注册**:def.cpp 统一使用 opbase 的 ArchConfigHelper::AddConfigByArch 按架构注册,沿用原有 dtype、format、属性及平台支持范围。 - **Host 构建配置**:使用 dav_3510、dav_9201、dav_9202 配置目标平台,与 tiling 目录逐项配对;删除与 dav_3510 重复的 ascend350 及对应目录项,950/350 统一由 DAV_3510 覆盖,其他平台保留原有 SoC 配置。 - **Kernel 构建配置**:按 NpuArch 声明对应的 kernel 源码和编译选项,使用公共 CMake 的 SoC/NpuArch 混配能力。 - **平台判断**:相关 API/tiling 统一使用 NpuArch 查询及 opbase 公共架构常量 Ops::Base::DAV_3510/DAV_9201/DAV_9202。 - **范围说明**:本 PR 不含融合 pass 规则及对应 UT 改动,融合 pass 保持现状。 ## 关联的Issue - #9150 https://gitcode.com/cann/ops-nn/issues/9150 ## 测试 - 31 个算子、15 种有效平台/别名,共 465 组配置对照通过。 - Ascend950、Ascend350 各自的 31 算子 JIT 算子包构建通过。 - pre-commit(含 OAT)通过。 ## 文档更新 无。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:NpuArch 整改 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!13760 | 2 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
docs(aclnnMatmul): 修正BF16混合dtype约束并补充out形状说明 Co-authored-by: chaotang233<tangchao47@hisilicon.com> # message auto-generated for no-merge-commit merge: !14094 merge fix-doc-matmul into master docs(aclnnMatmul): 修正BF16混合dtype约束并补充out形状说明 Created-by: chaotang233 Commit-by: chaotang233 Merged-by: cann-robot Description: close #7294 close #7292 约束说明中BF16+FP16、BF16+FP32混合dtype实测可正常推导并计算正确,由「不支持」改为「支持」;out参数行补充形状需与推导结果一致。 See merge request: cann/ops-nn!14094 | 2 days ago | |
[BatchNormGradV3] 整合 arch35 ST 用例并按写回精度设置容差 Co-authored-by: qianzehong<qianzehong@huawei.com> # message auto-generated for no-merge-commit merge: !14865 merge test/bngv3-arch35-csv into master [BatchNormGradV3] 整合 arch35 ST 用例并按写回精度设置容差 Created-by: qianzehong Commit-by: qianzehong Merged-by: cann-robot Description: ## 描述 - 将 BatchNormGradV3 的 arch35 ST 资产归并为 Kernel、ACLNN 和 E2E 三份 CSV。20 条 optional-running、4 条 RAR GM 偏移和 4 条 RAR UB 预算用例并入 ACLNN 主表。 - Kernel CSV 移除直接调用 tiling 的空输入推理用例,复用 ACLNN 主表中的等价输入覆盖。在 GEIR example 增加 --empty-infer,断言三个输出的形状、dtype 和零字节大小。 - ACLNN 和 E2E 按实际写回精度设置逐输出 close 容差。FP32、FP16、BF16 的 rtol/atol 分别为 1e-4、1e-3、4e-3,允许超差的元素比例保持为 0.4%。半精度参数梯度写回后转为 FP32 的两条 ACLNN 用例,按半精度档比较。 ## 关联的Issue 关联 Issue [#9231](https://gitcode.com/cann/ops-nn/issues/9231) ## 测试 - Pre-commit 通过。 - Ascend 950PR 卡 0,CANN 9.3.0,ops-test-kit f3d4101c6a5f,按仓库 ST 脚本使用 --compare close。 | 通路 | 结果 | 算子实现 | | --- | --- | --- | | Kernel release | 95/95 | ops-nn c8e63ce525 自定义包 | | ACLNN | 163/163 | ops-nn c8e63ce525 自定义包 | | E2E eager | 11/11 | CANN 9.3.0 内置包 | - GEIR example 默认训练、--infer 和 --empty-infer 均在 A5 通过。 ## 文档更新 更新 GEIR example 中的运行说明。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:ST 用例维护 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14865 | 2 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
[NpuArch整改] Index、Pooling 算子统一 DAV_3510 注册与平台判断 Co-authored-by: yourealize<chenzhanxi1@huawei.com> # message auto-generated for no-merge-commit merge: !13760 merge codex/npuarch-3510-index-pooling into master [NpuArch整改] Index、Pooling 算子统一 DAV_3510 注册与平台判断 Created-by: yourealize Commit-by: yourealize Merged-by: cann-robot Description: ## 描述 对 Index、Pooling 共 31 个 AI Core 算子进行 NpuArch 整改,统一 DAV_3510 及原有 DAV_9201/DAV_9202 平台的注册、构建配置和相关平台判断。 - **算子注册**:def.cpp 统一使用 opbase 的 ArchConfigHelper::AddConfigByArch 按架构注册,沿用原有 dtype、format、属性及平台支持范围。 - **Host 构建配置**:使用 dav_3510、dav_9201、dav_9202 配置目标平台,与 tiling 目录逐项配对;删除与 dav_3510 重复的 ascend350 及对应目录项,950/350 统一由 DAV_3510 覆盖,其他平台保留原有 SoC 配置。 - **Kernel 构建配置**:按 NpuArch 声明对应的 kernel 源码和编译选项,使用公共 CMake 的 SoC/NpuArch 混配能力。 - **平台判断**:相关 API/tiling 统一使用 NpuArch 查询及 opbase 公共架构常量 Ops::Base::DAV_3510/DAV_9201/DAV_9202。 - **范围说明**:本 PR 不含融合 pass 规则及对应 UT 改动,融合 pass 保持现状。 ## 关联的Issue - #9150 https://gitcode.com/cann/ops-nn/issues/9150 ## 测试 - 31 个算子、15 种有效平台/别名,共 465 组配置对照通过。 - Ascend950、Ascend350 各自的 31 算子 JIT 算子包构建通过。 - pre-commit(含 OAT)通过。 ## 文档更新 无。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:NpuArch 整改 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!13760 | 2 days ago | |
fix(wtsarq): default floating-point comparisons to cross_check Co-authored-by: zsq_888<zhushuqin1@huawei.com> # message auto-generated for no-merge-commit merge: !14960 merge fix/wtsarq-float-cross-check into master fix(wtsarq): default floating-point comparisons to cross_check Created-by: qq_57796320 Commit-by: zsq_8888;zsq_888 Merged-by: cann-robot Description: ## 描述 将 WtsARQ 的 TestSpec 中 FP16 和 FP32 输出的默认精度判据从 mix_tolerance 改为 cross_check,使用 L1 阈值。GEIR 运行时省略 --compare,TTK 会按该配置使用已注册的 Torch 第三方参考进行三方比对。需要两方比对时,可显式传入 --compare mixed。 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue 关联 [Issue #9278](https://gitcode.com/cann/ops-nn/issues/9278) <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 在 Ascend1119、TTK f3d4101 上使用动态 GEIR 执行 WtsARQ_L1_008(FP16)。省略 --compare 后,确认实际判据为 cross_check,Torch 第三方参考和输出精度均为 PASS。 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14960 | 2 days ago | |
docs: fix bidirection typo in aclnnLSTM examples and en prose Co-authored-by: Jiao Ziang<2720649216@qq.com> # message auto-generated for no-merge-commit merge: !14587 merge docs-8632-lstm-bidirectional into master docs: fix bidirection typo in aclnnLSTM examples and en prose Created-by: JerryJiao0628 Commit-by: Jiao Ziang Merged-by: cann-robot Description: ## 问题描述 对应 Issue #8632:aclnnLSTM 中英文档示例代码/英文说明中 bidirection 补全为 bidirectional(与函数原型参数名一致)。 ## 修改内容 按 Issue 指出的缺陷逐处修正(中英文档同步,若该缺陷仅存在于单一语言档则只改该档);修正前已核对当前 master 缺陷仍在。 ### 当前PR是否有AI参与: - [ ] 否 - [x] 是 __1. Agent平台信息: ZCode interactive agent __2. 模型信息: step-5-preview __3. Prompt摘要: 按共建计划 Issue #8632 修复文档缺陷:aclnnLSTM 中英文档示例代码/英文说明中 bidirection 补全为 bidirectional(与函数原型参数名一致)。逐处对照 Issue 给出的原文片段定位修改,人工逐行复核 ### 希望检视人员了解: 1. 仅按 Issue 指出的缺陷做最小修改,未扩大范围; 2. 涉及参数名/类型名的修正均与函数原型核对一致。 See merge request: cann/ops-nn!14587 | 3 days ago | |
修复编包偶现文件冲突的问题 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14617 merge kernel into master 修复编包偶现文件冲突的问题 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本 PR 旨在解决编包过程中偶现的文件冲突问题。变更集中在算子信息生成与二进制构建脚本两处:移除了 gen_ops_info_and_python 中针对 binary 目标的手动锁文件清理逻辑,并在 build_binary_opc_gen_task.sh 中为 dump_cce 的调试目录命名引入 impl_mode 维度,同时提前创建目录,从而避免不同算子在生成产物时落到同名路径而产生冲突。 主要改动 移除锁文件清理构建步骤: 删除 cmake/gen_ops_info.cmake 中为 binary 目标添加的 POST_BUILD 清理命令 LOCK_CLEANUP_CMD(原用于删除 bin/.*.cleaned.lock),不再在构建后统一清理锁文件。当前已由build.sh进行清理 调试目录名加入实现模式: scripts/kernel/binary_script/build_binary_opc_gen_task.sh 中将 dump_cce 的 --debug_dir 由 ${op_type}_${i} 改为 ${op_type}_${impl_mode}_${i},区分同一算子的不同实现模式。 显式创建调试目录: 在拼接 dump_cce 参数前新增 mkdir -p 创建对应 kernel_metas 子目录,确保目标路径存在后再写入,避免并发或缺失目录导致的冲突。 ## 关联的Issue [#8952](https://gitcode.com/cann/ops-nn/issues/8952) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14617 | 5 days ago | |
kernel ut校验 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14507 merge fix into master kernel ut校验 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 当kernel ut执行时,部分算子可能没有对应soc的实现,当前没有日志提示,难以定位,需要解决。 ## 关联的Issue [#7232](https://gitcode.com/cann/ops-nn/issues/7232) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14507 | 5 days ago | |
A5新增算子quant_max_v2支持动静态分组量化 Co-authored-by: lingdong0725<lingdong1@huawei.com> # message auto-generated for no-merge-commit merge: !13696 merge grouped_quant_max_v2 into master A5新增算子quant_max_v2支持动静态分组量化 Created-by: lingdong0725 Commit-by: lingdong0725 Merged-by: cann-robot Description: ## 描述 接口功能:按 group_list 将输入 x 分组(不传 group_list 时整个 tensor 视为单组),对每组求 |x| 的最大值、并按该组唯一的标量系数完成量化,输出 y;逐组最大值 amax 为受属性门控的可选输出;动态量化下额外输出 y 的量化系数 y_scale(仅动态量化输出)。传入 x_scale_inv 时执行静态量化,不输入时执行动态量化。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13696 | 8 days ago | |
docs: fix MSDA sample vector construction Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !13655 merge docs/fix-msda-sample-vector-construction-20261104 into master docs: fix MSDA sample vector construction Created-by: gxhgxh2475698 Commit-by: aodebiao Merged-by: cann-robot Description: ## Description The English MSDA example uses {count, 1} initializer lists for three host vectors. Each vector therefore contains two values, while the tensor shapes require 64, 256, and 2048 elements. The tensor helper copies according to those larger shapes. Use the size/value constructor with each buffer's own shape, retaining the Chinese example's zero initialization. Both language versions now pass integer shape counts directly. Six construction statements change. ## Related Issue Closes #8129 ## Test - Executed the exact documented shape/vector statements and GetShapeSize in Host C++. - Original English sizes: 2/2/2; corrected sizes in both versions: 64/256/2048, matching all six shape checks. - Native pre-commit checks passed. No invalid memory copy, complete SDK compilation, or NPU execution. ## Documentation Update Updated aclnnMultiScaleDeformableAttnFunction.md and its English counterpart. ## Type Labels - [x] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: See merge request: cann/ops-nn!13655 | 3 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Co-authored-by: Ethan_Zou<tianjun.zou@foxmail.com> # message auto-generated for no-merge-commit merge: !11855 merge fix/b6-nn-compiler-option-substring-routing-20261013 into master fix: 特殊编译选项改用完整标志/精确 --tiling_key= 前缀识别,避免普通参数中的子串触发调试路由 Created-by: Ethan_Zou Commit-by: Ethan_Zou Merged-by: cann-robot Description: ## 描述 将普通选项、精确debug标志及tiling key解析分离,删除不可达重复分支;文件写入使用O_APPEND,保留原有权限与输出协议。 本轮直接修改并验证实际生产实现,保留仓库原有Huawei版权与CANN许可。没有替换许可证、移除来源信息、屏蔽SCA或降低门禁阈值。SCA以新源流水线实际结果为准。 ## 关联的Issue Fixes [#6591](https://gitcode.com/cann/ops-nn/issues/6591). ## 测试 实际环境:远端Ubuntu22.04.5 x86_64、Python3.12.15、Host回归pytest8.3.2及原生隔离hook固定pytest8.3.5;安装CANN9.1.0。本轮没有执行NPU算子。 - 当前实际生产模块及tests/host完整回归:5项通过,无跳过。新增用例在完整未修改的旧公开生产源上复现失败,修复后通过。 - tiling相关PR对实际生成的完整Host struct/Init进行C++17编译并执行逐字节比较,包括1/4/8/12/13字节尺寸;不代表整个SDK/NPU头编译或设备运行通过。 - Host测试已接入仓库原生pre-commit的隔离Python环境,匹配scripts及tests/host变更;并非仅作者手工执行。 - 最终修改通过正常pre-commit(含ruff/codespell/OAT及Host回归)、正常amend、干净提交树相同回归、diff检查、LFS检查及恢复bundle验证。 当前唯一源提交 60be4500a7581598175c087bd688f0b7c0972374,推送后通过/compile回查当前源CodeCheck、SCA与完整CI。旧源扫描结论不代替新源结果。 ## 文档更新 无文档接口变更;实际修复范围、Host与NPU验证边界如上。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他:生产结构改进、真实回归与原生门禁注册 <!-- maintenance-20261027a --> See merge request: cann/ops-nn!11855 | 13 days ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 18 days ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 18 days ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
update readme Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14732 merge patch into master update readme Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 update readme ## 关联的Issue [#9067](https://gitcode.com/cann/ops-nn/issues/9067) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14732 | 4 days ago | |
update readme Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14732 merge patch into master update readme Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 update readme ## 关联的Issue [#9067](https://gitcode.com/cann/ops-nn/issues/9067) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14732 | 4 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 13 days ago | |
[Docs] 修正文档中指向旧平台 gitee.com 的链接 Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12487 merge docs/fix-stale-platform-link into master [Docs] 修正文档中指向旧平台 gitee.com 的链接 Created-by: gxhgxh2475698 Commit-by: aodebiao;gxhgxh2475698 Merged-by: cann-robot Description: ## 描述 文档中仍有指向旧平台 gitee.com 的链接,共 3 处(SECURITY.md 2 处指向 gitee.com/ascend/pytorch,docs/zh/develop/aicore_develop_guide.md 1 处指向 gitee.com/ascend/samples)。项目源码与社区已迁至 GitCode,旧地址不再是本项目的可用入口。本次更新为对应的 GitCode 地址,链接文字与其余内容不变。 ## 改动内容 1. SECURITY.md:2 处 gitee.com/ascend/pytorch → gitcode.com/Ascend/pytorch 2. docs/zh/develop/aicore_develop_guide.md:1 处 gitee.com/ascend/samples → gitcode.com/cann/cann-samples 共 2 个文件、2 行变更(同一行内的链接替换)。 ## 关联的Issue 修复 #7127([Documentation|文档反馈]: 文档中仍指向旧平台 gitee.com/ascend 的链接(3 处)) ## 测试 纯文档改动,不涉及代码,未运行编译与 UT。 验证方式: - 修改前 grep -rn "gitee.com" --include=*.md SECURITY.md docs/zh/develop/aicore_develop_guide.md 命中 3 处,修改后为 0 处; - 仅替换链接地址,链接文字、章节结构与其余内容未变;改动前后断链数一致。 ## 文档更新 - SECURITY.md - docs/zh/develop/aicore_develop_guide.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12487 | 13 days ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
[feat] 补充valgrind Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !14047 merge valgrind into master [feat] 补充valgrind Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本次改动主要为构建脚本补齐 valgrind 相关支持:在 build.sh 中新增 --valgrind 长选项,使 UT 可在 valgrind 下运行,同时处理该选项与 --asan 的互斥关系,并更新帮助说明。 新增 --valgrind 命令行选项: 在 SUPPORTED_LONG_OPTS 数组中增加 "valgrind",使构建脚本能够识别该长选项。 选项解析逻辑: 在 checkopts() 中新增 valgrind 分支,将其置为 ENABLE_VALGRIND=TRUE,并同时设置 ENABLE_UT_EXEC=FALSE,从而关闭直接执行 UT 的行为。 帮助信息更新: 在 usage() 中补充 --valgrind 的说明,提示其用于以 valgrind 运行 UT,且会禁用 asan 并启用 noexec。 ## 关联的Issue [#6536](https://gitcode.com/cann/ops-nn/issues/6536) ## 测试 本地编译成功 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14047 | 10 days ago | |
chore: softmax 系及 norm 系算子 A5 实现分类规则补登 Co-authored-by: zhuzixian-lr<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !14734 merge chore/classify-hptg1-softmax-a5-20261118 into master chore: softmax 系及 norm 系算子 A5 实现分类规则补登 Created-by: zhuzixian-lr Commit-by: zhuzixian-lr Merged-by: cann-robot Description: ## 描述 本 PR 仅修改 classify_rule.yaml(+29/-2),承接 #14667 未覆盖的存量登记缺口,涉及 8 个责任田算子。 **分层原则(对齐仓内既有分层登记惯例)** - **平台共享层(既有登记保持不动)**:op_api aclnn 入口经 op_executor 分发,非 A5 平台(aicpu 路径)同从其进入;def / infershape 为 GE 级注册(如 IMPL_OP_INFERSHAPE(SoftmaxV2)),任意平台图模式共用 shape 推理 - **A5 专有实现层(本次补登对象)**:op_host/arch35/、op_host/config/ascend950/、op_kernel/arch35/、*_apt.cpp,非 A5 路径不涉及 - 同构例证:仓内 lp_norm_v2 既有登记即按共享层(op_api / def / infershape)与 A5 实现(arch35 / apt / config/ascend950)分层登记、互不重叠 **1. softmax 系 5 算子 A5 实现补登(+19)** softmax_v2 / log_softmax_v2 / softmax_grad / log_softmax_grad / confusion_softmax_grad 各补登 op_host/arch35/、op_kernel/arch35/、*_apt.cpp,其中 4 个含 op_host/config/ascend950/(log_softmax_v2 实仓无此目录)。上述算子为 A5 专属算子(op_kernel 除 *_apt.cpp 外无基础 AscendC 实现),其 A5 实现自 2026-09-14 批量入仓(fc02af1e1c)起始终未登记,本次补齐;op_api / tests / examples 等平台共享层既有条目保持不动。 **2. confusion_softmax_grad 补登 tests / examples(+2)** 该算子此前全表零登记。其 tests / examples 为平台共享层(含 st/arch35 等 A5 专属测试,由目录级条目兜底,与 #14667 对 A5 测试的兜底约定一致),对齐 softmax 家族登记形态补登。 **3. group_norm_v2 补登 5 条** op_host/arch35/group_norm_v2_tiling_arch35.h(与既有 .cpp 行配对)、op_host/config/ascend950/、op_kernel/arch35/、op_kernel/group_norm_v2_apt.cpp、CMakeLists.txt(对齐 lp_norm_v2 / layer_norm_v3 既有形态) **4. lp_norm_v2 补登 3 条、收敛 2 条** 原文件级 dag.h / tiling_struct.h 收敛为目录级 op_kernel/arch35/(含 tiling_key.h);新增 op_host/config/ascend950/、op_kernel/lp_norm_v2_apt.cpp **5. group_norm_grad 无需补登** #14667 已补登 op_host/config/ascend950/,master 上其 A5 源码登记已齐;ascend960pr / ascend960dt 配置目录全仓均无登记(不属本次范围) ## 关联的Issue - #9104(softmax 系及 norm 系算子 A5 实现分类规则补登) ## 测试 - 静态自检:YAML 解析通过;29 条新增路径与 master HEAD 实际文件双向核对(文件存在 / 目录非空),新增幽灵条目 0;softmax 系 5 算子分层归属核验通过(A5 路径与共享层条目互不重叠、无跨段重复);各段内无重复 - 本变更不含算子代码,无编译验证对象 ## 文档更新 无(仅 classify_rule.yaml) ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:算子分类规则登记补齐 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14734 | 2 days ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Co-authored-by: gao19871128<1897001@qq.com> # message auto-generated for no-merge-commit merge: !13020 merge master into master bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Created-by: gao19871128 Commit-by: gao19871128 Merged-by: cann-robot Description: ## 描述 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) ## 关联的Issue [#7675](https://gitcode.com/cann/ops-nn/issues/7675) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13020 | 21 days ago |
🔥Latest News
- [2026/08] Introduced the torch_extension framework, which bridges PyTorch interfaces with the ACLNN operator library through JIT compilation and supports standalone single-operator compilation and packaging (!5910).
- [2026/08] Added new operators SituGlu, SituGluGrad, and SituMxQuant.
- [2026/05] Optimized the kernel compilation configuration items and reduced the simplified_key and ascendc_config configuration files (!3330).
- [2026/05] Introduced ops-tensor, optimized Cube-class operators based on a layered structure, reduced offset computation, and simplified instruction parameters (!5036).
- [2026/05] Released the accuracy acceptance criteria for ecosystem operators (!4572).
- [2026/03] Open-source operators support the next-generation chip: Ascend950PR (!450).
- [2026/03] Added operator development samples for <<<>>> (!620).
- [2026/03] Low-bit operators and fused operators support more data types, such as fp8/mxfp8/hifp8/mxfp4, and support different quantization modes and combinations, including pertensor/perchannel/pertoken/pergroup/perblock: full quantization fused operator: quant_batch_matmul_v4, pseudo-quantization fused operator: weight_quant_batch_matmul_v2.
- [2026/03] Supported the new homogeneous programming operator implementation for SIMD/SIMT: [MapIndex] (#660), [ScatterSub] (#710).
- [2026/01] Added QuickStart, which guides beginners to get started with operator project deployment from scratch (Docker environment supported) and with the operator development and contribution workflows.
- [2025/12] Open-source operators support the Ascend 950PR&950DT products/KirinX90, and you can develop and debug them with the NPU Simulator simulation tool. Optimization guide documents are improved, focusing on the operator development guide, clarifying the minimum deliverables and key sample code, and providing guidance for migrating operators from the Ascend/samples repository to this project. The newly supported sparse 4:2 quantization matmul operator enables hardware acceleration for sparse matrices.
- [2025/11] Newly supported operators: index_fill, masked_scatter, scatter, tf_scatter_add, fused_cross_entropy_loss_with_max_sum.
- [2025/10] Added the experimental directory and improved the contribution guide, so that developers can debug and contribute custom operators.
- [2025/09] The ops-nn project went online for the first time, with open-source operators supporting the Atlas A2/A3 products.
🚀Overview
ops-nn is a high-level operator library in the CANN (Compute Architecture for Neural Networks) operator library that provides neural network computation capabilities. It includes matmul-class, activation-class, and other operators. The architecture of the operator library is as follows:

📌Version Compatibility
The source code of this project is released together with CANN software versions. For the mapping between CANN software versions and the tags of this project, refer to the corresponding version notes in the release repository. Note that to ensure smooth custom development based on the source code, select a compatible CANN version and GitCode tag source code. Using the master branch may cause version mismatch risks.
🛠️Environment Preparation
Environment deployment is a prerequisite for experiencing the capabilities of this project. Install the NPU driver and CANN package first, and ensure the environment works properly.
⬇️Source Code Download
After the environment is ready, download the branch source code that matches the CANN version. The general command is as follows, where ${tag_version} is replaced with the branch tag name. The following uses the download of the 9.0.0 branch source code as an example:
# General command: git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
Note: If the matching branch source code already exists in the environment, you can skip this step. For example, CANNLab provides the source code corresponding to the latest CANN version by default.
📖Learning Tutorials
- Quick start: Quickly experience the core basic capabilities of the project from scratch, covering source code compilation, operator invocation, development, debugging, and other operations.
- Advanced tutorials: If you need to deeply understand project compilation and deployment, operator invocation, development, debugging and tuning, and other capabilities, go to the documentation center for detailed guidance.
💬Related Information
PS: The features and documentation of this project are continuously updated and improved. Stay tuned for the latest version.
- Issue feedback: Submit issues through GitCode Issues.
- Community interaction: Join discussions through GitCode Discussions.
- Technical column: Read technical articles, such as serial tutorials and best practices, through GitCode Wiki.