用于昇腾NPU上的神经网络算子开发、调用与调优,提供matmul、activation等丰富高阶算子,支持fp8等多种数据类型和量化方式,覆盖Atlas及Ascend 950系列芯片,附带算子开发指南与调试工具。【此简介由AI生成】
| Files | Last commit | Last update |
|---|---|---|
check example ut Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !10925 merge master into master check example ut Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 根据pr_filelist检测直接涉及到的算子是否存在example与ut ## 关联的Issue [#6514](https://gitcode.com/cann/ops-nn/issues/6514) ## 测试 本地执行python3 scripts/ci/check_examples_ut.py pr_filelist.txt ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!10925 | 1 month ago | |
feat: 责任田 31 算子批量同步 Ascend960 平台支持 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !11896 merge feat/responsibility-ops-ascend960-clean into master feat: 责任田 31 算子批量同步 Ascend960 平台支持 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 从 ops-nn-dev 基线同步责任田(norm/activation/index)33 算子的 Ascend960 平台支持。 - def 注册目标平台(Ascend960)+ config binary.json - kernel arch35 宏隔离,非目标平台走 #else 原路径零回归 ## 测试 已在 Ascend960 环境完成编译与功能验证。 ## 类型标签 - [x] ✨ Feature 关联 Issue: #6624 See merge request: cann/ops-nn!11896 | 1 month ago | |
fix(tiling): normalize per-op include dir to avoid tiling_obj ARG_MAX overflow Co-authored-by: h9718w<wangchaoyuan10@huawei.com> # message auto-generated for no-merge-commit merge: !11938 merge pr-pypto into master fix(tiling): normalize per-op include dir to avoid tiling_obj ARG_MAX overflow Created-by: h9718w Commit-by: h9718w Merged-by: cann-robot Description: ## 问题 add_tiling_sources 对共享的 ophost_nn_tiling_obj 目标执行 target_include_directories(... PRIVATE ${source_dir}/../../ ${source_dir})。 ${source_dir}/../.. 的原始字符串在每个算子间都不同(即使解析到同一目录), CMake 无法去重,导致该共享目标的 include 列表随算子数线性增长。 实测(ascend950 全量配置)该 target:-I 1203 条、CXX_INCLUDES 71637 字符 (其中 575 条为新增的 .../op_host/../..)。在 CI 的长构建路径下,编译命令超过 单参数上限 MAX_ARG_STRLEN(128KB),触发 /bin/sh: Argument list too long → gmake Error 127 → 构建失败。 ## 修复 归一化父目录后再加入,使其与已有 include 路径重合、可被 CMake 去重,语义不变: get_filename_component(_tiling_parent_inc "${source_dir}/../.." ABSOLUTE) target_include_directories(${OPHOST_NAME}_tiling_obj PRIVATE ${_tiling_parent_inc} ${source_dir}) 实测该 target 的 -I 由 1203 → 629,CXX_INCLUDES 71637 → 35332 字符; 按 CI 路径长≈89 反算,命令由 ~148KB 降到 ~75KB,低于 131072。 > 来源分支:h9718w/ops-nn:pr-pypto,提交 1c0190bbe。 See merge request: cann/ops-nn!11938 | 1 month ago | |
A6代码合入主干 Co-authored-by: xutianlong1<xutianlong1@huawei.com> # message auto-generated for no-merge-commit merge: !11344 merge xtl-121-122 into master A6代码合入主干 Created-by: xutianlong1 Commit-by: xutianlong1 Merged-by: cann-robot Description: ## 描述 卷积反向代码适配A6 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6447 ## 测试 rdv测试 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11344 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
modified md file Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !11921 merge master into master modified md file Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 Optimized the description of the deformable_offsets operator in op_list.md. ## 关联的Issue #6411 ## 测试 Only involves updating the MD document description, does not involve testing. ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11921 | 1 month ago | |
support compile pypto-pro op in ops-nn Co-authored-by: h9718w<wangchaoyuan10@huawei.com> # message auto-generated for no-merge-commit merge: !9638 merge pr-pypto into master support compile pypto-pro op in ops-nn Created-by: h9718w Commit-by: h9718w Merged-by: cann-robot Description: 移植 PyPTO 支持到 ops-nn,包括: 1. cmake/func.cmake: 添加 require_pypto_pro/enable_pypto_kernel 等函数 2. cmake/gen_ops_info.cmake: 添加 PyPTO 构建支持 3. scripts/util/ascendc_impl_build.py: 添加 pypto_compile_op wrapper 4. scripts/util/pypto_codegen.py: 新增 codegen 脚本 5. scripts/util/dependency_parser.py: 注册 pypto_add_example 6. examples/pypto_add_example: 示例算子 See merge request: cann/ops-nn!9638 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
feat(foreach): 9个非V2接口改手写支持非连续输入输出 Co-authored-by: luoyufan7<luoyufan7@h-partners.com> # message auto-generated for no-merge-commit merge: !11956 merge feat/foreach-nonv2-noncontig-output into master feat(foreach): 9个非V2接口改手写支持非连续输入输出 Created-by: luoyufan7 Commit-by: luoyufan7 Merged-by: cann-robot Description: ## 描述 ### 改动原因 O1 图模式/eager 模式存在非连续输入输出场景,以下 9 个接口当前为自动生成实现(无手写 aclnn 层),输出为非连续 tensor 时 kernel 按连续线性布局写入,结果落在错误位置(详见关联 issue)。其同目录的 V2 接口已在前一批次统一切换公共 helper 并支持非连续输出(!11928),本批补齐非 V2 接口。 ### 改动方法 | 接口 | 改造 | |---|---| | aclnnForeachAddScalar / AddcmulScalar / MaximumScalar / MinimumScalar / MulScalar / PowScalar / RoundOffNumber / SubList / SubScalar | 自动生成改手写:复用同目录 V2 l0op 桥接(OP_TYPE_REGISTER 不重复),新建手写 aclnn 层;CMakeLists 由 aclnn 改 aclnn_exclude | - scalar(aclTensor*) 直接透传 V2 桥接,无需 ConvertToTensor - 非连续支持复用 foreach_utils/op_host/foreach_contiguous_helper.h:输入端 ForeachMakeContiguousTensorList,输出端转连续 buffer 计算后 ForeachViewCopyToOutputTensorList 按 stride 回写 - scalar dtype 校验按各算子 def.cpp 的 DtypeScalarToTensor2 映射(FLOAT16→FLOAT16、FLOAT/BFLOAT16→FLOAT32、整型→INT32;RoundOffNumber 的 roundMode 固定 INT8),与自动生成版行为一致 - CheckParams 含 CheckTensorListNotNull + list 长度一致性校验 - kernel/tiling/binary 不变 ## 关联的Issue Closes #6681 ## 测试 - A2(910B3)build.sh --soc=ascend910b --ops=<9算子+foreach_utils> 真机 op 构建:Build binary success - A2 build.sh -u --opapi --soc=ascend910b --ut_mode=fast(本批 + 已合入的 V2 批次回归):79 tests PASSED / 0 FAILED,其中本批 9 个新增非连续输入+非连续输出用例全部通过(六参 TensorDesc 构造 strides/offset/storageShape) - pre-commit 全部 hook 通过(clang-format / cmake-format / codespell / OAT 合规) ## 文档更新 - 9 个接口文档 docs/aclnnForeach<Op>.md:out 的"非连续Tensor"标记由 × 改为 √ ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11956 | 1 month ago | |
fix: Remove unnecessary workspace for init_embedding_hash_table/sigmoid_cross_entropy_with_logits_v2/group_norm/group_norm_silu Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !9867 merge workspace-remove-3 into master fix: Remove unnecessary workspace for init_embedding_hash_table/sigmoid_cross_entropy_with_logits_v2/group_norm/group_norm_silu Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 Ascend 950(arch35)路径下, init_embedding_hash_table、sigmoid_cross_entropy_with_logits_v2、group_norm 和 group_norm_silu 算子未实际使用 workspace,但原实现仍申请或保留了 workspace 相关处理。 本次修改: - 将上述 4 个算子的 workspace 大小设置为 0,避免不必要的内存申请。 - 删除 group_norm 和 group_norm_silu kernel 中未使用的 workspace 判空、用户 workspace 获取及参数传递。 - 统一 workspace 常量命名,并补充相关文件末尾换行。 - 修改仅作用于 Ascend 950(arch35)实现,不影响其他芯片路径。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6122 ## 测试 David冒烟:http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260928_144411817 obp冒烟:http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260929_083012442 ## 文档更新 无文档更新。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!9867 | 1 month ago | |
[Fix] BroadcastGradientArgs InferShape rank 校验放宽为 0D/1D 并修复 rank-0 未初始化读取 Co-authored-by: HelloWord-LuXin<luxin67@h-partners.com> # message auto-generated for no-merge-commit merge: !11756 merge fix-broadcast-gradient-rank-lte1 into master [Fix] BroadcastGradientArgs InferShape rank 校验放宽为 0D/1D 并修复 rank-0 未初始化读取 Created-by: HelloWord-LuXin Commit-by: HelloWord-LuXin Merged-by: cann-robot Description: ## 背景 上一笔合入(!9111,关联 issue #5073)为 BroadcastGradientArgs 的 InferShape 增加了输入 shape tensor 的 rank 校验,要求 x1/x2 必须为 1D,修复了 rank-2 输入静默返回成功的问题。但该约束对 rank-0(标量)输入同样拒绝,而 rank-0 输入在语义上可解释为"空 dim 列表"(对应标量参与广播的场景,如 BroadcastGradientArgs([], [1, 2])),且**不校验时的 rank-0 不是普通的逻辑错误,而是内存安全问题**,因此本 MR 将校验放宽为 0D/1D,并对 rank-0 路径做显式的、定义良好的处理。 ## 问题分析 ### 根因:gert::Shape::GetDim 对空 shape 不设防 gert::Shape::GetDim(idx) 仅在 idx >= kMaxDimNum 时返回 kInvalidDimValue,**不校验 idx < dim_num_**(见 CANN exe_graph/runtime/shape.h)。因此对 rank-0 的 shape 调用 GetDim(0) 读到的是 dims_[0] 的未初始化/残留值,属于未定义行为。 ### 实测验证(原始无校验代码 + ASAN) 用修复前的代码实测 rank-0 输入,得到三种结局: | 场景 | 实测结果 | 危害 | |---|---|---| | 内存恰好清零(如新建对象值初始化) | 返回 SUCCESS,输出"碰巧正确" | UB 被掩盖,纯靠内存运气 | | dims_[0] 残留脏数据 | 静默越界读相邻堆内存,仍返回 SUCCESS,结果碰巧"像对的" | 最危险:无任何报错 | | ASAN 填充堆(模拟真实脏内存) | x1_len 为巨值 → BroadcastGradientArgsTensorCheck 读野指针 → **SEGV 段错误** | 进程崩溃 | 崩溃栈:BroadcastGradientArgsTensorCheck (infershape.cpp:36) ← InferShape4BroadcastGradientArgsImpl (:104) ← InferShape4BroadcastGradientArgs (:156)。 ### 同款隐患存在于 InferShapeRange InferShapeRange4BroadcastGradientArgs 中 x1_range->GetMax()->GetDim(0) 对 rank-0 range 输入存在同样的未初始化读取,会将 outMax 污染为垃圾值(实测读到栈上残留地址值)。此问题为存量问题,本 MR 一并修复。 ## 变更内容 ### 1. op_host/broadcast_gradient_args_infershape.cpp **InferShape 入口:rank 校验放宽 + 结构化日志** cpp // 修改前 if (x1_shape->GetDimNum() != 1 || x2_shape->GetDimNum() != 1) { OP_LOGE(context->GetNodeName(), "x1 and x2 shape tensors must be 1D, got rank %zu and %zu", ...); return ge::GRAPH_FAILED; } // 修改后 if (x1_shape->GetDimNum() > 1 || x2_shape->GetDimNum() > 1) { std::string incorrectDims = std::to_string(x1_shape->GetDimNum()) + ", " + std::to_string(x2_shape->GetDimNum()); OP_LOGE_FOR_INVALID_SHAPEDIMS_WITH_REASON(context->GetNodeName(), "x1, x2", incorrectDims.c_str(), "x1 and x2 shape tensors must be 0D or 1D"); return ge::GRAPH_FAILED; } 错误日志改用社区标准的 OP_LOGE_FOR_INVALID_SHAPEDIMS_WITH_REASON(EZ0013)结构化宏(全仓 609 个文件在用,参考 conv_forward_infershape.cpp),统一句式并上报结构化错误信息。 **InferShape impl:rank-0 显式按长度 0 处理** cpp // 修改前 size_t x1_shape_len = x1_shape->GetDim(0); // rank-0 时读未初始化 dims_[0] // 修改后 size_t x1_shape_len = (x1_shape->GetDimNum() == 0U) ? 0U : static_cast<size_t>(x1_shape->GetDim(0)); **InferShapeRange:同款保护** cpp // 修改前 int64_t x1Max = x1_range->GetMax()->GetDim(0); // 修改后 int64_t x1Max = (x1_range->GetMax()->GetDimNum() == 0U) ? 0 : x1_range->GetMax()->GetDim(0); ### 2. tests/ut/op_host/test_broadcast_gradient_args_infershape.cpp 新增 2 个回归用例: - BroadcastGradientArgs_rank_zero_inputs:x1 标量 + x2={1,2} → 返回成功,y1=[2]、y2=[1](与 TF 语义一致:标量梯度需在全部轴上 reduce,x2 首轴为 1 需 reduce) - rt2_shaperange_test_rank_zero:在 rank-0 的 max range shape 上通过 SetDim(0, 999) 注入残留脏 dim,模拟真实运行时缓冲区脏内存。修复前 outMax 被未初始化值污染,修复后正确取 x2 的 5 ## 范围与兼容性 - 仅修改 InferShape / InferShapeRange(同一文件);tiling(broadcast_gradient_args_tiling_arch35.cpp)与 aclnn(aclnn_broadcast_gradient_args.cpp)仍保持 1D 限制,rank-0 输入无法通过 tiling 到达 kernel,端到端行为安全 - 合法 1D 输入的输出 shape/dtype 推导逐位不变(UT 验证);rank-2 输入仍被拦截,仅错误日志句式变化 - 不改变接口与 ABI ## 测试结果 bash build.sh -u --ophost -f <filelist> -j16(本地,cann-9.0.0-beta.2): - nn_op_host_ut 全部 **23/23 通过**(含 2 个新增 rank-0 用例、既有 rank-1/rank-2 用例及 tiling 全部用例) - 开启 ASCEND_SLOG_PRINT_TO_STDOUT=1 实测拦截日志,输出为标准 EZ0013 句式,信息完整且 dims 顺序与 x1/x2 对应: Parameters x1, x2 of BroadcastGradientArgs have incorrect shape dims 2, 1. Reason: x1 and x2 shape tensors must be 0D or 1D. - 负向验证 1:临时移除 InferShapeRange 保护 → rt2_shaperange_test_rank_zero 确定性失败(outMax 读到栈上垃圾值),证明用例有效 - 负向验证 2:用修复前代码 + ASAN 构建 → 普通 rank-0 用例即触发 SEGV(BroadcastGradientArgsTensorCheck 越界读),复现问题分析中的崩溃路径 ## 关联 Issue - https://gitcode.com/cann/ops-nn/issues/5073 (上一笔 rank 校验修复) See merge request: cann/ops-nn!11756 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
fix: 修复 Ascend 950 AddRmsNorm trans 乘法顺序导致的中间溢出 Co-authored-by: liangyuhua<liangyuhua4@huawei.com> # message auto-generated for no-merge-commit merge: !11953 merge fix/add_rms_norm_torch_golden into master fix: 修复 Ascend 950 AddRmsNorm trans 乘法顺序导致的中间溢出 Created-by: liangyuhua Commit-by: liangyuhua Merged-by: cann-robot Description: ## 描述 修复 Ascend 950 / regbase 的 AddRmsNorm trans 模板中,先计算 xSum * gamma 导致 FP32 中间结果提前溢出的问题。AddRmsNorm 与 InplaceAddRmsNorm 共用该模板。 例如 FP32 输入 x1=2**32、x2=0、gamma=2**100 时,旧顺序先计算 2**132,得到 Inf;先归一化再缩放的正确输出为有限值 2**100。 - 将两次乘法从 (xSum * gamma) * rstd 改为 (xSum * rstd) * gamma,与 full-load、SplitD、SplitAR 及 golden 的顺序一致。 - xSum=x1+x2 和两次乘法继续使用 FP32,中间不转回低精度;仅修改 arch35 trans 模板。 - 分别为 AddRmsNorm、InplaceAddRmsNorm 添加一条 FP32 溢出回归用例:A=28673, R=1, epsilon=1e-6, tilingKey=4000。不修改已合入的 golden、精度门限、tiling 或其他芯片实现。 基于本次从官方主线获取的 6a974e237106d696582924758b0f16170a0a86b3,本 PR 仅含上述 3 个文件的变更。 ## 关联的Issue Fixes #6679 https://gitcode.com/cann/ops-nn/issues/6679 ## 测试 环境:Ascend 950PR_9579,CANN 9.2.0;构建使用 -j8,TTK kernel 测试显式使用 --pc=1、Promote 和默认精度门限。 - 主线基线与修复版本均已重新编包,并核对上板加载路径确实指向各自的 vendor 二进制。 - 同输入上板冒烟 54 条:基线 28 PASS / 26 FAIL,修复后 52 PASS / 2 FAIL。其中 24 条 FP32/BF16 溢出用例全部由 FAIL 转为 PASS;剩余 2 条是主线同样失败的 FP16 近零精度用例,位于未改动的 full-load / SplitD 路径,未放宽门限。 - 本地定向 CI 已通过:pre-commit、OAT、950 编译及 Host UT 30 条、OpAPI UT 18 条。Graph UT 没有实际用例,Kernel UT 仅完成构建/入口检查,不计为上板精度覆盖。 - 性能复用同日已完成的 12 组 trans 对照(FP16/BF16/FP32、4 组 shape、每组 5 次 msprof op 采样):平均耗时变化 -0.19%,单组最大增加 4.49%。最新编包的基线/修复共 12 个内核二进制 SHA256 与该轮受测产物一致,相关 tiling 源码相同;本次未重新采集性能。 - **仍在运行:4,024 条完整泛化测试及失败用例的主线同输入复测、CannbotHarness 静态审查。以上结果尚未完成,当前不能据此声称全量测试或审查通过;完成后补充。** ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11953 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
fix(fake_quant_with_min_max_vars_gradient): def 输出名与CANN原型对齐 Co-authored-by: zhoulong50_hw<zhoulong50@huawei.com> # message auto-generated for no-merge-commit merge: !11925 merge fix/fake_quant_with_min_max_vars_gradient-align-builtin-io into master fix(fake_quant_with_min_max_vars_gradient): def 输出名与CANN原型对齐 Created-by: zhoulong50_hw Commit-by: zhoulong50_hw Merged-by: cann-robot Description: ## 描述 将fake_quant_with_min_max_vars_gradient的输出数据命名改为与原型仓一致,使geir通路能正常执行。 ## 关联的Issue [fake_quant_with_min_max_vars_gradient的geir通路有问题](https://gitcode.com/cann/ops-nn/issues/6689) ## 测试 算子二级冒烟通过,geir通路已可以正常跑通。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11925 | 1 month ago | |
删除查看源码 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !12004 merge master into master 删除查看源码 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 删除查看源码 ## 关联的Issue 关联Issue [#6694](https://gitcode.com/cann/ops-nn/issues/6694) ## 测试 无需测试 ## 文档更新 删除文档中的查看源码链接 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12004 | 1 month ago | |
feat(foreach): 五个算子支持Ascend960 Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !11785 merge cann-out into master feat(foreach): 五个算子支持Ascend960 Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 以下五个算子适配Ascend960DT: - ForeachMulScalar - ForeachMulScalarList - ForeachNonFiniteCheckAndUnscale - ForeachNorm - ForeachSqrt ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6671 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> Ascend960DT编译验证通过。 David冒烟:http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20261013_175845883 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11785 | 1 month ago | |
[fix] 补齐10个源文件缺失的版权声明头 Co-authored-by: tangweiwei<tangweiwei2@huawei.com> # message auto-generated for no-merge-commit merge: !11663 merge fix/missing-copyright-headers into master [fix] 补齐10个源文件缺失的版权声明头 Created-by: tangweiwei2 Commit-by: tangweiwei Merged-by: cann-robot Description: ## 描述 全仓版权头扫描(排除 experimental 目录,基线 master@9e3fffdfb)发现 10 个 .cpp 文件完全缺失版权声明头,不符合仓库版权规范(CANN Open Software License Agreement Version 2.0,参见根目录 OAT.xml 扫描规则)。 本 PR 按仓库标准版权头模板为以下 10 个文件补齐声明,版权年份与文件首次提交年份保持一致: - 2026 年新增(2 个): - activation/elu/tests/ut/op_kernel_aicpu/test_elu.cpp - index/reverse_sequence/tests/ut/op_kernel_aicpu/test_reverse_sequence.cpp - 2025 年新增(8 个): - tests/ut/op_api/op_api_ut_common/src/array_desc.cpp - tests/ut/op_api/op_api_ut_common/src/inner/c_shell.cpp - tests/ut/op_api/op_api_ut_common/src/inner/file_io.cpp - tests/ut/op_api/op_api_ut_common/src/inner/rts_interface.cpp - tests/ut/op_api/op_api_ut_common/src/inner/types.cpp - tests/ut/op_api/op_api_ut_common/src/op_api_ut.cpp - tests/ut/op_api/op_api_ut_common/src/scalar_desc.cpp - tests/ut/op_api/op_api_ut_common/src/tensor_desc.cpp 仅前置版权头(每文件 +10 行),不改动任何代码逻辑,对编译与测试无影响。 ## 关联的Issue 关联Issue #6454 ## 测试 - 逐文件核对:前置后首行为 /**,版权年份与首次提交年份一致,无重复头。 - git diff --stat 确认仅 10 个文件、每文件仅 +10 行(9 行声明 + 1 行空行)。 - 纯注释改动,无 ABI/运行行为变化,无需运行用例。 ## 文档更新 无需更新文档 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11663 | 1 month ago | |
fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !10891 merge fix/add-rms-norm-quant-public-entry-validation into master fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: ## 关联 issue fixes #6055 ## 问题 顶层入口 cann_ops_nn.add_rms_norm_dynamic_quant(文档单算子示例路径)解析为 dispatcher OpOverloadPacket,标量参数在进入算子代码前被 schema 静默归一化(torch.int4 -> 40、torch.uint7 -> 36、np.int64(36) -> 36 等)。torch.uint6/uint7/int4/int5 四个 dtype 的序号恰好完整覆盖合法 dst_type 值域 {35,36,40,41},导致传入非 int 类型完全不报错、静默按"碰巧"的量化类型执行,与约束说明承诺的入口 TypeError 不符。详见 #6055。 ## 修改内容 1. torch_extension/cann_ops_nn/ops/norm/add_rms_norm_dynamic_quant/add_rms_norm_dynamic_quant.py 拆分 PrivateUse1 kernel(原逻辑逐字保留)与公开入口 add_rms_norm_dynamic_quant:先 _validate_arg_types 校验**原始**参数,再委托 torch.ops.cann_ops_nn.add_rms_norm_dynamic_quant 分发;公开入口携带 _cann_ops_nn_public_entry_ 标记。 2. torch_extension/cann_ops_nn/__init__.py __getattr__ 优先导出带标记的公开入口(而非 dispatcher 句柄);未携带标记的算子保持原行为——opt-in 机制,对其余算子零影响。 3. norm/add_rms_norm_dynamic_mx_quant/tests/ut/torch_extension/test_torch_extension_param_validation.py 入口结构锁定用例更新为断言"公开入口 + 与 raw 入口同一函数对象"(标量拦截覆盖经同一性断言传递至既有用例);删除与 test_scalar_type_interception 完全重复(同函数×同 7 个坏值×同断言)的参数化用例。 4. norm/add_rms_norm_dynamic_mx_quant/docs/torchapi_add_rms_norm_dynamic_quant.md 约束说明修正严格校验适用入口(补充顶层入口;dispatcher 归一化说明限定为直接经 torch.ops 调用场景);两个调用示例改为打印 shape/dtype,避免大 shape 输出刷屏。 ## 为什么委托 torch.ops 而非直调 C++ 模块 保证图模式行为不变:torch.compile 下 Dynamo 将公开入口内联后,torch.ops 调用仍作为 FX 图节点(实测 node.target 与修复前同为 OpOverloadPacket、逐节点一致),graph_convert 注册的 torchair GE 转换不受影响;若直调 C++ 模块则会在 builder.load() 处 graph break,图模式静默退化为 eager(mxscale dtype 等文档承诺行为改变)。 ## 验证(Ascend 950PR 实测) - 参数校验 UT:**42 passed**(meta/CPU,设备无关) - NPU UT test_torch_extension.py:**113 passed** - 文档 eager 示例路径实测:torch.int4/uint6/uint7/int5、torch.float8_e5m2/e4m3fn、np.int64/np.int32、36.0、"36"、True 全部抛指名 TypeError(如 dst_type must be a Python int (35=FP8_E5M2, 36=FP8_E4M3FN, 40=FP4_E2M1, 41=FP4_E1M2), but got torch.dtype: torch.int4);dst_type=36 正常输出 float8_e4m3fn (4,64),示例新打印语句输出与返回值说明表一致 - 图模式:FX 图与修复前逐节点一致;graph(trace) 与 eager 数值 torch.equal 为 True;torch.compile 下传 torch.int4 在 trace 阶段即 TypeError - pre-commit run(ruff check / ruff format / codespell / OAT 等)全部通过,零自动改动 ## 兼容性 - eager 合法调用(Python 原生 int/str/bool/float、IntEnum)行为不变 - torch.ops.cann_ops_nn.* 直调路径行为不变(框架归一化 + 值域兜底,文档已说明) - 其余算子顶层入口解析行为不变(仅带标记的公开入口生效) See merge request: cann/ops-nn!10891 | 1 month ago | |
fix(golden): 规范四个 NN 算子的 CPU 真值与 Torch 标杆 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !11783 merge fix/golden-three-leg-contract-20261012 into master fix(golden): 规范四个 NN 算子的 CPU 真值与 Torch 标杆 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 修正 INTrainingReduceV2、NormalizeBBox、Relu6Grad、SGD 的 Golden,使其遵循 TTK 三腿比对与 Golden 编写规范。仅修改 4 个 tests/assets/golden.py。 - CPU Promote 直接使用框架下发的浮点类型,不再自行升精度或按输出元信息转换;INTrainingReduceV2 在普通模式按 FP32 计算并输出。 - GPU 标杆统一为 Torch,移除 TF provider。Relu6Grad 的 FP16/BF16 标杆在 FP32 计算后还原输出类型。 - Relu6Grad kernel/GEIR 的 CPU Golden 使用 TensorFlow Select 组合;TF E2E 复用 TTK 默认 CPU 原生 TF 通路及框架 Promote。Torch E2E 标杆保留 TF 乘掩码语义,区别于 kernel 的 Select 语义。 - 保留既有 kernel/GEIR、legacy 注册和全部输出 dtype 的 tolerance。算子实现、Host、Parser 和 TTK 均无改动。 ## 关联的Issue Closes #6534 https://gitcode.com/cann/ops-nn/issues/6534 ## 测试 - Golden CPU 回归 199/199 通过,基线为 32695b8b95ae266a9e5962925a6b9654098789de。 - 同一固定输入运行主线和整改版,另用独立参考校验整改结果;覆盖 FP16/BF16/FP32、Promote FP32/FP64、边界/非有限值、NormalizeBBox 反转布局与空输入、SGD 属性组合及无写回槽的位模式。 - 使用当前工作目录 TTK 的真实 TestSpec loader、参数绑定和 CPU Golden 模块检查注册、完整 dtype tolerance、Relu6Grad TF E2E 的普通及 Promote 默认通路。 - pre-commit run --files <本次4个golden.py>、git diff --check 通过。 - Torch GPU 标杆的 Python 组合在 CPU 执行验证;未执行 NPU/远程 GPU、算子性能或算子精度测试。本轮本地 CI 结果见下文。 预期变化:INTrainingReduceV2 普通模式不再额外 FP64 累加;Relu6Grad Promote 保留 FP64 结果;低精度 Torch 标杆窄回;TF E2E 普通模式不再无条件升精度。Relu6Grad 的 kernel 与原生 TF E2E 在带外 NaN/Inf 梯度下的既有语义差异分别保留,本 PR 不修改算子处理。 ## 文档更新 当前工作目录保留整改报告、主线 Golden 快照、可复现脚本和逐项结果;仓库文档未修改。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 ## 输入输出自查 修复 Relu6Grad 在标量输入下返回 NumPy scalar 的兼容问题,使用 np.asarray(output.numpy()) 保持原来的零维 ndarray,不转换 dtype 或改变数值。新增 legacy/Spec 的签名、返回容器、输出数量/顺序/shape/dtype、输入不被改写、Promote 元信息及真实 TTK 服务端 CPU 参数绑定检查。默认 TF E2E 标量输出另经真实 TTK 比对器验证兼容。 两仓累计 Golden CPU 自查 **447/447** 通过,本仓 **199/199**。未执行 NPU/远程 GPU、算子性能或算子精度测试。当前受检 HEAD:bc343e1d4ce2903950004650db77537d86bc4f4d。 ## 本地 CI 统一入口 /workspace/CI-skills/ci_local_check.sh 定向检查通过;pre-commit、隔离 oat-py 1.0.3、Ascend 950 与 A2(ascend910b)定向 package/UT 已通过。构建并行度最多 8,使用任务目录内 CANN_Revise 的 0923 Toolkit/ops。 受测 HEAD:bc343e1d4ce2903950004650db77537d86bc4f4d;rebase 主仓 master:6a9298a10aed1c98836aa3c93a96c2ac6b819ccc;本轮 CI 基线快照:2c28f2ba5426ac80347ccedc6ffa3f5a92f0db4c。每仓相对 rebase 基点仅 1 个提交,squash 前后完整 diff 和 tree 一致,7 个 Golden 内容不变。 覆盖边界:下列定向 UT 阶段未执行用例(0 项或仅构建目标):opapi/ascend950、opkernel/ascend950、opapi/ascend910b、opkernel/ascend910b。不将这些阶段的构建通过计为用例覆盖。 线上 CI 触发凭据:https://gitcode.com/cann/ops-nn/merge_requests/11783#note_193365204。仅记录已触发请求/现有任务,不表示线上 CI 已通过。 See merge request: cann/ops-nn!11783 | 1 month ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
einsum_pass图融合开源 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9312 merge einsum_pass into master einsum_pass图融合开源 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 einsum_pass图融合开源+资料开源,资料涉及公式label,会误判为拼写错误,同步添加检查白名单 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6241 ## 测试 门槛用例验证 ## 文档更新 matmul/batch_mat_mul_v3/docs/EinsumPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:融合算子开源 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9312 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
工程框架支持兼容arch配置 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !11603 merge master into master 工程框架支持兼容arch配置 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 ### 变更摘要 本 PR 围绕 “arch” 主题,将原先以 socVersion(芯片版本号)为核心的构建匹配机制统一改为基于 npuArch 的匹配,并新增了供 bash 等外部脚本查询 CMake 变量与函数的脚本化入口。核心做法是新增 socVersion 到 npuArch 的映射定义与查询函数,在 add_modules_sources、add_kernel_sources、add_all_modules_sources 中引入 NPU_ARCH 参数(旧 COMPUTE_UNIT/COMPUTE_UNITS 作为兼容参数逐项转换为 npuArch),并让 build.sh 通过 cmake/query.cmake 获取芯片列表与 arch 值,替代原先硬编码的 SOC_TO_ARCH 映射。 ### 主要改动 * 新增 socVersion 与 npuArch 映射定义: 新增 cmake/soc_arch_variables.cmake,定义按位置一一对应的 ASCEND_ALL_COMPUTE_UNIT 与 SOC_TO_ARCH_VALUES,并去重生成 NPU_ARCH_LIST。 * 新增脚本化查询入口: 新增 cmake/query.cmake,支持缺省按 socVersion 查询 npuArch、Func 调用 get_npu_arch_by_soc_version、Value 查询变量三种用法,并通过 2>&1 输出供 bash 分词捕获。 * 新增 npuArch 转换函数并扩展构建接口: 在 cmake/func.cmake 中新增 get_npu_arch_by_soc_version,并在 add_modules_sources、add_kernel_sources、add_all_modules_sources 中新增 NPU_ARCH 参数,按 arch 统一匹配 tiling 目录与 op_kernel 支持芯片范围,旧 COMPUTE_UNIT(S) 保持兼容转换。 * 改造 build.sh 的芯片与 arch 获取方式: build.sh 移除硬编码的 SOC_TO_ARCH 映射,改为通过 cmake -P ${BASE_PATH}/cmake/query.cmake 查询 ASCEND_ALL_COMPUTE_UNIT 及指定 unit 的 arch,并将结果用于 SUPPORT_COMPUTE_UNIT_SHORT 与 SIMULATOR_PATH 拼接 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11603 | 1 month ago | |
chore(classify): 登记新算子 thnn_fused_gru_cell_grad / thnn_fused_gru_cell分类规则 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !11091 merge classify-rule-thnn-fused-gru-cell-grad into master chore(classify): 登记新算子 thnn_fused_gru_cell_grad / thnn_fused_gru_cell分类规则 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: ## 描述 登记新算子 thnn_fused_gru_cell_grad 分类规则。需要单独优先提交。 按检视意见(classify_rule.yaml:270 [Major])补齐 gru 族**前向算子**登记,与 lstm 族(前向+反向成对)保持一致: - ops/ops-nn/rnn/thnn_fused_gru_cell/(生产代码,置于 thnn_fused_gru_cell_grad/ 之前,对齐 lstm 前向→反向顺序) - ops/ops-nn/rnn/thnn_fused_gru_cell/tests/ 与 examples/(测试代码不进交付) 前向算子登记由本 PR 一并覆盖,无其它 PR 负责。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:登记新算子 thnn_fused_gru_cell / thnn_fused_gru_cell_grad 分类规则。需要优先独立提交才能支持文件夹配置方式 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11091 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
upgrade version 9.2.0 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !9513 merge master into master upgrade version 9.2.0 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 upgrade version 9.2.0 ## 关联的Issue [#5362](https://gitcode.com/cann/ops-nn/issues/5362) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述: 版本更新 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9513 | 2 months ago |
🔥Latest News
- [2026/05] 优化kernel编译配置项,减少simplified_key和ascendc_config配置文件(!3330)。
- [2026/05] 引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和简化指令参数(!5036)。
- [2026/05] 发布生态算子的精度验收标准(!4572)。
- [2026/03] 开源算子支持下一代芯片:Ascend950PR(!450)。
- [2026/03] 新增<<<>>>的算子开发样例(!620)。
- [2026/03] 低bit类算子和融合算子支持更多数据类型:fp8/mxfp8/hifp8/mxfp4等,并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式:全量化融合算子:quant_batch_matmul_v4,伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现:[MapIndex](#660),[ScatterSub](#710)。
- [2026/01] 新增QuickStart,指导新手零基础入门算子项目部署(支持Docker环境)、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90,可以通过NPU Simulator仿真工具开发调试;优化指南类文档,聚焦算子开发指南,明确最小交付件和关键示例代码,针对Ascend/samples仓算子提供迁移本项目的指导;新支持稀疏4:2量化matmul算子,针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录,完善贡献指南,支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线,开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN(Compute Architecture for Neural Networks)算子库中提供神经网络计算能力的高阶算子库,包括matmul类、activation类等算子,算子库架构图如下:

📌版本配套
本项目源码会跟随CANN软件版本发布,关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意,为确保您的源码定制开发顺利进行,请选择配套的CANN版本与Gitcode标签源码,使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提,请先完成NPU驱动、CANN包安装等,确保环境正常。
⬇️源码下载
环境准备好后,下载与CANN版本配套的分支源码,通用命令如下,${tag_version}替换为分支标签名。以9.0.0分支源码下载为例:
# 通用命令:git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明:若环境中已存在配套分支源码,可跳过本步骤,例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS:本项目功能和文档正在持续更新和完善中,欢迎您关注最新版本。
Introduction
用于昇腾NPU上的神经网络算子开发、调用与调优,提供matmul、activation等丰富高阶算子,支持fp8等多种数据类型和量化方式,覆盖Atlas及Ascend 950系列芯片,附带算子开发指南与调试工具。【此简介由AI生成】
Customize your domain