本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
ci(workflows): fix compile comment trigger regex Co-authored-by: wangyunxiang<wangyunxiang6@h-partners.com> # message auto-generated for no-merge-commit merge: !12345 merge fix/compile-trigger-regex into master ci(workflows): fix compile comment trigger regex Created-by: wangyunxiang1 Commit-by: wangyunxiang Merged-by: cann-robot Description: ## 变更说明 将 PR 评论触发编译的正则从 '^(?:\/)?compile*' 统一修改为 '^/?compile(@\S+)?$'。 旧正则问题: 1. * 作用于字符 e(compile 后可跟任意个 e),并非匹配任意后缀; 2. 未做行尾锚定,任何以 compile 开头的评论(如 compiler、compile 请重跑)都会误触发编译流水线;且不支持 @机器人 语法。 新正则精确匹配 compile / /compile,允许可选的 @用户名 后缀。 See merge request: cann/ops-nn!12345 | 19 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Co-authored-by: wuxuening<wuxuening2@huawei.com> # message auto-generated for no-merge-commit merge: !13255 merge br_5162_series_rename into master feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Created-by: wuxuening Commit-by: wuxuening Merged-by: cann-robot Description: ## 描述 **1. 区分 5162 芯片 soc 版本与短名/series 命名**(对齐 MC62/Ascend950 惯例): - soc 版本:保留 Ascend5162A/ascend5162a;短名/series:ascend5162a 更名为 ascend5162 **2. 新增 IsSimtSupported 平台 SIMT 能力查询函数**(common/inc/op_host/tiling_util.h): - 架构白名单 {DAV_3510, DAV_5102, DAV_9201, DAV_9202}(Ops::Base:: 前缀,经 opbase op_const_def.h 解析),DAV_5162 等无 SIMT 硬件的架构返回 false - TilingParseContext/TilingContext 双重载,与 IsRegbaseSocVersion 同款模式,供算子 tiling 运行时分流 SIMT/SIMD 分支(参考 cann/opbase PR #1065 评审意见) ## 测试 - pre-commit 全量 hook 通过 - IsSimtSupported g++ 语法校验与双重载实例化 0 error ## 文档更新 无 See merge request: cann/ops-nn!13255 | 18 days ago | |
feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Co-authored-by: wuxuening<wuxuening2@huawei.com> # message auto-generated for no-merge-commit merge: !13255 merge br_5162_series_rename into master feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Created-by: wuxuening Commit-by: wuxuening Merged-by: cann-robot Description: ## 描述 **1. 区分 5162 芯片 soc 版本与短名/series 命名**(对齐 MC62/Ascend950 惯例): - soc 版本:保留 Ascend5162A/ascend5162a;短名/series:ascend5162a 更名为 ascend5162 **2. 新增 IsSimtSupported 平台 SIMT 能力查询函数**(common/inc/op_host/tiling_util.h): - 架构白名单 {DAV_3510, DAV_5102, DAV_9201, DAV_9202}(Ops::Base:: 前缀,经 opbase op_const_def.h 解析),DAV_5162 等无 SIMT 硬件的架构返回 false - TilingParseContext/TilingContext 双重载,与 IsRegbaseSocVersion 同款模式,供算子 tiling 运行时分流 SIMT/SIMD 分支(参考 cann/opbase PR #1065 评审意见) ## 测试 - pre-commit 全量 hook 通过 - IsSimtSupported g++ 语法校验与双重载实例化 0 error ## 文档更新 无 See merge request: cann/ops-nn!13255 | 18 days ago | |
dvlite soc adaptive Co-authored-by: oah28<wujiahao37@huawei.com> # message auto-generated for no-merge-commit merge: !12923 merge dvlite into master dvlite soc adaptive Created-by: oah28 Commit-by: oah28 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dvlite(Ascend350)SOC 适配:为 33 个算子启用 ascend350 计算单元支持。 Ascend350 与 Ascend950 同为 DAV_3510 架构(regbase),共用 arch35 tiling 与 kernel 源码, 本次按仓内既有 ascend350 适配模式批量扩展: 1. **算子注册**(32 个 *_def.cpp):新增 AICore().AddConfig("ascend350", config), 复用 ascend950 同配置对象(含 apply_adam_w_quant 回归框架默认 opFile 名,与 kernel 入口 apply_adam_w_quant 一致)。 2. **构建配置**:各算子 op_host/op_kernel CMakeLists 的 SUPPORT_COMPUTE_UNIT / COMPUTE_UNIT(S) 增加 "ascend350",TILING_DIR 复用 arch35。 3. **静态二进制**:新增 19 个 op_host/config/ascend350/*_binary.json(与 ascend950 版 逐字段一致)及 2 个 ascend350/*_simplified_key.ini(adam_apply_one_assign、 fake_quant_with_min_max_args_gradient)。 4. **op_api 平台判断适配**(8 个文件):将 GetSocVersion() 硬编码 switch/if 统一改为 GetCurNpuArch() 判断,消除新增 SOC 的遗漏点: - foreach_abs/asin/neg/sign/tanh:DAV_2201 || IsRegbase(curArch) - softshrink_backward:DAV_1001 || DAV_2002 || DAV_3002 → 910 dtype 列表 - ada_layer_norm_backward:DAV_2201 || IsRegbase(curArch) 选择 grad 计算路径 - index_check:!= DAV_2201 && !IsRegbase(curArch) 决定是否跳过检查 5. **全局 kernel 编译配置**:ascendc_config.json 为 ForeachAsin/AddcdivList/SubScalarInplace/ Tanh/Exp/Abs/Sign/Neg/MaximumScalar/LambUpdateWithLrV2/ScatterMin 11 个条目补充 ascend350 compute_units 及对应 compile_options。 涉及算子(33): FastGeluV2、HardSigmoid、SoftShrinkGrad、NPUClearFloatStatus、IndexCheck、ScatterMin、 ForeachAbs/AddcdivList/Asin/Exp/MaximumScalar/Neg/Sign/SubScalarInplace/Tanh(9)、 SigmoidCrossEntropyWithLogitsGrad、SigmoidFocalLoss、AdaLayerNormGrad、 BN3DTrainingReduceGrad、BNTrainingUpdateGrad、INTrainingUpdateV2、L2NormalizeGrad、 AdamApplyOneAssign、ApplyAdamV2、ApplyAdamWQuant、ApplyProximalGradientDescent、 FusedMulApplyKerasMomentum、InplaceApplyFtrl、LambUpdateWithLrV2、SGD、 SparseApplyAdagradV2、Dequantize、FakeQuantWithMinMaxArgsGradient ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> Issue [#7724](https://gitcode.com/cann/ops-nn/issues/7724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟通过,测试结果与950一致 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12923 | 22 days ago | |
refactor(conv3d_backprop_filter_v2): 精简确定性 UB2GM 头文件至 500 行以内 Co-authored-by: zjls10<zhangjiahui70@huawei.com> # message auto-generated for no-merge-commit merge: !13245 merge big-header into master refactor(conv3d_backprop_filter_v2): 精简确定性 UB2GM 头文件至 500 行以内 Created-by: zjls10 Commit-by: zjls10 Merged-by: cann-robot Description: ## 描述 conv3d_backprop_filter_v2 arch35 kernel 的确定性 UB+GM 搬运编排头文件 op_kernel/arch35/conv3d_backprop/impl/conv_bp_sub_func_deterministic_ub2gm.h 总行 599、纯代码行(去注释与空行)509,超出单文件 500 行规模约束。文件内存在大量可无损压缩的重复模式:7 处完全相同的 HardEvent: \V MTE3/MTE3_MTE2 事件同步三连(共 21 行)、void 函数尾部冗余 return、if 赋值形式的尾块计算(可三元化)等,均可在行为零变化前提下精简。该仓此前已有同类治理(8aa6bae6a 拆分 deterministic 头文件解决超大头文件问题)。 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue 关联Issue [#7916](https://gitcode.com/cann/ops-nn/issues/7916) <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 1982 RDV+CUSTOM ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:cleancode ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13245 | 18 days ago | |
Revert "modulate_grad无原型,仅支持aclnn,删除README.md"(回撤 #9177) Co-authored-by: babeiee<125106023003@njust.edu.cn> # message auto-generated for no-merge-commit merge: !12478 merge revert-pr-9177 into master Revert "modulate_grad无原型,仅支持aclnn,删除README.md"(回撤 #9177) Created-by: babeiee Commit-by: babeiee Merged-by: cann-robot Description: ## 描述 回撤已合入的 PR #9177,恢复被删除的 vfusion/modulate_grad/README.md 文档,并在 docs/zh/op_list.md 中补登 modulate_grad 算子条目(统一在本 PR 中处理)。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7103 回撤对象:https://gitcode.com/cann/ops-nn/pull/9177 ## 测试 纯文档变更(恢复 README.md、登记 op_list.md),无代码逻辑变更,无需测试。 ## 文档更新 - 恢复 vfusion/modulate_grad/README.md(113 行)。 - docs/zh/op_list.md 新增 modulate_grad 登记:vfusion 分类,op_kernel/op_host/op_api 均为 ✓,无原型(op_graph ✗),仅支持 aclnn 调用,AI Core 执行。 ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12478 | 18 days ago | |
perf(conv): IterOrder/DisContinuous 从编译期模板改为运行时读取, 裁剪 conv2d_v2/conv3d_v2 tilingkey Co-authored-by: weiyan_hw<weiyan28@huawei.com> # message auto-generated for no-merge-commit merge: !10999 merge fix/conv2d-tilingkey-cleanup into master perf(conv): IterOrder/DisContinuous 从编译期模板改为运行时读取, 裁剪 conv2d_v2/conv3d_v2 tilingkey Created-by: weiyan_hw Commit-by: weiyan_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> IterOrder/DisContinuous 从编译期模板改为运行时读取, 裁剪 conv2d_v2/conv3d_v2 tilingkey ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6519](https://gitcode.com/cann/ops-nn/issues/6519) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> rdv验证通过,卷积kernel编译时长降低40% ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!10999 | 21 days ago | |
fix: BatchNormReduceBackward 修复 mean/invstd/weight 校验缺失与空 Tensor输出修复 Co-authored-by: gcw_mJtIrnnZ<wuyifan67@h-partners.com> # message auto-generated for no-merge-commit merge: !13348 merge fix/bn-reduce-backward-7104-7106 into master fix: BatchNormReduceBackward 修复 mean/invstd/weight 校验缺失与空 Tensor输出修复 Created-by: gcw_mJtIrnnZ Commit-by: gcw_mJtIrnnZ Merged-by: cann-robot Description: ## 描述 BatchNormReduceBackward 修复 mean/invstd/weight 校验缺失与空 Tensor输出修复 ## 关联的Issue 关联Issue [#7104](https://gitcode.com/cann/ops-nn/issues/7104) 、关联Issue [#7105](https://gitcode.com/cann/ops-nn/issues/7105) 、关联Issue [#7106](https://gitcode.com/cann/ops-nn/issues/7106) ## 测试 UT测试通过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13348 | 19 days ago | |
[Feat] foreach: 补齐 6 个算子的 Ascend350 中央注册与 ST golden 参考实现 Co-authored-by: wenqi_wu<wenqiwu0628@163.com> # message auto-generated for no-merge-commit merge: !13513 merge foreach_ascend350_config_golden into master [Feat] foreach: 补齐 6 个算子的 Ascend350 中央注册与 ST golden 参考实现 Created-by: wenqi_wu Commit-by: wenqi_wu Merged-by: cann-robot Description: ## 描述 补齐 6 个 foreach 算子的 Ascend350(DVLite) 中央 binary 注册与 ST golden 参考实现。 **中央 binary 配置**( scripts/kernel/binary_config/ascendc_config.json) - 6 个算子的 compute_units 补充 ascend350:ForeachDivList、ForeachAddcdivScalar、ForeachLog10、ForeachMinimumScalar、ForeachReciprocal、ForeachSubScalarList - 其中 div_list / addcdiv_scalar 的 350 适配(CMakeLists / def.cpp / config/ascend350)已在前序 PR 合入,本 PR 的配置项即时生效 - log10 / minimum_scalar / reciprocal / sub_scalar_list 的 350 适配在 PR #12744 评审中,**建议该 PR 合入后再合入本 PR**(配置项才能生效) **ST golden 参考实现** - 新增 6 个算子的 tests/assets/golden.py,对齐 foreach 族既有 24 个 assets 约定(spec 注册 + numpy/torch 双实现 + 容差表) - 含标准 CANN OSL v2 许可头(OAT 校验通过) ## 关联的Issue - #8029 https://gitcode.com/cann/ops-nn/issues/8029 ## 测试 - 静态检查:pre-commit 全部 hook 通过(含 OAT 许可头校验),7 文件 - 配置:ascendc_config.json JSON 语法校验通过 - golden:6 个 golden.py py_compile 语法检查通过 - 既有 UT 不受影响(本 PR 仅改中央配置与新增 assets,不改算子实现代码) ## 文档更新 - 无文档变更(golden.py 为新增参考实现文件,含 docstring 自描述) ## 类型标签 - [x] 新特性 - [ ] Bug修复 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13513 | 18 days ago | |
更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12429 merge codex/init-embedding-hash-table-initializer-mode-20261021 into master 更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 更正 InitEmbeddingHashTable README 中的 initializer_mode 取值 InitEmbeddingHashTable 的 README 将常量初始化模式写为 const,而 Host 实现只接受 constant,按文档配置会被判为非法模式。已将 README 的初始化模式说明更正为 random、constant,并修正 constant_value 的生效条件。静态核对及补丁检查通过。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6992 See merge request: cann/ops-nn!12429 | 26 days ago | |
fix(scatter): 修复 ScatterElementsV2 静态编译 tiling const 丢失 Co-authored-by: zzy1205<zhangzhengyi8@huawei.com> # message auto-generated for no-merge-commit merge: !13499 merge fix/scatter-static-const into master fix(scatter): 修复 ScatterElementsV2 静态编译 tiling const 丢失 Created-by: zzy1205 Commit-by: zzy1205 Merged-by: cann-robot Description: ## 描述 修复 A2/A3 路径的 ScatterElementsV2 在固定 shape 编译时丢失 tiling const 限定的问题。CANN 将静态 tiling 生成为 static constexpr ScatterElementsV2TilingData,kernel 入口却将其地址赋给非 const 指针,导致在 CompileStage.INFERCHANNEL 报错: text scatter_elements_v2.cpp:86:45: error: cannot initialize a variable of type 'ScatterElementsV2TilingData *__restrict' with an rvalue of type 'const ScatterElementsV2TilingData *' 入口 tilingDevice 和 ExecScatterOp、ExecScatterOpImpl、ExecLegacyScatterOp、ExecCacheScatterOp 的 tiling 参数统一改为 const 指针,共五处。底层计算类的 Init 已接受 const 指针。计算逻辑、tiling 布局和公开接口均不变,无 const_cast。 新增 tests/st/arch22/test_static_compile.py,通过真实 CANN 编译器编译固定 shape,允许复用输出根目录,每次在新的 run-* 子目录中验证生成非空 kernel 二进制,保留历史产物并避免旧产物造成误通过。常规 run 包的 --op_mode=dynamic 编译不能覆盖这条 constexpr tiling 路径。 引入历史: - [8d0797ab8 / !2353](https://gitcode.com/cann/ops-nn/commit/8d0797ab8c5cfd14ce395667e8752af742b7a61b) 于 2026-03-28 新增接收非 const tiling 的分派函数,是更早的 const 传递隐患。 - [d4afa7499 / !6169](https://gitcode.com/cann/ops-nn/commit/d4afa749927467226098ce170269b93cf3ae5803) 于 2026-06-22 重构 scatter_reduce 分派并删除入口 const,当天被 [0962a0f27 / !6372](https://gitcode.com/cann/ops-nn/commit/0962a0f27a172a0badf32fb8f91a01d9bd44b08d) 回退。 - [d382188b4 / !6460](https://gitcode.com/cann/ops-nn/commit/d382188b4c321ea698b9cd7e560a9e596f5bd928) 于 2026-06-25 重新引入入口 const 删除,是本次第 86 行错误持续存在的引入点。CANN 9.1.0 的静态 tiling 生成器已使用 constexpr,并非 9.3.0 新增规则。 ## 关联的Issue 关联 [Issue #8028](https://gitcode.com/cann/ops-nn/issues/8028):A2 ScatterElementsV2 静态编译因 tiling const 丢失在 INFERCHANNEL 失败。已通过 GitCode 的 MR-Issue 关联接口建立关联;上述历史提交通过 Git 历史和 diff 核对。 ## 测试 环境:Ascend 910B2 / aarch64 / CANN 9.2.0 / GCC 11;torch 2.12.0+cpu、torch_npu 2.12.0。验证源码基线为 d914358457e25f7815dbff36ae279f1d533b5561;提交前确认最新主干的目标 kernel 文件与该基线一致。 - 原源码运行新增回归脚本:准确复现第 86 行、CompileStage.INFERCHANNEL 的 const 错误。 - 修复后运行同一脚本:通过,生成 .o 和 JSON。 - 四组固定 shape [4,8] 编译通过:FP32/int32/axis=1/none,FP16/int64/axis=1/add,BF16/int32/axis=0/none,INT32/int64/axis=1/mul。 - 直接加载修复后的 FP32 静态二进制,在 A2 上普通执行一次、aclgraph 捕获并回放三次;每次更新输入,结果均与 CPU 预期精确一致。 - bash build.sh --pkg --soc=ascend910b --ops=scatter_elements_v2 --cann_3rd_lib_path="$PWD/third_party" -j16 成功(构建系统同时编译声明的依赖算子);包内含 14 个 ScatterElementsV2 动态二进制变体。 - 输出目录复用回归(Python 3.11.18):对同一已有输出根目录连续执行两次真实静态编译,均通过且生成不同的 run-* 子目录;随后在同一根目录编译原始有缺陷的 kernel,仍准确报出 INFERCHANNEL 第 86 行 const 错误,已有二进制校验和不变。本轮仅修改测试脚本,未重复执行上述 run 包构建或运行精度验证。 - run 包 --check --noexec 完整性检查通过;git diff --check 通过。 run 包:cann-ops-nn-custom_linux-aarch64.run,12940621 bytes,SHA256:a555d1ed05d60a464cdce7e0b16e381182c8c3e2c61eea5bcbf1ff43651f3a46。 验证边界:运行精度仅覆盖上述 FP32/none 用例,其余三组为编译验证;静态编译使用 CANN 9.2.0 的 host tiling。未执行 A3、310P、CANN 9.3.0 或全量数值/性能回归,未安装 run 包覆盖现有 OPP。本地检查不替代仓库正式 CI。 ## 文档更新 新增回归脚本包含运行方式;公开接口文档无需变更。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13499 | 18 days ago | |
fix(kl_div_loss_grad): tiling 补充 self 与 out shape 一致性校验并同步测试与文档 Co-authored-by: chenfeng61<chenfeng61@huawei.com> # message auto-generated for no-merge-commit merge: !13085 merge kl_div_loss_grad_shape_check into master fix(kl_div_loss_grad): tiling 补充 self 与 out shape 一致性校验并同步测试与文档 Created-by: chenfeng61 Commit-by: chenfeng61 Merged-by: cann-robot Description: ## 描述 **问题背景**:接口文档(docs/aclnnKlDivBackward.md)约定 self 与 out 的 shape 不相同时 aclnnKlDivBackward 接口报 ACLNN_ERR_PARAM_INVALID(错误码 161002)。aclnn 层已有该校验,但 arch35 tiling 入口此前缺少对应校验,shape 不一致时未被拦截。 **变更内容**: 1. loss/kl_div_loss_grad/op_host/arch35/kl_div_loss_grad_tiling.cpp:新增 CheckInputShape(),校验 self 与 out(y)的 storage shape 一致,不一致时按接口文档报 ACLNN_ERR_PARAM_INVALID_SHAPE 错误日志并返回 GRAPH_FAILED;并在 DoOpTiling() 中调用。 2. loss/kl_div_loss_grad/tests/ut/op_host/arch35/test_kl_div_loss_grad_dag_tiling.cpp:新增正/负向用例(self 与 y shape 不一致时 tiling 返回 GRAPH_FAILED,其中 self=(2,1) 仍可广播到 (2,4),确保失败仅来自 CheckInputShape;self 与 y shape 一致且 target 仍可广播时走正常 tiling 成功路径);并适配 12 个过时正向用例的 self shape(对齐为与 out 相同)及其期望 tiling 结果。 3. loss/kl_div_loss_grad/tests/st/arch35/ttk_kernel_kl_div_loss_grad_st.csv:17 行 self≠out 的过时 ST 用例将 self shape 对齐为与 out 相同。 4. loss/kl_div_loss_grad/README.md:out 参数条目补充 "shape 与 self 相同";约束说明由"无"补充为 self/out shape 必须相同。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7726 ## 测试 - TU 级编译通过(本算子改动文件编译验证;整仓 ophost 构建被 embedding 存量错误阻断,与本改动无关)。 - UT 24/24 通过(含新增正/负向 shape 校验用例及 12 个适配后的正向用例)。 - ST csv 17 行用例结构校验通过。 - 遗留说明:ST 真机终验依赖 PR CI 流水线(本地环境无 NPU/ttk)。 ## 文档更新 更新 loss/kl_div_loss_grad/README.md:out 条目补充 shape 约束说明,约束说明章节补充 self/out shape 一致性要求。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13085 | 18 days ago | |
在op_api层aclnnRotateQuant 的 N/K 越界返回161002 Co-authored-by: zhangzhuoran3<zhangzhuoran3@huawei.com> # message auto-generated for no-merge-commit merge: !13491 merge issue1 into master 在op_api层aclnnRotateQuant 的 N/K 越界返回161002 Created-by: zhangzhuoran3 Commit-by: zhangzhuoran3 Merged-by: cann-robot Description: ## 描述 aclnnRotateQuant 的 N/K 越界返回 561103 而非资料声明的 161002,修复op_api层的拦截,使其返回值和资料相同 ## 关联的Issue 关联Issue [#7415](https://gitcode.com/cann/ops-nn/issues/7415) ## 测试 已经对返回值进行测试,目前正常 ## 文档更新 无 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13491 | 18 days ago | |
fix(l2_normalize): 恢复普通 FP32 开方精度并补齐 FP16 边界回归 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !13500 merge fix/l2-normalize-review-regressions-20261103 into master fix(l2_normalize): 恢复普通 FP32 开方精度并补齐 FP16 边界回归 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 承接已合入 PR #13443 的评审遗留项。主线普通 FP32 切片也走 1-ULP sqrt,改变了此前 0-ULP 开方模式。冻结空轴、eps=0 的输入后,4096 个非零有限元素有 122 个输出偏离精确的 ±1,最大绝对差 1.1920928955078125e-7;缩至 8 个元素也可复现。主线按既有统计精度标准仍为 PASS,此处不把它表述为精度验收失败。 - 普通 FP32 首遍开方恢复 0-ULP FTZ_FALSE。真正保留的有限平方和处于 [2^-120, 2^124),位于该算法支持区间;高/低量级仍先标记再缩放重算,重算路径继续使用 1-ULP FTZ_FALSE。FP32 Div 保持原有的 1-ULP FTZ_FALSE。 - 明确 FP16、普通 FP32 和缩放重算路径的模式说明,避免把 FP16 的 0-ULP 说明套到所有 FP32 路径。 - 补齐 6 条仓内回归,包含 FP16 最大/次正规有限值、混合 Inf/NaN、空轴及 Group Inf/NaN,以及 8 元素普通 FP32 舍入复现。沿用同一个 CSV,28→34 条,最大元素数仍为 131074;输入约束使用 TTK 支持的 attributes 指定和广播,无任务绝对路径或额外二进制输入资产。 - 主线 24 条特殊值补测全通过,没有复现新的 FP16 数值缺陷,因此不修改 FP16 算法。Group 的全核一致标记扫描保持原有同步设计。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8024 ## 测试 - 主线基线 eee087959c030e9647990199b1727102f695c99f;Ascend950PR_9579、任务内两套独立 CANN 9.3.0;定向 release 构建 -j4,安装与部署内容核对通过。 - TTK 8f50c968,全部显式 --pc=1,独立 FP64 golden / Promote / stat_rel_err 和容差保持不变。 - 主线 24/24 边界 PASS,三次确定性 PASS;FP32 4096 元素舍入差异 122→0,最小 8 元素差异 8→0,输入 payload 完全相同。变化只涉及普通开方模式;不声称整个算子逐 bit 对齐 FP64。 - 最终 kernel 85/85 PASS,全部 BINARY_MATCH,三次确定性全部 PASS;GEIR 85/85 PASS,两通路 85 条输入字节一致。覆盖此前 54 条回归和两个冻结原始极值失败输入。 - 17 条 NPU 设备计时复测均精度 PASS;沿用之前实际采集的 A100 torch.compile/Nsight 基线与历史 NO_FOLD=1,最小 G/N=0.236646,全部 >=0.1。此次未重新采集 GPU,也未重新核定物理带宽系数。 - pre-commit、clang-format、OAT 通过。未运行本轮本地 CI;不沿用原 PR 的 CI 结果。 ## 文档更新 无需修改公开 README/API 文档;仅修正相关代码注释,数学定义、输入域及精度验收标准保持不变。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:补齐边界回归覆盖 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13500 | 18 days ago | |
fix(apply_adam_w_quant): aclnn 浮点判据改为 cross_check L1 Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !13501 merge fix/apply_adam_w_quant_golden_cross_check_tol into master fix(apply_adam_w_quant): aclnn 浮点判据改为 cross_check L1 Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 optim/apply_adam_w_quant/tests/assets/golden.py 中 _ACLNN_TOLERANCE 的 float32/float16/bfloat16 判据由 {"standard": "mix_tolerance"} 改为 {"standard": "cross_check", "level": "L1"}。 原因:var 的更新存在"初值与更新量相消"的过零元素,纯相对判据会把 1~2 ulp 的绝对舍入差放大成很大的相对误差而误报。cross_check L1 采用相对 + 绝对交叉校验,可容纳该场景,且与同文件 _KERNEL_TOLERANCE 的浮点判据保持一致。 仅修改测试用例判据,不涉及算子实现(kernel / aclnn 接口)变更。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7736 ## 测试 - [x] golden.py 语法校验通过 - [x] 判据与同文件 _KERNEL_TOLERANCE(已使用 cross_check L1)对齐 - [ ] 待 CI 以 apply_adam_w_quant 全量用例复验 ## 文档更新 无需更新文档 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!13501 | 18 days ago | |
fix(pooling): MaxPool3dWithArgmaxV2 kernel入口补齐ascend960dt的arch35分支 Co-authored-by: SimonZzz<zhouquan79@huawei.com> # message auto-generated for no-merge-commit merge: !13425 merge fixMax3DV121 into master fix(pooling): MaxPool3dWithArgmaxV2 kernel入口补齐ascend960dt的arch35分支 Created-by: SimonZzz Commit-by: SimonZzz Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 为 MaxPool3dWithArgmaxV2 kernel 入口补齐 ascend960dt(dav_9201)的 arch35 分支编译条件,完成 087e3095d 遗留的 kernel 侧使能。仅改 1 个文件 2 处 #if 条件,不改算法与模板结构。 **问题现象:** ascend960dt 上 MaxPool3dWithArgmaxV2 运行时 tiling key 无处理分支——tiling 下发 arch35 系 key(700001/400xxx/600xxx/500001/611110),kernel 编译的却是 #else 老 kernel 分支,不识别这些 key。 **根因:** 087e3095d"maxpool基础簇算子支持ascend960dt"已使能 host 侧与配置(def.cpp AddConfig("ascend960dt")、config/ascend960dt/*_binary.json、gather tiling 多核均衡 AdjustInnerSplitForMultiCore、aclnn dtype 列表 DAV_9201、mask_type 9201 条件),但 kernel 入口 op_kernel/max_pool3d_with_argmax_v2.cpp 两处 arch35 编译条件(:18 include 块、:92 主体分支)未同步扩展——960dt 的 __CCE_AICORE__ 为 920(非 310),原条件不命中,#else 老 kernel 分支被编译。而 tiling 模板注册(REGISTER_TILING_TEMPLATE)架构无关、选择纯靠 IsCapable(shape/格式)+ 优先级,arch35 系 tiling(ksize_one=0 / nc_transpose=1 / gather=2 / big_kernel_regbase=3 / simt=4)优先级全部高于老 tiling(10+),960dt 上必然被选中并下发 arch35 系 tiling key,老分支无对应 TILING_KEY_IS 处理。087e3095d 验证方式为"冒烟测试,本地编译验证",未真机回归,故未暴露。 **修复方式:** include 块与 kernel 主体分支两处 #if 增加 || (defined(__NPU_ARCH__) && (__NPU_ARCH__ == 9201)),与同文件 mask_type 处(:84,087e3095d 引入)的 9201 写法一致。其余芯片判断经全量排查均无需改动:#else 分支内 8 处 #if !(3003||3113)(老 kernel bf16 模板对 310B/310P 的门控)与各老 kernel 头的 g_coreType != AIV 均属老路径,不参与 9201 编译;common/inc/op_kernel/platform.h 的 __CCE_AICORE__ == 920 判断已覆盖 960dt;arch35 头与 pool_utils 无任何芯片宏。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6872 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 纯编译条件扩展,未改算法。已完成的验证: - 条件写法核对:两处 #if 与同文件 mask_type 处(087e3095d)9201 写法一致,960dt(__CCE_AICORE__=920 / __NPU_ARCH__=9201)下条件命中 ✓ - kernel 侧芯片判断全量排查:op_kernel/arch35/*.h、pool_utils/arch35/** 无芯片宏;common/inc/op_kernel/platform.h:53/66 的 920 判断已覆盖;#else 老路径判断不参与 9201 编译 ✓ - tiling 对齐性核对:tiling 注册架构无关 + IsCapable 纯 shape 条件,960dt 上 arch35 系 tiling(优先级 0-4)必然先于老 tiling(10+)被选中,下发 key 与 arch35 分支 TILING_KEY_IS 处理一一对应 ✓ - 待真机回归:ascend960dt 全量用例,重点覆盖 SIMT 路径(tiling key 600xxx,simt_api 来自工具链,9201 上 SIMT 可用性需上板确认)与 ksize_one 路径(key 700001,优先级最高最易命中) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13425 | 18 days ago | |
AscendRequant质量加固 | 16 days ago | |
fix(foreach_pow_scalar,bn_infer_grad,single_layer_lstm): 修复校验缺失、负底数符号错误与文档契约缺陷 Co-authored-by: yefeicoding<yefei25@huawei.com> # message auto-generated for no-merge-commit merge: !13115 merge fix/operator-validation-20261030 into master fix(foreach_pow_scalar,bn_infer_grad,single_layer_lstm): 修复校验缺失、负底数符号错误与文档契约缺陷 Created-by: yefeicoding Commit-by: yefeicoding Merged-by: cann-robot Description: ## 描述 按代码检视发现的问题,修复 nn 仓 3 个算子的校验缺失、计算语义错误与文档契约缺陷(42 文件,+685/-1096),缺陷明细见关联 Issue #7839。 ### foreach_pow_scalar - 校验(P1):arch35 tiling 新增 scalar 元素数必须为 1、x 列表各成员 dtype 必须一致校验(kernel 按首成员 dtype 选模板并以同一类型宽度遍历读写,混合 dtype 会按错误宽度写出造成越界写);aclnn V1/V2 补充 x/out 列表长度一致、scalar 元素数为 1 的入参校验 - 计算语义(P1):arch35 SIMT kernel 负底数 + 奇整数指数按 PyTorch 语义保留负号(新增 IsIntegerExp/NegBaseIntExp,即使模溢出到 inf 也保留;int32 scalar 转 float 到达 kernel,+2^31 按 INT32_MAX 奇数处理);bf16 保持原 powf 路径(PyTorch bf16 该场景返回 +inf,与 fp16/fp32 不同);tilingData 增加 isBf16 传递 - OpDef:scalar 注册类型 {DT_FLOAT, DT_INT64} → {DT_FLOAT16, DT_FLOAT, DT_INT32},对齐 kernel 实际映射 - 文档:README / aclnnForeachPowScalar(V2).md 补约束声明——out shape 由「size 大于等于 x」收紧为「与 x 完全一致」、错误码表补 TensorList 长度不一致项、dtype 支持表与实现对齐、调用说明术语规范(aclnn API / GE图模式) - 测试资产:新增 tests/assets/golden.py;ST atk/executor(V1/V2)、UT infershape、pow_scalar_data gen/compare 同步新约束;5 平台 config JSON 修复 EOF 缺失换行 ### bn_infer_grad - 校验(P1):tiling 新增 epsilon<=0 显式拒绝(GRAPH_FAILED),默认值 0.0001 不变 - 文档:README/IR 形状支持 4D/5D 更正为 2D-5D;scale/batch_variance 明确一维 ND;NC1HWC0 标注仅 A2/A3;调用方式术语与输出参数顺序修正 - golden:改为按算子公式计算并声明 cross_check;计算顺序修正为与文档公式一致的从左到右(grads*scale/sqrt),消除 |scale| 接近 FLT_MAX 时中间值溢出 inf 使 grads==0 误判 0*inf=NaN ### single_layer_lstm - 校验(P1):SingleLayerLstmSupports 要求 initH 为 [B, H] 且 batch 维与 x 一致(原仅校验秩非零,[1, B, H] 也被接受);tiling 新增 T/B/input_size/hidden_size 必须落在 uint32 范围的显式拒绝(避免静默截断) - 测试资产:新增 tests/assets/lstm_golden.py;删除 tests/st 旧 TTK 用例 ttk_aclnn_lstm.csv / ttk_e2e_lstm.csv(含中间版本追加的 8 条 hasBias=False 用例,整体随新 golden 资产替代) ## 关联的Issue - #7839 ## 测试 - 测试资产变更:foreach_pow_scalar 新增 golden.py 并同步 ST/UT 约束;single_layer_lstm 新增 lstm_golden.py;bn_infer_grad golden 重写为公式直算并修正计算顺序 - 上板回归结果待补充(PR 变更内无回归记录) ## 文档更新 - foreach/foreach_pow_scalar/README.md、docs/aclnnForeachPowScalar.md、docs/aclnnForeachPowScalarV2.md - norm/bn_infer_grad/README.md - rnn/single_layer_lstm/README.md ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!13115 | 18 days ago | |
[Feat] foreach: 补齐 6 个算子的 Ascend350 中央注册与 ST golden 参考实现 Co-authored-by: wenqi_wu<wenqiwu0628@163.com> # message auto-generated for no-merge-commit merge: !13513 merge foreach_ascend350_config_golden into master [Feat] foreach: 补齐 6 个算子的 Ascend350 中央注册与 ST golden 参考实现 Created-by: wenqi_wu Commit-by: wenqi_wu Merged-by: cann-robot Description: ## 描述 补齐 6 个 foreach 算子的 Ascend350(DVLite) 中央 binary 注册与 ST golden 参考实现。 **中央 binary 配置**( scripts/kernel/binary_config/ascendc_config.json) - 6 个算子的 compute_units 补充 ascend350:ForeachDivList、ForeachAddcdivScalar、ForeachLog10、ForeachMinimumScalar、ForeachReciprocal、ForeachSubScalarList - 其中 div_list / addcdiv_scalar 的 350 适配(CMakeLists / def.cpp / config/ascend350)已在前序 PR 合入,本 PR 的配置项即时生效 - log10 / minimum_scalar / reciprocal / sub_scalar_list 的 350 适配在 PR #12744 评审中,**建议该 PR 合入后再合入本 PR**(配置项才能生效) **ST golden 参考实现** - 新增 6 个算子的 tests/assets/golden.py,对齐 foreach 族既有 24 个 assets 约定(spec 注册 + numpy/torch 双实现 + 容差表) - 含标准 CANN OSL v2 许可头(OAT 校验通过) ## 关联的Issue - #8029 https://gitcode.com/cann/ops-nn/issues/8029 ## 测试 - 静态检查:pre-commit 全部 hook 通过(含 OAT 许可头校验),7 文件 - 配置:ascendc_config.json JSON 语法校验通过 - golden:6 个 golden.py py_compile 语法检查通过 - 既有 UT 不受影响(本 PR 仅改中央配置与新增 assets,不改算子实现代码) ## 文档更新 - 无文档变更(golden.py 为新增参考实现文件,含 docstring 自描述) ## 类型标签 - [x] 新特性 - [ ] Bug修复 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13513 | 18 days ago | |
feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Co-authored-by: wuxuening<wuxuening2@huawei.com> # message auto-generated for no-merge-commit merge: !13255 merge br_5162_series_rename into master feat(5162a): 5162 短名/series 更名与 IsSimtSupported 接口 Created-by: wuxuening Commit-by: wuxuening Merged-by: cann-robot Description: ## 描述 **1. 区分 5162 芯片 soc 版本与短名/series 命名**(对齐 MC62/Ascend950 惯例): - soc 版本:保留 Ascend5162A/ascend5162a;短名/series:ascend5162a 更名为 ascend5162 **2. 新增 IsSimtSupported 平台 SIMT 能力查询函数**(common/inc/op_host/tiling_util.h): - 架构白名单 {DAV_3510, DAV_5102, DAV_9201, DAV_9202}(Ops::Base:: 前缀,经 opbase op_const_def.h 解析),DAV_5162 等无 SIMT 硬件的架构返回 false - TilingParseContext/TilingContext 双重载,与 IsRegbaseSocVersion 同款模式,供算子 tiling 运行时分流 SIMT/SIMD 分支(参考 cann/opbase PR #1065 评审意见) ## 测试 - pre-commit 全量 hook 通过 - IsSimtSupported g++ 语法校验与双重载实例化 0 error ## 文档更新 无 See merge request: cann/ops-nn!13255 | 18 days ago | |
torch补充资料 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !13464 merge torch into master torch补充资料 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 本 PR 属于文档补充,针对 torch_extension/README.md 中 torch 扩展打包说明不清晰的问题,明确了两种构建方式各自的执行目录与产物输出位置,并补充了对应产物 wheel 包的安装命令,使构建与安装流程可被直接照做。 主要改动 明确 build.sh 构建的执行目录与产物路径: 在「方式一:通过 build.sh 构建」下新增提示,说明需在仓库根目录执行(build.sh 位于根目录),产物输出到 build_out/。 明确 python3 -m build 构建的执行目录与产物路径: 在「方式二」下新增提示,说明需在 torch_extension/ 目录执行(setup.py 位于该目录),产物输出到 torch_extension/dist/,并在示例命令前补充 cd torch_extension 步骤。 重写安装章节以区分两种产物来源: 将原「整包 / 单算子包」安装说明改为按构建方式标注,注明方式二的产物在 torch_extension/ 目录下安装,方式一的产物在仓库根目录下从 build_out/ 目录安装。 补充方式一产物的安装命令: 新增 python3 -m pip install build_out/cann_ops_nn-*.whl 与 python3 -m pip install build_out/cann_ops_nn_custom-*.whl 两条命令,覆盖整包与单算子包。 ## 关联的Issue [#7713](https://gitcode.com/cann/ops-nn/issues/7713) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 torch_extension/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13464 | 18 days ago | |
feat(modulate_grad): add ascend950 regbase kernel(兼容性交付加固) Co-authored-by: babeiee<125106023003@njust.edu.cn> # message auto-generated for no-merge-commit merge: !13399 merge feat/modulate-grad-ascend950-regbase into master feat(modulate_grad): add ascend950 regbase kernel(兼容性交付加固) Created-by: babeiee Commit-by: babeiee Merged-by: cann-robot Description: ## 变更 - 新增 Ascend950 arch35 regbase tiling 与 kernel,覆盖 scale/shift 四种 optional 组合。 - 归约使用 fp32 Kahan 与非有限值 compensation 保护,并优化小 D/长 L、D==1 和纯拷贝路径。 - 补充空张量、dtype/shape/format、可选输出压缩校验及 host UT。 - 保留 910B/910_93 既有 kernel,950 通过独立 CMake 和 OpDef 配置接入。 ## 验证 - bash build.sh --pkg --soc=ascend950 --ops=modulate_grad - ophost UT: 13/13 PASS - opapi UT: 6/6 PASS - opkernel UT target 构建通过 - pre-commit: whitespace/json/clang-format/codespell/OAT 全通过 - TTK: 瘦高 5/5 精度与 OOB PASS;ACLNN 非连续 9/9 PASS;修订 L2 7/7 三模式按预期拒绝 - 完整验证记录:Kernel DYN/release 609/609、ACLNN L0+L1 622/622 ## 与 PR #12478 的关系 - 本 PR 与 #12478 改动文件交集为 0,git merge-tree 验证无文本冲突。 - 本 PR 不修改 aclnn_modulate_backward.cpp、ACLNN 文档及其 UT;参数校验和文档继续由 #12478 维护。 ## 关联的Issue - #8018 See merge request: cann/ops-nn!13399 | 18 days ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !12380 merge docs/comment-cleanup-20261019-04 into master docs: 修复注释与文档不一致(贡献指南与fast kernel launch示例) Created-by: pingchuantang Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 修正文档中与实际内容/上下文不一致的表述: - CONTRIBUTING.md:将“确保您的贡献符合项目标准,签署 CLA”中的半角逗号 , 改为全角逗号 ,,统一中文标点规范。 - examples/fast_kernel_launch_example/README.md:删除“Ascend 950PR&950DT系列产品产品使用”中的重复“产品”,共两处(第 33 行、第 83 行)。 ## 关联的Issue 关联 Issue #6948 https://gitcode.com/cann/ops-nn/issues/6948 ## 测试 仅文档变更,不涉及代码逻辑;已人工核对修改后语句与上下文一致,无功能影响。 ## 文档更新 - 更新 CONTRIBUTING.md - 更新 examples/fast_kernel_launch_example/README.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12380 | 1 month ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
[L2] fix: 删除 build.sh 帮助中 --oom/--mssanitizer 失效的伴随选项标注(#7230) Co-authored-by: wsnidie1<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !12907 merge fix/build-sh-help-options into master [L2] fix: 删除 build.sh 帮助中 --oom/--mssanitizer 失效的伴随选项标注(#7230) Created-by: wsnidie1 Commit-by: wsnidie1 Merged-by: cann-robot Description: ## 概述 build.sh 帮助文本 4 处给 --oom/--mssanitizer 标注伴随选项 '-g --cce-enable-*',但这三个参数均不在脚本自身的白名单里(SUPPORTED_SHORT_OPTS 无 g、SUPPORTED_LONG_OPTS 无 cce-enable-*),照帮助抄进命令行会被 check_option_validity() 拒绝并 exit 1;且全仓 0 处使用这两个长选项。按 issue 方向 A(最小)删除失效后缀;实际传调试配置的途径是紧邻帮助行的 --bisheng_flags=ccec_g,oom。 ## 关联的Issue #7230 @wsnidie1 ## 修改 build.sh 单文件、仅 8 行 echo 帮助文本(4 处 × 2 行)删除 , with options: '-g --cce-enable-*' 后缀,不改动任何逻辑。 ## 验证 - bash -n build.sh 语法通过; - grep -c 'cce-enable' build.sh = 0(修改前为 8,即帮助文本自身); - diff 仅 8 行 echo 文本,其余 1930 行无变化。 See merge request: cann/ops-nn!12907 | 18 days ago | |
feat: classify_rule.yaml 补充反向卷积 5162 arch51 目录与 extend_conv_transpose kernel 归类 Co-authored-by: FarmerWu<wuzongting@huawei.com> # message auto-generated for no-merge-commit merge: !13385 merge classify-rule-arch51 into master feat: classify_rule.yaml 补充反向卷积 5162 arch51 目录与 extend_conv_transpose kernel 归类 Created-by: FarmerWu Commit-by: FarmerWu Merged-by: cann-robot Description: ## 描述 PR #12879 为 extend_conv_transpose / conv3d_backprop_input_v2 新增 Ascend 5162(DAV_512)支持, 新增了以下文件/目录: - conv/conv3d_backprop_input_v2/op_host/op_tiling/arch51/ — 5162 专属 tiling 类 - conv/conv3d_backprop_input_v2/op_kernel/arch51/ — 5162 专属 kernel 实现 - conv/extend_conv_transpose/op_kernel/ — 入口文件修改 classify_rule.yaml 中这些新文件未被归类,CI 静态检查报"文件找不到归属"。 ## 修改内容 在 convolution_backprop@ops-nn 的 src/release/style 列表补充三个目录条目(+3 行), 与现有 arch35/ 目录归类方式完全一致。 ## 测试 纯配置文件修改,无功能影响。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7934 See merge request: cann/ops-nn!13385 | 19 days ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Co-authored-by: gao19871128<1897001@qq.com> # message auto-generated for no-merge-commit merge: !13020 merge master into master bugfix: 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) Created-by: gao19871128 Commit-by: gao19871128 Merged-by: cann-robot Description: ## 描述 运行依赖包名统一为连字符(ops_legacy→ops-legacy,ops_math→ops-math) ## 关联的Issue [#7675](https://gitcode.com/cann/ops-nn/issues/7675) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13020 | 21 days ago |
🔥Latest News
- [2026/05] 优化kernel编译配置项,减少simplified_key和ascendc_config配置文件(!3330)。
- [2026/05] 引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和简化指令参数(!5036)。
- [2026/05] 发布生态算子的精度验收标准(!4572)。
- [2026/03] 开源算子支持下一代芯片:Ascend950PR(!450)。
- [2026/03] 新增<<<>>>的算子开发样例(!620)。
- [2026/03] 低bit类算子和融合算子支持更多数据类型:fp8/mxfp8/hifp8/mxfp4等,并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式:全量化融合算子:quant_batch_matmul_v4,伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现:[MapIndex](#660),[ScatterSub](#710)。
- [2026/01] 新增QuickStart,指导新手零基础入门算子项目部署(支持Docker环境)、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90,可以通过NPU Simulator仿真工具开发调试;优化指南类文档,聚焦算子开发指南,明确最小交付件和关键示例代码,针对Ascend/samples仓算子提供迁移本项目的指导;新支持稀疏4:2量化matmul算子,针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录,完善贡献指南,支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线,开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN(Compute Architecture for Neural Networks)算子库中提供神经网络计算能力的高阶算子库,包括matmul类、activation类等算子,算子库架构图如下:

📌版本配套
本项目源码会跟随CANN软件版本发布,关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意,为确保您的源码定制开发顺利进行,请选择配套的CANN版本与Gitcode标签源码,使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提,请先完成NPU驱动、CANN包安装等,确保环境正常。
⬇️源码下载
环境准备好后,下载与CANN版本配套的分支源码,通用命令如下,${tag_version}替换为分支标签名。以9.0.0分支源码下载为例:
# 通用命令:git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明:若环境中已存在配套分支源码,可跳过本步骤,例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS:本项目功能和文档正在持续更新和完善中,欢迎您关注最新版本。