本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
| Files | Last commit | Last update |
|---|---|---|
ut阶段覆盖率非拦截 Co-authored-by: cui_jiahao<cuijiahao5@h-partners.com> # message auto-generated for no-merge-commit merge: !12326 merge master into master ut阶段覆盖率非拦截 Created-by: cui_jiahao Commit-by: cui_jiahao Merged-by: cann-robot Description: ## 描述 修复ut阶段覆盖率拦截造成的问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12326 | 1 month ago | |
fix(gelu): aclnnGeluV2 补 approximate 值域校验,越界返回 ACLNN_ERR_PARAM_INVALID Co-authored-by: luoyufan7<luoyufan7@h-partners.com> # message auto-generated for no-merge-commit merge: !12257 merge fix/issue-6626-geluv2-approximate-validation into master fix(gelu): aclnnGeluV2 补 approximate 值域校验,越界返回 ACLNN_ERR_PARAM_INVALID Created-by: luoyufan7 Commit-by: luoyufan7 Merged-by: cann-robot Description: ## 描述 aclnnGeluV2 的可选属性 approximate 文档限定取值 0(none)/ 1(tanh),但 aclnnGeluV2GetWorkspaceSize 的 CheckParams 只校验指针/dtype/shape,未校验 approximate;GetApproximateStr 的兜底 else 将 2、-1 等越界值静默映射为 "none",接口返回 ACLNN_SUCCESS,非法输入被放行且结果静默按 none 模式计算。同族 ge_glu_v2 / ge_glu_grad_v2 的 aclnn 实现均已带 0/1 值域校验,本文件属校验覆盖遗漏。 修复对齐 aclnn_geglu.cpp 的 checkApproximate 范式: - CheckParams 增加 approximate 入参,第 4 步校验取值范围,越界返回 ACLNN_ERR_PARAM_INVALID(161002); - CheckShape 补 OP_CHECK_MAX_DIM 秩上限校验(对齐 gelu/ge_glu_v2 与文档 0-8 约束,rank>8 返回参数错误); - GetApproximateStr 改为显式分支并去掉静默兜底 else,非 0/1 值打错误日志; - 新增 UT l2_gelu_v2_test_031_invalid_approximate 看护 approximate=2 时返回参数错误; - 修复该算子 op_api UT 收集链:tests/ut/op_host/CMakeLists.txt 补 foreach(SUB_DIR) 遍历(对齐同族 ge_glu_v2)并修正 license 头,UT 文件由 test_gelu_v2.cpp 更名为 test_aclnn_gelu_v2.cpp(cmake/ut.cmake 的收集 glob 仅匹配 test_aclnn_*.cpp,原名导致该套件从未被收集执行);顺带删除 l2_gelu_v2_test_026/027 两个调用不存在接口 aclnnInplaceGeluV2 的存量用例(从未编译过,全仓无此 API)。 ## 关联的Issue Closes #6626 ## 测试 Ascend 910B、CANN 9.2.0: - 算子构建(compile_single 等价, build.sh --soc=ascend910b --ops=gelu_v2):通过 - op_api UT(build.sh -u --opapi,nn_op_api_ut --gtest_filter='l2GeluV2Test.*'):29/29 通过(含新增越界用例与 rank>8 用例;收集链修复前该套件收集数为 0) - pre-commit(clang-format / OAT / end-of-file-fixer 等)对三个改动文件:通过 ## 文档更新 无需文档更新。 ## 类型标签 - [x] Bug修复 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12257 | 1 month ago | |
fix: kernel compile options log error Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !11897 merge kernel into master fix: kernel compile options log error Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 kernel编译日志修复 算子编译修复 打屏删除 ## 关联的Issue [#6612](https://gitcode.com/cann/ops-nn/issues/6612) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11897 | 1 month ago | |
fix: validate bank cache directory file types Co-authored-by: yr923096443<923096443@qq.com> # message auto-generated for no-merge-commit merge: !11392 merge ops-nn-patch-1 into master fix: validate bank cache directory file types Created-by: yr923096443 Commit-by: yr923096443 Merged-by: cann-robot Description: ## 描述 修复 bank_mgr 对已有路径类型的判断: - IsDirExist 用 S_ISDIR 检查完整文件类型。原来的 st_mode & S_IFDIR 会把 Unix-domain socket 误识别为目录。 - CreateMultiDirectory 遇到 mkdir 的 EEXIST 时,仅在目标确为目录时接受成功,避免对普通文件、FIFO 或 socket 返回 SUCCESS。 复现:创建 AF_UNIX socket 路径后调用 IsDirExist,原版返回 true;对已有普通文件/FIFO/socket 调用 CreateMultiDirectory,原版返回 SUCCESS。修复后均正确拒绝,已有目录及新建子目录仍成功。 ## 关联的Issue 无。此 PR 为可直接复现的两处目录类型判断修复。 ## 测试 - 在 Linux/WSL 中编译仓库实际 system_utils.cpp 与仓库头文件,使用 g++ -std=c++17 -Wall -Wextra -Werror;仅以空日志宏替代外部 log/log.h 依赖,未替代文件系统逻辑。 - 使用真实普通文件、FIFO、AF_UNIX socket、目录及指向文件/目录的符号链接验证。包含缺失路径、已有目录、创建子目录及拒绝非目录 mkdir 目标。 - 原版在 socket 识别、非目录 mkdir 两组断言失败(exit 10);修复版全部通过(exit 0)。 - git diff --check 通过。本机无 CANN SDK/NPU,未运行全量构建或 NPU 测试,完整门禁以仓库 CI 为准。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 使用 Codex 桌面版 / GPT-6 辅助定位、编写和验证;运行环境未提供具体构建版本。核心提示:检查无需 NPU 即可复现的 C/C++ 缺陷,保留最小修复并用真实文件类型验证。贡献者 yr923096443 已人工审阅两处源码改动及复现结果,并明确认可提交。 See merge request: cann/ops-nn!11392 | 1 month ago | |
sleep算子支持Ascend960 Co-authored-by: hw-zhangpanpan<zhangpanpan5@huawei.com> # message auto-generated for no-merge-commit merge: !11793 merge master into master sleep算子支持Ascend960 Created-by: hw-zhangpanpan Commit-by: hw-zhangpanpan Merged-by: cann-robot Description: ## 描述 为 sleep 算子新增 Ascend 960 平台(ascend960dt / ascend960pr)支持,使其可在最新 Ascend960 硬件上正常编译与运行。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6909 ## 测试 泛化和冒烟测试 ## 文档更新 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11793 | 1 month ago | |
feat(Conv): Conv aclnn adapt Ascend960 Co-authored-by: luyakun_hw<luyakun@h-partners.com> # message auto-generated for no-merge-commit merge: !11841 merge conv_aclnn_adapt_920x into master feat(Conv): Conv aclnn adapt Ascend960 Created-by: luyakun_hw Commit-by: luyakun_hw Merged-by: cann-robot Description: ## 描述 Conv正向aclnn接口适配Ascend960架构 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6581 ## 测试 ## 文档更新 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11841 | 1 month ago | |
docs: enter ops-nn directory before installing dependencies Co-authored-by: Ethan_Zou<tianjun.zou@foxmail.com> # message auto-generated for no-merge-commit merge: !11462 merge docs/enter-repo-before-install-deps into master docs: enter ops-nn directory before installing dependencies Created-by: Ethan_Zou Commit-by: Ethan_Zou Merged-by: cann-robot Description: Add cd ops-nn after the clone command in the manual setup guide. The following install_deps.sh and requirements.txt commands then resolve against the repository root. Checked that both files are tracked at the root and git diff --check passes. Fixes #6361 Current Host validation on DevEnvC_mmdv8 (Linux/aarch64), based on upstream master 64b41ad63a5073bc711ba03802498bfe8bdb77e5: - The dependency files install_deps.sh and requirements.txt are present at the repository root. - git diff --check passes. - Repository-native pre-commit run --files docs/zh/install/quick_install.md passes, including the applicable Markdown checks and OAT (1 file). The PR retains one source commit, with both author and committer set to Ethan_Zou. Validation covers the Host documentation and filesystem paths. 上游更新后已在最新 master 64b41ad63a5073bc711ba03802498bfe8bdb77e5 重新应用同一文档修复并完成原始 native pre-commit、Git/LFS、单源提交及双身份核验。当前源提交 473bcf5d3f0290aab72a87d58708fd37bbff2d97。本次仅文档/源码检查,无 C++ 运行或 NPU 自测;CI以当前源 SHA 的实际运行另行核实。 See merge request: cann/ops-nn!11462 | 1 month ago | |
support compile pypto-pro op in ops-nn Co-authored-by: h9718w<wangchaoyuan10@huawei.com> # message auto-generated for no-merge-commit merge: !9638 merge pr-pypto into master support compile pypto-pro op in ops-nn Created-by: h9718w Commit-by: h9718w Merged-by: cann-robot Description: 移植 PyPTO 支持到 ops-nn,包括: 1. cmake/func.cmake: 添加 require_pypto_pro/enable_pypto_kernel 等函数 2. cmake/gen_ops_info.cmake: 添加 PyPTO 构建支持 3. scripts/util/ascendc_impl_build.py: 添加 pypto_compile_op wrapper 4. scripts/util/pypto_codegen.py: 新增 codegen 脚本 5. scripts/util/dependency_parser.py: 注册 pypto_add_example 6. examples/pypto_add_example: 示例算子 See merge request: cann/ops-nn!9638 | 1 month ago | |
修正 Median 按维接口的重复值下标说明 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !11742 merge fix/2026-10-12-ops-nn-median-index-tie-order-doc-01 into master 修正 Median 按维接口的重复值下标说明 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 修正 Median 按维接口的重复值下标说明 按维 Median 的两份中文文档将 indices 描述为中位数值首次出现的位置,但实现路径在重复中位数值时选择的下标并不一致。修正文档,说明 indices 对应一个中位数元素,且重复值下标不保证取首次出现位置。仅修改文档。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6505 See merge request: cann/ops-nn!11742 | 1 month ago | |
index及foreach算子支持ascend960dt Co-authored-by: wang-shilong32<wangshilong23@huawei.com> # message auto-generated for no-merge-commit merge: !12244 merge feat/op960dt-4-index-foreach into master index及foreach算子支持ascend960dt Created-by: wang-shilong32 Commit-by: wang-shilong32 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> index及foreach算子支持ascend960dt: embedding/embedding_bag/embedding_dense_grad(_v2)/masked_scatter_with_position/foreach_add_list ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6872 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟测试,本地编译验证。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12244 | 1 month ago | |
fix: Remove unnecessary workspace for init_embedding_hash_table/sigmoid_cross_entropy_with_logits_v2/group_norm/group_norm_silu Co-authored-by: yifangao<gaoyifan20@huawei.com> # message auto-generated for no-merge-commit merge: !9867 merge workspace-remove-3 into master fix: Remove unnecessary workspace for init_embedding_hash_table/sigmoid_cross_entropy_with_logits_v2/group_norm/group_norm_silu Created-by: yifangao Commit-by: yifangao Merged-by: cann-robot Description: ## 描述 Ascend 950(arch35)路径下, init_embedding_hash_table、sigmoid_cross_entropy_with_logits_v2、group_norm 和 group_norm_silu 算子未实际使用 workspace,但原实现仍申请或保留了 workspace 相关处理。 本次修改: - 将上述 4 个算子的 workspace 大小设置为 0,避免不必要的内存申请。 - 删除 group_norm 和 group_norm_silu kernel 中未使用的 workspace 判空、用户 workspace 获取及参数传递。 - 统一 workspace 常量命名,并补充相关文件末尾换行。 - 修改仅作用于 Ascend 950(arch35)实现,不影响其他芯片路径。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6122 ## 测试 David冒烟:http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260928_144411817 obp冒烟:http://7.215.10.221/scheduler/alljobs?length=100&isalljobs=true&search=20260929_083012442 ## 文档更新 无文档更新。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!9867 | 1 month ago | |
index及foreach算子支持ascend960dt Co-authored-by: wang-shilong32<wangshilong23@huawei.com> # message auto-generated for no-merge-commit merge: !12244 merge feat/op960dt-4-index-foreach into master index及foreach算子支持ascend960dt Created-by: wang-shilong32 Commit-by: wang-shilong32 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> index及foreach算子支持ascend960dt: embedding/embedding_bag/embedding_dense_grad(_v2)/masked_scatter_with_position/foreach_add_list ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6872 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟测试,本地编译验证。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12244 | 1 month ago | |
[L2] fix: include guard 的 #ifndef 与 #define 宏名不一致,守卫失效 Co-authored-by: eieiei<3901796952@qq.com> # message auto-generated for no-merge-commit merge: !11559 merge fix-include-guard-name-mismatch into master [L2] fix: include guard 的 #ifndef 与 #define 宏名不一致,守卫失效 Created-by: wsnidie1 Commit-by: eieiei Merged-by: cann-robot Description: ## 问题 loss/mse_loss_grad_v2/op_host/arch35/mse_loss_grad_v2_tiling_arch35.h 的 include guard: #ifndef MSE_LOSS_GRAD_V2_TILING_ARCH35_H_ #define MSE_LOSS_GRAD_V2_TILING_ARCH35_H // 末尾少了下划线 #ifndef 测 ..._ARCH35_H_、#define 定义的是 ..._ARCH35_H(不同名),于是 ..._ARCH35_H_ 永不定义 → 头文件二次包含时守卫失效,struct/宏被重复定义。 ## 修复 把 #define 补成与 #ifndef 一致的 MSE_LOSS_GRAD_V2_TILING_ARCH35_H_。 - 级别:L2(include guard 失效) - 改动:1 文件 +1/-1 See merge request: cann/ops-nn!11559 | 1 month ago | |
flat_quant适配v121 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !11473 merge v121 into master flat_quant适配v121 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 flat_quant 算子适配 v121(DAV_9201 / DAV_9202,即 ascend960dt / ascend960pr)平台,新增基于 CMCT 框架的 kernel 路径,并引入 HIFLOAT4(hif4)量化输出支持。原有 ascend950 / ascend350(DAV_3510)走 Blaze kernel 路径保持不变,v121 则在 flat_quant.cpp 中切换到 FlatQuantCmctKernel。同时围绕 hif4 扩展了 aclnn 接口的 dtype 校验、形状推导、tiling 判定与 binary 配置。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6859 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11473 | 1 month ago | |
fix(layer_norm_v4): 修复检视问题,补充算子golden Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !12163 merge ln4_scan into master fix(layer_norm_v4): 修复检视问题,补充算子golden Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 修复 layer_norm_v4 算子检视发现的问题(输出 dtype 校验缺失、tiling 无效校验、README 约束描述不准确),并交付 ST golden 参考实现。 ### 改动原因 检视发现以下问题: 1. aclnnFastLayerNorm 的 CheckFastOutputDtype 仅校验输出 dtype 在支持列表内,缺失 out 与 input 数据类型一致性校验; 2. tiling 中 GetCommonShapeAttrsInfo 的 colSize/rowSize 校验读取的是尚未赋值的 commonParams 成员,属无效校验; 3. README 中 Atlas 推理系列产品的 dtype 约束描述不准确。 此外,layer_norm_v4 缺少 ST golden 参考实现,无法进行系统测试精度对齐。 ### 改动方法 1. **输出 dtype 校验补充**(aclnn_fast_layer_norm.cpp):CheckFastOutputDtype 新增 input 参数,增加 OP_CHECK_DTYPE_NOT_SAME(out, input) 校验,确保 out 与 input 数据类型一致。 2. **tiling 无效校验修正**(layer_norm_v4_tiling_base.cpp):OP_CHECK_IF 判断改为直接使用入参 colSize/rowSize(原读取未赋值的 commonParams 成员)。 3. **README 修正**:Atlas 推理系列产品约束修正为"x 与 y 仅支持 FLOAT16;gamma/beta 支持 FLOAT、FLOAT16";调用方式表格措辞规范化(aclnn API、GE 图模式)。 4. **golden 交付**(新增 tests/assets/golden.py,+157):提供 layer_norm_v4(Kernel/GEIR)、aclnnLayerNorm(ACLNN)、torch.nn.functional.layer_norm(Torch E2E)三个 golden spec;CPU 真值统一用 FP64 计算,兼容 BF16 输入。 涉及文件(4 个,+171 -15): - norm/layer_norm_v4/op_host/op_api/aclnn_fast_layer_norm.cpp(+3 -2) - norm/layer_norm_v4/op_host/layer_norm_v4_tiling_base.cpp(+6 -8) - norm/layer_norm_v4/README.md(+5 -5) - norm/layer_norm_v4/tests/assets/golden.py(新增,+157) ## 关联的Issue - #6923 ## 测试 - 验证 aclnnFastLayerNorm 对 out 与 input dtype 不一致场景正确返回参数错误。 - golden 供 ST 测试框架调用进行精度对齐,覆盖 Kernel/GEIR、ACLNN、Torch E2E 三条通路。 ## 文档更新 - README.md:Atlas 推理系列产品 dtype 约束修正、调用方式措辞规范化 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12163 | 1 month ago | |
feat: loss/optim/activation/index/quant/conv 34个算子适配ascend960dt Co-authored-by: caorenlei<caorenlei@huawei.com> # message auto-generated for no-merge-commit merge: !11923 merge 1009 into master feat: loss/optim/activation/index/quant/conv 34个算子适配ascend960dt Created-by: caorenlei Commit-by: caorenlei Merged-by: cann-robot Description: ## 描述 ### 改动原因 v121(ascend960dt/DAV_9201)平台算子适配:责任田内 34 个算子需要在 ascend960dt 平台提供支持。 ### 改动方法(注册级适配为主,2 个算子特殊处理) - **注册链路(全部 34 个算子)**: *_def.cpp 追加 AddConfig("ascend960dt");新增 op_host/config/ascend960dt/(binary.json 与 ascend950 对齐 + simplified_key.ini);算子级 CMakeLists(SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR)与 op_kernel/CMakeLists(COMPUTE_UNITS)追加 ascend960dt 编译目标,修复 960dt 二进制编译时 tiling 库缺失问题(NLLLoss Jenkins 报错根因);ascendc_config.json 追加对应条目 - **apply_ftrl(特例)**:kernel/tiling 整体换用 v121 参考实现(旧式类实现 + 按 dtype 的 tiling key),替换 master 的 atvoss DAG/ElementwiseSch 实现(atvoss 框架未在 960dt 验证) - **deformable_offsets(_grad)**:kernel 零改动,仅注册级适配 - **swiglu_mx_quant(_with_dual_axis)**:入口溢出模式保存/恢复的 #if __NPU_ARCH__ == 3510 扩展为 3510 || 9201;swiglu_mx_quant_with_dual_axis kernel 体内溢出模式置位同步扩展,保证 960dt 数值行为与 950 一致 - **binary_cross_entropy_grad 等 6 算子**:kernel 由 atvoss 纯模板覆盖为 RegBase 写法(v121 参考,Reg:: 命名约定) 涉及算子(34):loss 19 个(binary_cross_entropy(_grad)、cross_entropy_loss(_grad)、ctc_loss_v2(_grad)、kl_div_loss_grad、l1_loss_grad、l2_loss、lp_loss、mse_loss(_grad)、nll_loss(_grad)、sigmoid_cross_entropy_with_logits、smooth_l1_loss_v2(_grad_v2)、softmax/sparse_softmax_cross_entropy_with_logits)、optim 11 个(apply_adam(_d/_w/_w_v2)、apply_adagrad_d、apply_gradient_descent、apply_ftrl、adam_apply_one(_with_decay/_assign))、index 1 个(unique_consecutive)、conv 2 个(deformable_offsets(_grad))、quant 2 个(swiglu_mx_quant(_with_dual_axis)) ## 关联的Issue - #6806 ## 测试 - bash build.sh --pkg --soc=ascend950 --jit --ops=<34算子> 编译出包通过 - ttk(Ascend950PR_9579)精度回归:每算子小规模用例分块串行执行,34/34 全 PASS(precision/perf/oob),950 零回归 - ascend960dt 二进制编译需 Jenkins 环境验证(本地工具链 ASC_VALID_SOC_LIST 不含 960dt) ## 文档更新 无 ## 类型标签 - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11923 | 1 month ago | |
fix(AdaptiveAvgPool3dGrad): ascend950二进制配置补齐format_match_mode Co-authored-by: SimonZzz<zhouquan79@huawei.com> # message auto-generated for no-merge-commit merge: !11967 merge fixAdaptiveAG into master fix(AdaptiveAvgPool3dGrad): ascend950二进制配置补齐format_match_mode Created-by: SimonZzz Commit-by: SimonZzz Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 为 adaptive_avg_pool3d_grad 的 ascend950 二进制编译配置补齐 9 处 format_match_mode: FormatAgnostic(3 条编译配置 × 2 输入 + 1 输出),修复 binary 复用模式下用例无法匹配预编译内核的问题。仅改配置文件,不改算子源码。 **问题现象:** opstest 仓 pooling/adaptive_avg_pool3d_grad/arch35/ttk_kernel_adaptive_avg_pool3d_grad.csv 的用例在 ttk binary 复用模式(--binary=release)下报 Binary kernel match failed(BINARY_MATCH_FAILURE),包括官方既有 74 条 NCDHW 用例与 NDHWC 补充用例(input_formats 列分别为 ('NCDHW','NCDHW') / ('NDHWC','NDHWC'))。 **根因:** ttk binary 复用匹配按两条路径选核—— - **简化键**(主路径):{op_type}/d,p/{dtype码},{format码}/...,format 码直接取用例 input_formats 列(ND=2 / NDHWC=27 / NCDHW=30),本算子编译条目的 format 为 ND(码 2); - **static key**(兜底):用例侧 shape 经 _dynamicize_shape 恒为 [-1]*rank(rank 相关),编译侧为 [-2](dynamicRankSupport),哈希结构性不相等,该路径对本算子所有用例均不可达。 本算子 ascend950 二进制配置**缺失 format_match_mode**,生成的 binary_info_config.json 中 formatMode 为 normal,用例格式列不做归一化:NCDHW 列(码 30)与 NDHWC 列(码 27)均不等于编译条目的 ND(码 2),简化键全部失配。 **修复方式:** 补 FormatAgnostic(与 max_pool_with_argmax_v3 的既有配置对齐),生成 formatMode=static_nd_agnostic,ttk 侧 format_normalize 将 NDHWC / NCDHW / ND 格式列统一归一化为 ND(码 2),用例简化键与编译条目恢复匹配。attrs(data_format: NDHWC)、shape [-2]、dtype、bin_filename 等其余配置零改动,用例与 golden 均无需改动。 **生效条件:** 需重编 A5(ascend950)二进制包;生效后上述全部用例(含官方 74 条 NCDHW)恢复 binary 匹配。 **同类遗留:** avg_pool3_d_grad 的 ascend950 binary.json 存在同型问题(缺 format_match_mode,且 data_format/count_include_pad 写死具体值),其 NCDHW 用例同样无法通过 binary 匹配,建议后续同法修复。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6940 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 纯二进制编译配置修改,未改源码。已完成的验证: - JSON 合法性、9/9 张量字段覆盖、字段位置(张量末位,对齐 max_pool_with_argmax_v3 风格)✓ - 构建侧转换链实测:correct_format_mode("FormatAgnostic") → static_nd_agnostic(scripts/kernel/binary_script/gen_binary_info_config.py)✓ - 匹配侧转换链实测(ttk 真实代码):format_normalize(STATIC_ND_AGNOSTIC, fmt) 对 NDHWC / NCDHW / ND 格式列均归一化为 ND(码 2),归一化后用例简化键 AdaptiveAvgPool3dGrad/d=0,p=0/{dtype},2/{dtype},2 与编译条目简化键一致 ✓ - 待重编 A5 二进制包后真机回归:建议先跑 AdaptiveAvgPool3dGrad_gap_dhwc_ksizeone_fp16_001(格式列 ND,路径最短)确认 binary 匹配恢复,再全量跑该 CSV ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11967 | 1 month ago | |
docs(quant): 修正aclnnDynamicQuantV3/V4头文件yOut的INT32 shape说明 Co-authored-by: tianye<tianye82@h-partners.com> # message auto-generated for no-merge-commit merge: !12103 merge br_dquant_fix_1016 into master docs(quant): 修正aclnnDynamicQuantV3/V4头文件yOut的INT32 shape说明 Created-by: transformer910 Commit-by: tianye Merged-by: cann-robot Description: ## 描述 修正 aclnnDynamicQuantV3/aclnnDynamicQuantV4 公共头文件中 yOut 的 shape 说明,对应文档反馈 Issue「aclnnDynamicQuantV3/V4 头文件中的 yOut shape 说明不完整」。 - 改动原因:原注释称 yOut 与 x shape 一致,但 dstType=DT_INT32 时 INT32 实际为 8 个 INT4 拼接,API 要求 yOut 与 x 维数相同、前置维度相同、最后一维为 x 最后一维的 1/8(如 x=[16,32] 时 yOut=[16,4])。调用方按原注释创建同形输出,会在 API shape 校验阶段失败。 - 改动方法:仅更新两个头文件的 @param yOut 注释,区分说明 INT32 的末维例外(最后一维为 x 最后一维的 1/8,其余维度一致),其他输出类型仍与 x shape 一致;与 docs/aclnnDynamicQuantV3.md、docs/aclnnDynamicQuantV4.md 中已记载的规则保持一致。不涉及代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/6647 ## 测试 纯注释改动,未运行 NPU UT(不影响编译及运行时行为): - git diff --check 通过; - clang-format 18.1.8 检查两个头文件无格式差异; - OAT 合规检查通过(scripts/oat_check.sh 检查 2 个文件); - codespell 按仓库配置跳过 *.h,不适用; - 已有 V3 Host API UT 覆盖 BFLOAT16 [16,32] 输入、INT32 [16,4] 输出场景,V3/V4 共用同一 shape 校验逻辑,本次注释与之对齐。 ## 文档更新 更新 quant/dynamic_quant/op_host/op_api/aclnn_dynamic_quant_v3.h、quant/dynamic_quant/op_host/op_api/aclnn_dynamic_quant_v4.h 的接口注释;对应 .md 接口文档原本已包含该规则,无需修改。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12103 | 1 month ago | |
perf(rnn/lstm_block_cell): 流量模型 tiling 重构 + 双缓冲流水 + 二分树归并(大 shape 性能优化) Co-authored-by: wang-zhiyue2<wangzhiyue2@huawei.com> # message auto-generated for no-merge-commit merge: !11417 merge lstmblock-perf into master perf(rnn/lstm_block_cell): 流量模型 tiling 重构 + 双缓冲流水 + 二分树归并(大 shape 性能优化) Created-by: wang-zhiyue2 Commit-by: wang-zhiyue2 Merged-by: cann-robot Description: ## 描述 LstmBlockCell(Ascend950PR)大 shape 性能优化,基于已合入的 a467edc44 基线。562 用例实测中位加速 2.2x、大 shape 最高 37x,精度全量回归通过。 **Host 侧(tiling 重构)** - PickTile:nBlk 上限收敛到 NPad(H)(消除幻影列预算压制 kChunk);全 shape 流量模型选 tile(A-tile 组放大 + w 重读轮数按 KS 计划真实推导 strips×rounds + k-block 迭代停顿项实测标定 + fp16 partial 平面项);kChunk 纳入 L1 双缓冲 staging 预算;小流量(<16MB)开销主导 shape 取最宽 strip 扇出 - K-split:SK 填满网格反推 clamp(核数/stripsCap,2,核数)(旧策略 B<2×mBlk 时只用 2~16 核);fp16 段数按 shape-only strip 数反推(段边界不随核数漂移);partial workspace 超 96GB 时 W 逐档放大(EDGE_467 默认档 E19999 → 可跑) **Kernel 侧** - CubeProjectKS:A/B tile L1 双缓冲 + k-block 预取跨段重叠 + FIX→M 延迟等待(每 Set/Wait 严格配对),Mmad 算术序列不变 - MergePairKS:Kahan 逐段补偿(~11 op + 2 barrier/partial)换 4-plane 批量装载 + 批内二分树 ((p0+p1)+(p2+p3));归并模式按 S 自适应(S>16 树 / 小 S Kahan 精度上界);热循环 barrier 换 MTE2_V/V_MTE2 事件对 - VectorCellUnit:phase-B 按 (strip, round, nTile, 行半区) 矩形全网格轮询分发(旧 j%sk==q 映射小 H 时 1/16 核失衡消除) - PeepholeAddRowsHalf:逐行 4×PIPE_ALL/行 改整平面两轮 Cast **关键实测数据(vs 合入基线,msprof task duration)** | 用例 | 基线 | 优化后 | 加速 | |---|---|---|---| | ANC_073 (fp32 B=39 K=87k) | 12666us | 355us | 35.7x | | ANC_111 (fp16 B=39 K=84k) | 136446us | 6794us | 20.1x | | RND_383 (fp16 B=3 K=46k) | 32084us | 3037us | 10.6x | | ANC_094 (fp16 B=75983) | 1180263us | 197198us | 6.0x | | RND_433 (fp32 B=5 K=17k) | 15881us | 2781us | 5.7x | | ANC_088 (fp32 B=87613) | 584215us | 146673us | 4.0x | | ORT_137 (fp32 B=8831) | 552840us | 209077us | 2.6x | | EDGE_467 默认档 | E19999 跑不了 | 375307us | - | ## 关联的Issue 无 ## 测试 - UT 三配置全绿(ophost no-soc 69 PASS / soc950 69 PASS / opkernel 编译通过) - 562 用例 TTK geir cross_check 全量回归:559 PASS(ORT_238/ALIGNED_044/ATTR_012 为三方服务瞬时不可达,重跑通过;EDGE_475 经上游原版代码对照复测为三方环境变化,非本改动引入) - 二分树 vs Kahan A/B:10 困难用例双模式精度全 PASS,树归并 1.0~3.9x 优 - 性能:562 全量 msprof task duration(数据见 PR 讨论) ## 文档更新 无 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他 See merge request: cann/ops-nn!11417 | 1 month ago | |
feat: loss/optim/activation/index/quant/conv 34个算子适配ascend960dt Co-authored-by: caorenlei<caorenlei@huawei.com> # message auto-generated for no-merge-commit merge: !11923 merge 1009 into master feat: loss/optim/activation/index/quant/conv 34个算子适配ascend960dt Created-by: caorenlei Commit-by: caorenlei Merged-by: cann-robot Description: ## 描述 ### 改动原因 v121(ascend960dt/DAV_9201)平台算子适配:责任田内 34 个算子需要在 ascend960dt 平台提供支持。 ### 改动方法(注册级适配为主,2 个算子特殊处理) - **注册链路(全部 34 个算子)**: *_def.cpp 追加 AddConfig("ascend960dt");新增 op_host/config/ascend960dt/(binary.json 与 ascend950 对齐 + simplified_key.ini);算子级 CMakeLists(SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR)与 op_kernel/CMakeLists(COMPUTE_UNITS)追加 ascend960dt 编译目标,修复 960dt 二进制编译时 tiling 库缺失问题(NLLLoss Jenkins 报错根因);ascendc_config.json 追加对应条目 - **apply_ftrl(特例)**:kernel/tiling 整体换用 v121 参考实现(旧式类实现 + 按 dtype 的 tiling key),替换 master 的 atvoss DAG/ElementwiseSch 实现(atvoss 框架未在 960dt 验证) - **deformable_offsets(_grad)**:kernel 零改动,仅注册级适配 - **swiglu_mx_quant(_with_dual_axis)**:入口溢出模式保存/恢复的 #if __NPU_ARCH__ == 3510 扩展为 3510 || 9201;swiglu_mx_quant_with_dual_axis kernel 体内溢出模式置位同步扩展,保证 960dt 数值行为与 950 一致 - **binary_cross_entropy_grad 等 6 算子**:kernel 由 atvoss 纯模板覆盖为 RegBase 写法(v121 参考,Reg:: 命名约定) 涉及算子(34):loss 19 个(binary_cross_entropy(_grad)、cross_entropy_loss(_grad)、ctc_loss_v2(_grad)、kl_div_loss_grad、l1_loss_grad、l2_loss、lp_loss、mse_loss(_grad)、nll_loss(_grad)、sigmoid_cross_entropy_with_logits、smooth_l1_loss_v2(_grad_v2)、softmax/sparse_softmax_cross_entropy_with_logits)、optim 11 个(apply_adam(_d/_w/_w_v2)、apply_adagrad_d、apply_gradient_descent、apply_ftrl、adam_apply_one(_with_decay/_assign))、index 1 个(unique_consecutive)、conv 2 个(deformable_offsets(_grad))、quant 2 个(swiglu_mx_quant(_with_dual_axis)) ## 关联的Issue - #6806 ## 测试 - bash build.sh --pkg --soc=ascend950 --jit --ops=<34算子> 编译出包通过 - ttk(Ascend950PR_9579)精度回归:每算子小规模用例分块串行执行,34/34 全 PASS(precision/perf/oob),950 零回归 - ascend960dt 二进制编译需 Jenkins 环境验证(本地工具链 ASC_VALID_SOC_LIST 不含 960dt) ## 文档更新 无 ## 类型标签 - [ ] 🐛 Bug修复 - [x] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!11923 | 1 month ago | |
[bugfix]: 补齐合并算子原型头的增量构建依赖 Co-authored-by: zmuxuny<xiahoumuxuan@gmail.com> # message auto-generated for no-merge-commit merge: !12044 merge fix/merged-proto-dependencies into master [bugfix]: 补齐合并算子原型头的增量构建依赖 Created-by: z__y Commit-by: zmuxuny Merged-by: cann-robot Description: ## 描述 merge_graph_headers() 生成 ops_proto_nn.h 的 add_custom_command 没有声明输入原型头或 merge_proto.py 依赖。第一次构建后更新正常算子 proto、补充 proto 或合并脚本,再次构建目标仍成功退出且保留旧头文件;依赖该头复制出的 ops_proto_nn.cpp 也未刷新。开发者增量修改原型时会使用旧的合并定义。 为已有生成命令声明全部 proto_headers 及 merge_proto.py 为 DEPENDS,增加真实 Unix Makefiles 增量构建回归。 ## 关联的Issue Fixes #6719 https://gitcode.com/cann/ops-nn/issues/6719 ## 测试 - 源码基线:master / e03cebe43e8e134b5bde943edb77f70676109d40。 - 位置:[cmake/gen_ops_info.cmake](https://gitcode.com/cann/ops-nn/blob/e03cebe43e8e134b5bde943edb77f70676109d40/cmake/gen_ops_info.cmake)。 - 回归命令(测试随修复提交):python -m pytest tests/host/test_merge_graph_headers_incremental.py -q。 - 相同回归在原版:**3 failed in 6.37s**;修复后:**3 passed in 6.36s**。 - 本地 Python 3.10;修改文件的 pre-commit(含 Ruff/OAT)通过。 1. 使用临时 LANGUAGES NONE CMake 工程 include 仓内真实 gen_ops_info.cmake,建立真实 *_proto_headers interface target 并调用 merge_graph_headers。 2. 首次构建成功;无修改再次构建时产物时间不变。 3. 分别更新普通 proto 中的属性值、op_nn_proto_extend.h 中的属性值、真实合并器输出标记,再构建相同目标。 4. 原版三种情况均仍是旧输出;修复后 .h 和 .cpp 均包含最新内容。 临时工程调用仓内真实函数和合并器,不编译生成的 C++;没有执行 CANN 工程或 NPU 测试。 ## 文档更新 无公开参数变化。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12044 | 1 month ago | |
fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !10891 merge fix/add-rms-norm-quant-public-entry-validation into master fix(add_rms_norm_dynamic_quant): 顶层入口对非int标量做原始类型校验,修复dispatcher归一化绕过 Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: ## 关联 issue fixes #6055 ## 问题 顶层入口 cann_ops_nn.add_rms_norm_dynamic_quant(文档单算子示例路径)解析为 dispatcher OpOverloadPacket,标量参数在进入算子代码前被 schema 静默归一化(torch.int4 -> 40、torch.uint7 -> 36、np.int64(36) -> 36 等)。torch.uint6/uint7/int4/int5 四个 dtype 的序号恰好完整覆盖合法 dst_type 值域 {35,36,40,41},导致传入非 int 类型完全不报错、静默按"碰巧"的量化类型执行,与约束说明承诺的入口 TypeError 不符。详见 #6055。 ## 修改内容 1. torch_extension/cann_ops_nn/ops/norm/add_rms_norm_dynamic_quant/add_rms_norm_dynamic_quant.py 拆分 PrivateUse1 kernel(原逻辑逐字保留)与公开入口 add_rms_norm_dynamic_quant:先 _validate_arg_types 校验**原始**参数,再委托 torch.ops.cann_ops_nn.add_rms_norm_dynamic_quant 分发;公开入口携带 _cann_ops_nn_public_entry_ 标记。 2. torch_extension/cann_ops_nn/__init__.py __getattr__ 优先导出带标记的公开入口(而非 dispatcher 句柄);未携带标记的算子保持原行为——opt-in 机制,对其余算子零影响。 3. norm/add_rms_norm_dynamic_mx_quant/tests/ut/torch_extension/test_torch_extension_param_validation.py 入口结构锁定用例更新为断言"公开入口 + 与 raw 入口同一函数对象"(标量拦截覆盖经同一性断言传递至既有用例);删除与 test_scalar_type_interception 完全重复(同函数×同 7 个坏值×同断言)的参数化用例。 4. norm/add_rms_norm_dynamic_mx_quant/docs/torchapi_add_rms_norm_dynamic_quant.md 约束说明修正严格校验适用入口(补充顶层入口;dispatcher 归一化说明限定为直接经 torch.ops 调用场景);两个调用示例改为打印 shape/dtype,避免大 shape 输出刷屏。 ## 为什么委托 torch.ops 而非直调 C++ 模块 保证图模式行为不变:torch.compile 下 Dynamo 将公开入口内联后,torch.ops 调用仍作为 FX 图节点(实测 node.target 与修复前同为 OpOverloadPacket、逐节点一致),graph_convert 注册的 torchair GE 转换不受影响;若直调 C++ 模块则会在 builder.load() 处 graph break,图模式静默退化为 eager(mxscale dtype 等文档承诺行为改变)。 ## 验证(Ascend 950PR 实测) - 参数校验 UT:**42 passed**(meta/CPU,设备无关) - NPU UT test_torch_extension.py:**113 passed** - 文档 eager 示例路径实测:torch.int4/uint6/uint7/int5、torch.float8_e5m2/e4m3fn、np.int64/np.int32、36.0、"36"、True 全部抛指名 TypeError(如 dst_type must be a Python int (35=FP8_E5M2, 36=FP8_E4M3FN, 40=FP4_E2M1, 41=FP4_E1M2), but got torch.dtype: torch.int4);dst_type=36 正常输出 float8_e4m3fn (4,64),示例新打印语句输出与返回值说明表一致 - 图模式:FX 图与修复前逐节点一致;graph(trace) 与 eager 数值 torch.equal 为 True;torch.compile 下传 torch.int4 在 trace 阶段即 TypeError - pre-commit run(ruff check / ruff format / codespell / OAT 等)全部通过,零自动改动 ## 兼容性 - eager 合法调用(Python 原生 int/str/bool/float、IntEnum)行为不变 - torch.ops.cann_ops_nn.* 直调路径行为不变(框架归一化 + 值域兜底,文档已说明) - 其余算子顶层入口解析行为不变(仅带标记的公开入口生效) See merge request: cann/ops-nn!10891 | 2 months ago | |
fix(golden): 规范四个 NN 算子的 CPU 真值与 Torch 标杆 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !11783 merge fix/golden-three-leg-contract-20261012 into master fix(golden): 规范四个 NN 算子的 CPU 真值与 Torch 标杆 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 修正 INTrainingReduceV2、NormalizeBBox、Relu6Grad、SGD 的 Golden,使其遵循 TTK 三腿比对与 Golden 编写规范。仅修改 4 个 tests/assets/golden.py。 - CPU Promote 直接使用框架下发的浮点类型,不再自行升精度或按输出元信息转换;INTrainingReduceV2 在普通模式按 FP32 计算并输出。 - GPU 标杆统一为 Torch,移除 TF provider。Relu6Grad 的 FP16/BF16 标杆在 FP32 计算后还原输出类型。 - Relu6Grad kernel/GEIR 的 CPU Golden 使用 TensorFlow Select 组合;TF E2E 复用 TTK 默认 CPU 原生 TF 通路及框架 Promote。Torch E2E 标杆保留 TF 乘掩码语义,区别于 kernel 的 Select 语义。 - 保留既有 kernel/GEIR、legacy 注册和全部输出 dtype 的 tolerance。算子实现、Host、Parser 和 TTK 均无改动。 ## 关联的Issue Closes #6534 https://gitcode.com/cann/ops-nn/issues/6534 ## 测试 - Golden CPU 回归 199/199 通过,基线为 32695b8b95ae266a9e5962925a6b9654098789de。 - 同一固定输入运行主线和整改版,另用独立参考校验整改结果;覆盖 FP16/BF16/FP32、Promote FP32/FP64、边界/非有限值、NormalizeBBox 反转布局与空输入、SGD 属性组合及无写回槽的位模式。 - 使用当前工作目录 TTK 的真实 TestSpec loader、参数绑定和 CPU Golden 模块检查注册、完整 dtype tolerance、Relu6Grad TF E2E 的普通及 Promote 默认通路。 - pre-commit run --files <本次4个golden.py>、git diff --check 通过。 - Torch GPU 标杆的 Python 组合在 CPU 执行验证;未执行 NPU/远程 GPU、算子性能或算子精度测试。本轮本地 CI 结果见下文。 预期变化:INTrainingReduceV2 普通模式不再额外 FP64 累加;Relu6Grad Promote 保留 FP64 结果;低精度 Torch 标杆窄回;TF E2E 普通模式不再无条件升精度。Relu6Grad 的 kernel 与原生 TF E2E 在带外 NaN/Inf 梯度下的既有语义差异分别保留,本 PR 不修改算子处理。 ## 文档更新 当前工作目录保留整改报告、主线 Golden 快照、可复现脚本和逐项结果;仓库文档未修改。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 ## 输入输出自查 修复 Relu6Grad 在标量输入下返回 NumPy scalar 的兼容问题,使用 np.asarray(output.numpy()) 保持原来的零维 ndarray,不转换 dtype 或改变数值。新增 legacy/Spec 的签名、返回容器、输出数量/顺序/shape/dtype、输入不被改写、Promote 元信息及真实 TTK 服务端 CPU 参数绑定检查。默认 TF E2E 标量输出另经真实 TTK 比对器验证兼容。 两仓累计 Golden CPU 自查 **447/447** 通过,本仓 **199/199**。未执行 NPU/远程 GPU、算子性能或算子精度测试。当前受检 HEAD:bc343e1d4ce2903950004650db77537d86bc4f4d。 ## 本地 CI 统一入口 /workspace/CI-skills/ci_local_check.sh 定向检查通过;pre-commit、隔离 oat-py 1.0.3、Ascend 950 与 A2(ascend910b)定向 package/UT 已通过。构建并行度最多 8,使用任务目录内 CANN_Revise 的 0923 Toolkit/ops。 受测 HEAD:bc343e1d4ce2903950004650db77537d86bc4f4d;rebase 主仓 master:6a9298a10aed1c98836aa3c93a96c2ac6b819ccc;本轮 CI 基线快照:2c28f2ba5426ac80347ccedc6ffa3f5a92f0db4c。每仓相对 rebase 基点仅 1 个提交,squash 前后完整 diff 和 tree 一致,7 个 Golden 内容不变。 覆盖边界:下列定向 UT 阶段未执行用例(0 项或仅构建目标):opapi/ascend950、opkernel/ascend950、opapi/ascend910b、opkernel/ascend910b。不将这些阶段的构建通过计为用例覆盖。 线上 CI 触发凭据:https://gitcode.com/cann/ops-nn/merge_requests/11783#note_193365204。仅记录已触发请求/现有任务,不表示线上 CI 已通过。 See merge request: cann/ops-nn!11783 | 1 month ago | |
修改matmul 算子atoll 异常反馈判断 Co-authored-by: chenqi317<chenqi317@huawei.com> # message auto-generated for no-merge-commit merge: !7083 merge master into master 修改matmul 算子atoll 异常反馈判断 Created-by: chenqi317 Commit-by: chenqi317 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修改matmul 算子atoll 异常反馈判断,异常时返回默认值 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/3882 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7083 | 4 months ago | |
docs: 新增图融合规则说明文档 Co-authored-by: linzehui2058<2602241040@qq.com> # message auto-generated for no-merge-commit merge: !9676 merge fusion_pass_doc into master docs: 新增图融合规则说明文档 Created-by: linzehui2058 Commit-by: linzehui2058 Merged-by: cann-robot Description: ## 描述 对于已开源的图融合算子,进行对应的资料开源,包含MatmulToGemmOpFusionPass、MatmulReshapeTransposeFusionPass、GemmToMatmulFusionPass、BatchMatMul2MulFusionPass 其中的png图片格式,使用lfs进行托管 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/5541 ## 文档更新 matmul\batch_mat_mul_v3\docs\BatchMatMul2MulFusionPass.md matmul\mat_mul_v3\docs\MatmulToGemmOpFusionPass.md matmul\mat_mul_v3\docs\MatmulReshapeTransposeFusionPass.md matmul\mat_mul_v3\docs\GemmToMatmulFusionPass.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9676 | 2 months ago | |
动态库解耦 Co-authored-by: 18811725231<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !8927 merge master into master 动态库解耦 Created-by: yang-di52 Commit-by: 18811725231 Merged-by: cann-robot Description: ## 描述 本 PR 旨在将算子侧代码与 legacy 动态库(libophost_comm_legacy.so)解耦:LegacyCommonMgr 新增 isSupported_ 支持位与 IsSupport() 接口,依据编译宏 ASCEND_COMPUTE_UNIT 判断当前 SoC 版本是否属于受支持集合 SUPPORTED_VERS(ascend910b、ascend910_93、ascend310p、ascend310b、ascend910),仅受支持时才 dlopen 加载 legacy 库;各 legacy 封装接口在不受支持时提前短路返回,matmul 系列算子的 tiling 流程同步改为容忍 legacy 能力缺失而不再硬失败,并配套调整 CMake 编译宏与 UT 测试。 ## 关联的Issue [5093](https://gitcode.com/cann/ops-nn/issues/5093) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8927 | 2 months ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
feat(aicpu): AICPU built-in整包准入manifest机制 Co-authored-by: liu-wei<lovline.liuwei@huawei.com> # message auto-generated for no-merge-commit merge: !11655 merge feat/aicpu-builtin-package-manifest into master feat(aicpu): AICPU built-in整包准入manifest机制 Created-by: liu-wei Commit-by: liu-wei Merged-by: cann-robot Description: ## 描述 为 ops-nn 移植 AICPU built-in 整包准入 manifest 机制: 通过白名单控制 AICPU 算子是否准入 built-in 整包,默认全 OFF(与 ops-math 上线口径一致,算子准入由后续 PR 按需登记 xxx=ON),将"隐式排除"显式化为白名单机制。 **主要改动:** - 新增 cmake/config/aicpu_builtin_package_manifest.cmake:准入清单(AICPU_BUILTIN_PACKAGE_FORCE_ALL 默认 OFF + 空 manifest),在进入算子子目录前 include - cmake/func.cmake 新增 check_aicpu_builtin_pkg_allowed() 门控 helper - 23 个 AICPU 算子 op_kernel_aicpu/CMakeLists.txt 的 op_def 收集与 cust obj 编译包进 if (ENABLE_CUSTOM OR _AICPU_BUILTIN_PKG_ALLOWED) 门控 - gen_norm_symbol() 补 built-in 产出接线:NO_AICPU=OFF && ENABLE_PACKAGE=ON 时生成 aicpu_nn.json + libnn_aicpu_kernels.so(安装至 opp/built-in/op_impl/aicpu/{config,kernel}) - 顺手规范化 elu、adaptive_max_pool2d 的变体版权头(master 遗留问题,OAT 合规要求) **不受 manifest 控制(行为不变):** ENABLE_CUSTOM(custom 包直通)、UT(AddAicpuOpTestCase 与收集逻辑解耦)、host 常量折叠(libopconstant_folding_nn.so) **默认行为无回退:** master 上 gen_norm_symbol() 本无 AICPU 产出调用(收集物无消费者),空 manifest 下整包产物与 master 完全一致 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6515 ## 测试 本地 5 组 configure/build 验证: | 场景 | 结果 | |---|---| | 空 manifest 整包(ENABLE_PACKAGE=ON) | 干净跳过,无 aicpu 产物,与 master 一致 | | elu=ON | aicpu_nn.json 仅含 Elu;libnn_aicpu_kernels.so 仅链接 elu_cust_obj;安装路径正确 | | FORCE_ALL=ON | 23 算子全准入,json 含全部 23 个算子定义 | | ENABLE_CUSTOM=ON | 23 算子全收集,产出 cust_aicpu_kernel.json(→ vendors/custom_nn),与 master 无差异 | | UT(UT_TEST_ALL=ON) | 23 个算子 UT 用例正常创建 | pre-commit 全部通过(codespell、OAT 合规等)。 ## 文档更新 无需文档更新(纯构建配置改动) ## 类型标签 - 🐛 Bug修复 - ✅ ✨ 新特性 - ⚡ 性能优化 - ♻️ 重构 - 🧪 测试 - ✅ 📦 构建/CI - 🔧 配置变更 - 📝 文档更新 - ⬆️ 依赖升级 - 🔒 安全修复 - 🧹 代码清理 - ❓ 其他,请描述: See merge request: cann/ops-nn!11655 | 1 month ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
init | 1 year ago | |
docs: add LayerNormRemoveBroadcastFusionPass doc Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !9631 merge ln_pass_doc into master docs: add LayerNormRemoveBroadcastFusionPass doc Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 为现有LayerNormRemoveBroadcastFusionPass融合规则补充独立资料页。该规则在Ascend 950PR/Ascend 950DT场景下,将LayerNorm算子gamma和beta输入前的BroadcastTo从图中删除,使gamma和beta直接作为LayerNorm算子的输入,并将begin_norm_axis和begin_params_axis统一设置为归一化维度的起始轴。 资料同步说明规则的使用约束: - LayerNorm算子的gamma和beta输入前均为BroadcastTo,且两个BroadcastTo的shape输入相同。 - 输入x、gamma和beta均为静态shape。 - gamma和beta不为标量,二者的shape和数据类型相同。 - gamma的维数不大于x的维数,且gamma的shape与x从归一化轴开始的后缀shape相同。 - LayerNorm算子的begin_norm_axis换算为非负轴后,指向归一化维度的起始轴。 同时新增融合前后拓扑对比图,展示两个BroadcastTo节点被移除前后的图结构。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/5430 ## 测试 - 本次仅新增文档和配图,不涉及代码逻辑变更,未执行代码测试。 - 已检查Markdown格式、图片文件格式及图片引用路径。 ## 文档更新 - 新增 norm/layer_norm/docs/LayerNormRemoveBroadcastFusionPass.md,说明融合模式和使用约束。 - 新增docs/zh/figures/LayerNormRemoveBroadcastFusionPass_1.png,展示融合前后的图结构。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9631 | 2 months ago | |
产品名称修改 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !11292 merge master into master 产品名称修改 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 产品名称修改 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11292 | 1 month ago | |
fix: Modify the AIDD docs issue Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !8149 merge master into master fix: Modify the AIDD docs issue Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 修改AIDD扫描的核心资料问题 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#3939](https://gitcode.com/cann/ops-nn/issues/3939) ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!8149 | 3 months ago | |
fix Third_Party_Open_Source_Software_List.yaml Co-authored-by: liuyufan0725<liuyufan9@huawei.com> # message auto-generated for no-merge-commit merge: !1879 merge fix_yaml into master fix Third_Party_Open_Source_Software_List.yaml Created-by: liuyufan0725 Commit-by: liuyufan0725 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 更新三方依赖清单Third_Party_Open_Source_Software_List.yaml 1、增加protobuf 2、将nlohmann/json修改为json ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue [#1042](https://gitcode.com/cann/ops-nn/issues/1042) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Third_Party_Open_Source_Software_List.yaml ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1879 | 9 months ago | |
【描 述】 eigen update to 5.0.0 Co-authored-by: j00427146<jialimin1@huawei.com> # message auto-generated for no-merge-commit merge: !1152 merge master into master 【描 述】 eigen update to 5.0.0 Created-by: jialimin1 Commit-by: j00427146 Merged-by: cann-robot Description: ## 描述 现开源软件eigen 3.4.0 EOM,Eigen 从3.4.0版本升级到5.0.0,解决生命周期问题。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/ops-nn/issues/975 https://gitcode.com/cann/ops-nn/issues/389 ## 测试   ## 文档更新 SECURITY.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:Update Eigen to 5.0.0 See merge request: cann/ops-nn!1152 | 9 months ago | |
修复静态库出包不打包kernel的问题 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !12263 merge master into master 修复静态库出包不打包kernel的问题 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 ### 背景 本 PR 针对静态库打包时未打包 kernel 的问题进行修复。改动集中在 build.sh 的 main() 流程中:在调用 build_binary 前后备份并还原 ASCEND_OPP_PATH 与 LD_LIBRARY_PATH 两个环境变量,避免 build_binary 对这些变量的修改影响后续的静态库构建流程,从而保证静态库出包时能正确打包 kernel。 ### 主要改动 * 备份构建前的环境变量: 在进入 ENABLE_BINARY 或 ENABLE_PACKAGE 分支、调用 build_binary 之前,用局部变量 OLD_ASCEND_OPP_PATH 和 OLD_LD_LIBRARY_PATH 保存当前 ASCEND_OPP_PATH、LD_LIBRARY_PATH 的取值。 * 还原环境变量: 在 build_binary 执行完成后,重新导出 ASCEND_OPP_PATH 和 LD_LIBRARY_PATH 为备份值,避免 build_binary 对这两个变量的修改泄漏到后续的 build_static_lib 等步骤。 * 保障静态库出包行为: 通过上述环境变量的隔离恢复,使构建流程后续阶段(静态库打包)运行在原始环境变量下,从而修复静态库出包未打包 kernel 的问题。 ## 关联的Issue [#6883](https://gitcode.com/cann/ops-nn/issues/6883) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12263 | 1 month ago | |
chore: hi_f4 算子分类规则登记;修复 rms_norm bfloat16_t 宏 960 平台排除缺失 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !12154 merge chore/classify-hi-f4 into master chore: hi_f4 算子分类规则登记;修复 rms_norm bfloat16_t 宏 960 平台排除缺失 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 变更内容 ### 1. classify_rule 登记 hi_f4 两算子(#11972 引入,合入时漏登)补登记到 classify_rule.yaml 的 HPTG1@ops-nn 团队段: - src/release/style:2 条算子级路径(全域覆盖 80 文件) - src/unrelease/test_code:tests/ + examples/ ×2(与 matmul 的 fused_mat_mul 形态同构) ### 2. rms_norm bfloat16_t 宏修复 norm/rms_norm/op_kernel/rms_norm_base.h 的条件宏缺少 __CCE_AICORE__ != 920 排除,在 Ascend960 上宏被激活,bfloat16_t 被重定义为 int16_t,bf16 数据按 int16 处理导致精度问题。 影响算子(960 编译路径含此头文件):rms_norm、add_rms_norm、add_rms_norm_cast、inplace_add_rms_norm。 修复:追加 && __CCE_AICORE__ != 920,与 add_rms_norm_quant_base.h 既有修复及 dev 仓基线形态一致。 ## 验证 - classify 路径与实际文件双向核对(幽灵 0、未覆盖 0);其他算子条目零改动 - 宏修复与 dev 仓基线逐字一致;A5(310)本就排除,无影响 See merge request: cann/ops-nn!12154 | 1 month ago | |
docs:修改代码块缺闭合围栏问题 Co-authored-by: zwj223<zhangwenjing55@h-partners.com> # message auto-generated for no-merge-commit merge: !11686 merge master into master docs:修改代码块缺闭合围栏问题 Created-by: zwj223 Commit-by: zwj223 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6434](https://gitcode.com/cann/ops-nn/issues/6434) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> codearts_check_rule_config.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11686 | 1 month ago | |
调整nn仓第三方依赖 Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !7845 merge pr_6933 into master 调整nn仓第三方依赖 Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 1. 文档声称 install_deps.sh 可一键安装所有列出的基础依赖("上述依赖可通过项目脚本一键安装"),但实际脚本仅安装了 GCC、CMake、pigz、dos2unix、patch,未安装 googletest(文档明确列为基础依赖项之一),开发者需手动下载源码、编译并安装 googletest,与文档"一键安装"的描述不符 2. python requirements多两个不需要的依赖 ### 主要修改 为install_deps.sh 增加了安装gtest的功能 删除requirements中多余的两个依赖 ## 关联的Issue [#4256](https://gitcode.com/cann/ops-nn/issues/4256) [#4154](https://gitcode.com/cann/ops-nn/issues/4154) ## 测试  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7845 | 3 months ago | |
revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Co-authored-by: cann-robot<cann@cann.team> # message auto-generated for no-merge-commit merge: !11095 merge revert-mr-9924-1790130631176-auto into master revert//fix(opgraph): 支持旧版本 CANN 运行时加载融合 pass 库 Created-by: cann-robot Commit-by: cann-robot Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11095 | 1 month ago | |
upgrade version 9.2.0 Co-authored-by: cong-jiyu<congjiyu@h-partners.com> # message auto-generated for no-merge-commit merge: !9513 merge master into master upgrade version 9.2.0 Created-by: cong-jiyu Commit-by: cong-jiyu Merged-by: cann-robot Description: ## 描述 upgrade version 9.2.0 ## 关联的Issue [#5362](https://gitcode.com/cann/ops-nn/issues/5362) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述: 版本更新 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!9513 | 2 months ago |
🔥Latest News
- [2026/05] 优化kernel编译配置项,减少simplified_key和ascendc_config配置文件(!3330)。
- [2026/05] 引入ops-tensor,基于分层结构优化Cube类算子,减少偏移量计算和简化指令参数(!5036)。
- [2026/05] 发布生态算子的精度验收标准(!4572)。
- [2026/03] 开源算子支持下一代芯片:Ascend950PR(!450)。
- [2026/03] 新增<<<>>>的算子开发样例(!620)。
- [2026/03] 低bit类算子和融合算子支持更多数据类型:fp8/mxfp8/hifp8/mxfp4等,并支持pertensor/perchannel/pertoken/pergroup/perblock等不同量化和组合方式:全量化融合算子:quant_batch_matmul_v4,伪量化融合算子:weight_quant_batch_matmul_v2。
- [2026/03] 支持SIMD/SIMT新同构编程算子实现:[MapIndex](#660),[ScatterSub](#710)。
- [2026/01] 新增QuickStart,指导新手零基础入门算子项目部署(支持Docker环境)、算子开发和贡献流程。
- [2025/12] 开源算子支持Ascend 950PR&950DT系列产品/KirinX90,可以通过NPU Simulator仿真工具开发调试;优化指南类文档,聚焦算子开发指南,明确最小交付件和关键示例代码,针对Ascend/samples仓算子提供迁移本项目的指导;新支持稀疏4:2量化matmul算子,针对稀疏矩阵开启硬件加速能力。
- [2025/11] 新支持算子index_fill、masked_scatter、scatter、tf_scatter_add、fused_cross_entropy_loss_with_max_sum。
- [2025/10] 新增experimental目录,完善贡献指南,支持开发者调试并贡献自定义算子。
- [2025/09] ops-nn项目首次上线,开源算子支持Atlas A2/A3系列产品。
🚀概述
ops-nn是CANN(Compute Architecture for Neural Networks)算子库中提供神经网络计算能力的高阶算子库,包括matmul类、activation类等算子,算子库架构图如下:

📌版本配套
本项目源码会跟随CANN软件版本发布,关于CANN软件版本与本项目标签的对应关系请参阅release仓库中的相应版本说明。 请注意,为确保您的源码定制开发顺利进行,请选择配套的CANN版本与Gitcode标签源码,使用master分支可能存在版本不匹配的风险。
🛠️环境准备
环境部署是体验本项目能力的前提,请先完成NPU驱动、CANN包安装等,确保环境正常。
⬇️源码下载
环境准备好后,下载与CANN版本配套的分支源码,通用命令如下,${tag_version}替换为分支标签名。以9.0.0分支源码下载为例:
# 通用命令:git clone -b ${tag_version} https://gitcode.com/cann/ops-nn.git
git clone -b 9.0.0 https://gitcode.com/cann/ops-nn.git
说明:若环境中已存在配套分支源码,可跳过本步骤,例如CANNLab默认已提供最新版本CANN对应的源码。
📖学习教程
💬相关信息
PS:本项目功能和文档正在持续更新和完善中,欢迎您关注最新版本。