| Files | Last commit | Last update |
|---|---|---|
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
fix(nn): release resources on init failure in aclnn examples and docs Co-authored-by: wangjun03<wangjun01@nuaa.edu.cn> # message auto-generated for no-merge-commit merge: !8693 merge fix/init-failure-resource-release-nn into master fix(nn): release resources on init failure in aclnn examples and docs Created-by: wangjun03 Commit-by: wangjun03 Merged-by: cann-robot Description: ## 描述 修复 NN/Transformer 类算子调用示例在初始化失败场景下资源释放不完整的问题。 - aclrtSetDevice 失败时,在返回前调用 aclFinalize,释放已初始化的 ACL 资源。 - aclrtCreateStream 失败时,在返回前依次调用 aclrtResetDevice 和 aclFinalize,释放已设置的 Device 及 ACL 资源。 - 保留原有 CHECK_RET 写法和正常执行路径的资源释放顺序。 - 同步修改文档示例和对应的可执行示例源码,保证两处代码一致。 本次修改参考仓库内 PR #8603(aclnnSoftmax)的修复方式,仅补齐资源释放逻辑,不涉及算子 Tiling、Kernel 和计算功能变更。 ## 涉及算子 ### activation(4 个算子,8 个文件) - **SoftmaxV2**:aclnnSoftmax - **LogSoftmaxV2**:aclnnLogSoftmax - **SoftmaxGrad**:aclnnSoftmaxBackward - **LogSoftmaxGrad**:aclnnLogSoftmaxBackward ### norm(23 个算子,56 个文件) - **GroupNormGrad**:aclnnGroupNormBackward - **LpNormV2**:aclnnLinalgVectorNorm、aclnnNorm - **LayerNormV4**:aclnnLayerNorm、aclnnFastLayerNorm - **LayerNormGradV3**:aclnnLayerNormBackward - **AddLayerNorm**:aclnnAddLayerNorm - **AddLayerNormQuant**:aclnnAddLayerNormQuant - **AddRmsNorm**:aclnnAddRmsNorm - **AddRmsNormCast**:aclnnAddRmsNormCast - **AddRmsNormQuant**:aclnnAddRmsNormQuant - **AddRmsNormDynamicQuant**:aclnnAddRmsNormDynamicQuant、aclnnAddRmsNormDynamicQuantV2 - **AddRmsNormDynamicMxQuant**:aclnnAddRmsNormDynamicMxQuant - **RmsNormDynamicMxQuant**:aclnnRmsNormDynamicMxQuant - **RmsNormGradQuant**:aclnnRmsNormGradQuant - **RmsNormQuantV3**:aclnnRmsNormQuantV3 - **BatchNormV3**:aclnnBatchNorm、aclnnBatchNormElemt - **BatchNormGradV3**:aclnnBatchNormBackward、aclnnFastBatchNormBackward - **RmsNorm**:aclnnRmsNorm - **RmsNormGrad**:aclnnRmsNormGrad - **InplaceAddRmsNorm**:aclnnInplaceAddRmsNorm - **SyncBatchNormBackwardElemt**:aclnnBatchNormElemtBackward - **SyncBatchNormBackwardReduce**:aclnnBatchNormReduceBackward - **SyncBatchNormGatherStats**:aclnnSyncBatchNormGatherStats ### experimental 镜像(8 个文件) - experimental/activation: LogSoftmaxV2 - experimental/loss: SoftmaxGrad - experimental/norm: SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats ## 关联的 Issue Issue #4745 ## 测试 - git diff --check:通过。 - 本次仅修改调用示例的异常处理逻辑,未执行 NPU 运行测试。 ## 文档更新 - 更新上述算子 docs/ 目录下的 aclnn*.md 中的调用示例。 - 同步更新 examples/ 目录下的 test_aclnn_*.cpp 可执行示例源码。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!8693 | 2 months ago | |
TF plugin开源 Co-authored-by: sunchun<sunchun4@h-partners.com> # message auto-generated for no-merge-commit merge: !7516 merge nn into master TF plugin开源 Created-by: sunchun Commit-by: sunchun Merged-by: cann-robot Description: ## 描述 TF plugin开源修改 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/4196 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!7516 | 3 months ago | |
fix: GetWorkspaceSize接口补充workspaceSize/executor空指针校验 Co-authored-by: cai-chengchao<caichengchao2@h-partners.com> # message auto-generated for no-merge-commit merge: !14529 merge ccc_1116 into master fix: GetWorkspaceSize接口补充workspaceSize/executor空指针校验 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 为 activation/、norm/ 下 18 个 aclnn 算子的 GetWorkspaceSize 系列接口入口补充 OP_CHECK_COMM_INPUT(workspaceSize, executor) 公共入参校验,当 workspaceSize 或 executor 为 nullptr 时打印错误日志并返回 ACLNN_ERR_PARAM_NULLPTR,避免后续空指针解引用。 ### 改动原因 GetWorkspaceSize 系列接口的 workspaceSize、executor 出参未做空指针防护,存在空指针解引用风险。 ### 改动方法 复用 common/stub/op_api/aclnn_kernels/common/op_error_check.h 中已定义的 OP_CHECK_COMM_INPUT(workspaceSize, executor) 宏,在每个 GetWorkspaceSize 接口函数体开头插入该宏调用。共 18 个文件、20 处新增,覆盖 activation/ 下 4 个文件与 norm/ 下 14 个文件。 ## 关联的Issue - #8885 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14529 | 5 days ago | |
style: 统一算子源码版权声明头并规范代码格式 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !12402 merge ccc_1020 into master style: 统一算子源码版权声明头并规范代码格式 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 统一 cann/ops-nn 仓库中 activation、norm 目录下算子的源码版权声明头格式,并对源码进行代码格式规范化处理,具体包括: 1. 统一版权声明头:将各算子源文件的版权声明统一为 CANN Open Software License Agreement Version 2.0 规范格式,文件头注释统一为 Doxygen 格式。 2. 代码格式规范化: - 为缺失结尾换行的文件补上末尾换行符; - 去除代码行尾的多余空白字符; - 规范 Python 脚本 shebang 为 #!/usr/bin/env python3,并按 pep8/black 规范调整空格、缩进与长行换行,清理未使用的 import; - 按编码规范调整 C++ 文件的长行拆分。 本次改动不涉及算子功能、接口与实现逻辑的变化。 ## 关联的Issue 关联 Issue #7248 ## 测试 本次仅涉及代码格式与版权声明调整,不改变算子功能与实现逻辑,无需新增功能测试。 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式与版权声明规范 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12402 | 19 days ago | |
style: 统一算子源码版权声明头并规范代码格式 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !12402 merge ccc_1020 into master style: 统一算子源码版权声明头并规范代码格式 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 统一 cann/ops-nn 仓库中 activation、norm 目录下算子的源码版权声明头格式,并对源码进行代码格式规范化处理,具体包括: 1. 统一版权声明头:将各算子源文件的版权声明统一为 CANN Open Software License Agreement Version 2.0 规范格式,文件头注释统一为 Doxygen 格式。 2. 代码格式规范化: - 为缺失结尾换行的文件补上末尾换行符; - 去除代码行尾的多余空白字符; - 规范 Python 脚本 shebang 为 #!/usr/bin/env python3,并按 pep8/black 规范调整空格、缩进与长行换行,清理未使用的 import; - 按编码规范调整 C++ 文件的长行拆分。 本次改动不涉及算子功能、接口与实现逻辑的变化。 ## 关联的Issue 关联 Issue #7248 ## 测试 本次仅涉及代码格式与版权声明调整,不改变算子功能与实现逻辑,无需新增功能测试。 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式与版权声明规范 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12402 | 19 days ago | |
feat: 责任田 31 算子批量同步 Ascend960 平台支持 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !11896 merge feat/responsibility-ops-ascend960-clean into master feat: 责任田 31 算子批量同步 Ascend960 平台支持 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 从 ops-nn-dev 基线同步责任田(norm/activation/index)33 算子的 Ascend960 平台支持。 - def 注册目标平台(Ascend960)+ config binary.json - kernel arch35 宏隔离,非目标平台走 #else 原路径零回归 ## 测试 已在 Ascend960 环境完成编译与功能验证。 ## 类型标签 - [x] ✨ Feature 关联 Issue: #6624 See merge request: cann/ops-nn!11896 | 1 month ago | |
style: 统一算子源码版权声明头并规范代码格式 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !12402 merge ccc_1020 into master style: 统一算子源码版权声明头并规范代码格式 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 统一 cann/ops-nn 仓库中 activation、norm 目录下算子的源码版权声明头格式,并对源码进行代码格式规范化处理,具体包括: 1. 统一版权声明头:将各算子源文件的版权声明统一为 CANN Open Software License Agreement Version 2.0 规范格式,文件头注释统一为 Doxygen 格式。 2. 代码格式规范化: - 为缺失结尾换行的文件补上末尾换行符; - 去除代码行尾的多余空白字符; - 规范 Python 脚本 shebang 为 #!/usr/bin/env python3,并按 pep8/black 规范调整空格、缩进与长行换行,清理未使用的 import; - 按编码规范调整 C++ 文件的长行拆分。 本次改动不涉及算子功能、接口与实现逻辑的变化。 ## 关联的Issue 关联 Issue #7248 ## 测试 本次仅涉及代码格式与版权声明调整,不改变算子功能与实现逻辑,无需新增功能测试。 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式与版权声明规范 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12402 | 19 days ago | |
feat: 责任田 31 算子批量同步 Ascend960 平台支持 Co-authored-by: zzz2048<zhuhanhan@huawei.com> # message auto-generated for no-merge-commit merge: !11896 merge feat/responsibility-ops-ascend960-clean into master feat: 责任田 31 算子批量同步 Ascend960 平台支持 Created-by: zzz2048 Commit-by: zzz2048 Merged-by: cann-robot Description: ## 描述 从 ops-nn-dev 基线同步责任田(norm/activation/index)33 算子的 Ascend960 平台支持。 - def 注册目标平台(Ascend960)+ config binary.json - kernel arch35 宏隔离,非目标平台走 #else 原路径零回归 ## 测试 已在 Ascend960 环境完成编译与功能验证。 ## 类型标签 - [x] ✨ Feature 关联 Issue: #6624 See merge request: cann/ops-nn!11896 | 1 month ago | |
fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !14222 merge fix/examples-quality-20261111 into master fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: 【MR来源】 CannbotHarness 扫描出的 examples 质量问题:样例调用 aclnn/GE 接口后不校验返回值、dump 写入失败不影响退出码、宏用字面量做指针偏移、数据生成与 dtype 宽度不匹配等。 【改动范围】 activation/、norm/、index/ 下 **20 个算子** 的 examples 与配套文档,共 **42 个文件**(20 个 .cpp、22 个 .md)。主要改动: 1. ADD_INPUT / ADD_CONST_INPUT 宏里 "placeholder" + inputIndex 是地址偏移而非字符串拼接,改为 std::to_string 拼接,并按序号设置 set_attr_index:**23 处宏定义、47 处调用点**。 2. aclCreate* 判空吞错:CHECK_RET 里的 ret 通常是上一步结果,创建失败也返回 ACL_SUCCESS;改为打印错误并 return ACL_ERROR_FAILURE,共 **5 处**。 3. WriteDataToFile 补 inputData 判空与 fopen / fwrite / fclose 失败判断;dump 失败通过局部 dumpOk 或 SaveInputOutput 返回值传回 main,**退出码不再恒为 0**。 4. 数据生成与 dtype 宽度不匹配:GenOnesData 按字节数算 data_len 却按 int32_t 分配和写入,改为按样例固定 dtype 分配与写值(float / BF16 取 float 高 16 位,BF16 转换改用 memcpy_s),分配后补判空。 5. 量化样例输出打印:AddLayerNormQuant、AddRmsNormDynamicQuantV2 的输出混有 BF16 / INT8 / FLOAT,原来统一按 float 读取会误解码并越过有效字节范围(实测打印出 3.396e38 与 -nan),改为按 **输出 dtype 分支解码**(DT_FLOAT / DT_INT8 / DT_BF16)后打印。 6. GroupNormV2 样例:恒定输入配 eps=0 属零方差退化(实测 y 全 NaN、rstd 全 Inf),eps 改为 **1e-5**,普通运行即得有限结果。 7. 其它:删除 argv[1] 越界打印、补 new Session 成功路径 delete session、README 调用说明表头改为「样例代码」并同步中英文、补 norm/batch_norm_grad 原先缺失的中英文 README。 【修改验证】 - 20 个 .cpp 逐个 g++ -fsyntax-only(CANN 头路径):**20/20 rc=0** - clang-format 对改动 .cpp 检查:**0 fail** - CI 流水线(compile 触发):CodeCheck、多平台编译、UT、PreSmoke **全部通过** 【边界说明】 只改上述算子的 examples 样例与其配套中英文文档;不涉及算子 kernel、tiling、proto 等生产实现,不改 build.sh、CMakeLists.txt 等公共构建件。 See merge request: cann/ops-nn!14222 | 4 days ago | |
fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Co-authored-by: wangqi<wangqi195@hisilicon.com> # message auto-generated for no-merge-commit merge: !14222 merge fix/examples-quality-20261111 into master fix(examples): nn仓部分算子样例的指针拼接、错误码、dtype 与资源释放修复,补 batch_norm_grad README Created-by: wangqi_ai Commit-by: wangqi Merged-by: cann-robot Description: 【MR来源】 CannbotHarness 扫描出的 examples 质量问题:样例调用 aclnn/GE 接口后不校验返回值、dump 写入失败不影响退出码、宏用字面量做指针偏移、数据生成与 dtype 宽度不匹配等。 【改动范围】 activation/、norm/、index/ 下 **20 个算子** 的 examples 与配套文档,共 **42 个文件**(20 个 .cpp、22 个 .md)。主要改动: 1. ADD_INPUT / ADD_CONST_INPUT 宏里 "placeholder" + inputIndex 是地址偏移而非字符串拼接,改为 std::to_string 拼接,并按序号设置 set_attr_index:**23 处宏定义、47 处调用点**。 2. aclCreate* 判空吞错:CHECK_RET 里的 ret 通常是上一步结果,创建失败也返回 ACL_SUCCESS;改为打印错误并 return ACL_ERROR_FAILURE,共 **5 处**。 3. WriteDataToFile 补 inputData 判空与 fopen / fwrite / fclose 失败判断;dump 失败通过局部 dumpOk 或 SaveInputOutput 返回值传回 main,**退出码不再恒为 0**。 4. 数据生成与 dtype 宽度不匹配:GenOnesData 按字节数算 data_len 却按 int32_t 分配和写入,改为按样例固定 dtype 分配与写值(float / BF16 取 float 高 16 位,BF16 转换改用 memcpy_s),分配后补判空。 5. 量化样例输出打印:AddLayerNormQuant、AddRmsNormDynamicQuantV2 的输出混有 BF16 / INT8 / FLOAT,原来统一按 float 读取会误解码并越过有效字节范围(实测打印出 3.396e38 与 -nan),改为按 **输出 dtype 分支解码**(DT_FLOAT / DT_INT8 / DT_BF16)后打印。 6. GroupNormV2 样例:恒定输入配 eps=0 属零方差退化(实测 y 全 NaN、rstd 全 Inf),eps 改为 **1e-5**,普通运行即得有限结果。 7. 其它:删除 argv[1] 越界打印、补 new Session 成功路径 delete session、README 调用说明表头改为「样例代码」并同步中英文、补 norm/batch_norm_grad 原先缺失的中英文 README。 【修改验证】 - 20 个 .cpp 逐个 g++ -fsyntax-only(CANN 头路径):**20/20 rc=0** - clang-format 对改动 .cpp 检查:**0 fail** - CI 流水线(compile 触发):CodeCheck、多平台编译、UT、PreSmoke **全部通过** 【边界说明】 只改上述算子的 examples 样例与其配套中英文文档;不涉及算子 kernel、tiling、proto 等生产实现,不改 build.sh、CMakeLists.txt 等公共构建件。 See merge request: cann/ops-nn!14222 | 4 days ago |
LogsoftmaxGrad
English | 简体中文
This directory contains only the aclnn interface corresponding to the LogsoftmaxGrad operator. If you want to contribute the AscendC implementation of this operator, refer to the contribution process.
Invocation Description
| Invocation Method | Sample Code | Description |
|---|---|---|
| aclnn invocation | test_aclnn_log_softmax_grad | Invokes the log_softmax_grad operator through the aclnnLogSoftmaxBackward APIs |