| Files | Last commit | Last update |
|---|---|---|
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
fix(ada_layer_norm_grad): 前置拒绝非 ND 格式并修复 aclnn golden dtype 语义 Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !13835 merge fix/ada_layer_norm_grad_harden into master fix(ada_layer_norm_grad): 前置拒绝非 ND 格式并修复 aclnn golden dtype 语义 Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 ### 背景 aclnnAdaLayerNormBackward 内部按最后一维连续归约,仅支持 ND 格式;现有实现未在 op_api 层拒绝 NZ 等私有格式,会把逻辑视图当连续数据计算,结果错误且不报错。GE 侧 tiling 已有同类校验,前端缺失。 ### 改动 1) op_api 前置格式校验(aclnn_ada_layer_norm_backward.cpp) - 新增 CheckFormat,遍历 13 个入/出参(跳过空指针的可选张量),非 FORMAT_ND 时上报 OP_LOGE_FOR_INVALID_FORMAT_WITH_REASON 并返回 ACLNN_ERR_PARAM_INVALID;置于 CheckParams 首位执行。 2) TTK aclnn golden 修复(tests/assets/golden.py) - 签名按 C header 全位置参数对齐:补 normalizedShape 与 5 个输出张量,避免 TTK 按 header 顺序喂参时 TypeError。 - aclnn 通路不传 output_dtypes,改为取 tensor_dtypes 末尾 5 项。 - 入参先提升计算精度(Promote 时 fp64,否则 fp32)再计算,出口 cast 回各输出声明 dtype,对齐算子内部 fp32 累加语义,避免 b16 中间舍入导致 pd_gamma/pd_beta 判据必然 FAIL。 - 输出张量为 None 时 golden 返回 None,避免 NO_OUTPUT 误判。 ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/8320 ## 测试 - [x] 已通过 TTK aclnn 通路验证(fp32/fp16/bf16 及 Promote 模式) ## 文档更新 无(接口契约与文档一致,仅补齐缺失的前置校验) ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13835 | 13 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
feat: vector算子适配ascend960pr(DV122)平台(3/4) Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !14303 merge feat/dv122-ascend960pr-adaptation-p2b into master feat: vector算子适配ascend960pr(DV122)平台(3/4) Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR/DAV_9202/Ascend960PR_969A1)vector 算子批量适配**第 3/4 批(38 个算子,ST 全通过)**。 配套:(1/4)!14184(43 算子)、(2/4)!14185(38 算子)、(4/4,ST 隔离批)!14292(64 算子:53 个 ST 失败算子 + 11 个反向依赖闭包)。四 PR 算子集与 ascendc_config.json 条目均无重叠,并集为原全量 183 算子适配;原(2/3)PR(76 算子)按检视要求均分为(2/4)(3/4)两批,两批内部无依赖交叉。 ## ISSUE https://gitcode.com/cann/ops-nn/issues/8671 ### 本批范围(38 个算子) 原(2/3)的 76 算子按算子数 38/38、文件数 142/140 均分(本批为文件数较多的一半) ### 适配内容(与 1/4 同一方法论) - 注册级:CMakeLists SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR、def.cpp AddConfig、op_host/config/ascend960pr 二进制配置(与 960dt 一致)、op_kernel COMPUTE_UNITS - ascendc_config.json 保持上游 715 行逐条目规范格式,仅含本批 28 个条目,段级保留原条目文本风格 - 代码级:DAV_9201、__NPU_ARCH__==9201、__DAV_920R1__、"Ascend960DT" 门禁补 DAV_9202/9202/__DAV_920R2__/"Ascend960PR" - socVersion 枚举值域:960(=1000) 位于 ASCEND910E(=4) 之后,范围判断显式追加 960 枚举 ## 测试 - op_host UT 全量:10132 PASSED(唯一失败 MaskedSoftmaxWithRelPosBias B_tiling_52 为已知环境问题,修复在 !14184,上游 master 同样失败) - pre-commit 全部通过(141 文件) ## 文档更新 不涉及 See merge request: cann/ops-nn!14303 | 9 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
modified md files Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !14130 merge master into master modified md files Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 Adjust the error code table and correct the value of rowspand. ## 关联的Issue [#8190](https://gitcode.com/cann/ops-nn/issues/8190) ## 测试 Only involves updating the MD document description, does not involve testing. ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!14130 | 11 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
修改nn仓AIDD扫描必处理问题 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !14238 merge master into master 修改nn仓AIDD扫描必处理问题 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 修改nn仓AIDD扫描必处理问题 ## 关联的Issue 关联Issue [#8649](https://gitcode.com/cann/ops-nn/issues/8649) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14238 | 10 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
feat: vector算子适配ascend960pr(DV122)平台(2/4) Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !14185 merge feat/dv122-ascend960pr-adaptation-p2 into master feat: vector算子适配ascend960pr(DV122)平台(2/4) Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR/DAV_9202/Ascend960PR_969A1)vector 算子批量适配**第 2/4 批(38 个算子,ST 全通过)**。 配套:(1/4)!14184(43 算子)、(3/4)!14303(38 算子)、(4/4,ST 隔离批)!14292(64 算子:53 个 ST 失败算子 + 11 个反向依赖闭包)。四 PR 算子集与 ascendc_config.json 条目均无重叠,并集为原全量 183 算子适配;本 PR 与(3/4)为原(2/3)PR 的均衡二分(38/38 算子、142/140 文件,内部无依赖交叉)。 ### 本批范围(38 个算子) 原(2/3)的 76 算子中文件数较多的一半,含 conv/foreach/hash/index/loss/norm/optim/quant 多类目 ### 适配内容(与 1/4 同一方法论) - 注册级:CMakeLists/def.cpp AddConfig/config 960pr 二进制配置/op_kernel COMPUTE_UNITS;ascendc_config.json 仅含本批 30 个条目(715 行规范格式,段级保留原条目文本风格) - 代码级:DAV_9201 系门禁补 DAV_9202/9202/__DAV_920R2__/"Ascend960PR" - 检视修复(随本批保留):grouped_dynamic_block_quant 的 FLOAT_OVERFLOW_MODE_CTRL 门禁三处补 9202,全 PR CtrlSpr 成对性审计通过 ## 测试 - op_host UT 全量:10132 PASSED(唯一失败 MaskedSoftmaxWithRelPosBias B_tiling_52 为已知环境问题,修复在 !14184,上游 master 同样失败) - pre-commit 全部通过(143 文件) ## 文档更新 不涉及 See merge request: cann/ops-nn!14185 | 9 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
fix(batch_norm): arch35 魔法数字消除、重复实现收敛与空行规范 Co-authored-by: HelloWorld-LX<luxin67@h-partners.com> # message auto-generated for no-merge-commit merge: !14771 merge cleancode-batch-norm-arch35 into master fix(batch_norm): arch35 魔法数字消除、重复实现收敛与空行规范 Created-by: HelloWord-LuXin Commit-by: HelloWorld-LX Merged-by: cann-robot Description: ## 修改内容 norm/batch_norm arch35 内核与 tiling 的魔法数字消除 / 重复实现收敛 / 空行规范,无逻辑变化(6 文件,+32/−62)。 ### 1. FindCofFactor 重复实现收敛 + 移位魔法数字消除 求"不小于 n 的二次幂数"的 FindCofFactor 原先在 batch_norm_welford.h、batch_norm_block_split_r.h、batch_norm_rar_block_split_r.h 三处各有一份相同的私有成员实现,收敛为 batch_norm_base.h 中一份命名空间级 __aicore__ inline 函数: - 三份成员实现删除,6 处调用点无需改动(成员删除后自动解析到命名空间函数) - 位涂抹移位量 1/2/4/8/16 为魔法数字,提取为 SHIFT_BITS_ONE/TWO/FOUR/EIGHT/SIXTEEN 具名常量 - batch_norm_rar_block_split_r.h 原仅供其 FindCofFactor 使用的 INDEXTWO~INDEXSIXTEEN 常量随之删除 ### 2. ubSplitAxis 比较魔法数字消除 batch_norm_rar_block_split_r.h 中 ubSplitAxis == 0/1/2 的字面量比较不易读,新增 UB_SPLIT_AXIS_R1 = 0 / A = 1 / R0 = 2(uint64_t,与成员类型一致,语义对齐 host 侧 UbSplit 的三种 UB 切分轴),替换全部 8 处比较。 ### 3. 空行规范 batch_norm_tiling_base.cpp、batch_norm_tiling_rar_block_split_r_arch35.cpp:删除两处函数调用返回值赋值与后续 if 判断之间的空行,使返回值判断紧跟函数调用。 ## 行为影响 纯常量替换 / 函数搬移 / 空行删除,无逻辑变化: - FindCofFactor 函数体逐字保留(含原注释),仅移位数字替换为常量 - UB_SPLIT_AXIS_* 取值与原字面量一致,分支不变 Close #9114 See merge request: cann/ops-nn!14771 | 3 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
fix(norm): 修正 aclnnBatchNormElemt 的 invstd 语义、数值健壮性与 NDHWC 通道语义(仅 Regbase) Co-authored-by: HelloWorld-LX<luxin67@h-partners.com> # message auto-generated for no-merge-commit merge: !14099 merge fix/batch-norm-elemt-invstd-semantics into master fix(norm): 修正 aclnnBatchNormElemt 的 invstd 语义、数值健壮性与 NDHWC 通道语义(仅 Regbase) Created-by: HelloWord-LuXin Commit-by: HelloWorld-LX Merged-by: cann-robot Description: ## 修复内容 修正 aclnnBatchNormElemt 的 4 项缺陷(纯 op_api 适配层调整,复用原 BatchNorm 融合 kernel,API 签名 / 参数校验 / DFX 均不变): | # | 缺陷 | 触发条件 | 原表现 | |---|---|---|---| | 1 | 负 invstd 丢失符号 | invstd < 0 | 输出按 \|invstd\| 计算(方差反解 1/invstd² 吞符号) | | 2 | eps 参与数值抵消 | 1/invstd² ≲ eps | 输出相对误差实测可达 2.2%(invstd=1e4, eps=1e-2) | | 3 | eps 异常值致全错 | eps ≫ 1/invstd² 或 eps=NaN/±inf | 输出全 ±inf/NaN | | 4 | fp16 方差下溢 | fp16 统计量,\|invstd\| ≳ 4096 | 输出全 NaN | Fixes #9038 ## 实现方式(仅 Regbase 生效) 新增 PrepareAndComputeBatchNormElemt,借用 BatchNorm 融合 kernel 一遍完成: 1. **invstd 折入 weight**:w̃ = invstd·weight(weight 为空时 w̃ = invstd),负 invstd 符号在乘积内自然保留 2. **variance 传常数 1**:kernel 计算 y = (x−m)·1/sqrt(1+0)·w̃+b = (x−m)·(invstd·w)+b;1/sqrt(1)=1 精确无舍入,避免 var = 1/invstd² 往返的额外舍入 3. **eps 改为兼容保留参数**,不参与计算;invstd=0 时 w̃=0,y=b 4. **统计量/参数统一转 fp32**({C} 规模,开销可忽略),规避 fp16 方差下溢 fp32 精度 maxRel 2.83e-07 → 2.42e-07;约定内 fp32 输出与旧版**逐位一致**。 ## NDHWC/NHWC 通道语义修正(仅 Regbase) - 新增 GetElemtDimC:NDHWC/NHWC 存储格式下通道为末维,修复 CheckShape 固定取 viewShape[1] 与 kernel 末维语义不一致的问题 - \>5 维压 5D 时跳过 NDHWC/NHWC(通道在末维,压 5D 会破坏通道位置) - CheckFormat 新增维度-格式一致性校验:NDHWC 仅支持 5 维、NHWC 仅支持 4 维,其余维度组合(如 6 维 NDHWC)在参数校验阶段拒绝,避免进入 kernel 后报内部错误 - 实测同一逻辑数据 5D NCDHW 与 5D NDHWC 两种物理格式输出**逐位一致** ## SoC 生效范围 本修复**仅对 Regbase 架构生效**(覆盖 Ascend 950 及后续 Regbase 芯片):GetWorkspaceSize 内按 Ops::NN::AclnnUtil::IsRegbase() 分发,与 batch_norm_grad_v3 / layer_norm_v4 等算子既有用法一致。**其余 SoC(910/910B/A3 等)保留原实现**,master 逐字保留(已做逐字节一致性校验),行为零变化。文档公式/参数说明用 npu 条件标签区分芯片。 ## 行为变化声明 1. **eps 变为兼容保留参数,不参与计算**:任意 eps 取值输出逐位相同 2. 约定外输入(负 invstd、超大 \|invstd\|)从静默错误值变为正确值 / 明确的 ±inf 3. NDHWC/NHWC 与维度数不匹配的输入(如 6 维 NDHWC)从 kernel 内部错误(ret=561103)变为明确的参数校验拒绝 4. fp16/bf16 场景精度提升(统计量 fp32 化);fp32 约定内输入与旧版逐位兼容 ## 已知数值边界:中间积溢出 本实现将 invstd 折入 weight 以复用融合 kernel 单遍计算。两侧实际计算序如下(fl 为 fp32 舍入;参考实现的计算序经逐位反推实测确认),中间积溢出点各不相同: | | 计算公式(weight 给定时) | 中间积溢出点 | |---|---|---| | **本实现(折叠序)** | w̃ = fl(invstd·weight);y = fl(fl(x−mean)·w̃ + bias) | fl(invstd·weight):\|invstd·weight\| 超出 fp32 域 → w̃ 为 ±inf → y 为 ±inf | | **参考实现(实测序)** | t = fl(weight·fl(x−mean));y = fl(t·invstd + bias)(末步乘加单次舍入) | fl(weight·(x−mean)):\|weight·(x−mean)\| 超出 fp32 域 → t 为 ±inf → y 为 ±inf | 当 |invstd·weight| 超出 fp32 表示域(≈3.4e38)而按文档顺序计算的结果有限时,本实现输出饱和为 ±inf。如实披露该边界及与参考实现的差异: - **实测复现**:x−m=1e-30、invstd=1e15、weight=1e30(文档结果 1e15 有限)→ 本实现输出 inf - **参考实现同样存在对称的自己角**(实测其为 fp32 的 (w·(x−m))·invstd 序 + 末步 FMA,非更高精度中间量):x−m=1e10、invstd=1e-10、weight=1e30(文档结果 1e30 有限)→ 参考实现输出 inf,本实现输出正确的 1e30 - **任何固定乘法序的 fp32 实现各有一个中间积溢出角**(三个乘子两两先乘,任一选择都有 mirror case),改变乘法序是移动角的位置而非消除;彻底消除需更高精度中间量(向量核 fp64 性能不可接受,且参考实现亦未采用) - **weight 为空时不存在该角**:无折叠乘法,输出与参考实现逐位一致(实测) - **触达性**:需 |invstd·weight| > 3.4e38 两因子同时极端(常见场景 \|weight\|≲10²、\|invstd\|≲10⁸,乘积 ≲10¹⁰,距角约 28 个数量级);对照本 PR 移除的旧实现溢出角(\|invstd\|≲1.7e-19 **单因子**即触发,var=1/invstd² 溢出致输出退化为 bias),本次为净改善 ## 与参考实现的对齐实测(84 例) 使用同一确定性输入(算术生成,跨平台逐位可复现)分别在参考实现(主流框架同名算子 batch_norm_elemt)与本算子上执行,逐例比对执行判定(RUN/ERROR)与数值(双精度 golden 容差 + 输出 md5 逐位比对): **数值对齐 69 例**(其中 14 例输出逐位一致,md5 相同): - 正常场景:2–8 维、fp32/fp16/bf16、weight/bias 四种组合、C=1~4096(含 128/129/255/256/257 非对齐系)、奇维度 3D–8D、N=4096、33M / 2³¹ 元素大张量 - 边缘场景:invstd ∈ {0, 1e-7, 1e-30, 1e4+eps=1e-2, 1e19, fp16 下 65504, 混合符号, ±inf, NaN}、mean ±1e30 / NaN、weight NaN / 全零 / 1e37、bias ±inf、输入含 NaN/±inf(掩码一致) - 布局场景:NDHWC/NHWC 物理格式(含 fp16/bf16 交叉)、strided、expand stride-0 广播视图、transpose、flip 负 stride、通道切片、last-dim narrow、空张量 - eps 全量验证:12 种取值(0 / 1e-5 / 1e-2 / 1 / 1e10 / 1e38 / 负值 / NaN / ±inf)两侧输出**全部逐位相同** - fp16 上溢边界(invstd=65504)溢出模式逐位一致;2³¹ 元素整大张量输出 md5 一致(索引边界安全) **拒绝对齐 8 例**:统计量 2D、weight 2D、int32 输入 / int32 统计量、跨设备——两侧均报错拒绝。 **参考实现的边界缺陷(不作为对齐目标)**: - 统计量长度与 C 不匹配时参考实现**不校验**:超长静默取前 C 个继续计算、过短越界读取(实测读到 0.0)、mean 传空为未定义解引用(随机崩溃或返回垃圾值);本算子按文档约束(统计量长度等于通道数)在参数校验阶段干净拒绝 - 空输入({2,4,0} / {0,4,3})参考实现直接崩溃(设备上下文级错误,不可恢复);本算子按文档"支持空 Tensor"优雅返回空输出 - 9 维输入参考实现可执行;本算子按文档约定(2–8 维)拒绝 **有意保留的差异(超集兼容)**:fp16/bf16 统计量与 mixed dtype 场景,参考实现强制统计量为 fp32(报错拒绝);本算子接受并内部统一升 fp32 计算——保持对既有用户向后兼容(旧版本即接受这些场景),数值已由 TTK 全量用例验证。 ## 测试补充 **op_api UT 新增 16 例**(tests/ut/op_host/op_api/test_aclnn_batchnormelemt.cpp,经 NpuArchManager 切换 DAV_3510 覆盖 Regbase 路径,17/17 通过): - 负 invstd、invstd=0(y=b)、eps 为 NaN/±inf、fp16 统计量大 invstd(下溢场景) - NDHWC 5D 正向用例及其通道(末维)校验负向用例、NHWC 4D 正向用例、NDHWC 6D / NHWC 5D 维度不匹配拒绝 - 8 维输入(\>5 维压 5D)、weight/bias 为空、bf16、混合 dtype(fp32 输入 + fp16 统计量) - 非 Regbase(910B)负 invstd 与 NDHWC 6D 用例,守护原实现路径不受新校验影响 **st 端到端**: - 修正 ATK CPU 参考公式(executor_aclnnBatchNormElemt.py,评审意见):原实现将 invstd 作为 running_var 传入 torch.nn.functional.batch_norm,对负 invstd 产生 NaN 且错误引入 eps,与 950 新契约直接冲突;改为 y = (x−mean)·invstd·weight+bias 按 dim1 广播(评审给出的确定性例子 x=2/invstd=-2/w=1/b=0 → 全 -4 已验证) - 新增 arch35 TTK 用例(ttk_aclnn_batch_norm_elemt_st.csv 17 例)与 tests/assets/golden.py 标杆插件: - 标杆插件按 CSV api_name 注册(__spec__ → aclnnBatchNormElemt),与 apply_adam 等 aclnn 用例的标杆规范一致;golden 为文档公式的 numpy/torch 兼容实现(float64 中间精度、dim1/末维通道感知、eps 死参数、负 invstd 符号),判据声明为 **mix_tolerance(生态算子开源精度标准)**:stat_rel_err 的 mare 对灾难性抵消导致的近零输出固有误报(参考实现同数据同样 FAIL,已实测),mix_tolerance 的 atol 下限正确处理近零且保持紧公差 - 不声明 third_party 三方标杆:主流框架同名算子无 CPU 实现、拒绝 fp16/bf16 统计量(本算子为超集兼容)且在部分版本被移除,无法覆盖本用例集 - 修复场景:负 invstd(range [-4,-1])、invstd=0(y=b)、混合符号 invstd、大 invstd + eps=1e-2(原实现 2.2% 抵消误差)、fp16 大 invstd(原实现下溢全 NaN)、eps=1.0(兼容保留参数) - 布局与维度:NDHWC/NHWC(末维通道)、2–8 维、fp32/fp16/bf16 ## 验证 - **TTK 实测**:ttk aclnn 全量执行本 PR 的 17 例 st 用例 **17/17 精度通过**;另对 50 例扩展用例集(2–8 维、三 dtype、非连续视图、空 batch、大 C、真实网络形状)执行 **49/49 通过** - op_api UT 17/17 通过;51 用例泛化套件回归通过;\>5D NDHWC 探针确认非法维度组合均被参数校验拒绝(161002) - 约 450 用例/场景验证:mixed dtype 27 组合、2–8 维、strided/offset/stride-0 广播视图、numel>2³¹ 大张量、in-place、别名、双线程/多进程并发、1000 次长跑内存零增长、ASCEND_LAUNCH_BLOCKING=1、边界值、NDHWC、精度、torch_npu 全链路,全部通过 - 稳态性能:fp32 大形状 0.114→0.047ms;fp16 大形状 0.074→0.055ms See merge request: cann/ops-nn!14099 | 4 days ago | |
fix(norm): 修正 BatchNormExt2 归约精度并补充 BN3DTrainingUpdate dtype 校验 Co-authored-by: LuckySun<sunwenlong8@huawei.com> # message auto-generated for no-merge-commit merge: !14219 merge fix_November_BN into master fix(norm): 修正 BatchNormExt2 归约精度并补充 BN3DTrainingUpdate dtype 校验 Created-by: LuckySun Commit-by: LuckySun Merged-by: cann-robot Description: ## 描述 本 PR 修复 BatchNormExt2、BN3DTrainingUpdate 两个 norm 算子,并精简 arch35 下的冗余 ST 用例,共 21 个文件、+1106 / -2696。 ### 一、BatchNormExt2:归约精度与极端输入修复 **改动原因** 1. **末级归约是朴素树形求和**:Welford finalize 的末级横加、BLOCK_SPLIT_R 的 LastFinalize、FULL_REDUCE 的末级部分和合并,每层一次 fp32 舍入都会原样留在 batch_mean / M2 上。batch_mean 随后要参与 (x - mean) 的近零对消,M2 又要经 rsqrt 折算进 rstd,对这段累加误差最敏感;FULL_REDUCE 的误差分解显示,末级 ≤VL 个部分和的求和约占 mean 总误差 35%。 2. **均值/方差缩放使用预乘倒数常数**:reduceScale1 = cofFactor0/n、scale1 = cofFactor1/parallelN、Bessel 常数 n/(n-1)、momentum*n/(n-1) 均无法在 fp32 精确表示,其舍入会变成所有通道同向的系统性常数偏差(代码注释实测约 -0.3 ULP);running var 还在 batch_var 上再乘一次 Bessel 常数,形成二次舍入。 3. **归一化出口两次舍入**:kernel 侧为 Mul(gamma) + Add(beta),而 torch.compile 的竞品把 a*b+c 融合成单次舍入 FMA,两侧精度档不一致。 4. **极端输入发散**:x 恒为 ±FLT_MAX 时,fp32 求和的中间量可能上溢成 ±inf,使均值变成 inf、方差变成 inf/NaN;fp64 真值的均值就是该有限常量、方差为 0。 **改动方法** 1. **末级补偿归约**:在 batch_norm_ext2_welford.h、batch_norm_ext2_full_reduce.h、batch_norm_ext2_block_split_r.h 各自内联 Knuth TwoSum 补偿,不修改被多算子复用的 norm/norm_common/reduce_common_regbase.h::DichotomyAdd。末级部分和用成对 TwoSum 树折半,每级低位残差留在 low 中继续参与后续级,最后一次性加回,累加误差由 O(log2(N)·ε·Σ|x|) 降到 O(ε·Σ|x|);残差非有限时用 min/max 比较钳为 0,避免 inf - inf = NaN 污染本应为 inf 的结果。 2. **真除法替代倒数常数**:n、n-1、parallelN、patternR 均 < 2^24,在 fp32 中可精确表示;改为先 Div 真除、再乘回累加时预缩放的 2 的幂 cofFactor(精确),等价于一次正确舍入的除法。Welford 新增 unbiasedVarBuff 暂存 M2/(n-1);BLOCK_SPLIT_R 复用 tmpTbuf2 存放无偏方差;running var 直接使用无偏方差,删除 unbiasedEstimationCoeff、momentumForVar 等倒数/Bessel 系数。 3. **常量输入保护**:新增 RestoreUniformFiniteMeanAndZeroVar(welford)与 RestoreUniformFiniteMean(ra_full_reduce),对各分道部分均值(或原始 x 的 R 行)取 min/max;当全部相同、有限且 mean 非 NaN 时把均值还原成该公共值,令 (x - mean) 精确为 0;welford 另外在所有 M2 为 0 时用 zeroVarMask 把有偏/无偏方差与 rstd 精确钉到 0。掩码不命中时 Select 选回原值,正常输入逐位不变。 4. **FMA 对齐**:归一化出口由 Mul(y, x, gamma) + Add(y, beta) 改为 Move(y, beta) + Mula(y, x, gamma),与 torch.compile 的单次舍入对齐;涉及 welford、block_split_r、full_reduce、ra_full_reduce、ra_welford、rar_block_split_r 以及 4 个 infer 分支。 5. **图模式样例修复**:test_geir_batch_norm_ext2.cpp 的 placeholder 名拼接改用 std::to_string(inputIndex),set_attr_index 由固定 0 改为 inputIndex - 1,修正多输入 Data 节点的重名与 index 偏移。 6. **golden 对齐内核**:tests/assets/golden.py 增加 Promote 模式下输出 dtype 反推(float32→float16、float64→float32)与按用例声明 dtype 的出口取整;逐指令复刻内核两次 Newton-Raphson rstd(含 POS_INF / 0 分支);Mula 用 torch.addcmul 模拟单次舍入;训练统计量改跑 legacy 原图,以保持与旧 golden 的 reduction 数值一致。 ### 二、BN3DTrainingUpdate:图模式统计量 dtype 校验 **改动原因** op_graph/bn3_d_training_update_proto.h 约定 6 路统计量输入 sum / square_sum / scale / offset / mean / variance 均为 DT_FLOAT,op_host/bn3_d_training_update_def.cpp 也给出同样的 float32 约束;但 def 开启了 PrecisionReduceFlag(true),GE precision_reduce 会把 bf16 等非法 dtype 自动 Cast 成 fp32,op_host/arch35/bn3_d_training_update_tiling.cpp 中的 dtype 校验看到的已是 Cast 后的类型,形同失效。InferDataType 阶段图声明的 dtype 尚未被抹平,是拒绝非法输入的可靠校验点。 **改动方法** - bn3_d_training_update_graph_infer.cpp 新增 kInputVariance = 6、kStatInputNum 与输入名表 kStatInputNames(sum / square_sum / scale / offset / mean / variance);循环 i = 1..6,任一 GetInputDataType(i) != ge::DT_FLOAT 时通过 OP_CHECK_IF + OP_LOGE_FOR_INVALID_DTYPE(节点名, 输入名, 实际 dtype, "float32") 记录错误并返回 ge::GRAPH_FAILED。 - 新增 #include "log/log.h",提供 OP_CHECK_IF、OP_LOGE_FOR_INVALID_DTYPE、Ops::Base::ToString。 - 输出推导不变:y 继承 x,4 路统计量输出继承 sum。 ### 三、ST 用例精简 - **BN3DTrainingUpdate**:删除 ttk_geir、ttk_kernel_dfx、ttk_kernel_generalization、ttk_kernel_perf 4 个 CSV,仅保留 ttk_kernel_bn3_d_training_update_precision_st.csv。其中 ttk_geir 前缀不在 scripts/ci/ops_st_test.sh 的用例发现前缀(ttk_kernel / ttk_aclnn / ttk_e2e)内,CI 不会采集执行。 - **BatchNormExt2**:删除 ttk_kernel_batch_norm_ext2_generalization.csv(984 行),并从 ttk_geir_batch_norm_ext2_st.csv 移除 bne2_geir_041 ~ bne2_geir_059 共 19 条,保留其余 geir 用例。 - 合计删除 5 个完整 CSV、精简 1 个 CSV 的 19 条用例(约 2411 行测试数据)。 ### 变更文件 | 状态 | 文件 | 增/删 | |------|------|-------| | M | norm/batch_norm_ext2/examples/arch35/test_geir_batch_norm_ext2.cpp | +3 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_block_split_r.h | +178 / -30 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_full_reduce.h | +115 / -13 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer.h | +4 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel.h | +4 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel_continuous_a.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel_small_a.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_small_ab1.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_ra_full_reduce.h | +39 / -3 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_ra_welford.h | +4 / -3 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_rar_block_split_r.h | +3 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_welford.h | +442 / -102 | | M | norm/batch_norm_ext2/tests/assets/golden.py | +206 / -18 | | M | norm/batch_norm_ext2/tests/st/arch35/ttk_geir_batch_norm_ext2_st.csv | +0 / -19 | | D | norm/batch_norm_ext2/tests/st/arch35/ttk_kernel_batch_norm_ext2_generalization.csv | +0 / -984 | | M | norm/bn3_d_training_update/op_graph/bn3_d_training_update_graph_infer.cpp | +14 / -0 | | M | norm/bn3_d_training_update/tests/assets/golden.py | +79 / -105 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_geir_bn3_d_training_update_st.csv | +0 / -51 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_dfx_st.csv | +0 / -15 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_generalization_st.csv | +0 / -1141 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_perf_st.csv | +0 / -201 | ## 关联的Issue 无。 ## 测试 - **编译**:随 ops-nn 全量编译验证;改动集中在 arch35 kernel 模板与图模式 InferDataType,新增 log/log.h 依赖。 - **ST 回归**:BN3DTrainingUpdate 执行保留的 ttk_kernel_bn3_d_training_update_precision_st.csv;BatchNormExt2 执行 ttk_geir_batch_norm_ext2_st.csv,均由 scripts/ci/ops_st_test.sh 采集。 - **精度对比**:BatchNormExt2 的 golden 已按内核的 Newton-Raphson rstd、三步非融合与 Mula 单次舍入口径更新,通过 ttk cross_check 对 golden 腿与 torch 三方腿做逐 dtype 容差比对。 - **异常场景**:构造 sum / square_sum / scale / offset / mean / variance 任一为 bf16 / fp16 的图,预期 InferDataType 返回 GRAPH_FAILED 并打印 OP_LOGE_FOR_INVALID_DTYPE(含节点名、输入名、实际/期望 dtype)。 - **极端值**:x 恒为 ±FLT_MAX 时,预期 batch_mean 为该有限常量、batch_variance 与 rstd 精确为 0。 - 本次未新增 UT 用例。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:清理 arch35 冗余 ST 用例(删除 5 个 CSV,精简 1 个 CSV 的 19 条用例) ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14219 | 9 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
[BatchNormGradV3] 整合 arch35 ST 用例并按写回精度设置容差 Co-authored-by: qianzehong<qianzehong@huawei.com> # message auto-generated for no-merge-commit merge: !14865 merge test/bngv3-arch35-csv into master [BatchNormGradV3] 整合 arch35 ST 用例并按写回精度设置容差 Created-by: qianzehong Commit-by: qianzehong Merged-by: cann-robot Description: ## 描述 - 将 BatchNormGradV3 的 arch35 ST 资产归并为 Kernel、ACLNN 和 E2E 三份 CSV。20 条 optional-running、4 条 RAR GM 偏移和 4 条 RAR UB 预算用例并入 ACLNN 主表。 - Kernel CSV 移除直接调用 tiling 的空输入推理用例,复用 ACLNN 主表中的等价输入覆盖。在 GEIR example 增加 --empty-infer,断言三个输出的形状、dtype 和零字节大小。 - ACLNN 和 E2E 按实际写回精度设置逐输出 close 容差。FP32、FP16、BF16 的 rtol/atol 分别为 1e-4、1e-3、4e-3,允许超差的元素比例保持为 0.4%。半精度参数梯度写回后转为 FP32 的两条 ACLNN 用例,按半精度档比较。 ## 关联的Issue 关联 Issue [#9231](https://gitcode.com/cann/ops-nn/issues/9231) ## 测试 - Pre-commit 通过。 - Ascend 950PR 卡 0,CANN 9.3.0,ops-test-kit f3d4101c6a5f,按仓库 ST 脚本使用 --compare close。 | 通路 | 结果 | 算子实现 | | --- | --- | --- | | Kernel release | 95/95 | ops-nn c8e63ce525 自定义包 | | ACLNN | 163/163 | ops-nn c8e63ce525 自定义包 | | E2E eager | 11/11 | CANN 9.3.0 内置包 | - GEIR example 默认训练、--infer 和 --empty-infer 均在 A5 通过。 ## 文档更新 更新 GEIR example 中的运行说明。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:ST 用例维护 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14865 | 2 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
几个算子infershape&inferDtype rt2.0加固 Co-authored-by: z30075199<zhangxin660@h-partners.com> # message auto-generated for no-merge-commit merge: !14411 merge long_tail_nn_modify into master 几个算子infershape&inferDtype rt2.0加固 Created-by: z30075199 Commit-by: z30075199 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 几个算子inferShape和inferDtype完善rt2.0实现。 aclnnGatherV3/aclnnGatherV2增加输出shape大于8D拦截。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/8876 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟+geir静态和-1,-2动态场景通路ok ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14411 | 5 days ago | |
fix(norm): 修正 BatchNormExt2 归约精度并补充 BN3DTrainingUpdate dtype 校验 Co-authored-by: LuckySun<sunwenlong8@huawei.com> # message auto-generated for no-merge-commit merge: !14219 merge fix_November_BN into master fix(norm): 修正 BatchNormExt2 归约精度并补充 BN3DTrainingUpdate dtype 校验 Created-by: LuckySun Commit-by: LuckySun Merged-by: cann-robot Description: ## 描述 本 PR 修复 BatchNormExt2、BN3DTrainingUpdate 两个 norm 算子,并精简 arch35 下的冗余 ST 用例,共 21 个文件、+1106 / -2696。 ### 一、BatchNormExt2:归约精度与极端输入修复 **改动原因** 1. **末级归约是朴素树形求和**:Welford finalize 的末级横加、BLOCK_SPLIT_R 的 LastFinalize、FULL_REDUCE 的末级部分和合并,每层一次 fp32 舍入都会原样留在 batch_mean / M2 上。batch_mean 随后要参与 (x - mean) 的近零对消,M2 又要经 rsqrt 折算进 rstd,对这段累加误差最敏感;FULL_REDUCE 的误差分解显示,末级 ≤VL 个部分和的求和约占 mean 总误差 35%。 2. **均值/方差缩放使用预乘倒数常数**:reduceScale1 = cofFactor0/n、scale1 = cofFactor1/parallelN、Bessel 常数 n/(n-1)、momentum*n/(n-1) 均无法在 fp32 精确表示,其舍入会变成所有通道同向的系统性常数偏差(代码注释实测约 -0.3 ULP);running var 还在 batch_var 上再乘一次 Bessel 常数,形成二次舍入。 3. **归一化出口两次舍入**:kernel 侧为 Mul(gamma) + Add(beta),而 torch.compile 的竞品把 a*b+c 融合成单次舍入 FMA,两侧精度档不一致。 4. **极端输入发散**:x 恒为 ±FLT_MAX 时,fp32 求和的中间量可能上溢成 ±inf,使均值变成 inf、方差变成 inf/NaN;fp64 真值的均值就是该有限常量、方差为 0。 **改动方法** 1. **末级补偿归约**:在 batch_norm_ext2_welford.h、batch_norm_ext2_full_reduce.h、batch_norm_ext2_block_split_r.h 各自内联 Knuth TwoSum 补偿,不修改被多算子复用的 norm/norm_common/reduce_common_regbase.h::DichotomyAdd。末级部分和用成对 TwoSum 树折半,每级低位残差留在 low 中继续参与后续级,最后一次性加回,累加误差由 O(log2(N)·ε·Σ|x|) 降到 O(ε·Σ|x|);残差非有限时用 min/max 比较钳为 0,避免 inf - inf = NaN 污染本应为 inf 的结果。 2. **真除法替代倒数常数**:n、n-1、parallelN、patternR 均 < 2^24,在 fp32 中可精确表示;改为先 Div 真除、再乘回累加时预缩放的 2 的幂 cofFactor(精确),等价于一次正确舍入的除法。Welford 新增 unbiasedVarBuff 暂存 M2/(n-1);BLOCK_SPLIT_R 复用 tmpTbuf2 存放无偏方差;running var 直接使用无偏方差,删除 unbiasedEstimationCoeff、momentumForVar 等倒数/Bessel 系数。 3. **常量输入保护**:新增 RestoreUniformFiniteMeanAndZeroVar(welford)与 RestoreUniformFiniteMean(ra_full_reduce),对各分道部分均值(或原始 x 的 R 行)取 min/max;当全部相同、有限且 mean 非 NaN 时把均值还原成该公共值,令 (x - mean) 精确为 0;welford 另外在所有 M2 为 0 时用 zeroVarMask 把有偏/无偏方差与 rstd 精确钉到 0。掩码不命中时 Select 选回原值,正常输入逐位不变。 4. **FMA 对齐**:归一化出口由 Mul(y, x, gamma) + Add(y, beta) 改为 Move(y, beta) + Mula(y, x, gamma),与 torch.compile 的单次舍入对齐;涉及 welford、block_split_r、full_reduce、ra_full_reduce、ra_welford、rar_block_split_r 以及 4 个 infer 分支。 5. **图模式样例修复**:test_geir_batch_norm_ext2.cpp 的 placeholder 名拼接改用 std::to_string(inputIndex),set_attr_index 由固定 0 改为 inputIndex - 1,修正多输入 Data 节点的重名与 index 偏移。 6. **golden 对齐内核**:tests/assets/golden.py 增加 Promote 模式下输出 dtype 反推(float32→float16、float64→float32)与按用例声明 dtype 的出口取整;逐指令复刻内核两次 Newton-Raphson rstd(含 POS_INF / 0 分支);Mula 用 torch.addcmul 模拟单次舍入;训练统计量改跑 legacy 原图,以保持与旧 golden 的 reduction 数值一致。 ### 二、BN3DTrainingUpdate:图模式统计量 dtype 校验 **改动原因** op_graph/bn3_d_training_update_proto.h 约定 6 路统计量输入 sum / square_sum / scale / offset / mean / variance 均为 DT_FLOAT,op_host/bn3_d_training_update_def.cpp 也给出同样的 float32 约束;但 def 开启了 PrecisionReduceFlag(true),GE precision_reduce 会把 bf16 等非法 dtype 自动 Cast 成 fp32,op_host/arch35/bn3_d_training_update_tiling.cpp 中的 dtype 校验看到的已是 Cast 后的类型,形同失效。InferDataType 阶段图声明的 dtype 尚未被抹平,是拒绝非法输入的可靠校验点。 **改动方法** - bn3_d_training_update_graph_infer.cpp 新增 kInputVariance = 6、kStatInputNum 与输入名表 kStatInputNames(sum / square_sum / scale / offset / mean / variance);循环 i = 1..6,任一 GetInputDataType(i) != ge::DT_FLOAT 时通过 OP_CHECK_IF + OP_LOGE_FOR_INVALID_DTYPE(节点名, 输入名, 实际 dtype, "float32") 记录错误并返回 ge::GRAPH_FAILED。 - 新增 #include "log/log.h",提供 OP_CHECK_IF、OP_LOGE_FOR_INVALID_DTYPE、Ops::Base::ToString。 - 输出推导不变:y 继承 x,4 路统计量输出继承 sum。 ### 三、ST 用例精简 - **BN3DTrainingUpdate**:删除 ttk_geir、ttk_kernel_dfx、ttk_kernel_generalization、ttk_kernel_perf 4 个 CSV,仅保留 ttk_kernel_bn3_d_training_update_precision_st.csv。其中 ttk_geir 前缀不在 scripts/ci/ops_st_test.sh 的用例发现前缀(ttk_kernel / ttk_aclnn / ttk_e2e)内,CI 不会采集执行。 - **BatchNormExt2**:删除 ttk_kernel_batch_norm_ext2_generalization.csv(984 行),并从 ttk_geir_batch_norm_ext2_st.csv 移除 bne2_geir_041 ~ bne2_geir_059 共 19 条,保留其余 geir 用例。 - 合计删除 5 个完整 CSV、精简 1 个 CSV 的 19 条用例(约 2411 行测试数据)。 ### 变更文件 | 状态 | 文件 | 增/删 | |------|------|-------| | M | norm/batch_norm_ext2/examples/arch35/test_geir_batch_norm_ext2.cpp | +3 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_block_split_r.h | +178 / -30 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_full_reduce.h | +115 / -13 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer.h | +4 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel.h | +4 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel_continuous_a.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_last_channel_small_a.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_infer_small_ab1.h | +5 / -1 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_ra_full_reduce.h | +39 / -3 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_ra_welford.h | +4 / -3 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_rar_block_split_r.h | +3 / -2 | | M | norm/batch_norm_ext2/op_kernel/arch35/batch_norm_ext2_welford.h | +442 / -102 | | M | norm/batch_norm_ext2/tests/assets/golden.py | +206 / -18 | | M | norm/batch_norm_ext2/tests/st/arch35/ttk_geir_batch_norm_ext2_st.csv | +0 / -19 | | D | norm/batch_norm_ext2/tests/st/arch35/ttk_kernel_batch_norm_ext2_generalization.csv | +0 / -984 | | M | norm/bn3_d_training_update/op_graph/bn3_d_training_update_graph_infer.cpp | +14 / -0 | | M | norm/bn3_d_training_update/tests/assets/golden.py | +79 / -105 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_geir_bn3_d_training_update_st.csv | +0 / -51 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_dfx_st.csv | +0 / -15 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_generalization_st.csv | +0 / -1141 | | D | norm/bn3_d_training_update/tests/st/arch35/ttk_kernel_bn3_d_training_update_perf_st.csv | +0 / -201 | ## 关联的Issue 无。 ## 测试 - **编译**:随 ops-nn 全量编译验证;改动集中在 arch35 kernel 模板与图模式 InferDataType,新增 log/log.h 依赖。 - **ST 回归**:BN3DTrainingUpdate 执行保留的 ttk_kernel_bn3_d_training_update_precision_st.csv;BatchNormExt2 执行 ttk_geir_batch_norm_ext2_st.csv,均由 scripts/ci/ops_st_test.sh 采集。 - **精度对比**:BatchNormExt2 的 golden 已按内核的 Newton-Raphson rstd、三步非融合与 Mula 单次舍入口径更新,通过 ttk cross_check 对 golden 腿与 torch 三方腿做逐 dtype 容差比对。 - **异常场景**:构造 sum / square_sum / scale / offset / mean / variance 任一为 bf16 / fp16 的图,预期 InferDataType 返回 GRAPH_FAILED 并打印 OP_LOGE_FOR_INVALID_DTYPE(含节点名、输入名、实际/期望 dtype)。 - **极端值**:x 恒为 ±FLT_MAX 时,预期 batch_mean 为该有限常量、batch_variance 与 rstd 精确为 0。 - 本次未新增 UT 用例。 ## 文档更新 无。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:清理 arch35 冗余 ST 用例(删除 5 个 CSV,精简 1 个 CSV 的 19 条用例) ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14219 | 9 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
feat(optim): add InplaceApplyAdagrad and harden ApplyCamePart3 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !13878 merge master into master feat(optim): add InplaceApplyAdagrad and harden ApplyCamePart3 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ApplyAdagrad:当前库上已存在带D算子,从兼容性考虑,ApplyAdagrad在950上应该映射为InplaceApplyAdagrad,修正原型为InplaceApplyAdagrad。 ApplyCamePart3:闭环两个检视意见 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> UT/ST 泛化 PASS ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13878 | 12 days ago | |
modified md files Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !13817 merge master into master modified md files Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 - Changed the product name. - Adjust the error code table and correct the value of rowspand. ## 关联的Issue none ## 测试 Only involves updating the MD document description, does not involve testing. ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13817 | 13 days ago | |
fix(norm): batch BNInference channel-first tiles and preserve folded precision Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !13781 merge fix/bn-inference-folding-precision-20261105 into master fix(norm): batch BNInference channel-first tiles and preserve folded precision Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 BNInference 的 FP32 输入与 FP16 统计量组合在折叠系数相消时会放大 sqrt 和 offset/scale 的舍入误差,原始 700 三方精度失败。本次对安全范围内的开方及折叠除法采用已有的 0 ULP 配置,保留完整数值范围的回退路径。 原始性能 022 的 NCDHW shape 为 (4, 424138, 2, 2, 2),通道优先 generic 路径产生大量仅 8 元素的搬运。本次在空间维不超过 256 的 generic 路径中合并相邻通道和多个 batch,按 UB 预算选择分组,复用系数和索引。参数计算次序和精度标准保持不变;通道尾块、batch 尾块和大空间维回退均有覆盖。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8250 ## 测试 - 最终受测提交 1c6e1b0697acc8f6d8f96790c64fd2e9cae8fd9f,基于主仓 master 46ff6fdb827968cede75ef3570a7fc7edbd27c4a,PR 为单提交;squash 前后完整 diff 与 tree 一致,rebase 后另行核对。 - TTK 1ae0fedcc0f727ccfdddca1195060b87301edf6d,CANN 9.3.0 C25B114,Ascend950PR_9579,GPU A100;TTK 全部 --pc=1。 - 本地 CI:pre-commit、OAT、Check_Example、950/A2 定向构建和相关 UT 通过;不等同于线上 CI 结论。 - 同一提交的[线上 CI](https://gitcode.com/CANN/ops-nn/actions/runs/bebb75d3b14c407c996d101644c8664f)已获平台 ci-pipeline-passed 标记。 - 本地 CI 原始 950 安装包部署核对通过,55 个预编译 binary;44 条紧凑 ST 和原始 700 两方/真实 GPU 三方全部 PASS、BINARY_MATCH。外部精度 Issue #39 的原始 145、187、292 已在本轮最终代码全量回归中两方/真实 GPU 三方全部通过,原始形状和精度要求不变。 - 逻辑一致的候选修复已复测外部性能问题中的全部 26 个场景,精度、确定性及当前机器的带宽折算指标全部通过;提交前仅经 clang-format 排版,代码 token 一致性已核对。最终 CI 包重新验证 022、017 和本轮余量最小的场景,均完整采集 5 轮、剔除首轮取 4 轮中位数。 - BNInference_L1_accuracy_perf_d_b_022:NPU 63.290 μs,GPU 362.000 μs,(362.000/63.290)×(1.55/1.6)=5.540962 ≥ 0.1。 - BNInference_L1_accuracy_perf_d_b_017:NPU 66.058 μs,GPU 129.000 μs,(129.000/66.058)×(1.55/1.6)=1.891803 ≥ 0.1。 - BNInference_L1_tolerance_d_b_169:NPU 1934.532 μs,GPU 475.000 μs,(475.000/1934.532)×(1.55/1.6)=0.237864 ≥ 0.1。 - 性能数据来自当前 cannlab 机器,NPU/GPU 带宽使用 1.6/1.55 TB/s;没有宣称在外部 L20 机器上复跑。 - 截至 2026-11-06T11:06:36,最终代码的原始 996 条回归 epoch full_v8_20261106_cf_grouped:两方 PASS 951/958,真实 GPU 三方 PASS 951/958,负向已有结果 38/38;当前状态 EXECUTION_FINISHED_USER_SCOPE。资源受限和负向预期问题单独保留,未计为精度通过,未复用旧版本的 PASS。尚未声明全部 996 条通过。负向逐条审计:35 条在 GE 的类型、格式、维数或必需输入检查中被拒绝;2 条在 TTK 输入大小检查时被拒绝,未进入算子;1 条原“维度上溢”负向用例实际不违反形状约束,其接受结果不计为精度 PASS。原测例的 ACL 错误码预期不能直接用 GE 拒绝代替。最新负向证据已补充到[原跟踪 Issue #8097](https://gitcode.com/cann/ops-nn/issues/8097),该 Issue 原本已关闭,本次保留其关闭状态;测例预期问题仍在本报告中明确保留。已实际执行的 951 条正向两方、三方均已完成且通过,精度失败 0 条。另外 6 条超大原始正向用例未执行:内存准入估计超过当前 32 GiB 主机容器上限,不是精度失败,也没有按通过统计;估计值不是实测最小内存需求。用户最新明确要求不再执行最后一条 BNInference_L1_tolerance_d_b_744;调度器已在该例尚未启动时退出,记为 NOT_RUN_USER_REQUEST。合计 7 条正向未执行,不计为 PASS;按调整后的用户要求完成收尾。TTK 统计核对:同一候选代码 017 的旧/新 TTK 为 664.642/666.732 μs(约 +0.31%);原始主线 0761 在最新 TTK 复跑为 2030.492 μs,旧 TTK 为 2131.466/2028.748 μs,8 份输入、CPU、NPU、GPU 文件哈希均一致,全部完整 5 轮、剔首轮统计 4 轮,无缺轮警告。旧版本基线的性能问题仍存在;本次算子优化后的提升不是缺轮统计造成的假象。 ## 文档更新 无公共接口或文档修改。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13781 | 16 days ago | |
fix(bn_training_reduce): 统一 TensorFlow Golden 并移除 sum 缩放 Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !14320 merge codex/bn-training-reduce-no-scale into master fix(bn_training_reduce): 统一 TensorFlow Golden 并移除 sum 缩放 Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 BNTrainingReduce 的 Kernel/GEIR Golden 改为 TensorFlow reduce_sum:CPU 在 FP64 中完成平方和归约,最终 cast FP32;GPU 在 FP32 中完成平方和归约。其他 CPU Golden 同样 FP64 计算后按 FP32 舍入。BF16 输入先精确扩展,已有 FP64 输入不提前降精度。 同一 PR 移除 arch35 kernel 的 sum 输入缩放、结果还原及其专用状态,使 sum 直接 FP32 累加。保留现有规约结构、square_sum 路径、输出初始化及 tiling/workspace 契约。 Golden 保留 7 个别名、cross_check L0 和 ACLNN 原输出对象/stride/storage offset。TensorFlow 路径不再顶层依赖 Torch,E2E 访问 torch_graph 时才构造真正的 nn.Module 子类。文件与 operator-artifacts 同步,SHA256: 55c6c959afad7194e617e865942d81d28031a89cb7db81a5add02e207ff86e8b。 ## 关联的Issue - nn Issue:https://gitcode.com/cann/ops-nn/issues/8709 ## 测试 - 最终 Golden:独立 CPU 66 项检查通过,覆盖 FP16/BF16/FP32/FP64、NCHW/NHWC/NCDHW、Promote、空输入、非连续输入/输出、输出对象及 sentinel;额外验证无 Torch 时 TensorFlow 加载与 FP64 计算通过。 - 四个文件 pre-commit 检查通过,包括 clang-format、Ruff、OAT;两仓 Golden 逐字节一致。 - 去缩放 kernel 提交 450578522c86 已在 CANN 9.3.0 / Ascend950PR_9599 编译 FP16/BF16/FP32 × NCHW/NHWC/NCDHW 共 9 个变体并部署;固定历史 8 条失败输入复测为 5 PASS、3 FAIL,已确认使用新包预编译二进制。后续提交同步 Golden 和文档,kernel 源码与该已编译提交一致。 - **已知精度边界**:5 条 PASS 来自 NPU/GPU NaN 匹配,不代表更接近 FP64;105/sum、509/square_sum 有限值误差仍在,166/sum 仍有 20 个特殊值 mismatch。去缩放改变极大值的中间溢出行为,不宣称全部精度问题已修复。 - 105、509 各 100 个随机种子的独立复检使用冻结的实验插件,其结果未计入本 PR 的已通过结果。新统一 Golden 尚未重新跑完整设备批次,未进行性能比较。 - 文档修订通过 pre-commit、Pandoc HTML 渲染/表格结构及相对链接检查;去除注释后验证 IR 代码与原版本一致。kernel 和 Golden 未改动,未新增设备/性能测试。 ## 文档更新 - 中英文 README 按算子定义组织五列参数表,以无序列表说明约束;移除重复的图模式/ACLNN 通路规格表,ACLNN 专属要求通过调用说明链接到 API 文档。 - IR 注释保留原有结构与大部分措辞,仅修正输入格式、非 C 轴归约和输出变量名,@attention Constraints 整段沿用基线原文;算子注册定义不变。ACLNN 文档保留已对齐的接口参数,确定性计算段落沿用原文;README 保留动态 shape/rank 的图模式限定。 - 同步归档的接口说明,精度验收统一为 TTK 三方比对 cross_check L0。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14320 | 9 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
fix(bn_training_update): 修复GEIR统计量及FP16相消精度问题 Co-authored-by: dong-yanrong<dongyanrong@h-partners.com> # message auto-generated for no-merge-commit merge: !13722 merge dev_cw_bn into master fix(bn_training_update): 修复GEIR统计量及FP16相消精度问题 Created-by: dong-yanrong Commit-by: dong-yanrong Merged-by: cann-robot Description: ## 描述 fix(bn_training_update): 修复GEIR统计量及FP16相消精度问题,长尾算子质量加固 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13722 | 12 days ago | |
几个算子infershape&inferDtype rt2.0加固 Co-authored-by: z30075199<zhangxin660@h-partners.com> # message auto-generated for no-merge-commit merge: !14411 merge long_tail_nn_modify into master 几个算子infershape&inferDtype rt2.0加固 Created-by: z30075199 Commit-by: z30075199 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 几个算子inferShape和inferDtype完善rt2.0实现。 aclnnGatherV3/aclnnGatherV2增加输出shape大于8D拦截。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/8876 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟+geir静态和-1,-2动态场景通路ok ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14411 | 5 days ago | |
feat: 12个算子补齐 op_graph InferDataType 独立注册链(IMPL_OP)及 UT 看护 Co-authored-by: chen_chenn<chenchen167@huawei.com> # message auto-generated for no-merge-commit merge: !14645 merge feat/rt20-inferdtype-opgraph into master feat: 12个算子补齐 op_graph InferDataType 独立注册链(IMPL_OP)及 UT 看护 Created-by: chen_chenn Commit-by: chen_chenn Merged-by: cann-robot Description: ## 描述 作为 InferShape 整改(**Runtime 1.0 下线 → Runtime 2.0 补齐**)的配套工作,为 **12 个算子**在 op_graph/ 目录新增 InferDataType 推导**独立注册链**(IMPL_OP(X).InferDataType(...))及 UT 看护,共 46 个文件(新增 45 / 修改 1),与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)注册链并列存在、互不冲突,对齐仓内既有方案(30 算子整改样板与 dilation2_d/elu 等先例)。 ### 涉及算子清单(12 个) | # | 算子 | 归属目录 | InferDataType 推导规则 | 新增文件 | |---|------|----------|------------------------|----------| | 1 | **MaxPool3DGrad** | pooling/max_pool3d_grad | y 跟随输入 0(orig_x) | op_graph/max_pool3d_grad_graph_infer.cpp + CMakeLists + UT×2 | | 2 | **AdaptiveAvgPool2dGrad** | pooling/adaptive_avg_pool2d_grad | output_grad 跟随 input_grad,含 float/float16/bfloat16 白名单校验 | graph_infer + UT×2 | | 3 | **AvgPoolGrad** | pooling/avg_pool_grad | out_grad 跟随输入 1(input_grad) | graph_infer + CMakeLists + UT×2 | | 4 | **AvgPoolV2Grad** | pooling/avg_pool_v2_grad | out_grad 跟随输入 1(input_grad) | graph_infer + CMakeLists + UT×2 | | 5 | **MaxPoolGrad** | pooling/max_pool_grad | y 跟随输入 0(x1) | graph_infer + CMakeLists + UT×2 + tests 两级 CMakeLists(修复收集链) | | 6 | **MaxPoolGradWithArgmax** | pooling/max_pool_grad_with_argmax | y 跟随输入 0(x) | graph_infer + UT×2 | | 7 | **MaxPool3D**(正式版) | pooling/max_pool3_d | y 跟随输入 0(x) | graph_infer + CMakeLists + UT×2 | | 8 | **BNTrainingUpdateV2** | norm/bn_training_update_v2 | y 跟随 x;batch_mean/batch_variance 跟随 scale(GetRequiredInputDataType) | graph_infer + UT×2 | | 9 | **BNTrainingUpdateV3** | norm/bn_training_update_v3 | y 跟随 x;batch_mean/batch_variance/reserve_1/reserve_2 跟随 scale | graph_infer + UT×2 | | 10 | **EmbeddingDenseGrad** | index/embedding_dense_grad | grad_weight 跟随输入 0(grad) | graph_infer + CMakeLists + UT×2 | | 11 | **ApplyKerasMomentum** | optim/apply_keras_momentum | var 跟随输入 0(var,ref 输出) | graph_infer + UT×2 | | 12 | **FakeQuantWithMinMaxVarsGradient** | quant/fake_quant_with_min_max_vars_gradient | 三输出(backprops_wrt_x/min/max)恒 float32 | graph_infer + CMakeLists + UT×2 | ### 顺带修复(3 处) - pooling/max_pool_grad:补齐 tests/CMakeLists.txt 与 tests/ut/CMakeLists.txt——此前缺失导致该算子 UT 未编入 UT 二进制(CI 曾报其新增 graph_infer 覆盖率 0% 的根因即此); - optim/apply_keras_momentum:tests/ut/CMakeLists.txt 由固定列表(仅 op_host/op_kernel)改为目录遍历,使 op_graph UT 纳入收集; - optim/apply_keras_momentum/tests/ut/CMakeLists.txt 版权头对齐仓内标准格式(OAT 合规)。 ## 关联的Issue canndev 侧 Runtime 1.0 注册隔离(950 下线批次)已合入:https://gitcode.com/cann/canndev/issues/1935 ,本 PR 为 ops-nn 侧 2.0 配套补齐。 ## 测试 - david: 14427 - **UT**:op_graph UT 全量回归 **432 通过 / 0 失败**(含修复后 MaxPoolGrad 与 ApplyKerasMomentum 各 3 条用例实际纳入执行);op_host 回归 364/0; - **GEIR 图模式**(CANN 9.2.0,Ascend950PR):12 算子累计 941 条用例(静态 L0/L1/L2 + 动态 -1/-2 + 负例),全部通过或按预期校验拒绝; - **ACLNN 两阶段 / 单算子编译通路**:AdaptiveAvgPool2dBackward stage-1 GetWorkspaceSize + stage-2 执行均 Success,kernel 模式 13/13 精度 PASS; - **运行时取证**:plog 确认 12/12 算子新增注册链在 GE 图编译阶段实际执行(如 [bn_training_update_v3_graph_infer.cpp:28] Begin to do InferDataTypeBNTrainingUpdateV3)。 ## 文档更新 无需文档更新。 ## 类型标签 - [x] 新特性 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14645 | 3 days ago | |
feat: 12个算子补齐 op_graph InferDataType 独立注册链(IMPL_OP)及 UT 看护 Co-authored-by: chen_chenn<chenchen167@huawei.com> # message auto-generated for no-merge-commit merge: !14645 merge feat/rt20-inferdtype-opgraph into master feat: 12个算子补齐 op_graph InferDataType 独立注册链(IMPL_OP)及 UT 看护 Created-by: chen_chenn Commit-by: chen_chenn Merged-by: cann-robot Description: ## 描述 作为 InferShape 整改(**Runtime 1.0 下线 → Runtime 2.0 补齐**)的配套工作,为 **12 个算子**在 op_graph/ 目录新增 InferDataType 推导**独立注册链**(IMPL_OP(X).InferDataType(...))及 UT 看护,共 46 个文件(新增 45 / 修改 1),与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)注册链并列存在、互不冲突,对齐仓内既有方案(30 算子整改样板与 dilation2_d/elu 等先例)。 ### 涉及算子清单(12 个) | # | 算子 | 归属目录 | InferDataType 推导规则 | 新增文件 | |---|------|----------|------------------------|----------| | 1 | **MaxPool3DGrad** | pooling/max_pool3d_grad | y 跟随输入 0(orig_x) | op_graph/max_pool3d_grad_graph_infer.cpp + CMakeLists + UT×2 | | 2 | **AdaptiveAvgPool2dGrad** | pooling/adaptive_avg_pool2d_grad | output_grad 跟随 input_grad,含 float/float16/bfloat16 白名单校验 | graph_infer + UT×2 | | 3 | **AvgPoolGrad** | pooling/avg_pool_grad | out_grad 跟随输入 1(input_grad) | graph_infer + CMakeLists + UT×2 | | 4 | **AvgPoolV2Grad** | pooling/avg_pool_v2_grad | out_grad 跟随输入 1(input_grad) | graph_infer + CMakeLists + UT×2 | | 5 | **MaxPoolGrad** | pooling/max_pool_grad | y 跟随输入 0(x1) | graph_infer + CMakeLists + UT×2 + tests 两级 CMakeLists(修复收集链) | | 6 | **MaxPoolGradWithArgmax** | pooling/max_pool_grad_with_argmax | y 跟随输入 0(x) | graph_infer + UT×2 | | 7 | **MaxPool3D**(正式版) | pooling/max_pool3_d | y 跟随输入 0(x) | graph_infer + CMakeLists + UT×2 | | 8 | **BNTrainingUpdateV2** | norm/bn_training_update_v2 | y 跟随 x;batch_mean/batch_variance 跟随 scale(GetRequiredInputDataType) | graph_infer + UT×2 | | 9 | **BNTrainingUpdateV3** | norm/bn_training_update_v3 | y 跟随 x;batch_mean/batch_variance/reserve_1/reserve_2 跟随 scale | graph_infer + UT×2 | | 10 | **EmbeddingDenseGrad** | index/embedding_dense_grad | grad_weight 跟随输入 0(grad) | graph_infer + CMakeLists + UT×2 | | 11 | **ApplyKerasMomentum** | optim/apply_keras_momentum | var 跟随输入 0(var,ref 输出) | graph_infer + UT×2 | | 12 | **FakeQuantWithMinMaxVarsGradient** | quant/fake_quant_with_min_max_vars_gradient | 三输出(backprops_wrt_x/min/max)恒 float32 | graph_infer + CMakeLists + UT×2 | ### 顺带修复(3 处) - pooling/max_pool_grad:补齐 tests/CMakeLists.txt 与 tests/ut/CMakeLists.txt——此前缺失导致该算子 UT 未编入 UT 二进制(CI 曾报其新增 graph_infer 覆盖率 0% 的根因即此); - optim/apply_keras_momentum:tests/ut/CMakeLists.txt 由固定列表(仅 op_host/op_kernel)改为目录遍历,使 op_graph UT 纳入收集; - optim/apply_keras_momentum/tests/ut/CMakeLists.txt 版权头对齐仓内标准格式(OAT 合规)。 ## 关联的Issue canndev 侧 Runtime 1.0 注册隔离(950 下线批次)已合入:https://gitcode.com/cann/canndev/issues/1935 ,本 PR 为 ops-nn 侧 2.0 配套补齐。 ## 测试 - david: 14427 - **UT**:op_graph UT 全量回归 **432 通过 / 0 失败**(含修复后 MaxPoolGrad 与 ApplyKerasMomentum 各 3 条用例实际纳入执行);op_host 回归 364/0; - **GEIR 图模式**(CANN 9.2.0,Ascend950PR):12 算子累计 941 条用例(静态 L0/L1/L2 + 动态 -1/-2 + 负例),全部通过或按预期校验拒绝; - **ACLNN 两阶段 / 单算子编译通路**:AdaptiveAvgPool2dBackward stage-1 GetWorkspaceSize + stage-2 执行均 Success,kernel 模式 13/13 精度 PASS; - **运行时取证**:plog 确认 12/12 算子新增注册链在 GE 图编译阶段实际执行(如 [bn_training_update_v3_graph_infer.cpp:28] Begin to do InferDataTypeBNTrainingUpdateV3)。 ## 文档更新 无需文档更新。 ## 类型标签 - [x] 新特性 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14645 | 3 days ago | |
修复 Centralization 算子在 axes 契约、UB buffer 切分与路径回退上的问题,并附带 LargeTrailing 的溢出保护。 Co-authored-by: 岩80<1611150171@qq.com> Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !13577 merge master into master 修复 Centralization 算子在 axes 契约、UB buffer 切分与路径回退上的问题,并附带 LargeTrailing 的溢出保护。 Created-by: 2403_87792773 Commit-by: tianyu52;岩80 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 修复 Centralization 算子在 axes 契约、UB buffer 切分与路径回退上的问题,并附带 LargeTrailing 的溢出保护(非精度修复)。 **改动原因** 1. tiling 原先按固定常量/独立公式分配 UB buffer,没有按“每条路径的峰值存活 buffer 数 + UB 总量”计算;小 UB 下可能生成非法配置,DataCopyExtParams 计数超限还会被当作 shape 非法直接拒绝。 2. axes 语义与 canndev DSL/TBE 工具链不一致: - 重复轴被直接拒绝;canndev 实际是归约去重,但其均值系数会因重复轴多乘,不能直接照搬; - 显式空 [] 被当作“最后一轴”,而 canndev DSL 下 reduce_sum(axis=[]) 为 identity(输出 0); - 未设置与显式空未区分; - rank 0/8 在 infershape、tiling、TBE 之间处理不一致(TBE RANK_LIMIT=8)。 3. LargeTrailing 在补偿归约前未做 2 的幂缩放,大有限值求和存在溢出风险; **采取的方法** - axes: - 重复轴改为 sort + unique 去重,reduceCount 按唯一轴重算; - 未设置 → 默认 {-1}(最后一轴);显式空 → no-reduce(Fast 路径输出 x-x=0); - infershape/tiling 统一 rank 1–8;rank0 用 gert::Shape::IsScalar() 拒绝;unknown rank 继续透传,tiling 拒绝未解析负维。 - UB: - 按路径峰值存活节点数均分 UB-8192;per-buffer 32B 对齐;LargeTrailing 固定 128B 只计一次; - Fast rowsPerLoop、lcsi reduceTile 按预算反算; - DataCopyExtParams 计数改为 clamp(≤65535),不再判 shape 非法; - 小 UB 回退:Fast→7030/7020、LargeTrailing→7020、small→scalar、contiguous/irregular/lcsi 最小 tile 放不下时回退;不足 8192/32B 时明确失败。 - LargeTrailing:补偿归约前做 2 的幂缩放,避免大有限值求和溢出。 - 文档/测试同步:README、proto、golden.py、Host UT。 **兼容性/风险** - rank 9–25 不支持(TBE RANK_LIMIT=8,E80012)。 - axes 行为变更:重复轴去重;显式 [] 从“最后一轴”改为“不归约(输出 0)”。 - DataCopy 超限从“拒绝 shape”改为 clamp。 - 仅支持 ND;不提供 aclnn/PyTorch/ONNX 接口。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue #8076 https://gitcode.com/cann/ops-nn/issues/8076 https://gitcode.com/wangyueting/changwei/issues/190 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - Host UT:build.sh -u --ophost --soc=ascend950 --ops=centralization → **23/23 PASS** - 包构建:build.sh --pkg --soc=ascend950 --ops=centralization -j16 → **SUCCESS** - 设备 axes 契约 smoke:**7/7 PASS** - 空 axes fp32/fp16 → 输出 0;[1,1]、[-1,2] → 去重;rank8、small、lcsi - 全量 issue **编译**:**636/636**(634 rest + 2 large,0 个 COMPILE_FAILURE) - 全量 issue **设备执行**(stat_rel_err,--seed 1234): - 已完成 634 条:**528 PASS / 106 FAIL**(都为精度失败,编译全量通过),内存越界 **634/634 PASS** - 失败集中在近零输出的相对误差;不在本 PR 范围内,在后面解决。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - norm/centralization/README.md:axes 去重、空列表 no-reduce、rank 1–8、TF 通路说明 - norm/centralization/op_graph/centralization_proto.h:axes 去重/空列表/默认值描述 - norm/centralization/tests/assets/golden.py:同步 no-reduce/去重参考实现 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13577 | 18 days ago | |
fix: report graph fusion results with compatible APIs Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !13440 merge pass_result into master fix: report graph fusion results with compatible APIs Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 新增融合结果上报的公共兼容工具,并将四条 norm 融合规则接入 GE 融合结果上报 API:运行时支持时自动上报匹配与融合结果,不支持时静默回退。 ### 改动原因 GE 9.1.0+ 提供 SubgraphRewriter::Replace(带 CustomPassContext 的重载)与 GraphFuseInspectorUtils::ReportFuse/ReportMatch(9.2.0+)等融合结果上报接口。此前融合规则调用不带 context 的旧 Replace,无上报能力;且新接口需编译期版本宏与运行时弱符号双重探测,各规则分散接入易出错。 ### 改动方法 1. **新增公共工具 norm/common/op_graph/fusion_report_utils.h**(+110): - 本地声明 GE 上报接口(与 GE 对齐,弱符号):带 context 的 Replace 重载(GE 9.1.0+)、CanFuse/ReportFuse(9.1.0+)、ReportMatch(9.2.0+); - 提供三个兼容封装: - ReplaceSubgraphWithReport:优先调用带 context 的 Replace(替换并自动上报),运行时重载不可用时回退普通 Replace; - ReportMatchNodes:上报匹配节点集,运行时不可用时返回 SUCCESS; - ReportFuseNodes:上报融合前后节点,运行时不可用时返回 SUCCESS。 2. **四条融合规则接入**: - add_layer_norm_fusion_pass / add_rms_norm_dynamic_quant_fusion_pass / inplace_add_rms_norm_fusion_pass:替换调用改为 ops::fusion::ReplaceSubgraphWithReport(Run 的 CustomPassContext 透传); - inplace_add_layer_norm_fusion_pass(单节点替换流程):候选匹配后调用 ReportMatchNodes 上报,ReplaceOneNode 完成输出/控制边重接后、删除旧节点前调用 ReportFuseNodes 上报。 涉及文件(5 个,+131 -13): - norm/common/op_graph/fusion_report_utils.h(新增,+110) - norm/add_layer_norm/op_graph/fusion_pass/add_layer_norm_fusion_pass.cpp(+4 -4) - norm/add_rms_norm_dynamic_quant/op_graph/fusion_pass/add_rms_norm_dynamic_quant_fusion_pass.cpp(+4 -3) - norm/inplace_add_layer_norm/op_graph/fusion_pass/inplace_add_layer_norm_fusion_pass.cpp(+9 -2) - norm/inplace_add_rms_norm/op_graph/fusion_pass/inplace_add_rms_norm_fusion_pass.cpp(+4 -4) ## 关联的Issue - #8107 ## 测试 - 验证高版本(≥9.1.0/9.2.0)运行时融合结果正常上报、融合行为不变。 - 验证低版本运行时弱符号不可用,规则静默回退(不报错、融合正常)。 ## 文档更新 不涉及 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:融合结果上报接入 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13440 | 17 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
docs: drop duplicated word in aclnnDeepNormGrad usage note Co-authored-by: Jiao Ziang<2720649216@qq.com> # message auto-generated for no-merge-commit merge: !14592 merge docs-8623-deepnormgrad-dup into master docs: drop duplicated word in aclnnDeepNormGrad usage note Created-by: JerryJiao0628 Commit-by: Jiao Ziang Merged-by: cann-robot Description: ## 问题描述 对应 Issue #8623:aclnnDeepNormGrad zh 档使用说明「shape与 meanshape保持一致」删重复的 shape。 ## 修改内容 按 Issue 指出的缺陷逐处修正(中英文档同步,若该缺陷仅存在于单一语言档则只改该档);修正前已核对当前 master 缺陷仍在。 ### 当前PR是否有AI参与: - [ ] 否 - [x] 是 __1. Agent平台信息: ZCode interactive agent __2. 模型信息: step-5-preview __3. Prompt摘要: 按共建计划 Issue #8623 修复文档缺陷:aclnnDeepNormGrad zh 档使用说明「shape与meanshape保持一致」删重复的 shape。逐处对照 Issue 给出的原文片段定位修改,人工逐行复核 ### 希望检视人员了解: 1. 仅按 Issue 指出的缺陷做最小修改,未扩大范围; 2. 涉及参数名/类型名的修正均与函数原型核对一致。 See merge request: cann/ops-nn!14592 | 3 days ago | |
test(dua_quantize_add_layer_norm): golden int8 容差改为 binary_equal Co-authored-by: qq_41311449<baihao29@huawei.com> # message auto-generated for no-merge-commit merge: !14663 merge fix/dua-quantize-add-layer-norm-tolerance-issue94 into master test(dua_quantize_add_layer_norm): golden int8 容差改为 binary_equal Created-by: qq_41311449 Commit-by: qq_41311449 Merged-by: cann-robot Description: ## 描述 - norm/dua_quantize_add_layer_norm/tests/assets/golden.py:int8 输出容差 quant(±1 LSB) → binary_equal,docstring 精度策略同步 - 仅 golden(测试资产),无算子实现改动 - 算子仓 golden(唯一源)与 operator-artifacts 交付件口径一致,int8 输出改为逐位一致判定 - 已登记的 arch22 ≤1 LSB 实现偏差改为"归因并修复实现",不再由 golden 容差吸收 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8993 ## 测试 - TTK kernel:248 例 y1/y2 binary_equal 全部通过;TTK geir:79 例通过 - 独立 numpy 核对 dump:unequal=0 - pre-push 门禁 scripts/ci/pre_push_build.sh(fast 增量):PASSED ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14663 | 3 days ago | |
fix(euclidean_norm): tiling容量预算与双门校验加固、srcStride去窄化、适配层DTYPE_MAP补齐与README修正 Co-authored-by: xuejinghui<xuejinghui@huawei.com> # message auto-generated for no-merge-commit merge: !14382 merge fix/euclideannorm-hardening-scan-pr into master fix(euclidean_norm): tiling容量预算与双门校验加固、srcStride去窄化、适配层DTYPE_MAP补齐与README修正 Created-by: xuejinghui Commit-by: xuejinghui Merged-by: cann-robot Description: ## 描述 对应 Issue: Fixes #8761(8 组缺陷:tiling UB 容量预算/搬运窄化/双门校验一致性/适配层/文档口径)。 本 PR 以单 commit 完成 EuclideanNorm 质量加固(+815/−34,10 文件),改动分三部分:: **① tiling/kernel 加固(对应 Issue 缺陷 1-5)**: - **tiling UB 容量预算**:缓冲预算改按 32B 对齐口径推导,并新增 EnforceUbTotalBudget 总量终检(四缓冲和 ≤ 物理 UB 196,608 字节,超限回退到安全切分)——修复前特定形状超限仍放行; - **srcStride 窄化**:DoCopyInTile 多块搬运路径 srcStride 改 int64 直赋(DataCopy ABI 形参即 int64_t),消除 ≥2^32 字节回绕; - **cacheBuf 一致性约束**:EnforceCacheBufConstraint 校验二分累加树 rootEnd ≤ 4096(cacheBuf 16KB 容量),越界域吐轴回退; - **0-D axes 校验序**:tiling 独立入口以原始 rank(xOrigRank)校验 axes,0-D + 非空 axes 与 infershape 门同文案拒绝("scalar input: axes must be empty"); - **pattern 轴段数上限**:infershape 新增 CountPatternAxesAfterPreprocess(与 tiling 四步预处理逐步同构、单一来源引用 MAX_PATTERN_RANK=9),两门同文案同拒,消除一拒一放分歧;任一维为 0(空 tensor,镜像 tiling EMPTY_A/EMPTY_R 早退语义)或 -1(未知维,实际段数运行时定、由 tiling 运行时门兜底)时跳过轴数校验,合轴乘法带 __builtin_mul_overflow 溢出守卫(两门同款,shape 乘积溢出 int64 按不可调度拒绝)。 **② 适配层/示例/看护测试(对应 Issue 缺陷 6、7)**: - scripts/util/ascendc_impl_build.py DTYPE_MAP 增加 float64 条目(**公共脚本 1 行,防御性**:适配层对 float64 由非受控 TypeError 变为可处理的编译路径); - examples 成功路径 Session 释放、GenOnesDataFloat32 缓冲判空释放; - 新增看护测试:FR-03 吐轴回退例、FR-09 all-one 退化例、float64 DTYPE_MAP 例(tests/host pytest)。 **③ README 双语文档修正(对应 Issue 缺陷 8)**: - 约束说明按维护者反馈保持极简(仅声明「支持什么/拒绝什么」):0 维标量输入要求 axes 必空、输入 rank 无上限(归约/非归约交替 pattern 段数上限为 9)、支持零长度维输入、支持动态 shape 与动态 rank; - 调用说明表头术语与参数表行序对齐 OpDef(x/axes/y/keep_dims),调用说明以表格收尾;README_en 同步。 ## 关联的Issue Fixes #8761 ## 测试 - **Host UT**:24/24 PASS(tiling 14 + infershape 10;--soc=ascend950,ascend950PR); - **全量回归**:558 例四分类对账——FAIL→PASS 29 / PASS→FAIL 0(未放行,硬门)/ FAIL→FAIL 60(预存基座/受控拒绝域)/ PASS→PASS 465;唯一用例身份 710 全登记; - **OOB/内存越界**:全局哨兵 573/573 PASS + oom 插桩代表子集 12/12 PASS; - **形状探针**:118,209 例 tiling 形状扫描 overUB_count=0; - **pre-commit 全绿**(pinned ruff v0.14.14/clang-format/codespell/OAT license header 10 文件强制重扫 0 违例 + host-python 回归 7 passed)。 ## 文档更新 norm/euclidean_norm/README.md / README_en.md 双语修正(见 commit 3)。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 ## 决策与权衡 - **UB 预算两法并举**:对齐口径修正(治因)+ 总量终检回退(防御)并列——单独修口径无法覆盖未来新增缓冲项的回归风险,终检是兜底不变式; - **cacheBuf 用防御性约束而非扩容**:越界构造需要极长规约轴(cc>63 的代数域),扩容 cacheBuf 会拖累所有形状的静态开销;约束+吐轴回退按构造时点防御; - **pattern 上限取收紧方向**:tiling 门既有 MAX_PATTERN_RANK=9 与 kernel 实现耦合(不做放宽),infershape 向 tiling 对齐并同文案;README 约束说明同步量化声明; - **重复 axes/非常量 axes 维持收紧**:infershape/tiling 两门一致拒绝的行为不变,不在本 PR 放宽(README 按维护者反馈仅保留简洁约束声明,不展开迁移对照说明); - **公共脚本 DTYPE_MAP +1 行**:适配层缺陷的根因在算子目录外,经专项评审批准做最小防御性修改(float64 映射条目),不在算子 PR 中扩散公共代码改动面; - **golden 缺陷不在本 PR**:golden 资产在独立仓(opencann/operator-artifacts)另行提 PR 修复,与本算子 PR 解耦。 See merge request: cann/ops-nn!14382 | 6 days ago | |
modified md files Co-authored-by: duhuiping<duhuiping@h-partners.com> # message auto-generated for no-merge-commit merge: !14130 merge master into master modified md files Created-by: gitee-duhuiping Commit-by: duhuiping Merged-by: cann-robot Description: ## 描述 Adjust the error code table and correct the value of rowspand. ## 关联的Issue [#8190](https://gitcode.com/cann/ops-nn/issues/8190) ## 测试 Only involves updating the MD document description, does not involve testing. ## 文档更新 md files ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!14130 | 11 days ago | |
fix: 加固 GNTrainingReduce 的 tiling 溢出校验、补偿归约与 workspace 绑定 Co-authored-by: LuckySun<sunwenlong8@huawei.com> # message auto-generated for no-merge-commit merge: !14145 merge gn_stable into master fix: 加固 GNTrainingReduce 的 tiling 溢出校验、补偿归约与 workspace 绑定 Created-by: LuckySun Commit-by: LuckySun Merged-by: cann-robot Description: ## 描述 对 GNTrainingReduce(arch35)做一轮加固,覆盖 host tiling / 图推导 / kernel / golden 参考实现四层。 ### 1. Tiling 溢出防护( op_host/arch35/gn_training_reduce_tiling_arch35.cpp) - 新增非零维乘积门限 kNumelLimit = (INT64_MAX - 4096) / 4(按 fp32 4 字节折算并留 4096 元素对齐余量):逐维判定 nonZeroDimProduct > kNumelLimit / dim,超限时用 OP_LOGE_FOR_INVALID_SHAPES_WITH_REASON 报出实际乘积表达式与上限;任一维为 0 的空 tensor 跳过该检查,仍走既有空 tensor 短路。 - 4 处乘法式预算比较改为除法式比较,避免中间乘积在 int64 下回绕: - cacheline 循环 product * axisSize > cachelineTmp → axisSize > cachelineTmp / product - 内轴 axisSize * innerRProdAlign > rIMax → axisSize > rIMax / innerRProdAlign - R 方向对齐后 rUbFactorAlign * innerRProdAlign > rIMax → rUbFactorAlign > rIMax / innerRProdAlign - A 方向 product * axisSize > aUnitMax → axisSize > aUnitMax / product ### 2. 图推导与 InferShape(op_host/gn_training_reduce_infershape.cpp、op_graph/gn_training_reduce_graph_infer.cpp) - num_groups >= 1 校验前移到未知秩早退之前,未知秩输入同样拒绝 G=0。 - 新增 rank-4 各维 < -1(如 -2 未知秩标记)的确定性拒绝,报 OP_LOGE_FOR_INVALID_SHAPEDIM_WITH_REASON;-1 动态维继续原样传播到输出第 0 维,C 未知时跳过 C % num_groups 校验。 - graph_infer 的 dtype 报错由 OP_LOGE 改为 OP_LOGE_FOR_INVALID_DTYPE,输出实际 dtype 与允许集合。 ### 3. 算子定义(op_host/gn_training_reduce_def.cpp) - Input x 的 UnknownShapeFormat 由 ND 改为与 Format 完全对齐的 NCHW/NHWC 组合。 ### 4. Kernel(op_kernel/arch35/gn_training_reduce_base.h、op_kernel/gn_training_reduce_apt.cpp) - 补偿求和 VF CompensatedSumArVfImpl 改为 template <bool kFullChunk>:VF 只处理整 chunk(64 lane)或 8-lane chunk,掩码使用编译期常量 MaskPattern::ALL / VL8;尾项 [rMain, rProd) 回落到调用方标量 two-sum 续算。避免运行期 UpdateMask 尾块写法在 shape 特化编译产物中整块失效。 - 结果回写改为每 A lane 行首 3 个槽(shi / slo / ssum),步长 COMPENSATED_OUT_STRIDE(32B);新增 3 条 static_assert 约束整 chunk 宽度可容纳 3 槽、槽步长恰为 1 个 UB block、尾块读越界不超 GN_TRAINING_REDUCE_UB_READ_SLACK。 - 向量路径入口门限由 rProd >= 8 提到 rProd >= 24(COMPENSATED_HEAD_SLOT_FLOATS),保证行首 3 槽落在首个整 chunk 内。 - Σx 合并结果在 NaN 时用普通和 psum 兜底,保持输入含 ±Inf/NaN 时与 golden / 标量路径同语义。 - group 分支改用 AscendC::GetUserWorkspace(workspace):950 运行时在 workspace 头部保留 16MB 系统区(RESERVED_WORKSPACE,与 host 侧 ws[0] 的 sysWorkspaceSize 对应,ffts 跨核同步 mailbox 位于该区),原实现直绑原始 workspace 会踩 mailbox。 ### 5. 测试与 golden - 新增 tiling UT RejectNonZeroDimProductOverflow:{2^60,4,1,1}、{2^60,2,1,1}(num_groups=2)均须被拒绝。 - 新增 infer shape UT 6 例:动态 N 传播、动态 C 传播、未知秩传播、rank-4 中 -2 拒绝、未知秩下 G=0 拒绝、未知秩 + 合法 G 正常传播。 - tests/assets/golden.py:归约改为 _grouped_rows + _REDUCE_CHUNK=8192 分块 + _pairwise_sum_last 成对合并的 fp32 树形归约,全链路 dtype 不变;NHWC 先 permute 成 (N,G,H,W,D) 再展平,使归约轴连续(strided 多轴 sum 使偏差达 33~99 ULP,连续轴降到 1~2 ULP);numpy 输入统一 ascontiguousarray。 - 同步删除 ST CSV 中 51 行 align / alignhw / f16max / ovf / largeR / largeA / gvar 用例,避免用例太多影响CI的ST耗时。 ## 关联的Issue - #8599 ## 测试 - diff 已逐文件复核(10 个文件,+318 / -218),新增 UT 覆盖上述边界分支。 - 未在本机执行 UT/ST:执行环境无 CANN toolkit 与 NPU(/usr/local/Ascend 不存在、npu-smi 不可用),需由 CI 编译并运行 test_gn_training_reduce_tiling、test_gn_training_reduce_infershape 与 arch35 ST 验证。 ## 文档更新 无。算子 README 与对外接口未变更,本次仅内部实现与测试资产调整。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14145 | 10 days ago | |
docs(gn_training_update): 明确 epsilon 属性必须大于 0 Co-authored-by: qq_37917228<yanmingkui@huawei.com> # message auto-generated for no-merge-commit merge: !13939 merge docs/gn_training_update_epsilon_doc into master docs(gn_training_update): 明确 epsilon 属性必须大于 0 Created-by: qq_37917228 Commit-by: qq_37917228 Merged-by: cann-robot Description: ## 描述 gn_training_update 的 epsilon 在 Host tiling 阶段已强制 > 0(!(epsilon_ > 0.0f) 同时拒绝 0、负值和 NaN),并由 UT epsilon_zero_rejected 固化,但中英文 README 只写了默认值 0.0001,未说明值域约束。使用者若参照 batch_norm 系列(部分算子允许 0)传参会得到 GRAPH_FAILED 却查不到原因。 本次仅补充文档: - 参数表 epsilon 行明确“必须大于0(0、负值或NaN在Host侧拒绝)”; - “约束说明”新增一条,说明该值只参与 rstd 计算、batch_variance 输出未加 epsilon; - 英文 README 同步。 ## 关联的Issue 无(文档补充,非缺陷修复)。 ## 测试 纯文档改动,未执行编译与测试。所述约束与代码一致: - CheckAttrValueRange:op_host/arch35/gn_training_update_tiling_arch35.cpp - UT epsilon_zero_rejected:tests/ut/op_host/arch35/test_gn_training_update_tiling.cpp ## 文档更新 更新 norm/gn_training_update/README.md 与 README_en.md。 ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13939 | 12 days ago | |
change npu arch use opbase Co-authored-by: luyoubing<luyoubing@huawei.com> # message auto-generated for no-merge-commit merge: !14545 merge npu_arch into master change npu arch use opbase Created-by: luyoubing Commit-by: luyoubing Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14545 | 4 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
change npu arch use opbase Co-authored-by: luyoubing<luyoubing@huawei.com> # message auto-generated for no-merge-commit merge: !14545 merge npu_arch into master change npu arch use opbase Created-by: luyoubing Commit-by: luyoubing Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14545 | 4 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
fix(group_norm_swish): validate attributes and align error docs (issue #8559) Co-authored-by: qiansunchi<qiansunchi@huawei.com> # message auto-generated for no-merge-commit merge: !14126 merge fix/group-norm-swish-param-validation into master fix(group_norm_swish): validate attributes and align error docs (issue #8559) Created-by: qiansunchi159 Commit-by: qiansunchi Merged-by: cann-robot Description: ## 描述 aclnnGroupNormSwish 对非法 dataFormatOptional、eps/swishScale 原先缺少校验。补齐属性校验,并按实际行为修订中文接口文档,shape/numGroups 等已有 Tiling 校验继续返回 561002。 - Tensor 格式:保留原有 ND 注册及默认格式匹配模式,不增加 STRICT 校验,维持 NCHW/NCL 元数据被接受的既有行为,避免扩大兼容性影响。文档仍要求按 ND 格式使用;返回成功不代表支持任意非 ND 格式,也不保证布局转换正确。Issue Case 17–18 的格式拦截诉求不在本 PR 中解决。 - dataFormatOptional:在 Tiling 的 CheckAttrParams 中仅接受 NCHW,与算子 README 的既有约束一致,非法值返回 561002。 - eps/swishScale:在 Tiling 中校验属性有限值并判空。eps 转换为 float 后需为有限值且不小于 0,使用 < 0.0f,允许正零、负零以及下溢成为负零的极小负 double,避免扩大原始 Issue 的限制范围;activateSwish=true 时要求 swishScale 转换为 float 后有限。有限 double 上溢为 float Inf 时仍报错。 - 文档:已有 shape/numGroups 错误码仅改中文文档,不调整现有代码行为;补充 dataFormat 错误码和非 ND 格式不保证报错的说明,并修正合法 FP16/BF16 x + FLOAT affine 的类型组合说明。 - UT:保留已有 eps/swishScale/属性缺失回归,新增 dataFormat 的合法 NCHW 与非法 ABCDEFG/NHWC/空字符串用例。 ## 关联的 Issue 关联 https://gitcode.com/cann/ops-nn/issues/8559 。本 PR 处理错误码资料及属性校验,未解决其中 Case 17–18 的 Tensor 格式严格拦截诉求。 ## 测试 环境:Atlas A2(910B3,CANN 9.3.0_1104)及 A5(950PR,CANN 9.3.0_1014)。两平台均独立编译、安装 group_norm_swish 自定义算子包。 - 原 PR HEAD 9dd7a8cf7f07:两平台 45 个 GetWorkspaceSize 参数用例均符合基线行为,Tensor NCHW/NCL 和非法 dataFormat 均返回 0,确认缺失校验。 - 更新后:两平台各 45/45 通过。Issue Case 6–16 保持 561002;Case 17–18 的 NCHW/NCL Tensor 保持返回 0;Case 19 非法 dataFormat 返回 561002;Case 20–23 非法 eps/swishScale 返回 561002。 - 补充回归覆盖每个输入/输出 Tensor 单独使用 NCHW/NCL(12 个子场景),非法 NHWC/空 dataFormat,eps 下溢负零、正零及 float 上溢,swishScale float 上溢;eps=-1e-50/-0.0/+0.0 均返回 0,eps=-1.0/NaN/Inf 返回 561002。合法 FP32、FP16、FP16/FLOAT 混合类型、关闭 Swish 时 NaN scale 和有限负 scale 保持成功。 - Host UT:A2/A5 各 22/22 通过(20 项 Tiling + 2 项 Proto)。 - 本次改动文件定向 pre-commit 全部适用检查通过,OAT 实际扫描通过。 - 全仓 pre-commit 未通过,原 PR HEAD 与更新后均存在相同失败 hook:trailing-whitespace、end-of-file-fixer、check-json、clang-format、ruff-check、ruff-format、codespell、OAT。代表问题为 weight_quant_batch_matmul_v2 的 ascend350/ascend950 JSON 重复 dtypeForBinQuery 键,以及 torch_extension/requirements.txt 缺少许可证头;全仓检查产生的无关改写未纳入 PR。 验证范围为参数校验和 Host UT,未执行 Kernel 数值精度或性能测试。 ## 文档更新 仅修改 norm/group_norm_swish/docs/aclnnGroupNormSwish.md(中文)。 ## Squash 提交说明 text fix(group_norm_swish): validate attributes and align error docs (issue #8559) 补齐 dataFormat=NCHW 校验,保留原有 Tensor 格式匹配行为及 Tiling 的 eps/swishScale 有限值和属性判空校验,允许 eps 正负零。已有 shape/numGroups 的 561002 行为仅对齐中文文档,补充 dataFormat UT 和 A2/A5 参数回归。 Related issue: https://gitcode.com/cann/ops-nn/issues/8559 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14126 | 5 days ago | |
[Docs] 移除 7 个文件中的 UTF-8 BOM Co-authored-by: aodebiao<18003961989@163.com> # message auto-generated for no-merge-commit merge: !12485 merge docs/fix-utf8-bom into master [Docs] 移除 7 个文件中的 UTF-8 BOM Created-by: gxhgxh2475698 Commit-by: aodebiao Merged-by: cann-robot Description: ## 描述 6 个源码文件以 UTF-8 BOM( EF BB BF)开头,而仓库其余源码与文档均为无 BOM 的 UTF-8。本次仅移除文件头 3 字节 BOM,其余内容零改动。 ## 改动内容 - rnn/dynamic_rnn/op_api/aclnn_lstm.cpp - rnn/gru/op_api/aclnn_gru.cpp - rnn/gru/op_host/gru_tiling.cpp - rnn/gru/op_host/gru_tiling.h - rnn/gru/op_kernel/gru_fp32.h - norm/group_norm_swish_grad/op_kernel/arch35/group_norm_swish_grad.h 共 6 个文件、6 行变更(每行仅去掉行首 BOM)。 说明:另有 1 个测试文件 也存在 BOM,但该文件另有既存的 clang-format 格式问题(本仓 .clang-format 校验会报告需重排),故本次未纳入改动范围,避免与本次改动无关的格式问题触发门禁。 ## 关联的Issue 修复 #7125([Documentation|文档反馈]: 源码文件带 UTF-8 BOM,与仓库其余文件编码不一致) ## 测试 仅编码层面改动,不涉及逻辑,未运行编译与 UT。 验证方式: - 修改前 head -c 3 <file> | od -An -tx1 输出 ef bb bf,修改后首字节为文件首个有效字符; - 去掉 BOM 后文件其余内容与修改前逐字节一致; - 6 个文件均已通过仓库 .clang-format 本地校验(无格式改动建议)。 ## 文档更新 上述 6 个文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!12485 | 15 days ago | |
GroupNormV2 adapted to V5162 Co-authored-by: chenbaiyu<chenbaiyu4@huawei.com> # message auto-generated for no-merge-commit merge: !14183 merge groupnormv2 into master GroupNormV2 adapted to V5162 Created-by: chenbaiyu Commit-by: chenbaiyu Merged-by: cann-robot Description: ## 描述 V5162适配GroupNormV2算子 **修改目的** 为 group_norm_v2 算子新增 Ascend5162A 平台支持,复用 Ascend950 的 Arch35 Tiling 和 Kernel 配置完成 SoC 注册,并修复两处可能导致 Ascend5162A 编译异常及 Kernel 运行挂死的问题。 **修改内容** 1. 新增 Ascend5162A SoC 支持 - CMakeLists.txt:在 SUPPORT_COMPUTE_UNIT 中追加 ascend5162,并在 SUPPORT_TILING_DIR 中同步追加 arch35,复用 Ascend950 的 Tiling 实现。 - group_norm_v2_def.cpp:新增 AddConfig("ascend5162", config950),复用 Ascend950 的完整 AICore 配置。 2. 修复 Kernel 编译类型不匹配 - group_norm_v2_regbase_base.h:将 Duplicate(tmpMean/tmpVar, 0.0, ...) 中的 0.0 修改为 0.0f,使浮点字面量类型与 float 模板参数保持一致。 3. 修复 V_MTE2 事件 ID 释放错误 - group_norm_v2_regbase_welford_generalized.h:将事件释放类型由 HardEvent::MTE2_V 修正为 HardEvent::V_MTE2,与事件分配时使用的事件池保持一致,避免事件 ID 泄漏。 - 修复事件 ID 累积泄漏导致的第 9 次调用越界及 Kernel 挂死问题。 **影响范围** - 平台范围:仅新增 Ascend5162 支持,不修改 Ascend950、Ascend350、Ascend960DT、Ascend960PR 的既有配置。 - Kernel 范围:仅修正浮点字面量类型和事件 ID 释放配对关系,不改变原有计算逻辑。 - 其他算子及平台:无改动。 ## 关联的Issue 关联Issue [#8690](https://gitcode.com/cann/ops-nn/issues/8690) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14183 | 3 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
fix(example): preserve ND outputs for INTrainingReduceV2 on Ascend950 Co-authored-by: zsq_8888<zhushuqin1@huawei.com> # message auto-generated for no-merge-commit merge: !14400 merge fix/in-training-reduce-v2-example-nd into master fix(example): preserve ND outputs for INTrainingReduceV2 on Ascend950 Created-by: qq_57796320 Commit-by: zsq_8888 Merged-by: cann-robot Description: ## 描述 修复 Ascend950 下 INTrainingReduceV2 图模式 example 执行失败的问题。 原 example 未明确设置输出描述及格式推导,GE 格式传播后,输出被设置为 NCHW,与 Ascend950 要求输出为 ND 的约束不一致,导致图编译失败。 本次修改: - 显式设置 sum、square_sum 两个输出为 ND 格式、FP32 类型,并设置对应的归约输出 shape。 - 在 example 中注册输出格式推导,确保 GE 格式传播后两个输出仍保持 ND。 本次仅修改 example,不涉及 kernel 和 tiling。 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue 关联 Issue #8775:https://gitcode.com/cann/ops-nn/issues/8775 <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 在 Ascend950DT CANN 主线环境下验证: - 默认 build.sh 图模式 example 编译、执行成功。 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!14400 | 8 days ago | |
refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !14522 merge npuarch-migration-rest into master refactor: NpuArch整改——长尾43算子注册迁移AddConfigByArch(含10个仅950算子扩面DAV_3510),CMake同步arch折叠 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 长尾算子 NpuArch 整改(43 个),共 116 个文件(+216 -201): **1. 注册面迁移(43 个 _def.cpp,按模块分布:activation 7 / foreach 7 / index 2 / loss 1 / norm 10 / optim 8 / pooling 3 / quant 5):** - 算子注册从 this->AICore().AddConfig("ascend950"/"ascend350"/"ascend960dt"/"ascend960pr", aicoreConfig) 迁移为 **opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510/DAV_9201/DAV_9202, aicoreConfig)**(include op_common/op_host/util/op_arch_helper.h),78 处旧 AddConfig 收敛为 45 处; - **Ascend950/Ascend350 折叠到 DAV_3510**(同 arch 共享一份注册),960dt=DAV_9201、960pr=DAV_9202 保留显式注册; - **10 个原仅注册 ascend950 的长尾算子扩面**(350 继承 950 配置,统一由 AddConfigByArch(DAV_3510) 覆盖):hard_swish_grad_v2、foreach_log_inplace、non_zero_with_value、batch_norm3_d、bn3d_training_reduce、bn_training_reduce_grad、deep_norm、group_norm_silu_quant、l2_normalize、psroi_pooling_grad_v2_d。 **2. CMake arch 折叠同步(66 个 CMakeLists.txt):** - SUPPORT_COMPUTE_UNIT 由 soc 名折叠为 arch 名(ascend950/ascend350 → dav_3510,ascend960dt → dav_9201,ascend960pr → dav_9202),保留各算子原有其他 soc(mc62、ascend910b、ascend910_93 等);SUPPORT_TILING_DIR 相应调整;扩面算子的 dav_3510 同时覆盖原 950/350 两个 soc。 **3. op_api 枚举统一(7 个 foreach op_api 文件,低风险面):** - 运行时 NpuArch::DAV_* 判断统一替换为 Ops::Base::DAV_*(include op_common/op_host/util/op_const_def.h,枚举同值纯改名),涉及 foreach_addcdiv_scalar(含 v2)、foreach_div_list、foreach_log10、foreach_minimum_scalar(含 v2)、foreach_reciprocal 的 aclnn 接口。 **三批拆分说明:** activation 批 39 个(!11992)、quant/index 批 26 个(!14673)、长尾批 43 个(本 PR)。拆分依据:Compile_single 逐算子串行构建实测 49 算子 57.0min(70s/算子,上限 3600s),65 算子合并必超时。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #9092 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> - 注册迁移为等价替换(AddConfigByArch(DAV_3510) 展开覆盖 950/350 两个 soc,9201/9202 显式注册不变),编译期配置产物一致; - op_api 侧仅枚举命名空间统一(NpuArch::DAV_* → Ops::Base::DAV_*,枚举同值),分支逻辑不变; - 本地构建回归通过;CI compile 待触发。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述:重构(注册面/平台判断统一) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14522 | 3 days ago | |
test(norm): default three golden specs to cross_check L1 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !14836 merge test/norm-golden-cross-check-20261119T020200Z into master test(norm): default three golden specs to cross_check L1 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## Description Default the Golden specifications for INTrainingUpdateGradGammaBeta (FP32), L2Normalize (FP16/FP32), and LpNormReduce (FP16/BF16/FP32) to cross_check with explicit level="L1". Kernel and GEIR now select three-way comparison without requiring --compare cross_check. The existing CPU Golden and Torch reference computations are unchanged. Default runs require third-party results; explicit CLI comparison overrides remain effective. This is a requested test-default change, not a claim that TTK requires every floating-point operator to use this criterion. ## Related Issue https://gitcode.com/cann/ops-nn/issues/9155 - https://gitcode.com/wangyueting/changwei/issues/238 - https://gitcode.com/wangyueting/changwei/issues/239 - https://gitcode.com/wangyueting/changwei/issues/240 ## Test - Task-local TTK 8f50c96868d36d11f413f4acaa369ed03280fe2a: all 24 changed dtype/pathway/repository configuration combinations resolve to cross_check L1; explicit close overrides still work. - Audited the 15 requested operators: 243 configuration combinations pass and 19 artifact copies match their source files. Integer, complex and bit-preserving-copy criteria remain unchanged. - Python syntax and numerical AST invariance checks, pre-commit hooks, and git diff --check pass. - Configuration checks only; no new NPU/GPU numerical, performance, build or local-CI results are claimed. ## Documentation Update Update the L2Normalize Golden docstring. The companion operator-artifacts PR synchronizes Golden files, current-default descriptions and hashes while preserving historical test records. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [ ] Documentation update - [x] Other, please describe: Golden test defaults ## AI/Agent-Generated Declaration - [x] AI-assisted authoring Companion PR: https://gitcode.com/opencann/operator-artifacts/merge_requests/511 See merge request: cann/ops-nn!14836 | 2 days ago | |
fix(norm): 保留INTrainingUpdateV2方差减法残差 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !13756 merge fix/in-training-update-v2-round4-variance-20261105 into master fix(norm): 保留INTrainingUpdateV2方差减法残差 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 第四轮全量回归发现 INTrainingUpdateV2_L1_rangebound_highpre_470 的运行方差三方 RMSE 比值为 1.607104909,超过 L1 上限 1.5。固定原始输入连续三次复现;去掉运行统计或将 momentum 设为 1,基础方差仍有误差。 基础方差已保留乘法残差,但计算 square_sum/R - mean² 时遗漏减法的舍入残差。本次用已有 SumError 恢复这部分误差,再参与方差补偿、Bessel 校正和标准差计算。复用现有寄存器,补充四条各含 3 个 x 元素的布局/dtype 回归。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8236 ## 测试 - Ascend950PR_9579,任务独立 CANN 9.3,预编译包以单任务构建,安装和部署内容核对通过。 - TTK ad177f0b9c7b336c3e0ce6778721489df08b5f36,所有执行显式 --pc=1;沿用原 Golden 和 cross_check L1 判据,参考设备为 A100-PCIE-40GB。 - 11 条真实三方定向回归全部 PASS/BINARY_MATCH:470 原输入三次重复、基础方差/动量对照两条、小输入四条、第三轮原始 147 和 483 两条。470 所有输入 SHA256 保持一致,修复后方差与本次 GPU 输出逐值一致。 - 本地 CI(2026-11-06):受测 d67f536e39aaa26ac0be0063bdcf2114ef241bb0,基线 886bfe76783c116ce7aea99db7abbd17d01bb292。指定入口 /workspace/CI-skills/ci_local_check.sh 完整通过;Ascend 950、A2 的定向包构建、Host/API/Kernel UT 阶段及 Graph ASan 门禁均 PASS,JOBS=1。编译阶段无实际用例的目标不计数值覆盖。 - 本次 rebase 前后两份任务文件字节一致,相关主线依赖无差异。此前三方数值证据保留原受测 SHA,不改标为本次 CI 提交的上板结果。 - 原始 707 条全量回归按用户指示暂停 NPU 使用,尚未完成;本次仅完成编译和 CPU UT,未恢复上板测试。内存超限、原始元数据无法解析等情况单列,不计数值 PASS。 ## 文档更新 本次修改算子实现及精度回归数据生成器,无接口或规格变更。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写(Codex / GPT-6) See merge request: cann/ops-nn!13756 | 16 days ago | |
fix(norm): clarify empty Tensor docs Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !14541 merge ln_doc2611 into master fix(norm): clarify empty Tensor docs Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 澄清 AddLayerNorm / InplaceAddLayerNorm 的空 Tensor 支持范围;顺带将 LayerNormV4 空归约 kernel 的裸数字 2 替换为 NUM_TWO;并修正 LayerNormV4 aclnn golden 对可选 mean/rstd 输出的返回方式。 ### 改动原因 - 原文档对空 Tensor 的口径不一致:add_layer_norm README 写"不支持空进空出",aclnnAddLayerNorm 又限制"输入的某一维不能为 0"、"x1 为空时 meanOut/rstdOut 必须为空",与 950PR/950DT 已支持空入非空出(空归约 mean=0、rstd=NaN)的实际能力不符。 - inplace_add_layer_norm README 写"支持空进空出",与其他文档的"支持空 Tensor"表述不统一。 - aclnn golden 原先在 meanOutOptional / rstdOutOptional 为 None 时仍返回 None 占位,返回列表长度与位置和实际输出槽位不一致,容易导致比对错位。 ### 改动方法 1. **README(中/英)**: - add_layer_norm:约束由"不支持空进空出"改为"Ascend 950PR&950DT 系列产品支持空 Tensor"。 - inplace_add_layer_norm:约束由"支持空进空出"改为"支持空 Tensor"。 2. **aclnnAddLayerNorm 中文文档**: - x1 删除"不支持输入的某一维的值为 0"约束; - meanOut / rstdOut 删除"输入 x1 为空 tensor 时输出也必须为空 tensor"约束; - 错误场景"(x1、gamma、meanOut)的任意一个维度等于 0"改为"tiling 阶段遇到当前产品不支持的空 Tensor 场景"; - 约束说明新增"空 Tensor 支持:支持空进空出;Ascend 950PR&950DT 系列产品支持空入非空出"。 - 英文文档本次未改动。 3. **kernel(顺带修改)**(layer_norm_v4_regbase_reduce_empty.h):增加 #include "layer_norm_v4_regbase_common.h",2 * rowsPerTile_ * sizeof(float) 改为 NUM_TWO * rowsPerTile_ * sizeof(float)(NUM_TWO = 2,缓冲区大小不变)。 4. **golden**(norm/layer_norm_v4/tests/assets/golden.py): - aclnn_layer_norm_golden:先构造 res = [y],仅当 meanOutOptional / rstdOutOptional 非 None 时依次追加对应结果,不再返回 None 占位; - AclnnLayerNormTorchThirdParty:同样按实际存在的可选输出构造返回列表。 涉及文件(7 个,+24 -19): - norm/add_layer_norm/README.md(+1 -1) - norm/add_layer_norm/README_en.md(+1 -1) - norm/add_layer_norm/docs/aclnnAddLayerNorm.md(+6 -4) - norm/inplace_add_layer_norm/README.md(+1 -1) - norm/inplace_add_layer_norm/README_en.md(+1 -1) - norm/layer_norm_v4/op_kernel/arch35/layer_norm_v4_regbase_reduce_empty.h(+2 -1) - norm/layer_norm_v4/tests/assets/golden.py(+12 -10) ## 关联的Issue - https://gitcode.com/cann/ops-nn/issues/9107 ## 测试 - 变更以文档口径澄清、golden 返回方式修正与常量替换为主,不改变算子计算逻辑。 - golden 修正后,aclnnLayerNorm / aclnnFastLayerNorm 的参考输出列表仅包含实际存在的输出(y,以及存在时的 mean/rstd),需 ST/UT 按实际输出槽位加载。 - kernel 侧为常量替换(NUM_TWO == 2),UB 缓冲区大小与运行行为不变,由现有 AddLayerNorm / InplaceAddLayerNorm / LayerNormV4 UT/ST 覆盖回归。 ## 文档更新 - norm/add_layer_norm/README.md、norm/add_layer_norm/README_en.md - norm/add_layer_norm/docs/aclnnAddLayerNorm.md - norm/inplace_add_layer_norm/README.md、norm/inplace_add_layer_norm/README_en.md ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [x] 其他,请描述:魔法数字具名化 + aclnn golden 可选输出修正 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14541 | 4 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 18 days ago | |
test(norm): default three golden specs to cross_check L1 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !14836 merge test/norm-golden-cross-check-20261119T020200Z into master test(norm): default three golden specs to cross_check L1 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## Description Default the Golden specifications for INTrainingUpdateGradGammaBeta (FP32), L2Normalize (FP16/FP32), and LpNormReduce (FP16/BF16/FP32) to cross_check with explicit level="L1". Kernel and GEIR now select three-way comparison without requiring --compare cross_check. The existing CPU Golden and Torch reference computations are unchanged. Default runs require third-party results; explicit CLI comparison overrides remain effective. This is a requested test-default change, not a claim that TTK requires every floating-point operator to use this criterion. ## Related Issue https://gitcode.com/cann/ops-nn/issues/9155 - https://gitcode.com/wangyueting/changwei/issues/238 - https://gitcode.com/wangyueting/changwei/issues/239 - https://gitcode.com/wangyueting/changwei/issues/240 ## Test - Task-local TTK 8f50c96868d36d11f413f4acaa369ed03280fe2a: all 24 changed dtype/pathway/repository configuration combinations resolve to cross_check L1; explicit close overrides still work. - Audited the 15 requested operators: 243 configuration combinations pass and 19 artifact copies match their source files. Integer, complex and bit-preserving-copy criteria remain unchanged. - Python syntax and numerical AST invariance checks, pre-commit hooks, and git diff --check pass. - Configuration checks only; no new NPU/GPU numerical, performance, build or local-CI results are claimed. ## Documentation Update Update the L2Normalize Golden docstring. The companion operator-artifacts PR synchronizes Golden files, current-default descriptions and hashes while preserving historical test records. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [ ] Documentation update - [x] Other, please describe: Golden test defaults ## AI/Agent-Generated Declaration - [x] AI-assisted authoring Companion PR: https://gitcode.com/opencann/operator-artifacts/merge_requests/511 See merge request: cann/ops-nn!14836 | 2 days ago | |
修正 L2NormalizeGrad 中英文 README 的前向 eps 位置与定义说明 Co-authored-by: Chen_HaoWen<chenhaowen12@huawei.com> # message auto-generated for no-merge-commit merge: !14435 merge docs/issue-7377-20261114 into master 修正 L2NormalizeGrad 中英文 README 的前向 eps 位置与定义说明 Created-by: Chen_HaoWen Commit-by: Chen_HaoWen Merged-by: cann-robot Description: ## 变更说明 - 修正中英文 README 中引用的前向 L2Normalize 公式,将 eps 放到平方和的下限位置。 - 补充当前反向表达式中 eps 作为 L2 范数下限的说明,并明确 eps 保护区下与前向导数可能存在差异。 ## 验证结果 - 在源码基线 fa79f730dd063e53e29f61aef7692d830fc72e40 上核对前向 kernel 的 Maxs → Sqrt、四个反向模板的 Sqrt → Maxs 及反向 golden 公式。 - 独立 CPU 标量公式核对通过,x=0.005、eps=0.0001 时前向结果为 y=0.5。 - 两份资料的逐行差异、行尾与 git diff --check 检查通过。 ## 流水线验证 - 本轮 /compile 对应源提交 2fb72c9c2ae28a2a1f54c756375095356d72c9d2,已核对实际 checkout 提交及父提交关系。 - PreBuild、Compile、UT、UT_report、PreSmoke 和后处理六个阶段均已完成,73/73 个任务通过,包含 CodeCheck、文档静态检查、编译、UT 和预冒烟检查。[流水线结果](https://gitcode.com/CANN/ops-nn/actions/runs/76fea559f99a44a1848c5cf28a31929e) ## 影响说明 调用者可据此判断极小输入的前向归一化结果,并理解当前反向公式中 eps 的含义及保护区差异。 ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 Closes #7377 See merge request: cann/ops-nn!14435 | 5 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
明确 aclnnLayerNormQuant 静态量化的 zeroPointsOptional 必传要求 Co-authored-by: Chen_HaoWen<chenhaowen12@huawei.com> # message auto-generated for no-merge-commit merge: !14436 merge docs/issue-7380-20261114 into master 明确 aclnnLayerNormQuant 静态量化的 zeroPointsOptional 必传要求 Created-by: Chen_HaoWen Commit-by: Chen_HaoWen Merged-by: cann-robot Description: ## 变更说明 本PR提交中文资料,英文版本由专人统一翻译维护。 - 修订中文 ACLNN 资料的 zeroPointsOptional 参数描述,明确当前 quantMode=0 静态量化模式下该参数为必选输入,调用时需提供非空指针。 ## 验证结果 - 在源码基线 fa79f730dd063e53e29f61aef7692d830fc72e40 上核对 CheckNotNull 及其错误码映射,静态量化模式会校验 zeroPointsOptional 非空。 - 核对 CheckShape,当前接口仅接受 quantMode=0。 - 中文资料修订一行,逐行差异、行尾与 git diff --check 检查通过。 ## 流水线验证 - 本轮 /compile 对应源提交 363cf22b5ebeb15706632f911f607b906e0afb18,已核对实际 checkout 提交及父提交关系。 - PreBuild、Compile、UT、UT_report、PreSmoke 和后处理六个阶段均已完成,73/73 个任务通过,包含 CodeCheck、文档静态检查、编译、UT 和预冒烟检查。[流水线结果](https://gitcode.com/CANN/ops-nn/actions/runs/8670a90e6b5c47c99353a30b387f61c8) ## 影响说明 资料明确当前静态量化的零点传参要求。本次修订覆盖 Issue 中零点可选性的资料子项,头文件 quantMode 的 0/1 取值注释仍有独立待处理项。 ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 Refs #7380 See merge request: cann/ops-nn!14436 | 5 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
docs: FLOAT -> FLOAT32 in aclnnLayerNorm weightOptional/biasOptional rows Co-authored-by: Jiao Ziang<2720649216@qq.com> # message auto-generated for no-merge-commit merge: !14586 merge docs-8635-layernorm-float32 into master docs: FLOAT -> FLOAT32 in aclnnLayerNorm weightOptional/biasOptional rows Created-by: JerryJiao0628 Commit-by: Jiao Ziang Merged-by: cann-robot Description: ## 问题描述 对应 Issue #8635:aclnnLayerNorm&WithImplMode 中英文档 weightOptional/biasOptional 数据类型 FLOAT 补全为 FLOAT32。 ## 修改内容 按 Issue 指出的缺陷逐处修正(中英文档同步,若该缺陷仅存在于单一语言档则只改该档);修正前已核对当前 master 缺陷仍在。 ### 当前PR是否有AI参与: - [ ] 否 - [x] 是 __1. Agent平台信息: ZCode interactive agent __2. 模型信息: step-5-preview __3. Prompt摘要: 按共建计划 Issue #8635 修复文档缺陷:aclnnLayerNorm&WithImplMode 中英文档 weightOptional/biasOptional 数据类型 FLOAT 补全为 FLOAT32。逐处对照 Issue 给出的原文片段定位修改,人工逐行复核 ### 希望检视人员了解: 1. 仅按 Issue 指出的缺陷做最小修改,未扩大范围; 2. 涉及参数名/类型名的修正均与函数原型核对一致。 See merge request: cann/ops-nn!14586 | 3 days ago | |
test(norm): default three golden specs to cross_check L1 Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !14836 merge test/norm-golden-cross-check-20261119T020200Z into master test(norm): default three golden specs to cross_check L1 Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## Description Default the Golden specifications for INTrainingUpdateGradGammaBeta (FP32), L2Normalize (FP16/FP32), and LpNormReduce (FP16/BF16/FP32) to cross_check with explicit level="L1". Kernel and GEIR now select three-way comparison without requiring --compare cross_check. The existing CPU Golden and Torch reference computations are unchanged. Default runs require third-party results; explicit CLI comparison overrides remain effective. This is a requested test-default change, not a claim that TTK requires every floating-point operator to use this criterion. ## Related Issue https://gitcode.com/cann/ops-nn/issues/9155 - https://gitcode.com/wangyueting/changwei/issues/238 - https://gitcode.com/wangyueting/changwei/issues/239 - https://gitcode.com/wangyueting/changwei/issues/240 ## Test - Task-local TTK 8f50c96868d36d11f413f4acaa369ed03280fe2a: all 24 changed dtype/pathway/repository configuration combinations resolve to cross_check L1; explicit close overrides still work. - Audited the 15 requested operators: 243 configuration combinations pass and 19 artifact copies match their source files. Integer, complex and bit-preserving-copy criteria remain unchanged. - Python syntax and numerical AST invariance checks, pre-commit hooks, and git diff --check pass. - Configuration checks only; no new NPU/GPU numerical, performance, build or local-CI results are claimed. ## Documentation Update Update the L2Normalize Golden docstring. The companion operator-artifacts PR synchronizes Golden files, current-default descriptions and hashes while preserving historical test records. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [ ] Documentation update - [x] Other, please describe: Golden test defaults ## AI/Agent-Generated Declaration - [x] AI-assisted authoring Companion PR: https://gitcode.com/opencann/operator-artifacts/merge_requests/511 See merge request: cann/ops-nn!14836 | 2 days ago | |
refactor(errormessage): fused_bias_leaky_relu 与 lp_norm_update 的非法 dtype 报错整改为 OP_LOGE_FOR_INVALID_DTYPE Co-authored-by: esok11<yangsifa@huawei.com> # message auto-generated for no-merge-commit merge: !14508 merge f1116_114107 into master refactor(errormessage): fused_bias_leaky_relu 与 lp_norm_update 的非法 dtype 报错整改为 OP_LOGE_FOR_INVALID_DTYPE Created-by: esok11 Commit-by: esok11 Merged-by: cann-robot Description: ## 描述 errormessage 整改:将 fused_bias_leaky_relu、lp_norm_update 两个算子 host 侧 Tiling 校验中的旧日志接口 OP_LOGE_WITH_INVALID_INPUT_DTYPE 替换为结构化接口 OP_LOGE_FOR_INVALID_DTYPE,共 2 个文件、3 处调用。 改动原因:OP_LOGE_WITH_INVALID_INPUT_DTYPE 属于待下线的旧接口,报错不携带统一的结构化错误定界信息,不利于错误码归一与问题定位;整改后非法 dtype 统一走 OP_LOGE_FOR_INVALID_DTYPE 结构化报错通道。 改动方法: - activation/fused_bias_leaky_relu/op_host/arch35/fused_bias_leaky_relu_tiling_arch35.cpp:x(输入 0)、bias(输入 1)两处 dtype 白名单校验由 OP_LOGE_WITH_INVALID_INPUT_DTYPE 改为 OP_LOGE_FOR_INVALID_DTYPE,入参仍为 nodeName、参数名、实际 dtype、期望 "DT_FLOAT16, DT_FLOAT"。 - norm/lp_norm_update/op_host/arch35/lp_norm_update_tiling_arch35.cpp:x 的 dtype 白名单校验同样替换为 OP_LOGE_FOR_INVALID_DTYPE(期望 "DT_FLOAT16, DT_FLOAT")。 两处均为纯宏替换:未改动校验条件、支持的数据类型(FLOAT16/FLOAT)以及校验失败时的 return ge::GRAPH_FAILED 行为,bias dtype must be same as x dtype 的既有 OP_LOGE 分支也保持不变。 ## 关联的Issue - #8871(https://gitcode.com/cann/ops-nn/issues/8871) ## 测试 本 PR 未新增或修改测试用例。改动仅为错误日志宏替换,dtype 白名单与失败返回路径不变,由仓库既有编译与 UT 流水线验证。 ## 文档更新 无。未改动对外接口、README 及资料。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:错误日志(errormessage)整改,旧接口 OP_LOGE_WITH_INVALID_* 迁移至 OP_LOGE_FOR_* ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!14508 | 6 days ago | |
fix(lp_norm_update_v2, global_lp_pool): align p semantics; add ForeachMinimumList GEIR sample Co-authored-by: wuchengwen_oh<wuchengwen4@huawei.com> # message auto-generated for no-merge-commit merge: !13966 merge fix/lp-norm-update-v2-cross-check-l2 into master fix(lp_norm_update_v2, global_lp_pool): align p semantics; add ForeachMinimumList GEIR sample Created-by: wuchengwen_oh Commit-by: wuchengwen_oh Merged-by: cann-robot Description: ## 变更内容 ### LpNormUpdateV2 golden - Golden 保持原有 float32 参考实现; __spec__ 保留 lp_norm_update_v2,并使用 raw 入口 LpNormUpdateV2。 - 删除不存在的 torch.lp_norm_update_v2 入口及对应 LpNormUpdateV2TorchSpec、_LpNormUpdateV2Graph,避免无效 spec。 - 移除 ±FLT_MAX 的 identity 特判,有限 p 统一按 pow 计算,与 kernel 的 p 分支一致。 - sqrt 判定改为 math.isclose(p, 2.0) 默认阈值(rel_tol=1e-9, abs_tol=0),与 TBE 一致。 - identity 分支覆盖 2147483647.0、2147483648.0、-2147483648.0:INT_MAX 转 float32 会舍入为 2^31,INT_MIN 可精确表示为 -2^31,与 kernel 的 INT_SENTINEL_MAX/MIN 一致。 - 保持 tolerance = cross_check L2,不自定义 mare/mere/rmse 或统一阈值。 ### GlobalLpPool golden 同步 - 同步 operator-artifacts PR #348 的 global_lp_pool/Golden文件/golden.py 到 pooling/global_lp_pool/tests/assets/golden.py;未修改 LpNormUpdateV2。 - 仅对该文件执行 pre-commit 并通过(ruff check/format、OAT 等;含许可证头、import 顺序、格式化等 style-only 变更)。 - GlobalLpPool golden sha256 d00201b6ebf17a8d255bdea8e2d50de47d835cfe4bbd8068bd3f7245054d0a10,与 operator-artifacts PR #348 逐字节一致。 ### ForeachMinimumList GEIR 样例 - 新增 foreach/foreach_minimum_list/examples/test_geir_foreach_minimum_list.cpp:通过 GE IR 构图调用 ForeachMinimumList,覆盖 2 组动态输入张量列表和动态输出,逐元素校验 y[i] = min(x1[i], x2[i])。 - 样例支持通过命令行参数指定 device id(默认 0),并对非法参数做校验;运行结束后校验输出 dtype、shape、size 和数值。 - 中英文 README 补充 GE 图模式样例入口。 ## 验证 - LpNormUpdateV2: - Golden 与 operator-artifacts PR #348 一致,sha256 3d413303c33542aecf3aca44d32406a9d6fb6c528935bb82e81aa7e5adc2fdf6。 - py_compile 通过;抽样确认 p=2.00001 走 pow、p=±FLT_MAX 走 pow、p=±2^31 走 identity、FP16 epsilon=0 输出 0。 - TestSpec 解析确认 float16/bfloat16/float32 均使用 cross_check L2。 - pre-commit 仅对 norm/lp_norm_update_v2/tests/assets/golden.py 执行并通过。 - 在 TTK 根目录清理动态缓存后运行 L0 regular:40/40 PASS,DYN/CST/BIN 均 PASS,使用 PR Golden 的 cross_check L2;large 8 条因 2^31 元素资源未执行。 - ForeachMinimumList: - bash build.sh --run_example foreach_minimum_list graph --soc=ascend950 真机通过,输出校验全部匹配。 - 验证 device 0、device 1 均可运行;非法 device 参数正确拒绝。 - clang-format、-Wall -Wextra 和 pre-commit(含 codespell、OAT)通过。 ## 关联 Issue - 无 PR 保持 1 个 commit。 See merge request: cann/ops-nn!13966 | 9 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
fix(foreach,masked_softmax): GEIR 样例去冗余 include + MaskedSoftmax 质量加固 Co-authored-by: wuchengwen_oh<wuchengwen4@huawei.com> # message auto-generated for no-merge-commit merge: !14344 merge fix/foreach-minimum-list-geir-includes into master fix(foreach,masked_softmax): GEIR 样例去冗余 include + MaskedSoftmax 质量加固 Created-by: wuchengwen_oh Commit-by: wuchengwen_oh Merged-by: cann-robot Description: ## 变更内容 ### foreach_minimum_list - GEIR 示例移除冗余头文件(含与 CANN ops_proto_math.h 重复定义 GatherShapes 的 ops_proto_nn.h)。 ### masked_softmax_with_rel_pos_bias - tiling 维度超过 uint32 时拒绝,避免截断; - BW b*w、blockDim、GM 偏移使用 64 位,修复大 shape 溢出; - 原有平台隔离中补充 arch35 DataCopyPad,修复 mask/bias 未搬运; - fallback 按 int64 读取 inner_precision_mode,scale 显式 float→double; - aclnn/GEIR 示例修复资源泄漏与失败路径清理; - 文档修正图模式链接、参数类型/格式、产品支持与已实测约束; - Host UT 保留维度越界用例。 ## 验证 - Host UT 33/33; - MaskedSoftmaxWithRelPosBias aclnn 示例、GEIR 示例(12 场景)通过; - Ascend950 定向与 L0/L2/GEIR 验证完成; - ascend910b、ascend310p 单算子编译通过(未上板)。 ## 关联 Issue - https://gitcode.com/cann/ops-nn/issues/8882 See merge request: cann/ops-nn!14344 | 5 days ago | |
fix(multi_add_rms_norm_dynamic_quant): insert graph example TensorList at input zero Co-authored-by: qq_57796320<zhushuqin1@huawei.com> # message auto-generated for no-merge-commit merge: !13852 merge fix/multi-add-rms-norm-dynamic-quant-graph-example into master fix(multi_add_rms_norm_dynamic_quant): insert graph example TensorList at input zero Created-by: qq_57796320 Commit-by: qq_57796320 Merged-by: cann-robot Description: ## 描述 修复 MultiAddRmsNormDynamicQuant graph example 执行失败的问题。 算子原型将动态输入 x1 定义在第 0 个输入端口。原 example 使用 create_dynamic_input_x1 创建 TensorList,动态端口被追加到静态输入之后, 导致组图时的输入端口顺序与原型不一致,进而出现输出 shape 推导错误和 设备地址异常。 将创建方式改为 create_dynamic_input_byindex_x1(x1Num, 0),显式在第 0 个位置创建动态输入。同时增加 example 的输出检查,校验六个输出的 shape、dtype 和数值 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue 关联 Issue #8331:https://gitcode.com/cann/ops-nn/issues/8331 <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 在 Ascend950 环境下,使用原算子包运行 graph example。 - x1 TensorList 长度为 1、2、5 时,图执行均成功。 - 六个输出 y1、y2、x、y、scale1、scale2 的 shape、 dtype 和数值均通过 example 内的确定性参考检查。 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13852 | 15 days ago | |
fix(mvn_v2): 删除README中950仅GE图模式接入的注意事项 Co-authored-by: Davon14272<liuwenda4@huawei.com> # message auto-generated for no-merge-commit merge: !14234 merge fix/mvn_v2-readme-remove-note into master fix(mvn_v2): 删除README中950仅GE图模式接入的注意事项 Created-by: Davon14272 Commit-by: Davon14272 Merged-by: cann-robot Description: ## 描述 删除README中950仅GE图模式接入的注意事项 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14234 | 3 days ago | |
feat(5162a): norm/quant 系算子注册适配 ascend5162 并整改 _apt 命名 Co-authored-by: wuxuening<wuxuening2@huawei.com> # message auto-generated for no-merge-commit merge: !13514 merge br_5162a_norm_quant into master feat(5162a): norm/quant 系算子注册适配 ascend5162 并整改 _apt 命名 Created-by: wuxuening Commit-by: wuxuening Merged-by: cann-robot Description: ## 描述 **1. batch_norm/layer_norm/ascend_quant/instance_norm/rms_norm 五算子注册适配 ascend5162**: - 5 个 def.cpp 追加 AddConfig("ascend5162", ...),复用 950 全量配置 - 5 个 CMakeLists 的 SUPPORT_COMPUTE_UNIT 追加 ascend5162,SUPPORT_TILING_DIR 追加 arch35 - cmake/func.cmake get_target_dir 追加 ascend5162 → arch35(UT 可收集 arch35 测试文件) - kernel 侧适配(instance_norm VL 派生搬出步长 32B 粒度、rms_norm VRegSize 动态化等) **2. ascend_quant 算子 _apt 后缀整改**(参照 chenqi317 检视意见): - ascend_quant_apt.cpp → ascend_quant.cpp(kernel 入口标准命名,参照 bnll/celu 等 523 个已完成整改的算子模式) - test_ascend_quant_apt.cpp → test_ascend_quant.cpp(UT 同步改名) - def.cpp opFile.value: "ascend_quant_apt" → "ascend_quant" - 修复 UT 版权头缺少 except(存量问题,OAT 通过) ## 测试 - pre-commit 全量 hook 通过(含 clang-format/codespell/OAT) ## 文档更新 无 See merge request: cann/ops-nn!13514 | 17 days ago | |
quantize_add_layer_norm优化 Co-authored-by: liushaxiangdong<jinpeng11@huawei.com> # message auto-generated for no-merge-commit merge: !14225 merge fix/quantize-add-layer-norm-contract into master quantize_add_layer_norm优化 Created-by: liushaxiangdong Commit-by: liushaxiangdong Merged-by: cann-robot Description: ## 描述 修复 QuantizeAddLayerNorm 在 Ascend950 RegBase 路径中的 Tiling/Kernel 契约和边界问题: - 按 arch22/arch35 拆分 Tiling,并使用 arch35 模板化 TilingKey; - 修复 Welford 非对齐切片的 UB 访问和极小 epsilon 数值路径; - 对齐 Host、Kernel 与 Golden 对 bias、量化参数 shape、dtype 和 optional output 的合同; - 补充 Host/Graph/Kernel UT、Golden、样例诊断和中英文资料。 价值:避免历史 Welford 尾块 UB 越界,补齐合法 elementwise bias、前导单维量化参数和 BF16+FP32 等场景的验证闭环,并确保 Host Tiling 与 Kernel 模板选择可追踪。 ## 关联的Issue - https://gitcode.com/wangyueting/changwei_liuyi/issues/142 ## 测试 - pre-commit 全部通过; - Ascend950 Host UT:26 PASS,2 个 arch22 用例按平台 SKIP; - Ascend950 Kernel UT:8/8 PASS; - Ascend950 Graph UT:2/2 PASS; - Ascend910B Host UT:3 PASS,25 个 arch35 用例按平台 SKIP; - 最新 Ascend950 RUN 包构建成功; - 定向 Kernel release 双标杆 3/3 PASS;定向 GEIR 双标杆 3/3 PASS; - Kernel L0 release binary 106/106 PASS。 ## 文档更新 已同步更新 README.md / README_en.md 中 bias、量化参数 shape 与 axis 内部兼容模式说明。 ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14225 | 6 days ago | |
docs 修订 QuantizedBatchNorm 的 scale 与 epsilon 取值说明 Co-authored-by: Chen_HaoWen<chenhaowen12@huawei.com> # message auto-generated for no-merge-commit merge: !14438 merge docs/issue-7417-20261114 into master docs 修订 QuantizedBatchNorm 的 scale 与 epsilon 取值说明 Created-by: Chen_HaoWen Commit-by: Chen_HaoWen Merged-by: cann-robot Description: ## 变更说明 本PR提交中文资料,英文版本由专人统一翻译维护。 aclnnQuantizedBatchNorm 的参数表此前只说明了缩放系数和 epsilon 的含义,调用方缺少数值条件与异常结果的说明。 - 在中文参数表中说明 inputScale 支持 0 和负值,outputScale 作为量化除数要求非 0,并支持负值。 - 说明每个通道需要满足 var + epsilon > 0,满足该条件时 epsilon 可以为 0 或负数。 - 在约束中补充异常数值组合的结果风险,说明接口返回成功时仍需关注数值结果。 ## 验证结果 - 本次静态核对基于 fa79f730dd063e53e29f61aef7692d830fc72e40。标量校验、参数传递、方差开方与缩放计算相关源码,与原分析基线 35e6673de57c 及后续复核基线 bdbb4fb88a5c 逐字节一致。 - 复核 2026-11-04 在 A2 Ascend 910B4、已安装 CANN 9.2.0 上取得的 INT32 [1,2,1,4] 历史探针。inputScale=0、bias=2、outputZeroPoint=7 时输出为 8 个 9。inputScale=-1 或 outputScale=-1 时输出为 0,-1,-2,-3,-4,-5,-6,-7。epsilon=0、var=1,以及 epsilon=-0.25、var=1.25 时输出均为 0,1,2,3,4,5,6,7。对应可计算场景共 7 组、56 点,与公式独立复算一致,两段接口与同步均返回 0。 - 同批历史探针中,outputScale=0、var=1 且 epsilon=-1、var=-1 且 epsilon=0 三组均出现两段接口返回 0、输出全 0 的现象,支持补充数值风险说明。上述设备数据对应历史安装库,本次完成资料静态验证与历史结果复核。 - git diff --check 通过,中文资料的 HTML 表结构、计算公式、示例代码、第一段错误码表和 CRLF 行尾检查均通过。 ## 流水线验证 - 本轮 /compile 对应源提交 31b41f8bbb05352b5c45315b184d354d94f10da1,已核对实际 checkout 提交及父提交关系。 - PreBuild、Compile、UT、UT_report、PreSmoke 和后处理六个阶段均已完成,73/73 个任务通过,包含 CodeCheck、文档静态检查、编译、UT 和预冒烟检查。[流水线结果](https://gitcode.com/CANN/ops-nn/actions/runs/2d772053d0984e4b91f771f292202048) ## 影响说明 调用方可依据公式条件设置缩放系数与 epsilon,并结合实际输出检查异常数值组合。 ## 类型标签 - [x] 文档更新 ## AI/Agent生成声明 - [x] AI辅助编写 Closes #7417 See merge request: cann/ops-nn!14438 | 5 days ago | |
feat: vector算子适配ascend960pr(DV122)平台(4/4,ST隔离批) Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !14292 merge feat/dv122-ascend960pr-adaptation-p3 into master feat: vector算子适配ascend960pr(DV122)平台(4/4,ST隔离批) Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR/DAV_9202/Ascend960PR_969A1)vector 算子批量适配**第 3 批(ST 隔离批,64 个算子)**。 (1/2)见 !14184(43 算子)、(2/2)见 !14185(76 算子)。三 PR 算子集与 ascendc_config.json 条目均无重叠,并集为原全量 183 算子适配。 ### 本批范围(64 个算子) **ST 执行失败算子 53 个**(详见 7_run_st_test.log 失败清单)+ **反向依赖闭包 11 个**(avg_pool_v2、embedding、glu、renorm、group_norm_grad、embedding_dense_grad、max_pool3d_with_argmax_v2、adaptive_max_pool3d、max_pool3d_grad_with_argmax、add_rms_norm_dynamic_quant_v2、ascend_quant_v2 —— 保证(1/2)(2/2)内无悬空依赖)。 含:activation(elu/gelu/leaky_relu/mish/relu/sigmoid/softplus/softmax 系)、pooling(adaptive_avg_pool/avg_pool/max_pool 系 16 个)、index(scatter/gather/embedding 系 15 个)、quant(ascend_quant/dynamic_quant/quantize 等)、loss(cross_entropy_loss/l1_loss_grad)、norm(batch_norm_grad_v3、add_rms_norm_dynamic_quant)、conv/foreach/hash/matmul 若干。 ### 定位与合入说明 - 本批算子 960pr ST(kernel/aclnn 用例)存在失败,已定位待修复,**独立成批以免阻塞(1/2)(2/2)合入** - 依赖(1/2)中的公共库(pool_3d_common/pool_grad_common/adaptive_pool3d_common 等)960pr 注册,**需在(1/2)(2/2)合入后再 merge 本 PR**,届时 rebase master 即可获取 - 拆分同时修复了此前遗漏的 ascendc_config.json 中 AvgPoolV2Grad/SegmentSum 重名条目位置的 960pr 变更(本批 52 个 json 条目,保持上游 715 行逐条目格式) ## ISSUE https://gitcode.com/cann/ops-nn/issues/8671 ## 测试 - op_host UT 全量:10160 PASSED(唯一失败 MaskedSoftmaxWithRelPosBias B_tiling_52 为已知环境问题,修复在 !14184,上游 master 同样失败,与本 PR 无关) - pre-commit 全部通过(242 文件) - 宿主侧编译与 ST 以 CI 为准(本批 ST 失败即待修项) ## 文档更新 不涉及 See merge request: cann/ops-nn!14292 | 8 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
修复 ops-nn torch 接口文档扫描问题(67处) Co-authored-by: liujing987913<liujing407@h-partners.com> # message auto-generated for no-merge-commit merge: !14426 merge docs/torch-api-list-1113 into master 修复 ops-nn torch 接口文档扫描问题(67处) Created-by: liujing987913 Commit-by: liujing987913 Merged-by: cann-robot Description: ## 描述 - 背景:AIDD/文档质量扫描发现 ops-nn 仓 torch 接口文档问题 67 处 - 修改分类:表头括号全角化、标点(括号全角/引导句补冒号/句末补句号/并列顿号/断句/引号)、术语单位(末轴→尾轴、32B→32字节、K→k、quant mode→quant_mode)、漏字补字、错别字、默认值补冒号 - 涉及文件:docs/zh/torch_api_list.md + 21 个 torchapi 算子文档(共 22 个文件) - 验证:git diff 确认为纯文本修改,无代码内容误改;已人工核对预览格式正常 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/8790 ## 测试 ## 文档更新 本次 PR 更新 ops-nn torch 接口文档 22 个文件,修正标点/术语/单位/错别字/表头格式问题 67 处,详见 diff。示例代码内的标点问题按规则未处理(已转人工确认)。 ## 类型标签 - 文档更新 See merge request: cann/ops-nn!14426 | 8 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
fix(rms_norm_grad_quant): validate regbase ACLNN dtypes Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !14322 merge fix/rms-norm-grad-quant-dtype-8105 into master fix(rms_norm_grad_quant): validate regbase ACLNN dtypes Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 修复 RmsNormGradQuant 在 regbase 产品上缺少 ACLNN dtype 前置校验的问题,使不支持的类型及类型组合在 GetWorkspaceSize 阶段返回 ACLNN_ERR_PARAM_INVALID (161002)。 ### 生产代码逐文件说明 norm/rms_norm_grad_quant/op_api/aclnn_rms_norm_grad_quant.cpp - 原问题:入口只检查必选指针,未检查 dtype。非法类型进入 L0 选型后以空结果返回,最终被包装成内部错误 561103;gamma 为空时还会在类型校验前成功返回。 - 主线复现:基于官方 master b4db407b054ae8efa9808bd34f2f2974b2360797 构建并安装基线包,在 Ascend 950PR 上通过 TTK 实测。取 dy=x=UINT8 [2,64],rstd=FP32 [2],gamma=FP16 [64],scalesX=FP32 [1],offsetX=nullptr,dx=INT8 [2,64],dgamma=FP16 [64],quantMode=static,实际返回 561103。日志定位为 L0 SelectBin/任务构建失败,不是本例的 Contiguous 阶段。 - 修改方式:在必选指针检查之后、空 gamma 早退之前,用仓库现有 IsRegbase() 隔离类型校验。检查 dy/x 同型、rstd/dgamma 为 FP32、gamma/scalesX 为 FP32 或 dy 同型、非空 offsetX 为 INT32、dx 为 INT8/HIFLOAT8。合法集合与现有 OpDef 的 18 种组合完全相等。首个非法参数使用正式 EZ0019 上报参数名及实际/期望类型,返回 161002。 - 修改结果:20 条实机非法类型/类型组合用例均返回 161002。21 条合法用例均通过,修改前后 116 份输入和 42 份输出 dump 逐字节一致。只增加 dtype 校验,不改变 shape/quantMode 规则、数学计算或 kernel;未带入此前未合入的空 Tensor shape 校验补丁。 ### 共用代码修改与非 regbase 产品兼容性(人工审核重点) - 共用文件仅上述 API 文件。新增的两个静态函数只能由 IsRegbase() 为真时调用;非 regbase 不读取新增校验所需的 tensor dtype,不增加拒绝条件。原有 executor 创建、必选指针检查、空 gamma 处理、Contiguous、L0 调度、ViewCopy 与返回路径保持原样。 - 新增 <initializer_list> 和既有 aclnn_util.h 头文件依赖;不修改公共 helper、宏、接口签名、注册、构建配置或非 regbase 专用源码。类型列表是函数调用期间的局部只读对象,未引入共享可变状态。 - 实际兼容性证据:保留原有 22 条 API UT;新增 ASCEND910B 平台桩的空 gamma/非法 dtype 用例,要求仍成功且 workspace=0。该兼容用例及全部 88 条 API UT 已通过;Ascend 950/910B 的定向 package、正常安装检查及各 88 条 API UT 全部通过。NPU 数值验证仅覆盖 Ascend 950PR,未声称 Ascend 350/960 或非 regbase 真机通过;这些 regbase 注册共用相同 OpDef 类型表。 ## 关联的Issue Fixes #8105 https://gitcode.com/cann/ops-nn/issues/8105 ## 测试 - 主线基线:定向 package 构建/标准安装/部署内容核对通过,原有 API UT 22/22;TTK 3 条 UINT8 负例复现 561103,合法用例 21/21。 - 修复实机:TTK ACLNN 正向 21/21,负向 20/20 返回预期 161002;负向 TTK 显示执行失败符合预期,单独按真实 API 返回值判定。 - API UT 88/88(原有 22 + 新增 66)通过,覆盖 36 条合法组合/offset、逐参数非法类型、类型关系、空 Tensor dtype、必选指针优先及非 regbase 兼容。单算子 op_api 行覆盖率 93.4%(85/91)、函数覆盖率 87.5%(7/8)。 - 正式错误上报:在真实 TTK 运行时 context 中逐例读取 ErrorManager,20/20 负例都恰有 1 条 EZ0019,参数名、实际类型和期望类型字段正确;UT 不依赖设备 context。 - 源码仓增加一个 ACLNN CSV,10 条小 shape 冒烟,均为已执行正向套件的精确子集;复现脚本、日志与完整负例保留在任务目录,不进入代码仓。 - TTK 固定任务目录版本 e36bc84b6c78211216b279234853c57a9c8afd30,golden 使用算子现有 tests/assets/golden.py,未修改。所有 TTK 显式 --pc=1,构建不超过 8 并行。 - 本地 CI:/workspace/CI-skills/ci_local_check.sh 全部通过(pre-commit、隔离 OAT、示例完整性、Ascend 950/910B 定向 package/正常安装/API UT 各 88 条)。受测提交 144f736760234b34796eb415f77593f71bc6d532;基于 fetch 后的主线 57e0ab151a754d09a824aa72df50ad23f8544f31,PR 相对主线仅一个提交。rebase 前后本算子内容完全一致。线上 CI 单独触发并跟踪,不把本地结果表述为线上通过。 ## 文档更新 无。现有接口文档已要求非法 dtype 返回 161002,本次使实现符合该约定。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!14322 | 4 days ago | |
feat: vector算子适配ascend960pr(DV122)平台(3/4) Co-authored-by: biabu111<hebaojing1@huawei.com> # message auto-generated for no-merge-commit merge: !14303 merge feat/dv122-ascend960pr-adaptation-p2b into master feat: vector算子适配ascend960pr(DV122)平台(3/4) Created-by: biabu111 Commit-by: biabu111 Merged-by: cann-robot Description: ## 描述 DV122(Ascend960PR/DAV_9202/Ascend960PR_969A1)vector 算子批量适配**第 3/4 批(38 个算子,ST 全通过)**。 配套:(1/4)!14184(43 算子)、(2/4)!14185(38 算子)、(4/4,ST 隔离批)!14292(64 算子:53 个 ST 失败算子 + 11 个反向依赖闭包)。四 PR 算子集与 ascendc_config.json 条目均无重叠,并集为原全量 183 算子适配;原(2/3)PR(76 算子)按检视要求均分为(2/4)(3/4)两批,两批内部无依赖交叉。 ## ISSUE https://gitcode.com/cann/ops-nn/issues/8671 ### 本批范围(38 个算子) 原(2/3)的 76 算子按算子数 38/38、文件数 142/140 均分(本批为文件数较多的一半) ### 适配内容(与 1/4 同一方法论) - 注册级:CMakeLists SUPPORT_COMPUTE_UNIT/SUPPORT_TILING_DIR、def.cpp AddConfig、op_host/config/ascend960pr 二进制配置(与 960dt 一致)、op_kernel COMPUTE_UNITS - ascendc_config.json 保持上游 715 行逐条目规范格式,仅含本批 28 个条目,段级保留原条目文本风格 - 代码级:DAV_9201、__NPU_ARCH__==9201、__DAV_920R1__、"Ascend960DT" 门禁补 DAV_9202/9202/__DAV_920R2__/"Ascend960PR" - socVersion 枚举值域:960(=1000) 位于 ASCEND910E(=4) 之后,范围判断显式追加 960 枚举 ## 测试 - op_host UT 全量:10132 PASSED(唯一失败 MaskedSoftmaxWithRelPosBias B_tiling_52 为已知环境问题,修复在 !14184,上游 master 同样失败) - pre-commit 全部通过(141 文件) ## 文档更新 不涉及 See merge request: cann/ops-nn!14303 | 9 days ago | |
fix issue,add md doc,add check shape Co-authored-by: liuyun_nj<liuyun90@h-partners.com> # message auto-generated for no-merge-commit merge: !14221 merge master into master fix issue,add md doc,add check shape Created-by: liuyun_nj Commit-by: liuyun_nj Merged-by: cann-robot Description: ## 描述 修复issue问题,补充shape校验和文档错误码说明 ## 关联的Issue [#7296](https://gitcode.com/cann/ops-nn/issues/7296) [#7297](https://gitcode.com/cann/ops-nn/issues/7297) [#7363](https://gitcode.com/cann/ops-nn/issues/7363) [#7397](https://gitcode.com/cann/ops-nn/issues/7397) [#7398](https://gitcode.com/cann/ops-nn/issues/7398)[#7399](https://gitcode.com/cann/ops-nn/issues/7399) [#7407](https://gitcode.com/cann/ops-nn/issues/7407) [#7432](https://gitcode.com/cann/ops-nn/issues/7432) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 aclnnDeepNorm.md aclnnGroupNorm.md aclnnInplaceAddRmsNorm.md aclnnRmsNorm.md ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!14221 | 8 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
docs: add English translations for operator READMEs and repo docs Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13351 merge docs/add-english-docs into master docs: add English translations for operator READMEs and repo docs Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## Description Add English translations for 652 markdown documents: - Repo-level guides: README_en.md, CONTRIBUTING_en.md, SECURITY_en.md, CHANGELOG_en.md, codearts_check_rule_config_en.md - Operator READMEs under activation/, conv/, control/, foreach/, hash/, index/, loss/, matmul/, norm/, optim/, pooling/, quant/, rnn/, vfusion/, etc. - API and design docs under docs/ (aclnn_*, ascendir_*, fusion pass docs) - examples/ and torch_extension/ guides Note: a few cross-reference links whose English targets are not published yet temporarily point to their Chinese counterparts to keep links valid; they will be switched back to the English docs in a follow-up PR after this one is merged. ## Related Issue N/A ## Test - Verified all 1,344 intra-repo markdown links in the added files resolve against master: 0 broken links, 0 missing targets. ## Documentation Update - This PR only adds English documentation files (*_en.md); no existing Chinese documents are modified. ## Type Labels - [ ] Bug fix - [ ] New feature - [ ] Performance optimization - [x] Documentation update - [ ] Other, please describe: ## AI/Agent-Generated Declaration - [x] AI-assisted authoring See merge request: cann/ops-nn!13351 | 18 days ago | |
docs: update English translations for markdown files Co-authored-by: jenny_xiang<jenny.xiang@huawei.com> # message auto-generated for no-merge-commit merge: !13600 merge docs/update-english-translations into master docs: update English translations for markdown files Created-by: jenny_xiang Commit-by: jenny_xiang Merged-by: cann-robot Description: ## 描述 英文译稿合入后的增量同步与链接更新,共39个文件(37改2删): 1. 增量翻译(8篇):hard_shrink、squared_relu、foreach_lerp_list、foreach_maximum_scalar_list、quant_matmul_reduce_sum、deep_norm、apply_centered_rms_prop、torch_extension,同步最新中文源文档的变更内容。 2. 删除2篇译稿:rotate_quant/tests/st/arch35、grouped(上游已删除对应中文源文件)。 3. 链接改写(31篇):指向本仓已有英文版文档的链接统一改写为 _en 版本(含CONTRIBUTING/SECURITY/README、24处贡献流程链接、fast_kernel_launch_example等),并将残留的中文链接文字(贡献流程/贡献指南/安全声明等)译为英文。 ## 关联的Issue 无 ## 测试 文档类变更,无需算子测试。已通过:全量1135篇译稿链接有效性校验(全部指向master已有文件);残留中文/全角标点扫描(仅存数学公式内源文件原文、无英文版目标文档的中文锚点等允许例外)。 ## 文档更新 更新37个英文译稿文件、删除2个(对应源文件已上游删除),不修改任何中文源文件。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!13600 | 18 days ago | |
refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Co-authored-by: hahaha22<wangrunze20@h-partners.com> # message auto-generated for no-merge-commit merge: !13419 merge socversion-to-npuarch into master refactor: 责任田40算子950/960相关SocVersion改NpuArch(注册/构建配置/标识符) Created-by: hahaha22 Commit-by: hahaha22 Merged-by: cann-robot Description: ## 变更说明 本 PR 为算子侧 SocVersion→NpuArch 整改(责任田 40 算子)。工程侧框架改动(原 !14324)已合入主线(d6baada09),本 PR 不再携带构建侧代码。 ### 一、算子侧(责任田 40 算子) 责任田 40 算子(activation/softmax_v2、log_softmax_v2、softmax_grad、log_softmax_grad、confusion_softmax_grad,index/broadcast_gradient_args,norm/ 34 个)**ascend950 与 ascend960 相关**的 SocVersion 表达改为 NpuArch(ascend950/ascend350→dav_3510、ascend960dt→dav_9201、ascend960pr→dav_9202,其他平台保持原形态): 1. _def.cpp 注册(38 个文件):ascend950 与 ascend350 两行合并为 opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg)(opbase 映射 DAV_3510→{ascend950, ascend350},注册集合与主线一致);ascend960dt/ascend960pr 分别换为同接口的 DAV_9201/DAV_9202(一一映射,注册集合不变);mc62/kirin 及 910/310 系保留字面量 2. 中央 scripts/kernel/binary_config/ascendc_config.json **不改动**(回到主线原样,芯片名单仍为 soc 字面量) 3. 代码层仅统一 arch 常量前缀(NpuArch::DAV_xxxx → Ops::Base::DAV_xxxx,含 UT);950-only 语义判断(rms_norm 空张量放行、arch35 新模板使能)保留原 GetSocVersion() == ASCEND950,不放宽到 ascend350 4. 23 个算子 CMakeLists 的 SUPPORT_COMPUTE_UNIT 转 arch+soc 混写(dav_3510/dav_9201/dav_9202,范围外 soc 保持字面量) **examples/ 目录的示例改动与 infershape 相关文件不在本 PR 范围(已回退)**;构建/CI 侧的 AddConfigByArch 识别(gen_ops_info/gen_ops_soc)与 gen 库 opbase 链接由主线 6e399a02 提供。AddOpTestCase 与用户文档不变。 > 依赖说明:本仓钉定的 opbase(b603996f)已包含 DAV_9201/DAV_9202 映射(src/op_common/op_host/util/op_arch_helper.cpp:37-38),960dt/pr 的 AddConfigByArch 可正常展开注册;950/350 由 DAV_3510 展开。 ### 二、本次修改算子清单(38 个) - **activation(5 个)**:SoftmaxV2、LogSoftmaxV2、SoftmaxGrad、LogSoftmaxGrad、ConfusionSoftmaxGrad - **index(1 个)**:BroadcastGradientArgs - **norm(32 个)**:AddLayerNorm、AddLayerNormQuant、AddRmsNorm、AddRmsNormCast、AddRmsNormDynamicMxQuant、AddRmsNormDynamicQuant、AddRmsNormDynamicQuantV2、AddRmsNormQuant、AddRmsNormQuantV2、BatchNorm、BatchNormGrad、BatchNormGradV3、BatchNormV3、GroupNormGrad、GroupNormV2、InplaceAddRmsNorm、InstanceNorm、LayerNorm、LayerNormGrad、LayerNormGradV3、LayerNormV3、LayerNormV4、LpNormV2、RmsNorm、RmsNormDynamicMxQuant、RmsNormGrad、RmsNormQuantV2、RmsNormQuantV3、SyncBatchNormBackwardElemt、SyncBatchNormBackwardReduce、SyncBatchNormGatherStats、SyncBNTrainingUpdate 责任田清单中的其余 2 个算子本次无代码改动:rms_norm_quant(主线未注册 ascend950/ascend350)、batch_norm_elemt(无 _def.cpp)。 ## 关联的Issue #8960 ## 验证 - 逐 soc 注册集合核对:38 个 _def.cpp 转换前后注册集合完全一致(950/350 由 DAV_3510 展开、960dt/pr 一一对应) - 算子侧改动与上板验证版本逐字节一致(上板验证在含当时工程侧改动的合并树 tree 7e71d27e4 上完成:--pkg 构建通过(38 算子 vendor 包);TTK kernel 243/284、aclnn 47/68;与基线 352 条逐用例对照,0 条代码回归);工程侧现由主线提供 - 专项:4 个 kernel 段(add_layer_norm 等)均命中并产出 .o,编译桶为 per-soc(ascend950);19 个 host 名单 arch 混写算子的 64 个 arch35 tiling 源全部编译 - 960 无板卡,未做上板验证 规模:72 文件 +231/−223 See merge request: cann/ops-nn!13419 | 3 days ago | |
Format update: Adjusted the license description format in all relevant files. Co-authored-by: jiangqi<jiangqi47@h-partners.com> # message auto-generated for no-merge-commit merge: !365 merge license5 into master Format update: Adjusted the license description format in all relevant files. Created-by: jiangqi2025 Commit-by: jiangqi Merged-by: turing_project1 Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!365 | 11 months ago |
| Files | Last commit | Last update |
|---|---|---|
| 18 days ago | ||
| 13 days ago | ||
| 18 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 11 days ago | ||
| 3 days ago | ||
| 10 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 4 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 2 days ago | ||
| 3 days ago | ||
| 5 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 12 days ago | ||
| 13 days ago | ||
| 16 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 12 days ago | ||
| 5 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 17 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 6 days ago | ||
| 11 days ago | ||
| 10 days ago | ||
| 12 days ago | ||
| 4 days ago | ||
| 3 days ago | ||
| 4 days ago | ||
| 3 days ago | ||
| 5 days ago | ||
| 15 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 3 days ago | ||
| 8 days ago | ||
| 3 days ago | ||
| 2 days ago | ||
| 16 days ago | ||
| 4 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 2 days ago | ||
| 5 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 5 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 2 days ago | ||
| 6 days ago | ||
| 9 days ago | ||
| 3 days ago | ||
| 5 days ago | ||
| 15 days ago | ||
| 3 days ago | ||
| 17 days ago | ||
| 6 days ago | ||
| 5 days ago | ||
| 8 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 8 days ago | ||
| 3 days ago | ||
| 4 days ago | ||
| 9 days ago | ||
| 8 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 3 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 3 days ago | ||
| 11 months ago |