| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8137 merge master into master ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ApplyAdagrad，InplaceSub算子下一代支持 hardsigmoid检视意见闭环（1.补充config,;2.修正文档描述） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ApplyAdagrad:UT/ST pass ; ops-test-kit 测试900+ 用例pass InplaceSub:UT/ST pass ; ops-test-kit 测试900+ 用例pass hardsigmoid:UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8137 | 1 个月前 | |
refactor: 迁移 TF 插件注册至新框架 API（part 3） Co-authored-by: Nice_try<zhangzhiwei108@huawei.com> # message auto-generated for no-merge-commit merge: !9758 merge tf-plugin-part3 into master refactor: 迁移 TF 插件注册至新框架 API（part 3） Created-by: Nice_try Commit-by: Nice_try Merged-by: cann-robot Description: ## 描述 将 TF 框架侧自定义算子注册（REGISTER_CUSTOM_OP）从旧工具链迁移至 ops-nn 新仓（TF 插件迁移 part 3），共新增/调整 22 个 *_tf_plugin.cpp 注册文件。 ### 改动原因 1. 旧注册 API（ParseParamsFn/AutoMappingFn）与标量 OriginOpType({...}) 写法在新工具链已不适用，统一迁移为 ParseParamsByOperatorFn(AutoMappingByOpFn) 与 OriginOpType(std::vector<ge::AscendString>{...}) 形式； 2. 依赖 TF protobuf NodeDef（node_def.pb.h）的旧解析逻辑在新工具链中已不存在，相关解析改为基于 ge::Operator 的子图分解（ParseOpToGraphFn/FusionParseParamsFn）实现； 3. 承接本仓已完成的 TF 插件迁移 part 1/2，补齐剩余算子的 TF 注册。 ### 改动方法 按模块汇总： - common：新增 AscendWeightQuant（TF 字符串 dst_type 到 ge DataType 的转换解析）、GatherPoint（分解为 GatherV2+Const 子图）、GatherPointGrad（分解为 ScatterUpdate 子图）注册； - index：gather_v2 新增 Gather/ResourceGather 到自定义 Gather 的注册；scatter_add/scatter_sub 新增 TensorScatterAdd/TensorScatterSub 注册；新增 BroadcastGradientArgs、SparseSegmentMean、SparseSegmentMeanGrad、SparseSlice、SparseToDense 注册； - norm：BNInfer/BNTrainingReduceGrad/BNTrainingUpdateGrad/LayerNorm/LayerNormGrad 由 ParseParamsFn 迁移到 ParseParamsByOperatorFn；LayerNorm/LayerNormGrad 增补 FusedLayerNorm/FusedLayerNormGrad 双 origin 映射；bn_training_update_v2 新增 BNTrainingUpdate 注册； - optim：ApplyAdagrad 迁移新 API（保留 ApplyAdagrad/ResourceApplyAdagrad 双 origin）； - matmul：新增 Einsum 注册； - rnn：新增 BlockLSTM（分解为 DynamicRNN 子图，含 seq_length 的 Cast 与输出重排）、DynamicRNN 融合解析（FusionParseParamsFn）与 DynamicRnn 注册、DynamicRNNV2/DynamicRnnV2 系列注册（含 is_misplaced 属性处理）。 ## 关联的Issue 关联 Issue #5505：https://gitcode.com/cann/ops-nn/issues/5505 ## 测试 本 PR 仅涉及注册/图解析代码迁移，无测试文件变更；依赖仓内 CI（编译、静态检查、UT/ST 工作流）验证。 ## 文档更新 无。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：TF 插件注册迁移（part 3） ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!9758 | 15 天前 | |
fix(op_graph): 30 个算子原型头补 OPS_PROTO_DEF 隔离宏 Co-authored-by: tangpingchuan<tangpingchuan@huawei.com> # message auto-generated for no-merge-commit merge: !9218 merge fix/proto-isolation-macro into master fix(op_graph): 30 个算子原型头补 OPS_PROTO_DEF 隔离宏 Created-by: zl_hw Commit-by: tangpingchuan Merged-by: cann-robot Description: ## 描述 **改动原因** op_graph/*_proto.h 中的 REG_OP 会被 scripts/util/merge_proto.py 合并进 ops_proto_nn.h/.cpp，再编成内置 op_proto 库（cmake/gen_ops_info.cmake 的 merge_graph_headers → cmake/symbol.cmake 的 gen_opgraph_symbol）。当同名算子在 canndev 侧的遗留原型头（nn_norm_ops.h、reduce_ops.h、ops_proto_legacy.h 等）也有 REG_OP 注册时，两份定义进入同一编译单元会重复定义。 仓库既有范式是在 REG_OP 外层加条件编译隔离宏，merge_proto.py 的匹配式会把该宏一并带入合并产物。本仓已有 activation/relu6_d、optim/sgd、norm/in_training_reduce_v2、vfusion/normalize_bbox 等先例，但本批 30 个算子的原型头遗漏了该保护。检视意见整改。 **改动方法** 对 30 个算子的 op_graph/*_proto.h，在 REG_OP 外层补 #ifndef/#define OPS_PROTO_DEF_<OPTYPE> … #endif： c #ifndef OPS_PROTO_DEF_DEEPNORM #define OPS_PROTO_DEF_DEEPNORM REG_OP(DeepNorm) ... .OP_END_FACTORY_REG(DeepNorm) #endif // OPS_PROTO_DEF_DEEPNORM 宏名取 OPS_PROTO_DEF_ + 算子名大写去下划线，与发布包 opp/built-in/op_graph/inc 中已有 967 个同类隔离宏的拼法一致。位置严格贴在 REG_OP 前、OP_END_FACTORY_REG 后一行——merge_proto.py 的正则要求 guard 与 REG_OP 相邻，位置写偏宏会被丢弃。 **涉及算子（30 个）** ApplyAdagrad、BatchNormExt2、BN3DTrainingUpdate、BNInfer、BNTrainingUpdateV2、BNTrainingUpdateV3、ChamferDistance、ClippedSwiglu、CosineEmbeddingLoss、DeepNorm、DeepNormGrad、DynamicQuantUpdateScatter、DynamicQuantUpdateScatterV2、GemmaRmsNorm、GroupNormSiluQuant、HardSigmoid、HardSwishGradV2、INInferV2、InplaceApplyRMSProp、InplaceSub、InstanceNormGrad、INTrainingUpdateGrad、L2NormalizeGrad、MultiAddRmsNormDynamicQuant、MultilabelMarginLoss、NonZeroWithValue、PoissonNllLoss、Relu6Grad、SoftmaxFocalLoss、SoftmaxFocalLossGrad **顺带修复**：deep_norm、deep_norm_grad、gemma_rms_norm、multi_add_rms_norm_dynamic_quant、dynamic_quant_update_scatter_v2 这 5 个原型头文件末尾缺换行，属存量问题；pre-commit 的 end-of-file-fixer 钩子只扫改动文件，一旦改动即会被拦，故一并补齐。 **变更范围**：30 个文件，+95 −5，改动全部为条件编译指令与文件末尾换行，不改动任何 IR 的输入/输出/属性/dtype 定义，无功能与支持面变化。未改动 common/inc/op_graph/op_nn_proto_extend.h——merge_proto.py 会按算子名把聚合头中的重复项去重，改它不会进入合并产物。 ## 关联的Issue 关联 Issue #5170 ## 测试 1. **合并产物验证**：对 30 个改动文件跑 python3 scripts/util/merge_proto.py，合并产物中 REG_OP 30 个、#ifndef OPS_PROTO_DEF_ 30 个，隔离宏 30/30 全部正确带出。 2. **宏名配对验证**：与发布包 cann-9.2.0/opp/built-in/op_graph/inc/*.h 中同名算子的既有隔离宏逐个比对，宏名不一致项 0 处。 3. **重名检查**：30 个新增宏在三仓范围内无跨文件重名，每个文件内 OPS_PROTO_DEF_ 宏数恰为 1（无嵌套/重复保护）。 4. **格式与合规门禁**：按 .pre-commit-config.yaml 逐钩子本地复现 —— clang-format 18.1.8 --style=file --dry-run -Werror 整文件检查 30/30 通过、OAT 许可头 30/30 合规、trailing-whitespace / end-of-file-fixer / check-merge-conflict / detect-private-key / check-added-large-files 全部通过。 ## 文档更新 无。本 PR 不涉及文档变更。 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 <!-- 关联 Issue: https://gitcode.com/cann/ops-nn/issues/5170 --> See merge request: cann/ops-nn!9218 | 23 天前 | |
ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8137 merge master into master ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ApplyAdagrad，InplaceSub算子下一代支持 hardsigmoid检视意见闭环（1.补充config,;2.修正文档描述） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ApplyAdagrad:UT/ST pass ; ops-test-kit 测试900+ 用例pass InplaceSub:UT/ST pass ; ops-test-kit 测试900+ 用例pass hardsigmoid:UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8137 | 1 个月前 | |
ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8137 merge master into master ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ApplyAdagrad，InplaceSub算子下一代支持 hardsigmoid检视意见闭环（1.补充config,;2.修正文档描述） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ApplyAdagrad:UT/ST pass ; ops-test-kit 测试900+ 用例pass InplaceSub:UT/ST pass ; ops-test-kit 测试900+ 用例pass hardsigmoid:UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8137 | 1 个月前 | |
fix(update Ascend950 golden specs):HardSwishGradV2，HardSigmoid，ApplyAdagrad，InplaceSub算子golden优化 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8577 merge master into master fix(update Ascend950 golden specs):HardSwishGradV2，HardSigmoid，ApplyAdagrad，InplaceSub算子golden优化 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> HardSwishGradV2，HardSigmoid，ApplyAdagrad，InplaceSub算子按照新的golden要求，优化golden代码 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> HardSwishGradV2，HardSigmoid，ApplyAdagrad，InplaceSub：golden验证OK，已完成相应算子的泛化用例验证。 ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8577 | 1 个月前 | |
ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8137 merge master into master ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ApplyAdagrad，InplaceSub算子下一代支持 hardsigmoid检视意见闭环（1.补充config,;2.修正文档描述） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ApplyAdagrad:UT/ST pass ; ops-test-kit 测试900+ 用例pass InplaceSub:UT/ST pass ; ops-test-kit 测试900+ 用例pass hardsigmoid:UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8137 | 1 个月前 | |
ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !8137 merge master into master ApplyAdagrad，InplaceSub算子下一代支持；hardsigmoid 算子检视意见闭环 Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ApplyAdagrad，InplaceSub算子下一代支持 hardsigmoid检视意见闭环（1.补充config,;2.修正文档描述） ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ApplyAdagrad:UT/ST pass ; ops-test-kit 测试900+ 用例pass InplaceSub:UT/ST pass ; ops-test-kit 测试900+ 用例pass hardsigmoid:UT/ST pass ; ops-test-kit 测试900+ 用例pass ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!8137 | 1 个月前 |
ApplyAdagrad
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | √ |
| Atlas 推理系列产品 | √ |
| Atlas 训练系列产品 | √ |
功能说明
-
算子功能：ApplyAdagrad是自适应梯度算法的核心更新操作，主要用于在优化器（如随机梯度下降）中更新模型参数。
-
计算公式：
\begin{align} accum = update\_slots ? accum + grad * grad : accum\\ var -= lr * grad * (1 / sqrt(accum)) \end{align}
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| var | 输入 | 可变张量。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| accum | 输入 | 可变张量。与"var"具有相同类型，update_slots为true时原地更新。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| lr | 输入 | 与"var"具有相同类型。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| grad | 输入 | 梯度张量。与"var"具有相同类型。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| var | 输出 | 更新后的可变张量。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| update_slots | 属性 | 是否更新"accum"，默认值为true。 | BOOL | - |
| use_locking | 属性 | 是否使用锁，当前无特殊并发控制实现，默认值为false。 | BOOL | - |
约束说明
- var、accum、grad的shape需相同，lr需为标量。
- var、accum、lr、grad的数据类型需相同。
- use_locking属性作为兼容属性接入，当前无特殊并发控制实现。
调用说明
| 调用方式 | 样例代码 | 说明 |
|---|---|---|
| 图模式 | test_geir_apply_adagrad.cpp | 通过算子IR构图方式调用ApplyAdagrad算子。 |