| Files | Last commit | Last update |
|---|---|---|
fix(golden): avoid overflow in unselected BNLL branches Co-authored-by: Ethan_Zou<tianjun.zou@foxmail.com> # message auto-generated for no-merge-commit merge: !11477 merge fix/bnll-golden-branch-overflow-20261007 into master fix(golden): avoid overflow in unselected BNLL branches Created-by: Ethan_Zou Commit-by: Ethan_Zou Merged-by: cann-robot Description: ## 当前版权规范修正 按仓库贡献规范及上游同类文件模板修正新增文件版权声明;当前唯一源提交 f73c7a132130e24548591ce7f57494fc8044ce13。相对上一提交,本次只改版权声明行,所有其他代码及许可证文字逐字一致。原提交的 CI 结果保留为历史记录;当前 SHA 的新流水线需重新核对,不能用旧结果代替。 ## 描述 Fixes #6373。BNLL NumPy Kernel golden用np.where实现分段,但两个分支 先求值,大输入会在未选exp分支溢出,-inf在未选分支中产生invalid。 默认错误策略下结果通常仍正确,但有无意义RuntimeWarning;严格 warnings/NumPy错误策略导致golden生成失败。本PR只修Host参考计算, 不报告NPU输出错误。 使用max(x,0)+log1p(exp(-abs(x))),所有exp输入非正,与仓内arch35 kernel的稳定形式一致;保留float64中间精度、输入dtype/shape及特殊值。 AST确认唯一生产语义修改是result表达式;其余为原生Ruff等价格式。 未改kernel/tiling、容差、门禁或检查规则。 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/6373 ## 测试 仓库根目录: sh python3 activation/bnll/tests/assets/test_bnll_golden_branch_overflow.py pre-commit run --files activation/bnll/tests/assets/golden.py \ activation/bnll/tests/assets/test_bnll_golden_branch_overflow.py \ activation/bnll/README.md Host Python3.12.14/NumPy2.3.5/CPU Torch2.14.1:同一最终测试32个场景, 基线20异常/12控制,修复32通过/0skip。Profile确认每轮32次实际注册 bnll_golden调用,未复制逻辑或mock计算。FP16/FP32,RuntimeWarning 作为错误及NumPy overflow/invalid='raise'两策略;大正负标量、有限 极值向量、矩阵、inf/-inf/NaN、普通值、空向量及(2,0)空矩阵。 CPU TorchDouble logaddexp独立参考;检查dtype/shape/精确数值/输入字节。 underflow仍ignore,与本项overflow/invalid无关,未宣称任意全raise策略。 三修改文件全部适用原生基础/Ruffcheck+format/codespell/OATwrapper 通过,OAT0非法类型/版权头;BSDsed兼容warning保留。clang按类型无 适用文件,无C++修改。没有TTK设备执行、CANN完整构建、算子UT或 NPU精度/性能结果。原生pre-push-build未安装,未通过任何旁路选项跳过。 基线95b0d8c04245d7136125b7b4e9b2c1dc83c5b0e0;源提交 f73c7a132130e24548591ce7f57494fc8044ce13,只有一个 Ethan_Zou提交。若CI需修复将amend保持一个。 查重6181唯一全状态Issue+最新首100、332开放PR4页。#5235的kernel 小指数精度补偿及#10934的24文件设备精度/tiling/UT修改均不同,后者 没有修改该注册golden。保留原Huawei版权,新测试真实Ethan2026CANN2。 ## 文档更新 BNLL README新增Host命令、稳定公式及验证范围说明。 ## 类型标签 - [x] Bug修复 - [x] 文档更新 - [ ] 新特性 - [ ] 性能优化 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写:Codex调查、修复和Host验证;/compile后回查CI。 ## 当前 CI 核验 源 SHA f73c7a132130e24548591ce7f57494fc8044ce13,远端源提交数 1。流水线 52aa87cc439b45f88f07447e6d52b655 已 COMPLETED,64/64 任务完成,0 条件跳过;本地新增 Host golden 回归范围见上方,未将该回归声称为远端 NPU 精度测试。 See merge request: cann/ops-nn!11477 | 30 days ago | |
修正 Celu README 的 FP16 exp 截断说明 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12416 merge fix/celu-exp-threshold-doc-20261021 into master 修正 Celu README 的 FP16 exp 截断说明 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # 修正 Celu README 的 FP16 exp 截断说明 ## 文档链接 activation/celu/README.md 的精度保护说明。 ## 问题 README 将 FP16 和 FP32 的 exp 上限分别写为 11.0 和 87.0。当前 Arch35 实现先将 FP16 输入提升为 FP32,指数计算统一使用 87.0 上界,因此 FP16 专属的 11.0 阈值与实现不符,可能让读者误解精度保护行为。 ## 修改 将说明改为 FP16 输入先提升到 FP32,并统一使用 87.0 的 exp 输入上界。只修改文档,不改变算子行为。 ## 验证 - README 仅修改一行;补丁可应用于当前 master,git diff --check 通过。 - pre-commit run --files activation/celu/README.md 通过,包括 codespell 和 OAT 检查。该改动只涉及文档,未运行构建或设备测试。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6979 See merge request: cann/ops-nn!12416 | 26 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
修改异常产品标签 Co-authored-by: fwx1169505<fengying27@h-partners.com> # message auto-generated for no-merge-commit merge: !12658 merge master into master 修改异常产品标签 Created-by: fengying555682 Commit-by: fwx1169505 Merged-by: cann-robot Description: ## 描述 activation/cla_gate_backward/docs/aclnnClaGateBackward.md ## 关联的Issue [#7263](https://gitcode.com/cann/ops-nn/issues/7263) ## 测试 已经进行文档语法检查 ## 文档更新 cla_gate_backward、cla_gate_quant、ge_glu_grad_v2目录下的md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12658 | 26 days ago | |
修改异常产品标签 Co-authored-by: fwx1169505<fengying27@h-partners.com> # message auto-generated for no-merge-commit merge: !12658 merge master into master 修改异常产品标签 Created-by: fengying555682 Commit-by: fwx1169505 Merged-by: cann-robot Description: ## 描述 activation/cla_gate_backward/docs/aclnnClaGateBackward.md ## 关联的Issue [#7263](https://gitcode.com/cann/ops-nn/issues/7263) ## 测试 已经进行文档语法检查 ## 文档更新 cla_gate_backward、cla_gate_quant、ge_glu_grad_v2目录下的md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12658 | 26 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784 | 4 months ago | |
docs: ASoftmaxFusionPass 与 ZConfusionSoftmaxGradFusionPass 融合规则文档 Co-authored-by: HelloWord-LuXin<luxin67@h-partners.com> # message auto-generated for no-merge-commit merge: !12614 merge docs/softmax-fusion-passes into master docs: ASoftmaxFusionPass 与 ZConfusionSoftmaxGradFusionPass 融合规则文档 Created-by: HelloWord-LuXin Commit-by: HelloWord-LuXin Merged-by: cann-robot Description: ## 概述 新增两个融合规则的设计文档与配图,与代码 PR 配套: - **ASoftmaxFusionPass**:将 ONNX ASoftmax 子图转换为 SoftmaxV2(代码已由 #11818 合入) - **ZConfusionSoftmaxGradFusionPass**:将 Mul(D-float, Sub(1, Softmax)) 级联子图转换为 ConfusionSoftmaxGrad(代码已由 #11818 合入) ## 变更内容 | 文件 | 说明 | |---|---| | activation/softmax_v2/docs/ASoftmaxFusionPass.md | ASoftmax 融合规则设计文档 | | activation/confusion_softmax_grad/docs/ZConfusionSoftmaxGradFusionPass.md | Confusion 融合规则设计文档 | | docs/zh/figures/asoftmax_fusion_pass_{1,2}.png | ASoftmax 融合前后子图示意 | | docs/zh/figures/confusion_softmax_grad_fusion_pass_{1,2}.png | Confusion 融合前后子图示意 | 文档结构:融合模式 / 使用约束 / 支持的型号。 ## 平台范围 文档平台描述与 #12796(公共 CheckNpuArch + 9201/9202 扩展)保持一致: - ASoftmaxFusionPass:3510 / 5102 / 9201 / 9202(Ascend 950 系列、Atlas A3(Ascend350)、MC62) - ZConfusionSoftmaxGradFusionPass:3510 / 9201 / 9202(Ascend 950 系列、Atlas A3(Ascend350)) - A2(Ascend910B)不在启用范围 支持的型号段含 <!-- npu="950" --> 与 <!-- npu="A3" --> 标注。 纯文档变更,不影响构建与功能。 See merge request: cann/ops-nn!12614 | 24 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
dvlite soc adaptive Co-authored-by: oah28<wujiahao37@huawei.com> # message auto-generated for no-merge-commit merge: !12923 merge dvlite into master dvlite soc adaptive Created-by: oah28 Commit-by: oah28 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dvlite(Ascend350)SOC 适配:为 33 个算子启用 ascend350 计算单元支持。 Ascend350 与 Ascend950 同为 DAV_3510 架构(regbase),共用 arch35 tiling 与 kernel 源码, 本次按仓内既有 ascend350 适配模式批量扩展: 1. **算子注册**(32 个 *_def.cpp):新增 AICore().AddConfig("ascend350", config), 复用 ascend950 同配置对象(含 apply_adam_w_quant 回归框架默认 opFile 名,与 kernel 入口 apply_adam_w_quant 一致)。 2. **构建配置**:各算子 op_host/op_kernel CMakeLists 的 SUPPORT_COMPUTE_UNIT / COMPUTE_UNIT(S) 增加 "ascend350",TILING_DIR 复用 arch35。 3. **静态二进制**:新增 19 个 op_host/config/ascend350/*_binary.json(与 ascend950 版 逐字段一致)及 2 个 ascend350/*_simplified_key.ini(adam_apply_one_assign、 fake_quant_with_min_max_args_gradient)。 4. **op_api 平台判断适配**(8 个文件):将 GetSocVersion() 硬编码 switch/if 统一改为 GetCurNpuArch() 判断,消除新增 SOC 的遗漏点: - foreach_abs/asin/neg/sign/tanh:DAV_2201 || IsRegbase(curArch) - softshrink_backward:DAV_1001 || DAV_2002 || DAV_3002 → 910 dtype 列表 - ada_layer_norm_backward:DAV_2201 || IsRegbase(curArch) 选择 grad 计算路径 - index_check:!= DAV_2201 && !IsRegbase(curArch) 决定是否跳过检查 5. **全局 kernel 编译配置**:ascendc_config.json 为 ForeachAsin/AddcdivList/SubScalarInplace/ Tanh/Exp/Abs/Sign/Neg/MaximumScalar/LambUpdateWithLrV2/ScatterMin 11 个条目补充 ascend350 compute_units 及对应 compile_options。 涉及算子(33): FastGeluV2、HardSigmoid、SoftShrinkGrad、NPUClearFloatStatus、IndexCheck、ScatterMin、 ForeachAbs/AddcdivList/Asin/Exp/MaximumScalar/Neg/Sign/SubScalarInplace/Tanh(9)、 SigmoidCrossEntropyWithLogitsGrad、SigmoidFocalLoss、AdaLayerNormGrad、 BN3DTrainingReduceGrad、BNTrainingUpdateGrad、INTrainingUpdateV2、L2NormalizeGrad、 AdamApplyOneAssign、ApplyAdamV2、ApplyAdamWQuant、ApplyProximalGradientDescent、 FusedMulApplyKerasMomentum、InplaceApplyFtrl、LambUpdateWithLrV2、SGD、 SparseApplyAdagradV2、Dequantize、FakeQuantWithMinMaxArgsGradient ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> Issue [#7724](https://gitcode.com/cann/ops-nn/issues/7724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟通过,测试结果与950一致 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12923 | 22 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
适配350 Co-authored-by: Hana77<wangtianqi27@huawei.com> # message auto-generated for no-merge-commit merge: !11579 merge master into master 适配350 Created-by: Hana77 Commit-by: Hana77 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 算子适配ascend350 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> [#6432](https://gitcode.com/cann/ops-nn/issues/6432) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 二级冒烟 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11579 | 1 month ago | |
feat(dvlite): 29 个算子适配 ascend350 Co-authored-by: liuhongzheng<liuhongzheng2@huawei.com> # message auto-generated for no-merge-commit merge: !11927 merge master into master feat(dvlite): 29 个算子适配 ascend350 Created-by: zoujiamin123 Commit-by: liuhongzheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。-->29 个算子适配 ascend350 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000-->https://gitcode.com/cann/ops-nn/issues/7694 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11927 | 23 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
fix: close validation issues for four operators Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !13486 merge master into master fix: close validation issues for four operators Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> HardSigmoid:恢复仅校验输入输出格式一致的历史逻辑,放通 NCL 等格式,补充标量、rank 和格式测试。 HardSwishGradV2:删除 A5 对标量的额外拒绝,修复标量 tiling,并补充 NaN/Inf 行为说明及测试。 ApplyAdagrad:修复标量判空、Golden 注册和低精度溢出,支持 lr 的 []/[1]/[-1]/[-2],并修复 GE Example 资源释放。 InplaceSub:优化readme文档描述。A5 跳过会改变负数/越界索引语义的旧 ScatterSub 融合,保留原生算子;A2/A3 继续沿用历史融合逻辑 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> UT/ST PASS ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13486 | 18 days ago | |
fix: hard_sigmoid_grad P1缺陷修复与ascend350适配;fakequant perchannelgradient golden修复 Co-authored-by: xuxiao59<xuxiao59@huawei.com> # message auto-generated for no-merge-commit merge: !13155 merge fix/changwei into master fix: hard_sigmoid_grad P1缺陷修复与ascend350适配;fakequant perchannelgradient golden修复 Created-by: gcw_xYUkRrAH Commit-by: xuxiao59 Merged-by: cann-robot Description: ## 描述 本 PR 包含两个算子的修复: ### hard_sigmoid_grad(P1 缺陷修复 + ascend350 适配 + 资产落仓) 1. **alpha 默认值统一为 1/6**:proto ATTR 默认值 0.16666666→0.16666667(与 OpDef/aclnn 的 1/6 对齐,消除省略属性时图通路 ±3.0 边界 1 ULP 偏差),同步注释与 kernel 成员默认值 2. **边界判定改为直接比较**:Host 在 double 中推导开区间端点 (maskLo, maskHi)(默认精确 ±3.0)随 TilingData 下发,Kernel 改为 self>maskLo && self<maskHi,消除 fp32 乘加舍入在 x 略小于 3.0 处的翻转误判 3. **放开 alpha=0 合法域**:区间退化为全范围,输出恒为 grad*0=0(保留 NaN/Inf 拒绝) 4. **Tiling 入口加固**:两输入逐维 shape 比较(替换仅元素总数比较)、两输入 dtype 一致性校验、rank≤8 显式检查、GetShapeSize 溢出哨兵拒绝 5. **InferShape 加固**:输出 shape/dtype 按 proto 声明取 input_x;前移 rank≤8 与 shape 一致性校验(未知秩 -2 暂缓运行时);InferDataType 同步取 input_x 6. **GM 搬运改用 DataCopyExtParams**:三处 DataCopyPad 的 blockLen 落入 uint32(消除 uint16 截断隐患) 7. **ascend350 平台适配**:CMakeLists 与 OpDef 复用 ascend950 的 arch35 配置注册 ascend350 8. **测试资产落仓**:新增 tests/assets/golden.py(Kernel/ACLNN/Torch e2e 四路由注册 + 逐 dtype tolerance 声明 + third_party torch 参考);新增 InferShape UT 8 条(正常/rank 溢出/shape 不一致/未知秩/动态维) 9. **文档与格式**:aclnn 文档补计算公式、out 空 Tensor 支持度与 dtype 口径、161002 表 rank 越界行、约束说明(2^31-1 规模/-1/-2 动态语义/FRACTAL_NZ 登记);pre-commit 格式修复(行尾空格/EOF);proto 头补 namespace 闭合 ### fake_quant_with_min_max_vars_per_channel_gradient 修复两个独立缺陷层(Fixes #7905、Fixes #7906): **① 精度问题:golden 退化通道/round 语义与 kernel 对齐 TF** - golden.py:移除退化通道(max≤min)的 ±inf 透传短路,改按 TF raw Nudge 公式原样求值,仅保留双零通道(min==0 且 max==0)直通特判;nudge 舍入改 half-away-from-zero(sign*floor(|zp|+0.5),替换 torch.round 的 RNE);tolerance 对齐 spec(rtol/atol 1e-5) - op_kernel/arch35 regbase.h:castTraitFp32ToInt32 舍入 CAST_RINT → CAST_ROUND(tie-away-from-zero,对齐 TF std::round) - README.md:退化通道语义表述同步(仅双零透传) **② tf/e2e 通路 golden 调用兼容** - golden() 签名去 *,位置/关键字双兼容(ttk e2e 按 TF python 签名序传 6 位置实参可直收) - num_bits/narrow_range None 归一化回落默认 8/False(用例缺属性时防 int(None)) - __spec__ 补 snake_case 与 tf.quantization.* 注册键(只增不删,e2e 按 api_name 可解析) - 数值语义零触碰(修复前后 16 组输入输出 bit-exact) **验证(Ascend950PR 实测)** - L0_037(geir/kernel 通路):FAIL 47.77%/47.77%/53.23% → PASS 100%×3 - L0_002(e2e):GOLDEN_FAILURE → PASS 100%×3(三模式,DETERMINISTIC PASS) - L0_001(e2e,含退化通道 max=(0,0)/min=(-1,1)):TypeError 消除且 precision PASS 100%×3(①+② 聚合后全绿) - 回归:ST 9/9、op_host UT 25/25、全量对账 PASS→FAIL=0;golden 兼容性自检 19/19 - CI:pre-commit(ruff/OAT)全绿,ci-pipeline-passed golden 参考实现后续统一由算子仓 tests/assets/ 维护。 ## 关联的Issue - Fixes #7905 - Fixes #7906 ## 测试 - InferShape UT:8/8 通过(build.sh -u --ophost) - TTK 定向冒烟(Ascend950PR 真机):Kernel 三模式功能 6/6(含 ±3.0 边界/紧邻值、alpha=0、省略属性、fp16/bf16、空张量);异常输入受控拒绝 2/2(异形 shape、混合 dtype);Torch e2e 8/8 - 双平台构建验证:build.sh --pkg --soc=ascend950 / ascend350 均通过,ascend350 注册表与二进制产物确认 - 全量验证工作流(静态检查 + ST 用例生成 + 上板上机):SMOKE 集两轮回归,ACLNN/Kernel/Torch eager/图模式/确定性/sanitizer(memcheck/initcheck/racecheck/synccheck)全部通过 ## 文档更新 - docs/aclnnHardsigmoidBackward.md:补计算公式、out 空张量与 dtype 口径、161002 rank 越界、约束说明 - fake_quant_with_min_max_vars_per_channel_gradient/README.md:round 语义口径同步 ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13155 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
fix: close validation issues for four operators Co-authored-by: tianyu52<tianyu52@huawei.com> # message auto-generated for no-merge-commit merge: !13486 merge master into master fix: close validation issues for four operators Created-by: tianyu52 Commit-by: tianyu52 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> HardSigmoid:恢复仅校验输入输出格式一致的历史逻辑,放通 NCL 等格式,补充标量、rank 和格式测试。 HardSwishGradV2:删除 A5 对标量的额外拒绝,修复标量 tiling,并补充 NaN/Inf 行为说明及测试。 ApplyAdagrad:修复标量判空、Golden 注册和低精度溢出,支持 lr 的 []/[1]/[-1]/[-2],并修复 GE Example 资源释放。 InplaceSub:优化readme文档描述。A5 跳过会改变负数/越界索引语义的旧 ScatterSub 融合,保留原生算子;A2/A3 继续沿用历史融合逻辑 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> ## 测试 <!--描述进行了哪些测试来验证你的改动。--> UT/ST PASS ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13486 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
style: 统一算子源码版权声明头并规范代码格式 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !12402 merge ccc_1020 into master style: 统一算子源码版权声明头并规范代码格式 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 统一 cann/ops-nn 仓库中 activation、norm 目录下算子的源码版权声明头格式,并对源码进行代码格式规范化处理,具体包括: 1. 统一版权声明头:将各算子源文件的版权声明统一为 CANN Open Software License Agreement Version 2.0 规范格式,文件头注释统一为 Doxygen 格式。 2. 代码格式规范化: - 为缺失结尾换行的文件补上末尾换行符; - 去除代码行尾的多余空白字符; - 规范 Python 脚本 shebang 为 #!/usr/bin/env python3,并按 pep8/black 规范调整空格、缩进与长行换行,清理未使用的 import; - 按编码规范调整 C++ 文件的长行拆分。 本次改动不涉及算子功能、接口与实现逻辑的变化。 ## 关联的Issue 关联 Issue #7248 ## 测试 本次仅涉及代码格式与版权声明调整,不改变算子功能与实现逻辑,无需新增功能测试。 ## 文档更新 无文档更新。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:代码格式与版权声明规范 ## AI/Agent生成声明 - [ ] AI辅助编写 See merge request: cann/ops-nn!12402 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
PReluGradReduce README 功能说明修正 Co-authored-by: KaranocaVe<karanocave@qq.com> # message auto-generated for no-merge-commit merge: !12423 merge fix/2026-10-16-ops-nn-round164-reduction-output-contract-scan-01 into master PReluGradReduce README 功能说明修正 Created-by: KaranocaVe Commit-by: KaranocaVe Merged-by: cann-robot Description: # PReluGradReduce README 功能说明修正 PReluGradReduce 的 README 误将 PReluGradUpdate 的逐元素激活梯度公式作为本算子的功能说明。实际实现以 updates 为输入执行 ReduceSum 并输出权重梯度 da。本次修正 README 的功能和公式说明,未改变算子行为。 关联 Issue: https://gitcode.com/cann/ops-nn/issues/6986 See merge request: cann/ops-nn!12423 | 26 days ago | |
refactor: 4个融合pass平台判断统一迁移至公共CheckNpuArch(NpuArch "3510"覆盖Ascend950/Ascend350) Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !13037 merge fusion-arch-check into master refactor: 4个融合pass平台判断统一迁移至公共CheckNpuArch(NpuArch "3510"覆盖Ascend950/Ascend350) Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 4 个融合 pass(5 个 pass 类)的平台判断统一迁移至公共 CheckNpuArch 接口(common/inc/op_graph/arch_utils.h),共 8 个文件(+94 -156): **改动方法:** - GeluV2ONNXFusionPass(activation/gelu_v2):MeetRequirements 中 IsDav3510Arch() 改为 CheckNpuArch(kPassName, kSupportedNpuArchs); - PReluGradFusionPass(activation/p_relu_grad_update):删除私有 IsTargetPlatform()(基于 PlatformInfoManager 读取 short_soc_version 判断 Ascend950/Ascend350),改为 CheckNpuArch(PASS_NAME, kSupportedNpuArchs); - SoftmaxGradExtFusionPass / SoftmaxGradExtV2FusionPass(activation/softmax_grad_ext):删除私有 IsTargetPlatform()(kTargetSocVersion="Ascend950"),统一改为 CheckNpuArch; - AscendQuantV2ScatterFusionPass(quant/ascend_quant_v2):删除私有 IsTargetPlatform(),改为 CheckNpuArch; - 各 pass 新增平台集合 const std::set<std::string> kSupportedNpuArchs = {"3510"}(NpuArch "3510" 覆盖 Ascend950/Ascend350); - include 统一由 npu_arch_util.h / platform/platform_info.h 改为 arch_utils.h。 **公共接口行为(CheckNpuArch):** 通过 fe::PlatformInfoManager::GetPlatformInfoWithOutSocVersion 获取 PlatFormInfos,GetPlatformRes("version", "NpuArch", arch) 读取 NpuArch 字符串并与集合比对;平台信息获取失败、NpuArch 不可用或不在集合中均返回 false(跳过融合)。 **UT 适配(4 个文件):** - 平台 mock 从 fe::PlatformInfo + platform_info_map_[soc] 改为 fe::PlatFormInfos + SetPlatformRes("version", {"NpuArch", "Short_SoC_version"}) + platform_infos_map_[soc],适配 CheckNpuArch 的读取路径; - 非支持平台用例保留(如 GeluV2 的 unsupportedPlatformNotChanged 以 NpuArch 2201 即 Ascend910_93 家族断言拒绝融合),融合行为不变。 **改动原因:** 各 pass 私有平台判断实现重复且口径不一(有的按 short_soc_version 白名单、有的按 IsDav3510Arch),统一迁移至公共 CheckNpuArch 收敛平台门禁口径,后续新增平台只需维护统一的 NpuArch 集合。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7687 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 4 个融合 pass 的既有 UT 全部适配并通过:支持平台(NpuArch "3510" / Ascend950、Ascend350)正常融合,非支持平台(NpuArch 2201 即 Ascend910_93 家族等)拒绝融合,平台信息获取失败拒绝融合,行为与迁移前一致。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:重构(平台判断统一迁移至公共接口) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13037 | 22 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12025 merge fix/act_ulq_clamp_max_grad-ut-example-rank into master fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 Created-by: zhou-liang1027 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 fix(act_ulq_clamp_max_grad): 注册 Host UT 构建链、修正样例与 README 约束 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7318 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12025 | 26 days ago | |
fix(relu6_d): 加固 Tiling 非法输入校验并补充 Kernel/GEIR golden 参考 Co-authored-by: zhou-liang1027<zhouliang88@huawei.com> # message auto-generated for no-merge-commit merge: !12740 merge fix/relu6_d-quality-hardening into master fix(relu6_d): 加固 Tiling 非法输入校验并补充 Kernel/GEIR golden 参考 Created-by: zhou-liang1027 Commit-by: zhou-liang1027 Merged-by: cann-robot Description: ## 描述 fix(relu6_d): 加固 Tiling 非法输入校验并补充 Kernel/GEIR golden 参考 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7355 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12740 | 22 days ago | |
fix: 加固INTrainingReduceV2、Relu6Grad和NormalizeBBox Co-authored-by: raoliang_sac<raoliang4@huawei.com> # message auto-generated for no-merge-commit merge: !13239 merge fix/in-training-reduce-v2-harness-20261031 into master fix: 加固INTrainingReduceV2、Relu6Grad和NormalizeBBox Created-by: raoliang_sac Commit-by: raoliang_sac Merged-by: cann-robot Description: ## 描述 合并交付INTrainingReduceV2、Relu6Grad、NormalizeBBox三个算子的质量修复。基于官方master 22de9811f0c5d04e9f879fc4b2fae3dfcc135e12,仅修改这三个算子,共32个文件。 - INTrainingReduceV2:保留本PR原有全部修复。为TilingKey 400000注册ARA TilingData,修复动态oom边界元数据偏移;AR/ARA、full/sub-R使用统一二进制缩放并保留AR折叠高低分量,修复FLOAT抵消前的中间溢出;补齐输入格式、零R和两个输出ND格式校验。CPU参考保持FP64,精度标准不变。命名TilingKey引用的改前改后23份Release产物逐字节一致。 - Relu6Grad:从[PR #13276](https://gitcode.com/cann/ops-nn/pull/13276)的734fc4a0f55ee67d657efc8ad79805e91783e37d仅提取activation/relu6_grad下7个文件。InferShape补充rank上限及已知维广播校验;InferDataType检查支持集合和类型一致性;补齐UT及6条精简ST。数值Kernel计算逻辑不变。该PR中的SGD修改不在本次范围内。 - NormalizeBBox:完整cherry-pick[PR #13275](https://gitcode.com/cann/ops-nn/pull/13275)的825bef907433a4a2d75cfce7709dfe1ab950dada,共13个文件。高宽保持FP32,FP16坐标提升后相除并在输出时舍入,修复合法INT32大除数先转FP16溢出的问题;同步UB规划,TilingData布局不变;修正数学/GPU参考,补齐shape、batch和dtype校验、UT及8条精简ST。 两个移植算子的完整目录Git tree与来源PR一致,原INTrainingReduceV2目录与3dbff215a145c0561ff9be221a544bd1898d19c5一致。已保留备份,先squash为单提交并验证同一原始基点下完整binary/mode diff和Git tree不变,再rebase最新官方master;无冲突,最终相对该master只有一个提交。 ## 关联的Issue - 主关联:[ops-nn #7835](https://gitcode.com/cann/ops-nn/issues/7835),INTrainingReduceV2扫描问题。 - 同时交付:[ops-nn #7869](https://gitcode.com/cann/ops-nn/issues/7869),NormalizeBBox大除数精度及推导校验。 - 部分交付:[ops-nn #7871](https://gitcode.com/cann/ops-nn/issues/7871)中的Relu6Grad部分;SGD仍由原PR #13276跟踪,不将该混合Issue标记为全部解决。 ## 测试 本轮合并验证:2026-11-03,受测HEAD 9bd2a73e5a8f527d676ad8eaf3c41b002967e430,官方master基线22de9811f0c5d04e9f879fc4b2fae3dfcc135e12。使用任务内独立CANN 9.3.0和指定统一入口/workspace/CI-skills/ci_local_check.sh,仅选择三个算子;双SoC串行执行,构建有效并行度不超过8。 - 本地CI通过:全PR pre-commit、隔离OAT、Markdown链接、示例SKIP退出约定、Check_Example及两份golden的Python语法检查通过。 - Ascend 950:定向package通过,Host UT 187条、Graph ASan 14条实际执行通过,0跳过。 - Ascend 910B(A2):定向package通过,Host UT 81条、Graph ASan 14条实际执行通过,0跳过。 - Graph ASan核验了本次配置、实际对象编译选项及可执行文件的插桩符号,并生成新XML;未启用泄漏检测。 - 两平台API UT为0条,Kernel UT只有目标构建;不将它们计为实际数值用例。完整本地CI通过不等同于平台CodeCheck或线上CI通过。 本轮没有重新执行TTK/NPU/GPU精度、内存检查或示例。下列为来源PR的历史验收,保留原受测版本和环境;目录内容一致的检查不表述为重新上板: | 算子 | 已有验收及范围 | | --- | --- | | INTrainingReduceV2 | Ascend950PR_9579、真实A100、官方TTK a996a41594dc9e81430d7f169b0ad42f917d16e9。19条原失败冻结输入三方通过;网站L1 486条完成验证,其中1条CPU参考资源退出后按原尺寸独立复测通过;137条原动态oom失败、24条Kernel L0、24条GEIR L0、88条专项及28条最小/稳定性探针通过。最后Host版本26条正常Kernel、12条GE回归通过;59条元数据边界和14条负测符合预期,单独判定,不计作精度PASS。网页24项及原始53条逐项核对归档。 | | Relu6Grad | 来源PR使用原版CANN 9.3.0、Ascend950PR_9579及真实A100参考端,6条仓内ST在静态源码、动态源码和Release binary共18种配置通过,binary匹配、精度和内存检查通过;独立核对213个输出元素。历史30条0D/90种配置使用过DFX候选处理,不纳入原版工具链验收。公共标量DFX问题另由[asc-devkit #1977](https://gitcode.com/cann/asc-devkit/issues/1977)跟踪,本PR不修改编译工具。 | | NormalizeBBox | 来源PR用未修改主线包复现boxes=1000、高宽65536时FP16错误输出0,正确值为0.0152587890625;修正参考后旧Kernel仍失败。修复后26条Kernel用例的dyn/cst/bin、26条GE、4条动态shape/rank及同图多rank复用通过;21条注册回调与13条负向诊断符合预期。最终原文C++示例FP16/FP32编译运行并核对输出,A3存量包4条GE兼容用例通过。 | 来源TTK执行均显式--pc=1,不放宽精度阈值。本次保留每个算子单份精简ST CSV,分别20、6、8条;复核字段、启用状态、shape规模及无外部输入文件依赖,没有新增重复用例或大shape。 本轮本地CI通过的同一SHA已同步至PR源分支,PR回查为单提交。[线上CI触发请求](https://gitcode.com/cann/ops-nn/pull/13239#note_197812515)已提交并回查成功;等待平台回报,不沿用旧SHA的线上通过状态。 ## 文档更新 保留三个算子的README增量整改,遵守现行《文档修改与示例验证指引》及官方README模板:不删减已核实有效的产品、dtype、format和调用入口,产品差异放在既有约束说明的无序列表中,不新增重复编译运行章节。 - INTrainingReduceV2:保留产品/格式能力并集,补充动态标记、连续存储和错误码阶段说明;约束按完整产品名称组织。 - Relu6Grad:参数表逐单元格等价迁移为Markdown,清理不可用DSL引用,保留原有能力。 - NormalizeBBox:保留来源PR对5类存量产品支持标记的纠正及逐产品约束,删除的差异表内容已在约束列表中保留;A3为实测,其余存量产品为源码配置核查,不扩写为全部产品实测。 本次整合没有额外改写README、示例或示例构建配置。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [x] 其他,请描述:补充推导边界UT与精简ST资产 ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13239 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Co-authored-by: luoyufan7<luoyufan7@h-partners.com> # message auto-generated for no-merge-commit merge: !12778 merge fix/e9-errcode-common-norm-quant into master fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Created-by: luoyufan7 Commit-by: luoyufan7 Merged-by: cann-robot Description: ## 描述 公共 Foreach Host、归一化、独立量化与复杂推导算子中已登记的校验将用户参数与框架元数据混用内部码,存在重复上报;量化算子的模式/可选输入/shape/dtype/属性约束缺少具体正式诊断。 整改方法(对应 #7371 设计方案): - 保留原有判定条件、返回状态与资源清理逻辑,仅替换错误上报方式; - 公共 Host/调度校验细化根因,区分用户参数与框架元数据,保持首报与返回路径; - 量化算子约束按语义映射正式错误码并携带实际值;复杂推导保持首报; - bidirection_lstm 判空由上游 codecheck 整改引入的 printf 辅助恢复为带注册错误码的结构化上报,同时保持宏参数内 return 的规范形式。 本 PR 覆盖 40 个生产文件(foreach_utils 公共 tiling、group_norm_silu/swish、advance_step、dequant_bias/situ/swiglu、situ_mx_quant、bidirection_lstm、softmax/log_softmax 系列等),对应最终表登记点 571 个。 开发基于冻结基线 ec2a78c2,已 rebase 至当前 master 并与期间上游改动合并:advance_step 保留上游新增的 CheckInputOutputFormat 与检查顺序调整;dequant_situ_quant 保留上游 group_index 可选语义;dequant_swiglu_quant 保留上游的文案修正。 ## 关联的Issue - Closes #7371(本系列共 4 个 PR,本 PR 为第 4 批收尾) ## 测试 A2 / CANN 9.2.0 上对组合工作区(本系列 4 组生产代码合并态、冻结基线 ec2a78c2)完成验证:910B Host UT 144/144、API UT 19/19、950 SituMxQuant Host/InferShape UT 6/6 共 169 个定向用例通过,Host/API 包构建通过。该结果来自组合工作区且基于冻结基线,rebase 至 master 后未单独重跑,以 CI 流水线为准。未执行 Kernel 数值/设备验证。 ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12778 | 24 days ago | |
docs(selu): 移除elementwise算子资料中的维度上限描述 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !13409 merge hardening/Selu-elewise-dims into master docs(selu): 移除elementwise算子资料中的维度上限描述 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: ## 描述 Selu 为 elementwise 算子,经代码审查,算子六层实现(proto/def/infershape/tiling/kernel/aclnn)均无维度限制,aclnn 接口对超过 8 维的输入经展平路径(ReshapeLongTensor)支持(社区压测已实测 9 维输入成功)。原资料维度列"1-8"系错误复述 AscendC 编译框架限制(asc_op_compile_base 的 para_check.py RANK_LIMIT=8 硬编码,仅 GEIR 在线编译链生效),与算子代码真实能力不符。 按资料口径以算子代码真实能力为准的原则(elementwise 算子资料不写维度限制,编译器框架限制不复述入算子资料),将维度列改为不限维度表述(中文"任意维",英文 Any dimension,中英双份成对同步)。 同步删除看护集 rank 异常用例:Selu 算子能力为任意维,测试看护集( tests/st/arch35/)中 rank 异常用例(期望 ACL_ERROR_INVALID_DIMENSION)与"任意维"口径矛盾。图路 rank≤8 属 AscendC 编译框架限制(para_check RANK_LIMIT=8,仅 GEIR 在线编译链生效),不属算子能力看护范围,按评审意见删除。 ### 改动清单 | 文件 | 位置 | 修改 | |---|---|---| | activation/selu/README.md | x 行维度列 | 1-8 → 任意维 | | activation/selu/README.md | y 行维度列 | 1-8 → 任意维 | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu.md | aclnnSelu self 维度列 | 1-8 → 任意维 | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu.md | aclnnSelu out 维度列 | 1-8 → 任意维 | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu.md | aclnnInplaceSelu selfRef 维度列 | 1-8 → 任意维 | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu_en.md | aclnnSelu self 维度列 | 1-8 → Any dimension | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu_en.md | aclnnSelu out 维度列 | 1-8 → Any dimension | | activation/selu/docs/aclnnSelu&aclnnInplaceSelu_en.md | aclnnInplaceSelu selfRef 维度列 | 1-8 → Any dimension | 共 8 处维度单元格(中文 docs 3 + 英文 docs 3 + README 2),其余内容零变化(+8/-8)。其中英文 _en.md 三处系评审指出遗漏后补充同步(同目录中英双份描述同一组接口参数,维度列必须一致)。 看护集 rank 异常用例删除(仅删 4 行,其余用例零变化): | 文件 | 修改 | |---|---| | activation/selu/tests/st/arch35/ttk_kernel_selu_st.csv | 删 L2_Selu_exc_rank_001/003/005 三行(50→47) | | activation/selu/tests/st/arch35/ttk_aclnn_selu_st.csv | 删 L2_aclnnSelu_exc_rank_001 一行(50→49) | ## 关联的Issue Closes #7959 ## 测试 纯文档+看护集用例删除,无代码改动。已核对:算子六层实现 grep dim/rank 零维度拦截;activation/selu 全目录维度语义"1-8"零残留(含中英双份资料);无 README 英文版;表格结构完整;看护 CSV python csv 解析核验(行数 kernel 47/aclnn 49、列结构不变、rank 用例零残留、其余行零变化);pre-commit 全部通过。 ## 文档更新 更新 activation/selu/README.md(2 处)与 activation/selu/docs/aclnnSelu&aclnnInplaceSelu.md(3 处)、activation/selu/docs/aclnnSelu&aclnnInplaceSelu_en.md(3 处)维度列表述,中英双份同步;删除 activation/selu/tests/st/arch35/ 下两个看护 CSV 中 rank 异常用例共 4 行。 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 > 参考:#11931、#12374 已合入,本 PR 为 Selu 资料修正补充。 > 致谢:感谢评审指出英文 _en.md 三处维度单元格漏改(中英双份成对维护契约)及原自检结论"两文件零残留"表述不成立的问题,本版已同步 _en.md 三处并修正自检结论为"activation/selu 全目录维度语义 1-8 零残留(含中英双份)"。 > 补充致谢:感谢评审指出看护集 rank 异常用例(ttk_kernel_selu_st.csv 48/49/50 行、ttk_aclnn_selu_st.csv 42 行)与"任意维"口径矛盾的问题,本版已删除该 4 条用例(处置说明见"描述"节)。 See merge request: cann/ops-nn!13409 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
[Shrink]算子质量加固修复 + 新平台适配 Co-authored-by: JasonZhang88<jason.zhangshen@huawei.com> # message auto-generated for no-merge-commit merge: !13000 merge Shrink into master [Shrink]算子质量加固修复 + 新平台适配 Created-by: JasonZhang88 Commit-by: JasonZhang88 Merged-by: cann-robot Description: # [Shrink] 算子质量加固修复 + ascend350 平台适配 ## 描述 依据 Shrink 算子多轮全量验证(静态检查 + ST 用例生成/评审/自验证 + 上板 TTK,最终基线为第二轮全量回归验证)发现的 35 项问题进行整改:完成全部 10 项 P1 与 12 项算子侧 P2,并依据关联 Issue #7653 新增 ascend350 芯片平台支持。交付包安装缺陷已提报 #7754 转主仓统一修复。 本 PR 仅涉及 activation/shrink/ 目录(23 文件,+560/-161),不影响其他算子。 ## 变更概述 ### 1. P1 零元素 Tiling 与 Kernel 入口修复 - **Tiling 空分支(FR-01)**:totalIdx==0 时 blockFactor/usedCoreNum/ubFactor 按零值公式得 0 并 SetBlockDim(0) 拒绝执行(TTK 判 INVALID_TILING,8 条空 Tensor 用例全失败),与 aclnn 文档"self/out 支持空 Tensor"冲突。新增空分支单核空跑(对齐仓内 celu 惯例) - **Kernel Init 守卫**:空参数跳过 InitBuffer,Process 由 blockLength_<=0 直接返回 ### 2. P1 aclnn 接口校验补齐 | 缺陷 | 现象 | 修复 | |---|---|---| | 标量 dtype 未校验(FR-02) | int32 lambd=907 实测被接受并执行成功,与文档承诺 161002 矛盾 | CheckDtypeValid 严格校验 lambd/bias 须为 DT_FLOAT(CanCast 会放行整型,不适用强类型契约) | | self/out dtype 一致性未落实(REV-P1-DTYPE) | 混合 dtype 被接受并静默 Cast 降精度输出,cross_check rmse=3.15 判失败 | 补同型校验返回 161002,UT case_3/4 断言同步 | | 秩上界绕过(REV-P2-RANKBIN) | 秩 9 在 DYN/CST 被编译期 para_check(E80012) 拒绝,BIN 复用与 aclnn 路径执行成功 | tiling 与 aclnn 一段均显式校验秩 ≤8(统一 161002) | ### 3. P1 Kernel/Tiling/InferShape 规范整改 - **TilingKey 去 dtype 编码(FR-04)**:ASCENDC_TPL_DATATYPE_DECL 违反"TilingKey 仅编码整型调度维度"规范。对齐同仓 hard_shrink/relu8:tiling_key 仅保留 BUFFER_MODE,dtype 由 def DataType 列表经构建系统注入 DTYPE_INPUT_X 宏,fp16/fp32 双二进制实例派发实测正确 - **GM 搬运 API 组合(REV-P1-COPY)**:DataCopyPad+DataCopyParams(blockLen uint16)违反 A5/A6 硬约束,超 65535 字节存在静默截断风险。改 5 参 DataCopyExtParams(uint32 blockLen + 显式 rsv=0) - **InferShape 诊断(REV-P1-LOG)**:输入/输出 shape 槽空指针分支补 OP_LOGE(带算子名与参数名) - **OpDef 属性可选性(FR-03)**:lambd/bias 加 AttrType(OPTIONAL),安装包 op-info 由 required/无默认值变为 optional + defaultValue(0.5/0.0) ### 4. TTK golden 验证插件(新增) tests/assets/golden.py——真值 + 三方标杆双角色(kernel/GEIR/aclnn 通路,双拼写注册): - **golden(真值)**:lambd/bias cast 到输入 dtype 镜像内核 static_cast<T>(fp16 阈值边界逐位一致);kernel 通路镜像 tiling 的 lambd<0 钳位;NaN 输入死区 0(与内核 Compares 双 mask 落空、ONNX 参考实现 np.where 逐位一致) - **三方标杆(符号分解独立写法)**:|x|>lambd 时 y=x-sign(x)·bias,与 golden 嵌套 where 互为对照,消除三方误差与真值同源恒 0;XPU 服务端按 API 形参名绑定 - 统一入参归一化(torch/numpy 双支持)与出口约定(golden → numpy,标杆 → torch) ### 5. Host UT 测试基建 - **0 用例根因修复(FR-12)**:tests/ut/op_host/CMakeLists.txt 被误写为目录遍历模板从未注册用例,按 celu 模式改写为 add_modules_ut_sources - **新增 test_shrink_infershape.cpp**:5 例(fp16/fp32/标量/空 Tensor/8 秩)验证输出 shape 逐维透传契约;夹具访问控制符合标准 C++(去除 UT 构建 -fno-access-control 的严格模式独立编译通过) ### 6. 静态检查与 PR 评审修复 - aclnnShrink.md 内嵌示例与 examples 源码同步(aclScalar 注释/失败路径资源释放/deviceId 参数) - golden.py aclnn 通路入参归一化(_to_cpu_tensor)+ 出口统一 numpy - UT 夹具访问控制(protected→public,符合标准 C++,去除 -fno-access-control 严格模式编译通过) - kernel 入口命名规范:shrink_apt.cpp → shrink.cpp(对齐仓内惯例) - 静态检查修复:codespell(lambd 加反引号)、tag_closed(static_cast<T> HTML 实体转义) - pre-commit 10 钩子全部通过 ### 7. ascend350 平台适配(关联 Issue #7653) CMakeLists SUPPORT_COMPUTE_UNIT 增加 ascend350(TILING_DIR 同为 arch35)+ def 注册 AddConfig("ascend350")——与 ascend950 同为 dav_3510(arch35)架构,共享 arch35 tiling 与内核(对齐仓内 elu/fast_gelu/in_training_update_grad 的 350 适配模式)。包内自动生成 fp16/fp32 双 dtype 二进制与 aic-ascend350-ops-info.json。 ### 8. 资料与样例 - **README/aclnnShrink.md**:参数表按定义序重排;lambd<0 分通路语义(图模式 tiling 钳位 / aclnn 161002);161001 补 bias、self/out dtype 与格式一致性、秩范围(0~8)/-1/-2 动态标记/容量约束及对应错误码;NaN/±inf 非有限值语义(NaN 死区 0、±inf 正/负区 IEEE 算术、lambd=+inf 全死区、bias=±inf 含 inf∓inf=NaN 算术传播);样例构建命令 - **样例(源文件与 docs 内嵌示例同步)**:deviceId 支持命令行参数(含 ASCEND_RT_VISIBLE_DEVICES 说明)、aclScalar 注释更正、aclCreateScalar 失败分支由 return ret(复用成功码)改为打印错误返回 1 - **风格**:framework/CMakeLists.txt OAT 标准许可证头、许可证逗号、CRLF 混合行尾统一、行尾空格/EOF(pre-commit 钩子实测全 PASS);proto 注释 y→output_y ## 测试 **第二轮全量回归(最终基线,HEAD=整改后代码,Ascend950PR/arch35,device 6,seed 固定)** | 通路 | 例数 | 结果 | |---|---:|---| | Kernel L0+L1(Const/Dynamic/Release-Binary 三模式,op_debug_config=oom) | 495×3 | **全 PASS**(含 4 条空 Tensor 用例 BlockDim=1,修复前 0/8 全 INVALID_TILING) | | GEIR L0(source/binary × const/dynamic 四模式,cross_check) | 39×4=156 | **156/156 PASS** | | ACLNN L0+L1(cross_check·torch) | 480 | **480/480 PASS** | | 确定性 ACLNN(--dl 1 --run 10) | 25 | 精度与确定性双 25/25 PASS,MD5 全一致 | | L2 异常负例(ACLNN/Kernel/GEIR 逐例边界比对) | 24+11+11×2 | 逐例受控拒绝/接受判定,发现并修复项见上文;2 个超大 GEIR 用例超工具单例时限记 GAP | | Host UT(ophost) | 5 | **5/5 PASSED**(整改前 0 用例) | | op_api UT | 6 | **6/6 PASSED**(case_3/4 混合 dtype 断言同步为 161002) | - 汇总:修复回归**零残留**——第一轮 22 项发现 → 第二轮 13 项(全为本轮新引入审查深度下的新发现)→ 全部整改;常规通路无数值比较失败,负例按公开错误码受控拒绝 - **最终提交验证**(squash 后 44ae3dab8,含全部修复): - 构建:--soc=ascend950/ascend350 双平台通过 - UT:ophost 5/5、opapi 6/6 - pre-commit:10 钩子全部通过 - 上板定向复验(device 6,Ascend950PR): - 空 Tensor 8 条用例:DYN/BIN 模式 **BlockDim=1 全 PASS** - FRACTAL_NZ 私有格式用例:**161002 拒绝** ✓ - NaN 标量三用例(lambd/bias/both):**161002 拒绝** ✓ - 混合 dtype 用例:**161002 拒绝** ✓ - kernel bin 冒烟(含奇形状):**6/6 PASS** 零 VEC_ERROR - 已知限制:CST(Const Shape)编译模式对空 Tensor 的 blockDim 被 CCEC 编译器覆盖为 0(SetBlockDim(1) 不生效)——DYN/BIN 模式正常覆盖空 Tensor 场景,属编译器层面行为 ## 关联 Issue - [cann/ops-nn#7653](https://gitcode.com/cann/ops-nn/issues/7653)(Shrink 长尾算子加固整改 + ascend350 平台支持) ## 类型标签 - [x] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!13000 | 19 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
dvlite soc adaptive Co-authored-by: oah28<wujiahao37@huawei.com> # message auto-generated for no-merge-commit merge: !12923 merge dvlite into master dvlite soc adaptive Created-by: oah28 Commit-by: oah28 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> dvlite(Ascend350)SOC 适配:为 33 个算子启用 ascend350 计算单元支持。 Ascend350 与 Ascend950 同为 DAV_3510 架构(regbase),共用 arch35 tiling 与 kernel 源码, 本次按仓内既有 ascend350 适配模式批量扩展: 1. **算子注册**(32 个 *_def.cpp):新增 AICore().AddConfig("ascend350", config), 复用 ascend950 同配置对象(含 apply_adam_w_quant 回归框架默认 opFile 名,与 kernel 入口 apply_adam_w_quant 一致)。 2. **构建配置**:各算子 op_host/op_kernel CMakeLists 的 SUPPORT_COMPUTE_UNIT / COMPUTE_UNIT(S) 增加 "ascend350",TILING_DIR 复用 arch35。 3. **静态二进制**:新增 19 个 op_host/config/ascend350/*_binary.json(与 ascend950 版 逐字段一致)及 2 个 ascend350/*_simplified_key.ini(adam_apply_one_assign、 fake_quant_with_min_max_args_gradient)。 4. **op_api 平台判断适配**(8 个文件):将 GetSocVersion() 硬编码 switch/if 统一改为 GetCurNpuArch() 判断,消除新增 SOC 的遗漏点: - foreach_abs/asin/neg/sign/tanh:DAV_2201 || IsRegbase(curArch) - softshrink_backward:DAV_1001 || DAV_2002 || DAV_3002 → 910 dtype 列表 - ada_layer_norm_backward:DAV_2201 || IsRegbase(curArch) 选择 grad 计算路径 - index_check:!= DAV_2201 && !IsRegbase(curArch) 决定是否跳过检查 5. **全局 kernel 编译配置**:ascendc_config.json 为 ForeachAsin/AddcdivList/SubScalarInplace/ Tanh/Exp/Abs/Sign/Neg/MaximumScalar/LambUpdateWithLrV2/ScatterMin 11 个条目补充 ascend350 compute_units 及对应 compile_options。 涉及算子(33): FastGeluV2、HardSigmoid、SoftShrinkGrad、NPUClearFloatStatus、IndexCheck、ScatterMin、 ForeachAbs/AddcdivList/Asin/Exp/MaximumScalar/Neg/Sign/SubScalarInplace/Tanh(9)、 SigmoidCrossEntropyWithLogitsGrad、SigmoidFocalLoss、AdaLayerNormGrad、 BN3DTrainingReduceGrad、BNTrainingUpdateGrad、INTrainingUpdateV2、L2NormalizeGrad、 AdamApplyOneAssign、ApplyAdamV2、ApplyAdamWQuant、ApplyProximalGradientDescent、 FusedMulApplyKerasMomentum、InplaceApplyFtrl、LambUpdateWithLrV2、SGD、 SparseApplyAdagradV2、Dequantize、FakeQuantWithMinMaxArgsGradient ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> Issue [#7724](https://gitcode.com/cann/ops-nn/issues/7724) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 冒烟通过,测试结果与950一致 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12923 | 22 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
refactor: 4个融合pass平台判断统一迁移至公共CheckNpuArch(NpuArch "3510"覆盖Ascend950/Ascend350) Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !13037 merge fusion-arch-check into master refactor: 4个融合pass平台判断统一迁移至公共CheckNpuArch(NpuArch "3510"覆盖Ascend950/Ascend350) Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 4 个融合 pass(5 个 pass 类)的平台判断统一迁移至公共 CheckNpuArch 接口(common/inc/op_graph/arch_utils.h),共 8 个文件(+94 -156): **改动方法:** - GeluV2ONNXFusionPass(activation/gelu_v2):MeetRequirements 中 IsDav3510Arch() 改为 CheckNpuArch(kPassName, kSupportedNpuArchs); - PReluGradFusionPass(activation/p_relu_grad_update):删除私有 IsTargetPlatform()(基于 PlatformInfoManager 读取 short_soc_version 判断 Ascend950/Ascend350),改为 CheckNpuArch(PASS_NAME, kSupportedNpuArchs); - SoftmaxGradExtFusionPass / SoftmaxGradExtV2FusionPass(activation/softmax_grad_ext):删除私有 IsTargetPlatform()(kTargetSocVersion="Ascend950"),统一改为 CheckNpuArch; - AscendQuantV2ScatterFusionPass(quant/ascend_quant_v2):删除私有 IsTargetPlatform(),改为 CheckNpuArch; - 各 pass 新增平台集合 const std::set<std::string> kSupportedNpuArchs = {"3510"}(NpuArch "3510" 覆盖 Ascend950/Ascend350); - include 统一由 npu_arch_util.h / platform/platform_info.h 改为 arch_utils.h。 **公共接口行为(CheckNpuArch):** 通过 fe::PlatformInfoManager::GetPlatformInfoWithOutSocVersion 获取 PlatFormInfos,GetPlatformRes("version", "NpuArch", arch) 读取 NpuArch 字符串并与集合比对;平台信息获取失败、NpuArch 不可用或不在集合中均返回 false(跳过融合)。 **UT 适配(4 个文件):** - 平台 mock 从 fe::PlatformInfo + platform_info_map_[soc] 改为 fe::PlatFormInfos + SetPlatformRes("version", {"NpuArch", "Short_SoC_version"}) + platform_infos_map_[soc],适配 CheckNpuArch 的读取路径; - 非支持平台用例保留(如 GeluV2 的 unsupportedPlatformNotChanged 以 NpuArch 2201 即 Ascend910_93 家族断言拒绝融合),融合行为不变。 **改动原因:** 各 pass 私有平台判断实现重复且口径不一(有的按 short_soc_version 白名单、有的按 IsDav3510Arch),统一迁移至公共 CheckNpuArch 收敛平台门禁口径,后续新增平台只需维护统一的 NpuArch 集合。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7687 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 4 个融合 pass 的既有 UT 全部适配并通过:支持平台(NpuArch "3510" / Ascend950、Ascend350)正常融合,非支持平台(NpuArch 2201 即 Ascend910_93 家族等)拒绝融合,平台信息获取失败拒绝融合,行为与迁移前一致。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:重构(平台判断统一迁移至公共接口) ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!13037 | 22 days ago | |
fix_bug(softmax): validate dtype/dim on empty tensor (#7030) Co-authored-by: chengyihao<chengyihao2@huawei.com> # message auto-generated for no-merge-commit merge: !13147 merge master into master fix_bug(softmax): validate dtype/dim on empty tensor (#7030) Created-by: flag2233 Commit-by: chengyihao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 问题:IsEmpty() 早退放在所有校验之前,导致空张量输入时,dtype / dim 的非法校验也被跳过了。也就是说:空张量 + INT8 dtype(softmax 不支持 INT8)、或空张量 + dim 越界,本该报 161002,结果返回成功——上层框架以为成功,拿着空结果继续走,容易掩盖真实错误。 修复方案 把 IsEmpty() 早退移到 CheckDtypeValid 和 CheckDim 之后、CheckShape 之前 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联issue [#7030](https://gitcode.com/cann/ops-nn/issues/7030) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13147 | 22 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
fix(softplus_grad): 空Tensor/未知秩/稳定sigmoid/inf×0修正 Co-authored-by: babeiee<125106023003@njust.edu.cn> # message auto-generated for no-merge-commit merge: !12612 merge feat/softplusgrad-full-fixes into master fix(softplus_grad): 空Tensor/未知秩/稳定sigmoid/inf×0修正 Created-by: babeiee Commit-by: babeiee Merged-by: cann-robot Description: ## P1 修复 ### 空 Tensor Tiling(对齐 TF 语义) - 可广播空输入返回空输出,零工作量 tiling 早退(blockNum=1, blockFormer=0) ### InferShape 未知秩 - 改用公共 InferShape4Broadcast,恢复 [-2] 未知秩分支 ### Kernel 数值稳定 sigmoid(REQUIREMENTS 8.1) - Compare/Select 双分支,exp 参数均 ≤0 无中间溢出 - 下溢窗口 (-103.28, -88.73] denormal 真值保留 ### Kernel inf×0 边界修正(L1_243) - sigmoid 叠加 fp32 最小正规数 1.175e-38 - ±inf × (0 + min) = ±inf(修正前 NaN) - 正常值相对误差 0.0(fp32 加法吸收) ### Tiling int64 溢出防护 - 输出总元素数 > INT64_MAX 前置拒绝 ## 文档修复 - README: TF 插件调用说明/GE图模式术语/proto链接/double排除/-1/-2 动态 shape 语义 - proto.h: 交付范围注释 ## 样例修复 - GEIR 头文件 ops_proto_legacy.h → ops_proto_nn.h - 新增真实数值比较 - WriteDataToFile 返回值检查 ## 验证 - Kernel UT 13/13、Host UT 29/29、pre-commit 12 项全过 - 上板 kernel 83/83 PASS、GEIR 83/83 PASS - 旧 375 条重跑 374/375 PASS(1 条为 inf×NaN 精度边界,本 PR 修正) - 性能 2.31× 竞品(CUDA graph 法) - 容量边界 int32 T−1/T/T+1 全过 ## 关联的Issue - #7268 See merge request: cann/ops-nn!12612 | 24 days ago | |
SoftplusV2 和 SparseApplyFtrlV2 长尾算子加固,通过静态检查,kernel和geir;添加ascend350适配; 解决3个功能和精度问题单 Co-authored-by: pan_xiong<xiongpan666@outlook.com> # message auto-generated for no-merge-commit merge: !12813 merge master into master SoftplusV2 和 SparseApplyFtrlV2 长尾算子加固,通过静态检查,kernel和geir;添加ascend350适配; 解决3个功能和精度问题单 Created-by: pan_xiong Commit-by: pan_xiong Merged-by: cann-robot Description: ## 描述 SoftplusV2 和 SparseApplyFtrlV2 长尾算子加固,通过静态检查,kernel和geir;添加ascend350适配; 解决3个功能和精度问题单 ## 关联的Issue https://gitcode.com/cann/ops-nn/issues/7435 https://gitcode.com/wangyueting/changwei_jiaoyiming/issues/21 https://gitcode.com/wangyueting/changwei_jiaoyiming/issues/12 https://gitcode.com/wangyueting/changwei_hebaojing/issues/9 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!12813 | 22 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
feat(dvlite): 29 个算子适配 ascend350 Co-authored-by: liuhongzheng<liuhongzheng2@huawei.com> # message auto-generated for no-merge-commit merge: !11927 merge master into master feat(dvlite): 29 个算子适配 ascend350 Created-by: zoujiamin123 Commit-by: liuhongzheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。-->29 个算子适配 ascend350 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000-->https://gitcode.com/cann/ops-nn/issues/7694 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!11927 | 23 days ago | |
fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Co-authored-by: luoyufan7<luoyufan7@h-partners.com> # message auto-generated for no-merge-commit merge: !12778 merge fix/e9-errcode-common-norm-quant into master fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Created-by: luoyufan7 Commit-by: luoyufan7 Merged-by: cann-robot Description: ## 描述 公共 Foreach Host、归一化、独立量化与复杂推导算子中已登记的校验将用户参数与框架元数据混用内部码,存在重复上报;量化算子的模式/可选输入/shape/dtype/属性约束缺少具体正式诊断。 整改方法(对应 #7371 设计方案): - 保留原有判定条件、返回状态与资源清理逻辑,仅替换错误上报方式; - 公共 Host/调度校验细化根因,区分用户参数与框架元数据,保持首报与返回路径; - 量化算子约束按语义映射正式错误码并携带实际值;复杂推导保持首报; - bidirection_lstm 判空由上游 codecheck 整改引入的 printf 辅助恢复为带注册错误码的结构化上报,同时保持宏参数内 return 的规范形式。 本 PR 覆盖 40 个生产文件(foreach_utils 公共 tiling、group_norm_silu/swish、advance_step、dequant_bias/situ/swiglu、situ_mx_quant、bidirection_lstm、softmax/log_softmax 系列等),对应最终表登记点 571 个。 开发基于冻结基线 ec2a78c2,已 rebase 至当前 master 并与期间上游改动合并:advance_step 保留上游新增的 CheckInputOutputFormat 与检查顺序调整;dequant_situ_quant 保留上游 group_index 可选语义;dequant_swiglu_quant 保留上游的文案修正。 ## 关联的Issue - Closes #7371(本系列共 4 个 PR,本 PR 为第 4 批收尾) ## 测试 A2 / CANN 9.2.0 上对组合工作区(本系列 4 组生产代码合并态、冻结基线 ec2a78c2)完成验证:910B Host UT 144/144、API UT 19/19、950 SituMxQuant Host/InferShape UT 6/6 共 169 个定向用例通过,Host/API 包构建通过。该结果来自组合工作区且基于冻结基线,rebase 至 master 后未单独重跑,以 CI 流水线为准。未执行 Kernel 数值/设备验证。 ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12778 | 24 days ago | |
fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Co-authored-by: luoyufan7<luoyufan7@h-partners.com> # message auto-generated for no-merge-commit merge: !12778 merge fix/e9-errcode-common-norm-quant into master fix(e9): 公共Host/归一化/量化及复杂推导算子内部错误码整改为注册错误码 Created-by: luoyufan7 Commit-by: luoyufan7 Merged-by: cann-robot Description: ## 描述 公共 Foreach Host、归一化、独立量化与复杂推导算子中已登记的校验将用户参数与框架元数据混用内部码,存在重复上报;量化算子的模式/可选输入/shape/dtype/属性约束缺少具体正式诊断。 整改方法(对应 #7371 设计方案): - 保留原有判定条件、返回状态与资源清理逻辑,仅替换错误上报方式; - 公共 Host/调度校验细化根因,区分用户参数与框架元数据,保持首报与返回路径; - 量化算子约束按语义映射正式错误码并携带实际值;复杂推导保持首报; - bidirection_lstm 判空由上游 codecheck 整改引入的 printf 辅助恢复为带注册错误码的结构化上报,同时保持宏参数内 return 的规范形式。 本 PR 覆盖 40 个生产文件(foreach_utils 公共 tiling、group_norm_silu/swish、advance_step、dequant_bias/situ/swiglu、situ_mx_quant、bidirection_lstm、softmax/log_softmax 系列等),对应最终表登记点 571 个。 开发基于冻结基线 ec2a78c2,已 rebase 至当前 master 并与期间上游改动合并:advance_step 保留上游新增的 CheckInputOutputFormat 与检查顺序调整;dequant_situ_quant 保留上游 group_index 可选语义;dequant_swiglu_quant 保留上游的文案修正。 ## 关联的Issue - Closes #7371(本系列共 4 个 PR,本 PR 为第 4 批收尾) ## 测试 A2 / CANN 9.2.0 上对组合工作区(本系列 4 组生产代码合并态、冻结基线 ec2a78c2)完成验证:910B Host UT 144/144、API UT 19/19、950 SituMxQuant Host/InferShape UT 6/6 共 169 个定向用例通过,Host/API 包构建通过。该结果来自组合工作区且基于冻结基线,rebase 至 master 后未单独重跑,以 CI 流水线为准。未执行 Kernel 数值/设备验证。 ## 文档更新 无 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12778 | 24 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
fix: 修复GroupNormSilu校验与NaN、GeluBackward出参校验、SwiGluGrad错误码表 Co-authored-by: shilulu<shilulu8@huawei.com> # message auto-generated for no-merge-commit merge: !13166 merge clean_code into master fix: 修复GroupNormSilu校验与NaN、GeluBackward出参校验、SwiGluGrad错误码表 Created-by: shilulu Commit-by: shilulu Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> fix: 修复GroupNormSilu校验与NaN、GeluBackward出参校验、SwiGluGrad错误码表 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> 关联Issue #7334 https://gitcode.com/cann/ops-nn/issues/7334 关联Issue #7316 https://gitcode.com/cann/ops-nn/issues/7316 关联Issue #7173 https://gitcode.com/cann/ops-nn/issues/7173 关联Issue #7157 https://gitcode.com/cann/ops-nn/issues/7157 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了activation/swi_glu_grad/docs/aclnnSwiGluGrad.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13166 | 22 days ago | |
补充swiglu系列0token算子ut Co-authored-by: steppecat<liangyu62@huawei.com> # message auto-generated for no-merge-commit merge: !12856 merge fixswiglu-zero-token-doc-ut into master 补充swiglu系列0token算子ut Created-by: steppecat Commit-by: steppecat Merged-by: cann-robot Description: ## 描述 补充swiglu系列0token算子ut ## 关联的Issue 关联Issue [#7412](https://gitcode.com/cann/ops-nn/issues/7412) ## 测试 测试命令: bash build.sh -u --ophost --ops=swiglu_backward_group_quant_with_dual_axis --soc=ascend950 bash build.sh -u --ophost --ops=swiglu_group_quant --soc=ascend950 bash build.sh -u --ophost --ops=swiglu_group_quant_with_dual_axis --soc=ascend950 环境: 950 cann-9.2.0 测试结果:ut全部通过无报错 ## 文档更新 修复swiglu_group_quant:单轴正向,quant_mode=5的空tensor描述 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12856 | 24 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
master分支alcnn文档英文合入 Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !13019 merge master into master master分支alcnn文档英文合入 Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 master分支alcnn文档英文合入 ## 关联的Issue 关联Issue [#6089](https://gitcode.com/cann/ops-nn/issues/6089) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13019 | 23 days ago | |
补充swiglu系列0token算子ut Co-authored-by: steppecat<liangyu62@huawei.com> # message auto-generated for no-merge-commit merge: !12856 merge fixswiglu-zero-token-doc-ut into master 补充swiglu系列0token算子ut Created-by: steppecat Commit-by: steppecat Merged-by: cann-robot Description: ## 描述 补充swiglu系列0token算子ut ## 关联的Issue 关联Issue [#7412](https://gitcode.com/cann/ops-nn/issues/7412) ## 测试 测试命令: bash build.sh -u --ophost --ops=swiglu_backward_group_quant_with_dual_axis --soc=ascend950 bash build.sh -u --ophost --ops=swiglu_group_quant --soc=ascend950 bash build.sh -u --ophost --ops=swiglu_group_quant_with_dual_axis --soc=ascend950 环境: 950 cann-9.2.0 测试结果:ut全部通过无报错 ## 文档更新 修复swiglu_group_quant:单轴正向,quant_mode=5的空tensor描述 ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!12856 | 24 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 18 days ago | |
[Threshold] 算子质量加固: 静态缺陷修复+示例修复+UT补齐+资料治理+测试资产入库 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !12303 merge hardening/Threshold into master [Threshold] 算子质量加固: 静态缺陷修复+示例修复+UT补齐+资料治理+测试资产入库 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: ## 描述 本 PR 对 activation/threshold/ 算子进行质量加固,基于静态扫描(91 项检查)、全通路动态验证(TTK kernel/geir/aclnn/torch 3000+ 用例)与 UT 覆盖率治理,共 27 文件变更(521+/111-)。 **缺陷修复**: - tiling GetTilingData 两处裸解引用补 OP_CHECK_NULL_WITH_CONTEXT 判空 - op_api UT 装配缺陷: CMakeLists 误用未定义 ${OPTEST_NAME},存量 25 用例从未编入(对齐兄弟算子先例改 ${OP_API_MODULE_NAME}) - geir 示例编译缺陷: 移除不存在头 experiment_ops.h + set_attr/AttrValue 方言改类型化 setter;失败路径补资源释放 - aclnn 示例修复(输出拷贝源/失败路径资源释放/头注释 BFLOAT16 支持域) **aclnn 归位 ThresholdV2**(方案见 #6846 追加评论,对齐 celu_v2/elu_grad_v2 先例): - op_api 三文件/接口文档(zh/en)/aclnn 示例×2/aclnn UT 25 例全部迁至 threshold_v2/(git mv 保历史);threshold/ 回归纯 REG_OP 形态(对齐老 celu/ 布局);构建零适配(目录自动扫描,ACLNNTYPE 声明维持上游既有) - 验证: UT api 25/25 + host 44/44;aclnn 示例 eager success;aclnnThreshold* 导出符号在位;vendors 含 threshold+threshold_v2 双 kernel **补齐与治理**: - 新增 tiling UT 12 用例(含 GetTilingData 判空拦截分支双向覆盖实证),threshold host 侧行覆盖 93.3% - 测试资产入库: golden.py(kernel/geir 通路,两注册键;比较域对齐 kernel 实现——threshold 属性为 f32,逐元素升 f32 比较后回原 dtype,f64 输入保持原域比较;全 dtype binary_equal)+ kernel 看护集 tests/st/arch35/ 47 条(正向全绿;异常拦截看护行不入库,由 UT/board 承载) ## 关联的Issue Fixes #6893 (Threshold op_host tiling GetTilingData 返回值未判空直接解引用) 关联 #6846 (aclnn 归位方案讨论,见追加评论;self→out 可转换性校验维持 #3007 既有门控,不在本 PR 范围) ## 测试 - UT: host 44/44(threshold 17 + threshold_v2 27)+ api 25/25 PASS;threshold host 侧行覆盖 93.3% ≥ 80% - TTK(加固期全通路验证): kernel L0+L1 471 用例(434 PASS;23 FAIL 均为 0-dim 动态编译崩溃,系 CANN 编译器 DFX 框架缺陷,已反馈 cann/asc-devkit#1896)/ geir 37 全 PASS / aclnn 1263 全 PASS(归位前于原路径执行,归位后以 UT 25 例+双示例复验)/ torch eager+aclgraph 47×2 / determinism 47 - 看护集(kernel 47 条): binary_equal 100% 全绿 - 三层核验: build self-config SUCCESS / verify_install rc=0 / binpath=vendors 实证 - 修复配套精准回归全绿,零退化 ## 文档更新 - threshold/README.md: Atlas训练系列产品支持标记修正(×→√,与接口文档及 canndev 官方口径对齐);功能说明锚定 opDef 二值化语义;aclnn 接口行随归位移除 - threshold_v2/README.md: 计算公式修正为 LE 形(与设备 CMPMODE_LE 实现一致);aclnn 示例/文档链接随归位本地化 - docs/aclnnThreshold&aclnnInplaceThreshold.md: 标量 threshold/value 数值域说明、NaN 边界行为、错误码行语义修正 - 仓内引用链: op_api_list(zh/en)/menu_aclnn_api 共 3 处链接随迁修正 ## 类型标签 - [x] Bug修复 - [x] 文档更新 - [ ] 新特性 - [ ] 性能优化 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12303 | 19 days ago | |
threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 Co-authored-by: ligen<ligen75@h-partners.com> # message auto-generated for no-merge-commit merge: !13158 merge master into master threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 Created-by: ligen75 Commit-by: ligen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/7782 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 自验通过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13158 | 19 days ago | |
threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 Co-authored-by: ligen<ligen75@h-partners.com> # message auto-generated for no-merge-commit merge: !13158 merge master into master threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 Created-by: ligen75 Commit-by: ligen Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> threshold_grad_v2/threshold_grad_v2_d infershape改成broadcast通用接口 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/7782 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 自验通过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!13158 | 19 days ago | |
[Threshold] 算子质量加固: 静态缺陷修复+示例修复+UT补齐+资料治理+测试资产入库 Co-authored-by: dengguojie<dengguojie@huawei.com> # message auto-generated for no-merge-commit merge: !12303 merge hardening/Threshold into master [Threshold] 算子质量加固: 静态缺陷修复+示例修复+UT补齐+资料治理+测试资产入库 Created-by: dengguojie Commit-by: dengguojie Merged-by: cann-robot Description: ## 描述 本 PR 对 activation/threshold/ 算子进行质量加固,基于静态扫描(91 项检查)、全通路动态验证(TTK kernel/geir/aclnn/torch 3000+ 用例)与 UT 覆盖率治理,共 27 文件变更(521+/111-)。 **缺陷修复**: - tiling GetTilingData 两处裸解引用补 OP_CHECK_NULL_WITH_CONTEXT 判空 - op_api UT 装配缺陷: CMakeLists 误用未定义 ${OPTEST_NAME},存量 25 用例从未编入(对齐兄弟算子先例改 ${OP_API_MODULE_NAME}) - geir 示例编译缺陷: 移除不存在头 experiment_ops.h + set_attr/AttrValue 方言改类型化 setter;失败路径补资源释放 - aclnn 示例修复(输出拷贝源/失败路径资源释放/头注释 BFLOAT16 支持域) **aclnn 归位 ThresholdV2**(方案见 #6846 追加评论,对齐 celu_v2/elu_grad_v2 先例): - op_api 三文件/接口文档(zh/en)/aclnn 示例×2/aclnn UT 25 例全部迁至 threshold_v2/(git mv 保历史);threshold/ 回归纯 REG_OP 形态(对齐老 celu/ 布局);构建零适配(目录自动扫描,ACLNNTYPE 声明维持上游既有) - 验证: UT api 25/25 + host 44/44;aclnn 示例 eager success;aclnnThreshold* 导出符号在位;vendors 含 threshold+threshold_v2 双 kernel **补齐与治理**: - 新增 tiling UT 12 用例(含 GetTilingData 判空拦截分支双向覆盖实证),threshold host 侧行覆盖 93.3% - 测试资产入库: golden.py(kernel/geir 通路,两注册键;比较域对齐 kernel 实现——threshold 属性为 f32,逐元素升 f32 比较后回原 dtype,f64 输入保持原域比较;全 dtype binary_equal)+ kernel 看护集 tests/st/arch35/ 47 条(正向全绿;异常拦截看护行不入库,由 UT/board 承载) ## 关联的Issue Fixes #6893 (Threshold op_host tiling GetTilingData 返回值未判空直接解引用) 关联 #6846 (aclnn 归位方案讨论,见追加评论;self→out 可转换性校验维持 #3007 既有门控,不在本 PR 范围) ## 测试 - UT: host 44/44(threshold 17 + threshold_v2 27)+ api 25/25 PASS;threshold host 侧行覆盖 93.3% ≥ 80% - TTK(加固期全通路验证): kernel L0+L1 471 用例(434 PASS;23 FAIL 均为 0-dim 动态编译崩溃,系 CANN 编译器 DFX 框架缺陷,已反馈 cann/asc-devkit#1896)/ geir 37 全 PASS / aclnn 1263 全 PASS(归位前于原路径执行,归位后以 UT 25 例+双示例复验)/ torch eager+aclgraph 47×2 / determinism 47 - 看护集(kernel 47 条): binary_equal 100% 全绿 - 三层核验: build self-config SUCCESS / verify_install rc=0 / binpath=vendors 实证 - 修复配套精准回归全绿,零退化 ## 文档更新 - threshold/README.md: Atlas训练系列产品支持标记修正(×→√,与接口文档及 canndev 官方口径对齐);功能说明锚定 opDef 二值化语义;aclnn 接口行随归位移除 - threshold_v2/README.md: 计算公式修正为 LE 形(与设备 CMPMODE_LE 实现一致);aclnn 示例/文档链接随归位本地化 - docs/aclnnThreshold&aclnnInplaceThreshold.md: 标量 threshold/value 数值域说明、NaN 边界行为、错误码行语义修正 - 仓内引用链: op_api_list(zh/en)/menu_aclnn_api 共 3 处链接随迁修正 ## 类型标签 - [x] Bug修复 - [x] 文档更新 - [ ] 新特性 - [ ] 性能优化 - [ ] 其他,请描述: ## AI/Agent生成声明 - [x] AI辅助编写 See merge request: cann/ops-nn!12303 | 19 days ago | |
Format update: Adjusted the license description format in all relevant files. Co-authored-by: jiangqi<jiangqi47@h-partners.com> # message auto-generated for no-merge-commit merge: !364 merge license4 into master Format update: Adjusted the license description format in all relevant files. Created-by: jiangqi2025 Commit-by: jiangqi Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!364 | 11 months ago | |
新增算子cla_gate_quant Co-authored-by: RoyHys<huangyuqian6@huawei.com> # message auto-generated for no-merge-commit merge: !10510 merge claGate into master 新增算子cla_gate_quant Created-by: luckdog111 Commit-by: RoyHys Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增算子。 实现CLA(Cross-Layer Attention)两路head-wise gate加权合并与动态块量化的组合计算。先对Global/CLA分支与Local/SWA分支的Attention输出分别施加Sigmoid门控并加权合并,再将合并结果reshape为[T, K](K = N*D)进行基于块的动态量化,输出低精度的FP8/FP4张量和对应的E8M0缩放因子。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5970 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 本地完成ut测试、ttk各种通路的st测试,torchapi接口通路测试和哥、aclgraph通路测试。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增算子接口文档aclnnClaGateQuant.md、torchapi_cla_gate_quant.md、README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!10510 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 30 days ago | ||
| 26 days ago | ||
| 23 days ago | ||
| 26 days ago | ||
| 26 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 4 months ago | ||
| 24 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 22 days ago | ||
| 23 days ago | ||
| 1 month ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 26 days ago | ||
| 22 days ago | ||
| 18 days ago | ||
| 26 days ago | ||
| 22 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 24 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 19 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 22 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 22 days ago | ||
| 22 days ago | ||
| 18 days ago | ||
| 24 days ago | ||
| 22 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 24 days ago | ||
| 24 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 22 days ago | ||
| 24 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 23 days ago | ||
| 24 days ago | ||
| 18 days ago | ||
| 18 days ago | ||
| 19 days ago | ||
| 19 days ago | ||
| 19 days ago | ||
| 19 days ago | ||
| 11 months ago | ||
| 1 month ago |