| Files | Last commit | Last update |
|---|---|---|
feat: Add aclnn golden functions and test cases Co-authored-by: yanzhi2024<yanzhi@huawei.com> # message auto-generated for no-merge-commit merge: !9487 merge master into master feat: Add aclnn golden functions and test cases Created-by: yanzhi2024 Commit-by: yanzhi2024 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 添加蓝区aclnn用例和golden函数 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5325 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9487 | 2 months ago | |
feat: Add aclnn golden functions and test cases Co-authored-by: yanzhi2024<yanzhi@huawei.com> # message auto-generated for no-merge-commit merge: !9487 merge master into master feat: Add aclnn golden functions and test cases Created-by: yanzhi2024 Commit-by: yanzhi2024 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 添加蓝区aclnn用例和golden函数 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/5325 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 不涉及 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!9487 | 2 months ago | |
feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Co-authored-by: ywx1080114<yuanbin22@huawei.com> # message auto-generated for no-merge-commit merge: !11929 merge infershape-dtype into master feat: Infershape整改,30个算子InferDataType注册迁移至op_graph目录(IMPL_OP独立链)及UT看护 Created-by: yuanbin_22 Commit-by: ywx1080114 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 作为 Infershape 整改的一部分,为 30 个算子在 op_graph/ 目录新增 InferDataType(输出数据类型推导)独立注册及 UT 看护,共 103 个文件(+2848 -1),对齐仓内方案(threshold 样板): **注册方案(IMPL_OP 独立链):** - 每个算子新增 op_graph/<op>_graph_infer.cpp,通过 IMPL_OP(X).InferDataType(InferDataTypeX) 独立注册链注册,与 op_host 的 IMPL_OP_INFERSHAPE(InferShape)链解耦; - 13 个原本无 op_graph/ 目录的算子(erfinv、fast_gelu、fast_gelu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、p_relu、sigmoid_grad、softplus、swish、swish_grad、quant_update_scatter)配套新增 op_graph/CMakeLists.txt(add_graph_plugin_sources()); - 涉及 30 个算子:elu、elu_grad、elu_grad_v2、erfinv、fast_gelu、fast_gelu_grad、ge_glu_v2、gelu、gelu_grad、gelu_grad_v2、gelu_v2、glu_grad、hardtanh_grad、leaky_relu、leaky_relu_grad、log_sigmoid、logsigmoid_grad、mish、mish_grad、p_relu、relu、relu_grad、relu_grad_v2、sigmoid、sigmoid_grad、softplus、swish、swish_grad、ge_glu_grad_v2 及 quant_update_scatter; **实现分类:** - 27 个算子输出 dtype 与第一个输入一致(SetOutputDataType(0, GetInputDataType(0)),含 QuantUpdateScatter); - 3 个梯度类算子按各自契约推导: - GeGluGradV2:输出 dx 随输入 x(输入1); - GeluGradV2:dy 与 x dtype 一致时输出随 x,不一致(混合 dtype)时输出 FLOAT(与 aclnn 层 isMixDataType 契约一致); - GLUGrad:输出 out 随输入 self(输入1)。 **UT 看护(30 个测试文件,30 个参数化用例):** - 每算子新增 tests/ut/op_graph/test_<op>_graph_infer_pass.cpp,直接调用导出的 ops::InferDataTypeX 函数,通过 OpInferDataTypeContextBuilder 构造上下文,参数化覆盖 DT_BF16/DT_FLOAT16/DT_FLOAT(GeluGradV2 等梯度类覆盖混合 dtype 组合),断言推导返回 GRAPH_SUCCESS 且输出 dtype 符合预期; - 29 个算子配套新增 tests/ut/op_graph/CMakeLists.txt 纳入构建(gelu_v2 沿用既有收集机制,无需新增)。 **顺带修正:** - activation/elu/CMakeLists.txt:DEPENDENCIES 由 threshold 修正为 threshold_v2。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> - 关联 Issue #7149 ## 补充说明(冒烟依赖修正) - activation/elu/CMakeLists.txt 的 DEPENDENCIES 由 threshold 改为 threshold_v2:上游 c105aafb0([Threshold] 算子质量加固)将 threshold 的 op_api 整体迁移至 threshold_v2/op_api/,threshold 本体不再提供 l0op::Threshold 符号,但漏改 elu 的依赖声明,导致 elu 单算子包示例链接失败(undefined reference to l0op::Threshold,即此前 PreSmoke_A2 失败根因,非本 PR 引入)。实测改后包内 U 引用消除,aclnn_threshold.h 与 ThresholdV2 kernel 均随包。 - UT 按真实契约对齐:GeGluV2 双输出断言;relu_grad_v2/quant_update_scatter 等多输入算子补混合 dtype 参数化;GeluGrad/SigmoidGrad/HardtanhGrad 按 def 签名补多输入(IONum 3/2/2)。 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> - 30 个算子各新增 InferDataTypeTest 参数化 UT 用例(直接函数调用),全部通过; - 用例逐一断言 InferDataTypeX 返回 GRAPH_SUCCESS 且输出 dtype 符合预期(27 个等于第一个输入、3 个梯度类按各自契约),覆盖各算子支持的输入 dtype 集合。 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> - 无需文档更新。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11929 | 19 days ago | |
DynamicQuant等22个算子支持Ascend960dt Co-authored-by: TH_HW<taohai2@huawei.com> # message auto-generated for no-merge-commit merge: !11335 merge backBlue into master DynamicQuant等22个算子支持Ascend960dt Created-by: TH_HW Commit-by: TH_HW Merged-by: cann-robot Description: ## 描述 (+17812 / -2151)为一批 ops-nn 算子补齐 **Ascend 960DT(NPU Arch 9201)** 平台支持,并重构 GeGluV2 arch35 内核、为 Erfinv 增加 inplace 通路。 主要改动如下: 1. **Ascend960DT 平台适配(22 个算子)** - activation:Relu、ReluV2、ReluGrad、ReluGradV2、Sigmoid、SigmoidGrad、PRelu、PReluGradUpdate、SiluGrad、Softplus、Swish、SwishGrad、SwiGluGrad、GeGluV2。 - index:MapIndex、SparseSlice、QuantUpdateScatter。 - quant:Quantize、DynamicQuant、DynamicQuantV2、AntiMxQuant、GroupedDynamicMxQuant。 - 具体做法:CMakeLists.txt 的 SUPPORT_COMPUTE_UNIT / SUPPORT_TILING_DIR 增加 ascend960dt;*_def.cpp 增加 AddConfig("ascend960dt", ...);aclnn/op_api 与 infershape 增加 NpuArch::DAV_9201 / Ascend960DT 分支;kernel 增加 __NPU_ARCH__ == 9201 分支;新增 op_host/config/ascend960dt/ 下的算子二进制配置(共 22 个,如 relu_binary.json、p_relu.json 等);scripts/kernel/binary_config/ascendc_config.json 为相关算子登记 ascend960dt 计算单元与编译选项。 2. **GeGluV2 arch35 内核重构** - 将 arch35 模板按 erf / tanh 两类拆分,并补齐 align、align_last_axis_big、vreduce × fp16/bf16/fp32 变体,统一命名 *_arch35.h。 - tiling 新增 RegBase per-template per-element UB 预算模型(GetRegbasePerElem),并支持 ascend960dt。 - aclnnGeGlu 参数校验重构(CheckShape 支持 0D 输入与 dim 范围校验),新增 ST 用例(all_aclnnGeGlu(.V3).json)并调整 UT。 3. **Erfinv 支持 inplace**:新增 inplace dtype 支持列表与校验(GetInplaceDtypeSupportList / CheckInplaceDtypeValid),并补充 op_api UT。 4. **内核与接口修复** - SparseSlice:9201 路径改用 SetValue 写入 sliceStart/sliceEnd(替代 DataCopy),Reg::Reduce 使用完整命名空间限定。 - QuantUpdateScatter:9201 增加 FLOAT_OVERFLOW_MODE_CTRL 保护。 - ReluV2 infershape:Ascend960DT 不支持 NC1HWC0,UINT1 支持列表加入 Ascend960DT。 - DynamicQuant / Mx 量化:9201 上 fp8 scale 改为 bf16 乘法后再 cast 到 e8m0。 5. **代码规范**:统一 License 头注释格式、补齐文件末尾换行、调整 quant 系列 UT 的 CMakeLists;新增 MapIndex、SparseSlice 的 GE IR 图模式示例。 ## 关联的Issue 无。 ## 测试 - 新增 GeGluV2 ST 用例与 Erfinv inplace UT,补充/调整 GeGluV2 相关 UT。 - 新增 MapIndex / SparseSlice 的 GE IR 示例(examples/test_geir_*.cpp)。 - 通过 ascend960dt 编译与静态检查。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [x] 新特性 - [ ] Bug修复 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [x] AI辅助编写 See merge request: cann/ops-nn!11335 | 1 month ago |
| Files | Last commit | Last update |
|---|---|---|
| 2 months ago | ||
| 2 months ago | ||
| 19 days ago | ||
| 1 month ago |