| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
feat: 新增RmsNormQuantV3算子,支持在RmsNormQuantV2基础上增加rstd输出 Co-authored-by: huanghaihong12138<huanghaihong4@huawei.com> # message auto-generated for no-merge-commit merge: !4871 merge RNQ into master feat: 新增RmsNormQuantV3算子,支持在RmsNormQuantV2基础上增加rstd输出 Created-by: huanghaihong Commit-by: huanghaihong12138 Merged-by: cann-robot Description: ## 描述 盘古训练场景：本PR新增RmsNormQuantV3算子，并同步支持RmsNormQuantV2算子基础上增加rstd（归一化标准差倒数）输出能力。 ### 改动原因 RmsNormQuantV2算子在执行RmsNorm+Quantize融合计算时，不支持输出中间计算产生的rstd值。在大模型训练/推理场景中，下游算子可能需要rstd用于反向传播或其他计算，需要新增此输出能力。 ### 改动方法 **1. 新增RmsNormQuantV3算子** - 完整实现包括：OpDef定义、Tiling策略、InferShape推导、Kernel实现、aclnn两段式API、op_graph原型 - 支持Ascend 950平台，输入数据类型支持FLOAT16/BF16/FLOAT32，输出量化类型支持INT8/INT4/FLOAT8_E4M3FN/FLOAT8_E5M2/HIFLOAT8，rstd输出固定为FLOAT32 - 新增 output_rstd属性控制是否输出有效rstd - V3 Tiling层复用V2的基础设施（RmsNormQuantV2CompileInfo），通过rstdFlag标志区分行为 **2. RmsNormQuantV2算子增强** - Host侧：新增rstdFlag字段和output_rstd属性读取；新增CheckOutputShape()校验rstd维度合法性；新增rstd的dtype校验（必须为FLOAT32） - Kernel侧（full_load & recompute路径）：新增rstdGm GlobalTensor、outQueueRstd输出队列；在Compute流程中根据rstdFlag将rstd值通过DataCopyPad输出到GM - 重构tiling数据结构定义，从rms_norm_quant_v2_tiling.h迁移到独立的rms_norm_quant_v2_tiling_data.h，便于V3复用 **3. 文档与配置更新** - 新增docs/aclnnRmsNormQuantV3.md API文档 - 更新op_list.md和op_api_list.md注册新算子 - 更新ascendc_config.json二进制配置 ## 关联的Issue 关联Issue #2869 ## 测试 - 新增V3算子UT测试：tiling测试、infershape测试、aclnn接口测试、kernel测试 - V2算子ttk、fuzz维护用例测试Pass - V3算子ttk泛化用例、Fuzz门槛用例Pass ## 文档更新 - 新增 norm/rms_norm_quant_v3/docs/aclnnRmsNormQuantV3.md 完整API文档 - 新增 norm/rms_norm_quant_v3/README.md 算子说明 - 更新 docs/zh/op_list.md 和 docs/zh/op_api_list.md 注册RmsNormQuantV3 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!4871 | 3 个月前 | |
feat: 新增RmsNormQuantV3算子,支持在RmsNormQuantV2基础上增加rstd输出 Co-authored-by: huanghaihong12138<huanghaihong4@huawei.com> # message auto-generated for no-merge-commit merge: !4871 merge RNQ into master feat: 新增RmsNormQuantV3算子,支持在RmsNormQuantV2基础上增加rstd输出 Created-by: huanghaihong Commit-by: huanghaihong12138 Merged-by: cann-robot Description: ## 描述 盘古训练场景：本PR新增RmsNormQuantV3算子，并同步支持RmsNormQuantV2算子基础上增加rstd（归一化标准差倒数）输出能力。 ### 改动原因 RmsNormQuantV2算子在执行RmsNorm+Quantize融合计算时，不支持输出中间计算产生的rstd值。在大模型训练/推理场景中，下游算子可能需要rstd用于反向传播或其他计算，需要新增此输出能力。 ### 改动方法 **1. 新增RmsNormQuantV3算子** - 完整实现包括：OpDef定义、Tiling策略、InferShape推导、Kernel实现、aclnn两段式API、op_graph原型 - 支持Ascend 950平台，输入数据类型支持FLOAT16/BF16/FLOAT32，输出量化类型支持INT8/INT4/FLOAT8_E4M3FN/FLOAT8_E5M2/HIFLOAT8，rstd输出固定为FLOAT32 - 新增 output_rstd属性控制是否输出有效rstd - V3 Tiling层复用V2的基础设施（RmsNormQuantV2CompileInfo），通过rstdFlag标志区分行为 **2. RmsNormQuantV2算子增强** - Host侧：新增rstdFlag字段和output_rstd属性读取；新增CheckOutputShape()校验rstd维度合法性；新增rstd的dtype校验（必须为FLOAT32） - Kernel侧（full_load & recompute路径）：新增rstdGm GlobalTensor、outQueueRstd输出队列；在Compute流程中根据rstdFlag将rstd值通过DataCopyPad输出到GM - 重构tiling数据结构定义，从rms_norm_quant_v2_tiling.h迁移到独立的rms_norm_quant_v2_tiling_data.h，便于V3复用 **3. 文档与配置更新** - 新增docs/aclnnRmsNormQuantV3.md API文档 - 更新op_list.md和op_api_list.md注册新算子 - 更新ascendc_config.json二进制配置 ## 关联的Issue 关联Issue #2869 ## 测试 - 新增V3算子UT测试：tiling测试、infershape测试、aclnn接口测试、kernel测试 - V2算子ttk、fuzz维护用例测试Pass - V3算子ttk泛化用例、Fuzz门槛用例Pass ## 文档更新 - 新增 norm/rms_norm_quant_v3/docs/aclnnRmsNormQuantV3.md 完整API文档 - 新增 norm/rms_norm_quant_v3/README.md 算子说明 - 更新 docs/zh/op_list.md 和 docs/zh/op_api_list.md 注册RmsNormQuantV3 ## 类型标签 - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他，请描述： See merge request: cann/ops-nn!4871 | 3 个月前 | |
format cpp Co-authored-by: yang-di52<yangdi52@huawei.com> # message auto-generated for no-merge-commit merge: !6784 merge issue_fix into master format cpp Created-by: yang-di52 Commit-by: yang-di52 Merged-by: cann-robot Description: ## 描述 批量刷新cpp代码格式 ## 关联的Issue [#3791](https://gitcode.com/cann/ops-nn/issues/3791) ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他，请描述：代码格式化 ## AI/Agent生成声明 <!-- [x] 表示选中 --> - [ ] AI辅助编写 See merge request: cann/ops-nn!6784 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 3 个月前 | ||
| 3 个月前 | ||
| 1 个月前 |