| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
perf: softmax_grad算子FMA指令融合优化 Co-authored-by: Developer<zhuzixian1@h-partners.com> # message auto-generated for no-merge-commit merge: !7040 merge softgrad_fma_910 into 9.1.0 perf: softmax_grad算子FMA指令融合优化 Created-by: zhuzixian-lr Commit-by: Developer Merged-by: cann-robot Description: ## 描述 > 本 PR 将 master 分支的 #6183 同步到 9.1.0 分支。 对 softmax_grad 算子的 arch35 实现进行 FMA 指令融合优化,主要改动: 1. **FMA 指令替换**:将 Mul + Sub 指令序列替换为 Neg + MulAddDst 融合指令模式 - 原实现:reg1 = x0 * x1; reg0 = x0 * sum; reg1 = reg1 - reg0(Mul + Mul + Sub) - 优化后:reg1 = x0 * x1; Neg(reg0, x0); MulAddDst(reg1, reg0, sum)(Mul + Neg + MulAddDst) 2. **输出寄存器修正**:由于 MulAddDst 的结果写入 reg1/x1Reg,同步更新后续 Store/Cast/DataCopy 操作的源寄存器引用 涉及文件: - softmax_grad_ar_full_load.h:AR full load 路径,包含 pMask 和 pFull 两种 mask 场景的 FMA 替换 - softmax_grad_ar_recompute.h:AR recompute 路径的 FMA 替换和输出寄存器修正 - softmax_grad_ar_small_r.h:Small R 路径的 FMA 替换,含 fp16/bf16 Cast 输出修正 - softmax_grad_ara_full_load.h:ARA full load 路径的 FMA 替换,含 fp16/bf16 Cast 输出修正 - softmax_grad_ara_recompute.h:ARA recompute 路径的 FMA 替换,含 fp16/bf16 Cast 输出修正 ## 关联的Issue - #3478(master 分支 PR #6183) - #3703(9.1.0 分支) ## 测试 通过 ST 测试验证精度和性能 ## 文档更新 无文档更新 ## 类型标签 - [ ] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!7040 | 1 个月前 | |
LogSoftmaxV2/LogSoftmaxGrad/SoftmaxGrad/SoftmaxV2/BatchNormGrad/BatchNormGradV3/LpNormV2算子支持下一代芯片 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !1010 merge nn_ops_fix_3 into master LogSoftmaxV2/LogSoftmaxGrad/SoftmaxGrad/SoftmaxV2/BatchNormGrad/BatchNormGradV3/LpNormV2算子支持下一代芯片 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 LogSoftmaxV2/LogSoftmaxGrad/SoftmaxGrad/SoftmaxV2/BatchNormGrad/BatchNormGradV3/LpNormV2算子支持下一代芯片 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!1010 | 6 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 6 个月前 |