| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
add layernorm remove broadcast fusion pass Co-authored-by: rk<wangpengbo26@huawei.com> # message auto-generated for no-merge-commit merge: !5856 merge ln_fusionpass into master add layernorm remove broadcast fusion pass Created-by: wangpengbo26 Commit-by: rk Merged-by: cann-robot Description: ## 描述 新增 LayerNormRemoveBroadcastFusionPass,用于匹配 LayerNorm 前 gamma、beta 两路 BroadcastTo 节点,并在满足静态 shape、gamma/beta 非标量、gamma/beta shape 与 dtype 一致、gamma shape 匹配 x 的归一化后缀维度、begin_norm_axis 与归一化轴一致,且平台 short soc 为 Ascend950 或 MC62 时,替换为直接以 gamma、beta 作为输入的 LayerNorm 子图。 同时补充 BroadcastTo op graph proto stub,供 nn 仓融合规则通过 es 构造 BroadcastTo 模板图使用。 ## 关联的Issue - #3322 ## 测试 - 已执行 LayerNormRemoveBroadcastFusionPass op_graph UT,覆盖 BroadcastTo 移除成功、正向 begin_norm_axis、动态 shape、标量 gamma/beta、gamma/beta shape 不一致、不支持平台、gamma rank 大于 x rank、begin_norm_axis 不匹配等场景。 ## 文档更新 无。 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/ops-nn!5856 | 2 个月前 | |
BroadcastGradientArgs/LayerNorm支持下一代芯片 Co-authored-by: cai-chengchao<caichengchao1@h-partners.com> # message auto-generated for no-merge-commit merge: !2099 merge add_ops_0225 into master BroadcastGradientArgs/LayerNorm支持下一代芯片 Created-by: cai-chengchao Commit-by: cai-chengchao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> BroadcastGradientArgs、LayerNorm算子支持下一代芯片 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> https://gitcode.com/cann/ops-nn/issues/1382 ## 测试 <!--描述进行了哪些测试来验证你的改动。--> ut、st、二级冒烟均测试通过 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了norm/layer_norm/README.md 更新了index/broadcast_gradient_args/README.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:BroadcastGradientArgs、LayerNorm算子支持下一代芯片 See merge request: cann/ops-nn!2099 | 5 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 个月前 | ||
| 5 个月前 |