| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix: 修复precommit误删的py引用 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3885 merge dev-precommit0706 into develop fix: 修复precommit误删的py引用 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 修复precommit误删的py引用 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [x] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3885 | 2 个月前 | |
docs: 补充 fusion pass 样例 es_all.whl 安装步骤 Co-authored-by: du-hua1024<duhua2@huawei.com> # message auto-generated for no-merge-commit merge: !3794 merge master into develop docs: 补充 fusion pass 样例 es_all.whl 安装步骤 Created-by: du-hua1024 Commit-by: du-hua1024 Merged-by: cann-robot Description: # Pull Request ## 描述 补充 C++ fusion pass 样例文档中运行前安装 es_all.whl 的步骤,确保示例生成的 ES Python 包被安装到 ${ASCEND_PATH}/python/site-packages/ 后再执行后续流程。 本次更新覆盖: - graph_base_pass/2_move_relu_before_concat_pass/cpp 中英文 README - pattern_base_pass/3_fuse_matmul_add_pass_with_pattern_matcher_config/cpp 中英文 README ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue 无。 ## 如何测试 描述测试此变更的步骤和前提条件: 1. 根据readme,example可以正常运行 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 本次变更为文档补充,不涉及运行时逻辑、构建脚本或测试用例变更。 See merge request: cann/ge!3794 | 2 个月前 | |
fix: 修复precommit误删的py引用 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3885 merge dev-precommit0706 into develop fix: 修复precommit误删的py引用 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 修复precommit误删的py引用 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [x] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3885 | 2 个月前 | |
feat: 新增4个融合pass样例 Co-authored-by: qq_45842700<caodazhou@huawei.com> # message auto-generated for no-merge-commit merge: !3999 merge feat/add-fusion-pass-examples into develop feat: 新增4个融合pass样例 Created-by: qq_45842700 Commit-by: qq_45842700 Merged-by: cann-robot Description: # Pull Request ## 描述 新增 4 个融合 pass 样例: - **graph_base_pass/4_mmoe_bmm_split_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络非首层多个同源 MatMul,通过 Pack + BatchMatMulV2 + Split + Squeeze 合并为批量矩阵乘法 - **graph_base_pass/5_mmoe_matmul_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络首层多个同源 MatMul,通过 Concat + MatMul + SplitV 合并为单个大尺寸 MatMul - **pattern_base_pass/8_bmm_tile_pass**:基于 PatternFusionPass 注册,消除共享权重场景下冗余的 Tile 算子,利用 BatchMatMulV2 首维广播能力替代显式数据扩展 - **pattern_base_pass/9_bmm_to_mul_reduce_pass**:基于 PatternFusionPass 注册,将 n=1 且 k<=16 的 BatchMatMulV2 改写为 Mul + ReduceSumD,利用 vector 单元提升性能 ## 变更类型 - [x] ✨ 新功能 - [x] 📝 文档内容更新 ## 关联的Issue ## 如何测试 1. 进入各 pass 的 cpp 目录,执行 mkdir build && cd build && cmake .. && make 验证编译通过 2. 执行 make install 安装 pass so,使用 quick_verify.sh 脚本验证融合效果 3. 执行 make clean_custom_pass 清理安装的 pass so ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定 ## 其他信息 4 个样例覆盖 graph_base_pass 和 pattern_base_pass 两种注册方式,均提供 C++ 源码、CMakeLists、中英文 README、ONNX 生成脚本和一键验证脚本。 See merge request: cann/ge!3999 | 2 个月前 | |
feat: 新增4个融合pass样例 Co-authored-by: qq_45842700<caodazhou@huawei.com> # message auto-generated for no-merge-commit merge: !3999 merge feat/add-fusion-pass-examples into develop feat: 新增4个融合pass样例 Created-by: qq_45842700 Commit-by: qq_45842700 Merged-by: cann-robot Description: # Pull Request ## 描述 新增 4 个融合 pass 样例: - **graph_base_pass/4_mmoe_bmm_split_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络非首层多个同源 MatMul,通过 Pack + BatchMatMulV2 + Split + Squeeze 合并为批量矩阵乘法 - **graph_base_pass/5_mmoe_matmul_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络首层多个同源 MatMul,通过 Concat + MatMul + SplitV 合并为单个大尺寸 MatMul - **pattern_base_pass/8_bmm_tile_pass**:基于 PatternFusionPass 注册,消除共享权重场景下冗余的 Tile 算子,利用 BatchMatMulV2 首维广播能力替代显式数据扩展 - **pattern_base_pass/9_bmm_to_mul_reduce_pass**:基于 PatternFusionPass 注册,将 n=1 且 k<=16 的 BatchMatMulV2 改写为 Mul + ReduceSumD,利用 vector 单元提升性能 ## 变更类型 - [x] ✨ 新功能 - [x] 📝 文档内容更新 ## 关联的Issue ## 如何测试 1. 进入各 pass 的 cpp 目录,执行 mkdir build && cd build && cmake .. && make 验证编译通过 2. 执行 make install 安装 pass so,使用 quick_verify.sh 脚本验证融合效果 3. 执行 make clean_custom_pass 清理安装的 pass so ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定 ## 其他信息 4 个样例覆盖 graph_base_pass 和 pattern_base_pass 两种注册方式,均提供 C++ 源码、CMakeLists、中英文 README、ONNX 生成脚本和一键验证脚本。 See merge request: cann/ge!3999 | 2 个月前 | |
feat: 新增4个融合pass样例 Co-authored-by: qq_45842700<caodazhou@huawei.com> # message auto-generated for no-merge-commit merge: !3999 merge feat/add-fusion-pass-examples into develop feat: 新增4个融合pass样例 Created-by: qq_45842700 Commit-by: qq_45842700 Merged-by: cann-robot Description: # Pull Request ## 描述 新增 4 个融合 pass 样例: - **graph_base_pass/4_mmoe_bmm_split_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络非首层多个同源 MatMul,通过 Pack + BatchMatMulV2 + Split + Squeeze 合并为批量矩阵乘法 - **graph_base_pass/5_mmoe_matmul_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络首层多个同源 MatMul,通过 Concat + MatMul + SplitV 合并为单个大尺寸 MatMul - **pattern_base_pass/8_bmm_tile_pass**:基于 PatternFusionPass 注册,消除共享权重场景下冗余的 Tile 算子,利用 BatchMatMulV2 首维广播能力替代显式数据扩展 - **pattern_base_pass/9_bmm_to_mul_reduce_pass**:基于 PatternFusionPass 注册,将 n=1 且 k<=16 的 BatchMatMulV2 改写为 Mul + ReduceSumD,利用 vector 单元提升性能 ## 变更类型 - [x] ✨ 新功能 - [x] 📝 文档内容更新 ## 关联的Issue ## 如何测试 1. 进入各 pass 的 cpp 目录,执行 mkdir build && cd build && cmake .. && make 验证编译通过 2. 执行 make install 安装 pass so,使用 quick_verify.sh 脚本验证融合效果 3. 执行 make clean_custom_pass 清理安装的 pass so ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定 ## 其他信息 4 个样例覆盖 graph_base_pass 和 pattern_base_pass 两种注册方式,均提供 C++ 源码、CMakeLists、中英文 README、ONNX 生成脚本和一键验证脚本。 See merge request: cann/ge!3999 | 2 个月前 | |
feat: 新增4个融合pass样例 Co-authored-by: qq_45842700<caodazhou@huawei.com> # message auto-generated for no-merge-commit merge: !3999 merge feat/add-fusion-pass-examples into develop feat: 新增4个融合pass样例 Created-by: qq_45842700 Commit-by: qq_45842700 Merged-by: cann-robot Description: # Pull Request ## 描述 新增 4 个融合 pass 样例: - **graph_base_pass/4_mmoe_bmm_split_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络非首层多个同源 MatMul,通过 Pack + BatchMatMulV2 + Split + Squeeze 合并为批量矩阵乘法 - **graph_base_pass/5_mmoe_matmul_pass**:基于 REGISTER_CUSTOM_PASS 注册,针对 MMOE 网络首层多个同源 MatMul,通过 Concat + MatMul + SplitV 合并为单个大尺寸 MatMul - **pattern_base_pass/8_bmm_tile_pass**:基于 PatternFusionPass 注册,消除共享权重场景下冗余的 Tile 算子,利用 BatchMatMulV2 首维广播能力替代显式数据扩展 - **pattern_base_pass/9_bmm_to_mul_reduce_pass**:基于 PatternFusionPass 注册,将 n=1 且 k<=16 的 BatchMatMulV2 改写为 Mul + ReduceSumD,利用 vector 单元提升性能 ## 变更类型 - [x] ✨ 新功能 - [x] 📝 文档内容更新 ## 关联的Issue ## 如何测试 1. 进入各 pass 的 cpp 目录,执行 mkdir build && cd build && cmake .. && make 验证编译通过 2. 执行 make install 安装 pass so,使用 quick_verify.sh 脚本验证融合效果 3. 执行 make clean_custom_pass 清理安装的 pass so ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定 ## 其他信息 4 个样例覆盖 graph_base_pass 和 pattern_base_pass 两种注册方式,均提供 C++ 源码、CMakeLists、中英文 README、ONNX 生成脚本和一键验证脚本。 See merge request: cann/ge!3999 | 2 个月前 |
融合Pass样例
本目录提供了继承GE提供的类并重写其方法来实现自定义融合pass的相关样例:
| 样例 | 样例链接 |
|---|---|
| MatMul+Add融合为GEMM自定义pass样例 | README |
| 移动Concat后ReLu至Concat前的自定义pass样例 | README |
| 移动Concat后ReLu至Concat前的自定义pass样例(Python 版本) | README |
| 修改卷积算子data format的自定义pass样例 | README |
| 修改卷积算子data format的自定义pass样例(Python 版本) | README |
| MMOE网络MatMul融合(Pack+BatchMatMulV2+Split)自定义pass样例 | README |
| MMOE网络首层MatMul融合(Concat+MatMul+SplitV)自定义pass样例 | README |
开发指南
如果要开发基于 pattern 匹配的融合 pass,推荐先阅读: