| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
feat: add Python custom op proto contracts - add the owning TensorDesc runtime binding - parse and freeze Python custom op prototype descriptors - keep registrations idempotent and report complete conflict sources - export register_op and support Python 3.7 typing metadata - document the register_op public API | 1 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
feat: add Python custom op proto contracts - add the owning TensorDesc runtime binding - parse and freeze Python custom op prototype descriptors - keep registrations idempotent and report complete conflict sources - export register_op and support Python 3.7 typing metadata - document the register_op public API | 1 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
feat: 新增 --multi_stream_parallel_mode ATC 开关 Co-authored-by: cao qiancheng<220255669@seu.edu.cn> Co-authored-by: Mexyy<xiaguozheng1@hisilicon.com> # message auto-generated for no-merge-commit merge: !4184 merge feat/multi_stream_parallel_mode_atc into develop feat: 新增 --multi_stream_parallel_mode ATC 开关 Created-by: sunsummercqc Commit-by: cao qiancheng;Mexyy Merged-by: cann-robot Description: # Pull Request ## 描述 为 ATC 命令行新增 --multi_stream_parallel_mode 选项,支持在离线编译场景中配置多流并行策略。 **背景**:当前 ge.autoMultistreamParallelMode 仅在 TF Adapter(Session 入口)可用,ATC 离线编译场景缺少该配置入口。 **变更**: 1. base/common/option_register.cc:将存量选项 ge.autoMultistreamParallelMode 注册为优化选项,ATC CLI 名称 --multi_stream_parallel_mode,优化等级 O3,默认值 ""(与主线一致) 2. api/atc/main_impl.cc:新增 --multi_stream_parallel_mode 与 --enable_single_stream 互斥检查,同时设置时通过 E10056 报错 **取值**:None(默认)、cv、LoadBalance:N、MainStream:N(N∈[1,64]) ## 变更类型 - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue 无 ## 如何测试 1. 编译 GE:bash build.sh --ge_compiler 2. 确认开关出现在帮助信息:atc --help | grep multi_stream_parallel 3. 合法值测试:atc --model=xxx --soc_version=Ascend910B --multi_stream_parallel_mode=LoadBalance:8 --output=xxx 4. 互斥检查:同时指定 --multi_stream_parallel_mode 和 --enable_single_stream=true,应报错 Cannot configure both parameters 5. --raw_ge_options 路径:{"compile options": {"global": {"ge.autoMultistreamParallelMode": "LoadBalance:8"}}}应正常编译 ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 设计文档:docs/zh/design/features/auto_multistream_parallel_mode_atc.md - 测试设计:docs/zh/design/features/auto_multistream_parallel_mode_test_cases.md - 不触碰流分配消费端(compiler/graph/build/stream/),只修改选项注册层和 ATC 入口层 - 静态 Shape 和动态 Shape 均适用(动态 Shape 下需配合 ENABLE_DYNAMIC_SHAPE_MULTI_STREAM=1) - --raw_ge_options 路径新增对该选项的识别(此前未注册到 OptionRegistry,raw 路径会报 unsupported option) - Session API 路径行为不变,不经过 ATC 冲突检测 See merge request: cann/ge!4184 | 1 个月前 | |
【PR】:更新产品文档 Co-authored-by: sophia1213<sophie.chen@huawei.com> # message auto-generated for no-merge-commit merge: !3851 merge develop into develop 【PR】:更新产品文档 Created-by: sophia1213 Commit-by: sophia1213 Merged-by: cann-robot Description: # Pull Request ## 描述 更新docs目录下的产品文档。 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 根据最新资料进行测试 ## 核对清单 <!-- [x] 表示选中 --> - [ ] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [ ] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3851 | 2 个月前 | |
【fix】: 修改 build.md Co-authored-by: kantao1<kantao1@huawei.com> # message auto-generated for no-merge-commit merge: !4083 merge refactoring into develop 【fix】: 修改 build.md Created-by: kantao1 Commit-by: kantao1 Merged-by: cann-robot Description: # Pull Request ## 描述 原本的 “编译完成后,用户可以进行开发者测试” 多余,且容易给用户造成误解。用户理解成:需要先编译才能进行开发者测试。。实际二者是正交的。 当前把 “编译完成后,用户可以进行开发者测试” 移除。 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> https://gitcode.com/cann/ge/issues/487 ## 如何测试 描述测试此变更的步骤和前提条件: 1. ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!4083 | 1 个月前 | |
fix(docs): correct CANNLab project resource directory paths in quick_install Co-authored-by: 谢正恺<xiezhengkai@huawei.com> # message auto-generated for no-merge-commit merge: !3728 merge fix/quick-install-docs into develop fix(docs): correct CANNLab project resource directory paths in quick_install Created-by: ClarkXie Commit-by: 谢正恺 Merged-by: cann-robot Description: # Pull Request ## 描述 修复 docs/en/quick_install.md 和 docs/zh/quick_install.md 中关于 CANNLab 环境资源目录的错误描述。 原文档中将路径描述为 /mnt/workspace/gitCode/${gitCode_id},但实际 CANNLab 环境中不存在该目录。 根据实际环境,路径应为: - 从 CANN 社区仓库创建的环境:/mnt/workspace/gitCode/cann - 从个人 fork 仓库创建的环境:/mnt/workspace/gitCode/{fork仓库} ## 变更类型 - [x] 📝 文档内容更新 ## 关联的Issue Closes #428 ## 如何测试 1. 在 CANNLab 环境中验证路径正确性 ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定 ## 其他信息 无 See merge request: cann/ge!3728 | 2 个月前 |
GE资料书架总览
文档
-
面向单卡的图编译和执行,提供GE基本概念、原理介绍、以及如何使用GE图引擎接口进行图的构建,编译和运行等。
-
面向异构和集群的图编译和执行,介绍如何通过DataFlow接口构建、修改、编译和执行计算图。
-
面向大模型,介绍如何使用LLM-DataDist接口实现集群间的数据传输,构建大模型推理分离式框架。
技术文章
-
介绍GE如何通过通用的图优化技术(比如常量折叠)和特有的增强图优化技术(比如Shape优化技术),提升算法计算效率。
-
介绍多流并行技术的实现原理和使能方式,以及通过该技术,如何提高硬件资源利用率。
-
介绍GE如何结合业界标准的内存优化手段,利用全图视角精细调优内存复用算法和拓扑排序,进一步压缩网络内存占用,从而降低网络内存占用。
-
介绍GE如何通过图模式的Host调度和模型下沉调度的方式,提升模型调度性能,缩短模型E2E执行时间。
-
介绍Host调度优化的关键技术,以及如何通过这些技术提升异构系统资源的利用率。
-
介绍自动融合的实现原理和使能方式,以及通过该技术,如何缩短模型E2E时间。
API
- GraphEngine API
- DataFlow API
- LLM DataDist API