| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
【PR】: docs/zh/api/graph_engine_api/c/acl目录下的md文件增加产品标签 Co-authored-by: ycm0028<yechengmei@huawei.com> # message auto-generated for no-merge-commit merge: !4526 merge develop into develop 【PR】: docs/zh/api/graph_engine_api/c/acl目录下的md文件增加产品标签 Created-by: ycm0028 Commit-by: ycm0028 Merged-by: cann-robot Description: # Pull Request ## 描述 docs/zh/api/graph_engine_api/c/acl目录下的md文件增加产品标签 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 人工检查修改的md文件是否正确 ## 核对清单 <!-- [x] 表示选中 --> - [ ] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [ ] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!4526 | 1 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
refactor: 删除 Python custom op 历史 execute(ctx) 接口 Co-authored-by: du-hua1024<duhua2@huawei.com> # message auto-generated for no-merge-commit merge: !4500 merge op into develop refactor: 删除 Python custom op 历史 execute(ctx) 接口 Created-by: du-hua1024 Commit-by: du-hua1024 Merged-by: cann-robot Description: # Pull Request ## 描述 删除 Python custom op 历史 execute(ctx) 接口及相关适配逻辑,统一使用基于 canonical IR 的 schema-bound execute 回调。 主要变更: - 删除 BaseCustomOp、EagerExecuteOp 的 Python 外部继承方式及历史 base.py。 - execute 和 declare_launch_args 统一要求显式声明 -> None,并校验回调实际返回值必须为 None。 - 上下文不再作为 execute 入参,通过 get_execute_ctx() 获取 EagerOpExecutionContext。 - 删除 legacy execute 的 bridge、签名校验、示例和测试适配逻辑。 - 补充 EagerOpExecutionContext、get_execute_ctx、execute 及上下文方法的中文 API 文档。 ## 变更类型 - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [x] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue 无 ## 如何测试 修改用例执行正常,不影响先有execute example ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了静态自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:、fix:、refactor:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 本 PR 仅保留 schema-bound canonical IR 执行路径,不再兼容历史 execute(ctx) 写法。 See merge request: cann/ge!4500 | 1 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件: 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
fix(aclnn): RT2执行前设置确定性配置 Co-authored-by: 谢正恺<xiezhengkai@huawei.com> # message auto-generated for no-merge-commit merge: !4456 merge batch_deterministic into develop fix(aclnn): RT2执行前设置确定性配置 Created-by: ClarkXie Commit-by: 谢正恺 Merged-by: cann-robot Description: # Pull Request ## 描述 修复 RT2 ACLNN 离线模型确定性配置的设置时机,避免在 lowering 阶段或 Init 图中修改全局状态。 1. 在 lowering 阶段仅解析并保存模型的 DETERMINISTIC / DETERMINISTIC_LEVEL 配置,不再产生全局配置副作用。 2. ModelV2ExecutorBuilder 从根图读取配置,由 ModelV2Executor::Execute() 在主执行图调度前设置全局确定性配置,确保设置发生在多线程执行器启动算子任务之前。 3. Init 图不新增 SetAclnnGlobalDeterministicConfig kernel;ACLNN FwkData 仍保留原始配置,供算子级执行逻辑使用。 4. 当 deterministic 开启但 level 未显式设置时,使用默认有效 level 1。同步更新相关参数说明和测试断言。 ## 变更类型 - [x] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue 无。 ## 如何测试 CI ut_fast_runtime2_test 暴露的两个失败用例均为对 Init kernel 调用次数的过期断言;修正测试期望后,按单模型、非并发调用 ModelV2Executor::Execute() 的 RT2 ACLNN 场景进行验证。 本次修改未重新编译或运行 UT/ST。 ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如:feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md) ## 其他信息 ModelV2Executor 不支持并发 Execute 调用;本方案假设单个 model executor 按既有串行调用约束使用。 ### 确定性配置约束 当模型 deterministic=0 且未携带 deterministicLevel 时,按默认关闭确定性处理,ModelV2Executor::Execute() 不刷新全局确定性配置。 本方案不覆盖用户先调用 torch_npu.npu.set_deterministic_level(),再调用 torch.use_deterministic_algorithms() 修改确定性状态的混用场景。torch_npu 在 set_deterministic_level() 后已提示不要继续调用 torch.use_deterministic_algorithms(),因此该组合不在支持范围内。若 deterministic 开启但 level 未设置,则按有效 level 1 处理。 See merge request: cann/ge!4456 | 1 个月前 | |
【PR】:更新产品文档 Co-authored-by: sophia1213<sophie.chen@huawei.com> # message auto-generated for no-merge-commit merge: !3851 merge develop into develop 【PR】:更新产品文档 Created-by: sophia1213 Commit-by: sophia1213 Merged-by: cann-robot Description: # Pull Request ## 描述 更新docs目录下的产品文档。 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 根据最新资料进行测试 ## 核对清单 <!-- [x] 表示选中 --> - [ ] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [ ] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3851 | 2 个月前 | |
【fix】: 修改 build.md Co-authored-by: kantao1<kantao1@huawei.com> # message auto-generated for no-merge-commit merge: !4083 merge refactoring into develop 【fix】: 修改 build.md Created-by: kantao1 Commit-by: kantao1 Merged-by: cann-robot Description: # Pull Request ## 描述 原本的 “编译完成后,用户可以进行开发者测试” 多余,且容易给用户造成误解。用户理解成:需要先编译才能进行开发者测试。。实际二者是正交的。 当前把 “编译完成后,用户可以进行开发者测试” 移除。 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在当前页面的右侧'关联Issue'部分添加相应Issue链接,并勾选'合并后关闭已关联的 Issue'选项。 --> https://gitcode.com/cann/ge/issues/487 ## 如何测试 描述测试此变更的步骤和前提条件: 1. ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [x] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!4083 | 2 个月前 | |
【PR】: 更新手册的引用链接 Co-authored-by: sophia1213<sophie.chen@huawei.com> # message auto-generated for no-merge-commit merge: !4278 merge develop into develop 【PR】: 更新手册的引用链接 Created-by: sophia1213 Commit-by: sophia1213 Merged-by: cann-robot Description: # Pull Request ## 描述 更新手册的引用链接。 ## 变更类型 请选择本次引入的变更类型: <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新(格式化,局部变量) - [ ] ♻️ 重构(既不修复错误也不增加功能的代码变动) - [ ] 📦 构建过程或辅助工具的变动 - [x] 📝 文档内容更新 ## 关联的Issue 不涉及 ## 如何测试 根据最新的跳转链接进行测试 ## 核对清单 <!-- [x] 表示选中 --> - [ ] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签(如: feat:, fix:) - [ ] 我已经详细阅读了贡献指南(CONTRIBUTING.md),并遵守了其中的所有规定,包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!4278 | 1 个月前 |
GE资料书架总览
文档
-
面向单卡的图编译和执行,提供GE基本概念、原理介绍、以及如何使用GE图引擎接口进行图的构建,编译和运行等。
-
面向异构和集群的图编译和执行,介绍如何通过DataFlow接口构建、修改、编译和执行计算图。
-
面向大模型,介绍如何使用LLM-DataDist接口实现集群间的数据传输,构建大模型推理分离式框架。
技术文章
-
介绍GE如何通过通用的图优化技术(比如常量折叠)和特有的增强图优化技术(比如Shape优化技术),提升算法计算效率。
-
介绍多流并行技术的实现原理和使能方式,以及通过该技术,如何提高硬件资源利用率。
-
介绍GE如何结合业界标准的内存优化手段,利用全图视角精细调优内存复用算法和拓扑排序,进一步压缩网络内存占用,从而降低网络内存占用。
-
介绍GE如何通过图模式的Host调度和模型下沉调度的方式,提升模型调度性能,缩短模型E2E执行时间。
-
介绍Host调度优化的关键技术,以及如何通过这些技术提升异构系统资源的利用率。
-
介绍自动融合的实现原理和使能方式,以及通过该技术,如何缩短模型E2E时间。
API
- GraphEngine API
- DataFlow API
- LLM DataDist API