| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 25 天前 | |
【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Co-authored-by: jikai-tyler<jikai5@huawei.com> # message auto-generated for no-merge-commit merge: !3568 merge jk_external into develop 【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Created-by: jikai-tyler Commit-by: jikai-tyler Merged-by: cann-robot Description: # Pull Request ## 描述 对外头文件整改，新增转发头文件后修改引用和配置。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1. 2. ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3568 | 2 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
fix: precommit整改 Co-authored-by: yelongjian<yelongjian1@huawei.com> # message auto-generated for no-merge-commit merge: !3726 merge dev-precommit into develop fix: precommit整改 Created-by: yelongjian Commit-by: yelongjian Merged-by: cann-robot Description: # Pull Request ## 描述 precommit整改 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [ ] ✨ 新功能 - [x] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1.NA ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3726 | 2 个月前 | |
【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Co-authored-by: jikai-tyler<jikai5@huawei.com> # message auto-generated for no-merge-commit merge: !3568 merge jk_external into develop 【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Created-by: jikai-tyler Commit-by: jikai-tyler Merged-by: cann-robot Description: # Pull Request ## 描述 对外头文件整改，新增转发头文件后修改引用和配置。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1. 2. ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3568 | 2 个月前 | |
【PR】: Host tensor value symbolize Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4443 merge develop into develop 【PR】: Host tensor value symbolize Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本次提交为 host tensor（host 侧输入张量）新增**值符号化（value symbolization）**能力，使依赖输入 tensor 具体数值（如 Reshape 的 shape 输入）进行符号推导的场景不再需要把输入搬到 device，从而提升 JIT 执行与符号推导的准确性和性能。 核心变更包括： 1. **新增 graph 级 option ge.inputHintValue**：支持通过 input_index:[v0,v1,...] 的形式为指定输入指定符号化提示值（与已有 ge.inputHintShape 对齐），并在 option_supportion_checker 中将该 option 登记为受支持项。 2. **值符号化实现**（symbolic_shape_symbolizer.cc）： - 新增 SymbolizeInputValue，优先使用真实 host 数据（支持 INT32/INT64/UINT32/UINT64，元素数上限 200）生成逐元素符号；无真实数据时回退到 ge.inputHintValue 配置值。 - 新增 InputValueElementSource，生成可在运行时读取 GetGraphInputTensor(idx) 对应元素数值的 source 串。 3. **值依赖输入识别**（symbolic_infer_util.cc）：新增 IsValueDependentDataNode / GetValueDependentInputIdxs，通过算子的 IsInputDataDependency 与 op_infer_depends 判定哪些图输入是"值依赖"的，结果缓存到图 attr 中。 4. **JIT 执行路径适配**（jit_executor.cc）： - CopyHostInputsToDevice 支持 keep_on_host_idxs，值依赖的 host 输入不再拷贝到 device。 - BuildCompileInputs 对已在 host 的输入跳过重复拷贝。 - MarkHostTensorOnDataNodes 改为直接基于 ComputeGraph 处理。 5. **option 解析重构**（option_utils.cc/h）：将 ge.inputHintShape 的解析逻辑抽象为通用模板 ParseIndexedListOption，并复用其实现新增 ParseHintInputValue。 6. **测试补充与适配**：新增 UT symbolic_value_inference_unittest.cc、ST test_symbolize_value_and_infer.cc 的 hint value/真实数据用例；JIT 相关用例将 shape 输入由 INT32 调整为 INT64 并置为 host placement；user_graph_manager 用例按"值符号化后 reshape 不再切分执行点"的预期更新。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1. 运行符号值推导相关用例：tests/ge/ut/ge/graph/optimize/symbolic/symbolic_value_inference_unittest.cc（compile_path_reshape_with_hint_value、execute_path_reshape_with_real_data）。 2. 运行 autofuse ST：tests/ge/st/testcase/autofuse/test_symbolize_value_and_infer.cc（reshape_symbolize_infer_with_input_hint_value、reshape_symbolize_infer_with_real_data）。 3. 运行 JIT 执行相关用例：jit_executor_unittest.cc、user_graph_manager_unittest.cc（验证值符号化后图不再切分、host 输入不被重复拷贝）。 4. 构造含 Reshape 且 shape 输入为 host tensor 的模型，配置 ge.inputHintValue（如 1:[5, 400]），确认符号化推导结果符合预期，且无 device 拷贝开销。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [ ] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 值符号化优先级：真实 host data > ge.inputHintValue 配置值；当已存在符号化 value 时跳过。 - 阈值 kMaxSymbolizeValueElemNum = 200 与 symbolic_shape_inference.cc 中的 kMaxSymbolicValueSize 保持一致，仅对 shape/索引类小 tensor 进行值符号化。 - 值依赖输入识别结果以图 attr _ge_value_dependent_idxs 缓存，避免重复计算。 See merge request: cann/ge!4443 | 1 个月前 | |
【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Co-authored-by: jikai-tyler<jikai5@huawei.com> # message auto-generated for no-merge-commit merge: !3568 merge jk_external into develop 【PR】: 对外头文件整改，新增转发头文件后修改引用和配置 Created-by: jikai-tyler Commit-by: jikai-tyler Merged-by: cann-robot Description: # Pull Request ## 描述 对外头文件整改，新增转发头文件后修改引用和配置。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> ## 如何测试 描述测试此变更的步骤和前提条件： 1. 2. ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如： feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 在此添加任何其他关于本次 PR 的说明。 See merge request: cann/ge!3568 | 2 个月前 | |
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 25 天前 | |
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 25 天前 | |
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 25 天前 | |
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 25 天前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 个月前 | ||
| 25 天前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 25 天前 | ||
| 25 天前 | ||
| 25 天前 | ||
| 25 天前 |