| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Co-authored-by: chengyutao3<chengyutao3@huawei.com> # message auto-generated for no-merge-commit merge: !4566 merge develop into develop 【feat】: JIT 调度与切图解耦,开启自动融合时整图jit执行 Created-by: chengyutao3 Commit-by: chengyutao3 Merged-by: cann-robot Description: # Pull Request ## 描述 本 PR 将 AutoFuse JIT 执行能力从“支持切片调度的图”扩展为“整图 JIT”模式。 主要变更内容如下： 1. 新增 EnableAutoFuse()，统一判断 AutoFuse 是否启用，并将 AutoFuse 模式下的图管理、编译、加载、执行及运行模式设置统一路由至 UserGraphsManager。 2. 扩展 UserGraphControl，支持整图的动态添加、编译、加载和执行： - 支持 ge::Tensor 和 gert::Tensor 两类输入输出。 - 支持普通执行和带 Stream 的异步执行。 - 支持保存、获取和设置 RunGraphMode。 - 在控制器结束时清理临时创建的整图实例。 3. 调整执行顺序生成逻辑： - 支持切片调度的图继续执行符号推导和二分切图。 - 不支持切片调度的图直接以整图方式编译执行。 - 整图模式下提前创建或更新 NetOutput，确保输出大小信息能够正确校正。 - 增加 WholeGraph_ 和 SlicedGraph_ 图 Dump 前缀，便于区分调试产物。 4. 调整 Session 和 GeSession V2 的接口调用： - AutoFuse 模式下，RunGraph、RunGraphWithStreamAsync、编译及加载流程统一使用 JIT 图管理路径。 - AutoFuse 模式下禁止设置或更新图常量内存、Feature 内存，并将错误提示从“slice scheduler”更新为“JIT executor”。 - 避免在 AutoFuse 模式下重复执行传统图加载逻辑。 5. 移除原有“不支持 Slice Schedule 图”的黑名单逻辑，改为在 AutoFuse 模式下统一创建 UserGraphControl，由执行顺序决定采用切片编译或整图编译。 6. 更新 AutoFuse 系统测试，使其通过真实的 CompileGraph 流程触发编译，并从 JIT 编译缓存中的图副本检查融合结果。 7. 新增和完善相关单元测试，覆盖： - 整图静态 Shape 执行。 - GeTensor 和 gert::Tensor 输入输出执行。 - Stream 异步执行。 - AutoFuse 模式下 RunGraphMode 的获取与设置。 - AutoFuse 模式下图内存接口不支持场景。 8. 调整测试图输入尺寸及相关测试构建头文件路径，以适配整图 JIT 流程。 ## 变更类型 请选择本次引入的变更类型： <!-- [x] 表示选中 --> - [ ] 🐛 Bug 修复 - [x] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在当前页面的右侧'关联Issue'部分添加相应Issue链接，并勾选'合并后关闭已关联的 Issue'选项。 --> 暂无关联 Issue。 ## 如何测试 描述测试此变更的步骤和前提条件： 前提条件： - 已完成 GE 项目依赖和编译环境配置。 - 测试环境支持 GE UT/ST 构建。 - AutoFuse 测试需要设置 AUTOFUSE_FLAGS，启用 --enable_autofuse=true；涉及切片调度的测试还需要启用 --experimental_enable_jit_executor_v2=true。 1. 编译 GE 相关组件及测试目标： bash bash build.sh --ge_compiler --ge_executor 2. 编译并运行 JIT Execution 相关单元测试，重点检查以下测试文件： - tests/ge/ut/ge/jit_execution/execution_order_unittest.cc - tests/ge/ut/ge/jit_execution/jit_executor_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_ctrl_unittest.cc - tests/ge/ut/ge/jit_execution/user_graph_manager_unittest.cc 3. 运行 Session V2 API 单元测试，重点验证 AutoFuse 模式下图执行及图内存接口行为： - tests/ge/ut/ge/session_v2/ge_api_v2_unittest.cc - SliceSchedule_UnsupportedPaths 4. 运行 AutoFuse 系统测试： - tests/ge/st/testcase/autofuse/autofuse_canfuse_test.cc 验证水平融合、垂直融合以及不同算子组合的融合结果，并确认测试通过 Session::CompileGraph 触发真实 JIT 编译，从 JIT 编译图副本中检查 AscBackend 和融合属性。 5. 重点验证以下场景： - 支持 Slice Schedule 的图仍可正常切片编译。 - 不支持 Slice Schedule 的图可以通过整图 JIT 路径完成编译、加载和执行。 - 普通 RunGraph、RunGraphAsync 以及 RunGraphWithStreamAsync 路径均能正确路由。 - AutoFuse 模式下设置图常量内存或 Feature 内存时返回 UNSUPPORTED，且日志提示为 JIT executor 不支持。 ## 核对清单 <!-- [x] 表示选中 --> - [x] 我的代码遵循了项目的代码风格 - [ ] 我已对代码进行了自测 - [ ] 我已更新了相关的文档 - [ ] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 本次提交共修改 19 个文件，新增约 495 行代码，删除约 187 行代码。 See merge request: cann/ge!4566 | 3 天前 | |
feat: 校验 deterministic 与 level 一致性 Co-authored-by: 谢正恺<xiezhengkai@huawei.com> # message auto-generated for no-merge-commit merge: !4247 merge batch_deterministic_level_validation into develop feat: 校验 deterministic 与 level 一致性 Created-by: ClarkXie Commit-by: 谢正恺 Merged-by: cann-robot Description: # Pull Request ## 描述 - ATC 仅在用户通过命令行或 raw options 显式传入 deterministic_level 时校验一致性。 - IR 构图仅在 aclgrphBuildInitialize 的全局 options 包含 ge.deterministicLevel 时校验一致性。 - 显式传入 level=0 时仍执行校验，并保留取值范围检查。 ## 变更类型 - [x] 🐛 Bug 修复 - [ ] ✨ 新功能 - [ ] 💄 代码风格更新（格式化，局部变量） - [ ] ♻️ 重构（既不修复错误也不增加功能的代码变动） - [ ] 📦 构建过程或辅助工具的变动 - [ ] 📝 文档内容更新 ## 关联的Issue 无。 ## 如何测试 ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签 - [x] 我已经详细阅读了贡献指南，并遵守了相关规定 ## 其他信息 本 PR 相对 develop 仅包含一个提交。 See merge request: cann/ge!4247 | 25 天前 | |
feat: 接入ONNX Plugin Python bridge到真实ParseParamsFn Co-authored-by: gentle-knight<522025150054@smail.nju.edu.cn> # message auto-generated for no-merge-commit merge: !4455 merge feat/onnx-plugin-python-pr2-bridge into develop feat: 接入ONNX Plugin Python bridge到真实ParseParamsFn Created-by: gentle-knight Commit-by: gentle-knight Merged-by: cann-robot Description: ## 描述 在PR1（#4421 native bindings）基础上，以独立bridge SO完成Python descriptor/registry到parser真实ParseParamsFn的闭环。 PR2新增内容： - 新增 ge_python_onnx_plugin_bridge独立SO，复用现有loader/registry/OpRegistrationTbe/OpRegistry，不新增第二套注册表或扫描器 - PrepareBeforeParse在C++插件初始化成功后、ASCEND_CUSTOM_OPP_PATH非空时按需dlopen bridge - bridge以py::cast(NodeProto*, reference)借用parser已有对象构造native OnnxNode，不取得所有权 - ge::Operator地址作为ctypes借用句柄传入Python callback，callback结束后失效 - callback返回None映射SUCCESS，返回非None映射PARAM_INVALID，Python异常映射FAILED - OpRegistry使用已有完整(target, origin_type)键检查保持C++优先，Python不覆盖已有C++注册 - 删除Python bridge UT中的SimpleNamespace测试接缝，改为C++ parser UT直接构造真实ge::onnx::NodeProto - 新增成功/异常/非None返回/C++优先四类场景测试 不包含ParseParamsByOperatorFn、ParseOpToGraphFn、ParseSubgraph、ES子图构图、Tensor/TensorDesc/DataType、通用PluginContext。 ## 变更类型 - [x] ✨ 新功能 ## 关联的Issue 依赖PR1 #4421（native bindings），当前为stacked PR。 ## 如何测试 1. 编译ge_python_onnx_plugin_bridge和fmk_onnx_parser目标 2. 编译ut_parser并运行OnnxPythonPluginBridge测试用例 3. 设置ASCEND_CUSTOM_OPP_PATH指向测试Python插件，验证真实ONNX parser闭环 ## 核对清单 - [x] 我的代码遵循了项目的代码风格 - [x] 我已对代码进行了自测 - [x] 我已更新了相关的文档 - [x] 我在标题中使用了合适的类型标签（如：feat:, fix:） - [x] 我已经详细阅读了贡献指南（CONTRIBUTING.md），并遵守了其中的所有规定，包括但不限于commit message的格式、无效commit的合并等 ## 其他信息 - 工作代码约221行，测试代码约168行，未超出PR2预算 - bridge为独立SO，不进入graph_metadef，不向Python暴露protobuf指针 - 未修改生产native OnnxNode模块，未增加测试工厂 - 本地编译通过：ge_python_onnx_plugin_bridge、fmk_onnx_parser、ut_parser - pre-commit全部通过 See merge request: cann/ge!4455 | 4 天前 |