已合并
feat: 自定义算子多模型支持 #3026
Chang-an-HW创建于 5月20日
feat: 自定义算子多模型支持 #3026
已合并
Chang-an-HW创建于 5月20日
Chang-an-HW成员
5月20日

Pull Request

描述

实现自定义算子(Custom Op)多模型支持,为每个模型建立独立的 CustomOpRegistry,
确保不同模型的同名自定义算子互不干扰。

核心变更:

  • 引入统一的 CustomOpRegistry,支持模型级隔离
  • 实现基于内容寻址租约(content-addressed lease)的 SO 加载机制
  • 在运行时中接入模型级 custom op registry
  • 重构 CustomOpFactoryImpl,由 CustomOpFactory 直接管理注册表
  • 拦截空自定义算子序列化,避免异常

变更类型

如何测试

  1. 编译 GE 项目:bash build.sh --ge_compiler
  2. 运行相关 UT:自定义算子注册、加载、序列化相关用例
  3. 验证多模型场景下同名自定义算子互不干扰

核对清单

其他信息

2547 个文件变更,449973 行新增,9548 行删除(含大量测试代码和 stub)。
此 PR 包含从基础注册表到运行时接入的完整链路。

likedislike
Pull Request已成功合入, 合并人@CANN-robot
(感谢 Chang-an-HW 的贡献)
CChang-an-HW成员
5月20日 创建了 pull request,commit b73d70d7
CChang-an-HW成员
5月20日 update merge request[project id: 8824148, iid: 3026, commit_id: 4171be23833535acfcf76a53d1305f88b9de98ab] virtual merging success
CChang-an-HW成员
5月20日 强制推送  83 个提交:b73d70d7-69 commits from branch developcbebc332-chore: update cann toolkit version for dev env,71f324db-feat: introduce unified custom op registry,b1f3e829-fix: avoid holding custom op factory lock during deserialize,01dac963-feat: add implicit pull registration for custom ops,c21117d8-fix: keep custom op pull registry so-local,99297b50-feat(task3): load custom op so by content-addressed lease,89fdfe50-feat: task 3 add support for unit testing in custom op loader,67e744e5-feat: task 3 add timeout handling for concurrent loading in CustomOpSoLoader unit test,8dac1b9b-feat: task 3 refactor loading mechanism in CustomOpSoLoader to improve concurrency handling,085b5567-feat(task4): build per-model custom op registry,0878fe1e-feat(task5): attach custom op registry to root model loading,84b84a78-feat(task6-7): wire model custom op registry into runtime,f885350f-fix: 拦截空自定义算子序列化,c03f01ed-refactor: 移除 CustomOpFactoryImpl,CustomOpFactory 直接管理 CustomOpRegistry
CChang-an-HW成员
5月20日 update merge request[project id: 8824148, iid: 3026, commit_id: 4e48ec276b4012221d7b50546a1742e68e53702b] virtual merging success
CANN-robotCANN-robot成员
5月20日 添加了label:stat/needs-squash
此处折叠了1099条消息 查看更多
yuht9成员
6月10日 评论:

/lgtm

likedislike
CANN-robotCANN-robot成员
6月10日 添加了label:lgtm
wangxiaotian995成员
6月10日 评论:

/approve

likedislike
CANN-robotCANN-robot成员
6月10日 添加了label:approved
CANN-robotCANN-robot成员
6月10日 合入了pull request