已合并
【feat】: HostCPU 融合 Codegen 迁移至标准 CustomOp #4669
ZhuXincheng创建于 4 天前
【feat】: HostCPU 融合 Codegen 迁移至标准 CustomOp #4669
已合并
ZhuXincheng创建于 4 天前
ZhuXincheng
ZhuXincheng成员
4 天前

Pull Request

描述

将 HostCPU 融合 Codegen 从 RT2 私有 FusedHostCpuCompute ABI 迁移为标准 HostCPU CustomOp SO 链路。

  • HostCpuFusionPass 筛选可融合的 SmallShape HostCPU 节点,按连通域和 sink 规划融合区域,并在全部 JIT 准备成
    功后再提交图替换;
  • 生成实现 HostCpuExecuteOp / PortableOp 的 CustomOp SO,运行时通过 AicpuHostFindFunc 获取原始算子的
    Gert HostKernel,按原拓扑执行;
  • 将生成 SO 以 kCustomOp 写入 root graph 的 bin_file_buffer,接入 CustomOp 注册、切图属性继承及 SO in OM
    打包;
  • 移除旧的私有 SO 加载、RT2 私有 Compute 节点和私有 C ABI 路径,复用通用 CustomOp 生命周期。

变更类型

请选择本次引入的变更类型:

关联的Issue

如何测试

描述测试此变更的步骤和前提条件:
1.
2.

核对清单

其他信息

在此添加任何其他关于本次 PR 的说明。

likedislike
Pull Request已成功合入, 合并人@CANN-robot
(感谢 ZhuXincheng 的贡献)
ZhuXinchengZhuXincheng成员
4 天前 添加了label:enhancement
ZhuXinchengZhuXincheng成员
4 天前 创建了 pull request,commit 810e30b0
atomgit-bot
atomgit-bot
4 天前 评论:

🤖 正在生成合并请求摘要,请稍候…

likedislike
atomgit-bot
atomgit-bot
4 天前 评论:

🤖 AI 代码检视正在进行中,请稍候…

likedislike
CANN-robotCANN-robot成员
4 天前 添加了label:cann-cla/yes
此处折叠了47条消息 查看更多
yangyongqiang
yangyongqiang成员
4 天前 评论:

/lgtm

likedislike
CANN-robotCANN-robot成员
4 天前 添加了label:lgtm
yangyongqiang
yangyongqiang成员
4 天前 评论:

/approve

likedislike
CANN-robotCANN-robot成员
4 天前 添加了label:approved
CANN-robotCANN-robot成员
4 天前 合入了pull request