已关闭
[Requirement|需求建议]: 支持模型销毁回调注册 #172
jiaxingru创建于  3月5日关闭于  3月6日
jiaxingru
jiaxingru成员
3月5日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

HCCL在AclGraph中为了提升通讯算子性能,采用零拷贝的通讯算法,在算子下发时,对每个通讯算子的输入输出内存进行IPC内存映射,并缓存映射后的内存信息缓存,避免重复映射。用户在AclGraph执行完成后,销毁graph、释放通信算子的输入输出内存。用户重新Capture Graph,并申请通信算子的输入输出内存,该内存可能与前一个算子相同,导致HCCL从缓存中获取,未进行重新映射,从而导致跨片访问IPC内存失败。故Runtime在AclGraph销毁时能够通过回调函数通知HCCL清理IPC内存信息缓存

Origin(信息来源)

HCCL

Benefit / Necessity (价值/作用)

可以在模型销毁时执行自定义清理逻辑,确保资源正确释放和状态同步。

Design(设计方案)

新增注册回调函数接口和去注册回调函数接口,在模型销毁后执行用户注册的回调函数。

likedislike
jiaxingru
jiaxingru成员
3月5日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
3月5日 将 m0_60337577 设为负责人
CANN-robotCANN-robot成员
3月6日 关闭了 issue
CANN-robotCANN-robot成员
3月20日 添加了label:resolved