Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
HCCL在AclGraph中为了提升通讯算子性能,采用零拷贝的通讯算法,在算子下发时,对每个通讯算子的输入输出内存进行IPC内存映射,并缓存映射后的内存信息缓存,避免重复映射。用户在AclGraph执行完成后,销毁graph、释放通信算子的输入输出内存。用户重新Capture Graph,并申请通信算子的输入输出内存,该内存可能与前一个算子相同,导致HCCL从缓存中获取,未进行重新映射,从而导致跨片访问IPC内存失败。故Runtime在AclGraph销毁时能够通过回调函数通知HCCL清理IPC内存信息缓存
HCCL
可以在模型销毁时执行自定义清理逻辑,确保资源正确释放和状态同步。
新增注册回调函数接口和去注册回调函数接口,在模型销毁后执行用户注册的回调函数。
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
HCCL在AclGraph中为了提升通讯算子性能,采用零拷贝的通讯算法,在算子下发时,对每个通讯算子的输入输出内存进行IPC内存映射,并缓存映射后的内存信息缓存,避免重复映射。用户在AclGraph执行完成后,销毁graph、释放通信算子的输入输出内存。用户重新Capture Graph,并申请通信算子的输入输出内存,该内存可能与前一个算子相同,导致HCCL从缓存中获取,未进行重新映射,从而导致跨片访问IPC内存失败。故Runtime在AclGraph销毁时能够通过回调函数通知HCCL清理IPC内存信息缓存
Origin(信息来源)
HCCL
Benefit / Necessity (价值/作用)
可以在模型销毁时执行自定义清理逻辑,确保资源正确释放和状态同步。
Design(设计方案)
新增注册回调函数接口和去注册回调函数接口,在模型销毁后执行用户注册的回调函数。