Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
需求来源: 需要补齐一个最小可用的 control 原语,对标 torch.cuda._sleep torch 自定义接口(https://github.com/pytorch/pytorch/blob/main/aten/src/ATen/cuda/Sleep.cu)。 使用场景: 可用于在当前 stream 中插入设备侧可控延时片段,服务于执行流顺序控制、调测、调度验证。 torch.cuda._sleep 主要用途是测试中使用,用于精确控制kernel执行时间;可用于测试CUDA stream的异步/并发行为;验证event、barrier的正确同步语义。在主流三方库 VeOmni 中用到
产品线团队提出需要支持torch.cuda._sleep算子 ,要求730前交付
当前npu上确实对于算子和API,为提升兼容性,需要补齐该算子。
主要通过AscendC API的clock()接口实现让AI Core等待一段时间的机制
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
需求来源:
需要补齐一个最小可用的 control 原语,对标 torch.cuda._sleep torch 自定义接口(https://github.com/pytorch/pytorch/blob/main/aten/src/ATen/cuda/Sleep.cu)。
使用场景:
可用于在当前 stream 中插入设备侧可控延时片段,服务于执行流顺序控制、调测、调度验证。
torch.cuda._sleep 主要用途是测试中使用,用于精确控制kernel执行时间;可用于测试CUDA stream的异步/并发行为;验证event、barrier的正确同步语义。在主流三方库 VeOmni 中用到
Origin(信息来源)
产品线团队提出需要支持torch.cuda._sleep算子 ,要求730前交付
Benefit / Necessity (价值/作用)
当前npu上确实对于算子和API,为提升兼容性,需要补齐该算子。
Design(设计方案)
主要通过AscendC API的clock()接口实现让AI Core等待一段时间的机制