Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
AscendC静态场景需要支持算子配置Tiling强制常量传播,将tiling信息持续在算子内部传递下去,tiling结构体的暂存、指针赋值不会中断算子tiling的传递。 这样算子执行中,与tiling数据相关的scalar会大幅减少。
配合算子性能优化时,AscendC自发现问题,自提需求;
价值:在静态shape、使用V1注册tiling结构体的场景下,算子中与tiling数据相关的scalar会折叠、大幅减少,获得可观的性能收益。 以Ascend950PR系列Conv2D算子为例,静态shape场景下性能可提升20%左右。
/assign
/close
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
AscendC静态场景需要支持算子配置Tiling强制常量传播,将tiling信息持续在算子内部传递下去,tiling结构体的暂存、指针赋值不会中断算子tiling的传递。
这样算子执行中,与tiling数据相关的scalar会大幅减少。
Origin(信息来源)
配合算子性能优化时,AscendC自发现问题,自提需求;
Benefit / Necessity (价值/作用)
价值:在静态shape、使用V1注册tiling结构体的场景下,算子中与tiling数据相关的scalar会折叠、大幅减少,获得可观的性能收益。
以Ascend950PR系列Conv2D算子为例,静态shape场景下性能可提升20%左右。
Design(设计方案)