Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
对量化轴为尾轴,且blockSize为32时的tiling切分进行负载均衡的优化,解决了输入shape由小至大出现性能的毛刺现象。
Vector
整体提升尾轴且blocksize=32场景的性能,性能曲线更加稳定。
tiling切分使用负载均衡算法,将输入数据按1*256的块均分到每个核上去,同时修改Kernel侧的整体框架
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
对量化轴为尾轴,且blockSize为32时的tiling切分进行负载均衡的优化,解决了输入shape由小至大出现性能的毛刺现象。
Origin(信息来源)
Vector
Benefit / Necessity (价值/作用)
整体提升尾轴且blocksize=32场景的性能,性能曲线更加稳定。

Design(设计方案)
tiling切分使用负载均衡算法,将输入数据按1*256的块均分到每个核上去,同时修改Kernel侧的整体框架