已关闭
[Requirement|需求建议]: DynamicMxQuant量化轴为尾轴切分负载均衡优化 #1707
pyongq创建于  3月25日关闭于  3月28日
pyongq
pyongq
3月25日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

对量化轴为尾轴,且blockSize为32时的tiling切分进行负载均衡的优化,解决了输入shape由小至大出现性能的毛刺现象。

Origin(信息来源)

Vector

Benefit / Necessity (价值/作用)

整体提升尾轴且blocksize=32场景的性能,性能曲线更加稳定。
image.png

Design(设计方案)

tiling切分使用负载均衡算法,将输入数据按1*256的块均分到每个核上去,同时修改Kernel侧的整体框架

likedislike
pyongq
pyongq
3月25日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
3月25日 将 pyq17870581669 设为负责人
CANN-robotCANN-robot成员
3月28日 关闭了 issue
CANN-robotCANN-robot成员
3月28日 添加了label:resolved