已关闭
[Requirement|需求建议]: concat算子tilingdata压缩,减小头开销 #2849
hw-zhangpanpan创建于 22 天前关闭于 21 天前
22 天前 关联了pull request:tilingdata压缩
陈思
21 天前 评论:
21 天前 评论:
/assign @hw-zhangpanpan


21 天前 将 hw-zhangpanpan 设为负责人
21 天前 关闭了 issue
21 天前 添加了label:resolved
/assign @hw-zhangpanpan


Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
一、背景信息 (必填)
concat算子小case场景,减小头开销,提升性能。目前concat算子tilingdata达到1300+B,先压缩减小tilingdata,减小头开销
二、价值/作用 (必填)
减小tilingdata大小,降低头开销
三、设计方案 (必填)
当前tilingdata占比较大的是几个大数组,每个数组元素都是int64类型。根据shape的大小,将tilingdata里面的数据类型由int64改成int32
3.1 使能方式(涉及哪些框架:如Aclnn直调、Pytorch训练等)
3.2 总体设计
3.2.1 算子支持的数据类型
3.2.2 host侧设计
根据shape大小,输入shape dim小于int32最大值时,使用压缩后的tilingdata,并生成新的tilingkey
3.2.3 kernel侧设计
压缩前后的tilingkey,kernel处理逻辑一致
3.3 支持硬件
Ascend950