Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
TopK算子不支持超大排序轴,超过1000万执行会报错
TopK算子支持超大排序轴
1、利用sort算子的能力,先排序,后取Top k个value和索引输出 2、Topk的多核模板对接sortwithindex算子,支持超大shape的排序能力
不涉及修改
1、补充sort和sortwithindex算子的tiling 2、额外申请GM空间用于保存中间态数据
1、TopK新增sortAndTopk模板 2、TopK算子对接sortwithindex,支持大输出shape的排序能力
💡 备注(选填)
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
一、背景信息 (必填)
TopK算子不支持超大排序轴,超过1000万执行会报错
二、价值/作用 (必填)
TopK算子支持超大排序轴
三、设计方案 (必填)
1、利用sort算子的能力,先排序,后取Top k个value和索引输出
2、Topk的多核模板对接sortwithindex算子,支持超大shape的排序能力
3.1 使能方式(涉及哪些框架:如Aclnn直调、Pytorch训练等)
3.2 总体设计
3.2.1 算子支持的数据类型
不涉及修改
3.2.2 host侧设计
1、补充sort和sortwithindex算子的tiling
2、额外申请GM空间用于保存中间态数据
3.2.3 kernel侧设计
1、TopK新增sortAndTopk模板
2、TopK算子对接sortwithindex,支持大输出shape的排序能力
3.3 支持硬件
3.4 算子约束限制
💡 备注(选填)