Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
TopkV2算子构建出的二进制包重复构建,导致算子整体构建时间较长,比如TopKV2_bfloat16_int32相关的构建有4个产物: TopKV2_bfloat16_int32_sorted_false_largest_false TopKV2_bfloat16_int32_sorted_false_largest_true TopKV2_bfloat16_int32_sorted_true_largest_false TopKV2_bfloat16_int32_sorted_true_largest_true 实际上只需要一个即可。因为attrs属性不参与二进制包的匹配。
TopKV2_bfloat16_int32
TopKV2_bfloat16_int32_sorted_false_largest_false
TopKV2_bfloat16_int32_sorted_false_largest_true
TopKV2_bfloat16_int32_sorted_true_largest_false
TopKV2_bfloat16_int32_sorted_true_largest_true
attrs
TopKV2_bfloat16_int32只构建出一个二进制包,整体TopKV2算子可以减少四分之三的构建物。
/assign
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
一、问题描述 (必填)
TopkV2算子构建出的二进制包重复构建,导致算子整体构建时间较长,比如
TopKV2_bfloat16_int32相关的构建有4个产物:TopKV2_bfloat16_int32_sorted_false_largest_falseTopKV2_bfloat16_int32_sorted_false_largest_trueTopKV2_bfloat16_int32_sorted_true_largest_falseTopKV2_bfloat16_int32_sorted_true_largest_true实际上只需要一个即可。因为
attrs属性不参与二进制包的匹配。二、环境信息 (可选)
三、重现步骤 (可选)
四、预期结果 (可选)
TopKV2_bfloat16_int32只构建出一个二进制包,整体TopKV2算子可以减少四分之三的构建物。