MoeTokenPermute

产品支持情况

算子功能：MoE的permute计算，根据索引indices将tokens广播并排序。
计算公式：
- paddedMode为false时
  $s o r t e d I n d i c e s F i r s t = a r g S o r t (I n d i c e s)$ $s o r t e d I n d i c e s O u t = a r g S o r t (s o r t e d I n d i c e s F i r s t)$ $p e r m u t e T o k e n s [s o r t e d I n d i c e s F i r s t [i]] = t o k e n s [i / / t o p K]$
- paddedMode为true时
  $p e r m u t e T o k e n s O u t [i] = t o k e n s [I n d i c e s [i]]$ $s o r t e d I n d i c e s O u t = I n d i c e s$

参数名	输入/输出/属性	描述	数据类型	数据格式
tokens	输入	输入token，对应公式中的`tokens`。	FLOAT16、BFLOAT16、FLOAT32、INT8	ND
indices	输入	输入indices，对应公式中的`Indices`。	INT32、INT64	ND
numOutTokens	属性	有效输出token数，设置为0时，表示不会删除任何token。不为0时，会按照numOutTokens进行切片丢弃按照indices排序好的token中超过numOutTokens的部分，为负数时按照切片索引为负数时处理。	INT64	-
paddedMode	属性	paddedMode为true时表示indices已被填充为代表每个专家选中的token索引，此时不对indices进行排序。目前仅支持paddedMode为false。	BOOL	-
permuteTokensOut	输出	根据indices进行扩展并排序过的tokens，对应公式中的`permuteTokensOut`。	FLOAT16、BFLOAT16、FLOAT32、INT8	ND
sortedIndicesOut	输出	permuteTokensOut和tokens的映射关系，对应公式中的`sortedIndicesOut`。	INT32	ND

indices 要求元素个数小于16777215，值大于等于0小于16777215(单点支持int32或int64的最大或最小值，其余值不在范围内排序结果不正确)。
不支持paddedMode为true。
Atlas A2 训练系列产品/Atlas A2 推理系列产品、Atlas A3 训练系列产品/Atlas A3 推理系列产品：topK小于等于512。
Ascend 950PR/Ascend 950DT：在调用本接口时，框架内部会转调用aclnnMoeInitRoutingV2接口，如果出现参数错误提示，请参考以下参数映射关系：
- token输入等同于aclnnMoeInitRoutingV2接口的x输入。
- indices输入等同于aclnnMoeInitRoutingV2接口的expertIdx输入。
- numOutTokens输入等同于aclnnMoeInitRoutingV2接口的activeNum输入。
- paddedMode输入等同于aclnnMoeInitRoutingV2接口的dropPadMode输入。
- permuteTokensOut输出等同于aclnnMoeInitRoutingV2接口的expandedXOut输出。
- sortedIndicesOut输出等同于aclnnMoeInitRoutingV2接口的expandedRowIdxOut输出。

调用方式	样例代码	说明
aclnn接口	test_aclnn_moe_token_permute	通过aclnnMoeTokenPermute接口方式调用MoeTokenPermute算子。