Closed
MoeGatingTopK需要支持renorm=1 #1920
CPZhouAdd on Apr 17Closed at Apr 18
CPZhou
Apr 17 Comments：
Apr 17 Comments：
/assign
Apr 17 Assign ZhouChuping as responsible person
Apr 18 Close issue
Apr 18 Added label: resolved
Apr 20 Modify description of issue
Apr 20 Modify description of issue
Apr 20 Modify description of issue
Apr 20 Modify description of issue
Apr 20 Modify description of issue
背景信息
MoeGatingTopK算子的renorm选项仅支持0
当normType为0时(激活函数为softmax)，输出结果不做归一化
价值
补全MoeGatingTopK算子功能
当输入normType为0时，能根据renorm的值控制输出结果是否归一化
设计方案
允许renorm输入0、1
当normType==0时，renorm生效，renorm==0代表输出不做归一化，renorm==1代表输出做归一化
当normType为其他值时，输出均做归一化
1.入参校验
允许renorm输入0和1
2.kernel修改
当normType==0 and renorm==0 时，不做归一化，其他情况做归一化