已关闭
MoeGatingTopK需要支持renorm=1 #1920
CPZhou创建于 4月17日关闭于 4月18日
CPZhou
4月17日 评论：
4月17日 评论：
/assign
4月17日 将 ZhouChuping 设为负责人
4月18日 关闭了 issue
4月18日 添加了label：resolved
4月20日 修改了issue 的描述
4月20日 修改了issue 的描述
4月20日 修改了issue 的描述
4月20日 修改了issue 的描述
4月20日 修改了issue 的描述
背景信息
MoeGatingTopK算子的renorm选项仅支持0
当normType为0时(激活函数为softmax)，输出结果不做归一化
价值
补全MoeGatingTopK算子功能
当输入normType为0时，能根据renorm的值控制输出结果是否归一化
设计方案
允许renorm输入0、1
当normType==0时，renorm生效，renorm==0代表输出不做归一化，renorm==1代表输出做归一化
当normType为其他值时，输出均做归一化
1.入参校验
允许renorm输入0和1
2.kernel修改
当normType==0 and renorm==0 时，不做归一化，其他情况做归一化