背景 为了适配Hash模式,npu_moe_gating_top_k接口将调用的api由aclnnMoeGatingTopK改为aclnnMoeGatingTopKV2 如果用户并不想开启Hash模式,只升级了torch_npu但是未升级cann算子包,此时调用npu_moe_gating_top_k接口则会报错
解决方案 如果用户未传入新增的可选字段,则此接口走原有逻辑aclnnMoeGatingTopK接口 如果用户传入了新增字段,则走新的aclnnMoeGatingTopKV2接口以适配Hash模式
/assign
背景
为了适配Hash模式,npu_moe_gating_top_k接口将调用的api由aclnnMoeGatingTopK改为aclnnMoeGatingTopKV2
如果用户并不想开启Hash模式,只升级了torch_npu但是未升级cann算子包,此时调用npu_moe_gating_top_k接口则会报错
解决方案
如果用户未传入新增的可选字段,则此接口走原有逻辑aclnnMoeGatingTopK接口
如果用户传入了新增字段,则走新的aclnnMoeGatingTopKV2接口以适配Hash模式