已合并
修改moeGatingTopKSoftmax文档 #5760
CPZhou创建于 10 天前
修改moeGatingTopKSoftmax文档 #5760
已合并
共 1 个文件变更+2-0
| @@ -4,6 +4,7 @@ | |||
| 4 | 4 | ||
| 5 | | 产品 | 是否支持 | | 5 | | 产品 | 是否支持 | |
| 6 | | ------------------------------------------------------------ | :------: | | 6 | | ------------------------------------------------------------ | :------: | |
| 7 | +|<term>Ascend 950PR/Ascend 950DT</term> | √ | | ||
| 7 | |<term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term> | √ | | 8 | |<term>Atlas A3 训练系列产品/Atlas A3 推理系列产品</term> | √ | |
| 8 | |<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term> | √ | | 9 | |<term>Atlas A2 训练系列产品/Atlas A2 推理系列产品</term> | √ | |
| 9 | 10 | ||
| @@ -42,6 +43,7 @@ torch_npu.npu_moe_gating_top_k_softmax(x, finished=None, k=1) -> (Tensor, Tensor | |||
| 42 | 43 | ||
| 43 | - 该接口支持推理场景下使用。 | 44 | - 该接口支持推理场景下使用。 |
| 44 | - 该接口支持图模式。 | 45 | - 该接口支持图模式。 |
| 46 | +- 该接口在Ascend 950系列产品上性能较差，建议使用`torch_npu.npu_moe_gating_top_k_softmax_v2`接口以获得更优性能。 | ||
| 45 | 47 | ||
| 46 | ## 调用示例 | 48 | ## 调用示例 |
| 47 | 49 | ||