已合并
[Docs]硬件和操作系统支持见兼容性助手 #236
renxiaolong12创建于 12 天前
[Docs]硬件和操作系统支持见兼容性助手 #236
已合并
共 1 个文件变更+2-7
| @@ -13,29 +13,24 @@ | |||
| 13 | 13 | ||
| 14 | <img src="https://raw.gitcode.com/user-images/assets/8772838/dcc44dcc-eeb0-49b7-9284-618e265192af/image.png" alt="性能调优流程图" style="max-width: 100%; width: 900px;" /> | 14 | <img src="https://raw.gitcode.com/user-images/assets/8772838/dcc44dcc-eeb0-49b7-9284-618e265192af/image.png" alt="性能调优流程图" style="max-width: 100%; width: 900px;" /> |
| 15 | 15 | ||
| 16 | ---- | ||
| 17 | - | ||
| 18 | ## 前提条件 | 16 | ## 前提条件 |
| 19 | 17 | ||
| 20 | 进行大规模专家并行性能调优前，需确认以下条件已满足： | 18 | 进行大规模专家并行性能调优前，需确认以下条件已满足： |
| 21 | 19 | ||
| 22 | 1. 支持的硬件 | 20 | 1. 支持的硬件 |
| 23 | 21 | ||
| 24 | - - Atlas 800I A2 推理服务器的硬件与操作系统支持见[安装指南](./install/installation_description.md)，PD 分离部署与特性支持度见[集群管理组件概述](./cluster_management_component/general_comments.md)与[PD 分离服务部署](./service_deployment/pd_separation_service_deployment.md)。 | 22 | + - Atlas 800I A2 推理服务器和Atlas 800I A3 超节点服务器的硬件与操作系统支持见[兼容性查询助手](https://www.hiascend.com/hardware/compatibility)，PD 分离部署与特性支持度见[集群管理组件概述](./cluster_management_component/general_comments.md)与[PD 分离服务部署](./service_deployment/pd_separation_service_deployment.md)。 |
| 25 | - - Atlas 800I A3 超节点服务器的硬件与操作系统支持见[安装指南](./install/installation_description.md)，PD 分离部署与特性支持度见[集群管理组件概述](./cluster_management_component/general_comments.md)与[PD 分离服务部署](./service_deployment/pd_separation_service_deployment.md)。 | ||
| 26 | 2. 环境检查 | 23 | 2. 环境检查 |
| 27 | 24 | ||
| 28 | - 部署与调优前已完成环境检查，具体检查项如下： | 25 | - 部署与调优前已完成环境检查，具体检查项如下： |
| 29 | - 网络拓扑：节点间链路、带宽与时延满足部署与集合通信要求，无丢包、误码等异常。 | 26 | - 网络拓扑：节点间链路、带宽与时延满足部署与集合通信要求，无丢包、误码等异常。 |
| 30 | - 存储性能：模型加载路径的 IOPS 与带宽满足大模型加载与运行要求。 | 27 | - 存储性能：模型加载路径的 IOPS 与带宽满足大模型加载与运行要求。 |
| 31 | - NPU 配置：型号、片上内存、CANN/驱动版本、网口与光模块规格满足部署要求。 | 28 | - NPU 配置：型号、片上内存、CANN/驱动版本、网口与光模块规格满足部署要求。 |
| 32 | - - 支持的操作系统：详情请参见[安装指南](./install/installation_description.md)。 | 29 | + - 支持的操作系统：详情请参见[兼容性查询助手](https://www.hiascend.com/hardware/compatibility)。 |
| 33 | 3. 部署准备 | 30 | 3. 部署准备 |
| 34 | 31 | ||
| 35 | - 进行调优前，请参见[集群管理组件概述](./cluster_management_component/general_comments.md)查看 PD 分离特性支持度，并已参考[PD 分离服务部署](./service_deployment/pd_separation_service_deployment.md)完成 PD 分离部署。PD 分离指 Prefill 与 Decode 实例分离部署，协同完成推理。 | 32 | - 进行调优前，请参见[集群管理组件概述](./cluster_management_component/general_comments.md)查看 PD 分离特性支持度，并已参考[PD 分离服务部署](./service_deployment/pd_separation_service_deployment.md)完成 PD 分离部署。PD 分离指 Prefill 与 Decode 实例分离部署，协同完成推理。 |
| 36 | 33 | ||
| 37 | ---- | ||
| 38 | - | ||
| 39 | ## Atlas 800I A2服务器 | 34 | ## Atlas 800I A2服务器 |
| 40 | 35 | ||
| 41 | 大规模专家并行方案典型配置如表1所示，按照当前规格，每个P实例分配2个计算节点，每个D实例支持分配4/8个计算节点。其中，P实例表示 Prefill 计算实例，D实例表示 Decode 计算实例。 | 36 | 大规模专家并行方案典型配置如表1所示，按照当前规格，每个P实例分配2个计算节点，每个D实例支持分配4/8个计算节点。其中，P实例表示 Prefill 计算实例，D实例表示 Decode 计算实例。 |