已合并
[bug]资料中增加CCU硬件资源约束描述 #2772
mayuanye创建于 12 天前
[bug]资料中增加CCU硬件资源约束描述 #2772
已合并
共 1 个文件变更+13-1
| @@ -14,7 +14,19 @@ | |||
| 14 | - 单卡多进程场景： | 14 | - 单卡多进程场景： |
| 15 | 由于CCU不支持多进程使用，单卡多进程下，需要保证不同NPU上首个通信域的创建归属于同一组业务进程，以保证CCU被同一组进程的业务占用。<br>若通信算子的展开模式为AI_CPU（默认值），单卡进程并发数量建议不超过6个。<br>若通信算子的展开模式为AIV，不建议单卡多进程并发执行，多个进程之间建议串行执行。<br>请参考以上建议配置，否则存在任务死锁的风险。通信算子的展开模式可通过环境变量“HCCL_OP_EXPANSION_MODE”设置。 | 15 | 由于CCU不支持多进程使用，单卡多进程下，需要保证不同NPU上首个通信域的创建归属于同一组业务进程，以保证CCU被同一组进程的业务占用。<br>若通信算子的展开模式为AI_CPU（默认值），单卡进程并发数量建议不超过6个。<br>若通信算子的展开模式为AIV，不建议单卡多进程并发执行，多个进程之间建议串行执行。<br>请参考以上建议配置，否则存在任务死锁的风险。通信算子的展开模式可通过环境变量“HCCL_OP_EXPANSION_MODE”设置。 |
| 16 | - 图模式（Ascend IR）或者图捕获（aclgraph）场景，当通信算法采用默认的AI CPU模式时，单卡上的并发图数量不能超过6个，否则可能会因AI CPU核被占满而导致通信阻塞。 | 16 | - 图模式（Ascend IR）或者图捕获（aclgraph）场景，当通信算法采用默认的AI CPU模式时，单卡上的并发图数量不能超过6个，否则可能会因AI CPU核被占满而导致通信阻塞。 |
| 17 | -<!-- end id3 --> | 17 | +- 新增CCU调度模式，但受CCU硬件资源规格限制，建议结合实际业务场景灵活使用。 |
| 18 | + CCU适用场景：64P以内通信算子（AlltoAllV算子16P内）场景可考虑开启CCU模式，用以提升通信性能。通信域间CCU资源无法复用，多通信域场景下需评估CCU硬件资源是否充足。 | ||
| 19 | + CCU配置方式：HCCL集合通信默认使用AI CPU模式，如需开启CCU，提供如下两种配置方式： | ||
| 20 | + 1. 通过环境变量开启CCU调度模式时，资源不足情况下HCCL会回退为AI CPU模式，配置方法详见[HCCL_OP_EXPANSION_MODE](./hccl_env/HCCL_OP_EXPANSION_MODE.md)。 | ||
| 21 | + 2. 基于通信域粒度配置CCU使能，可将CCU通信域独立管理，按需规划使用CCU资源，配置方法详见[HcclCommInitClusterInfoConfig](https://gitcode.com/cann/hcomm/blob/master/docs/zh/api_ref/comm_mgr_c/HcclCommInitClusterInfoConfig.md)。 | ||
| 22 | + CCU硬件资源规格： | ||
| 23 | + | ||
| 24 | + | CCU模式 | 资源分类 | 单位 | 硬件资源规格 | | ||
| 25 | + | --- | --- | --- | --- | | ||
| 26 | + | 调度模式 | Channel | 个 | 120 | | ||
| 27 | + | 调度模式 | Loop | 个 | 68 | | ||
| 28 | + | 调度模式 | CCU Buffer | KB | 2048 | | ||
| 29 | +<!-- end id3 --> | ||
| 18 | 30 | ||
| 19 | <!-- npu="A3" id4 --> | 31 | <!-- npu="A3" id4 --> |
| 20 | ## Atlas A3 训练系列产品/Atlas A3 推理系列产品 | 32 | ## Atlas A3 训练系列产品/Atlas A3 推理系列产品 |