已关闭
[Question|问题咨询]: 通信引擎+通信协议的使用场景 #749
CaiBinbin创建于  21 天前关闭于  8 小时前
CaiBinbin
CaiBinbin
21 天前 创建

Welcome to ask questions and discuss with other members.

问题描述

1、https://gitcode.com/cann/hcomm/blob/master/docs/zh/api_ref/comm_opdev/datatype_definition/CommProtocol.md这里的通信协议可以解释一下是什么意思吗
2、通信引擎+通信协议的使用场景是什么:比如COMM_ENGINE_CCU+COMM_PROTOCOL_UBC_CTP什么场景使用,可以将这些一一对应的列举一下吗
image.png

likedislike
Leewis成员
20 天前 评论:

/assign

likedislike
CANN-robotCANN-robot成员
20 天前 将 Leewis 设为负责人
Leewis成员
20 天前 评论:

感谢咨询,以下分两部分解答。

一、各通信协议含义(CommProtocol)

协议枚举 含义 所属大类 典型物理链路
COMM_PROTOCOL_HCCS HCCS(Huawei Cache Coherent System)协议,华为高速片间互联 内存语义 NPU 间 HCCS 直连
COMM_PROTOCOL_HCCS_ONLY 一卡双 DIE 场景下使用的 HCCS 内存语义 单卡内 DIE 间 HCCS
COMM_PROTOCOL_ROCE RDMA over Converged Ethernet,基于以太网的 RDMA 网络语义 RoCE 网卡(NPU 网口或 Host DPU/1825 网卡)
COMM_PROTOCOL_PCIE PCIe 协议 —— Host 与 NPU 间 PCIe
COMM_PROTOCOL_SIO Socket I/O 协议 —— Socket 通道
COMM_PROTOCOL_UBC_CTP 华为统一总线 UBC CTP(UB Consolidation, CTP 通道) 网络语义 UB 网卡 / URMA
COMM_PROTOCOL_UBC_TP 华为统一总线 UBC TP(UB Consolidation, TP 通道) 网络语义 UB 网卡 / URMA
COMM_PROTOCOL_UB_MEM UB 内存协议(内存语义 UB) 内存语义 UB Jetty
COMM_PROTOCOL_UBOE UBoE(UB over Ethernet) 网络语义 UB over 以太网
COMM_PROTOCOL_UBG UBG(UB Group,950 专属) 网络语义 UB Group 链路

说明:

  • 大类上协议分"网络语义"与"内存语义"两类(见 docs/zh/architecture/architecture-brief.md 2.3.1 节)。网络语义通过 Channel 的 Write/Read/Notify 访问远端内存;内存语义把远端内存映射到本地地址空间,用本地拷贝访问。前者典型协议 RoCE/UB(UBC/UBoE/UBG),后者典型协议 UB_MEM/HCCS。
  • 协议的实际可用性随产品型号与通信引擎变化,权威矩阵见 CommProtocol.md「产品支持情况」表。

二、通信引擎 × 通信协议 使用场景

通信引擎决定"谁来执行通信任务、如何调度",通信协议决定"走什么物理链路搬数据"。二者正交,但并非所有组合都被芯片支持,需以 CommProtocol.md 各产品的"引擎-协议"矩阵为准。

likedislike
CaiBinbin
CaiBinbin
20 天前 评论:

问题2我想问的是,比如AICPU支持大数据量通信。那么搭配UBOE\UBC_CTP\UBC_TP\UB_MEM\UBG等通信协议,又适用于什么细分场景呢?CCU和AIV呢?

likedislike
大智慧的益生菌
大智慧的益生菌
19 天前 评论:

UBOE 实现UB on Ethernet 适配以太网的跨机器通信 需建立通道和握手收发,大数据量和兼容以太网情景
UB MEM 远端内存映射到本地虚拟地址,引擎 直接读写无需建立通道和握手收发,时延低,适合小数据量
UBC_TP / UBC_CTP 好像是UB非以太网下的跨机通信协议?
AIV在A2是做机内的NPU间的通信算子,可以访问UB和NPU内的全局内存GM,带宽高,但是消耗计算核
CCU带宽高,且不消耗计算核,但是资源比较少,具体工作原理个人还不是很清楚

likedislike
CANN-robotCANN-robot成员
8 小时前 关闭了 issue
CANN-robotCANN-robot成员
6 小时前 添加了label:resolved