已关闭
[Requirement|需求建议]: #2844
yifuxiong创建于  6月2日关闭于  6月2日
yifuxiong
yifuxiong成员
6月2日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

QuantAllReduce、QuantReduceScatter切新Context开源新方案

Benefit / Necessity (价值/作用)

在host侧调用HCCL接口判断组网形态,标卡host网卡形态(以server间是否为host网卡判断,HCCL有rankGraph功能来判断)走单独模板。依赖HCCL支持,为支持在线编译,需要GE适配,在fusion pass中调用往下传。

Design(设计方案)

1、原先aclnn接口的world_size并不是从pta接口传入获取,而是调用公式化tiling的GetRankSize接口,从通信域topo中获取,这个pta接口回调aclnn接口也要改;
2、aclnn接口添加base_api,根据hcomm_version判断目前是否走新context方案的通路;
3、tiling里面有部分值写死了,需要调整。在A5标卡需要在host获取往下传;
4、kernel侧context结构体A5有差异,获取win区地址方式有变化,需适配新方案;
5、图模式通路fusion pass,v1转调v2接口;

likedislike
yifuxiongyifuxiong成员
6月2日 添加了label:requirement
huang-chuhong成员
6月2日 评论:

/assign @xiongyifu

likedislike
CANN-robotCANN-robot成员
6月2日 将 xiongyifu 设为负责人
CANN-robotCANN-robot成员
6月2日 关闭了 issue
CANN-robotCANN-robot成员
6月2日 添加了label:resolved
yifuxiongyifuxiong成员
5 天前 关联了pull request:add torch_extension
yifuxiongyifuxiong成员
1 小时前 关联了pull request:delete quant_reduce_scatter & quant_all_reduce gen_task reversed code in common
yifuxiongyifuxiong成员
40 分钟前 关联了pull request:delete quant_reduce_scatter & quant_all_reduce gen_task reversed code in common