Closed
[Requirement|需求建议]: Ascend960 moe_update_expert & barrier & combine 算子回合蓝区 #6345
yezhuoxiAdd on  26 days agoClosed at  26 days ago
yezhuoxiCollaborators
26 days ago Create

Backgroud(背景信息)

Ascend960 moe_update_expert & barrier & combine 算子回合蓝区
来源分支:br_release_torino_v100r001c12b220_main
https://gitcode.com/cann/ops-transformer/pull/13299/diffs

Benefit / Necessity (价值/作用)

Design(设计方案)

likedislike
YyezhuoxiCollaborators
26 days ago Added label: requirement
游震Collaborators
26 days ago Comments:

/assign @yezhuoxi

likedislike
CANN-robotCANN-robotCollaborators
26 days ago Assign yezhuoxi as responsible person
周云飞
周云飞Collaborators
26 days ago Comments:

您好,感谢提出需求!目前正文仅列出了 Ascend960 和 moe_update_expert、barrier、combine,尚不足以确定“回合蓝区”的具体范围,也无法据此判断相关算子在目标平台上的支持情况。

为明确需求,请补充以下信息:

  1. “回合蓝区”具体指什么操作,目标仓库及分支是什么?如果是代码回合,请提供来源分支或提交链接。
  2. 三个算子的完整接口名称或代码路径,以及期望达到的结果(例如代码纳入目标分支,还是完成 Ascend960 适配并可调用)。

现有材料中的 attention_worker_combine 不能仅凭名称认定为本需求中的 combine,其已有实现也不足以证明 Ascend960 已受支持。明确上述信息后,才能进一步评估可复用的实现及需要适配的范围。

likedislike
CANN-robotCANN-robotCollaborators
26 days ago Close issue
YyezhuoxiCollaborators
26 days ago Modify description of issue
CANN-robotCANN-robotCollaborators
26 days ago Added label: resolved
周云飞
周云飞Collaborators
3 days ago Comments:

PR #13299 针对 Ascend960 做了以下适配:

  • 为 DistributeBarrier、DistributeBarrierExtend 和 MoE DistributeCombine 增加 ascend960dt、ascend960pr 配置。
  • 将 DAV_9201、DAV_9202 纳入 DistributeBarrier 的扩展接口分支,并调整对应的 world size 上限判断。

关联 PR:PR #13299

likedislike