已关闭
[Bug-Report|缺陷反馈]: A3超节点内双机allreduce执行卡死 #770
hu-yiliang11创建于  8月18日关闭于  8月20日
hu-yiliang11
8月18日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

A3超节点内双机allreduce执行卡死

Environment / 环境信息 (Mandatory / 必填)

A3超节点双机

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

HCCL_OP_EXPANSION_MODE=AIV
HCCL_INTER_HCCS_DISABLE=TRUE
A3超节点内双机正常链路走HCCS,开启HCCL_INTER_HCCS_DISABLE=TRUE之后,超节点内双机走ROCE链路,
然后算法AllReduceMeshAivFor91093Executor算子仅仅支持超节点内走HCCS链路,
所以开启HCCL_INTER_HCCS_DISABLE=TRUE不应该选择AllReduceMeshAivFor91093Executor算子

Describe the expected behavior / 预期结果 (Mandatory / 必填)

无报错,不卡死

[ERROR] HCCL(1165038,all_reduce_test):2026-08-18-10:09:11.155.849 [task_exception_handler.cc:1302] [1165170][TaskExecStage][Timeout][AIV]Task from HCCL run failed.
[ERROR] HCCL(1165038,all_reduce_test):2026-08-18-10:09:11.155.882 [task_exception_handler.cc:26] [1165170][TaskExecStage][Timeout][AIV]Task run failed, base information is streamID:[47], taskID[0], taskType[Task AIV], tag[AllReduce_100.102.180.167%enp194s0f3_60000_0_1787018649379224], AlgType(level 0-1-2):[ring-ring-ring].
[ERROR] HCCL(1165038,all_reduce_test):2026-08-18-10:09:11.155.889 [task_exception_handler.cc:32] [1165170][TaskExecStage][Timeout][AIV]Task run failed, para information is cmdType:[2], tag:[1], size:[8], numBlocks:[32], rankSize:[32], aivRdmaStep:[-1], flagMem:[0x12c09d000000], isOpbase:[1], tag[AllReduce_100.102.180.167%enp194s0f3_60000_0_1787018649379224].
[ERROR] HCCL(1165038,all_reduce_test):2026-08-18-10:09:11.155.957 [task_exception_handler.cc:37] [1165170][TaskExecStage][Timeout][AIV]Task run failed, opData information is timeStamp:[2026-08-18-10:04:10.438.378], deviceId[0], index[1], count[2], reduceType[sum], src[0x12c081600000], dst[0x12c081800000], dataType[float32].

Special notes for this issue/备注 (Optional / 选填)

likedislike
Leewis成员
8月18日 评论:

感谢对于社区的关注与反馈,当前问题有详细日志吗?相关issue可以补充下详细信息;

likedislike
Leewis成员
8月18日 评论:

/assign @gcw_NcEfY7mt

likedislike
CANN-robotCANN-robot成员
8月18日 将 gcw_NcEfY7mt 设为负责人
LLeewis成员
8月18日 添加了label:bug-report
LLeewis成员
8月18日 issue类型由 任务 改变为 缺陷
Hhu-yiliang11
8月18日 修改了issue 的描述
Hhu-yiliang11
8月20日 修改了issue 的描述
Leewis成员
8月20日 评论:

当前该问题已修复:
修改方案:在 AllReduceOperator::SelectAlgfor91093 的算法选择条件中新增 !GetExternalInputInterHccsDisable() 判断:当节点间 HCCS 被禁用时,不再选择 msehaiv 的 executor,从而避免该配置组合下的执行卡死。
代码上库链接:https://gitcode.com/cann/hcomm/pull/4672

likedislike
LLeewis成员
8月20日 issue状态由 待办的 改变为 已完成
LLeewis成员
8月20日 关闭了 issue
CANN-robotCANN-robot成员
8月20日 添加了label:resolved
LLeewis成员
9月2日 关联了看板:HCCL