已关闭
[Bug-Report|缺陷反馈]: all_to_all_quant_matmul 算子调用时,报错信息错误。实际为bias dim不正确,报错信息给出 group.length() 错误 #4486
林威创建于 8月21日关闭于 8月24日
weihao18
8月21日 评论:
8月21日 评论:
/assign @yangzeheng


8月21日 将 yangzeheng 设为负责人
8月22日 关联了pull request:修复matmulalltoall日志
8月22日 删除了关联的pull request:修复matmulalltoall日志
8月22日 删除了关联的pull request:修复matmulalltoall日志问题
8月22日 关联了pull request:修复matmulalltoall日志问题
8月22日 关联了pull request:修复matmulalltoall日志
8月22日 将 wuziyu 设为负责人
wang-minbo
8月24日 评论:
8月24日 评论:
/lgtm
/approve


8月24日 issue状态由 进行中 改变为 已完成
8月24日 关闭了 issue
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Describe the current behavior / 问题描述 (Mandatory / 必填)
1、调用 torch_npu.npu_all_to_all_quant_matmul 算子接口时,出现报错: Parameter group.length() of matmul_all_to_all has incorrect value 4096 xxxxxxx;
2、按提示修改后,仍然报错。 深入分析发现,报错信息,有误。 应该是 bias dim 不匹配导致。并非 group.length()
https://gitcode.com/cann/ops-transformer/blob/master/mc2/matmul_allto_all/op_api/matmul_allto_all_util.cpp#:~text=turn false%3B }-,auto biasDim %3D biasOptional->GetViewShape().GetDim(0)%3B if (biasDim !%3D nVal) { OP_LOGE_FOR_INVALID_VALUE(opName%2C "group.length()"%2C std%3A%3Ato_string(biasDim).c_str()%2C ("should equal x2.n-axis " %2B std%3A%3Ato_string(nVal)).c_str())%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20false%3B%0A%20%20%20%20%20%20%20%20%7D,%0A%20%20%20%20%7D%0A%20%20%20%20return%20true%3B%0A%7D%0A%0A%2F%2F%20,-%E6%A0%A1%E9%AA%8CMatmulAlltoAll%E5%92%8CQuantMatmulAl
Environment / 环境信息 (Mandatory / 必填)
CANN 9.1.0
Ascend950PR
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
直接看源码,容易得知。打印报错信息有误。 除了此处,还有其他位置有误。
https://gitcode.com/cann/ops-transformer/blob/master/mc2/matmul_allto_all/op_api/matmul_allto_all_util.cpp#:~text=turn false%3B }-,auto biasDim %3D biasOptional->GetViewShape().GetDim(0)%3B if (biasDim !%3D nVal) { OP_LOGE_FOR_INVALID_VALUE(opName%2C "group.length()"%2C std%3A%3Ato_string(biasDim).c_str()%2C ("should equal x2.n-axis " %2B std%3A%3Ato_string(nVal)).c_str())%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20false%3B%0A%20%20%20%20%20%20%20%20%7D,%0A%20%20%20%20%7D%0A%20%20%20%20return%20true%3B%0A%7D%0A%0A%2F%2F%20,-%E6%A0%A1%E9%AA%8CMatmulAlltoAll%E5%92%8CQuantMatmulAl
Describe the expected behavior / 预期结果 (Mandatory / 必填)
报错信息准确。
Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
客户环境,无法上传日志
Special notes for this issue/备注 (Optional / 选填)