已关闭
[ops-nn] quant_batch_matmul_v3 int4 variants fail at runtime on ascend950 (follow-up to #2749) #2859
Justbin创建于  5月25日关闭于  6月17日
Justbin
5月25日 创建

Follow-up to https://gitcode.com/cann/ops-nn/issues/2749

跟踪 issue https://gitcode.com/cann/ops-nn/issues/2749 复测时发现的、与原 BUILD/INSTALL/RUN 失败不同的新故障。
原 issue 报告的失败已被修复方案恢复,但下列示例在运行期出现新报错:

  • 仓:ops-nn
  • 算子:quant_batch_matmul_v3
  • SOC:ascend950
  • 触发场景:跑 ops-nn 的 phase1 examples(build/install 已成功)

失败示例

  • quant_matmul_v3_at2_at3_int4
  • quant_matmul_v4_at2_at3_int4
  • quant_matmul_weight_nz_at2_at3_int4

错误片段

93:[2026-05-25 11:13:24] aclnnConvertWeightToINT4PackGetWorkspaceSize failed. ERROR: 361001
94:[2026-05-25 11:13:24] aclnnQuantMatmulV3Test failed. ERROR: 361001
97:[2026-05-25 11:13:24] Run test_aclnn_quant_matmul_v3_at2_at3_int4 failed. 
185:[2026-05-25 11:13:59] aclnnConvertWeightToINT4PackGetWorkspaceSize failed. ERROR: 361001
186:[2026-05-25 11:13:59] aclnnQuantMatmulV4Test failed. ERROR: 361001
189:[2026-05-25 11:13:59] Run test_aclnn_quant_matmul_v4_at2_at3_int4 failed. 
699:[2026-05-25 11:14:26] aclnnQuantMatmulWeightNzGetWorkspaceSize failed. ERROR: 161002
700:[2026-05-25 11:14:26] aclnnQuantMatmulWeightNzTest failed. ERROR: 161002
703:[2026-05-25 11:14:26] Run test_aclnn_quant_matmul_weight_nz_at2_at3_int4 failed. 

本地环境

  • CANN: 见仓内 README
  • 修复方案(已对原 issue 应用):clean → rm -rf scripts/kernel/binary_script/kernel_meta_*

烦请看一下这几个 int4 / 新路径变体在 ascend950 上是否预期支持,谢谢。

likedislike
JJustbin
5月25日 修改了issue 的描述
oscillatedoscillated成员
5月25日 将 yangyang016 设为负责人
Yyangyang016成员
6月5日 将 yang-di52 设为负责人
yang-di52成员
6月5日 评论:

感谢您的反馈,我们会在3天内解决该问题

likedislike
yang-di52成员
6月9日 评论:

@Justbin 当前这三个用例都是910b的用例,其中quant_matmul_weight_nz_at2_at3_int4不支持ascend950, 另外两个用例需要修改适配。如下图
image.png

likedislike
Yyang-di52成员
6月17日 issue状态由 进行中 改变为 已完成
Yyang-di52成员
6月17日 关闭了 issue