Closed
[Bug-Report|缺陷反馈]: ascend960PR quant_batch_matmul_v3 MX/HIF4场景 MTE1 M/N拆分路径计算结果错误 #8904
chen-shuaiAdd on  5 days agoClosed at  4 days ago
chen-shuai
chen-shuaiCollaborators
5 days ago Create

Describe the current behavior / 问题描述 (Mandatory / 必填)

ascend960(DAV_9202, L0C 512KB)上,quant_batch_matmul_v3 走 per-group scale(MXFP8/MXFP4/HIF4)且 baseMN 较大触发 MTE1 M/N 拆分时,输出与参考结果不一致。已定位三类错误模式:

  1. 转置布局(transA=True 拆 M / transB=False 拆 N)下,切点仅按 16 对齐,可能劈开 L1 分形(C0_SIZE=32/64),MTE1 从分形中部起读,错误集中在拆分后某个 half 对应的行/列区间;
  2. K 非 64 倍数时(如 K=5130),第二个 half 的 L1 偏移按未 padding 的尾块 K 计算,与 MTE2 实际写入布局(按 MX scale 配对 padding 到 64)不符,读错地址;
  3. curMN 介于(分形粒度, 32)且单次搬运超半区 L0A/B(32KB)的 tile 未拆分,MTE1 越过乒乓半区,覆盖 Mmad 消费中的数据,现象为结果错乱或随机性错误。

Environment Information / 环境信息 (Mandatory / 必填)

昇腾硬件型号:Ascend 960PR

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 960PR 环境,调用 quant_batch_matmul_v3,开启 per-group scale(E4M3 数据 + E8M0 scale);
  2. 构造同时满足以下条件的 shape:transA=False、transB=False、N 较大(触发 SPLIT_N,如 M=124, N=5120)、K 非 64 倍数(如 K=5130);
  3. 与 CPU 参考结果比对。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

拆分路径与不拆分路径(CPU 参考/其它已验证架构)结果一致;切点落在 L1 分形边界,两 half 偏移与 MTE2 写入几何一致,所有拆分场景数值正确。

NA

Special notes for this issue/备注 (Optional / 选填)

likedislike
chen-shuaichen-shuaiCollaborators
5 days ago Added label: bug-report
chen-shuai
chen-shuaiCollaborators
5 days ago Comments:

/assign

likedislike
CANN-robotCANN-robotCollaborators
5 days ago Assign chen-shuai as responsible person
chen-shuaichen-shuaiCollaborators
5 days ago Associated pull request
yuning_chen
yuning_chenCollaborators
5 days ago Comments:

收到,quant_batch_matmul_v3 在 Ascend960PR 的 MX 量化路径问题需要确认两件事:①是 MX 量化参数(scale 形态/block 大小)与文档不一致,还是实现缺失;②失败在 tiling 阶段还是 kernel 阶段(决定归属)。麻烦贴一下报错码与最小复现 shape。

likedislike
CANN-robotCANN-robotCollaborators
4 days ago Close issue
CANN-robotCANN-robotCollaborators
4 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
3 days ago Added label: resolved