Star189
885
代码
代码
Issues150
Pull Requests321
Actions
项目讨论
Wiki
分析
Star189
885
已关闭
[Bug]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 未支持转置 weight ND 直拷 #521
马琦钧创建于  20 天前关闭于  17 天前
马琦钧
马琦钧成员
20 天前 创建

环境信息

  • 操作系统：Linux
  • 昇腾硬件信息：Ascend 950PR/Ascend 950DT
  • CANN软件版本：9.2.0
  • 安装的对应软件版本：torch 2.7.1 / torch_npu 2.7.1.post5

🐛 问题描述

现状：Ascend950 上 torch_npu.npu_weight_quant_preprocess 的 A16 MXFP4 数据流（weight 为 torch_npu.float4_e2m1fn_x2、torch.uint8 紧凑载体，weight_scale 为 torch.float8_e8m0fnu，k_group_size=32）仅支持非转置 weight；传入转置 weight（view shape {K/2, N}，stride [1, K/2]）时报错 Unsupported data flow combination.，无法与 npu_weight_quant_batchmatmul（已支持 MX FP4 ND 转置输入）端到端衔接。

期望：A16 MXFP4 转置 weight 走 ND 直拷物理透传（out_weight 与输入保持相同的 sizes/strides，数据格式保持 ND），非转置维持 FRACTAL_NZ_C0_8 转换不变；A16F4 pergroup 转置维持不支持（无下游 wqbmmv2 支持）。

修复方案：judge_mm_a16f4_mx 放开转置判定，is_weight_trans 按实际 stride 判定，转置/非转置由 prepare_out_weight_a16w4 内部分流；详见关联 PR。

关联

likedislike
TorchNPU-BotTorchNPU-Bot
20 天前 添加了label：triage-review
TorchNPU-Bot
TorchNPU-Bot
20 天前 评论：

issue待分派，添加triage-review标签

likedislike
TorchNPU-BotTorchNPU-Bot
19 天前 添加了label：bot-triaged；删除了label：triage-review
TorchNPU-Bot
TorchNPU-Bot
19 天前 评论：

检测到当前 issue 已关联 PR，自动添加标签：bot-triaged

likedislike
马琦钧马琦钧成员
19 天前 修改标题为 “[Feature]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 支持转置 weight ND 直拷”，原标题为“【Ascend950】npu_weight_quant_preprocess A16MXF4 支持转置 weight ND 直拷”
ascend-robotascend-robot成员
19 天前 添加了label：feature
马琦钧马琦钧成员
19 天前 将 maqijun 设为负责人
马琦钧马琦钧成员
19 天前 修改了issue 的描述
马琦钧马琦钧成员
18 天前 修改标题为 “[Bug]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 支持转置 weight ND 直拷”，原标题为“[Feature]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 支持转置 weight ND 直拷”
ascend-robotascend-robot成员
18 天前 添加了label：bug
马琦钧马琦钧成员
18 天前 修改标题为 “[Bug]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 未支持转置 weight ND 直拷”，原标题为“[Bug]: 【Ascend950】npu_weight_quant_preprocess A16MXF4 支持转置 weight ND 直拷”
马琦钧马琦钧成员
18 天前 修改了issue 的描述
马琦钧马琦钧成员
18 天前 修改了issue 的描述
ascend-robotascend-robot成员
17 天前 关闭了 issue
ascend-robotascend-robot成员
17 天前 issue状态由 TODO 改变为 DONE
ascend-robotascend-robot成员
17 天前 添加了label：resolved