已关闭
[Documentation|文档反馈]: 补充aclnnQuantMatmulV5的MX与T-CG量化约束 #5368
sunduiyang创建于  8月31日关闭于  8月31日
sunduiyang
sunduiyang成员
8月31日 创建

Document Link(文档链接)

https://gitcode.com/cann/ops-nn/blob/master/matmul/quant_batch_matmul_v4/docs/aclnnQuantMatmulV5.md

Issues Section(问题文档片段)

“约束说明”中的“MX量化场景约束”和“T-CG量化场景约束”。

Existing Issues(存在的问题)

现有约束未完整说明MX伪量化与T-CG量化场景下x1、x2的数据格式及转置要求:

  • MX伪量化场景下,当x2为FLOAT4_E2M1时,需明确k是8的倍数;x1仅支持非转置和ND格式;x2仅支持转置,支持ND、NZ格式,且NZ格式下n是8的倍数。
  • T-CG量化场景下,需明确k是32的倍数;x1仅支持非转置和ND格式;x2为ND格式时仅支持转置,为NZ格式时仅支持非转置。
likedislike
sunduiyangsunduiyang成员
8月31日 添加了label:documentation
sunduiyangsunduiyang成员
8月31日 关联了pull request:docs(qbmm): 完善aclnnQuantMatmulV5的MX与T-CG量化约束
sunduiyang
sunduiyang成员
8月31日 评论:

/assign

likedislike
CANN-robotCANN-robot成员
8月31日 将 sunduiyang 设为负责人
CANN-robotCANN-robot成员
8月31日 关闭了 issue
CANN-robotCANN-robot成员
8月31日 添加了label:resolved