已关闭
[Requirement|需求建议]: 当前QuantBatchMatmul算子a8w4 perchannel场景支持weightnz和weight矩阵转置功能。 #1280
wmg1创建于 3月3日关闭于 3月6日
wmg1
3月3日 评论：
3月3日 评论：
/assign
3月3日 将 wmg1 设为负责人
3月3日 issue类型由 任务 改变为 需求
3月6日 关闭了 issue
3月9日 删除了关联的pull request：更新aclnnQuantMatmulV4接口
3月20日 添加了label：resolved
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud（背景信息）
QuantBatchMatmulV4 perchannel场景支持weightnz和weight矩阵转置功能。
Origin（信息来源）
matmul
Benefit / Necessity （价值/作用）
功能补齐
Design（设计方案）
a8w4 perchannel场景入参约束
aclnn接口aclnnQuantMatmulV5
name dtype format shape 备注
x int8 ND [m,k] k要2对齐
weight int32 ND [k,n//8] 用int32装int4 支持转置和weightnz
x1Scale float32 ND [m] pertoken反量化参数
x2Scale uint64 ND [n] perchannel 反量化参数
groupSize int64 ND 0
yoffset float32 ND [n] 辅助矩阵
out fp16/bf16 ND [m,n]
打通aclnnquantbatchmatmulweightnz 通路。