Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
gmm/grouped_matmul_activation_quant/docs/aclnnGroupedMatmulActivationQuantWeightNz.md gmm/grouped_matmul_swiglu_quant_v2/docs/aclnnGroupedMatmulSwigluQuantV2.md gmm/quant_grouped_matmul_inplace_add/docs/aclnnQuantGroupedMatmulInplaceAdd.md torch_extension/cann_ops_transformer/docs/zh/grouped_matmul_activation_quant.md
group_list的说明中,没有涉及到具体的约束,比如应增加: 当groupListType为0时,最后一个值不大于x中tensor的第一维, 当groupListType为1时,数值的总和不大于x中tensor的第一维 这样的描述
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Document Link(文档链接)
gmm/grouped_matmul_activation_quant/docs/aclnnGroupedMatmulActivationQuantWeightNz.md
gmm/grouped_matmul_swiglu_quant_v2/docs/aclnnGroupedMatmulSwigluQuantV2.md
gmm/quant_grouped_matmul_inplace_add/docs/aclnnQuantGroupedMatmulInplaceAdd.md
torch_extension/cann_ops_transformer/docs/zh/grouped_matmul_activation_quant.md
Issues Section(问题文档片段)
group_list的说明中,没有涉及到具体的约束,比如应增加:
当groupListType为0时,最后一个值不大于x中tensor的第一维, 当groupListType为1时,数值的总和不大于x中tensor的第一维
这样的描述
Existing Issues(存在的问题)
group_list的说明中,没有涉及到具体的约束,比如应增加:
当groupListType为0时,最后一个值不大于x中tensor的第一维, 当groupListType为1时,数值的总和不大于x中tensor的第一维
这样的描述