Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
https://gitcode.com/cann/ops-nn/blob/master/matmul/quant_matmul_reduce_sum/docs/aclnnQuantMatmulReduceSumWeightNz.md
示例代码包含未使用的头文件: #include "aclnnop/aclnn_permute.h" #include "aclnnop/aclnn_quant_matmul_weight_nz.h" #include "aclnnop/aclnn_trans_quant_param_v2.h"
aclnnQuantMatmulReduceSumWeightNz 接口由现有公共头文件: #include "aclnnop/aclnn_quant_matmul_reduce_sum.h" 声明。示例应继续使用该有效头文件。
BF16 输出处理的注释错误地描述为“转成 FP16”。BF16 与 FP16 的位布局不同,不能直接转换;应将 BF16 位模式扩展为 FP32 后再打印。
示例中 uint16_t(1) 不是 BF16 数值 1.0 的正确位表示;BF16 的 1.0 应为 0x3F80。
Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.
Document Link(文档链接)
https://gitcode.com/cann/ops-nn/blob/master/matmul/quant_matmul_reduce_sum/docs/aclnnQuantMatmulReduceSumWeightNz.md
Issues Section(问题文档片段)
示例代码包含未使用的头文件:
#include "aclnnop/aclnn_permute.h"
#include "aclnnop/aclnn_quant_matmul_weight_nz.h"
#include "aclnnop/aclnn_trans_quant_param_v2.h"
aclnnQuantMatmulReduceSumWeightNz 接口由现有公共头文件:
#include "aclnnop/aclnn_quant_matmul_reduce_sum.h"
声明。示例应继续使用该有效头文件。
BF16 输出处理的注释错误地描述为“转成 FP16”。BF16 与 FP16 的位布局不同,不能直接转换;应将 BF16 位模式扩展为 FP32 后再打印。
示例中 uint16_t(1) 不是 BF16 数值 1.0 的正确位表示;BF16 的 1.0 应为 0x3F80。
Existing Issues(存在的问题)