文件最后提交记录最后更新时间
4 天前
2 个月前
1 个月前
1 个月前
1 个月前
4 天前
README

QuantMatmul

产品支持情况

产品 是否支持
Ascend 950PR&950DT系列产品 ×
Atlas A3系列产品 √
Atlas A2系列产品 √
Atlas 200I/500 A2推理产品 ×
Atlas推理系列产品 ×
Atlas训练系列产品 ×

功能说明

  • 算子功能:完成量化的矩阵乘计算。
  • 计算公式:

out=(x1@x2+bias)∗deqScaleout = (x1@x2 + bias) * deqScale

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
x1 输入 公式中的输入x1。 INT8 ND
x2 输入 公式中的输入x2。 INT8 ND
bias 输入 公式中的输入bias。 INT32 ND
deqScale 输入 表示量化参数,公式中的输入deqScale。 UINT64 ND
adjX1 输入 表示x1的输入shape是否包含transpose。 bool -
adjX2 输入 表示x2的输入shape是否包含transpose。 bool -
out 输出 公式中的输出out。 FLOAT16 ND

约束说明

  • 不支持空tensor。
  • 支持连续tensor,非连续tensor只支持转置场景。

调用说明

调用方式 样例代码 说明
aclnn接口 test_aclnn_quant_matmul_v2 通过
aclnnQuantMatmul
aclnnQuantMatmulV2
等方式调用QuantMatmul算子。