文件最后提交记录最后更新时间
7 个月前
7 个月前
5 个月前
3 个月前
5 个月前
7 个月前
2 个月前
README

GemmV2

产品支持情况

产品 是否支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品
Atlas 200I/500 A2 推理产品 ×
Atlas 推理系列产品 ×
Atlas 训练系列产品 ×
Kirin X90 处理器系列产品
Kirin 9030 处理器系列产品

功能说明

  • 算子功能:计算α乘以A与B的乘积,再与β和input C的乘积求和。

  • 计算公式:

    out=α(A@B)+βCout=α(A @ B) + βC

    其中,op(A)op(A)op(B)op(B)op(C)op(C) 分别是维度为 (M,K)(M, K), (K,N)(K, N)(M,N)(M, N)的矩阵。ααββ是一维向量。

参数说明

参数名 输入/输出/属性 描述 数据类型 数据格式
a 输入 矩阵乘运算中的左矩阵。 FLOAT16, BFLOAT16 ND
b 输入 矩阵乘运算中的右矩阵。 FLOAT16, BFLOAT16 ND
alpha 输入 与a、b矩阵乘结果相乘的一维向量。 FLOAT16, BFLOAT16 ND
beta 输入 与input c相乘的一维向量。 FLOAT16, BFLOAT16 ND
c 输出 输入input和输出,进行原地累加。 FLOAT32 ND
  • Kirin X90/Kirin 9030 处理器系列产品:不支持BFLOAT16。

约束说明

  • 不支持空tensor。
  • 支持连续tensor,非连续tensor只支持转置场景。

调用说明

调用方式 样例代码 说明
图模式调用 test_geir_gemm_v2 通过算子IR等方式调用GemmV2算子。