AscendAntiQuant

产品支持情况

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√
Atlas 200I/500 A2 推理产品	×
Atlas 推理系列产品	×
Atlas 训练系列产品	×

功能说明

• 算子功能：根据属性scale和offset对输入x进行反量化（per-tensor标量反量化）。

• 计算公式： -sqrt_mode为false时：

  $$y=cast\_to\_dst\_type((x+offset)\ast scale)$$

  • sqrt_mode为true时：

    $$y=cast\_to\_dst\_type((x+offset)\ast scale\ast scale)$$

参数说明

参数名	输入/输出/属性	描述	数据类型	数据格式
x	输入	表示算子输入的Tensor，对应公式中的x； 不支持空Tensor； shape与输出y一致。	INT8、HIFLOAT8、FLOAT8_E5M2、FLOAT8_E4M3FN	ND
scale	属性	表示反量化中的scale值，对应公式中的scale； per-tensor标量。	FLOAT	-
offset	属性	表示反量化中的offset值，对应公式中的offset； per-tensor标量。	FLOAT	-
dtype	可选属性	表示输出的数据类型； 支持取值1、0，分别表示FLOAT16、FLOAT32（与ge::DataType枚举一致）； 缺省值为FLOAT32（ge::DT_FLOAT，即0）； 必须与输出y的dtype保持一致。	INT	-
sqrt_mode	可选属性	表示scale参与计算的逻辑，对应公式中的sqrt_mode； 缺省值为false。	BOOL	-
y	输出	表示反量化的计算输出，对应公式中的y； shape和输入x一致。	FLOAT16、FLOAT32	ND

• Ascend 950PR/Ascend 950DT：
  • 支持的(输入xdtype，输出ydtype)组合：
    • (INT8, FLOAT16)、(INT8, FLOAT32)
    • (HIFLOAT8, FLOAT16)、(HIFLOAT8, FLOAT32)
    • (FLOAT8_E5M2, FLOAT16)、(FLOAT8_E5M2, FLOAT32)
    • (FLOAT8_E4M3FN, FLOAT16)、(FLOAT8_E4M3FN, FLOAT32)

约束说明

• scale、offset为标量属性，仅支持per-tensor反量化。
• 输入x与输出y的shape必须完全一致，不支持空Tensor，每个维度大小须大于0。
• dtype属性仅支持FLOAT16、FLOAT32，且必须与输出y的实际dtype一致。
• 仅支持 Ascend 950PR/Ascend 950DT；其他产品形态不支持。
• 当前不提供aclnn接口，仅支持图模式调用。

调用说明

调用方式	样例代码	说明
图模式	test_geir_ascend_anti_quant	通过GE IR构图方式调用AscendAntiQuant算子（per-tensor scale/offset标量属性）。