量化操作算子样例介绍

概述

本样例集介绍了量化操作算子不同特性的典型用法,给出了对应的端到端实现。

样例列表

目录名称 功能描述 支持的产品
antiquant 本样例演示了基于AntiQuant高阶API实现antiquant算子。样例按元素做伪量化计算 Ascend 950PR/Ascend 950DT
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品
dequant 本样例基于Kernel直调算子工程,介绍了调用Dequant高阶API实现Dequant单算子,按元素做反量化计算,比如将int32_t数据类型反量化为half/float等数据类型 Ascend 950PR/Ascend 950DT
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品
quant 本样例基于Kernel直调算子工程,介绍了调用Quant高阶API实现QuantCustom单算子,按元素做量化计算,比如将half/float数据类型量化为int8_t数据类型 Ascend 950PR/Ascend 950DT
Atlas A3 训练系列产品/Atlas A3 推理系列产品
Atlas A2 训练系列产品/Atlas A2 推理系列产品