量化操作算子样例介绍
概述
本样例集介绍了量化操作算子不同特性的典型用法,给出了对应的端到端实现。
算子开发样例
| 目录名称 | 功能描述 |
|---|---|
| cast_dequant | 本样例介绍调用CastDequant基础API实现对输入做量化并进行精度转换 |
| dequant | 本样例基于Kernel直调算子工程,介绍了调用Dequant高阶API实现Dequant单算子,按元素做反量化计算,比如将int32_t数据类型反量化为half/float等数据类型 |
| quant | 本样例基于Kernel直调算子工程,介绍了调用Quant高阶API实现QuantCustom单算子,按元素做量化计算,比如将half/float数据类型量化为int8_t数据类型 |