Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
算子:支持conv2d/linear算子 场景:支持ptq/qat,其中qat支持接口模式和单算子模式 转化接口:amct onnx支持将QDQ结构转换为npu AscendQuant/Dequant结构 网络:resnet50/yolov5s网络int8* int4量化,业务精度损失小于2%
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
算子:支持conv2d/linear算子
场景:支持ptq/qat,其中qat支持接口模式和单算子模式
转化接口:amct onnx支持将QDQ结构转换为npu AscendQuant/Dequant结构
网络:resnet50/yolov5s网络int8* int4量化,业务精度损失小于2%
Design(设计方案)