已开启
[Requirement|需求建议]: 支持cv网络int8*int4数据格式量化 #2
QQR创建于  8月7日
QQR成员
8月7日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud(背景信息)

算子:支持conv2d/linear算子
场景:支持ptq/qat,其中qat支持接口模式和单算子模式
转化接口:amct onnx支持将QDQ结构转换为npu AscendQuant/Dequant结构
网络:resnet50/yolov5s网络int8* int4量化,业务精度损失小于2%

Design(设计方案)

likedislike
QQQR成员
15 天前 关联了pull request:feat: Q/DQ 转换支持原生 INT4 权重
QQQR成员
15 天前 关联了pull request:feat: graph-based PTQ/QAT 支持 A8W4 量化