Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

Backgroud（背景信息）

补齐A5上QBMM支持int4输入的K-G 非对称量化

Origin（信息来源）

Benefit / Necessity （价值/作用）

补全核心算子QBMM的A5功能

Design（设计方案）

1. workspace计算时多分配一个存放int8 x1x2的空间
2. 新增kernel代码使得int4输入先转化成half再转化成int8
3. 转化成int8之后复用之前的QBMM代码计算