Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
DualLevelQuantBatchMatmul算子仅支持部分特点场景,因此需要对算子进行泛化
matmul
解除DualLevelQuantBatchMatmul算子对K和N轴的限制的限制
基于泛化要求(NK轴非64对齐,仅需内轴2对齐)设计泛化用例,通过泛化用例测试代码的的泛化性能,并对出现的问题进行修改
/assign
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
DualLevelQuantBatchMatmul算子仅支持部分特点场景,因此需要对算子进行泛化
Origin(信息来源)
matmul
Benefit / Necessity (价值/作用)
解除DualLevelQuantBatchMatmul算子对K和N轴的限制的限制
Design(设计方案)
基于泛化要求(NK轴非64对齐,仅需内轴2对齐)设计泛化用例,通过泛化用例测试代码的的泛化性能,并对出现的问题进行修改