Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
新增tqbmm算子 新增mxfp8和mxfp4实现tqbmm 低比特量化场景实现
昇腾解决方案
实现tqbmm 低比特量化场景实现
1.使能方式（涉及哪些框架：如Aclnn直调、Pytorch训练等） 涉及aclnn直调和torch直调
2.总体设计 2.1 算子支持的数据类型 mxfp4和mxfp8
2.2 host侧设计 复用batch matmul tiling结构
2.3 kernel侧设计 复用qbmm blockmmad计算，参考tbmm transpose设计
2.4 算子约束限制 k需要整除64，mxfp4 内轴需要整除2
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud（背景信息）
新增tqbmm算子 新增mxfp8和mxfp4实现tqbmm 低比特量化场景实现
Origin（信息来源）
昇腾解决方案
Benefit / Necessity （价值/作用）
实现tqbmm 低比特量化场景实现
Design（设计方案）
1.使能方式（涉及哪些框架：如Aclnn直调、Pytorch训练等）
涉及aclnn直调和torch直调
2.总体设计
2.1 算子支持的数据类型
mxfp4和mxfp8
2.2 host侧设计
复用batch matmul tiling结构
2.3 kernel侧设计
复用qbmm blockmmad计算，参考tbmm transpose设计
2.4 算子约束限制
k需要整除64，mxfp4 内轴需要整除2