Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
1、基于tensor_api的新算子编程接口上库 2、groupedmatmul的mxfp8场景基础模板上库
1、简化算子实现难度,提升编程易用性 2、提供matmul类算子mx模板基础能力
3.1 使能方式(涉及哪些框架:如Aclnn直调、Pytorch训练等) Aclnn直调,单算子,以及图模式
3.2 总体设计 3.2.1 算子支持的数据类型 mxfp8/mxfp4 nd/nz
3.2.2 host侧设计 不涉及
3.2.3 kernel侧设计 采用分层设计,kernel层分发多核任务,schedule层负责任务调度顺序,block层处理单核任务,tile层处理底层的搬运与计算
3.3 支持硬件 ascned950
Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.
Backgroud(背景信息)
1、基于tensor_api的新算子编程接口上库
2、groupedmatmul的mxfp8场景基础模板上库
Benefit / Necessity (价值/作用)
1、简化算子实现难度,提升编程易用性
2、提供matmul类算子mx模板基础能力
Design(设计方案)
3.1 使能方式(涉及哪些框架:如Aclnn直调、Pytorch训练等)
Aclnn直调,单算子,以及图模式
3.2 总体设计
3.2.1 算子支持的数据类型
mxfp8/mxfp4 nd/nz
3.2.2 host侧设计
不涉及
3.2.3 kernel侧设计
采用分层设计,kernel层分发多核任务,schedule层负责任务调度顺序,block层处理单核任务,tile层处理底层的搬运与计算
3.3 支持硬件
ascned950