已关闭
[Requirement|需求建议]: Samples/2_Performance/matmul_story/matmul_recipes/examples下mx量化样例支持trans输入 #139
wangzitao创建于  4月28日关闭于  5月8日
wangzitao
wangzitao成员
4月28日 创建

Thanks for sending an requirement! Please fill in the following template to help quickly solve your problem.

一、背景信息 (必填)

期望Samples/2_Performance/matmul_story/matmul_recipes/examples下mx量化样例支持trans输入。

二、价值/作用 (必填)

实际MX量化使用场景中transA和transB可让开发者指定参数。

三、设计方案 (必填)

3.1 使能方式(涉及哪些框架:如Aclnn直调、Pytorch训练等)

kernel<<<>>>直调

3.2 总体设计
3.2.1 算子支持的数据类型

MXFP4和MXFP8量化场景

3.2.2 host侧设计

transA、transB导致内轴变化,需要再tiling侧做对应策略的适配。

3.2.3 kernel侧设计

transA和B导致scheduler、mmad和kernel都需要做相应调整。

3.3 支持硬件

Ascend950

3.4 算子约束限制

💡 备注(选填)

likedislike
wangzitaowangzitao成员
4月28日 添加了label:requirement
wangzitaowangzitao成员
4月28日 将 wangzitao_leo 设为负责人
wangzitaowangzitao成员
5月7日 关联了pull request:Performance:mx quant mm support trans scenario
wangzitaowangzitao成员
5月8日 删除了关联的pull request:[Performance] mx quant mm support trans scenario
wangzitaowangzitao成员
5月8日 issue状态由 进行中 改变为 已完成
wangzitaowangzitao成员
5月8日 关闭了 issue
CANN-robotCANN-robot成员
5月8日 添加了label:resolved