Closed
[Feature]: gmm swiglu quant支持mx单多单场景 #255
fengxingpanAdd on  Jul 7Closed at  Jul 8
fengxingpan
fengxingpan
Jul 7 Create

提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。

💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案

当前GroupedMatmulSwigluQuantV2NpuOpap仅仅支持mx单单单场景, 预期实现对单多单场景的支持, 方案为在接口中放开对weight参数数据流仅仅支持1的限制, 使用测试框架完成对功能和单单单场景兼容性的测试。

替代方案

补充说明

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
ascend-robotascend-robotCollaborators
Jul 7 Added label: feature
ascend-robotascend-robotCollaborators
Jul 7 associated Kanban: MindStudio ISSUE管理
ascend-robotascend-robotCollaborators
Jul 8 Close issue
ascend-robotascend-robotCollaborators
Jul 13 Added label: resolved