提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。
当前GroupedMatmulSwigluQuantV2NpuOpap仅仅支持mx单单单场景, 预期实现对单多单场景的支持, 方案为在接口中放开对weight参数数据流仅仅支持1的限制, 使用测试框架完成对功能和单单单场景兼容性的测试。
欢迎加入社区,感谢您对社区的贡献 🎉!
提交提案之前,请先检索仓库内是否已有相同的提案,如已有请在同一提案中进行讨论。
💻 需求背景、当前现状、期望实现的功能内容、具体的设计方案、以及测试方案
当前GroupedMatmulSwigluQuantV2NpuOpap仅仅支持mx单单单场景, 预期实现对单多单场景的支持, 方案为在接口中放开对weight参数数据流仅仅支持1的限制, 使用测试框架完成对功能和单单单场景兼容性的测试。
替代方案
补充说明
欢迎加入社区,感谢您对社区的贡献 🎉!