55c8379b创建于 19 天前历史提交

文件	最后提交记录	最后更新时间
CMakeLists.txt	新增ascend950 GMM tla示例 Co-authored-by: longjihui<longjihui@huawei.com> # message auto-generated for no-merge-commit merge: !606 merge ascend950_gmm into master 新增ascend950 GMM tla示例 Created-by: longjihui Commit-by: longjihui Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!606	19 天前
README.md	新增ascend950 GMM tla示例 Co-authored-by: longjihui<longjihui@huawei.com> # message auto-generated for no-merge-commit merge: !606 merge ascend950_gmm into master 新增ascend950 GMM tla示例 Created-by: longjihui Commit-by: longjihui Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!606	19 天前
grouped_matmul_slice_m.cpp	新增ascend950 GMM tla示例 Co-authored-by: longjihui<longjihui@huawei.com> # message auto-generated for no-merge-commit merge: !606 merge ascend950_gmm into master 新增ascend950 GMM tla示例 Created-by: longjihui Commit-by: longjihui Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动，包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等，应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他，请描述： See merge request: cann/catlass!606	19 天前

GroupedMatmulSliceM Example Readme

代码组织

├── 60_ascend950_grouped_matmul_slice_m
│   ├── CMakeLists.txt     # CMake编译文件
│   ├── README.md
│   └── grouped_matmul_slice_m.cpp # 主文件

功能介绍

该算子支持A矩阵在m轴切分，然后和B矩阵按照group分组进行矩阵乘。基于Ascend950架构，使用MmadPingpong dispatch policy和BlockMmadTla block组件。

使用示例

因为GroupedMatmul参数较多，所以该示例直接在代码中承载输出参数列表groupList, 通过golden::GenerateGroupList来生成随机切分的序列。相关输入配置具体详见grouped_matmul_slice_m.cpp。如果需要输入grouplist配置(例如通过tensorList方式构造输入)，可以参考python_extension中相应实现

example使用

获取代码之后编译相应的算子可执行文件，可参考quickstart
执行算子

# 编译指定用例
bash scripts/build.sh -DCATLASS_ARCH=3510 60_ascend950_grouped_matmul_slice_m
# cd [代码仓路径]/output/bin
# 可执行文件名|group数量|矩阵m轴|n轴|k轴|Device ID
# Device ID可选，默认为0
./60_ascend950_grouped_matmul_slice_m 128 512 1024 2048 0

执行结果如下，说明精度比对成功。

Compare success.