| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
目录结构规范化整改 Co-authored-by: yangyang016<yangyang306@hisilicon.com> # message auto-generated for no-merge-commit merge: !120 merge review/matmul-story-usability into master 目录结构规范化整改 Created-by: yangyang016 Commit-by: yangyang016 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 按照 CONTRIBUTING.md 模板 C(专题型 Story Sample)规范,对 Samples/2_Performance/matmul_story/ 进行目录结构整改: 顶层 common/ 下沉:将顶层 common/(host_utils、kernel_utils)分别拷贝至 matmul_recipes/common/ 和 matmul_tutorials/common/,更新所有 #include 相对路径(27 个源文件)。 docs/ 移至 matmul_recipes/:性能优化文档归入 recipes 侧,更新所有 markdown 链接引用。 matmul_recipes/ 新增 CMakeLists.txt:构建逻辑从顶层拆分到 recipes 自有 CMakeLists,包含 add_matmul_recipe() 函数及脚本安装规则。 matmul_recipes/ 新增 README.md:提供变体总览文档。 matmul_tutorials/ 新增 CMakeLists.txt:通过 add_subdirectory 调用各 step 子目录。 各 tutorial step 新增独立 CMakeLists.txt:8 个 step 目录各自包含完整的 target 定义与 install 规则。 figures/ → images/:教程图片目录及 docs 图片目录统一重命名为 images/。 golden/ → scripts/:验证脚本目录重命名为 scripts/。 顶层 CMakeLists.txt 精简:移除非必要的 CMAKE_EXPORT_COMPILE_COMMANDS、CMAKE_POSITION_INDEPENDENT_CODE、BISHENG 编译器覆盖及 standalone fallback 分支,仅保留 add_subdirectory 委派。 0_Introduction/matmul/CMakeLists.txt 适配:参照 matmul_story 模式改为 cann_samples::ascend_base + cann_samples::tensor_api 条件链接。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新 matmul_story/README.md 目录树 新增 matmul_recipes/README.md 变体总览 更新 matmul_tutorials/README.md 目录树及构建说明 更新 quant_matmul_mxfp4/README.md 构建路径 更新 docs 内 markdown 图片路径(figures/ → images/) ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:目录结构规范化整改(CONTRIBUTING.md 模板 C 合规) See merge request: cann/cann-samples!120 | 4 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
[matmul_tutorial] tutorial文档补充负载均衡图片以及全载模板说明 Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !158 merge graph into master [matmul_tutorial] tutorial文档补充负载均衡图片以及全载模板说明 Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> quant_matmul_mxfp4_tutorials.md中补充尾轮负载均衡优化对比示意图以及Step 0-7 优化总览示意图,更加直观地展现优化效果。 补充说明tutorial中对于特定shape在A全载模板下行为和recipe不一致的说明。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/78 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 修改tutorial部分tiling参数,对齐recipe性能,本次测试无问题 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> Samples/2_Performance/matmul_story/docs/quant_matmul_mxfp4_tutorials.md ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!158 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
update matmul_tutorials doc Co-authored-by: hanrui22<hanrui2@huawei.com> # message auto-generated for no-merge-commit merge: !146 merge master into master update matmul_tutorials doc Created-by: hanrui22 Commit-by: hanrui22 Merged-by: cann-robot Description: ## 描述 更新matmul_tutorials的文档 ## 关联的Issue https://gitcode.com/cann/cann-samples/issues/85 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!146 | 4 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
add docs of weight_qunat mm/gmm Co-authored-by: xubinglin<xubinglin@huawei.com> # message auto-generated for no-merge-commit merge: !184 merge feat_add_docs_of_gmm_wq_recipe into master add docs of weight_qunat mm/gmm Created-by: xubinglin Commit-by: xubinglin Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 Weight Quant Matmul / GroupedMatmul MXFP8FP4 示例补充性能优化文档,覆盖单组矩阵乘和 M 轴分组矩阵乘两类场景。 主要内容包括: - 新增 weight_quant_matmul_mxfp8fp4_performance.md,说明 MXFP8FP4 权重量化矩阵乘的算子语义、数据搬运路径、性能建模公式和优化方法。 - 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md,说明 grouped weight quant MXFP8FP4 场景下的分组语义、性能瓶颈、组间负载均衡和 split-m + n-resplit 模板。 - 补充相关性能优化示意图,包括 4-buffer、UnitFlag、L1 Bank 冲突优化、VF 优化、N 方向 resplit、group 间负载均衡等。 - 对 MTE2、MTE1、VF、FIXPIPE 等流水耗时进行建模说明,明确 TB/s、BPC、KiB 等单位口径,降低读者理解成本。 - 补充初学者阅读所需的 Shape、Layout、scale 打包、MTE3 非主瓶颈等说明,帮助开发者理解 Weight Quant MXFP8FP4 算子的性能调优路径。 该 PR 仅涉及文档和图片资源更新,不涉及算子代码逻辑变更。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> [#169](https://gitcode.com/cann/cann-samples/issues/169) ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增 weight_quant_matmul_mxfp8fp4_performance.md 新增 weight_quant_grouped_matmul_mxfp8fp4_performance.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!184 | 2 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
roofline Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !226 merge roofline_new into master roofline Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> matmal_tutorial文档中建议补充roofline图 教程里已有「分步耗时」视角,但缺少「能到多少、卡在哪」的视角 perf_demo_steps.png 把同一 Shape 上 demo0→demoN 的优化阶梯展示得很清楚,读者能看出「每一步快了多少」,但不容易一眼回答:在当前算术强度下,理论上限是多少(算力顶 / 带宽顶)、实测离上限还有多远。Roofline 图补上这一层,与摘要里提到的「性能建模、Bound 判定」形成闭环 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/152 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 文档修改,不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> Samples/2_Performance/matmul_story/docs/quant_matmul_mxfp4_tutorials.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!226 | 3 个月前 | |
feat: add MX BlockMmad L0C ping-pong sample Co-authored-by: Hu1L1<chenshujian5@huawei.com> Co-authored-by: zhanghua145<zhanghua145@users.noreply.gitcode.com> # message auto-generated for no-merge-commit merge: !335 merge codex/sync-mx-l0c-pingpong-blockmmad into master feat: add MX BlockMmad L0C ping-pong sample Created-by: Hu1L1 Commit-by: Hu1L1;zhanghua145 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 matmul_story 新增 MXFP8 L0C Ping-Pong 样例,用于演示通过 MMAD 的 N 向拆分延长 L0C 地址复用间隔,减少 FIXPIPE 读取与下一 Tile MMAD 写入之间的冲突。 主要改动: - 新增 quant_matmul_mxfp8_l0cdb 样例及 CMake 构建目标。 - 新增 QuantMatmulMxL0cPingpong DispatchPolicy 和对应 BlockMmad 实现。 - 样例使用 MXFP8 E4M3FN 输入、FP8 E8M0 Scale、BF16 输出。 - 输出 Tile 小于半个 L0C 时,连续 Tile 在两片 L0C 地址间 Ping-Pong。 - 输出 Tile 无法放入半个 L0C 时,在首轮和尾轮 KL1 沿 N 方向近似对半拆分。 - MMAD 循环采用 KL1 -> N Split -> KL0,使一个 N 子块先完成全部 KL0 累加,再切换到另一个子块。 - 最终累加通过 UnitFlag 触发 FIXPIPE,将结果直接从 L0C 搬出到 GM,不引入 UB 中转或 AIV Epilogue。 - 保留原有 L1/L0 Ping-Pong 和事件同步关系。 - 新增 qbmmv3_mx_mmad_split.md,说明问题背景、理论分析、适用 Shape、流水结构及 Profiling 结果。 - 新增 MMAD/FIXPIPE 冲突、循环顺序对比和 MAC 阻塞趋势三张分析图。 典型 Profiling Case: - Shape:m=4096, k=1024, n=8960, transA=false, transB=true - 原 MX SWAT:Kernel 95.412 us,MAC 89.948 us - MX L0C Ping-Pong:Kernel 92.359 us,MAC 87.459 us - 该 Case Kernel 耗时降低约 3.20% - 实际 MAC 与理论值的差距由 2.955 us 降至 0.466 us 上述收益为特定环境和 Shape 下的结果,不代表所有 Shape 的固定收益。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/247 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增: - Samples/2_Performance/matmul_story/docs/qbmmv3_mx_mmad_split.md - docs/images/qbmmv3-mx-mad-conflict.png - docs/images/qbmmv3-mx-iter-diff.png - docs/images/qbmmv3-mx-mac-gap-vs-rounds.png ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!335 | 20 小时前 | |
feat: add MX BlockMmad L0C ping-pong sample Co-authored-by: Hu1L1<chenshujian5@huawei.com> Co-authored-by: zhanghua145<zhanghua145@users.noreply.gitcode.com> # message auto-generated for no-merge-commit merge: !335 merge codex/sync-mx-l0c-pingpong-blockmmad into master feat: add MX BlockMmad L0C ping-pong sample Created-by: Hu1L1 Commit-by: Hu1L1;zhanghua145 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本 PR 为 matmul_story 新增 MXFP8 L0C Ping-Pong 样例,用于演示通过 MMAD 的 N 向拆分延长 L0C 地址复用间隔,减少 FIXPIPE 读取与下一 Tile MMAD 写入之间的冲突。 主要改动: - 新增 quant_matmul_mxfp8_l0cdb 样例及 CMake 构建目标。 - 新增 QuantMatmulMxL0cPingpong DispatchPolicy 和对应 BlockMmad 实现。 - 样例使用 MXFP8 E4M3FN 输入、FP8 E8M0 Scale、BF16 输出。 - 输出 Tile 小于半个 L0C 时,连续 Tile 在两片 L0C 地址间 Ping-Pong。 - 输出 Tile 无法放入半个 L0C 时,在首轮和尾轮 KL1 沿 N 方向近似对半拆分。 - MMAD 循环采用 KL1 -> N Split -> KL0,使一个 N 子块先完成全部 KL0 累加,再切换到另一个子块。 - 最终累加通过 UnitFlag 触发 FIXPIPE,将结果直接从 L0C 搬出到 GM,不引入 UB 中转或 AIV Epilogue。 - 保留原有 L1/L0 Ping-Pong 和事件同步关系。 - 新增 qbmmv3_mx_mmad_split.md,说明问题背景、理论分析、适用 Shape、流水结构及 Profiling 结果。 - 新增 MMAD/FIXPIPE 冲突、循环顺序对比和 MAC 阻塞趋势三张分析图。 典型 Profiling Case: - Shape:m=4096, k=1024, n=8960, transA=false, transB=true - 原 MX SWAT:Kernel 95.412 us,MAC 89.948 us - MX L0C Ping-Pong:Kernel 92.359 us,MAC 87.459 us - 该 Case Kernel 耗时降低约 3.20% - 实际 MAC 与理论值的差距由 2.955 us 降至 0.466 us 上述收益为特定环境和 Shape 下的结果,不代表所有 Shape 的固定收益。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/247 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 新增: - Samples/2_Performance/matmul_story/docs/qbmmv3_mx_mmad_split.md - docs/images/qbmmv3-mx-mad-conflict.png - docs/images/qbmmv3-mx-iter-diff.png - docs/images/qbmmv3-mx-mac-gap-vs-rounds.png ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [x] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!335 | 20 小时前 | |
roofline Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !226 merge roofline_new into master roofline Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> matmal_tutorial文档中建议补充roofline图 教程里已有「分步耗时」视角,但缺少「能到多少、卡在哪」的视角 perf_demo_steps.png 把同一 Shape 上 demo0→demoN 的优化阶梯展示得很清楚,读者能看出「每一步快了多少」,但不容易一眼回答:在当前算术强度下,理论上限是多少(算力顶 / 带宽顶)、实测离上限还有多远。Roofline 图补上这一层,与摘要里提到的「性能建模、Bound 判定」形成闭环 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/152 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 文档修改,不涉及 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> Samples/2_Performance/matmul_story/docs/quant_matmul_mxfp4_tutorials.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!226 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
matmul_performance文档修改 Co-authored-by: wuyufei<wuyufei13@huawei.com> # message auto-generated for no-merge-commit merge: !214 merge markdown into master matmul_performance文档修改 Created-by: wuyufei Commit-by: wuyufei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次PR对matmul性能优化文档进行了全面重构,从"MatMul算子性能优化实践与效果分析"改版为"非量化矩阵乘算子性能优化指南",删除了NPU架构基础章节,新增了系统性的性能建模公式和优化策略选择体系,主要新增streamK模板介绍,并同步更新了配套图片资源(删除25张旧图,新增7张核心数据流图)。 修复了quant_matmul_mx_performance.md中的链接失效 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> 更新了Samples/2_Performance/matmul_story/docs/matmul_performance.md文件 更新了Samples/2_Performance/matmul_story/docs/quant_matmul_mx_performance.md文件 ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!214 | 3 个月前 | |
将GMM/MM下imageXX.png重新命名 Co-authored-by: wuyi_huawei<wuyi36@hisilicon.com> # message auto-generated for no-merge-commit merge: !182 merge mx_doc into master 将GMM/MM下imageXX.png重新命名 Created-by: wuyi_huawei Commit-by: wuyi_huawei Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将 matmul_story / grouped_matmul_story 中 imagexx.png 重命名为语义化文件名 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。-->https://gitcode.com/cann/cann-samples/issues/123 <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 仅图片重命名,不涉及功能验证 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:文档涉及的图片重新命名成有实际意义的 See merge request: cann/cann-samples!182 | 3 个月前 | |
[matmul_tutorial] tutorial文档补充负载均衡图片以及全载模板说明 Co-authored-by: Hu1L1<chenshujian5@huawei.com> # message auto-generated for no-merge-commit merge: !158 merge graph into master [matmul_tutorial] tutorial文档补充负载均衡图片以及全载模板说明 Created-by: Hu1L1 Commit-by: Hu1L1 Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> quant_matmul_mxfp4_tutorials.md中补充尾轮负载均衡优化对比示意图以及Step 0-7 优化总览示意图,更加直观地展现优化效果。 补充说明tutorial中对于特定shape在A全载模板下行为和recipe不一致的说明。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> https://gitcode.com/cann/cann-samples/issues/78 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 修改tutorial部分tiling参数,对齐recipe性能,本次测试无问题 ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> Samples/2_Performance/matmul_story/docs/quant_matmul_mxfp4_tutorials.md ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/cann-samples!158 | 3 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 2 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 4 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 2 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 20 小时前 | ||
| 20 小时前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 | ||
| 3 个月前 |