| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
fix: adapt samples to cannbotdsl 0.0.3 Co-authored-by: liqingsong16<liqingsong16@huawei.com> # message auto-generated for no-merge-commit merge: !43 merge fix/ci-cannbotdsl-0.0.3 into master fix: adapt samples to cannbotdsl 0.0.3 Created-by: liqingsong16 Commit-by: liqingsong16 Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!43 | 1 个月前 | |
feat: migrate latest FlashKDA and fused_recurrent_kda Co-authored-by: chuqihang<chuqihang@huawei.com> # message auto-generated for no-merge-commit merge: !55 merge flashkda-migration into master feat: migrate latest FlashKDA and fused_recurrent_kda Created-by: chuqihang Commit-by: chuqihang Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!55 | 1 个月前 | |
feat: migrate latest FlashKDA and fused_recurrent_kda Co-authored-by: chuqihang<chuqihang@huawei.com> # message auto-generated for no-merge-commit merge: !55 merge flashkda-migration into master feat: migrate latest FlashKDA and fused_recurrent_kda Created-by: chuqihang Commit-by: chuqihang Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!55 | 1 个月前 | |
feat: migrate latest FlashKDA and fused_recurrent_kda Co-authored-by: chuqihang<chuqihang@huawei.com> # message auto-generated for no-merge-commit merge: !55 merge flashkda-migration into master feat: migrate latest FlashKDA and fused_recurrent_kda Created-by: chuqihang Commit-by: chuqihang Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!55 | 1 个月前 | |
update_matmul_sample Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !45 merge update_matmul_sample into master update_matmul_sample Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [] 否 [√] 是 __1. AI Agent 平台: cannbot __2. AI 模型: GLM5.3 __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> 本 PR 完善 Matmul 类算子样例，新增 GroupedMatmul 和 MXFP8 QBMM，并调整 Matmul 目录结构，使不同场景的实现、文档和测试能够独立维护。 主要改动： - 新增 GroupedMatmul 样例，支持 group_type=-1/0/2、group_list_type=0/1 和 split_item=0/1/2/3。 - GroupedMatmul 覆盖 S1～S6 输入组织方式，支持单/多 Tensor、M 轴分组、K 轴分组，以及显式或隐式 group_list。 - GroupedMatmul Kernel 按各 Group 的真实 M/K 边界计算，Host 侧不执行 cat/stack/contiguous 或补齐。 - GroupedMatmul 使用自适应滑动窗口多核调度、跨 Group 负载均衡和 L2 Cache 控制。 - 新增 MXFP8 QBMM 样例，A/B 支持 float8_e4m3fn、float8_e5m2，ScaleA/ScaleB 使用公开三维 E8M0 paired-scale 布局。 - MXFP8 QBMM 支持四种 transposeA/transposeB 组合、M/N/K 尾块、Bias，以及 FP16/BF16/FP32 输出。 - MXFP8 Host Tiling 根据 Shape 和片上存储容量选择 baseM/baseN/baseK、kL1/scaleKL1 与 Buffer 深度。 - MXFP8 Kernel 支持 ASW 多核调度、AL1_FULL_LOAD、L1/L0 Ping-Pong、L0C Ping-Pong、UnitFlag 和 L2 Cache 控制。 - MXFP8 Torch 接口的参数顺序与 torch_npu.npu_quant_matmul 保持一致。 - 将非量化 Matmul 移入 samples/matmul/matmul，MXFP8 QBMM 放入 samples/matmul/quant_matmul。 - 同步调整测试目录和引用路径，并补充非对齐 Shape 的精度覆盖。 - 为 GroupedMatmul、Matmul 和 MXFP8 QBMM 补充 README、使用示例、精度测试和性能对比图。 ### 该PR关联的issue 无 ### 希望检视人员了解: - Device Kernel 面向 NPU ARCH 3510（Ascend 950PR / Ascend 950DT）。 - GroupedMatmul 请重点检视 S1～S6 输入映射、group_list 语义和跨 Group 多核调度。 - MXFP8 QBMM 请重点检视四种转置的数据与 Scale 布局、尾块 actual shape、kL1/scaleKL1 流水和 AL1_FULL_LOAD。 - samples/matmul/README.md 的删除属于目录拆分，内容已迁移到对应子目录。 ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [x] 新功能 / New Feature - [x] 性能优化 / Performance - [x] 代码重构 / Refactoring - [x] 文档更新 / Documentation - [x] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [x] 单元测试通过 / UT passed - [x] 集成测试通过 / ST passed - [x] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [x] 代码符合规范 / Code follows style guide - [x] 测试添加并通过 / Tests added and passed - [x] 文档已更新 / Docs updated if needed - [x] 无硬编码敏感信息 / No secrets hardcoded - [x] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!45 | 1 个月前 | |
Added kv_compress_epilog operator Co-authored-by: zhu-lei0614<zhulei113@huawei.com> # message auto-generated for no-merge-commit merge: !44 merge master into master Added kv_compress_epilog operator Created-by: zhu-lei0614 Commit-by: zhu-lei0614 Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!44 | 1 个月前 | |
update_matmul_sample Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !45 merge update_matmul_sample into master update_matmul_sample Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [] 否 [√] 是 __1. AI Agent 平台: cannbot __2. AI 模型: GLM5.3 __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> 本 PR 完善 Matmul 类算子样例，新增 GroupedMatmul 和 MXFP8 QBMM，并调整 Matmul 目录结构，使不同场景的实现、文档和测试能够独立维护。 主要改动： - 新增 GroupedMatmul 样例，支持 group_type=-1/0/2、group_list_type=0/1 和 split_item=0/1/2/3。 - GroupedMatmul 覆盖 S1～S6 输入组织方式，支持单/多 Tensor、M 轴分组、K 轴分组，以及显式或隐式 group_list。 - GroupedMatmul Kernel 按各 Group 的真实 M/K 边界计算，Host 侧不执行 cat/stack/contiguous 或补齐。 - GroupedMatmul 使用自适应滑动窗口多核调度、跨 Group 负载均衡和 L2 Cache 控制。 - 新增 MXFP8 QBMM 样例，A/B 支持 float8_e4m3fn、float8_e5m2，ScaleA/ScaleB 使用公开三维 E8M0 paired-scale 布局。 - MXFP8 QBMM 支持四种 transposeA/transposeB 组合、M/N/K 尾块、Bias，以及 FP16/BF16/FP32 输出。 - MXFP8 Host Tiling 根据 Shape 和片上存储容量选择 baseM/baseN/baseK、kL1/scaleKL1 与 Buffer 深度。 - MXFP8 Kernel 支持 ASW 多核调度、AL1_FULL_LOAD、L1/L0 Ping-Pong、L0C Ping-Pong、UnitFlag 和 L2 Cache 控制。 - MXFP8 Torch 接口的参数顺序与 torch_npu.npu_quant_matmul 保持一致。 - 将非量化 Matmul 移入 samples/matmul/matmul，MXFP8 QBMM 放入 samples/matmul/quant_matmul。 - 同步调整测试目录和引用路径，并补充非对齐 Shape 的精度覆盖。 - 为 GroupedMatmul、Matmul 和 MXFP8 QBMM 补充 README、使用示例、精度测试和性能对比图。 ### 该PR关联的issue 无 ### 希望检视人员了解: - Device Kernel 面向 NPU ARCH 3510（Ascend 950PR / Ascend 950DT）。 - GroupedMatmul 请重点检视 S1～S6 输入映射、group_list 语义和跨 Group 多核调度。 - MXFP8 QBMM 请重点检视四种转置的数据与 Scale 布局、尾块 actual shape、kL1/scaleKL1 流水和 AL1_FULL_LOAD。 - samples/matmul/README.md 的删除属于目录拆分，内容已迁移到对应子目录。 ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [x] 新功能 / New Feature - [x] 性能优化 / Performance - [x] 代码重构 / Refactoring - [x] 文档更新 / Documentation - [x] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [x] 单元测试通过 / UT passed - [x] 集成测试通过 / ST passed - [x] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [x] 代码符合规范 / Code follows style guide - [x] 测试添加并通过 / Tests added and passed - [x] 文档已更新 / Docs updated if needed - [x] 无硬编码敏感信息 / No secrets hardcoded - [x] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!45 | 1 个月前 | |
feat: add PointNet Set Abstraction operator Co-authored-by: keloJW<eudemoniajw@gmail.com> # message auto-generated for no-merge-commit merge: !17 merge feat/pointnet_sa into master feat: add PointNet Set Abstraction operator Created-by: keloJW Commit-by: keloJW Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!17 | 2 个月前 | |
adapt api change Co-authored-by: ly_cann_coder<liyao152@huawei.com> # message auto-generated for no-merge-commit merge: !41 merge revert-mr-34-1788253241133-auto into master adapt api change Created-by: ly_cann_coder Commit-by: ly_cann_coder Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!41 | 1 个月前 | |
refactor: rename conv2d to voxel_conv Co-authored-by: keloJW<eudemoniajw@gmail.com> # message auto-generated for no-merge-commit merge: !11 merge feat/voxel_conv into master refactor: rename conv2d to voxel_conv Created-by: keloJW Commit-by: keloJW Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!11 | 2 个月前 | |
feat: migrate latest FlashKDA and fused_recurrent_kda Co-authored-by: chuqihang<chuqihang@huawei.com> # message auto-generated for no-merge-commit merge: !55 merge flashkda-migration into master feat: migrate latest FlashKDA and fused_recurrent_kda Created-by: chuqihang Commit-by: chuqihang Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [x] 否 [ ] 是 __1. AI Agent 平台: __2. AI 模型: __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [ ] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!55 | 1 个月前 | |
FlashAttention, matmul, rmnorm kernel tests Co-authored-by: LiuJun<sumrock@outlook.com> # message auto-generated for no-merge-commit merge: !4 merge master into master FlashAttention, matmul, rmnorm kernel tests Created-by: liujun2025 Commit-by: LiuJun Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> ### 该PR关联的issue *(格式为fixes #<issue号>, 或者resolves #<issue号>)*: fixes # ### 希望检视人员了解: ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [ ] 新功能 / New Feature - [ ] 性能优化 / Performance - [ ] 代码重构 / Refactoring - [ ] 文档更新 / Documentation - [x] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [ ] 单元测试通过 / UT passed - [ ] 集成测试通过 / ST passed - [ ] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [ ] 代码符合规范 / Code follows style guide - [ ] 测试添加并通过 / Tests added and passed - [ ] 文档已更新 / Docs updated if needed - [ ] 无硬编码敏感信息 / No secrets hardcoded - [ ] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!4 | 2 个月前 | |
update_matmul_sample Co-authored-by: chen-shuai<chenshuai96@huawei.com> # message auto-generated for no-merge-commit merge: !45 merge update_matmul_sample into master update_matmul_sample Created-by: chen-shuai Commit-by: chen-shuai Merged-by: cann-robot Description: <!-- 感谢您的合入申请! --> ### 当前PR是否有AI参与: [] 否 [√] 是 __1. AI Agent 平台: cannbot __2. AI 模型: GLM5.3 __3. Prompt上下文 : ### PR功能描述 / 为什么需要这个合入**: <!-- 本 PR 做了什么，为什么需要 / What does this PR do and why --> 本 PR 完善 Matmul 类算子样例，新增 GroupedMatmul 和 MXFP8 QBMM，并调整 Matmul 目录结构，使不同场景的实现、文档和测试能够独立维护。 主要改动： - 新增 GroupedMatmul 样例，支持 group_type=-1/0/2、group_list_type=0/1 和 split_item=0/1/2/3。 - GroupedMatmul 覆盖 S1～S6 输入组织方式，支持单/多 Tensor、M 轴分组、K 轴分组，以及显式或隐式 group_list。 - GroupedMatmul Kernel 按各 Group 的真实 M/K 边界计算，Host 侧不执行 cat/stack/contiguous 或补齐。 - GroupedMatmul 使用自适应滑动窗口多核调度、跨 Group 负载均衡和 L2 Cache 控制。 - 新增 MXFP8 QBMM 样例，A/B 支持 float8_e4m3fn、float8_e5m2，ScaleA/ScaleB 使用公开三维 E8M0 paired-scale 布局。 - MXFP8 QBMM 支持四种 transposeA/transposeB 组合、M/N/K 尾块、Bias，以及 FP16/BF16/FP32 输出。 - MXFP8 Host Tiling 根据 Shape 和片上存储容量选择 baseM/baseN/baseK、kL1/scaleKL1 与 Buffer 深度。 - MXFP8 Kernel 支持 ASW 多核调度、AL1_FULL_LOAD、L1/L0 Ping-Pong、L0C Ping-Pong、UnitFlag 和 L2 Cache 控制。 - MXFP8 Torch 接口的参数顺序与 torch_npu.npu_quant_matmul 保持一致。 - 将非量化 Matmul 移入 samples/matmul/matmul，MXFP8 QBMM 放入 samples/matmul/quant_matmul。 - 同步调整测试目录和引用路径，并补充非对齐 Shape 的精度覆盖。 - 为 GroupedMatmul、Matmul 和 MXFP8 QBMM 补充 README、使用示例、精度测试和性能对比图。 ### 该PR关联的issue 无 ### 希望检视人员了解: - Device Kernel 面向 NPU ARCH 3510（Ascend 950PR / Ascend 950DT）。 - GroupedMatmul 请重点检视 S1～S6 输入映射、group_list 语义和跨 Group 多核调度。 - MXFP8 QBMM 请重点检视四种转置的数据与 Scale 布局、尾块 actual shape、kL1/scaleKL1 流水和 AL1_FULL_LOAD。 - samples/matmul/README.md 的删除属于目录拆分，内容已迁移到对应子目录。 ## 改动类型 / Change Type - [ ] Bug 修复 / Bug Fix - [x] 新功能 / New Feature - [x] 性能优化 / Performance - [x] 代码重构 / Refactoring - [x] 文档更新 / Documentation - [x] 测试相关 / Test - [ ] 其它 / Other ## 测试信息 / Testing <!-- 简要测试说明或关键结果 / Brief test description or key results --> - [x] 单元测试通过 / UT passed - [x] 集成测试通过 / ST passed - [x] 人工验证通过 / Manual verified ## 检查清单 / Checklist - [x] 代码符合规范 / Code follows style guide - [x] 测试添加并通过 / Tests added and passed - [x] 文档已更新 / Docs updated if needed - [x] 无硬编码敏感信息 / No secrets hardcoded - [x] 提交信息符合规范 / Commit message follows convention See merge request: cann/cannbot-dsl!45 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 1 个月前 | ||
| 2 个月前 | ||
| 1 个月前 |