| Files | Last commit | Last update |
|---|---|---|
fix(mega_moe):35-92分核判断分离 Co-authored-by: yangzeheng<yangzeheng@huawei.com> # message auto-generated for no-merge-commit merge: !15367 merge master into master fix(mega_moe):35-92分核判断分离 Created-by: yangzeheng Commit-by: yangzeheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次重构旨在消除通用 IsSubBlockIdx 判断,将 A5/A6 因 CV 配比不同产生的任务分派收归各自架构控制流,保持原有计算和同步流程。 主要调整: 消除方法分为三类,sub判断直接return的,把判断移出函数体放在各自soc逻辑中。sub判断不同核走不同逻辑的,函数体移入soc各自维护。sub判断逻辑函数较为底层的,迁出函数会造成大量重复代码的,使用宏隔离 - 将 RunGmm1*、 Gmm1Exec* 及 GMM2 对应函数迁入 arch35/stage、arch92/stage,公共层保留底层计算原语。 - 将 A5 专用的 UpdateMoeExpertGmm1GlobalBuffer、PrepareFinalWaveCombineBuffers 移入 arch35。 - 将 Dedup、Dispatch 和 Combine 初始化的角色筛选移至架构调用层;GetWaveCombineOwnedRange 通过架构宏隔离实现。 同时合并 A6 共享专家与路由专家的 GMM1 执行入口,清理无调用函数及冗余分支,最终删除 IsSubBlockIdx。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!15367 | 9 days ago | |
MegaMoe 新增 Ascend 960DT(Arch92)支持并整合 A5/A6 公共实现 Co-authored-by: yangzeheng<yangzeheng@huawei.com> # message auto-generated for no-merge-commit merge: !13368 merge master into master MegaMoe 新增 Ascend 960DT(Arch92)支持并整合 A5/A6 公共实现 Created-by: yangzeheng Commit-by: yangzeheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 在现有 A5 实现基础上接入 A6,抽取可复用代码,同时保留架构专属调度。 将公共 Tiling、Kernel 基类和计算阶段整理至 arch35_92,A5、A6 分别维护独立 Wave。 A6 采用 A5 A8W4 的外围调度流水,结合 A5 A8W8 的矩阵计算路径,适配 1C1V 核配比。 通过硬件策略、执行策略和模板参数隔离核角色、同步通知、UB 规划及 Workspace 布局差异,保留 A5 原有默认策略。 A6 routed GMM1 结果通过 GM 传递,Dispatch 计数表常驻 UB,并复用 BlockMmad context。 补充 Ascend 960DT 的算子注册、构建配置及 Torch Extension 平台适配。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!13368 | 23 days ago | |
fix(mega_moe):35-92分核判断分离 Co-authored-by: yangzeheng<yangzeheng@huawei.com> # message auto-generated for no-merge-commit merge: !15367 merge master into master fix(mega_moe):35-92分核判断分离 Created-by: yangzeheng Commit-by: yangzeheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次重构旨在消除通用 IsSubBlockIdx 判断,将 A5/A6 因 CV 配比不同产生的任务分派收归各自架构控制流,保持原有计算和同步流程。 主要调整: 消除方法分为三类,sub判断直接return的,把判断移出函数体放在各自soc逻辑中。sub判断不同核走不同逻辑的,函数体移入soc各自维护。sub判断逻辑函数较为底层的,迁出函数会造成大量重复代码的,使用宏隔离 - 将 RunGmm1*、 Gmm1Exec* 及 GMM2 对应函数迁入 arch35/stage、arch92/stage,公共层保留底层计算原语。 - 将 A5 专用的 UpdateMoeExpertGmm1GlobalBuffer、PrepareFinalWaveCombineBuffers 移入 arch35。 - 将 Dedup、Dispatch 和 Combine 初始化的角色筛选移至架构调用层;GetWaveCombineOwnedRange 通过架构宏隔离实现。 同时合并 A6 共享专家与路由专家的 GMM1 执行入口,清理无调用函数及冗余分支,最终删除 IsSubBlockIdx。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!15367 | 9 days ago | |
fix(mega_moe):35-92分核判断分离 Co-authored-by: yangzeheng<yangzeheng@huawei.com> # message auto-generated for no-merge-commit merge: !15367 merge master into master fix(mega_moe):35-92分核判断分离 Created-by: yangzeheng Commit-by: yangzeheng Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 本次重构旨在消除通用 IsSubBlockIdx 判断,将 A5/A6 因 CV 配比不同产生的任务分派收归各自架构控制流,保持原有计算和同步流程。 主要调整: 消除方法分为三类,sub判断直接return的,把判断移出函数体放在各自soc逻辑中。sub判断不同核走不同逻辑的,函数体移入soc各自维护。sub判断逻辑函数较为底层的,迁出函数会造成大量重复代码的,使用宏隔离 - 将 RunGmm1*、 Gmm1Exec* 及 GMM2 对应函数迁入 arch35/stage、arch92/stage,公共层保留底层计算原语。 - 将 A5 专用的 UpdateMoeExpertGmm1GlobalBuffer、PrepareFinalWaveCombineBuffers 移入 arch35。 - 将 Dedup、Dispatch 和 Combine 初始化的角色筛选移至架构调用层;GetWaveCombineOwnedRange 通过架构宏隔离实现。 同时合并 A6 共享专家与路由专家的 GMM1 执行入口,清理无调用函数及冗余分支,最终删除 IsSubBlockIdx。 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单,请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他,请描述: See merge request: cann/ops-transformer!15367 | 9 days ago |
| Files | Last commit | Last update |
|---|---|---|
| 9 days ago | ||
| 23 days ago | ||
| 9 days ago | ||
| 9 days ago |