| Files | Last commit | Last update |
|---|---|---|
A3 dispatch&combine 性能优化 Co-authored-by: SuperYuan<zhangziyuan11@huawei.com> # message auto-generated for no-merge-commit merge: !12108 merge dispatch-perf-opt into master A3 dispatch&combine 性能优化 Created-by: SuperYuan Commit-by: SuperYuan Merged-by: cann-robot Description: ## 描述 1. mc2通信结构体解析，现在只解析自己需要用到的成员，省固定开销。 2. token发送之前是用2个buffer，现在最大能开8个 3. 算sendcounts时增加核数并把发送粒度从专家粒度合并成卡粒度 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue，请在这里提供Issue链接。例如：关联Issue #000--> <!-- 如果这个PR是为了解决特定的问题单，请在这里描述问题单单号。--> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [x] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!12108 | 1 month ago | |
修复A6编译 Co-authored-by: zzg_code<zengzhiguo1@huawei.com> # message auto-generated for no-merge-commit merge: !14866 merge ubx_reserve into master 修复A6编译 Created-by: zzg_code Commit-by: zzg_code Merged-by: cann-robot Description: ## 描述 A6场景下不支持高阶API等接口，把dispatch和combine的roce代码限定在A5 ## 关联的Issue https://gitcode.com/cann/ops-transformer/issues/6902 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新，请在这里指出。例如：更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] 🐛 Bug修复 - [ ] ✨ 新特性 - [ ] ⚡ 性能优化 - [ ] ♻️ 重构 - [ ] 🧪 测试 - [ ] 📦 构建/CI - [ ] 🔧 配置变更 - [ ] 📝 文档更新 - [ ] ⬆️ 依赖升级 - [ ] 🔒 安全修复 - [ ] 🧹 代码清理 - [ ] ❓ 其他，请描述： See merge request: cann/ops-transformer!14866 | 17 days ago | |
修复hif4与老toolkit包不兼容的问题 Co-authored-by: waker<lizhengjun7@h-partners.com> # message auto-generated for no-merge-commit merge: !14627 merge quant-refine-and-type-fix into master 修复hif4与老toolkit包不兼容的问题 Created-by: wanker Commit-by: waker Merged-by: cann-robot Description: ## 描述 修复 hif4 与老 toolkit 包不兼容：moe_distribute_dispatch_v2/v3 的 op_host/*_def.cpp 中，把含 DT_HIFLOAT4 / DT_HIFLOAT4_SCALE 的 dtype 列表用 devkit 版本宏（ENABLE_DISPATCHV2_DT_HIFLOAT4 / ENABLE_DISPATCHV3_DT_HIFLOAT4）守卫；老版本 CANN（<9.3）走不含 hif4 的 fallback 列表，避免 op_build/GE 报 "hifloat4_scale illegal dtype" 导致 ATC 失败。 ## 类型标签 - [x] 🐛 Bug修复 See merge request: cann/ops-transformer!14627 | 15 days ago |