Draft
[WIP]Draft: perf(dsl) 单算子 RUN 包支持 Native AOT 并行 #6
zyh_gitcodeAdd on 8 days ago
[WIP]Draft: perf(dsl) 单算子 RUN 包支持 Native AOT 并行 #6
Draft
zyh_gitcodeAdd on 8 days ago
zyh_gitcode
zyh_gitcodeCollaborators
8 days ago

改动

  • 定向 --pkg --ops=<单个算子> 把现有 -j 预算传给显式启用分片的 Native DSL 算子,最多 32 个 worker。
  • Transformer 侧用独立进程执行 Host AOT lowering 和 Device 编译,复用已安装工具链的生成和发布逻辑。汇总时使用同一个 OpKit collector 检查跨分片符号和 binary key,产物继续走现有的归档、设备索引和打包流程。
  • MQSMLA 的串行导出与分片导出共用配置枚举。已经逐项核对 1,008 个配置,分片覆盖与原导出一致。

验证

依赖 cann/ops-transformer#15347 的 MQSMLA 实现,基线为 e02793810b。在 10124 使用同一份 CANN 9.3 和 CANNBotDSL / OpKit 0.8.2。基线与本 PR 均执行原始 bash build.sh --pkg --ops=mixed_quant_sparse_flash_mla --soc=ascend950 -j32,两边使用独立的空构建目录和空 DSL 缓存,不预编译,不加 --incremental。构建依赖通过同一个 --cann_3rd_lib_path 提供。

优化版全量冷构建成功,端到端 1710.34 秒(28 分 30 秒),其中 32 worker Host AOT 13 分 21 秒、Device 14 分 24 秒。解包并校验了 1,008 个 Ascend 设备 ELF 及其配对 JSON、1,008 条设备索引、1,008 项 Host 入口及其设备依赖。另以分页和稠密两个特化验证串行与并行发布的 Host 合同、依赖和设备文件名一致。

未修改的标准冷构建基线按要求在 1 小时 47 分 10 秒停止,停止时仍在 Host AOT,未生成 .run。基线已运行时间约为优化版完整用时的 3.76 倍,基线全程耗时和最终加速比未测得。

likedislike
Merge blocked
zyh_gitcodezyh_gitcodeCollaborators
8 days ago Modify description of pull request
zyh_gitcodezyh_gitcodeCollaborators
8 days ago Modify description of pull request