--pkg --ops=<单个算子>
-j
依赖 cann/ops-transformer#15347 的 MQSMLA 实现,基线为 e02793810b。在 10124 使用同一份 CANN 9.3 和 CANNBotDSL / OpKit 0.8.2。基线与本 PR 均执行原始 bash build.sh --pkg --ops=mixed_quant_sparse_flash_mla --soc=ascend950 -j32,两边使用独立的空构建目录和空 DSL 缓存,不预编译,不加 --incremental。构建依赖通过同一个 --cann_3rd_lib_path 提供。
e02793810b
bash build.sh --pkg --ops=mixed_quant_sparse_flash_mla --soc=ascend950 -j32
--incremental
--cann_3rd_lib_path
优化版全量冷构建成功,端到端 1710.34 秒(28 分 30 秒),其中 32 worker Host AOT 13 分 21 秒、Device 14 分 24 秒。解包并校验了 1,008 个 Ascend 设备 ELF 及其配对 JSON、1,008 条设备索引、1,008 项 Host 入口及其设备依赖。另以分页和稠密两个特化验证串行与并行发布的 Host 合同、依赖和设备文件名一致。
未修改的标准冷构建基线按要求在 1 小时 47 分 10 秒停止,停止时仍在 Host AOT,未生成 .run。基线已运行时间约为优化版完整用时的 3.76 倍,基线全程耗时和最终加速比未测得。
改动
--pkg --ops=<单个算子>把现有-j预算传给显式启用分片的 Native DSL 算子,最多 32 个 worker。验证
依赖 cann/ops-transformer#15347 的 MQSMLA 实现,基线为
e02793810b。在 10124 使用同一份 CANN 9.3 和 CANNBotDSL / OpKit 0.8.2。基线与本 PR 均执行原始bash build.sh --pkg --ops=mixed_quant_sparse_flash_mla --soc=ascend950 -j32,两边使用独立的空构建目录和空 DSL 缓存,不预编译,不加--incremental。构建依赖通过同一个--cann_3rd_lib_path提供。优化版全量冷构建成功,端到端 1710.34 秒(28 分 30 秒),其中 32 worker Host AOT 13 分 21 秒、Device 14 分 24 秒。解包并校验了 1,008 个 Ascend 设备 ELF 及其配对 JSON、1,008 条设备索引、1,008 项 Host 入口及其设备依赖。另以分页和稠密两个特化验证串行与并行发布的 Host 合同、依赖和设备文件名一致。
未修改的标准冷构建基线按要求在 1 小时 47 分 10 秒停止,停止时仍在 Host AOT,未生成 .run。基线已运行时间约为优化版完整用时的 3.76 倍,基线全程耗时和最终加速比未测得。