Closed
[Requirement|需求建议]: vector算子适配ascend960pr(DV122)平台并补齐仓库级960pr支持 #7300
zhaozi3Add on  5 days agoClosed at  5 days ago
zhaozi3
5 days ago Create

一、背景信息

为 ops-transformer 仓库补齐 ascend960pr(DV122) 平台支持。原仓库完全缺失 960pr 支持,本次完成仓库级适配(CMakeLists/build.sh/cmake 工具链)、15 算子注册级适配与 66 算子注册级补齐,并对 mhc 系列、gather_pa_kv_cache、scatter_pa_kv_cache、rotary fusion pass 等 DAV_9201 平台门禁补齐 DAV_9202。适配原则:9201 支持的能力 9202 均支持。

二、价值/作用

使 ops-transformer 仓库的 vector 算子在 Ascend960PR(DV122) 平台具备完整编译与运行支持,补齐该仓库对 960pr 平台的算子覆盖。

三、设计方案

  • 仓库级:CMakeLists SOC_VERSION_LIST/ARCH_DIRECTORY_LIST/ASCEND_ALL_COMPUTE_UNIT 增加 ascend960pr(→arch35),arch92 目录路由由仅 960dt 扩展为 960dt/960pr 均生效;build.sh SUPPORT_COMPUTE_UNIT_SHORT/SOC_HARDWARE_MAP、cmake/scripts/util 工具链同步补齐
  • 注册级:def.cpp AddConfig、op_host/config/ascend960pr 二进制配置、op_host/CMakeLists.txt 编译选项块、CMakeLists SUPPORT_COMPUTE_UNIT 追加 ascend960pr
  • 代码级:DAV_9201 平台门禁补齐 DAV_9202,覆盖 tiling/aclnn/infershape/fusion_pass/kernel 各路径

关联 PR:https://gitcode.com/cann/ops-transformer/pull/14537

likedislike
Zzhaozi3
5 days ago Added label: requirement
zhaozi3
5 days ago Comments:

/assign @zhaozi3

likedislike
CANN-robotCANN-robotCollaborators
5 days ago Assign zhaozi3 as responsible person
周云飞
周云飞Collaborators
5 days ago Comments:

补齐 ascend960pr(DV122)支持需要同时覆盖构建入口、算子注册和实际执行路径,不能仅凭追加平台配置就认定已具备完整编译与运行支持。

您提出的三层适配方向可以作为评估基础。gather_pa_kv_cache 已有独立的 arch35 内核和 tiling 实现,适配时需要保证平台路由、注册的数据类型与实际执行分支一致。“DAV_9201 支持的能力 DAV_9202 均支持”目前应作为待验证目标,不宜直接将所有平台判断统一放开,同时需保留原平台行为。

已收到关联 PR #14537;目前提供的材料尚不足以确认其实际覆盖范围和合入状态,也无法确认所述算子已全部通过 960pr 编译与运行验证。

likedislike
biabubiabu
5 days ago Associated pull request
CANN-robotCANN-robotCollaborators
5 days ago Close issue
CANN-robotCANN-robotCollaborators
5 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
5 days ago Added label: resolved
周云飞
周云飞Collaborators
4 days ago Comments:

PR #14537 已针对 Ascend960PR(DV122)开展适配,包括:

  • 补充仓库级构建配置和平台映射,并将 arch92 内核目录路由扩展到 ascend960pr。
  • 为相关算子增加 ascend960pr 注册和二进制配置,并扩展部分 DAV_9201 平台判断以支持 DAV_9202。
  • 新增 AttentionUpdate、KvCompressEpilog、MhcPostBackward、MhcSinkhorn 等算子的 ascend960pr 二进制配置,修正 IndexerQuantCache 的配置段名称。

PR 描述称抽样算子宿主侧编译通过;二进制编译和上板验证仍需在具备 960PR 平台数据的环境中完成。

关联 PR:PR #14537

likedislike