Closed
[Requirement|需求建议]: Index、Pooling 31 算子按 NpuArch 整改(DAV_3510 统一注册与平台判断) #9150
陈展熹Add on  3 days agoClosed at  2 days ago
陈展熹
陈展熹Collaborators
3 days ago Create

Backgroud(背景信息)

CANN 算子注册与构建链路正从 SoC 型号维度迁移到稳定的 NpuArch 维度:ascend950/ascend350 同属 DAV_3510,ascend960dt/ascend960pr 分别对应 DAV_9201/DAV_9202。opbase 已提供 op_common/op_host/util/op_arch_helper.h(ArchConfigHelper::AddConfigByArch)与 op_common/op_host/util/op_const_def.h(Ops::Base::DAV_*)作为统一入口。

Index、Pooling 共 31 个 AI Core 算子仍按 SoC 名逐条 AddConfig("ascend950")/AddConfig("ascend350"),同一 arch 需要维护两份完全相同的注册配置;Host/Kernel CMake、ascendc_config.json 也按 SoC 名枚举;op_api/tiling 中仍存在 NpuArch::DAV_* 等平台判断。新增同 arch 芯片需要逐算子修改注册、构建与平台判断,存在重复冗余和漏改风险。

Origin(信息来源)

CANN NpuArch 整改专项(Index、Pooling 批,31 算子)。对应 PR:https://gitcode.com/cann/ops-nn/pull/13760

范围(本批 31 个 AI Core 算子)

  • index 29 个:bucketize_v2、gather_elements、gather_nd、gather_v2、index_fill、index_fill_d、inplace_index_add、inplace_index_fill、linear_index_v2、masked_scatter、repeat_interleave、reverse_v2、scatter、scatter_add、scatter_add_with_sorted、scatter_elements、scatter_elements_v2、scatter_nd、scatter_nd_add、scatter_nd_max、scatter_nd_min、scatter_nd_update、scatter_sub、scatter_update、segment_sum、sorted_sparse_segment_mean_grad、sparse_segment_mean、sparse_to_dense、unsorted_segment_min
  • pooling 2 个:avg_pool、avg_pool_v2

本批不含融合 pass 规则及其 UT 改动,融合 pass 保持现状。

平台兼容目标

  • Ascend950、Ascend350 统一由 DAV_3510 覆盖,共享一套注册与构建配置,删除重复的 ascend350 项;
  • ascend960dt(DAV_9201)、ascend960pr(DAV_9202)保留原有显式注册与二进制差异(如 GatherV2、LinearIndexV2);
  • 910/310/mc62 等范围外平台保留原有 SoC 配置与行为;
  • 31 算子 × 15 种有效平台/别名共 465 组配置对照一致,Ascend950/Ascend350 JIT 算子包构建通过。

Benefit / Necessity (价值/作用)

  • 注册面收敛:950/350 合并为一次 AddConfigByArch(Ops::Base::DAV_3510),dtype、format、属性及 opFile.value 与原有注册保持一致;
  • 构建口径统一:Host CMake、Kernel CMake、scripts/kernel/binary_config/ascendc_config.json 使用 dav_3510/dav_9201/dav_9202,与 tiling 目录逐项配对;
  • 平台判断稳定:op_api/tiling 使用 Ops::Base::DAV_*,不再依赖会变化的 SoC 字符串;
  • 预期 0 行为变化,降低新增同 arch 芯片的维护成本。

Design(设计方案)

  1. op_host/*_def.cpp:AddConfig("ascend950"/"ascend350", cfg) → opbase::ArchConfigHelper::AddConfigByArch(this->AICore(), Ops::Base::DAV_3510, cfg);960 平台使用 DAV_9201/DAV_9202 同接口注册。
  2. Host CMake:目标平台由 SoC 名改为 dav_3510/dav_9201/dav_9202,删除与 dav_3510 重复的 ascend350 目录项。
  3. Kernel CMake:按 NpuArch 声明 kernel 源码与编译选项,使用公共 CMake 的 SoC/NpuArch 混配能力。
  4. op_api/tiling:NpuArch::DAV_* 统一为 Ops::Base::DAV_*;LinearIndexV2CompileInfo 字段 isAscend950 重命名为 isRegbase。
  5. 二进制配置:ascendc_config.json 中相关算子的 compute_units/compile_options 合并为 dav_3510,保留 mc62、ascend960dt、ascend960pr 等其他平台项;构建脚本将 ascend950/350 映射到 dav_3510 配置项。

测试

  • 31 算子、15 种有效平台/别名,共 465 组配置对照通过;
  • Ascend950、Ascend350 各自的 31 算子 JIT 算子包构建通过;
  • pre-commit(含 OAT)通过。

关联 PR

https://gitcode.com/cann/ops-nn/pull/13760

likedislike
陈展熹陈展熹Collaborators
3 days ago Added label: requirement
陈展熹陈展熹Collaborators
3 days ago Associated pull request
陈展熹陈展熹Collaborators
3 days ago Modify description of issue
yuning_chen
yuning_chenCollaborators
3 days ago Comments:

收到。Index、Pooling 共 31 个算子把注册/构建/平台判断统一到 NpuArch(DAV_3510 合并 ascend950/ascend350),是 NpuArch 整改专项里规模较大的一批,方向认可,PR !13760 已看到。四点建议:

  1. 单 PR 31 个算子的评审与回归风险偏高。建议按 index(29 个)/ pooling(2 个)拆分,或至少拆成「注册配置改造」「CMake/ascendc_config.json 改造」「平台判断改造」三个 commit,让每一层都能独立回归。31 个算子任何一个改错,定位成本都是整批的。
  2. 保留 SoC 名 → NpuArch 的映射层。AddConfig("ascend950") / AddConfig("ascend350") 合并为 AddConfigByArch(DAV_3510) 之后,仓库外可能仍有按 SoC 名的构建入口(下游集成、老脚本)。建议在 helper 里保留双向映射,不要直接把 SoC 名入口删掉。
  3. 注意平台判断的「行为等价」。原来代码里可能存在 ascend950 与 ascend350 的差异化分支(例如 tiling 参数不同)。合并到 DAV_3510 时要逐处确认:这些分支是「同一 arch 内本就相同」还是「历史差异需保留」。建议在 PR 描述里列出所有被合并的 NpuArch::DAV_* 判断点及其等价性论证。
  4. 建议给这个专项定一条可验收的判据:「新增一个同 arch 芯片时,31 个算子无需任何修改即可构建」。可以写成一个检查脚本(扫描 def.cpp/CMake/json 里是否还有硬编码 SoC 名),作为整改完成的客观标准,也防止后续回归。

需求/整改类请同步在 ops-nn SIG 例会申报议题:https://etherpad-cann.meeting.osinfra.cn/p/sig-ops-nn

likedislike
yuning_chenyuning_chenCollaborators
3 days ago Assign yourealize as responsible person
CANN-robotCANN-robotCollaborators
2 days ago Close issue
CANN-robotCANN-robotCollaborators
2 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
2 days ago Added label: resolved