Merged
[feat] 新增SelectTopk算子对齐DeepSelect 接口功能 #7557
nextyaleAdd on 5 days ago
[feat] 新增SelectTopk算子对齐DeepSelect 接口功能 #7557
Merged
nextyaleAdd on 5 days ago
nextyale
nextyaleCollaborators
5 days ago

描述

新增独立的 SelectTopK 算子及 aclnnSelectTopKGetWorkspaceSize / aclnnSelectTopK 两阶段接口,提供指定轴上的最大/最小 K 元素选择、区间选择和可配置输出。本 PR 包含完整的 ACLNN、L0、算子原型、Host 规划、Kernel 实现、测试和文档。

  • 接口能力:支持 FP16、BF16、FP32 输入,INT32/INT64 索引,值与索引的单/双输出,按值排序或无序输出,广播/逐行 begin/end 区间、非连续输入输出及有效元素不足 K 时的填充。indices_offset 仅作用于有效原轴索引,index_fill 不加偏移。
  • Host 与 Kernel:Host 按 14 条规划规则选择算法、调度和资源,最终生成连续的 0~10 共 11 个 tiling key。完整入口分别为 RowSort、MergeSort、RangeMerge、Top1、ShortRows、Select、WideSelect、LeafSelect、CopyAll、TinyRow 和 PrefixRows;容量、候选裁剪、分片、驻留及归并策略由明确的 tiling 参数表达。通用行排序、核内/跨核归并承担基础路径,长轴小 K、短轴、多行、Top1 和全量输出等场景使用对应优化。
  • 完整 L2 调用链:完成输入连续化、轴布局准备、选择计算、索引转换和输出恢复。符合标准模式及 dtype/N/K 门控的请求调用 Topk/RadixTopK;order=1 且返回 INT32 中间索引时,通过 SortWithIndex 同步重排值与原轴索引,order=0 不追加排序。该分流接受约定的 NaN 规范化行为,SelectTopK 主路径保留原值位模式。
  • 平台与兼容性:注册 A2(ascend910b)与 A3(ascend910_93),共用 arch22 实现。保留旧 aclnnTopk/aclnnTopkV2 的接口和实现,不修改 TopKV2、Topk、RadixTopK 或 SortWithIndex 源码。

关联的Issue

关联需求:Issue #4833。

测试

  • README 更新前提交 528fe46ab066 的 CI run #7895 已通过,并已核对流水线实际检出的源码。当前提交 07f5cb1fd03d 按审阅意见清理正式文档中的过程性内容及重复通用约束,API/Host/Kernel 未变;文档检查及 pre-commit 通过,新提交 CI 由作者手动触发,尚无对应结果。
  • 仓库标准流程实际收集并通过 Host UT 12/12、Radix 门控 opapi UT 4/4;标准模式 ACLNN 可执行示例在 CI A2 冒烟中通过 values/indices 校验,进程正常退出。
  • 本地 30,294 组 Host 规划/资源检查、63,159 组布局检查及 L2/L0 编译通过;pre-commit(含 clang-format 18.1.8)通过。
  • 保留第二阶段冻结版本 a35694840 的 A2 标准模式 200 例结果作为已有性能证据:采用 ATK 默认 performance_data,以完整 L2 原始 performance_device 对照冻结原生基线,special 64 例(K≤4096 且 N≥16384)等权平均改善 61.88%,其余 136 例逐例不退化。200/200 正确性、严格位精度、输入及 API/Kernel 来源和采集完整性检查通过。special 的 ID92 仍观测到 93.69% 退化,完整计入平均并保留记录。
  • 当前 API/Host/Kernel 与上述第二阶段源码相比仅一行文档引用注释变化;本次 CI 修复后未重新运行完整 ATK,历史结果不表述为当前提交新测结果。Radix/SortWithIndex 分流不在上述 200 例覆盖内,其设备正确性、兼容性差异及性能仍待验证;A3 未做真机验收,标准模式性能结论不外推到全部扩展组合。

文档更新

新增 math/select_top_k/docs/aclnnSelectTopK.md 接口文档和 ACLNN 菜单入口,说明参数、扩展语义、约束、完整调用链及调用示例;提供算子与 UT 的中英文 README,记录构建/测试命令、Radix 门控、NaN 行为和配套依赖,并提供可执行 ACLNN 示例。ACLNN 文档及中英文 README 使用功能条件说明依赖,移除 PR 编号、链接及合入过程信息。 按审阅意见进一步移除验证进度、迁移/归档记录、重复产品支持及通用运行环境约束,保留 TopK 专属参数和输出语义。

类型标签

likedislike
Pull Request has been successfully merged by CANN-robot.
(Thank you for nextyale's contribution.)
nextyalenextyaleCollaborators
5 days ago Created pull request, commit df6378d7
atomgit-bot
atomgit-bot
5 days ago Comments:

🤖 正在生成合并请求摘要,请稍候…

likedislike
Incorrect?
atomgit-bot
atomgit-bot
5 days ago Comments:

🤖 AI 代码检视正在进行中,请稍候…

likedislike
Incorrect?
CANN-robotCANN-robotCollaborators
5 days ago Added label: stat/needs-squash
nextyale
nextyaleCollaborators
5 days ago Comments:

/compile

likedislike
135 messages are collapsed here。 See more
CANN-robotCANN-robotCollaborators
4 days ago Added label: approved
rxtfeng
rxtfengCollaborators
4 days ago Comments:

/lgtm

likedislike
CANN-robotCANN-robotCollaborators
4 days ago Added label: lgtm
CANN-robotCANN-robotCollaborators
4 days ago Closed associated issue
CANN-robotCANN-robotCollaborators
4 days ago Merged pull request