Open
[Requirement|需求建议]:[社区任务]新增MaxPool2dWithMaskBackward算子 #7212
Yuzhao2026Add on  Oct 22
Yuzhao2026
Yuzhao2026
Oct 22 Create

Backgroud(背景信息)

在 Atlas 推理系列产品上进行cv模型(如YOLO 系列检测/分割模型)训练时,max_pool2d 的反向梯度计算缺少原生算子支持,torch_npu 下发 aclnnMaxPool2dWithMaskBackward 时找不到对应实现,反向阶段直接报错,导致训练任务无法跑通。

使用 Ascend C 新增 MaxPool2dWithMaskBackward 算子,将 scatter-add 累加在 AICore 上执行,补齐 maxpool 反向梯度计算的原生算子支持,开箱即用。

Origin(信息来源)

外部贡献(社区任务)

Benefit / Necessity (价值/作用)

MaxPool2dWithMaskBackward 是 MaxPool2dWithMask 前向算子的反向梯度算子,按 indices(int32 argmax,mask 语义)给出的位置,将上游梯度 gradOutput 散射累加回 gradInput。计算公式:gradInput[h_s][w_s] += gradOutput[h][w]。当 stride < kernelSize 时窗口重叠,同一输入位置会被多个窗口命中,需要累加;未被命中的位置输出 0。

在检测/分割模型训练中,maxpool 是必备组件,其反向计算效率直接影响训练吞吐。该算子通过 Ascend C 实现,将 scatter-add 放在 AICore/Vector 上并行执行,一份代码同时支持 Atlas 800T A2(FP32/FP16/BF16)与 Atlas 300V Pro(FP32/FP16)。

Design(设计方案)

算子实现 maxpool 反向计算,按 indices 索引将 gradOutput 中对应位置的梯度累加到 gradInput 对应位置:

gradInput[n][c][h_s][w_s] += gradOutput[n][c][h][w]

其中 (h_s, w_s) 由 indices 解码得到(每通道独立),未被任何窗口命中的位置为 0。单个输入位置最多被 ceil(kh/sh) × ceil(kw/sw) 个窗口命中;s ≥ k 时不重叠,退化为纯搬移。

支持数据类型:

  • gradOutput / self / gradInput:FLOAT32 / FLOAT16 / BFLOAT16( Atlas 推理系列产品仅 FLOAT32 / FLOAT16)
  • indices:INT8(容器,连续前缀承载 int32 argmax,值 = ih * W + iw)

属性:kernelSize、stride、padding、dilation(仅支持 1)、ceilMode

Host 侧设计:

  • Shape 推导:gradInput 与 self 同 shape,gradOutput 与正向 out 同 shape;indices 与正向输出同 shape [N, C, kh*kw, (ceil(H_out*W_out/16)+1)*2*16]
  • Tiling Key 规划:
    • Key normal:通用路径,支持重叠窗口,核内按 UB 分块累加
    • Key cutk:固定小 kernel 展开路径,减少通用循环开销
    • Key scatter:无重叠场景(s ≥ k 且无 padding 交叉),目标位置唯一,直接散射搬移,不使用原子操作与跨核同步
    • Key arch20( Atlas 推理系列产品):按 dtype、通道块(C8/C16)、重叠形态与 UB 预算分发到不同模板实例
  • 分核策略:按 N*C 与输出行分核,保证每个输入位置只由一个核写入(核独占输出区域),核内梯度在 UB 中累加后经 MTE 一次性写回;310P 使用 C8/C16 通道分段、Copy32 处理非对齐尾块,并将输出 DMA 与下一 stripe 重叠

支持硬件:
Atlas 800T A2(910B)、Atlas 300V Pro(310P)

算子约束限制:

  • 2D pooling,4 维 NCHW 布局(aclnn 接口层以 ND 描述),dilation 仅支持 1
  • padding >= 0 且 <= kernelSize;stride 长度为 0 时取 kernelSize
  • 默认非确定性实现,支持通过 aclrtCtxSetSysParamOpt 开启确定性计算
  • 输入暂不支持 NaN、-Inf
  • 310P 不支持 BFLOAT16
likedislike
Yuzhao2026Yuzhao2026
Oct 22 Change title to "[Requirement|需求建议]: [社区任务]新增MaxPool2dWithMaskBackward算子", originally titled "[Requirement|需求建议]: ".
yuning_chen
yuning_chenCollaborators
Oct 22 Comments:

初步分析

感谢反馈。

现象理解:希望在推理系列上新增 MaxPool2dWithMaskBackward,按 indices 把梯度散射累加回输入。

当前判断:初步判断,待复现确认。

涉及范围:pooling 的 MaxPool2dWithMask 反向,目标包含推理产品和 910B。

下一步:先确认前向算子所在目录,再补反向的接口、dtype 和重叠窗口累加语义。

likedislike
yuning_chenyuning_chenCollaborators
Oct 22 Assign duxinlei as responsible person
Yuzhao2026Yuzhao2026
Oct 22 Associated pull request
Yuzhao2026Yuzhao2026
Oct 22 Change title to "[社区任务]新增MaxPool2dWithMaskBackward算子", originally titled "[Requirement|需求建议]: [社区任务]新增MaxPool2dWithMaskBackward算子".
Yuzhao2026Yuzhao2026
Oct 22 Change title to "[Requirement|需求建议]:[社区任务]新增MaxPool2dWithMaskBackward算子", originally titled "[社区任务]新增MaxPool2dWithMaskBackward算子".
yuning_chenyuning_chenCollaborators
Oct 22 Removed responsible person duxinlei
yuning_chenyuning_chenCollaborators
Oct 22 Assign Yuzhao2026 as responsible person