Closed
[Bug-Report|缺陷反馈]: BatchNorm3DGrad 在 GEIR 图模式下 NCHW/NHWC 用例被内置 V1 推导拦截 #7312
严明奎Add on  27 days agoClosed at  27 days ago
严明奎
严明奎Collaborators
27 days ago Create

Describe the current behavior / 问题描述 (Mandatory / 必填)

BatchNorm3DGrad 算子的 tiling 与 binary 配置实际支持 NCHW/NHWC/NCDHW/NDHWC 四种格式,但在 GE 静态图(GEIR)模式下,NCHW/NHWC 用例在 shape 推导阶段即被拦截,走不到本算子的 V2 推导实现。

CANN 内置的算子原型库(libopsproto.so 中 nn_batch_norm_ops.cc 的 BatchNorm3DGradInferShape)为同名图算子注册了一份 V1 推导,且仅接受 data_format 为 NDHWC/NCDHW,其余一律报错:

data_format has wrong format [NCHW], it should be in NDHWC, NCDHW

GE 的 CallInferFunc 在 OpDesc 上存在 V1 推导时优先调用 V1,因此 GEIR 的 NCHW/NHWC 用例都在内置 V1 推导处被拦截,报 E89999。

依据:

  • tiling 侧四种格式均被接受 —— norm/batch_norm3_d_grad/op_host/arch35/batch_norm3d_grad_tiling.cpp:247-266(NCHW/NHWC 要求 4 维,NCDHW/NDHWC 要求 5 维,其余格式才报错)
  • binary 配置侧八条配置覆盖四种格式 —— norm/batch_norm3_d_grad/op_host/config/ascend950/batch_norm3_d_grad_binary.json 与 .../ascend350/...(float16/float32 × NCHW/NHWC/NCDHW/NDHWC)
  • 本算子的 V2 推导为 norm/batch_norm3_d_grad/op_host/batch_norm3_d_grad_infershape.cpp(IMPL_OP_INFERSHAPE),未对 data_format 做字符串校验

Environment Information / 环境信息 (Mandatory / 必填)

缺陷所处通路:GE 静态图(GEIR)模式,AddGraph/RunGraph 的 shape 推导阶段 —— 即 GE 的 CallInferFunc 优先调用 OpDesc 上的 V1 推导注册表的路径。V2(runtime2.0)exe_graph 通路不受影响。

具体硬件型号与 CANN 版本未实测,不作填写。

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 以 GE 静态图方式构图:创建 op::BatchNorm3DGrad 节点,data_format 设为 NCHW(或 NHWC)
  2. y_backprop / x 按 4 维形状(NCHW)设置,scale / reserve_space_1 / reserve_space_2 按 {C} 设置
  3. graph.SetInputs(...).SetOutputs(...) 后 AddGraph / RunGraph
  4. 观察 shape 推导阶段报错

(参考 norm/batch_norm3_d_grad/examples/test_geir_batch_norm3d_grad.cpp,该示例当前使用 NCDHW,改为 NCHW 即可命中。)

Describe the expected behavior / 预期结果 (Mandatory / 必填)

GEIR 图模式下 NCHW/NHWC 用例通过 shape 推导,输出形状推导为:

x_backprop      <- y_backprop(shape + dtype)
scale_backprop  <- scale(shape + dtype)
offset_backprop <- scale(shape + dtype)
reserve_space_4 <- {0}
reserve_space_5 <- {0}

与 V2 推导(op_host/batch_norm3_d_grad_infershape.cpp)语义一致。

报错文本(来自内置 libopsproto.so 中的 V1 推导实现 nn_batch_norm_ops.cc: BatchNorm3DGradInferShape):

data_format has wrong format [NCHW], it should be in NDHWC, NCDHW

GE 图编译阶段返回 E89999,推导失败,未进入 tiling。

Special notes for this issue/备注 (Optional / 选填)

本 issue 内容由代码分析得出(内置库报错文本未在本机实测,本机无 CANN 环境)。关联修复 PR 见下方链接。

关联 PR:https://gitcode.com/cann/ops-nn/merge_requests/12696

likedislike
严明奎严明奎Collaborators
27 days ago Added label: bug-report
CANN-robotCANN-robotCollaborators
27 days ago Close issue
CANN-robotCANN-robotCollaborators
27 days ago Added label: resolved
严明奎严明奎Collaborators
26 days ago Associated pull request
HuangRZzzzHuangRZzzzCollaborators
9 days ago Assign qq_37917228 as responsible person
CANN-robotCANN-robotCollaborators
9 days ago changed custom state from 进行中 to 已完成