已关闭
[Bug-Report|缺陷反馈]: FusedMulAdd/FusedMulAddAdd/MulNoNan 未注册 InferDataType,GE 图通路输出 dtype 缺少推导来源 #2987
zl_hw创建于  8月31日关闭于  9月19日
zl_hw成员
8月31日 创建

Describe the current behavior / 问题描述

FusedMulAdd、FusedMulAddAdd、MulNoNan 这 3 个算子,在各自的 op_host/*_infershape.cpp 中只做了 IMPL_OP_INFERSHAPE(<OpType>).InferShape(...) 注册,没有注册 InferDataType;在 op_graph/ 下也没有 IMPL_OP(<OpType>).InferDataType(...) 的注册。因此在 GE 图通路上,这 3 个算子的输出 dtype 缺少显式推导来源。

Environment / 环境信息

  • 代码仓:cann/ops-math,master 分支
  • 复现基线:6439d9c90(feat: Add aclnn st cases and golden functions)
  • 复现环境:x86_64 Ubuntu,gcc 13.3.0,使用仓内 op_host UT 框架(build.sh -u --ophost)
  • 说明:该问题位于算子注册面(op_host / op_graph 的 InferDataType 注册),与具体昇腾硬件型号无关,影响所有注册了上述算子的产品形态

Steps to reproduce the issue / 重现步骤

  1. 检出 cann/ops-math master(基线 6439d9c90)

  2. 对上述任一算子检查注册面,例如:

grep -n "InferDataType" math/fused_mul_add/op_host/fused_mul_add_infershape.cpp
grep -rn "InferDataType" math/fused_mul_add/op_graph/

两条命令均无输出,即该算子既没有在 op_host 也没有在 op_graph 注册 InferDataType。math/fused_mul_add_add、math/mul_no_nan 同理。

  1. 在 UT 中从注册表取该算子实现,其 infer_datatype 字段为 nullptr。

Describe the expected behavior / 预期结果

这 3 个算子应注册 InferDataType,输出 dtype 跟随输入 x1(与 op_proto 一致),即从注册表取到的 infer_datatype 非空,且对 fp16 / fp32 / bf16 / int32 等输入 dtype 均能推导出与 x1 相同的输出 dtype。

修复前,上述 grep 命令无任何输出(即无 InferDataType 注册)。

修复后,bash build.sh -u --ophost --ops=fused_mul_add,fused_mul_add_add,mul_no_nan 的执行结果:

[  PASSED  ] 47 tests.

[       OK ] FusedMulAddInfershape.infer_datatype_fp16
[       OK ] FusedMulAddInfershape.infer_datatype_fp32
[       OK ] FusedMulAddInfershape.infer_datatype_int32
[       OK ] FusedMulAddAddInfershape.infer_datatype_fp16
[       OK ] FusedMulAddAddInfershape.infer_datatype_fp32
[       OK ] FusedMulAddAddInfershape.infer_datatype_int32
[       OK ] MulNoNanInfershape.infer_datatype_fp16
[       OK ] MulNoNanInfershape.infer_datatype_fp32
[       OK ] MulNoNanInfershape.infer_datatype_bf16
[       OK ] MulNoNanInfershape.infer_datatype_int32

新增用例中的 ASSERT_NE(opImpl->infer_datatype, nullptr) 即为该注册生效的直接证据。

Special notes for this issue / 备注

likedislike
Zzl_hw成员
8月31日 添加了label:bug-report
陈思
陈思成员
9月1日 评论:

/assign @zl_hw

likedislike
CANN-robotCANN-robot成员
9月1日 将 zl_hw 设为负责人
Ssongkai111成员
9月19日 issue状态由 进行中 改变为 已拒绝
Ssongkai111成员
9月19日 关闭了 issue