Open
[Bug-Report|缺陷反馈]:TopKV2图模式下k无编译期数据时构图失败(infershape对k空指针硬校验) #4712
zhanghedongAdd on  7 days ago
zhanghedongCollaborators
7 days ago Create

一、问题描述 (必填)

图模式下使用 TopKV2,k 为非 const 张量输入(运行期才有值)时,构图阶段 infershape 直接失败。

math/top_k_v2/op_host/top_k_v2_infershape.cpp 的 InferShapeForTopKV2D 原实现:

...
const int32_t* k = input_k_tensor->GetData<int32_t>();
OP_CHECK_NULL_WITH_CONTEXT(context, k);                // k 数据指针为空 → ERROR + GRAPH_FAILED

编译期 k 无数据(GetData 为空)时,打 ERROR 日志(""k is nullptr!")并返回 GRAPH_FAILED,导致整个构图失败。而该算子已声明 DynamicShapeSupportFlag(true) 且注册了 InputsDataDependency({1}),图运行期会带真实 k 值重新推 shape,编译期不应因此硬失败。

二、环境信息 (可选)

• 昇腾硬件型号:Ascend950
• CANN版本: 9.3.0

三、重现步骤 (可选)

图模式下构图包含 TopKV2 的网络,k 为上游算子输出(非 const、编译期无数据),触发 infershape:GetInputTensor(1) 返回空或 GetData 为空 → 报 "input_k_tensor is nullptr!" / "k is nullptr!" → GRAPH_FAILED → 构图失败。

四、预期结果 (可选)

编译期 k 无数据时,infershape 应将输出 values/indices 的排序轴降级为 unknown(-1) 并放通(打 WARN 日志);图运行期带真实 k 重新推 shape 后输出 dim 变实,正常进入 tiling。若运行期 k 仍为未知,则构图阶段失败,-1 不会流入 tiling。

💡 备注(选填)

likedislike
ZzhanghedongCollaborators
7 days ago Added label: bug-report
ZzhanghedongCollaborators
7 days ago Modify description of issue
jiygjiyg
7 days ago Associated pull request
jiyg
jiyg
7 days ago Comments:

已针对该问题创建 MR !7374,修复动态 k 缺少编译期数据时的 infer-shape 失败,并增加对应 Host C++ UT。已在 10.1.30.29 A3 主机的 CANN 9.2.0 Docker 环境运行,TopKV2 infer-shape 7/7 通过。

MR /compile #7414 在共享 CI 的 opbase 构建阶段因 Ops::Base::DAV_5162 未定义失败,修改文件尚未进入编译,UT/PreSmoke 未运行;已在 MR 评论中附上架构构建日志并请维护者确认 CI 依赖版本。此算子当前未声明 A3 (ascend910_93) 支持,所以没有声称做过 A3 NPU kernel 验证。

likedislike
陈思
陈思Collaborators
6 days ago Comments:

/assign @zhanghedong

likedislike
CANN-robotCANN-robotCollaborators
6 days ago Assign zhanghedong as responsible person
MetastarxMetastarx
6 days ago Associated pull request