Open
[Bug-Report|缺陷反馈]:TopKV2图模式下k无编译期数据时构图失败(infershape对k空指针硬校验) #4712
zhanghedongAdd on 7 days ago
7 days ago Added label: bug-report
7 days ago Modify description of issue
7 days ago Associated pull request
jiyg
7 days ago Comments:
7 days ago Comments:
已针对该问题创建 MR !7374,修复动态 k 缺少编译期数据时的 infer-shape 失败,并增加对应 Host C++ UT。已在 10.1.30.29 A3 主机的 CANN 9.2.0 Docker 环境运行,TopKV2 infer-shape 7/7 通过。
MR /compile #7414 在共享 CI 的 opbase 构建阶段因 Ops::Base::DAV_5162 未定义失败,修改文件尚未进入编译,UT/PreSmoke 未运行;已在 MR 评论中附上架构构建日志并请维护者确认 CI 依赖版本。此算子当前未声明 A3 (ascend910_93) 支持,所以没有声称做过 A3 NPU kernel 验证。


陈思
6 days ago Comments:
6 days ago Comments:
/assign @zhanghedong


6 days ago Assign zhanghedong as responsible person
6 days ago Associated pull request
一、问题描述 (必填)
图模式下使用 TopKV2,
k为非 const 张量输入(运行期才有值)时,构图阶段 infershape 直接失败。math/top_k_v2/op_host/top_k_v2_infershape.cpp的InferShapeForTopKV2D原实现:... const int32_t* k = input_k_tensor->GetData<int32_t>(); OP_CHECK_NULL_WITH_CONTEXT(context, k); // k 数据指针为空 → ERROR + GRAPH_FAILED编译期 k 无数据(
GetData为空)时,打 ERROR 日志(""k is nullptr!")并返回 GRAPH_FAILED,导致整个构图失败。而该算子已声明DynamicShapeSupportFlag(true)且注册了InputsDataDependency({1}),图运行期会带真实 k 值重新推 shape,编译期不应因此硬失败。二、环境信息 (可选)
• 昇腾硬件型号:Ascend950
• CANN版本: 9.3.0
三、重现步骤 (可选)
图模式下构图包含 TopKV2 的网络,
k为上游算子输出(非 const、编译期无数据),触发 infershape:GetInputTensor(1)返回空或GetData为空 → 报 "input_k_tensor is nullptr!" / "k is nullptr!" → GRAPH_FAILED → 构图失败。四、预期结果 (可选)
编译期 k 无数据时,infershape 应将输出 values/indices 的排序轴降级为 unknown(-1) 并放通(打 WARN 日志);图运行期带真实 k 重新推 shape 后输出 dim 变实,正常进入 tiling。若运行期 k 仍为未知,则构图阶段失败,-1 不会流入 tiling。
💡 备注(选填)