Open
[Bug-Report|缺陷反馈]: NormalizeBBox FP16大除数精度错误及Host推导缺少校验 #7869
raoliang_sacAdd on  21 days ago
raoliang_sac
raoliang_sacCollaborators
21 days ago Create

Describe the current behavior / 问题描述

Ascend 950的NormalizeBBox在FP16坐标、高宽超过FP16最大有限值时会算错。高宽原本是合法INT32,旧实现先把它转成FP16,溢出后再相除;测试GPU参考重复同样的转换,可能把错误结果判为通过。

另外,Host推导直接放行已知非法rank、shape_hw结构、batch关系及输入dtype,缺少推导阶段的独立校验。

Environment Information / 环境信息

  • Ascend950PR_9579,CANN Toolkit 9.3.0;算子包由ops-nn主线d1109ae3c31e36eeacd7eb8ab186c33281d2d8af使用标准--pkg构建。
  • TTK fb6f02fcfa67bcd25c942875bad9f3023700f4ba,Python 3.12.9,实际Torch GPU参考为A100。TTK单进程,构建并行度4。

Steps to reproduce / 重现步骤

  1. boxes使用FP16,shape=[1,3,4],所有值为1000;shape_hw使用INT32,shape=[1,3],高宽均为65536,reversed_box=false。
  2. 用TTK kernel分别运行dyn、cst和release binary路径,使用提升精度的数学参考进行比较。回归用例nb_float16_large_hw已放入本PR的单个小型ST CSV。
  3. Host负向问题可通过SDK上下文构造器直接调用已安装包的注册推导复现,例如boxes为rank9但坐标维仍为4,或boxes为BOOL、shape_hw为INT32。

Describe the expected behavior / 预期结果

12个输出均应为1000/65536=0.0152587890625。输入合法性由对应推导阶段校验;动态维、动态rank和合法空Tensor继续正确传播。

未修改包:dyn/cst/bin均输出0,12/12个元素错误;FP32对照通过。旧GPU参考也输出0,cross_check误判PASS。

修正参考后,旧内核仍FAIL;改后26条小用例的三种Kernel路径、26条GE用例均PASS。动态和同图复用另有实测,详见关联PR。

备注

质量看板:https://cann.cannbot.cn/harnessmcp-tests/evaluation/validation/upload-20261026025814-normalizebbox-411f2cc3?tab=testcases

关联PR:https://gitcode.com/cann/ops-nn/merge_requests/13275

整合交付PR:https://gitcode.com/cann/ops-nn/pull/13239。原PR #13275的NormalizeBBox修改已完整移植,目录Git tree与原受测版本一致;合并后已通过950/910B定向本地CI。原PR及历史设备验证记录保留。

likedislike
raoliang_sacraoliang_sacCollaborators
21 days ago Added label: bug-report
yuning_chenyuning_chenCollaborators
21 days ago Assign raoliang_sac as responsible person
raoliang_sacraoliang_sacCollaborators
18 days ago Modify description of issue
chenjiayi_chenjiayi_Collaborators
8 days ago Assign chenjiayi_ as responsible person
chenjiayi_
chenjiayi_Collaborators
8 days ago Comments:

补充说明本问题的处理进展:

已核对关联 PR 与当前指派,该 issue 仍处于 open,指派后评论区保持静止。

当前状态:

  • 关联 PR:PR#13239,状态 merged,merged_at=2026-11-03 14:29。
  • 当前责任人:raoliang_sac, chenjiayi_。
  • 指派时间:2026-11-01 01:06。
  • PR 合入记录为 2026-11-03 14:29。

依据(PR/评论):

  • PR#13239 的当前状态为 merged,合入时间为 2026-11-03 14:29。
  • 本 issue 在指派后评论区保持静止。

后续:复核 master 后关闭 issue。

MR 链接:https://gitcode.com/cann/ops-nn/pull/13239

likedislike
yuning_chen
yuning_chenCollaborators
5 days ago Comments:

问题成立。epsilon/属性在接口层声明为 double,实现按 float 取值,极小正值下溢为 0,导致除零/全零输出。建议:①保留 double 到使用点或 max(eps, FLT_MIN);②资料写明有效范围;③补 UT。

本条要点: Describe the current behavior / 问题描述

likedislike
chenjiayi_chenjiayi_Collaborators
16 hours ago Removed responsible person chenjiayi_