已关闭
[Bug-Report|缺陷反馈]: BoundingBoxEncode 处理极端/失配坐标范围的边界框精度问题 #734
zhangyiyi创建于  11 天前关闭于  7 天前
zhangyiyi
zhangyiyi
11 天前 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

Describe the current behavior / 问题描述 (Mandatory / 必填)

BoundingBoxEncode kernel 在处理极端或失配坐标范围的边界框(例如 anchor 坐标接近 FP32 最大值 ~3.4e38、ground-truth 坐标 ~0.01)时的精度问题。该场景下 rw = gw / pw 会下溢趋近于零,触发 NPU 硬件 Ln 指令返回 -inf 而非有限负数值。

Environment / 环境信息 (Mandatory / 必填)

ascend950

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

anchor 坐标接近 FP32 最大值 ~3.4e38、ground-truth 坐标 ~0.01

Describe the expected behavior / 预期结果 (Mandatory / 必填)

与golden一致。

image.png

Special notes for this issue/备注 (Optional / 选填)

likedislike
zhangyiyizhangyiyi
11 天前 关联了pull request:fix(bounding_box_encode): fix precision tolerance mapping(extreme mismatched ranges) & add validations in geir path and inferdatatype
liu-weiliu-wei成员
11 天前 将 ugzhangyiyi 设为负责人
CANN-robotCANN-robot成员
7 天前 关闭了 issue
CANN-robotCANN-robot成员
7 天前 添加了label:resolved