Closed
[Bug-Report|缺陷反馈]: ForeachDivListInplace 在 arch35 上将 fp32 非规格数操作数冲零,有限商被误算为 ±Inf #8650
SunAdd on 10 days agoClosed at 10 days ago
10 days ago Added label: bug-report
10 days ago Assign LuckySun as responsible person
10 days ago Close issue
10 days ago changed custom state from 待办的 to 已完成
10 days ago Added label: resolved


Describe the current behavior / 问题描述 (Mandatory / 必填)
aclnnForeachDivListInplace(算子名ForeachDivListInplace)在 arch35(dav-3510)的 regbase kernel 中把除法精度档固定为DivAlgo::PRECISION_0ULP_FTZ_TRUE(foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h中的常量DIV_PRECISE)。该档位满足 0 ULP 正确舍入,但按 FTZ(flush-to-zero)语义会把 fp32 非规格数操作数冲零:|x| < FLT_MIN = 1.17549435e-38)出现在除数x2位置时,实际执行退化为x / 0,商被算成±Inf;2.5e38;PR 描述给出的例子:1e-4 / 1e-40 ≈ 1e36),属有限值却被输出成±Inf,TTK cross_check 因此报NaN/Inf mismatch。影响范围(均有代码依据):
ascend950/ascend350两个 AICore 配置(op_host/foreach_div_list_inplace_def.cpp中AddConfig("ascend950", ...)、AddConfig("ascend350", ...))。FLOAT32、FLOAT16、BFLOAT16(def 注册三种 dtype;half/bfloat16 路径先Cast到 float 再走同一个DIV_PRECISE,故一并受影响)。Div<T, DIV_PRECISE>;half/bfloat16 走Cast→Div<float, DIV_PRECISE>→Cast回转。x1同时作为输入与输出,结果原地写回。Environment Information / 环境信息 (Mandatory / 必填)
ascend950、ascend350两个配置version.cmake中 ops-nn 版本为9.2.0,要求 runtime / opbase / bisheng-compiler / asc-devkit / metadef / ge-executor 等>= 8.5(仓内未固定具体发布版本号)version.cmake均未约束;跑 TTK 用例时的依赖见仓根requirements.txt(numpy<2.0、pyyaml等)Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
ascend950或ascend350)环境安装包含该算子的 ops-nn 包,确认aclnnForeachDivListInplace可用。x1/x2两个张量列表,dtype 取FLOAT32,令商为有限值、但除数x2的元素为 fp32 非规格数。例如:x1 = 1e-4,x2 = 1e-40(x2为 subnormal,真商约1e36,float32 可表示)2.5e38aclnnForeachDivListInplaceGetWorkspaceSize,再aclnnForeachDivListInplace(接口与调用方式见docs/aclnnForeachDivListInplace.md、examples/arch35/test_aclnn_foreach_div_list_inplace.cpp)。x1为原地输出,回读x1观察商值。tests/assets/golden.py(golden 由torch._foreach_div生成,float32/float16/bfloat16 均为 cross_check L1)构造含 fp32 非规格数操作数的用例复现。Describe the expected behavior / 预期结果 (Mandatory / 必填)
x1_i应为 IEEE 754 语义下正确的有限商:如1e-4 / 1e-40 ≈ 1e36,或 kernel 注释中的2.5e38,而不是±Inf。NaN/Inf mismatch。Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
NaN/Inf mismatch(NPU 侧输出±Inf,golden 侧为有限值)。DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_TRUE}的 FTZ 语义,以及ascend950/ascend350两个配置的 dtype 列表。Special notes for this issue/备注 (Optional / 选填)
DIV_PRECISE选PRECISION_0ULP_FTZ_TRUE的出发点是性能(原注释实测同条件--run 12:FTZ_TRUE 218.7us vs FTZ_FALSE 2028.1us,约 9.3x),代价是牺牲非规格数语义;原注释"本算子输入域内不产生 fp32 非规格数(最小 |商| 远大于 1.18e-38)"的假设在含非规格数除数的输入下不成立。DIV_PRECISE改为DivAlgo::PRECISION_0ULP_FTZ_FALSE,改用完整 IEEE 754 语义——非规格数操作数与结果均按原值参与计算/输出,0 ULP 正确舍入档位不变;仅改 kernel 常量与其注释,不涉及 host/tiling、op_graph、接口签名与文档,in-place 语义不变。关联 PR:https://gitcode.com/cann/ops-nn/pull/14143