Closed
[Bug-Report|缺陷反馈]: ForeachDivListInplace 在 arch35 上将 fp32 非规格数操作数冲零,有限商被误算为 ±Inf #8650
SunAdd on  10 days agoClosed at  10 days ago
Sun
SunCollaborators
10 days ago Create

Describe the current behavior / 问题描述 (Mandatory / 必填)

aclnnForeachDivListInplace(算子名 ForeachDivListInplace)在 arch35(dav-3510)的 regbase kernel 中把除法精度档固定为 DivAlgo::PRECISION_0ULP_FTZ_TRUE(foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h 中的常量 DIV_PRECISE)。该档位满足 0 ULP 正确舍入,但按 FTZ(flush-to-zero)语义会把 fp32 非规格数操作数冲零:

  • 当 fp32 非规格数(subnormal,|x| < FLT_MIN = 1.17549435e-38)出现在除数 x2 位置时,实际执行退化为 x / 0,商被算成 ±Inf;
  • 此时真商仍可能落在 float32 可表示范围内(kernel 注释给出的例子:真商约 2.5e38;PR 描述给出的例子:1e-4 / 1e-40 ≈ 1e36),属有限值却被输出成 ±Inf,TTK cross_check 因此报 NaN/Inf mismatch。

影响范围(均有代码依据):

  • 平台:仅 arch35 regbase kernel,即 ascend950 / ascend350 两个 AICore 配置(op_host/foreach_div_list_inplace_def.cpp 中 AddConfig("ascend950", ...)、AddConfig("ascend350", ...))。
  • 数据类型:FLOAT32、FLOAT16、BFLOAT16(def 注册三种 dtype;half/bfloat16 路径先 Cast 到 float 再走同一个 DIV_PRECISE,故一并受影响)。
  • 计算路径:float 直算 Div<T, DIV_PRECISE>;half/bfloat16 走 Cast → Div<float, DIV_PRECISE> → Cast 回转。
  • in-place 语义不变:x1 同时作为输入与输出,结果原地写回。

Environment Information / 环境信息 (Mandatory / 必填)

  • 昇腾硬件型号:Ascend 950PR/950DT 系列(arch35 / dav-3510);算子仅注册 ascend950、ascend350 两个配置
  • CANN 版本:包含 arch35 regbase kernel 的版本;version.cmake 中 ops-nn 版本为 9.2.0,要求 runtime / opbase / bisheng-compiler / asc-devkit / metadef / ge-executor 等 >= 8.5(仓内未固定具体发布版本号)
  • Python 版本:算子代码与 version.cmake 均未约束;跑 TTK 用例时的依赖见仓根 requirements.txt(numpy<2.0、pyyaml 等)

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 在 arch35(ascend950 或 ascend350)环境安装包含该算子的 ops-nn 包,确认 aclnnForeachDivListInplace 可用。
  2. 构造 x1 / x2 两个张量列表,dtype 取 FLOAT32,令商为有限值、但除数 x2 的元素为 fp32 非规格数。例如:
    • x1 = 1e-4,x2 = 1e-40(x2 为 subnormal,真商约 1e36,float32 可表示)
    • 或 kernel 注释中的例子:真商约 2.5e38
  3. 通过 aclnn 两段式接口调用:先 aclnnForeachDivListInplaceGetWorkspaceSize,再 aclnnForeachDivListInplace(接口与调用方式见 docs/aclnnForeachDivListInplace.md、examples/arch35/test_aclnn_foreach_div_list_inplace.cpp)。
  4. x1 为原地输出,回读 x1 观察商值。
  5. 也可用仓内 TTK 资产 tests/assets/golden.py(golden 由 torch._foreach_div 生成,float32/float16/bfloat16 均为 cross_check L1)构造含 fp32 非规格数操作数的用例复现。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

  • x1_i 应为 IEEE 754 语义下正确的有限商:如 1e-4 / 1e-40 ≈ 1e36,或 kernel 注释中的 2.5e38,而不是 ±Inf。
  • TTK cross_check 不再报 NaN/Inf mismatch。
  • 常规正态数输入的结果保持不变(仍为 0 ULP 正确舍入)。
  • 现象来自 TTK cross_check:含 fp32 非规格数操作数的用例判 NaN/Inf mismatch(NPU 侧输出 ±Inf,golden 侧为有限值)。
  • 本次提交未附带真机运行日志/截图;定位依据是 kernel 中 DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_TRUE} 的 FTZ 语义,以及 ascend950 / ascend350 两个配置的 dtype 列表。

Special notes for this issue/备注 (Optional / 选填)

  • 根因:DIV_PRECISE 选 PRECISION_0ULP_FTZ_TRUE 的出发点是性能(原注释实测同条件 --run 12:FTZ_TRUE 218.7us vs FTZ_FALSE 2028.1us,约 9.3x),代价是牺牲非规格数语义;原注释"本算子输入域内不产生 fp32 非规格数(最小 |商| 远大于 1.18e-38)"的假设在含非规格数除数的输入下不成立。
  • 修复方向(对应 PR):把 DIV_PRECISE 改为 DivAlgo::PRECISION_0ULP_FTZ_FALSE,改用完整 IEEE 754 语义——非规格数操作数与结果均按原值参与计算/输出,0 ULP 正确舍入档位不变;仅改 kernel 常量与其注释,不涉及 host/tiling、op_graph、接口签名与文档,in-place 语义不变。
  • 取舍:FTZ_FALSE 需完整处理非规格数,单次除法开销高于 FTZ_TRUE(见上述 9.3x 实测),属 IEEE 语义正确性与性能之间的取舍;后续若有性能诉求需重新评估两档。

关联 PR:https://gitcode.com/cann/ops-nn/pull/14143

likedislike
SunSunCollaborators
10 days ago Added label: bug-report
Sun
SunCollaborators
10 days ago Comments:

/assign @LuckySun

likedislike
CANN-robotCANN-robotCollaborators
10 days ago Assign LuckySun as responsible person
CANN-robotCANN-robotCollaborators
10 days ago Close issue
CANN-robotCANN-robotCollaborators
10 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
10 days ago Added label: resolved