Merged
fix: 修复 foreach_div_list_inplace 非规格数操作数除法被误算为 Inf 的问题 #14143
SunAdd on 11 days ago
fix: 修复 foreach_div_list_inplace 非规格数操作数除法被误算为 Inf 的问题 #14143
Merged
SunAdd on 11 days ago
Sun
SunCollaborators
11 days ago

描述

改动原因

foreach_div_list_inplace 在 arch35(dav-3510,对应 ascend950 / ascend350 配置)上原先将除法档位固定为 DivAlgo::PRECISION_0ULP_FTZ_TRUE。该档位虽满足 0 ULP 正确舍入,但会把 fp32 非规格数操作数(subnormal,|x| < FLT_MIN = 1.17549435e-38)直接冲零:

  • 当非规格数出现在除数位置时,实际执行的是 x / 0,商被算成 ±Inf;
  • 而非规格数操作数对应的真商往往仍落在 float32 可表示范围内(例如 1e-4 / 1e-40 ≈ 1e36),属于有限值却被误算为 ±Inf,cross_check 因此报 NaN/Inf mismatch。

改动方法

修改 foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h 中的 DIV_PRECISE 定义:

-static constexpr DivConfig DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_TRUE};
+static constexpr DivConfig DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_FALSE};
  • 改为 PRECISION_0ULP_FTZ_FALSE 后使用完整 IEEE 754 语义:非规格数操作数与结果均按原值参与计算/输出,不再被冲零,0 ULP 正确舍入档位保持不变。
  • 该常量同时作用于两条计算路径:float 直算 Div<T, DIV_PRECISE>,以及 half/bfloat16 先 Cast 到 float、再 Div<float, DIV_PRECISE> 后回转,因此 FLOAT32 / FLOAT16 / BFLOAT16 三种 dtype 一并生效。
  • 同步重写该常量上方注释,记录取舍:FTZ_FALSE 需要完整处理非规格数,单次除法开销高于 FTZ_TRUE(原注释在同条件 --run 12 下实测约 218.7us → 2028.1us,约 9.3x),本 PR 以 IEEE 语义正确性优先;后续如有性能诉求需重新评估两档。
  • 不涉及 host/tiling、op_graph、接口签名与文档改动;in-place 语义(x1 同时作为输入与输出、结果原地写回)保持不变。

影响范围

  • 平台:仅 arch35 的 regbase kernel,即 ForeachDivListInplace 的 ascend950 / ascend350 配置。
  • 行为:含 fp32 非规格数操作数(尤其非规格数除数)的用例由 ±Inf 修正为有限的正确商;常规正态数输入的结果不变(仍为 0 ULP)。

关联的Issue

测试

本 PR 仅调整除法精度档位常量,未新增或修改测试用例。

  • 变更不涉及接口与形状推导,仓内 host 侧 UT tests/ut/op_host/test_foreach_div_list_inplace_infershape.cpp 不受影响。
  • 精度回归建议复用仓内 TTK 资产 tests/assets/golden.py(golden 由 torch._foreach_div 生成),重点覆盖 fp32 非规格数操作数,例如 x1 = 1e-4、x2 = 1e-40 这类真商有限(约 1e36)的用例,确认结果不再为 ±Inf 且 cross_check 无 NaN/Inf mismatch。
  • 覆盖 FLOAT32 / FLOAT16 / BFLOAT16 三种 dtype(半精度路径会先 Cast 到 float,走同一 DIV_PRECISE),以及 ascend950 / ascend350 两个 arch35 配置。
  • 可通过 examples/arch35/test_aclnn_foreach_div_list_inplace.cpp 做 aclnn 接口侧功能验证。

文档更新

无文档改动(README.md、README_en.md、docs/ 均未变更);精度档位属内部实现细节,对外接口与规格不变。

类型标签

AI/Agent生成声明

likedislike
Pull Request has been successfully merged by CANN-robot.
(Thank you for Sun's contribution.)
SunSunCollaborators
11 days ago Created pull request, commit a898c18e
atomgit-bot
atomgit-bot
11 days ago Comments:

变更摘要

本 PR 针对 foreach_div_list_inplace 算子(arch35/foreach_div_list_inplace_regbase.h)在 DivConfig 选择 PRECISION_0ULP_FTZ_TRUE 时,fp32 非规格数操作数被冲零、导致商被算成 ±inf 的精度问题,新增了除法前的「同因子 2^24 缩放」预处理:只对存在非规格数操作数的元素做等比例缩放,使商保持不变,同时把非规格数抬入正规数域,从而在维持 0 ULP 快速档的同时避免输入 FTZ 误判。

主要改动

  • 新增非规格数判定与缩放常量:引入 SUB_DIV_BOUND(1.17549435e-38f,即 FLT_MIN)与 SUB_DIV_SCALE(16777216.0f,即 2^24),并同步修订注释,说明取 PRECISION_0ULP_FTZ_TRUE 的取舍及非规格数操作数带来的 ±inf 问题与残余限制。
  • 新增掩码存储初始化 InitSubnormalMaskStorage:在 T 为 float 时调用,复用 out 队列缓冲尾部空间放置三块 32B 对齐掩码,通过下调 maxDataCount_ 腾出空间并记录 maskBytes_、maskOffset_;空间不足时保持 maskBytes_=0 以回退原始除法。
  • 新增 ScaleSubnormalOperands 预处理流程:用 Abs + Compares 分别生成 a、b 的非规格数掩码并按位 Or 合并,再用 Muls 与 Select 将「任一操作数为非规格数」的元素同乘 2^24,出口约定 outLocal 为缩放后的 a、in1Local 为缩放后的 b。
  • Compute 分支调整:float 路径在掩码可用且 dataCount > 0 时先执行缩放,再以 Div<T, DIV_PRECISE> 对 outLocal/in1Local 做除法;否则沿用原 Div(outLocal, in1Local, in2Local, ...) 逻辑。
  • 新增成员变量:新增 maskBytes_ 与 maskOffset_ 两个字段,用于标识掩码区是否启用及其在 out 缓冲中的字节偏移。

🧩 本次 Review 已使用自定义 Skill:

likedislike
Incorrect?
atomgit-bot
atomgit-bot
11 days ago Comments:

代码审查

检视结论

逐文件检视情况

  • foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h —— 已完整检视(注释块改写、新增 SUB_DIV_BOUND/SUB_DIV_SCALE 常量、Init 新分支、Compute 新 float 分支、InitSubnormalMaskStorage、ScaleSubnormalOperands)。发现 3 个问题(见下),未发现其他问题。
    • 数学与边界复核通过的部分:(a·2^24)/(b·2^24) == a/b 在「混合 mask(或语义)」下仍精确成立;a*2^24 上溢必然对应真商上溢、b*2^24 上溢必然对应真商下溢为 0,不会引入假的 ±inf/0;NaN/±Inf/±0 均不被误缩放;掩码区容量算术(maskBytes 按 ubCount 保守估算、usable 取 64 对齐、保留 32B 余量)自洽,且尾块 32B 写回也不会越入掩码区;Div 的 mask/Select 位序(bit=1 取 src0)与代码意图一致。

发现统计

  • P0:0 个
  • P1:0 个
  • P2:2 个(掩码借用 out 缓冲尾部缺少实际容量/dataCount 兜底校验;新增非规格数路径与掩码 UB 布局缺少用例守护)
  • P3:1 个(同流水线内 5 处冗余 PipeBarrier<PIPE_V>,可选优化)

总体风险判断:改动的算法设计与偏移/对齐算术是正确的,属于「有针对性且经过推理」的修复;主要风险不在数值逻辑,而在于该实现重度依赖基类未文档化的缓冲容量与 chunk 切分契约(掩码偷借 out 队列尾部 + 覆写 maxDataCount_),一旦基类布局变动会退化为静默错误结果甚至 UB 越界写,且当前无测试守护。建议至少补齐容量/dataCount 的运行时兜底与一条非规格数精度用例后再合入。

类型 数量
🔴 阻塞 0
🟡 建议 2

💬 仅评论


🧩 本次 Review 已使用自定义 Skill:

likedislike
Incorrect?
CANN-robotCANN-robotCollaborators
11 days ago Added label: cann-cla/yes
CANN-robot
CANN-robotCollaborators
11 days ago Comments:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
For more, you also can visit HICANN.


PR Approval Progress

✅ Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
foreach ✅ 汤平川, 钱泽洪 (2/2) ✅ 汤平川, 钱泽洪 (2/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

LuckySun, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
46 messages are collapsed here。 See more
qianzehong
qianzehongCollaborators
10 days ago Comments:

/lgtm
/approve

likedislike
CANN-robotCANN-robotCollaborators
10 days ago Added label: lgtm
CANN-robotCANN-robotCollaborators
10 days ago Closed associated issue
CANN-robotCANN-robotCollaborators
10 days ago Merged pull request
CANN-robot
CANN-robotCollaborators
10 days ago Comments:

Pull Request 已合并或已关闭。

If you want to solve this problem, you can click here to do it in the FAQs.

likedislike