Pull Request has been successfully merged by CANN-robot.
(Thank you for Sun's contribution.)变更摘要
本 PR 针对 foreach_div_list_inplace 算子(arch35/foreach_div_list_inplace_regbase.h)在 DivConfig 选择 PRECISION_0ULP_FTZ_TRUE 时,fp32 非规格数操作数被冲零、导致商被算成 ±inf 的精度问题,新增了除法前的「同因子 2^24 缩放」预处理:只对存在非规格数操作数的元素做等比例缩放,使商保持不变,同时把非规格数抬入正规数域,从而在维持 0 ULP 快速档的同时避免输入 FTZ 误判。
主要改动
- 新增非规格数判定与缩放常量:引入
SUB_DIV_BOUND(1.17549435e-38f,即FLT_MIN)与SUB_DIV_SCALE(16777216.0f,即 2^24),并同步修订注释,说明取PRECISION_0ULP_FTZ_TRUE的取舍及非规格数操作数带来的 ±inf 问题与残余限制。 - 新增掩码存储初始化
InitSubnormalMaskStorage:在T为float时调用,复用out队列缓冲尾部空间放置三块 32B 对齐掩码,通过下调maxDataCount_腾出空间并记录maskBytes_、maskOffset_;空间不足时保持maskBytes_=0以回退原始除法。 - 新增
ScaleSubnormalOperands预处理流程:用Abs+Compares分别生成a、b的非规格数掩码并按位Or合并,再用Muls与Select将「任一操作数为非规格数」的元素同乘 2^24,出口约定outLocal为缩放后的a、in1Local为缩放后的b。 Compute分支调整:float路径在掩码可用且dataCount > 0时先执行缩放,再以Div<T, DIV_PRECISE>对outLocal/in1Local做除法;否则沿用原Div(outLocal, in1Local, in2Local, ...)逻辑。- 新增成员变量:新增
maskBytes_与maskOffset_两个字段,用于标识掩码区是否启用及其在out缓冲中的字节偏移。
🧩 本次 Review 已使用自定义 Skill:


代码审查
检视结论
逐文件检视情况
foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h—— 已完整检视(注释块改写、新增SUB_DIV_BOUND/SUB_DIV_SCALE常量、Init新分支、Compute新 float 分支、InitSubnormalMaskStorage、ScaleSubnormalOperands)。发现 3 个问题(见下),未发现其他问题。- 数学与边界复核通过的部分:
(a·2^24)/(b·2^24) == a/b在「混合 mask(或语义)」下仍精确成立;a*2^24上溢必然对应真商上溢、b*2^24上溢必然对应真商下溢为 0,不会引入假的 ±inf/0;NaN/±Inf/±0 均不被误缩放;掩码区容量算术(maskBytes按ubCount保守估算、usable取 64 对齐、保留 32B 余量)自洽,且尾块 32B 写回也不会越入掩码区;Div的 mask/Select位序(bit=1 取 src0)与代码意图一致。
- 数学与边界复核通过的部分:
发现统计
- P0:0 个
- P1:0 个
- P2:2 个(掩码借用 out 缓冲尾部缺少实际容量/
dataCount兜底校验;新增非规格数路径与掩码 UB 布局缺少用例守护) - P3:1 个(同流水线内 5 处冗余
PipeBarrier<PIPE_V>,可选优化)
总体风险判断:改动的算法设计与偏移/对齐算术是正确的,属于「有针对性且经过推理」的修复;主要风险不在数值逻辑,而在于该实现重度依赖基类未文档化的缓冲容量与 chunk 切分契约(掩码偷借 out 队列尾部 + 覆写 maxDataCount_),一旦基类布局变动会退化为静默错误结果甚至 UB 越界写,且当前无测试守护。建议至少补齐容量/dataCount 的运行时兜底与一条非规格数精度用例后再合入。
| 类型 | 数量 |
|---|---|
| 🔴 阻塞 | 0 |
| 🟡 建议 | 2 |
💬 仅评论
🧩 本次 Review 已使用自定义 Skill:


Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
For more, you also can visit HICANN.
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| foreach | ✅ 汤平川, 钱泽洪 (2/2) | ✅ 汤平川, 钱泽洪 (2/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
LuckySun, thanks for your pull request. All authors of the commits have signed the CLA. 👍


/lgtm
/approve


Pull Request 已合并或已关闭。
If you want to solve this problem, you can click here to do it in the FAQs.


描述
改动原因
foreach_div_list_inplace在 arch35(dav-3510,对应ascend950/ascend350配置)上原先将除法档位固定为DivAlgo::PRECISION_0ULP_FTZ_TRUE。该档位虽满足 0 ULP 正确舍入,但会把 fp32 非规格数操作数(subnormal,|x| < FLT_MIN = 1.17549435e-38)直接冲零:x / 0,商被算成±Inf;1e-4 / 1e-40 ≈ 1e36),属于有限值却被误算为±Inf,cross_check 因此报NaN/Inf mismatch。改动方法
修改
foreach/foreach_div_list_inplace/op_kernel/arch35/foreach_div_list_inplace_regbase.h中的DIV_PRECISE定义:-static constexpr DivConfig DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_TRUE}; +static constexpr DivConfig DIV_PRECISE = {DivAlgo::PRECISION_0ULP_FTZ_FALSE};PRECISION_0ULP_FTZ_FALSE后使用完整 IEEE 754 语义:非规格数操作数与结果均按原值参与计算/输出,不再被冲零,0 ULP 正确舍入档位保持不变。Div<T, DIV_PRECISE>,以及 half/bfloat16 先Cast到 float、再Div<float, DIV_PRECISE>后回转,因此 FLOAT32 / FLOAT16 / BFLOAT16 三种 dtype 一并生效。--run 12下实测约 218.7us → 2028.1us,约 9.3x),本 PR 以 IEEE 语义正确性优先;后续如有性能诉求需重新评估两档。x1同时作为输入与输出、结果原地写回)保持不变。影响范围
ForeachDivListInplace的ascend950/ascend350配置。±Inf修正为有限的正确商;常规正态数输入的结果不变(仍为 0 ULP)。关联的Issue
测试
本 PR 仅调整除法精度档位常量,未新增或修改测试用例。
tests/ut/op_host/test_foreach_div_list_inplace_infershape.cpp不受影响。tests/assets/golden.py(golden 由torch._foreach_div生成),重点覆盖 fp32 非规格数操作数,例如x1 = 1e-4、x2 = 1e-40这类真商有限(约1e36)的用例,确认结果不再为±Inf且 cross_check 无NaN/Inf mismatch。DIV_PRECISE),以及ascend950/ascend350两个 arch35 配置。examples/arch35/test_aclnn_foreach_div_list_inplace.cpp做 aclnn 接口侧功能验证。文档更新
无文档改动(
README.md、README_en.md、docs/均未变更);精度档位属内部实现细节,对外接口与规格不变。类型标签
AI/Agent生成声明