Closed
[Bug-Report|缺陷反馈]: BNTrainingReduce 统一 GEIR Golden 精度并移除 sum 缩放 #8709
Hu1L1Add on  9 days agoClosed at  9 days ago
Hu1L1
Hu1L1Collaborators
9 days ago Create

问题描述

BNTrainingReduce 的 Kernel/GEIR Golden 当前使用 Torch,普通 CPU 路径按 FP32 运算,Promote 的 BF16 输入也可能仅以 FP32 计算,不能稳定提供统一的高精度参考。与此同时,arch35 kernel 的 sum 路径在归约前缩放输入、输出时再还原,与直接 FP32 归约的计算流程不同。

需要统一使用 TensorFlow reduce_sum:CPU 先转换为 FP64,在 FP64 中完成平方和归约,最后 cast FP32;GPU 在 FP32 中完成平方和归约。其他 CPU Golden 同样以 FP64 计算、最终按 FP32 舍入。ops-nn 与 operator-artifacts 中的 Golden 文件需要保持字节一致。

环境与复现

  • 源码基线:ops-nn master 420dc1af60a6740b1d1bf5d375e487557cfaa09d。
  • 设备:Ascend950PR_9599;CANN 9.3.0 / 1104master;Python 3.12.9。
  • TTK GEIR 动态二进制通路,CPU TensorFlow FP64→FP32 / GPU TensorFlow FP32,cross_check L0。
  • FP64 输入 [16777217, -16777216] 的 sum 应保留为 1,不能先降为 FP32 再累加。ACLNN 的非连续输出 buffer 应保留对象、stride 和 storage offset。

预期修改

统一 Golden 计算精度和 GEIR provider;移除 sum 的缩放/还原及其专用状态,直接 FP32 累加;保留现有输出布局约定及比较标准。

已知验证边界

去缩放版本已经编译 9 个 dtype/layout 变体并完成固定历史 8 条失败用例复测,结果为 5 PASS、3 FAIL。5 条 PASS 来自 NPU/GPU 的 NaN 分类匹配,不能解释为更接近 FP64 Golden。105/sum 与 509/square_sum 的有限值差异仍存在;166/sum 仍有 20 个特殊值不匹配。删除缩放会改变极大值的中间溢出行为,本项不宣称全部精度问题已解决。

原接口/初始化修复 PR !13709 已合入,本次为后续修改。

likedislike
Hu1L1Hu1L1Collaborators
9 days ago Associated pull request
Hu1L1Hu1L1Collaborators
9 days ago Associated pull request
yuning_chenyuning_chenCollaborators
9 days ago Assign Hu1L1 as responsible person
CANN-robotCANN-robotCollaborators
9 days ago Close issue
CANN-robotCANN-robotCollaborators
9 days ago changed custom state from 待办的 to 已完成
CANN-robotCANN-robotCollaborators
9 days ago Added label: resolved