Closed
[Bug-Report|缺陷反馈]: BNTrainingReduce 统一 GEIR Golden 精度并移除 sum 缩放 #8709
Hu1L1Add on 10 days agoClosed at 9 days ago
10 days ago Associated pull request
10 days ago Associated pull request
10 days ago Assign Hu1L1 as responsible person
9 days ago Close issue
9 days ago changed custom state from 待办的 to 已完成
9 days ago Added label: resolved
问题描述
BNTrainingReduce 的 Kernel/GEIR Golden 当前使用 Torch,普通 CPU 路径按 FP32 运算,Promote 的 BF16 输入也可能仅以 FP32 计算,不能稳定提供统一的高精度参考。与此同时,arch35 kernel 的 sum 路径在归约前缩放输入、输出时再还原,与直接 FP32 归约的计算流程不同。
需要统一使用 TensorFlow reduce_sum:CPU 先转换为 FP64,在 FP64 中完成平方和归约,最后 cast FP32;GPU 在 FP32 中完成平方和归约。其他 CPU Golden 同样以 FP64 计算、最终按 FP32 舍入。ops-nn 与 operator-artifacts 中的 Golden 文件需要保持字节一致。
环境与复现
[16777217, -16777216]的 sum 应保留为 1,不能先降为 FP32 再累加。ACLNN 的非连续输出 buffer 应保留对象、stride 和 storage offset。预期修改
统一 Golden 计算精度和 GEIR provider;移除 sum 的缩放/还原及其专用状态,直接 FP32 累加;保留现有输出布局约定及比较标准。
已知验证边界
去缩放版本已经编译 9 个 dtype/layout 变体并完成固定历史 8 条失败用例复测,结果为 5 PASS、3 FAIL。5 条 PASS 来自 NPU/GPU 的 NaN 分类匹配,不能解释为更接近 FP64 Golden。105/sum 与 509/square_sum 的有限值差异仍存在;166/sum 仍有 20 个特殊值不匹配。删除缩放会改变极大值的中间溢出行为,本项不宣称全部精度问题已解决。
原接口/初始化修复 PR !13709 已合入,本次为后续修改。