已开启
AccumulateNV2 精度问题 #2
MemoryForU创建于  9月24日
MemoryForU
MemoryForU成员
9月24日 创建

定位结论:
image.png
分析表格:
42b6e51362554dfa82770e2f22dc1d94.xlsx
分析日志:
50582c6e48cf4c1996469f89f0dbedd4.gz

likedislike
MemoryForUMemoryForU成员
10月10日 添加了label:已提单
wangweidong
16 天前 评论:

结论:已修复,实测验证通过

一、根因确认(与定位结论一致)

fp32 分支的 TwoSum 补偿求和在 ±Inf 输入下失效。原代码 op_kernel/arch35/accumulate_nv2.h:94-100:

float nextSum    = sum + value;
float valueInSum = nextSum - sum;
float roundOff   = (sum - (nextSum - valueInSum)) + (value - valueInSum);
correction += roundOff;
sum = nextSum;
...
output[outputIndex] = sum + correction;   // 无条件相加

全 inf 输入(N=2)的执行轨迹:

步骤 计算 结果
i=0 nextSum = 0 + inf inf
roundOff = (0 - (inf - inf)) + (inf - inf) NaN(IEEE 754:inf - inf 未定义)
correction = 0 + NaN NaN
输出 sum + correction = inf + NaN NaN ❌

TwoSum 是无损变换,依赖 Sterbenz 引理(相近数相减精确),前提是操作数有限;±Inf 破坏该前提。且末行 sum + correction 无条件执行 —— 即使 sum 本身正确等于 inf,只要 correction 被污染,输出必为 NaN,无绕过路径(与定位结论一致)。

原报的 TF 探针 [1,2,inf,4]+[1,2,3,4]→[2,4,NaN,8] 也精确吻合:只有 inf 那一列变 NaN。

二、修复

两步演进,最终采用 TF 竞品同构顺序求和:

  1. e3af3aa18 守卫式 TwoSum(if (IsFiniteFloat(nextSum)) 才做补偿)—— 修掉 NaN
  2. f9e6eeaca 改为 TF 同构顺序求和(纯 sum += value;N≤9 左结合,N>9 余数优先 8 分块,逐位复现 TF AddNOp/aggregate_ops.cc 的舍入顺序)

已合入 8271e0536(PR cann/ops-math !6584,已 merged)。当前 kernel 无任何 TwoSum/补偿运算残留。

为何不保留守卫式 TwoSum:竞品与 golden 是 TF 的 AddN(朴素分块顺序加法、无补偿)。补偿方案会让 NPU 比 TF 更精确,而 cross_check L1 判据是「NPU 相对 golden 的误差 / 竞品相对 golden 的误差」,NPU 精确而竞品不精确时该比值会失真。代价是放弃混合符号抵消场景的补偿精度(1e8+1-1e8 得 0 而非 1),但这与 TF 行为一致。

三、实测验证

环境:Ascend950PR + CANN 9.3.0,GEIR 路线,--compare close(与复现方式一致),2026-10-28。

按定位结论的「全 inf 输入累加」场景构造 5 个同 shape 用例,5/5 PASS:

用例 NPU 输出 golden NPU 含 NaN
全 +inf fp32 N=2(代表用例形态) inf inf 否 ✅
全 +inf fp32 N=10(N>9 分块路径) inf inf 否 ✅
全 −inf fp32 N=3 -inf -inf 否 ✅
全 +inf fp16 N=3(fp32 promote 路径) inf inf 否 ✅
inf + (−inf) 混合 nan nan 是(IEEE 754 正确行为,两侧一致)✅

即原报的「NPU 出 nan、golden 出 inf」已变为「两侧都出 inf,逐位一致」。

四、关于原始 6 个用例(重要)

_008 / _021 / _041 / _043 / _049 / _bound_tolerance_c_s_036 现已无法复现原场景:这 6 例输入均为混合 shape(广播形态),而算子后续做了 broadcast 收回(同 shape 强校验,同在 8271e0536),它们在 InferShape 阶段即被拒绝:

RunGraph failed: EZ9999 ... Call InferShapeAndType for node:op1(AccumulateNV2) failed

走不到累加计算,因此上面用等价的同 shape 全 inf 用例验证(覆盖代表用例形态 + N>9 分块路径 + fp16 promote 路径)。

2026-10-30 用 LongTail/Cases/Functional_Accuracy/GEIR/AccumulateNV2/AccumulateNV2_l0_functional.csv 全量 51 例复跑印证:同 shape 20/20 PASS、全标量 rank-0 6/6 PASS、20 例混合 shape 全部因同 shape 契约被拒(含上述 6 例)。若需这 6 例继续作为精度用例,建议按同 shape 契约改写(广播形态用例应走 aclnnSum 通路,该通路 27/27 PASS)。

五、环境差异

原报环境 cann-9.2.0,本次验证 cann-9.3.0 + Ascend950PR。修复位于算子 kernel 层(求和算法),与 CANN 版本无关。

likedislike
Wwangweidong
10 天前 关联了pull request:fix(AccumulateNV2): kernel路径CPU golden对标tf.raw_ops.AccumulateNV2语义并确定化