Closed
[Bug-Report|缺陷反馈]: foreach_log/Log1p/Log2 三个 kernel UT 永久绿:compare_data 丢弃 diff_idx + 无退出码传播 + log1p golden 与被测实现同源 #7998
liuhanwen8Add on  19 days agoClosed at  11 days ago
liuhanwen8
liuhanwen8
19 days ago Create

现象

三个 foreach 单目 log 接口的 UT 数据校验脚本失效,无论 kernel 算得多错都会打印 PASSED!:

接口 compare_data.py 路径 状态
foreach_log tests/ut/op_kernel/log_data/compare_data.py 失效
foreach_log1p tests/ut/op_kernel/log1p_data/compare_data.py 失效
foreach_log2 tests/ut/op_kernel/log2_data/compare_data.py 失效

而全仓 58 个 compare_data.py 里另外 55 个是正确实现(foreach_log10 也已在其中修好),
说明这是孤立的 3 个漏改,不是设计取舍。

根因(源码级,三处叠加)

1. compare_data.py 算出差异却不用,无条件打印 PASSED

三个接口的写法完全一致:

def compare_data(golden_file_lists, output_file_lists, d_type):
    ...
    data_same = True                                  # ① 永远是 True
    for gold, out in zip(golden_file_lists, output_file_lists):
        tmp_out = np.fromfile(out, np_dtype)
        tmp_gold = np.fromfile(gold, np_dtype)
        diff_res = np.isclose(tmp_out, tmp_gold, precision, 0, True)
        diff_idx = np.where(diff_res != True)[0]      # ② 算出来了
        print("PASSED!")                              # ③ 但不看 diff_idx,直接打印
    return data_same                                  # ④ 永远返回 True

对比 foreach_log10 的正确写法:

        diff_idx = np.flatnonzero(~diff_res)
        if len(diff_idx) == 0:
            print("PASSED!")
        else:
            data_same = False
            for idx in diff_idx[:5]:
                ...

后果:kernel 输出全错时,UT 仍然 PASSED。

2. log1p 的 golden 用 np.log(x+1) 计算 —— 与错误实现同源

foreach_log1p/tests/ut/op_kernel/log1p_data/gen_data.py:

tmp_input = np.random.rand(*shape) * 2 - 1              # 值域 [-1, 1)
tmp_golden = np.log((tmp_input + 1).astype(np_type))    # ← golden 也是 log(1+x)!

而 kernel 实现(op_kernel/foreach_log1p.cpp:25-31)正是:

Adds(dstLocal, srcLocal, scalarVal, uValue);   // x + 1
Log<T>(dstLocal, srcLocal);                    // log(x+1)

golden 与被测实现用同一套有精度缺陷的公式,即使测到极小 x 也会「一致通过」。
正确写法应是 np.log1p(tmp_input)(numpy 有专门的高精度实现)。

3. 数据值域 [-1, 1) 均匀分布,几乎不可能命中极小 x

np.random.rand() 是 [0,1) 均匀分布,*2-1 后值域 [-1,1)。
要触发 |x| < ulp(1)/2 = 5.96e-8:

  • 单点命中概率 = 2 × 5.96e-8 / 2 = 5.96e-8
  • 采样 1024 点:命中率 0.0061%
  • 采样 65536 点:0.39%
  • 采样 100 万点:5.8%

且即使命中,由于 golden 同样算错(第 2 点),仍然判 PASS。

4. C++ 用例只看 system() 退出码,三个脚本永远 exit 0

tests/ut/op_kernel/test_foreach_log1p.cpp 三处调用:

system("cd ./log1p_data/ && python3 compare_data.py 'float32'");
  • system() 只返回进程退出码,完全丢弃脚本的返回值与 stdout
  • compare_data.py 全篇没有任何 sys.exit(1),非 0 退出永不发生
  • 即使在判定分支里 data_same = False(foreach_log10 的正确版本),只要不 sys.exit(1),
    C++ 侧仍然通过

因此 foreach_log10 那个「正确版」其实也只修了一半:它会把 FAIL 打印出来,
但 C++ 侧因为不看退出码,用例依旧是绿的 —— 只是人工看日志时能发现。

修复要求(补充):compare_data.py 末尾必须

sys.exit(0 if data_same else 1)

并且 C++ 侧要用 int rc = system(...); ASSERT_EQ(rc, 0); 而非忽略返回值。

期望

  1. compare_data.py:对齐 foreach_log10 的写法,diff_idx 非空时置 data_same = False 并打印差异位置;data_same 要真正参与用例判定(供 test_foreach_*.cpp 断言)。
  2. gen_data.py:log1p 的 golden 改为 np.log1p(tmp_input),不要手写 log(x+1)。
  3. 数据值域:三个 log 接口的 UT 数据应分段生成,强制包含
    x ∈ {±1e-8, ±1e-7, ±ulp(1), ±0.1, ±0.9, ±1e-38(次正规)} 这类边界点,
    而不是纯均匀随机。参考 foreach_log10 是否已有分段做法。

环境

Ascend 910B2 | CANN 9.2.0(timestamp=20261015)| 仓 cann/ops-nn master @ 6f576e5

关联

本 issue 是 #7977(aclnnForeachLog1p 极小 |x| 精度缺陷)能长期逃过仓内测试的直接原因:

  • #7977 的缺陷路径 log(1+x) 在 |x| < 5.96e-8 时返回 0
  • 但 gen_data.py 用同样的 log(1+x) 算 golden → 两边一起错 → 判 PASS
  • 且 compare_data.py 根本不看差异 → 连错都发现不了

两条 issue 建议一起修:先修 UT(否则后续任何精度修复都无法用 UT 验证),再修 kernel。

影响面

  • 三个接口的 kernel UT 实际处于「永远绿」状态,不具任何回归保护能力
  • 任何后续对 foreach_log / log1p / log2 kernel 的改动都不会被 UT 拦住
  • 与 #7356(长尾算子加固,指出「内核用例未真正执行 kernel、比对结果未断言」)属同一类问题,
    但 #7356 只修了 ForeachLog10 的用例,这三个接口的比对脚本遗漏了

与已知 issue 的关系(查重结论)

issue 内容 与本 issue 关系
#880(closed) compare_data.py 验证链断裂家族问题:24 个 kernel UT 失败不传播 同族,但修复清单不含 foreach_log / log1p / log2 三个文件
#2995(closed) optim/advance_step 的 compare_data.py 比较逻辑错误 另一模块的具体案例,不涉及 foreach
#5511 / #861 / #3012(closed) compare_data.py 的 zip 静默截断(golden/output 数量不一致) 不同问题(那批是数量对齐,本 issue 是判定逻辑与退出码)
#7356(closed) 长尾算子加固,指出「内核用例未真正执行 kernel、比对结果未断言」 相关,但只修了 ForeachLog10

本 issue 是 #880 修复清单中遗漏的 3 个文件,外加一条 #880 未涉及的问题:
gen_data.py 的 golden 公式与被测实现同源(log(x+1) vs log1p)。

即便按 #880 的方式把 data_same 接通、把退出码改对,本 issue 的 log1p 部分仍然测不出精度缺陷——
因为 golden 自己就是错的。这一条需要单独修。

likedislike
liuhanwen8liuhanwen8
19 days ago Modify description of issue
liuhanwen8liuhanwen8
19 days ago Modify description of issue
yuning_chenyuning_chenCollaborators
19 days ago Assign Tian_1122 as responsible person
yuning_chen
yuning_chenCollaborators
19 days ago Comments:

初步分析

感谢反馈,我们已开始核对这个问题。

现象理解:[Bug-Report|缺陷反馈]: foreach_log/Log1p/Log2 三个 kernel UT 永久绿:compare_data 丢弃 diff_idx + 无退出码传播 + log1p golden 与被测实现同源。
当前判断:初步判断,待复现确认,还不能当成已确认根因。
涉及范围:tests/ut、op_kernel/log_data、op_kernel/log1p_data、op_kernel/log2_data、foreach_log1p/tests、ut/op_kernel
下一步:我们会继续对照代码/文档定位。

likedislike
yuning_chen
yuning_chenCollaborators
19 days ago Comments:

您好,该问题已收到,当前问题 @Tian_1122 正在处理中

likedislike
CANN-robotCANN-robotCollaborators
11 days ago Close issue
CANN-robotCANN-robotCollaborators
11 days ago changed custom state from 进行中 to 已完成
CANN-robotCANN-robotCollaborators
11 days ago Added label: resolved
chenjiayi_
chenjiayi_Collaborators
10 days ago Comments:

补充当前 master 的核对结果(2026-11-12):PR#13918 已合入,foreach/foreach_log/tests/ut/op_kernel/log_data/compare_data.py 与 log2_data/compare_data.py 已按 diff_idx 判定并在失败时 sys.exit(1);两个 test_foreach_log*.cpp 已用 ASSERT_EQ(cmpRc, 0) 传播退出码。foreach_log1p 的比对脚本与 C++ 断言也已具备同样门禁。剩余项:foreach/foreach_log1p/tests/ut/op_kernel/log1p_data/gen_data.py:39-40 的输入仍为 [-1,1) 均匀随机,golden 仍为 np.log(tmp_input + 1),与 kernel 的 log(1+x) 同源。建议改为 np.log1p(tmp_input) 并补 ±1e-8、±1e-7、±ulp(1) 等边界点。如果还有后续需要,请重新提 issue。

likedislike
chenjiayi_chenjiayi_Collaborators
10 days ago Assign chenjiayi_ as responsible person
吴成文吴成文Collaborators
5 days ago Associated pull request
liangjinxuan-2026liangjinxuan-2026
2 days ago Associated pull request
chenjiayi_chenjiayi_Collaborators
1 day ago Removed responsible person chenjiayi_