Closed
[Bug-Report|缺陷反馈]: aclnnDivMod DOUBLE + mode=0/1 被降级为 FP32 计算(mode=2 正确,输出与 fp32 逐位相同) #3946
liuhanwen8Add on  23 days agoClosed at  1 day ago
liuhanwen8
liuhanwen8
23 days ago Create

现象

aclnnDivMod 在 self/other/out 均为 DOUBLE 且 mode=0(None,真除)时,
内核将 DOUBLE 降级为 FLOAT 计算:输出与 fp32 精度结果逐位相同,与 fp64 精确值差 1e-8 量级。

同一接口 mode=2(floor)时 DOUBLE 正确(输出与 fp64 逐位相同),
说明不是「A3 不支持 DOUBLE」,而是 mode=0 分支的类型提升策略丢了 DOUBLE。

三组对照(dtype=DOUBLE、mode=0):CTRL-1 输入 6/3 实测与预期均为 2(精确);
缺陷组输入 1/3 实测 0.3333333432674408、fp64 预期 0.33333333333333331;CTRL-2 又为 2。

实测与 fp32 逐位相同(max|got - fp32| == 0.0);对照组精确为 0,可排除探针问题。

期望

资料 math/div/docs/aclnnDivMod&aclnnInplaceDivMod.md 的主参数表与 npu="950" 分组
均将 DOUBLE 列为 self/other/out 的支持类型,且未对 mode 做精度降级声明;
参考文档也只对 FLOAT16/BFLOAT16 给出「精度有限」的提示(npu="A3,910b" 段),未提 DOUBLE。
因此 DOUBLE + mode=0 应按 fp64 精度计算。

源码印证:aclnn_div.cpp:240-250 CompatibleInferDivModeDtype 的 FLOOR 分支保留 DOUBLE,
其余 mode 进白名单(不含 DOUBLE)→ 落入 DT_FLOAT。

环境

Atlas A3(Ascend910_93)单 die;CANN 9.2.0;driver 26.1.1 / 固件 7.8.0.6.201;
源码基线 cann/ops-math master 584b2ea6(已 git fetch,local 与 origin 同 sha)。

复现步骤

  1. source /usr/local/Ascend/ascend-toolkit/set_env.sh
  2. 保存下方 repro.cpp
  3. g++ -std=c++14 -O2 -I$ASCEND_HOME_PATH/include -I$ASCEND_HOME_PATH/include/aclnnop repro.cpp -o repro -L$ASCEND_HOME_PATH/lib64 -lascendcl -lopapi -lnnopbase -lpthread
  4. ./repro
  5. 第 2 组 缺陷组 的 max|got-fp64| 为 7.947e-08;上下两组 对照组 均为 0.000e+00

复现脚本

#include <acl/acl.h>
#include <aclnnop/aclnn_div.h>
#include <cmath>
#include <cstdio>
#include <vector>
#define CK(x, m) do { int _r = (x); if (_r != ACL_SUCCESS) { \
    printf("  [ERR] %s ret=%d\n", m, _r); return _r; } } while (0)
class Buf {
 public:
  void* p = nullptr; aclTensor* t = nullptr;
  ~Buf() { if (t) aclDestroyTensor(t); if (p) aclrtFree(p); }
};
static int MakeF64(Buf& b, const std::vector<int64_t>& sh, const std::vector<double>& h) {
  size_t by = h.size() * sizeof(double);
  CK(aclrtMalloc(&b.p, by, ACL_MEM_MALLOC_HUGE_FIRST), "malloc");
  CK(aclrtMemcpy(b.p, by, h.data(), by, ACL_MEMCPY_HOST_TO_DEVICE), "h2d");
  std::vector<int64_t> st(sh.size(), 1);
  for (int i = (int)sh.size() - 2; i >= 0; --i) st[i] = sh[i + 1] * st[i + 1];
  b.t = aclCreateTensor(sh.data(), sh.size(), ACL_DOUBLE, st.data(), 0, ACL_FORMAT_ND,
                        sh.data(), sh.size(), b.p);
  return b.t ? 0 : -1; }
static int One(aclrtStream s, const char* tag, const std::vector<double>& a,
               const std::vector<double>& b, int mode) {
  std::vector<int64_t> sh = {1, (int64_t)a.size()};
  std::vector<double> o(a.size(), 0.0);
  Buf A, B, O;
  if (MakeF64(A, sh, a) || MakeF64(B, sh, b) || MakeF64(O, sh, o)) {
    printf("  [%s] SETUP_FAIL\n", tag); return -1; }
  uint64_t ws = 0; aclOpExecutor* ex = nullptr;
  int r1 = (int)aclnnDivModGetWorkspaceSize(A.t, B.t, mode, O.t, &ws, &ex);
  if (r1 != 0) { printf("  [%s] phase1=%d\n", tag, r1); return r1; }
  void* wsp = nullptr; if (ws > 0) aclrtMalloc(&wsp, ws, ACL_MEM_MALLOC_HUGE_FIRST);
  int r2 = (int)aclnnDivMod(wsp, ws, ex, s);
  int r3 = (int)aclrtSynchronizeStream(s);
  if (wsp) aclrtFree(wsp);
  if (r2 || r3) { printf("  [%s] FAIL phase2=%d sync=%d\n", tag, r2, r3); return r2 ? r2 : r3; }
  std::vector<double> out(a.size(), 0.0);
  aclrtMemcpy(out.data(), a.size() * sizeof(double), O.p, a.size() * sizeof(double),
              ACL_MEMCPY_DEVICE_TO_HOST);
  double maxd = 0.0;
  for (size_t i = 0; i < a.size(); ++i) {
    double exact = (mode == 0) ? (a[i] / b[i])
                 : (mode == 1) ? std::trunc(a[i] / b[i]) : std::floor(a[i] / b[i]);
    double d = std::fabs(out[i] - exact);
    if (d > maxd) maxd = d;
  }
  printf("  [%s] max|got-fp64| = %.3e\n", tag, maxd);
  return 0; }
int main() {
  CK(aclInit(nullptr), "aclInit"); CK(aclrtSetDevice(0), "setDevice");
  aclrtStream s = nullptr; CK(aclrtCreateStream(&s), "createStream");
  One(s, "对照组 CTRL-1 fp64 可精确整除", { 6.0, 10.0, 9.0, 15.0 }, { 3.0, 5.0, 3.0, 5.0 }, 0);
  One(s, "缺陷组 DEFECT fp64 非整除", { 1.0, 2.0, 1.0, 10.0 }, { 3.0, 3.0, 7.0, 3.0 }, 0);
  One(s, "对照组 CTRL-2 fp64 可精确整除", { 6.0, 10.0, 9.0, 15.0 }, { 3.0, 5.0, 3.0, 5.0 }, 0);
  aclrtDestroyStream(s); aclrtResetDevice(0); aclFinalize(); return 0; }

影响

以 DOUBLE 做高精度除法(科学计算、高精度归约、累加前归一化)的调用方在 mode=0 下
只能拿到 fp32 精度结果,相对误差约 6e-08;单步不显,长链累加/迭代会放大。
资料将 DOUBLE 列为支持类型且未提示降精度,调用方不会预期到这一损失。

建议

  1. CompatibleInferDivModeDtype 的非 FLOOR 分支白名单补入 DT_DOUBLE;
  2. 若 DOUBLE + mode=0 确实只能走 fp32,应在资料 npu="A3,910b" 段明确声明并给出可识别报错,
    而不是静默降精度;
  3. 补一条 DOUBLE + mode=0 的非整除用例(如 1/3)到 UT。

与 #3859 的关系

#3859 报告的是 INT32/INT64 被 PromoteIntegerInputsToFloat 提升到 FP32(大整数丢位)。
本条是 DOUBLE 在 mode=0/1 被 CompatibleInferDivModeDtype 的白名单排除、落到 FP32,
属于不同函数、不同分支的两个缺陷:

输入 dtype 是 DOUBLE(#3859 是 INT32/INT64);触发条件是任何非整除比值(#3859 是 >2^24);
mode=2 不受影响(FLOOR 分支保留 DOUBLE)。影响形态也不同:#3859 是静默截断到大整数错值,
本条是静默降到 fp32 精度(相对误差 6e-08)。

修 PromoteIntegerInputsToFloat 不会修好本条(反之亦然),故单独跟踪。

likedislike
liuhanwen8liuhanwen8
23 days ago Added label: bug-report
陈思
陈思Collaborators
23 days ago Comments:

您好,感谢提供可精确整除与非整除的对照。按您报告的 584b2ea6cbaeba684a51a74296d82d4d50ab3b0f 核查,A3 上这组精度变化有明确的 API 类型转换依据,需要进一步统一内部计算精度与文档说明。

问题分析

CompatibleInferDivModeDtype的非 FLOOR 分支没有保留 DOUBLE;实际调用处随后将两个输入 Cast 为推导类型,计算后再转回 out 的 DOUBLE。因此 mode=0 的路径是 DOUBLE → FLOAT → RealDiv(FLOAT) → DOUBLE,精度已在计算前后受 FLOAT 限制,最后转回 DOUBLE 无法恢复。这与您给出的 1/3 等结果相符,降精度发生在 API 构图策略,而非已证实某个 DOUBLE 内核自行降低精度。

mode=2 保留 DOUBLE;mode=1 在源码上同样经过 FLOAT,并在除法后执行 Trunc。不过,当前附带脚本的三组调用都为 mode=0,mode=1/2 的设备结论还需要各自用例验证。尤其 mode=1 的影响可能表现为接近整数边界时截断结果变化,不能只用 1/3 截断为 0 来判断。

文档列出了 DOUBLE 支持,但没有明确这个兼容分支的内部计算精度。支持输入/输出类型并不单独构成内部全程 FP64 或逐位一致的保证;这里应把精度契约、现有性能取舍和兼容行为一并核实,避免让高精度调用方误判可获得的精度。

处理方向

mode=0 可评估保留 DOUBLE 的计算路径:RealDiv 分流会将 DOUBLE 送到 AICPU,需验证其数值、广播支持和性能。mode=1 则不能仅把 DOUBLE 加进同一个白名单就认为修复完整:后续 L0 Trunc直接启动 AiCore,公开 Trunc 类型检查也不包含 DOUBLE,还需要可用的 FP64 截断方案及支持面核查。

建议分别补充 mode=0 非整除、mode=1 正负整数边界附近、mode=2 对照,以及广播与原地调用回归;混合类型和原有整数提升策略应单独核对,避免修正本分支时改变其他类型行为。若需保留 FLOAT 兼容策略,应明确文档中的精度限制及适用范围;若采用更高精度路径,则应评估性能和既有结果兼容性。以上为源码核查,尚未独立设备复验,我们会继续确认各 mode 的精度方案。

likedislike
陈思陈思Collaborators
23 days ago Assign liu-wei as responsible person
陈思陈思Collaborators
23 days ago Added label: pending-confirmation
陈思陈思Collaborators
23 days ago Removed label: pending-confirmation
陈思陈思Collaborators
12 days ago Removed responsible person liu-wei
陈思陈思Collaborators
12 days ago Assign FelixTang7 as responsible person
CchenyifengCollaborators
7 days ago Removed responsible person FelixTang7
CchenyifengCollaborators
7 days ago Assign sakuraqqz as responsible person
CANN-robotCANN-robotCollaborators
1 day ago Close issue
CANN-robotCANN-robotCollaborators
1 day ago changed custom state from 进行中 to 已完成
CANN-robotCANN-robotCollaborators
1 day ago Added label: resolved