Open
[Bug-Report|缺陷反馈]: aclnnRange 在 out=INT32/INT64 且 step 带小数时把 step 截断成整数,输出退化为整数递增(同调用浮点输出正确) #4258
liuhanwen8Add on  20 days ago
liuhanwen8
liuhanwen8
20 days ago Create

现象

aclnnRange 在 out 的数据类型为 INT32 / INT64、且 step(或 start)带小数时,step 的小数部分被静默截断,输出退化为「整数起点 + 整数步长」的递增序列。同一组 (start, end, step) 下 FLOAT / DOUBLE 输出完全正确,长度也一致(都是 7 个元素),只有 int 输出的值错。

实测(Atlas A2 910B2,CANN 9.2.0,start=0, end=9, step=1.5,推导长度 floor(9/1.5)+1 = 7):

out dtype 实测输出 期望
FLOAT 0.00 1.50 3.00 4.50 6.00 7.50 9.00 同左(正确)
DOUBLE 0.00 1.50 3.00 4.50 6.00 7.50 9.00 同左(正确)
INT32 0 1 2 3 4 5 6 0 2 3 4 6 8 9
INT64 0 1 2 3 4 5 6 0 2 3 4 6 8 9

B 组更能说明问题:step=1 本是整数,只要 start=0.5 有小数,输出就从应有的 0.5 1.5 … 变成 0 1 2 3 4 —— 起点的小数也被丢掉。

期望

资料 math/range/docs/aclnnRange.md「功能说明」:按 step 间隔取 [start, end] 并返回长度 floor((end-start)/step)+1 的 1 维张量;out 的 dtype 列支持 FLOAT16/FLOAT/DOUBLE/BFLOAT16/INT32/INT64 六种,没有把整型输出限定为只接受整数入参。故 start=0, step=1.5, out=INT32 合法,应为 0 + i*1.5 落到 INT32。

实现自身的 op_api/arange.cpp:110-118 也印证该语义 —— INT32 也走 DOUBLE 中间量:

if (outType == DataType::DT_INT64) {
    inputType = DataType::DT_INT64;
} else {
    inputType = DataType::DT_DOUBLE;      // INT32 也走 DOUBLE
}
auto startTensor = executor->ConvertToTensor(start, inputType);

实际根因

op_host/arch35/range_tiling_int_arch35.cpp:69-72 把 INT32/INT64 都交给 RangeInt tiling,并从 DOUBLE 标量按 static_cast<T> 取值:

if (outDataType_ == ge::DataType::DT_INT32) {
    SetStartStep<int32_t>(context_, tilingData_);     // T = int32_t
} else {
    SetStartStep<int64_t>(context_, tilingData_);     // T = int64_t
}

SetStartStep<T> → RangeGetConstValue<T>(op_host/range_infershape.cpp:109-114)在 DT_DOUBLE 分支里做 value.push_back(static_cast<T>(*constDataPtr)); —— DOUBLE→int 的 static_cast 直接截断小数。

随后 op_kernel/arch35/range_int.h 用截断后的 start_ / step_ 做 start_ + i * step_ 的整数递增,小数信息在进入 kernel 之前就已丢失。

op_kernel/range_apt.cpp 的 tiling key 分派(INT32_TILING_KEY / INT64_TILING_KEY → Range::RangeInt)说明这条路径是有意为之,但与 arange.cpp 的 DOUBLE 中间量设计相互矛盾 —— 二者需要一个明确取舍。

环境

Atlas A2 训练系列产品(910B2),CANN 9.2.0,cann/ops-math master 1b415030

复现步骤

  1. source $ASCEND_HOME_PATH/set_env.sh,确认 ASCEND_OPP_PATH=$ASCEND_HOME_PATH/opp。
  2. g++ -std=c++17 -O2 repro.cpp -o repro -I$ASCEND_HOME_PATH/include -I$ASCEND_HOME_PATH/include/aclnnop -L$ASCEND_HOME_PATH/lib64 -Wl,--allow-shlib-undefined -lascendcl -lopapi -lnnopbase
  3. 选一张 Health=OK 的卡(Health=Alarm 的 die 上 aclrtSetDevice 会永久挂死):PROBE_DEV=<n> ./repro
  4. A 组 FLOAT 为 0.00 1.50 3.00 4.50 6.00 7.50 9.00,INT32/INT64 为 0 1 2 3 4 5 6。

复现脚本

repro.cpp 核心(完整文件见附件 repro_int_trunc.cpp,A/B/C/D 四组 × 多 dtype):

static void Run(const char* tag, float sv, float ev, float stv, int64_t n,
                aclDataType od, bool asInt, aclrtStream st)
{
    aclScalar* s = aclCreateScalar(&sv, ACL_FLOAT);
    aclScalar* e = aclCreateScalar(&ev, ACL_FLOAT);
    aclScalar* p = aclCreateScalar(&stv, ACL_FLOAT);
    size_t es = (od == ACL_DOUBLE || od == ACL_INT64) ? 8 : 4;
    size_t bytes = (size_t)n * es;
    int64_t sh[1] = {n};
    void* dev = nullptr;
    aclrtMalloc(&dev, bytes, ACL_MEM_MALLOC_HUGE_FIRST);
    aclTensor* out = aclCreateTensor(sh, 1, od, nullptr, 0, ACL_FORMAT_ND, sh, 1, dev);
    uint64_t ws = 0;
    aclOpExecutor* ex = nullptr;
    if (aclnnRangeGetWorkspaceSize(s, e, p, out, &ws, &ex) == 0) {
        aclnnRange(nullptr, ws, ex, st);
        aclrtSynchronizeStream(st);
        std::vector<uint8_t> got(bytes, 0);
        aclrtMemcpy(got.data(), bytes, dev, bytes, ACL_MEMCPY_DEVICE_TO_HOST);
        printf("%-8s:", tag);
        for (int64_t i = 0; i < n; i++) {
            if (asInt) { int32_t v; memcpy(&v, got.data() + i * es, 4); printf(" %d", v); }
            else { float v; memcpy(&v, got.data() + i * es, 4); printf(" %.2f", v); }
        }
        printf("\n");
    }
    aclDestroyTensor(out); aclDestroyScalar(s); aclDestroyScalar(e); aclDestroyScalar(p);
    aclrtFree(dev);
}

int main()
{
    aclInit(nullptr);
    aclrtSetDevice(Dev());
    aclrtStream st = nullptr;
    aclrtCreateStream(&st);
    Run("FLOAT", 0.0f, 9.0f, 1.5f, 7, ACL_FLOAT, false, st);
    Run("INT32", 0.0f, 9.0f, 1.5f, 7, ACL_INT32, true, st);
    Run("INT64", 0.0f, 9.0f, 1.5f, 7, ACL_INT64, true, st);
    Run("FLOAT", 0.5f, 4.5f, 1.0f, 5, ACL_FLOAT, false, st);
    Run("INT32", 0.5f, 4.5f, 1.0f, 5, ACL_INT32, true, st);
    Run("FLOAT", 0.0f, 9.0f, 3.0f, 4, ACL_FLOAT, false, st);
    Run("INT32", 0.0f, 9.0f, 3.0f, 4, ACL_INT32, true, st);
    aclrtDestroyStream(st); aclrtResetDevice(Dev()); aclFinalize();
    return 0;
}
likedislike
liuhanwen8liuhanwen8
20 days ago Added label: bug-report
陈思
陈思Collaborators
20 days ago Comments:

您好,感谢反馈!我们已核对参数转换和计算分流;整数输出的小数处理时机,需要与资料中的序列定义一起明确。

问题分析

按 cann/ops-math 的 ae087b184,L0 Arange在 910B 上对 out=INT64 先把 start/end/step 转为 INT64 Tensor,小数会在生成序列之前丢失;out=INT32 则把输入转成 DOUBLE,但分配的 Range 结果仍是 INT32。这里的 DOUBLE 输入类型并不表示已经“先生成完整浮点序列,再转整数”。此外,L2 参数检查对两种整数输出都先按 INT64 读取参数检查步长和方向。

您引用的 RangeInt 是仓内 arch35 实现,其中确实先将起点、步长转为整数再递增;但报告平台是 A2 910B2,这段 arch35 kernel 不能直接作为其实际运行路径的证据。910B 的 INT32 数值生成环节仍需与对应安装包实现核对,不能把两种输出的截断位置都归为同一处 arch35 代码。

当前资料列出了浮点标量输入和整数输出,却没有明确整数输出采用“先转换起点、步长”还是“先生成浮点序列,再逐项转换”,也没有约定最近偶数舍入。您列出的 0 2 3 4 6 8 9 对应后一种生成方式加最近偶数舍入;仅凭现有说明,尚不能将这组具体整数值认定为已约定的结果。

处理方向

可以先统一整数输出的转换时机、舍入规则及输出长度计算口径,再决定对齐资料还是调整实现。若采用先生成浮点序列再转换,需要同时评估现有整数调用的兼容性、INT64 大整数精度和临时计算开销;仅保留 DOUBLE 输入,或在已有整数结果后再加 Cast,都不能恢复提前丢失的小数信息。

当前如需保留 1.5 的原始步长,可以先使用浮点输出,并由调用侧明确所需整数化规则。我们会继续确认 910B 对应实现及整数输出的接口口径。

likedislike
陈思陈思Collaborators
20 days ago Assign chen_0715 as responsible person
陈思陈思Collaborators
20 days ago Added label: pending-confirmation
陈思陈思Collaborators
20 days ago Removed label: pending-confirmation
CchenyifengCollaborators
20 days ago Assign VoyageZhou as responsible person
CchenyifengCollaborators
20 days ago Removed responsible person chen_0715
fitZepHYrfitZepHYrCollaborators
19 days ago Associated pull request
fitZepHYrfitZepHYrCollaborators
6 days ago Associated pull request
fitZepHYrfitZepHYrCollaborators
6 days ago Deleted associated pull request: fix(range): 整型输出时按元素计算 start+i*step,避免小数被截断
fitZepHYrfitZepHYrCollaborators
6 days ago Associated pull request