Closed
[Bug-Report|缺陷反馈]: aclnnDequantSituQuant 在 A2 上空 tensor 输入未被拦截,两段返回 0(资料要求 161002) #8381
liuhanwen8Add on  14 days agoClosed at  4 days ago
liuhanwen8
liuhanwen8
14 days ago Create

现象

aclnnDequantSituQuant 在 Atlas A2(910B2)上,当 x=int8[0,64]、yOut=int8[0,32]、yScaleOut=fp32[0] 全为空 tensor 时,第一段 aclnnDequantSituQuantGetWorkspaceSize 与第二段 aclnnDequantSituQuant 均返回 0;资料参数说明三处均写「不支持空Tensor」,「返回值」错误码表也把「x、yOut、yScaleOut为空tensor」列为 161002。若只有 x 为空而 yOut 保持 [16,32],则改为返回 561002(ACLNN_ERR_INNER_TILING_ERROR),同样不是资料要求的 161002。

输入 两段返回 说明
合法(x=int8[16,64]、yOut=int8[16,32]、yScaleOut=fp32[16]) 0 / 0 对照组
缺陷(x=int8[0,64]、yOut=int8[0,32]、yScaleOut=fp32[0]) 0 / 0 缺陷组:空 tensor 被放行
参考(x=int8[0,64]、yOut=int8[16,32]) 561002 / - 仅 x 为空时落到 tiling,仍非 161002

期望

资料 quant/dequant_situ_quant/docs/aclnnDequantSituQuant.md:

  • 参数说明 x/yOut/yScaleOut 行:「不支持空Tensor。」
  • 「返回值」错误码表 161002 子项:「x、yOut、yScaleOut为空tensor。」

因此空 tensor 应在第一段返回 161002(ACLNN_ERR_PARAM_INVALID),不应静默返回 0,也不应等到 tiling 报 561002。

环境

  • 硬件/CANN:Atlas A2(910B2),CANN 9.2.0(Linux aarch64),g++ 11.4;复现日期 2026-11-07
  • 仓库与提交:cann/ops-nn d1efef7c30ca124dc30787a7db3c4479c8ffcc05(自编 dequant_situ_quant 包复核,行为与 stock 9.2.0 一致)

复现步骤

  1. 保存下方复现脚本为 repro.cpp
  2. g++ -std=c++14 -O2 repro.cpp -o repro -I$ASCEND_HOME_PATH/include -I$ASCEND_HOME_PATH/include/aclnnop -L$ASCEND_HOME_PATH/lib64 -L$ASCEND_HOME_PATH/runtime/lib64 -lascendcl -lnnopbase -lopapi -Wl,--allow-shlib-undefined
  3. ./repro,观察输出:对照组 0/0;空 tensor 组同样 0/0,未返回 161002

复现脚本

// aclnnDequantSituQuant:空 tensor 入参未被拦截(资料要求 161002)
#include <cstdio>
#include <vector>

#include "acl/acl.h"
#include "aclnnop/aclnn_dequant_situ_quant.h"

static aclTensor* Make(const std::vector<int64_t>& shape, aclDataType dt, void** dev)
{
    size_t numel = 1;
    for (size_t i = 0; i < shape.size(); ++i) {
        numel *= (size_t)shape[i];
    }
    size_t bytes = numel * ((dt == ACL_INT8) ? 1 : 4);
    if (bytes == 0) {
        bytes = 1;
    }
    std::vector<unsigned char> host(bytes, 0);
    aclrtMalloc(dev, bytes, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMemcpy(*dev, bytes, host.data(), bytes, ACL_MEMCPY_HOST_TO_DEVICE);
    std::vector<int64_t> strides(shape.size(), 1);
    for (int64_t i = (int64_t)shape.size() - 2; i >= 0; --i) {
        strides[(size_t)i] = shape[(size_t)i + 1] * strides[(size_t)i + 1];
    }
    return aclCreateTensor(shape.data(), shape.size(), dt, strides.data(), 0, ACL_FORMAT_ND, shape.data(),
                           shape.size(), *dev);
}

static void Run(const char* tag, int64_t rows)
{
    std::vector<int64_t> xs = {rows, 64};
    std::vector<int64_t> ws = {64};
    std::vector<int64_t> qs = {1};
    std::vector<int64_t> ys = {rows, 32};
    std::vector<int64_t> yss = {rows};
    void* p[5] = {nullptr};
    aclTensor* x = Make(xs, ACL_INT8, &p[0]);
    aclTensor* weightScale = Make(ws, ACL_FLOAT, &p[1]);
    aclTensor* quantScale = Make(qs, ACL_FLOAT, &p[2]);
    aclTensor* y = Make(ys, ACL_INT8, &p[3]);
    aclTensor* yScale = Make(yss, ACL_FLOAT, &p[4]);

    uint64_t wsSize = 0;
    aclOpExecutor* ex = nullptr;
    int first = (int)aclnnDequantSituQuantGetWorkspaceSize(x, weightScale, nullptr, nullptr, quantScale, nullptr,
                                                           nullptr, 1.0f, 0.0f, false,
                                                           const_cast<char*>("static"), y, yScale, &wsSize, &ex);
    int second = -1;
    if (first == 0) {
        void* wsAddr = nullptr;
        if (wsSize > 0) {
            aclrtMalloc(&wsAddr, wsSize, ACL_MEM_MALLOC_HUGE_FIRST);
        }
        second = (int)aclnnDequantSituQuant(wsAddr, wsSize, ex, nullptr);
        if (wsAddr != nullptr) {
            aclrtFree(wsAddr);
        }
    }
    printf("[%s] GetWorkspaceSize=%d execute=%d\n", tag, first, second);
}

int main()
{
    aclInit(nullptr);
    aclrtSetDevice(0);
    Run("对照组 16x64", 16);
    Run("缺陷组 空tensor 0x64", 0);
    aclrtResetDevice(0);
    aclFinalize();
    return 0;
}

实测输出:

[对照组 16x64] GetWorkspaceSize=0 execute=0
[缺陷组 空tensor 0x64] GetWorkspaceSize=0 execute=0

影响

资料把空 tensor 明确列为非法输入并承诺 161002,实现却在 x/yOut/yScaleOut 同时为空时静默成功:调用方无法区分「合法的零行」与「不支持的空 tensor」,依赖 161002 做输入过滤或告警的上层逻辑会漏检;而当只有 x 为空时又跳成 561002,错误码在两种空输入形态间不一致,排查时无法按码归因。

建议

在 host 参数校验阶段(进入 tiling 之前)对 x、yOut、yScaleOut 增加 numel==0 判断,命中返回 ACLNN_ERR_PARAM_INVALID(161002);该校验应排在 shape 一致性推导之前,使「x 空、yOut 非空」也返回 161002 而不是 561002。测试侧补两条用例:三者均空、仅 x 空。

likedislike
liuhanwen8liuhanwen8
14 days ago Added label: bug-report
liuhanwen8
liuhanwen8
14 days ago Comments:

补充说明:本条所述 aclnn 实现的源码定位

复核时点:cann/ops-nn master d1efef7c30ca124dc30787a7db3c4479c8ffcc05(2026-11-07 20:50)。

复核时发现一处需要在单内写明的口径问题,供维护者判断:

  • quant/dequant_situ_quant/ 目录下没有 op_api/ 子目录,也没有任何 aclnn_*.cpp;
  • 全仓 grep aclnnDequantSituQuantGetWorkspaceSize 仅命中 examples/test_aclnn_dequant_situ_quant.cpp;
  • 对比同仓 quant/ascend_quant_v2/(含 op_api/aclnn_ascend_quant.cpp),可见本算子缺的是整个 op_api/ 层;
  • op_host/CMakeLists.txt:11 写的是 ACLNNTYPE aclnn,而 cmake/func.cmake:725 的 file(GLOB OPAPI_SRCS ${SOURCE_DIR}/op_api/*.cpp) 在目录缺失时为空且不报错(if(OPAPI_SRCS) 静默跳过)。

因此:本条的两段式返回码行为来自实测(自编包 / stock 9.2.0 包调用 libopapi 导出符号),
但无法从 ops-nn 仓内源码侧定位到 aclnn 层实现——该实现的源码不在本仓可见范围内。

这不影响实测结论本身(161001 子项被以 561002 返回是可复现的行为差异),
但「根因在 aclnn 层的哪一行」无法给出精确 file:line,请维护者按实际实现位置归档。

likedislike
yuning_chenyuning_chenCollaborators
14 days ago Assign yourealize as responsible person
yuning_chen
yuning_chenCollaborators
14 days ago Comments:

初步分析

感谢反馈,我们已开始核对这个问题。

现象理解:[Bug-Report|缺陷反馈]: aclnnDequantSituQuant 在 A2 上空 tensor 输入未被拦截,两段返回 0(资料要求 161002)。

当前判断:初步判断,待复现确认,还不能当成已确认根因。

涉及范围:先对照对应算子的实现/资料/校验路径排查。

下一步:我们会按描述复现并给出修复或文档修正方向。

likedislike
yuning_chen
yuning_chenCollaborators
14 days ago Comments:

您好,该问题已收到,当前问题 @yourealize 正在处理中

likedislike
yuning_chenyuning_chenCollaborators
12 days ago Assign wangzitao_leo as responsible person, remove original responsible person: yourealize
yuning_chen
yuning_chenCollaborators
12 days ago Comments:

您好,该问题已收到,当前问题 @wangzitao_leo 正在处理中

likedislike
yuning_chenyuning_chenCollaborators
10 days ago Assign east_yang as responsible person, remove original responsible person: wangzitao_leo
8 event messages are collapsed here。 See more
chenjiayi_chenjiayi_Collaborators
2 days ago Assign chenjiayi_ as responsible person
chenjiayi_
chenjiayi_Collaborators
2 days ago Comments:

补充说明本问题的跟进安排:

该 issue 已关闭,已补充 assign 给 @chenjiayi_ 复核关闭结论,原责任人 @demoauguste 保留协同。

当前状态:

  • 关闭状态:已完成;复核项:aclnnDequantSituQuant 在 A2 上空 tensor 输入未被拦截,两段返回 0(资料要求 161002)。
  • 我先核对关闭时的结论与当前 master 的实现/资料是否一致。

下一步:

  • 复核完成后在本 issue 补充结论。
  • 如果还有后续需要,请重新提 issue。
likedislike
chenjiayi_
chenjiayi_Collaborators
2 days ago Comments:

补充说明本问题的后续处理:

已修复并随关联 PR 合入。

处理结果:

  • !14652:fix(dequant_situ_quant): 补齐aclnn条件必选输入判空与空tensor校验

验证:

  • 关联 PR(2026-11-17)已合入,变更可从 PR 记录追溯。
  • 本次以 PR 记录与 issue 讨论核对为主,未重新执行复现或真机验证。

说明:合入分支与版本以 PR 记录为准;如仍有问题,请重新提 issue 并附版本、shape 与日志。

如果还有后续需要,请重新提 issue。

likedislike
chenjiayi_chenjiayi_Collaborators
11 hours ago Removed responsible person chenjiayi_