Closed
[Bug-Report|缺陷反馈]: aclnnQuantCompressor 23 类非法 shape/attr 返回 561002,与资料声明的第一段 161002/161001 不符 #6833
liuhanwen8Add on  19 days agoClosed at  11 days ago
liuhanwen8
liuhanwen8
19 days ago Create

问题描述

aclnnQuantCompressor 资料错误码表声明:第一段接口完成入参校验,161002 ACLNN_ERR_PARAM_INVALID 对应「输入参数的 shape(维度/尺寸)、dtype 不在接口支持范围内」,161001 ACLNN_ERR_PARAM_NULLPTR 对应必选参数空指针。

实测:dtype 类非法入参确实在第一段返回 161002,但 shape 不一致 / rank 越界 / 属性越界 / descale 长度不符 / descale 空指针共 23 类,第一段全部返回 561002(ACLNN_ERR_INNER_TILING_ERROR)。即 shape 与属性校验被下沉到 tiling,错误码变成"算子内部错误",调用方无法区分"我参数写错了"和"算子有 bug"。

修复方向二选一(需与实现对齐):把 shape/attr/空指针校验前移到 aclnn 层返回 161002/161001;或在资料错误码表把这类场景明确归为 561002 并说明。

环境信息

  • 硬件/软件:Ascend950PR(ascend950);CANN 9.2.0-beta.2;npu-smi 25.7.rc1;Python 3.12.3
  • 源码基线:cann/ops-transformer master f3f3135a61043353c37a380620b1e33007c523a5,算子目录 attention/quant_compressor

重现步骤

  1. 保存下方 repro_qc_errcode.cpp。
  2. 编译(ASC=/usr/local/Ascend/cann-9.2.0-beta.2,需整组链接):
    g++ -O2 -std=c++17 -I$ASC/x86_64-linux/include -I$ASC/x86_64-linux/include/aclnnop -I$ASC/x86_64-linux/include/aclnn repro_qc_errcode.cpp -o repro_qc_errcode -Wl,--allow-shlib-undefined -Wl,--start-group $ASC/lib64/libopapi.so $ASC/lib64/libnnopbase.so $ASC/lib64/libascendcl.so $ASC/lib64/libge_common.so $ASC/lib64/libge_common_base.so $ASC/lib64/libge_executor.so $ASC/lib64/libge_compiler.so $ASC/lib64/libregister.so $ASC/lib64/libascend_protobuf.so $ASC/lib64/libplatform.so $ASC/lib64/libmmpa.so -Wl,--end-group -lstdc++ -lm
    
  3. 在空闲卡上运行 ASCEND_RT_VISIBLE_DEVICES=<空闲卡> ./repro_qc_errcode。
  4. 程序依次执行 5 组:合法基线、x 末维≠H、cmpRatio=1、x 为 4 维、xDescale=nullptr;除被改动的那一个参数外其余完全相同。
// repro_qc_errcode.cpp —— 同一个合法基线,每次只改一个参数
#include <cstdio>
#include <cstdint>
#include <vector>
#include "acl/acl.h"
#include "aclnnop/aclnn_quant_compressor.h"

static aclTensor* T(void* p, std::vector<int64_t> s, aclDataType d) {
    std::vector<int64_t> st(s.size(), 1);
    for (int i = (int)s.size() - 2; i >= 0; --i) st[i] = s[i + 1] * st[i + 1];
    return aclCreateTensor(s.data(), s.size(), d, st.data(), 0, ACL_FORMAT_ND, s.data(), s.size(), p);
}

// kind: 0 合法 / 1 x 末维≠H / 2 cmpRatio=1 / 3 x 四维 / 4 xDescale=nullptr
static int Run(int kind) {
    const int64_t B = 1, S = 8, D = 512, coff = 2, cd = coff * D, bs = 128, bn = 2;
    int64_t H = (kind == 1) ? 512 : 1024;
    std::vector<int64_t> xs = (kind == 3) ? std::vector<int64_t>{1, 1, S, 1024}
                                         : std::vector<int64_t>{B, S, H};
    std::vector<int64_t> ws{cd, 1024}, ss{bn, bs, 2 * cd}, as{4, cd}, os{B, 2, D};
    size_t xn = 1; for (auto d : xs) xn *= d;
    void *x, *w1, *w2, *sc, *ape, *xd, *wd1, *wd2, *bt, *sp, *out;
    aclrtMalloc(&x, xn, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&w1, cd * 1024, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMalloc(&w2, cd * 1024, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&sc, bn * bs * 2 * cd * 4, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMalloc(&ape, 4 * cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&xd, 4, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMalloc(&wd1, cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&wd2, cd * 4, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMalloc(&bt, 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&sp, 4 * B, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMalloc(&out, B * 2 * D * 2, ACL_MEM_MALLOC_HUGE_FIRST);
    std::vector<uint8_t> xh(xn, 0x08); std::vector<float> sh(bn * bs * 2 * cd, 0.5f), ah(4 * cd, 0.1f), dh(cd, 0.5f);
    float xdv = 0.5f; int32_t spv = 0, btv = 1;
    aclrtMemcpy(x, xn, xh.data(), xn, ACL_MEMCPY_HOST_TO_DEVICE);
    aclrtMemcpy(sc, bn * bs * 2 * cd * 4, sh.data(), bn * bs * 2 * cd * 4, ACL_MEMCPY_HOST_TO_DEVICE);
    aclrtMemcpy(ape, 4 * cd * 4, ah.data(), 4 * cd * 4, ACL_MEMCPY_HOST_TO_DEVICE);
    aclrtMemcpy(xd, 4, &xdv, 4, ACL_MEMCPY_HOST_TO_DEVICE);
    aclrtMemcpy(bt, 4, &btv, 4, ACL_MEMCPY_HOST_TO_DEVICE);
    aclrtMemcpy(sp, 4 * B, &spv, 4 * B, ACL_MEMCPY_HOST_TO_DEVICE);
    uint64_t wsz = 0; aclOpExecutor* ex = nullptr;
    return (int)aclnnQuantCompressorGetWorkspaceSize(
        T(x, xs, ACL_HIFLOAT8), T(w1, ws, ACL_HIFLOAT8), T(w2, ws, ACL_HIFLOAT8),
        T(sc, ss, ACL_FLOAT), T(ape, as, ACL_FLOAT), (kind == 4) ? nullptr : T(xd, {1}, ACL_FLOAT),
        T(wd1, {cd}, ACL_FLOAT), T(wd2, {cd}, ACL_FLOAT), T(bt, {B, 1}, ACL_INT32), nullptr, nullptr,
        T(sp, {B}, ACL_INT32), 1, (kind == 2) ? 1 : 4, coff, 1, bs * 2 * cd,
        T(out, os, ACL_BF16), &wsz, &ex);
}

int main() {
    aclInit(nullptr); aclrtSetDevice(0);
    aclrtContext c = nullptr; aclrtCreateContext(&c, 0); aclrtSetCurrentContext(c);
    const char* name[] = {"合法基线", "x 末维=512≠H", "cmpRatio=1", "x rank=4", "xDescale=nullptr"};
    int r[5];
    for (int k = 0; k < 5; ++k) { r[k] = Run(k); printf("%-18s -> ret=%d\n", name[k], r[k]); }
    aclFinalize();
    return 0;
}

预期结果

  • 合法基线返回 0;
  • x 末维≠H、cmpRatio=1、x rank=4 → 资料声明的 161002;
  • xDescale 为空指针(quantMode=1 时必选)→ 资料声明的 161001。

日志 / 截图

实测输出(Ascend950PR,CANN 9.2.0-beta.2):

合法基线       -> ret=0
x 末维=512≠H   -> ret=561002
cmpRatio=1         -> ret=561002
x rank=4           -> ret=561002
xDescale=nullptr   -> ret=561002

同一批 23 类单点变异的完整分布(每类只改一个参数,其余与合法基线相同):

  • 返回 561002(23 类):x 末维≠H、ape 首维≠cmp_ratio、wkvDescale 长度≠coff*D、xDescale 长度≠1、stateCacheRef 维度≠3、cmpRatio=1/129、coff=0/3、cacheMode=0/3、quantMode=0/2、BSH 布局误传 cuSeqlens、TH 布局缺 cuSeqlens、x 为 0d/1d/4d、H=1000 非 512 对齐、三个 descale 空指针、stateBlockTable 空指针;
  • 返回 161002 或 161001(与资料一致,23 类):x/wkv/stateCacheRef/cmpKvOut 的非法 dtype 共 13 类,以及 x/wkv/wgate/ape/cmpKvOut/stateCacheRef 空指针共 6 类等。

备注

  • 代码位置:dtype 校验在 op_host/arch35/quant_compressor_tiling.cpp 的 CheckDtypeSupport(约 519 行)经 opapi 层已生效;而 shape/attr 校验集中在 CheckSinglePara(约 418 行)与 CheckShapeConsistency(约 951 行),其失败最终以 tiling 失败形式上报,错误码归到 561002。
  • 影响:调用方按资料区分 161002(改参数)与 561002(报算子问题)的容错逻辑会失效;本问题不涉及数值,故按错误码/契约类问题上报。
  • 与同类接口 aclnnIndexerQuantCache、aclnnGenericBlockSparseAttention 的既有 issue 同属"错误码层级与资料不一致"家族。
likedislike
liuhanwen8liuhanwen8
19 days ago Added label: bug-report
周云飞
周云飞Collaborators
19 days ago Comments:

您好,感谢提供合法基线、单参数变异用例和返回码对照。这条反馈的重点是非法入参返回码与资料说明是否一致,而不是算子的数值计算结果。

问题分析

您提供的 Ascend950PR、CANN 9.2.0-beta.2 运行结果显示:合法基线返回 0,而 shape、属性及条件必选参数缺失等场景返回 561002。这意味着调用方仅凭该返回码,无法可靠区分参数错误与算子内部异常。

目前可确认的一处实现是:ConvertRequiredParams 根据 x 的维数选择布局,3 维对应 BSH,2 维对应 TH,其他维数直接返回 ge::GRAPH_FAILED,说明 rank 检查确实发生在 tiling 路径中,参见相关代码。但 ge::GRAPH_FAILED 是内部状态,不能直接等同于公开接口的 561002;这里的 561002 来自您提供的实测结果。该代码片段与您报告的源码基线不同,其余场景的完整返回路径及资料原文仍需进一步确认。

处理方向

若接口约定是将这些入参错误返回为 161002/161001,一个可行方向是在 aclnn 入口补齐 shape、属性及条件必选指针检查,并保留 tiling 中必要的防御性校验。尤其需要按 quantMode、布局和缓存模式判断参数是否必选,不能将所有可选参数的空指针一律判错。

若接口设计允许这些检查在 tiling 阶段完成并返回 561002,则可以考虑修订资料,明确对应场景以及调用方应如何判断。仅补充错误码说明并不能改善错误分类,因此仍需评估其对现有调用方的影响。我们会继续确认实现与资料的对应关系,再评估适合的调整方向。

likedislike
周云飞
周云飞Collaborators
18 days ago Comments:

/assign @wangss21

likedislike
CANN-robotCANN-robotCollaborators
18 days ago Assign wangss21 as responsible person
CANN-robotCANN-robotCollaborators
11 days ago Close issue
CANN-robotCANN-robotCollaborators
11 days ago Added label: resolved
周云飞
周云飞Collaborators
6 days ago Comments:

处置结果

已更新 aclnnQuantCompressor 错误码表,区分 ACLNN 参数校验与 tiling 校验。shape、属性值或可选输入的传入状态与配置不匹配且在 tiling 阶段失败时,返回 561002。

变更已合入 master,详见 PR #15124。

likedislike