Closed
[Bug-Report|缺陷反馈]: aclnnSwiGluQuantV2 资料 161002 的 4 个子项实际在次段返回 361001 #7775
liuhanwen8Add on  22 days agoClosed at  4 days ago
liuhanwen8
liuhanwen8
22 days ago Create

问题描述

docs/aclnnSwiGluQuantV2.md 的错误码表把 4 个子项统一归到 ACLNN_ERR_PARAM_INVALID(161002),
并声明「第一段接口会完成入参校验,出现以下场景时报错」:
(1) 输入或输出的参数维度不在支持的范围内;(2) quantModeOptional 不在指定的取值范围内;
(3) groupListType 不在指定的取值范围内;(4) dstType 不在指定的取值范围内。

实测这 4 个子项第一段都返回 0,错误在第二段(aclnnSwiGluQuantV2)以 361001 返回;
而同一份基线下把 x 改成 fp64(子项「数据类型不在支持范围」)能正确返回 161002。
即:dtype 校验在首段,维度与三个属性的校验全部下沉到 tiling,返回码类型与资料不一致。

361001 属内部错误码,调用方按资料只判 161002 会漏判;同时「参数非法」被包装成「内部错误」,不利于定位。

环境信息

  • 硬件:Atlas A2 训练服务器(Ascend 910B3)
  • CANN:9.2.0(ascend-toolkit/latest)
  • 系统:Ubuntu 22.04(x86_64)
  • 接口:aclnnSwiGluQuantV2(quant/swi_glu_quant)

重现步骤

  1. 将下方代码保存为 repro.cpp。
  2. 编译:g++ -std=c++17 repro.cpp -o repro -I$ASCEND_HOME_PATH/include -L$ASCEND_HOME_PATH/lib64 -lascendcl -lnnopbase -lopapi。
  3. 指定一张空卡执行:ASCEND_RT_VISIBLE_DEVICES=0 ./repro。
  4. 对比每一行 ret1:基线应为 0,四个非法子项按资料应为 161002。

预期结果

基线 ret1=0 ret2=0;四个非法子项均应在 ret1 直接返回 161002(不应进入第二段)。

日志截图

baseline(dynamic,0,2)        ret1=0 ret2=0
quantMode=foo                ret1=0 ret2=361001
groupListType=2              ret1=0 ret2=361001
dstType=0                    ret1=0 ret2=361001
x last dim odd(63)           ret1=0 ret2=361001

补充对照:把 x 改为 fp64[4x64] 时,ret1=161002(与资料一致),说明首段校验只覆盖了 dtype。

备注

两种修法都可行,但需要与资料一致:

  1. 在 aclnnSwiGluQuantV2GetWorkspaceSize 补齐维度/属性校验并返回 161002;
  2. 或更正资料,明确这 4 类错误在第二段以 361001 返回(并补充 361001 的错误码说明)。

关联:同目录 V1 接口 aclnnSwiGluQuant 的 quantMode 非法值已被报为 cann/ops-nn#7771(361001 vs 161002)。
本条覆盖 V2 接口 的 4 个子项(维度 / quantMode / groupListType / dstType),其中 groupListType、dstType
与维度两项在 V1 报告中未覆盖,两条并不等价。

#include <cstdio>
#include <vector>
#include "acl/acl.h"
#include "aclnnop/aclnn_swi_glu_quant_v2.h"

static int64_t Numel(const std::vector<int64_t>& s) { int64_t n = 1; for (auto d : s) n *= d; return n; }

template <typename T>
static aclTensor* Make(const std::vector<T>& h, const std::vector<int64_t>& s, aclDataType dt, void** dev) {
    auto bytes = Numel(s) * sizeof(T);
    aclrtMalloc(dev, bytes, ACL_MEM_MALLOC_HUGE_FIRST);
    aclrtMemcpy(*dev, bytes, h.data(), bytes, ACL_MEMCPY_HOST_TO_DEVICE);
    std::vector<int64_t> st(s.size(), 1);
    for (int64_t i = (int64_t)s.size() - 2; i >= 0; --i) st[i] = s[i + 1] * st[i + 1];
    return aclCreateTensor(s.data(), s.size(), dt, st.data(), 0, ACL_FORMAT_ND, s.data(), s.size(), *dev);
}

static aclrtStream g_stream;

static void Run(const char* tag, const char* qm, int64_t glt, int64_t dst, int64_t dLast, int64_t yLast) {
    std::vector<int64_t> xs{4, dLast}, ss{2, yLast}, ys{4, yLast}, cs{4};
    std::vector<float> xh(Numel(xs), 1.0f), sh(Numel(ss), 1.0f);
    std::vector<int8_t> yh(Numel(ys), 0);
    std::vector<float> ch(4, 0.0f);
    void *xd = nullptr, *sd = nullptr, *yd = nullptr, *cd = nullptr;
    aclTensor* x = Make(xh, xs, ACL_FLOAT16, &xd);
    aclTensor* s = Make(sh, ss, ACL_FLOAT, &sd);
    aclTensor* y = Make(yh, ys, ACL_INT8, &yd);
    aclTensor* c = Make(ch, cs, ACL_FLOAT, &cd);
    uint64_t ws = 0;
    aclOpExecutor* ex = nullptr;
    auto r1 = aclnnSwiGluQuantV2GetWorkspaceSize(x, s, nullptr, nullptr, false, (char*)qm,
                                                 glt, dst, y, c, &ws, &ex);
    int r2 = -999;
    if (r1 == ACL_SUCCESS) {
        void* wsp = nullptr;
        if (ws > 0) aclrtMalloc(&wsp, ws, ACL_MEM_MALLOC_HUGE_FIRST);
        r2 = (int)aclnnSwiGluQuantV2(wsp, ws, ex, g_stream);
        if (r2 == 0) aclrtSynchronizeStream(g_stream);
        if (wsp) aclrtFree(wsp);
    }
    printf("%-26s ret1=%d ret2=%d\n", tag, (int)r1, r2);
    aclDestroyTensor(x); aclDestroyTensor(s); aclDestroyTensor(y); aclDestroyTensor(c);
    aclrtFree(xd); aclrtFree(sd); aclrtFree(yd); aclrtFree(cd);
}

int main() {
    aclInit(nullptr);
    aclrtSetDevice(0);
    aclrtCreateStream(&g_stream);
    Run("baseline(dynamic,0,2)", "dynamic", 0, 2, 64, 32);
    Run("quantMode=foo", "foo", 0, 2, 64, 32);
    Run("groupListType=2", "dynamic", 2, 2, 64, 32);
    Run("dstType=0", "dynamic", 0, 0, 64, 32);
    Run("x last dim odd(63)", "dynamic", 0, 2, 63, 31);
    aclrtDestroyStream(g_stream);
    aclrtResetDevice(0);
    aclFinalize();
    return 0;
}
likedislike
liuhanwen8liuhanwen8
22 days ago Added label: bug-report
liuhanwen8liuhanwen8
22 days ago Modify description of issue
yuning_chenyuning_chenCollaborators
22 days ago Assign wangzitao_leo as responsible person
yuning_chen
yuning_chenCollaborators
22 days ago Comments:

初步分析

感谢反馈,我们已开始核对这个问题。

现象理解:资料写明维度/quantMode/groupListType/dstType 非法应在首段返回 161002,实测首段 0、次段 361001。
当前判断:初步判断,待复现确认。疑似仅 dtype 在 aclnn 首段校验,其余校验下沉到 tiling。
涉及范围:aclnnSwiGluQuantV2 首段参数校验与错误码资料
下一步:按复现矩阵核对四类非法入参,统一改为首段 161002 或修正资料说明。

likedislike
yuning_chen
yuning_chenCollaborators
22 days ago Comments:

您好,该问题已收到,当前问题 @wangzitao_leo 正在处理中

likedislike
east_yang
east_yangCollaborators
12 days ago Comments:

/unassign @wangzitao_leo

likedislike
CANN-robotCANN-robotCollaborators
12 days ago Removed responsible person wangzitao_leo
east_yang
east_yangCollaborators
12 days ago Comments:

/assign @shilulu

likedislike
CANN-robotCANN-robotCollaborators
12 days ago Assign shilulu as responsible person
yuning_chenyuning_chenCollaborators
10 days ago Assign liujie12345678 as responsible person, remove original responsible person: shilulu
shilulushiluluCollaborators
10 days ago Assign shilulu as responsible person
shilulushiluluCollaborators
10 days ago Removed responsible person liujie12345678
shilulu
shiluluCollaborators
5 days ago Comments:

感谢反馈,问题确认有效,且定位链条比报告所述更深一层——实测的 361001 并非 tiling 校验的正码,而是旧版本缺陷的次生症状。分三点说明:

一、复现确认

我们在 910B3 + CANN 9.2.0 与 9.3.0 双环境按报告的复现矩阵复跑,结果逐位一致:baseline ret1=0/ret2=0;quantMode=foo、groupListType=2、dstType=0、末维奇数(63) 四个子项均为 ret1=0、ret2=361001;fp64 对照 ret1=161002(dtype首段校验确实在)。

二、根因(日志级定位)

四个子项的校验在 tiling 中一直存在且正确触发(CheckAttrs 校验 quantMode ∈ {static, dynamic, dynamic_msd}、groupListType ∈ {0,1}、dstType ∈ {2,29},SetTotalShape 校验末维偶数,日志可见校验拒绝记录)。问题出在返回值传播:
旧版 Tiling4SwiGluQuant 调用 GetTillingData 后未检查其返回值——校验失败被 tiling 函数自身吞掉,仍按"成功"返回(tilingKey 保持 0),首段因此返回 0;第二段按 tilingKey=0 查找 kernel
函数句柄失败(aclrtBinaryGetFunctionByEntry 断言失败),被包装为 361001(ACLNN_ERR_RUNTIME_ERROR)。即 361001 是"tiling 失败被吞后、kernel 查找失败"的次生错误,这也解释了为何它以内部错误而非 tiling 错误的形态出现。

三、修复状态与资料修正

该缺陷已随内部错误码整改合入 master:修复 PR https://gitcode.com/cann/ops-nn/pull/12776(对应提交 f134ef309,2026-10-28)补齐了 GetTillingData 返回值检查并注册结构化错误码。修复后实测(构建当前 master 的 swi_glu_quant 以vendor 方式装载):上述四个非法子项均在第一段返回 561002(ACLNN_ERR_INNER_TILING_ERROR),不再进入第二段;baseline 行为不变。报告中的 CANN 9.2.0 早于该修复,升级到包含该提交的版本后行为即与下述资料一致。

资料同步修正见修复 PR:https://gitcode.com/cann/ops-nn/pull/14554——错误码表将维度、quantModeOptional、groupListType、dstType 四个子项从 161002 拆分至 561002(ACLNN_ERR_INNER_TILING_ERROR),数据类型子项维持 161002。
说明两点:修复后"第一段接口会完成入参校验"的声明重新成立(全部入参校验均在第一段完成并报错);tiling 级校验按框架约定归 561002 内部错误类而非 161002 参数非法类,日志中伴随注册的结构化错误码(EZ 码)辅助定位,
资料如实按此描述。资料未按 361001 修订,因该错误码是缺陷症状、不应作为接口契约固化。

另外,同目录 V1 接口(aclnnSwiGluQuant,见 #7771)与本接口共享同一 tiling,已被同一提交覆盖——实测 V1 quantMode 非法亦在第一段返回 561002,#7771 可同步关闭。

感谢支持。

likedislike
CANN-robotCANN-robotCollaborators
4 days ago Close issue
CANN-robotCANN-robotCollaborators
4 days ago changed custom state from 进行中 to 已完成
CANN-robotCANN-robotCollaborators
4 days ago Added label: resolved