Closed
[Bug-Report|缺陷反馈]: aclnnQuantCompressor 23 类非法 shape/attr 返回 561002,与资料声明的第一段 161002/161001 不符 #6833
liuhanwen8Add on 19 days agoClosed at 11 days ago
19 days ago Added label: bug-report
周云飞
19 days ago Comments:
19 days ago Comments:
您好,感谢提供合法基线、单参数变异用例和返回码对照。这条反馈的重点是非法入参返回码与资料说明是否一致,而不是算子的数值计算结果。
问题分析
您提供的 Ascend950PR、CANN 9.2.0-beta.2 运行结果显示:合法基线返回 0,而 shape、属性及条件必选参数缺失等场景返回 561002。这意味着调用方仅凭该返回码,无法可靠区分参数错误与算子内部异常。
目前可确认的一处实现是:ConvertRequiredParams 根据 x 的维数选择布局,3 维对应 BSH,2 维对应 TH,其他维数直接返回 ge::GRAPH_FAILED,说明 rank 检查确实发生在 tiling 路径中,参见相关代码。但 ge::GRAPH_FAILED 是内部状态,不能直接等同于公开接口的 561002;这里的 561002 来自您提供的实测结果。该代码片段与您报告的源码基线不同,其余场景的完整返回路径及资料原文仍需进一步确认。
处理方向
若接口约定是将这些入参错误返回为 161002/161001,一个可行方向是在 aclnn 入口补齐 shape、属性及条件必选指针检查,并保留 tiling 中必要的防御性校验。尤其需要按 quantMode、布局和缓存模式判断参数是否必选,不能将所有可选参数的空指针一律判错。
若接口设计允许这些检查在 tiling 阶段完成并返回 561002,则可以考虑修订资料,明确对应场景以及调用方应如何判断。仅补充错误码说明并不能改善错误分类,因此仍需评估其对现有调用方的影响。我们会继续确认实现与资料的对应关系,再评估适合的调整方向。


18 days ago Assign wangss21 as responsible person
11 days ago Close issue
11 days ago Added label: resolved
问题描述
aclnnQuantCompressor资料错误码表声明:第一段接口完成入参校验,161002 ACLNN_ERR_PARAM_INVALID对应「输入参数的 shape(维度/尺寸)、dtype 不在接口支持范围内」,161001 ACLNN_ERR_PARAM_NULLPTR对应必选参数空指针。实测:dtype 类非法入参确实在第一段返回 161002,但 shape 不一致 / rank 越界 / 属性越界 / descale 长度不符 / descale 空指针共 23 类,第一段全部返回 561002(
ACLNN_ERR_INNER_TILING_ERROR)。即 shape 与属性校验被下沉到 tiling,错误码变成"算子内部错误",调用方无法区分"我参数写错了"和"算子有 bug"。修复方向二选一(需与实现对齐):把 shape/attr/空指针校验前移到 aclnn 层返回 161002/161001;或在资料错误码表把这类场景明确归为 561002 并说明。
环境信息
cann/ops-transformermasterf3f3135a61043353c37a380620b1e33007c523a5,算子目录attention/quant_compressor重现步骤
repro_qc_errcode.cpp。ASC=/usr/local/Ascend/cann-9.2.0-beta.2,需整组链接):ASCEND_RT_VISIBLE_DEVICES=<空闲卡> ./repro_qc_errcode。// repro_qc_errcode.cpp —— 同一个合法基线,每次只改一个参数 #include <cstdio> #include <cstdint> #include <vector> #include "acl/acl.h" #include "aclnnop/aclnn_quant_compressor.h" static aclTensor* T(void* p, std::vector<int64_t> s, aclDataType d) { std::vector<int64_t> st(s.size(), 1); for (int i = (int)s.size() - 2; i >= 0; --i) st[i] = s[i + 1] * st[i + 1]; return aclCreateTensor(s.data(), s.size(), d, st.data(), 0, ACL_FORMAT_ND, s.data(), s.size(), p); } // kind: 0 合法 / 1 x 末维≠H / 2 cmpRatio=1 / 3 x 四维 / 4 xDescale=nullptr static int Run(int kind) { const int64_t B = 1, S = 8, D = 512, coff = 2, cd = coff * D, bs = 128, bn = 2; int64_t H = (kind == 1) ? 512 : 1024; std::vector<int64_t> xs = (kind == 3) ? std::vector<int64_t>{1, 1, S, 1024} : std::vector<int64_t>{B, S, H}; std::vector<int64_t> ws{cd, 1024}, ss{bn, bs, 2 * cd}, as{4, cd}, os{B, 2, D}; size_t xn = 1; for (auto d : xs) xn *= d; void *x, *w1, *w2, *sc, *ape, *xd, *wd1, *wd2, *bt, *sp, *out; aclrtMalloc(&x, xn, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&w1, cd * 1024, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&w2, cd * 1024, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&sc, bn * bs * 2 * cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&ape, 4 * cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&xd, 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&wd1, cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&wd2, cd * 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&bt, 4, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&sp, 4 * B, ACL_MEM_MALLOC_HUGE_FIRST); aclrtMalloc(&out, B * 2 * D * 2, ACL_MEM_MALLOC_HUGE_FIRST); std::vector<uint8_t> xh(xn, 0x08); std::vector<float> sh(bn * bs * 2 * cd, 0.5f), ah(4 * cd, 0.1f), dh(cd, 0.5f); float xdv = 0.5f; int32_t spv = 0, btv = 1; aclrtMemcpy(x, xn, xh.data(), xn, ACL_MEMCPY_HOST_TO_DEVICE); aclrtMemcpy(sc, bn * bs * 2 * cd * 4, sh.data(), bn * bs * 2 * cd * 4, ACL_MEMCPY_HOST_TO_DEVICE); aclrtMemcpy(ape, 4 * cd * 4, ah.data(), 4 * cd * 4, ACL_MEMCPY_HOST_TO_DEVICE); aclrtMemcpy(xd, 4, &xdv, 4, ACL_MEMCPY_HOST_TO_DEVICE); aclrtMemcpy(bt, 4, &btv, 4, ACL_MEMCPY_HOST_TO_DEVICE); aclrtMemcpy(sp, 4 * B, &spv, 4 * B, ACL_MEMCPY_HOST_TO_DEVICE); uint64_t wsz = 0; aclOpExecutor* ex = nullptr; return (int)aclnnQuantCompressorGetWorkspaceSize( T(x, xs, ACL_HIFLOAT8), T(w1, ws, ACL_HIFLOAT8), T(w2, ws, ACL_HIFLOAT8), T(sc, ss, ACL_FLOAT), T(ape, as, ACL_FLOAT), (kind == 4) ? nullptr : T(xd, {1}, ACL_FLOAT), T(wd1, {cd}, ACL_FLOAT), T(wd2, {cd}, ACL_FLOAT), T(bt, {B, 1}, ACL_INT32), nullptr, nullptr, T(sp, {B}, ACL_INT32), 1, (kind == 2) ? 1 : 4, coff, 1, bs * 2 * cd, T(out, os, ACL_BF16), &wsz, &ex); } int main() { aclInit(nullptr); aclrtSetDevice(0); aclrtContext c = nullptr; aclrtCreateContext(&c, 0); aclrtSetCurrentContext(c); const char* name[] = {"合法基线", "x 末维=512≠H", "cmpRatio=1", "x rank=4", "xDescale=nullptr"}; int r[5]; for (int k = 0; k < 5; ++k) { r[k] = Run(k); printf("%-18s -> ret=%d\n", name[k], r[k]); } aclFinalize(); return 0; }预期结果
日志 / 截图
实测输出(Ascend950PR,CANN 9.2.0-beta.2):
同一批 23 类单点变异的完整分布(每类只改一个参数,其余与合法基线相同):
备注
op_host/arch35/quant_compressor_tiling.cpp的CheckDtypeSupport(约 519 行)经 opapi 层已生效;而 shape/attr 校验集中在CheckSinglePara(约 418 行)与CheckShapeConsistency(约 951 行),其失败最终以 tiling 失败形式上报,错误码归到 561002。aclnnIndexerQuantCache、aclnnGenericBlockSparseAttention的既有 issue 同属"错误码层级与资料不一致"家族。