Closed
[Bug-Report|缺陷反馈]: aclnnGroupNormSiluV2 gamma/beta 单侧为空且另一侧为 FLOAT 时返回 561103,资料声明 161002 #7316
liuhanwen8Add on  26 days agoClosed at  22 days ago
liuhanwen8
liuhanwen8
26 days ago Create

Describe the current behavior / 问题描述

aclnnGroupNormSiluV2 在 gamma 与 beta 只有一个为空、另一个为 FLOAT32 时(self 为 FLOAT16/BFLOAT16),第一段接口返回 561103;资料 aclnnGroupNormSiluV2.md 的错误码表把「输入和输出参数不满足参数说明中的约束」归入 ACLNN_ERR_PARAM_INVALID(161002)。

同一批探针里 gamma=fp32 + beta=fp16(两者都非空但不一致)能正确返回 161002,说明校验链本身有拦截能力,缺口只在「单侧为空」这一分支。

用例(self=fp16, 2×8×16, group=2) 第一段 第二段 资料期望
gamma/beta 均 fp16(对照) 0 0 0
gamma/beta 均 fp32(对照,混合精度) 0 0 0
gamma=nullptr + beta=fp32 561103 未执行 161002
gamma=fp32 + beta=nullptr 561103 未执行 161002
gamma=fp32 + beta=fp16(阴性对照) 161002 未执行 161002

机理(norm/group_norm_silu/op_host/op_api/aclnn_group_norm_silu.cpp):

  1. L86-92 的 cross-check 写在 if (gamma != nullptr && beta != nullptr) 内,只在两者都非空时校验「gamma 必须是 self 的 dtype 或 FLOAT」;
  2. 单侧为空时,GetGamma()(L249-261)与 GetBeta()(L263-275)用 OnesLike / ZerosLike 按 self 的 dtype 补齐空位,实际下发三元组变成 (x=fp16, gamma=fp16, beta=fp32);
  3. 现网 kernel 只登记 5 个 dtype 组合(opp/built-in/op_impl/ai_core/tbe/kernel/ascend910b/ops_nn/group_norm_silu/*.json 的 supportInfo:f16/f16/f16、f16/f32/f32、bf16/bf16/bf16、bf16/f32/f32、f32/f32/f32),没有 f16/f16/f32;
  4. l0op::GroupNormSilu(...)(L403)因无匹配 dtype 组合返回空张量,紧接着 L406 CHECK_RET(y != nullptr, ACLNN_ERR_INNER_NULLPTR) 把「参数组合不支持」上报成 561103(ACLNN_ERR_INNER_NULLPTR),而不是参数校验的 161002。

Environment / 环境信息

  • 硬件:Atlas A2 训练系列 910B2(npu-smi 26.1.1,device 1;另在 device 5 复核一致)
  • CANN:9.2.0(/usr/local/Ascend/ascend-toolkit/latest),aarch64,g++ 10.3.1
  • 仓库与提交:cann/ops-nn d009b7fe(2026-10-25)
  • 复现率:self=FLOAT16 与 self=BFLOAT16 各 3/3 次返回 561103,两种方向(gamma 空 / beta 空)都复现

Steps to reproduce the issue / 重现步骤

  1. 将下方代码保存为 repro.cpp;
  2. 编译:g++ -std=c++11 -O2 repro.cpp -o repro -I$ASCEND_HOME/include -I$ASCEND_HOME/include/aclnnop -L$ASCEND_HOME/lib64 -lopapi_nn -lopapi -lnnopbase -lascendcl;
  3. 运行 ./repro(默认 device 1,可按需改 aclrtSetDevice 的参数);
  4. 对比输出:前两行对照应为 0/0,中间两行缺陷应为 561103,最后一行阴性对照应为 161002。
#include <cstdio>
#include <vector>
#include "acl/acl.h"
#include "aclnnop/aclnn_group_norm_silu.h"

static aclrtStream S;
#define RET(x) do { auto r = (x); if (r != ACL_SUCCESS) { printf("acl fail %d\n", (int)r); return r; } } while (0)

static aclTensor* mk(const std::vector<int64_t>& sh, aclDataType dt, int bytes, int fill) {
    int64_t n = 1; for (auto v : sh) n *= v;
    void* d = nullptr; aclrtMalloc(&d, n * bytes, ACL_MEM_MALLOC_HUGE_FIRST);
    std::vector<int64_t> st(sh.size(), 1);
    for (int i = (int)sh.size() - 2; i >= 0; i--) st[i] = sh[i + 1] * st[i + 1];
    if (bytes == 4) {
        std::vector<float> h(n);
        for (int64_t i = 0; i < n; i++) h[i] = fill ? (float)((i % 17) - 8) / 8.0f : 0.0f;
        aclrtMemcpy(d, n * 4, h.data(), n * 4, ACL_MEMCPY_HOST_TO_DEVICE);
    } else {
        std::vector<uint16_t> h(n);
        for (int64_t i = 0; i < n; i++) h[i] = fill ? (uint16_t)(0x3C00 + (i % 32)) : 0;
        aclrtMemcpy(d, n * 2, h.data(), n * 2, ACL_MEMCPY_HOST_TO_DEVICE);
    }
    return aclCreateTensor(sh.data(), sh.size(), dt, st.data(), 0, ACL_FORMAT_ND,
                           sh.data(), sh.size(), d);
}

static void run(const char* name, aclTensor* x, aclTensor* g, aclTensor* b,
                aclTensor* o, aclTensor* m, aclTensor* r) {
    uint64_t ws = 0; aclOpExecutor* ex = nullptr;
    auto r1 = aclnnGroupNormSiluV2GetWorkspaceSize(x, g, b, 2, 0.00001, true, o, m, r, &ws, &ex);
    int r2 = -1;
    if (r1 == 0 && ex) {
        void* p = nullptr;
        if (ws) aclrtMalloc(&p, ws, ACL_MEM_MALLOC_HUGE_FIRST);
        r2 = (int)aclnnGroupNormSiluV2(p, ws, ex, S);
        if (r2 == 0) aclrtSynchronizeStream(S);
        if (p) aclrtFree(p);
    }
    printf("%-34s ret_gws=%-7d ret_exec=%d\n", name, (int)r1, r2);
}

int main() {
    RET(aclInit(nullptr));
    RET(aclrtSetDevice(1));
    RET(aclrtCreateStream(&S));
    std::vector<int64_t> xs = {2, 8, 16}, cs = {8}, ms = {2, 2};
    aclTensor *x16 = mk(xs, ACL_FLOAT16, 2, 1), *g16 = mk(cs, ACL_FLOAT16, 2, 1),
              *b16 = mk(cs, ACL_FLOAT16, 2, 1), *g32 = mk(cs, ACL_FLOAT, 4, 1),
              *b32 = mk(cs, ACL_FLOAT, 4, 1);
    aclTensor *o16 = mk(xs, ACL_FLOAT16, 2, 0), *m16 = mk(ms, ACL_FLOAT16, 2, 0),
              *r16 = mk(ms, ACL_FLOAT16, 2, 0);
    run("[CTRL] fp16 全 fp16          ", x16, g16, b16, o16, m16, r16);
    run("[CTRL] fp16 + gamma/beta fp32 ", x16, g32, b32, o16, m16, r16);
    run("[DEFECT] gamma=null beta=fp32 ", x16, nullptr, b32, o16, m16, r16);
    run("[DEFECT] gamma=fp32 beta=null ", x16, g32, nullptr, o16, m16, r16);
    run("[NEG] gamma=fp32 beta=fp16   ", x16, g32, b16, o16, m16, r16);
    aclrtDestroyStream(S);
    aclrtResetDevice(1);
    aclFinalize();
    return 0;
}

实测输出:

[CTRL] fp16 全 fp16               ret_gws=0       ret_exec=0
[CTRL] fp16 + gamma/beta fp32      ret_gws=0       ret_exec=0
[DEFECT] gamma=null beta=fp32      ret_gws=561103  ret_exec=-1
[DEFECT] gamma=fp32 beta=null      ret_gws=561103  ret_exec=-1
[NEG] gamma=fp32 beta=fp16         ret_gws=161002  ret_exec=-1

Describe the expected behavior / 预期结果

  • 资料 L220 只对 Ascend 950PR&950DT 声明「gamma 或 beta 支持为空」,因此 A2 上单侧为空的入参属于不满足参数约束,第一段应返回 161002;
  • 若产品决定 A2 也支持单侧为空,则需同步补齐 def 的 dtype 组合(如 f16/f16/f32)与 kernel 分支;两种口径下都不应以 561103 作为对外表现。

561103 出现在第一段 aclnnGroupNormSiluV2GetWorkspaceSize,第二段未执行;同批探针的 gamma/beta 均非空但不一致 用例稳定返回 161002,可作为阴性对照排除「探针构造错误」。

Special notes for this issue/备注

  • 与 #7298(aclnnEinsum 形状不符返回 561103、资料声明 161002)、#7059 同族:参数组合不满足约束却由下游推导抛出内部码;
  • 与 #7309 / #5270 不同:那两条是头文件与资料的文档问题,本条是实现侧报错码语义;
  • 附带观察(不单列缺陷):gamma 与 beta 同时为空时 A2 实测返回 0/0,且结果等于 gamma=1、beta=0;资料未对 A2 声明该能力,建议资料补一句说明(已单独记录内部 P2)。
likedislike
liuhanwen8liuhanwen8
26 days ago Added label: bug-report
yuning_chen
yuning_chenCollaborators
26 days ago Comments:

初步分析

感谢反馈,我们已开始核对这个问题。

现象理解:文档反馈;aclnnGroupNormSiluV2 gamma/beta 单侧为空且另一侧为 FLOAT 时返回 561103,资料声明 161002。
当前判断:从描述看,这是资料/注释与实现口径不一致类文档反馈「aclnnGroupNormSiluV2 gamma/beta 单侧为空且另一侧为 FLOAT 时返回 561103,资料声明 161002」。需要对照接口文档、头文件注释与实现/实测结果核对哪一侧需修正。以上为初步判断,待复现确认,不能当成已确认根因。
涉及范围:aclnnGroupNormSiluV2、aclnn_group_norm_silu、aclnnop
下一步:我们会先核对文档声明与实现/测试结果是否一致,再决定改资料还是改代码。

likedislike
yuning_chenyuning_chenCollaborators
25 days ago Assign east_yang as responsible person
yuning_chen
yuning_chenCollaborators
25 days ago Comments:

您好,问题已收到,当前 @east_yang 正在处理中。

likedislike
east_yangeast_yangCollaborators
24 days ago Assign fengying555682 as responsible person
east_yangeast_yangCollaborators
24 days ago Assign shilulu as responsible person
east_yangeast_yangCollaborators
24 days ago Removed responsible person east_yang
shilulu
shiluluCollaborators
22 days ago Comments:

感谢反馈,问题已确认并修复。

根因:op_api 的 dtype 一致性校验仅在 gamma/beta 均非空时执行;单侧为空时,空侧会按 self 的 dtype 自动补齐(OnesLike/ZerosLike),实际下发的等效 dtype 组合(如 fp16/fp16/fp32)未在 kernel 二进制中登记,匹配失败后以内部错误码 561103 透出,而非参数校验的 161002。

修复:非 RegBase 平台补齐单侧为空场景的等效 dtype 一致性校验,不匹配时按参数错误返回 161002。同时确认:gamma/beta 均为空、均为 FLOAT、单侧为空且另一侧与 self 同 dtype 等现有可用场景行为不变, 950(RegBase)原生支持空侧的路径不受影响。

修复已随 PR https://gitcode.com/cann/ops-nn/pull/13166 提交,请基于该 PR 验证。

likedislike
CANN-robotCANN-robotCollaborators
22 days ago Close issue
CANN-robotCANN-robotCollaborators
22 days ago Added label: resolved