Closed
[Bug-Report|缺陷反馈]: aclnnSwiGluQuant quantMode 非法取值返回 361001/507057,与资料声明的 161002 不符 #7771
liuhanwen8Add on  22 days agoClosed at  4 days ago
liuhanwen8
liuhanwen8
22 days ago Create

Describe the current behavior / 问题描述 (Mandatory / 必填)

aclnnSwiGluQuant 的 quantModeOptional 传入非枚举值时,报错码与资料不符:

quantMode 资料声明 实测
bogus 161002(ACLNN_ERR_PARAM_INVALID) 361001(第二段)
Static(大小写不符) 161002 361001(第二段)
dynamic_msd 不在支持面(当前仅 dynamic/static) 507057(aclrtSynchronizeStream)

资料依据:docs/aclnnSwiGluQuant.md L159「当前仅支持 dynamic 动态量化、static 静态量化」;L241「quantModeOptional 不在指定的取值范围内 → 161002」。

定位(ops-nn master):

  • op_host/swi_glu_quant_tiling_utils.h:151 的白名单同时接受 static / dynamic / dynamic_msd;
  • op_host/swi_glu_quant_tiling_utils.h:429 GetQuantMode 把 dynamic_msd 落到静态分支;
  • 非法值在 tiling 阶段才被拒,aclnn 层把 tiling 失败映射为 361001,故第一段不报 161002。

Environment Information / 环境信息 (Mandatory / 必填)

  • 昇腾硬件型号:Atlas 910B3(Ascend 910B3,8 卡)
  • CANN 版本:9.2.0(npu-smi 26.1.1)
  • Python 版本:3.12.15;torch 2.12.0+cpu / torch_npu 2.12.0.post3
  • 仓提交:ops-nn master(2026-10-30 sparse checkout,quant/swi_glu_quant)

Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)

  1. 基线参数(两段返回 0):
x=fp16[8x32]ND | smoothScalesOptional=fp32[2x16]ND | groupIndexOptional=int32[2]=[4,8]
activateLeft=false | quantModeOptional=dynamic | yOut=int8[8x16]ND | scaleOut=fp32[8]ND
  1. 只改 quantModeOptional 为 bogus,重跑:第一段返回 0,第二段返回 361001。
  2. 改 quantModeOptional 为 dynamic_msd,重跑:aclrtSynchronizeStream 返回 507057。
  3. 对照 quantModeOptional=static / dynamic:均返回 0 且输出正常。

Describe the expected behavior / 预期结果 (Mandatory / 必填)

  • 非法 quantMode 应在第一段返回 161002,且不得把非法值带进 kernel;
  • dynamic_msd 若确未实现,应从白名单移除;若已实现,应更新资料并给出与 dynamic/static 的区别。

dynamic_msd 目前会进入 kernel 并以 507057 结束,调用方无法区分「参数非法」与「内部错误」。

quantMode=bogus          -> aclnnSwiGluQuant 执行返回错误码 361001
quantMode=Static         -> aclnnSwiGluQuant 执行返回错误码 361001
quantMode=dynamic_msd    -> aclrtSynchronizeStream 返回 507057

资料驱动错误码线同一结论:NV-SwiGluQuant-161002-3 expect=161002 got=361001(det=none / det=acl 两腿一致)。

Special notes for this issue/备注 (Optional / 选填)

同族 aclnnDequantSwigluQuant 已有类似报错码问题(#7581:入参违约返回 561002 而非 161002),建议按族统一错误码映射策略。

likedislike
yuning_chenyuning_chenCollaborators
22 days ago Assign wangzitao_leo as responsible person
yuning_chen
yuning_chenCollaborators
22 days ago Comments:

初步分析

感谢反馈,我们已开始核对这个问题。

现象理解:非法/dynamic_msd 等 quantMode 实测返回 361001/507057,与资料声明的 161002 不一致。
当前判断:初步判断,待复现确认。疑似非法值未在 aclnn 首段拦截,而是落到 tiling/kernel 后映射为内部错误码。
涉及范围:quant/swi_glu_quant 的 quantMode 白名单与错误码映射
下一步:对照资料用例复核非法取值与 dynamic_msd 支持面,统一首段报错或修正资料。

likedislike
yuning_chen
yuning_chenCollaborators
22 days ago Comments:

您好,该问题已收到,当前问题 @wangzitao_leo 正在处理中

likedislike
east_yang
east_yangCollaborators
12 days ago Comments:

/unassign @wangzitao_leo

likedislike
CANN-robotCANN-robotCollaborators
12 days ago Removed responsible person wangzitao_leo
east_yang
east_yangCollaborators
12 days ago Comments:

/assign @shilulu

likedislike
CANN-robotCANN-robotCollaborators
12 days ago Assign shilulu as responsible person
yuning_chenyuning_chenCollaborators
10 days ago Assign liujie12345678 as responsible person, remove original responsible person: shilulu
shilulushiluluCollaborators
10 days ago Assign shilulu as responsible person
shilulushiluluCollaborators
10 days ago Removed responsible person liujie12345678
chenjiayi_
chenjiayi_Collaborators
9 days ago Comments:

当前 master 的 quant/swi_glu_quant/op_host/swi_glu_quant_tiling_utils.h:151 白名单接受 static、dynamic、dynamic_msd,:429-434 的 GetQuantMode 将 dynamic_msd 归入静态分支;范围外取值在 tiling 阶段才被拦截,aclnn 层映射为 361001,dynamic_msd 进入 kernel 后表现为 507057。资料 quant/swi_glu_quant/docs/aclnnSwiGluQuant.md:159 写明当前支持 dynamic/static,:241 声明范围外取值返回 161002。

建议在 aclnn 首段校验 quantMode 并返回 161002;dynamic_msd 按产品规划从白名单移除,或补齐实现与资料。补 bogus、Static、dynamic_msd 三个取值的接口用例。

likedislike
chenjiayi_chenjiayi_Collaborators
9 days ago Assign chenjiayi_ as responsible person
shilulu
shiluluCollaborators
5 days ago Comments:

感谢反馈,问题确认有效。本条包含两个问题:非法 quantMode 的错误码问题(与 #7775 同根因,已被同一提交修复),以及报告独有的 dynamic_msd 半支持问题(本 PR 修复)。分四点说明:

一、复现确认

我们在 910B3 + CANN 9.2.0/9.3.0 双环境复跑报告矩阵:quantMode=bogus、Static(大小写不符)均为第一段返回 0、第二段 361001;quantMode=dynamic_msd 在 aclrtSynchronizeStream 返回 507057;dynamic/static 基线两段返回 0。与报告一致。

二、根因

非法值(bogus/Static)与 #7775 同根因:quantMode 取值校验在 tiling 中一直存在且正确触发,但旧版 Tiling4SwiGluQuant 调用 GetTillingData 后未检查返回值,校验失败被吞、tiling 仍按"成功"返回(tilingKey=0),第二段按无效tilingKey 查找 kernel 函数句柄失败,被包装为 361001(ACLNN_ERR_RUNTIME_ERROR)。361001 是吞错后的次生错误,并非 tiling 校验的正码。

dynamic_msd 为报告独有场景:该值是接口预留的枚举(资料描述其含义为动态MSD量化,且声明"当前仅支持 dynamic、static"),kernel 侧没有对应实现——tiling 白名单放行后,GetQuantMode 将其落入 static 分支(无 MSD 专属 tiling key 与kernel 路径),按 static 执行。在 dynamic 模式契约的输入下(offsets 为空指针),静态 kernel 的 InitAndSetBuffer 对 offsets 是无条件绑定并在后续 DataCopyPad 读取的,于是产生设备侧非法访问,aclrtSynchronizeStream 返回507057(设备/流错误码族)。这正是报告指出的"调用方无法区分参数非法与内部错误"——非法值被带进了 kernel 并以设备异常结束。全仓核查确认 dynamic_msd 无任何调用方与实现依赖(ST 用例仅覆盖 static/dynamic,golden 同样只分支
dynamic,同族算子零引用),属可安全移除的预留占位。

三、修复内容

  1. tiling 返回值传播修复已随内部错误码整改合入 master:修复 PR https://gitcode.com/cann/ops-nn/pull/12776(对应提交 f134ef309)补齐了 GetTillingData 返回值检查并注册结构化错误码。修复后 quantMode 非法值(bogus/大小写不符)在第一段即返回 561002(ACLNN_ERR_INNER_TILING_ERROR),不再进入第二段。
  2. dynamic_msd 白名单移除见修复 PR:https://gitcode.com/cann/ops-nn/pull/14554——tiling 白名单收紧为 static/dynamic,同步删除常量与报错文案;非法取值(含 dynamic_msd)统一在 tiling 首段拒绝返回 561002,彻底关闭"带进 kernel以 507057 结束"的未定义路径。
  3. 资料修正见同一 PR:错误码表将 quantModeOptional(及维度/groupListType/dstType)子项从 161002 拆分至 561002,数据类型子项维持 161002;quantMode 参数描述中"dynamic_msd 表示动态MSD量化。当前仅支持 dynamic、
    static"的声明保持不变(与移除白名单后的实际行为自洽)。

四、修复后实测(910B3)

接口 quantMode 修复前 修复后
V1 dynamic / static 0/0 0/0(基线不变)
V1 bogus / Static 次段 361001 第一段 561002
V1 dynamic_msd sync 507057 第一段 561002
V2 dynamic 0/0 0/0(基线不变)
V2 bogus / dynamic_msd 361001 / 设备异常 第一段 561002

报告期望的两点均已达成:非法 quantMode 在第一段报错(错误码为 561002 而非资料原写的 161002,tiling 级校验按框架约定归内部错误类,资料已同步修正);dynamic_msd 不再被带进 kernel。报告中 CANN 9.2.0 早于 f134ef309,
升级到包含该提交及本 PR 的版本后行为即如上表。

关于备注中提到的同族错误码统一策略(#7581 线索):本 PR 已按"tiling 级校验 → 561002、host 首段 dtype 校验 → 161002"的口径在 swi_glu_quant 族内对齐,同族其它算子建议按此口径统一排查。

感谢支持。

likedislike
CANN-robotCANN-robotCollaborators
4 days ago Close issue
CANN-robotCANN-robotCollaborators
4 days ago changed custom state from 进行中 to 已完成
CANN-robotCANN-robotCollaborators
4 days ago Added label: resolved
chenjiayi_chenjiayi_Collaborators
11 hours ago Removed responsible person chenjiayi_