您好,该问题已收到,当前问题 @wangzitao_leo 正在处理中


/unassign @wangzitao_leo


当前 master 的 quant/swi_glu_quant/op_host/swi_glu_quant_tiling_utils.h:151 白名单接受 static、dynamic、dynamic_msd,:429-434 的 GetQuantMode 将 dynamic_msd 归入静态分支;范围外取值在 tiling 阶段才被拦截,aclnn 层映射为 361001,dynamic_msd 进入 kernel 后表现为 507057。资料 quant/swi_glu_quant/docs/aclnnSwiGluQuant.md:159 写明当前支持 dynamic/static,:241 声明范围外取值返回 161002。
建议在 aclnn 首段校验 quantMode 并返回 161002;dynamic_msd 按产品规划从白名单移除,或补齐实现与资料。补 bogus、Static、dynamic_msd 三个取值的接口用例。


感谢反馈,问题确认有效。本条包含两个问题:非法 quantMode 的错误码问题(与 #7775 同根因,已被同一提交修复),以及报告独有的 dynamic_msd 半支持问题(本 PR 修复)。分四点说明:
一、复现确认
我们在 910B3 + CANN 9.2.0/9.3.0 双环境复跑报告矩阵:quantMode=bogus、Static(大小写不符)均为第一段返回 0、第二段 361001;quantMode=dynamic_msd 在 aclrtSynchronizeStream 返回 507057;dynamic/static 基线两段返回 0。与报告一致。
二、根因
非法值(bogus/Static)与 #7775 同根因:quantMode 取值校验在 tiling 中一直存在且正确触发,但旧版 Tiling4SwiGluQuant 调用 GetTillingData 后未检查返回值,校验失败被吞、tiling 仍按"成功"返回(tilingKey=0),第二段按无效tilingKey 查找 kernel 函数句柄失败,被包装为 361001(ACLNN_ERR_RUNTIME_ERROR)。361001 是吞错后的次生错误,并非 tiling 校验的正码。
dynamic_msd 为报告独有场景:该值是接口预留的枚举(资料描述其含义为动态MSD量化,且声明"当前仅支持 dynamic、static"),kernel 侧没有对应实现——tiling 白名单放行后,GetQuantMode 将其落入 static 分支(无 MSD 专属 tiling key 与kernel 路径),按 static 执行。在 dynamic 模式契约的输入下(offsets 为空指针),静态 kernel 的 InitAndSetBuffer 对 offsets 是无条件绑定并在后续 DataCopyPad 读取的,于是产生设备侧非法访问,aclrtSynchronizeStream 返回507057(设备/流错误码族)。这正是报告指出的"调用方无法区分参数非法与内部错误"——非法值被带进了 kernel 并以设备异常结束。全仓核查确认 dynamic_msd 无任何调用方与实现依赖(ST 用例仅覆盖 static/dynamic,golden 同样只分支
dynamic,同族算子零引用),属可安全移除的预留占位。
三、修复内容
- tiling 返回值传播修复已随内部错误码整改合入 master:修复 PR https://gitcode.com/cann/ops-nn/pull/12776(对应提交 f134ef309)补齐了 GetTillingData 返回值检查并注册结构化错误码。修复后 quantMode 非法值(bogus/大小写不符)在第一段即返回 561002(ACLNN_ERR_INNER_TILING_ERROR),不再进入第二段。
- dynamic_msd 白名单移除见修复 PR:https://gitcode.com/cann/ops-nn/pull/14554——tiling 白名单收紧为 static/dynamic,同步删除常量与报错文案;非法取值(含 dynamic_msd)统一在 tiling 首段拒绝返回 561002,彻底关闭"带进 kernel以 507057 结束"的未定义路径。
- 资料修正见同一 PR:错误码表将 quantModeOptional(及维度/groupListType/dstType)子项从 161002 拆分至 561002,数据类型子项维持 161002;quantMode 参数描述中"dynamic_msd 表示动态MSD量化。当前仅支持 dynamic、
static"的声明保持不变(与移除白名单后的实际行为自洽)。
四、修复后实测(910B3)
| 接口 | quantMode | 修复前 | 修复后 |
|---|---|---|---|
| V1 | dynamic / static | 0/0 | 0/0(基线不变) |
| V1 | bogus / Static | 次段 361001 | 第一段 561002 |
| V1 | dynamic_msd | sync 507057 | 第一段 561002 |
| V2 | dynamic | 0/0 | 0/0(基线不变) |
| V2 | bogus / dynamic_msd | 361001 / 设备异常 | 第一段 561002 |
报告期望的两点均已达成:非法 quantMode 在第一段报错(错误码为 561002 而非资料原写的 161002,tiling 级校验按框架约定归内部错误类,资料已同步修正);dynamic_msd 不再被带进 kernel。报告中 CANN 9.2.0 早于 f134ef309,
升级到包含该提交及本 PR 的版本后行为即如上表。
关于备注中提到的同族错误码统一策略(#7581 线索):本 PR 已按"tiling 级校验 → 561002、host 首段 dtype 校验 → 161002"的口径在 swi_glu_quant 族内对齐,同族其它算子建议按此口径统一排查。
感谢支持。


Describe the current behavior / 问题描述 (Mandatory / 必填)
aclnnSwiGluQuant的quantModeOptional传入非枚举值时,报错码与资料不符:bogusStatic(大小写不符)dynamic_msd资料依据:
docs/aclnnSwiGluQuant.mdL159「当前仅支持 dynamic 动态量化、static 静态量化」;L241「quantModeOptional 不在指定的取值范围内 → 161002」。定位(ops-nn master):
op_host/swi_glu_quant_tiling_utils.h:151的白名单同时接受static / dynamic / dynamic_msd;op_host/swi_glu_quant_tiling_utils.h:429GetQuantMode把dynamic_msd落到静态分支;Environment Information / 环境信息 (Mandatory / 必填)
Steps to reproduce the issue / 重现步骤 (Mandatory / 必填)
quantModeOptional为bogus,重跑:第一段返回 0,第二段返回 361001。quantModeOptional为dynamic_msd,重跑:aclrtSynchronizeStream返回 507057。quantModeOptional=static/dynamic:均返回 0 且输出正常。Describe the expected behavior / 预期结果 (Mandatory / 必填)
dynamic_msd若确未实现,应从白名单移除;若已实现,应更新资料并给出与 dynamic/static 的区别。dynamic_msd目前会进入 kernel 并以 507057 结束,调用方无法区分「参数非法」与「内部错误」。Related log / screenshot / 日志 / 截图 (Mandatory / 必填)
资料驱动错误码线同一结论:
NV-SwiGluQuant-161002-3 expect=161002 got=361001(det=none / det=acl 两腿一致)。Special notes for this issue/备注 (Optional / 选填)
同族
aclnnDequantSwigluQuant已有类似报错码问题(#7581:入参违约返回 561002 而非 161002),建议按族统一错误码映射策略。