Pull Request has been successfully merged by CANN-robot.
(Thank you for demoauguste's contribution.)Thanks for your pull-request.
The full list of commands accepted by me can be found at here.
You can get sig-info at here.
You can self-configure the PR merge rules for this repository. For more details, please refer to Here.
For more, you also can visit HICANN.
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| quant | ✅ 陈昊文, 王子韬 (2/2) | ✅ 陈昊文 (1/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
demoauguste, thanks for your pull request. All authors of the commits have signed the CLA. 👍


compile


| 🚀 CI 流水线已启动 |
|---|
| 📋 执行详情: 点击查看流水线 |


/lgtm


您好,pr合入已准备就绪,请尽快联系committer进行检视,谢谢!
@liuyang_806 @liujie12345678 @wangzitao_leo @Chen_HaoWen @chenfeng61 @zhajianqing123 @su-yueming @yourealize @u010470851


【review】
问题分类:正确性
位置:quant/dequant_situ_quant/op_host/op_api/aclnn_dequant_situ_quant.cpp:533,代码:if (HasUnknownDim(xShape) || HasUnknownDim(yOut->GetViewShape()) || HasUnknownDim(yScaleOut->GetViewShape())) {
问题:这里发现未知维就只验输出 rank,跳过了后面与维度无关的 dtype 和量化模式组合校验。例如 INT32 x=[-1,64]、weightScale=[64]、activationScale=[1]、INT8 y=[16,32]、FLOAT yScale=[16]、quantType=static,且不传 quantScale。此前第一段会拦截静态量化缺少 quantScale,本 PR 将该前置约束限于 INT8 后,这组参数会通过 CheckParams;INT32 本身仍只支持 dynamic。BF16/FP16 路径也有同一问题。
可能导致的结果:无论未知维最终取什么值,静态模式都无法执行。调用方会在更晚的内部处理或 tiling 阶段才遇到失败,无法在第一段输入校验得到明确的参数错误。
建议的修改方法:先校验 dtype 与量化模式、以及与尺寸无关的可选输入组合,再根据未知维决定是否跳过依赖具体尺寸的检查。补一条 INT32 未知维且传 static 的负向用例。


/approve
/lgtm


Pull Request 已合并或已关闭。
If you want to solve this problem, you can click here to do it in the FAQs.


描述
本 PR 是
aclnnDequantSituQuant(quant/dequant_situ_quant)前序修复的增量:前序修复(条件必选输入判空→161001、空 Tensor 校验→161002、beta/linearBeta文档类型、quantOffsetOptional可选性)已合入主仓;本 PR 在此基础上把 tiling 侧仍会返回 561002 的入参约束上移到 aclnn 第一段,使docs/aclnnDequantSituQuant.md错误码表中 161002「各输入约束不满足」的承诺真正成立(文档错误码表本身不做任何修改)。问题背景
前序修复后实测仍存在 7 类「文档写 161002、实际返回 561002」的偏差,均因这些约束此前只在 tiling 中校验:
weightScaleOptionalshape 非法yOut末维 ≠x末维/2yScaleOutshape 非法quantOffsetOptionalquantScaleOptional(禁项)activationScaleOptional(禁项)quantOffsetOptionalshape 非法修改方案
在
quant/dequant_situ_quant/op_host/op_api/aclnn_dequant_situ_quant.cpp的第一段校验中补齐与 tiling 同口径的入参约束,命中统一返回 161002(ACLNN_ERR_PARAM_INVALID);tiling 侧原校验保留作为兜底,纯硬件资源类约束(如 UB 容量不足)仍由 tiling 返回 561002。yOut/yScaleOutrank,其余下放执行阶段weightScaleshape size ∈ {2H,1};activationScale/groupIndex必须缺省;biassize ∈ {2H,1};quantScalesize ∈ {H,1};static 下quantOffsetsize ∈ {H,1}、dynamic 下必须缺省;yOut=x.shape[:-1]+[H]、yScaleOut=x.shape[:-1]quantType必须为 dynamic;quantScale/quantOffset必须缺省;groupIndex非空 1 维;weightScale/bias为[2H]/[1]/[1,2H](有 groupIndex 时[expertNum,2H]);activationScale为(1,)或每行一个值;yOut=[rows,H]、yScaleOut=[rows]quantType必须为 dynamic;除groupIndex(非空 1 维)外所有可选输入必须缺省;yOut=[rows,H]、yScaleOut=[rows]同时调整「static 必传
quantScale」的判空仅对 INT8 生效(INT32/BFLOAT16 的 static 组合改由「必须 dynamic」规则返回 161002),避免与文档 161001-4 的语义冲突。变更文件
quant/dequant_situ_quant/op_host/op_api/aclnn_dequant_situ_quant.cppquant/dequant_situ_quant/tests/ut/op_host/test_aclnn_dequant_situ_quant.cpp基线:主仓
master d0207fac4,本 PR 为单提交ecec45523。关联的Issue
测试
环境:Atlas A2(Ascend 910B3 ×8),CANN 9.2.1,openEuler 24.03;单算子构建
bash build.sh --pkg --soc=ascend910b --ops=dequant_situ_quant --vendor_name=<tag>,使用独立 vendor 包 +ASCEND_CUSTOM_OPP_PATH解包运行,未改动共享 toolkit;执行前用npu-smi info选空闲卡并以ASCEND_RT_VISIBLE_DEVICES指定单卡。1. 文档错误码一致性(27 条用例,实机)
按
docs/aclnnDequantSituQuant.md错误码表逐条构造用例,比对「文档期望 vs 实际返回」:结果:27/27 与文档一致(本 PR 修改前其中 7 类返回 561002)。
2. issue #8380/#8381 复现用例(18 条,实机)
合法 INT8 static / INT8 dynamic / INT32 dynamic / BFLOAT16 dynamic 4 条路径仍返回 0/0;两个 issue 的空指针、空 tensor 场景返回 161001/161002,18/18 通过(无回归)。
3. op_api UT 与增量行覆盖率
新增实现文件
op_host/op_api/aclnn_dequant_situ_quant.cpp的增量行覆盖率(gcov 实测):剩余未覆盖的 2 行是第二段执行接口
aclnnDequantSituQuant():OP_API_UT框架的TestGetWorkspaceSize只调用第一段接口,第二段需要真实 device 执行,已由上述实机用例覆盖。4. 仓库自带样例精度回归
另:修改的源码与测试文件已通过仓库
.clang-format(clang-format 18.1.8)检查。文档更新
无。错误码表文案保持原样,由实现侧对齐(本 PR 只改实现与 UT);
docs/aclnnDequantSituQuant.md/_en.md在上一轮已合入的同批修复中更新完毕。类型标签
AI/Agent生成声明