已合并
fix: support quantized NPU flip dispatch #36072
fix: support quantized NPU flip dispatch #36072
已合并
hz893创建于 5月19日
hz893成员
5月19日

【合入来源】

如有社区issue,请关联issue链接
请勿携带内部流程信息(需求链接、问题单、内部issue等)

【修改方案】

  1. QuantizedPrivateUse1 的 codegen 注册中补充 aten::flip,使量化 NPU tensor 能命中 torch_npu 的 quantized helper。
  2. 新增 quantized_flip helper:per-tensor 量化场景对 int_repr() 调用普通 NPU aten::flip,复用现有 op_plugin::flip -> aclnnFlip 数据翻转路径,再用原 scale/zero_point 重建 affine quantized tensor。
  3. 对齐 CPU/CUDA 行为:sub-byte 量化 dtype 保持不支持报错;per-channel 量化保持 Setting strides is possible only on uniformly quantized tensor 报错。
  4. 新增 per-channel quantized flip 报错回归测试。

【资料变更】

不涉及。

【接口变更】

不涉及。

【功能验证】

  1. v2.7.1 环境执行 bash ci/build.sh --python=3.11,编译成功并生成 wheel。
  2. v2.7.1 环境执行 python -m pytest test_shape_ops.py -v -k test_flip_npu_float32,结果:1 passed。
  3. v2.7.1 环境执行 python -m pytest --import-mode=importlib test/test_shape_ops.py -v -k "test_flip_per_channel_quantized_error or test_flip_npu_float32",结果:2 passed。
  4. 验证普通 float NPU flip backward 与 CPU 在 dims=(0,)(1,)(0, 1)() 下 forward/grad 均一致;验证 quantized flip 的 autograd 状态和错误行为与 CPU 一致。
  5. v2.7.1、v2.9.0、v2.10.0、v2.11.0、v2.12.0、master 源分支均执行 git diff --check,无异常。

【CheckList】

PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x]

  • 代码注释完备,正确记录错误日志
  • 代码实现进行了返回值、空指针等校验
  • PR标题正确使用类型标签,如:feat、fix、refactor、docs、test等
  • PR持续集成流水线(CI)执行通过,代码检查无异常
likedislike
Pull Request已成功合入, 合并人@ascend-robot
(感谢 hz893 的贡献)
Hhz893成员
5月19日 创建了 pull request,commit 701edbb5
ascend-robot
ascend-robot成员
5月19日 评论:

Thanks for your pull-request.
The full list of commands accepted by me can be found at here
You can get sig-info at here


PR Approval Progress

Congratulations! All modules have met the lgtm and approve requirements.

Module Approval Details

module lgtm status approve status
repo-Ascend/pytorch chujinjin, hbhu_bin (2/2) chujinjin (1/1)
test chujinjin, hbhu_bin (2/2) chujinjin (1/1)

💡 Tip:

  • Committer can comment /approve or /lgtm
  • Commenting /approve implies both code review (lgtm) and intent to merge (approve)

CLA Signature Pass

hz893, thanks for your pull request. All authors of the commits have signed the CLA. 👍

likedislike
ascend-robotascend-robot成员
5月19日 添加了label:ascend-cla/yes
ascend-robot
ascend-robot成员
5月19日 评论:

当前仓库存在以下 保护分支

Protected Branch Version Release
master
v2.11.0
v2.10.0
v2.9.0
v2.7.1
v2.12.0

评论 /sync <branch1> <branch2> ... 可将当前 PR 修改同步到其它分支(创建同步 PR):
a) 如果当前 PR 是 Open 状态,同步操作将延迟到 PR 被合并时执行
b) 如果当前 PR 已经 Merged,将立即执行同步操作

注意:

  1. /sync 命令可以指定同步到多个分支,仅最后一个 /sync 命令生效
  2. 如果创建的同步 PR 不正确,可通过向同步 PR 的源分支提交轻量级 PR 完善,或使用 /close 命令关闭
likedislike
hz893成员
5月19日 评论:

compile

likedislike
AtlasAccount
AtlasAccount成员
5月19日 评论:

/torch_npu/csrc/aten/ops/QuantizedFlipKernelNpu.cpp

likedislike
ascend-robotascend-robot成员
5月19日 添加了label:ci-pipeline-running
ascend-robotascend-robot成员
5月19日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
5月19日 添加了label:ci-pipeline-failed
ascend-robotascend-robot成员
5月20日 删除了label:ci-pipeline-failed
ascend-robotascend-robot成员
5月20日 添加了label:ci-pipeline-running
ascend-robotascend-robot成员
5月20日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
5月20日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
5月20日 评论:
流水线 PR-pipeline_pytorch#23606 (重试第1次)已完成
阶段 任务名 状态 详情
编译构建 Build_X86 >>>
Build_ARM >>>
Build_LibTorch_x86 >>>
Build_LibTorch_ARM >>>
Build_X86_torchair 🛑 >>>
Build_ARM_torchair 🛑 >>>
patch_test 🛑 >>>
恶意代码检查 Antipoison >>>
编码安全与规范检查 CodeCheck >>>
check_error >>>
开源片段检查 SCA >>>
开发者测试 UT_X86_Part_01 🛑 >>>
UT_X86_Part_02 🛑 >>>
UT_ARM_A3_Part_01 🛑 >>>
UT_ARM_A3_Part_02 🛑 >>>
UT_ARM_A2_Part_01 >>>
UT_ARM_A2_Part_02 >>>
UT_ARM_A2_Part_03 >>>
UT_inductor_Part_01_pool 🛑 >>>
UT_inductor_Part_02_pool 🛑 >>>
UT_inductor_Part_03_pool 🛑 >>>
UT_inductor_Part_04_pool 🛑 >>>
UT_DIST_ARM_Part_01 🛑 >>>
UT_DIST_ARM_Part_02 🛑 >>>
UT_DIST_ARM_Part_03 🛑 >>>
UT_DIST_ARM_Part_04 🛑 >>>
流水线 PR-pipeline_pytorch >>>
likedislike
Hhz893成员
6月1日 修改了pull request 的描述
hz893成员
6月1日 评论:

compile

likedislike
ascend-robotascend-robot成员
6月1日 删除了label:ci-pipeline-passed
ascend-robotascend-robot成员
6月1日 添加了label:ci-pipeline-running
AtlasAccount
AtlasAccount成员
6月1日 评论:

/torch_npu/csrc/aten/ops/QuantizedFlipKernelNpu.cpp

likedislike
ascend-robot
ascend-robot成员
6月1日 评论:

Ascend docs pipeline is running...

likedislike
ascend-robotascend-robot成员
6月1日 添加了label:docs-ci-pipeline-running
ascend-robot
ascend-robot成员
6月1日 评论:

✅ 跳过 docs ci 检查,没有需要检查的文档文件

likedislike
ascend-robotascend-robot成员
6月1日 删除了label:docs-ci-pipeline-running
ascend-robotascend-robot成员
6月1日 添加了label:docs-ci-pipeline-success
ascend-robotascend-robot成员
6月1日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
6月1日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
6月1日 评论:
流水线 PR-pipeline_pytorch#28894 已完成
阶段 任务名 状态 详情
编译构建 Build_X86 >>>
Build_ARM >>>
Build_LibTorch_x86 >>>
Build_LibTorch_ARM >>>
Build_X86_torchair 🛑 >>>
Build_ARM_torchair 🛑 >>>
patch_test 🛑 >>>
恶意代码检查 Antipoison >>>
编码安全与规范检查 CodeCheck >>>
check_error >>>
CodeCheck_lintrunner >>>
开源片段检查 SCA >>>
开发者测试 UT_X86_Part_01 🛑 >>>
UT_X86_Part_02 🛑 >>>
UT_ARM_A3_Part_01 🛑 >>>
UT_ARM_A3_Part_02 🛑 >>>
UT_ARM_A2_Part_01 >>>
UT_ARM_A2_Part_02 >>>
UT_ARM_A2_Part_03 >>>
UT_inductor_Part_01 🛑 >>>
UT_inductor_Part_02 🛑 >>>
UT_inductor_Part_03 🛑 >>>
UT_inductor_Part_04 🛑 >>>
UT_DIST_ARM_Part_01 🛑 >>>
UT_DIST_ARM_Part_02 🛑 >>>
UT_DIST_ARM_Part_03 🛑 >>>
UT_DIST_ARM_Part_04 🛑 >>>
流水线 PR-pipeline_pytorch >>>
likedislike
hz893成员
6月4日 评论:

compile

likedislike
ascend-robotascend-robot成员
6月4日 删除了label:ci-pipeline-passed
ascend-robotascend-robot成员
6月4日 添加了label:ci-pipeline-running
AtlasAccount
AtlasAccount成员
6月4日 评论:

/torch_npu/csrc/aten/ops/QuantizedFlipKernelNpu.cpp

likedislike
ascend-robot
ascend-robot成员
6月4日 评论:

Ascend docs pipeline is running...

likedislike
ascend-robotascend-robot成员
6月4日 删除了label:docs-ci-pipeline-success
ascend-robotascend-robot成员
6月4日 添加了label:docs-ci-pipeline-running
ascend-robot
ascend-robot成员
6月4日 评论:

✅ 跳过 docs ci 检查,没有需要检查的文档文件

likedislike
ascend-robotascend-robot成员
6月4日 删除了label:docs-ci-pipeline-running
ascend-robotascend-robot成员
6月4日 添加了label:docs-ci-pipeline-success
ascend-robotascend-robot成员
6月4日 删除了label:ci-pipeline-running
ascend-robotascend-robot成员
6月4日 添加了label:ci-pipeline-passed
ascend-robot
ascend-robot成员
6月4日 评论:
流水线 PR-pipeline_pytorch#29675 [ commitID:b80df076 ] 已完成
阶段 任务名 状态 详情
编译构建 Build_X86 >>>
Build_ARM >>>
Build_LibTorch_x86 >>>
Build_LibTorch_ARM >>>
Build_X86_torchair 🛑 >>>
Build_ARM_torchair 🛑 >>>
patch_test 🛑 >>>
恶意代码检查 Antipoison >>>
编码安全与规范检查 CodeCheck >>>
check_error >>>
CodeCheck_lintrunner >>>
开源片段检查 SCA >>>
开发者测试 UT_X86_Part_01 🛑 >>>
UT_X86_Part_02 🛑 >>>
UT_ARM_A3_Part_01 🛑 >>>
UT_ARM_A3_Part_02 🛑 >>>
UT_ARM_A2_Part_01 >>>
UT_ARM_A2_Part_02 >>>
UT_ARM_A2_Part_03 >>>
UT_inductor_Part_01 🛑 >>>
UT_inductor_Part_02 🛑 >>>
UT_inductor_Part_03 🛑 >>>
UT_inductor_Part_04 🛑 >>>
UT_DIST_ARM_Part_01 🛑 >>>
UT_DIST_ARM_Part_02 🛑 >>>
UT_DIST_ARM_Part_03 🛑 >>>
UT_DIST_ARM_Part_04 🛑 >>>
流水线 PR-pipeline_pytorch >>>
likedislike
hbhu_bin成员
6月4日 评论:

/lgtm

likedislike
chujinjin成员
6月5日 评论:

/approve

likedislike
ascend-robotascend-robot成员
6月5日 添加了label:approvedlgtm
ascend-robotascend-robot成员
6月5日 合入了pull request
ascend-robot
ascend-robot成员
6月5日 评论:
流水线 pytorch_gitcode_PR_multiVersion#10033 [ commitID:b80df076 ] 已完成
likedislike