已合并

【API一致性任务】test: Add consistency validation cases for torch.QUInt4x2Storage.dtype on NPU (#3536) #44414

luoxiaoyan2024创建于 8月12日从luoxiaoyan2024/pytorch： api-3536-master 合入到 Ascend/pytorch： master

【API一致性任务】test: Add consistency validation cases for torch.QUInt4x2Storage.dtype on NPU (#3536) #44414

已合并

luoxiaoyan2024创建于 8月12日

从luoxiaoyan2024/pytorch api-3536-master合入到Ascend/pytorch master

luoxiaoyan2024

8月12日

欢迎加入社区，感谢您对社区的贡献 🎉!

torch.QUInt4x2Storage.dtype 一致性验证用例说明

关联 issue：https://gitcode.com/Ascend/pytorch/issues/3536
提交分支：api-3536-v2.7.1（目标 base：v2.7.1）
改动文件：test/test_quint4x2_storage_dtype.py（新增，96 行）

环境信息

验证在 Ascend 910B3 NPU 服务器的 CANN 8.5.1 容器中进行，torch_npu 分别安装于 PyTorch 2.7.1 / 2.11.0 / 2.12.0 三个版本；并按社区最新验收要求在 Ascend 950PR（CANN 9.1.0）环境补充验证（见「运行验证（Ascend 950PR）」）；终端运行截图见文末「运行验证」说明与本地交付物。

使用场景及问题

来源任务：https://gitcode.com/Ascend/pytorch/issues/3536

对应 API：torch.QUInt4x2Storage.dtype

torch.quint4x2 是 4-bit 无符号整数量化数据类型（每字节打包 2 个元素），其底层连续存储由 torch.QUInt4x2Storage 承载。API 一致性验收要求该存储类的 dtype 类属性稳定返回 torch.quint4x2，且需在 NPU 环境下验证其取值与 CPU 一致（设备无关）。官方未对该属性建立聚焦的一致性断言，因此需在 test/ 补齐自包含用例。

API 功能

torch.QUInt4x2Storage 是支撑量化数据类型 torch.quint4x2 的底层存储类（Storage）。quint4x2 表示每个元素 4 bit、每字节打包 2 个元素的无符号整数量化类型；QUInt4x2Storage 负责以字节数组形式承载这类量化张量的连续存储。

torch.QUInt4x2Storage.dtype 是该存储类的类级只读属性，返回该存储所承载的量化数据类型，取值恒为 torch.quint4x2。该属性特性：

无入参、只读：不可通过赋值修改；返回值是数据类型对象 torch.quint4x2 自身（identity 一致，is 比较为真）。
设备无关：CPU 与 NPU 环境下取值一致，不随加速器变化。
类 / 实例均可访问：既可通过类 torch.QUInt4x2Storage.dtype 访问，也可通过实例 torch.QUInt4x2Storage().dtype 访问，二者取值相同。

PyTorch 官方用例及完整性

在 PyTorch 官方 test/ 目录中检索（master / v2.7.1 / v2.11.0 / v2.12.0），QUInt4x2Storage / quint4x2 仅在量化相关用例中作为被量化张量的底层存储被间接触及，没有针对 storage.dtype 取值与量化 dtype 集合归属的聚焦一致性断言：

test/test_quantization.py / test/test_type_promotion.py ：quint4x2 仅在量化流程中被引用
test/ ：0 处独立断言 QUInt4x2Storage.dtype is torch.quint4x2

因此，社区对 QUInt4x2Storage.dtype 的「取值正确性 + 量化 dtype 归属 + 边界区分」覆盖不充分，需新增自包含一致性用例。

NPU 适配分析（含分类判定）

QUInt4x2Storage.dtype 是设备无关的类级只读属性，其取值不依赖任何 NPU kernel 或设备特定代码路径；当前 NPU 未单独注册 torch.npu.QUInt4x2Storage 类（curated NPU storage 列表仅覆盖数值 / bool / bfloat16 类存储），昇腾环境导入 torch_npu 后其行为与 CPU 完全一致。本接口无需修改 TorchNPU 实现、无需 NPU 适配 patch。

因此，本 API 归类为 1.2②：PyTorch 官方社区用例覆盖不充分，且涉及硬件相关存储类接口 → 在 test/ 目录新增一致性验证用例补齐（非修改源码 patch）。

新增用例设计（功能一致标准覆盖）

新增 test/test_quint4x2_storage_dtype.py，按 API 功能一致标准以等价类 / 边界值覆盖（无数值计算、无入参）：

取值正确性：torch.QUInt4x2Storage.dtype is torch.quint4x2；且与空存储实例 .dtype 一致。
量化 dtype 集合归属：assertIn 于 {quint8, qint8, qint32, quint4x2}。
边界区分：assertIsNot 于 quint8 / qint8，避免与相邻量化 dtype 混淆。
设备无关一致性：CPU 与 NPU 环境取值一致（torch.npu.is_available() 守卫）；若 NPU 注册 torch.npu.QUInt4x2Storage 额外校验其 .dtype 与 .size()。

两个用例 test_cpu_quint4x2_storage_dtype / test_npu_quint4x2_storage_dtype 均带 hasattr 守卫，缺失该存储类的构建会优雅跳过而非报错。

运行验证

验证环境：

操作系统：Ubuntu 22.04.5 LTS
系统架构：aarch64
昇腾硬件：Ascend 910B3，8 卡，Health 为 OK
npu-smi：24.1.0
CANN：8.5.1
Python：3.10（torch_2.7.1 / torch_2.11.0 / torch_2.12.0 验证环境）

在 NPU 环境实跑 python test/test_quint4x2_storage_dtype.py -v，三个版本（2.7.1 / 2.11.0 / 2.12.0）均 Ran 2 tests ... OK，CPU 用例与 NPU 守卫用例实际执行（非跳过）：

PyTorch	torch-npu	检查项	结果
2.7.1+cpu	2.7.1.post8	2 用例（CPU + NPU 守卫）	PASS
2.11.0+cu130	2.11.0	2 用例（CPU + NPU 守卫）	PASS
2.12.0+cu130	2.12.0	2 用例（CPU + NPU 守卫）	PASS

三个版本（2.7.1 / 2.11.0 / 2.12.0）终端输出一致，完整日志如下：

========== torch 2.7.1 (torch.QUInt4x2Storage.dtype) ==========
$ /root/miniconda3/envs/torch_2.7.1/bin/python /tmp/test_quint4x2_storage_dtype.py -v   # torch 2.7.1+cpu / torch_npu 2.7.1.post8
test_cpu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... /tmp/test_quint4x2_storage_dtype.py:51: UserWarning: TypedStorage is deprecated. It will be removed in the future and UntypedStorage will be the only storage class. This should only matter to you if you are using storages directly.  To access UntypedStorage directly, use tensor.untyped_storage() instead of tensor.storage()
  self.assertIs(torch.QUInt4x2Storage.dtype, torch.quint4x2)
ok
test_npu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... ok

----------------------------------------------------------------------
Ran 2 tests in 0.028s

OK

========== torch 2.11.0 (torch.QUInt4x2Storage.dtype) ==========
$ /root/miniconda3/envs/torch_2.11.0/bin/python /tmp/test_quint4x2_storage_dtype.py -v   # torch 2.11.0+cu130 / torch_npu 2.11.0
test_cpu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... /tmp/test_quint4x2_storage_dtype.py:51: UserWarning: TypedStorage is deprecated. It will be removed in the future and UntypedStorage will be the only storage class. This should only matter to you if you are using storages directly.  To access UntypedStorage directly, use tensor.untyped_storage() instead of tensor.storage()
  self.assertIs(torch.QUInt4x2Storage.dtype, torch.quint4x2)
ok
test_npu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... ok

----------------------------------------------------------------------
Ran 2 tests in 0.026s

OK

========== torch 2.12.0 (torch.QUInt4x2Storage.dtype) ==========
$ /root/miniconda3/envs/torch_2.12.0/bin/python /tmp/test_quint4x2_storage_dtype.py -v   # torch 2.12.0+cu130 / torch_npu 2.12.0
W0819 01:32:34.165000 32618 root/miniconda3/envs/torch_2.12.0/lib/python3.10/site-packages/torch/_native/cutedsl_utils.py:55] CuTeDSL operators require optional Python packages `nvidia-cutlass-dsl` and `apache-tvm-ffi`; missing optional dependency `nvidia_cutlass_dsl` (importlib.util.find_spec(nvidia_cutlass_dsl) failed)
test_cpu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... /tmp/test_quint4x2_storage_dtype.py:51: UserWarning: TypedStorage is deprecated. It will be removed in the future and UntypedStorage will be the only storage class. This should only matter to you if you are using storages directly.  To access UntypedStorage directly, use tensor.untyped_storage() instead of tensor.storage()
  self.assertIs(torch.QUInt4x2Storage.dtype, torch.quint4x2)
ok
test_npu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... ok

----------------------------------------------------------------------
Ran 2 tests in 0.284s

OK

运行验证（Ascend 950PR 补充验证）

按社区最新验收要求，另在 Ascend 950PR 环境实跑同一用例文件 test/test_quint4x2_storage_dtype.py 取证（该环境当前安装 torch_npu 2.12.0；.dtype 为设备无关类属性，跨版本行为一致）：

操作系统：Ubuntu 22.04.5 LTS
系统架构：x86_64
昇腾硬件：Ascend 950PR，1 卡，HBM 128G，Health 为 OK
npu-smi：25.7.rc1.6
CANN：9.1.0
Python：3.10.12
torch / torch_npu：2.12.0+cu130 / 2.12.0

实跑结果：Ran 2 tests ... OK，CPU 用例与 NPU 用例实际执行（非跳过）：

环境	torch	torch-npu	检查项	失败	错误	结果
Ascend 950PR	2.12.0+cu130	2.12.0	2 用例（CPU + NPU）	0	0	PASS

$ python3 test_quint4x2_storage_dtype.py -v   # 950PR: Ascend950PR / CANN 9.1.0, torch 2.12.0+cu130 / torch_npu 2.12.0
test_cpu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... /tmp/q4x2_950pr/test_quint4x2_storage_dtype.py:51: UserWarning: TypedStorage is deprecated. It will be removed in the future and UntypedStorage will be the only storage class. This should only matter to you if you are using storages directly.  To access UntypedStorage directly, use tensor.untyped_storage() instead of tensor.storage()
  self.assertIs(torch.QUInt4x2Storage.dtype, torch.quint4x2)
ok
test_npu_quint4x2_storage_dtype (__main__.TestQUInt4x2StorageDtype) ... ok

----------------------------------------------------------------------
Ran 2 tests in 0.003s

OK

950PR 验证结论与 910B3 三版本一致：torch.QUInt4x2Storage.dtype 在两种昇腾硬件（910B3 / 950PR）与 CANN 8.5.1 / 9.1.0 下取值均为 torch.quint4x2，设备无关性成立。

资料检查

torch.QUInt4x2Storage 为标准量化 storage 类、非私有接口、非缺失 API，依 §2 不纳入 native_apis 资料补齐；其所属量化模块在资料中已有收录。本次新增一致性用例不改变支持状态，无需提交资料 PR。

结论

检查项	结论
TorchNPU 环境可验证目标 API（`.dtype` 取值一致）	✔
接口行为在 NPU 上与 CPU 一致（设备无关）	✔
PyTorch 官方有聚焦 / 完整的 `.dtype` 一致性用例	✘
需要修改 TorchNPU API 实现	✘
需要新增 NPU 适配 patch	✘
需要在 `test/` 新增一致性验证用例	✔
需要补充正式资料	✘

欢迎加入社区，感谢您对社区的贡献 🎉!

Pull Request已成功合入, 合并人@ascend-robot

（感谢 luoxiaoyan2024 的贡献）

L luoxiaoyan2024

8月12日创建了 pull request，commit 7d82a41a

L luoxiaoyan2024

8月12日关联了issue：【社区任务】7月社区任务第四期-Ascend for PyTorch API 一致性开发（54）

atomgit-bot

8月12日评论：

变更摘要

本次变更新增了针对 torch.QUInt4x2Storage.dtype 属性的一致性验证用例，覆盖 CPU 和 NPU 两种环境。核心目的是确认 torch.QUInt4x2Storage.dtype 始终返回 torch.quint4x2，属于量化 dtype 集合，并与 torch.quint8 / torch.qint8 明确区分。NPU 测试通过 torch.npu.is_available() 守卫，并在 NPU 未来注册 torch.npu.QUInt4x2Storage 时可自动扩展校验。

主要改动

新增 TestQUInt4x2StorageDtype 测试类：继承自 TestCase，集中管理 torch.QUInt4x2Storage.dtype 的一致性校验逻辑，入口通过 run_tests() 执行。
CPU 端 test_cpu_quint4x2_storage_dtype 用例：校验 torch.QUInt4x2Storage.dtype 恒为 torch.quint4x2，属于量化 dtype 集合（torch.quint8 / torch.qint8 / torch.qint32 / torch.quint4x2），并通过 assertIsNot 确保其与 torch.quint8 和 torch.qint8 不混淆（边界值区分）。
NPU 端 test_npu_quint4x2_storage_dtype 用例：以 torch.npu.is_available() 为守卫验证 NPU 环境下的类属性一致性；若存在 torch.npu.QUInt4x2Storage，则额外校验其类属性 dtype 及空存储实例的 dtype 值和大小。
文件级文档说明：新增文件顶部包含详细的模块文档字符串，说明测试目的、NPU 存储类注册现状及未来扩展方向，为后续补充其他量化存储类（如 QUInt8Storage、QInt8Storage）的用例提供了清晰的模式参考。

不准确？

ascend-robot成员

8月12日评论：

openLiBing可接管PR, PR详情链接:
https://www.openlibing.com/apps/transitionPrDetail?owner=Ascend&repo=pytorch&number=44414&platform=gitcode&codeHostingPlatformFlag=gitcode

atomgit-bot

8月12日评论：

代码审查

✅ 未发现问题

不准确？

此处折叠了263条消息查看更多

chenrayray成员

7 天前评论：

/lgtm

li_jing_hw成员

6 天前评论：

/approve

ascend-robot成员

6 天前添加了label：approvedlgtm

ascend-robot成员

6 天前合入了pull request

AtlasAccount成员

6 天前评论：

流水线 pytorch_gitcode_PR_multiVersion-onetrack#12 [ commitID：1ecdfe93 ] 已完成

torch.QUInt4x2Storage.dtype 一致性验证用例 说明

环境信息

使用场景及问题

API 功能

PyTorch 官方用例及完整性

NPU 适配分析（含分类判定）

新增用例设计（功能一致标准覆盖）

运行验证

运行验证（Ascend 950PR 补充验证）

资料检查

结论

Pull Request已成功合入, 合并人@ascend-robot

变更摘要

代码审查

torch.QUInt4x2Storage.dtype 一致性验证用例说明