已开启
【26.2.0众测】Inductor-MLIR 模式:文档只给归档根地址,torch_mlir 的 whl 需自行下钻 3 层,且版本号 0.0.1 无法判断与 torch 的配套关系 #4780
fpwdh创建于  12 天前
fpwdh
fpwdh
12 天前 创建

环境

项 值
硬件 Atlas 800T A2(910B3 ×1)
CANN 9.1.0
Python 3.12.13 / aarch64
PyTorch 2.9.0+cpu
TorchNPU 26.1.0(torch_npu 2.9.0.post6)

问题描述

《Inductor》文档在“Inductor 后端支持三种算子编译器”处说明:

Inductor 后端使用 MLIR 模式时需额外安装 Torch-MLIR 依赖包,可以在 Torch-MLIR 归档地址下载。
归档地址:https://repo.oepkgs.net/ascend/pytorch/vllm/torch/

按该地址进入后只能看到 Torch-MLIR/、torch-2.5.1-*.whl、torch_npu-2.5.1-*.whl,没有任何说明指向具体该下哪个文件;实际需要自己一层层下钻才能找到:

Torch-MLIR/
└── aarch64/
    ├── Python310/
    ├── Python311/
    ├── Python312/
    │   └── torch_mlir-0.0.1-cp312-cp312-linux_aarch64.whl
    └── ...

即路径是 Torch-MLIR/aarch64/Python312/torch_mlir-0.0.1-cp312-cp312-linux_aarch64.whl(3 层下钻)。

同时该 whl 的版本号是 0.0.1,从文件名/版本号无法判断它对应的 PyTorch 版本(文档只写了“需额外安装”,没有说支持哪些 torch 版本范围)。

另外 torch-mlir 并不在公共 PyPI 上:

pip index versions torch-mlir
ERROR: No matching distribution found for torch-mlir

复现步骤

  1. 只安装文档“离线安装(Whl)”表格里的 torch / torch_npu / triton-ascend,不做额外下钻;
  2. 运行 MLIR 模式:
import torch, torch_npu
torch._inductor.config.npu_backend = "mlir"
compiled = torch.compile(model, backend="inductor", options={"npu_backend": "mlir"})
compiled(x)
  1. 报错:
ImportError: torch_mlir is not installed, install it first.

期望结果

文档在 Inductor 章节(或《软件安装》里)直接给出精确的 whl 下载链接(含架构/Python 版本/文件名),并说明该 whl 支持的 PyTorch 版本范围,用户不必自己猜路径与配套关系。

建议

  1. 把下载地址写成完整链接,例如:
    https://repo.oepkgs.net/ascend/pytorch/vllm/torch/Torch-MLIR/aarch64/Python312/torch_mlir-0.0.1-cp312-cp312-linux_aarch64.whl(并同时给 x86_64 版本);
  2. 说明 torch_mlir-0.0.1 与 torch 2.7.1/2.9.0/2.10.0 的配套关系;
  3. 在 ImportError: torch_mlir is not installed 的报错里附上该下载地址提示。

说明

本次测试中因未按上述下钻路径安装该依赖,MLIR 模式未能取得正确性/性能数据;本条 issue 报告的正是“文档可操作性/配套关系不清晰”的问题(非“包不存在”)。

(本反馈来自 TorchNPU 26.1.0 众测,材料见 pytorch-ecosystem 仓 01_tasks/2026/torch_npu_public_beta/fpwdh/)

likedislike
TorchNPU-BotTorchNPU-Bot成员
12 天前 添加了label:triage-review
TorchNPU-Bot
TorchNPU-Bot成员
12 天前 评论:

issue待分派,添加triage-review标签

likedislike