已关闭
[Bug-Report|缺陷反馈]: 在matmul_story用例按 README 流程执行时, 报错缺少libhccl.so #153
yangyang016创建于  5月7日关闭于  5月8日
yangyang016成员
5月7日 创建

Thanks for sending an issue! Please fill in the following template to help quickly solve your problem.

一、问题描述 (必填)

matmul_story 用例按 README 流程执行时,gen_data.py 阶段因 import torch 失败,报错缺少 libhccl.so,导致用例无法运行。

典型报错日志:

ImportError: libhccl.so: cannot open shared object file: No such file or directory

RuntimeError: Failed to load the backend extension: torch_npu.
You can disable extension auto-loading with TORCH_DEVICE_BACKEND_AUTOLOAD=0.

补充说明:

  • matmul_story 相关 README 中未明确声明需安装 torch/torch_npu/HCCL 运行依赖。
  • 编译阶段可通过,问题发生在运行脚本的数据生成(Python)阶段。

二、环境信息 (可选)

  • 昇腾硬件型号:容器内未直接确认(可补充)
  • CANN版本:9.0.0ASCEND_HOME_PATH=/usr/local/cann-9.0.0
  • 操作系统:Ubuntu 24.04.3 LTS
  • 其他相关软件版本:Python 3.12.9
  • 运行依赖现状:
    • 脚本依赖 torch,触发 torch_npu 自动加载
    • 当前环境中未找到 libhccl.so/usr/local/cann-9.0.0/lib64 下不存在)

三、重现步骤 (可选)

  1. 配置环境变量:
source /usr/local/cann-9.0.0/set_env.sh
  1. 在仓库根目录配置并编译:
cmake -S . -B build_usr_local -DNPU_ARCH=dav-3510
cmake --build build_usr_local --parallel $(nproc)
cmake --install build_usr_local --prefix ./build_out
  1. 执行 matmul_story 任一 README 推荐脚本(示例):
cd Samples/2_Performance/matmul_story/matmul_tutorials
bash scripts/run.sh --skip-build --target matmul_tutorial_mxfp4_swat_balance 256 256 256
  1. gen_data.pyimport torch 时失败,报 libhccl.so 缺失。

同类问题在以下脚本也可复现:

  • Samples/2_Performance/matmul_story/matmul_tutorials/scripts/gen_data.py
  • Samples/2_Performance/matmul_story/matmul_recipes/examples/matmul_a16w16/scripts/gen_data.py
  • Samples/2_Performance/matmul_story/matmul_recipes/examples/quant_matmul_mxfp4/scripts/gen_data.py
  • Samples/2_Performance/matmul_story/matmul_recipes/examples/quant_matmul_mxfp8/scripts/gen_data.py

四、预期结果 (可选)

  • matmul_story README 明确说明运行阶段对 torch/torch_npu/HCCL 的依赖与安装要求;或
  • gen_data.py / run.sh 增加前置依赖检查与友好错误提示;或
  • 提供不依赖 torch_npu/HCCL 的数据生成兜底路径(至少用于基础样例跑通)。

💡 备注(选填)

likedislike
Yyangyang016成员
5月7日 添加了label:bug-report
Yyangyang016成员
5月7日 将 chen-shuai 设为负责人
zhangzijie成员
5月7日 评论:

这个报错应该是torch和cann toolkit安装的问题,和samples代码关联不大

likedislike
Cchen-shuai成员
5月8日 关联了pull request:关闭torch自动加载后端组件(torch_npu等组件)
chen-shuai成员
5月8日 评论:

脚本只依赖torch cpu,import torch后会自动加载torch_npu。torch_npu依赖了ops包的libhccl.so,导致只装toolkit包直接运行会报错找不到libhccl.so。关闭torch后端组件自动加载修复问题

likedislike
CANN-robotCANN-robot成员
5月8日 关闭了 issue
CANN-robotCANN-robot成员
5月8日 添加了label:resolved