安装前准备

若用户使用预先训练好的模型进行数据处理和分析,即仅进行离线推理,请跳过此章节。

若用户进行训练或者在线推理,请参考以下完成安装前准备。

[!NOTICE]

安装运行程序建议使用非root用户,且建议对安装程序的目录文件做好权限管控:文件夹权限设置为750,文件权限设置为640。可以通过设置umask控制安装后文件的权限,如设置umask为0027。更多安全相关内容请参见《安全声明》中各组件关于“文件权限控制”的说明。

  • 安装配套版本的NPU驱动固件、CANN软件(Toolkit、ops和NNAL)并配置CANN环境变量,具体请参考《CANN 软件安装》(商用版)或《CANN 软件安装》(社区版)。

    CANN软件提供进程级环境变量设置脚本,训练或推理场景下使用NPU执行业务代码前需要调用该脚本,否则业务代码将无法执行。

    source /usr/local/Ascend/cann/set_env.sh
    source /usr/local/Ascend/nnal/atb/set_env.sh
    

    以上命令以root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径进行替换。

  • 容器场景下源码安装torch_npu插件,涉及从外部网络获取社区提供基础镜像、Python第三方库以及编译使用源码,代理配置等相关网络问题请参考Docker官方文档

  • 在安装不同类型操作系统所需依赖前,请在安装用户下检查源是否可用。以配置华为镜像源为例,可参考华为开源镜像站中镜像源对应的配置方法操作。

  • Python3.11的调度(即下发)性能优于Python3.10,建议用Python3.11及以上。

  • 通过源码安装PyTorch框架和torch_npu插件时,需安装如下环境依赖。

    pip3 install pyyaml
    pip3 install wheel
    pip3 install setuptools
    

    如果使用非root用户安装,需要在命令后加--user,例如:pip3 install pyyaml --user