安装指导

本文主要向用户介绍如何快速基于MindSpore框架完成MindSpeed MM(多模态模型套件)的安装。

硬件配套和支持的操作系统

表 1 产品硬件支持列表

产品 是否支持(训练场景)
Atlas A3 训练系列产品
Atlas A3 推理系列产品 x
Atlas A2 训练系列产品
Atlas A2 推理系列产品 x
Atlas 200I/500 A2 推理产品 x
Atlas 推理系列产品 x
Atlas 训练系列产品 x

Note

本节表格中“√”代表支持,“x”代表不支持。

安装前准备

请参见《版本说明》中的“相关产品版本配套说明”章节,下载安装对应的软件版本。

安装驱动固件

下载驱动固件,请根据系统和硬件产品型号选择对应版本的社区版本或商用版本的驱动与固件。执行以下命令安装:

chmod +x Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run
chmod +x Ascend-hdk-<chip_type>-npu-firmware_<version>.run
./Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run --full --force
./Ascend-hdk-<chip_type>-npu-firmware_<version>.run --full

安装CANN

请参考《CANN 快速安装》安装CANN软件(包含Toolkit、ops和NNAL包),并配置环境变量。

# 设置环境变量
source /usr/local/Ascend/cann/set_env.sh # 修改为实际安装的Toolkit包路径
source /usr/local/Ascend/nnal/atb/set_env.sh --cxx_abi=0 # 修改为实际安装的nnal包路径

[!NOTICE]
建议使用非root用户安装运行torch_npu,且建议对安装程序的目录文件做好权限管控:文件夹权限设置为750,文件权限设置为640。可以通过设置umask控制安装后文件的权限,如设置umask为0027。 更多安全相关内容请参见《安全声明》中各组件关于“文件权限控制”的说明。

安装MindSpore

参考MindSpore官方安装指导,根据系统类型、CANN版本及Python版本获取相应的安装命令以安装MindSpore 2.9.0,安装前请确保网络畅通。

一键式适配MindSpeed MM

针对MindSpore框架,我们提供了一键转换工具MindSpeed-Core-MS,旨在帮助用户自动拉取相关代码仓并对torch代码进行一键适配,进而使用户无需再额外手动开发适配即可在MindSpore+CANN环境下一键拉起模型训练。

git clone https://gitcode.com/Ascend/MindSpeed-Core-MS.git -b master 
cd MindSpeed-Core-MS
pip install -r requirements.txt
source auto_convert.sh mm
cd MindSpeed-MM