快速入门
简介
Aura 使用脚本start_rl_with_verl_vllm.sh来启动，本章节通过介绍该脚本的使用，帮助用户熟悉本软件。
环境准备
Aura 提供两种构建运行环境的方式，用户可根据实际情况任选其一：
-
使用预构建镜像创建容器（推荐）
直接基于预构建镜像运行容器。具体操作请参见【容器环境部署】。
-
在 CANN 9.0.0 容器中使用一键拉起脚本
如果您已经在 CANN 9.0.0 的基础镜像容器内，可以执行一键拉起脚本完成 Aura 及其所有依赖（vLLM、 vllm-ascend、 MindSpeed、 Megatron-LM、 verl、 transformers 等）的安装：
cd /home/work/AgentSDK/docker/aura bash build_env.sh
说明
一键拉起脚本 build_env.sh 会修改当前 Python 环境，并克隆多个仓库到 /home/work，建议在容器中的独立虚拟环境中运行该脚本。
使用流程
Aura 提供了训练模型示例。
- 准备训练模型和数据集，具体操作请参见【准备模型权重】与【准备训练数据】。
- 配置环境变量，具体操作请参见【环境变量配置】。
- 根据实际环境修改 YAML 配置文件中的路径参数，完整示例请参见【配置文件示例】。
- 根据实际环境修改 hosts.conf 和 base.conf 配置文件，完整示例请参见【配置文件示例】。
在 A3 环境上，以模型 Qwen3-32B，基于 math 场景启动分离模式为例，设置配置文件与启动方式如下。
修改hosts.conf
# host,index,train_master_index,infer_master_index(可选)
# 如果单机训练+推理共部署, 则需要配置infer_master_index
# [单机训练+推理]
# 配置例子1：单机，训推共节点部署, 方便本地调测
# host,index,train_master_index,infer_master_index(可选)
# 192.168.0.1,0,1,1
# [多机训练+推理]
# 配置例子2：双机, 训推分离, 分节点部署
# host,index,train_master_index,infer_master_index(可选)
192.168.0.1,0,0
192.168.0.2,1,1
修改base.conf
# [train]
# 启动训练相关参数
# 工作模式：hybrid 共卡模式 | one_step_off 全异步分离模式
work_mode=one_step_off
# 共卡和分离模式均需要配置训练yaml文件
train_config_name=verl_train_async_t16_qwen3_32B_math
# 分离模式需要单独配置推理yaml文件, 共卡模式该配置不生效
infer_config_name=vllm_infer_i16_qwen3_32b
# [resume]
# 启动断点续训相关参数
# 需要监控的启动脚本：start_rl_with_msrl_vllm.sh | start_rl_with_verl_vllm.sh
monitor_cmd=start_rl_with_verl_vllm.sh
# 断点续训重试次数, 默认100次
max_retries=100
# 第一次启动是否需要清空ckpt文件夹: 0 不清理; 1 需要清理
clean_old_ckpt=0
修改环境变量配置
配置 DEFAULT_SOCKET_IFNAME
包含正确本地 IP 的虚拟网桥名称。
-
执行 ifconfig 命令，查看网络配置：
ifconfig -
假设得到打印信息（部分）为：
docker0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 inet 172.17.0.1 netmask 255.255.0.0 broadcast 172.17.255.255 enp189s0f0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500 inet 192.168.0.1 netmask 255.255.0.0 broadcast 192.168.255.255 enp189s0f1: flags=4099<UP,BROADCAST,MULTICAST> mtu 1500 inet 192.168.100.100 netmask 255.255.255.0 broadcast 192.168.100.255 -
假设本地 IP 为 192.168.0.1，那么指向本地 IP 对应虚拟网桥的值即为 enp189s0f0 ，即需要执行：
export DEFAULT_SOCKET_IFNAME=enp189s0f0
配置 ASCEND_RT_VISIBLE_DEVICES
配置可用的 NPU 的卡数。
export ASCEND_RT_VISIBLE_DEVICES=0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15
启动方式
# 进入自己的工作目录
cd /home/work/AgentSDK/aura
bash scripts/start_rl_with_verl_vllm.sh
说明
- 请确保模型权重路径， Aura 安装路径及所有文件的属主与运行用户一致。
- 请确保路径不为软链接。
- 请确保路径为本地绝对路径。
- 请确保路径权限为 750，文件为 640。
- 请确保模型文件来源可信，文件未被篡改，且已完成了训练模型转换和数据集处理。如果模型来源不可靠，可能会发生 torch.load 导致的序列化问题。
- 分离多机器模式下请将代码，权重均保存在共享盘内，保证数据可以同时被所有机器获取
后续步骤
Aura 使用样例请参考使用指南
Aura Qwen3-4B Math 场景一键拉起样例请参考使用指南
Aura Qwen3-8B Math 场景一键拉起样例请参考使用指南
Aura Qwen3-30b-A3B Math 场景一键拉起样例请参考使用指南
Aura Qwen3-32B Math 场景一键拉起样例请参考使用指南