镜像制作

获取vLLM-Ascend发布的镜像版本

获取方法:打开RED HAT,点击需要下载的版本。 以v0.13.0版本为例,下载命令为:

docker pull quay.io/ascend/vllm-ascend:v0.13.0

说明

为提高下载速度,可将quay.io替换为quay.nju.edu.cn

在镜像中安装PyMotor

  1. 准备好目标PyMotor代码,执行以下命令,git命令根据需要下载的分支或tag进行修改。

    cd /mnt/
    git clone <PyMotor的git链接>
    
  2. 执行以下命令查看第一步下载下来的镜像。

    docker images
    
  3. 执行以下命令运行容器并挂载mnt目录。

    docker run -d --name docker-vllm-ascend -v /mnt/:/mnt/ <镜像名称>
    
  4. 执行以下命令制作镜像。

    apt-get update && apt-get install pciutils -y
    
    docker exec -it docker-vllm-ascend bash
    
    cd /mnt/MindIE-PyMotor
    
    pip install -r requirements.txt
    
    bash build.sh
    
    pip install --force-reinstall ./dist/motor-0.1.0-py3-none-any.whl
    
    mkdir -p /tmp/motor/
    
    cp -r ./examples/ /tmp/motor/
    
    exit
    
  5. 执行以下命令保存镜像。

    docker commit -m "add PyMotor"  docker-vllm-ascend  mindie-motor-vllm:dev-800I-A3-py311-lts-aarch64
    

    保存后,mindie-motor-vllm:dev-800I-A3-py311-lts-aarch64镜像就是制作好之后带PyMotor的镜像。