附录

参考信息

下载参考

支持下载的软件包和OS

使用MindCluster Ascend Deployer工具下载时，注意事项参见下载注意事项，<OS>的取值范围参见支持的OS及架构，<PK>取值范围请参见表2。

下载注意事项

• 由于需要下载大量软件包，MindCluster Ascend Deployer工具默认开启并行下载功能，用户可以修改ascend_deployer/downloader/config.ini文件中的parallel_download字段，决定是否开启并行下载功能，1为开启，0为关闭。默认并行下载线程数为16个，用户可通过ASCEND_DEPLOYER_DOWNLOAD_MAX_SIZE环境变量修改并行数量。
• MindCluster Ascend Deployer工具已提供源配置文件，默认使用华为源，用户可根据需要进行替换。具体可参考源配置。
• 下载OS依赖时，为了编译安装hccl-test工具，会自动下载MPI 3.2.1和Open MPI 4.1.5版本的软件包，安装时会根据已配置的待安装环境的IP类型，使用对应的依赖进行编译，IPv4格式时，安装MPI 3.2.1；IPv6格式或者Atlas A3 训练系列产品时，安装Open MPI 4.1.5。

支持的OS及架构

表 1 MindCluster Ascend Deployer工具下载时支持的OS及架构

支持下载的软件包

表 2 MindCluster Ascend Deployer工具支持下载的软件包

安装及升级参考

install参数说明

用户根据实际需要选择对应参数完成安装。

命令格式：

• 方式一：通过下载ZIP包解压使用bash install.sh [options]
• 方式二：通过pip命令安装MindCluster Ascend Deployer使用ascend-deployer [options]
• 方式三：通过下载ZIP包解压使用bash large_scale_install.sh [options]
• 方式四：通过pip命令安装MindCluster Ascend Deployer使用large-scale-deployer [options]

参数说明请参见表1。表中各参数的可选参数范围可通过执行bash install.sh --help查看。

表 1 参数说明

检查结果文件示例

使用--check_mode参数，在~/.ascend_deployer/deploy_info/路径下，将生成check_res_output.json检查报告，准确提示错误信息。结果示例如下显示：

{
  "CheckList": [
    {
      "check_item": "check_card",
      "desc_en": "Check NPU card compatibility",
      "desc_zh": "检查NPU卡兼容性",
      "tip_en": "",
      "tip_zh": ""
    },
  "check_k8s_version": {
        "check_item": "check_k8s_version",
        "desc_en": "Judgment: 1. kubelet, kubectl, and kubeadm all exist"
                   "2. kubelet --version == kubeadm version == kubectl version "
                   "3.kubelet version < 1.29 "
                   "4. kubelet version >=1.19.16.",
        "desc_zh": "判断：1、kubelet，kubectl，kubeadm都存在"
                   "2、kubelet --version == kubeadm version == kubectl version "
                   "3、kubelet version < 1.29 "
                   "4、kubelet version >=1.19.16。",
        "tip_en": "Execute the version query command to confirm whether the component has been installed, "
                  "whether the version number is the same, and whether the version is within the supported range.",
        "tip_zh": "执行版本查询命令确认组件是否已安装，版本号是否相同，版本是否在支持范围。",
        "help_url": ""
    }
  ],
  "HostCheckResList": {
    "xx.xx.xx.x1": [
      {
        "check_item": "check_card",
        "status": "failed",
        "error_msg": "Check card failed: [ASCEND] A300i-pro has no support for MTOS_22.03LTS-SP4_aarch64 on this device"
      }
    ]
  }
}

表 2 检查结果文件参数说明

支持安装及升级场景

MindCluster Ascend Deployer工具提供如下基本安装及升级场景。

安装须知

• 安装时，运行环境时间需要通过date -s命令校准到正确的UTC时间。
• MindCluster Ascend Deployer工具只能安装最基本的库，确保TensorFlow和PyTorch能够运行。若需运行较为复杂的推理业务或模型训练，模型代码中可能包含具体业务相关的库，这些库需用户自行安装。
• MindCluster Ascend Deployer工具所需依赖较多，建议在工具下载的OS依赖安装或升级完成后，对用户自行上传软件包进行安装或者升级等操作。
• 请勿重复执行--install-scene命令，否则会导致安装失败。

可选安装及升级场景

表 1 可选安装及升级场景

支持安装及升级的软件包

MindCluster Ascend Deployer工具支持指定安装如表1所示软件包，可通过执行bash install.sh --help查看--install=<package_name>支持参数。

安装须知

• 安装时，运行环境时间需要通过date -s命令校准到正确的UTC时间。

• 指定软件安装或升级时，MindCluster Ascend Deployer只支持指定安装或升级近一年内的软件版本。

• MindCluster Ascend Deployer工具只能安装最基本的库，确保TensorFlow和PyTorch能够运行。若需运行较为复杂的推理业务或模型训练，模型代码中可能包含具体业务相关的库，这些库需用户自行安装。

• gcc版本低于7.3.0，MindCluster Ascend Deployer工具会自动安装。

• MindCluster Ascend Deployer工具所需依赖较多，建议在工具下载的OS依赖安装完成后，对用户自行上传软件包进行安装或者升级等操作。

可选安装及升级的软件包

表 1 可选安装及升级软件包

PD分离部署经典配置参数

目前仅支持配置经典配置参数，根据填写的max_seq_len最大序列长度参数（对应下表中maxSeqLen参数）和D实例个数自动填充其他参数。

使用Atlas 800I A2 推理服务器时的经典配置参数

表 1 Atlas 800I A2 推理服务器关键参数说明

表 2 Atlas 800I A2 推理服务器智算节点典型配置

使用Atlas 800I A3 超节点服务器时的经典配置参数

表 3 Atlas 800I A3 超节点服务器设备关键参数说明

表 4 Atlas 800I A3 超节点服务器智算节点典型配置

证书配置（可选）

证书的参数配置文件存放于“$HOME/ascend-deployer/ascend_deployer/group_vars/master/tls_config.yaml”，文件内容示例如下。

# group_vars/tls_config.yaml
tls_config:
  tls_enable: false
  kmc_ksf_master: "./security/master/tools/pmt/master/ksfa"
  kmc_ksf_standby: "./security/standby/tools/pmt/standby/ksfb"
  infer_tls_items:
    ca_cert: "./security/infer/security/certs/ca.pem"
    tls_cert: "./security/infer/security/certs/cert.pem"
    tls_key: "./security/infer/security/keys/cert.key.pem"
    tls_passwd: "./security/infer/security/pass/key_pwd.txt"
    tls_crl: "infer"
  management_tls_items:
    ca_cert: "./security/management/security/certs/ca.pem"
    tls_cert: "./security/management/security/certs/cert.pem"
    tls_key: "./security/management/security/keys/cert.key.pem"
    tls_passwd: "./security/management/security/pass/key_pwd.txt"
    tls_crl: "management"

  # Atlas 800I A2 推理服务器的场景不需要配置 ccae_tls_enable 和 ccae_tls_items
  ccae_tls_enable: false
  ccae_tls_items:
    ca_cert: "./security/ccae/security/certs/ca.pem"
    tls_cert: "./security/ccae/security/certs/cert.pem"
    tls_key: "./security/ccae/security/keys/cert.key.pem"
    tls_passwd: "./security/ccae/security/pass/key_pwd.txt"
    tls_crl: "ccae"
  cluster_tls_enable: false
  cluster_tls_items:
    ca_cert: "./security/clusterd/security/certs/ca.pem"
    tls_cert: "./security/clusterd/security/certs/cert.pem"
    tls_key: "./security/clusterd/security/keys/cert.key.pem"
    tls_passwd: "./security/clusterd/security/pass/key_pwd.txt"
    tls_crl: "clusterd"
  etcd_server_tls_enable: false
  etcd_server_tls_items:
    ca_cert: "./security/etcd_server/security/certs/ca.pem"
    tls_cert: "./security/etcd_server/security/certs/cert.pem"
    tls_key: "./security/etcd_server/security/keys/cert.key.pem"
    tls_passwd: "./security/etcd_server/security/pass/key_pwd.txt"
    kmc_ksf_master: "./security/etcd_server/tools/pmt/master/ksfa"
    kmc_ksf_standby: "./security/etcd_server/tools/pmt/standby/ksfb"
    tls_crl: ""

其他

用户信息列表

请定期更新用户的密码，避免长期使用同一个密码带来的风险。

Dockerfile示例中openEuler基础镜像中的用户

口令复杂度要求

口令至少满足如下要求：

1. 口令长度至少8个字符。

2. 口令必须包含如下至少两种字符的组合：

   • 一个小写字母
   • 一个大写字母
   • 一个数字
   • 一个特殊字符：`~!@#$%^&*()-_=+\|[{}];:'",<.>/?和空格

3. 口令不能和账号一样。

CA证书

表 1 CA证书