TORCH_TRANSFER_TO_NPU

功能描述

通过此环境变量可配置是否自动启用transfer_to_npu功能,将PyTorch的CUDA相关API自动替换为NPU对应API,方便用户从CUDA迁移到NPU。

  • 配置为“1”时:启用transfer_to_npu功能,自动将torch.cuda相关接口替换为torch.npu对应接口,包括设备创建、张量操作、内存管理、流管理等。
  • 配置为“0”或未配置时:不启用transfer_to_npu功能,用户需要手动使用torch.npu接口。
  • 配置为其他值时:抛出ValueError异常,提示仅支持“0”或“1”。

此环境变量默认配置为“0”。

配置示例

启用transfer_to_npu功能:

export TORCH_TRANSFER_TO_NPU=1

禁用transfer_to_npu功能:

export TORCH_TRANSFER_TO_NPU=0

使用约束

  • 此环境变量必须在导入torch之前设置,否则不生效。
  • 更多transfer_to_npu相关约束参考《PyTorch 训练模型迁移调优指南》中的“(推荐)自动迁移”章节。

支持的型号

  • Atlas 训练系列产品
  • Atlas A2 训练系列产品
  • Atlas A3 训练系列产品