aclopLoad

产品支持情况

  • Ascend 950PR/Ascend 950DT:不支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
  • Atlas 200I/500 A2 推理产品:支持
  • Atlas 推理系列产品:支持
  • Atlas 训练系列产品:支持
  • IPV350:不支持

功能说明

从内存中加载单算子模型数据(单算子模型数据是指“单算子编译成*.om文件后,再将om文件读取到内存中”的数据),由用户管理内存。

函数原型

aclError aclopLoad(const void *model,  size_t modelSize)

参数说明

参数名 输入/输出 说明
model 输入 单算子模型数据的内存地址指针。
modelSize 输入 内存中的模型数据长度,单位Byte。

返回值说明

返回0表示成功,返回其他值表示失败,请参见aclError。

约束说明

模型加载环境中的算子库版本需与模型编译环境的算子库版本一致,否则在加载算子时会报错。可通过${INSTALL_DIR}/opp/version.info文件中的version字段查看算子库版本。${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。

在加载前,请先根据单算子om文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。针对不同产品型号,一个进程内正在执行的算子的最大个数上限不同:

  • 对于Ascend 950PR/Ascend 950DT、Atlas A3 训练系列产品/Atlas A3 推理系列产品、Atlas A2 训练系列产品/Atlas A2 推理系列产品,最大个数为2000000。
  • 对于Atlas 200I/500 A2 推理产品、Atlas 训练系列产品,最大个数为40000000。
  • 对于Atlas 推理系列产品,Ascend EP形态下,上限是40000000;Control CPU开放形态下,上限是2000000。