aclmdlGetDynamicBatch
产品支持情况
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
- Atlas 200I/500 A2 推理产品:支持
- Atlas 推理系列产品:支持
- Atlas 训练系列产品:支持
- IPV350:不支持
功能说明
根据模型描述信息获取模型支持的动态Batch信息。
函数原型
aclError aclmdlGetDynamicBatch(const aclmdlDesc *modelDesc, aclmdlBatch *batch)
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| modelDesc | 输入 | aclmdlDesc类型的指针。 需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。 |
| batch | 输出 | batchCount等于0时,表示不支持设置档位信息,以模型中的档位为准。 |
aclmdlBatch类型的定义如下:
const int ACL_MAX_BATCH_NUM = 128;
size_t batchCount; /** 模型中支持的batch分档数 */
uint64_t batch[ACL_MAX_BATCH_NUM]; /** 模型中支持的具体分档 */
} aclmdlBatch;
返回值说明
返回0表示成功,返回其他值表示失败,请参见aclError。