aclmdlGetDynamicBatch

Atlas A3 训练系列产品/Atlas A3 推理系列产品

√

Atlas A2 训练系列产品/Atlas A2 推理系列产品

√

modelDesc

输入

aclmdlDesc类型的指针。

需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。

batch

输出

const int ACL_MAX_BATCH_NUM = 128;
typedef struct aclmdlBatch {
    size_t batchCount; /**模型中支持的batch分档数 */
    uint64_t batch[ACL_MAX_BATCH_NUM]; /**模型中支持的具体分档 */
} aclmdlBatch;

batchCount等于0时，表示不支持设置档位信息，以模型中的档位为准。