MemInfo

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 推理系列产品/Atlas A2 训练系列产品:支持

说明:针对Atlas A2 训练系列产品/Atlas A2 推理系列产品,仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。

函数功能

构造MemInfo,通常在CacheManager的remap_registered_memory接口中作为参数类型使用。

函数原型

__init__(mem_type: Memtype, addr: int, size: int)

参数说明

参数名称 数据类型 取值说明
mem_type Memtype 内存地址类型。
addr int 内存地址。
size int 内存地址对应大小,单位字节。

调用示例

from llm_datadist import MemInfo
mem_info = MemInfo(Memtype.MEM_TYPE_DEVICE, 1234, 10)

返回值

正常情况下返回MemInfo的实例。

传入数据类型错误情况下会抛出TypeError或ValueError异常。

约束说明