Fork
0
代码
介绍
代码
Issues
Pull Requests
流水线
Actions
讨论
Wiki
项目成员
分析
项目设置
Fork
0
master
hixl
/
docs
/
python
/
README.md
下载
cann-robot
新增TransferAsync/GetTransferStatus接口api资料。添加Notify特性相关API,另将产品名称统一修改成芯片名称
f82368ea
创建于
2025年12月15日
历史提交
接口参考(Python)
支持的产品形态如下:
Ascend 910B:仅支持Atlas 800I A2 推理服务器、Atlas 300I A2 推理卡、A200I A2 Box 异构组件。该场景下Server采用HCCS传输协议时,仅支持D2D。
Ascend 910C:该场景下采用HCCS传输协议时,不支持Host内存作为远端Cache。
接口列表如下:
LLMDataDist
LLMConfig
CacheManager
Cache
LLMRole
LLMClusterInfo
RegisterMemStatus
Placement
CacheDesc
MemType
MemInfo
CacheKey
CacheKeyByIdAndIndex
BlocksCacheKey
LayerSynchronizer
TransferConfig
TransferWithCacheKeyConfig
CacheTask
LLMException
LLMStatusCode
DataType
待废弃