memcache:基于 MemFabric 的分布式 KVCache 存储引擎项目

可用于 LLM 推理、GR 推理场景,提供高性能分布式 KVCache 存储。支持对象操作 API、多层缓存池,具备高带宽低时延、扩缩容和 HA 能力,核心组件包括 LocalService 和 MetaService。【此简介由AI生成】

分支13Tags8

项目介绍

可用于 LLM 推理、GR 推理场景,提供高性能分布式 KVCache 存储。支持对象操作 API、多层缓存池,具备高带宽低时延、扩缩容和 HA 能力,核心组件包括 LocalService 和 MetaService。【此简介由AI生成】

定制我的领域