可用于 Ascend A3 单机容器环境下 MemCache 的复现、性能测试及与 vLLM 集成。支持离线构建 MemFabric/MemCache 运行包,通过官方 UBS_IO 进行 SSD/NVMe 测试,提供 HBM、DDR、SSD 存储介质的 get/put 开销 benchmark,以及 vLLM 性能打点与启动集成方案。【此简介由AI生成】
可用于 Ascend A3 单机容器环境下 MemCache 的复现、性能测试及与 vLLM 集成。支持离线构建 MemFabric/MemCache 运行包,通过官方 UBS_IO 进行 SSD/NVMe 测试,提供 HBM、DDR、SSD 存储介质的 get/put 开销 benchmark,以及 vLLM 性能打点与启动集成方案。【此简介由AI生成】