vllm-mindspore:MindSpore的vLLM插件,支持基于vLLM框架部署MindSpore模型的推理服务。

MindSpore的vLLM插件,支持基于vLLM框架部署MindSpore模型的推理服务。

分支52Tags0

项目介绍

MindSpore的vLLM插件,支持基于vLLM框架部署MindSpore模型的推理服务。

定制我的领域