vllm-ascend:基于 vLLM 生态的 Ascend NPU 后端插件项目

Star50
46
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
Star50
46

Community maintained hardware plugin for vLLM on Ascend

分支15Tags39

项目介绍

社区维护的硬件插件，用于Ascend上的vLLM【此简介由AI生成】

Apache-2.0 C++4.23 K提交数ascendinferencellmllm-servingllmopsmlopsmodel-servingtransformervllmpytorch
定制我的领域
README
542.44 K1.69 K访问 GitHub