sonar:Large-scale LLM inference engine

Star0
0
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
Star0
0

Large-scale LLM inference engine

分支183Tags110

项目介绍

派伽马人工智能的大规模推理引擎【此简介由AI生成】

AGPL-3.0 C++1.99 K提交数api-restcudainference-engineinferentiaintelmachine-learningrocmspeculative-decodingtpu
定制我的领域
README
281.8 K206访问 GitHub