llama.cpp:基于 C/C++ 的 LLM 推理项目

Star78

Star78

LLM inference in C/C++

分支616 Tags6858

项目介绍

Facebook的LLaMA模型在C/C++语言中的移植版本【此简介由AI生成】

MIT C++10.06 K提交数ggml pytorch swift

定制我的领域

783120.65 K20.67 K访问 GitHub