llama-swap:基于 Go 的本地 AI 模型热切换工具项目

Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

分支5Tags185

项目介绍

为llama.cpp服务器提供自动模型切换的透明代理服务器【此简介由AI生成】

定制我的领域
235.09 K385访问 GitHub