llama-cpp-python:基于 llama.cpp 的 Python 绑定项目

可用于在 Python 中便捷调用 llama.cpp 功能,实现文本生成、多模态处理等。提供低-level C API 访问、OpenAI 风格 API、动态 LoRA 路由、多模态模型支持及嵌入与重排序功能。【此简介由AI生成】

分支6Tags384

项目介绍

可用于在 Python 中便捷调用 llama.cpp 功能,实现文本生成、多模态处理等。提供低-level C API 访问、OpenAI 风格 API、动态 LoRA 路由、多模态模型支持及嵌入与重排序功能。【此简介由AI生成】

定制我的领域