rknn-llm:基于 Rockchip 芯片的 AI 模型部署加速软件栈项目

用户可快速将 AI 模型部署到 Rockchip 芯片，实现本地处理且数据不外流。包含模型转换量化工具、C/C++ 部署接口，支持多系列芯片及多种主流大语言与多模态模型。【此简介由AI生成】