rknn-llm:基于 Rockchip 芯片的 AI 模型部署加速软件栈项目

用户可快速将 AI 模型部署到 Rockchip 芯片,实现本地处理且数据不外流。包含模型转换量化工具、C/C++ 部署接口,支持多系列芯片及多种主流大语言与多模态模型。【此简介由AI生成】

Branch1Tags11

Introduction

用户可快速将 AI 模型部署到 Rockchip 芯片,实现本地处理且数据不外流。包含模型转换量化工具、C/C++ 部署接口,支持多系列芯片及多种主流大语言与多模态模型。【此简介由AI生成】

Customize your domain
321.57 K209Visit GitHub