oh-llama.cpp:基于 OpenHarmony 的 RKNN 后端 llama.cpp 部署项目

可在 OpenHarmony 设备上构建和部署带 RKNN 后端的 llama.cpp,实现本地运行 LLM 模型。提供环境准备、代码构建、模型部署脚本,支持通过 hdc 工具完成部署与运行。【此简介由AI生成】

分支1Tags1

项目介绍

可在 OpenHarmony 设备上构建和部署带 RKNN 后端的 llama.cpp,实现本地运行 LLM 模型。提供环境准备、代码构建、模型部署脚本,支持通过 hdc 工具完成部署与运行。【此简介由AI生成】

定制我的领域