本仓库是 OpenHarmony 下 Rockchip SoC NPU3(神经网络处理单元)硬件支持模块。
当前访问频次受限,请登录后继续访问
NPU3 (Rockchip NPU3 硬件支持)
本仓库是 OpenHarmony 下 Rockchip SoC NPU3(神经网络处理单元)硬件支持模块。
目录结构
| 目录 | 说明 |
|---|---|
rknn3-api/ |
RKNN3 API 库和工具 |
rknn-smi/ |
RKNN 系统管理工具 |
rkllm3-server/ |
基于 RKNPU3 的 LLM Server 实现 |
rk1820_firmware_20260416_155822/ |
RK1820 固件 |
upgrade_tool/ |
PCIe 升级工具 |
组件说明
rknn3-api
RKNN3 API 库,提供神经网络模型推理接口。
rknn-smi
RKNN SMI 命令行工具,用于查看和管理 NPU 状态。
rkllm3-server
基于 llama.cpp 实现的 LLM Server,支持:
- 基于 RKNPU3 的 LLM 推理
- OpenAI API 兼容接口
- 多模态模型支持(视觉、语音)
- 词嵌入模型
rk1820_firmware
RK1820 更新固件。
upgrade_tool
PCIe 升级工具。
构建
本仓库使用 GN 构建系统,与 OpenHarmony 构建系统集成。
# 依赖 OpenHarmony 构建环境
hb build
许可证
Apache License 2.0