本仓库是 OpenHarmony 下 Rockchip SoC NPU3（神经网络处理单元）硬件支持模块。
文件 最后提交记录 最后更新时间 update rknpu3 targets to v1.0.5a0 Change-Id: Ie8c524729cec2f8bf3bbcecc1c032399968f7674 Signed-off-by: wangxiaobin <wangxiaobin@xyw-tech.com>
3 个月前 update rknpu3 targets to v1.0.5a0 Change-Id: Ie8c524729cec2f8bf3bbcecc1c032399968f7674 Signed-off-by: wangxiaobin <wangxiaobin@xyw-tech.com>
3 个月前 Init rknn3 repo and fix rkllm binary dlopen an error path Signed-off-by: FeiX Ke <kfx@xyw-tech.com> Change-Id: I6a8cca82260123b284ab17207b787a29351e019e
4 个月前 add float16.h Change-Id: I4369654df85534ffaa34df2121a90292a0d4025b Signed-off-by: Hao Zhang <zh@xyw-tech.com>
3 个月前 Init rknn3 repo and fix rkllm binary dlopen an error path Signed-off-by: FeiX Ke <kfx@xyw-tech.com> Change-Id: I6a8cca82260123b284ab17207b787a29351e019e
4 个月前 npu3: switch part_name to soc_rockchip Move all npu3 modules (librknn3_api_rkcp, librknn3_api, libtransfer, librknnsmi, librknnsmi_static, rknn3_session_test, rknn3_transfer_proxy, etc.) from device_rockchip to soc_rockchip so they are owned by the soc_rockchip part declared in device/soc/rockchip/bundle.json. Change-Id: Ifb6b737fda8a4ce81d589314263969aadf300652
2 个月前 Add README file Signed-off-by: innov_open <innov.open@openfj.org> Change-Id: I5b83bbb3f41022114baf8209bfaafd0d21e0b4b4
1 个月前
NPU3 (Rockchip NPU3 硬件支持)
本仓库是 OpenHarmony 下 Rockchip SoC NPU3（神经网络处理单元）硬件支持模块。
目录结构
目录
说明
rknn3-api/RKNN3 API 库和工具
rknn-smi/RKNN 系统管理工具
rkllm3-server/基于 RKNPU3 的 LLM Server 实现
rk1820_firmware_20260416_155822/RK1820 固件
upgrade_tool/PCIe 升级工具
组件说明
rknn3-api
RKNN3 API 库，提供神经网络模型推理接口。
rknn-smi
RKNN SMI 命令行工具，用于查看和管理 NPU 状态。
rkllm3-server
基于 llama.cpp 实现的 LLM Server，支持：
基于 RKNPU3 的 LLM 推理
OpenAI API 兼容接口
多模态模型支持（视觉、语音）
词嵌入模型
rk1820_firmware
RK1820 更新固件。
PCIe 升级工具。
构建
本仓库使用 GN 构建系统，与 OpenHarmony 构建系统集成。
hb build
许可证
Apache License 2.0
本仓库是 OpenHarmony 下 Rockchip SoC NPU3（神经网络处理单元）硬件支持模块。
定制我的领域 举报项目