可将深度学习算法轻松移植到移动平台高效执行，开发人工智能APP。该项目是为手机端极致优化的前向计算框架，无第三方依赖、跨平台，手机端CPU速度快于已知开源框架，支持多网络模型与GPU加速。【此简介由AI生成】

文件	最后提交记录	最后更新时间
.github	use concurrency for cancelling previous ci jobs (#3405)	4 年前
benchmark	docs(benchmark/README.md): add benchmark result on mbp (#3373) Co-authored-by: huangan <huangan@xylink.com>	4 年前
cmake	apple a11 and a12 do not support armv8.2 dotprod, restore the fp16-only optimized path	4 年前
docs	update operators doc	4 年前
examples	Fix draw on const cv::Mat bug in p2pnet example (#3395)	4 年前
images	ncnn pixel art	7 年前
python	initial data structure changes for 3dcnn, conv3d, pooling3d (#3378) Co-authored-by: ElvisYu <elvisyuovo@gmail.com> Co-authored-by: 余浩文 <m18107220188@163.com> Co-authored-by: Zr2223 <67497651+Zr2223@users.noreply.github.com>	4 年前
src	Add execute permission setting Signed-off-by: 78224869@qq.com <zhangshouzhong@kaihongdigi.com>	4 年前
tests	crop4d (#3402)	4 年前
toolchains	add c906 v2.2.2 toolchain	4 年前
tools	crop4d (#3402)	4 年前
glslang @4afd6917	Using new version of glslang. Fixed several compile warnings: [-Wsign-compare], [-Wunused-parameter] (#2615)	5 年前
.astylerc	format code style and setup restyled.io (#1840)	5 年前
.clang-format	format code style and setup restyled.io (#1840)	5 年前
.gitattributes	Linguist GLSL (#1746) * Create .gitattributes * Update .gitattributes	6 年前
.gitignore	Fixing TypeError assertions in test_extractor.py (#2968) * Fixing TypeError assertions in pytest * Add Compiled Python files to gitignore	5 年前
.gitmodules	add python (#2514) * add python * check elempack when convert ncnn.Mat to numpy.ndarray fix build with NCNN_STRING=OFF	5 年前
.restyled.yaml	auto code-format bot and disable restyled (#3075)	4 年前
.travis.yml	remove travis ci arm32 (#3279)	4 年前
BUILD.gn	modify BUILD.gn for comment part_name and subsystem_name Signed-off-by: 78224869@qq.com <zhangshouzhong@kaihongdigi.com>	4 年前
CMakeLists.txt	fix python wheel, parallel 3 for macos tasks (#3396)	4 年前
CONTRIBUTING.md	Update CONTRIBUTING.md	5 年前
Info.plist	Ci release (#2440) * package openmp and glslang together * find glslang targets in lib64 * define version string * update moltenvk	5 年前
LICENSE.txt	add ncnn source qwq	8 年前
README.md	Remove outdated information from readme, fix #3353 (#3358)	4 年前
build-android.cmd	add android cmake ninja (#2680)	5 年前
build.sh	Support V831 (#2478)	5 年前
codeformat.sh	drawing api and stb_image (#2913) * drawing api * add drawing test * yuv420sp drawing * enable simpleocv in webassembly build	5 年前
ncnn.gni	Add GN build file of ohos Signed-off-by: 78224869@qq.com <zhangshouzhong@kaihongdigi.com>	4 年前
package.sh	fix typo	5 年前
pyproject.toml	release to pypi on windows, linux and macos (#2644) * release python * fix twine upload only push tags, fix linux bdist_wheel so path error * fix long_description_content_type * remove log print * set cibuildwheel version 1.6.3 * add pyproject.toml * set release python only on push tag * add ci build python 2.7 * remove python2.7; update readme.md	5 年前
setup.py	Add GN build file of ohos Signed-off-by: 78224869@qq.com <zhangshouzhong@kaihongdigi.com>	4 年前

自动翻译

ncnn

ncnn 是一款专为移动平台优化的高性能神经网络推理框架。从设计之初便充分考虑手机端的部署需求，无第三方依赖，跨平台性能卓越，在移动端 CPU 上的运行速度超越所有已知开源方案。开发者可基于 ncnn 轻松将深度学习算法移植至移动端高效执行，打造智能应用，让人工智能触手可及。目前 ncnn 已广泛应用于腾讯多款产品，如 QQ、QQ空间、微信、天天P图等。

技术交流QQ群：637093648(大佬云集) 入群暗号：卷卷卷卷卷

Pocky群（MLIR YES!）: 677104663(高手如林)

Telegram 群组 https://t.me/ncnnyes

Discord 频道 https://discord.gg/YRsxgmF

当前构建状态矩阵

系统	CPU (32位)	CPU (64位)	GPU (32位)	GPU (64位)
Linux (GCC)			—
Linux (Clang)			—
Linux (ARM)			—	—
Linux (MIPS)			—	—
Linux (RISC-V)	—		—	—
Windows (VS2015)			—	—
Windows (VS2017)			—
Windows (VS2019)			—
macOS	—		—
macOS (ARM)	—		—
Android
Android-x86
iOS			—
iOS 模拟器			—	—
WebAssembly		—	—	—
RISC-V GCC/Newlib			—	—

支持主流 CNN 网络架构

兼容绝大多数常用 CNN 模型

经典 CNN: VGG AlexNet GoogleNet Inception ...
实用 CNN: ResNet DenseNet SENet FPN ...
轻量 CNN: SqueezeNet MobileNetV1/V2/V3 ShuffleNetV1/V2 MNasNet ...
人脸检测: MTCNN RetinaFace scrfd ...
目标检测: VGG-SSD MobileNet-SSD SqueezeNet-SSD MobileNetV2-SSDLite MobileNetV3-SSDLite ...
目标检测: Faster-RCNN R-FCN ...
目标检测: YOLOV2 YOLOV3 MobileNet-YOLOV3 YOLOV4 YOLOV5 YOLOX ...
目标检测: NanoDet
图像分割: FCN PSPNet UNet YOLACT ...
姿态估计: SimplePose ...

使用指南

Linux/Windows/macOS/树莓派3/Android/NVIDIA Jetson/iOS/WebAssembly/全志D1/龙芯2K1000 平台编译指南

下载 Android/iOS 预编译包

AlexNet 模型使用教程含详细步骤，新手必读 😃

ncnn 组件使用指北 AlexNet 篇附带完整操作流程，入门首选 😃

使用 Netron 可视化 ncnn 模型

常见问题

运行报错排查指南

输出结果异常解决方案

Vulkan 相关问题

核心特性

支持卷积神经网络，兼容多输入与多分支结构，可选择性计算部分分支
零第三方库依赖，无需 BLAS/NNPACK 等计算框架支持
纯 C++ 实现，跨平台运行，完美支持 Android/iOS 等移动端
ARM NEON 汇编级深度优化，计算效率行业领先
精细内存管理与数据结构设计，内存占用极致压缩
支持多核并行计算，智能调度 ARM big.LITTLE 异构架构
基于新一代低开销 Vulkan API 的 GPU 加速支持
高扩展性模型设计，支持 8bit 量化和半精度浮点存储，可导入 caffe/pytorch/mxnet/onnx/darknet/keras/tensorflow(mlir) 模型
支持内存零拷贝直接引用加载模型
允许注册自定义算子实现功能扩展
没错，就是这么强悍，无惧内卷 QvQ

平台兼容矩阵

✅ = 已验证流畅运行且深度优化
✔️ = 已验证兼容但未充分优化
❔ = 理论兼容待验证
/ = 不适用

	Windows	Linux	Android	macOS	iOS
intel-cpu	✔️	✔️	❔	✔️	/
intel-gpu	✔️	✔️	❔	❔	/
amd-cpu	✔️	✔️	❔	✔️	/
amd-gpu	✔️	✔️	❔	❔	/
nvidia-gpu	✔️	✔️	❔	❔	/
qcom-cpu	❔	✔️	✅	/	/
qcom-gpu	❔	✔️	✔️	/	/
arm-cpu	❔	❔	✅	/	/
arm-gpu	❔	❔	✔️	/	/
apple-cpu	/	/	/	✔️	✅
apple-gpu	/	/	/	✔️	✔️