CANN Runtime

昇腾 AI 处理器轻量级运行时环境 · 端云一致 · 高性能推理
CANN Runtime 是昇腾 AI 处理器的核心运行时底座，它通过提供统一的API，使得上层应用、AI框架、加速库能够高效利用AI处理器的硬件计算资源。

---

📚 文档导航

文档	定位与内容	入口
⚡ 快速入门	零基础起步，第一次接触 Runtime 的开发者。Runtime简介 + 编程模型讲解，建议顺序阅读	Runtime 简介 · 编程模型
📖 编程指南	深度开发手册，已跑通入门阶段 Hello CANN 后需要深入理解原理的开发者。原理解析 + 示例代码	编程指南
📋 API 参考	接口字典，开发过程中随时查阅函数定义。函数签名 + 参数说明 + 返回值	头文件说明 · API 参考
🏗️ 架构指南	面向贡献者的架构文档。Runtime整体架构、模块设计、核心组件解析	架构指南

---

🗺️ 成长地图

按以下路径循序渐进，从环境准备到独立开发：

🌱 入门阶段

学习步骤	内容说明	入口
环境准备	CANN 一键安装	CANN 一键安装
概念原理	Runtime 核心概念与编程模型：Host-Device 架构、Context、Stream、同步异步、典型执行流程	Runtime 简介 · 编程模型
Hello CANN	第一个可运行的 Runtime 程序，完成最小计算闭环	Hello CANN

---

🚀 进阶阶段

主题	核心内容	对应样例
初始化	包括环境初始化、设备资源配置、日志管理等	device_normal
内存管理	包括Host内存管理、Device内存管理、多流同步内存、内存拷贝（同步/异步）、物理内存共享(pid)等	h2d_sync_memory_copy
异步任务	包括Stream管理、Event管理、Kernel加载与执行、内存语义同步等	simple_stream

---

🔥 高级阶段

主题	核心内容	对应样例
ACL Graph	包括单流捕获、跨流捕获、任务更新等	model_update
多设备编程	包括跨Device数据交互、P2P内存访问、多卡并行调度等	device_P2P
进程间通信	包括IPC Event同步、IPC内存共享（指定PID/不指定PID）等	ipc_event · ipc_memory
性能调优	包括Profiling采集并落盘、获取网络模型中算子的性能数据、可视化展示原始性能数据解析结果等	create_config

---

❓ 常见问题

问题类型	典型场景	入口
进程重启失败	进程重启失败、资源申请不到	用户进程异常退出后重启进程失败
内核版本不兼容	算子输出全为0、内核版本不兼容	低版本内核使用asan导致算子执行失败
休眠唤醒失败	休眠失败、hwts busy	AI应用进程未退出导致休眠唤醒失败
析构崩溃	应用程序运行过程中出现coredump导致了崩溃，应用程序异常终止	析构函数中调用aclFinalize导致应用进程coredump

---

相关资源
昇腾社区 · Runtime 样例仓库 · 完整文档中心

_{CANN Runtime 文档 | 华为昇腾}