GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。
GE（Graph Engine 图引擎）
🔥 Latest News
- [2026/03] 持续增强图优化能力，完善单元测试覆盖，修复多个边缘场景的编译问题；优化文档结构，提升开发者体验。
- [2026/02] 优化自动融合与广播场景支持，新增 BF16 数据类型支持；增强 HostCPU 引擎能力，优化 session 创建销毁锁机制；修复外置权重、线程加载等场景下的 bug；支持 Reduce 分核轴 Store 地址冲突惩罚，提升算子融合效果。
- [2026/01] GE 项目首次上线，开源图编译器和执行器，支持 PyTorch、TensorFlow 前端接入以及 ONNX、PB 模型格式解析与编译。
🚀 概述
GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。详见昇腾社区文档-图模式开发指南。
⚡️ 快速入门
若希望快速体验 GE 的工作方式及基本开发流程，可参考以下文档：
- 构建验证：介绍组件的完整构建、测试样例运行流程。
- 快速开始：以 ResNet50 模型为例，介绍如何使用 ATC 工具进行模型转换，并在昇腾 AI 处理器上执行推理。
- 快速开始-LLM：以 Qwen 模型为例，介绍如何使用 ATC 工具进行LLM模型转换，并实现LLM模型的加载、执行和获取执行结果等。
📚 文档
如需了解如何使用 GE 进行模型编译与执行，可参见图模式开发指南、技术文章等内容： GE 参考资料
如果希望深入了解 GE 的内部设计、架构机制与开发流程，可参考以下文档：
- GE 架构说明文档：介绍核心组件、执行流程、优化机制等内部原理。
- 贡献指南：说明如何提交 Issue、Pull Request 以及代码规范。
- AI Agent支持：介绍仓内默认使用的一些skills及使用agent辅助开发流程
🌐 生态集成
以下项目已集成 GE 作为推理或图模式后端：
- TorchAir：将 GE 接入 PyTorch 图模式。链接
- TFA（TensorFlow Adapter）：将 GE 作为 TensorFlow 后端。链接
- JittorInfer：基于昇腾芯片的大模型 C++ 推理框架。链接
- Triton GE Backend：GE 的 Triton Inference Server 后端。链接
说明： 上述列表为已知并对外公开的集成案例，并非完整清单。 若您正在使用 GE，欢迎通过 Issue 或 PR 补充，我们将持续更新相关信息。
📝 其他信息
📝 联系我们
项目介绍
GE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。
定制我的领域下载使用量
0
项目总下载次数（含Clone、Pull、 zip 包及 release 下载），每日凌晨更新
语言类型
C++95.75%
Python1.42%
CMake1.17%
C1.05%
Shell0.54%