Ascend

昇腾万里，让智能无所不及

1560 关注者

公告

🔥[AI Code Review] AI 代码检视使用指南4月21日

Ascend 社区 Gitcode 迁移通用指导2025年8月22日

README

昇腾Ascend开源软件仓库

面向开发者提供基于华为昇腾Ascend AI处理器的应用使能、训推加速、集群管理、工具链等全栈开源软件，让开发者可以便捷高效的编写在昇腾Ascend硬件设备上运行的人工智能应用程序。

项目简介
AscendNPU IR - 基于 MLIR 构建的，面向昇腾亲和算子编译时使用的中间表示
torch_npu - Ascend Extension for PyTorch，适配PyTorch框架
TorchAir - torch_npu 的图模式能力扩展库
MindIE ・MindIE SD - 视图生成推理模型套件・MindIE LLM - 大语言模型推理组件・MindIE Motor - 面向通用模型场景的推理服务化框架・MindIE Turbo - 大语言模型推理引擎加速插件库
MindSpeed ・MindSpeed Core - 大模型训练加速库・MindSpeed MM - 大规模分布式训练的多模态大模型套件・MindSpeed LLM - 大语言模型分布式训练框架・MindSpeed RL - 强化学习加速框架・MindSpeed-Core-MS - MindSpore + MindSpeed 的连接组件
MindSDK AI应用软件开发套件・Rec SDK - 大规模推荐训推加速库，提供开箱即用的模型和昇腾亲和的加速模块・Index SDK - 基于Faiss开发的昇腾NPU异构检索加速框架，提供高性能的检索・Driving SDK - 提供了适用于自动驾驶场景、VLA及世界模型的高性能的算子和模型加速接口・Agent SDK - 智能体 Agentic RL 训推框架・Vision SDK - 面向图片和视频视觉分析的SDK，提供了基本的视频、图像智能分析能力及编程框架・Multimodal SDK - 提供高性能的昇腾设备亲和性接口，加速大模型推理预处理流程・RAG SDK - 面向大语言模型的知识增强开发套件・Mind Inference Service - 提供了模型推理服务，无需复杂的依赖安装，即可快速完成部署
MindStudio ・MindStudio Training Tools(msTT) - 提供训练开发中常用的分析迁移工具、精度调试工具、性能调优等工具・MindStudio Inference Tools(msIT) - 提供推理开发中常用的模型压缩、模型调试调优等工具・MindStudio Operator Tools(msOT) - 提供算子开发中常用的异常检测、算子调试、性能调优等工具
MindCluster ・MindCluster - 为训练和推理任务提供集群级解决方案・MEF - 轻量化端边云协同框架，提供边缘节点管理、边缘推理应用生命周期管理等能力・OMSDK - 提供快速搭建智能边缘硬件管理平台，自定义构建设备运维系统，简化设备运维部署能力・MemCache - 为LLM推理、GR推理场景设计的高性能分布式KVCache存储引擎・MemFabric - 提供内存池化、高性能的全局内存直接访问的能力・ascend-deployer - 提供驱动、固件、CANN等昇腾带内软件以及OS依赖软件，自动下载及安装部署参考的功能

关于社区

参与贡献

项目展示

查看全部项目 >

AscendNPU-IR
AscendNPU-IR是基于MLIR（Multi-Level Intermediate Representation）构建的，面向昇腾亲和算子编译时使用的中间表示，提供昇腾完备表达能力，通过编译优化提升昇腾AI处理器计算效率，支持通过生态框架使能昇腾AI处理器与深度调优
C++
455
308
149
395
Apache-2.0
更新于 2 小时前
Star
Triton-distributed-ascend
Triton-distributed-ascend
Python
8
16
4
10
MIT
更新于 1 天前
Star
pytorch
Ascend Extension for PyTorch
Python
799
1.13 K
583
1.75 K
NOASSERTION
更新于 36 分钟前
Star
ci-infra
ci-infra仓库用于介绍昇腾（Ascend）社区各项目持续集成（Continuous Integration）和持续发布（Continuous Delivery）的实施过程和要求
4
5
0
2
更新于 4月23日
Star
memfabric-hybrid
内存池化基础软件, 基于超节点总线、服务器网络实现DRAM与显存混合池化，提供极简的内存访问接口和高性能的内存直接访问能力，支撑多种场景下的数据共享与传输
C++
136
80
31
15
NOASSERTION
更新于 6 小时前
Star
MindIE-PyMotor
昇腾自研推理集群管理框架
Python
33
113
75
109
NOASSERTION
更新于 34 分钟前
Star
MindCluster-AscendDeployer
昇腾软件安装部署参考设计，提供系统组件、python第三方依赖自动下载以及一键式安装的功能，并支持驱动、固件、CANN软件包以及MindCluster的安装。
Python
98
69
27
20
Apache-2.0
更新于 6 小时前
Star
MindStudio-ModelSlim
MindStudio-ModelSlim（msModelSlim）是MindStudio全流程工具链推出的模型量化压缩工具。
Python
181
150
70
63
MulanPSL-2.0
更新于 9 小时前
Star
memcache
MemCache是针对AI推理场景设计的高性能分布式KVCache缓存，针对昇腾超节点、服务器的实现了精细化性能调优，提供较好的High Availability能力, 同时对接到vllm-ascend、sglang、mindie等开源推理框架
C++
109
57
25
15
NOASSERTION
更新于 7 小时前
Star
RAGSDK
RAG SDK是昇腾面向大语言模型的知识增强开发套件，为解决大模型知识更新缓慢以及垂直领域知识回答弱的问题，面向大模型知识库提供垂域调优、生成增强、知识管理等特性，帮助用户搭建专属的高性能、准确度高的大模型问答系统
Python
70
54
23
15
NOASSERTION
更新于 6 小时前
Star