pytorch:基于昇腾NPU的PyTorch框架适配插件项目

作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。

分支95Tags236
文件最后提交记录最后更新时间
25 天前
1 个月前
6 个月前
18 天前
5 天前
1 个月前
2 年前
1 个月前
16 天前
30 天前
1 年前
1 天前
1 天前
1 天前
30 天前
2 天前
30 天前
3 个月前
3 个月前
3 个月前
3 个月前
3 个月前
3 个月前
1 个月前
2 个月前
2 个月前
2 年前
10 个月前
16 天前
10 天前
2 个月前
1 个月前
1 年前
2 个月前
3 个月前
3 个月前
3 个月前
2 个月前
2 个月前
10 个月前
4 天前
2 天前

TorchNPU

简介

TorchNPU是为PyTorch框架开发的适配插件,旨在将昇腾NPU接入PyTorch生态,为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。

昇腾为基于华为昇腾处理器和软件的行业应用及服务提供全栈AI计算基础设施。您可以通过访问昇腾社区,了解关于昇腾的更多信息。

目录结构

关键目录如下:

├─ci                             # 持续集成脚本目录
├─cmake                          # CMake构建配置目录
├─torch_npu                      # 核心适配目录
│  ├─csrc/                       # 底层核心目录
│  ├─npu/                        # NPU接口目录
│  ├─distributed/                # 分布式训练适配目录
│  ├─asd/                        # Ascend Debug工具目录
├─docs                           # 项目文档目录
├─examples                       # 示例目录
├─torchnpugen/                   # 代码生成模块目录
└─test                           # 测试目录

版本说明

TorchNPU的版本说明包含版本配套说明、版本兼容性说明和更新说明等,具体请参见《版本说明》。

环境部署

TorchNPU插件的安装操作,具体请参见《软件安装》。

快速入门

以CNN模型为例,介绍将其迁移至昇腾NPU上进行训练的方法,具体操作请参见《快速入门》。

特性介绍

TorchNPU插件从内存管理、分布式、算子下发、故障诊断等方面精心打造了一系列独特的特性。为用户提供了一个高效、便捷的开发工具。

API参考

  • 原生PyTorch API在昇腾NPU设备上的支持情况请参见《原生API》。
  • TorchNPU插件提供了部分自定义API接口,具体使用请参见《自定义API》。

分支维护策略

TorchNPU版本分支的维护策略请参考TorchNPU维护周期说明

PyTorch版本维护策略

TorchNPU版本维护策略请参考分支支持矩阵

贡献指导

介绍如何向TorchNPU插件库贡献代码,具体请参见贡献指南

联系我们

欢迎大家为社区做贡献。如果有任何疑问或建议,请提交GitCode Issues,我们会尽快回复。感谢您的支持。

安全声明

TorchNPU的系统安全加固、运行用户建议和文件权限控制等内容,请参见安全声明

免责声明

致TorchNPU插件使用者

  • 本插件仅供调试和开发使用,使用者需自行承担使用风险,并理解以下内容:
    • 数据处理及删除:用户在使用本插件过程中产生的数据属于用户责任范畴。建议用户在使用完毕后及时删除相关数据,以防信息泄露。
    • 数据保密与传播:使用者了解并同意不得将通过本插件产生的数据随意外发或传播。对于由此产生的信息泄露、数据泄露或其他不良后果,本插件及其开发者概不负责。
    • 用户输入安全性:用户需自行保证输入的命令行的安全性,并承担因输入不当而导致的任何安全风险或损失。对于输入命令行不当所导致的问题,本插件及其开发者概不负责。
  • 免责声明范围:本免责声明适用于所有使用本插件的个人或实体。使用本插件即表示您同意并接受本声明的内容,并愿意承担因使用该功能而产生的风险和责任,如有异议请停止使用本插件。
  • 在使用本工具之前,请谨慎阅读并理解以上免责声明的内容。对于使用本插件所产生的任何问题或疑问,请及时联系开发者。

License

TorchNPU插件的使用许可证,具体请参见LICENSE文件。

致谢

感谢来自社区的每一个PR,欢迎贡献TorchNPU插件!

项目介绍

作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。

定制我的领域