npu-adapter:基于昇腾生态的大模型适配工具项目
Star
3
Fork
0
Code
Introduction
Code
Issues
Pull Requests
Pipeline
Actions
Discussion
Wiki
Members
389
Analysis
Settings
Star
3
Fork
0
本项目主要是大模型昇腾适配过程中,针对场景的torch层算子不兼容,从GPU->NPU适配显存卸载,长序列切分等等能力支持,加速整体迁移效率
main
Branch
1
Tags
0
IDE
ZIP
Clone
README
MIT
Introduction
本项目主要是大模型昇腾适配过程中,针对场景的torch层算子不兼容,从GPU->NPU适配显存卸载,长序列切分等等能力支持,加速整体迁移效率
MIT
Python
6
Commits
pytorch
Customize your domain
README
Rulesets
Report repository
Report repository