Megatron-LM:基于 GPU 优化的分布式大语言模型训练项目

Star28

Star28

Ongoing research training transformer models at scale

Branch384 Tags74

Introduction

正在进行的研究工作专注于大规模训练变换器模型。【此简介由AI生成】

Others Python 9.23 KCommitslarge-language-models model-para transformers

Customize your domain

16717.07 K4.24 KVisit GitHub