Transformer-from-scratch:基于 PyTorch 的 Transformer 大语言模型训练演示项目

可帮助初学者学习如何从零开始训练大语言模型,核心功能包括基于约240行代码实现Transformer架构、使用450Kb样本数据集训练51M模型,支持单CPU训练,提供分步Jupyter Notebook解析架构逻辑。【此简介由AI生成】

分支1Tags0

项目介绍

可帮助初学者学习如何从零开始训练大语言模型,核心功能包括基于约240行代码实现Transformer架构、使用450Kb样本数据集训练51M模型,支持单CPU训练,提供分步Jupyter Notebook解析架构逻辑。【此简介由AI生成】

定制我的领域