mistral-finetune:基于 LoRA 的 Mistral 模型微调项目

用户可通过该项目高效微调 Mistral 系列模型,它是轻量级代码库,采用 LoRA 训练范式,仅训练少量低秩矩阵扰动权重,支持多 GPU 单节点训练,适配多种 Mistral 模型,对数据格式有明确要求。【此简介由AI生成】

分支7Tags2

项目介绍

用户可通过该项目高效微调 Mistral 系列模型,它是轻量级代码库,采用 LoRA 训练范式,仅训练少量低秩矩阵扰动权重,支持多 GPU 单节点训练,适配多种 Mistral 模型,对数据格式有明确要求。【此简介由AI生成】

定制我的领域
463.09 K319访问 GitHub