unsloth:基于LLM生态的高效模型微调工具项目

可用于快速高效地微调Llama、Mistral、Phi等主流大模型,提升训练速度2倍并减少80%内存使用。支持多种模型与量化方式,提供友好的入门级notebook,支持导出至GGUF、Ollama等平台,核心功能采用Triton语言编写,确保精度无损。【此简介由AI生成】

Branch7Tags10

Introduction

可用于快速高效地微调Llama、Mistral、Phi等主流大模型,提升训练速度2倍并减少80%内存使用。支持多种模型与量化方式,提供友好的入门级notebook,支持导出至GGUF、Ollama等平台,核心功能采用Triton语言编写,确保精度无损。【此简介由AI生成】

Customize your domain