可用于快速高效地微调Llama、Mistral、Phi等主流大模型,提升训练速度2倍并减少80%内存使用。支持多种模型与量化方式,提供友好的入门级notebook,支持导出至GGUF、Ollama等平台,核心功能采用Triton语言编写,确保精度无损。【此简介由AI生成】
Introduction
可用于快速高效地微调Llama、Mistral、Phi等主流大模型,提升训练速度2倍并减少80%内存使用。支持多种模型与量化方式,提供友好的入门级notebook,支持导出至GGUF、Ollama等平台,核心功能采用Triton语言编写,确保精度无损。【此简介由AI生成】
Customize your domain