distilling-step-by-step:通过逐步蒸馏技术,以更少数据和更小模型超越大语言模型

该项目实现了逐步蒸馏技术,能让小模型在训练数据更少的情况下超越大语言模型,支持多种数据集和模型类型,可通过多任务训练提升性能。【此简介由AI生成】

Branch1Tags0

Introduction

该项目实现了逐步蒸馏技术,能让小模型在训练数据更少的情况下超越大语言模型,支持多种数据集和模型类型,可通过多任务训练提升性能。【此简介由AI生成】

Customize your domain