OpenRLHF:基于 Ray、DeepSpeed 和 HF Transformers 的高性能 RLHF 框架项目

用户可借助该项目进行大语言模型的 RLHF 全微调与优化。它是一个高性能框架,支持超700亿参数模型训练,集成 vLLM 加速样本生成,兼容 Huggingface 生态,具备分布式训练、多种对齐算法及训练稳定性优化等核心功能。【此简介由AI生成】

分支24Tags49

项目介绍

用户可借助该项目进行大语言模型的 RLHF 全微调与优化。它是一个高性能框架,支持超700亿参数模型训练,集成 vLLM 加速样本生成,兼容 Huggingface 生态,具备分布式训练、多种对齐算法及训练稳定性优化等核心功能。【此简介由AI生成】

定制我的领域