DeepSeek-V3:基于MoE架构的开源语言模型项目

Star14
2
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
Star14
2

可用于高效训练和推理大语言模型，在数学、代码等任务上性能突出。采用创新负载均衡策略和多 token 预测训练目标，预训练于14.8万亿 tokens，训练成本低且过程稳定。【此简介由AI生成】

分支1Tags1

项目介绍

可用于高效训练和推理大语言模型，在数学、代码等任务上性能突出。采用创新负载均衡策略和多 token 预测训练目标，预训练于14.8万亿 tokens，训练成本低且过程稳定。【此简介由AI生成】

MIT Python73提交数
定制我的领域
README
749103.93 K16.71 K访问 GitHub