可用于高效部署具备快思考和慢思考能力的大语言模型,提升Agent工具调用能力并降低幻觉率。该项目是718B参数量的混合专家模型,采用MLA、MTP等架构及负载均衡策略,支持原始模型和量化模型部署。【此简介由AI生成】
Introduction
可用于高效部署具备快思考和慢思考能力的大语言模型,提升Agent工具调用能力并降低幻觉率。该项目是718B参数量的混合专家模型,采用MLA、MTP等架构及负载均衡策略,支持原始模型和量化模型部署。【此简介由AI生成】
Customize your domain