dbrx:基于MoE架构的开源大型语言模型项目

DBRX是由Databricks开发的大型语言模型，它是一个开源的、高效的、可定制的模型，具有132B的总参数和36B的活跃参数，支持在Databricks平台上进行模型推理和集成。