colibri:基于 C 语言的大模型本地运行引擎项目

Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

分支2Tags0

项目介绍

在 25GB 内存的消费级机器上运行 GLM-5.2(744B MoE)——纯 C 语言编写,零依赖,专家从磁盘流式加载。引擎小巧,模型强大。🐦【此简介由AI生成】

定制我的领域
13015.79 K1.42 K访问 GitHub