BitNet:基于 C++ 的 1-bit 大语言模型推理框架项目

Star187
9
代码
代码
Issues
Pull Requests
项目讨论
Wiki
分析
Star187
9

Official inference framework for 1-bit LLMs

分支7Tags0

项目介绍

一位低精度语言模型高效推理框架，可在CPU端实现快速运行。【此简介由AI生成】

MIT Python108提交数
定制我的领域
README
34639.79 K3.66 K访问 GitHub