bitsandbytes:基于 CUDA 的 Python 量化与优化工具库项目

Accessible large language models via k-bit quantization for PyTorch.

分支1Tags0

项目介绍

Accessible large language models via k-bit quantization for PyTorch.

定制我的领域