bitsandbytes:基于 PyTorch 的大语言模型量化加速项目

Star1
1
代码
代码
Issues
Pull Requests
项目讨论
Wiki
分析
Star1
1

Accessible large language models via k-bit quantization for PyTorch.

分支119Tags37

项目介绍

面向PyTorch的8位CUDA函数【此简介由AI生成】

MIT Python1.21 K提交数llmmachine-learningpytorchqloraquantization
定制我的领域
README
528.43 K907访问 GitHub