bitsandbytes:基于 PyTorch 的大语言模型量化加速项目

Star1
1
代码
代码
Issues
Pull Requests
项目讨论
Wiki
分析
Star1
1

Accessible large language models via k-bit quantization for PyTorch.

分支114Tags37

项目介绍

面向PyTorch的8位CUDA函数【此简介由AI生成】

MIT Python1.19 K提交数llmmachine-learningpytorchqloraquantization深度学习
定制我的领域
README
528.38 K896访问 GitHub