bitsandbytes:基于 PyTorch 的大语言模型量化加速项目

Star1

Star1

Accessible large language models via k-bit quantization for PyTorch.

Branch113 Tags36

Introduction

面向PyTorch的8位CUDA函数【此简介由AI生成】

MIT Python 1.19 KCommitsllm machine-learning pytorch qlora quantization 深度学习

Customize your domain

528.33 K884Visit GitHub