ao:PyTorch原生模型优化库，加速训练与推理，支持量化和稀疏化

Star0

Star0

PyTorch native quantization and sparsity for training and inference

分支3365 Tags103

项目介绍

原生PyTorch库，用于量化与稀疏化处理【此简介由AI生成】

Others Python 2.7 K提交数brrr cuda dtypes float8 inference llama mx pytorch quantization sparsity training transformer

定制我的领域

442.91 K567访问 GitHub