esm-cpp:基于C++的ESM-2蛋白质语言模型推理引擎项目

可在通用硬件上实现ESM-2蛋白质语言模型的高效CPU推理,适用于深度突变扫描、抗体筛选等场景。核心功能包括生产级CPU推理、提前W8A8量化和变长打包批处理调度,支持多种模型规模,显著提升吞吐量。【此简介由AI生成】

分支1Tags2

项目介绍

可在通用硬件上实现ESM-2蛋白质语言模型的高效CPU推理,适用于深度突变扫描、抗体筛选等场景。核心功能包括生产级CPU推理、提前W8A8量化和变长打包批处理调度,支持多种模型规模,显著提升吞吐量。【此简介由AI生成】

定制我的领域