High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle
一款易于使用且高效的深度学习模型部署工具包，适用于☁️云、📱移动设备以及📹边缘计算环境。涵盖图像、视频、文本和音频等20+主流应用场景，以及150+端到端的优化、支持多平台和多框架的SOTA模型。【此简介由AI生成】