cann-recipes-infer:基于 CANN 平台的 LLM 与多模态模型推理优化样例项目

Star0

Star0

本项目针对LLM与多模态模型推理业务中的典型模型、加速算法，提供基于CANN平台的优化样例

项目介绍

本项目针对LLM与多模态模型推理业务中的典型模型、加速算法，提供基于CANN平台的优化样例

Apache_License_v2.0 Python 394提交数

定制我的领域