gemma2:基于 PyTorch 与 NPU 的模型部署项目

可在本地部署 Gemma2 模型并实现 NPU 加速推理,支持对话功能。核心功能包括模型环境配置、NPU 加速优化及对话交互,通过简单配置即可快速启动本地对话服务。【此简介由AI生成】

分支2Tags0

项目介绍

可在本地部署 Gemma2 模型并实现 NPU 加速推理,支持对话功能。核心功能包括模型环境配置、NPU 加速优化及对话交互,通过简单配置即可快速启动本地对话服务。【此简介由AI生成】

定制我的领域