triton-inference-server-ge-backend:基于 Triton Inference Server 的 NPU 推理后端项目

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

分支1Tags4

项目介绍

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

定制我的领域