triton-inference-server-ge-backend:基于 Triton Inference Server 的 NPU 推理后端项目

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

Branch1Tags4

Introduction

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

Customize your domain