triton-inference-server-ge-backend:基于 Triton Inference Server 框架的 NPU 生态模型服务化项目

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

Branch1Tags0

Introduction

ge-backend基于triton inference server框架实现对接NPU生态,快速实现传统CV\NLP等模型的服务化。

Customize your domain