ascend-test:基于昇腾硬件的模型测试框架项目

在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;

Branch6Tags2

Introduction

在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;

Customize your domain