ascend-test:基于昇腾硬件的模型测试框架项目

在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;

分支6Tags2

项目介绍

在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;

定制我的领域