在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;
Introduction
在昇腾上训练、推理的测试用例,主要用于验证镜像交付的正确性。同时基于该框架,给到用户/开发者更简便运行模型的方式。 配套有在各个推理引擎包括不限sglang/vllm等的大模型推理用例,和少部分的训练用例,覆盖模型和场景30+;
Customize your domain