vidur:基于LLM技术的推理系统模拟工具项目

Star0
0
代码
代码
Issues
Pull Requests
讨论
Wiki
分析
Star0
0

Accurate, large-scale, and extensible simulator for LLM inference Systems

分支18Tags0

项目介绍

Accurate, large-scale, and extensible simulator for LLM inference Systems

MIT Python25提交数inferencellmsimulationtransformervllm
定制我的领域
README
13642120访问 GitHub