developer-experience:基于AI推理场景的路由方案项目

用户可用于AI推理场景下的路由管理，项目包含基础路由模块、用户配置及基于kv-aware的资源与负载感知路由策略，支撑AI推理优化，提供聚合架构与PD架构下多种路由策略配置示例。【此简介由AI生成】