已关闭
[Feature-Request|需求反馈]: migrate EngineServer auto Snapshot lifecycle to native #509
liu创建于 8月21日关闭于 8月21日
8月21日 关联了pull request:[Feature] migrate NodeManager snapshot lifecycle to native vLLM serve
8月21日 修改了issue 的描述
8月21日 修改标题为 “[Feature-Request|需求反馈]: migrate EngineServer Snapshot lifecycle to native”,原标题为“[Feature-Request|需求反馈]: 将 NodeManager snapshot 生命周期迁移至 native vLLM serve”
8月21日 修改标题为 “[Feature-Request|需求反馈]: migrate EngineServer Snapshot lifecycle to native”,原标题为“[Feature-Request|需求反馈]: 将 NodeManager snapshot 生命周期迁移至 native vLLM serve”
8月21日 修改了issue 的描述
8月21日 修改标题为 “[Feature-Request|需求反馈]: migrate EngineServer auto Snapshot lifecycle to native”,原标题为“[Feature-Request|需求反馈]: migrate EngineServer Snapshot lifecycle to native”
8月21日 修改标题为 “[Feature-Request|需求反馈]: migrate EngineServer auto Snapshot lifecycle to native”,原标题为“[Feature-Request|需求反馈]: migrate EngineServer Snapshot lifecycle to native”
8月21日 关闭了 issue
8月21日 添加了label:resolved
在您提交issue前,请确认以下信息:
背景信息
当前 EngineServer Snapshot 生命周期仍未完整迁移到 native
vllm serve路径:snapshot metadata / auto checkpoint 未能正确下发到引擎 CLI,health probe 未适配/snapshot/health,host-side restore 后 endpoint id 可能变化导致探针/心跳错位,suicide arbitration 也可能在 HeartbeatManager 绑定前提前启动。期望将 EngineServer Snapshot lifecycle 迁移并对齐到 native 路径。
需求来源
native engine 路径下完善 EngineServer Snapshot 能力。
价值/作用
/snapshot/health)设计方案
snapshot_metadata,并据此设置enable_auto_checkpointsnapshot_config;有 metadata 时 health probe 使用/snapshot/health(含 202→RUNNING)rebind_endpoint_idsstart_suicide_arbitration