| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
update license Co-authored-by: y1lou<louyi6@huawei.com> # message auto-generated for no-merge-commit merge: !185 merge update_license into master update license Created-by: y1lou Commit-by: y1lou Merged-by: ascend-robot Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及，请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题，请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意： Fixes #ISSUE ID会自动关闭issue，如问题部分解决请不要使用Fixes，可以用Fix part of #ISSUE ID替代. ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR，需要<ins>**补充详细设计文档**</ins>（说明上下游组件关系、时序图、类图、DFX能力等内容）。 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及，需要在PR中体现，并简要说明修改内容。\ > 如不涉及，需填写“不涉及”。 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及，需详细说明接口以及对应的变更内容，同时需要在资料中体现。\ > 如不涉及，需填写“不涉及”。 ## **5. 测试结果** > 需体现<ins>**测试场景，测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-pyMotor!185 | 6 个月前 | |
[feature] 在 vLLM 配置解析前启动 mgmt 端点 Co-authored-by: Jechin<yuzechen1@huawei.com> # message auto-generated for no-merge-commit merge: !441 merge feature/early-mgmt-endpoint-bootstrap into master [feature] 在 vLLM 配置解析前启动 mgmt 端点 Created-by: Jechin Commit-by: Jechin Merged-by: towncharlie Description: ## **1. 合入背景** Fixes [#244](https://gitcode.com/Ascend/MindIE-PyMotor/issues/244) Fixes [#242](https://gitcode.com/Ascend/MindIE-PyMotor/issues/242) EngineServer 在 vLLM 冷启动 ConfigFactory.parse() 完成前不监听 mgmt 端口，NodeManager 在此期间探测 /status 会得到 Connection refused，可能触发连续异常心跳。本 PR 调整启动时序，使 mgmt 端口尽早可达，并在 parse 完成后绑定引擎健康检查逻辑。 ## **2. 修改内容** 1. **motor/engine_server/cli/main.py**：启动顺序改为 MgmtEndpoint(endpoint_config).run() → ConfigFactory.parse() → attach_engine(config) → 启动 InferEndpoint。 2. **motor/engine_server/core/mgmt_endpoint.py**：MgmtEndpoint 仅接收 EndpointConfig 构造；新增 attach_engine(IConfig) 延迟绑定 SimInference；/status 在 attach 前返回 initial；移除遗留 _server_core 与 bootstrap 阶段日志。 3. **motor/engine_server/core/mgmt_sim_inference_factory.py**（新增）：下沉 headless/DP rank 虚推开关与 SimInference 创建逻辑。 4. **motor/engine_server/core/health_collector.py**：构造函数改为接收 EndpointConfig，mgmt 早期阶段即可探活 infer 端口。 5. **motor/node_manager/core/heartbeat_manager.py**：update_endpoint 时重置 120s 心跳宽限期，覆盖 EngineServer 晚注册场景。 6. **单元测试**：补充 mgmt 早期 /status、attach 幂等与 main 启动顺序断言；补充 heartbeat 宽限期重置用例。 **进程视图** mermaid sequenceDiagram participant Main as EngineServer_main participant Mgmt as MgmtEndpoint participant Parse as ConfigFactory_parse participant NM as NodeManager Main->>Mgmt: __init__ + run() Note over Mgmt: mgmt 端口开始监听 NM->>Mgmt: GET /status Mgmt-->>NM: initial Main->>Parse: parse() 慢路径 Main->>Mgmt: attach_engine(config) NM->>Mgmt: GET /status Mgmt-->>NM: normal/abnormal ## **3. 资料变更** 不涉及 ## **4. 接口变更** 不涉及跨代码仓或客户面可见的接口变更。mgmt /status 在引擎 attach 前仍返回 HTTP 200 与 initial 状态，行为与早期 bootstrap 设计一致。 ## **5. 测试结果** （自行补充） ## **6. CheckList** [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!441 | 1 个月前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 6 个月前 | ||
| 1 个月前 |