| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
coordinator多进程版本合入主干 Co-authored-by: ganglv<lvgang1@huawei.com> Co-authored-by: tobking<wangjun292@huawei.com> Co-authored-by: j00813896<jiangwentao7@huawei.com> # message auto-generated for no-merge-commit merge: !251 merge br_home_base_multiprocess into master coordinator多进程版本合入主干 Created-by: tobking Commit-by: tobking;j00813896;ganglv Merged-by: ascend-robot Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. coordinator优化为多进程版本,提升高QPS场景下推理性能 [#158](https://gitcode.com/Ascend/MindIE-pyMotor-private/issues/158) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1.coordinator拆分为mgmt,scheduler,infer 三种独立进程 2.coordinator主进程为deamon进程,其负责拉起上述三种子进程 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 涉及,userconfig新增多进程相关配置项 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-pyMotor-private!251 | 4 个月前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
[feature]4/N 精度异常感知适配代码-scheduler相关 Co-authored-by: hxy<huxinyi9@huawei.com> # message auto-generated for no-merge-commit merge: !257 merge feat/precision-scheduler-integration into master [feature]4/N 精度异常感知适配代码-scheduler相关 Created-by: hu-xinyi_555 Commit-by: hxy Merged-by: towncharlie Description: ## **1. 合入背景** [feature]4/N 精度异常感知适配代码-scheduler相关 ## **2. 修改内容** 在scheduler中新增精度问题检测的适配项 ## **3. 资料变更** 不涉及 ## **4. 接口变更** 见issue ## **5. 测试结果** 已完成测试 2P1D故障时仅杀掉故障的1p1d,剩余1P仍可继续运行  故障上报至CCAE  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!257 | 21 天前 | |
删除coordinator中depoly mode冗余配置,可靠性加强 Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !272 merge br_decouple_add_0603 into master 删除coordinator中depoly mode冗余配置,可靠性加强 Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#178](https://gitcode.com/Ascend/MindIE-PyMotor/issues/178) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 删除coordinator的depoly_mode冗余配置,代码流程根据connector确认走CPCD还是CDP ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 userconfig中删除coordinator的depoly_mode ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!272 | 21 天前 | |
[bugfix]:混部kv亲和性调度配置文件适配 Co-authored-by: Jechin<yuzechen1@huawei.com> # message auto-generated for no-merge-commit merge: !266 merge fix/pd-hybrid-union-kv-affinity-config into master [bugfix]:混部kv亲和性调度配置文件适配 Created-by: Jechin Commit-by: Jechin Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. Fixes [#169](https://gitcode.com/Ascend/MindIE-PyMotor/issues/169) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1. 从混部配置文件中读取kv亲和性配置项 2. 修改kv亲和性相关写死为prefill的日志 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 新增pd混部配置kv亲和性教程 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 conductor日志:  coordinator日志:  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!266 | 22 天前 | |
feat(IPv6): A3 单栈 PD 推理 Co-authored-by: LinWei100<linwei100@huawei.com> # message auto-generated for no-merge-commit merge: !330 merge feat/a3-ipv6-pd-inference into master feat(IPv6): A3 单栈 PD 推理 Created-by: LinWei100 Commit-by: LinWei100 Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!330 | 8 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
[feature]4/N 精度异常感知适配代码-scheduler相关 Co-authored-by: hxy<huxinyi9@huawei.com> # message auto-generated for no-merge-commit merge: !257 merge feat/precision-scheduler-integration into master [feature]4/N 精度异常感知适配代码-scheduler相关 Created-by: hu-xinyi_555 Commit-by: hxy Merged-by: towncharlie Description: ## **1. 合入背景** [feature]4/N 精度异常感知适配代码-scheduler相关 ## **2. 修改内容** 在scheduler中新增精度问题检测的适配项 ## **3. 资料变更** 不涉及 ## **4. 接口变更** 见issue ## **5. 测试结果** 已完成测试 2P1D故障时仅杀掉故障的1p1d,剩余1P仍可继续运行  故障上报至CCAE  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!257 | 21 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
coordinator多进程版本合入主干 Co-authored-by: ganglv<lvgang1@huawei.com> Co-authored-by: tobking<wangjun292@huawei.com> Co-authored-by: j00813896<jiangwentao7@huawei.com> # message auto-generated for no-merge-commit merge: !251 merge br_home_base_multiprocess into master coordinator多进程版本合入主干 Created-by: tobking Commit-by: tobking;j00813896;ganglv Merged-by: ascend-robot Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. coordinator优化为多进程版本,提升高QPS场景下推理性能 [#158](https://gitcode.com/Ascend/MindIE-pyMotor-private/issues/158) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1.coordinator拆分为mgmt,scheduler,infer 三种独立进程 2.coordinator主进程为deamon进程,其负责拉起上述三种子进程 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 涉及,userconfig新增多进程相关配置项 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-pyMotor-private!251 | 4 个月前 | |
引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !304 merge sched-final-allocation-log into master 引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#183](https://gitcode.com/Ascend/MindIE-PyMotor/issues/183) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1. 删除内部错误码500,改为透传引擎侧真实错误码 2.流式请求,在与D\P真实握手后,再返回客户端状态码 3. kv亲和调度,当多请求同时到达,scheduler server在check时,根据全局负载选择加权,而不是top K. ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!304 | 8 天前 | |
删除coordinator中depoly mode冗余配置,可靠性加强 Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !272 merge br_decouple_add_0603 into master 删除coordinator中depoly mode冗余配置,可靠性加强 Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#178](https://gitcode.com/Ascend/MindIE-PyMotor/issues/178) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 删除coordinator的depoly_mode冗余配置,代码流程根据connector确认走CPCD还是CDP ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 userconfig中删除coordinator的depoly_mode ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!272 | 21 天前 | |
引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !304 merge sched-final-allocation-log into master 引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#183](https://gitcode.com/Ascend/MindIE-PyMotor/issues/183) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1. 删除内部错误码500,改为透传引擎侧真实错误码 2.流式请求,在与D\P真实握手后,再返回客户端状态码 3. kv亲和调度,当多请求同时到达,scheduler server在check时,根据全局负载选择加权,而不是top K. ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!304 | 8 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
Coordinate引擎侧差异归一化重构 Co-authored-by: wenjinhust<wenjin.sh@huawei.com> Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !242 merge dev2606/br_ma_dis_engine_decoupling/0608 into master Coordinate引擎侧差异归一化重构 Created-by: wenjinhust Commit-by: wenjinhust;tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. Fix part of [#100](https://gitcode.com/Ascend/MindIE-PyMotor/issues/100) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 - CPCD/CDP模式处理下沉到engine_server - Coordinator支持故障请求重调度 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 - 不涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 - 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 - 测试以下场景,测试结果符合预期: | 项目 | 测试场景 | 测试结果 | | --- | --- | --- | | 部署模式 | CPCD、CDP | 已覆盖 | | 推理接口 | chat接口、completions接口 | 已覆盖| | stream参数 | true、false | 已覆盖 | | 正常场景 | 简单报文、携带return_token_ids | 符合预期 | | 故障场景 | P故障、D故障、D输出若干token后故障 | 符合预期 | ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!242 | 23 天前 | |
支持P\D分离场景请求重计算 Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !37 merge br_recompute_0319 into master 支持P\D分离场景请求重计算 Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#45](https://gitcode.com/Ascend/MindIE-PyMotor/issues/45) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1. coordinator在重计算功能开启后,会缓存引擎侧返回的token id。 2. 引擎侧推理失败后触发重计算时,coordinator会将缓存的token id作为输入,重新选择实例进行推理。 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!37 | 3 个月前 | |
引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !304 merge sched-final-allocation-log into master 引擎错误码透传客户端优化 && KV亲和调度多请求并发时,scheduler看全局DP负载而非TopK Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#183](https://gitcode.com/Ascend/MindIE-PyMotor/issues/183) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 1. 删除内部错误码500,改为透传引擎侧真实错误码 2.流式请求,在与D\P真实握手后,再返回客户端状态码 3. kv亲和调度,当多请求同时到达,scheduler server在check时,根据全局负载选择加权,而不是top K. ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!304 | 8 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 | |
MOTOR与客户端断链后,支持后端引擎释放对应堆积请求 Co-authored-by: tobking<wangjun292@huawei.com> # message auto-generated for no-merge-commit merge: !194 merge br-vllm-native-cancel into master MOTOR与客户端断链后,支持后端引擎释放对应堆积请求 Created-by: tobking Commit-by: tobking Merged-by: towncharlie Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及,请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题,请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意: Fixes #ISSUE ID会自动关闭issue,如问题部分解决请不要使用Fixes,可以用Fix part of #ISSUE ID替代. [#144](https://gitcode.com/Ascend/MindIE-PyMotor/issues/144) ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>,涉及哪些组件之间进行交互,可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR,需要<ins>**补充详细设计文档**</ins>(说明上下游组件关系、时序图、类图、DFX能力等内容)。 engine server在检测到与coordinator链接断链后,清理该链接对应请求 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及,需要在PR中体现,并简要说明修改内容。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及,需详细说明接口以及对应的变更内容,同时需要在资料中体现。\ > 如不涉及,需填写“不涉及”。 不涉及 ## **5. 测试结果** > 需体现<ins>**测试场景,测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!194 | 29 天前 | |
补充Scheduler UT测试用例:shm_reader writer connection manager Co-authored-by: whuguozili<chenbo113@huawei.com> # message auto-generated for no-merge-commit merge: !237 merge feat/scheduler-test-coverage-improvement into master 补充Scheduler UT测试用例:shm_reader writer connection manager Created-by: whuguozili Commit-by: whuguozili Merged-by: towncharlie Description: ## **1. 合入背景** 提升 MindIE-PyMotor coordinator/scheduler 模块的单元测试覆盖率。当前 scheduler 模块测试覆盖率仅 35%,核心调度逻辑(策略选择、负载均衡、工作负载共享内存等)缺乏充分的测试防护,代码变更后无法快速验证正确性。 ## **2. 修改内容** 仅在 tests/coordinator/scheduler/ 下新增 8个测试文件,不修改 motor/ 下的业务代码: - 新增 conftest.py:共享测试 fixtures(MockInstanceProvider、create_mock_instance 等) - 新增 test_round_robin_policy.py:11 个测试用例,覆盖率 48% → 93% - 新增 test_load_balance_policy.py:14 个测试用例,覆盖率 21% → 85% - 新增 test_scheduler_client.py:33 个测试用例,覆盖率 35% → 54% - 新增 test_workload_shm_reader.py:11 个测试用例,覆盖率 24% → 97% - 新增 test_workload_shm_writer.py:14 个测试用例,覆盖率 25% → 96% - 新增 test_scheduler_connection_manager.py:14 个测试用例 - 新增 test_policy_factory.py:6 个测试用例,覆盖率 68% → 94% scheduler 模块综合测试覆盖率从 35% 提升至 64%,新增 121个测试用例,全量 171 passed / 0 failed / 1 skipped。 ## **3. 资料变更** 不涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** tests/coordinator/scheduler/ — 171 passed, 0 failed, 1 skipped in 5.15s Name Stmts Miss Cover motor/coordinator/scheduler/ 4 0 100% motor/coordinator/scheduler/policy/base.py 24 3 88% motor/coordinator/scheduler/policy/factory.py 31 2 94% motor/coordinator/scheduler/policy/kv_cache_affinity.py 109 13 88% motor/coordinator/scheduler/policy/load_balance.py 82 12 85% motor/coordinator/scheduler/policy/round_robin.py 58 4 93% motor/coordinator/scheduler/policy/utils.py 43 0 100% motor/coordinator/scheduler/runtime/scheduler_client.py 601 274 54% motor/coordinator/scheduler/runtime/workload_shm/reader.py 59 2 97% motor/coordinator/scheduler/runtime/workload_shm/writer.py 84 3 96% motor/coordinator/scheduler/runtime/workload_shm/layout.py 53 9 83% TOTAL 1785 649 64% ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检,自检通过或不涉及,均修改 [ ] 为 [x] - [x] 代码注释完备 - [x] 正确记录维测日志 - [x] 是否有UT用例 - [x] 若涉及多线程场景,考虑了并发场景,不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!237 | 26 天前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 4 个月前 | ||
| 26 天前 | ||
| 21 天前 | ||
| 21 天前 | ||
| 22 天前 | ||
| 8 天前 | ||
| 26 天前 | ||
| 26 天前 | ||
| 21 天前 | ||
| 26 天前 | ||
| 4 个月前 | ||
| 8 天前 | ||
| 21 天前 | ||
| 8 天前 | ||
| 26 天前 | ||
| 23 天前 | ||
| 3 个月前 | ||
| 8 天前 | ||
| 26 天前 | ||
| 29 天前 | ||
| 26 天前 |