master

文件	最后提交记录	最后更新时间
models	【docs】更新简介架构图&版本说明书&A5字眼描述整改 Co-authored-by: xiao-qing123<xiaoqing14@h-partners.com> # message auto-generated for no-merge-commit merge: !668 merge master into master 【docs】更新简介架构图&版本说明书&A5字眼描述整改 Created-by: xiao-qing123 Commit-by: xiao-qing123 Merged-by: towncharlie Description: Fixes [#400](https://gitcode.com/Ascend/MindIE-Motor/issues/400) 1、更新Motor简介中的架构图 2、版本说明书零星修改（格式、内容） 3、A2/A3/A5字眼排查，修改为对应的产品名 See merge request: Ascend/MindIE-Motor!668	19 天前
pd_hybrid	【feature】kv-conductor Co-authored-by: 吕有辉<lvyouhui@huawei.com> # message auto-generated for no-merge-commit merge: !568 merge feat/kv-conductor into master 【feature】kv-conductor Created-by: codeDogPro Commit-by: 吕有辉 Merged-by: towncharlie Description: ## **1. 合入背景** https://gitcode.com/Ascend/MindIE-PyMotor/issues/338 内部subCMC已经评审，该大PR同意合入 ## **2. 修改内容** 1、引入kv-conductor【rust源代码，测试代码，设计文档】 2、Coordinator conductor client适配kv-conductor 3、新增kv-conductor config 4、kvcache_affine.md重写，以kv-conductor为准 5、build.sh集成kv-conductor二进制打包进whl的能力，支持跳过kv-conductor打包，便于在无rust编译环境上构建基础组件 ## **3. 资料变更** 涉及 ## **4. 接口变更** 涉及 ## **5. 测试结果** whl包版kv-conductor拉起成功，请求命中匹配成功 Looking in indexes: https://repo.huaweicloud.com/repository/pypi/simple, https://mirrors.huaweicloud.com/ascend/repos/pypi Processing ./dist/motor-0.1.0-py3-none-any.whl Installing collected packages: motor Attempting uninstall: motor Found existing installation: motor 0.1.0 Uninstalling motor-0.1.0: Successfully uninstalled motor-0.1.0 Successfully installed motor-0.1.0 WARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv [notice] A new release of pip is available: 24.0 -> 26.1.2 [notice] To update, run: pip install --upgrade pip Current node role: ROLE=kv_conductor Starting KV Conductor on 0.0.0.0:13333 2026-07-21T17:12:09.17062356+08:00 INFO scoring config hbm_weight=3 cpu_weight=2 disk_weight=1 2026-07-21T17:12:09.17093877+08:00 INFO KV conductor starting on 0.0.0.0:13333 2026-07-21T17:12:10.44555639+08:00 TRACE connection 192.168.196.1:50480 accepted 2026-07-21T17:12:10.44581192+08:00 TRACE connection 192.168.196.1:50480 closed 2026-07-21T18:18:48.26729199+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: started processing request 2026-07-21T18:18:48.26737949+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: query request model=Qwen3-30B-A3B-W8A8 tenant=default num_tokens=1503 2026-07-21T18:18:48.26740762+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: find_matches seq_len=12 depth=11 active_workers=2 elapsed_us=13 2026-07-21T18:18:48.26741747+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: hash_computed num_tokens=1503 block_size=128 num_hashes=12 hash_us=2 scores=2 2026-07-21T18:18:48.26743069+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: query profile num_tokens=1503 block_size=128 hash_us=37 total_us=43 2026-07-21T18:18:48.26745731+08:00 DEBUG request{method=POST uri=/query version=HTTP/1.1}: finished processing request latency=0 ms status=200 Qwen3-30B-A3B，Prefill DP2，Decode DP2测试如下： 发送8个请求，gsm8 未开启亲和性调度： ╒══════════════════════════╤═════════╤═════════════════╤════════════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════╕ │ Performance Parameters │ Stage │ Average │ Min │ Max │ Median │ P75 │ P90 │ P99 │ N │ ╞══════════════════════════╪═════════╪═════════════════╪════════════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════╡ │ E2EL │ total │ 7389.6 ms │ 4197.7 ms │ 8487.4 ms │ 8063.4 ms │ 8298.8 ms │ 8377.5 ms │ 8476.4 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ TTFT │ total │ 311.4 ms │ 226.1 ms │ 484.5 ms │ 284.1 ms │ 373.7 ms │ 409.9 ms │ 477.0 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ TPOT │ total │ 15.7 ms │ 15.3 ms │ 15.9 ms │ 15.8 ms │ 15.9 ms │ 15.9 ms │ 15.9 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ ITL │ total │ 15.6 ms │ 0.0 ms │ 48.4 ms │ 15.6 ms │ 15.8 ms │ 16.0 ms │ 20.1 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ InputTokens │ total │ 1491.5 │ 1460.0 │ 1545.0 │ 1490.5 │ 1499.25 │ 1515.6 │ 1542.06 │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ OutputTokens │ total │ 452.125 │ 242.0 │ 512.0 │ 509.0 │ 512.0 │ 512.0 │ 512.0 │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ OutputTokenThroughput │ total │ 60.9652 token/s │ 57.651 token/s │ 63.2079 token/s │ 61.2631 token/s │ 62.0915 token/s │ 63.0926 token/s │ 63.1963 token/s │ 8 │ ╘══════════════════════════╧═════════╧═════════════════╧════════════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════╛ 开启亲和性： ╒══════════════════════════╤═════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════════════════╤═════╕ │ Performance Parameters │ Stage │ Average │ Min │ Max │ Median │ P75 │ P90 │ P99 │ N │ ╞══════════════════════════╪═════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════════════════╪═════╡ │ E2EL │ total │ 7240.3 ms │ 4261.9 ms │ 8632.0 ms │ 7745.1 ms │ 8326.5 ms │ 8438.4 ms │ 8612.6 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ TTFT │ total │ 320.5 ms │ 241.6 ms │ 519.1 ms │ 260.4 ms │ 393.4 ms │ 432.8 ms │ 510.5 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ TPOT │ total │ 15.8 ms │ 15.4 ms │ 15.9 ms │ 15.9 ms │ 15.9 ms │ 15.9 ms │ 15.9 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ ITL │ total │ 15.7 ms │ 0.0 ms │ 45.1 ms │ 15.6 ms │ 15.9 ms │ 16.1 ms │ 23.1 ms │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ InputTokens │ total │ 1491.5 │ 1460.0 │ 1545.0 │ 1490.5 │ 1499.25 │ 1515.6 │ 1542.06 │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ OutputTokens │ total │ 439.125 │ 254.0 │ 512.0 │ 481.5 │ 512.0 │ 512.0 │ 512.0 │ 8 │ ├──────────────────────────┼─────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────────────────┼─────┤ │ OutputTokenThroughput │ total │ 60.5041 token/s │ 58.5203 token/s │ 62.9559 token/s │ 60.4373 token/s │ 61.3642 token/s │ 61.9798 token/s │ 62.8583 token/s │ 8 │ ╘══════════════════════════╧═════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════════════════╧═════╛ ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!568	1 个月前
single_container	[feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Co-authored-by: Jechin<yuzechen1@huawei.com> # message auto-generated for no-merge-commit merge: !769 merge bugfix/layerwise2v1 into master [feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Created-by: Jechin Commit-by: Jechin Merged-by: tobking Description: ## **1. 合入背景** Fixes [#502](https://gitcode.com/Ascend/MindIE-Motor/issues/502) 产品侧确定 MooncakeConnectorV1 为 PD KV 传输主推方案，需将官方示例与用户文档中的默认 Connector 从 MooncakeLayerwiseConnector 统一切换为 V1，避免新用户按示例部署时仍使用 Layerwise。 ## **2. 修改内容** 1. **示例配置**（examples/infer_engines/vllm/） - user_config.json、user_config_pd_hetero.json、single_container/user_config.json 中 Prefill/Decode 的 kv_connector 改为 MooncakeConnectorV1 2. **用户指南文档** - docs/zh/user_guide/configuration/config_reference.md：PD 混部与 PD 分离配置示例同步更新 - docs/zh/user_guide/quick_start_motor.md：快速入门 PD 配置示例同步更新 - docs/zh/user_guide/features/EPD_disaggregation.md：EPD 分离配置示例同步更新 - docs/zh/user_guide/features/tracing.md：Tracing 场景配置示例同步更新 ## **3. 资料变更** 涉及，均为上述文档与示例 JSON 中 kv_connector 默认值变更。 ## **4. 接口变更** 不涉及跨代码仓或客户面 API 变更；仅示例与文档中的配置项默认值调整。 ## **5. 测试结果** （自行补充） ## **6. CheckList** [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!769	5 天前
ucm_pd	【Docs】补充 A5 节点标签说明与常用模型 A5 配置示例 Co-authored-by: 高鹏<gaopeng140@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge a5-node-label-docs into master 【Docs】补充 A5 节点标签说明与常用模型 A5 配置示例 Created-by: weixin_63825906 Commit-by: 高鹏 Merged-by: towncharlie Description: ## **1. 合入背景** > 当前环境准备文档与 models 配置示例仅覆盖 A2/A3，缺少 A5（Atlas 850）相关说明，现场部署时无法直接参考。 Fix part of [#363](https://gitcode.com/Ascend/MindIE-Motor/issues/363) ## **2. 修改内容** 1. 在 docs/zh/user_guide/environment_preparation.md「设置节点标签」中补充 A5 / Atlas 850 Server（普通集群）打标签示例： 2. 在 examples/infer_engines/vllm/models 下为常用模型补充 A5/ 配置示例（user_config.json + env.json）： ## **3. 资料变更** 涉及（用户指南节点标签章节、models 配置示例） ## **4. 接口变更** 不涉及 ## **5. 测试结果** > 服务推理正常  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!609	27 天前
env.json	【Docs】补充 A5 节点标签说明与常用模型 A5 配置示例 Co-authored-by: 高鹏<gaopeng140@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge a5-node-label-docs into master 【Docs】补充 A5 节点标签说明与常用模型 A5 配置示例 Created-by: weixin_63825906 Commit-by: 高鹏 Merged-by: towncharlie Description: ## **1. 合入背景** > 当前环境准备文档与 models 配置示例仅覆盖 A2/A3，缺少 A5（Atlas 850）相关说明，现场部署时无法直接参考。 Fix part of [#363](https://gitcode.com/Ascend/MindIE-Motor/issues/363) ## **2. 修改内容** 1. 在 docs/zh/user_guide/environment_preparation.md「设置节点标签」中补充 A5 / Atlas 850 Server（普通集群）打标签示例： 2. 在 examples/infer_engines/vllm/models 下为常用模型补充 A5/ 配置示例（user_config.json + env.json）： ## **3. 资料变更** 涉及（用户指南节点标签章节、models 配置示例） ## **4. 接口变更** 不涉及 ## **5. 测试结果** > 服务推理正常  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!609	27 天前
user_config.json	[feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Co-authored-by: Jechin<yuzechen1@huawei.com> # message auto-generated for no-merge-commit merge: !769 merge bugfix/layerwise2v1 into master [feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Created-by: Jechin Commit-by: Jechin Merged-by: tobking Description: ## **1. 合入背景** Fixes [#502](https://gitcode.com/Ascend/MindIE-Motor/issues/502) 产品侧确定 MooncakeConnectorV1 为 PD KV 传输主推方案，需将官方示例与用户文档中的默认 Connector 从 MooncakeLayerwiseConnector 统一切换为 V1，避免新用户按示例部署时仍使用 Layerwise。 ## **2. 修改内容** 1. **示例配置**（examples/infer_engines/vllm/） - user_config.json、user_config_pd_hetero.json、single_container/user_config.json 中 Prefill/Decode 的 kv_connector 改为 MooncakeConnectorV1 2. **用户指南文档** - docs/zh/user_guide/configuration/config_reference.md：PD 混部与 PD 分离配置示例同步更新 - docs/zh/user_guide/quick_start_motor.md：快速入门 PD 配置示例同步更新 - docs/zh/user_guide/features/EPD_disaggregation.md：EPD 分离配置示例同步更新 - docs/zh/user_guide/features/tracing.md：Tracing 场景配置示例同步更新 ## **3. 资料变更** 涉及，均为上述文档与示例 JSON 中 kv_connector 默认值变更。 ## **4. 接口变更** 不涉及跨代码仓或客户面 API 变更；仅示例与文档中的配置项默认值调整。 ## **5. 测试结果** （自行补充） ## **6. CheckList** [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!769	5 天前
user_config_pd_hetero.json	[feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Co-authored-by: Jechin<yuzechen1@huawei.com> # message auto-generated for no-merge-commit merge: !769 merge bugfix/layerwise2v1 into master [feature] 示例与文档默认 KV Connector 切换为 MooncakeConnectorV1 Created-by: Jechin Commit-by: Jechin Merged-by: tobking Description: ## **1. 合入背景** Fixes [#502](https://gitcode.com/Ascend/MindIE-Motor/issues/502) 产品侧确定 MooncakeConnectorV1 为 PD KV 传输主推方案，需将官方示例与用户文档中的默认 Connector 从 MooncakeLayerwiseConnector 统一切换为 V1，避免新用户按示例部署时仍使用 Layerwise。 ## **2. 修改内容** 1. **示例配置**（examples/infer_engines/vllm/） - user_config.json、user_config_pd_hetero.json、single_container/user_config.json 中 Prefill/Decode 的 kv_connector 改为 MooncakeConnectorV1 2. **用户指南文档** - docs/zh/user_guide/configuration/config_reference.md：PD 混部与 PD 分离配置示例同步更新 - docs/zh/user_guide/quick_start_motor.md：快速入门 PD 配置示例同步更新 - docs/zh/user_guide/features/EPD_disaggregation.md：EPD 分离配置示例同步更新 - docs/zh/user_guide/features/tracing.md：Tracing 场景配置示例同步更新 ## **3. 资料变更** 涉及，均为上述文档与示例 JSON 中 kv_connector 默认值变更。 ## **4. 接口变更** 不涉及跨代码仓或客户面 API 变更；仅示例与文档中的配置项默认值调整。 ## **5. 测试结果** （自行补充） ## **6. CheckList** [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-Motor!769	5 天前