| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
update license Co-authored-by: y1lou<louyi6@huawei.com> # message auto-generated for no-merge-commit merge: !185 merge update_license into master update license Created-by: y1lou Commit-by: y1lou Merged-by: ascend-robot Description: ## **1. 合入背景** > 请描述为什么要做这个PR内的改动。\ > 如涉及，请关联前序PR或同特性/需求下的其他PR。\ > 如果是修复之前PR引入的问题，请关联引入问题的PR。\ > 请通过#ISSUE ID关联issue。\ > 注意： Fixes #ISSUE ID会自动关闭issue，如问题部分解决请不要使用Fixes，可以用Fix part of #ISSUE ID替代. ## **2. 修改内容** > 请<ins>**描述修改内容的具体实现**</ins>，涉及哪些组件之间进行交互，可以用1、2、3、...进行罗列。 > 如果是需求或者重构类的PR，需要<ins>**补充详细设计文档**</ins>（说明上下游组件关系、时序图、类图、DFX能力等内容）。 ## **3. 资料变更** > 请确认<ins>**是否涉及资料变更**</ins>。\ > 如涉及，需要在PR中体现，并简要说明修改内容。\ > 如不涉及，需填写“不涉及”。 ## **4. 接口变更** > 请确认<ins>**是否涉及跨代码仓或者客户面可见的接口变更**</ins>。\ > 如涉及，需详细说明接口以及对应的变更内容，同时需要在资料中体现。\ > 如不涉及，需填写“不涉及”。 ## **5. 测试结果** > 需体现<ins>**测试场景，测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-pyMotor!185 | 4 个月前 | |
[Feature] 适配 vllm-ascend Netloader D2D 权重直传 Co-authored-by: yilunh<hanyilun1@huawei.com> # message auto-generated for no-merge-commit merge: !200 merge D2D into master [Feature] 适配 vllm-ascend Netloader D2D 权重直传 Created-by: yilunh Commit-by: yilunh Merged-by: towncharlie Description: ## **1. 合入背景** vllm-ascend Netloader已支持D2D 权重直传，pyMotor增加适配，支持自动传入ip fixes #142 ## **2. 修改内容** 1、适配D2D直传，用户在 user_config 的 engine_config.model_loader_extra_config中配置source: "auto" + listen_port 时，Controller 自动发现同角色 peer IP；Engine 侧按场景组装 netloader 参数： d2d_configured? (source=auto + listen_port) │ ├─ A: 有 peer → SOURCE=[{device_id, sources:[ip:port,...]}], load_format=netloader，传入elastic_load拉权重 ├─ B: 无 peer，种子 → SOURCE 被 pop 掉, LISTEN_PORT+MODEL 保留, load_format=netloader，磁盘加载权重后起 ElasticServer │ └─ 非 d2d_configured → 纯透传, 什么都不干预 在现有 StartCmd → Daemon → Engine 链路上，加一层 Controller 编排 peer IP，Engine 侧组装 netloader 参数，HCCL/P2P 传输仍由 vllm-ascend netloader 完成  2、优化resolver， 新增入口normalize，统一在入口处转换连字符-至下划线_。 ## **3. 资料变更** 用户在 user_config的 engine_config.model_loader_extra_config中配置 source: "auto" + listen_port时，Controller 自动发现同角色 peer IP下发至 netloader 需同时配置 source: "auto" + listen_port，否则若半套配置或source指定ip时，controller仅透传参数至vllm-ascend ## **4. 接口变更** 同上 ## **5. 测试结果**  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!200 | 25 天前 |
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
| 4 个月前 | ||
| 25 天前 |