master

towncharlieA5文件挂载与环境变量设置

83055df1创建于 5 天前历史提交

文件	最后提交记录	最后更新时间
__init__.py	[refractor] 重构deployer Co-authored-by: 吕有辉<lvyouhui@huawei.com> # message auto-generated for no-merge-commit merge: !286 merge refractor_deployer into master [refractor] 重构deployer Created-by: codeDogPro Commit-by: 吕有辉 Merged-by: ascend-robot Description: ## **1. 合入背景** https://gitcode.com/Ascend/MindIE-pyMotor-private/issues/147 ## **2. 修改内容** 1、拆分deploy.py文件 2、拆分boot.sh文件【以及调整文件夹名称】 3、重命名deployment文件夹 4、调整examples结构【详见ISSUE】 ## **3. 资料变更** 设计 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 1、CRD：正常拉起（压测），静态扩缩无问题 2、多Deployment：正常拉起（压测），静态扩缩无问题 3、单容器：正常拉起（压测） ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-pyMotor-private!286	3 个月前
controller.py	[test] 优化测试用例耗时 & 修复bug Co-authored-by: 吕有辉<lvyouhui@huawei.com> # message auto-generated for no-merge-commit merge: !178 merge master into master [test] 优化测试用例耗时 & 修复bug Created-by: codeDogPro Commit-by: 吕有辉 Merged-by: towncharlie Description: ## **1. 合入背景** 测试用例耗时还有可以优化的地方 ## **2. 修改内容** 1、 2、删除脚本的10行打印等待优化为一行打印，动态改变倒计时 3、修复delete.sh里打印ERROR的问题 4、修复Controller内没有OBS端口域名的问题 ## **3. 资料变更** 不涉及 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 测试用例：  Service bug修复：   ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!178	27 天前
coordinator.py	[test] 优化测试用例耗时 & 修复bug Co-authored-by: 吕有辉<lvyouhui@huawei.com> # message auto-generated for no-merge-commit merge: !178 merge master into master [test] 优化测试用例耗时 & 修复bug Created-by: codeDogPro Commit-by: 吕有辉 Merged-by: towncharlie Description: ## **1. 合入背景** 测试用例耗时还有可以优化的地方 ## **2. 修改内容** 1、 2、删除脚本的10行打印等待优化为一行打印，动态改变倒计时 3、修复delete.sh里打印ERROR的问题 4、修复Controller内没有OBS端口域名的问题 ## **3. 资料变更** 不涉及 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 测试用例：  Service bug修复：   ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!178	27 天前
engine.py	A5文件挂载与环境变量设置 Co-authored-by: weixin_63825906<gaopeng140@huawei.com> # message auto-generated for no-merge-commit merge: !324 merge A5_mouth into master A5文件挂载与环境变量设置 Created-by: weixin_63825906 Commit-by: weixin_63825906 Merged-by: towncharlie Description: ## **1. 合入背景** >A5存在较多额外环境配置，要写入启动脚本以减少手动修改的操作 Fixes [#205](https://gitcode.com/Ascend/MindIE-PyMotor/issues/205) ## **2. 修改内容** > 在A5环境下，新增pod挂载路径以及环境变量，以确保服务正常运行 ## **3. 资料变更** > 不涉及 ## **4. 接口变更** > 不涉及 ## **5. 测试结果** > A5 服务拉起后正常推理  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!324	5 天前
infer_service.py	A5文件挂载与环境变量设置 Co-authored-by: weixin_63825906<gaopeng140@huawei.com> # message auto-generated for no-merge-commit merge: !324 merge A5_mouth into master A5文件挂载与环境变量设置 Created-by: weixin_63825906 Commit-by: weixin_63825906 Merged-by: towncharlie Description: ## **1. 合入背景** >A5存在较多额外环境配置，要写入启动脚本以减少手动修改的操作 Fixes [#205](https://gitcode.com/Ascend/MindIE-PyMotor/issues/205) ## **2. 修改内容** > 在A5环境下，新增pod挂载路径以及环境变量，以确保服务正常运行 ## **3. 资料变更** > 不涉及 ## **4. 接口变更** > 不涉及 ## **5. 测试结果** > A5 服务拉起后正常推理  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!324	5 天前
k8s_utils.py	[fix] 更新 common.sh 中的补丁脚本路径，并从 k8s_utils.py 中删除不必挂载的补丁路径。 Co-authored-by: c00951058<chenchaofeng5@huawei.com> # message auto-generated for no-merge-commit merge: !292 merge c00951058 into master [fix] 更新 common.sh 中的补丁脚本路径，并从 k8s_utils.py 中删除不必挂载的补丁路径。 Created-by: qq_40172610 Commit-by: c00951058 Merged-by: towncharlie Description: ## **1. 合入背景** 1. 当前 shuffle safetensors 补丁通过 k8s_utils.py 的 create_motor_config_configmap() 将以下文件打入 ConfigMap motor-config，由 Pod 挂载到 /mnt/configmap/ 后供启动脚本使用：patch_apply_shuffle_safetensors.py、vllm_shuffle_load_config.patch、vllm_shuffle_default_loader.patch、vllm_shuffle_weight_utils.patch。 2. 推理镜像在构建时已预置 /tmp/motor/examples/deployer/patch/ 目录，内容与仓库 examples/deployer/patch/ 一致。测试流程也从镜像 docker cp 出 examples 以保证版本对齐。继续通过 ConfigMap 挂载补丁会带来ConfigMap 膨胀，补丁文件无需随部署动态变更，不必进入 ConfigMap。 3. 本次修改将 shuffle safetensors 补丁改为直接读取镜像内 /tmp/motor/examples/deployer/patch/，不再通过 ConfigMap 挂载。 ## **2. 修改内容** 1. examples/deployer/lib/generator/k8s_utils.py 中，函数 create_motor_config_configmap() 移除 4 个 patch 相关 --from-file 条目； 2. examples/deployer/startup/common.sh 中，新增 MOTOR_PATCH_ROOT；apply_shuffle_safetensors_patch() 改为读取镜像内路径。 ## **3. 资料变更** 不涉及 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 1. 通过在boot.sh中添加一下代码，手动mock冒烟环境： shell rm -rf /tmp/motor/examples/ cp -r /mnt/c00951058/MindIE-PyMotor/examples /tmp/motor/ 2. 测试结果： 能正确拉起p实例、d实例：  拉起时间约7分钟：   ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!292	13 天前
kv_conductor.py	[refractor] 重构deployer Co-authored-by: 吕有辉<lvyouhui@huawei.com> # message auto-generated for no-merge-commit merge: !286 merge refractor_deployer into master [refractor] 重构deployer Created-by: codeDogPro Commit-by: 吕有辉 Merged-by: ascend-robot Description: ## **1. 合入背景** https://gitcode.com/Ascend/MindIE-pyMotor-private/issues/147 ## **2. 修改内容** 1、拆分deploy.py文件 2、拆分boot.sh文件【以及调整文件夹名称】 3、重命名deployment文件夹 4、调整examples结构【详见ISSUE】 ## **3. 资料变更** 设计 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 1、CRD：正常拉起（压测），静态扩缩无问题 2、多Deployment：正常拉起（压测），静态扩缩无问题 3、单容器：正常拉起（压测） ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-pyMotor-private!286	3 个月前
kv_pool.py	vLLM Ascend增加default_kv_lease_ttl参数，Motor池化特性需同步增加该参数 Co-authored-by: zhoujing101<zhoujing101@huawei.com> # message auto-generated for no-merge-commit merge: !216 merge EPD_2 into master vLLM Ascend增加default_kv_lease_ttl参数，Motor池化特性需同步增加该参数 Created-by: zhoujing101 Commit-by: zhoujing101 Merged-by: towncharlie Description: ## **1. 合入背景** vLLM Ascend增加default_kv_lease_ttl参数，Motor池化特性需同步增加该参数 [#149](https://gitcode.com/Ascend/MindIE-PyMotor/issues/149) ## **2. 修改内容** 参照vLLM Ascend官方文档修改  ## **3. 资料变更** 涉及。 ## **4. 接口变更** 不涉及。 ## **5. 测试结果** > 需体现<ins>**测试场景，测试方法以及测试结果**</ins>。\ > 测试用例设计时需考虑硬件、部署方式、功能、性能、精度、显存等维度。 不配置时：  配置时：   ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [x] 代码注释完备 [x] 正确记录维测日志 [x] 是否有UT用例 [x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!216	26 天前
mf_store.py	[feature]对接SGLang — coordinator、deploy Co-authored-by: l00855614<linghubiao@huawei.com> # message auto-generated for no-merge-commit merge: !9 merge lhb_sglang_dev into master [feature]对接SGLang — coordinator、deploy Created-by: linghb Commit-by: l00855614 Merged-by: towncharlie Description: ## **1. 合入背景** https://gitcode.com/Ascend/MindIE-PyMotor/issues/3 ## **2. 修改内容** 1、coordinator 新增pd_dual_dispatch_router，支持同时P和D双选，并发下发请求的模式； 2、deploy （1）Ascend_MF_STORE 单独部署;（2）user_config 增加sglang配置； ## **3. 资料变更** 不涉及 ## **4. 接口变更** 不涉及 ## **5. 测试结果** 部署成功  推理请求成功 v1/completions  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!9	3 个月前
single_container.py	A5文件挂载与环境变量设置 Co-authored-by: weixin_63825906<gaopeng140@huawei.com> # message auto-generated for no-merge-commit merge: !324 merge A5_mouth into master A5文件挂载与环境变量设置 Created-by: weixin_63825906 Commit-by: weixin_63825906 Merged-by: towncharlie Description: ## **1. 合入背景** >A5存在较多额外环境配置，要写入启动脚本以减少手动修改的操作 Fixes [#205](https://gitcode.com/Ascend/MindIE-PyMotor/issues/205) ## **2. 修改内容** > 在A5环境下，新增pod挂载路径以及环境变量，以确保服务正常运行 ## **3. 资料变更** > 不涉及 ## **4. 接口变更** > 不涉及 ## **5. 测试结果** > A5 服务拉起后正常推理  ## **6. CheckList** > PR提交人对以下CheckList自检项进行全量自检，自检通过或不涉及，均修改 [ ] 为 [x] [ ] 代码注释完备 [ ] 正确记录维测日志 [ ] 是否有UT用例 [ ] 若涉及多线程场景，考虑了并发场景，不存在死锁问题 See merge request: Ascend/MindIE-PyMotor!324	5 天前