已合并
[feature]支持EPD分离部署能力 #122
zhoujing创建于 5月6日
[feature]支持EPD分离部署能力 #122
已合并
Pull Request已成功合入, 合并人@wangyang
（感谢 zhoujing 的贡献）5月6日 添加了label：stat/needs-squash
ascend-robot
5月6日 评论：
5月6日 评论：
Thanks for your pull-request.
The full list of commands accepted by me can be found at here。
You can get sig-info at here
PR Approval Progress
✅ Congratulations! All modules have met the lgtm and approve requirements.
Module Approval Details
| module | lgtm status | approve status |
|---|---|---|
| repo-Ascend/MindIE-PyMotor | ✅ 王洋, tobking (2/2) | ✅ 王洋 (1/1) |
💡 Tip:
- Committer can comment
/approveor/lgtm- Commenting
/approveimplies both code review (lgtm) and intent to merge (approve)
CLA Signature Pass
zhoujing101, thanks for your pull request. All authors of the commits have signed the CLA. 👍
5月6日 添加了label：ascend-cla/yes
ascend-robot
5月6日 评论：
5月6日 评论：
Ascend docs pipeline is running...
5月6日 添加了label：docs-ci-pipeline-running
此处折叠了160条消息 查看更多
5月13日 添加了label：approvedlgtm
5月13日 关闭了关联的issue
5月13日 合入了pull request
examples/deployer/startup/roles/engine.sh
@@ -13,29 +12,30 @@
12+if [ "$ROLE" != "encode" ] && [ "$ROLE" != "prefill" ] && [ "$ROLE" != "decode" ]; then
1313 echo "Error: This script is for prefill or decode role only. Current ROLE=$ROLE"
1414 exit 1
1515fi
@@ -26,7 +26,9 @@ set_mf_store_env
2626# CRD scenario: refresh JOB_NAME with INFER_SERVICE_INDEX and INSTANCE_INDEX injected by CRD
2727# Final format: {namespace}-{InferServiceSet_name}-{INFER_SERVICE_INDEX}-p/d{INSTANCE_INDEX}
2828if [ -n "$INFER_SERVICE_INDEX" ] && [ -n "$INSTANCE_INDEX" ]; then
29- if [ "$ROLE" = "prefill" ]; then
29+ if [ "$ROLE" = "encode" ]; then
30+ export JOB_NAME="${JOB_NAME}-${INFER_SERVICE_INDEX}-e${INSTANCE_INDEX}"
31+ elif [ "$ROLE" = "prefill" ]; then
3032 export JOB_NAME="${JOB_NAME}-${INFER_SERVICE_INDEX}-p${INSTANCE_INDEX}"
3133 elif [ "$ROLE" = "decode" ]; then
3234 export JOB_NAME="${JOB_NAME}-${INFER_SERVICE_INDEX}-d${INSTANCE_INDEX}"
@@ -38,7 +40,9 @@ setup_motor_log_path
3840setup_ascend_work_path
3941setup_ascend_cache_path
4042
41-if [ "$ROLE" = "decode" ]; then
43+if [ "$ROLE" = "encode" ]; then
44+ set_encode_env
45+elif [ "$ROLE" = "decode" ]; then
4246 set_decode_env
4347elif [ "$ROLE" = "prefill" ]; then
4448 set_prefill_env
@@ -49,6 +53,7 @@ pid=$!
4953echo "pull up $ROLE instance"
5054wait $pid
5155exit_code=$?
56+sleep 60000
调试用的，后续PR已删除
5月26日 解决了最后一个问题
1. 合入背景
PyMotor支持EPD分离部署
#85
2. 修改内容
增加PyMotor支持EPD分离部署能力
3. 资料变更
“不涉及”。
4. 接口变更
“不涉及”。
5. 测试结果
部署效果：
多模态图片识别：
6. CheckList
[x] 代码注释完备
[x] 正确记录维测日志
[x] 是否有UT用例
[x] 若涉及多线程场景，考虑了并发场景，不存在死锁问题