已关闭
[Bug] ms_serviceparam_optimizer自动寻优的vllm场景下默认访问本机127.0.0.1,未支持ipv6格式,本机设置单栈ipv6的时候使用会有问题 #25
yejingjing创建于  3月10日关闭于  3月12日
yejingjing
yejingjing成员
3月10日 创建

👉 遇到问题先看这里

🌟 第一次使用工具遇到问题?

🚀 快速入门

❓ 搜索历史issue,查看冷门的同类问题

🔖 Issue中搜索历史类似问题

操作系统及版本

openEuler 22.03 (LTS-SP4)

python版本

3.10

MsServiceProfiler 工具版本

tag_MindStudio_26.0.0.B060_004

是否必现

MsServiceProfiler 执行命令

msserviceprofiler optimizer -e vllm

预期行为

自动寻优命令在单栈ipv6、双栈ipv6下可以正常使用

实际行为

ms_serviceparam_optimizer/ms_serviceparam_optimizer/optimizer/plugins/simulate.py代码中写死了127.0.0.1,当环境仅启用ipv6的地址时,会访问失败,导致vllm场景寻优命令执行失败
image.png

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
yejingjingyejingjing成员
3月10日 添加了label:high-priority
ascend-robotascend-robot成员
3月10日 添加了label:bug
yejingjingyejingjing成员
3月10日 关联了里程碑:MindStudio 26.0.0
ttcool成员
3月10日 评论:

/label add triaged

likedislike
ascend-robotascend-robot成员
3月10日 添加了label:triaged
ttcool成员
3月10日 评论:

后续添加ipv6格式的本机ip支持

likedislike
zeshengzongzeshengzong成员
3月11日 关联了里程碑:MindStudio 26.0.0
Tttcool成员
3月11日 关联了pull request:修复ipv6支持
yejingjing
yejingjing成员
3月12日 评论:

配置文件中vllm的ip设置为ipv4、ipv6时自动寻优命令拉起都成功了

likedislike
yejingjingyejingjing成员
3月12日 issue状态由 TODO 改变为 DONE
yejingjingyejingjing成员
3月12日 关闭了 issue
ascend-robotascend-robot成员
3月12日 添加了label:resolved