已关闭
[Usage]: 是否可以在vllm框架里面使用dump功能 #406
犀利小辣椒创建于  3月25日关闭于  3月28日
犀利小辣椒
犀利小辣椒
3月25日 创建

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

环境信息

使用vllm+vllm-ascend框架进行推理的部署的时候,使用dump能力,虽然没有什么报错,但是dum的结果没有对应数据,我理解是不是因为只能支持对ATB算子采集的原因。

msit llm dump --exec "bash start_qwen3_8b.sh" -o ./msit_qwen3-8b/ --type model

使用场景及问题

使用vllm+vllm-ascend框架进行推理的部署的时候,使用dump能力,虽然没有什么报错,但是dum的结果没有对应数据,我理解是不是因为只能支持对ATB算子采集的原因。

msit llm dump --exec "bash start_qwen3_8b.sh" -o ./msit_qwen3-8b/ --type model

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
kai1949
kai1949成员
3月25日 评论:

/label add triaged
👋 您好,欢迎向 msit 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:

📖 msit官方文档
📝 贡献者指南

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
ascend-robotascend-robot成员
3月25日 添加了label:usage
ascend-robotascend-robot成员
3月25日 添加了label:triaged
Menba
Menba
3月25日 评论:

msit已停止演进,后续功能演进转移到msprobe工具中,请参考https://gitcode.com/Ascend/msprobe#📖-功能介绍中的vllm推理功能介绍

likedislike
keith_wa
keith_wa成员
3月26日 评论:

/label add resolved

likedislike
ascend-robotascend-robot成员
3月26日 添加了label:resolved
panyj1993panyj1993成员
3月28日 issue状态由 TODO 改变为 DONE
panyj1993panyj1993成员
3月28日 关闭了 issue