已关闭
[Usage]: 是否可以在vllm框架里面使用dump功能 #406
犀利小辣椒创建于 3月25日关闭于 3月28日
3月25日 添加了label:usage
3月25日 添加了label:triaged
Menba
3月25日 评论:
3月25日 评论:
msit已停止演进,后续功能演进转移到msprobe工具中,请参考https://gitcode.com/Ascend/msprobe#📖-功能介绍中的vllm推理功能介绍


keith_wa
3月26日 评论:
3月26日 评论:
/label add resolved


3月26日 添加了label:resolved
3月28日 issue状态由 TODO 改变为 DONE
3月28日 关闭了 issue
在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。
环境信息
使用vllm+vllm-ascend框架进行推理的部署的时候,使用dump能力,虽然没有什么报错,但是dum的结果没有对应数据,我理解是不是因为只能支持对ATB算子采集的原因。
使用场景及问题
使用vllm+vllm-ascend框架进行推理的部署的时候,使用dump能力,虽然没有什么报错,但是dum的结果没有对应数据,我理解是不是因为只能支持对ATB算子采集的原因。
欢迎加入社区,感谢您对社区的贡献 🎉!