已关闭
[Bug]: 离线推理脚本混合流的算子shape、dtype信息未采集到 #60
little-planet创建于  6月5日关闭于  6月22日
little-planet
little-planet
6月5日 创建

在提交新问题之前,请确保您已经在社区中搜索过相关问题,并使用了社区中提供的资源/工具后,仍未找到满意的解决方式。

⚠️ 安全信息提醒:请仔细检查提供的文本内容,确保其不包含敏感数据信息,包括但不限于:

  • API 令牌或密钥
  • 密码或身份验证凭证
  • 私有网址或接口地址
  • 个人或机密数据
  • ...

在分享配置信息或代码示例时,请将敏感信息脱敏处理,或使用 <TOKEN> 等占位符替代原有内容。

环境信息

- 操作系统:openEuler
- 昇腾硬件信息:910B4-1
- CANN软件版本:8.5.1
- 安装的对应软件版本 vllm-ascend 0.19.1rc1

🐛 问题描述

运行离线脚本,使用msprof --output='profile' --delay=1200 --duration=5 bash offline_tp_sliced.sh命令采集profiling,导入到mindstudio insight发现其它流都有算子shape,但合并的泳道中算子没有shape、数据类型、数据格式信息。

欢迎加入社区,感谢您对社区的贡献 🎉!

likedislike
Mrtutu
Mrtutu成员
6月5日 评论:

👋 您好,欢迎向 MindStudio msprof 提交 Issue!
我们已收到您的反馈,感谢你对开源社区的支持。🎉

📅处理时效: 维护团队将在24小时内 查看并回复您的问题(工作日)。
🔍自助查询: 在等待期间,建议您先查阅以下资料,可能已有解决方案:

📖 MindStudio msprof官方文档
📝 贡献者指南

请确保 Issue 描述清晰,包含复现步骤和日志,这将帮助我们更快定位问题。谢谢!

likedislike
MrtutuMrtutu成员
6月5日 添加了label:triaged
ascend-robotascend-robot成员
6月5日 添加了label:bug
chenhao_1209成员
6月12日 评论:

/label add resolved

likedislike
ascend-robotascend-robot成员
6月12日 添加了label:resolved
Cchenhao_1209成员
6月15日 删除了label:resolved
wangzixuan成员
6月15日 评论:

这个问题对齐后确认
1、动态profiling这次采集,没有采到capture_op_info数据,所以没有shape是符合预期的。这个现象可能和CANN包和torch_npu包有关系
2、后续还有一份数据,有capture_op_info数据,但是依然没有解析出来。经过确认是偶现的数据问题,当前仅能明确是数据结构内容异常,导致数据解析报错。

likedislike
MrtutuMrtutu成员
6月18日 添加了label:resolved
MrtutuMrtutu成员
6月22日 issue状态由 TODO 改变为 DONE
MrtutuMrtutu成员
6月22日 关闭了 issue