已关闭
[Bug] first_token_latency统计有误 #62
gcw_Q7JpS7mV创建于 5月26日关闭于 5月29日
kai1949
5月26日 评论：
5月26日 评论：
/label add triaged
👋 您好,欢迎向 MindStudio-Service-Profiler 提交 Issue！
我们已收到您的反馈，感谢你对开源社区的支持。🎉
📅处理时效： 维护团队将在24小时内 查看并回复您的问题（工作日）。
🔍自助查询： 在等待期间，建议您先查阅以下资料，可能已有解决方案：
📖 MindStudio-Service-Profiler官方文档
📝 贡献者指南
请确保 Issue 描述清晰，包含复现步骤和日志，这将帮助我们更快定位问题。谢谢！
5月26日 添加了label：bug
5月26日 添加了label：triaged
5月26日 修改了issue 的描述
操作系统及版本
5.10.0-60.18.0.50.h1002.eulerosv2r11.aarch64
python版本
3.11
MsServiceProfiler 工具版本
108e938cd2228eb37852ee2e0c12fa3e620067fe
是否必现
是
MsServiceProfiler 执行命令
msserviceprofiler parse --input-path=./0526-0336/ --output-path output
预期行为
如下图真实的 TTFT 应该约为 54 + 1095 ≈ 1149ms（从请求到达到 batch 执行完成）。
实际行为
11:39:17.362888 - 11:39:17.308256 = 54.632ms
推测原因是该请求缺少有效的 sendResponse 事件记录，导致 TTFT 计算锚定在了 BatchSchedule 的 end_time 上。
结论：
这条数据的 first_token_latency = 54ms 是不准确的，它实际上只反映了"请求到达"到"被调度进入 batch"的等待时间
欢迎加入社区，感谢您对社区的贡献 🎉!