eagle-eye性能测试报告v26.03

1.概述

1.1.测试目的

本文档旨在测试eagle-eye功能的性能基线。

1.2.测试环境

虚拟机地址:192.168.200.18,192.168.200.27

2.测试内容

序号 测试项
1 安装时长
2 Pod资源占用
3 硬件健康检查指标采集丢失率(310P3、910B4)
4 秒级上报功能发布方采集时长和订阅方每秒接收日志数量和日志接收时延

3.测试用例

3.1.安装时长及资源占用

3.1.1.测试目的

测试eagle-eye安装时长及相关pod的资源占用情况

3.1.2.前提环境

  • os:openEuler 22.03 LST SP4
  • Cpu架构:arm64
  • Cpu个数:192个
  • 内存:2T
  • 虚拟机地址:192.168.200.18,192.168.200.27

3.1.3.测试过程

  • 后台helm install 安装eagle-eye组件
  • 查看相关pod资源

3.1.4.测试结果

  • 组件安装时长2分钟左右
  • pod占用CPU 28m,内存 104M

3.2.硬件健康检查指标采集丢失率

3.2.1.测试目的

测试硬件健康检查指标在30s轮询采集情况下的指标稳定性

3.2.2.前提环境

  • os:openEuler 22.03 LST SP4
  • Cpu架构:arm64
  • Cpu个数:192个
  • 内存:2T
  • 虚拟机地址:192.168.200.27,192.168.200.18
  • 限时30分钟

3.2.3.测试过程

  • 分别在两台机器上安装npu-opreator和eagle-eye组件
  • 查看hardware-monitor的pod日志
  • 统计指标数据

3.2.4.测试结果

  • HBM 指标丢失0%
  • DDR 指标丢失0%
  • NetWork 指标丢失0%
  • NPU 指标丢失0%
  • 备注:测试过程中310P3无hbm模块,910B4无ddr模块

3.3.秒级上报能力

3.3.1.测试目的

测试秒级上报功能发布者采集时长、接收者每秒接受日志数量和日志接收时延

3.3.2.前提环境

  • os:openEuler 22.03 LST SP3
  • Cpu架构:arm64
  • Cpu个数:192个
  • 内存:2T
  • 虚拟机地址:192.168.200.27,192.168.200.18

3.3.3.测试过程

  • 安装好npu-opreator和eagle-eye组件
  • 部署日志订阅方
  • 部署日志发布方
  • 发送推理请求
  • 查看订阅方和发布方日志

3.3.4.测试结果

  • 单次发送推理请求时共产生50条日志(受推理服务最大token配置的影响),发布方单条日志采集时长约为6-7ms,平均时长7ms;订阅方日志接收平均时延0.8ms。
  • 使用xargs并发请求,并发数5,总请求数20时,请求总时长约3s,共产生日志540条,发布方单条日志采集时长约为7-8ms,平均时长7ms;订阅方在4545ms内接受完日志,日志接收平均时延0.9ms。
  • 使用xargs并发请求,并发数10,总请求数50时,请求总时长约3s,共产生日志592条,发布方单条日志采集时长约为7-9ms,平均时长8ms;订阅方在4687ms内接受完日志,日志接收平均时延0.1ms。
  • 部署三个发布方,分别使用xargs并发请求,并发数10,总请求数50时,共产生日志1104条,发布方单条日志采集时长约为7-10ms,平均时长8ms;订阅方在5087ms内接受完日志,日志接收平均时延0.1ms。