文件最后提交记录最后更新时间
1 天前
1 年前
1 个月前
1 天前
3 年前
3 年前
1 年前
2 年前
1 年前
1 个月前
README

实例监控插件(observability instance) 用户手册

1 简介

​ 实例监控插件主要目的是为 openGauss 用户提供实例监控能力。它作为一体化平台的可插拔插件开发,本特性依赖于openGauss一体化平台的插件特性。

​ 实例监控支持监控 openGauss 数据库以及数据库所在服务器,本特性主要关注数据库和操作系统监控指标,以及 TOPSQL 捕获和分析。

​ 与其他需求及特性的交互分析:支持关联 SQL 诊断功能,进入 TOPSQL 详情页面,用户可触发创建诊断任务,对 TOPSQL 进行诊断分析。

2 前言

2.1 概述

​ 本章介绍手册相关信息。

2.2 读者对象

​ 本手册主要适用于以下人员:

  • 数据库开发人员
  • 数据库管理员

2.3 修订记录

日期 版本 变更说明 修改人 审核人
2023/03/13 v1.0.0 新增编译初版 巫悦彬 曾色亮
2023/06/08 v2.0.0 新增实例监控,资源监控,实例指标,会话监控,SQL详情等待事件,采集器模块说明 刘鹏飞 曾色亮
2023/10/16 v3.0.0 首页新增实例信息、实例SQL详情、会话数量优化、WDR报告匹配快照、等待事件等功能;CPU页面Top部分展示完整command、识别gaussdb、CPU使用率补充、TOP数据库线程关联会话id和sqlid;TOPSQL新增IO_TIME tab页面;新增ASP页面优化采样活跃会话数量和ASP分析;删除会话监控功能 巫悦彬 曾色亮
2023/12/14 v5.1.1 更新新界面原型图;增加集群统计信息、切换记录、拓扑图页面说明;增加指标存储时长配置,采集间隔配置说明;增加代理器支持外部部署及一对多采集说明。 杨子浩 杨子浩
2024/03/26 v6.0.0 支持安装多个prometheus,支持prometheus和agent的安装、编辑、启动、停止、卸载功能 巫悦彬 杨子浩
2024/05/31 v6.1.0 增加数据库目录磁盘监控功能说明 罗梦 杨子

2.4 文档约定

​ 本节描述了本手册的(内容、符号、GUI 和文本)约定。

图形化界面格式约定

​ 本手册中可能出现下列图形化界面格式约定,它们所代表的含义如下。

格式 说明
粗体 按钮、菜单、参数、页签、窗口及对话框标题均使用【】括起来。例如,单击【确定】。

2.5 第三方许可证

​ 本节包含适用于该插件的第三方许可证。

表2-1 第三方软件列表

第三方软件
木兰宽松许可证

2.6 参考文档

3 简介

3.1 概述

​ 实例监控插件主要目的是为 openGauss 用户提供实例监控能力。它作为一体化平台的可插拔插件开发,本特性依赖于openGauss一体化平台的插件特性。

​ 实例监控功能主要分系统负载、TOPSQL、WDR报告、ASP、系统配置、采集配置、代理端和服务端安装卸载功能等功能。

3.2 支持的功能

​ 实例监控插件提供的功能如下:

功能模块 功能说明
首页 展示系统资源统计图
展示活跃会话数量图
展示实时TOPSQL、阻塞会话、长事务、等待事件等表格
资源监控 CPU:展示CPU使用率图、CPU平均负载图、TOP操作系统进程表、TOP数据库线程表
内存:展示内存使用率图、内存使用表、交互区使用情况图、交互区使用表、TOP操作系统进程表、TOP数据库线程表
IO:展示磁盘分区IO统计表、IOPS图、每秒读/写字节数图、I/O队列长度图、I/O使用率图、平均IO响应时间图
网络:展示网络流量(流入)图、网络流量(流出)、网卡丢包数量、网络socket连接信息、TCP socket数量统计、UDP socket数量统计、网卡传输统计表
实例指标 展示实例的TPS图、QPS图、连接数图、慢SQL数图
TOPSQL 可查看按不同维度(DB_TIME、CPU_TIME、、EXEC_TIME、IO_TIME)排列前十的 sql 语句
WDR报告 支持快照管理和生成
展示WDR报告列表,支持WDR报告的增删改查
系统配置 展示系统配置参数和数据库配置参数,支持参数的查询和刷新
代理和服务端安装卸载 支持代理(agent)和服务端(prometheus)的安装、修改、启动、停止、卸载
ASP 采样活跃会话数量
ASP分析
集群监控 集群列表与统计信息
主备延迟列表
集群详情与集群拓扑
切换记录
采集配置 支持对不同实例,不同指标进行采集间隔配置

3.3 约束和限制

WDR报告生成

WDR报告基于快照生成,而且必须至少要有两个不同版本的快照才能生成。当没有快照时,需先进行快照生成,再进行WDR报告生成。

代理安装

前置条件:服务端不存在时,先安装服务端。

服务端安装

只能安装一个服务端。

项目运行

本项目依赖一体化主平台,若需要使用本项目所有功能,只能通过编译成 jar 包的形式作为插件运行在主平台上。

3.4 实例监控插件项目结构

下载实例监控插件项目代码:

git clone https://gitee.com/opengauss/openGauss-workbench

实例监控插件项目结构如下图所示:

image-20230313171405614

图3.1 实例监控插件项目结构

实例监控插件项目结构说明如下:

表3.1 实例监控插件项目结构
文件夹/文件 说明
src 保存后端代码及资源文件
web-ui 保存前端代码
InstanceExporter 保存采集器源码
.gitignore 提交git忽略的目录
pom.xml 后端依赖项
LICENSE 许可证

3.5 系统要求

​ 本节介绍使用实例监控插件的最低系统要求。

浏览器兼容性

内置对象 \ 浏览器及版本 Chrome Edge Firefox Opera Safari
Proxy 49 12 18 36 10
Proxy() constructor 49 12 18 36 10
revocable 63 12 34 50 10

系统要求

操作系统 版本
windows windows7及以上

软件要求

软件 规格
Java jdk 11及以上

数据库版本要求

数据库 版本
openGauss 所有

4 部署实例监控插件

​ 本章详细介绍如何部署实例监控插件。

​ 前端技术栈:Vue3.0 + TS + Element plus

​ 后端技术栈:Java + Spring boot

4.1 编译项目并部署至一体化平台

前置条件: ① 安装 node.js,建议使用 v16 以上版本;

​ ② 安装Java jdk (建议使用v11及以上版本) 和 maven 3.X。

步骤 1: 检查自动构建前端项目的配置是否为false;

在 plugins > observability-instance > pom.xml 下将以下值设为false:
<web.build.skip>false</web.build.skip>
<web.clean.skip>false</web.clean.skip>

步骤 2: 启动打包命令;

mvn clean package -P prod

步骤 3: 在target目录下找到生成的jar,安装到一体化平台。

图4.1 界面示例

4.2 启动后端项目

暂不支持本地调试。

5 使用指导

5.1 概述

​ 本章详细介绍如何使用实例监控插件的功能。

5.2 代理和服务端的安装、编辑、启动、停止、卸载

​ 实例监控插件相关监控功能依赖于代理和服务端对指标的采集和存储,所以使用此插件相关功能前应先安装服务端,并对需要监控的数据库实例,安装对应的代理进行指标采集。代理和服务端架构如下所示:

image-20230313174751327

图5.1 架构图

​ 1)一级Prometheus:用于查询数据以及配置告警信息,查询监控数据时从二级Prometheus进行数据读取,一级Prometheus自身不存储数据,一级Prometheus必须安装且只能安装一个,因此在实例监控插件启动时,程序自动安装一级Prometheus。

​ 2)二级Prometheus:用于拉取代理agent的数据并存储对应agent采集的监控数据,供一级Prometheus进行查询。如需启用监控功能,二级Prometheus需要至少安装一个,根据采集性能与监控的实例节点数据要求可以按需横向扩展。目前二级Prometheus限制只能安装一个,下个版本将放开该限制。

​ 3)采集器Agent:具体负责数据采集,支持本地采集和远程采集,可以安装在数据库所在服务器或外部服务器,一个Agent可以采集多个数据库节点的监控数据。如需启用监控功能,agent需要至少安装一个,根据采集性能与监控的实例节点数据要求可以按需横向扩展。

​ 下面主要介绍代理和服务端的安装、编辑、启动、停止、卸载。

5.2.1 代理和服务端的安装

步骤 1: 点击左边菜单【智能运维】-【实例监控】,打开【实例监控】tab,点击tab内容的左上角的收缩按钮,如下图:

image-20230313174751327

图5.2 安装按钮

步骤 2: 安装代理/服务端:点击【安装代理】按钮或者【安装服务端】按钮。

image-20230313175428677

图5.3 安装代理

步骤 3: 填写表单,点击一键部署。

说明: 所有必选参数均需要填写。必填参数用星号(*)标识。

表5.1 代理安装配置项
配置项 必填 组件形式 配置说明
采集实例 多选下拉框 平台已安装的实例,从其中选择需要安装代理器并监控的具体实例
代理物理机 下拉框 选择代理需要安装到哪台物理机
安装用户 下拉框 选择安装代理器的物理机用户
代理web服务端口 输入框 默认9596,供服务端拉取指标数据使用
安装目录 输入框 代理器安装的目录

image-20230313184137232

图5.4 代理安装流程 表5.2 服务端安装配置项
配置项 必填 组件形式 配置说明
物理机 下拉框 平台可用的服务器设备,默认选第一个
安装用户 下拉框 安装服务端的用户名
服务端端口 输入框 默认9090
安装目录 输入框 输入服务端的安装的目录
数据存储时长 输入框 指标数据在服务端保留的时长,超出时长数据会被清理

image-20230313184752891

图5.5 安装二级服务端

image-20230313184752891

图5.6 安装二级服务端2

image-20230313184752891

图5.7 重新安装一级服务端

5.2.2 代理的编辑

1、点击左边菜单【智能运维】-【实例监控】,打开【实例监控】tab,点击tab内容的左上角的收缩按钮,点击【已安装代理】,可查看当前安装的代理;

2、方式1:树状图第1层表示的是代理,鼠标悬浮后,会显示【编辑】按钮,点击编辑按钮打开编辑界面;

3、方式2:树状图第2层表示集群,第3层表示数据库实例,鼠标在第3层悬浮后,会显示【删除】按钮,点击删除按钮也会打开编辑代理界面,默认将点击删除的实例排除;

4、在弹出的编辑代理界面,可按需修改【采集实例】,点击【一键部署】按钮即可修改代理采集设置。

image-20231214162020717

图5.8 编辑代理界面

5.2.3 服务端的编辑

1、点击左边菜单【智能运维】-【实例监控】,打开【实例监控】tab,点击tab内容的左上角的收缩按钮,点击【已安装服务端】,可查看当前安装的服务端;

2、把鼠标放在服务端上,显示【编辑】按钮,点击编辑按钮打开编辑界面;

3、在弹出的编辑服务端界面,填写表单,点击【一键部署】按钮即可修改服务端。

image-20231214162020717

图5.9 编辑一级服务端

image-20231214162020717

图5.10 编辑一级服务端

image-20231214162020717

图5.11 编辑二级服务端

image-20231214162020717

图5.12 编辑二级服务端

5.2.4 代理和服务端的启动和停止

1、点击左边菜单【智能运维】-【实例监控】,打开【实例监控】tab,点击tab内容的左上角的收缩按钮,点击【已安装代理】/【已安装服务端】,可查看当前安装的服务端;

2、把鼠标放在代理/服务端上,显示【启动】/【停止】按钮,点击按钮即可启动或者停止代理或者服务端;

image-20231214162020717

图5.13 代理启动

image-20231214162020717

图5.14 代理启动

image-20231214162020717

图5.15 代理停止

image-20231214162020717

图5.16 代理停止

5.2.5 代理和服务端的卸载

1、 点击左边菜单【智能运维】-【实例监控】,打开【实例监控】tab,点击tab内容的左上角的收缩按钮

2、点击【已安装代理】或者【已安装服务端】,展开对应的安装菜单,继续点击菜单,将鼠标移到对应的实例。

image-20230313185541419

图5.17 代理和服务端的卸载

3、 点击【卸载】,填写表单,点击【一键卸载】,完成卸载。

说明: 所有必选参数均需要填写。必填参数用星号(*)标识。

表5.3 【代理卸载】配置项
配置项 必填 组件形式 配置说明
代理信息 输入框 不可修改,显示需要卸载的代理信息

image-20230313190301842

图5.18 卸载代理 表5.4【服务端卸载】配置项
配置项 必填 组件形式 配置说明
物理机 输入框 不可修改,显示物理机相应信息

image-20230313190414855

图5.19 卸载服务端

5.2.6 插件间调用代理和服务端的安装卸载接口

代码内部提供接口,不同插件间可通过接口直接安装和卸载,具体使用调用方式请查看7.1

5.3 首页

首页主要是展示实例的总体状态,包括实例信息、CPU、内存、网络、IO、SWAP、活跃会话数量、实时TOPSQL、阻塞会话、长事务、等待事件等信息,支持对活跃会话数量、实时TOPSQL、阻塞会话、长事务、等待事件的分析。下面是对首页进行介绍:

进入插件后,默认选择【首页】 tab,展示数据库实例的CPU、内存、网络、IO、SWAP的总体情况;展示数据库实例的活跃会话情况,支持对其进行分析(TOP_SQL、智能诊断、WDR分析);展示数据库实时TOPSQL、阻塞会话、长事务、等待事件。

image-20230613113127939

图5.20 首页

在活跃会话中选取区间,可对会话进行一步分析(TOP_SQL、智能诊断、WDR分析):点击【TOP_SQL】跳转到【TOP_SQL】tab,可查看该时间段的实例前十的TOP SQL详细信息;点击【智能诊断】跳转到【历史数据诊断】页面,可对实例进行诊断;点击【WDR分析】,跳转到【WDR报告】tab,可对实例的WDR进行进一步分析。

image-20230613113127939

图5.21 会话下钻分析

5.4 系统负载

​ 【资源监控】包括【CPU】,【内存】,【IO】,【网络】部分。

5.4.1 CPU

实时展示实例的CPU相关指标数据、操作系统前十进程的CPU使用详细情况、数据库前十线程的CPU使用详细情况。

【CPU】tab包含CPU使用率、CPU平均负载、TOP操作系统进程、TOP数据库线程,支持TOP CPU SQL、智能诊断、WDR分析等功能

image-20230613113228968

图5.22 CPU

5.4.2内存

实时展示实例的内存相关指标数据、内存使用情况、交互区使用情况、操作系统前十进程的详细情况、数据库前十线程的详细情况

image-20230613113238400

图5.23 内存

5.4.3 IO

实时展示实例的数据库相关磁盘使用率、其它磁盘使用率、磁盘inode使用率、磁盘分区IO统计数据、IO相关指标数据:展示磁盘分区IO统计、IOPS、磁盘每秒读/写字节数、I\O队列长度、I\O使用率、平均IO响应时间,支持TOP CPU SQL、智能诊断、WDR分析等功能。 注:数据库相关磁盘使用率会在数据目录和x_log目录不在同一个磁盘下时展示2个图表。

image-20230613113252448

image-20230613113252448

图5.24 磁盘IO

5.4.4网络

实现对实例的网络情况进行监控,展示网络流量(流入)、网络流量(流出)、网卡丢包数量、网络socket连接信息、TCP socket数量统计、UDP socket数量统计、网卡传输统计等,支持智能诊断、WDR分析

image-20230613113301228

image-14

图5.25 网络

5.5 实例指标

【实例指标】主要是分为【实例概况】、【实例负载】和【实例空间】三个TAB。

5.5.1实例概况

展示数据库实例的缓存命中率表格、连接数、慢SQL数、平均SQL响应时间、每秒读取磁盘数据量。

注:慢SQL数图表中的慢SQL时间是数据库“log_min_duration_statement”参数值。

image-20230613113414520

image-20230613113414520

图5.26 实例概况

5.5.2实例负载

展示数据库实例TPS、QPS、每秒插入数据量、每秒更新数据量、每秒删除数据量、每秒全表扫描数据量、每秒索引扫描回表数据量、每秒清除脏块数据量

image-16

image-16

图5.27 实例负载

5.5.3实例空间

展示表空间概况、表空间使用总量、容量前十的表、容量前十的索引、容量前十的死元组、前十建议vacuum的表

image-16

image-16

图5.28 实例空间

5.6 TOPSQL

【TOPSQL】主要是对执行总耗时、CPU耗时、执行耗时、IO耗时靠前的SQL进行展示,同时支持对TOPSQL的分析,包括对SQL语句的基本信息统计、执行信息统计、耗时统计、执行计划分析、SQL语句的资源监控、索引建议、等待事件分析(930新增)、SQL诊断等功能分析。

​ 选择 【TOPSQL】 tab可查看按不同维度(DB_TIME、CPU_TIME、、EXEC_TIME、IO_TIME)排列前十的 sql 语句 。

image-20221219112620776

图5.29 TOPSQL

可点击 【SQLID】 进入详情页面。

【实例监控详情】:

(1)点击【 SQLID 】进入详情页面,默认展示统计信息页。

image-20221219112620776

图5.30 sql详情页

完整的【统计信息】部分:

image-20221219112620776

图5.31 sql统计信息

(2)执行计划:

展示可视化的【执行计划】数据,点击右侧按钮可高亮显示对应的行。

image-20221219112620776

图5.32 执行计划

(3)系统资源:

image-20221219112620776

图5.33 系统资源

(4)对象信息

【对象信息】tab下,可选择对应的对象,右侧展示涉及到的【基本信息】,【对象结构】,【索引信息】。

image-20221219112620776

图5.34 对象信息

(5)索引建议

根据建议规则给出 sql 对应的【索引建议】。

注:当SQL 语句有占位符时,无法获取索引建议。需要设置数据库 “track_stmt_parameter ”参数为 on。

image-20221219112620776

图5.35 索引建议 (6)等待事件统计

注:等待事件统计的数据是来源于数据库STATEMENT_HISTORY表中的details字段值,details字段根据参数级别不同记录的是等待事件或者语句锁事件的列表。目前是只取了语句锁事件的数据,需要将数据库“track_stmt_stat_level” 参数第二个level设置为L2。

image-20230613113511602

图5.36 等待事件统计

(7)sql 诊断

对当前的sql进行诊断分析,通过点击【创建诊断任务】可跳转至【智能诊断】菜单-【SQL诊断】TAB页面的【创建诊断任务】页面。

image-20221219112620776

图5.37 sql诊断

5.7 WDR报告

WDR是一个监控openGauss数据库特性的衍生品,通过分析时间范围内的保存的性能快照数据,生成WDR报告,帮助用户及时发现数据库异常、问题诊断以及优化数据库性能等。

5.7.1 WDR报告列表显示

点击【WDR报告】tab,进入WDR报告页面,选择【集群名称】,点击【查询】按钮,显示WDR报告列表。

说明:【集群名称】、【报告范围】、【报告类型】选项为必选,其他查询条件可选;

​ 单击 【查询】将根据条件查询数据;

​ 单击 【重置】 即可重置列表。

表5.5 WDR报告搜索
配置项 必填 组件形式 数据类型限制 配置说明
集群名称 下拉框 - 平台已安装的实例,默认为空。
报告范围 下拉框 - 分【集群】和【节点】,默认【集群】。
报告类型 下拉框 - 分【明细】、【汇总】和【全部】,默认明细。
生产时间 时间下拉框 时间类型 yyyy-MM-dd HH:mm:ss,可为空,默认当天00:00:00到当天23:59:59。

image-20230313192957718

图5.38 WDR报告

5.7.2 快照管理

点击【快照管理】按钮,进入快照管理页面。

image-20230313193205736

图5.39 快照管理 表5.5 快照筛选
配置项 必填 组件形式 数据类型限制 配置说明
集群/实例 下拉框 - 默认选第一个

5.7.3 创建快照

​ 选择【集群/实例】,点击【创建快照】,生成新的快照。

说明:由于创建快照有延迟,需要手动点击【查询】来刷新数据。

5.7.4 生成WDR

​ 在主页面点击【生成WDR】,进入【生成WDR】编辑页面,填写表单,点击【生成】。

image-20230313194614658

图5.40 生成WDR 表5.6 生成WDR
配置项 必填 组件形式 数据类型限制 配置说明
集群/实例 下拉框 - 平台已安装的实例,默认为空。
报告范围 下拉框 - 分【集群】和【节点】,默认【集群】。
报告类型 下拉框 - 分【明细】、【汇总】和【全部】,默认明细。
开始快照 下拉框 - 默认为倒数第20个快照,如果快照不足20条,将默认是第1条快照。
结束快照 下拉框 - 默认为最后一个快照。

5.7.5 查看快照

​ 点击WDR报告列表中的某一个数据的【查看】操作按钮,将打开新页面,展示该数据的WDR报告详情。

image-20230313195354980

图5.41 查看快照

5.7.6 WDR报告下载

​ 点击WDR报告列表中的某一个数据的【下载】操作按钮,下载该数据的WDR报告。

5.7.7 WDR报告删除

​ 点击WDR报告列表中的某一个数据的【删除】操作按钮,弹出删除提示,选择【确定】,将删除该WDR报告。

image-20230313195817268

图5.42 WDR报告删除

5.8 系统配置

统一查看与数据库相关的OS、数据库参数信息以及调优建议。

5.8.1 系统配置查询

​ 点击【系统配置】tab,分【数据库配置】和【系统配置】tab,默认显示【数据库配置】tab;选择【集群/实例】,输入【显示推荐者】/【全部】、【参数类型】、【参数名称】,点击【查询】,可查询对应的数据。

image-20230313200118244

图5.43 数据库配置查询

image-20230313200118245

图5.44 系统配置查询

5.8.2 系统配置刷新

​ 选择【集群/实例】,点击【刷新】,填写root密码,点击【确定】,可以刷新数据库配置参数或者系统配置参数。

image-20230313200736059

图5.45 参数配置刷新

5.9 ASP

5.9.1 采样活跃会话数量

​ 点击【ASP】tab,选择【集群/实例】 img.png

图5.46 采样活跃会话数量

5.9.2 ASP分析

​ 点击【ASP】tab,选择【集群/实例】,选择【分析指标】 img.png

图5.47 ASP分析

【分析指标】下拉框选项:Wait Status、Event、Database ID、Application Name 单击图例可以增加对应【过滤条件】

5.10 集群监控

5.10.1 集群列表

​ 点击菜单【集群监控】,选择【集群列表】tab img.png

图5.48 集群列表

点击操作中的【实例监控】,可跳转到主节点的实例监控

5.10.2 主备延迟列表

​ 点击菜单【集群监控】,选择【主备延迟列表】tab img.png

图5.49 主备延迟列表
  • 点击操作中的【实例监控】,可跳转到对应节点的实例监控
  • 点击节点名称,可以跳转到对应节点的集群详情

5.10.3 集群详情

​ 点击菜单【集群监控】,选择【集群列表】tab,点击任一集群名称 img.png

图5.50 集群详情1

点击操作中的【性能监控】,可跳转到对应节点的实例监控

img.png

图5.51 集群拓扑

image-20231214170203869

图5.52 切换记录

5.11 采集配置

5.11.1 修改采集配置

1、点击菜单【实例监控】,选择【采集配置】tab;

2、点击【修改】按钮修改对应指标的采集间隔;

3、采集开关默认打开,可点击关闭,关闭则不会采集此指标

4、点击【保存】按钮,保存修改后的结果,提示“采集配置更新成功!”代表配置生效;

5、点击【重置】按钮,可将所有指标的采集间隔重置为默认采集间隔15s,并打开所有指标的采集开关。

image-20231214171443769

图5.53 修改采集间隔

6 FAQS

1、使用在线安装代理或服务端时,安装界面卡住不动。

原因:服务器下载速度过慢或下载异常会发生此情况,可尝试使用离线安装的方式进行安装。

2、安装过程中错误信息提示yum install -y unzip zip 。

原因:需在服务器提前配置yum可用或者安装unzip和zip命令。

3、由于平台限制了上传文件大小,可能导致安装包上传失败,需要修改平台配置。

image-20230331163722608

图6.1 安装包上传

解决方案:修改平台配置文件/ops/server/openGauss-visualtool/config/application-cus.yml中对上传文件的大小限制大于安装包大小,然后重启平台。

spring.servlet.multipart:
  max-file-size: 1000MB
  max-request-size: 1000MB

7 附录

7.1 插件间调用代理、服务端的安装卸载接口

1、提供可跨插件调用的安装卸载接口

图7.1.1 提供接口

2、插件间调用接口示例

图7.1.2 创建caller类,映射supplier接口

图7.1.3 调用caller类方法