GaussDB 技术解读系列丨运维自动驾驶探索

本文分享自华为云社区《DTCC 2023专家解读 | GaussDB技术解读系列之运维自动驾驶探索》，作者：GaussDB 数据库 。

近日，在第 14 届中国数据库技术大会（DTCC2023）的 GaussDB“五高两易”核心技术，给世界一个更优选择专场，华为云数据库运维研发总监李东详细解读了 GaussDB 运维系统自动驾驶探索和实践。

以下为演讲实录：

大家好，我是来自华为云 GaussDB 数据库的李东。随着企业数字化转型进入深水区，数据库系统越来越复杂，运维团队维护的数据库规模越来越大，传统工具化的运维已无法满足当前运维的要求，数据库运维逐渐向智能化发展。

如何更好地感知和预测数据库故障，进而进行智能诊断、自适应恢复，是我们一直探索的内容。接下来我将分享 GaussDB 在运维自动化驾驶上的探索和实践，分别从云数据库运维挑战，GaussDB 运维体系架构，以及我们如何进行快速感知和快速诊断 4 个方向进行分享。

一、云数据库运维面临哪些挑战？

随着企业将数据库搬迁上云，云上数据库运维面临的挑战更加复杂。数据库可能会部署在裸金属、虚拟机、容器等多样化的基础设施上，而不同的基础设施面对的故障场景也是多样化的。

如果我们遇到一个性能抖动的亚健康问题，通常解决思路是从应用数据库、操作系统、计算、存储、网络等多层次全面分析，每一层都可能发生故障，不同层次发生故障可能引发相同的亚健康现象。比如说一个慢 SQL，可能是磁盘故障导致的，也有可能是网络抖动引起的，但是表现上对于客户而言都是一个慢 SQL。

如果运维能力不足，我们很难在短时间内去定位和解决亚健康问题，因为它在处理过程中一般有三个挑战：

第一，无法准确预测和监控亚健康问题。这里主要涉及到多和少的问题，“少”就是在每一层上缺少对亚健康问题的监控，比如说磁盘故障了，可以很容易感知到；如果磁盘出现了坏块或者慢盘的情况，我们就没有办法快速监控。“多”体现在我们在每一层都做了监控和告警，但告警之间是没有关联性的，很难从这些告警中识别真正发生问题的点在哪里，所以很难精确发现当前的亚健康问题。

第二，发现亚健康问题之后没有办法进行快速诊断。对于数据库内部发生的问题，往往依赖 DBA 经验进行诊断和决策，对运维的能力要求比较高，效率也无法保证。

第三，恢复能力不足。我们当前诊断到发生问题的根源之后需要去恢复，但恢复能力不足，比如限流、扛过载的有效能力不足，涉及数据库参数调优、烂 SQL 优化等需要很深的数据库能力和经验的积累。

二、GaussDB 整体运维架构

GaussDB 是如何处理这些问题的？下面我们看一下 GaussDB 整体运维的架构。

GaussDB 统一运维平台分为 5 个部分：

第一部分是实例运维，主要负责 GaussDB 集群生命周期的管理，比如创建、变更以及进行备份恢复和参数调整。

第二部分是容灾管理，主要提供流式容灾、同城容灾、两地三中心能力。

第三部分是智能运维，是 GaussDB 运维体系中最关键的部分，通过 AI4DB 的能力打造自治运维系统，它分为四层：

第一层是数据采集层，负责采集各层的监控数据以及上层下发的操作指令。

第二层是数据计算层，负责将采集到的数据进行缓存、持久化以及数据加工，包括时序数据库、算法模型库、故障规则库等。

第三层是自治服务层，包括 SQL 诊断调优、安全、数据库运维等能力。

第四层是全景监控，包括告警监控、全量 SQL 等能力。

GaussDB 通过构建一体化的智能运维中心，打造了全链路、端到端的自动驾驶体验。

三、GaussDB 故障快速感知

数据库全景监控大盘，实时感知系统运行状态

下面我们看一下 GaussDB 全景监控大盘，通过全景监控可以看出我们所维护的数据库集群哪些是正常的，哪些是异常的，哪些是存在亚健康情况的。比如查看告警统计模块，通过分析可以看出整个集群当前的告警情况，如果有紧急告警和重要告警，可以优先处理。也可以看到资源使用的风险，通过资源使用预测能力预警即将会发生哪些资源瓶颈，比如说磁盘空间不足、 CPU 不足，方便我们及时处理和恢复。智能诊断这块，通过技术分析当前数据库有哪些性能瓶颈，同时也支持自定义监控大盘，选取用户重点业务数据库，自定义重点监控指标，对重点业务进行自定义维度的保障监控。

全景大盘首先要依赖全链路、全方位的监控。数据库的可观测能力对于数据库的运维十分重要，GaussDB 全链路监控具备从硬件、OS、DB 等分层监控，构建从采集、发送、展示、分析到巡检等全链路能力，并且打通了硬件到操作系统，到数据库整个监控链的通道。比如说硬件出现故障问题，如果在云上，硬件故障属于不同部门维护，数据库部门只能看到数据库集群，如何感知到硬件发生亚健康或者操作系统存在问题，这个时候就得联合硬件部门，打通硬件到操作系统、数据库的通知机制，如果在这层发生了亚健康问题，可以把故障信息向上通知相关的运维部门解决。

全量 SQL 数据采集分析

接下来看一下全量 SQL 采集的能力。相较于传统全量 SQL 采集方式，即通过流量抓取或者日志方式获取全量 SQL，GaussDB 通过轻量化的方式构建了全量 SQL 的洞察。采集进程与数据库建立内存缓冲区通道，直接从内存通道里把 SQL 信息进行采集并转存到外部设备中，这个过程不需要发生任何磁盘 IO 操作，对性能影响极低。

传统的采集场景我们可能需要开启全量 SQL，对业务的影响在 30%左右，一般情况下，用户是不敢开启的，而 GaussDB 的全量 SQL，可以把风险降到最低。GaussDB 提供的全量 SQL 方案具备以下 4 个特点：

• 低风险。GaussDB 通过内存方式把日志信息全部读取完再转存到第三方，对数据库性能损耗不超过 5%。

• 低成本。GaussDB 不将全量 SQL 数据转存到本地 IO，而是直接转存到第三方，比如说云上的 OBS，并支持全量 SQL 的压缩，成本比较低。

• 高扩展。GaussDB 全量 SQL 会默认采集部分信息，如果这些信息不满足当前的诉求，可以进行扩展。

• 高安全。当需要将全量 SQL 转存到第三方设备上时，GaussDB 在转存过程中进行了默认的数据脱敏，确保数据安全的。

通过全链路监控，GaussDB 支持快速自动巡检。通过对可用性、可靠性、性能、资源使用趋势进行巡检，并输出巡检报告，可以查看当前存在的问题，并且给出一些相应建议。因此，通过上述全链路以及自动巡检的能力，GaussDB 可以做到快速感知。

四、GaussDB 智能诊断

下面我们看一下 GaussDB 在故障诊断方面有哪些能力？

• SQL 自诊断

我们基于离线+在线的方式进行 SQL 诊断，首先收集可能存在慢 SQL 的场景，包括 SQL 文本、SQL 执行时间以及扫描行数、返回行数，并收集跟数据库、操作系统或者是资源相关的关键指标，通过业务 SQL 信息和关键指标的信息，进行一个离线的训练，最终得到一个慢 SQL 特征库。

这个特征库有什么用呢？当我们在生产环境中遇到慢 SQL 问题，可以基于特征库和 KNN 算法进行在线推理，就诊断出 SQL 产生的原因，然后针对根因给出一些优化建议。

• SQL 全链路分析

之前有客户反馈，平时我们的 SQL 执行非常快，能在一秒内返回，但是最近经常为什么偶现执行超时了呢。我们业务人员通过查看每一层状况，从从客户端、数据库 CN、DN、操作系统等串行分析，发现这个偶现的问题可能是发生在某个分片上，这样的诊断效率非常低。

GaussDB 提供的 SQL 全链路监控分析能力则很好地解决了这个问题。它包括全链路追踪和聚合分析两方面，通过业务 SQL 关键字或客户端 traceID 等条件查询到数据库 SQLID，并追踪该 SQL 在数据库集群中的解析过程和执行耗时，以及每条 SQL 在集群中的转发、聚合情况，进而追踪到问题发生的源头。

• 多维指标关联分析

数据库运维过程中需要对大量指标进行监控，当其中某个或多个关键指标发生异常时，运维人员需要快速准确的定位到异常根因，以便决定下一步的操作。但是当指标数量很多的时候，筛选信息的工作量也会很庞大，因此我们需要一个高效的工具去解决这个问题。我们知道某些数据库指标之间是存在强关联性，通过有方向性的关联性算法，在异常发生时将同一时间段的指标进行比对，根据相关性的强弱将异常时间段内与关键指标相关的指标筛选出来，当前支持毛刺、持续增长、漂移、周期性等场景的检测算法，可以帮助运维人员迅速定位问题以及减轻运维人员的工作量，有助于我们锁定问题的根因。

• 趋势预测

在日常系统运维及故障处置实践中，负载的变化往往也蕴含着当前系统的亚健康及故障的影响反馈，基于传统的组件指标监控和告警在故障异常发现的及时性上具有挑战。GaussDB 通过建立对实例级关键指标的监控，基于历史数据和时序预测、异常检测等关键算法，对黄金 KPI 进行指标预测，发现异常信息，进而提醒用户采取措施，避免异常情况造成严重后果。

• 索引推荐

应用开发者在对 SQL 进行优化的过程中，索引优化是关键的优化内容，由于对性能分析、优化手段多方面复杂分析及实践门槛，对 SQL 优化带来了挑战。

索引推荐的核心方法是基于原生的词法和语法解析，对查询语句中的字句和谓词进行分析和处理，再结合字段选择度、聚合条件、多表 join 关系等输出最优的索引建议。GaussDB 提供索引推荐功能，给出索引推荐列表，以及每一个索引的正向和负向 SQL 的收益，识别当前数据库存在的冗余索引、无用索引，优化数据库查询速度。GaussDB 还提供了优化器评估能力，优化器评估能力提供了一个虚拟索引的能力，不需要真实创建索引，通过虚拟索引评估索引推荐的结果是不是合适。通过持续对索引配置进行优化，可以解决用户的负载漂移情况，及时发现索引不优、冗余索引，以便避免故障发生。

• SQL 会话查杀

应用开发的复杂逻辑可能导致人工难以发现的逻辑问题，出现异常 SQL，需要有对应手段帮助运维人员快速对异常会话进行查杀限制。GaussDB 应用平台提供了一个会话管理的能力，实时会话页面支持会话统计、活跃会话、会话锁分析、会话查杀等功能，帮助运维和管理人员快速掌握实例的会话信息，管理实例会话，并高效定位数据库会话连接相关人工难以发现的逻辑问题。

• SQL 限流和自治限流

我们可以想象一个场景，在数据库正常运行过程中，某一个应用上线了一个新功能，这个新功能引入了一个超级烂 SQL，导致数据库逐渐的从正常对外服务状态转为资源使用逐渐升高，大量的 SQL 因为获取不到线程、CPU 等资源而执行的速度变慢，最终导致业务异常。在遇到异常 SQL(如不优索引)、SQL 并发上升等场景下，对整个数据库的可服务性影响比较大，这时我们就可以通过对 SQL 精准化限流的方式进行抑制，保证业务能够正常运行。

GaussDB 提供的 SQL 限流提供了以下能力：

全局快慢车道。所谓全局快慢车道，就是定义两个资源池，一个是正常资源池，我们称为快车道，快车道提供大量的资源，正常业务在快车道运行，如果出现交通事故，这里的交通事故就是指异常的 SQL 业务。当出现交通事故时，我们可以通过页面一键将异常 SQL 放到慢车道中，慢车道限制了对资源的使用，这样交通事故处理完了，快车道可以继续保持高速运行。

单类 SQL 精准管控。对单类 SQL，从执行时间、IO 使用等角度进行精准管控，管控这类 SQL 的资源占用。起到紧急限流的作用。

内存熔断。提供内存上下限配置，内存使用超过最大内存上限后禁止新连接接入并 kill 当前会话，待内存恢复到内存下限后停止 kill 会话并允许新连接接入。

SQL 自治限流。提供按照一定的 SQL 规则，或者 CPU、内存等资源使用规则，来进行 SQL 的自治限流能力，避免对应类别的 SQL 拖慢整个数据库。

我们 GaussDB 运维中心还有很多其他的能力，会在 10 月份进行全新发布，届时大家可以体验，一起给我们提意见。

今天我分享的内容主要到这里，谢谢大家！

点击关注，第一时间了解华为云新鲜技术~