写点什么

【我和 openGauss 的故事】openGauss 主备架构及同步复制模式理论学习与验证测试

作者:daydayup
  • 2023-08-10
    北京
  • 本文字数:6578 字

    阅读完需:约 22 分钟

尚雷 [openGauss](javascript:void(0);) 2023-08-08 18:00 发表于四川


收录于合集 #第六届 openGauss 技术文章征集初审合格文章 62 个


备注:非常感谢在这研究本文相关内容中 openGauss 数据库官网 行尘(张旭博)老师在群里给予的知识点解答。

一、openGauss 主备架构

openGauss 支持多种主备部署方案,每种方式都有其适合的场景,每种方案也都有一定的优劣势,要根据不同的业务场景和安全需求选择最适合的架构方案,openGauss 主备架构主要支持如下几种方案:


1)单中心



2)同城双中心



3)两地三中心



4)两地三中心流式容灾方案



openGauss 自 1.0.0 版本开始支持 DN 主备。DN 是指数据库节点(Database Node)的缩写。数据库节点是 openGauss 分布式架构的基本组成单元,每个数据库节点都是一个独立的数据库实例,负责处理客户端请求和执行数据库操作。


AZ,全称为 Availability Zone,是云计算领域中常见的概念,特别是在云服务提供商(如 AWS、Azure、阿里云等)的架构中使用广泛。AZ 是云计算数据中心的物理隔离区域,每个 AZ 都是一个独立的、物理上隔离的数据中心,这些数据中心之间相互之间有高带宽、低延迟的连接。


在 openGauss 数据库的架构中,可以使用 AZ 来部署主备数据库实例,使其在不同的 AZ 中运行。这样,当某个 AZ 出现故障或不可用时,可以快速切换到其他 AZ 中的备用数据库实例,实现数据库的高可用性和容灾保护。使用 AZ 的架构可以大大提高系统的可靠性,确保服务的持续性和稳定性。

二、主备状态查看

可以使用 gs_om -t status --detail --all 命令来查看 openGauss 主备详细状态信息,如下所示:


[omm@opengauss-db1 ~]$ gs_om -t status --detail --all[  CMServer State   ]
node node_ip instance state-------------------------------------------------------------------------------1 opengauss-db1 10.110.3.155 1 /opt/gaussdb/install/cm/cm_server Primary2 opengauss-db2 10.110.3.156 2 /opt/gaussdb/install/cm/cm_server Standby
[ Cluster State ]
cluster_state : Normalredistributing : Nobalanced : Nocurrent_az : AZ_ALL
[ Datanode State ]
node node_ip instance state ------------------------------------------------------------------------------------1 opengauss-db1 10.110.3.155 6001 /opt/gaussdb/install/data/dn P Standby Normal2 opengauss-db2 10.110.3.156 6002 /opt/gaussdb/install/data/dn S Primary Normal
复制代码



我也是第一次注意到 CMServer State 和 Cluster State 的主备状态不是一一对应的,之前这套主备环境曾做过主备切换。于是就查询和向群里老师请教了解了下 CMServer State 和 Datanode State 的相关含义。


CMServer 和 Datanode 分别有自己的主备, 两个都可以数量不一样, 比如 node1、node2、node3 安装 CMServer,node2 和 node3 安装 DB。

1)CMServer State

CMServer 是 cm 的服务端,负责收集 CMA(Cluster Management Agent)【集群管理代理】上报的状态,并作为仲裁中心和全局配置中心,主备集群能否稳定运行以及在发生单点故障后,openGauss 备库能否正常切换为主库来保证集群的可用性,都与 CMServer 是否稳定有很紧密的关系。


CMServer 状态可能是如下几种状态中的一种:


Normal(正常状态): 集群管理服务器正常运行,能够管理和监控整个数据库集群的各个节点。


Degraded(降级状态): 集群管理服务器可能出现了部分功能的问题或故障,导致其功能降低。


Fault(故障状态): 集群管理服务器可能发生了严重的故障,导致无法正常管理和监控数据库集群。


Pending(待命状态): 集群管理服务器正在进行状态切换,可能是从备用服务器切换为主服务器,或者从主服务器降级为备用服务器。


Unknown(未知状态): 集群管理服务器的状态无法确定,可能是由于网络故障或通信问题导致状态不明确。

2)Datanode State

Datanode State(数据节点状态)是指数据库集群中每个数据节点的运行状态。数据节点是分布式数据库集群中的基本组成单元,负责存储数据和处理数据库操作。每个数据节点都可以是主节点或备节点,用于实现高可用性和容灾保护。


Datanode State 状态可能是以下几种状态的一种:


Primary(主节点): 数据节点被选举为主节点,负责处理客户端请求、执行事务以及维护数据的最新状态。


Standby(备节点): 数据节点作为备节点,实时复制主节点的数据,并可以在主节点故障时接管服务,保障数据库的持续可用性。


Pending(待命状态): 数据节点正在进行状态切换,可能是从备节点升级为主节点,或者从主节点降级为备节点。


Unknown(未知状态): 数据节点的状态无法确定,可能是由于网络故障或通信问题导致状态不明确。


Offline(离线状态): 数据节点不可用,可能是由于硬件故障、网络问题或其他原因导致节点无法正常运行。

三、复制模式

3.1 复制模式

openGauss 部署了主备环境后,可以通过在主库查询 pg_stat_replication 视图来获取当前复制模式的信息,记住是只能在主库查询到相关信息,在备库是查询不到的,如下所示:


-- openGauss 主库[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum(1 row)
复制代码



-- openGauss 备库[omm@opengauss-db1 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----+-------+-------------+---------------+------------(0 rows)
复制代码



和 PostGreSQL 原生数据库不同,使用 OM 部署的 openGauss 主备环境默认采用 Quorum 这种复制模式,而 PostGreSQL 采用的是 Async 复制模式。

3.2 Quorum 和 Async 差异

Quorum 和 Async 是用于实现数据复制和高可用性的两种不同策略,它们在数据一致性、可用性和性能方面有所不同。


两者的差异主要体现在如下方面:


同步复制 (Quorum)


  • Quorum 同步复制要求主服务器在提交事务之前,必须等待至少一定数量的备份服务器确认已成功写入相同的数据。

  • 这种方式确保了较高的数据一致性,因为事务只有在多个服务器都写入成功后才会提交。

  • 如果其中一个备份服务器发生故障,主服务器可能会等待其他备份服务器的确认,从而导致一些性能损失。

  • 由于需要等待确认,因此 Quorum 同步复制可能会对性能产生一定的影响,尤其是在网络延迟较大的情况下。


异步复制 (Async):


  • 异步复制允许主服务器提交事务后立即继续处理下一个事务,而不需要等待备份服务器的确认。

  • 这种方式可以提供较高的性能,因为主服务器不会被阻塞等待备份服务器的响应。

  • 由于备份服务器的确认并不是实时的,所以存在一定的数据风险。在主服务器发生故障时,可能会丢失尚未传输到备份服务器的数据。

  • 异步复制适用于那些对性能要求较高,但对数据一致性要求相对较低的场景。


总结:


  • Quorum 同步复制在数据一致性方面提供更高的保证,但可能会对性能产生影响。

  • Async 异步复制提供了更好的性能,但在某些情况下可能会导致数据丢失。


另外还需要注意的是,要实现 Quorum 同步复制,在 PostGreSQL 数据库中通常需要配置复制槽、设置同步级别等才够满足要求。

3.3 复制模式切换

3.3.1 查询复制模式

在 openGauss 数据库中,复制模式 sync_state 值是受到 synchronous_standby_names 参数配置的影响,使用 OM 方式部署的主备环境,synchronous_standby_names 默认是为 ANY,可以通过如下两种方式查询当前数据库环境 synchronous_standby_names 的值。


1)方式一


-- 查看 postgresql.conf 配置文件[omm@opengauss-db2 dn]$ cat /opt/gaussdb/install/data/dn/postgresql.conf|grep -i synchronous_standby_names synchronous_standby_names = 'ANY 1(dn_6001)'    # standby servers that provide sync rep
复制代码



2)方式二


-- 主库数据库查询,备库是查询不到信息  -- 主库查询[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# SELECT current_setting('synchronous_standby_names') AS synchronous_standby_names; synchronous_standby_names --------------------------- ANY 1(dn_6001)(1 row)
-- 备库查询[omm@opengauss-db1 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# SELECT current_setting('synchronous_standby_names') AS synchronous_standby_names; synchronous_standby_names --------------------------- (1 row)
复制代码




synchronous_standby_names 值设置为 ‘ANY 1(dn_6001)’ any 意味着是潜在备库, 保证后面有 Any N 个是同步模式, 按照当前部署的一主一备这套主备环境,any 1 且只有一个备机, 表示就是同步备。


openGauss 若通过 OM 安装生成,默认会设置 n / 2 个实例作为同步备。

3.3.2 切换复制模式

可以通过 gs_guc 命令进行复制模式的切换,gs_guc 命令要在主库进行,无需重启主备数据库,若在备库执行,执行不会报错,但不会生效。synchronous_standby_names 设置为空,即将复制模式从 Quorum 切换至 Async 模式。


gs_guc 设置的命令为:gs_guc reload -D <datanode_dir> -c “synchronous_standby_names=’’”


实现操作如下:


-- openGauss 主库执行[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum(1 row)
openGauss=# \q[omm@opengauss-db2 ~]$ gs_guc reload -D /opt/gaussdb/install/data/dn -c "synchronous_standby_names=''"The gs_guc run with the following arguments: [gs_guc -D /opt/gaussdb/install/data/dn -c synchronous_standby_names='' reload ].expected instance path: [/opt/gaussdb/install/data/dn/postgresql.conf]gs_guc reload: synchronous_standby_names='': [/opt/gaussdb/install/data/dn/postgresql.conf]server signaled
Total instances: 1. Failed instances: 0.Success to perform gs_guc!
[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 0 | Async(1 row)
复制代码



若希望从 Async 重新切换至 Quorum 模式,可通过如下操作执行:


gs_guc reload -D <datanode_dir> -c “synchronous_standby_names=‘ANY X(dn_600XXX)’”


实验操作如下:


-- openGauss 主库执行[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 0 | Async(1 row)
openGauss=# \q[omm@opengauss-db2 ~]$ gs_guc reload -D /opt/gaussdb/install/data/dn -c "synchronous_standby_names='ANY 1(dn_6001)'"The gs_guc run with the following arguments: [gs_guc -D /opt/gaussdb/install/data/dn -c synchronous_standby_names='ANY 1(dn_6001)' reload ].expected instance path: [/opt/gaussdb/install/data/dn/postgresql.conf]gs_guc reload: synchronous_standby_names='ANY 1(dn_6001)': [/opt/gaussdb/install/data/dn/postgresql.conf]server signaled
Total instances: 1. Failed instances: 0.Success to perform gs_guc!
[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pid,state,client_addr,sync_priority,sync_state from pg_stat_replication; pid | state | client_addr | sync_priority | sync_state -----------------+-----------+--------------+---------------+------------ 140128500840192 | Streaming | 10.110.3.155 | 1 | Quorum(1 row)
复制代码


四、恢复模式

pg_is_in_recovery 是 postGreSQL 的一个内置函数,openGauss 继承了 postGreSQL,也含有这个函数,pg_is_in_recovery 函数用来判断当前数据库实例是否处于恢复模式。


恢复模式是指数据库正在应用 WAL(Write-Ahead Log)日志以将备份的数据与主数据库同步。这通常发生在实施数据库恢复、故障切换或主备切换的过程中。在恢复模式下,数据库实例不能执行写操作,只能执行只读操作。


pg_is_in_recovery()函数返回一个布尔值,如果返回 true,则表示数据库当前处于恢复模式;如果返回 false,则表示数据库处于正常运行模式。


可以通过如下方式查询主备库的恢复模式。


-- 主库[omm@opengauss-db2 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pg_is_in_recovery(); pg_is_in_recovery ------------------- f(1 row)
复制代码



[omm@opengauss-db1 ~]$ gsql -d postgres -p 26000gsql ((openGauss 5.0.0 build a07d57c3) compiled at 2023-03-29 03:07:56 commit 0 last mr  )Non-SSL connection (SSL connection is recommended when requiring high-security)Type "help" for help.
openGauss=# select pg_is_in_recovery(); pg_is_in_recovery ------------------- t(1 row)
复制代码



用户头像

daydayup

关注

还未添加个人签名 2023-07-18 加入

还未添加个人简介

评论

发布
暂无评论
【我和openGauss的故事】openGauss 主备架构及同步复制模式理论学习与验证测试_daydayup_InfoQ写作社区