写点什么

GreatSQL 8.0.32-27 GA (2025-3-10)

作者:GreatSQL
  • 2025-03-10
    福建
  • 本文字数:6161 字

    阅读完需:约 20 分钟

GreatSQL 8.0.32-27 GA (2025-3-10)

版本信息

  • 发布时间:2025 年 3 月 10 日

  • 版本号:8.0.32-27, Revision aa66a385910

  • 下载链接:https://gitee.com/GreatSQL/GreatSQL/releases/tag/GreatSQL-8.0.32-27

  • 用户手册:https://greatsql.cn/docs/8.0.32-27/

改进提升

在 GreatSQL 8.0.32-27 版本中新增高性能并行查询引擎 Turbo,升级 Rapid 引擎内核版本,优化 MGR 大事务压缩传输机制,完善 greatdb_ha plugin,InnoDB Page 支持 Zstd 压缩,完善 Oracle 兼容特性,完善安全性等,并修复了几个可能导致 crash 或丢数据的 bug。

高可用

  • 优化了 MGR 大事务传输时压缩超过限制的处理机制。


在 MGR 中有大事务超过group_replication_compression_threshold阈值时会进行 LZ4 压缩,但由于 LZ4 自身限制,可能导致压缩失败报错,事务执行失败,报告类似下面的错误


[GCS] Gcs_packet's payload is too big. Only packets smaller than 2113929216 bytes can be compressed. Payload size is 2197817290
复制代码


GreatSQL 对此机制进行调整优化,实现以下两点目标:


  1. 当事务大小超过group_replication_compression_threshold阈值则启动压缩。

  2. 但当事务大小超过 LZ4 压缩限制时不再报错,改成继续使用原始未压缩的事务数据进行传输,即类似设置group_replication_compression_threshold=0(不启用压缩)时的效果。


  • 新增状态变量Rpl_data_speed显示当前 Binlog 限速的状态,可以通过执行SHOW GLOBAL STATUS LIKE 'Rpl_data_speed'查看,例如


greatsql> SHOW GLOBAL STATUS LIKE 'Rpl%spee%';+----------------+------------------+| Variable_name  | Value            |+----------------+------------------+| Rpl_data_speed | async_rpl=100.00 |+----------------+------------------+
复制代码


表示当前的 Binlog 读取限速为 100KB/s,更多详细用法请参考:Binlog 读取限速 https://greatsql.cn/docs/8.0.32-27/5-enhance/5-2-ha-binlog-speed-limit.html


  • 在 greatdb_ha plugin 中,增加对参数greatdb_ha_port相应的 TCP 端口进行防御,避免用户端发送非法指令后可能导致 crash 的风险。

  • 修复了启用 greatdb_ha plugin 时,可能因为 Linux 系统函数 FD_SET 中当遇到文件描述符超过 1024 时导致未定义行为而引发 crash 的问题。

  • 修复了 greatdb_ha plugin 中启用 VIP 功能后,可能存在内存泄漏风险的问题。

  • 修复了在主备两套 MGR 集群间部署主从复制后,当备用集群主节点意外宕机时,可能无法退出进程的问题。

  • 修复了在主备两套 MGR 集群间部署主从复制后,当备用集群主节点执行kill -19操作杀掉 mysqld 进程,在故障恢复后,Slave 节点上的 sql_thread 线程可能长时间未能退出的问题。

高性能

  • 新增高性能并行查询引擎 Turbo,它通过内嵌 DuckDB,使 GreatSQL 具备多线程并发的向量化查询功能,在实现指数级提升加速 SQL 查询速度的同时,保持对 GreatSQL 生态系统的兼容性。相较于 Rapid 引擎,Turbo 引擎不需要将数据加载到引擎中,而是在查询过程中,直接并行抽取数据供 Turbo 引擎使用。


首先安装 Turbo 引擎


greatsql> INSTALL PLUGIN turbo SONAME 'turbo.so';
复制代码


就可以直接利用 Turbo 引擎大幅提升 SQL 查询效率


greatsql> SELECT /*+ SET_VAR(turbo_enable=ON) SET_VAR(turbo_cost_threshold=0)*/ * FROM t1;
复制代码


关于 Turbo 引擎更详细的使用方法请参考:Turbo 引擎 https://greatsql.cn/docs/8.0.32-27/5-enhance/5-1-highperf-turbo-engine.html


  • 升级 Rapid 引擎内核到正式 GA 版本,新版本在存储格式稳定性、查询语义一致性等方面的重大突破,为用户提供了强有力的稳定性保证。注意,在新版本中采用新的文件存储格式,和之前的版本不兼容,因此无法从 GreatSQL 8.0.32-25 或 8.0.32-26 版本直接平滑升级到 GreatSQL 8.0.32-27,需要先删除旧的 Rapid 引擎数据文件,再次执行全量导入数据,重新启动增量导入任务。详细升级方式请见下方:升级到 GreatSQL 8.0.32-27。

  • 在新版本的 Rapid 引擎中,最大可使用并行逻辑 CPU 核数上限为 4 个,如果需要获得更高并发性能,可以联系我们提供解决方案。

  • 修复了 Rapid 引擎中一次性删除大批量数据后,查看增量导入任务进度时,DELAY 字段显示不准确的问题。

  • 修复了在存储过程中使用EXPLAIN查看 Rapid 表执行计划时,显示无法使用 Rapid 引擎实际上却可以使用的错误问题。

  • 修复 Rapid 引擎中未先完成一次全量导入任务,而是直接启动增量导入任务发生失败报错后,重启实例后无法正常启动的问题。正常地,正确的做法是先完成一次全量导入后,再启动增量导入任务。

  • 修复 Rapid 引擎参数rapid_worker_threads设置问题。当将其设置超过最大值后,再重新设置除默认值之外的其他合法值都会报错,需要重新装载 Rapid 引擎或重启数据库后才恢复正常。

  • 移除 Rapid 引擎参数rapid_hash_table_memory_limit,不再使用。

  • 读取 Rapid 表数据时,error log 中不再打印类似下方的冗余信息。


[Note] [MY-011825] [InnoDB] thread 62 handle range count: 34 total rows: 2449266[Note] [MY-011825] [InnoDB] thread 63 handle range count: 21 total rows: 1648443[Note] [MY-011825] [InnoDB] total fetch rows count: 150000000
复制代码


  • 修复 Rapid 引擎对表中存在虚拟列时的处理方案。在以前,当表中存在虚拟列时,执行ALTER TABLE ... SECONDARY_LOAD不会报错,但在执行SELECT ... /*+ SET_VAR(use_secondary_engine=FORCED) */ 时会报错不支持。在新版本中,当发现表中存在虚拟列时,执行ALTER TABLE ... SECONDARY_LOAD直接报告下面的错误表示不支持:


ERROR 3106 (HY000): 'Rapid engine' is not supported for generated columns.
复制代码


  • 在使用 Rapid 引擎时,如果出现不支持的数据类型,返回的错误提示中增加更明确的错误,如下例所示


greatsql> CREATE TABLE t1 (  id int unsigned not null primary key,  c1 int unsigned not null,  c2 decimal(65,30) DEFAULT NULL) SECONDARY_ENGINE=rapid;Query OK, 0 rows affected (0.02 sec)
-- 下面的报错信息中,明确提示 c2 列的数据类型不支持greatsql> ALTER TABLE t1 SECONDARY_LOAD;ERROR 3877 (HY000): The field c2 type is not supported
复制代码

高兼容

  • TO_DATE 函数中新增支持INTERVAL 'n' DAY运算用法。例如


greatsql> SELECT TO_DATE('20250212','YYYYMMDD') + (INTERVAL '-1' DAY) AS LASTDAY FROM DUAL;+---------------------+| LASTDAY             |+---------------------+| 2025-02-11 00:00:00 |+---------------------+
复制代码


  • 优化TO_NUMBER函数在大数据量时的执行效率,性能可提升数倍。

  • 修复了REF CURSOR在执行过程中表结构发生变化时可能导致报错的问题。

  • 优化动态游标内存管理机制,在动态游标END LOOP执行完后及时释放内存。

  • 修复了当源表为单行伪表时,MERGE INTO语句更新目标表失败,导致执行结果和在 Oracle 中不一致的问题。

高安全

  • 修复最后登录信息功能中由于未处理 Binlog 可能导致主从异常问题。

  • 修复审计日志入表功能中由于未处理 Binlog 可能导致主从异常问题。

  • 修复了审计日志入表功能中,安装和卸载 SQL 脚本中前后函数名不一致问题。

  • 修复了在设置sql_log_bin=ON的时候,本应该禁止修改审计日志表sys_audit.audit_log,却可以更新修改的问题。

其他

  • InnoDB Page 压缩算法支持 Zstd, 使得 Page 压缩率进一步得到提高,尤其是当表中有大量重复字符类型数据时。可以在创建新表时指定 Page 压缩算法,例如


greatsql> CREATE TABLE `t1_zstd` (  `id` int NOT NULL,  `c1` varchar(20) NOT NULL,  `c2` varchar(30) NOT NULL,  `c3` datetime NOT NULL,  `c4` varchar(30) NOT NULL,  PRIMARY KEY (`id`),  KEY `idx_c3` (`c3`)) ENGINE=InnoDB COMPRESSION='zstd';
复制代码


也可以执行ALTER TABLE修改表的 Page 压缩算法,例如


greatsql> ALTER TABLE t1 COMPRESSION='zstd';
复制代码


更多关于 InnoDB Page 压缩的使用方法请参考:InnoDB Page 压缩 https://greatsql.cn/docs/8.0.32-27/5-enhance/5-5-innodb-page-compression.html

缺陷修复

  • 修复了特定情况下,执行EXPLAIN FORMAT=TREE可能导致 crash 的问题

  • 详见:Issue#IAL5KK https://gitee.com/GreatSQL/GreatSQL/issues/IAL5KK

  • 合并了 MySQL 8.0.38 中的 bug fix,对应 bug id:

  • #36204344:https://dev.mysql.com/doc/relnotes/mysql/8.0/en/news-8-0-38.html

  • #36356279:https://dev.mysql.com/doc/relnotes/mysql/8.0/en/news-8-0-38.html

  • 合并了针对特定情况下执行ALTER TABLE可能导致丢失一行数据的问题,合并了 Percona 团队提交的 bug fix,对应的 bug id:

  • #113812 https://bugs.mysql.com/bug.php?id=113812

  • #115511 https://bugs.mysql.com/bug.php?id=115511

  • #115608 https://bugs.mysql.com/bug.php?id=115608

注意事项

升级/降级到 GreatSQL 8.0.32-27

升级到 GreatSQL 8.0.32-27

  • 如果旧版本是 GreatSQL 8.0.32-25 或 8.0.32-26,并且没有使用 Rapid 引擎,则可以直接在原来的datadir基础上,修改basedir后,原地(in-place)启动 GreatSQL 8.0.32-27 后会完成自动升级。

  • 如果旧版本是 GreatSQL 8.0.32-25 或 8.0.32-26,并且已启用 Rapid 引擎,这种情况下无法原地升级,需要卸载所有 Rapid 引擎表,删除 Rapid 数据文件,之后才可以直接在原来的datadir基础上,修改basedir后,原地(in-place)启动 GreatSQL 8.0.32-27 后会完成自动升级。新版本实例启动后,对所有 Rapid 引擎表执行ALTER TABLE SECONDARY_LOAD完成全量数据导入,再执行SELECT START_SECONDARY_ENGINE_INCREMENT_LOAD_TASK()启动增量导入任务,完成 Rapid 引擎表升级工作。下面是一个升级参考过程:


  1. 查询并记录所有 Rapid 引擎表


可以执行下面的 SQL,查询当前有哪些表使用了 Rapid 引擎:


greatsql> SELECT TABLE_SCHEMA, TABLE_NAME, TABLE_ROWS FROM information_schema.TABLES WHERE CREATE_OPTIONS LIKE '%Rapid%';+--------------+----------------+------------+| TABLE_SCHEMA | TABLE_NAME     | TABLE_ROWS |+--------------+----------------+------------+| tpch100g     | customer       |   14854987 || tpch100g     | lineitem       |  582868392 || tpch100g     | nation         |         25 || tpch100g     | orders         |  148492582 || tpch100g     | part           |   19943155 || tpch100g     | partsupp       |   79832625 || tpch100g     | region         |          5 || tpch100g     | supplier       |     989416 |+--------------+----------------+------------+
复制代码


  1. 正常停止 GreatSQL 实例进程


在停止 GreatSQL 实例进程前,先修改innodb_fast_shutdown=0后再执行SHUTDOWN停止实例


greatsql> SET GLOBAL innodb_fast_shutdown=0;greatsql> SHUTDOWN;
复制代码


  1. 删除旧的 Rapid 引擎数据文件


cd /data/GreatSQL && rm -f duckdb*
复制代码


  1. 修改my.cnf配置文件中的basedir参数,指向 GreatSQL 8.0.32-27 新版本


#my.cnf[mysqld]basedir=/usr/local/GreatSQL-8.0.32-27-Linux-glibc2.28-x86_64
复制代码


并确保参数upgrade不是设置为 NONE


  1. 启动 GreatSQL 8.0.32-27 新版本实例


systemctl start greatsql
复制代码


  1. 重新安装 Rapid 引擎


greatsql> INSTALL PLUGIN rapid SONAME 'ha_rapid.so';
复制代码


  1. 对 Rapid 引擎表做一次全量数据导入


greatsql> ALTER TABLE test.t1 SECONDARY_LOAD;
复制代码


小贴士:由于在升级前没有去掉该表的SECONDARY_ENGINE=rapid属性,所以无需重新设置。如果在升级前卸载所有 Rapid 引擎表,则需要重新设置。


  1. 再次启动增量导入任务


greatsql> SELECT START_SECONDARY_ENGINE_INCREMENT_LOAD_TASK('test', 't1');
复制代码


这就完成 Rapid 引擎表的升级操作了。


  • 如果旧版本是 GreatSQL 8.0.32-24、8.0.25-*、5.7.36-39 等系列版本,则可以直接在原来的datadir基础上,修改basedir后,原地(in-place)启动 GreatSQL 8.0.32-27 后会完成自动升级。

  • 如果是 MySQL 8.0.(<= 8.0.32 版本)、Percona Server 8.0.(<= 8.0.32 版本)等系列版本,则可以直接在原来的datadir基础上,修改basedir后,原地(in-place)启动 GreatSQL 8.0.32-27 后会完成自动升级。

  • 如果是 MySQL 8.0.(> 8.0.32 版本)、Percona Server 8.0.(> 8.0.32 版本)等系列版本,则需要利用逻辑备份方式导出数据,再导入的方式完成升级,不支持原地(in-place)升级到 GreatSQL 8.0.32-27。

  • 如果是 MySQL 5.7.(>= 5.7.23 版本)、Percona Server 5.7.(<= 5.7.23 版本)等系列版本,则可以直接在原来的datadir基础上,修改basedir后,原地(in-place)启动 GreatSQL 8.0.32-27 后会完成自动升级。


在以上几个原地升级场景中,务必保证my.cnf中参数upgrade不能设置为 NONE,可以设置为默认的 AUTO FORCE。例如:


#my.cnf[mysqld]upgrade = AUTO
复制代码


更多迁移升级方案请参考:迁移升级 https://greatsql.cn/docs/8.0.32-27/7-migrate-and-upgrade/0-migrate-and-upgrade.html

降级到 GreatSQL 8.0.32-27

如果是要从 MySQL/Percona 8.0.32 之后的版本降级到 GreatSQL 8.0.32-27 版本,则需要采取逻辑备份 + 逻辑导入方式完成降级操作,并且在逻辑备份导入完成后的首次重启时,务必设置 upgrade = FORCE 强制升级所有数据表,包括系统表。


降级过程操作大致如下所示:


  1. 在高版本中逻辑备份全量数据


mysqldump -S/data/MySQL/mysql.sock -A --triggers --routines --events --single-transaction > /data/backup/fulldump.sql
复制代码


  1. 在 GreatSQL 8.0.32-27 版本环境中导入逻辑备份文件,完成逻辑恢复


mysql -S/data/GreatSQL/mysql.sock -f < /data/backup/fulldump.sql
复制代码


  1. 修改my.cnf,确保设置upgrade=FORCE


#my.cnf[mysqld]upgrade = FORCE
复制代码


  1. 重启 GreatSQL,降级完成


systemctl restart greatsql
复制代码


重启过程中,可以看到日志有类似下面的强制升级过程


[Note] [MY-013387] [Server] Upgrading system table data.[Note] [MY-013385] [Server] Upgrading the sys schema.[Note] [MY-013400] [Server] Upgrade of help tables started.[Note] [MY-013400] [Server] Upgrade of help tables completed.[Note] [MY-013394] [Server] Checking 'mysql' schema.[Note] [MY-013394] [Server] Checking 'sys' schema.[System] [MY-013381] [Server] Server upgrade from '80032' to '80032' completed.
复制代码


如果不设置 upgrade = FORCE 强制升级所有表,有可能发生系统表 mysql.procs_priv 损坏错误,在创建用户时可能会报告类似下面的错误:


greatsql> create user tpch identified by 'tpch';ERROR 1728 (HY000): Cannot load from mysql.procs_priv. The table is probably corrupted
复制代码

GreatSQL vs MySQL


GreatSQL 8.0.32-27 基于 Percona Server for MySQL 8.0.32 版本,它在 MySQL 8.0.32 基础上做了大量的改进和提升以及众多新特性,详情请见:Percona Server for MySQL feature comparison,这其中包括线程池、审计、数据脱敏等 MySQL 企业版才有的特性,以及 performance_schema 提升、information_schema 提升、性能和可扩展性提升、用户统计增强、PROCESSLIST 增强、Slow Log 增强等大量改进和提升,这里不一一重复列出。

GreatSQL Release Notes

GreatSQL 8.0

GreatSQL 5.7

发布于: 2025-03-10阅读数: 2
用户头像

GreatSQL

关注

GreatSQL社区 2023-01-31 加入

GreatSQL是由万里数据库维护的MySQL分支,专注于提升MGR可靠性及性能,支持InnoDB并行查询特性,是适用于金融级应用的MySQL分支版本。 社区:https://greatsql.cn/ Gitee: https://gitee.com/GreatSQL/GreatSQL

评论

发布
暂无评论
GreatSQL 8.0.32-27 GA (2025-3-10)_GreatSQL_InfoQ写作社区