写点什么

MySQL 分区表简介

作者:
  • 2022 年 1 月 18 日
  • 本文字数:3255 字

    阅读完需:约 11 分钟

MySQL分区表简介

一、背景

我们的业务只存近一段时间的数据,因此有大量表需要清理历史数据,目前使用的 delete 清理数据,存在以下问题。为避免同时支持大量 delete,我们的清理任务只在低峰期串行执行,导致任务过多时需要排队,甚至失败的情况;数据清理使用 delete 语句,表数据量较大时,对数据库造成很大压力;即使我们删除了旧数据,已删除数据任占据存储空间,底层数据文件并没有立刻变小,以至于形成数据空洞。

查看 MySQL 官方文档时,发现了分区表,因此基于官方文档总结一下。

二、什么是分区表?

MySQL 逻辑上为一个表,物理上存储在多个文件中,这是 MySQL 支持的功能(5.1 开始), 8.0 版本只 InnoDB 和 NDB 支持分区表。

三、分区表有啥优缺点?

优点:

  • 和单个磁盘或文件系统分区相比,可以存储更多的数据。

  • 优化查询:

  • where 子句中包含分区条件时,可以只扫描必要的分区。

  • 涉及聚合函数的查询时,可以容易的在每个分区上并行处理,最终只需汇总得到结果。

  • 对于已经过期或者不需要保存的数据,可以通过删除与这些数据有关的分区来快速删除数据。

  • 跨多个磁盘来分散数据查询,以获得更大的查询吞吐量。

缺点:

  • 新建、删除分区操作的时候,会获取表的MDL锁,这是一把全局锁,可能会对业务产生慢查的影响;

  • 分区表在执行 alter 语句时,比如增加、删除分区,更容易出现 MDL 锁冲突,引起慢查等情况;

  • InnoDB 分区表不支持外键

四、分区类型

4.1 Range 分区

根据分区表键值的范围把数据行存储到表的不同分区中,适用于以时间或日期作为分区类型,方便数据清理。

CREATE TABLE employees (       id INT NOT NULL,       fname VARCHAR(30),       lname VARCHAR(30),       hired DATE NOT NULL DEFAULT '1970-01-01',       separated DATE NOT NULL DEFAULT '9999-12-31',       job_code INT NOT NULL,       store_id INT NOT NULL )   PARTITION BY RANGE (store_id) (         PARTITION p0 VALUES LESS THAN (6),         PARTITION p1 VALUES LESS THAN (11),         PARTITION p2 VALUES LESS THAN (16),         PARTITION p3 VALUES LESS THAN (21)   ); -- 使用函数将日期转换 CREATE TABLE employees_1 (       id INT NOT NULL,       fname VARCHAR(30),       lname VARCHAR(30),       hired DATE NOT NULL DEFAULT '1970-01-01',       separated DATE NOT NULL DEFAULT '9999-12-31',       job_code INT NOT NULL,       store_id INT NOT NULL )   PARTITION BY RANGE (year(hired)) (         PARTITION p0 VALUES LESS THAN (6),         PARTITION p1 VALUES LESS THAN (11),         PARTITION p2 VALUES LESS THAN (16),         PARTITION p3 VALUES LESS THAN (21) ); -- 使用date 或 datetime 例作为分区例时 可使用 RANGE COLUMNS 对表进行分区 CREATE TABLE employees_2 (       id INT NOT NULL,       fname VARCHAR(30),       lname VARCHAR(30),       hired DATE NOT NULL DEFAULT '1970-01-01',       separated DATE NOT NULL DEFAULT '9999-12-31',       job_code INT NOT NULL,       store_id INT NOT NULL )   PARTITION BY RANGE COLUMNS (hired) (         PARTITION p0 VALUES LESS THAN ('1970-01-01'),         PARTITION p1 VALUES LESS THAN ('1971-01-01'),         PARTITION p2 VALUES LESS THAN ('1972-01-01'),         PARTITION p3 VALUES LESS THAN ('1973-01-01')   );
复制代码

小提示:

1.当插入数据分区不存在时会报错:Table has no partition for value xxx;

2.Range 类型分区字段必须是数值,时间类型可用函数转换为数值;

3.分区字段列值可以为 null,所有为 null 的数据将存在最小的分区中;

4.2 List 分区

按分区键取值的列表进行分区,每一行数据须找到对的分区列表,否则数据插入失败

CREATE TABLE employees (         id INT NOT NULL,         fname VARCHAR(30),         lname VARCHAR(30),         hired DATE NOT NULL DEFAULT '1970-01-01',         separated DATE NOT NULL DEFAULT '9999-12-31',         job_code INT,         store_id INT )     PARTITION BY LIST(store_id) (         PARTITION pNorth VALUES IN (3,5,6,9,17),         PARTITION pEast VALUES IN (1,2,10,11,19,20),         PARTITION pWest VALUES IN (4,12,13,14,18),        PARTITION pCentral VALUES IN (7,8,15,16));
复制代码

小提示:

  1. List 分区表不存在 MAXVALUE 之类的,所以在设计时一定要全面评估,否则分区不存在时写入会报错;

  2. 可以显示指定一个 null 分区,eg: pxx values in (null);

  3. 如果没有指定 null 分区时,分区字段值为 null 会报错:Table has no partition for value NULL;

4.3 Hash 分区

根据指定分区表达式的整数值以及分区数进行数据划分(mod 函数)

CREATE TABLE employees_hash (       id INT NOT NULL,       fname VARCHAR(30),       lname VARCHAR(30),       hired DATE NOT NULL DEFAULT '1970-01-01',       separated DATE NOT NULL DEFAULT '9999-12-31',       job_code INT,     store_id INT )   PARTITION BY HASH(store_id) PARTITIONS 4;
复制代码

小提示:

  1. 当分区表达式输出为 null 时,被当做 0 处理;

4.4 Key 分区

按键分区类似于按哈希分区,只是哈希分区使用用户定义的表达式,用于键分区的哈希函数由 MySQL 服务器提供。NDB 集群为此使用 MD5() ; 对于使用其他存储引擎的表,服务器使用自己的内部哈希函数。

CREATE TABLE k1 (       id INT NOT NULL,       name VARCHAR(20),       UNIQUE KEY (id) )   PARTITION BY KEY() PARTITIONS 2;
复制代码

小提示:

  1. 分区字段不填写时,可以不填写分区字段,优先使用主键作为分区字段,其次是唯一键;没有主键或唯一键时,分区字段必填

  2. 分区字段可以是非整数或 null 值;

  3. 当分区表达式输出为 null 时,被当做 0 处理;

4.3 子分区

子分区(subpartitioning)也称为复合分区(composite partitioning) ,是已分区表中每个分区的进一步划分

CREATE TABLE ts (  id INT,   purchased DATE)       PARTITION BY RANGE( YEAR(purchased) )      SUBPARTITION BY HASH( TO_DAYS(purchased) )       SUBPARTITIONS 2 (             PARTITION p0 VALUES LESS THAN (1990),             PARTITION p1 VALUES LESS THAN (2000),             PARTITION p2 VALUES LESS THAN MAXVALUE      );
复制代码

小提示:

  1. 每个分区必须具有相同数量的子分区;

五、分区管理

5.1 Range 和 List

-- 增加分区 alter table employees_list add partition (partition pxx values in (null));  ALTER TABLE tt ADD PARTITION (PARTITION p2 VALUES IN (7, 14, 21)); -- 删除分区 ALTER TABLE employees_list DROP PARTITION pxx; -- 将一个分区分为多个分区 ALTER TABLE employees_3  REORGANIZE PARTITION employees_list INTO (           PARTITION n0 VALUES LESS THAN (1970), PARTITION n1 VALUES LESS THAN (1980) ); -- 清空分区ALTER TABLE employees_3 TRUNCATE PARTITION pxx; 
复制代码

5.2 Hash 和 Key 分区

-- 缩减n个分区 ALTER TABLE employees_hash COALESCE PARTITION 4; -- 增加n个分区 ALTER TABLE employees_hash ADD PARTITION PARTITIONS 6;
复制代码

小提示:

  1. 使用 COALESCE 减少分区数时,不能减少至 0;


六、指定分区查询

-- 可以指定分区号或以分区字段作为条件 select * from employees_hired PARTITION (p2021) where store_id = 551 and hired >= '2020-12-31' and hired <= '2021-01-01'
复制代码

七、分区表注意事项

  1. PRIMARY KEY、UNIQUE KEY 必须包含分区字段;

  2. 分区表达式支持函数,但不是所有函数都支持,存储过程、存储函数、可加载函数和插件都不支持,算术运算符支持 +、- 、* 、div,不支持"/",位运算也不支持;

  3. MySQL 8.0 仅 InnoDB 和 NDB 支持分区表,其他 engine 不支持;

  4. range 分区中,null 值会被当作最小值来处理;

  5. list 分区中,null 值必须出现在枚举列表中,否则不被接受;

  6. hash/key 分区中,null 值会被当作零值来处理。

发布于: 刚刚阅读数: 3
用户头像

关注

还未添加个人签名 2020.08.25 加入

还未添加个人简介

评论

发布
暂无评论
MySQL分区表简介