写点什么

bytebase 让你爱上 tidb 的开源审核神器。

  • 2023-03-31
    北京
  • 本文字数:5296 字

    阅读完需:约 17 分钟

作者: tidb 狂热爱好者原文来源:https://tidb.net/blog/f7e5e4b1


  • 保证 tidb 运行,首先要缩小数据库容量。保证每个 sql 只需要查询他当前需要查询的内容。尽量取更少的数据,节约单个 tikv 的 io。

  • 使用分页、分表、分区等技术,控制单表的数据量和查询范围 这种就是保证读取的少

  • 使用缓存、读写分离、集群等技术,提高并发处理能力和可用性

  • 根据业务特点和数据类型,设计合理的数据模型和架构

  • 定期清理过期或无用的数据,避免数据膨胀 只保留一个月

  • 存储引擎、索引等,减少数据访问和存储的开销 – 重要的是别用 varchar。如果一定要用 varchar 保持在 100 以内。 数据库大了不好处理。varchar 最容易使数据库增大。utfmb4 是一个汉字用四个字节存储的。以上所有工作都是为了保证数据不膨胀太大。之前 oracle 数据库超过 100t 就无法维护了就是这个原因。mysql 不能超过 1t。虽然说 tidb 的容量可以无限扩产,但查询有代价。表太大了性能就差。


工作流程:


dev 环境接入审核机制。


每个 sql 有审核,审核有据可查。多人负责能找到责任人。


对于 ddl 表单,是查看一些表设计是否符合规范。可以自己建立一套 sql 审核体系。


对于 dml 保证有据可查是谁改的。改错了可以快速回退。


对于 ddl 的变动 dev–》test–〉stg–》prod


执行时间限制 dev2 秒 –》test 2 秒 –〉stg 2 秒 –》prod 10 秒


把运行卡顿的 sql 拒绝在门外。你可以限制执行时间。也可以记录慢 sql 让开发改造。在没有修复慢 sql 前不准上线。因为每到一个新的环境执行的成本就越高。其实可以做物理上的限制来要求开发的 sql 性能要好。比如 dev 环境 2 个核心的 1tidb,1tikv,test 环境 4 核心 1tidb,1tikv,stg8 核心 2tidb,3tikv


具体的步骤:


根据我的搜索结果,bytebase 是一个数据库管理平台,可以帮助你管理 mysql 的架构变更、备份、记录变更历史等。它也支持 sql 审核、sql 建议、sql 编辑器、gitops 工作流等功能,可以提高你的数据库开发和维护效率。


如果你想使用 bytebase 优化 mysql 的字段类型、字符集、存储引擎、索引等,你可以参考以下的步骤: - 在 bytebase 中创建一个 mysql 数据库实例,并连接到你的数据库服务器 - 在 bytebase 中创建一个数据库项目,并选择你要优化的数据库 - 在 bytebase 中创建一个变更请求(migration request),并编写 sql 语句来修改你的表结构。 - 在 bytebase 中提交变更请求,并等待 sql 审核和执行 - 在 bytebase 中查看变更请求的执行结果和变更历史 - 避免使用不走索引的查询条件,如模糊查询、in、or、null 等,或者使用 union、exists、between 等替代。


  • 避免在 where 条件中使用表达式或函数,避免使用 text、blob 等大字段


  • 使用 explain 分析线上慢的查询执行计划,优化 sql 语句的结构和逻辑


这个可以做成自动化的。我分另外一期讲。


剩下的就是指定 sql 审核规范。这个可以通过 bytebase 来限制。


  • 遵循一些命名、建表、索引等规范,保证数据库的可维护性和可扩展性

一、建表规约

1.【强制】表达是与否概念的字段,必须使用 is_xxx 的方式命名,数据类型是 unsigned tinyint( 1 表示是,0 表示否)。说明:任何字段如果为非负数,必须是 unsigned。正例:表达逻辑删除的字段名 is_deleted,1 表示删除,0 表示未删除。


2.【强制】表名、字段名必须使用小写字母或数字,禁止出现数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因为无法进行预发布,所以字段名称需要慎重考虑。说明:MySQL 在 Windows 下不区分大小写,但在 Linux 下默认是区分大小写。因此,数据库名、表名、字段名,都不允许出现任何大写字母,避免节外生枝。正例:aliyun_admin,rdc_config,level3_name 反例:AliyunAdmin,rdcConfig,level_3_name


3.【强制】表名不使用复数名词。说明:表名应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于 DO 类名也是单数形式,符合表达习惯。


4.【强制】禁用保留字,如 desc、range、match、delayed 等,请参考 MySQL 官方保留字。


5.【强制】主键索引名为 pk_ 字段名;唯一索引名为 uk_ 字段名;普通索引名则为 idx_ 字段名。说明:pk_ 即 primary key;uk_ 即 unique key;idx_ 即 index 的简称。


6.【强制】小数类型为 decimal,禁止使用 float 和 double。说明:float 和 double 在存储的时候,存在精度损失的问题,很可能在值的比较时,得到不正确的结果。如果存储的数据范围超过 decimal 的范围,建议将数据拆成整数和小数分开存储。


7.【强制】如果存储的字符串长度几乎相等,使用 char 定长字符串类型。


8.【强制】varchar 是可变长字符串,不预先分配存储空间,长度不要超过 5000,如果存储长度大于此值,定义字段类型为 text,独立出来一张表,用主键来对应,避免影响其它字段索引效率。


9.【强制】表必备三字段:id, gmt_create, gmt_modified。说明:其中 id 必为主键,类型为 unsigned bigint、单表时自增、步长为 1。gmt_create,gmt_modified 的类型均为 date_time 类型,前者现在时表示主动创建,后者过去分词表示被动更新。


10.【推荐】表的命名最好是加上“业务名称 _ 表的作用”。正例:alipay_task / force_project / trade_config


11.【推荐】库名与应用名称尽量一致。


12.【推荐】如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。


13.【推荐】字段允许适当冗余,以提高查询性能,但必须考虑数据一致。冗余字段应遵循:1)不是频繁修改的字段。2)不是 varchar 超长字段,更不能是 text 字段。正例:商品类目名称使用频率高,字段长度短,名称基本一成不变,可在相关联的表中冗余存储类目名称,避免关联查询。


14.【推荐】单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。说明:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。


15. 【参考】合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检索速度。正例:如下表,其中无符号值可以避免误存负数,且扩大了表示范围。对象年龄区间类型字节表示范围

二、索引规约

1.【强制】业务上具有唯一特性的字段,即使是多个字段的组合,也必须建成唯一索引。说明:不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的;另外,即使在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。


2.【强制】超过三个表禁止 join。需要 join 的字段,数据类型必须绝对一致;多表关联查询时,保证被关联的字段需要有索引。说明:即使双表 join 也要注意表索引、SQL 性能。


3.【强制】在 varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达 90% 以上,可以使用 count(distinctleft(列名, 索引长度))/count(*) 的区分度来确定。


4.【强制】页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。说明:索引文件具有 B-Tree 的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。


5.【推荐】如果有 orderby 的场景,请注意利用索引的有序性。orderby 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现 file_sort 的情况,影响查询性能。正例:where a=? andb =? order by c; 索引:a_b_c 反例:索引中有范围查找,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b; 索引 a_b 无法排序。


6.【推荐】利用覆盖索引来进行查询操作,避免回表。说明:如果一本书需要知道第 11 章是什么标题,会翻开第 11 章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。正例:能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用 explain 的结果,extra 列会出现:usingindex。


7.【推荐】利用延迟关联或者子查询优化超多分页场景。说明:MySQL 并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N 行,那当 offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行 SQL 改写。正例:先快速定位需要获取的 id 段,然后再关联:SELECT a.* FROM 表 1 a, (select id from 表 1 where 条件 LIMIT 100000,20 ) b where a.id=b.id


8.【推荐】SQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts 最好。说明:1)consts 单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。2)ref 指的是使用普通的索引(normal index)。3)range 对索引进行范围检索。反例:explain 表的结果,type=index,索引物理文件全扫描,速度非常慢,这个 index 级别比较 range 还低,与全表扫描是小巫见大巫。


9.【推荐】建组合索引的时候,区分度最高的在最左边。正例:如果 where a=? and b=? ,a 列的几乎接近于唯一值,那么只需要单建 idx_a 索引即可。说明:存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where a>? and b=? 那么即使 a 的区分度更高,也必须把 b 放在索引的最前列。


10.【推荐】防止因字段类型不同造成的隐式转换,导致索引失效。


11.【参考】创建索引时避免有如下极端误解:1)宁滥勿缺。认为一个查询就需要建一个索引。2)宁缺勿滥。认为索引会消耗空间、严重拖慢更新和新增速度。3)抵制惟一索引。认为业务的惟一性一律需要在应用层通过“先查后插”方式解决。

三、SQL 语句

1.【强制】不要使用 count(列名) 或 count(常量) 来替代 count(),count() 是 SQL92 定义的标准统计行数的语法,跟数据库无关,跟 NULL 和非 NULL 无关。说明:count(*) 会统计值为 NULL 的行,而 count(列名) 不会统计此列为 NULL 值的行。


2.【强制】count(distinct col) 计算该列除 NULL 之外的不重复行数,注意 count(distinct col1, col2) 如果其中一列全为 NULL,那么即使另一列有不同的值,也返回为 0。


3.【强制】当某一列的值全是 NULL 时,count(col) 的返回结果为 0,但 sum(col) 的返回结果为 NULL,因此使用 sum() 时需注意 NPE 问题。正例:可以使用如下方式来避免 sum 的 NPE 问题:


SELECT IF(ISNULL(SUM(g)),0,SUM(g)) FROM table;


4.【强制】使用 ISNULL() 来判断是否为 NULL 值。说明:NULL 与任何值的直接比较都为 NULL。1)NULL<>NULL 的返回结果是 NULL,而不是 false。2)NULL=NULL 的返回结果是 NULL,而不是 true。3)NULL<>1 的返回结果是 NULL,而不是 true。


5.【强制】在代码中写分页查询逻辑时,若 count 为 0 应直接返回,避免执行后面的分页语句。


6.【强制】不得使用外键与级联,一切外键概念必须在应用层解决。说明:以学生和成绩的关系为例,学生表中的 student_id 是主键,那么成绩表中的 student_id 则为外键。如果更新学生表中的 student_id,同时触发成绩表中的 student_id 更新,即为级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度。


7.【强制】禁止使用存储过程,存储过程难以调试和扩展,更没有移植性。


8.【强制】数据订正时,删除和修改记录时,要先 select,避免出现误删除,确认无误才能执行更新语句。


9.【推荐】in 操作能避免则避免,若实在避免不了,需要仔细评估 in 后边的集合元素数量,控制在 1000 个之内。


10.【参考】如果有全球化需要,所有的字符存储与表示,均以 utf-8 编码,注意字符统计函数的区别。说明:SELECT LENGTH(“轻松工作”);返回为 12SELECT CHARACTER_LENGTH(“轻松工作”);返回为 4 如果需要存储表情,那么选择 utfmb4 来进行存储,注意它与 utf-8 编码的区别。


11.【参考】TRUNCATETABLE 比 DELETE 速度快,且使用的系统和事务日志资源少,但 TRUNCATE 无事务且不触发 trigger,有可能造成事故,故不建议在开发代码中使用此语句。说明:TRUNCATETABLE 在功能上与不带 WHERE 子句的 DELETE 语句相同。

四、ORM 映射

1.【强制】在表查询中,一律不要使用 * 作为查询的字段列表,需要哪些字段必须明确写明。说明:1)增加查询分析器解析成本。2)增减字段容易与 resultMap 配置不一致。


2.【强制】POJO 类的布尔属性不能加 is,而数据库字段必须加 is_,要求在 resultMap 中进行字段与属性之间的映射。说明:参见定义 POJO 类以及数据库字段定义规定,在其中增加映射,是必须的。在 MyBatis Generator 生成的代码中,需要进行对应的修改。


3.【强制】不要用 resultClass 当返回参数,即使所有类属性名与数据库字段一一对应,也需要定义;反过来,每一个表也必然有一个与之对应。说明:配置映射关系,使字段与 DO 类解耦,方便维护。


4.【强制】sql.xml 配置参数使用:#{},#param# 不要使用 ${} 此种方式容易出现 SQL 注入。


5.【强制】iBATIS 自带的 queryForList(StringstatementName,intstart,intsize) 不推荐使用。说明:其实现方式是在数据库取到 statementName 对应的 SQL 语句的所有记录,再通过 subList 取 start,size 的子集合。正例:Map


发布于: 刚刚阅读数: 3
用户头像

TiDB 社区官网:https://tidb.net/ 2021-12-15 加入

TiDB 社区干货传送门是由 TiDB 社区中布道师组委会自发组织的 TiDB 社区优质内容对外宣布的栏目,旨在加深 TiDBer 之间的交流和学习。一起构建有爱、互助、共创共建的 TiDB 社区 https://tidb.net/

评论

发布
暂无评论
bytebase让你爱上tidb的开源审核神器。_6.x 实践_TiDB 社区干货传送门_InfoQ写作社区