写点什么

Java 工程师跳槽经验分享,看完跪了

用户头像
Geek_f90455
关注
发布于: 2021 年 08 月 02 日

系统介绍

整个系统可以从功能上分为 3 块:


  1. 业务系统:在上游有很多的业务系统,业务系统的运行产生很多的数据,这些数据分散在很多的数据库中,大部分是 MySQL 数据库

  2. 数据智能平台:数据智能平台属于中台系统,主要为业务系统提供强大的数据支撑服务,下层连接数仓。

  3. 数据仓库: 数据仓库统一集中的管理所有的数据,数仓会将业务系统产生的数据按天进行加工、抽取、转换到数据仓库存储。


当一天结束后,各个业务系统产生了大量的数据,这些数据由定时任务进行加工、抽取到数据仓库存储,当半夜你还在睡觉的时候,这些定时任务就在默默的运行着。



而每天加工的数据通常要求在上班工作时间之前加工完成,然后通过数据智能平台的查询系统供业务系统查询调用,这一次数据没有查询到是因为在第二天早上 10 点,数据还没有加工完成。下面就是找问题优化了,因为正常来讲,即使定时任务链再长,也不会慢到第二天 10 点钟数据还没有出来。下面就是找问题,然后进行优化了。

任务优化

通过任务日志发现有一个上游系统的数据抽取执行时间有 3 个小时,而数据量仅 100 万。当然,光凭这样还无法确定这个任务是否是可以被优化的。


查看任务代码,逻辑还比较简单:有一张原始数据表,记录商品信息以及定义的分类(这一点是虚构的,实际情况要复杂一些,我这里精简然后转换了一下,便于理解),而数仓的目标表是将分类和商品分别存储在不同的表中,大致结构如下。



那为什么需要进行这样的转换呢? 这是因为整个大的系统,一般来说只能定义一些基本的规范,而具体的细节规范则无法约束,比如 A 系统的身份证字段名称为 card_no,而 B 系统的身份证字段名称为 crdt_no(这种情况大家应该经常遇到);再比如处理实体关系的时候,处理方式也是不同的,1 对 1 的关系,可以建两张表关联,也可以一张表都存储,这就造成了多个系统的不统一性,而这种情况是不可避免的,因为从业务系统来说,都保证了系统的正常运行。


而数仓对多个原始数据处理的时候就需要考虑到兼容的问题,所以就会出现如上图的转换过程。


而这个任务执行 3 个小时的原因在于原始表中的一条记录,会转换到数仓表中的三张表中,而且这三张表是通过 id 进行关联,整个代码流程如下。



然而问题来了,100 万的数据,跑了 3 个小时,然后我开始尝试去优化程序的执行流程,大概从一下几点入手


  1. 将分类缓存,分类在系统中已经固定,不会发生变化,缓存可以减少查询数据库的次数

  2. 每次从原表中读取的数据更多,从原来的 500/次 -> 2000/次


经过优化,效率有一些提升,但并不是很明显(有同学可能要问了,这些都是很基本的,为什么最开始做? 咳咳。。。这个嘛,历史原因吧,在最开始数据可能不多,不论以什么方式执行,都差别不大,比如执行 10 分钟和执行 20 分钟,看似 2 倍的执行效率,但是由于没有影响到业务系统,且一直正常运行,也就没有看出问题)。


这里数据是需要关联的,所以我们是需要插入数据并拿到这条记录的自增长 id,然后插入到关联表,而表结构基本不可能去动的(表结构动了那真是牵一发而动全身了,第二天准得被叫去喝茶)。



那么我们先来分析一下这里为什么执行这么慢呢。


  1. 原表 100 万的数据,每次查询出 2000 条,所以查询的总次数就是 1000000/2000 = 500 次,这肯定消耗不了多少时间。这里基本没有优化的空间,就算一次全部查询出来,也仅仅节省 499 次的查询时间(也不可能一次查询这么多数据)

  2. 查询的 2000 条数据,数据转换,然后依次插入到信息表以及关联表中,这里是一条一条解析执行的,总计插入数据库 4000 次,毫无疑问,这里是最耗时的。数据转换是必须的,而且是在内存中操作,所以耗时不是特别多;那么剩下的就是总计 100 万 * 2 的数据库插入次数,能否进行优化呢?


首先想到的就是批量插入,批量插入可以有效的降低数据库访问次数。但是这里不能进行批量插入是因为需要取到自增长 id,感觉陷入了困境。



当天晚上昨晚运动之后,抛开烦恼,觉得浑身舒坦。



突然,脑袋灵光一闪,数据库的自增长 id 是由数据库控制的数值,而自增长的步长我们是知道的,比如自增长步长为 1,当前自增长 id 为 1 的话,那么可以肯定,下一条记录的自增长 id 就为 2,以此类推。


那是否可以插入一条记录,取到自增长 id,然后就可以计算出之后所有数据的自增长 id,而不再需要每条记录都去取自增长 id 了。


但是这样也有一个问题,就是在数据转换导入的过程中,不能有其他的程序向表中插入数据,不然会导致程序计算的自增长 id 匹配不上。而这个问题根本不存在,因为数仓的数据都是由原始表计算插入的,在同一时间是没有其他的任务写这张表,那么我们就可以放心大胆的干了。

总结

这个月马上就又要过去了,还在找工作的小伙伴要做好准备了,小编整理了大厂 java 程序员面试涉及到的绝大部分面试题及答案免费分享给大家,希望能帮助到大家,有需要的朋友可以看下面的免费领取方式


资料领取方式:狂戳这里




用户头像

Geek_f90455

关注

还未添加个人签名 2021.07.06 加入

还未添加个人简介

评论

发布
暂无评论
Java工程师跳槽经验分享,看完跪了