美团一面:为什么选用 Hbase,Hbase 和 MySQL 的区别是什么?
MySQL + HBase 是我们日常应用中常用的两个数据库,分别解决应用的在线事务问题和大数据场景的海量存储问题。
从架构对比看差异
相比 MySQL,HBase 的架构特点:
完全分布式(数据分片、故障自恢复)
底层使用 HDFS(存储计算分离)。
由架构看到的能力差异:
MySQL:运维简单(组件少)、延时低(访问路径短)
HBase:扩展性好、内置容错恢复与数据冗余
从引擎结构看差异
相比 MySQL,HBase 的内部引擎特点:
HBase 原生没有 sQL 引擎(无法使用 sQL 访问,使用 APlI),云 HBase 增强版(Lindorm)及开源 Phoenix 均提供 sQL 能力
HBase 使用 LSM(Log-Structure Merge)树,,Innodb 使用 B+树。
由引擎结构(B+Tree vs LSM Tree)看到的能力差异:
MySQL:读写均衡、存在空间碎片
HBase:侧重于写、存储紧凑无浪费、Io 放大、数据导入能力强
关于 LSM 树和 B+树的理解
目的是为了减少磁盘 IO,
索引:某种数据结构,方便查找数据
hash 索引不利于范围查询,使用树结构
B+树
从磁盘读数据是以页为单位,根据这个特点使用平衡多路查找树
B+树的非叶子节点存放索引,叶子节点存放数据
非叶子节点能够存放更多的索引,树的高度更低
叶子节点通过指针相连,有利于区间查询
叶子节点和根节点的距离基本相同,查找的效率稳定
数据插入导致叶子节点分裂,最终导致逻辑连续的数据存放到不同物理磁盘块位置,导致区间查询效率下降
LSM Tree
LSM(Log-Structured Merge),LevelDB,RocksDB,HBase,Cassandra 等都是基于 LSM 结构
HDD,SSD 顺序读写的速度都高于随机读写,写入日志就是顺序写
WAL,memtable,sstable
有利于写,不利于读,先从 memtable 查找,再到磁盘所有的 sstable 文件查找
Compaction 的目的是减少 sstable 文件数量,缓解读放大的问题,加速查找可以对 sstable 文件使用布隆过滤器
Compaction 策略
STCS(SIze-Tiered Compaction Strategy)空间放大和读放大问题
LCS(Leveled Compaction Strategy)写放大问题
Compaction 会引入写放大问题,在 Value 较大时采用 KV 分离存储缓解写放大
写操作多于读操作时,LSM 树有更好的性能,因为随着 insert 操作,为了维护 B+树结构,节点分裂。读磁盘的随机读写概率会变大,性能会逐渐减弱。LSM 树相比于 B+树,多次单页随机写变成一次多页随机写,复用了磁盘寻道时间,极大提高写性能。不过付出代价就是放弃部分读性能。
数据访问
相同之处:数据以表的模型进行逻辑组织,应用对数据进行增删改查
不同之处:MySQL 的 SQL 功能更丰富:事务能力更强,HBase 既可以用 APIl 进行更灵活、性能更好的访问,也可以借助 Phoenix 使用标准 sQL 访问;只支持单行事务。
HBase 的特色功能--TTL
HBase 的特色功能—多版本
HBase 的特色功能—多列簇
HBase 的特色功能—MOB
从生态看差异
MySQL:满足 APP 的在线数据库存储,一般有我足矣
大数据圈:应用于大数据场景的存储、计算及管理组件
MySQL:一般可独立满足在线应用的数据存储需求,或者与少量组件配合(如缓存、分库中间件)
HBase:一般需要和较多大数据组件一起配合完成应用场景,场景架构的设计、实施存在较大的挑战
总结
哪些场景的存储适合 HBase ?
HBase 不是 MySQL 的替换,HBase 是业务规模及场景扩张后,对 MySQL 的自然延伸
来源:https://www.toutiao.com/a7011012103700103692/?log_from=187705985d41b_1632560664645
评论