写点什么

阿里巴巴架构师王小瑞“墙裂”推荐:RocketMQ 核心实战原理

发布于: 2021 年 04 月 14 日
阿里巴巴架构师王小瑞“墙裂”推荐:RocketMQ核心实战原理


点击并拖拽以移动


消息队列(RocketMQ )作为高并发系统的核心组件之一,能够帮助业务系统解构提升开发效率和系统稳定性。

RocketMQ 是一款分布式、队列模型的消息中间件,具有以下特点:

  • 能够保证严格的消息顺序

  • 提供丰富的消息拉取模式

  • 高效的订阅者水平扩展能力

  • 实时的消息订阅机制

  • 亿级消息堆积能力

选择 RocketMQ 的理由:

  • 强调集群模式无单点,可扩展,任意一点高可用,水平扩展

  • 海量数据的堆积能力,消息堆积后,写入延迟低

  • 支持上万个队列

  • 消息失败重试机制

  • 消息可查询

  • 开源社区灵活

  • 成熟度(支持阿里双十一)

RocketMQ 核心的四大组件:Name Server、Broker、Producer、Consumer 每个组件都可以部署成集群模式进行水平扩展。

如果搞懂这份 RocketMQ 实战与原理解析,在简历上写精通 RocketMQ 完全没问题

由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档,有需要完整文档的只需 点击传送门 凭截图获取

阿里、滴滴等资深专家对 RocketMQ 实战与原理解析的评价



点击并拖拽以移动


RocketMQ 实战目录展示

RocketMQ 实战原理解析从入门到生产环境、分布式消息列队、可靠性、吞吐量、Apache 中间件、NameServer 源码、主从同步,最后基于 Netty 的通信实现



点击并拖拽以移动


1、快速入门

本篇幅可以让你了解 RocketMQ 和分布式消息队列的功能,然后搭建好单机版的消息队列,进而能够发送并接收简单的消息。

  • 消息队列功能介绍

  • RocketMQ 简介

  • 快速上手 RocketMQ



点击并拖拽以移动



点击并拖拽以移动


2、生产环境下的配置和使用

在生产环境中使用 RocketMQ 集群需要比 QuickStart 部分了解更多的内容,本章节在机器角色、集群配置和部署,以及集群管理方面都做了介绍,用户可以基于这些内容搭建起一个生成环境的 RocketMQ 消息队列集群,在数据量不大的非关键场景,可以通过这一章节快速上线。

  • RocketMQ 各部分角色介绍

  • 多机集群配置和部署

  • 发送、接收消息示例

  • 常用管理命令

  • 通过图形界面管理集群



点击并拖拽以移动


3、用适合的方式发送和接收消息

对消息队列使用者来说,Consumer 和 Producer 是打交道最多的两个类型。

本篇详细介绍了两种类型的 Consumer 和一种类型的 Producer,用户在使用的时候基于业务需求来选择合适的类型。最后重点介绍了 Offset 和 Log,了解 Offset 机制是正确使用 RocketMQ 的基础,合理使用 Log 可以大幅提高开发、调试的效率。

  • 不同类型的消费者

  • 不同类型的生产者

  • 如何存储队列位置信息

  • 自定义日志输出



点击并拖拽以移动



点击并拖拽以移动


4、分布式消息队列的协调者

介绍了 NameServer 的功能,NameServer 在 RocketMQ 集群中扮演调度中心的角色。

各个 Producer、Consumer 上报自己的状态上去,同时从 NameServer 获取其他角色的状态信息。NameServer 的功能虽然非常重要,但是被设计得很轻量级,代码量少并且几乎无磁盘存储,所有的功能都通过内存高效完成。

还介绍了底层的通信机制,RocketMQ 基于 Netty 对底层通信做了很好的抽象,使得通信功能逻辑清晰,代码简单。

  • NameServer 的功能

  • 各个角色间的交互流程

  • 底层通信机制



点击并拖拽以移动


5、消息队列的核心机制

介绍了 RocketMQ 消息队列实现的难点及核心,即“队列”本身的实现,基于磁盘做一个读写效率高的队列并非易事,实现不好就会使磁盘操作成为整个系统的瓶颈,无法提升系统的吞吐量。RocketMQ 基于“顺序写”“随机读”的原则来设计,利用“零拷贝”技术,克服了磁盘操作的瓶颈。

另一个难点是为了高可用性而设计的主从机制,数据被及时复制到多个机器,这样当一台机器出故障后,整体系统依然可用。这样可靠性和性能能直接有个权衡,RocketMQ 把选择权留给用户,用户根据具体的业务场景来选择要更高的可靠性,还是要更高的效率。

  • 消息存储和发送

  • 消息存储结构

  • 高可用性机制

  • 同步刷盘和异步刷盘

  • 同步复制和异步复制



点击并拖拽以移动


6、可靠性优先的使用场景

本篇根据使用场景,讨论如何“可靠”地收发消息。即在要求消息顺序的场景下,如何既能并发执行,又能保证消息顺序;然后分析可能的故障场景下,如何应对以保证不丢消息、 不中断服务。RocketMQ 在设计上,有重试机制来保证消息不丢,造成的结果是可能存在消息重复,这一点需要用户根据具体业务场景来处理。下一章将讨论处理大数据量消息的方法。

  • 顺序消息

  • 消息重复问题

  • 动态增减机器

  • 各种故障对消息的影响

  • 消息优先级



点击并拖拽以移动


7、吞吐量优先的使用场景

本篇重点关注性能,关注在大消息量的情况下,如何提高 RocketMQ 的吞吐量。首先介绍了消息过滤,在服务端进行消息过滤可以减少无效消息传输造成的带宽浪费,Tag 是最常用的一种高效过滤方式,此外还可以用 SQL 表达式、FilterServer 来过滤消息。

另一个提高吞吐量的方法是增加集群的机器数量,提高并发性,要根据实际场景增加 Broker、Consumer 或 Producer 角色的机器数量。

  • 在 Broker 端进行消息过滤

  • 提高 Consumer 处理能力

  • Consumer 的负载均衡

  • 提高 Producer 的发送速度

  • 系统性能调优的一般流程



点击并拖拽以移动



点击并拖拽以移动


由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档,有需要完整文档的只需 点击传送门​​​​​​​ 凭截图获取

8、和其他系统交互

作为一个中间件产品,会比普通软件更多地需要和其他系统打交道,本篇介绍了如何与 SpringBoot、 Spark、 Flink 等软件进行交互。同时介绍了使用云端的 RocketMQ 产品,以及自定义开发运维工具的方法。

  • 在 SpringBoot 中使用 RocketMQ

  • 直接使用云上 RocketMQ

  • RocketMQ 与 Spark、Flink 对接

  • 自定义开发运维工具



点击并拖拽以移动


9、首个 Apache 中间件顶级项目

RocketMQ 是阿里最优秀的中间件之一,本篇介绍了 RocketMQ 的历史,以及其目前作为 Apache 顶级项目的现状。

  • RocketMQ 的前世今生

  • Apache 顶级项目(TLP) 之路

  • 源码结构

  • 不断迭代的代码



点击并拖拽以移动



点击并拖拽以移动


10、NameServer 源码解析

本篇分析了 NameServer 模块的源码,NameServer 是--个功能重要但是代码量不大的模块,所以选择这个模块入手,比较容易理解。我们在分析源码时,认真读懂一个模块后就可以对作者的代码风格、设计偏好等有基本的了解。

  • 模块入口代码的功能

  • NameServer 的总控逻辑

  • 核心业务逻辑处理

  • 集群状态存储



点击并拖拽以移动


11、最常用的消费类

本篇分析的是 Client 模块里的代码,我们在使用 RocketMQ 的时候,更多的是和这个模块里的代码打交道。本章重点分析了 DefaultMQPushConsumerImpl 类,然后分析了 Consumer 的并发处理过程,最后分析了客户端 Class 统一的底层通信类 MQClientInstance。

  • 整体流程

  • 消息的并发处理.

  • 生产者,消费者的底层类



点击并拖拽以移动


12、主从同步机制

本篇分析了 Master 和 Slave 角色的 Broker 之间同步信息功能的实现。需要同步的信息分为两种类型,实现方式各不相同:一种是元数据信息,采用基于 Netty 的 command 方式来同步消息;另一种是 commitLog 信息,同步方式是直接基于 JavaNIO 来实现。

  • 同步属性信息

  • 同步消息体

  • sync_ master 和 async_master



点击并拖拽以移动


13、基于 Netty 的通信实现

本篇介绍了 RocketMQ 底层通信的实现机制,由于它是基于 Netty 来实现的,所以首先介绍了 Netty 的基础知识。Netty 被用在很多开源软件的底层通信部分,RocketMQ 以 Netty 为基础,还实现了-种机制,把通信功能和消息处理功能分离,不同类型的通信内容被抽象成发送带有对应类型代码的 Command,同时根据类型代码查找对应的 Processor 和 Executor 来执行,结构非常清晰,为我们自己实现网络通信程序提供了参考。

  • Netty 介绍

  • Netty 架构总览

  • Netty 用法示例

  • RocketMQ 基于 Netty 的通信



点击并拖拽以移动



点击并拖拽以移动


由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档,有需要完整文档的只需 点击传送门​​​​​​​ 凭截图获取

用户头像

还未添加个人签名 2020.09.07 加入

还未添加个人简介

评论

发布
暂无评论
阿里巴巴架构师王小瑞“墙裂”推荐:RocketMQ核心实战原理