写点什么

阿里 P9 封神之作!RocketMQ 核心笔记疯传 Ali 内网

用户头像
周老师
关注
发布于: 2 小时前


消息队列(RocketMQ )作为高并发系统的核心组件之一,能够帮助业务系统解构提升开发效率和系统稳定性。

RocketMQ 是一款分布式、队列模型的消息中间件,具有以下特点:

  • 能够保证严格的消息顺序

  • 提供丰富的消息拉取模式

  • 高效的订阅者水平扩展能力

  • 实时的消息订阅机制

  • 亿级消息堆积能力

选择 RocketMQ 的理由:

  • 强调集群模式无单点,可扩展,任意一点高可用,水平扩展

  • 海量数据的堆积能力,消息堆积后,写入延迟低

  • 支持上万个队列

  • 消息失败重试机制

  • 消息可查询

  • 开源社区灵活

  • 成熟度(支持阿里双十一)

RocketMQ 核心的四大组件:Name Server、Broker、Producer、Consumer 每个组件都可以部署成集群模式进行水平扩展。

如果搞懂这份 RocketMQ 实战与原理解析,在简历上写精通 RocketMQ 完全没问题

由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档,有需要这份 RocketMQ 核心实战原理解析完整文档的请见文末

阿里、滴滴等资深专家对 RocketMQ 实战与原理解析的评价


RocketMQ 实战目录展示

RocketMQ 实战原理解析从入门到生产环境、分布式消息列队、可靠性、吞吐量、Apache 中间件、NameServer 源码、主从同步,最后基于 Netty 的通信实现


1、快速入门

本篇幅可以让你了解 RocketMQ 和分布式消息队列的功能,然后搭建好单机版的消息队列,进而能够发送并接收简单的消息。

  • 消息队列功能介绍

  • RocketMQ 简介

  • 快速上手 RocketMQ



2、生产环境下的配置和使用

在生产环境中使用 RocketMQ 集群需要比 QuickStart 部分了解更多的内容,本章节在机器角色、集群配置和部署,以及集群管理方面都做了介绍,用户可以基于这些内容搭建起一个生成环境的 RocketMQ 消息队列集群,在数据量不大的非关键场景,可以通过这一章节快速上线。

  • RocketMQ 各部分角色介绍

  • 多机集群配置和部署

  • 发送、接收消息示例

  • 常用管理命令

  • 通过图形界面管理集群


3、用适合的方式发送和接收消息

对消息队列使用者来说,Consumer 和 Producer 是打交道最多的两个类型。

本篇详细介绍了两种类型的 Consumer 和一种类型的 Producer,用户在使用的时候基于业务需求来选择合适的类型。最后重点介绍了 Offset 和 Log,了解 Offset 机制是正确使用 RocketMQ 的基础,合理使用 Log 可以大幅提高开发、调试的效率。

  • 不同类型的消费者

  • 不同类型的生产者

  • 如何存储队列位置信息

  • 自定义日志输出



4、分布式消息队列的协调者

介绍了 NameServer 的功能,NameServer 在 RocketMQ 集群中扮演调度中心的角色。

各个 Producer、Consumer 上报自己的状态上去,同时从 NameServer 获取其他角色的状态信息。NameServer 的功能虽然非常重要,但是被设计得很轻量级,代码量少并且几乎无磁盘存储,所有的功能都通过内存高效完成。

还介绍了底层的通信机制,RocketMQ 基于 Netty 对底层通信做了很好的抽象,使得通信功能逻辑清晰,代码简单。

  • NameServer 的功能

  • 各个角色间的交互流程

  • 底层通信机制


5、消息队列的核心机制

介绍了 RocketMQ 消息队列实现的难点及核心,即“队列”本身的实现,基于磁盘做一个读写效率高的队列并非易事,实现不好就会使磁盘操作成为整个系统的瓶颈,无法提升系统的吞吐量。RocketMQ 基于“顺序写”“随机读”的原则来设计,利用“零拷贝”技术,克服了磁盘操作的瓶颈。

另一个难点是为了高可用性而设计的主从机制,数据被及时复制到多个机器,这样当一台机器出故障后,整体系统依然可用。这样可靠性和性能能直接有个权衡,RocketMQ 把选择权留给用户,用户根据具体的业务场景来选择要更高的可靠性,还是要更高的效率。

  • 消息存储和发送

  • 消息存储结构

  • 高可用性机制

  • 同步刷盘和异步刷盘

  • 同步复制和异步复制


6、可靠性优先的使用场景

本篇根据使用场景,讨论如何“可靠”地收发消息。即在要求消息顺序的场景下,如何既能并发执行,又能保证消息顺序;然后分析可能的故障场景下,如何应对以保证不丢消息、 不中断服务。RocketMQ 在设计上,有重试机制来保证消息不丢,造成的结果是可能存在消息重复,这一点需要用户根据具体业务场景来处理。下一章将讨论处理大数据量消息的方法。

  • 顺序消息

  • 消息重复问题

  • 动态增减机器

  • 各种故障对消息的影响

  • 消息优先级


7、吞吐量优先的使用场景

本篇重点关注性能,关注在大消息量的情况下,如何提高 RocketMQ 的吞吐量。首先介绍了消息过滤,在服务端进行消息过滤可以减少无效消息传输造成的带宽浪费,Tag 是最常用的一种高效过滤方式,此外还可以用 SQL 表达式、FilterServer 来过滤消息。

另一个提高吞吐量的方法是增加集群的机器数量,提高并发性,要根据实际场景增加 Broker、Consumer 或 Producer 角色的机器数量。

  • 在 Broker 端进行消息过滤

  • 提高 Consumer 处理能力

  • Consumer 的负载均衡

  • 提高 Producer 的发送速度

  • 系统性能调优的一般流程



由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档,有需要这份 RocketMQ 核心实战原理解析完整文档的麻烦转发后私信回复“666”即可获取资料免费领取方式!

8、和其他系统交互

作为一个中间件产品,会比普通软件更多地需要和其他系统打交道,本篇介绍了如何与 SpringBoot、 Spark、 Flink 等软件进行交互。同时介绍了使用云端的 RocketMQ 产品,以及自定义开发运维工具的方法。

  • 在 SpringBoot 中使用 RocketMQ

  • 直接使用云上 RocketMQ

  • RocketMQ 与 Spark、Flink 对接

  • 自定义开发运维工具


9、首个 Apache 中间件顶级项目

RocketMQ 是阿里最优秀的中间件之一,本篇介绍了 RocketMQ 的历史,以及其目前作为 Apache 顶级项目的现状。

  • RocketMQ 的前世今生

  • Apache 顶级项目(TLP) 之路

  • 源码结构

  • 不断迭代的代码



10、NameServer 源码解析

本篇分析了 NameServer 模块的源码,NameServer 是--个功能重要但是代码量不大的模块,所以选择这个模块入手,比较容易理解。我们在分析源码时,认真读懂一个模块后就可以对作者的代码风格、设计偏好等有基本的了解。

  • 模块入口代码的功能

  • NameServer 的总控逻辑

  • 核心业务逻辑处理

  • 集群状态存储


11、最常用的消费类

本篇分析的是 Client 模块里的代码,我们在使用 RocketMQ 的时候,更多的是和这个模块里的代码打交道。本章重点分析了 DefaultMQPushConsumerImpl 类,然后分析了 Consumer 的并发处理过程,最后分析了客户端 Class 统一的底层通信类 MQClientInstance。

  • 整体流程

  • 消息的并发处理.

  • 生产者,消费者的底层类


12、主从同步机制

本篇分析了 Master 和 Slave 角色的 Broker 之间同步信息功能的实现。需要同步的信息分为两种类型,实现方式各不相同:一种是元数据信息,采用基于 Netty 的 command 方式来同步消息;另一种是 commitLog 信息,同步方式是直接基于 JavaNIO 来实现。

  • 同步属性信息

  • 同步消息体

  • sync_ master 和 async_master


13、基于 Netty 的通信实现

本篇介绍了 RocketMQ 底层通信的实现机制,由于它是基于 Netty 来实现的,所以首先介绍了 Netty 的基础知识。Netty 被用在很多开源软件的底层通信部分,RocketMQ 以 Netty 为基础,还实现了-种机制,把通信功能和消息处理功能分离,不同类型的通信内容被抽象成发送带有对应类型代码的 Command,同时根据类型代码查找对应的 Processor 和 Executor 来执行,结构非常清晰,为我们自己实现网络通信程序提供了参考。

  • Netty 介绍

  • Netty 架构总览

  • Netty 用法示例

  • RocketMQ 基于 Netty 的通信



由于篇幅原因,这份 RocketMQ 核心实战原理解析已经被整理成了 PDF 文档

欢迎大家扫码来关注公众号博主,获取文章全部资料,此公众号会持续更新技术干货、不定期分享 Java 进阶面试宝典、Java 核心知识、架构书籍电子版


用户头像

周老师

关注

精通java热衷于分享java领域资料,感谢支持 2020.06.09 加入

还未添加个人简介

评论

发布
暂无评论
阿里P9封神之作!RocketMQ核心笔记疯传Ali内网