消息中间件执行原理

1 关于消息中间件

1.1 什么是消息中间件？

消息中间件是指在分布式系统中完成消息的发送和接收的基础软件。消息中间件也可以称消息队列（Message Queue / MQ），用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型，可以在分布式环境下扩展进程的通信。简而言之，互联网场景中经常使用消息中间件进行消息路由、订阅发布、异步处理等操作，来缓解系统的压力。

1.2 它解决了我们哪些痛点？

1、解耦： 比如说系统 A 会交给系统 B 去处理一些事情，但是 A 不想直接跟 B 有关联，避免耦合太强，就可以通过在 A，B 中间加入消息队列，A 将要任务的事情交给消息队列 ,B 订阅消息队列来执行任务。

这种场景很常见，比如 A 是订单系统，B 是库存系统，可以通过消息队列把削减库存的工作交予 B 系统去处理。如果 A 系统同时想让 B、C、D...多个系统处理问题的时候，这种优势就更加明显了。

​2、有序性： 先进先出原理，先来先处理，比如一个系统处理某件事需要很长一段时间，但是在处理这件事情时候，有其他人也发出了请求，可以把请求放在消息队里，一个一个来处理。

对数据的顺序性和一致性有强需求的业务，比如同一张银行卡同时被多个入口使用，需要保证入账出账的顺序性，避免出现数据不一致。

​3、消息路由： 按照不同的规则，将队列中消息发送到不同的其他队列中

通过消息队列将不同染色的请求发送到不同的服务去操作。这样达成了流量按照业务拆分的目的。

4、异步处理： 处理一项任务的时候，有 3 个步骤 A、B、C，需要先完成 A 操作, 然后做 B、C 操作。任务执行成功与否强依赖 A 的结果，但不依赖 B、C 的结果。如果我们使用串行的执行方式，那处理任务的周期就会变长，系统的整体吞吐能力也会降低（在同一个系统中做异步其实也是比较大的开销），所以使用消息队列是比较好的办法。

登录操作就是典型的场景：A：执行登录并得到结果、B：记录登录日志、C：将用户信息和 Token 写入缓存。 执行完 A 就可以从登录页跳到首页了，B、C 让服务慢慢去消化，不阻塞当前操作。

​5、削峰： 将峰值期间的操作削减，比如 A 同学的整个操作流程包含 12 个步骤，后续的 11 个步骤是不需要强关注结果的数据，可以放在消息队列中。

2 消息中间件的执行原理

2.1 消息中间件的组成

Broker： 消息服务器，作为 Server 提供消息核心服务 Producer： 消息生产者，业务的发起方，负责生产消息传输给 broker，Consumer： 消息消费者，业务的处理方，负责从 broker 获取消息并进行业务逻辑处理 Topic： 主题，发布/订阅模式下的消息统一汇集地，不同生产者向 topic 发送消息，由 MQ 服务器分发到不同的订阅者，实现消息的广播 Queue： 队列，PTP 模式下，特定生产者向特定 queue 发送消息，消费者订阅特定的 queue 完成指定消息的接收 Message： 消息体，根据不同通信协议定义的固定格式进行编码的数据包，来封装业务数据，实现消息的传输

​这边以 kafka 为例子，这是典型的集群模式，Kafka 通过 Zookeeper 管理集群配置，选举 leader，以及在 Consumer Group 发生变化时进行 rebalance。Producer 使用 push 模式将消息发布到 broker，Consumer 使用 pull 模式从 broker 订阅并消费消息。

• producer 负责生产消息

• consumer 负责消费消息

• broker 消息服务器，提供消息核心的处理工作

• zookeeper 用于生产者和消费者的注册与发现

更多 C++后台开发技术点知识内容包括 C/C++，Linux，Nginx，ZeroMQ，MySQL，Redis，MongoDB，ZK，流媒体，音视频开发，Linux 内核，TCP/IP，协程，DPDK 多个高级知识点。

C/C++Linux服务器开发高级架构师/C++后台开发架构师​免费学习地址

【文章福利】另外还整理一些C++后台开发架构师 相关学习资料，面试题，教学视频，以及学习路线图，免费分享有需要的可以点击领取

2.2 消息中间件的模式分类

2.2.1 PTP 点对点

使用 queue 作为通信载体，消息生产者生产消息发送到 queue 中，然后消息消费者从 queue 中取出并且消费消息。消息被消费以后，queue 中不再存储，所以消息消费者不可能消费到已经被消费的消息。 Queue 支持存在多个消费者，但是对一个消息而言，只会有一个消费者可以消费。

​点对点模式包含三个角色：

• 消息队列（Queue）

• 发送者(Sender)

• 接收者(Receiver)

每个消息都被发送到一个特定的队列，接收者从队列中获取消息。队列保留着消息，可以放在内存 中也可以持久化，直到他们被消费或超时。

特点：

• 每个消息只有一个消费者（Consumer）(即一旦被消费，消息就不再在消息队列中)

• 发送者和接收者之间在时间上没有依赖性

• 接收者在成功接收消息之后需向队列应答成功

• 利用 FIFO 先进先出的特性，可以保证消息的顺序性。

2.2.2 Pub/Sub 发布订阅（广播）

使用 topic 作为通信载体，消息生产者（发布）将消息发布到 topic 中，同时有多个消息消费者（订阅）消费该消息。和点对点方式不同，发布到 topic 的消息会被所有订阅者消费。queue 实现了负载均衡，将 producer 生产的消息发送到消息队列中，由多个消费者消费。但一个消息只能被一个消费者接受，当没有消费者可用时，这个消息会被保存直到有一个可用的消费者。

​发布订阅模型包含三个角色：

• 主题（Topic）

• 发布者（Publisher）

• 订阅者（Subscriber）

多个发布者将消息发送到 Topic，系统将这些消息传递给多个订阅者。

特点：

• 每个消息可以有多个消费者：和点对点方式不同，发布消息可以被所有订阅者消费

• 发布者和订阅者之间有时间上的依赖性。

• 针对某个主题（Topic）的订阅者，它必须创建一个订阅者之后，才能消费发布者的消息。

• 为了消费消息，订阅者必须保持运行的状态。

2.3 消息中间件的优势

系统解耦：交互系统之间没有直接的调用关系，只是通过消息传输，故系统侵入性不强，耦合度低。提高系统响应时间：例如原来的一套逻辑，可将紧急重要（需要立刻响应）的业务放到该调用方法中，响应要求不高的使用消息队列，放到 MQ 队列中，供消费者处理。为大数据处理架构提供服务：通过消息作为整合，大数据的背景下，消息队列还与实时处理架构整合，为数据处理提供性能支持。

2.4 消息中间件常用协议

AMQP 协议、MQTT 协议、STOMP 协议、XMPP 协议、其他基于 TCP/IP 自定义的协议消息中间件的组成

2.4.1 AMQP

AMQP 即 Advanced Message Queuing Protocol，是应用层协议的一个开放标准，为面向消息的中间件设计。消息中间件主要用于组件之间的解耦，消息的发送者无需知道消息使用者的存在，反之亦然。AMQP 的主要特征是面向消息、队列、路由（包括点对点和发布/订阅）、可靠性、安全。优点：可靠、通用。

2.4.2 MQTT

MQTT（Message Queuing Telemetry Transport，消息队列遥测传输）是 IBM 开发的一个即时通讯协议，有可能成为物联网的重要组成部分。该协议支持所有平台，几乎可以把所有联网物品和外部连接起来，被用来当做传感器和致动器（比如通过 Twitter 让房屋联网）的通信协议。优点：格式简洁、占用带宽小、移动端通信、PUSH、嵌入式系统

2.4.3 STOMP

STOMP（Streaming Text Orientated Message Protocol）是流文本定向消息协议，是一种为 MOM(Message Oriented Middleware，面向消息的中间件)设计的简单文本协议。STOMP 提供一个可互操作的连接格式，允许客户端与任意 STOMP 消息代理（Broker）进行交互。优点：命令模式（非 topic\queue 模式）

2.4.4 XMPP

XMPP（可扩展消息处理现场协议，Extensible Messaging and Presence Protocol）是基于可扩展标记语言（XML）的协议，多用于即时消息（IM）以及在线现场探测。适用于服务器之间的准即时操作。核心是基于 XML 流传输，这个协议可能最终允许因特网用户向因特网上的其他任何人发送即时消息，即使其操作系统和浏览器不同。优点：通用公开、兼容性强、可扩展、安全性高，但 XML 编码格式占用带宽大

2.5 主流的消息中间件

常见的消息中间件包括：RabbitMQ、RocketMQ、kafka 等，后面我们会有一篇专门对这几种中间件的能力和技术参数做一项完整的对比，并给出不同业务场景下的技术选型建议。

原文链接：MQ 系列 1：消息中间件执行原理 - Hello-Brand - 博客园