分布式服务下,消息中间件改造
在某创业公司研发初期,业务线上存在五个项目并行开发的情况,当时对于 MQ 的使用状况如下:
Rocket:核心业务 3 个项目,版本有差异;
Kafka:数据权重偏高,1 个项目采用;
Redis:基于 Python 连接,队列消息模式;
刚开始因为用的不多,整体还在可控范围内,后续随着业务的持续迭代,项目间出现
需要通信的情况,就开始混乱难以维护,然后就是被迫开始重构,统一消息组件。
2.2 二次选型
基于业务的综合考量,对现有几个项目进行 MQ 重新设计,形成的整体架构思路如下:
MQ 组件选择:采用 RocketMQ;
换掉 Redis 组件的队列模式;
将基于 Python 的系统改 Java 语言;
提供消息生产与消费两个服务;
MQ 的功能由上述服务进行统一维护;
这里在核心业务线上没有改变组件选择,换掉 kafka 的一个原因是涉及大量结算业务,Redis 队列模式弃用,基于 Python 的管理系统功能不多,这里只是顺手换掉,统一业务线的编程语言。这样设计之后,从整体思路上看就会合理很多。
三、改造过程
======
3.1 整体思路
涉及核心角色说明,从左向右依次:
生产客户端:需要请求服务端通信的节点,调用生产服务端封装的消息发送接口即可;
生产服务端:封装消息发送 API,并维护路由管理,权限识别等,消息落地存储等;
消息存储层:主要基于消息中间件进行存储,数据库层面用来处理特定情况下的二次调度;
消费服务端:封装消息接收 API,并根据路由标识,请求指定的消费端接口,完成通信;
消费客户端:响应消费服务端的请求,封装消费时具体的业务逻辑;
在整体的技术难度上没有太多差别,但是引入两个服务【生产和消费】,用来管理 MQ 通信流程,适配特定的业务逻辑,引入数据库做一次落地存储,在异常流程的处理上更加灵活,这样整个消息模块具有很强的可扩展性。
3.2 细节描述
组件选型
消息中间件的选择是比较多的,但是鉴于业务线上开发人员的熟悉程度,以及参考多方提供的测试对比报告,最终确定选用 RocketMQ 组件,同时 RocketMQ 相关特点:高性能、高可靠性,以及对分布式事务的支持,也是核心的考虑因素。
微服务架构
基于当前微服务的架构模式,把 MQ 功能本身集成在两个核心服务中,进行统一管理和迭代,以及组件的版本控制,对于所有生产的消息,进行全局路由控制,以及特定情况下的,通过应用服务层面功能设计,实现消息延时消费,以及失败消息的二次调度执行,和部分单条消息的手动触发。
数据存储
评论