写点什么

你知道 Redis 可以实现延迟队列吗?

用户头像
xcbeyond
关注
发布于: 2021 年 06 月 05 日

最近,又重新学习了下 Redis,深深被 Redis 的魅力所折服,Redis 不仅能快还能慢(我想也这么优秀 o(╥﹏╥)o),简直利器呀


咳咳咳,大家不要误会,本文很正经的啦!伙伴们跟我一起冲呀,我们一起去爬爬这座延时队列的山峰,探一探它究竟到底有高。

如果觉得本文有收获的话,二哈恳求各位伙伴们点个小心心,♥(ˆ◡ˆԅ)((づ ̄3 ̄)づ╭❤~哟)。

那接下来开始我们的旅行啦~,我们都知道 Redis 是一种基于内存的单进程单线程数据库(Redis6.0 开始之后支持多线程啦!),处理速度都非常快。那么为何 Redis 又能慢呢?原来,这里说的慢是指 Redis 可以设置一些参数达到慢处理的结果。(这就是为什么 Redis 既能快又能慢啦!)


那接下来开始讲讲我们的 Redis 在队列中如何实现延时的情况:


在我们日常生活中,我们可以发现:

  • 在淘宝、京东等购物平台上下单,超过一定时间未付款,订单会自动取消。

  • 打车的时候,在规定时间没有车主接单,平台会取消你的单并提醒你暂时没有车主接单。

  • 点外卖的时候,如果商家在 10 分钟还没接单,就会自动取消订单。

  • 收快递的时候,如果我们没有点确认收货,在一段时间后程序会自动完成订单。

  • 在平台完成订单后,如果我们没有在规定时间评论商品,会自动默认买家不评论。

  • .......


这时,我们可以想想为什么要这样做?


因为这样可以保证商品的库存可以释放给其他人购买,你可以不用一直等待打车却得不到回复,你可以及时换一家店点到外卖。


那么这些情况都是如何实现的呢?


这时我们可以看看这个图,来看看消息延迟是如何处理的:


当用户发送一个消息请求给服务器后台的时候,服务器会检测这条消息是否需要进行延时处理,如果需要就放入到延时队列中,由延时任务检测器进行检测和处理,对于不需要进行延时处理的任务,服务器会立马对消息进行处理,并把处理后的结果返会给用户。



对于在延时任务检测器内部的话,有查询延迟任务和执行延时任务两个职能,任务检测器会先去延时任务队列进行队列中信息读取,判断当前队列中哪些任务已经时间到期并将已经到期的任务输出执行(设置一个定时任务)。


这时,我们可以想一想在 Redis 的数据结构中有哪些能进行时间设置标志的命令?


是不是想到的 zset 这个命令,具有去重有序(分数排序)的功能。没错,你想对了呀!


我们可以使用 zset(sortedset)这个命令,用设置好的时间戳作为 score 进行排序,使用 zadd score1 value1 ....命令就可以一直往内存中生产消息。再利用 zrangebysocre 查询符合条件的所有待处理的任务,通过循环执行队列任务即可。也可以通过 zrangebyscore key min max withscores limit 0 1 查询最早的一条任务,来进行消费。


总的来说,你可以通过以下两种方式来实现((^▽^)如果你想到其他方法,也可以告诉我下呀~):


(1)使用 zrangebyscore 来查询当前延时队列中所有任务,找出所有需要进行处理的延时任务,在依次进行操作。

(2)查找当前最早的一条任务,通过 score 值来判断任务执行的时候是否大于了当前系统的时候,比如说:最早的任务执行时间在 3 点,系统时间在 2 点 58 分),表示这个应该需要立马被执行啦,时间快到了(冲冲冲,他来了他来了,他带着死神的步伐来了)。


我们可以想一想 Redis 来实现延时队列有何优势呢?


其实,Redis 用来进行实现延时队列是具有这些优势的:

  1. Redis zset 支持高性能的 score 排序。

  2. Redis 是在内存上进行操作的,速度非常快。

  3. Redis 可以搭建集群,当消息很多时候,我们可以用集群来提高消息处理的速度,提高可用性。

  4. Redis 具有持久化机制,当出现故障的时候,可以通过 AOF 和 RDB 方式来对数据进行恢复,保证了数据的可靠性


这时候,会有小伙伴问了还有没有其他实现延时队列的方式呀!emmm....当然有的,只有想不到的没有做不到。

一、用消息中间件实现延时队列

(1)通过 RabbitMQ 来实现延时队列

方法一:在 MQ 中我们可以对 Queue 设置 x-expires 过期时间或者对 Message 设置超时时间 x-message-ttl。

(这里要注意下:延时相同的消息我们要扔到同一个队列中,对于每一个延时要建立一个与之对应的队列—这是由于 MQ 的过期检测是惰性检测的。)


方法二:我们可以用 RabbitMQ 的插件 rabbitmq-delayed-message-exchange 插件来实现延时队列。达到可投递时间时并将其通过 x-delayed-type 类型标记的交换机类型投递至目标队列。



(2)RocketMQ 实现延时队列


rocketmq 在发送延时消息时,是先把消息按照延迟时间段发送到指定的队列中(把延时时间段相同的消息放到同一个队列中,保证了消息处理的顺序性,可以让同一个队列中消息延时时间是相同的,整个 RocketMQ 中延时消息时按照递增顺序排序,保证信息处理的先后顺序性。)。之后,通过一个定时器来轮询处理这些队列里的信息,判断是否到期。对于到期的消息会发送到相应的处理队列中,进行处理。


注意 :目前 RocketMQ 只支持特定的延时时间段,1s,5s,10s,...2h,不能支持任意时间段的延时设置。有兴趣的小伙伴可以去了解下它是相关知识呀~

二、Kafka 实现延时队

Kafka 基于时间轮自定义了一个用于实现延迟功能的定时器(SystemTimer),Kafka 中的时间轮(TimingWheel)是一个存储定时任务的环形队列,可以进行相关的延时队列设置。



三、Netty 实现延时队列

Netty 也有基于时间轮算法来实现延时队列。Netty 在构建延时队列主要用 HashedWheelTimer,HashedWheelTimer 底层数据结构是使用 DelayedQueue,采用时间轮的算法来实现。



四、DelayQueue 来实现延时队列

Java 中有自带的 DelayQueue 数据类型,我们可以用这个来实现延时队列。DelayQueue 是封装了一个 PriorityQueue(优先队列),在向 DelayQueue 队列中添加元素时,会给元素一个 Delay(延迟时间)作为排序条件,队列中最小的元素会优先放在队首,对于队列中的元素只有到了 Delay 时间才允许从队列中取出。这种实现方式是数据保存在内存中,可能面临数据丢失的情况,同时它是无法支持分布式系统的。



相关代码我之后会上传到我的 GitHub 上呀~(冲冲冲,小伙伴们!)又是美好的一天。

用户头像

xcbeyond

关注

不为别的,只为技术沉淀、分享。 2019.06.20 加入

公众号:程序猿技术大咖,专注于技术输出、分享。

评论

发布
暂无评论
你知道 Redis 可以实现延迟队列吗?