高可用延迟队列设计与实现
对 msg table instance 是一个负担。反复有一个服务不断对数据库产生持续不断的压力
最大问题其实是什么？
**
调度模型基本统一，不要做重复的业务逻辑**
我们可以考虑将逻辑从具体的业务逻辑里面抽出来，变成一个公共的部分。
而这个调度模型，就是?延时队列?。
其实说白了：
延时队列模型，就是将未来执行的事件提前存储好，然后不断扫描这个存储，触发执行时间则执行对应的任务逻辑。
那么开源界是否已有现成的方案呢？答案是肯定的。Beanstalk (https://github.com/beanstalkd/beanstalkd) 它基本上已经满足以上需求
设计目的
消费行为 at least
高可用
实时性
支持消息删除
依次说说上述这些目的的设计方向：
消费行为
这个概念取自 mq 。mq 中提供了消费投递的几个方向：
at most once?→ 至多一次，消息可能会丢，但不会重复at least once?→ 至少一次，消息肯定不会丢失，但可能重复exactly once?→ 有且只有一次，消息不丢失不重复，且只消费一次。
exactly once?尽可能是 producer + consumer 两端都保证。当 producer 没办法保证是，那 consumer 需要在消费前做一个去重，达到消费过一次不会重复消费，这个在延迟队列内部直接保证。
最简单：使用 redis 的 setNX 达到 job id 的唯一消费
高可用
支持多实例部署。挂掉一个实例后，还有后备实例继续提供服务。
这个对外提供的 API 使用 cluster 模型，内部将多个 node 封装起来，多个 node 之间冗余存储。
为什么不使用 kafka？
考虑过类似基于 kafka/rocketmq 等消息队列作为存储的方案，最后从存储设计模型放弃了这类选择。
举个例子，假设以 Kafka 这种消息队列存储来实现延时功能，每个队列的时间都需要创建一个单独的 topic(如: Q1-1s, Q1-2s..)。这种设计在延时时间比较固定的场景下问题不太大，但如果是延时时间变化比较大会导致 topic 数目过多，会把磁盘从顺序读写会变成随机读写从导致性能衰减，同时也会带来其他类似重启或者恢复时间过长的问题。
topic 过多 → 存储压力
topic 存储的是现实时间，在调度时对不同时间 (topic) 的读取，顺序读 → 随机读
同理，写入的时候顺序写 → 随机写
架构设计
API 设计
producer
producer.At(msg []byte, at time.Time)producer.Delay(body []byte, delay time.Duration)producer.Revoke(ids string)
consumer
consumer.Consume(consume handler)
使用延时队列后，服务整体结构如下，以及队列中 job 的状态变迁：
service →?
producer.At(msg []byte, at time.Time)?→ 插入延时 job 到 tube 中定时触发 → job 状态更新为 ready
consumer 获取到 ready job → 取出 job，开始消费；并更改状态为 reserved
执行传入 consumer 中的 handler 逻辑处理函数
生产实践
主要介绍一下在日常开发，我们使用到延时队列的哪些具体功能。
生产端
开发中生产延时任务，只需确定任务执行时间
传入 At()?
producer.At(msg []byte, at time.Time)内部会自行计算时间差值，插入 tube
如果出现任务时间的修改，以及任务内容的修改
在生产时可能需要额外建立一个 logic_id → job_id 的关系表
查询到 job_id →?
producer.Revoke(ids string)?，对其删除，然后重新插入
消费端
首先，框架层面保证了消费行为的?exactly once?，但是上层业务逻辑消费失败或者是出现网络问题，亦或者是各种各样的问题，导致消费失败，兜底交给业务开发做。这样做的原因：
框架以及基础组件只保证 job 状态的流转正确性
框架消费端只保证消费行为的统一
评论