写点什么

详解分布式系统的幂等

作者:焱融科技
  • 2022 年 7 月 27 日
  • 本文字数:1751 字

    阅读完需:约 6 分钟

详解分布式系统的幂等

幂等是指一次和多次请求某一个资源应该具有同样的作用。


什么是分布式的幂等

首先,我们来设想以下几个场景:

  • 场景一:在 App 上确认订单的时候,点击多次没有反应,只能反复点击几次。在这种情况下,如果无法保证该接口的幂等性,那么将会出现重复下单的问题。

  • 场景二:在接收消息的时候,消息推送重复。如果处理消息的接口无法保证幂等,那么重复消费的消息影响可能会非常大。

通常,为了满足高可用、高性能和高可扩展的特性,分布式系统拥有众多服务节点,但是却容易导致服务调用链冗长复杂,服务节点之间网络通信复杂度指数级增加,一处轻微网络故障就可能导致整个服务异常。

同时,考虑到硬件设备自身故障的可能性,所以分布式系统面临一个共同的问题:一个消息(任务)可能会被重复消费。因此,如何确保同一个消息单次消费和多次重复消费具有相同的效果,也就是消息的幂等性成为一个热点问题


其他常见的分布式解决方案

  1. 数据库添加唯一索引,比如订单号是唯一索引,防止生产重复订单;

  2. 使用分布式锁,防止应用程序出现并发操作;

  3. 采用 Token 机制,有效防止重复提交。提交后台时带 Token 值,需要先判断 Token 是否存在,若是存在,则删除 Token,执行业务逻辑;

  4. 数据库通过乐观锁;(update table_name set version=version+1 where version=0)

  5. 数据库悲观锁,通常是通过主键或唯一索引和事务一起实现。

以上是其他常见的幂等解决方案,往往在不同的业务场景下会采用不同的方法。由于我们的主要业务是分布式存储,IO 从 Client 到 Server 的链路都不会很长,所以我们参考 Token 机制,实现了一套“新”机制来处理业务场景里存在的幂等问题。


不同状态的消息处理

如图所示,这是一个简单的任务系统,Server 成功执行了 ① 发送来的命令,但是并没有收到对应的结果。这是因为有网络因素的存储遇到问题,Client 都需要去重试任务,以排除网络不稳定带来的影响,但是在不同情况下,Server 收到重试消息时,需要有不同的应对方案。这时,可能会出现以下三种情况:

第一种情况,Server 并没有收到对应的消息,因为有网络不稳定的情况存在,Client 是需要去重试的,这时 Server 会重新收到消息并且进行处理,正常处理之后返回对应的结果。

第二种情况,Server 收到了对应的消息,还正在处理,由于其他因素导致任务执行时间过长。这是因为任务仍然在执行,所以为了保证幂等,我们需要等之前的任务执行完成后,再获取其执行的结果返回给客户端。

第三种情况,Server 收到了对应的消息,并且已经处理完成,但是网络因素导致 Client  没有收到 ② 的结果,Server 收到重试的请求之后,直接获取已经收到结果返回给 Client。

为了做到上面的功能,我们需要有一套合理的机制来保存已经收到的消息状态,并且需要在能够判断消息已经被 Client 收到结果时清理这个状态,这里我们引入了 SeqNumber 来做到这些事情。


SeqNumber 的机制

我们每次的请求都会带着一个之前已经完成的请求序号 ACK 和当前序号 Seq,Server 在处理时会根据 Seq 来判断当前消息的状态,保证一个 Seq 不会被执行多次。同时,会释放 ACK 对应的序号,因为只有在这个时候才能保证 Client 已经正确的完成了对应的请求。

我们在 Client 端有两个队列 finished 和 running,分别存有正在执行的和已经完成的任务 ID。在 Server 端有一个 map,保存了所有未清理的消息(包括正在执行执行完成)。

我们一个请求有以下几个步骤:

  1. 生成一个未使用的 Seq,如图在 request 里生成了 12;

  2. 将这个 Seq 插入 running 队列;

  3. 从已经完成的 finished 队列获取最小的 Seq 作为 ACK,如图 ACK=1,到这里 Client 将准备好的消息发送给 Server

  4. Server 收到请求,首先会将 ACK 对应的请求的缓存释放掉,然后获取对应 Seq 的消息,如果没有就说明是新的消息,直接插入,否则根据 map 之中的状态做对应的处理(对应到上文中三种状态的处理方式);

  5. 完成任务之后,返回结果给 Client,到这里 Server 已经完成了任务处理

  6. Client 收到了消息的结果,可以确认 Server 已经完成任务,这时候释放 finished 队列中 ACK=1 的项,然后将刚刚完成是 Seq=12 的任务移动到 finished 之中。


总结

分布式系统是一个非常庞大且复杂的系统,幂等只是其中非常重要且复杂的问题,在分布式系统的构建中,不同的系统对于幂等有着不同的需求,希望这篇文章能够对大家有所帮助。

发布于: 2 小时前阅读数: 6
用户头像

焱融科技

关注

Drive Future Storage 2020.05.29 加入

面向未来的下一代云存储

评论

发布
暂无评论
详解分布式系统的幂等_分布式系统_焱融科技_InfoQ写作社区