写点什么

设计微博系统中”微博评论“的高性能高可用计算架构

作者:悟空
  • 2023-01-25
    上海
  • 本文字数:1914 字

    阅读完需:约 6 分钟

设计微博系统中”微博评论“的高性能高可用计算架构

计算性能预估

用户量预估

2020.9 月月活 5.11 亿,日活 2.24 亿(参考《微博 2020 用户发展报告》)

关键行为和性能估算

【发评论】

考虑到微博评论是一个看得多发的少的业务,假设平均一条微博发 10 条评论(只考虑文字评论),则评论每天的发送量约为 2.5*10 亿条。

大部分的人发评论集中在早上 8:00~9:00 点,中午 12:00~13:00,晚上 20:00~22:00,假设这几个时间段发评论总量占比为 60%,则这 4 个小时的平均发评论的 TPS 计算如下:

2.5 亿*10 * 60% / (4 * 3600) ≈ 100 K/s

【看评论】

由于绝大部分微博用户看评论的对象是大 V 和明星,因此我们假设平均一条微博评论观看人数有 50 次,则观看评论的次数为:

2.5 亿 * 50 = 125 亿。

大部分人看评论的时间段和发评论的时间段基本重合,因此看评论的平均 QPS 计算如下:

2.5 亿 * 50 * 60% / (4*3600) ≈ 500K/s

高性能计算架构设计

发评论

【业务特性分析】

发评论相对发微博来说,发评论的话其实绝大部分用户发完评论之后评论就被刷掉了,用户自己都不一定能看得到,则它对及时性要求并没那么的高,因此可以使用写缓冲,并且要使用负载均衡

【架构分析】

用户量过亿,应该要用多级负载均衡架构,覆盖 DNS -> F5 -> Nginx -> 网关的多级负载均衡

【架构设计】

1. 负载均衡算法选择

发评论的时候依赖登录状态,登录状态一般都是保存在分布式缓存中的,因此发微博的时候,将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。

2. 业务服务器数量估算

发评论涉及几个关键的处理:内容审核(依赖审核系统)、数据写入存储(依赖存储系统)、数据写入缓存(依赖缓存系统),由于发评论可以使用写缓冲的形式,单笔写请求为异步,因此按照一个服务每秒处理 800 来估算,完成 100K/s 的 TPS,需要 125 台服务器,加上一定的预留量,150 台服务器差不多了。

发评论的多级负载均衡架构


看评论

【业务特性分析】

看评论是一个典型的读场景,由于评论发了后不能修改,因此非常适合用缓存架构,同时由于请求量很大,负载均衡架构也需要。

【架构分析】

1. 用户量过亿,应该要用多级负载均衡架构;

2. 请求量达到 125 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。

【架构设计】

1.负载均衡算法选择

游客都可以直接看评论,因此将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。

2. 业务服务器数量估算

假设 CDN 能够承载 90%的用户流量,那么剩下 10%的读评论的请求进入系统,则请求 QPS 为 500K/s * 10% = 50K/s,由于读取评论的处理逻辑比较简单,主要是读缓存系统,因此假设单台业务服务器处理能力是 1000/s,则机器数量为 50 台,按照 20%的预留量,最终机器数量为 60 台。

看评论的多级负载均衡架构


看评论的多级缓存架构


微博评论高性能计算方案- 整体架构设计


微博评论缓存架构


微博评论多级负载均衡架构


微博评论热点事件高可用计算架构设计

用户行为建模和性能估算

热点事件指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内访问评论,给系统造成很大压力。

【转发评论】

评论的转发本身就会伴随着微博的转发也可同时进行评论,造成热点事件的微博其实只有 1~2 条,但是用户围观后会有很多转发,但评论的转发会低于微博的转发,因为微博可直接微博本身转发或者伴随评论进行转发两种情况,假设有 5%的围观用户会在事件发生后 60 分钟内转发评论。

【发评论】

发评论仅在此微博下可见,但流量上来以后评论会大幅度增加,自己评论可能很快会被刷掉。假设 5%的围观群众中的 50%会在看到微博以后的 5 分钟内发评论。

【看评论】

和看微博一样很难预估,和事件的影响力和影响范围有关

微博热点事件业务特性分析

【业务特性分析】

1. 转发评论

转发微博评论的业务逻辑基本等同于发微博评论,但是业务上可以区分是“原创”还是“转发”,转发的微博重要性和影响力不如原微博。转发评论比发评论要少很多

2. 发评论

发评论仅在此微博下可见,回复评论和发评论只是多了层级关联

3. 看评论

热点事件发生后,绝大部分请求都落在了导致热点事件发生的那一条微博上面的评论

微博热点事件计算高可用架构分析


心架构设计思想:既然无法预估,那就做好预防!

【架构设计分析】

1. 转发评论

转发的微博评论重要性和影响力不如原微博评论,可以考虑对“转发评论”限流,由于转发能带来更好的传播,因此尽量少丢弃请求,考虑用“漏桶算法”。

2.发评论

发评论和回复评论也存在同一时间请求数过多的情况,但前面已介绍使用 Mq 来做缓冲,则假设的 5%的围观群众中的 50%会在看到微博以后的 5 分钟内发评论也是没问题的

3. 看评论

很明显,热点事件微博评论存在缓存热点问题,可以考虑“多副本缓存”,由于原有的缓存架构已经采用了“应用内的缓存,总体上来看,缓存热点问题其实不一定很突出。

微博热点事件计算高可用架构示意图



用户头像

悟空

关注

还未添加个人签名 2018-12-28 加入

还未添加个人简介

评论

发布
暂无评论
设计微博系统中”微博评论“的高性能高可用计算架构_架构_悟空_InfoQ写作社区