”微博评论“的高性能高可用计算架构设计
【作业要求】
基于模块 5 第 6 课的微博实战案例,分析“微博评论”这个核心场景的业务特性,然后设计其
高性能高可用计算架构,包括但不限于如下内容:
1. 计算性能预估(不需要考虑存储性能);
2. 非热点事件时的高性能计算架构,需要考虑是否要拆分独立的服务;
3. 热点事件时的高可用计算架构。
业务场景计算性能估算
用户量 & 关键行为
【用户量】
1. 2020.9 月月活 5.11 亿,日活 2.24 亿(参考《微博 2020 用户发展报告》)。
【关键行为】
1. 发微博(课程内容,不分析);
2. 看微博(课程内容,不分析);
3. 发评论;
4. 看评论。
用户行为建模和性能估算
【发微博】
考虑到微博是一个看得多发的少的业务,假设平均每天每人发 1 条微博(只考虑文字微博),则微博每天的发送量约为 2.5 亿条。
大部分的人发微博集中在早上 8:00~9:00 点,中午 12:00~13:00,晚上 20:00~22:00,假设这几个时间段发微博总量占比为 60%。
【看微博】
由于绝大部分微博用户看微博的对象是大 V 和明星,因此我们假设平均一条微博观看人数有 100 次,则观看微博的次数为:2.5 亿* 100 = 250 亿。
【发评论】
大部分微博用户主要是浏览博文、有感兴趣的才有可能发表评论,假设观看 200 次会有 1 次评论,则评论的次数为:1.25 亿。
大部分人发评论的时间段和发微博的时间段基本重合,因此发评论的平均 TPS 计算如下:
1.25 亿* 60% / (4 * 3600) ≈ 5 K/s。
【看评论】
评论对应到每一条微博,微博用户先看到微博然后才能看到评论,假设观看 100 次微博会看 1 次评论,则看评论次数为:2.5 亿。
大部分人看评论的时间段和发微博的时间段基本重合,因此看评论的平均 QPS 计算如下:
2.5 亿 * 60% / (4*3600) = 10K/s。
高性能计算架构设计
发评论
【业务特性分析】
发评论是一个典型的写操作,因此不能用缓存,可以用负载均衡。
【架构分析】
用户量过亿,应该要用多级负载均衡架构,覆盖 DNS -> F5 -> Nginx -> 网关的多级负载均衡。
【架构设计】
1. 负载均衡算法选择
发评论的时候依赖登录状态,登录状态一般都是保存在分布式缓存中的,因此发评论的时候,将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。
2. 业务服务器数量估算
发评论涉及几个关键的处理:内容审核(依赖审核系统)、数据写入存储(依赖存储系统)、数据写入缓存(依赖缓存系统),因此按照一个服务每秒处理 500 来估算,完成 5K/s 的 TPS,需要 10 台服务器,加上一定的预留量,13 台服务器差不多。
发评论的多级负载均衡架构
看评论
【业务特性分析】
看评论是一个典型的读场景,由于评论发了后不能修改,因此非常适合用缓存架构,同时由于请求量很大,负载均衡架构也需要。
【架构分析】
1. 用户量过亿,应该要用多级负载均衡架构;
2. 请求量达到 2.5 亿,应该要用多级缓存架构。
【架构设计】
1.负载均衡算法选择
游客都可以直接看,因此将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。
2. 业务服务器数量估算
由于读取评论的处理逻辑比较简单,主要是读缓存系统,因此假设单台业务服务器处理能力是 1000/s,则机器数量为 10 台,按照 20%的预留量,最终机器数量为 12 台。
看评论的多级负载均衡架构
看评论的多级缓存架构
多级负载均衡整体架构
多级缓存整体架构
其实就是看评论的多级缓存架构。
高可用计算架构设计
热点事件用户行为建模和性能估算
热点事件指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内访问,给系统造成很大压力。
【发评论】
造成热点事件的微博自己只有 1~2 条,但是用户围观后会有很多评论,假设有 10% 的围观用户会在事件发生后 60 分钟内评论。
【看评论】
很难估计,微博用户先要进到评论页面才能发评论,而进到评论页面就会触发一次看评论。大致数量上会高于发评论。
热点事件业务特征分析
【发评论】
发评论的重要性、及时性要求并不高,大部分时候用户未必很在意自己的评论是不是成功,尤其是热点微博的评论刚发出就被别人的冲下去了。
热点事件发生后,绝大部分请求对应在导致热点发生的那一条微博上。
【看评论】
热点事件发生后,绝大部分请求对应在导致热点发生的那一条微博上。
热点事件计算高可用架构分析
核心架构设计思想:既然无法预估,就做好预防。
【架构设计分析】
1. 发评论
发评论的重要性,及时性要求不高,可以考虑对“发评论”限流,考虑用“漏桶算法”。
2. 看评论
热点事件微博的评论存在缓存热点问题,可以考虑“多副本缓存”,由于原有的缓存架构已经采用了“应用内的缓存,总体上来看,缓存热点问题其实不一定很突出。
热点事件计算高可能架构
微博转发评论计数显示上限为 100 万,对造假来说超过 100 万已经没意义了,所以 100 万的队列长度对于发评论来说足够了,甚至可以减少到 50 万、20 万。
评论