模块 5-”微博评论“的高性能高可用计算架构
1. 设计微博系统中”微博评论“的高性能高可用计算架构。
【作业要求】
基于模块 5 第 6 课的微博实战案例,分析“微博评论”这个核心场景的业务特性,然后设计其高性能高可用
计算架构,包括但不限于如下内容:
1. 计算性能预估(不需要考虑存储性能);
2. 非热点事件时的高性能计算架构,需要考虑是否要拆分独立的服务;
3. 热点事件时的高可用计算架构。
【提示】
1. 分析方法对照“看微博”和“发微博”的案例。
一、计算性能估算
用户量
2020.9 月月活 5.11 亿,日活 2.24 亿(参考《微博 2020 用户发展报告》)。
关键行为
发微博;
看微博;
评论微博(作业的内容,本节课不分析)。
用户行为建模和性能估算
写评论
考虑到微博是一个看得多发的少的业务,假设平均每天每人发 1 条微博(只考虑文字微博),则微博每天的发送量约为 2.5 亿条。 大部分的人发微博集中在早上 8:00~9:00 点,中午 12:00~13:00,晚上 20:00~22:00,假设这几个时间段发微博总量占 比为 60%,则这 4 个小时的平均发微博的 TPS 计算如下:
2.5 亿 * 60% / (4 * 3600) ≈ 10 K/s
同时,我们假设写微博的次数中,平均一条微博有 5 条评论。大部分人写微博评论的时间段和发微博的时间段基本重合,因此写微博评论的平均 TPS 计算如下:
10 K/s*5≈ 50 K/s
业务特性分析
写微博评论是一个典型的写操作,因此不能用缓存,可以用负载均衡。
架构分析
用户量过亿,应该要用多级负载均衡架构,覆盖 DNS->F5->Nginx->网关的多级负载均衡。
架构设计
负载均衡算法选择
微博评论的时候依赖登录状态,登录状态一般都是保存在分布式缓存中的,因此微博评论的时候,将请求发送给任意服务器都可以, 这里选择“轮询”或者“随机”算法。
业务服务器数量估算
写微博评论涉及几个关键的处理:内容审核(依赖审核系统)、数据写入存储(依赖存储系统)、数据写入缓存(依赖缓存系统), 因此按照一个服务每秒处理 500 来估算,完成 50K/s 的 TPS,需要 100 台服务器,加上一定的预留量,120 台服务器差不多了。
看评论
由于绝大部分微博用户看微博的对象是大 V 和明星,因此我们假设平均一条微博观看人数有 100 次,则观看微博的次数为: 2.5 亿 * 100 = 250 亿。
大部分人看微博的时间段和 发微博的时间段基本重合,因此看微博的平均 QPS 计算如下:
250 亿 * 60% / (4*3600) = 1000K/s
同时,我们假设看微博的次数中,有 10%的看微博请求会去读评论,大部分人读微博评论的时间段和看微博的时间段基本重合,因此微博评论的平均 QPS 计算如下:
1000K/s*10 = 100K/s
业务特性分析
看微博评论是一个典型的读场景,由于微博评论发了后不能修改,因此非常适合用缓存架构,同时由于请求量很大,负载均衡架构也需要。
架构分析
用户量过亿,应该要用多级负载均衡架构;请求量达到 25 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。
架构设计
负载均衡算法选择 游客都可以直接看微博评论,因此将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法;
业务服务器数量估算,假设 CDN 能够承载 90%的用户流量,那么剩下 10%的读微博评论的请求进入系统,则请求 QPS 为 100K/s * 10% = 10K/s,由于读取微博评论的处理逻辑比较简单,主要是读缓存系统,因此假设单台业务服务器处理能力是 1000/s,则机器数量为 10 台,按照 20%的预留 量,最终机器数量为 12 台。
二、 非热点事件时的高性能计算架构,需要考虑是否要拆分独立的服务;
多级负载均衡整体架构
多级缓存整体架构
三、热点事件时的高可用计算架构
假设有 10%的围观用户会在热点事件发生后 60 分钟内转发、评论。
1.业务特性分析
评论微博的重要性和业务影响不如发微博和看微博。
2.架构分析
评论微博重要性和业务影响不如发微博和看微博,可以考虑对“评论微博”进行限流、降级或熔断。
3.架构设计
限流
评论微博需要用户手动输入文字,丢请求对用户体验影响较大,所以尽最大可能选择不丢弃用户请求的算法。
降级、熔断
在主要业务(如发微博和看微博)出现较大性能压力时可将“评论微博”降级或熔断。
评论