模块五
1. 计算性能预估
【发评论】
由于绝大部分微博用户发评论的对象是大 V 和明星,因此我们假设平均一条微博发评论人数有 10 次,则发评论的次数为:2.5 亿 * 10 = 25 亿。大部分人发评论的时间段和发微博的时间段基本重合,因此发评论的平均 QPS 计算如下:25 亿 * 60% / (4*3600) ≈ 100K/s。
【看评论】
由于绝大部分微博用户发评论的对象是大 V 和明星,因此我们假设平均一条微博评论观看人数有 10 次,则发评论的次数为:25 亿 * 10 = 250 亿。大部分人发评论的时间段和发微博的时间段基本重合,因此发评论的平均 QPS 计算如下:250 亿 * 60% / (4*3600) ≈ 1000K/s。
2. 非热点事件时的高性能计算架构
2.1 发评论
【业务特性分析】
发评论是典型的写操作,因此不能用缓存,可以用负载均衡。发评论可以适当延迟,异步写入即可
【架构分析】
用户量过亿,应该要用多级负载均衡架构,覆盖 DNS -> F5 -> Nginx -> 网关的多级负载均衡。
【架构设计】
1. 负载均衡算法选择
发评论的时候依赖登录状态,登录状态一般都是保存在分布式缓存中的,因此发评论的时候,将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。
2. 业务服务器数量估算
发评论涉及几个关键的处理:内容审核(依赖审核系统)、数据写入存储(依赖存储系统)、数据写入缓存(依赖缓存系统),因此按照一个服务每秒处理 500 来估算,完成 100K/s 的 TPS,需要 200 台服务器,加上一定的预留量,250 台服务器差不多了。
2.2 看评论
【业务特性分析】
看评论是典型的读操作,评论发了后不能修改,非常适合用缓存架构,同时由于请求量很大,需要采用负载均衡架构。
【架构分析】
用户量过亿,应该要用多级负载均衡架构;
请求量达到 250 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。
【架构设计】
1.负载均衡算法选择
游客都可以直接看微博,因此将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法
业务服务器数量估算
假设 CDN 能够承载 90%的用户流量,那么剩下 10%的读评论的请求进入系统,则请求 QPS 为 1000K/s * 10% = 100K/s,由于读评论的处理逻辑比较简单,主要是读缓存系统,因此假设单台业务服务器处理能力是 1000/s,则机器数量为 100 台,按照 20%的预留量,最终机器数量为 120 台。
看评论的多级缓存架构
APP/浏览器缓存 > CDN 缓存 > WEB 容器缓存 > 进程内缓存 > 分布式缓存
看评论和发评论的多级负载均衡架构
3. 热点事件时的高可用计算架构。
【业务特性分析】
发评论
发生热点事件时,发评论的请求大幅增加但时效性不高,不要求能被立马看到,仍至不要求被看到
看评论
热点事件发生后,绝大部分请求都前几条的热评中。
【架构设计分析】
发评论
发评论重要性和影响力不如原微博。可以多发评论采用限流,由于发评论的时效性不高,为了保证数据尽量不丢弃,我们可以采用漏桶算法
看评论
采用多副本缓存应对热点,若仍无法抗住流量时,可对看评论进行限流或降级处理,以保障核心业务稳定运行。
评论