架构实战营模块 5 作业
作业内容
设计微博系统中”微博评论“的高性能高可用计算架构。
【作业要求】
基于模块 5 第 6 课的微博实战案例,分析“微博评论”这个核心场景的业务特性,然后设计其高性能高可用
计算架构,包括但不限于如下内容:
计算性能预估(不需要考虑存储性能);
非热点事件时的高性能计算架构,需要考虑是否要拆分独立的服务;
热点事件时的高可用计算架构。
非热点事件时的高性能计算架构
设计”微博评论“高性能高可用计算架构
计算性能估算
用户量估算
用户量
2020.9 月月活 5.11 亿,日活 2.24 亿(参考《微博 2020 用户发展报告》)。
关键行为
写评论
看评论
用户行为建模与性能需求计算
写评论
微博评论一般来说也是看多写少的,假设一条微博平均有 50 条评论,则微博评论每天的发送量为 2.5 亿*50=125 亿。大部分的人发评论的时间都是在看微博的时间内顺手发的,集中在早上 8:00~9:00 点,中午 12:00~13:00,晚上 20:00~22:00,假设这几个时间段发评论总量占比为 60%,则这 4 个小时的平均发评论的 TPS 计算如下:
125 亿 * 60% / (4 * 3600) ≈ 520 K/s
看评论
绝大用户看的都是大 V、明星、热点事件的微博评论,因此我们假设一条微博观看人数有 100 次,看微博时就会看评论,则看评论的观看次数为 2.5 亿*100=250 亿。
大部分人看评论的时间段和发评论的时间段基本重合,因此看评论的平均 QPS 计算如下:
250 亿 * 60% / (4*3600) = 1000K/s
高性能计算架构设计
发评论
业务特性分析
写评论是一个典型的写操作,因此不能用缓存,可以用负载均衡。
架构分析
用户量过亿,应该要用多级负载均衡架构,覆盖 DNS->F5->Nginx->网关的多级负载均衡。
架构设计
负载均衡算法选择
写评论的时候依赖登录状态,登录状态一般都是保存在分布式缓存中的,因此写评论的时候,将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。
业务服务器数量估算
写评论涉及几个关键的处理:内容审核(依赖审核系统)、数据写入存储(依赖存储系统)、数据写入缓存(依赖缓存系统),
因此按照一个服务每秒处理 500 来估算,完成 520K/s 的 TPS,需要 1040 台服务器,加上一定的预留量,1300 台服务器差不多了。
发评论的多级负载均衡架构
看评论
业务特性分析
看评论是一个典型的读场景,由于评论发了后不能修改,只能删除,因此非常适合用缓存架构,同时由于请求量很大,负载均衡架构也需要。
架构分析
用户量过亿,应该要用多级负载均衡架构
请求量达到 250 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。
架构设计
1.负载均衡算法选择
游客都可以直接看微博,因此将请求发送给任意服务器都可以,这里选择“轮询”或者“随机”算法。
业务服务器数量估算
假设 CDN 能够承载 90%的用户流量,那么剩下 10%的读微博的请求进入系统,则请求 QPS 为 1000K/s * 10% = 100K/s,由于读取
微博的处理逻辑比较简单,主要是读缓存系统,因此假设单台业务服务器处理能力是 1000/s,则机器数量为 100 台,按照 20%的预留
量,最终机器数量为 120 台。
看评论的多级负载均衡架构
看评论的多级缓存架构
评论高性能计算方案-整体架构设计
评论多级负载均衡整体架构
评论的多级缓存整体架构
热点事件时的高可用计算架构
热点事件指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内发评论与看评论,给系统造成很大压力。
【发评论】
造成热点事件的微博自己只有 1~2 条,但是用户围观后会有很多评论,热点事件评论数在 10 万以上。
【转发评论】
评论转发一般会很少,关注点主要还是在微博本身
【看评论】
很难预估,和事件的影响力和影响范围有关。
评论热点事件业务特性分析
【业务特性分析】
发评论
热点事件发生后,短时间内会吸引大量吃瓜群众来点评
转发评论
转发评论对于热点事件的微博影响不大,用户大多直接评论,转发的是少数
看评论
热点事件发生后,人们关注的重点还是在微博本身,评论的关注度没有微博高。
评论热点事件计算高可用架构分析
核心架构设计思想:既然无法预估,那就做好预防!
【架构设计分析】
发评论
发评论的重要性和影响力不如原微博,可以考虑对“发评论”限流,由于评论对于原微博不是特别重要,可以少量丢弃,考虑用“令牌算法”。
转发评论
与发评论类似
看评论
很明显,热点事件的评论存在缓存热点问题,可以考虑“多副本缓存”,由于原有的缓存架构已经采用了“应用内的缓存”,总体上来看,缓存热点问题其实不一定很突出。
版权声明: 本文为 InfoQ 作者【eoeoeo】的原创文章。
原文链接:【http://xie.infoq.cn/article/d788c49353e08b0fa1023f961】。文章转载请联系作者。
评论