模块五 - 作业
![模块五-作业](https://static001.geekbang.org/infoq/df/df392843f08ccf19f0c3261d11690437.jpeg)
前言
分析“微博评论”这个核心场景的业务特性,然后设计其高性能高可用计算架构。
修订历史
[可选,文档会因为各种原因导致修订,通过修订历史来记录变更情况]
![](https://static001.geekbang.org/infoq/1d/1d55a2bd814e60bcd512261e2e19cd69.png)
词汇表
[可选,用于明确定义和说明一些英文缩写、术语等,请用表格来呈现,infoq 写作平台不支持表格,所以只能一个一个的列,实际编写的时候请用表格来展示]
1. 业务背景
[必选,从以下常见的角度来回答,你准备构建或者重构系统的目的和所处的位置是什么,可以是 1 个角度,也可以是多个角度,一般挑选重点的 3 个目的就差不多了:1.解决什么问题;2.带来什么价值;3.实现什么目标;4.完成什么任务;5.处于什么地位。
]
2. 约束和限制
[必选,列出明确的约束和限制,常见的约束和限制有:1.投资方的成本要求;2. 监管方的监管要求;3. 技术选型的硬性要求;4. 项目时间要求;5. 质量要求]
3. 总体架构
[必选,描述经过备选架构决策后定下来的架构方案,这一章主要是描述架构的 3R:Rank、Role、Relation]
[技巧:1. 系统边界白盒图描述系统内的角色与外界的交互(Rank + Role + 外部 Relation);2. 系统架构图来描述内部的 Role + 内部 Relation]
[注意:不建议一张图同时描述系统架构的 3R 以及与外界的交互,因为图太复杂,画系统边界白盒图的时候,系统内部的 Relation 可以不画]
3.1 架构分析
用户行为建模及性能估算
2020 年 9 月,微博的月活用户达到了 5.11 亿,日活用户有 2.24 亿。【读微博】预估每天观看次数 250 亿次
【写微博评论】
发评论和读微博的时间段一致,每条微博平均有 30%的用户发表评论,则 TPS 计算如下:
250 亿 * 30% / (4*3600) = 600k/s
业务特性分析:
写评论是写操作,但对实时性要求一般,可以用缓冲,和负载均衡。
架构分析:
用户量过亿,应该要用多级负载均衡架构,覆盖 DNS->F5/LVS->Nginx->网关的多级负载均衡
架构设计:
负载均衡算法选择
写评论时依赖登录状态,登录状态一般保存在分布式缓存中,提供写评论的服务可以是无状态的,因此可以将请求分发到任意服务器,这里选择轮询或随机算法。
写接口缓冲处理
通过漏桶变种算法,设置无限容量的队列,延迟写入请求,进行削峰填谷处理。可选择 kafka 分布式消息队列。Kafka 单个节点每秒 2000 万 条消息,吞吐量达到每秒 600MB。
业务服务器数量计算
写评论涉及关键处理:内容审核(审核系统智能审核或人工审核),数据写入缓冲处理(分布式消息队列),数据写入存储(依赖存储系统),数据写入缓存(依赖缓存系统)。按照单服务器 TPS 500/s 来估算,延迟 30 秒来算,需 40 台服务器差不多了。
写评论多级负载均衡架构
![](https://static001.geekbang.org/infoq/c7/c7f05a7607cc54cd58cdd454af455a9d.png)
【读微博评论】
读评论和读微博的时间段一致,平均有 80%的读微博用户会读微博评论,则 QPS 计算如下:
250 亿 * 80% / (4*3600) = 1600k/s
业务特性分析
看微博是典型的读场景,由于微博发了之后不能修改,因此非常适合用缓存架构,同时由于请求量很大,需要用负载均衡架构。
架构分析
用户量过亿,应该要用多级负载均衡架构。
请求量达到 250 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。
架构设计
负载均衡算法选择
登录态/非登录态(游客)都可以看评论,可以将请求转发给任意服务器,可选择轮询或随机算法。
业务服务器数量估算
假设 CDN 能承载 90%的用户流量,那么剩下的 10%读评论进入应用系统,则请求 qps 为:1600k/s * 10% = 160k/s,由于读评论的处理逻辑比较简单,主要是读缓存系统,假设每台服务器 QPS 为 1000/s,则服务器数为 160 台,预留 20%为 192 台。
写评论多级负载架构设计
![](https://static001.geekbang.org/infoq/1a/1a2d082018fba1939dd21fed6f153931.png)
看微博多级缓存架构
![](https://static001.geekbang.org/infoq/81/81695658124fed49d74173edbe216ce2.png)
微博热点事件处理
热点事件指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内访问(评写评论或读评论),给系统造成很大压力。
用户行为建模和性能估算
【写评论】
造成热点事件的微博自己只有 1~2 条,但是用户围观后有很多用户发表评论、点赞/置顶操作,并且多次发表评论,假设有 80%的围观用户会在事件发生后 10 分钟内有这些操作。
【读评论】
造成热点事件的微博自己只有 1~2 条,但同时也会有大量用户浏览评论。浏览量很难预估。
业务特征分析
【写评论】
写评论或多次评论的时效性要求不高,可以考虑给分布式消息添加服务器(添加分区)和动态添加服务器来解决。在可以接受不分评论丢失的情况下,对服务进行限流、降级、熔断。
【读评论】
缓存热点问题,可通过“多副本缓存”解决。
架构分析
架构示意图
发评论异步处理:
![](https://static001.geekbang.org/infoq/0a/0a1906e6c694ee5c1ceb07795679e84a.png)
读评论多副本缓存
![](https://static001.geekbang.org/infoq/46/46f803d376ea29dff3e0519cc3a870f9.png)
3.2 总体架构
[必选,描述总体架构设计]
微博评论多级负载均衡整体架构
![](https://static001.geekbang.org/infoq/78/78d538d89cc79f49730f348a5e29acef.png)
微博评论多级缓存整体架构
![](https://static001.geekbang.org/infoq/81/81695658124fed49d74173edbe216ce2.png)
4. 详细设计
[必选,描述核心场景或者流程的实现机制]
4.1 核心功能
[必选,描述核心场景或者流程的实现机制,对应 4R 架构中的 Rule,每个核心场景一个小节]
[样例:
4.1.1 消息发送流程
4.1.2 消息消费流程
]
[技巧:使用系统序列图来描述 Rule,跟项目开发中写设计文档一样的写法]
4.2 关键设计
[必选,描述系统的一些关键设计点是如何实现和取舍的]
[样例(如果你有兴趣,可以对比一下 kafka 的文档:Kafka design):
1)消息发送可靠性
业务服务器中嵌入消息队列系统提供的 SDK,SDK 支持轮询发送消息,当某个分组的主服务器无法发送消息时,SDK 挑选下一个分组主服务器重发消息,依次尝试所有主服务器直到发送成功;如果全部主服务器都无法发送,SDK 可以缓存消息,也可以直接丢弃消息,具体策略可以在启动 SDK 的时候通过配置指定。
如果 SDK 缓存了一些消息未发送,此时恰好业务服务器又重启,则所有缓存的消息将永久丢失,这种情况 SDK 不做处理,业务方需要针对某些非常关键的消息自己实现永久存储的功能。
2)消息存储可靠性
消息存储在 MySQL 中,每个分组有一主一备两台 MySQL 服务器,MySQL 服务器之间复制消息以保证消息存储高可用。如果主备间出现复制延迟,恰好此时 MySQL 主服务器宕机导致数据无法恢复,则部分消息会永久丢失,这种情况不做针对性设计,DBA 需要对主备间的复制延迟进行监控,当复制延迟超过 30 秒的时候需要及时告警并进行处理。
3)消息如何存储
每个消息队列对应一个 MySQL 表,消息队列名就是表名,表结构设计为……(此处请自行补充)
]
[技巧:常见的关键设计点包括高性能、高可用、可扩展、安全等]
4.3 设计规范
[必选,描述 Role 和 Relation 相关的开发框架、连接协议、数据包格式等]
[样例:
1)消息队列服务器使用 Spring Boot + Netty 开发
2)MySQL 使用 Innodb 存储引擎
3)TCP 包的结构设计……(此处省略,请自行补充)
]
[技巧:如果某个规范涉及内容比较多,请独立章节描述,例如数据包格式定义]
5. 质量设计
[必选,描述和质量相关的设计,包括:可测试性、可维护性、可观测性、成本等设计]
[样例:
5.1 消息队列管理后台
5.2 成本
]
[技巧:如果某个维度不涉及,也请在文档中说明,避免评审的时候被认为考虑不周全]
6. 演进规划
[必选,可以是演进规划,也可以是项目计划,需要描述每个里程碑或者版本具体要实现的能力]
[样例:
6.1 消息队列一期
6.2 消息队列二期
]
[技巧:开发阶段快速迭代,小步快跑,但要基本完善后才能正式推出给其他人用]
版权声明: 本文为 InfoQ 作者【Weldon】的原创文章。
原文链接:【http://xie.infoq.cn/article/1fcc34fc27337226a7bcbfe22】。未经作者许可,禁止转载。
评论