写点什么

模块五 - 作业

作者:Weldon
  • 2022-11-11
    上海
  • 本文字数:2797 字

    阅读完需:约 9 分钟

模块五-作业

前言

分析“微博评论”这个核心场景的业务特性,然后设计其高性能高可用计算架构

修订历史

[可选,文档会因为各种原因导致修订,通过修订历史来记录变更情况]

词汇表

[可选,用于明确定义和说明一些英文缩写、术语等,请用表格来呈现,infoq 写作平台不支持表格,所以只能一个一个的列,实际编写的时候请用表格来展示]

1. 业务背景

[必选,从以下常见的角度来回答,你准备构建或者重构系统的目的和所处的位置是什么,可以是 1 个角度,也可以是多个角度,一般挑选重点的 3 个目的就差不多了:1.解决什么问题;2.带来什么价值;3.实现什么目标;4.完成什么任务;5.处于什么地位。

]

2. 约束和限制

[必选,列出明确的约束和限制,常见的约束和限制有:1.投资方的成本要求;2. 监管方的监管要求;3. 技术选型的硬性要求;4. 项目时间要求;5. 质量要求]


3. 总体架构

[必选,描述经过备选架构决策后定下来的架构方案,这一章主要是描述架构的 3R:Rank、Role、Relation]

[技巧:1. 系统边界白盒图描述系统内的角色与外界的交互(Rank + Role + 外部 Relation);2. 系统架构图来描述内部的 Role + 内部 Relation]

[注意:不建议一张图同时描述系统架构的 3R 以及与外界的交互,因为图太复杂,画系统边界白盒图的时候,系统内部的 Relation 可以不画]

3.1 架构分析

用户行为建模及性能估算

2020 年 9 月,微博的月活用户达到了 5.11 亿,日活用户有 2.24 亿。【读微博】预估每天观看次数 250 亿次

【写微博评论】

发评论和读微博的时间段一致,每条微博平均有 30%的用户发表评论,则 TPS 计算如下:

250 亿 * 30% / (4*3600) = 600k/s

业务特性分析:

写评论是写操作,但对实时性要求一般,可以用缓冲,和负载均衡。

架构分析:

用户量过亿,应该要用多级负载均衡架构,覆盖 DNS->F5/LVS->Nginx->网关的多级负载均衡

架构设计:
  1. 负载均衡算法选择

写评论时依赖登录状态,登录状态一般保存在分布式缓存中,提供写评论的服务可以是无状态的,因此可以将请求分发到任意服务器,这里选择轮询或随机算法。

  1. 写接口缓冲处理

通过漏桶变种算法,设置无限容量的队列,延迟写入请求,进行削峰填谷处理。可选择 kafka 分布式消息队列。Kafka 单个节点每秒 2000 万 条消息,吞吐量达到每秒 600MB。

  1. 业务服务器数量计算

写评论涉及关键处理:内容审核(审核系统智能审核或人工审核),数据写入缓冲处理(分布式消息队列),数据写入存储(依赖存储系统),数据写入缓存(依赖缓存系统)。按照单服务器 TPS 500/s 来估算,延迟 30 秒来算,需 40 台服务器差不多了。

写评论多级负载均衡架构


【读微博评论】

读评论和读微博的时间段一致,平均有 80%的读微博用户会读微博评论,则 QPS 计算如下:

250 亿 * 80% / (4*3600) = 1600k/s

业务特性分析

看微博是典型的读场景,由于微博发了之后不能修改,因此非常适合用缓存架构,同时由于请求量很大,需要用负载均衡架构。

架构分析

用户量过亿,应该要用多级负载均衡架构。

请求量达到 250 亿,应该要用多级缓存架构,尤其是 CDN 缓存,是缓存设计的核心。

架构设计
  1. 负载均衡算法选择

登录态/非登录态(游客)都可以看评论,可以将请求转发给任意服务器,可选择轮询或随机算法。

  1. 业务服务器数量估算

假设 CDN 能承载 90%的用户流量,那么剩下的 10%读评论进入应用系统,则请求 qps 为:1600k/s * 10% = 160k/s,由于读评论的处理逻辑比较简单,主要是读缓存系统,假设每台服务器 QPS 为 1000/s,则服务器数为 160 台,预留 20%为 192 台。

写评论多级负载架构设计
看微博多级缓存架构


微博热点事件处理

热点事件指某个大 V 或者明星爆料或者官宣,虽然只有一两条微博,但引起大量用户在短时间内访问(评写评论或读评论),给系统造成很大压力。

用户行为建模和性能估算
  • 【写评论】

造成热点事件的微博自己只有 1~2 条,但是用户围观后有很多用户发表评论、点赞/置顶操作,并且多次发表评论,假设有 80%的围观用户会在事件发生后 10 分钟内有这些操作。

  • 【读评论】

造成热点事件的微博自己只有 1~2 条,但同时也会有大量用户浏览评论。浏览量很难预估。

业务特征分析
  • 【写评论】

写评论或多次评论的时效性要求不高,可以考虑给分布式消息添加服务器(添加分区)和动态添加服务器来解决。在可以接受不分评论丢失的情况下,对服务进行限流、降级、熔断。

  • 【读评论】

缓存热点问题,可通过“多副本缓存”解决。

架构分析


架构示意图
  • 发评论异步处理:

  • 读评论多副本缓存


3.2 总体架构

[必选,描述总体架构设计]

微博评论多级负载均衡整体架构


微博评论多级缓存整体架构

4. 详细设计

[必选,描述核心场景或者流程的实现机制]

4.1 核心功能

[必选,描述核心场景或者流程的实现机制,对应 4R 架构中的 Rule,每个核心场景一个小节]

[样例:

4.1.1 消息发送流程

4.1.2 消息消费流程

]

[技巧:使用系统序列图来描述 Rule,跟项目开发中写设计文档一样的写法]


4.2 关键设计

[必选,描述系统的一些关键设计点是如何实现和取舍的]

[样例(如果你有兴趣,可以对比一下 kafka 的文档:Kafka design):

1)消息发送可靠性

业务服务器中嵌入消息队列系统提供的 SDK,SDK 支持轮询发送消息,当某个分组的主服务器无法发送消息时,SDK 挑选下一个分组主服务器重发消息,依次尝试所有主服务器直到发送成功;如果全部主服务器都无法发送,SDK 可以缓存消息,也可以直接丢弃消息,具体策略可以在启动 SDK 的时候通过配置指定。

如果 SDK 缓存了一些消息未发送,此时恰好业务服务器又重启,则所有缓存的消息将永久丢失,这种情况 SDK 不做处理,业务方需要针对某些非常关键的消息自己实现永久存储的功能。

2)消息存储可靠性

消息存储在 MySQL 中,每个分组有一主一备两台 MySQL 服务器,MySQL 服务器之间复制消息以保证消息存储高可用。如果主备间出现复制延迟,恰好此时 MySQL 主服务器宕机导致数据无法恢复,则部分消息会永久丢失,这种情况不做针对性设计,DBA 需要对主备间的复制延迟进行监控,当复制延迟超过 30 秒的时候需要及时告警并进行处理。

3)消息如何存储

每个消息队列对应一个 MySQL 表,消息队列名就是表名,表结构设计为……(此处请自行补充)

]

[技巧:常见的关键设计点包括高性能、高可用、可扩展、安全等]


4.3 设计规范

[必选,描述 Role 和 Relation 相关的开发框架、连接协议、数据包格式等]

[样例:

1)消息队列服务器使用 Spring Boot + Netty 开发

2)MySQL 使用 Innodb 存储引擎

3)TCP 包的结构设计……(此处省略,请自行补充)

]

[技巧:如果某个规范涉及内容比较多,请独立章节描述,例如数据包格式定义]

5. 质量设计

[必选,描述和质量相关的设计,包括:可测试性、可维护性、可观测性、成本等设计]

[样例:

5.1 消息队列管理后台

5.2 成本

]

[技巧:如果某个维度不涉及,也请在文档中说明,避免评审的时候被认为考虑不周全]


6. 演进规划

[必选,可以是演进规划,也可以是项目计划,需要描述每个里程碑或者版本具体要实现的能力]

[样例:

6.1 消息队列一期

6.2 消息队列二期

]

[技巧:开发阶段快速迭代,小步快跑,但要基本完善后才能正式推出给其他人用]

发布于: 刚刚阅读数: 4
用户头像

Weldon

关注

还未添加个人签名 2018-04-26 加入

还未添加个人简介

评论

发布
暂无评论
模块五-作业_架构实战营_Weldon_InfoQ写作社区