前言

分析“微博评论”这个核心场景的业务特性，然后设计其高性能高可用计算架构。

修订历史

[可选，文档会因为各种原因导致修订，通过修订历史来记录变更情况]

词汇表

[可选，用于明确定义和说明一些英文缩写、术语等，请用表格来呈现，infoq 写作平台不支持表格，所以只能一个一个的列，实际编写的时候请用表格来展示]

1. 业务背景

[必选，从以下常见的角度来回答，你准备构建或者重构系统的目的和所处的位置是什么，可以是 1 个角度，也可以是多个角度，一般挑选重点的 3 个目的就差不多了：1.解决什么问题；2.带来什么价值；3.实现什么目标；4.完成什么任务；5.处于什么地位。

]

2. 约束和限制

[必选，列出明确的约束和限制，常见的约束和限制有：1.投资方的成本要求；2. 监管方的监管要求；3. 技术选型的硬性要求；4. 项目时间要求；5. 质量要求]

3. 总体架构

[必选，描述经过备选架构决策后定下来的架构方案，这一章主要是描述架构的 3R：Rank、Role、Relation]

[技巧：1. 系统边界白盒图描述系统内的角色与外界的交互(Rank + Role + 外部 Relation)；2. 系统架构图来描述内部的 Role + 内部 Relation]

[注意：不建议一张图同时描述系统架构的 3R 以及与外界的交互，因为图太复杂，画系统边界白盒图的时候，系统内部的 Relation 可以不画]

3.1 架构分析

用户行为建模及性能估算

2020 年 9 月，微博的月活用户达到了 5.11 亿，日活用户有 2.24 亿。【读微博】预估每天观看次数 250 亿次

【写微博评论】

发评论和读微博的时间段一致，每条微博平均有 30%的用户发表评论，则 TPS 计算如下：

250 亿 * 30% / (4*3600) = 600k/s

业务特性分析：

写评论是写操作，但对实时性要求一般，可以用缓冲，和负载均衡。

架构分析：

用户量过亿，应该要用多级负载均衡架构，覆盖 DNS->F5/LVS->Nginx->网关的多级负载均衡

架构设计：

1. 负载均衡算法选择

写评论时依赖登录状态，登录状态一般保存在分布式缓存中，提供写评论的服务可以是无状态的，因此可以将请求分发到任意服务器，这里选择轮询或随机算法。

1. 写接口缓冲处理

通过漏桶变种算法，设置无限容量的队列，延迟写入请求，进行削峰填谷处理。可选择 kafka 分布式消息队列。Kafka 单个节点每秒 2000 万 条消息，吞吐量达到每秒 600MB。

1. 业务服务器数量计算

写评论涉及关键处理：内容审核（审核系统智能审核或人工审核），数据写入缓冲处理（分布式消息队列），数据写入存储（依赖存储系统），数据写入缓存（依赖缓存系统）。按照单服务器 TPS 500/s 来估算，延迟 30 秒来算，需 40 台服务器差不多了。

写评论多级负载均衡架构

【读微博评论】

读评论和读微博的时间段一致，平均有 80%的读微博用户会读微博评论，则 QPS 计算如下：

250 亿 * 80% / (4*3600) = 1600k/s

业务特性分析

看微博是典型的读场景，由于微博发了之后不能修改，因此非常适合用缓存架构，同时由于请求量很大，需要用负载均衡架构。

架构分析

用户量过亿，应该要用多级负载均衡架构。

请求量达到 250 亿，应该要用多级缓存架构，尤其是 CDN 缓存，是缓存设计的核心。

架构设计

1. 负载均衡算法选择

登录态/非登录态（游客）都可以看评论，可以将请求转发给任意服务器，可选择轮询或随机算法。

1. 业务服务器数量估算

假设 CDN 能承载 90%的用户流量，那么剩下的 10%读评论进入应用系统，则请求 qps 为：1600k/s * 10% = 160k/s，由于读评论的处理逻辑比较简单，主要是读缓存系统，假设每台服务器 QPS 为 1000/s，则服务器数为 160 台，预留 20%为 192 台。

写评论多级负载架构设计

看微博多级缓存架构

微博热点事件处理

热点事件指某个大 V 或者明星爆料或者官宣，虽然只有一两条微博，但引起大量用户在短时间内访问（评写评论或读评论），给系统造成很大压力。

用户行为建模和性能估算

• 【写评论】

造成热点事件的微博自己只有 1~2 条，但是用户围观后有很多用户发表评论、点赞/置顶操作，并且多次发表评论，假设有 80%的围观用户会在事件发生后 10 分钟内有这些操作。

• 【读评论】

造成热点事件的微博自己只有 1~2 条，但同时也会有大量用户浏览评论。浏览量很难预估。

业务特征分析

• 【写评论】

写评论或多次评论的时效性要求不高，可以考虑给分布式消息添加服务器（添加分区）和动态添加服务器来解决。在可以接受不分评论丢失的情况下，对服务进行限流、降级、熔断。

• 【读评论】

缓存热点问题，可通过“多副本缓存”解决。

架构分析

架构示意图

• 发评论异步处理：

• 读评论多副本缓存

3.2 总体架构

[必选，描述总体架构设计]

微博评论多级负载均衡整体架构

微博评论多级缓存整体架构

4. 详细设计

[必选，描述核心场景或者流程的实现机制]

4.1 核心功能

[必选，描述核心场景或者流程的实现机制，对应 4R 架构中的 Rule，每个核心场景一个小节]

[样例：

4.1.1 消息发送流程

4.1.2 消息消费流程

]

[技巧：使用系统序列图来描述 Rule，跟项目开发中写设计文档一样的写法]

4.2 关键设计

[必选，描述系统的一些关键设计点是如何实现和取舍的]

[样例（如果你有兴趣，可以对比一下 kafka 的文档：Kafka design）：

1）消息发送可靠性

业务服务器中嵌入消息队列系统提供的 SDK，SDK 支持轮询发送消息，当某个分组的主服务器无法发送消息时，SDK 挑选下一个分组主服务器重发消息，依次尝试所有主服务器直到发送成功；如果全部主服务器都无法发送，SDK 可以缓存消息，也可以直接丢弃消息，具体策略可以在启动 SDK 的时候通过配置指定。

如果 SDK 缓存了一些消息未发送，此时恰好业务服务器又重启，则所有缓存的消息将永久丢失，这种情况 SDK 不做处理，业务方需要针对某些非常关键的消息自己实现永久存储的功能。

2）消息存储可靠性

消息存储在 MySQL 中，每个分组有一主一备两台 MySQL 服务器，MySQL 服务器之间复制消息以保证消息存储高可用。如果主备间出现复制延迟，恰好此时 MySQL 主服务器宕机导致数据无法恢复，则部分消息会永久丢失，这种情况不做针对性设计，DBA 需要对主备间的复制延迟进行监控，当复制延迟超过 30 秒的时候需要及时告警并进行处理。

3）消息如何存储

每个消息队列对应一个 MySQL 表，消息队列名就是表名，表结构设计为……(此处请自行补充）

]

[技巧：常见的关键设计点包括高性能、高可用、可扩展、安全等]

4.3 设计规范

[必选，描述 Role 和 Relation 相关的开发框架、连接协议、数据包格式等]

[样例：

1）消息队列服务器使用 Spring Boot + Netty 开发

2）MySQL 使用 Innodb 存储引擎

3）TCP 包的结构设计……（此处省略，请自行补充）

]

[技巧：如果某个规范涉及内容比较多，请独立章节描述，例如数据包格式定义]

5. 质量设计

[必选，描述和质量相关的设计，包括：可测试性、可维护性、可观测性、成本等设计]

[样例：

5.1 消息队列管理后台

5.2 成本

]

[技巧：如果某个维度不涉及，也请在文档中说明，避免评审的时候被认为考虑不周全]

6. 演进规划

[必选，可以是演进规划，也可以是项目计划，需要描述每个里程碑或者版本具体要实现的能力]

[样例：

6.1 消息队列一期

6.2 消息队列二期

]

[技巧：开发阶段快速迭代，小步快跑，但要基本完善后才能正式推出给其他人用]