性能测试知识科普 (一)

前几天在技术交流群，有同学问了一个性能问题，由此引发了很多同学的追问：

• 并发到底是什么鬼？

• 怎么判断系统到了性能瓶颈？

• 监控那么多指标到底关注哪些？

应这些同学要求，这篇文章做个性能测试理论知识扫盲科普，不讲似是而非的理论，就聊一些工作中很常见的术语。我一直觉得性能测试是很简单的事情，但工作中遇到很多同学，基本都是找个工具无脑堆并发，然后压测统计数据完事。我觉得问题并不是这些同学技术不够好，而是对一些基础的知识理解有所误差，或者换句话说：

大脑：我学会了。

实践：不，你还没学会。

在学习一门新技术或者在工作实践中，我提倡的是“工欲善其事，必先利其器。欲利其器，必晓其理”。

作为性能测试知识科普的第一篇入门文章，我想聊聊大家都很关心的几个词：并发、TPS、响应时间。

或者站在我的角度来说，搞明白了这三个词，性能测试就入门了。当然并不是单纯的明白术语的理论解释，而是知道它们三者之间的关系，彼此的依赖影响。

收费站的故事

先给大家举一个很经典的例子：高速收费站的故事。

假设现在有一个高速收费站，有 4 个收费窗口，每个窗口平均 5 秒通过一辆车。

其中有 2 个 ETC 窗口，平均 1 秒通过一辆车。

现在有 100 辆车同时到达收费站，需要多久可以完全通过？平均每辆车通过耗时多久？如何提高通过效率降低通过耗时？

以上面的例子来讲，假设它是一个性能需求，你看到的第一眼会想到哪些知识点，要考虑哪些因素？

如果是我的话，我大概会想到下面一些因素：

• 收费站是服务器，4 核的配置，官方(或者说历史数据表明)性能表现是平均响应时间=5 秒；

• 2 个 ETC 窗口，可能是请求打标做了业务(或者技术上的)优先级区分，要考虑这里的具体场景；

• 100 辆车同时到达，是压测工具模拟的“并发数”，但实际并不是服务器单位时间内同时处理的请求；

需求问的是通过的总耗时和平均响应时间，以及如何提高通过效率降低通过耗时。这个问题怎么解决？

如何理解并发？

严格意义上讲，并发指的是服务端单位时间内接受到了多少请求，这是衡量系统面临多大压力的一个重要指标。但现实情况却是，很多同学拿着常见的压测工具，用并发线程数/VU 等作为所谓的并发数来理解。

就像上面的高速收费站故事，你以为的并发是 100 辆车，其实对系统来说真正的并发是四个收费窗口。

因此，我建议各位同学在学习性能测试的时候要明白一点：所谓的用工具模拟并发数，其实只是为了满足让系统承受足够压力的动作。

如何理解 TPS？

TPS，官方解释是每秒事务数，它描述了系统在单位时间内完整的处理完一整个业务请求的过程。

以上面的高速收费站为例，有 4 个收费窗口，每个窗口平均 5 秒通过一辆车。其中有 2 个 ETC 窗口，平均 1 秒通过一辆车。

请问整个收费站的 TPS 是多少？计算方式：(4 个收费窗口*1)/5 秒=0.8。

当然，这里要区分业务场景，如果单独论 ETC 场景，2 个收费窗口，1 秒 1 个，那 TPS=2。

大家明白了吗？在真正的性能测试中，TPS 是需要考虑到具体的业务场景，并且要求请求在逻辑上被完整处理。从技术角度来说，如果是写的请求，需要确保数据库或者缓存的数据做了符合业务逻辑的变更。

如何理解响应时间？

聊完了并发和 TPS，接着聊响应时间。

如何理解响应时间呢？这个要从 2 个维度来理解。

client：客户端发起请求，通过网络传输到服务端，服务端按照逻辑处理完成，并返回 response 给到客户端。

server：从接受到请求开始处理，到完成逻辑处理并从服务端发出，OK 到此结束，一个统计区间完成。

换成高速收费站的场景，就是车到了收费窗口，我刷卡扫码支付，然后抬杆放行直到车出去下一个车进来。

这个过程的耗时就是所谓的响应时间。

至于我们常见的平均响应时间和 99 响应时间，只是不同维度的统计方法而已。

三者间的关系和影响

如何提高通过效率降低通过耗时，这是上面的问题。

在解决这个问题之前，不妨代入一下真实的高速收费站，我们想象如下几种情况。

1. 100 辆车同时到达，但只有四个收费窗口，需要排队按顺序进入，这是队列机制；

2. 100 辆车同时到达，但只有四个收费窗口，万一工作人员换班午休，这是系统维护；

3. 100 辆车同时到达，但可能有交警路政检查，四个收费窗口，其实只有 2 条道通过，这是限流；

4. 有个没有安装 ETC 的车走了 ETC 的车道，过不去，需要倒车换到其他收费窗口，这是堵塞或者异常；

看完了上面的几种情况，我们来看下如何理解三者间的关系和影响。

1. 提高通过效率，可以增加收费窗口(服务器升配置，4 核变 8 核)；

2. 提高通过效率，可以让更多车主安装 ETC(技术优化，都用缓存)；

3. 提高通过效率，可以通过某种机制确保车道不走错(异常处理，快速失败或放行)；

4. 提高通过效率，可以通过 7*24 小时轮班确保收费窗口正常提供服务(服务的可用性)；

还有其他提高通过效率降低通过耗时的方法吗？有！

1. 高速 3 车道变 6 车道(扩展网络带宽)；

2. 多开设几个不同的收费站(服务扩容)；

3. 大货车小客车车道时速区分(分流机制)；

4. 大货车小客车走专门的收费站(服务分组)；

最后总结

1. 真正的并发是服务端单位时间内接收并处理的请求数，并不是工具模拟的并发线程数。

2. 其他条件不变的情况下，要提高 TPS 降低响应时间，最简单的办法是升配+扩容+缓存。

3. 高并发/高性能/高可用其实是指用更少时间处理更多请求，且服务长期提供正常服务。

这篇文章的目的是通过一个很典型的例子帮助学习性能测试的同学理解几个常用的术语，下篇文章，聊聊常用的性能测试策略。