并发压力 & 响应时间 & 系统吞吐量



定义

• 响应时间：系统发出请求到收到最后的响应数据所需的时间，直观的反映了系统的“快慢”

• 并发数：能够同时处理 的 请求数目（不是在线用户数、系统用户数），这个数字也反映了系统的负载特性。淘宝最高并发数 百万级别

• 吞吐量：单位时间内系统处理的请求的数量，体现系统的处理能力。TPS（每秒事务数）、QPS（每秒查询数）。

吞吐量=（1000/响应时间ms）* 并发数。如果响应时间是1秒。吞吐量=并发数



三者关系

性能压测的时候，随着并发压力的增加，系统响应时间和吞吐量如何变化，为什么？



• 最开始，随着并发压力增加，系统吞吐量增大，但系统响应时间缓慢增加，直到系统最佳运行点。

因为最开始系统完全能处理这么多并发，在系统处理能力之后，并发越大，吞吐量越大。

• 随着并发压力增加，系统吞吐量增加缓慢，响应时间加速增加，系统资源开始被完全利用，到达系统最大负载点。

并发增大，系统资源开始出现竞争，CPU已经被完全利用，虽然增加了处理的线程，可能处理的效率开始下降。

• 在系统最大负载点之后，在增加并发压力，吞吐量不再增加，响应时间飞速增加，直到系统崩溃。

系统资源已经不够用了。