第七周作业 - 吞吐量与响应时间、并发的关系



性能测试时，随着并发压力的增加，系统响应时间与吞吐量如何变化，为什么？





因为吞吐量=（1000/响应时间ms）*并发数，可知吞吐量与响应时间成反比，与并发数成正比。在低并发时，系统各项资源负载不严重，所以响应时间较小，变化不大，系统整体吞吐量上升。随着并发数的提升，响应时间并会持续放大，当并发到一定程度，系统响应时间越来越大，吞吐量反而下降。从这个公示中我们还可以推导：

1.由于响应时间和并发数一般是逆向增长，在特定的软硬件环境下，两者达到一个平衡点，此时系统的吞吐量最大，对应着系统的最大负载。如果此时系统再加压，响应时间增大，吞吐量反而下降。

2.为了让吞吐量和并发量能够尽量的线性增长，那么就要确保响应时间相对稳定，这是系统性能优化的目标，通过缓存、异步化处理、集群、读写分离、微服务拆分等措施来稳定性能。

3.随着并发的增加，响应时间变慢，系统的瓶颈暴露出来，请求发起到响应整个过程，任何一个环节都可能存在性能问题。要做性能优化，首先要进行性能测试，定位瓶颈点，然后找到问题原因，进行优化。优化工作要实事求是，要在成本和效果之间平衡，充分利用硬件资源，而不是一味的添加机器。



性能测试时，随着并发压力的增加，系统响应时间与吞吐量变化，如下图所示：