架构师第七周作业

命题作业：

性能压测的时候，随着并发压力的增加，系统响应时间和吞吐量如何变化，为什么？

刚开始运行时，由于系统资源都很充足，所有请求都可以立刻被响应，响应时间总体保持稳定，系统吞吐量稳步上升；随着并发量的不断提升，系统吞吐量达到顶峰，整体趋于饱合状态，系统资源被有序分配完；后面进来的请求开始出现等待情况发生，系统响应时间开始增大。并发量进一步的上升，情况开始恶化，越来越多的请求处于等待状态，系统吞吐量也开始下降，当超过系统最大负载后，所有请求都被阻塞，响应时间接近无限，系统吞吐量跌低低点。



因为并发数量增加到系统负载上限时，每秒钟都会有很多请求需要处理，会造成进程间资源的竞争和同进程内线程的频繁切换，大量的cpu时间都耗费到线程的上下文切换中去了，反而真正处理请求的时间变少，造成每秒能够处理的请求数变少，同时请求等待的时间也变大，形成恶性循环。最终看到的情况就是cpu接近100%，但系统吞吐量却非常低。