架构师训练营第七章总结

性能测试

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。不同视角下的网站有不同的标准，也有不同的优化手段。

主观视角：用户感受到的性能。

客观视角：性能指标衡量的性能（主要有响应时间，并发数，吞吐量，性能计数器）



性能测试指标

响应时间

指应用系统从发出请求开始到收到最后响应数据所需的时间（从发出第一个字节开始标记开始，从收到最后一个字节后标记结束）。响应时间直观反映了系统的“快慢”

并发数

系统能够同时处理请求的数目，这个数字也反映了系统的负载特性。对于网站而言，并发数即系统并发用户数，指同时提交请求的用户数目，于此相对应，还有在线用户数（当前登录系统的用户数）和系统用户数（可能访问系统的中用户数）

吞吐量

指单位时间内系统处理的请求数，体现系统的处理能力。对于网站，可以用“请求数/秒”或“页面数/秒”来衡量，也可以用“访问人数/天”或是“处理的业务数/小时”等来衡量。（通常以秒为单位）

TPS（每秒事务数）也是吞吐量的一个指标，此外还有HPS（每秒HTTP请求数），QPS（每秒查询数）等

吞吐量=（1000/响应时间ms）* 并发数

性能计数器

是描述服务器或操作系统性能的一些数据指标。包括System Load，对象和线程数，内存使用，CPU使用，磁盘与网络IO等指标。这些指标也是系统监控的重要参数，对这些指标设置报警阈值，当监控系统发现性能计数器超过阈值的时候，就向运维和开发人员报警，及时发现处理系统异常

性能测试方法

性能测试-》负载测试-》压力测试 稳定性测试

性能测试：以系统设计初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受范围内，是否能达到性能预期。

负载测试：对系统不断地增加并发请求以增加系统压力，直到系统的某项或多项性能指标达到安全临界值，如某种资源已经呈饱和状态，这时候继续对系统施加压力，系统的处理能力不但不能提高，反而会下降。

压力测试：超出安全负载的情况下，对系统继续施加压力，直到系统崩溃或不能再处理任何请求，以此获得系统最大压力承受能力。

稳定性测试：被测试系统在特定硬件，软件，网络环境条件下，给系统加载一定业务压力，使系统运行一段较长时间，以此检测系统是否稳定。在生产环境，请求压力是不均匀的，呈波浪特性，因此为了更好地模拟生产环境，稳定性测试也应不均匀地对系统施加压力

性能优化一般方法

性能测试，获得性能指标（吞吐量，响应时间，并发数，性能计数器等）

指标分析，发现性能与资源瓶颈点

架构与代码分析，寻找性能与资源瓶颈关键所在

架构与代码优化，优化关键技术点，平衡资源利用

性能测试，进入性能优化闭环

性能优化着手点

机房与骨干网络性能优化（异地多活的多机房架构，专线网络与自建CDN）

服务器与硬件性能优化（垂直伸缩）

操作系统性能优化

虚拟机性能优化（java虚拟节相关，比如即时编译，垃圾回收，锁等）

基础组件性能优化（tomcat，spring，fastjson等）

软件架构性能优化（分布式系统，分布式缓存，消息队列等）

软件代码性能优化

软件架构性能优化

缓存

从内存获取数据，减少响应时间。减少数据库访问，降低存储设备负载压力。缓存结果对象，而不是原始数据，减少CPU计算。缓存主要优化读操作。

异步

即时响应，更好的用户体验。控制消费速度，合适的负载压力。异步主要优化写操作。

集群

集群的技术目标只有一个：如何使很多台服务器对使用者而言看起来就像一台服务器。

进程VS线程

线程安全

锁原语CAS

多CPU锁机制

分布式文件系统HDFS