性能测试

相关概念

并发数

指系统能够同时处理请求的数目。对于网站而言，并发数即网站并发用户数，指同时提交请求的用户数目。

系统响应时间

指应用执行一个操作所需的时间，包括从发出请求开始到最后收到响应所需要的时间。

吞吐量

指单位时间内系统处理的请求数，体现系统的整体处理能力。对于网站，可以用 “请求数/秒” 来衡量。TPS（每秒事务数）是吞吐量的一个常用量化指标，此外还有HPS（每秒HTTP请求数）、QPS（每秒查询数）等。



性能计数器

是描述服务器或操作系统性能的一些数据指标。包括System Load、对象与线程数、内存使用、CPU使用、磁盘与网络I/O等指标。这些指标也是系统监控的重要参数，对这些指标设置报警阀值，当监控系统发现性能计数器超过阀值的时候，就向运维和开发人员报警，及时发现处理系统异常。



性能测试方法

性能测试：以系统设计初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受范围内，是否能达到性能预期。



负载测试：对系统不断地增加并发请求以增加系统压力/直到系统的某项或多项性能指标达到安全临界值,如某种资源已经呈饱和状态，这时候继续对系统施加压力/系统的处理能力不但不能提高，反而会下降。



压力测试：超过安全负载的情况下/对系统继续施加压力,直到系统崩溃或不能再处理 任何请求，以此获得系统最大压力承受能力。



稳定性测试：被测试系统在特定硬件、软件、网络环境条件下/给系统加载一定业务压 力，使系统运行一段较长时间，以此检测系统是否稳定。在生产环境，请求压力是不均 匀的/呈波浪特性，因此为了更好地模拟生产环境,稳定性测试也应不均匀地对系统施 加压力。



实际案例

全链路压测

全链路压测其实指的就是在特定的业务场景下,将相关的链路完整的串联起来同时施压, 尽可能模拟出真实的用户行为，当系统整站流量都被打上来的时候，必定会暴露出性能 瓶颈，才能够探测出系统整体的真实处理能力,以及有指导的在大促前进行容量规划和 性能优化，这便是线上实施全链路压测的真正目的

面临挑战

数据构造、数据隔离、流量构造、全链路压测平台化



系统性能优化

机房与骨干网络性能优化、服务器与硬件性能优、操作系统性能优化、虚拟机性能优化、基础组件性能优化

、软件架构性能优化、软件代码性能优化



优化三板斧

缓存：从内存获取数据，减少响应时间减少数据库访问,降低存储设备负载压力缓存结果对象/而不是原始数据/减少CPU计算缓存主要优化读操作



异步：即时响应/更好的用户体验 控制消费速度，合适的负载压力 异步主要优化写操作



集群：使用多台机器代替一台机器，分散读写的压力，提供服务的高可用，高并发能力



操作系统

进程vs线程

不同进程轮流在CPU上执行，每次都要进行进程间CPU切换，代价非常大。因此服务器应用通常是单进程多线程。

进程从操作系统获得基本的内存空间’所有的线程共享着进程的内存地址空间。而每个 线程也会拥有自己私有的内存地址范围，其他线程不能访问。



锁机制

锁原语CAS ：CAS是一种系统原语/原语的执行必须是连续的,在执行过程中不允许被中断



偏向锁：指一段同步代码一直被一个线程所访问，那么该线程会自动获取锁，降低获取锁的代价



轻量级锁：指当锁是偏向锁时,被另一个线程所访问/偏向锁就会升级为轻量级锁,其 他线程会通过自旋的形式尝试获取锁，不会阻塞,提高性能



重量级锁：指当锁是轻量级锁时，另一个线程虽然自旋/但自旋不会一直持续下去/当 自旋到一定次数时,还没获取到锁，就会进入阻塞,该锁膨胀为重量级锁,重量级锁会 让其他申请的线程进入阻塞，性能降低



总线锁：使用处理器的LOCK#信号,当一个处理器在内存总线上输出此信号的时候,其 他处理器的请求将被阻塞，该处理器独占内存。



缓存锁：是指内存区域如果被缓存在处理器的缓存行中/并且在Lock操作期间被锁定/ 那么当它执行锁操作回写到内存时/处理器不在总线上声言LOCK#信号，而是修改内部的内存地址，并允许它的缓存一致性机制来保证操作的原子性，因为缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域数据’当其他处理器回写已被锁定的缓 存行数据时，会使缓存行无效。



公平锁：就是多个线程按照申请锁的顺序来获取锁的。



非公平锁：就是多个线程获取锁的顺序并不是按照申请锁的顺序，有可能后申请的线程比先申请的线程优先获取锁，可能会造成饥饿现象。



可重入锁：就是说某个线程已经获得某个锁，可以再次获取锁而不会出现死锁



独享锁/互斥锁：该锁一次只能被一个线程所持有



共享锁：该锁可以被多个线程所持有



读写锁：多个读线程之间并不互斥，而写线程则要求与任何线程互斥



悲观锁：对于同一个数据的并发操作/一定是会发生修改的,哪怕没有修改，也会认 为修改。因此对于同一个数据的并发操作/悲观锁采取加锁的形式。悲观的认为，不加 锁的并发操作一定会出问题。



乐观锁：对于同一个数据的并发操作，是不会发生修改的。在更新数据的时候，检查是否已经被修改过，如果修改过,就放弃。



分段锁：设计目的是细化锁的粒度，当操作不需要更新整个数组的时候,就仅仅针对数 组的一段进行加锁操作。