第七周总结

性能测试

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。

性能测试指标

• 有响应时间：指应用系统从发出请求开始到收到后响应数据所需要的时间。响应时间是系统重要的性能指标，直观的反映了系统的“快慢”

• 并发数：系统能够同时处理请求的数目，这个数字也反映了系统的负载特性。对于网站 而言，并发数即系统并发用户数，指同时提交请求的用户数目，于此相对应，还有在线用户数（当前登录系统的用户数）和系统用户数（可能访问系统的总用户数）

• 吞吐量：指单位时间内系统处理的请求的数量，体现件系统的处理能力。对于网站，可 以用“请求数/秒”或是“页面数/秒”来衡量，也可以用“访问人数/天”或是“处理的 业务数/小时”等来衡量。吞吐量= ( 1000 /响应时间 ms)×并发数

• 性能计数器：是描述服务器或操作系统性能的一些数据指标。包括 System Load、对象 与线程数、内存使用、CPU 使用、磁盘与网络 I/O 等指标。这些指标也是系统监控的重 要参数，对这些指标设置报警阀值，当监控系统发现性能计数器超过阀值的时候，就向 运维和开发人员报警，及时发现处理系统异常

性能测试方法

性能测试是一个总称，具体可细分为性能测试、负载测试、压力测试、稳定性测试。

• 性能测试：以系统设计初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受范围内，是否能达到性能预期。

• 负载测试：对系统不断地增加并发请求以增加系统压力，直到系统的某项或多项性能指标达到安全临界值，如某种资源已经呈饱和状态，这时候继续对系统施加压力，系统的处理能力不但不能提高，反而会下降。

• 压力测试：超过安全负载的情况下，对系统继续施加压力，直到系统崩溃或不能再处理任何请求，以此获得系统大压力承受能力。

• 稳定性测试：被测试系统在特定硬件、软件、网络环境条件下，给系统加载一定业务压力，使系统运行一段较长时间，以此检测系统是否稳定。在生产环境，请求压力是不均匀的，呈波浪特性，因此为了更好地模拟生产环境，稳定性测试也应不均匀地对系统施 加压力。

全链路压测

全链路压测其实指的就是在特定的业务场景下，将相关的链路完整的串联起来同时施压， 尽可能模拟出真实的用户行为，当系统整站流量都被打上来的时候，必定会暴露出性能瓶颈，才能够探测出系统整体的真实处理能力，以及有指导的在大促前进行容量规划和性能优化，这便是线上实施全链路压测的真正目的。

• 数据构造：dump 线上数据，对数据进行刷选，脱敏并修正

• 数据隔离：逻辑隔离，虚拟隔离，物理隔离

• 流量构造：流量构造平台控制 CDN 节点模拟真实流量

性能优化

性能优化指标

• 响应时间：完成一次任务花费的时间

• 并发数：同时处理的任务数

• 吞吐量：单位时间完成的任务数

• 性能计数器：SystemLoad，线程数，进程数，CPU、内存、磁盘、网络使用率

性能优化方法

• 性能测试，获得性能指标

• 指标分析，发现性能与资源瓶颈点

• 架构与代码分析，寻找性能与资源瓶颈关键所在

• 架构与代码优化，优化关键技术点，平衡资源利用

• 性能测试，进入性能优化闭环

性能优化分层思想

• 机房与骨干网络性能优化：异地多活的多机房架构，专线网络与自主 CDN 建设

• 服务器与硬件性能优化：使用更优的 CPU，磁盘，内存，网卡，对软件的性能优化可能是数量级的，有时候远远超过代码和架构的性能优化

• 操作系统性能优化：优化操作系统参数

• 虚拟机性能优化：JVM 参数调优

• 基础组件性能优化：组件升级，或者寻找性能更优的组件进行替换

• 软件架构性能优化：缓存异步和集群

• 软件代码性能优化：并发编程，多线程与锁；资源复用，线程池与对象池；异步编程；数据结构优化

操作系统

进程和线程

• 进程是资源（CPU、内存等）分配的基本单位，它是程序执行时的一个实例。程序运行时系统就会创建一个进程，并为它分配资源，然后把该进程放入进程就绪队列，进程调度器选中它的时候就会为它分配 CPU 时间，程序开始真正运行

• 线程是程序执行时的最小单位，它是进程的一个执行流，是 CPU 调度和分派的基本单位。一个进程可以由很多个线程组成，线程间共享进程的所有资源，每个线程有自己的堆栈和局部变量。线程由 CPU 独立调度执行，在多 CPU 环境下就允许多个线程同时运行。同样多线程也可以实现并发操作，每个请求分配一个线程来处理

进程运行状态

• 运行：当一个进程在 CPU 上运行时，则称该进程处于运行状态。处于运行状态的进程的数目小于等于 CPU 的数目。

• 就绪：当一个进程获得了除 CPU 以外的一切所需资源，只要得到 CPU 即可运行，则称此进程处于就绪状态，就绪状态有时候也被称为等待运行状态。

• 阻塞：也称为等待或睡眠状态，当一个进程正在等待某一事件发生（例如等待 I/O 完成， 等待锁……）而暂时停止运行，这时即使把 CPU 分配给进程也无法运行，故称该进程处于阻塞状态。

线程栈

线程栈是指某时刻时内存中线程调度的栈信息，当前调用的方法总是位于栈顶

调用方法时就是入栈操作，每个方法时一个栈针

方法返回时就是出栈操作

锁

CAS

Compare And Set（或 Compare And Swap），CAS 是解决多线程并行情况下使用锁造成性能损耗的一种机制，CAS 操作包含三个操作数——内存位置（V）、预期原值（A）、新值(B)。如果内存位置的值与预期原值相匹配，那么处理器会自动将该位置值更新为新值。否则，处理器不做任何操作

CAS 虽然很高效的解决原子操作，但是 CAS 仍然存在三大问题：ABA 问题、循环时间长开销大、只能保证一个共享变量的原子操作。

• ABA 问题：因为 CAS 需要在操作值的时候检查下值有没有发生变化，如果没有发生变化则更新，但是如果一个值原来是 A，变成了 B，又变成了 A，那么使用 CAS 进行检查时会发现它的值没有发生变化，但是实际上却变化了。ABA 问题的解决思路就是使用版本号。在变量前面追加上版本号，每次变量更新的时候把版本号加一，那么 A－B－A 就会变成 1A-2B－3A。 从 Java1.5 开始 JDK 的 atomic 包里提供了一个类 AtomicStampedReference 来解决 ABA 问题。这个类的 compareAndSet 方法作用是首先检查当前引用是否等于预期引用，并且当前标志是否等于预期标志，如果全部相等，则以原子方式将该引用和该标志的值设置为给定的更新值

• 循环时间长开销大：自旋 CAS 如果长时间不成功，会给 CPU 带来非常大的执行开销。

• 只能保证一个共享变量的原子操作：当对一个共享变量执行操作时，我们可以使用循环 CAS 的方式来保证原子操作，但是对多个共享变量操作时，循环 CAS 就无法保证操作的原子性，这个时候就可以用锁。但从 JDK1.5 开始，JDK 提供了 AtomicReference 类来保证引用对象之间的原子性，就可以把多个变量放在一个对象里来进行 CAS 操作

锁类型

• 偏向锁：指一段同步代码一直被一个线程所访问，那么该线程会自动获取锁，降低获取锁的代价

• 轻量级锁：指当锁是偏向锁时，被另一个线程所访问，偏向锁就会升级为轻量级锁，其他线程会通过自旋的形式尝试获取锁，不会阻塞，提高性能

• 重量级锁：指当锁是轻量级锁时，另一个线程虽然自旋，但自旋不会一直持续下去，当自旋到一定次数时，还没获取到锁，就会进入阻塞，该锁膨胀为重量级锁，重量级锁会 让其他申请的线程进入阻塞，性能降低

• 公平锁：就是多个线程按照申请锁的顺序来获取锁的。

• 非公平锁：就是多个线程获取锁的顺序并不是按照申请锁的顺序，有可能后申请的线程比先申请的线程优先获取锁，可能会造成饥饿现象

• 可重入所锁：可重入就是说某个线程已经获得某个锁，可以再次获取锁而不会出现死锁

• 独享锁/互斥锁：该锁一次只能被一个线程所持有

• 共享锁：该锁可以被多个线程所持有

• 读写锁：多个读线程之间并不互斥，而写线程则要求与任何线程互斥

• 悲观锁：对于同一个数据的并发操作，一定是会发生修改的，哪怕没有修改，也会认 为修改。因此对于同一个数据的并发操作，悲观锁采取加锁的形式。悲观的认为，不加 锁的并发操作一定会出问题。

• 乐观锁：对于同一个数据的并发操作，是不会发生修改的。在更新数据的时候，检查是否已经被修改过，如果修改过，就放弃

• 分段锁：细化锁的粒度，当操作不需要更新整个数组的时候，就仅仅针对数组的一段进行加锁操作。