性能测试

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。不同视角下的网站性能有不同的标准，也有不同的优化手段。



主观视角：用户感受到的性能

客观视角：性能指标衡量的性能



性能测试指标

不同视角下有不同的性能标准，不同的标准有不同的性能测试指标，网站性能测试的主要指标：

• 响应时间

指应用系统从发出请求开始到收到最后响应数据所需要的时间。直接反应了系统的快慢，正常的指标是 200ms

• 并发数

系统能够同时处理请求的数目，也反应系统的负载特性。

• 吞吐量

单位时间内系统处理的请求的数量，体现系统的处理能力。可以使用 TPS 和 QPS 等指标，吞吐量 = （1000 / 响应时间 ms) * 并发数

• 性能计数器

描述服务器或操作系统性能的一些数据指标。包括 System Load、对象与线程数、内存使用、CPU 使用、磁盘与网络 I/O 等指标。



性能测试方法

性能测试是一个总称，具体可细分为以下几种：

• 性能测试

以系统初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受范围内，是否能达到性能预期

• 负载测试

对系统不断地增加并发请求以增加系统压力，直到系统的某项或多项性能指标达到安全临界值，如某种资源已经呈饱和状态，这时候继续对系统施加压力，系统的处理能力不但不能提高，反而会下降

• 压力测试

超过安全负载的情况下，对系统继续施加压力，直到系统奔溃或不能再处理任何请求，以此获得系统最大压力承受能力。即测试系统崩溃点

• 稳定性测试

在特定硬件、软件、网络环境下，给系统加载一定业务压力，使系统运行一段较长时间，以此检测系统是否稳定。在生产环境，请求压力是不均匀的，呈波浪特性，因此为了更好地模拟生产环境，稳定性测试也应不均匀地对系统施加压力。



在压力不断施加的情况下存在以下变化

性能测试--不断施压--》负载测试---不断施压--》压力测试



下图为并发数与 TPS 的关系图



image.png



下图为并发数与响应时间的关系图



image.png



下图为测试的参考图



image.png

全链路压测

概念

全链路压测其实指的就是在特定的业务场景下，将相关的链路完整的串联起来同时施压，

尽可能模拟出真实的用户行为，当系统整站流量都被打上来的时候，必定会暴露出性能

瓶颈，才能够探测出系统整体的真实处理能力，以及有指导的在大促前进行容量规划和

性能优化，这便是线上实施全链路压测的真正目的。



难点

• 压测相关的业务系统上众多，并且牵涉到整条链路上所有的基础设施和中间件，如何 确保压测流量能够通畅无阻，没有死角?压测的数据怎么构造(亿万级的商品和用 户)，数据模型如何与真实贴近?

• 全链路压测直接在线上的真实环境进行模拟，怎么样来保障对线上无影响?

• 大型促销活动所带来的巨大流量要怎么样制作出来?



天猫双十一如何做的

数据构造

数据隔离

逻辑隔离，直接把测试数据和正常数据写到一起，通过特殊的标识能够区分开。（ 可能污染线上数据，破坏线上数据安全性。）

虚拟隔离，在所有写数据的地方做 mock（这个方案不会对线上产生污染，但是 mock 对压测结果的准确性会产生干扰。）

物理隔离，所有写数据的地方对压测流量进行识别，判断一旦是压测流量的写，就写到

隔离的位置，包括存储、缓存、搜索引擎等等。

流量构造

全链路压测平台化



性能优化

没有性能测试就没有性能优化

软件性能优化的两个基本原则

• 你不能优化一个没有性能测试的软件（当前的性能是什么样子）

• 你不能优化一个你不了解的软件（当前的架构是什么样子）



性能优化的一般方法

1. 性能测试，获得性能指标

2. 指标分析，发现性能与资源瓶颈点

3. 架构与代码分析，寻找性能与资源瓶颈关键所在

4. 架构与代码优化，优化关键技术点，平衡资源利用

5. 性能测试，进入性能优化闭环



系统性能优化的分层思想

从上往下依次递进

1. 机房与骨干网络性能优化

2. 服务器与硬件性能优化

3. 操作系统性能优化

4. 虚拟机性能优化

5. 基础组件性能优化

6. 软件架构性能优化

7. 软件代码性能优化







虚拟机性能优化

• 调整参数（修改垃圾收集器算法，更合适的堆大小）



基础组件性能优化



软件架构性能优化三板斧

• 缓存

• 异步

• 集群



软件代码性能优化

• 遵循面向对象的设计原则与设计模式编程，很多时候程序性能不好不是因为性能上有什

• 么技术挑战，仅仅就是因为代码太烂了。

• 并发编程，多线程与锁

• 资源复用，线程池与对象池

• 异步编程，生产者消费者

• 数据结构，数组、链表、hash 表、树



CAS源语与各种锁

CAS(V,E,N)

• V 表示要更新的变量

• E 表示预期值

• N表示新值

如果 V 值等于 E 值，则将 V 的值设为 N，若 V 值和E值不同，什么都不做。

CAS 是一种系统原语，原语的执行必须是连续的，在执行过程中不允许被中断

CAS 源语是单CPU不可中断的，多CPU是可中断的



总线锁与缓存锁

• 总线锁:使用处理器的 LOCK# 信号，当一个处理器在内存总线上输出此信号的时候，其他处理器的请求将被阻塞，该处理器独占内存。

• 缓存锁:是指内存区域如果被缓存在处理器的缓存行中，并且在 Lock 操作期间被锁定，那么当它执行锁操作回写到内存时，处理器不在总线上声言 LOCK# 信号，而是修改内部的内存地址，并允许它的缓存一致性机制来保证操作的原子性，因为缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域数据，当其他处理器回写已被锁定的缓存行数据时，会使缓存行无效。



Java 锁机制

参考资料 https://tech.meituan.com/2018/11/15/java-lock.html

偏向锁 轻量级锁 重量级锁

• 偏向锁:指一段同步代码一直被一个线程所访问，那么该线程会自动获取锁，降低获取锁的代价

• 轻量级锁:指当锁是偏向锁时，被另一个线程所访问，偏向锁就会升级为轻量级锁，其他线程会通过自旋的形式尝试获取锁，不会阻塞，提高性能

• 重量级锁:指当锁是轻量级锁时，另一个线程虽然自旋，但自旋不会一直持续下去，当自旋到一定次数时，还没获取到锁，就会进入阻塞，该锁升级为重量级锁，重量级锁会让其他申请的线程进入阻塞，性能降低



公平锁 非公平锁

• 公平锁就是多个线程按照申请锁的顺序来获取锁的。

• 非公平锁就是多个线程获取锁的顺序并不是按照申请锁的顺序，有可能后申请的线程比

• 先申请的线程优先获取锁，可能会造成饥饿现象。



可重入锁

• 可重入就是说某个线程已经获得某个锁，可以再次获取该锁而不会出现死锁。



独享锁/互斥锁 共享锁 读写锁

• 独享锁/互斥锁:该锁一次只能被一个线程所持有

• 共享锁:该锁可以被多个线程所持有

• 读写锁:多个读线程之间并不互斥，而写线程则要求与任何线程互斥



乐观锁 悲观锁

• 悲观锁认为对于同一个数据的并发操作，一定是会发生修改的，哪怕没有修改，也会认

• 为修改。因此对于同一个数据的并发操作，悲观锁采取加锁的形式。悲观的认为，不加

• 锁的并发操作一定会出问题。

• 乐观锁则认为对于同一个数据的并发操作，是不会发生修改的。在更新数据的时候，检

• 查是否已经被修改过，如果修改过，就放弃。



分段锁

• 分段锁的设计目的是细化锁的粒度，当操作不需要更新整个数组的时候，就仅仅针对数组的一段进行加锁操作。

JDK ConcurrentHashMap 是通过分段锁的形式来实现高效并发操作的。



自旋锁

• 自旋锁是指尝试获取锁的线程不会立即阻塞，而是采用循环的方式去尝试获取锁，这样的好处是减少线程上下文切换的消耗，缺点是循环会消耗 CPU。