性能测试 + 操作系统 + 锁

性能测试

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。不同视角下的网站性能有着不同的标准，也有不同的优化手段。

主管视角：用户感受到的性能。

客观视角：性能指标度量的性能。

性能测试指标

响应时间：指引用系统从请求开始到收到最后的响应数据所需要的时间，响应时间是系统最重要的性能指标。直观的反应了系统的“快与慢”。

并发数：系统能够同时处理请求的数目，这个数字也反应了系统的负载特性。并发数即并发用户数。用户数（当前登录系统的用户数），和系统用户数（可能访问系统的总用户数量）。

吞吐量：单位时间内系统处理请求的数量，体现在系统的处理能力。对于网站，可以用“请求数/秒” 或是“页面数/每秒”来衡量，也可以用“访问人数/天” 或是 “处理业务数量/小时” 等来衡量。TPS（每秒事物数）也就是是吞吐量的一个指标，此外还有HPS（每秒HTTP请求数量），QPS（每秒查询数量）等。

吞吐量=（1000/响应时间ms）* 并发数

性能计数器：描述服务器或操作系统性能的一些数据指标。包括 system load（正在执行的线程数量 + 等待执行的线程数量）【理想情况下为cpu的核数】，对象与线程，内存使用，cpu使用，磁盘与网络 i/o 等指标。

性能测试方法（如：下图）

性能测试：以系统设计初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受的范围内是否能够达到性能预期。

负载测试：对系统不断增加并发请求增加系统压力，知道系统的某项或多项性能指标达到安全临界区，如魔钟资源已经呈饱和状态，这个时候继续对系统施加压力，系统处理能力不但不能提高反而会下降。

压力测试：超过安全负载的情况下，对系统继续施加压力，知道系统崩溃或不能再处理任何请求，以次获得系统最大压力的承受能力。

稳定性测试：被测试系统在特定硬件，软件，网络的环境条件下。给系统加载一定的业务压力，使系统运行一段较长时间，以次来检测系统是否稳定。在生产环境请求压力是不均匀的。呈波浪特性，因此为了更好的模拟生产环境，稳定性能测试也要不均匀的对系统施加压力。

全链路压测

全链路压测其实指的就是在特定的业务场景下，将相关的链路完整的串联起来同时施压，尽可能模拟出真实的用户行为，当系统整个流浪都打上来的时候，必定会暴露出性能瓶颈，才能够探测出系统整个的真实能能力。以及有指导的在大促面前进行容量规划和性能分析，这便是线上实施全链路压测的真正目的。

软件性能优化的两个基本原则

不能优化一个没有测试的软件

不能优化一个你不了解的软件

性能优化的一般方法

性能测试，获得性能指标

指标分析，发现性能与资源瓶颈点

架构与代码分析，寻找性能与资源瓶颈关键所在

架构与代码优化，优化关键点技术点，平衡资源利用

性能测试，进入性能优化闭环

系统性能优化的分层思想

机房与骨干网络的性能优化

服务器与硬件的性能优化

操作系统性能优化

虚拟机性能优化

基础组件性能优化

软件架构性能优化

软件代码性能优化

软件架构性能优化三板斧

缓存，异步，集群

软件代码性能优化

遵循面向对象的设计原则与设计模式编程。很多时候程序性能不好不是因为性能上去有什么挑战，仅仅就是代码太烂了。

操作系统

程序运行时框架

程序是静态的。

程序运行起来以后，被称作进程。

操作系统多任务运行环境

进程分时执行

进程的运行期状态

运行，就绪，阻塞

进程 VS 线程

不同进程轮流在cpu上执行，每次到进行进程间cpu切换，代价非常大，因此服务器应用通常都是单进程多线程。进程从操作系统获取基本的内存空间，所有线程共享进程内存地址空间。而每一个线程也会拥有自己私有的内存地址范围，其它线程不能访问。

线程栈

java web 应用多线程运行视图

tomcat 容器工作原理：tomcat 容器启动时第一步需要启动一个jvm虚拟机进程。初始化jvm虚拟机内部的管理。第二步 jvm 创建一个主线程执行 tomcat 入口类中的main函数。第三步main函数中会默认初始化部分线程，同时监听80端口等待用户请求连接进入。（一个http请求连接到tomcat80端口，tomcat 容器与用户建立一个socket连接，tomcat 容器分配一个空线程监听socket连接，这个线程负责将socket连接中的数据读取出来构建一个request对象，把request对象交与应用程序执行。应用程序返结果有tomcat中的同一个线程写回到socket连接中，线程释放）

线程安全

当某些代码修改内存堆（进程共享内存）里的数据的时候，如果过多个线程在同时执行就会出现同时修改数据的情况。

临界区

多线程访问共享资源的这段代码成为临界区，解决线程安全问题的主要方法是使用锁，将临界区的代码加锁，只有获得锁的线程才能执行临界区代码。

避免阻塞引起的崩溃

限流：控制进入计算机的请求数，进而减少创建的线程数。

降级：关闭部分功能的执行，仅早释放线程。

避免阻塞：异步I/O；无临界区

锁

锁原语 CAS

CAS（V，E，N）

V：表示要更新的变量

E：表示预期值

N：表示新值

如果v值等于e值，则将v的值设置成n，若v值和e值不同，什么都不做。

cas 是一种系统原语，原语的执行必须是连续的。在执行过程中不允许被中断。

java 通过cas原因在对象头中修改mark word 实现加锁

偏向锁：指一段同步代码一直被一个线程所访问，那么该线程就会自动获取锁，降低获取锁的代价。

轻量级锁：指当锁是偏向锁时候，被另一个线程所访问，偏向锁就会升级为轻量级锁，其它线程回通过自旋的形式获取锁，不会阻塞，提高性能。

重量级锁：指当锁是轻量级锁时，另外一个线程虽然子旋，但是子旋不会一直进行下去，当子旋到一定的次数时候，还没有获取到锁，就会进入阻塞状态。该锁膨胀为重量级锁，重量级锁会让其它申请的线程进入阻塞状态，性能降低。

多cpu情况下的锁

总线锁：简单暴力，使用处理器的lock#信号，当一个处理器在内存总线上输出此型号的时候，其它处理的请求将被阻塞，该处理器独占内存。

缓存锁：是指内存区域如果被缓存处理器的缓存行中，并且在lock操作期间被锁定，那么当它执行锁操作写会到内存时，处理器不再总线上lock#信号，而是修改内部的内存地址，并允许它缓存一致性机制来保证操作的原子性，因为缓存一致性机制会阻止同时修改由两个以上处理器缓存的内存区域地址数据。其它处理器会写已经被锁定的缓存数据时，会使缓存行无效。

锁其它概念

公平锁：多个线程按照申请锁的顺序来获取锁。

非公平锁：多个线程并不是按照申请锁的顺序，有可能后申请的程序比先申请的程序优先获取锁，可能造成饥饿的现象。

可重入锁：某个线程已经获取某个锁，可以再次获取锁而不会出现死锁。

独享锁/互斥锁：该锁一次只能被一个线程持有。

共享锁：该锁被多个线程锁持有。

读写锁：多个读线程之间并不互斥，而写线程则要求与任何线程互斥。

乐观锁：认为对于同一个数据的并发操作，是不会发生修改的。在更新数据的时候，检测是否已经被修改，如果修改过就放弃。

悲观锁：对于同一个数据的并发操作，一定是会方式修改的，哪怕是没有修改，也会认为修改。因此对于统一个数据的并发操作，悲观锁采用加锁的形式，悲观的认为，不加锁的并发操场一定会出现问题。

分段锁：分段锁的设计目的是细化锁的粒度，当操作不需要更新整个数字的时候，就仅仅针对数组的一段进行加锁操作。jdk ConcurrentHashMap

自旋锁：子旋锁是尝试获取锁的线程不会理解阻塞，而是采用循环的方式去尝试获取锁，这样的好处是减少线程上下文的消耗，缺点是循环会消耗cpu。

总结

性能测试是性能优化的前提和基础，也是性能优化结果的检查和度量标准。性能测试指标结果暴露出问题，而快速定位问题产生的原因则需要依赖于那些向操作系统，锁等等的基础知识的掌握度。牢固的基础知识是构建知识大厦的基础。