架构师 第七周总结

性能测试指标

响应时间：指应用系统从发出请求开始，到收到最后响应数据所需要的时间。响应时间是系统最重要的性能指标，直观的反映了系统的“快慢”。

并发数：系统能够同时处理请求的数目，这个数字也反映了系统的负载特性。对于网站而言，并发数即系统并发用户数：指同时提交的用户数目，于此相对应，还有在线用户数（当前登录系统的用户数）和系统用户数（可能访问系统的总用户数）。

吞吐量：指单位时间内系统处理的请求的数量，体现系统的处理能力。对于网站，可以用“请求数/秒”或是“页面数/秒”来衡量，也可以用“访问人数/天”或者“处理的业务数/小时”等来衡量。TPS（每秒事务数）也是吞吐量的一个指标，此外还有 HPS（每秒 HTTP 请求数），QPS（每秒查询数）等。

性能计数器：是描述服务器或操作系统性能的一些数据指标。包括 System Load、对象与线程数、内存使用、CPU 使用、磁盘与网络 I/O 等指标。这些指标也是系统监控的重要参数，对这些指标设置报警阈值，当监控系统发现性能计数器超过阈值的时候，就向运维和开发人报警，及时发现处理系统异常。

性能测试：以系统设计初期规划的性能指标为预期目标，对系统不断施加压力，验证系统在资源可接受范围内，是否能达到性能预期。

负载测试：对系统不断地增加并发请求以增加系统压力，直到系统的某项或多项性能指标达到安全临界值，如某种资源已经呈饱和状态，这时候继续对系统施加压力，系统的处理能力不但不能提高，反而会下降。

压力测试：超过安全负载的情况下，对系统继续施加压力，直到系统崩溃或不能再处理任何请求，以获得系统最大压力承受能力。

稳定性测试：被测试系统在特定硬件、软件、网络环境条件下，给系统加载一定业务压力，使系统运行一段较长时间，以此检测系统是否问题。在生产环境，请求压力是不均匀的，呈波浪特性，因此为了更好地模拟生产环境，稳定性测试也应不均匀地对系统施加压力。

分层的优化思想

• 网络：异地多活、CDN；

• 服务器、硬件：性能更好的硬件、性能更好的机器；

• 操作系统：操作系统对于硬件的控制机制；

• 虚拟机：对内存回收、多线程的管理机制；

• 基础组件：换用性能更优的组件；

• 架构

• 代码

架构优化的三板斧头

优化的套路离不开这三个：

• 缓存：最重要的优化方法，从更快速的介质上操作数据或直接减少重复的计算或减少慢介质的操作量，主要优化读操作；

• 异步：更快速的调用响应，用消息队列控制消费速度，平衡负载压力，主要优化写操作；

• 集群：分布式多台服务器共同完成之前单机的任务，横向扩展提升系统性能；

操作系统

进程的形象理解：程序的静态的，在操作系统运行时，它是活起来的，拥有各种附属的数据和状态，被称为进程。

操作多任务原理：进程分时执行，CPU 在任务间不断切换，因为切换速度很快，所以用户看起来就像是任务在同时处理。

多进程、多线程

线程与进程：前者的任务切换代价比后者要小；

多线程：由一个父进程创建的线程，线程间共享进程的堆内存；因为堆内存共享，所以可能存储同时更新同一个内存的情况，导致线程安全问题；

临界区：操作共享内存的代码，一般使用锁机制解决线程安全问题；

高并发的阻塞问题：锁会被资源被占用无法释放，量过大导致资源耗尽，最终系统崩溃；

解决高并发阻塞问题：限流、降级、异步；

锁

虽然锁会有高并发阻塞问题，但在传统多进程/线程同步编程模式，锁是十分常见的，需要掌握它的使用场景，在适合的情况下使用锁。



锁原语 CAS：

• V 表示要更新的值

• E 表示预期的值

• N 表示新值

如果 V 和 E 相同，则 V 设为 N，否则什么也不做。



各种锁

• java 中，单个线程利用偏向锁自动获取锁，多线程时则转为轻量级锁，线程自旋竞争锁，若自旋次数超限，则膨胀为重量级锁，竞争期间会阻塞线程；

• 总线锁、缓存锁：适用多 CPU 共享内存，总结锁只允许其中一个 CPU 处理内存，同时会阻塞其它 CPU；缓存锁利用缓存一致性保证操作的原子性，防止同一内存区域被多个处理器使用；

• 公平锁、非公平锁：加锁过程是否条件一致；

• 可重入锁：已获得锁的线程能再次获取得到，防止死锁；

• 独享、互斥、共享锁：能否同时被多个线程所持有；

• 读写锁：读一般不加锁，写要加；

• 乐观锁、悲观锁：乐观锁认为数据一般不会被同时修改，要是遇到冲突则重试；悲观锁认为数据经常会被并发操作，每次都需要加锁再执行更新；前者适用于少写场景，后者适用于多写场景；

• 分段锁：对操作进行细化后，针对性加锁；



文件与 IO

硬件 IO

性能从高到低： CPU 缓存 > 内存 > 固态硬盘 > 机械硬盘