钻石 01:明心见性 - 如何由表及里精通线程池设计与原理
欢迎来到《王者并发课》,本文是该系列文章中的第 24 篇,砖石中的第 1 篇。
在钻石系列中,我们将学习线程池相关的框架和工具类。作为铂金系列的第一篇,我们将在这篇文章中深入讲解线程池的应用及原理。
关于线程池,无论是在实际的项目开发还是面试,它都是并发编程中当之无愧的重中之重。因此,掌握线程池是每个 Java 开发者的必备技能。
本文将从线程池的应用场景和设计原理出发,先带大家手撸一个线程池,在理解线程池的内部构造后,再深入剖析 Java 中的线程池。全文大约 2.5 万字,篇幅较长,在阅读时建议先看目录再看内容。
一、为什么要使用线程池
在前面系列文章的学习中,你已然知道多线程可以加速任务的处理、提高系统的吞吐量。那么,是否我们因此就可以频繁地创建新的线程呢?答案是否定的。频繁地繁创建和启用新的线程不仅代价昂贵,而且无限增加的线程势必也会造成管理成本的急剧上升。因此,为了平衡多线程的收益和成本,线程池诞生了。
1. 线程池的使用场景
生产者与消费者问题是线程池的典型应用场景。当你有源源不断的任务需要处理时,为了提高任务的处理速度,你需要创建多个线程。那么,问题来了,如何管理这些任务和多线程呢?答案是:线程池。
线程池的池化(Pooling)原理的应用并不局限于 Java 中,在 MySQL 和诸多的分布式中间件系统中都有着广泛的应用。当我们链接数据库的时候,对链接的管理用的是线程池;当我们使用 Tomcat 时,对请求链接的管理用的也是线程池。所以,当你有批量的任务需要多线程处理时,那么基本上你就需要使用线程池。
2. 线程池的使用好处
线程池的好处主要体现在三个方面:系统资源、任务处理速度和相关的复杂度管理,主要表现在:
降低系统的资源开销:通过复用线程池中的工作线程,避免频繁创建新的线程,可以有效降低系统资源的开销;
提高任务的执行速度:新任务达到时,无需创建新的线程,直接将任务交由已经存在的线程进行处理,可以有效提高任务的执行速度;
有效管理任务和工作线程:线程池内提供了任务管理和工作线程管理的机制。
为什么说创建线程是昂贵的
现在你已经知道,频繁地创建新线程需要付出额外的代价,所以我们使用了线程池。那么,创建一个新的线程的代价究竟是怎样的呢?可以参考以下几点:
创建线程时,JVM 必须为线程堆栈分配和初始化一大块内存。每个线程方法的调用栈帧都会存储到这里,包括局部变量、返回值和常量池等;
在创建和注册本机线程时,需要和宿主机发生系统调用;
需要创建、初始化描述符,并将其添加到 JVM 内部数据结构中。
另外,从某种意义上说,只要线程还活着,它就会占用资源,这不仅昂贵,而且浪费。 例如 ,线程堆栈、访问堆栈的可达对象、JVM 线程描述符、操作系统本机线程描述符等等,在线程活着的时候,这些资源都会持续占据。
虽然不同的 Java 平台在创建线程时的代价可能有所差异,但总体来说,都不便宜。
3. 线程池的核心组成
一个完整的线程池,应该包含以下几个核心部分:
任务提交:提供接口接收任务的提交;
任务管理:选择合适的队列对提交的任务进行管理,包括对拒绝策略的设置;
任务执行:由工作线程来执行提交的任务;
线程池管理:包括基本参数设置、任务监控、工作线程管理等。
二、如何手工制作线程池
通过第一部分的阅读,现在你已经了解了线程池的作用及它的核心组成。为了更深刻地理解线程池的组成,在这一部分我们通过简单的四步来手工制作一个简单的线程池。当然,麻雀虽小,五脏俱全。如果你能手工自制线程池之后,那么在理解后续的 Java 中的线程池时,将会易如反掌。
1. 线程池设计和制作
第一步:定义一个王者线程池:TheKingThreadPool,它是这次手工制作中名副其实的主角儿。在这个线程池中,包含了任务队列管理、工作线程管理,并提供了可以指定队列类型的构造参数,以及任务提交入口和线程池关闭接口。你看,虽然它看起来似乎很迷你,但是线程池的核心组件都已经具备了,甚至在它的基础上,你完全可以把它扩展成更为成熟的线程池。
第二步:设计并制作工作线程。工作线程是干活的线程,将负责处理提交到线程池中的任务,我们把它叫做 Worker。其实,这里的 Worker 的定义和 Java 线程池中的 Worker 已经很像了,它继承了 Runnable 接口并封装了 Thread. 在构造 Worker 时,可以设定它的名字,并传入任务队列。当 Worker 启动后,它将会从任务队列中获取任务并执行。此外,它还提供了Stop
方法,用以响应线程池的状态变化。
第三步:设计并制作任务。任务是可以可执行的对象,因此我们直接继承 Runnable 接口就行。其实,直接使用 Runnable 接口也是可以的,只不过为了让示例更加清楚,我们给 Task 加了任务描述的方法。
第四步:设计线程池的状态。线程池作为一个运行框架,它必然会有一系列的状态,比如运行中、停止、关闭等。
以上四个步骤完成后,一个简易的线程池就已经制作完毕。你看,如果你从以上几点入手来理解线程池的源码的话,是不是要简单多了?Java 中的线程池的核心组成也是如此,只不过在细节处理等方面更多全面且丰富。
2. 运行线程池
现在,我们的王者线程池已经制作好。接下来,我们通过一个场景来运行它,看看它的效果如何。
试验场景:峡谷森林中,铠、兰陵王和典韦等负责打野,而安其拉、貂蝉和大乔等美女负责对狩猎到的野怪进行烧烤,一场欢快的峡谷烧烤节正在进行中。
在这个场景中,铠和兰陵王他们负责提交任务,而貂蝉和大乔她们则负责处理任务。
在下面的实现代码中,我们通过上述设计的 TheKingThreadPool 来定义个线程池,wildMonsters
中的野怪表示待提交的任务,并安排 3 个工作线程来执行任务。在示例代码的末尾,当所有任务执行结束后,关闭线程池。
王者线程池运行结果如下:
从结果中可以看到,效果完全符合预期。所有的任务都已经提交完毕,并且都被正确执行。此外,通过线程池的任务统计,可以看到任务并不是均匀分配,Worker1 执行了 4 个任务,而 Worker0 和 Worker2 均只执行了 2 个任务,这也是线程池中的正常现象。
三、透彻理解 Java 中的线程池
在手工制作线程线程池之后,再来理解 Java 中的线程池就相对要容易很多。当然,相比于王者线程池,Java 中的线程池(ThreadPoolExecutor)的实现要复杂很多。所以,理解时应当遵循一定的结构和脉络,把握住线程池的核心要点,眉毛胡子一把抓、理不清层次会导致你无法有效理解它的设计内涵,进而导致你无法正确掌握它。
总体来说,Java 中的线程池的设计核心都是围绕“任务”进行,可以通过一个框架、两大核心、三大过程概括。理解了这三个重要概念,基本上你已经能从相对抽象的层面理解了线程池。
一个框架:即线程池的整体设计存在一个框架,而不是杂乱无章的组成。所以,在学习线程池时,首先要能从立体上感知到这个框架的存在,而不要陷于凌乱的细节中;
两大核心:在线程池的整个框架中,围绕任务执行这件事,存在两大核心:任务的管理和任务的执行,对应的也就是任务队列和用于执行任务的工作线程。任务队列和工作线程是框架得以有效运转的关键部件;
三大过程:前面说过,线程池的整体设计都是围绕任务展开,所以框架内可以分为任务提交、任务管理和任务执行三大过程。
从类比的角度讲,你可以把框架看作是一个生产车间。在这个车间里,有一条流水线,任务队列和工作线程是这条流水线的两大关键组成。而在流水线运作的过程中,就会涉及任务提交、任务管理和任务执行等不同的过程。
下面这幅图,将帮助你立体地感知线程池的整体设计,建议你收藏。在这幅图中,清楚地展示了线程池整个框架的工作流程和核心部件,接下来的文章也将围绕这幅图展开。
1. 线程池框架设计概览
从源码层面看,理解 Java 中的线程池,要从下面这四兄弟的概念和关系入手,这四个概念务必了然于心。
Executor:作为线程池的最顶层接口,Executor 的接口在设计上,实现了任务提交与任务执行之间的解耦,这是它存在的意义。在 Executor 中,只定义了一个方法
void execute(Runnable command)
,用于执行提交的可运行的任务。注意,你看它这个方法的参数干脆就叫command
,也就是“命令”,意在表明所提交的不是一个静止的对象,而是可运行的命令。并且,这个命令将在未来的某一时刻执行,具体由哪个线程来执行也是不确定的;ExecutorService:继承了 Executor 的接口,并在此基础上提供可以管理服务和执行结果(Futrue) 的能力。ExecutorService 所提供的
submit
方法可以返回任务的执行结果,而shutdown
方法则可以用于关闭服务。相比起来,Executor 只具备单一的执行能力,而 ExecutorService 则不仅具有执行能力,还提供了简单的服务管理能力;AbstractExecutorService:作为 ExecutorService 的简单实现,该类通过 RunnableFuture 和 newTaskFor 实现了
submit
、invokeAny
和invokeAll
等方法;ThreadPoolExecutor:该类是线程池的最终实现类,实现了 Executor 和 ExecutorService 中定义的能力,并丰富了 AbstractExecutorService 中的实现。在 ThreadPoolExecutor 中,定义了任务管理策略和线程池管理能力,相关能力的实现细节将是我们下文所要讲解的核心所在。
如果你觉得还是不太能直观地感受四兄弟的差异,那么你可以放大查看下面这幅高清图示。看的时候,要格外注意它们各自方法的不同,方法的不同意味着它们的能力不同。
而对于线程池总体的执行过程,下面这幅图也建议你收藏。这幅图虽然简明,但完整展示了从任务提交到任务执行的整个过程。这个执行过程往往也是面试中的高频面试题,务必掌握。
(1)线程池的核心属性
线程池中的一些核心属性选取如下,对于其中个别属性会做特别说明。
关于 ctl 字段的特别说明
在 ThreadPoolExecutor 的多个核心字段中,其他字段可能都比较好理解,但是ctl
要单独拎出来做些解释。
顾名思义,ctl
这个字段用于对线程池的控制。它的设计比较有趣,用一个字段却表示了两层含义,也就是这个字段实际是两个字段的合体:
runState:线程池的运行状态(高 3 位);
workerCount:工作线程数量(低 29 位)。
这两个字段的值相互独立,互不影响。那为何要用这种设计呢?这是因为,在线程池中这两个字段几乎总是如影相随,如果不用一个字段来表示的话,那么就需要通过锁的机制来控制两个字段的一致性。不得不说,这个字段设计上还是比较巧妙的。
在线程池中,也提供了一些方法可以方便地获取线程池的状态和工作线程数量,它们都是通过对ctl
进行位运算得来。
关于位运算,这里补充一点说明,如果你对位运算有点迷糊的话可以看看,如果你对它比较熟悉则可以直接跳过。
假设 A=15,二进制是 1111;B=6,二进制是 110.
(2)线程池的核心构造器
ThreadPoolExecutor 有四个构造器,其中一个是核心构造器。你可以根据需要,按需使用这些构造器。
核心构造器之一:相对较为常用的一个构造器,你可以指定核心线程数、最大线程数、线程保活时间和任务队列类型。
核心构造器之二:相比于第一个构造器,你可以在这个构造器中指定 ThreadFactory. 通过 ThreadFactory,你可以指定线程名称、分组等个性化信息。
核心构造器之三:这个构造器的要点在于,你可以指定拒绝策略。关于任务队列的拒绝策略,下文有详细介绍。
核心构造器之四:这个构造器是 ThreadPoolExecutor 的核心构造器,提供了较为全面的参数设置,上述的三个构造器都是基于它实现。
(3)线程池中的核心方法
(4)线程池的状态与生命周期管理
前文说过,线程池恰似一个生产车间,而从生产车间的角度看,生产车间有运行、停产等不同状态,所以线程池也是有一定的状态和使用周期的。
Running:运行中,该状态下可以继续向线程池中增加任务,并正常处理队列中的任务;
Shutdown:关闭中,该状态下线程池不会立即停止,但不能继续向线程池中增加任务,直到任务执行结束;
Stop:停止,该状态下将不再接收新的任务,同时不再处理队列中的任务,并中断工作中的线程;
Tidying:相对短暂的中间状态,所有任务都已经结束,并且所有的工作线程都不再存在(workerCount==0),并运行
terminated()
钩子方法;Terminated:
terminated()
运行结束。
2. 如何向线程池中提交任务
向线程池提交任务有两种比较常见的方式,一种是需要返回执行结果的,一种则是不需要返回结果的。
(1)不关注任务执行结果:execute
通过execute()
提交任务到线程池后,任务将在未来某个时刻执行,执行的任务的线程可能是当前线程池中的线程,也可能是新创建的线程。当然,如果此时线程池应关闭,或者任务队列已满,那么该任务将交由 RejectedExecutionHandler 处理。
(2)关注任务执行结果:submit
通过submit()
提交任务到线程池后,运行机制和execute
类似,其核心不同在于,由submit()
提交任务时将等待任务执行结束并返回结果。
3. 如何管理提交的任务
(1)任务队列选型策略
SynchronousQueue:无缝传递(Direct handoffs)。当新的任务到达时,将直接交由线程处理,而不是放入缓存队列。因此,如果任务达到时却没有可用线程,那么将会创建新的线程。所以,为了避免任务丢失,在使用 SynchronousQueue 时,将会需要创建无数的线程,在使用时需要谨慎评估。
LinkedBlockingQueue:无界队列,新提交的任务都会缓存到该队列中。使用无界队列时,只有 corePoolSize 中的线程来处理队列中的任务,这时候和 maximumPoolSize 是没有关系的,它不会创建新的线程。当然,你需要注意的是,如果任务的处理速度远低于任务的产生速度,那么 LinkedBlockingQueue 的无限增长可能会导致内存容量等问题。
ArrayBlockingQueue:有界队列,可能会触发创建新的工作线程,maximumPoolSize 参数设置在有界队列中将发挥作用。在使用有界队列时,要特别注意任务队列大小和工作线程数量之间的权衡。如果任务队列大但是线程数量少,那么结果会是系统资源(主要是 CPU)占用率较低,但同时系统的吞吐量也会降低。反之,如果缩小任务队列并扩大工作线程数量,那么结果则是系统吞吐量增大,但同时系统资源占用也会增加。所以,使用有界队列时,要考虑到平衡的艺术,并配置相应的拒绝策略。
(2)如何选择合适的拒绝策略
在使用线程池时,拒绝策略是必须要确认的地方,因为它可能会造成任务丢失。
当线程池已经关闭或任务队列已满且无法再创建新的工作线程时,那么新提交的任务将会被拒绝,拒绝时将调用 RejectedExecutionHandler 中的rejectedExecution(Runnable r, ThreadPoolExecutor executor)
来执行具体的拒绝动作。
以 execute 方法为例,当线程池状态异常或无法新增工作线程时,将会执行任务拒绝策略。
ThreadPoolExecutor 的默认拒绝策略是 AbortPolicy,这一点在属性定义中已经确定。在大部分场景中,直接拒绝任务都是不合适的。
AbortPolicy:默认策略,直接抛出 RejectedExecutionException 异常;
CallerRunsPolicy:交由当前线程自己来执行。这种策略这提供了一个简单的反馈控制机制,可以减慢提交新任务的速度;
DiscardPolicy:直接丢弃任务,不会抛出异常;
DiscardOldestPolicy:如果此时线程池没有关闭,将从队列的头部取出第一个任务并丢弃,并再次尝试执行。如果执行失败,那么将重复这个过程。
如果上述四种策略均不满足,你也可以通过 RejectedExecutionHandler 接口定制个性化的拒绝策略。事实上,为了兼顾任务不丢失和系统负载,建议你自己实现拒绝策略。
(3)队列维护
对于任务队列的维护,线程池也提供了一些方法。
获取当前任务队列
从队列中移除任务
4. 如何管理执行任务的工作线程
(1)核心工作线程
核心线程(corePoolSize)是指最小数量的工作线程,此类线程不允许超时回收。当然,如果你设置了allowCoreThreadTimeOut
,那么核心线程也是会超时的,这可能会导致核心线程数为零。核心线程的数量可以通过线程池的构造参数指定。
(2)最大工作线程
最大工作线程指的是线程池为了处理现有任务,所能创建的最大工作线程数量。
最大工作线程可以通过构造函数的maximumPoolSize
变量设定。当然,如果你所使用的任务队列是无界队列,那么这个参数将形同虚设。
(3)如何创建新的工作线程
在线程池中,新线程的创建是通过ThreadFactory
完成。你可以通过线程池的构造函数指定特定的 ThreadFactory,如未指定将使用默认的Executors.defaultThreadFactory()
,该工厂所创建的线程具有相同的 ThreadGroup 和优先级(NORM_PRIORITY),并且都不是守护( Non-Daemon)线程。
通过设定 ThreadFactory,你可以自定义线程的名字、线程组以及守护状态等。
在 Java 的线程池 ThreadPoolExecutor 中,addWorker 方法负责新线程的具体创建工作。
(4)保活时间
保活时间指的是非核心线程在空闲时所能存活的时间。
如果线程池中的线程数量超过了corePoolSize
中的设定,那么空闲线程的空闲时间在超过keepAliveTime
中设定的时间后,线程将被回收终止。在线程被回收后,如果需要新的线程时,将继续创建新的线程。
需要注意的是,keepAliveTime
仅对非核心线程有效,如果需要设置核心线程的保活时间,需要使用allowCoreThreadTimeOut
参数。
(5)钩子方法
设定任务执行前动作:beforeExecute
如果你希望提交的任务在执行前执行特定的动作,比如写入日志或设定 ThreadLocal 等。那么,你可以通过重写 beforeExecute 来实现这一目的。
设定任务执行后动作:beforeExecute 如果你希望提交的任务在执行后执行特定的动作,比如写入日志或捕获异常等。那么,你可以通过重写 afterExecute 来实现这一目的。
设定线程池终止动作:terminated
(6)线程池的预热
默认情况下,在设置核心线程数之后,也不会立即创建相关线程,而是任务到达后再创建。
如果你需要预先就启动核心线程,那么你可以通过调用prestartCoreThread
或prestartAllCoreThreads
来提前启动,以达到线程池预热目的,并且可以通过ensurePrestart
方法来验证效果。
(7)线程回收机制
当线程池中的工作线程数量大于 corePoolSize 设置的数量时,并且存在空闲线程,并且这个空闲线程的空闲时长超过了 keepAliveTime 所设置的时长,那么这样的空闲线程将会被回收,以降低不必要的资源浪费。
(8)线程数调整策略
线程池的工作线程的设置是否合理,关系到系统负载和任务处理速度之间的平衡。这里要明确的是,如何设置核心线程并没有放之四海而皆准的公式。每个业务场景都有着它独特的地方,CPU 密集型和 IO 密集型任务存在较大差异。因此,在使用线程池的时候,要具体问题具体分析,但是你可以运行结果持续调整来优化线程池。
5. 线程池使用示例
我们仍以手工制作线程池部分的场景为例,通过 ThreadPoolExecutor 实现来展示线程池的使用示例。从代码中看,ThreadPoolExecutor 的使用和王者线程池 TheKingThreadPool 的用法基本一致。
6. Executors 类
Executors 是 JUC 中一个针对 ThreadPoolExecutor 和 ThreadFactory 等设计的一个工具类。通过 Executors,可以方便地创建不同类型的线程池。当然,其内部主要是通过给 ThreadPoolExecutor 的构造传递特定的参数实现,并无玄机可言。常用的几个工具如下所示:
创建固定线程数的线程池
创建只有 1 个线程的线程池
创建缓存线程池:这种线程池不设定核心线程数,根据任务的数据动态创建线程。当任务执行结束后,线程会被逐步回收,也就是所有的线程都是临时的。
7. 线程池监控
作为一个运行框架,ThreadPoolExecutor 既简单也复杂。因此,对其内部的监控和管理是十分必要的。ThreadPoolExecutor 也提供了一些方法,通过这些方法,我们可以获取到线程池的一些重要状态和数据。
获取线程池大小
获取活跃工作线程数量
获取最大线程池
获取线程池中的任务总数
获取线程池中已完成的任务总数
四、如何养成正确使用线程池的良好习惯
1. 线程池的使用风险提示
虽然线程池的使用有诸多的好处,然而天下没有免费的午餐,线程池在给我们带来便利的同时,也有一些避免踩坑的注意事项:
线程池设置过大或过小都不合适。如果线程池的线程数量过多,虽然局部处理速度增加,但将会影响应用系统的整体性能。而如果线程池的线程数量过少,线程池可能无法带来预期的性能的提升;
和其他多线程类似,线程池中也可能会发生死锁。比如,某个任务等待另外一个任务结束,但却没有线程来执行等待的那个任务,这也是为什么要避免任务间存在依赖;
添加任务到队列时耗时过长。如果任务队列已满,外部线程向队列添加任务将会受阻。所以,为了避免外部线程阻塞时间过长,你可以设定最大等待时间;
为了降低这些风险的发生,你在设置线程池的类型和参数时,应当格外小心。在正式上线前,最好能做一次压力测试。
2. 创建线程池的推荐姿势
虽然通过 Executors 创建线程比较方便,但是 Executors 的封装屏蔽了一些重要的参数细节,而这些参数对于线程池至关重要,所以为了避免因对 Executors 不了解而错误地使用线程池,建议还是通过 ThreadPoolExecutor 的构造参数直接创建。
3. 尽量避免使用无界队列
如果再认真点说的话,你应该在任何时候都避免使用无界队列来管理任务。注意,Executors 的 newFixedThreadPool 所使用的是 LinkedBlockingQueue,上文有它的源码。
小结
以上就是关于 Java 线程池的全部内容。在这篇文章中,我们讲解了线程池的应用场景、核心组成及原理,并手工制作了一个线程池,而且在此基础上深入讲解了 Java 中的线程池 ThreadPoolExecutor 的实现。虽然文章整体篇幅较大,但是由于线程池涉及的内容十分广泛,难以在一篇文章中全部提及,仍有部分重要内容未能覆盖,比如如何处理线程池中的异常、如何优雅关闭线程池等。
熟练掌握线程池并不是一件容易的事,建议按照本文开篇的建议,先理解其要解决的问题,再理解其核心组成原理,最后再深入到 Java 中的源码中。如此一来,带着已知的概念去看源码,会更容易理解源码的设计之道。
正文到此结束,恭喜你又上了一颗星✨
夫子的试炼
思考:如何确保线程池不丢失任务。
延伸阅读与参考资料
https://stackoverflow.com/questions/5483047/why-is-creating-a-thread-said-to-be-expensive
http://tutorials.jenkov.com/java-concurrency/thread-pools.html
关于作者
关注【技术八点半】,及时获取文章更新。传递有品质的技术文章,记录平凡人的成长故事,偶尔也聊聊生活和理想。早晨 8:30 推送作者品质原创,晚上 20:30 推送行业深度好文。
如果本文对你有帮助,欢迎点赞、关注、监督,我们一起从青铜到王者。
版权声明: 本文为 InfoQ 作者【技术八点半】的原创文章。
原文链接:【http://xie.infoq.cn/article/14f560d7b1bae1c44485a08a4】。文章转载请联系作者。
评论