写点什么

教你用 Java7 的 Fork/Join 框架开发高并发程序

发布于: 刚刚

摘要:Fork/Join 框架位于 J.U.C(java.util.concurrent)中,是 Java7 中提供的用于执行并行任务的框架,其可以将大任务分割成若干个小任务,最终汇总每个小任务的结果后得到最终结果。


本文分享自华为云社区《【高并发】如何使用Java7提供的Fork/Join框架实现高并发程序?》,作者:冰 河。

Fork/Join 框架


位于 J.U.C(java.util.concurrent)中,是 Java7 中提供的用于执行并行任务的框架,其可以将大任务分割成若干个小任务,最终汇总每个小任务的结果后得到最终结果。基本思想和 Hadoop 的 MapReduce 思想类似。

主要采用的是工作窃取算法(某个线程从其他队列里窃取任务来执行),并行分治计算中的一种 Work-stealing 策略

为什么需要使用工作窃取算法呢?


假如我们需要做一个比较大的任务,我们可以把这个任务分割为若干互不依赖的子任务,为了减少线程间的竞争,于是把这些子任务分别放到不同的队列里,并为每个队列创建一个单独的线程来执行队列里的任务,线程和队列一一对应,比如 A 线程负责处理 A 队列里的任务。但是有的线程会先把自己队列里的任务干完,而其他线程对应的队列里还有任务等待处理。干完活的线程与其等着,不如去帮其他线程干活,于是它就去其他线程的队列里窃取一个任务来执行。而在这时它们会访问同一个队列,所以为了减少窃取任务线程和被窃取任务线程之间的竞争,通常会使用双端队列,被窃取任务线程永远从双端队列的头部拿任务执行,而窃取任务的线程永远从双端队列的尾部拿任务执行。

工作窃取算法的优点


充分利用线程进行并行计算,并减少了线程间的竞争

工作窃取算法的缺点


在某些情况下还是存在竞争,比如双端队列里只有一个任务时。并且该算法会消耗更多的系统资源,比如创建多个线程和多个双端队列。

Fork/Join 框架局限性


对于 Fork/Join 框架而言,当一个任务正在等待它使用 Join 操作创建的子任务结束时,执行这个任务的工作线程查找其他未被执行的任务,并开始执行这些未被执行的任务,通过这种方式,线程充分利用它们的运行时间来提高应用程序的性能。为了实现这个目标,Fork/Join 框架执行的任务有一些局限性,如下所示。


  • 任务只能使用 Fork 和 Join 操作来进行同步机制,如果使用了其他同步机制,则在同步操作时,工作线程就不能执行其他任务了。比如,在 Fork/Join 框架中,使任务进行了睡眠,那么,在睡眠期间内,正在执行这个任务的工作线程将不会执行其他任务了。

  • 在 Fork/Join 框架中,所拆分的任务不应该去执行 IO 操作,比如:读写数据文件

  • 任务不能抛出检查异常,必须通过必要的代码来出来这些异常

Fork/Join 框架的核心类


Fork/Join 框架的核心是两个类:ForkJoinPool 和 ForkJoinTask。ForkJoinPool 负责实现工作窃取算法、管理工作线程、提供关于任务的状态以及执行信息。ForkJoinTask 主要提供在任务中执行 Fork 和 Join 操作的机制。

示例代码


示例代码如下:


package io.binghe.concurrency.example.aqs; import lombok.extern.slf4j.Slf4j;import java.util.concurrent.ForkJoinPool;import java.util.concurrent.Future;import java.util.concurrent.RecursiveTask;@Slf4jpublic class ForkJoinTaskExample extends RecursiveTask<Integer> {    public static final int threshold = 2;    private int start;    private int end;    public ForkJoinTaskExample(int start, int end) {        this.start = start;        this.end = end;    }    @Override    protected Integer compute() {        int sum = 0;        //如果任务足够小就计算任务        boolean canCompute = (end - start) <= threshold;        if (canCompute) {            for (int i = start; i <= end; i++) {                sum += i;            }        } else {            // 如果任务大于阈值,就分裂成两个子任务计算            int middle = (start + end) / 2;            ForkJoinTaskExample leftTask = new ForkJoinTaskExample(start, middle);            ForkJoinTaskExample rightTask = new ForkJoinTaskExample(middle + 1, end);             // 执行子任务            leftTask.fork();            rightTask.fork();             // 等待任务执行结束合并其结果            int leftResult = leftTask.join();            int rightResult = rightTask.join();             // 合并子任务            sum = leftResult + rightResult;        }        return sum;    }    public static void main(String[] args) {        ForkJoinPool forkjoinPool = new ForkJoinPool();         //生成一个计算任务,计算1+2+3+4        ForkJoinTaskExample task = new ForkJoinTaskExample(1, 100);         //执行一个任务        Future<Integer> result = forkjoinPool.submit(task);         try {            log.info("result:{}", result.get());        } catch (Exception e) {            log.error("exception", e);        }    }}
复制代码


点击关注,第一时间了解华为云新鲜技术~

发布于: 刚刚阅读数: 2
用户头像

提供全面深入的云计算技术干货 2020.07.14 加入

华为云开发者社区,提供全面深入的云计算前景分析、丰富的技术干货、程序样例,分享华为云前沿资讯动态,方便开发者快速成长与发展,欢迎提问、互动,多方位了解云计算! 传送门:https://bbs.huaweicloud.com/

评论

发布
暂无评论
教你用Java7的Fork/Join框架开发高并发程序