写点什么

Java 不支持协程?那是你不知道 Quasar!

作者:码农参上
  • 2022 年 6 月 22 日
  • 本文字数:4678 字

    阅读完需:约 15 分钟

Java不支持协程?那是你不知道Quasar!

在编程语言的这个圈子里,各种语言之间的对比似乎就一直就没有停过,像什么古早时期的"PHP 是世界上最好的语言"就不提了,最近我在摸鱼的时候,看到不少文章都在说"Golang 性能吊打 Java"。作为一个写了好几年 java 的 javaer,这我怎么能忍?于是在网上看了一些对比 golang 和 java 的文章,其中戳中 java 痛点、也是 golang 被吹上天的一条,就是对多线程并发的支持了。先看一段描述:


Go 从语言层面原生支持并发,并且使用简单,Go 语言中的并发基于轻量级线程Goroutine,创建成本很低,单个 Go 应用也可以充分利用 CPU 多核,编写高并发服务端软件简单,执行性能好,很多情况下完全不需要考虑锁机制以及由此带来的各种问题。


看到这,我的心瞬间凉了大半截,真的是字字扎心。虽然说 java 里的JUC包已经帮我们封装好了很多并发工具,但实际高并发的环境中我们还要考虑到各种锁的使用,以及服务器性能瓶颈、限流熔断等非常多方面的问题。


再说回 go,前面提到的这个goroutine究竟是什么东西?其实,轻量级线程goroutine也可以被称为协程,得益于 go 中的调度器以及 GMP 模型,go 程序会智能地将goroutine中的任务合理地分配给每个 CPU。


好了,其实上面说的这一大段我也不懂,都是向写 go 的哥们儿请教来的,总之就是 go 的并发性能非常优秀就是了。不过这都不是我们要说的重点,今天我们要讨论的是如何在 Java 中使用协程。

协程是什么?

我们知道,线程在阻塞状态和可运行状态的切换,以及线程间的上下文切换都会造成性能的损耗。为了解决这些问题,引入协程coroutine这一概念,就像在一个进程中允许存在多个线程,在一个线程中,也可以存在多个协程。



那么,使用协程究竟有什么好处呢?


首先,执行效率高。线程的切换由操作系统内核执行,消耗资源较多。而协程由程序控制,在用户态执行,不需要从用户态切换到内核态,我们也可以理解为,协程是一种进程自身来调度任务的调度模式,因此协程间的切换开销远小于线程切换。


其次,节省资源。因为协程在本质上是通过分时复用了一个单线程,因此能够节省一定的资源。


类似于线程的五种状态切换,协程间也存在状态的切换,下面这张图展示了协程调度器内部任务的流转。



综合上面这些角度来看,和原生支持协程的 go 比起来,java 在多线程并发上还真的是不堪一击。但是,虽然在 Java 官方的 jdk 中不能直接使用协程,但是,有其他的开源框架借助动态修改字节码的方式实现了协程,就比如我们接下来要学习的 Quasar。

Quasar 使用

Quasar 是一个开源的 Java 协程框架,通过利用Java instrument技术对字节码进行修改,使方法挂起前后可以保存和恢复 jvm 栈帧,方法内部已执行到的字节码位置也通过增加状态机的方式记录,在下次恢复执行可直接跳转至最新位置。


Quasar 项目最后更新时间为 2018 年,版本停留在0.8.0,但是我在直接使用这个版本时报了一个错误:



这个错误的大意就是这个 class 文件是使用的高版本 jdk 编译的,所以你在低版本的 jdk 上当然无法运行了。这里major版本号 54 对应的是jdk10,而我使用的是jdk8,无奈降级试了一下低版本,果然0.7.10可以使用:


<dependency>    <groupId>co.paralleluniverse</groupId>    <artifactId>quasar-core</artifactId>    <version>0.7.10</version></dependency>
复制代码


在我们做好准备工作后,下面就写几个例子来感受一下协程的魅力吧。

1、运行时间

下面我们模拟一个简单的场景,假设我们有一个任务,平均执行时间为 1 秒,分别测试一下使用线程和协程并发执行 10000 次需要消耗多少时间。


先通过线程进行调用,直接使用Executors线程池:


public static void main(String[] args) throws InterruptedException {    CountDownLatch countDownLatch=new CountDownLatch(10000);    long start = System.currentTimeMillis();    ExecutorService executor= Executors.newCachedThreadPool();    for (int i = 0; i < 10000; i++) {        executor.submit(() -> {            try {                TimeUnit.SECONDS.sleep(1);            } catch (InterruptedException e) {                e.printStackTrace();            }            countDownLatch.countDown();        });    }    countDownLatch.await();    long end = System.currentTimeMillis();    System.out.println("Thread use:"+(end-start)+" ms");}
复制代码


查看运行时间:



好了,下面我们再用 Quasar 中的协程跑一下和上面相同的流程。这里我们要使用的是 Quasar 中的Fiber,它可以被翻译为协程纤程,创建Fiber的类型主要可分为下面两类:


public Fiber(String name, FiberScheduler scheduler, int stackSize, SuspendableRunnable target);public Fiber(String name, FiberScheduler scheduler, int stackSize, SuspendableCallable<V> target);
复制代码


Fiber中可以运行无返回值的SuspendableRunnable或有返回值的SuspendableCallable,看这个名字也知道区别就是 java 中的RunnableCallable的区别了。其余参数都可以省略,name为协程的名称,scheduler是调度器,默认使用FiberForkJoinSchedulerstackSize指定用于保存 fiber 调用栈信息的stack大小。


在下面的代码中,使用了Fiber.sleep()方法进行协程的休眠,和Thread.sleep()非常类似。


public static void main(String[] args) throws InterruptedException {    CountDownLatch countDownLatch=new CountDownLatch(10000);    long start = System.currentTimeMillis();
for (int i = 0; i < 10000; i++) { new Fiber<>(new SuspendableRunnable(){ @Override public Integer run() throws SuspendExecution, InterruptedException { Fiber.sleep(1000); countDownLatch.countDown(); } }).start(); }
countDownLatch.await(); long end = System.currentTimeMillis(); System.out.println("Fiber use:"+(end-start)+" ms");}
复制代码


直接运行,报了一个警告:


QUASAR WARNING: Quasar Java Agent isn't running. If you're using another instrumentation method you can ignore this message; otherwise, please refer to the Getting Started section in the Quasar documentation.
复制代码


还记得我们前面说过的 Quasar 生效的原理是基于Java instrument技术吗,所以这里需要给它添加一个代理 Agent。找到本地 maven 仓库中已经下好的 jar 包,在VM options中添加参数:


-javaagent:E:\Apache\maven-repository\co\paralleluniverse\quasar-core\0.7.10\quasar-core-0.7.10.jar
复制代码


这次运行时就没有提示警告了,查看一下运行时间:



运行时间只有使用线程池时的一半多一点,确实能大大缩短程序的效率。

2、内存占用

在测试完运行时间后,我们再来测试一下运行内存占用的对比。通过下面代码尝试在本地启动 100 万个线程:


public static void main(String[] args) {    for (int i = 0; i < 1000000; i++) {        new Thread(() -> {            try {                Thread.sleep(100000);            } catch (InterruptedException e) {                e.printStackTrace();            }        }).start();    }}
复制代码


本来以为会报OutOfMemoryError,但是没想到的是我的电脑直接直接卡死了…而且不是一次,试了几次都是以卡死只能重启电脑而结束。好吧,我选择放弃,那么下面再试试启动 100 万个Fiber协程。


public static void main(String[] args) throws Exception {    CountDownLatch countDownLatch=new CountDownLatch(10000);    for (int i = 0; i < 1000000; i++) {        int finalI = i;        new Fiber<>((SuspendableCallable<Integer>)()->{            Fiber.sleep(100000);            countDownLatch.countDown();            return finalI;        }).start();    }    countDownLatch.await();    System.out.println("end");}
复制代码


程序能够正常执行结束,看样子使用的内存真的比线程少很多。上面我故意使每个协程结束的时间拖得很长,这样我们就可以在运行过程中使用 Java VisualVM 查看内存的占用情况了:



可以看到在使用Fiber的情况下只使用了 1G 多一点的内存,平均到 100 万个协程上也就是说每个Fiber只占用了1Kb左右的内存空间,和Thread线程比起来真的是非常的轻量级。


从上面这张图中我们也可以看到,运行了非常多的ForkJoinPool,它们又起到了什么作用呢?我们在前面说过,协程是由程序控制在用户态进行切换,而 Quasar 中的调度器就使用了一个或多个ForkJoinPool来完成对Fiber的调度。

3、原理与应用

这里简单介绍一下 Quasar 的原理,在编译时框架会对代码进行扫描,如果方法带有@Suspendable注解,或抛出了SuspendExecution,或在配置文件META-INF/suspendables中指定该方法,那么 Quasar 就会修改生成的字节码,在park挂起方法的前后,插入一些字节码。


这些字节码会记录此时协程的执行状态,例如相关的局部变量与操作数栈,然后通过抛出异常的方式将 cpu 的控制权从当前协程交回到控制器,此时控制器可以再调度另外一个协程运行,并通过之前插入的那些字节码恢复当前协程的执行状态,使程序能继续正常执行。


回头看一下前面例子中的SuspendableRunnableSuspendableCallable,它们的run方法上都抛出了SuspendExecution,其实这并不是一个真正的异常,仅作为识别挂起方法的声明,在实际运行中不会抛出。当我们创建了一个Fiber,并在其中调用了其他方法时,如果想要 Quasar 的调度器能够介入,那么必须在使用时层层抛出这个异常或添加注解。


看一下简单的代码书写的示例:


public void request(){    new Fiber<>(new SuspendableRunnable() {        @Override        public void run() throws SuspendExecution, InterruptedException {            String content = sendRequest();            System.out.println(content);        }    }).start();}
private String sendRequest() throws SuspendExecution { return realSendRequest();}
private String realSendRequest() throws SuspendExecution{ HttpResponse response = HttpRequest.get("http://127.0.0.1:6879/name").execute(); String content = response.body(); return content;}
复制代码


需要注意的是,如果在方法内部已经通过 try/catch 的方式捕获了Exception,也应该再次手动抛出这个SuspendExecution异常。

总结

本文介绍了 Quasar 框架的简单使用,其具体的实现原理比较复杂,暂时就不在这里进行讨论,后面打算单独拎出来进行分析。另外,目前已经有不少其他的框架中已经集成了 Quasar,例如同样是Parallel Universe下的 Comsat 项目,能够提供了 HTTP 和 DB 访问等功能。


虽然现在想要在 Java 中使用协程还只能使用这样的第三方的框架,但是也不必灰心,在 OpenJDK 16 中已经加入了一个名为Project Loom的项目, 在OpenJDK Wiki上可以看到对它的介绍,它将使用Fiber轻量级用户模式线程,从 jvm 层面对多线程技术进行彻底的改变,使用新的编程模型,使轻量级线程的并发也能够适用于高吞吐量的业务场景。


Quasar 和 Loom 的相关的文档放在下面,有兴趣的小伙伴们可以自己看一下。


Quasar git:https://github.com/puniverse/quasar

Quasar api:http://docs.paralleluniverse.co/quasar/javadoc/

OpenJdk Wiki:https://wiki.openjdk.java.net/display/loom/Main

最后

如果觉得对您有所帮助,小伙伴们可以点个赞啊,非常感谢~

公众号码农参上,一个热爱分享的公众号,有趣、深入、直接,与你聊聊技术。欢迎来加 Hydra 好友,做个点赞之交。

发布于: 刚刚阅读数: 3
用户头像

码农参上

关注

公众号:码农参上 2021.03.30 加入

公众号【码农参上】,有趣、深入、与你聊聊技术。

评论

发布
暂无评论
Java不支持协程?那是你不知道Quasar!_协程_码农参上_InfoQ写作社区