Skip to content

Latest commit

 

History

History
124 lines (102 loc) · 6 KB

JDK21虚拟线程和webflux性能对决.md

File metadata and controls

124 lines (102 loc) · 6 KB

概述

  • 虚拟线程是JDK 21中引入的一项重要特性，它是一种轻量级的线程实现，旨在提高Java应用程序的并发性能。
  • 虚拟线程（Virtual Threads）也被称为纤程（Fibers），其基本的工作原理是将线程的调度从操作系统级别转移到用户级别，即由JVM控制。
  • Spring WebFlux是Spring Framework的一个模块，它提供了一种基于响应式编程模型的Web开发框架。
  • Spring WebFlux支持两种编程模型，分别是注解驱动和函数式编程。在注解驱动模型中，可以使用类似于Spring MVC的注解来定义请求处理方法，并利用Reactor提供的操作符和流式处理方式来处理请求和响应。在函数式编程模型中，可以使用一组函数式接口来定义路由和处理函数，以及利用Flux和Mono来处理异步数据流。

虚拟线程和webflux的性能对决

环境及配置

  • Spring Boot: 3.1.4
  • JDK: graalvm-jdk-21
  • Docker Engine: 24.0.5
  • Docker Resource: 4C/8G

压测源码&镜像

1.虚拟线程镜像: guanyangsunlight/spring-project-samples:virtualthread-sample-0.0.1-SNAPSHOT
2.webflux镜像：guanyangsunlight/spring-project-samples:webflux-sample-0.0.1-SNAPSHOT
  • http测试接口：${host}/hello/{timeMillis}, host为服务地址，timeMillis为模拟IO操作的时间，单位毫秒，响应示例如下：
{
    msg: "Hello World!",
    time: 1695871679753,
    thread: "VirtualThread[#59]/runnable@ForkJoinPool-1-worker-1"
}

压测工具

压测场景case

  • Spring Boot虚拟线程: 性能指标（QPS、Avg Latency、P95）
  • Spring webflux响应式: 性能指标（QPS、Avg Latency、P95）

K6压测

压测脚本
  • 总请求时长60s，并发从200开始，并按照200步长增长，命令如下：
k6 run -u 200 --duration 60s -e url=http://127.0.0.1:8081/hello/100 simple-test.js

-i：指定请求数量
-u：模拟并发数量
--duration：请求时长定义，例如：60s，1m
-e url：指定环境变量url，用于实际场景替换
simple-test.js脚本说明
import http from 'k6/http';
import { check } from 'k6';

export default function () {
  const res = http.get(`${__ENV.url}`);
  check(res, {
    'is status 200': (r) => r.status === 200
  });
}
压测docker实例
## 启用虚拟线程实例
docker run --name virtualthread-sample-vt -p 8081:8080 -e SPRING_EXECUTOR=virtual -d guanyangsunlight/spring-project-samples:virtualthread-sample-0.0.1-SNAPSHOT

## 启用webflux实例
docker run --name webflux-sample -p 8083:8080 -d guanyangsunlight/spring-project-samples:webflux-sample-0.0.1-SNAPSHOT
K6压测结果
  • QPS对比

QPS对比

  • Avg Latency对比

Avg Latency对比

  • 详细数据
Case QPS Avg Latency P95
Spring Boot虚拟线程,-u 200 1620.869685/s 123.09ms 149.42ms
Spring Boot虚拟线程,-u 400 2634.599143/s 151.55ms 198.37ms
Spring Boot虚拟线程,-u 600 3136.075961/s 186.44ms 256.03ms
Spring Boot虚拟线程,-u 800 3780.654388/s 210.28ms 294.79ms
Spring Boot虚拟线程,-u 1000 4250.384928/s 234.17ms 319.92ms
Spring Boot虚拟线程,-u 1200 4479.450088/s 266.15ms 370.17ms
Spring webflux响应式,-u 200 1826.774964/s 109.22ms 127.25ms
Spring webflux响应式,-u 400 3516.072783/s 113.35ms 138.09ms
Spring webflux响应式,-u 600 4868.593872/s 122.69ms 160.59ms
Spring webflux响应式,-u 800 5852.713635/s 136.14ms 182.87ms
Spring webflux响应式,-u 1000 5994.725404/s 166.09ms 255.77ms
Spring webflux响应式,-u 1200 6878.047424/s 173.48ms 278.69ms

总结

Spring WebFlux和JDK虚拟线程是两种不同的技术，用于解决不同的问题，并具有不同的使用场景。下面是它们之间的对比及使用场景：

两者对比

  • 异步与同步：Spring WebFlux基于非阻塞I/O和异步处理方式，适用于需要处理大量并发请求和对响应时间要求较高的场景。而JDK虚拟线程可以看作是一种用户级线程，通过协程或轻量级线程实现并发编程，适用于需要处理大量任务和对资源利用率要求较高的场景。
  • 编程模型：Spring WebFlux提供了注解驱动和函数式编程两种编程模型，借助Reactor库来处理异步数据流。而JDK虚拟线程通常可以使用协程库（如Quasar）或并发框架（如CompletableFuture）来实现轻量级线程的功能。
  • 生态系统：Spring WebFlux是Spring Framework的一部分，与其他Spring组件和工具集成紧密，丰富的生态系统给开发人员带来便利。JDK虚拟线程的生态系统相对较小，可能缺乏一些成熟的库和工具支持。
  • 学习曲线：Spring WebFlux相对于传统的Servlet API和阻塞I/O模型有较陡峭的学习曲线，需要开发人员学习响应式编程和相关的Reactor库。JDK虚拟线程相对较容易上手。

使用场景对比

  • 使用Spring WebFlux：
1.需要处理大量并发请求和对响应时间有较高要求的场景。
2.需要利用异步处理提高系统的吞吐量和响应性能。
3.希望借助Spring Framework的丰富生态系统来简化开发。
  • 使用JDK虚拟线程：
1.需要处理大量任务和对资源利用率有较高要求的场景。
2.希望通过协程或轻量级线程实现更灵活、可控的并发编程。
3.需要快速启动和停止线程。

需要根据具体的需求和项目情况来选择适合的技术。在某些场景下，可能也可以将两者结合使用，以充分发挥各自的优势。