面试官:一个Spring Boot项目能同时处理多少个请求

最近,一个去大厂面试的朋友跟我说起了一个面试题:一个 SpringBoot 项目能同时处理多少请求?

听到这个问题,我的第一反应是:会不会有坑?

于是我继续追问一些消息,比如:这个项目具体是干什么的?项目大概进行了哪些参数配置?使用的 web 容器是什么?部署的服务器配置如何?有哪些接口?接口响应平均时间大概是多少?

这样,在几个问题的拉扯之后,至少在面试题考察的方向方面能基本和面试官达成了一致。经过几次拉扯之后,面试官的题目补充为如下:

一个 SpringBoot 项目,未进行任何特殊配置,全部采用默认设置,这个项目同一时刻,最多能同时处理多少请求?

既然“未进行任何特殊配置”,那我自己搞个 Demo 出来,压一把不就完事了吗?坐稳扶好,准备发车。

小手一抖,先搞个 Demo 出来。这个 Demo 非常的简单,就是通过 idea 创建一个全新的 SpringBoot 项目就行。整个项目只有两个依赖:
在这里插入图片描述

代码也比较简单,只有两个类:
在这里插入图片描述

项目中的 TestController,里面只有一个 getTest 方法,用来测试,方法里面接受到请求之后直接 sleep 一小时。目的就是直接把当前请求线程占着,这样我们才能知道项目中一共有多少个线程可以使用,代码如下:

@Slf4j
@RestController
public class TestController {

    @GetMapping("/getTest")
    public void getTest(int num) throws Exception {
        log.info("{} 接受到请求:num={}", Thread.currentThread().getName(), num);
        TimeUnit.HOURS.sleep(1);
    }
}

基于上面这个 Demo,前面的面试题就要变成了:我短时间内不断的调用这个 Demo 的 getTest 方法,最多能调用多少次?

那么前面这个“短时间内不断的调用”,用代码怎么表示呢?很简单,就是在循环中不断的进行接口调用就行了。

扫描二维码关注公众号,回复: 15782050 查看本文章
public class MainTest {
    public static void main(String[] args) {
        for (int i = 0; i < 1000; i++) {
            int finalI = i;
            new Thread(() -> {
                HttpUtil.get("127.0.0.1:8080/getTest?num=" + finalI);
            }).start();
        }
        //阻塞主线程
        Thread.yield();
    }
}

当然了,这个地方你也可以用一些压测工具,比如 jmeter 啥的,会显得逼格更高,更专业。

接下来就是先把 Demo 跑起来,这里我们使用的是Tomcat服务器。然后,跑一把 MainTest。当 MainTest 跑起来之后,Demo 就会输出这样的日志:
在这里插入图片描述

也就是我前面 getTest 方法中写的日志。接下来,上面的问题就变成了:getTest 方法最多能调用多少次?

在这里插入图片描述

可以看到,是200次!!!不过,如果直接说200 次,面试官可能会让你回家等通知。

那这个200次准确吗,又是怎么来的呢?在回答这些问题之前,我先问提一个问题:这个 200 个线程,是谁的线程,或者说是谁在管理这个线程?

是 SpringBoot 吗?肯定不是,SpringBoot 并不是一个 web 容器。应该是 Tomcat 在管理这 200 个线程。
在这里插入图片描述
在这里插入图片描述

通过线程 Dump 文件,我们可以知道,大量的线程都在 sleep 状态。而点击这些线程,查看其堆栈消息,可以看到 Tomcat、threads、ThreadPoolExecutor 等关键字:

at org.apache.Tomcat.util.net.NioEndpoint$SocketProcessor.doRun(NioEndpoint.java:1791)
at org.apache.Tomcat.util.net.SocketProcessorBase.run(SocketProcessorBase.java:52)
at org.apache.Tomcat.util.threads.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1191)
at org.apache.Tomcat.util.threads.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:659)
at org.apache.Tomcat.util.threads.TaskThread$WrappingRunnable.run(TaskThread.java:61)

因为Tomcat 默认核心线程数是 200,所以SpringBoot能同时处理的最大请求数就是200。

那如何去验证这一猜想呢?这里我给大家介绍一个不用打断点也能获取到调用栈的方法。在前面已经展示过了,就是线程 Dump。
在这里插入图片描述

可以看到,右边就是一个线程完整的调用栈。从这个调用栈中,由于我们要找的是 Tomcat 线程池相关的源码,所以第一次出现相关关键字的地方就是下面这一行代码。

org.apache.Tomcat.util.threads.ThreadPoolExecutor.Worker#run

在这里插入图片描述

然后我们在这一行打上断点。重启项目,开始调试。进入 runWorker 之后,这部分代码看起来就非常眼熟了。
在这里插入图片描述

简直和 JDK 里面的线程池源码一模一样。如果你熟悉 JDK 线程池源码的话,调试 Tomcat 的线程池就可以了。如果你不熟悉的话,我建议你尽快去熟悉熟悉。随着断点往下走,在 getTask 方法里面,可以看到关于线程池的几个关键参数:

org.apache.Tomcat.util.threads.ThreadPoolExecutor#getTask

在这里插入图片描述

corePoolSize,核心线程数,值为 10。maximumPoolSize,最大线程数,值为 200。而且基于 maximumPoolSize 这个参数,你往前翻代码,会发现这个默认值就是 200:
在这里插入图片描述

好,到这里,你发现你之前猜测的“Tomcat 默认核心线程数是 200”是不对的。

在心里又默念了一次:当线程池接受到任务之后,先启用核心线程数,再使用队列长度,最后启用最大线程数。因为我们前面验证了,Tomcat 可以同时间处理 200 个请求,而它的线程池核心线程数只有 10,最大线程数是 200。这说明,我前面这个测试用例,把队列给塞满了,从而导致 Tomcat 线程池启用了最大线程数。
在这里插入图片描述

那么,现在的关键问题就是:Tomcat 线程池默认的队列长度是多少呢?在当前的这个 Debug 模式下,队列长度可以通过 Alt+F8 进行查看。
在这里插入图片描述

WTF,这个值是 Integer.MAX_VALUE,怎么这么大?我一共也才 1000 个任务,不可能被占满啊?
目前,已知的是核心线程数,值为 10。这 10 个线程的工作流程是符合我们认知的。但是第 11 个任务过来的时候,本应该进入队列去排队。现在看起来,是直接启用最大线程数了。所以,我们更改一下代码:
在这里插入图片描述

那么问题就来了:最后一个请求到底是怎么提交到线程池里面的?前面说了,Tomcat 的线程池源码和 JDK 的基本一样。往线程池里面提交任务的时候,会执行 execute 这个方法:

org.apache.Tomcat.util.threads.ThreadPoolExecutor#execute(java.lang.Runnable)

在这里插入图片描述

对于 Tomcat 它会调用到 executeInternal 这个方法:

org.apache.Tomcat.util.threads.ThreadPoolExecutor#executeInternal

在这里插入图片描述

这个方法里面,标号为 ① 的地方,就是判断当前工作线程数是否小于核心线程数,小于则直接调用 addWorker 方法,创建线程。标号为 ② 的地方主要是调用了 offer 方法,看看队列里面是否还能继续添加任务。如果不能继续添加,说明队列满了,则来到标号为 ③ 的地方,看看是否能执行 addWorker 方法,创建非核心线程,即启用最大线程数。

接着,我们看下workQueue.offer(command) 这个逻辑。如果返回 true 则表示加入到队列,返回 false 则表示启用最大线程数嘛。这个 workQueue 是 TaskQueue:
在这里插入图片描述

在这里插入图片描述

所以,我们重点看一下这个 offer 方法:

org.apache.Tomcat.util.threads.TaskQueue#offer

在这里插入图片描述

标号为 ① 的地方,判断了 parent 是否为 null,如果是则直接调用父类的 offer 方法。说明要启用这个逻辑,我们的 parent 不能为 null。那这个parent是从哪里来的呢?
在这里插入图片描述

parent 就是 Tomcat 线程池,通过其 set 方法可以知道,是在线程池完成初始化之后,进行了赋值。标号为 ② 的地方,调用了 getPoolSizeNoLock 方法:
在这里插入图片描述

这个方法是获取当前线程池中有多个线程。所以如果这个表达式为 true,就表明当前线程池的线程数已经是配置的最大线程数了,那就调用 offer 方法,把当前请求放到到队列里面去。

标号为 ③ 的地方,是判断已经提交到线程池里面待执行或者正在执行的任务个数,是否比当前线程池的线程数还少。如果是,则说明当前线程池有空闲线程可以执行任务,则把任务放到队列里面去,就会被空闲线程给取走执行。

接下来,是标号为 ④ 的地方。如果当前线程池的线程数比线程池配置的最大线程数还少,则返回 false。前面说了,offer 方法返回 false,会出现什么情况?
在这里插入图片描述

众所周知,JDK 的线程池,是先使用核心线程数配置,接着使用队列长度,最后再使用最大线程配置。Tomcat 的线程池,就是先使用核心线程数配置,再使用最大线程配置,最后才使用队列长度。

所以,以后当面试官给你说:我们聊聊线程池的工作机制吧?你就先追问一句:你是说的 JDK 的线程池呢还是 Tomcat 的线程池呢,因为这两个在运行机制上有一点差异。

下面我们继续来回顾一下之前的问题:一个 SpringBoot 项目能同时处理多少请求?

我们可以这么回答:一个未进行任何特殊配置,全部采用默认设置的 SpringBoot 项目,这个项目同一时刻最多能同时处理多少请求,取决于我们使用的 web 容器,而 SpringBoot 默认使用的是 Tomcat。

Tomcat 的默认核心线程数是 10,最大线程数 200,队列长度是无限长。但是由于其运行机制和 JDK 线程池不一样,在核心线程数满了之后,会直接启用最大线程数。所以,在默认的配置下,同一时刻,可以处理 200 个请求。

在实际使用过程中,应该基于服务实际情况和服务器配置等相关消息,对该参数进行评估设置。比如,SpringBoot 内置的容器又Tomcat、Jetty、Netty、Undertow等,我们可以根据具体的配置和服务器配置来具体的回答上面的问题。

猜你喜欢

转载自blog.csdn.net/xiangzhihong8/article/details/131826222