发布于2024-11-02 12:09 阅读(769) 评论(0) 点赞(3) 收藏(0)
线上接口响应太慢,Spring Boot + 内嵌的 Tomcat 服务器,Tomcat 处理请求的最大线程数普通情况是 150 左右,最大是 200,所以当同时处理的请求过多,并且每个请求一直没有处理完成。所有的线程都在繁忙,没有办法处理新的请求,就会导致新的请求排队等待处理,从而造成了迟迟无法响应的线上事故,用户体验太差。
一个简单的 controller 接口
@RestController
public class SpringBootController {
@GetMapping("/")
public String index() throws InterruptedException {
// 每个线程都睡眠,模拟业务接口响应慢的问题
Thread.sleep(60 * 30 * 1000);
System.out.println("current thread: " + Thread.currentThread().getName());
return "Hello Spring Boot!";
}
}
随后设置 tomcat 服务器的最大线程为 5 :
server:
port: 8080
tomcat:
threads:
max: 5
spring:
application:
name: simple-application
之后我们在单元测试中模拟 10 个线程对接口发起请求
public class RequestTest { public static void main(String[] args) { for (int i = 0; i < 10; i++) { new Thread(new RequestTask()).start(); } } private static class RequestTask implements Runnable { @Override public void run() { try { URL url = new URL("http://localhost:8080/"); HttpURLConnection connection = (HttpURLConnection) url.openConnection(); connection.setRequestMethod("GET"); int responseCode = connection.getResponseCode(); System.out.println("Response Code: " + responseCode); } catch (IOException e) { e.printStackTrace(); } } } }
首先,我们注释掉 controller 中的睡眠代码,运行测试得到以下的输出:
spring boot web 应用响应输出: 2024-08-01T15:56:25.369+08:00 INFO 7304 --- [simple-application] [nio-8080-exec-2] o.s.web.servlet.DispatcherServlet : Completed initialization in 0 ms current thread: http-nio-8080-exec-4 current thread: http-nio-8080-exec-5 current thread: http-nio-8080-exec-1 current thread: http-nio-8080-exec-2 current thread: http-nio-8080-exec-3 current thread: http-nio-8080-exec-5 current thread: http-nio-8080-exec-2 current thread: http-nio-8080-exec-4 current thread: http-nio-8080-exec-1 current thread: http-nio-8080-exec-3 测试输出: Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200 Response Code: 200
我们看到线程在响应输出。接下来,打开注释代码,模拟事故现场。将会在控制台看不到任何输出,测试方法也会卡住不动。
我们使用 JVM 的一些命令来进行排查:
# 首先查看 java 的进程 id
C:\Users\Administrator>jps -l
18400 indi.yuluo.tomcat.SpringBootApplication
10324 jdk.jcmd/sun.tools.jps.Jps
16872 org.jetbrains.jps.cmdline.Launcher
18072 org.jetbrains.idea.maven.server.RemoteMavenServer36
9624
7372 inid.yuluo.tomcat.RequestTest
我们看到 SpringBootApplication 和 RequestTest 在运行,之后使用 jstack 命令生成线程快照,并保存为文件。
C:\Users\Administrator>jstack 18400 > C:\Users\Administrator\Desktop\spring-boot-thread_dump.txt
打开线程快照文件,搜索 http-nio
就能看到 Tomcat 的请求处理线程,所有的请求处理线程状态都是 TIMED_WAITING
,表示线程正在等待另一个线程执行特定的动作,但是有一个指定的等待时间。而且能直接看到请求是阻塞在了哪个代码位置。
"http-nio-8080-exec-2" #28 daemon prio=5 os_prio=0 cpu=0.00ms elapsed=187.14s tid=0x0000015ffe6089f0 nid=0x1ee4 waiting on condition [0x00000026eb5fc000]
# `TIMED_WAITING`
java.lang.Thread.State: TIMED_WAITING (sleeping)
at java.lang.Thread.sleep(java.base@17.0.1/Native Method)
# 阻塞位置:
at indi.yuluo.tomcat.controller.SpringBootController.index(SpringBootController.java:18)
适当修改 Tomcat 的最大线程数,可以增加并发请求的处理能力。
适当调大 Tomcat 的最小空闲线程数,可以确保在并发高峰时刻,Tomcat 能迅速响应新的请求,而不需要重新创建线程。
修改值需要对用户体量做出预估之后,进行测试之后确定。
原文链接:https://blog.csdn.net/qq_52397471/article/details/140850770
作者:大师兄
链接:http://www.qianduanheidong.com/blog/article/534381/11a94621a25e6f8c82e1/
来源:前端黑洞网
任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任
昵称:
评论内容:(最多支持255个字符)
---无人问津也好,技不如人也罢,你都要试着安静下来,去做自己该做的事,而不是让内心的烦躁、焦虑,坏掉你本来就不多的热情和定力
Copyright © 2018-2021 前端黑洞网 All Rights Reserved 版权所有,并保留所有权利。 京ICP备18063182号-3
投诉与举报,广告合作请联系vgs_info@163.com或QQ3083709327
免责声明:网站文章均由用户上传,仅供读者学习交流使用,禁止用做商业用途。若文章涉及色情,反动,侵权等违法信息,请向我们举报,一经核实我们会立即删除!