tomcat优化jvm(Tomcat修正JDK原生线程池bug的实现原理)
tomcat优化jvm
Tomcat修正JDK原生线程池bug的实现原理为提高处理能力和并发度,Web容器一般会把处理请求的任务放到线程池,而JDK的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。
Tomcat 线程池原理其实ThreadPoolExecutor的参数主要有如下关键点:
限制线程个数
限制队列长度
而Tomcat对这俩资源都需要限制,否则高并发下CPU、内存都有被耗尽可能。
因此Tomcat的线程池传参:
// 定制的任务队列 taskqueue = new TaskQueue(maxQueueSize); // 定制的线程工厂 TaskThreadFactory tf = new TaskThreadFactory(namePrefix, daemon, getThreadPriority() ); // 定制线程池 executor = new ThreadPoolExecutor(getMinSpareThreads(), getMaxThreads(), maxIdleTime, TimeUnit.MILLISECONDS, taskqueue, tf);
Tomcat对线程数也有限制,设置:
- 核心线程数(minSpareThreads)
- 最大线程池数(maxThreads)
Tomcat线程池还有自己的特色任务处理流程,通过重写execute方法实现了自己的特色任务处理逻辑:
- 前corePoolSize个任务时,来一个任务就创建一个新线程
- 再有任务,就把任务放入任务队列,让所有线程去抢。若队列满,就创建临时线程
- 总线程数达到maximumPoolSize,则继续尝试把任务放入任务队列
- 若缓冲队列也满了,插入失败,执行拒绝策略
和 JDK 线程池的区别就在step3,Tomcat在线程总数达到最大数时,不是立即执行拒绝策略,而是再尝试向任务队列添加任务,添加失败后再执行拒绝策略。
具体又是如何实现的呢?
public void execute(Runnable command, long timeout, TimeUnit unit) { submittedCount.incrementAndGet(); try { // 调用JDK原生线程池的execute执行任务 super.execute(command); } catch (RejectedExecutionException rx) { // 总线程数达到maximumPoolSize后,JDK原生线程池会执行默认拒绝策略 if (super.getQueue() instanceof TaskQueue) { final TaskQueue queue = (TaskQueue)super.getQueue(); try { // 继续尝试把任务放入任务队列 if (!queue.force(command, timeout, unit)) { submittedCount.decrementAndGet(); // 若缓冲队列还是满了,插入失败,执行拒绝策略。 throw new RejectedExecutionException("..."); } } } } }
Tomcat线程池的execute方法第一行:
submittedCount.incrementAndGet();
任务执行失败,抛异常时,将该计数器减一:
submittedCount.decrementAndGet();
Tomcat线程池使用 submittedCount 变量维护已提交到线程池,但未执行完的任务数量。
为何要维护这样一个变量呢?
Tomcat的任务队列TaskQueue扩展了JDK的LinkedBlockingQueue,Tomcat给了它一个capacity,传给父类LinkedBlockingQueue的构造器。
public class TaskQueue extends LinkedBlockingQueue<Runnable> { public TaskQueue(int capacity) { super(capacity); } ... }
capacity参数通过Tomcat的maxQueueSize参数设置,但maxQueueSize默认值Integer.MAX_VALUE:当前线程数达到核心线程数后,再来任务的话线程池会把任务添加到任务队列,并且总会成功,就永远无机会创建新线程了。
为解决该问题,TaskQueue重写了LinkedBlockingQueue#offer,在合适时机返回false,表示任务添加失败,这时线程池就会创建新线程。
什么叫合适时机?
public class TaskQueue extends LinkedBlockingQueue<Runnable> { ... @Override // 线程池调用任务队列的方法时,当前线程数 > core线程数 public boolean offer(Runnable o) { // 若线程数已达max,则不能创建新线程,只能放入任务队列 if (parent.getPoolSize() == parent.getMaximumPoolSize()) return super.offer(o); // 至此,表明 max线程数 > 当前线程数 > core线程数 // 说明可创建新线程: // 1. 若已提交任务数 < 当前线程数 // 表明还有空闲线程,无需创建新线程 if (parent.getSubmittedCount()<=(parent.getPoolSize())) return super.offer(o); // 2. 若已提交任务数 > 当前线程数 // 线程不够用了,返回false去创建新线程 if (parent.getPoolSize()<parent.getMaximumPoolSize()) return false; // 默认情况下总是把任务放入任务队列 return super.offer(o); } }
所以Tomcat维护 已提交任务数 是为了在任务队列长度无限时,让线程池还能有机会创建新线程。
到此这篇关于Tomcat是如何修正JDK原生线程池bug的的文章就介绍到这了,更多相关Tomcat JDK原生线程池内容请搜索开心学习网以前的文章或继续浏览下面的相关文章希望大家以后多多支持开心学习网!
- tomcat处理高并发请求(Tomcat打破双亲委派机制实现隔离Web应用的方法)
- idea社区版使用tomcat部署项目(基于IDEA部署Tomcat服务器的步骤详解)
- tomcatxml文件放在哪(Tomcat中修改server.xml和content.xml后自动还原问题解决)
- tomcat启动闪退拒绝访问(详解Tomcat双击startup.bat闪退的解决方法)
- tomcat作用及原理(详解Tomcat常用的过滤器)
- docker容器如何更改tomcat端口(Docker方式启动tomcat访问首页出现404错误)
- tomcat集群如何实现线程安全(如何通过LambdaProbe实现监控Tomcat)
- tomcat的startup闪退的原因(直接双击启动tomcat中的startup.bat闪退原因及解决方法)
- 如何认识服务器(关于Nginx、Apache、Tomcat三个WEB服务器的区别和认知)
- tomcat服务页面打开超慢(Web服务器Tomcat高级优化)
- tomcat不显示图片怎么办(解决Tomcat重新部署后图片等资源被自动删除的问题)
- idea配合tomcat进行web开发(IDEA2021 tomcat10 servlet 较新版本踩坑问题)
- nginxtomcat工作原理(Windwos下实现Nginx+Tomcat集群过程解析)
- springboot内置tomcat启动过程(Tomcat启动springboot项目war包报错:启动子级时出错的问题)
- tomcat在windows下内存配置(浅谈Tomcat内存配置的正确姿势)
- tomcat docker 性能(Docker Nginx容器和Tomcat容器实现负载均衡与动静分离操作)
- 没钱只能吃土(没钱要吃土了幽默短信发朋友圈)
- 今年考高会很难吗(今年高考会考试吗)
- 盘古开天地 他创造了世界,谁创造了盘古 盘古是伏羲吗(盘古开天地他创造了世界)
- 关于队徽 你了解这些么 二(关于队徽你了解这些么)
- 冬天来了手脚冰凉 真不是因为上辈子你是折翼的天使(冬天来了手脚冰凉)
- 0 1 岁婴儿最强作息指南,照着做养出天使宝宝(01岁婴儿最强作息指南)
热门推荐
- ASP.NET Web API中参数的传递
- docker容器关闭后怎么启动(docker批量启动关闭所有容器的操作)
- php数组详解(php数组和链表的区别总结)
- mysql如何定义外键(MySQL外键设置的方法实例)
- pyqt5 登录界面(pyqt5利用pyqtDesigner实现登录界面)
- vue怎么定义router的动态路由(vue.js Router中嵌套路由的实用示例)
- python函数调用传递数组数据(python调用c++传递数组的实例)
- tftp协议怎么用(tftp服务器有什么用)
- ASP.NET Web API中参数的传递
- dedecms在哪添加产品目录(dedecms的sql标签中传入参数的方法)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9