Tomcat修正JDK原生線程池bug的實現原理
為提高處理能力和并發度,Web容器一般會把處理請求的任務放到線程池,而JDK的原生線程池先天適合CPU密集型任務,于是Tomcat改造之。
Tomcat 線程池原理
其實ThreadPoolExecutor的參數主要有如下關鍵點:
限制線程個數
限制隊列長度
而Tomcat對這倆資源都需要限制,否則高并發下CPU、內存都有被耗盡可能。
因此Tomcat的線程池傳參:
// 定制的任務隊列taskqueue = new TaskQueue(maxQueueSize);// 定制的線程工廠TaskThreadFactory tf = new TaskThreadFactory(namePrefix, daemon, getThreadPriority());// 定制線程池executor = new ThreadPoolExecutor(getMinSpareThreads(), getMaxThreads(), maxIdleTime, TimeUnit.MILLISECONDS, taskqueue, tf);
Tomcat對線程數也有限制,設置:
- 核心線程數(minSpareThreads)
- 最大線程池數(maxThreads)
Tomcat線程池還有自己的特色任務處理流程,通過重寫execute方法實現了自己的特色任務處理邏輯:
- 前corePoolSize個任務時,來一個任務就創建一個新線程
- 再有任務,就把任務放入任務隊列,讓所有線程去搶。若隊列滿,就創建臨時線程
- 總線程數達到maximumPoolSize,則繼續嘗試把任務放入任務隊列
- 若緩沖隊列也滿了,插入失敗,執行拒絕策略
和 JDK 線程池的區別就在step3,Tomcat在線程總數達到最大數時,不是立即執行拒絕策略,而是再嘗試向任務隊列添加任務,添加失敗后再執行拒絕策略。
具體又是如何實現的呢?
public void execute(Runnable command, long timeout, TimeUnit unit) { submittedCount.incrementAndGet(); try {// 調用JDK原生線程池的execute執行任務super.execute(command); } catch (RejectedExecutionException rx) { // 總線程數達到maximumPoolSize后,JDK原生線程池會執行默認拒絕策略if (super.getQueue() instanceof TaskQueue) { final TaskQueue queue = (TaskQueue)super.getQueue(); try {// 繼續嘗試把任務放入任務隊列if (!queue.force(command, timeout, unit)) { submittedCount.decrementAndGet(); // 若緩沖隊列還是滿了,插入失敗,執行拒絕策略。 throw new RejectedExecutionException("...");} } } }}
定制任務隊列
Tomcat線程池的execute方法第一行:
submittedCount.incrementAndGet();
任務執行失敗,拋異常時,將該計數器減一:
submittedCount.decrementAndGet();
Tomcat線程池使用 submittedCount 變量維護已提交到線程池,但未執行完的任務數量。
為何要維護這樣一個變量呢?
Tomcat的任務隊列TaskQueue擴展了JDK的LinkedBlockingQueue,Tomcat給了它一個capacity,傳給父類LinkedBlockingQueue的構造器。
public class TaskQueue extends LinkedBlockingQueue<Runnable> { public TaskQueue(int capacity) { super(capacity); } ...}
capacity參數通過Tomcat的maxQueueSize參數設置,但maxQueueSize默認值Integer.MAX_VALUE:當前線程數達到核心線程數后,再來任務的話線程池會把任務添加到任務隊列,并且總會成功,就永遠無機會創建新線程了。
為解決該問題,TaskQueue重寫了LinkedBlockingQueue#offer,在合適時機返回false,表示任務添加失敗,這時線程池就會創建新線程。
什么叫合適時機?
public class TaskQueue extends LinkedBlockingQueue<Runnable> { ... @Override // 線程池調用任務隊列的方法時,當前線程數 > core線程數 public boolean offer(Runnable o) { // 若線程數已達max,則不能創建新線程,只能放入任務隊列 if (parent.getPoolSize() == parent.getMaximumPoolSize()) return super.offer(o); // 至此,表明 max線程數 > 當前線程數 > core線程數 // 說明可創建新線程: // 1. 若已提交任務數 < 當前線程數 // 表明還有空閑線程,無需創建新線程 if (parent.getSubmittedCount()<=(parent.getPoolSize())) return super.offer(o); // 2. 若已提交任務數 > 當前線程數 // 線程不夠用了,返回false去創建新線程 if (parent.getPoolSize()<parent.getMaximumPoolSize()) return false; // 默認情況下總是把任務放入任務隊列 return super.offer(o); } }
所以Tomcat維護 已提交任務數 是為了在任務隊列長度無限時,讓線程池還能有機會創建新線程。
到此這篇關于Tomcat是如何修正JDK原生線程池bug的的文章就介紹到這了,更多相關Tomcat JDK原生線程池內容請搜索以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持!
相關文章:
