摘要：線程池的作用降低資源消耗。通過重復(fù)利用已創(chuàng)建的線程降低線程創(chuàng)建和銷毀造成的資源浪費(fèi)。而高位的部分，位表示線程池的狀態(tài)。當(dāng)線程池中的線程數(shù)達(dá)到后，就會(huì)把到達(dá)的任務(wù)放到中去線程池的最大長(zhǎng)度。默認(rèn)情況下，只有當(dāng)線程池中的線程數(shù)大于時(shí)，才起作用。

降低資源消耗。通過重復(fù)利用已創(chuàng)建的線程降低線程創(chuàng)建和銷毀造成的資源浪費(fèi)。

提高響應(yīng)速度。當(dāng)任務(wù)到達(dá)時(shí)，不需要等到線程創(chuàng)建就能立即執(zhí)行。

方便管理線程。線程是稀缺資源，如果無(wú)限制地創(chuàng)建，不僅會(huì)消耗系統(tǒng)資源，還會(huì)降低系統(tǒng)的穩(wěn)定性，使用線程池可以對(duì)線程進(jìn)行統(tǒng)一的分配，優(yōu)化及監(jiān)控。

設(shè)置線程池的大小可以從以下幾個(gè)方面分析入手：

系統(tǒng)中有多少個(gè)cpu？

多大的內(nèi)存？

任務(wù)是計(jì)算密集型、I/O密集集還是二者皆可？

是否需要像JDBC連接這樣的稀缺資源？

對(duì)于計(jì)算密集型的任務(wù)，在擁有N個(gè)cpu的機(jī)器上，通常將線程池大小設(shè)置為N+1時(shí)，能夠?qū)崿F(xiàn)最優(yōu)的利用率。 對(duì)于包含I/O操作或者其他阻塞操作的任務(wù)，由于線程并不會(huì)一直執(zhí)行，因此線程池的規(guī)模應(yīng)該更大。
可通過如下公式進(jìn)行估計(jì)：
$$N_{threads} = N_{cpu}*U_{cpu}*(1+frac{W}{C})$$
其中：
$$ U_{cpu} = target CPU utilization, 0 le U_{cpu} le 1$$
$$ frac{W}{C} = ration of wait time to compute time$$
可以通過Rumtime來獲得CUP的數(shù)目：

int N_CPUS = Runtime.getRuntime().availableProcessor();

當(dāng)然，CPU周期并不是唯一影響線程池大小的資源，還包括內(nèi)存、文件句柄、套接字句柄和數(shù)據(jù)庫(kù)連接等。計(jì)算方法：計(jì)算每個(gè)任務(wù)對(duì)該資源的需求量，然后用該資源的可用總量除以每個(gè)任務(wù)的需要量，所得結(jié)果就是線程池的大小上限。

Java的線程池針對(duì)不同應(yīng)用的場(chǎng)景，主要有固定長(zhǎng)度類型、可變長(zhǎng)度類型以及定時(shí)執(zhí)行等幾種。針對(duì)這幾種類型的創(chuàng)建，java中有一個(gè)專門的Executors類提供了一系列的方法封裝了具體的實(shí)現(xiàn)。這些功能和用途不一樣的線程池主要依賴ThreadPoolExecutor, ScheduledThreadPoolExecutor等幾個(gè)類。如前面文章討論所說，這些類和相關(guān)類的主要結(jié)構(gòu)如下：

ThreadPoolExecutor是實(shí)現(xiàn)線程池最核心的類之一。在分析ThreadPoolExecutor的實(shí)現(xiàn)原理之前，讓來看看實(shí)現(xiàn)線程池需要考慮的點(diǎn)：
從線程池本身的定義來看，它是將一組事先創(chuàng)建好的線程放在一個(gè)資源池里，當(dāng)需要的時(shí)候就將該線程分配給具體的任務(wù)來執(zhí)行。那么，這個(gè)池子的大小如何確定？線程池肯定要面臨多個(gè)線程資源訪問的情況，是不是本身的結(jié)構(gòu)要保證線程安全呢？如果線程池創(chuàng)建好之后后續(xù)有若干任務(wù)使用了線程資源，當(dāng)池里面的資源使用完之后要如何安排？是給線程擴(kuò)容，創(chuàng)建更多的線程資源，還是增加一個(gè)隊(duì)列，讓一些任務(wù)先在里面排隊(duì)呢？在一些極端的情況下，比如任務(wù)數(shù)量實(shí)在太多線程池處理不過來，對(duì)于這些任務(wù)怎么處理呢？線程執(zhí)行的時(shí)候會(huì)碰到異常或都錯(cuò)誤的情況，這些異常要如何處理？如何保證這些異常的處理不會(huì)導(dǎo)致線程池其他任務(wù)的正常運(yùn)行不出錯(cuò)呢？

總結(jié)一下，這些問題可以歸納為如下幾點(diǎn)：

線程池的結(jié)構(gòu)；

線程池的任務(wù)分配策略；

線程池的異常和錯(cuò)誤處理機(jī)制；

下面結(jié)合ThreadPoolExecutor的實(shí)現(xiàn)源碼來詳細(xì)分析一下。

    private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));
    private static final int COUNT_BITS = Integer.SIZE - 3;
    private static final int CAPACITY   = (1 << COUNT_BITS) - 1;

    // runState is stored in the high-order bits
    private static final int RUNNING    = -1 << COUNT_BITS;
    private static final int SHUTDOWN   =  0 << COUNT_BITS;
    private static final int STOP       =  1 << COUNT_BITS;
    private static final int TIDYING    =  2 << COUNT_BITS;
    private static final int TERMINATED =  3 << COUNT_BITS;

    // Packing and unpacking ctl
    private static int runStateOf(int c)     { return c & ~CAPACITY; }
    private static int workerCountOf(int c)  { return c & CAPACITY; }
    private static int ctlOf(int rs, int wc) { return rs | wc; }

ctl是線程池的主要控制狀態(tài)，它是一個(gè)AtomicInteger的數(shù)值，它表示了兩部分內(nèi)容：

workerCount, 表示有效線程數(shù)；

runState, 表示線程池狀態(tài)，是否運(yùn)行，停止等。

ctl是用一個(gè)integer(32)來包含線程池狀態(tài)和數(shù)量的表示，高三位為線程池的狀態(tài)，后(2^29)-1為線程數(shù)限制。 這就是為什么前面用一個(gè)Integer.SIZE-3來作為位數(shù)。這樣這個(gè)整數(shù)的0-28位表示的就是線程的數(shù)目。而高位的部分，29-31位表示線程池的狀態(tài)。這里定義的主要有5種狀態(tài)，分別對(duì)應(yīng)值是從-1到3. 他們對(duì)應(yīng)著線程的running, shutdown, stop, tidying, terminated這幾個(gè)狀態(tài)。

除了以上部分外，線程池里還有如下成員：

    private final BlockingQueue workQueue;
    
    private final ReentrantLock mainLock = new ReentrantLock();

    /**
     * Set containing all worker threads in pool. Accessed only when holding mainLock.
     */
    private final HashSet workers = new HashSet();

    /**
     * Wait condition to support awaitTermination
     */
    private final Condition termination = mainLock.newCondition();

    /**
     * Tracks largest attained pool size. Accessed only under
     * mainLock.
     */
    private int largestPoolSize;

    /**
     * Counter for completed tasks. Updated only on termination of
     * worker threads. Accessed only under mainLock.
     */
    private long completedTaskCount;

    private volatile ThreadFactory threadFactory;

    /**
     * Handler called when saturated or shutdown in execute.
     */
    private volatile RejectedExecutionHandler handler;

    /**
     * Timeout in nanoseconds for idle threads waiting for work.
     * Threads use this timeout when there are more than corePoolSize
     * present or if allowCoreThreadTimeOut. Otherwise they wait
     * forever for new work.
     */
    private volatile long keepAliveTime;

    /**
     * If false (default), core threads stay alive even when idle.
     * If true, core threads use keepAliveTime to time out waiting
     * for work.
     */
    private volatile boolean allowCoreThreadTimeOut;

    /**
     * Core pool size is the minimum number of workers to keep alive
     * (and not allow to time out etc) unless allowCoreThreadTimeOut
     * is set, in which case the minimum is zero.
     */
    private volatile int corePoolSize;

    /**
     * Maximum pool size. Note that the actual maximum is internally
     * bounded by CAPACITY.
     */
    private volatile int maximumPoolSize;

workerQueue: 一個(gè)BlockingQueue隊(duì)列，本身的結(jié)構(gòu)可以保證訪問的線程安全。相當(dāng)于一個(gè)排隊(duì)等待隊(duì)列。當(dāng)線程池的線程數(shù)達(dá)到corePoolSize的時(shí)候，一些需要等待執(zhí)行的線程就放到這個(gè)隊(duì)列里等待。
worker: 一個(gè)HashSet 集合。線程池里所有可以立即執(zhí)行的線程都放在這個(gè)集合里。
mainLock: 一個(gè)訪問workers所需要使用的鎖。從前面的workQueue，workers這兩個(gè)結(jié)構(gòu)可以看出，如果要往線程池里面增加執(zhí)行任務(wù)或者執(zhí)行完畢一個(gè)任務(wù)，都要訪問這兩個(gè)結(jié)構(gòu)。所以大多數(shù)情況下為了保證線程安全，就需要使用mainLock這個(gè)鎖。
corePoolSize：處于活躍狀態(tài)的最少worker數(shù)目。每個(gè)worker會(huì)創(chuàng)建一個(gè)新的線程去執(zhí)行任務(wù)。在創(chuàng)建了線程池后，默認(rèn)情況下，線程池中并沒有任何線程，而是等待有任務(wù)來才創(chuàng)建線程去執(zhí)行，除非調(diào)用了prestartAllCoreThreads()或prestartCoreThread()方法。當(dāng)線程池中的線程數(shù)達(dá)到corePoolSize后，就會(huì)把到達(dá)的任務(wù)放到workerQueue中去；
maximumPoolSize: 線程池的最大長(zhǎng)度。當(dāng)線程池里面的線程數(shù)達(dá)到這個(gè)數(shù)字時(shí)就不能再往里面加了，此時(shí)會(huì)根據(jù)設(shè)置的handler參數(shù)，即拒絕處理任務(wù)策略來處理新到來的任務(wù)。
keepAliveTime: 表示線程沒有任務(wù)執(zhí)行時(shí)最多保持多久時(shí)間會(huì)終止。默認(rèn)情況下，只有當(dāng)線程池中的線程數(shù)大于corePoolSize時(shí)，keepAliveTime才起作用。當(dāng)線程池中的線程數(shù)大于corePoolSize時(shí)，如果一個(gè)線程空閑的時(shí)間達(dá)到keepAliveTime，則會(huì)終止，直到線程池中的線程數(shù)不超過corePoolSize。但是如果調(diào)用了allowCoreThreadTimeOut(boolean)方法，在線程池中的線程數(shù)不大于corePoolSize時(shí)，keepAliveTime參數(shù)也會(huì)起作用，直到線程數(shù)為0。
threadFactory: 線程工廠，主要用來創(chuàng)建線程；
largestPoolSize: 用來記錄線程池中曾經(jīng)有過的最大線程數(shù)，跟線程池的容易沒有任何關(guān)系。
handler: 表示當(dāng)拒絕處理任務(wù)時(shí)的策略，有以四種取值：

ThreadPoolExecutor.AbortPolicy:丟棄任務(wù)并拋出RejectedExecutionException異常。 
ThreadPoolExecutor.DiscardPolicy：也是丟棄任務(wù)，但是不拋出異常。 
ThreadPoolExecutor.DiscardOldestPolicy：丟棄隊(duì)列最前面的任務(wù)，然后重新嘗試執(zhí)行任務(wù)（重復(fù)此過程）
ThreadPoolExecutor.CallerRunsPolicy：由調(diào)用線程處理該任務(wù) 

    private final class Worker
        extends AbstractQueuedSynchronizer
        implements Runnable
    {
        /**
         * This class will never be serialized, but we provide a
         * serialVersionUID to suppress a javac warning.
         */
        private static final long serialVersionUID = 6138294804551838833L;

        /** Thread this worker is running in.  Null if factory fails. */
        final Thread thread;
        /** Initial task to run.  Possibly null. */
        Runnable firstTask;
        /** Per-thread task counter */
        volatile long completedTasks;

        /**
         * Creates with given first task and thread from ThreadFactory.
         * @param firstTask the first task (null if none)
         */
        Worker(Runnable firstTask) {
            setState(-1); // inhibit interrupts until runWorker
            this.firstTask = firstTask;
            this.thread = getThreadFactory().newThread(this);
        }

        /** Delegates main run loop to outer runWorker  */
        public void run() {
            runWorker(this);
        }

        // Lock methods
        //
        // The value 0 represents the unlocked state.
        // The value 1 represents the locked state.

        protected boolean isHeldExclusively() {
            return getState() != 0;
        }

        protected boolean tryAcquire(int unused) {
            if (compareAndSetState(0, 1)) {
                setExclusiveOwnerThread(Thread.currentThread());
                return true;
            }
            return false;
        }

        protected boolean tryRelease(int unused) {
            setExclusiveOwnerThread(null);
            setState(0);
            return true;
        }

        public void lock()        { acquire(1); }
        public boolean tryLock()  { return tryAcquire(1); }
        public void unlock()      { release(1); }
        public boolean isLocked() { return isHeldExclusively(); }

        void interruptIfStarted() {
            Thread t;
            if (getState() >= 0 && (t = thread) != null && !t.isInterrupted()) {
                try {
                    t.interrupt();
                } catch (SecurityException ignore) {
                }
            }
        }
    }