【并发】线程池

1、方法概览

2、Executor框架简介

在Java 5以后，并发编程引入了一堆新的启动、调度和管理线程的API。Executor框架即是Java 5中引入的，其内部使用了线程池机制，它在java.util.cocurrent 包下，经过该框架来控制线程的启动、执行和关闭，能够简化并发编程的操做。所以，在Java 5以后，经过Executor来启动线程比使用Thread的start方法更好，除了更易管理，效率更好（用线程池实现，节约开销）外，还有关键的一点：有助于避免this逃逸问题——若是咱们在构造器中启动一个线程，由于另外一个任务可能会在构造器结束以前开始执行，此时可能会访问到初始化了一半的对象用Executor在构造器中。

    Executor框架包括：线程池，Executor，Executors，ExecutorService，CompletionService，Future，Callable等。

    Executor接口中之定义了一个方法execute（Runnable command），该方法接收一个Runable实例，它用来执行一个任务，任务即一个实现了Runnable接口的类。ExecutorService接口继承自Executor接口，它提供了更丰富的实现多线程的方法，好比，ExecutorService提供了关闭本身的方法，以及可为跟踪一个或多个异步任务执行情况而生成 Future 的方法。 能够调用ExecutorService的shutdown（）方法来平滑地关闭 ExecutorService，调用该方法后，将致使ExecutorService中止接受任何新的任务且等待已经提交的任务执行完成(已经提交的任务会分两类：一类是已经在执行的，另外一类是尚未开始执行的)，当全部已经提交的任务执行完毕后将会关闭ExecutorService。所以咱们通常用该接口来实现和管理多线程。

    ExecutorService的生命周期包括三种状态：运行、关闭、终止。建立后便进入运行状态，当调用了shutdown（）方法时，便进入关闭状态，此时意味着ExecutorService再也不接受新的任务，但它还在执行已经提交了的任务，当素有已经提交了的任务执行完后，便到达终止状态。若是不调用shutdown（）方法，ExecutorService会一直处在运行状态，不断接收新的任务，执行新的任务，服务器端通常不须要关闭它，保持一直运行便可。

3、框架接口

    Executors提供了一系列工厂方法用于创先线程池，返回的线程池都实现了ExecutorService接口。   

    public static ExecutorService newFixedThreadPool(int nThreads)

    建立固定数目线程的线程池。

    public static ExecutorService newCachedThreadPool()

    建立一个可缓存的线程池，调用execute将重用之前构造的线程（若是线程可用）。若是现有线程没有可用的，则建立一个新线   程并添加到池中。终止并从缓存中移除那些已有 60 秒钟未被使用的线程。

    public static ExecutorService newSingleThreadExecutor()

    建立一个单线程化的Executor。

    public static ScheduledExecutorService newScheduledThreadPool(int corePoolSize)

    建立一个支持定时及周期性的任务执行的线程池，多数状况下可用来替代Timer类。

    这四种方法都是用的Executors中的ThreadFactory创建的线程，下面就以上四个方法作个比较

newCachedThreadPool()                                                                                                                                         

-缓存型池子，先查看池中有没有之前创建的线程，若是有，就 reuse.若是没有，就建一个新的线程加入池中

-缓存型池子一般用于执行一些生存期很短的异步型任务

所以在一些面向链接的daemon型SERVER中用得很少。但对于生存期短的异步任务，它是Executor的首选。

-能reuse的线程，必须是timeout IDLE内的池中线程，缺省     timeout是60s,超过这个IDLE时长，线程实例将被终止及移出池。

  注意，放入CachedThreadPool的线程没必要担忧其结束，超过TIMEOUT不活动，其会自动被终止。

newFixedThreadPool(int)                                                      

-newFixedThreadPool与cacheThreadPool差很少，也是能reuse就用，但不能随时建新的线程

-其独特之处:任意时间点，最多只能有固定数目的活动线程存在，此时若是有新的线程要创建，只能放在另外的队列中等待，直到当前的线程中某个线程终止直接被移出池子

-和cacheThreadPool不一样，FixedThreadPool没有IDLE机制（可能也有，但既然文档没提，确定很是长，相似依赖上层的TCP或UDP IDLE机制之类的），因此FixedThreadPool多数针对一些很稳定很固定的正规并发线程，多用于服务器

-从方法的源代码看，cache池和fixed 池调用的是同一个底层 池，只不过参数不一样:

fixed池线程数固定，而且是0秒IDLE（无IDLE）    

cache池线程数支持0-Integer.MAX_VALUE(显然彻底没考虑主机的资源承受能力），60秒IDLE 

newScheduledThreadPool(int)

-调度型线程池

-这个池子里的线程能够按schedule依次delay执行，或周期执行

SingleThreadExecutor()

-单例线程，任意时间池中只能有一个线程

-用的是和cache池和fixed池相同的底层池，但线程数目是1-1,0秒IDLE（无IDLE）

    通常来讲，CachedTheadPool在程序执行过程当中一般会建立与所需数量相同的线程，而后在它回收旧线程时中止建立新线程，所以它是合理的Executor的首选，只有当这种方式会引起问题时（好比须要大量长时间面向链接的线程时，咱们的产品中出现过此类问题），才须要考虑用FixedThreadPool。（该段话摘自《Thinking in Java》第四版）

newCachedThreadPool()源码：

newFixedThreadPool(int) 源码：

newScheduledThreadPool(int) 源码：

4、Executor执行Callable任务

    在Java 5以后，任务分两类：一类是实现了Runnable接口的类，一类是实现了Callable接口的类。二者均可以被ExecutorService执行，可是Runnable任务没有返回值，而Callable任务有返回值。而且Callable的call()方法只能经过ExecutorService的submit(Callable<T> task) 方法来执行，而且返回一个 <T>Future<T>，是表示任务等待完成的 Future。

    Callable接口相似于Runnable，二者都是为那些其实例可能被另外一个线程执行的类设计的。可是 Runnable 不会返回结果，而且没法抛出通过检查的异常而Callable又返回结果，并且当获取返回结果时可能会抛出异常。Callable中的call()方法相似Runnable的run()方法，区别一样是有返回值，后者没有。

    当将一个Callable的对象传递给ExecutorService的submit方法，则该call方法自动在一个线程上执行，而且会返回执行结果Future对象。一样，将Runnable的对象传递给ExecutorService的submit方法，则该run方法自动在一个线程上执行，而且会返回执行结果Future对象，可是在该Future对象上调用get方法，将返回null。

5、底层ThreadPoolExecutor介绍

简要说明下用到的ThreadPoolExecuror类的构造方法中各个参数的含义。   

public ThreadPoolExecutor (int corePoolSize, int maximumPoolSize, long         keepAliveTime, TimeUnit unit,BlockingQueue<Runnable> workQueue)

corePoolSize：线程池中所保存的核心线程数，包括空闲线程。

maximumPoolSize：池中容许的最大线程数。

keepAliveTime：线程池中的空闲线程所能持续的最长时间。

unit：持续时间的单位。

workQueue：任务执行前保存任务的队列，仅保存由execute方法提交的Runnable任务。

根据ThreadPoolExecutor源码前面大段的注释，咱们能够看出，当试图经过excute方法讲一个Runnable任务添加到线程池中时，按照以下顺序来处理：

    一、若是线程池中的线程数量少于corePoolSize，即便线程池中有空闲线程，也会建立一个新的线程来执行新添加的任务；

    二、若是线程池中的线程数量大于等于corePoolSize，但缓冲队列workQueue未满，则将新添加的任务放到workQueue中，按照FIFO的原则依次等待执行（线程池中有线程空闲出来后依次将缓冲队列中的任务交付给空闲的线程执行）；

    三、若是线程池中的线程数量大于等于corePoolSize，且缓冲队列workQueue已满，但线程池中的线程数量小于maximumPoolSize，则会建立新的线程来处理被添加的任务；

    四、若是线程池中的线程数量等于了maximumPoolSize，有4种才处理方式（该构造方法调用了含有5个参数的构造方法，并将最后一个构造方法为RejectedExecutionHandler类型，它在处理线程溢出时有4种方式，这里再也不细说，要了解的，本身能够阅读下源码）。

    总结起来，也便是说，当有新的任务要处理时，先看线程池中的线程数量是否大于corePoolSize，再看缓冲队列workQueue是否满，最后看线程池中的线程数量是否大于maximumPoolSize。

    另外，当线程池中的线程数量大于corePoolSize时，若是里面有线程的空闲时间超过了keepAliveTime，就将其移除线程池，这样，能够动态地调整线程池中线程的数量。

  咱们大体来看下Executors的源码，newCachedThreadPool的不带RejectedExecutionHandler参数（即第五个参数，线程数量超过maximumPoolSize时，指定处理方式）的构造方法以下：

1. public static ExecutorService newCachedThreadPool() {
2. return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
3. 60L, TimeUnit.SECONDS,
4. new SynchronousQueue<Runnable>());
5. }

    它将corePoolSize设定为0，而将maximumPoolSize设定为了Integer的最大值，线程空闲超过60秒，将会从线程池中移除。因为核心线程数为0，所以每次添加任务，都会先从线程池中找空闲线程，若是没有就会建立一个线程（SynchronousQueue<Runnalbe>决定的，后面会说）来执行新的任务，并将该线程加入到线程池中，而最大容许的线程数为Integer的最大值，所以这个线程池理论上能够不断扩大。

   再来看newFixedThreadPool的不带RejectedExecutionHandler参数的构造方法，以下：

1. public static ExecutorService newFixedThreadPool(int nThreads) {
2. return new ThreadPoolExecutor(nThreads, nThreads,
3. 0L, TimeUnit.MILLISECONDS,
4. new LinkedBlockingQueue<Runnable>());
5. }

    它将corePoolSize和maximumPoolSize都设定为了nThreads，这样便实现了线程池的大小的固定，不会动态地扩大，另外，keepAliveTime设定为了0，也就是说线程只要空闲下来，就会被移除线程池，关于LinkedBlockingQueue下面会说。

6、排队策略

    下面说说几种排队的策略：

    一、直接提交。缓冲队列采用 SynchronousQueue，它将任务直接交给线程处理而不保持它们。若是不存在可用于当即运行任务的线程（即线程池中的线程都在工做），则试图把任务加入缓冲队列将会失败，所以会构造一个新的线程来处理新添加的任务，并将其加入到线程池中。直接提交一般要求无界 maximumPoolSizes（Integer.MAX_VALUE） 以免拒绝新提交的任务。newCachedThreadPool采用的即是这种策略。

    二、无界队列。使用无界队列（典型的即是采用预约义容量的 LinkedBlockingQueue，理论上是该缓冲队列能够对无限多的任务排队）将致使在全部 corePoolSize 线程都工做的状况下将新任务加入到缓冲队列中。这样，建立的线程就不会超过 corePoolSize，也所以，maximumPoolSize 的值也就无效了。当每一个任务彻底独立于其余任务，即任务执行互不影响时，适合于使用无界队列。newFixedThreadPool采用的即是这种策略。

    三、有界队列。当使用有限的 maximumPoolSizes 时，有界队列（通常缓冲队列使用ArrayBlockingQueue，并制定队列的最大长度）有助于防止资源耗尽，可是可能较难调整和控制，队列大小和最大池大小须要相互折衷，须要设定合理的参数。

7、JAVA 8加强的ForkJoinPool （待补充）