在前面的文章中,咱们使用线程的时候就去建立一个线程,这样实现起来很是简便,可是就会有一个问题:html
若是并发的线程数量不少,而且每一个线程都是执行一个时间很短的任务就结束了,这样频繁建立线程就会大大下降系统的效率,由于频繁建立线程和销毁线程须要时间。java
那么有没有一种办法使得线程能够复用,就是执行完一个任务,并不被销毁,而是能够继续执行其余的任务?缓存
在Java中能够经过线程池来达到这样的效果。服务器
1 线程池作什么网络
网络请求一般有两种形式:多线程
第一种,请求不是很频繁,并且每次链接后会保持至关一段时间来读数据或者写数据,最后断开,如文件下载,网络流媒体等。架构
另外一种形式是请求频繁,可是链接上之后读/写不多量的数据就断开链接。考虑到服务的并发问题,若是每一个请求来到之后服务都为它启动一个线程,那么这对服务的资源可能会形成很大的浪费,特别是第二种状况。并发
由于一般状况下,建立线程是须要必定的耗时的,设这个时间为T1,而链接后读/写服务的时间为T2,当T1>>T2时,咱们就应当考虑一种策略或者机制来控制,使得服务对于第二种请求方式也能在较低的功耗下完成。异步
一般,咱们能够用线程池来解决这个问题,首先,在服务启动的时候,咱们能够启动好几个线程,并用一个容器(如线程池)来管理这些线程。ide
当请求到来时,能够从池中取一个线程出来,执行任务(一般是对请求的响应),当任务结束后,再将这个线程放入池中备用;
若是请求到来而池中没有空闲的线程,该请求须要排队等候。最后,当服务关闭时销毁该池便可。
多线程技术主要解决处理器单元内多个线程执行的问题,它能够显著减小处理器单元的闲置时间,增长处理器单元的吞吐能力。
假设一个服务器完成一项任务所需时间为:T1 建立线程时间,T2 在线程中执行任务的时间,T3 销毁线程时间。
若是:T1 + T3 远大于 T2,则能够采用线程池,以提升服务器性
线程池技术正是关注如何缩短或调整T1,T3时间的技术,从而提升服务器程序性能的
它把T1,T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段,这样在服务器程序处理客户请求时,不会有T1,T3的开销了。
线程池不只调整T1,T3产生的时间段,并且它还显著减小了建立线程的数目,看一个例子:
假设一个服务器一天要处理50000个请求,而且每一个请求须要一个单独的线程完成。在线程池中,线程数通常是固定的,因此产生线程总数不会超过线程池中线程的数目,
而若是服务器不利用线程池来处理这些请求则线程总数为50000。通常线程池大小是远小于50000。
因此利用线程池的服务器程序不会为了建立50000而在处理请求时浪费时间,从而提升效率。
合理利用线程池可以带来三个好处:
第一:下降资源消耗。经过重复利用已建立的线程下降线程建立和销毁形成的消耗。
第二:提升响应速度。当任务到达时,任务能够不须要等到线程建立就能当即执行。
第三:提升线程的可管理性。线程是稀缺资源,若是无限制的建立,不只会消耗系统资源,还会下降系统的稳定性,使用线程池能够进行统一的分配,调优和监控。
可是要作到合理的利用线程池,必须对其原理了如指掌。
2 线程池的继承架构
程序启动一个新线程成本是比较高的,由于它涉及到要与操做系统进行交互。而使用线程池能够很好的提升性能,尤为是当程序中要建立大量生存期很短的线程时,更应该考虑使用线程池。
线程池里的每个线程代码结束后,并不会死亡,而是再次回到线程池中成为空闲状态,等待下一个对象来使用。
在JDK5以前,咱们必须手动实现本身的线程池,从JDK5开始,Java内置支持线程池
Java里面线程池的顶级接口是Executor,可是严格意义上讲Executor并非一个线程池,而只是一个执行线程的工具。
真正的线程池接口是ExecutorService。下面这张图完整描述了线程池的类体系结构。
Executor是一个顶层接口,在它里面只声明了一个方法execute(Runnable),返回值为void,参数为Runnable类型,从字面意思能够理解,就是用来执行传进去的任务的;
而后ExecutorService接口继承了Executor接口,并声明了一些方法:submit、invokeAll、invokeAny以及shutDown等;
抽象类AbstractExecutorService实现了ExecutorService接口,基本实现了ExecutorService中声明的全部方法;
而后ThreadPoolExecutor继承了类AbstractExecutorService。
标记一下比较重要的类:
ExecutorService: |
真正的线程池接口。 |
ScheduledExecutorService |
能和Timer/TimerTask相似,解决那些须要任务重复执行的问题。 |
ThreadPoolExecutor |
ExecutorService的默认实现。 |
ScheduledThreadPoolExecutor |
继承ThreadPoolExecutor的ScheduledExecutorService接口实现,周期性任务调度的类实现。 |
要配置一个线程池是比较复杂的,尤为是对于线程池的原理不是很清楚的状况下,颇有可能配置的线程池不是较优的,
所以在Executors类里面提供了一些静态工厂,生成一些经常使用的线程池。
newSingleThreadExecutor:建立一个单线程的线程池。这个线程池只有一个线程在工做,也就是至关于单线程串行执行全部任务。
若是这个惟一的线程由于异常结束,那么会有一个新的线程来替代它。此线程池保证全部任务的执行顺序按照任务的提交顺序执行。
newFixedThreadPool:建立固定大小的线程池。每次提交一个任务就建立一个线程,直到线程达到线程池的最大大小。
线程池的大小一旦达到最大值就会保持不变,若是某个线程由于执行异常而结束,那么线程池会补充一个新线程。
newCachedThreadPool:建立一个可缓存的线程池。若是线程池的大小超过了处理任务所须要的线程,那么就会回收部分空闲(60秒不执行任务)的线程,
当任务数增长时,此线程池又能够智能的添加新线程来处理任务。
此线程池不会对线程池大小作限制,线程池大小彻底依赖于操做系统(或者说JVM)可以建立的最大线程大小。
newScheduledThreadPool:建立一个大小无限的线程池。此线程池支持定时以及周期性执行任务的需求。
newSingleThreadExecutor:建立一个单线程的线程池。此线程池支持定时以及周期性执行任务的需求。
这些方法的返回值是ExecutorService对象,该对象表示一个线程池,能够执行Runnable对象或者Callable对象表明的线程。
它提供了以下方法来提交一个任务:
Future<?> submit(Runnable task)
<T> Future<T> submit(Callable<T> task)
Callable 与 Runable的相关内容参见:
03 建立线程的第3式 02 如何建立线程 线程并发与synchornized 3 使用线程池步骤及案例线程池的好处:线程池里的每个线程代码结束后,并不会死亡,而是再次回到线程池中成为空闲状态,等待下一个对象来使用。
如何实现线程的代码呢?
A:建立一个线程池对象,控制要建立几个线程对象。
public static ExecutorService newFixedThreadPool(int nThreads)
B:这种线程池的线程能够执行:
能够执行Runnable对象或者Callable对象表明的线程
作一个类实现Runnable接口。
C:调用以下方法便可
Future<?> submit(Runnable task)
<T> Future<T> submit(Callable<T> task)
D:我就要结束,能够吗? 能够。
1 package com.jt.thread.demo05; 2 3 import java.util.concurrent.ExecutorService; 4 import java.util.concurrent.Executors; 5 6 class MyRunnable implements Runnable { 7 @Override 8 public void run() { 9 for (int x = 0; x < 100; x++) { 10 System.out.println(Thread.currentThread().getName() + ":" + x); 11 } 12 } 13 } 14 15 public class ExecutorServiceDemo { 16 public static void main(String[] args) { 17 // 建立一个线程池对象,控制要建立几个线程对象。 18 // public static ExecutorService newFixedThreadPool(int nThreads) 19 ExecutorService pool = Executors.newFixedThreadPool(2); 20 21 // 能够执行Runnable对象或者Callable对象表明的线程 22 pool.submit(new MyRunnable()); 23 pool.submit(new MyRunnable()); 24 25 //结束线程池 26 pool.shutdown(); 27 } 28 }
运行结果:
pool-1-thread-1:0
pool-1-thread-1:1
pool-1-thread-1:2
pool-1-thread-2:0
pool-1-thread-2:1
pool-1-thread-2:2
pool-1-thread-2:3
。。。
是固定大小的线程池 有结果可见 咱们指定2 在运行时就只有2个线程工做
若其中有一个线程异常 会有新的线程替代他
void shutdown() 启动一次顺序关闭,等待执行之前提交的任务完成,但不接受新任务。
List<Runnable> shutdownNow() 试图当即中止全部正在执行的活动任务,暂停处理正在等待的任务,并返回等待执行的任务列表。
3.1 submit是ExecutorService中的方法 用以提交一个任务
他的返回值是future对象 能够获取执行结果
<T> Future<T> submit(Callable<T> task) 提交一个返回值的任务用于执行,返回一个表示任务的未决结果的 Future。
Future<?> submit(Runnable task) 提交一个 Runnable 任务用于执行,并返回一个表示该任务的 Future。
<T> Future<T> submit(Runnable task, T result) 提交一个 Runnable 任务用于执行,并返回一个表示该任务的 Future。
3.2 execute是Executor接口的方法
他虽然也能够像submit那样让一个任务执行 但并不能有返回值
void execute(Runnable command)
在将来某个时间执行给定的命令。该命令可能在新的线程、已入池的线程或者正调用的线程中执行,这由 Executor 实现决定。
Future 表示异步计算的结果。
它提供了检查计算是否完成的方法,以等待计算的完成,并获取计算的结果。
计算完成后只能使用 get 方法来获取结果,若有必要,计算完成前能够阻塞此方法。
取消则由 cancel 方法来执行。还提供了其余方法,以肯定任务是正常完成仍是被取消了。一旦计算完成,就不能再取消计算。
若是为了可取消性而使用 Future 但又不提供可用的结果,则能够声明 Future<?> 形式类型、并返回 null 做为底层任务的结果。
Future就是对于具体的Runnable或者Callable任务的执行结果进行取消、查询是否完成、获取结果。
必要时能够经过get方法获取执行结果,该方法会阻塞直到任务返回结果。
也就是说Future提供了三种功能:
--判断任务是否完成;
--可以中断任务;
--可以获取任务执行结果。
boolean cancel(boolean mayInterruptIfRunning) 试图取消对此任务的执行。
V get() 若有必要,等待计算完成,而后获取其结果。
V get(long timeout, TimeUnit unit) 若有必要,最多等待为使计算完成所给定的时间以后,获取其结果(若是结果可用)。
boolean isCancelled() 若是在任务正常完成前将其取消,则返回 true。
boolean isDone() 若是任务已完成,则返回 true。
4 线程池简单使用案例2
java.util.concurrent.Executors类的API提供大量建立链接池的静态方法:
1 import java.util.concurrent.Executors; 2 import java.util.concurrent.ExecutorService; 3 public class JavaThreadPool { 4 public static void main(String[] args) { 5 // 建立一个可重用固定线程数的线程池 6 ExecutorService pool = Executors.newFixedThreadPool(2); 7 // 建立实现了Runnable接口对象,Thread对象固然也实现了Runnable接口 8 Thread t1 = new MyThread(); 9 Thread t2 = new MyThread(); 10 Thread t3 = new MyThread(); 11 Thread t4 = new MyThread(); 12 Thread t5 = new MyThread(); 13 // 将线程放入池中进行执行 14 pool.execute(t1); 15 pool.execute(t2); 16 pool.execute(t3); 17 pool.execute(t4); 18 pool.execute(t5); 19 // 关闭线程池 20 pool.shutdown(); 21 } 22 } 23 class MyThread extends Thread { 24 @Override 25 public void run() { 26 System.out.println(Thread.currentThread().getName() + "正在执行… …"); 27 } 28 }
运行效果示例:
pool-1-thread-2正在执行… …
pool-1-thread-2正在执行… …
pool-1-thread-2正在执行… …
pool-1-thread-2正在执行… …
pool-1-thread-1正在执行… …
或
pool-1-thread-1正在执行… …
pool-1-thread-1正在执行… …
pool-1-thread-1正在执行… …
pool-1-thread-1正在执行… …
pool-1-thread-2正在执行… …
可见线程池中有2个线程在工做,可见 newFixedThreadPool 是固定大小的线程池
5 单任务线程池:
//建立一个使用单个 worker 线程的 Executor,以无界队列方式来运行该线程。
ExecutorService pool = Executors.newSingleThreadExecutor();
案例:
1 import java.util.concurrent.ExecutorService; 2 import java.util.concurrent.Executors; 3 4 public class SingleThreadPollDemo { 5 6 public static void main(String[] args) { 7 // 建立一个使用单个 worker 线程的 Executor,以无界队列方式来运行该线程。 8 ExecutorService pool = Executors.newSingleThreadExecutor(); 9 10 Runnable task1 = new SingelTask(); 11 Runnable task2 = new SingelTask(); 12 Runnable task3 = new SingelTask(); 13 14 pool.execute(task3); 15 pool.execute(task2); 16 pool.execute(task1); 17 18 // 等待已提交的任务所有结束 再也不接受新的任务 19 pool.shutdown(); 20 } 21 } 22 23 class SingelTask implements Runnable{ 24 25 @Override 26 public void run() { 27 System.out.println(Thread.currentThread().getName() + "正在执行… …"); 28 try { 29 Thread.sleep(3000); 30 } catch (InterruptedException e) { 31 e.printStackTrace(); 32 } 33 System.out.println(Thread.currentThread().getName() + "执行完毕"); 34 } 35 36 }
运行结果:
pool-1-thread-1正在执行… …
pool-1-thread-1执行完毕
pool-1-thread-1正在执行… …
pool-1-thread-1执行完毕
pool-1-thread-1正在执行… …
pool-1-thread-1执行完毕
可见线程池中只有一个线程在执行任务
对于以上两种链接池,大小都是固定的,当要加入的池的线程(或者任务)超过池最大尺寸时候,则入此线程池须要排队等待。
一旦池中有线程完毕,则排队等待的某个线程会入池执行。
其余线程池示例:
固定大小线程池
import java.util.concurrent.Executors;
import java.util.concurrent.ExecutorService;
ExecutorService pool = Executors.newFixedThreadPool(2);
pool.execute(t1);
pool.shutdown();
单任务线程池
ExecutorService pool = Executors.newSingleThreadExecutor();
可变尺寸线程池
ExecutorService pool = Executors.newCachedThreadPool();
延迟链接池
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
ScheduledExecutorService pool = Executors.newScheduledThreadPool(2);
pool.schedule(t4, 10, TimeUnit.MILLISECONDS);
单任务延迟链接池
ScheduledExecutorService pool = Executors.newSingleThreadScheduledExecutor();
7 使用示例
1 public class Test { 2 public static void main(String[] args) { 3 ThreadPoolExecutor executor = new ThreadPoolExecutor(5, 10, 200, TimeUnit.MILLISECONDS, 4 new ArrayBlockingQueue<Runnable>(5)); 5 6 for(int i=0;i<15;i++){ 7 MyTask myTask = new MyTask(i); 8 executor.execute(myTask); 9 System.out.println("线程池中线程数目:"+executor.getPoolSize()+",队列中等待执行的任务数目:"+ 10 executor.getQueue().size()+",已执行完别的任务数目:"+executor.getCompletedTaskCount()); 11 } 12 executor.shutdown(); 13 } 14 } 15 16 17 class MyTask implements Runnable { 18 private int taskNum; 19 20 public MyTask(int num) { 21 this.taskNum = num; 22 } 23 24 @Override 25 public void run() { 26 System.out.println("正在执行task "+taskNum); 27 try { 28 Thread.currentThread().sleep(4000); 29 } catch (InterruptedException e) { 30 e.printStackTrace(); 31 } 32 System.out.println("task "+taskNum+"执行完毕"); 33 } 34 }
执行结果:
正在执行task 0 线程池中线程数目:1,队列中等待执行的任务数目:0,已执行玩别的任务数目:0 线程池中线程数目:2,队列中等待执行的任务数目:0,已执行玩别的任务数目:0 正在执行task 1 线程池中线程数目:3,队列中等待执行的任务数目:0,已执行玩别的任务数目:0 正在执行task 2 线程池中线程数目:4,队列中等待执行的任务数目:0,已执行玩别的任务数目:0 正在执行task 3 线程池中线程数目:5,队列中等待执行的任务数目:0,已执行玩别的任务数目:0 正在执行task 4 线程池中线程数目:5,队列中等待执行的任务数目:1,已执行玩别的任务数目:0 线程池中线程数目:5,队列中等待执行的任务数目:2,已执行玩别的任务数目:0 线程池中线程数目:5,队列中等待执行的任务数目:3,已执行玩别的任务数目:0 线程池中线程数目:5,队列中等待执行的任务数目:4,已执行玩别的任务数目:0 线程池中线程数目:5,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 线程池中线程数目:6,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 正在执行task 10 线程池中线程数目:7,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 正在执行task 11 线程池中线程数目:8,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 正在执行task 12 线程池中线程数目:9,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 正在执行task 13 线程池中线程数目:10,队列中等待执行的任务数目:5,已执行玩别的任务数目:0 正在执行task 14 task 3执行完毕 task 0执行完毕 task 2执行完毕 task 1执行完毕 正在执行task 8 正在执行task 7 正在执行task 6 正在执行task 5 task 4执行完毕 task 10执行完毕 task 11执行完毕 task 13执行完毕 task 12执行完毕 正在执行task 9 task 14执行完毕 task 8执行完毕 task 5执行完毕 task 7执行完毕 task 6执行完毕 task 9执行完毕
从执行结果能够看出,当线程池中线程的数目大于5时,便将任务放入任务缓存队列里面,当任务缓存队列满了以后,便建立新的线程。
若是上面程序中,将for循环中改为执行20个任务,就会抛出任务拒绝异常了。
不过在java doc中,并不提倡咱们直接使用ThreadPoolExecutor,而是使用Executors类中提供的几个静态方法来建立线程池:
1 Executors.newCachedThreadPool(); //建立一个缓冲池,缓冲池容量大小为Integer.MAX_VALUE 2 Executors.newSingleThreadExecutor(); //建立容量为1的缓冲池 3 Executors.newFixedThreadPool(int); //建立固定容量大小的缓冲池
下面是这三个静态方法的具体实现:
1 public static ExecutorService newFixedThreadPool(int nThreads) { 2 return new ThreadPoolExecutor(nThreads, nThreads, 3 0L, TimeUnit.MILLISECONDS, 4 new LinkedBlockingQueue<Runnable>()); 5 } 6 public static ExecutorService newSingleThreadExecutor() { 7 return new FinalizableDelegatedExecutorService 8 (new ThreadPoolExecutor(1, 1, 9 0L, TimeUnit.MILLISECONDS, 10 new LinkedBlockingQueue<Runnable>())); 11 } 12 public static ExecutorService newCachedThreadPool() { 13 return new ThreadPoolExecutor(0, Integer.MAX_VALUE, 14 60L, TimeUnit.SECONDS, 15 new SynchronousQueue<Runnable>()); 16 }
从它们的具体实现来看,它们实际上也是调用了ThreadPoolExecutor,只不过参数都已配置好了。
newFixedThreadPool建立的线程池corePoolSize和maximumPoolSize值是相等的,它使用的LinkedBlockingQueue;
newSingleThreadExecutor将corePoolSize和maximumPoolSize都设置为1,也使用的LinkedBlockingQueue;
newCachedThreadPool将corePoolSize设置为0,将maximumPoolSize设置为Integer.MAX_VALUE,使用的SynchronousQueue,也就是说来了任务就建立线程运行,当线程空闲超过60秒,就销毁线程。
实际中,若是Executors提供的三个静态方法能知足要求,就尽可能使用它提供的三个方法,由于本身去手动配置ThreadPoolExecutor的参数有点麻烦,要根据实际任务的类型和数量来进行配置。
另外,若是ThreadPoolExecutor达不到要求,能够本身继承ThreadPoolExecutor类进行重写。