线程池隔离web
线程隔离技术不是去控制相似tomcat这种web容器的请求线程,它是控制的是tomcat内部的执行线程,线程池满后,能够保证的是,tomcat的执行线程不会由于依赖服务的延迟或故障被卡死,使tomcat的执行线程最多损失这个线程池的线程数量,tomcat的其余线程不会卡死,会当即返回作其余的事情。缓存
整个流程就是:tomcat
tomcat接收请求,tomcat线程将对依赖服务的调用路由到Hystrix的线程池,Histrix开启线程执行依赖服务的调用,tomcat线程当即返回,去作处理其余的请求。网络
信号量隔离技术并发
信号量是直接用tomcat线程调用依赖服务。框架
线程池,针对涉及网络请求的操做ide
信号量,针对纯内存操做,好比比较复杂的耗时的逻辑,还有就是你当前的服务已经支撑不了某个业务的流量洪峰,想进行流量削峰,这时候能够用信号量,限制tomcat自己的线程开销,由于你的目的是限制tomcat自身的线程。性能
说白了,信号量限制的是tomcat自身的线程,线程池是利用hystrix的线程替代tomcat的线程去作tomcat线程该作的事(本身总结,不保证正确性)。this
// to use thread isolation HystrixCommandProperties.Setter() .withExecutionIsolationStrategy(ExecutionIsolationStrategy.THREAD) // to use semaphore isolation HystrixCommandProperties.Setter() .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)
1.command group:command group用来定义一个线程池的,并且还会经过command group来聚合一些监控和报警信息,同一个command group中的请求,都会进入同一个线程池中。spa
2.threadpool key:表明了一个HystrixThreadPool,用来进行统一监控,统计,缓存。默认的threadpool key就是command group名称,每一个command都会跟它的threadpool key对应的thread pool绑定在一块儿。若是不想直接用command group,也能够手动设置thread pool name。
public CommandHelloWorld(String name) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ExampleGroup")) .andCommandKey(HystrixCommandKey.Factory.asKey("HelloWorld")) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("HelloWorldPool"))); this.name = name; }
3.command key:表明了一类command,通常来讲,表明了底层的依赖服务的一个接口
command group:表明了某一个底层的依赖服务,一个依赖服务可能会暴露出来多个接口,每一个接口就是一个command key,command group是用来在逻辑上组合一堆command的,在逻辑上去组织起来一堆command key的调用,统计信息,成功次数,timeout超时次数,失败次数,能够看到某一个服务总体的一些访问状况;通常来讲,推荐是根据一个服务去划分出一个线程池,command key默认都是属于同一个线程池的。
举个例子,对于一个服务中的某个功能模块来讲,但愿将这个功能模块内的全部command放在一个group中,那么在监控和报警的时候能够放一块儿看。
command group对应了一个服务,可是这个服务暴露出来的几个接口,访问量很不同,差别很是之大,你可能就但愿在这个服务command group内部,包含的对应多个接口的command key,作一些细粒度的资源隔离,那么能够对同一个服务的不一样接口,都使用不一样的线程池。
4 .coreSize
设置线程池的大小,默认是10
HystrixThreadPoolProperties.Setter() .withCoreSize(int value)
5.queueSizeRejectionThreshold
控制queue满后执行reject,由于maxQueueSize不容许热修改,所以提供这个参数能够热修改,控制队列的最大大小,默认值是5.
6.ExecutionIsolationSemaphoreMaxConcurrentRequests
设置使用SEMAPHORE隔离策略的时候,容许访问的最大并发量,超过这个最大并发量,请求直接被reject
这个并发量的设置,跟线程池大小的设置,是相似的,可是基于信号量的话,性能会好不少,并且hystrix框架自己的开销会小不少
默认值是10,设置的小一些,不然由于信号量是基于调用tomcat线程去执行command的(线程池技术是基于hystrix本身的线程去执行command),并且也不能从timeout中抽离,所以一旦设置的太大,并且有延时发生,可能瞬间致使tomcat自己的线程资源本占满。
HystrixCommandProperties.Setter() .withExecutionIsolationSemaphoreMaxConcurrentRequests(int value)
(1). 设置信号量隔离
public class SemaphoreCommand extends HystrixCommand<String> {public SemaphoreCommand() { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("SemaphoreGroup")) .andCommandKey(HystrixCommandKey.Factory.asKey("SemaphoreCommand")) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("SemaphorePool")) .andCommandPropertiesDefaults(HystrixCommandProperties.Setter() .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE) .withExecutionIsolationSemaphoreMaxConcurrentRequests(15))); } @Override protected String run() throws Exception { return "数据"; } }
(2).设置线程池的队列大小
public class GetProductInfoCommand extends HystrixCommand<ProductInfo> { private Long productId; public GetProductInfoCommand(Long productId) { super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ProductInfoService")) .andCommandKey(HystrixCommandKey.Factory.asKey("GetProductInfoCommand")) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("GetProductInfoPool")) .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter() .withCoreSize(15) .withQueueSizeRejectionThreshold(10)) ); this.productId = productId; } @Override protected ProductInfo run() throws Exception {return JSONObject.parseObject("数据", ProductInfo.class); } }