三.Hystrix资源隔离

1.Hystrix资源隔离的策略

  线程池隔离web

  线程隔离技术不是去控制相似tomcat这种web容器的请求线程,它是控制的是tomcat内部的执行线程,线程池满后,能够保证的是,tomcat的执行线程不会由于依赖服务的延迟或故障被卡死,使tomcat的执行线程最多损失这个线程池的线程数量,tomcat的其余线程不会卡死,会当即返回作其余的事情。缓存

  整个流程就是:tomcat

  tomcat接收请求,tomcat线程将对依赖服务的调用路由到Hystrix的线程池,Histrix开启线程执行依赖服务的调用,tomcat线程当即返回,去作处理其余的请求。网络

 信号量隔离技术并发

  信号量是直接用tomcat线程调用依赖服务。框架

 

2.如何在线程池和信号量之间作选择

  线程池,针对涉及网络请求的操做ide

  信号量,针对纯内存操做,好比比较复杂的耗时的逻辑,还有就是你当前的服务已经支撑不了某个业务的流量洪峰,想进行流量削峰,这时候能够用信号量,限制tomcat自己的线程开销,由于你的目的是限制tomcat自身的线程。性能

 

  说白了,信号量限制的是tomcat自身的线程,线程池是利用hystrix的线程替代tomcat的线程去作tomcat线程该作的事(本身总结,不保证正确性)。this

 

3.配置 

// to use thread isolation
HystrixCommandProperties.Setter()
   .withExecutionIsolationStrategy(ExecutionIsolationStrategy.THREAD)
// to use semaphore isolation
HystrixCommandProperties.Setter()
   .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)

 

1.command group:command group用来定义一个线程池的,并且还会经过command group来聚合一些监控和报警信息,同一个command group中的请求,都会进入同一个线程池中。spa

2.threadpool key:表明了一个HystrixThreadPool,用来进行统一监控,统计,缓存。默认的threadpool key就是command group名称,每一个command都会跟它的threadpool key对应的thread pool绑定在一块儿。若是不想直接用command group,也能够手动设置thread pool name。

public CommandHelloWorld(String name) {
    super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ExampleGroup"))
            .andCommandKey(HystrixCommandKey.Factory.asKey("HelloWorld"))
            .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("HelloWorldPool")));
    this.name = name;
}

3.command key:表明了一类command,通常来讲,表明了底层的依赖服务的一个接口

 

 

command group:表明了某一个底层的依赖服务,一个依赖服务可能会暴露出来多个接口,每一个接口就是一个command key,command group是用来在逻辑上组合一堆command的,在逻辑上去组织起来一堆command key的调用,统计信息,成功次数,timeout超时次数,失败次数,能够看到某一个服务总体的一些访问状况;通常来讲,推荐是根据一个服务去划分出一个线程池,command key默认都是属于同一个线程池的。

举个例子,对于一个服务中的某个功能模块来讲,但愿将这个功能模块内的全部command放在一个group中,那么在监控和报警的时候能够放一块儿看。

command group对应了一个服务,可是这个服务暴露出来的几个接口,访问量很不同,差别很是之大,你可能就但愿在这个服务command group内部,包含的对应多个接口的command key,作一些细粒度的资源隔离,那么能够对同一个服务的不一样接口,都使用不一样的线程池。

 

4 .coreSize

设置线程池的大小,默认是10

HystrixThreadPoolProperties.Setter()
   .withCoreSize(int value)

 

5.queueSizeRejectionThreshold

控制queue满后执行reject,由于maxQueueSize不容许热修改,所以提供这个参数能够热修改,控制队列的最大大小,默认值是5.

 

6.ExecutionIsolationSemaphoreMaxConcurrentRequests

设置使用SEMAPHORE隔离策略的时候,容许访问的最大并发量,超过这个最大并发量,请求直接被reject

这个并发量的设置,跟线程池大小的设置,是相似的,可是基于信号量的话,性能会好不少,并且hystrix框架自己的开销会小不少

默认值是10,设置的小一些,不然由于信号量是基于调用tomcat线程去执行command的(线程池技术是基于hystrix本身的线程去执行command),并且也不能从timeout中抽离,所以一旦设置的太大,并且有延时发生,可能瞬间致使tomcat自己的线程资源本占满。

HystrixCommandProperties.Setter()
   .withExecutionIsolationSemaphoreMaxConcurrentRequests(int value)

 

 

4.代码

(1). 设置信号量隔离

public class SemaphoreCommand extends HystrixCommand<String> {public SemaphoreCommand() {
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("SemaphoreGroup"))
                .andCommandKey(HystrixCommandKey.Factory.asKey("SemaphoreCommand"))
                .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("SemaphorePool"))
                .andCommandPropertiesDefaults(HystrixCommandProperties.Setter()
                        .withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)
                        .withExecutionIsolationSemaphoreMaxConcurrentRequests(15)));
    }
    
    @Override
    protected String run() throws Exception {
        return "数据";
    }
    
}

 

(2).设置线程池的队列大小

public class GetProductInfoCommand extends HystrixCommand<ProductInfo> {

    private Long productId;
    
    public GetProductInfoCommand(Long productId) {
        super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("ProductInfoService"))
                .andCommandKey(HystrixCommandKey.Factory.asKey("GetProductInfoCommand"))
                .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("GetProductInfoPool"))
                .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter()
                        .withCoreSize(15)
                        .withQueueSizeRejectionThreshold(10))
                );  
        this.productId = productId;
    }
    
    @Override
    protected ProductInfo run() throws Exception {return JSONObject.parseObject("数据", ProductInfo.class);  
    }

}
相关文章
相关标签/搜索