Spring Cloud构建微服务架构-Hystrix依赖隔离

依赖隔离

“舱壁模式”对于熟悉Docker的读者必定不陌生，Docker经过“舱壁模式”实现进程的隔离，使得容器与容器之间不会互相影响。而Hystrix则使用该模式实现线程池的隔离，它会为每个Hystrix命令建立一个独立的线程池，这样就算某个在Hystrix命令包装下的依赖服务出现延迟太高的状况，也只是对该依赖服务的调用产生影响，而不会拖慢其余的服务。

经过对依赖服务的线程池隔离实现，能够带来以下优点：

• 应用自身获得彻底的保护，不会受不可控的依赖服务影响。即使给依赖服务分配的线程池被填满，也不会影响应用自身的额其他部分。
• 能够有效的下降接入新服务的风险。若是新服务接入后运行不稳定或存在问题，彻底不会影响到应用其余的请求。
• 当依赖的服务从失效恢复正常后，它的线程池会被清理而且可以立刻恢复健康的服务，相比之下容器级别的清理恢复速度要慢得多。
• 当依赖的服务出现配置错误的时候，线程池会快速的反应出此问题（经过失败次数、延迟、超时、拒绝等指标的增长状况）。同时，咱们能够在不影响应用功能的状况下经过实时的动态属性刷新（后续会经过Spring Cloud Config与Spring Cloud Bus的联合使用来介绍）来处理它。
• 当依赖的服务因实现机制调整等缘由形成其性能出现很大变化的时候，此时线程池的监控指标信息会反映出这样的变化。同时，咱们也能够经过实时动态刷新自身应用对依赖服务的阈值进行调整以适应依赖方的改变。
• 除了上面经过线程池隔离服务发挥的优势以外，每一个专有线程池都提供了内置的并发实现，能够利用它为同步的依赖服务构建异步的访问。

总之，经过对依赖服务实现线程池隔离，让咱们的应用更加健壮，不会由于个别依赖服务出现问题而引发非相关服务的异常。同时，也使得咱们的应用变得更加灵活，能够在不中止服务的状况下，配合动态配置刷新实现性能配置上的调整。

虽然线程池隔离的方案带了如此多的好处，可是不少使用者可能会担忧为每个依赖服务都分配一个线程池是否会过多地增长系统的负载和开销。对于这一点，使用者不用过于担忧，由于这些顾虑也是大部分工程师们会考虑到的，Netflix在设计Hystrix的时候，认为线程池上的开销相对于隔离所带来的好处是没法比拟的。同时，Netflix也针对线程池的开销作了相关的测试，以证实和打消Hystrix实现对性能影响的顾虑。

在99%的状况下，使用线程池隔离的延迟有9ms，对于大多数需求来讲这样的消耗是微乎其微的，更况且为系统在稳定性和灵活性上所带来的巨大提高。虽然对于大部分的请求咱们能够忽略线程池的额外开销，而对于小部分延迟自己就很是小的请求（可能只须要1ms），那么9ms的延迟开销仍是很是昂贵的。实际上Hystrix也为此设计了另外的一个解决方案：信号量。

Hystrix中除了使用线程池以外，还可使用信号量来控制单个依赖服务的并发度，信号量的开销要远比线程池的开销小得多，可是它不能设置超时和实现异步访问。因此，只有在依赖服务是足够可靠的状况下才使用信号量。在HystrixCommand和HystrixObservableCommand中2处支持信号量的使用：

• 命令执行：若是隔离策略参数execution.isolation.strategy设置为SEMAPHORE，Hystrix会使用信号量替代线程池来控制依赖服务的并发控制。
• 降级逻辑：当Hystrix尝试降级逻辑时候，它会在调用线程中使用信号量。

信号量的默认值为10，咱们也能够经过动态刷新配置的方式来控制并发线程的数量。对于信号量大小的估算方法与线程池并发度的估算相似。仅访问内存数据的请求通常耗时在1ms之内，性能能够达到5000rps，这样级别的请求咱们能够将信号量设置为1或者2，咱们能够按此标准并根据实际请求耗时来设置信号量。

如何使用

说了那么多依赖隔离的好处，那么咱们如何使用Hystrix来实现依赖隔离呢？其实，咱们在上一篇定义服务降级的时候，已经自动的实现了依赖隔离。

在上一篇的示例中，咱们使用了@HystrixCommand来将某个函数包装成了Hystrix命令，这里除了定义服务降级以外，Hystrix框架就会自动的为这个函数实现调用的隔离。因此，依赖隔离、服务降级在使用时候都是一体化实现的，这样利用Hystrix来实现服务容错保护在编程模型上就很是方便的，而且考虑更为全面。除了依赖隔离、服务降级以外，还有一个重要元素：断路器。咱们将在下一篇作详细的介绍，这三个重要利器构成了Hystrix实现服务容错保护的强力组合拳。

从如今开始，我这边会将近期研发的springcloud微服务云架构的搭建过程和精髓记录下来，帮助更多有兴趣研发spring cloud框架的朋友，但愿能够帮助更多的好学者。你们来一块儿探讨spring cloud架构的搭建过程及如何运用于企业项目。