Spring Cloud(三) --- hystrix

Hystrix

说到Hystrix就得先说一下产生的背景等等,那就是雪崩效应. 在微服务中确定存在多个服务层之间的调用,基础服务的故障可能会致使级联故障,进而形成整个系统不可用的状况,这种现象被称为服务雪崩效应. 简单的来讲就是一种因"服务提供者"的不可用致使"服务消费者"的不可用,并将不可用逐渐放大的过程.以下图所示:

A是服务提供者,B是A的消费者,CD是B的消费者(这也就是前面说的服务者和提供者并无明显的界限,一个服务能够是提供者,也多是其它服务的提供者). A的不可用引发了B的不可用,并将不可用逐渐放大到CD,服务雪崩就造成了.

那归根结底,形成服务雪崩效应的缘由以下:

• 服务提供者不可用
  • 硬件故障
  • 程序Bug
  • 缓存击穿
  • 用户大量请求
• 重试加大流量
  • 用户重试
  • 代码逻辑重试
• 服务调用者不可用
  • 同步等待形成的资源耗尽

对于每个缘由都有对应的应对策略:

• 流量控制
  • 网关限流
  • 用户交互限流
  • 关闭重试
• 改进缓存模式
  • 缓存预加载
  • 同步改成异步刷新
• 服务自动扩容
  • AWS的auto scaling
• 服务调用者降级服务(Hystrix)
  • 资源隔离
  • 对依赖服务进行分类
  • 不可用服务的调用快速失败

而Hystrix就是为了预防链路雪崩效应产生的,下面说说Hystrix的特性.

Hystrix的特性

服务降级(Fallback)

Fallback至关于降级操做.对于查询操做,实现一个fallback方法,当请求后端服务出现异常的时候,可使用fallback方法返回值,这个值通常是默认值或者来自缓存.

资源隔离

在 Hystrix 中，主要经过线程池来实现资源隔离。一般在使用的时候咱们会根据调用的远程服务划分出多个线程池。例如调用产品服务的 Command 放入 A 线程池，调用帐户服务的Command放入B线程池。这样作的主要优势是运行环境被隔离开了。这样就算调用服务的代码存在 bug 或者因为其余缘由致使本身所在线程池被耗尽时，不会对系统的其余服务形成影响。

这样,经过对依赖服务实现线程池隔离,可让应用更健壮,不会由于个别依赖服务出现问题而引发非相关服务的异常.可是这样要维护线程池会带来额外的开销, Netflix Hystrix 官方实例中,99%的状况下,使用线程池隔离的延迟有9ms,这个对于大多数需求来讲几乎是没有影响;固然,若是以为9ms的延迟开销接受不了,而且依赖服务足够可靠的状况下,可使用信号模式来隔离资源,Hystrix在HystrixCommand 和 HystrixObservableCommand 中 2 处支持信号量的使用：

• 命令执行：若是隔离策略参数 execution.isolation.strategy 设置为 SEMAPHORE，Hystrix 会使用信号量替代线程池来控制依赖服务的并发控制。
• 降级逻辑：当 Hystrix 尝试降级逻辑时候，它会在调用线程中使用信号量。

信号量的默认值为 10，也能够经过动态刷新配置的方式来控制并发线程的数量。

断路器机制

当Hystrix Command请求后端服务失败数量超过必定比例(默认50%), 断路器会切换到开路状态(Open). 这时全部请求会直接失败而不会发送到后端服务. 断路器保持在开路状态一段时间后(默认5秒), 自动切换到半开路状态(HALF-OPEN). 这时会判断下一次请求的返回状况, 若是请求成功, 断路器切回闭路状态(CLOSED), 不然从新切换到开路状态(OPEN). Hystrix的断路器就像咱们家庭电路中的保险丝, 一旦后端服务不可用, 断路器会直接切断请求链, 避免发送大量无效请求影响系统吞吐量, 而且断路器有自我检测并恢复的能力.

使用Feign Hystrix

熔断通常是用在服务调用者层面,因此在上一个eureka项目中,修改调用者.在配置文件中添加

feign.hystrix.enabled=true

---

建立回调类:

@Component
public class HelloRemoteHystrix implements HelloRemote {

    @Override
    public String hello(@RequestParam(value = "name") String name) {
        return "Hello World!!!";
    }
}

---

添加fallback,修改远程调用的接口

@FeignClient(name = "eureka-service-producter",fallback = HelloRemoteHystrix.class)
public interface HelloRemote {

    /**
     * 远程调用提供者的hello
     * @param name
     * @return
     */
    @GetMapping("/hello")
    public String hello(@RequestParam("name") String name);

}

这个时候三个都启动的话,访问http://localhost:9010/hello/wangzhi会显示提供者的helloController中hello方法返回的内容,这个时候将提供者服务关掉,再次访问就会返回回调类的内容,也就是Hello World!!!

最后说一句,使用Hystrix,能够有效的防止雪崩,同时使系统具备自动降级和自动恢复服务的效果.

Hystrix Dashboard和Turbine

Hystrix-dashboard是一款针对Hystrix进行实时监控的工具，经过Hystrix Dashboard咱们能够在直观地看到各Hystrix Command的请求响应时间, 请求成功率等数据。可是只使用Hystrix Dashboard的话, 你只能看到单个应用内的服务信息, 这明显不够. 咱们须要一个工具能让咱们汇总系统内多个服务的数据并显示到Hystrix Dashboard上, 这个工具就是Turbine.

Hystrix Dashboard

建立标准的SpringBoot项目hystrix-dashborad-demo,添加依赖,添加注解,添加配置,代码以下:

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>


@EnableHystrixDashboard
@SpringBootApplication
public class HystrixDashboradDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(HystrixDashboradDemoApplication.class, args);
    }

}


spring.application.name=hystrix-dashboard
server.port=11000

启动就能够访问了: localhost:11000/hystrix就能够看到界面了.

这个时候还没完,由于这个hystrix dashborad是监控,因此必须有服务让他监控,因此须要修改一下服务消费者,添加下面依赖:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>

---

添加注解

@SpringBootApplication
@EnableDiscoveryClient
@EnableFeignClients
@EnableHystrix
public class ServiceConsumerDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(ServiceConsumerDemoApplication.class, args);
    }

}

---

添加配置

server.port=9010
spring.application.name=eureka-service-consumer
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
feign.hystrix.enabled=true
# 用来暴露 endpoints的,若是自身就是监控的话,能够不写(http://www.ityouknow.com/springcloud/2017/05/18/hystrix-dashboard-turbine.html)
management.endpoints.web.exposure.include=hystrix.stream

上面的配置基本就OK了,以后所有启动,访问localhost:11000/hystrix,在第一行输入 http://localhost:9010/actuator/hystrix.stream,点击monitor stream就能够进入监控界面了.

进入监控界面会显示loading,这个是等待你访问,因此这个时候访问localhost:9010/hello/wangzhi,这边监控就会有结果展现了,重点看那6个颜色不一样的数字就能够,右边会有说明每一个数字表示什么!!!

Turbine

经过 Hystrix Dashboard，咱们能够方便的查看服务实例的综合状况，好比：服务调用次数、服务调用延迟等。可是仅经过 Hystrix Dashboard 咱们只能实现对服务当个实例的数据展示，在生产环境咱们的服务是确定须要作高可用的，那么对于多实例的状况，咱们就须要将这些度量指标数据进行聚合。这个时候就要用到Turbine.

在前面的基础上(也就是前面的系统要启动),从新建立项目turbine-demo,添加依赖等等操做以下

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-turbine</artifactId>
</dependency>

spring.application.name=turbine
server.port=11001
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
turbine.app-config==eureka-service-consumer
turbine.cluster-name-expression=new String("default")
turbine.combine-host-port=true

@EnableTurbine
@SpringBootApplication
public class TrubineDemoApplication {

    public static void main(String[] args) {
        SpringApplication.run(TrubineDemoApplication.class, args);
    }

}

配置文件参数说明:

• turbine.app-config参数指定了须要收集监控信息的服务名；
• turbine.cluster-name-expression 参数指定了集群名称为 default，当咱们服务数量很是多的时候，能够启动多个 Turbine 服务来构建不一样的聚合集群，而该参数能够用来区分这些不一样的聚合集群，同时该参数值能够在 Hystrix 仪表盘中用来定位不一样的聚合集群，只须要在 Hystrix Stream 的 URL 中经过 cluster 参数来指定；
• turbine.combine-host-port参数设置为true，可让同一主机上的服务经过主机名与端口号的组合来进行区分，默认状况下会以 host 来区分不一样的服务，这会使得在本地调试的时候，本机上的不一样服务聚合成一个服务来统计。

这样就能够启动了,直接在浏览器访问localhost:11001/turbin.stream就能够看到效果了.

这就是hystrix的使用和监控面板以及turbine的使用了,两个监控哦.