复杂的分布式体系结构中的应用程序有数十个依赖关系,每一个依赖关系在某些时候将不可避免地失败雪崩效应多个微服务之间调用的时候,假设服务A调用微服务B和微服务C,java
微服务B和微服务C又调用其余的微服务,这就是所谓的"扇出".若是扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会愈来愈多的系统资源,进而引发系统崩溃,所谓的"雪崩效应".mysql
若是下图所示:A做为服务提供者,B为A的服务消费者,C和D是B的服务消费者。A不可用引发了B的不可用,并将不可用像滚雪球同样放大到C和D时,雪崩效应就造成了。web
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,好比超时,异常等,Hystrix可以保证在一个依赖出问题的状况下,不会致使总体服务的失败,避免故障,以提升分布式系统的弹性spring
"断路器"自己是一种开关装置,当某个服务单元发送故障以后,经过断路器的故障监控(相似熔断保险丝),向调用方向返回一个符合预期的,可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法处理的异常,这样的保证了服务调用方的线程不会被长时间,没必要要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩sql
熔断机制是应对雪崩效应的一种微服务链路保护机制,当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回"错误"的响应信息.数据库
当检测到该节点微服务调用响应正常后恢复调用链路.在spring cloud框架里熔断机制经过Hystrix实现.Hystrix会监控微服务调用的情况,当失败的调用到必定的阈值,api
缺省是5s内20次调用失败就会启动熔断机制.熔断机制的注解就是@HystrixCommandtomcat
参考microservicecloud-provider-dept-8001springboot
pom文件服务器
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>druid</artifactId>
</dependency>
<dependency>
<groupId>ch.qos.logback</groupId>
<artifactId>logback-core</artifactId>
</dependency>
<dependency>
<groupId>org.mybatis.spring.boot</groupId>
<artifactId>mybatis-spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-jetty</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
</dependency>
<!-- 将微服务provider侧注册进eureka -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
<!-- 引入本身定义的api通用包,可使用Dept部门Entity -->
<dependency>
<groupId>com.yehui</groupId>
<artifactId>microservicecloud-api</artifactId>
<version>${project.version}</version>
<scope>compile</scope>
</dependency>
<!-- hystrix -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
</dependencies>
yml文件
server: port: 8008 mybatis: config-location: classpath:mybatis/mybatis.cfg.xml # mybatis配置文件所在路径 type-aliases-package: com.yehui.entity # 全部Entity别名类所在包 mapper-locations: classpath:mybatis/mapper/**/*.xml # mapper映射文件 spring: application: name: microservicecloud-dept datasource: type: com.alibaba.druid.pool.DruidDataSource # 当前数据源操做类型 driver-class-name: org.gjt.mm.mysql.Driver # mysql驱动包 url: jdbc:mysql://localhost:3306/clouddb01 # 数据库名称 username: root password: root dbcp2: min-idle: 5 # 数据库链接池的最小维持链接数 initial-size: 5 # 初始化链接数 max-total: 5 # 最大链接数 max-wait-millis: 200 # 等待链接获取的最大超时时间 eureka: client: #客户端注册进eureka服务列表内 service-url: defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/,http://eureka7001.com:7001/eureka/ instance: instance-id: providerdept_hystrix_8001 #自定义服务名称 prefer-ip-address: true #访问路径能够显示IP地址 #信息的描述 info: app.name: atguigu-microservicecloud company.name: www.atguigu.com build.artifactId: $project.artifactId$ build.version: $project.version$
总体资源快不够了,忍痛将某些服务先关掉,待读过难关,在开启回来.服务降级处理是在客户端实现完成的,与服务端没有关系
在高并发状况下,防止用户一直等待,使用服务降级方式(直接返回一个友好的提示给客户端,调用fallBack方法)
建立一个接口并实现DeptClientService接口
@Component//不忘记打上这个注解
public class KittyProducerHystrix implements DeptClientService { @Override public List<Dept> findAll() { return null; } @Override public Dept findById(Long id) { return new Dept().setDeptno(id).setDname("该ID:" + id + "没有没有对应的信息,null--@HystrixCommand") .setDb_source("no this database in MySQL"); } }
修改microservicecloud-api,DeptClientService在注解@FeignClient
@FeignClient(name = "MICROSERVICECLOUD-DEPT",fallback = KittyProducerHystrix.class)//name是一个服务名称,在注册中上面
public interface DeptClientService { @RequestMapping(value = "/dept/findAll",method = RequestMethod.GET) public List<Dept> findAll(); @RequestMapping("/dept/findById/{id}") public Dept findById(@PathVariable("id") Long id); }
microservicecloud-consumer-dept-feign工程yml修改
feign: hystrix: enabled: true
microservicecloud-consumer-dept-feign工程pom文件添加依赖
<!-- hystrix -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
主启动类修改
新增@EnableCircuitBreaker //开启熔断机制
@SpringBootApplication @EnableFeignClients(basePackages = "com.yehui.feign")//扫描feignClient提供接口的包
@EnableCircuitBreaker //开启熔断机制
public class ConSumeAppStartDeptfeign { public static void main(String[] args) { SpringApplication.run(ConSumeAppStartDeptfeign.class); } }
测试
微服务microservicecloud-provider-dept-8001启动
microservicecloud-consumer-dept-feign启动
正常测试
由于默认状况下,只有一个线程池会维护全部的服务接口,若是大量的请求访问同一个接口,达到tomcat 线程池默认极限,可能会致使其余服务没法访问。
解决服务雪崩效应:使用服务隔离机制(线程池方式和信号量),使用线程池方式实現隔离的原理: 至关于每一个接口(服务)都有本身独立的线程池,由于每一个线程池互不影响,这样的话就能够解决服务雪崩效应。
线程池隔离:
每一个服务接口,都有本身独立的线程池,每一个线程池互不影响。
信号量隔离:
使用一个原子计数器(或信号量)来记录当前有多少个线程在运行,当请求进来时先判断计数器的数值,若超过设置的最大线程个数则拒绝该请求,若不超过则通行,这时候计数器+1,请求返 回成功后计数器-1。
除了隔离依赖服务的调用之外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录全部经过Hystrix发起请求的执行信息,
并以统计报表和图形的形式展现给用户,包括美妙执行多少请求多少成功,多少失败等.
Nextflix经过hystrix-metrics-event-stream项目实现了对以上指标的监控.spring cloud 也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面
新建工程microservicecloud-provider-dept-hystrix-dashboard
pom文件
<dependencies>
<!-- hystrix -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- 引入本身定义的api通用包,可使用Dept部门Entity -->
<dependency>
<artifactId>microservicecloud-api</artifactId>
<groupId>com.yehui</groupId>
<version>${project.version}</version>
<scope>compile</scope>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--客户端依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!-- feign相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
</dependencies>
yml文件
server: port: 9001
启动类
@SpringBootApplication @EnableHystrixDashboard public class DeptConsumer_DashBoard_App { public static void main(String[] args) { SpringApplication.run(DeptConsumer_DashBoard_App.class); } }
全部的provider微服务提供类(8001/8002/8003)都须要监控依赖配置
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
microservicecloud-provider-dept-hystrix-8001新增监控地址配置类
@Configuration public class HyStrixConfig { // 此配置是为了服务监控而配置,与服务容错自己无关, // ServletRegistrationBean由于springboot的默认路径不是"/hystrix.stream", // 只要在本身的项目里配置上下面的servlet就能够了
@Bean public ServletRegistrationBean getServlet() { HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet(); ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet); registrationBean.setLoadOnStartup(1); registrationBean.setServlet(streamServlet); registrationBean.addUrlMappings("/hystrix.stream"); registrationBean.setName("HystrixMetricsStreamServlet"); return registrationBean; } }
启动microservicecloud-provider-dept-hystrix-dashboard该微服务监控
成功:
启动microservicecloud-provider-dept-hystrix-8001
http://localhost:8008/dept/findById/1
访问http://localhost:8008/hystrix.stream
效果:
启动相关的微服务工程
观察监控窗口
填写监控地址
参数详解:
Depay:该参数用来监控服务器上的轮询监控信息的延迟时间,默认为2000毫秒,能够经过配置该属性来下降客户端网络和CPU的消耗
Title:该参数对应了头部标题Hystrix Stream以后的内容,默认会使用具体监控实例的
URL,能够经过配置该信息来展现更合适的标题
监控结果
如何看
七色
1圈
实心圆:共有2种含义.它经过颜色变化表明了实例的健康程度,它的健康度从绿色<黄色<橙色<红色递减.
该实心圆除了颜色的变化以外,它的大小会根据实例的请求流量发生变化,流量越大实心圆就越大.因此经过该实心圆
的展现,就能够在大量的实例中快速发现故障实例和高压力实例
1线
曲线:用来记录2分钟内流量的相对变化,能够经过它来观察到流量的上升和降低趋势
总体说明
复杂的: