从ISTIO熔断提及-轻舟网关熔断

最近你们常常被熔断洗脑，股市的动荡，让熔断再次出如今你们眼前。微服务中的熔断即服务提供方在必定时间内，由于访问压力太大或依赖异常等缘由，而出现异常返回或慢响应，熔断即中止该服务的访问，防止发生雪崩效应。轻舟网关基于Envoy实现，在社区熔断思路上进行扩展。本文从Istio中熔断提及，拨云见日，漫谈轻舟网关熔断。

从熔断提及

最近你们常常被熔断洗脑，股市的动荡，有幸两周内见证了美股的四次熔断。那究竟什么是熔断呢，在股票界熔断实际上就是自动停盘，股市在跌到必定的程度后，暂停股票交易。对比股市，微服务中的熔断即服务提供方在必定时间内，由于访问压力太大或依赖异常等缘由，而出现异常返回或响应变慢等。熔断即中止对该服务的调用，防止发生“雪崩效应”。从服务网关的角度看，熔断便是在网关侧阻止对服务提供方（upstream）的调用。本文从服务网关的角度窥探ISTIO中如何进行熔断，保护后端业务。

Istio熔断

Istio提供了丰富的熔断手段，经过异常点检测以及链接池配置起到保护后端的效果。异常点检测动态肯定上游集群中的健康状态，若是出现连续访问异常，则将异常后端从负载均衡实例中驱逐，在一段时间内不向其中打流量。过一段时间，加入到负载均衡集群中，继续提供服务，若仍是不正常，加大隔离时间。ISTIO提供了主动和被动健康检查，异常检测能够认为是被动的的健康检查，数据面Envoy提供了主动健康检查，在上游集群上配置健康检查接口，主动和被动一块儿使用，做为一个总体的健康检查方案，保障上游集群高可用。

异常点检测在控制面配置在DestionRule CRD中，对应到数据面Envoy中体如今Cluster上的配置。主要的配置项包括：

一、consecuitiveErrors:连续错误次数。对于HTTP服务，50二、50三、504会被认为异常，TPC服务，链接超时即异常

二、intervals：驱逐的时间间隔，默认是10秒

三、baseEjectionTime:最小驱逐时间。驱逐时间会随着错误次数增长而增长。即错误次数\*最小驱逐时间

四、maxEjectionPercent:负载均衡池中能够被驱逐的实例的最大比例。以避免某个接口瞬时不可用，致使太多实例被驱逐，进而致使服务总体所有不可用。`

同时Istio还提供了链接池配置，经过针对四层TCP以及七层HTTP链接的配置，进行客户端访问的限流。具体的配置主要包括：TCP链接池配置以及HTTP链接池配置。配置项主要包括：

HTTP链接池配置和TCP链接设置配合使用。对应到数据面Envoy上根据业务属性进行划分，一部分划分为cluster.circuit_breakers，另外一部分属于cluster的配置。

**
Istio熔断与Hystrix熔断**

Hystrix是微服务领域成熟的熔断框架，是Netflix开源的熔断框架。不过从18年末已经不在积极维护了。Hystrix对请求进行封装，相关的逻辑在独立的线程中运行，经过线程池达到资源隔离的效果。Hystrix提供了熔断能力，具有自动检测与恢复，断路开关在Open,Half-Open以及Closed状态间进行自动切换；同时提供了FallBack方法，便于用户在后端服务熔断状况下进行降级。

任何架构都有不一样的使用场景，正如没有完美的架构只有合适的架构同样。灵活的配置以及可扩展性使得Hystrix融合在SpringCloud体系下，为SpringCloud微服务框架提供熔断功能。可是与之带来的是在使用Hystrix过程当中，必须引入Hystrix依赖包。能够把Hystrix认为是一个白盒，开发人员能够针对业务进行相关的定制，包括降级方法的编写等。虽然，能够经过SDK模式从代码上解耦业务和相关熔断治理，可是业务和SDK仍是须要一块儿编译。同时，Hystrix仅适用于java语言。

而Istio的熔断对业务彻底是透明的，无需对业务有任何依赖；在sidecar模式下，作到和业务集群无缝链接。不过Istio的熔断更可能是基于集群进行配置，熔断力度相较于某些业务场景还有必定的薄弱。

熔断示例

轻舟网关提供了丰富的熔断配置页面，经过轻舟网关的控制台，能够配置链接池配置。具体配置以下：TCP最大链接数配置为1，HTTP最大pending请求数配置为1。

网关熔断配图005.png

经过控制台的配置，能够将具体的配置转换成Istio中VirtualService的trafficPolicy的配置。具体以下

串行请求5次服务接口，查看数据面envoy stat的状态，能够看到5次请求均返回200.

并发5次请求服务接口，客户端收到三个503，2个200状态返回，查看数据面envoy stat能够看到对应的2xx为2次，5xx为三次。5xx产生的缘由为upstream_rq_pending_overflow。即由于max_pending数配置为1 ，请求被熔断。

轻舟网关熔断

轻舟网关基于Istio的熔断实现了服务级别的熔断限流。提供了服务维度的主动健康检查、被动健康检查以及链接池配置。同时，轻舟网关在服务的基础上，扩展了路由级别的熔断，结合hystrix的思路，使用滑动窗口来统计错误率和RT。实现了熔断插件，做用于路由和virtualhost级别。具体的流程以下：

轻舟网关同时提供了丰富的限流策略起到对后端业务的保护，基于rate-limit-server实现。提供基于百分比请求的流控，基于条件的频控，包括Header等维度的限流，具体的配置页面以下：这是一个最简单的配置，配置为请求Header中带有IP:127.0.0.1的请求，每分钟请求100次，超过100次触发限流，返回429。

轻舟网关目前提供了丰富的网关10几种插件，扩展envoy原生路由功能。包括缓存，cors，jsonp，限流，动态降级，静态降级，熔断，鉴权等插件。有兴趣的同窗能够了解下轻舟网关。