Ribbon在Spring Cloud中的用法详细见这里Spring cloud系列七 为@Feign中集成的Ribbon进行个性化配置,本文从新整理我对Ribbon的新的理解算法
Ribbon定义 Ribbon:实现客户端的负载均衡spring
region、zone、Eureka集群关系 region和zone(或者Availability Zone)均是AWS的概念。在非AWS环境下,将region理解为Eureka集群,zone理解成机房。 如图:一个Eureka集群被部署在了zone1机房和zone2机房中。 如下图片来自网路: api
Ribbon主要组件: ServerList:定义获取服务器列表 ServerListFilter:对ServerList服务器列表进行二次过滤 ServerListUpdater: 定义服务更新策略 IPing: 检查服务列表是否存活 IRule :根据算法中从服务列表中选取一个要访问的服务 ILoadBalancer:软件负载平衡器入口,整合以上全部的组件实现负载功能缓存
Ribbon组件之间的关系简单整理以下:bash
ServerList和ServerListFilter生成客户端能够访问的服务列表
ServerListUpdater和IPing:根据服务的状态更新服务列表
IRule:服务的选择策略
ILoadBalancer:将以上组件组合到这个类中一块儿工做
复制代码
组合关闭以下,如下图片来自网络服务器
##Ribbon主要组件 下方配置相似myclient.ribbon.EnableZoneAffinity=true的配置中myclient值是ribbon的客户端的名称,若是去除myclient,则这个配置做用在全部的ribbon客户端网络
实现类和重要实现类说明: 并发
ConfigurationBasedServerList:从配置文件中获取全部服务列表 配置:负载均衡
client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80
复制代码
DiscoveryEnabledNIWSServerList:从注册中心获取服务列表(默认配置) 配置:根据Eureka服务实例名称,从Eureka Client中获取服务列表dom
myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
复制代码
对获取的服务进行二次过滤 实现类和重要类说明:
AbstractServerListFilter 负责从负载均衡器中过滤出当前可用的服务器列表的类
ZoneAffinityServerListFilter: 过滤掉全部的不和客户端在相同zone的服务 过滤掉全部的不和客户端在相同zone的服务,若是和客户端相同的zone不存在,才不过滤不一样zone有服务
配置以下:
myclient.ribbon.EnableZoneAffinity=true
复制代码
ServerListSubsetFilter: 在第一个类的基础上,只返回全部服务的子集 此过滤器确保客户端仅看到由ServerList实现返回的整个服务器的固定子集。 它还能够按期用新服务器替代可用性差的子集中的服务器。 若是服务器场很大,这颇有用。在成百上千的状况下,使用它们中的每个,并保持http客户端链接池中的链接是没必要要的。它还能够经过比较总的网络故障和并发链接来驱逐相对不健康的服务器
要启用此过滤器,配置以下:
myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList
# 指定要负载均衡服务实例的服务应用名称
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
myClient.ribbon.NIWSServerListFilterClassName=com.netflix.loadbalancer.ServerListSubsetFilter
# 指定返回服务器子集的数量,默认20
myClient.ribbon.ServerListSubsetFilter.size=5
复制代码
ZonePreferenceServerListFilter:在ZoneAffinityServerListFilter的基础上,再增根据消费者配置预设的区域Zone来进行过滤(默认配置)
定义:定时更新服务列表 实现类和重要类说明:
PollingServerListUpdater:定时更新(默认配置)
EurekaNotificationServerListUpdater:监听Eureka的事件更新服务列表 由Eureka的事件监听来驱动服务列表的更新操做
在后台运行的一个程序,用于检查服务列表是否都活
DummyPing: 简单实现,所有返回true NoOpPing:什么都不作 PingConstant:经过配置参数设置指定服务器存活状态 NIWSDiscoveryPing: 若是服务实例在本地的Eureka缓存中存在,则返回true(默认配置)。ribbon-eureka包中提供的类,结合eureka使用时,若是Discovery Client在线,则认为心跳检测经过 PingUrl: ribbon-httpclient包中提供的类,采用此方式,会使用httpclient调用服务的一个url,若是调用成功则认为本次心跳检测经过,即服务存活可用。
做用:根据算法中从服务列表中选取一个要访问的服务 实现类以下:
RandomRule:随机,使用Random对象从服务列表中随机选择一个服务
RoundRobinRule:轮训策略。默认策略,同时也是更高级rules的回退策略
RetryRule: 轮询 + 重试 先使用RoundRobinRule进行服务实例选择,若是选择服务实例失败,则在指定时间不断进行重试直至找到服务或超时
WeightedResponseTimeRule: 优先选择响应时间快 此策略会根据每一个实例的平均响应时间,计算出每一个服务的权重,响应时间越快,服务权重越重、被选中的几率越高。此类有个DynamicServerWeightTask的定时任务,默认状况下每隔30秒会计算一次各个服务实例的权重。 刚启动时,若是统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponseTimeRule。
BestAvailableRule: 优先选择并发请求最小的 先过滤到断路器处于打开的服务,而后选择并发请求最小的服务实例来使用。 刚启动时,若是统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到BestAvailableRule。
PredicateBasedRule 抽象类。 PredicateBasedRule是ClientConfigEnabledRoundRobinRule的一个子类,它先经过内部定义的一个过滤器过滤出一部分服务实例清单,而后再采用轮询的方式从过滤出来的结果中选取一个服务实例
AvailabilityFilteringRule: (默认实现) 这个负载均衡器规则,会先过滤掉如下服务: a. 因为屡次访问故障而处于断路器打开的服务 b. 并发的链接数量超过阈值 而后对剩余的服务列表按照RoundRobinRule策略进行访问
若是RestClient最近3次链接服务实例都失败,则对应的服务的断路器打开。断路器打开的状态默认会持续30s,而后再关闭。若是再次链接又失败,则断路器又打开,而且等待的时间随着连续失败的次数,成指数值增长,可是等待的时间不能超过最长的等待时间
ZoneAvoidanceRule 根据如下的规则过滤服务: 1. 若是一个ZONE不可用,则丢弃这个zone里的全部服务实例 2. 过滤如下服务实例:"因为屡次访问故障而处于断路器打开的服务"和"并发的链接数量超过阈值" 而后再使用轮询从过滤后的服务列表中选择一个服务
做用:定义软件负载平衡器操做的接口。典型的负载均衡至少包括如下元素:一组服务器来进行负载平衡,淘汰不可用的服务器的策略,以及从服务器列表中选择一个服务进行访问
NoOpLoadBalancer 什么都没作
BaseLoadBalancer 负载均衡器的基本实现。 此类内部维护一个存储全部服务实例列表和一个当前活着的服务实例列表。默认使用轮询策略选择一个服务实例作为请求对象。定义一个定时器,根据IPingStrategy定时轮询ping服务实例,用于判断服务列表是否活着。默认的ping策略为SerialPingStrategy
DynamicServerListLoadBalancer DynamicServerListLoadBalancer是BaseLoadBalancer的一个子类,对基础负载均衡器的功能作了进一步的扩展。增长了服务实例列表动态更新的功能,同时增长对服务实例列表过滤的功能 此类内部依靠DomainExtractingServerList从EurekaClient从注册中心获取服务实例列表,将状态为UP的服务实例组成新的服务列表,使用ZoneAffinityServerListFilter再对这个列表进行过滤。 此类内部默认使用PollingServerListUpdater对服务实例列表进行定时更新,保证服务的有效性
ZoneAwareLoadBalancer: 默认实现 ZoneAwareLoadBalancer是DynamicServerListLoadBalancer的子类,增长zone策略。DynamicServerListLoadBalancer默认使用轮询策略,可是此策略在进行跨区域调用时,可能会产生高延迟。 此类使用ZoneStats存储每一个Zone的状态和平均请求状况,当一个zone的平均请求达到阈值或请求超时的比例达到阈值或zone不可用,则将该zone的服务实例中删除。此类使用AvailabilityFilteringRule选择一个服务实例。
# 负载均衡类,默认为om.netflix.loadbalancer.ZoneAwareLoadBalance
NFLoadBalancerClassName=ZoneAwareLoadBalancer
# 负载均衡规则类,默认为com.netflix.loadbalancer.AvailabilityFilteringRule
NFLoadBalancerRuleClassName=AvailabilityFilteringRule
# 心跳检测类,ribbon默认为com.netflix.loadbalancer.DummyPing,结合eureka使用时默认值为NIWSDiscoveryPing
NFLoadBalancerPingClassName=NIWSDiscoveryPing
# 服务列表类,ribbon默认为com.netflix.loadbalancer.ConfigurationBasedServerList,结合eureka使用时默认值为com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList
NIWSServerListClassName=DiscoveryEnabledNIWSServerList
# 服务过滤类,ribbon默认为com.netflix.loadbalancer.ZoneAffinityServerListFilter。结合spring cloud eureka使用时默认为org.springframework.cloud.netflix.ribbon.ZonePreferenceServerListFilter
NIWSServerListFilterClassName=ZonePreferenceServerListFilter
复制代码
Ribbon客户端启动时,从注册中心获取服务实例列表并初始化, 对获取的服务实例列表根据指定的算法进行过滤 定时更新服务实例列表的状态 Ribbon客户端要访问http://authority/api/xxx 根据算法从服务实例列表中选择一个服务实例 使用服务实例真实的IP和端口并替换authority部分 向真正的服务发送请求,并完成请求
配置的位置: Ribbon属性能够定义在属性文件中,也能够定义在系统变量(system properties)中
属性格式:
<clientName>.<nameSpace>.<propertyName>=<value>
复制代码
说明: clientName :ribbon的客户端的名称。若是此值为没有配置,则此条属性会做用到全部的客户端 nameSpace:ribbon的命令空间,默认值为ribbon,通常不建议修改 propertyName:属性命令。全部的可用的属性都在com.netflix.client.conf.CommonClientConfigKey类中定义。若属性没有配置,则会使用DefaultClientConfigImpl类中的默认配置
配置文件demo
除了第一个是配置为全局属性外,其余的属性都是为一个名称为"sample-client"的ribbon客户端配置的属性
# 设置全局默认的ribbon的读超时
ribbon.ReadTimeout=1000
# Max number of retries on the same server (excluding the first try)
sample-client.ribbon.MaxAutoRetries=1
# Max number of next servers to retry (excluding the first server)
sample-client.ribbon.MaxAutoRetriesNextServer=1
# Whether all operations can be retried for this client
sample-client.ribbon.OkToRetryOnAllOperations=true
# Interval to refresh the server list from the source
sample-client.ribbon.ServerListRefreshInterval=2000
# Connect timeout used by Apache HttpClient
sample-client.ribbon.ConnectTimeout=3000
# Read timeout used by Apache HttpClient
sample-client.ribbon.ReadTimeout=3000
# Initial list of servers, can be changed via Archaius dynamic property at runtime
sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80
复制代码