Ribbon是Spring Cloud Netflix全家桶中负责负载均衡的组件,它是一组类库的集合。经过Ribbon,程序员能在不涉及到具体实现细节的基础上“透明”地用到负载均衡,而没必要在项目里过多地编写实现负载均衡的代码。java
好比,在某个包含Eureka和Ribbon的集群中,某个服务(能够理解成一个jar包)被部署在多台服务器上,当多个服务使用者同时调用该服务时,这些并发的请求能被用一种合理的策略转发到各台服务器上。程序员
事实上,在使用Spring Cloud的其它各类组件时,咱们都能看到Ribbon的痕迹,好比Eureka能和Ribbon整合,而在后文里将提到的提供网关功能Zuul组件在转发请求时,也能够整合Ribbon从而达到负载均衡的效果。服务器
从代码层面来看,Ribbon有以下三个比较重要的接口。架构
第一,ILoadBalancer,这也叫负载均衡器,经过它,咱们能在项目里根据特定的规则合理地转发请求,常见的实现类有BaseLoadBalancer。并发
第二,IRule,这个接口有多个实现类,好比RandomRule和RoundRobinRule,这些实现类具体地定义了诸如“随机“和”轮询“等的负载均衡策略,咱们还能重写该接口里的方法来自定义负载均衡的策略。负载均衡
在BaseLoadBalancer类里,咱们能经过IRule的实现类设置负载均衡的策略,这样该负载均衡器就能据此合理地转发请求。dom
第三,IPing接口,经过该接口,咱们能获取到当前哪些服务器是可用的,咱们也能经过重写该接口里的方法来自定义判断服务器是否可用的规则。在BaseLoadBalancer类里,咱们一样能经过IPing的实现类设置判断服务器是否可用的策略。 函数
在Ribbon里,咱们还能够经过ILOadBalancer这个接口以基于特定的负载均衡策略来选择服务器。spa
经过下面的ILoadBalancerDemo.java,咱们来看下这个接口的基本用法。这个类是放在4.2部分建立的RabbionBasicDemo项目里,代码以下。 code
1 //省略必要的package和import代码 2 public class ILoadBalancerDemo { 3 public static void main(String[] args){ 4 //建立ILoadBalancer的对象 5 ILoadBalancer loadBalancer = new BaseLoadBalancer(); 6 //定义一个服务器列表 7 List<Server> myServers = new ArrayList<Server>(); 8 //建立两个Server对象 9 Server s1 = new Server("ekserver1",8080); 10 Server s2 = new Server("ekserver2",8080); 11 //两个server对象放入List类型的myServers对象里 12 myServers.add(s1); 13 myServers.add(s2); 14 //把myServers放入负载均衡器 15 loadBalancer.addServers(myServers); 16 //在for循环里发起10次调用 17 for(int i=0;i<10;i++){ 18 //用基于默认的负载均衡规则得到Server类型的对象 19 Server s = loadBalancer.chooseServer("default"); 20 //输出IP地址和端口号 21 System.out.println(s.getHost() + ":" + s.getPort()); 22 } 23 } 24 }
在第5行里,咱们建立了BaseLoadBalancer类型的loadBalancer对象,而BaseLoadBalancer是负载均衡器ILoadBalancer接口的实现类。
在第6到第13行里,咱们建立了两个Server类型的对象,并把它们放入了myServers里,在第15行里,咱们把List类型的myServers对象放入了负载均衡器里。
在第17到22行的for循环里,咱们经过负载均衡器模拟了10次选择服务器的动做,具体而言,是在第19行里,经过loadBalancer的chooseServer方法以默认的负载均衡规则选择服务器,在第21行里,咱们是用“打印”这个动做来模拟实际的“使用Server对象处理请求”的动做。
上述代码的运行结果以下所示,其中咱们能看到,loadBalancer这个负载均衡器把10次请求均摊到了2台服务器上,从中确实能看到 “负载均衡”的效果。
第二,IRule,这个接口有多个实现类,好比RandomRule和RoundRobinRule,这些实现类具体地定义了诸如“随机“和”轮询“等的负载均衡策略,咱们还能重写该接口里的方法来自定义负载均衡的策略。
在BaseLoadBalancer类里,咱们能经过IRule的实现类设置负载均衡的策略,这样该负载均衡器就能据此合理地转发请求。
第三,IPing接口,经过该接口,咱们能获取到当前哪些服务器是可用的,咱们也能经过重写该接口里的方法来自定义判断服务器是否可用的规则。在BaseLoadBalancer类里,咱们一样能经过IPing的实现类设置判断服务器是否可用的策略。
1 ekserver2:8080 2 ekserver1:8080 3 ekserver2:8080 4 ekserver1:8080 5 ekserver2:8080 6 ekserver1:8080 7 ekserver2:8080 8 ekserver1:8080 9 ekserver2:8080 10 ekserver1:8080
在Ribbon里,咱们能够经过定义IRule接口的实现类来给负载均衡器设置相应的规则。在下表里,咱们能看到IRule接口的一些经常使用的实现类。
实现类的名字 |
负载均衡的规则 |
RandomRule |
采用随机选择的策略 |
RoundRobinRule |
采用轮询策略 |
RetryRule |
采用该策略时,会包含重试动做 |
AvailabilityFilterRule |
会过滤些屡次链接失败和请求并发数太高的服务器 |
WeightedResponseTimeRule |
根据平均响应时间为每一个服务器设置一个权重,根据该权重值优先选择平均响应时间较小的服务器 |
ZoneAvoidanceRule |
优先把请求分配到和该请求具备相同区域(Zone)的服务器上 |
在下面的IRuleDemo.java的程序里,咱们来看下IRule的基本用法。
1 //省略必要的package和import代码 2 public class IRuleDemo { 3 public static void main(String[] args){ 4 //请注意这是用到的是BaseLoadBalancer,而不是ILoadBalancer接口 5 BaseLoadBalancer loadBalancer = new BaseLoadBalancer(); 6 //声明基于轮询的负载均衡策略 7 IRule rule = new RoundRobinRule(); 8 //在负载均衡器里设置策略 9 loadBalancer.setRule(rule); 10 //以下定义3个Server,并把它们放入List类型的集合中 11 List<Server> myServers = new ArrayList<Server>(); 12 Server s1 = new Server("ekserver1",8080); 13 Server s2 = new Server("ekserver2",8080); 14 Server s3 = new Server("ekserver3",8080); 15 myServers.add(s1); 16 myServers.add(s2); 17 myServers.add(s3); 18 //在负载均衡器里设置服务器的List 19 loadBalancer.addServers(myServers); 20 //输出负载均衡的结果 21 for(int i=0;i<10;i++){ 22 Server s = loadBalancer.chooseServer(null); 23 System.out.println(s.getHost() + ":" + s.getPort()); 24 } 25 } 26 }
这段代码和上文里的ILoadBalancerDemo.java很类似,但有以下的差异点。
1 在第5行里,咱们是经过BaseLoadBalancer这个类而不是接口来定义负载均衡器,缘由是该类包含setRule方法。
2 在第7行定义了一个基于轮询规则的rule对象,并在第9行里把它设置进负载均衡器。
3 在第19行里,咱们是把包含3个Server的List对象放入负载均衡器,而不是以前的两个。因为这里存粹是为了演示效果,因此咱们就放入一个根本不存在的“ekserver3”服务器。
运行该程序后,咱们能够看到有10次输出,并且确实是按“轮询”的规则有顺序地输出3个服务器的名字。若是咱们把第7行的代码改为以下,那么就会看到 “随机”地输出服务器名。
IRule rule = new RandomRule();
在项目里,咱们通常会让ILoadBalancer接口自动地判断服务器是否可用(这些业务都封装在Ribbon的底层代码里),此外,咱们还能够用Ribbon组件里的IPing接口来实现这个功能。
在下面的IRuleDemo.java代码里,咱们将演示IPing接口的通常用法。
1 //省略必要的package和import代码 2 class MyPing implements IPing { 3 public boolean isAlive(Server server) { 4 //若是服务器名是ekserver2,则返回false 5 if (server.getHost().equals("ekserver2")) { 6 return false; 7 } 8 return true; 9 } 10 }
第2行定义的MyPing类实现了IPing接口,并在第3行重写了其中的isAlive方法。
在这个方法里,咱们根据服务器名来判断,具体而言,若是名字是ekserver2,则返回false,表示该服务器不可用,不然返回true,表示当前服务器可用。
11 public class IRuleDemo { 12 public static void main(String[] args) { 13 BaseLoadBalancer loadBalancer = new BaseLoadBalancer(); 14 //定义IPing类型的myPing对象 15 IPing myPing = new MyPing(); 16 //在负载均衡器里使用myPing对象 17 loadBalancer.setPing(myPing); 18 //一样是建立三个Server对象并放入负载均衡器 19 List<Server> myServers = new ArrayList<Server>(); 20 Server s1 = new Server("ekserver1", 8080); 21 Server s2 = new Server("ekserver2", 8080); 22 Server s3 = new Server("ekserver3", 8080); 23 myServers.add(s1); 24 myServers.add(s2); 25 myServers.add(s3); 26 loadBalancer.addServers(myServers); 27 //经过for循环屡次请求服务器 28 for (int i = 0; i < 10; i++) { 29 Server s = loadBalancer.chooseServer(null); 30 System.out.println(s.getHost() + ":" + s.getPort()); 31 } 32 } 33 }
在第12行的main函数里,咱们在第15行建立了IPing类型的myPing对象,并在第17行把这个对象放入了负载均衡器。经过第18到第26行的代码,咱们建立了三个服务器,并把它们也放入负载均衡器。
在第28行的for循环里,咱们依然是请求并输出服务器名。因为这里的负载均衡器loadBalancer中包含了一个IPing类型的对象,因此在根据策略获得服务器后,会根据myPing里的isActive方法来判断该服务器是否可用。
因为在这个方法里,咱们定义了ekServer2这台服务器不可用,因此负载均衡器loadBalancer对象始终不会把请求发送到该服务器上,也就是说,在输出结果中,咱们不会看到“ekserver2:8080”的输出。
从中咱们能看到IPing接口的通常用法,咱们能够经过重写其中的isAlive方法来定义“判断服务器是否可用“的逻辑,在实际项目里,判断的依据无非是”服务器响应是否时间过长“或”发往该服务器的请求数是否过多“,而这些判断方法都封装在IRule接口以及它的实现类里,因此在通常的场景中咱们用到IPing接口。
在本周的后面时间里,我将继续给出用Eureka+Ribbon高可用负载均衡架构的搭建方法。
本文内容摘自本人写的专业书籍,转载时请同时引入该版权申明,请勿用于商业用途。