本项目的笔记和资料的Download,请点击这一句话自行获取。html
day01-springboot(理论篇) ;day01-springboot(实践篇)算法
day02-springcloud(理论篇一) ;day02-springcloud(理论篇二) ;day02-springcloud(理论篇三:搭建Eureka注册中心) ;day02-springcloud(理论篇四:配置Robbin负载均衡)spring
day03-springcloud(Hystix,Feign) ;day03-springcloud(Zuul网关)springboot
在刚才的案例中,咱们启动了一个user-service,而后经过DiscoveryClient来获取服务实例信息,而后获取ip和端口来访问。架构
可是实际环境中,咱们每每会开启不少个user-service的集群。此时咱们获取的服务列表中就会有多个,到底该访问哪个呢?负载均衡
通常这种状况下咱们就须要编写负载均衡算法,在多个实例列表中进行选择。框架
不过Eureka中已经帮咱们集成了负载均衡组件:Ribbon,简单修改代码便可使用。dom
什么是Ribbon:微服务
接下来,咱们就来使用Ribbon实现负载均衡。学习
首先咱们启动两个user-service实例,一个8081,一个8082。
Eureka监控面板:
由于Eureka中已经集成了Ribbon,因此咱们无需引入新的依赖。直接修改代码:
在RestTemplate的配置方法上添加@LoadBalanced
注解:
@Bean @LoadBalanced public RestTemplate restTemplate() { return new RestTemplate(new OkHttp3ClientHttpRequestFactory()); }
修改调用方式,再也不手动获取ip和端口,而是直接经过服务名称调用:
@Service public class UserService { @Autowired private RestTemplate restTemplate; @Autowired private DiscoveryClient discoveryClient; public List<User> queryUserByIds(List<Long> ids) { List<User> users = new ArrayList<>(); // 地址直接写服务名称便可 String baseUrl = "http://user-service/user/"; ids.forEach(id -> { // 咱们测试屡次查询, users.add(this.restTemplate.getForObject(baseUrl + id, User.class)); // 每次间隔500毫秒 try { Thread.sleep(500); } catch (InterruptedException e) { e.printStackTrace(); } }); return users; } }
访问页面,查看结果:
为何咱们只输入了service名称就能够访问了呢?以前还要获取ip和端口。
显然有人帮咱们根据service名称,获取到了服务实例的ip和端口。它就是L
oadBalancerInterceptor
咱们进行源码跟踪:
继续跟入execute方法:发现获取了8082端口的服务
再跟下一次,发现获取的是8081:
Ribbon默认的负载均衡策略是简单的轮询,咱们能够测试一下:
编写测试类,在刚才的源码中咱们看到拦截中是使用RibbonLoadBalanceClient来进行负载均衡的,其中有一个choose方法,是这样介绍的:
如今这个就是负载均衡获取实例的方法。
咱们对注入这个类的对象,而后对其测试:
@RunWith(SpringRunner.class) @SpringBootTest(classes = UserConsumerDemoApplication.class) public class LoadBalanceTest { @Autowired RibbonLoadBalancerClient client; @Test public void test(){ for (int i = 0; i < 100; i++) { ServiceInstance instance = this.client.choose("user-service"); System.out.println(instance.getHost() + ":" + instance.getPort()); } } }
结果:
符合了咱们的预期推测,确实是轮询方式。
咱们是否能够修改负载均衡的策略呢?
继续跟踪源码,发现这么一段代码:
咱们看看这个rule是谁:
这里的rule默认值是一个RoundRobinRule
,看类的介绍:
这不就是轮询的意思嘛。
咱们注意到,这个类实际上是实现了接口IRule的,查看一下:
定义负载均衡的规则接口。
它有如下实现:
SpringBoot也帮咱们提供了修改负载均衡规则的配置入口:
user-service:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
格式是:{服务名称}.ribbon.NFLoadBalancerRuleClassName
,值就是IRule的实现类。
再次测试,发现结果变成了随机:
Eureka的服务治理强调了CAP原则中的AP,便可用性和可靠性。它与Zookeeper这一类强调CP(一致性,可靠性)的服务治理框架最大的区别在于:Eureka为了实现更高的服务可用性,牺牲了必定的一致性,极端状况下它宁愿接收故障实例也不肯丢掉健康实例,正如咱们上面所说的自我保护机制。
可是,此时若是咱们调用了这些不正常的服务,调用就会失败,从而致使其它服务不能正常工做!这显然不是咱们愿意看到的。
咱们如今关闭一个user-service实例:
由于服务剔除的延迟,consumer并不会当即获得最新的服务列表,此时再次访问你会获得错误提示:
可是此时,8081服务实际上是正常的。
所以Spring Cloud 整合了Spring Retry 来加强RestTemplate的重试能力,当一次服务调用失败后,不会当即抛出一次异常,而是再次重试另外一个服务。
只须要简单配置便可实现Ribbon的重试:
spring: cloud: loadbalancer: retry: enabled: true # 开启Spring Cloud的重试功能 user-service: ribbon: ConnectTimeout: 250 # Ribbon的链接超时时间 ReadTimeout: 1000 # Ribbon的数据读取超时时间 OkToRetryOnAllOperations: true # 是否对全部操做都进行重试 MaxAutoRetriesNextServer: 1 # 切换实例的重试次数 MaxAutoRetries: 1 # 对当前实例的重试次数
根据如上配置,当访问到某个服务超时后,它会再次尝试访问下一个服务实例,若是不行就再换一个实例,若是不行,则返回失败。切换次数取决于MaxAutoRetriesNextServer
参数的值。
引入spring-retry依赖
<dependency>
<groupId>org.springframework.retry</groupId>
<artifactId>spring-retry</artifactId>
</dependency>
咱们重启user-consumer-demo,测试,发现即便user-service2宕机,也能经过另外一台服务实例获取到结果!
=============================================
参考资料:
Spring Cloud升级最新Finchley版本的全部坑
end