浅谈负载均衡

点击上方蓝色字体，关注咱们git

一、前言

负载均衡，英文：Load Balance，其含义是请求分发到多个粒度单元上进行执行操做，例如各类服务器、应用服务、中台服务、数据服务等，从而达到共同完成某项任务的目的。为了拓宽网络设备和服务器的带宽、增长吞吐量、增强网络请求处理能力、提升网络的灵活性和高可用性，负载均衡是一种廉价、有效、透明的方法，它为服务的高并发作了一次缓冲，让单个服务的压力瞬间减小，实现了服务的高可用，避免服务由于压力而面临宕机的危险。github

二、负载均衡

2.1 基于网络的负载均衡

你们都知道，OSI 模型有 7 层结构，每层均可以有几个子层。OSI 的 7 层从上到下分别是物理层、数据链路层、网络层、传输层、会话层、表示层、应用层：web

在这七层结构中，高层次都是依赖于低层次的。层次越高，使用起来越方便。面试

根据负载均衡技术实如今 OSI 七层模型的不一样层次，是能够给负载均衡分类的。算法

常见的实现方式中，主要能够在应用层、传输层、网络层和数据传输层作文章。因此，工做在应用层的负载均衡，咱们一般称之为七层负载均衡、工做在传输层的咱们称之为四层负载均衡。咱们一个个来看看：spring

七层负载均衡

七层负载均衡工做在 OSI 模型的应用层，应用层协议较多，经常使用 http、dns、ftp 等。七层负载就能够基于这些协议来负载。这些应用层协议中会包含不少有意义的内容。好比同一个 Web 服务器的负载均衡，除了根据 IP 加 port 进行负载外，还可根据 URL 来决定是否要进行负载均衡。docker

四层负载均衡

四层负载均衡工做在 OSI 模型的传输层，因为在传输层，只有 TCP/UDP 协议，这两种协议中除了包含源 IP、目标 IP 之外，还包含源端口及目的端口。四层负载均衡服务器在接受到客户端请求后，之后经过修改数据包的地址信息（IP+端口号）将流量转发到应用服务器。后端

2.2 负载均衡工具

负载均衡的工具，常见的有 Nginx、k8s、Ribbon、Feign、HAProxy 等。api

Nginx

Nginx 主要用来做七层负载均衡，反向代理 http、https 的协议连接，同时也提供了 IMAP/POP3/SMTP 的服务。服务器

upstream proxy_demo_aaa {
  server {{DEMO_SERVER_NODE1}} weight=5;
  server {{DEMO_SERVER_NODE2}} weight=6;
}

location ~ ^/demo-aaa/api(.*)$ {
  proxy_pass http://proxy_demo_aaa/api$1$is_args$args;
}

k8s

k8s 的负载均衡是基于 kube-proxy，其服务发现基于 kube-dns，最后因为每一个 Service 对应的 pod 能够是多个，因此能够基于 kube-proxy 实现负载均衡，kube-proxy 进程其实就是一个智能的软件负载均衡器，他负责把 service 的请求转发到后端的某个 pod 实例。

Ribbon

Ribbon 是一个为客户端提供负载均衡功能的服务，它内部提供了一个叫作 ILoadBalance 的接口表明负载均衡器的操做，好比有添加服务器、选择服务器、获取全部的服务器列表、获取可用的服务器列表等等。

常见的，使用 RestTemplate 进行服务提供者、服务消费者之间的通讯，只需为 RestTemplate 配置类添加@LoadBalanced 注解便可。

@Bean
@LoadBalanced
  public RestTemplate restTemplate() {
  return new RestTemplate();
}

Feign

Feign 是一个声明式负载均衡客户端使用 Feign 能让编写 WebService 的客户端更加简单，它的使用方法是定义一个接口，而后在上面添加注解，同时也支持 JAX-RS 标准的注解。Feign 也支持可拔插式的编码器和解码器。

@FeignClient(name = "provider-service", configuration = {Feign4HttpConfiguration.class, FeignLogConfiguration.class}, fallback = CustomerClientImpl.class)
public interface CustomerClient {

	@PostMapping("/save")
	String save();

	@GetMapping("/api/user/getUserInfo")
	Response<Object> getUserInfo();
}

HAProxy

HAProxy 是一个使用 C 语言编写的自由、开放源代码软件，其提供高可用性、负载均衡，以及基于 TCP 和 HTTP 的应用程序代理的功能。

2.3 负载均衡算法

常见的几种负载均衡的算法有：随机、轮询、最少连接、Hash、加权、重试等。

随机：即请求随机分配到各台服务器上，这是默认的策略机制。
轮询：将全部请求，依次分发到每台服务器上，适合服务器硬件相同的场景，服务请求数相同。
最少连接：将本次请求分配到请求数最少的服务上，这种能够根据服务器当前的请求处理状况，动态分配。
Hash：根据 IP 地址进行 Hash 计算，获得 IP 地址，这种能够未来自同一 IP 地址的请求，同一会话期内，转发到同一服务器；实现会话粘滞。但目标服务器宕机后，会话也会随之丢失。
加权：在上面几种算法基础上，进行必定的加权比例分配。
重试：这种策略通常都会有，就是在调用失败后，进行二次重试机制。

固然，还有其余的动态的算法规则：最快模式、观察模式、动态性能分配等。

结束福利

开源基于 k8s 做微服务负载均衡、配置管理的架构设计代码：

https://github.com/damon008/spring-cloud-k8s

https://gitee.com/damon_one/spring-cloud-k8s

欢迎你们 star，多多指教。

关于做者

笔名：Damon，技术爱好者，长期从事 Java 开发、Spring Cloud 的微服务架构设计，以及结合 docker、k8s 作微服务容器化，自动化部署等一站式项目部署、落地。Go 语言学习，k8s 研究，边缘计算框架 KubeEdge 等。公众号 程序猿Damon 发起人。我的微信 MrNull008，欢迎來撩。

欢迎关注 InfoQ: https://www.infoq.cn/profile/1905020/following/user