Nginx之负载均衡配置（一）

　　前文咱们聊了下nginx做为反向代理服务器，代理后端动态应用服务器的配置，回顾请参考http://www.javashuo.com/article/p-shwjfeog-dh.html；今天咱们来聊一聊nginx做为反向代理服务器，代理一组服务器的配置（负载均衡）；前边咱们只说到了nginx怎么去代理后端服务器响应客户端的请求，它在响应客户端请求的流程是这样的，用户请求发送到nginx代理服务器上，此时nginx服务器扮演的就是服务端的角色，客户端是没法感知后端服务器的存在，而用户的报文被nginx接收后，nginx代理服务器它会把用户的请求报文拆开看，用户请求的资源，而后把用户的请求资源，拿到本身的location中进行匹配，若是匹配到了，就按照匹配到的location中定义的代理规则进行代理，在这以前nginx首先会看本身的缓存是否存在用户请求的资源，若是有，它就从缓存中响应用户，若是没有，它就扮演客户端的角色，从新对用户请求从新封装请求报文，发送给后端服务器，后端服务器收到请求后，把对应资源响应给nginx代理服务器，nginx会把后端服务器响应的资源，先缓存一份（若是容许缓存的话），而后在封装响应报文，响应客户端；从这样一个过程来看，nginx它既当服务器角色，又当客户端角色，并且nginx是能够把用户的报文拆开，而后再封装；这是nginx做为代理服务器代理后端服务器响应客户端请求的一个过程（后端服务器是一个的状况）；若是后端服务器有多个，都是提供者相同的服务，此时咱们该怎么把客户端的请求代理到后端多台服务器呢？

　　首先咱们来了解下nginx的upstream模块，nginx的upstream模块有两个，一个是基于http协议的upstream，它主要是基于http协议定义后端服务器组，还有一个就是基于tcp协议的upstream，它主要是基于tcp协议定义后端服务器组；咱们先说nginx的http里的upstream模块吧！！！

　　1、ngx_http_upstream_module：此模块用于定义一组服务器，而后被proxy_pass、fastcgi_pass、uwsgi_pass、scgi_pass和memcached_pass指令引用的服务器组。意思很简单，就是把相同的多台服务器归并成一组服务器，而后nginx基于各类协议的代理，把请求代理到该组上，从而实现把用户请求代理到后端多台服务器上

　　一、upstream name {……}：此指令只能用于http配置段中，意思是定义一组后端服务器组；

　　二、server address [parameters]:此指令用于upstream配置段中，表示定义upstream配置段中的server成员，以及相关的参数；其中地址的格式支持IP地址加端口的形式，支持unix path路径，也支持主机名或域名加端口的形式；parameters表示参数，经常使用的参数有weight=number权重，默认是1，max_fails=number表示失败尝试最大次数；超出此处指定的次数，nginx将失败的server标记为不可用；fail_timeout=time表示设置将服务器标记为不可用状态的超时时长；max_conns表示当前的服务器的最大并发链接数；backup表示将服务器标记为“备用”，既全部服务器均不可用时，此服务器才会被启用，有点相似LVS里的sorry server的角色；down表示将服务器标记为“不可用”

　　三、least_conn：此指令表示最少链接调度算法，当server拥有不一样的权重时表示wlc算法

　　四、ip_hash：此指令相似lvs里的sh算法（源地址哈希算法），同一客户端地址始终调度到同一台服务器上；

　　五、hash key [consistent]：基于指定的key的hash表示实现对请求的调度，此处的key能够是文本、变量、或者两者的组合；做用是将请求分类，将同一类请求发往同一个upstream的server进行响应；

　　六、keepalive connections：为每一个worker进程保留的空闲的长链接数量；

　　示例：

　　定义一组服务器名为webserver

  　　提示：upstream 只能用于定义在http配置段中，它表示定义一组服务器，名为webserver ，后续调度直接将用户请求代理到该组上便可；

  　　提示：以上配置表示将用户访问www.proxy.com时将用户请求代理到webserver这个组上的服务器，默认状况下是轮询的；

 　　提示：能够看到客户端的请求是能够经过nginx把请求代理到后端一组服务器上，从上面的响应结果来看，咱们不配置任何权重，它默认就是轮询的（固然上面的结果也有重复的，这个还不太清楚为何会重复，多是每一个报文的响应速度不同吧，但总的响应是同样的每一个后端服务器各占一半）；固然咱们也是能够给不一样的服务器加上不一样的权重，此时nginx做为调度器就是使用的加权轮询，以下配置

  　　提示：以上配置表示 192.168.0.20这台服务器的权重是5，0.22的权重是2，意思就是7个请求中，0.20处理5个请求，0.22处理2个请求；

 　　假如咱们后端服务器有一台服务出现故障，nginx会不会把用户的请求调度到出现故障的服务器上呢？咱们知道在lvs作调度器时，前端lvs会把用户的请求调度到出现故障的服务器上，咱们须要借助keepalived或者其余辅助服务去实现对后端服务器作健康状态监测，才能把用户的请求不调度到有故障的后端服务器上，nginx会不会呢？

　　提示：能够看到nginx不会把用户的请求调度到有故障的服务器上，这是由于nginx自身就有对后端服务器作健康状态监测的机制，可以及时的发现后端服务器的健康状态，及时的将服务不可用的后端主机从集群中下线，固然这种下线是当服务不可用时，自动触发的动做，咱们也能够人为的把后端服务器标记为不可用状态，一般在作灰度发布时可能用到，直接在服务器后面明确用down来标记该服务器，不接受任何请求；

　　提示：以上配置表示把0.22这台主机从webserver组中下线，下线的意思就是再也不往上调度请求；固然此时的组中服务器就只用0.20这一台主机，用户请求也只能调度到这台上，因此用户无论怎么请求，nginx都只会把请求调度到0.20这台后端主机上；

　　假如后面的两台主机都宕机了，此时用户访问咱们的网站会不会像lvs那样，有sorry server 来给用户说sorry 呢？

　　提示：能够看到当后端主机所有宕机后，没有像lvs里的有sorry server出来给用户说sorry 或者响应客户端请求的；在nginx里sorry server里的配置很简单，只须要在服务器的后面打上backup的标签便可

　　提示：以上配置表示把127.0.0.1:80做为sorry server ,意思是组里的正常被代理的主机所有宕机后，这台主机才会被调度，当组里主机有一台恢复正常，这台主机就不被调度，用户请求将调度到正常的那一台主机上；

　　提示：能够看到当后端主机所有宕机后，sorry server就会被调度；

　　提示：当后端主机恢复时，sorry server 就不会被调度，用户的请求将会被代理至恢复的那台主机上；

　　以上就是nginx做为负载均衡的经常使用配置，接下来咱们在说说调度算法

　　基于源地址hash算法

　　提示：以上配置表示同一源地址的客户端请求将会调度到后端某一台server上进行响应

　　提示：能够看到同一客户段始终被调度到一台server上进行响应，这种就叫作源地址绑定；除了以上ip_hash;来指定绑定源地址，还能够经过hash key来指定，以上配置等同hash $remote_addr;

　　基于用户请求的uri进行绑定，用户请求同一uri始终调度到某一server上响应，这样作的好处可使缓存命中提升；

　　提示：以上配置表示绑定用户请求的rui，不一样的用户请求同一rui时，nginx会始终把同一rui的请求调度到同一台server上进行响应；

　　提示：能够看到同一客户端请求不一样的uri时，会根据请求的uri随机调度到某一台server上进行响应；从上面的配置实例咱们能够知道咱们把什么看成key来hash，就能够实现基于什么来绑定后端服务器，好比基于用户请求的uri看成hash对象，那么用户请求同一uri就会被调度到同一server上进行响应，若是基于用户源ip地址看成hash对象，那么同一源IP地址的用户，不论请求什么uri都会被调度到同一server进行响应；按这个逻辑咱们能够绑定用户的信息来作调度；

　　以上就是nginx做为七层代理http请求的负载均衡的经常使用配置；总结一点nginx做为负载均衡使用其中核心的思想就是把同类服务的服务器先归并到一个组里，而后基于不一样协议的代理来把用户的请求反代到该组上，而后基于某种调度算法来实现把用户请求调度到某一台server进行响应；