Nginx服务器之负载均衡策略

负载均衡用于从“upstream”模块定义的后端服务器列表中选取一台服务器接受用户的请求。一个最基本的upstream模块是这样的，模块内的server是服务器列表：

#动态服务器组
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }

 

　　在upstream模块配置完成后，要让指定的访问反向代理到服务器列表：

#其余页面反向代理到tomcat容器
        location ~ .*$ {
            index index.jsp index.html;
            proxy_pass http://dynamic_zuoyu;
        }

 

　　这就是最基本的负载均衡实例，但这不足以知足实际需求；目前Nginx服务器的upstream模块支持6种方式的分配：

负载均衡策略

轮询	默认方式
weight	权重方式
ip_hash	依据ip分配方式
least_conn	最少链接方式
fair（第三方）	响应时间方式
url_hash（第三方）	依据URL分配方式

　　在这里，只详细说明Nginx自带的负载均衡策略，第三方很少描述。

一、轮询

　　最基本的配置方法，上面的例子就是轮询的方式，它是upstream模块默认的负载均衡默认策略。每一个请求会按时间顺序逐一分配到不一样的后端服务器。

　　有以下参数：

fail_timeout	与max_fails结合使用。
max_fails	设置在fail_timeout参数设置的时间内最大失败次数，若是在这个时间内，全部针对该服务器的请求都失败了，那么认为该服务器会被认为是停机了，
fail_time	服务器会被认为停机的时间长度,默认为10s。
backup	标记该服务器为备用服务器。当主服务器中止时，请求会被发送到它这里。
down	标记服务器永久停机了。

　　注意：

• 在轮询中，若是服务器down掉了，会自动剔除该服务器。
• 缺省配置就是轮询策略。
• 此策略适合服务器配置至关，无状态且短平快的服务使用。

二、weight

　　权重方式，在轮询策略的基础上指定轮询的概率。例子以下：

#动态服务器组
    upstream dynamic_zuoyu {
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082   backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }

 

　　在该例子中，weight参数用于指定轮询概率，weight的默认值为1,；weight的数值与访问比率成正比，好比Tomcat 7.0被访问的概率为其余服务器的两倍。

　　注意：

• 权重越高分配到须要处理的请求越多。
• 此策略能够与least_conn和ip_hash结合使用。
• 此策略比较适合服务器的硬件配置差异比较大的状况。

三、ip_hash

　　指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端的请求一直发送到相同的服务器，以保证session会话。这样每一个访客都固定访问一个后端服务器，能够解决session不能跨服务器的问题。

#动态服务器组
    upstream dynamic_zuoyu {
        ip_hash;    #保证每一个访客固定访问一个后端服务器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }

　　注意：

• 在nginx版本1.3.1以前，不能在ip_hash中使用权重（weight）。
• ip_hash不能与backup同时使用。
• 此策略适合有状态服务，好比session。
• 当有服务器须要剔除，必须手动down掉。

四、least_conn

　　把请求转发给链接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大体相同；可是，有些请求占用的时间很长，会致使其所在的后端负载较高。这种状况下，least_conn这种方式就能够达到更好的负载均衡效果。

#动态服务器组
    upstream dynamic_zuoyu {
        least_conn;    #把请求转发给链接数较少的后端服务器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082 backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }

　　注意：

• 此负载均衡策略适合请求处理时间长短不一形成服务器过载的状况。

五、第三方策略

　　第三方的负载均衡策略的实现须要安装第三方插件。

①fair

　　按照服务器端的响应时间来分配请求，响应时间短的优先分配。

#动态服务器组
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
        fair;    #实现响应时间短的优先分配
    }

 

②url_hash

　　按访问url的hash结果来分配请求，使每一个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源屡次请求，可能会到达不一样的服务器上，致使没必要要的屡次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再此收到请求，就能够从缓存中读取。　

#动态服务器组
    upstream dynamic_zuoyu {
        hash $request_uri;    #实现每一个url定向到同一个后端服务器
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }

　　

3、总结

　　以上即是6种负载均衡策略的实现方式，其中除了轮询和轮询权重外，都是Nginx根据不一样的算法实现的。在实际运用中，须要根据不一样的场景选择性运用，大都是多种策略结合使用以达到实际需求。