Ngnix + Tomcat负载均衡架构

时间 2019-11-17

原文原文链接

1、nginxjavascript

Nginx （发音同 engine x）是一款轻量级的Web 服务器／反向代理服务器及电子邮件（IMAP/POP3）代理服务器，并在一个BSD-like 协议下发行。其特色是占有内存少，并发能力强，事实上nginx的并发能力确实在同类型的网页伺服器中表现较好。目前中国大陆使用nginx网站用户有：新浪、网易、腾讯,另外知名的微网志Plurk也使用nginx。php

废话很少说，先上图...css

2、Tomcathtml

tomcat服务器就不用多说了吧。咱们能够准备二、3个tomcat服务器进行测试。废话很少说，准备环境走起...前端

3、环境准备 java

一、 jdk 1.8.0_102node

二、nginx 1.12.0(在官网上下一个解压就行，官网：http://nginx.org/)；mysql

三、2个或多个tomcat 6.x 7.x 8.x 9.x 均可以（好比我准备的是3个如出一辙的8.x版本，只是配置文件改了而已，一会会详细怎么改，官网：http://tomcat.apache.org/）linux

4、nginx配置文件nginx

路径：\nginx-1.12.0\conf\nginx.conf

配置以下：

 [html]view plain copy
       
   

#Nginx所用用户和组，window下不指定

#user niumd niumd;

#工做的子进程数量（一般等于CPU数量或者2倍于CPU）

worker_processes 2;

#错误日志存放路径

#error_log logs/error.log;

#error_log logs/error.log notice;

error_log logs/error.log info;

#指定pid存放文件

#pid logs/nginx.pid;

events {

#使用网络IO模型linux建议epoll，FreeBSD建议采用kqueue，window下不指定。

#use epoll;

#容许最大链接数

worker_connections 2048;

}

http {

include mime.types;

default_type application/octet-stream;

#定义日志格式

log_format main '$remote_addr - $remote_user [$time_local] $request '

'"$status" $body_bytes_sent "$http_referer" '

'"$http_user_agent" "$http_x_forwarded_for"';

#access_log off;

access_log logs/access.log;

client_header_timeout 3m;

client_body_timeout 3m;

send_timeout 3m;

client_header_buffer_size 1k;

large_client_header_buffers 4 4k;

sendfile on;

tcp_nopush on;

tcp_nodelay on;

#keepalive_timeout 75 20;

#include gzip.conf;

#负载均衡配置

upstream localhost {

#根据ip计算将请求分配各那个后端tomcat，许多人误认为能够解决session问题，其实并不能。

#同一机器在多网状况下，路由切换，ip可能不一样

#ip_hash;

#upstream的负载均衡，weight是权重，能够根据机器配置定义权重。weigth参数表示权值，权值越高被分配到的概率越大。

ip_hash;

server localhost:18081;

server localhost:18082;

server localhost:18083;

#nginx的upstream目前支持4种方式的分配

#一、轮询（默认）

#每一个请求按时间顺序逐一分配到不一样的后端服务器，若是后端服务器down掉，能自动剔除。

#二、weight

#指定轮询概率，weight和访问比率成正比，用于后端服务器性能不均的状况。

#例如：

#upstream bakend {

# server 192.168.0.14 weight=10;

# server 192.168.0.15 weight=10;

#}

#二、ip_hash

#每一个请求按访问ip的hash结果分配，这样每一个访客固定访问一个后端服务器，能够解决session的问题。

#例如：

#upstream bakend {

# ip_hash;

# server 192.168.0.14:88;

# server 192.168.0.15:80;

#}

#三、fair（第三方）

#按后端服务器的响应时间来分配请求，响应时间短的优先分配。

#upstream backend {

# server server1;

# server server2;

# fair;

#}

#四、url_hash（第三方）

#按访问url的hash结果来分配请求，使每一个url定向到同一个后端服务器，后端服务器为缓存时比较有效。

#例：在upstream中加入hash语句，server语句中不能写入weight等其余的参数，hash_method是使用的hash算法

#upstream backend {

# server squid1:3128;

# server squid2:3128;

# hash $request_uri;

# hash_method crc32;

#}

#tips:

#upstream bakend{#定义负载均衡设备的Ip及设备状态}{

# ip_hash;

# server 127.0.0.1:9090 down;

# server 127.0.0.1:8080 weight=2;

# server 127.0.0.1:6060;

# server 127.0.0.1:7070 backup;

#}

#在须要使用负载均衡的server中增长 proxy_pass http://bakend/;

#每一个设备的状态设置为:

#1.down表示单前的server暂时不参与负载

#2.weight为weight越大，负载的权重就越大。

#3.max_fails：容许请求失败的次数默认为1.当超过最大次数时，返回proxy_next_upstream模块定义的错误

#4.fail_timeout:max_fails次失败后，暂停的时间。

#5.backup：其它全部的非backup机器down或者忙的时候，请求backup机器。因此这台机器压力会最轻。

#nginx支持同时设置多组的负载均衡，用来给不用的server来使用。

#client_body_in_file_only设置为On 能够讲client post过来的数据记录到文件中用来作debug

#client_body_temp_path设置记录文件的目录能够设置最多3层目录

#location对URL进行匹配.能够进行重定向或者进行新的代理负载均衡

}

server {

listen 80;

server_name localhost;

location / {

proxy_connect_timeout 3;

proxy_send_timeout 30;

proxy_read_timeout 30;

proxy_pass http://localhost;

}

#css|js|ico|gif|jpg|jpeg|png|txt|html|htm|xml|swf|wav这些都是静态文件，但应分辨，js、css可能常常会变，过时时间应小一些，图片、html基本不变，过时时间能够设长一些

location ~* ^.+\.(ico|gif|jpg|jpeg|png|html|htm)$ {

root html;

access_log logs/access.log;

expires -1s;

}

gzip on;

gzip_comp_level 7;

gzip_min_length 1100; #须要压缩的最小长度

gzip_buffers 4 8k;

gzip_types text/plain application/javascript text/css text/xml application/x-httpd-php; #指定须要压缩的文件类型

output_buffers 1 32k;

postpone_output 1460;

#error_page 404 /404.html;

# redirect server error pages to the static page /50x.html

error_page 500 502 503 504 /50x.html;

location = /50x.html {

root html;

}

}

}

5、Tomcat配置文件

apache-tomcat-8.5.16.1\conf\server.xml

...

...

...

...

apache-tomcat-8.5.16.2\conf\server.xml

...

...

...

...

apache-tomcat-8.5.16.3\conf\server.xml

...

...

...

...

OK，须要配置的就配置好了，咱们再作一件事，咱们选用欢迎页，为了区别欢迎页，咱们修改一下index.jsp页面，apache-tomcat-8.5.16.1\webapps\ROOT\index.jsp，随意区分一下就好。而后分别启动nginx和三个tomcat（nginx.exe、startup.bat）

(由于编译器不让我放图片，放一个网上找的，真的日狗，在网页上复制图片粘贴能够，更日血的是，本身写一个简单静态页面加载截图不能复制图片粘贴。。。)

由于咱们在上面说了，改tomcat的欢迎页，因此每次刷新的时候呢，三个欢迎页就会轮流替换，在实际项目中也是同样的原理，可是有一点不足，session共享问题，这么作session是不共享的。也是不知足高并发，这只是一个演示的demo。

怎样实现session共享呢？

查了一些资料，看了一些别人写的文档，总结以下，实现nginx session的共享

服务器有多台，用nginx作负载均衡，这样同一个IP访问同一个页面会被分配到不一样的服务器上，若是session不一样步的话，就会出现不少问题，好比说最多见的登陆状态，下面提供了几种方式来解决session共享的问题：

一、不使用session，换用cookie session是存放在服务器端的，cookie是存放在客户端的，咱们能够把用户访问页面产生的session放到cookie里面，就是以cookie为中转站。你访问web服务器A，产生了session而后把它放到cookie里面，当你的请求被分配到B服务器时，服务器B先判断服务器有没有这个session，若是没有，再去看看客户端的cookie里面有没有这个session，若是也没有，说明session真的不存，若是cookie里面有，就把cookie里面的sessoin同步到服务器B，这样就能够实现session的同步了。

说明：这种方法实现起来简单，方便，也不会加大数据库的负担，可是若是客户端把cookie禁掉了的话，那么session就无从同步了，这样会给网站带来损失；cookie的安全性不高，虽然它已经加了密，可是仍是能够伪造的。

二、session存在数据库（MySQL等）中后台能够配置将session保存在数据库中，这种方法是把存放session的表和其余数据库表放在一块儿，若是mysql也作了集群了话，每一个mysql节点都要有这张表，而且这张session表的数据表要实时同步。

说明：用数据库来同步session，会加大数据库的IO，增长数据库的负担。并且数据库读写速度较慢，不利于session的适时同步。

三、session存在memcache或者Redis中 memcache能够作分布式，配置文件中设置存储方式为memcache，这样会创建一个session集群，将session数据存储在memcache中。

说明：以这种方式来同步session，不会加大数据库的负担，而且安全性比用cookie大大的提升，把session放到内存里面，比从文件中读取要快不少。可是memcache把内存分红不少种规格的存储块，有块就有大小，这种方式也就决定了，memcache不能彻底利用内存，会产生内存碎片，若是存储块不足，还会产生内存溢出。

四、nginx中的ip_hash技术可以将某个ip的请求定向到同一台后端，这样一来这个ip下的某个客户端和某个后端就能创建起稳固的session，ip_hash是在upstream配置中定义的：

[html]view plain copy
       
   
upstream localhost  
    {   
             server localhost:18006;   
             server localhost:18007;  
             ip_hash;  
    }  
    server  
    {  
             listen 80;  
             location /  
             {  
                     proxy_pass  
                    localhost;  
             }  
 }  

ip_hash是容易理解的，可是由于仅仅能用ip这个因子来分配后端，所以ip_hash是有缺陷的，不能在一些状况下使用：

1.nginx不是最前端的服务器。 ip_hash要求nginx必定是最前端的服务器，不然nginx得不到正确ip，就不能根据ip做hash。譬如使用的是squid为最前端，那么nginx取ip时只能获得squid的服务器ip地址，用这个地址来做分流是确定错乱的。

2.nginx的后端还有其它方式的负载均衡。假如nginx后端又有其它负载均衡，将请求又经过另外的方式分流了，那么某个客户端的请求确定不能定位到同一台session应用服务器上。这么算起来，nginx后端只能直接指向应用服务器，或者再搭一个squid，而后指向应用服务器。最好的办法是用 location做一次分流，将须要session的部分请求经过ip_hash分流，剩下的走其它后端去。

五、upstream_hash 为了解决ip_hash的一些问题，可使用upstream_hash这个第三方模块，这个模块多数状况下是用做url_hash的，可是并不妨碍将它用来作session共享。它的原理是这样的：浏览器A去访问nginx，nginx根据IP的hash去访问某一个服务器，至此，之后的每次访问都会是这个服务器在运做，因此才有的session同步，浏览器B、C、D...也去访问nginx，nginx还会根据B、C、D的IP_hash访问的服务器可能仍是原来的服务器也有多是新的服务器。它们以后的访问都会是各自第一次访问你的服务器，只有服务器崩了，才会去别的服务器，从而实现session共享。

至此window下nginx+tomcat负载均衡配置结束。