【转】 提高tomcat服务器性能的七条经验

            在线上环境中咱们是采用了tomcat做为Web服务器，它的处理性能直接关系到用户体验，在平时的工做和学习中，概括出如下七种调优经验。

1. 服务器资源

    服务器所能提供CPU、内存、硬盘的性能对处理能力有决定性影响。
    (1) 对于高并发状况下会有大量的运算，那么CPU的速度会直接影响处处理速度。
    (2) 内存在大量数据处理的状况下，将会有较大的内存容量需求，能够用-Xmx -Xms -XX:MaxPermSize等参数对内存不一样功能块进行划分。咱们以前就遇到过内存分配不足，致使虚拟机一直处于full GC，从而致使处理能力严重降低。
    (3) 硬盘主要问题就是读写性能，当大量文件进行读写时，磁盘极容易成为性能瓶颈。最好的办法仍是利用下面提到的缓存。

2. 利用缓存和压缩

    对于静态页面最好是可以缓存起来，这样就没必要每次从磁盘上读。这里咱们采用了Nginx做为缓存服务器，将图片、css、js文件都进行了缓存，有效的减小了后端tomcat的访问。

    另外，为了能加快网络传输速度，开启gzip压缩也是必不可少的。但考虑到tomcat已经须要处理不少东西了，因此把这个压缩的工做就交给前端的Nginx来完成。能够参考《利用nginx加速web访问》。

    除了文本能够用gzip压缩，其实不少图片也能够用图像处理工具预先进行压缩，找到一个平衡点可让画质损失很小而文件能够减少不少。曾经我就见过一个图片从300多kb压缩到几十kb，本身几乎看不出来区别。

3. 采用集群

    单个服务器性能老是有限的，最好的办法天然是实现横向扩展，那么组建tomcat集群是有效提高性能的手段。咱们仍是采用了Nginx来做为请求分流的服务器，后端多个tomcat共享session来协同工做。能够参考《利用nginx+tomcat+memcached组建web服务器负载均衡》。

4. 优化tomcat参数

    这里以tomcat7的参数配置为例，须要修改conf/server.xml文件，主要是优化链接配置，关闭客户端dns查询。

<Connector port="8080"              protocol="org.apache.coyote.http11.Http11NioProtocol"             connectionTimeout="20000"             redirectPort="8443"              maxThreads="500"              minSpareThreads="20"             acceptCount="100"            disableUploadTimeout="true"            enableLookups="false"              URIEncoding="UTF-8" />

5. 改用APR库

    tomcat默认采用的BIO模型，在几百并发下性能会有很严重的降低。tomcat自带还有NIO的模型，另外也能够调用APR的库来实现操做系统级别控制。

    NIO模型是内置的，调用很方便，只须要将上面配置文件中protocol修改为org.apache.coyote.http11.Http11NioProtocol，重启便可生效。上面配置我已经改过了，默认的是HTTP/1.1。

    APR则须要安装第三方库，在高并发下会让性能有明显提高。具体安装办法能够参考http://www.cnblogs.com/huangjingzhou/articles/2097241.html。安装完成后重启便可生效。如使用默认protocal就是apr，但最好把将protocol修改为org.apache.coyote.http11.Http11AprProtocol，会更加明确。

    在官方找到一个表格详细说明了这三种方式的区别：

                  Java Blocking Connector   Java Nio Blocking Connector   APR/native Connector                              BIO                         NIO                       APR Classname                AjpProtocol               AjpNioProtocol           AjpAprProtocol Tomcat Version           3.x onwards                 7.x onwards              5.5.x onwards Support Polling              NO                          YES                       YES Polling Size                 N/A                   maxConnections             maxConnections Read Request Headers      Blocking                  Sim Blocking                   Blocking Read Request Body         Blocking                  Sim Blocking                   Blocking Write Response            Blocking                  Sim Blocking                   Blocking Wait for next Request     Blocking                  Non Blocking               Non Blocking Max Connections        maxConnections              maxConnections             maxConnections

6. 优化网络

    Joel也明确提出了优化网卡驱动能够有效提高性能，这个对于集群环境工做的时候尤其重要。因为咱们采用了linux服务器，因此优化内核参数也是一个很是重要的工做。给一个参考的优化参数：

1. 修改/etc/sysctl.cnf文件，在最后追加以下内容：  net.core.netdev_max_backlog = 32768 net.core.somaxconn = 32768 net.core.wmem_default = 8388608 net.core.rmem_default = 8388608 net.core.rmem_max = 16777216 net.core.wmem_max = 16777216 net.ipv4.ip_local_port_range = 1024 65000 net.ipv4.route.gc_timeout = 100 net.ipv4.tcp_fin_timeout = 30 net.ipv4.tcp_keepalive_time = 1200 net.ipv4.tcp_timestamps = 0 net.ipv4.tcp_synack_retries = 2 net.ipv4.tcp_syn_retries = 2 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_tw_reuse = 1 net.ipv4.tcp_mem = 94500000 915000000 927000000 net.ipv4.tcp_max_orphans = 3276800 net.ipv4.tcp_max_syn_backlog = 65536  2. 保存退出，执行sysctl -p生效

7. 让测试说话

    优化系统最忌讳的就是只调优不测试，有时不适当的优化反而会让性能更低。以上全部的优化方法都要在本地进行性能测试事后再不断调整参数，这样最终才能达到最佳的优化效果。

 

补充Bio、Nio、Apr模式的测试结果：

    对于这几种模式，我用ab命令模拟1000并发测试10000词，测试结果比较意外，为了确认结果，我每种方式反复测试了10屡次，而且在两个服务器上都测试了一遍。结果发现Bio和Nio性能差异很是微弱，难怪默认竟然仍是Bio。可是采用apr，链接创建的速度会有50%～100%的提高。直接调用操做系统层果真神速啊，这里强烈推荐apr方式！

 

参考资料：
http://16.199.geisvps.com/bbs/2836/24238.html