Linux高并发调优

Linux高并发调优

一 高并发概念

1.1 高并发概念

高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它一般是指，经过设计保证系统可以同时并行处理不少请求。

1.2 高并发相关指标

• 响应时间(Response Time)
  • 系统对请求作出响应的时间。例如系统处理一个HTTP请求须要200ms，这个200ms就是系统的响应时间
• 吞吐量(Throughput)
  • 单位时间内处理的请求数量
• 每秒查询率QPS(Query Per Second)
  • 每秒响应请求数。在互联网领域，这个指标和吞吐量区分的没有这么明显
• 并发用户数(User Concurrence)
  • 同时承载正常使用系统功能的用户数量。例如一个即时通信系统，同时在线量必定程度上表明了系统的并发用户数

1.3 高并发优化方面

1. 单进程最大打开文件数限制
2. 内核TCP参数方面
3. IO事件分配机制

二 提高系统的并发能力

2.1 垂直扩展

• 提高单机处理能力
  1. 加强单机硬件性能，例如：增长CPU核数如32核，升级更好的网卡如万兆，升级更好的硬盘如SSD，扩充硬盘容量如2T，扩充系统内存如128G
  2. 提高单机架构性能，例如：使用Cache来减小IO次数，使用异步来增长单服务吞吐量，使用无锁数据结构来减小响应时间

2.2 水平扩展

• 增长服务器数量，就能线性扩充系统性能

2.3 常见互联网分层架构

（1）客户端层：典型调用方是浏览器browser或者手机应用APP

（2）反向代理层：系统入口，反向代理

（3）站点应用层：实现核心应用逻辑，返回html或者json

（4）服务层：若是实现了服务化，就有这一层

（5）数据-缓存层：缓存加速访问存储

（6）数据-数据库层：数据库固化数据存储

2.4 水平扩展架构

1. 反向代理层的水平扩展

2. 当nginx成为瓶颈的时候，只要增长服务器数量，新增nginx服务的部署，增长一个外网ip，就能扩展反向代理层的性能，作到理论上的无限高并发

3. 经过“DNS轮询”实现的：dns-server对于一个域名配置了多个解析ip，每次DNS解析请求来访问dns-server，会轮询返回这些ip

4. 站点层的水平扩展

   1. 经过“nginx”实现的。经过修改nginx.conf，能够设置多个web后端
   2. 当web后端成为瓶颈的时候，只要增长服务器数量，新增web服务的部署，在nginx配置中配置上新的web后端，就能扩展站点层的性能，作到理论上的无限高并发

5. 服务层的水平扩展

   1. 经过“服务链接池”实现的
   2. 站点层经过RPC-client调用下游的服务层RPC-server时，RPC-client中的链接池会创建与下游服务多个链接，当服务成为瓶颈的时候，只要增长服务器数量，新增服务部署，在RPC-client处创建新的下游服务链接，就能扩展服务层性能，作到理论上的无限高并发

6. 数据层的水平扩展

   1. 数据层（缓存，数据库）涉及数据的水平扩展，将本来存储在一台服务器上的数据（缓存，数据库）水平拆分到不一样服务器上去，以达到扩充系统性能的目的。

   2. 存储必定范围的数据

      1. user0库，存储uid范围1-1kw
      2. user1库，存储uid范围1kw-2kw

   3. 按照哈希水平拆分

      1. user0库，存储偶数uid数据
      2. user1库，存储奇数uid数据

三 单台Linux服务器提高并发

3.1 iptables相关

1. 关闭iptables防火墙，阻止kernel加载iptables模块

2. 单进程最大打开文件数限制（默认单个进程最大打开1024个文件）

   1. ulimit –n 65535

3. 修改Linux系统对用户的打开文件数的软限制和硬限制

   1. vim /etc/security/limits.conf
      * soft nofile 65535   #'*'表示修改全部用户的限制
      * hard nofile 65535

   2. #用户完成系统登陆后读取/etc/security/limits.conf文件
      vim /etc/pam.d/login
      sessionrequired /lib/security/pam_limits.so

3.2 内核TCP参数

1. ​ TIME_WAIT状态

   1. TCP链接断开后，会以TIME_WAIT状态保留必定的时间，而后才会释放端口。当并发请求过多的时候，就会产生大量的TIME_WAIT状态的链接，没法及时断开的话，会占用大量的端口资源和服务器资源

   2. #查看TIME_WAIT状态链接
      netstat -n | grep tcp | grep TIME_WAIT |wc -l

   3. # vim /etc/sysctl.conf
      net.ipv4.tcp_syncookies= 1 #表示开启SYNCookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少许SYN攻击，默认为0，表示关闭；
      net.ipv4.tcp_tw_reuse= 1 #表示开启重用。容许将TIME-WAITsockets从新用于新的TCP链接，默认为0，表示关闭；
      net.ipv4.tcp_tw_recycle= 1 #表示开启TCP链接中TIME-WAITsockets的快速回收，默认为0，表示关闭；
      net.ipv4.tcp_fin_timeout= 30  #修改系統默认的TIMEOUT 时间。