原文连接:https://chensenlin.cn/posts/16446/前端
高并发架构基础概念和优化思路nginx
并发,在操做系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机上运行,但任一个时刻点上只有一个程序在处理机上运行数据库
一般咱们所定义的高并发并不是上述解释,简单的来讲就是在某个时间点、有多少个访问同时到来。apache
高并发:一般若是一个日PV在千万以上,就有多是一个高并发的系统浏览器
QPS:每秒钟请求或查询的数量,在互联网领域,指每秒响应请求数(HTTP请求)缓存
吞吐量:单位时间内处理的请求数量(一般由QPS和并发数决定)服务器
响应时间:从请求发出到收到响应花费的时间。例如系统处理一个HTTP请求须要10s,这个10s就是响应时间markdown
PV:综合浏览量(Page View),即页面浏览量或者点击量,一个访客在24小时内访问的页面数量网络
UV:独立访客(UniQue Visitor),即必定时间范围内相同访客屡次访问网站,只计算为1个独立访客架构
带宽:计算带宽大小需关注两个指标,峰值流量和页面的平均大小
日网站带宽 = PV / 统计时间(秒)x 平均页面大小(KB) x 8
峰值是平均值的倍数,根据实际状况来定
QPS VS 并发链接数
QPS 不等于并发链接数
QPS 是每秒 HTTP 请求数量,并发链接数是系统同时处理的请求数量
(总 PV 数 x 80%)1 (6 小时秒数 x 20%) = 峰值每秒请求数(QPS)
80%的访问量主要集中在20%的时间
目的:测试能承受的最大并发 和 测试最大承受的QPS
经常使用性能测试工具
ab、wrk、http_ load. Web Bench、Siege、Apache JMeter
Ab
全称是 apache benchmark,是 apache 官方推出的工具
建立多个并发访问线程,模拟多个访问者同时对某一 URL 地址进行访问。它的测试目标是基于 URL 的,所以,它既能够用来测试 apache 的负载压力,也能够测试 nginx、lighthttp、 Tomcat、IIS 等其它 Web 服务器的压力。
Ab的使用
模拟并发请求 100 次,总共请求 5000 次 ;Ab-c 100 -n 5000 待测试网站
注意事项
测试机器与被测试机器分开;
不要对线上服务作压力测试;
观察(top)测试工具 ab 所在机器以及被测试的前端机的 CPU,内存,网络等都不超过最高限度的75%。
随着 QPS 的增加,每一个阶段须要根据实际状况来进行优化,优化的方案也与硬件条件、网络带宽息息相关。
基本不须要优化。
假设关系型数据库的每次请求在 0.01 秒完成
假设单页面只有一个 SQL 查询,那么 100 QPS 意味着 1 秒钟完成 100 次请求,可是此时咱们并不能保证数据库查询能完成 100 次。
方案:数据库缓存层、数据库的负载均衡
假设咱们使用百兆带宽,意味着网站出口的实际带宽是 8 M 左右
假设每一个页面只有 10 K,在这个并发条件下,百兆带宽已经吃完方案:CDN 加速、负载均衡
假设使用 Memcache 绶存数据库查询数据,每一个页面对 Memcache 的请求远大于直接对 DB 的请求
Memcache 的悲观并发数在 2 w 左右,但有可能在以前内网带宽已经吃光,表现出不稳定
方案:静态 HTML 缓存
这个级别下,文件系统访向锁都成为了灾难
方案:作业务分离,分布式存储
流量优化
防盗链处理
前端优化
减小HTTP请求;例如合并CSS js,图片
添加异步请求;延迟加载暂时不须要的内容
启用浏览器缓存和文件压缩;
CDN加速;
创建独立的图片服务器;
服务端优化
页面静态化;并发处理;队列处理
数据库优化
数据库缓存;分库分表、分区操做;读写分离;负载均衡
Web服务器优化
负载均衡