构建高并发&高可用&安全的IT系统-高并发部分

   

什么是高并发？

狭义来说就是你的网站/软件同一时间能承受的用户数量有多少

相关指标有

并发数：对网站/软件同时发起的请求数，通常也可表明实际的用户

每秒响应时间：常指一次请求到系统正确响的时间（以秒为单位）

TPS（每秒事务数）：每秒钟能够处理的事务（请求响应），大概的计算公式为：并发数/每秒响应时间=TPS

QPS（每秒查询数）：TPS事务有读有写，而QPS指的是读取，通常状况QPS应是高于TPS的

IP（独立IP）：一个IP能够发生屡次UV和PV

PV（访问量）：即Page View，页面浏览或点周量，用户每次新刷新即被计算一次

UV（独立访客）：通常经过cookies记录等判断为一个独立用户，同一IP可能有多个UV（共享IP），发生屡次PV

流量（网络流量）：请求所产生的网络流量，由于受限于带宽也是并发中的一个重要指

 

通常公司演化阶段

一、优化运算代码、SQL查询、数据库索引等

二、进行应用负载均衡、数据库作主从/主主复制进行读写分离、增长缓存(Redis\Mem)

三、对系统和数据进行垂直拆分，按业务模块拆分红不一样的应用及数据库表

四、分布式服务化、异步消息机制、数据库表水平拆分

 

优化运算代码、SQL查询、数据库索引等

通常初创公司系统大多数都是单体单库的系统，按照成本优先级第一要作的就是对系统进行代码级的优化。好比应用代码逻辑梳理、合理使用多线程、SQL避免全表扫描、少使用LIKE、

根据业务建立索引等。

案例

单次LIKE大数据量统计查询Sending data状态过多致使数据库链接被耗尽，系统中止响应。经过在统计表创建触发器更新单值表解决

 

 

 

负载均衡、读写分离、缓存

到了第二阶段，单体应用经过优化与增长硬件配置已没法解决高并发的问题，这时能够考虑进行如下架构的演化，这种演化对系统基本没有侵入性，成本低廉

负载均衡：

能够经过Nginx反向代理、F5等进行应用的多流量分发，须要解决的问题就是会话问题，可采用Nginx的路由或是SESSION同步/独立。

读写分离：

采用数据库的主从复制机制，将写入库与读取库分离，可采用中间件进行代理路由，基本能够不改代码。

缓存：

可跟据业务规则将部分数据进行缓存

 

 

应用、数据垂直拆分

第二阶段支撑过必定量后，随着并发量再次的提高，因为单库表数据量变大以及访问限制已经不能知足，这时能够考虑进行数据库表的按系统模块垂直拆分。将内联的业务划分为独立的库表，相应的应用也

应随之拆分（应用这时加机器还能挺，不过作不到可审缩资源利用最大化）。同一应用系统访问同一库表，应用系统之间进行少许通讯。

 

 

 

分布式服务化、异步消息机制、数据库表水平拆分

在经历过前三阶段后，能走到第四阶段说明平台的发展很是好了，对系统的高并发又有了进一步的要求，这也是成本最高最复杂的，系统架构须要进行很大的改造

分布式：

对系统应用进行服务化（如微服务），服务化的目的不仅是为了高并发，也从系统的可维护性(团队大了)、资源利用最大化(对服务进行差别化支撑)方面考虑。

面临的挑战主要是分布式事务方面的控制，可采用二阶段提交方式或是分布式事务容器实现分布式事务。

异步消息机制：

主要解决大并发写入瓶颈，利用消息对列对写入消息进行排队，待数据库进

行处理。

数据库表水平拆分：按必定规则将同一业务表的数据拆分到不一样的库/表中（如HASH），面临的挑战主要是跟业务关联性强、跨表的数据合并等。解决方案就是写

好代码吧。。。