微服务架构------如何解决高并发的问题
微服务架构中如何处理高并发问题
处理高并发的问题有3种方法:
1、异步
提高业务过程中可异步部分的占比,提高异步部分的执行效率
2、缓存
将频繁访问的数据存储在离业务处理逻辑更近的地方
3、池化
对于创建起来比较消耗资源的对象进行缓存
- 异步
按照异步操作出现的位置,分为两类:
1)在JVM内部,使用异步线程池或异步回调机制
异常线程池
java中可以通过Executors和ThreadPoolExecutor的方式创建线程池.一般使用Executor提供的方法
异步回调机制
请求发起方不需要等待服务放的响应返回,可以先去做别的业务,接口请求返回后,会自动调用预先埋设的回调函数,进行后续的业务处理
2)在JVM外部,使用消息队列,redis队列等中间件
典型的应用是优惠券发放和电商秒杀系统,如下图所示,只要消息队列抗住了压力,后面的订单,物流,库存系统就可以保持可用.
- 缓存
读数据:先读缓存,再读数据库
写数据:先操作数据库,再使缓存失效
缓存穿透:如果key对应的value一定不存在,并且对该key并发请求量很大,就会对后端系统造成很大的压力.
缓存雪崩:当缓存服务器重启或大量缓存集中在某一个时间段失效,在失效的时候会给后端系统带来很大压力
热点缓存热点缓存,可以考虑加入本地缓存缓解此类问题.
更过高并发地文章,请关注公众号:架构师Plus