限流算法的原理

为了防止无良网站的爬虫抓取文章,特此标识,转载请注明文章出处。LaplaceDemon/ShiJiaqi。html

http://www.javashuo.com/article/p-qvsokmha-eb.html 算法

 

 

 

计数器算法

在必定时间内,对处理的请求数进行计数,每次到达时间临界点则计数器清零。在必定时间间隔内,若计数器数字超限,则进行限流。markdown

img

该算法的问题是,在两端临界点附加可能出现两倍的流速。post

 

滑动窗口算法

基于计数器算法那,把时间间隔分片。例如服务限流每秒处理100个请求,把1秒分为10个窗口。每100毫秒移动一次,内存中保留每次的请求次数。每次移动判断一下总次数是否超限。网站

当滑动窗口的格子划分的越多,滑动窗口的滚动就越平滑,限流的统计就会越精确。spa

img

滑动窗口算法能够有效规避计数器算法中时间临界点问题。但实现起来相对比较复杂。3d

Hystrix的限流基于滑动窗口算法实现。htm

 

令牌桶算法

系统已一个恒定的速率往桶放入令牌。如有请求须要处理,则从令牌桶里获取令牌,当桶里没有令牌,则拒绝服务。blog

 

令牌桶算法并不能实际的控制速率。好比,10秒往桶里放入10000个令牌桶,即10秒内只能处理10000个请求,那么qps就是100。但这种模型能够出现1秒内把10000个令牌所有消费完,即qps为10000。因此令牌桶算法实际是限制的平均流速。具体控制的粒度以放令牌的间隔和每次的量来决定。若想要把流速控制的更加稳定,就要缩短间隔时间。内存

Google Guava中的RateLimter就是利用的令牌桶原理。

 

漏桶算法

水滴先进入漏桶,漏桶以必定速度向外出水。当水流入速度过大,桶会直接溢出。

即Request进入一个固定容量的Queue,若Queue满,则拒绝新的Request,能够阻塞,也能够抛异常。

这种模型其实很是相似MQ的思想,利用漏桶削峰填谷,使得Queue的下游具备一个稳定流量。

 

 

为了防止无良网站的爬虫抓取文章,特此标识,转载请注明文章出处。LaplaceDemon/ShiJiaqi。

http://www.javashuo.com/article/p-qvsokmha-eb.html 

相关文章
相关标签/搜索