接口限流的四种算法

固定窗口计数器算法

单位时间内超阈值的请求被丢弃。ide

单位时间内可接收的请求有可能为阈值的2倍。性能

例:10秒为一单位,阈值5.blog

第一个10秒的后5秒接收请求5个,中止接收。接口

第二个10秒的签5秒接收请求5个,中止接收。队列

两个窗口并无超过阈值,但先后两个5秒就是一单位时间,接收了10个请求。消息队列

滑动窗口计数器it

接口限流的四种算法

每5秒可经过5个请求。class

第6秒,前5秒的请求总和3<5,可经过2个请求,多的丢弃。请求

第七、8秒,前5秒的请求总和=5,不经过任何请求。

第9秒,前5秒的请求总和4<5,可经过1个请求,多的丢弃。

以此类推。

漏桶算法

其实就是生产-消费模式的消息队列。

全部请求都放入消息队列(桶)中,消费者以固定频率从桶内取请求并处理。请求数超过桶的阈值则丢弃或排队。

消费者获取请求的频率是固定的,在突发大流量请求的状况下,即使桶内请求已满且消费者自身性能足够的状况下,响应速度也没法提升。

令牌桶算法

令牌以固定频率生成并放入桶中,令牌满了则丢弃。

请求从桶内获取令牌,有令牌则执行,无令牌则丢弃。

相比漏桶,即使有突发大流量请求进来,只要有令牌就能够及时获得执行。

相关文章
相关标签/搜索