漏桶算法与令牌桶算法在表面看起来相似,很容易将二者混淆。但事实上,这二者具备大相径庭的特性,且为不一样的目的而使用。漏桶算法与令牌桶算法的区别在于:l 漏桶算法可以强行限制数据的传输速率。l 令牌桶算法可以在限制数据的平均传输速率的同时还容许某种程度的突发传输。须要说明的是:在某些状况下,漏桶算法不可以有效地使用网络资源。由于漏桶的漏出速率是固定的,因此即便网络中没有发生拥塞,漏桶算法也不能使某一个单独的数据流达到端口速率。所以,漏桶算法对于存在突发特性的流量来讲缺少效率。而令牌桶算法则可以知足这些具备突发特性的流量。一般,漏桶算法与令牌桶算法结合起来为网络流量提供更高效的控制。
算法
1、问题描述
某天A君忽然发现本身的接口请求量忽然涨到以前的10倍,没多久该接口几乎不可以使用,并引起连锁反应致使整个系统崩溃。如何应对这种状况呢?生活给了咱们答案:好比老式电闸都安装了保险丝,一旦有人使用超大功率的设备,保险丝就会烧断以保护各个电器不被强电流给烧坏。同理咱们的接口也须要安装上“保险丝”,以防止非预期的请求对系统压力过大而引发的系统瘫痪,当流量过大时,能够采起拒绝或者引流等机制。 后端
2、经常使用的限流算法
经常使用的限流算法有两种:漏桶算法和令牌桶算法。微信
漏桶算法思路很简单,水(请求)先进入到漏桶里,漏桶以必定的速度出水,当水流入速度过大会直接溢出,能够看出漏桶算法能强行限制数据的传输速率。网络
图1 漏桶算法示意图架构
对于不少应用场景来讲,除了要求可以限制数据的平均传输速率外,还要求容许某种程度的突发传输。这时候漏桶算法可能就不合适了,令牌桶算法更为适合。如图2所示,令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而若是请求须要被处理,则须要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。spa
图2 令牌桶算法示意图.net
并不能说明令牌桶必定比漏洞好,她们使用场景不同。令牌桶能够用来保护本身,主要用来对调用者频率进行限流,为的是让本身不被打垮。因此若是本身自己有处理能力的时候,若是流量突发(实际消费能力强于配置的流量限制),那么实际处理速率能够超过配置的限制。而漏桶算法,这是用来保护他人,也就是保护他所调用的系统。主要场景是,当调用的第三方系统自己没有保护机制,或者有流量限制的时候,咱们的调用速度不能超过他的限制,因为咱们不能更改第三方系统,因此只有在主调方控制。这个时候,即便流量突发,也必须舍弃。由于消费能力是第三方决定的。orm
总结起来:若是要让本身的系统不被打垮,用令牌桶。若是保证被别人的系统不被打垮,用漏桶算法。blog
本文分享自微信公众号 - 互联网后端架构(fullstack888)。
若有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一块儿分享。接口