限速是大型服务里面必备的功能，目的是对并发控制和请求进行限速来保护系统，让系统不会由于单位时间内的请求数量太大，被打爆。对于超过了限速的那些请求，处理方法每每是：直接拒绝服务，排队等待，或者降级处理。
算法
对于限速来讲，最经常使用的两个算法是：令牌桶算法和漏桶算法，下面咱们便来看下它们是怎么回事。
api
1、令牌桶：缓存
令牌桶这种控制机制基于令牌桶中是否存在令牌来指示何时能够发送流量。令牌桶中的每个令牌都表明一个字节(对于流量整形来讲表明一个bit，就traffic policing来说表明一个byte。）。若是令牌桶中存在令牌，则容许发送流量；而若是令牌桶中不存在令牌，则不容许发送流量。所以，若是突发门限被合理地配置而且令牌桶中有足够的令牌，那么流量就能够以峰值速率发送。服务器
https://baike.baidu.com/item/token%20bucket/4315253微信
令牌桶的工做过程：
1.令牌根据时间匀速的产生令牌数量，这里假设是r，存入到令牌桶中.
并发
2.令牌桶在初始化的时候，会分配必定数量的令牌数capicity。
ui
3.消息到来以后，会从令牌桶里面取出令牌消费掉，这里假设是d，若是获取不到令牌的话，就直接触发限速保护策略，每每是直接丢弃。
spa
当前时间t内能够消费的令牌数量为：.net
当前令牌桶剩余的令牌数(这里最大是capicity) + r*t
blog
2、漏桶
漏桶能够看做是一个带有常量服务时间的单服务器队列，若是漏桶（包缓存）溢出，那么数据包会被丢弃。
漏桶算法强制一个常量的输出速率而无论输入数据流的突发性。当输入空闲时，该算法不执行任何动做。
https://baike.baidu.com/item/%E6%BC%8F%E6%A1%B6%E7%AE%97%E6%B3%95
漏斗有一个入水口，一个出水口，出水口按照必定的速率出水，而且有一个最大出水速率。
1.入水速率小于等于出水速率的时候，漏斗内不会积水；
2.入水速率大于出水速率的时候，漏斗内会存在积水。
在漏斗内有水的状况下：
出水口按照最大速率出水；
漏斗未满的状况下，多出来的水会存在漏斗中；
漏斗满了的话，还有水进入漏斗，水会溢出。
3、两种算法的区别
这两种算法的主要区别在于“漏桶算法”可以强行限制数据的传输速率，而“令牌桶算法”在可以限制数据的平均传输数据外，还容许某种程度的突发传输。在“令牌桶算法”中，只要令牌桶中存在令牌，那么就容许突发地传输数据直到达到用户配置的门限，所以它适合于具备突发特性的流量。
本文分享自微信公众号 - 灰子学技术（huizixueguoxue）。
若有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一块儿分享。