bloomfilter详解(布隆过滤器)

目录

描述

Bloom Filter是一种空间效率很高的随机数据结构,它利用位数组很简洁地表示一个集合,并能判断一个元素是否属于这个集合。Bloom Filter的这种高效是有必定代价的:在判断一个元素是否属于某个集合时,有可能会把不属于这个集合的元素误认为属于这个集合(false positive)。所以,Bloom Filter不适合那些“零错误”的应用场合。而在能容忍低错误率的应用场合下,Bloom Filter经过极少的错误换取了存储空间的极大节省。html

最近正好用到bloomfilter,因此查询了些资料,整理以下,本文将从原理与数学公式等角度进行讲述,涉及到基本初等函数、微积分与几率论的知识,相关的知识请各位自行获取,本文默认各个读者有必定的数学基础。node

算法描述

bloom filter是一个有m bits的bit array,每个bit位都初始化为0。而且定义有k个不一样的hash function,每一个都以uniform random distribution将元素hash到m个不一样位置中的一个。n为要添加到bloomfilter里面的元素。p为错误率。因此相关的参数为:m n k p(后续详细说明)web

不少人说,后端工程师是“添删改查”工程师,那么我也不能免俗,下面从“添删改查”角度来进行阐述:算法

  1. 添加过程:首先,用k个hash function将它hash获得bloom filter中k个bit位,以后将这k个bit位置1。后端

  2. 查询过程:即判断它是否在集合中,用k个hash function将它hash获得k个bit位。若这k bits全为1,则此元素在集合中;若其中任一位不为1,则此元素比不在集合中数组

  3. 删除过程:不容许remove元素,由于那样的话会把相应的k个bits位置为0,而其中颇有可能有其余元素对应的位。所以remove会引入false negative,这是绝对不被容许的。数据结构

  4. 修改过程:删除都不容许了,修改更不容许,读者自行脑补吧。dom

误判率计算和证实

下面高潮来了,用数学公式来进行推倒证实:假设布隆过滤器中的hash function使每一个元素都等几率地hash到m个slot中的任何一个,与其它元素被hash到哪一个slot无关(独立性)。若m为bit数,则对某一特定bit位在一个元素由某特定hash function插入时没有被置位为1的几率为:ide

image

从上式中能够看出,当m增大或n减少时,都会使得误判率减少,这也符合直觉。svg

如今计算对于给定的m和n,k为什么值时可使得误判率最低。设误判率为k的函数为:

image

这说明了若想保持某固定误判率不变,布隆过滤器的bit数m与被add的元素数n应该是线性同步增长的。

三 如何设计bloomfilter

首先,须要肯定须要add的元素的个数与但愿的偏差率,这个是整个系统须要输入的参数,其余的参数有系统自动计算,而且创建bloomfilter。

image

此几率为某bit位在插入n个元素后未被置位的几率。所以,想保持错误率低,布隆过滤器的空间使用率需为50%。

bloomfilter的各个参数的错误率
image

总结

公式推完了,你们能够看看,里面的数学公式基本用到了指数函数 对数函数 微积分求导法则 几率论的知识,你们能够补充看下课本。

参考文章

  1. http://www.cs.jhu.edu/~fabian/courses/CS600.624/slides/bloomslides.pdf
  2. http://pages.cs.wisc.edu/~cao/papers/summary-cache/node8.html#SECTION00053000000000000000