Redis哈希表总结

本文及后续文章,Redis版本均是v3.2.8

在文章《Redis 数据结构之dict》《Redis 数据结构之dict(2)》中,从代码层面作了简单理解。总感受思路的不够条理性,特开一篇文章把哈希表中几个知识点串联下。算法

1、先来回顾下哈希表结构定义

/**数组

 * 哈希表bash

 */服务器

typedef struct dictht {数据结构

    // 哈希表节点指针数组(俗称桶,bucket)函数

    dictEntry **table;性能

    // 指针数组的大小ui

    unsigned long size;设计

    // 指针数组的长度掩码,用于计算索引值3d

    unsigned long sizemask;

    // 哈希表现有的节点数量

    unsigned long used;

} dictht;

 

table属性是一个数组,数组中的每一个元素都是一个指向dict.h/dictEntry结构的指针,每一个dictEntry结构保存着一个键值对。size属性记录了哈希表的大小,也便是table数组的大小,而used属性则记录了哈希表目前已有节点(键值对)的数量。sizemask属性的值老是等于size-1,这个属性和哈希值一块儿决定一个键应该被放到table数组的哪一个索引上面。

一个大小为4的空哈希表结构:

图1-1 大小为4的空哈希表

哈希表节点结构定义

/**

 * 哈希表节点

 */

typedef struct dictEntry {

    // 键

    void *key;

    // 值

    union {

        void *val;

        uint64_t u64;

        int64_t s64;

    } v;

    // 链日后继节点

    struct dictEntry *next;

} dictEntry;

 

哈希表节点使用dictEntry结构表示,每一个dictEntry结构都保存着一个键值对。

key属性保存着键值对中的键,而v属性则保存着键值对中的值,其中键值对的值能够是一个指针,或者是一个uint64t整数,又或者是一个int64t整数。

next属性是指向另外一个哈希表节点的指针,这个指针能够将多个哈希值相同的键值对链接在一次,以此来解决键冲突(collision)的问题。

 

2、哈希算法

当要将一个新的键值对添加到字典里面时,程序须要先根据键值对的键计算出哈希值和索引值,而后再根据索引值,将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。

 

Redis计算哈希值和索引值的方法以下:

  • 使用字典设置的哈希函数.计算键key的哈希值

       hash=dict->type->hashFunction(key);

  • 使用哈希表的sizemask属性和哈希值,计算出索引值

  • 根据状况不一样,ht[x]能够是ht[0]或者ht[1]

       index=  hash&dict->ht[x].sizemask 

 

举个例子,对于空的字典来讲,若是咱们要将一个键值对k0和v0添加到字典里面。

那么程序会先使用语句:

hash=dict->type->hashFunction(k0);

计算键k0的哈希值。

假设计算得出的哈希值为8,那么程序会继续使用语句:

index = hash&dict->ht[0] .sizemask = 8 & 3 = 0;

计算出键k0的索引值0,这表示包含键值对k0和v0的节点应该被放置到哈希表数组的索引0位置上。

空的字典、添加键值对k0和v0的结构,以下图所示。

图1-2空字典

图1-3 添加键值对K0和V0以后的字典

 

3、解决键冲突

当有两个或以上数量的键被分配到了哈希表数组的同一个索引上面时,咱们称这些键发生了冲突(collision)。

Redis的哈希表使用链地址法(separatechaining)来解决键冲突,每一个啥希表节点都有一个next指针,多个哈希表节点能够用next指针构成一个单向链表,被分配到同一个索 引上的多个节点能够用这个单向链表链接起来,这就解决了键冲突的问题 。

举个例子,假设程序要将键值对k2和v2添加到图1-4所示的哈希表里面,而且计算得出k2的索引值为2,那么键k1和k2将产生冲突,而解决冲突的办法就是使用next指针将键k2和k1所在的节点链接起来,如图1-5所示。

由于dictEntry节点组成的链表没有指向链表表尾的指针,因此为了速度考虑,程序老是将新节点添加到链表的表头位置(复杂度为0(1)),排在其余已有节点的前面。

图1-4 一个包含两个键值对的哈希表

图1-5 使用链表解决k1和k2的冲突

 

4、Rehash

上两篇文章提到dict结构中ht属性是一个包含两个项的数组,数组中的每一个项都是一个dictht晗希表,通常状况下,字典只使用ht[0)哈希表,ht[1]哈希表只会在对ht[0]哈希表进行rehash时使用。除了ht[1]以外,另外一个和rehash有关的属性就是rehashidx,它记录了rehash目前的进度,若是目前没有在进行rehash,那么它的值为-1。

咱们看下一个普通状态下的字典即没有进行rehash的字典:

图1-6 没有进行rehash的字典

随着操做的不断执行,哈希表中保存的键值对会逐渐地增多或者减小,为了让哈希表的负载因子(loadfactor)维持在一个合理的范围以内,当哈希表保存的键值对数量太多或者太少时,程序须要对哈希表的大小进行相应的扩展或者收缩 。若是节点数量比哈希表的大小要大不少的话,那么哈希表就会退化成多个链表,哈希表自己的性能优点便不复存在。这个就是咱们上篇文章中说到的哈希表扩展和收缩策略。

扩展和收缩哈希表的工做能够经过执行   rehash  (从新散列)操做来完成, Redis对字典的哈希表执行rehash的步骤以下:

  • 为字典的ht[1]哈希表分配空间,这个哈希表的空间大小取决于要执行的操

    做,以 及ht[0]当前包含的键值对数量(也便是ht[0].used属性的值):

        一、若是执行的是扩展操做,那么ht[1]的大小为第一个大于等于ht[0].used*2

的2"(2的n次方幕)。

        二、若是执行的是收缩操做,那么ht[1]的大小为第一个大于等于ht[0].used的2"(2的n次方幕)。 

  • 将保存在ht[0]中的全部键值对rehash到ht[1]上面:  rehash指的是从新计

算键的哈希值和索引值,而后将键值对放置到ht[1]晗希表的指定位置上。

  • 当ht[0]包含的全部键值对都迁移到了ht[1)以后(ht[0]变为空表),释放ht[0],将ht[1]设置为ht[0],并在ht[1]新建立一个空白哈希表,为下一次rehash作准备。

举个例子,咱们对下图1-7所示字典的ht[0]进行扩展操做,那么程序执行的过程是怎么样一个过程哪?

图1-7 执行rehash以前的字典

一、ht[0].used当前的值为4,4*2=8,而8(23)刚好是第一个大于等于4的2的n次方,因此程序会将ht[l]晗希表的大小设置为8。图1-8展现了ht[1]在分配空间以后,字典的样子。

图1-8

2)将ht[0]包含的四个键值对都rehash到ht[1],如图1-9所示 

图1-9

3)释放ht[0],并将ht[l]设置为ht[0],而后为ht[l]分配一个空白哈希表,如

图1-10所示。至此,对哈希表的扩展操做执行完毕,程序成功将哈希表的大小从原来的 4改成了如今的8。

图1-10

4、渐进式rehash

扩展或收缩哈希表须要将ht[0]里面的全部键值对rehash到ht[1] 里面,可是,这个rehash动做并非一次性、集中式地完成的,而是分屡次、渐进式地完成的。

这样作的缘由在于,若是  ht[0]里只保存着四个键值对,那么服务器能够在瞬间就将这些键值对所有rehash到ht[1]。可是,若是哈希表里保存的键值对数量几千甚至上万百万个键值对,那么要一次性将这些键值对所有rehash到ht[1]的话,庞大的计算量可能会致使服务器在一段时间内中止服务。

所以,为了不rehash对服务器性能形成影响,服务器不是一次性将ht[0]里面的全部键值对所有rehash到ht[1],而是分屡次、渐进式地将ht[0]里面的键值对慢慢地rehash到ht[1]。

 

如下是哈希表渐进式rehash的详细步骤:

一、为ht[1]分配空间,让字典同时持有ht[0]和ht[1]两个哈希表。

二、在字典中维持一个索引计数器变量rehashidx,并将它的值设置为0 ,表示rehash工做正式开始。

三、在rehash进行期间,每次对字典执行添加、删除、查找或者更新操做时,程序除了执行指定的操做之外,还会顺带将ht[0]哈希表在rehashidx索引上的全部键值对rehash到ht[1]。当rehash工做完成以后,程序将rehashidx属性的值增长1。

四、随着字典操做的不断执行,最终在某个时间点上,ht[0]的全部键值对都会被rehash至ht[1],这时程序将rehashidx属性的值设为-1,表示rehash操做已完成。

渐进式rehash的好处在于它采起分而治之的方式,将 rehash键值对所需的计算工做均摊到对字典的每一个添加、删除、查找和更新操做上,从而避免了集中式  rehash而带来的庞大计算量。

 

由于在进行渐进式rehash的过程当中,字典会同时使用ht[0]和ht[l]两个哈希表,因此在渐进式rehash进行期间,字典的删除(delete)、查找(find)、更新(update)等操做会在两个哈希表上进行。例如,要在字典里面查找一个键的话,程序会先在ht[0]里面进行查找,若是没找到的话,就会继续到ht[l]里面进行查找,诸如此类。

另外,在渐进式rehash执行期间,新添加到字典的键值对一概会被保存到ht[1]里面,而ht[0]则再也不进行任何添加操做,这一措施保证了ht[0]包含的键值对数量会只减不增,并随着rehash操做的执行而最终变成空表。

 

图1-11至图1-16展现了一次完整的渐进式rehash过程,注意观察在整个rebash过程当中,字典的 rehashidx属性是如何变化的?

图1-11 准备开始rehash

图1-12 rehash索引0上的键值对

图1-13 rehash索引1上的键值对

图1-14 rehash索引2上的键值对

图1-15 rehash索引3上的键值对

图1-16 rehash执行完毕

 

参考:《Redis设计与实践》

-EOF-

相关文章
相关标签/搜索