面试官:小明呀,redis 有几种数据结构呀?程序员
小明:8 种面试
面试官:那你说一下分别是什么?redis
小明:raw,int,ht,zipmap,linkedlist,ziplist,intset,skiplist,embstr数组
面试官:额,你在说什么?缓存
小明:在回答你的问题呀,这个问题我但是有过研究的,不会错的数据结构
面试官:好吧,今天的面试先到这里,你回去等通知吧源码分析
小明:...性能
上面发生的对话,究竟是面试官有问题,仍是小明有问题呢?实际上是都有问题的,面试官的提问不许确,小明的回答也不许确。测试
但能够看出,面试官的水平通常,由于听到这些名词并不知道小明说的是 redis 底层的编码类型,进而错失了深刻挖掘小明技术潜力的机会。而小明也有些自做聪明,忽略了面试官想考察的知识点,把本身最近看的一些皮毛拿出来秀了秀,结果致使了一场误会。优化
就着上面这个引子,咱们本篇文章就来聊聊,redis 中的数据结构那些事。
redis 源码选取的版本: 3.0.0
本篇文章的目标:知道 redis 的编码类型这个概念,并按照源码级的深度去理解为何要设置不一样的编码类型,但不会过多展开各类底层数据结构的细节
redis 的对象类型,就是面试中常考的 redis 数据类型有哪些 这个问题所问的准确说法,这个对于咱们这些只会面试不会开发的程序员来讲,简直再熟悉不过啦,就是字符串、哈希、列表、集合、有序集合,这个在 redis 源码中能找到准确的定义:
redis.c
/* Object types */ #define REDIS_STRING 0 #define REDIS_LIST 1 #define REDIS_SET 2 #define REDIS_ZSET 3 #define REDIS_HASH 4
好多人对 redis 数据结构的理解可能就止步于此了,但其实这只是 redis 对外暴露的抽象结构,其底层实现要看其编码类型来决定使用该编码类型对应的数据结构。
若是一个对象类型只有一种底层数据结构的实现方式,那么这个编码类型就彻底多余了,早期的 redis 的确没有这个概念。但后来为了优化性能,一种对象类型可能对应多种不一样的编码实现,因而乎关于 redis 底层数据结构的知识点,就开始复杂起来了。编码类型在 redis 源码中也有准肯定义:
redis.c
/* Objects encoding. Some kind of objects like Strings and Hashes can be * internally represented in multiple ways. The 'encoding' field of the object * is set to one of this fields for this object. */ #define REDIS_ENCODING_RAW 0 /* Raw representation */ #define REDIS_ENCODING_INT 1 /* Encoded as integer */ #define REDIS_ENCODING_HT 2 /* Encoded as hash table */ #define REDIS_ENCODING_ZIPMAP 3 /* Encoded as zipmap */ #define REDIS_ENCODING_LINKEDLIST 4 /* Encoded as regular linked list */ #define REDIS_ENCODING_ZIPLIST 5 /* Encoded as ziplist */ #define REDIS_ENCODING_INTSET 6 /* Encoded as intset */ #define REDIS_ENCODING_SKIPLIST 7 /* Encoded as skiplist */ #define REDIS_ENCODING_EMBSTR 8 /* Embedded sds string encoding */
其实咱们不用寻找任何额外的二手资料来解释编码类型的做用,直接看源码中的英文注释便可。
对象编码(编码类型):有些对象类型如字符串、哈希,其内部实现能够有多种方式,一个 redis 对象的 encoding 字段能够设置下面几个值来表示这个对象的底层编码类型
同一个对象类型,能够有不一样的编码类型做为底层实现。而同一种编码类型,也能够支持上层的多种对象类型。他们的关系以下:
读到这里你必定有至少三个疑问:
别急,这一部分只是让你知道,redis 面对使用者暴露的只是一个抽象的数据结构,并不表明其底层的具体实现。接下来带你慢慢深刻。
写 redis 的大牛也是程序员,总不能他给本身增长了代码的复杂性,又对性能提高毫无帮助吧?毕竟 redis 这种中间组件必须以性能来取胜同类产品。没错,就是为了 性能提高。
首先咱们来直观感觉一下同一对象对应不一样编码类型这一场景,这里用到了 object encoding xxx 这个 redis 命令来查看某一个 key 其 value 对象所使用的编码类型
127.0.0.1:6379> set number 100 OK 127.0.0.1:6379> object encoding number "int" 127.0.0.1:6379> set number "100" OK 127.0.0.1:6379> object encoding number "int" 127.0.0.1:6379> set number abc OK 127.0.0.1:6379> object encoding number "embstr" 127.0.0.1:6379> set number aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa OK 127.0.0.1:6379> object encoding number "raw" 127.0.0.1:6379> set number 9999999999999999999999999 OK 127.0.0.1:6379> object encoding number "embstr" 127.0.0.1:6379> set number 99999999999999999999999999999999999999999999999999999999999999 OK 127.0.0.1:6379> object encoding number "raw"
咱们用咱们最常使用的字符串作了测试,观察到其编码类型随着我设置的 value 值不一样而改变,我整理了以下表格来表示上面的测试结果
value | 编码类型 |
---|---|
100 | int |
"100" | int |
abc | embstr |
aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa | raw |
9999999999999999999999999 | embstr |
99999999999999999999999999999999999999999 | raw |
固然,我是由于知道字符串的编码类型的条件,踩专门选取了这些有表明性的值进行测试,咱们能够总结出一个规律
上面的实验咱们了解到,字符串对象的编码类型确实有三种:int,raw,embstr。
int 类型分析起来没什么意思,想一想就知道确定是能用整型存储的,尽可能用整型存储,必定比字符串方式更节省空间嘛。下面咱们分析一下,长字符串和短字符串的编码类型作了区分,这是为何呢?
不仅是字符串类型,包括哈希、列表这些对象类型,都是用一个统一的结构体 redisObject 来表示的。他的结构以下:
redis.h
typedef struct redisObject { unsigned type:4; // 对象类型 unsigned encoding:4; // 编码类型 void *ptr; // 值的指针 ...(省略一些不重要的字段) } robj;
占了 4 位的 type 表示 对象类型(5 种那个),一样占了 4 位的 encoding 字段表示 编码类型(8 种那个),指针字段 ptr 表示实际值的 内存地址。
若是该对象的编码类型为整数(encoding=REDIS_ENCODING_INT),那么这个 ptr 指向的将会是一个 long 类型的变量。
util.c
if (!string2ll(s,slen,&llval)) return 0; ... *lval = (long)llval; return 1;
object.c
... o->ptr = (void*) value;
若是该对象的编码类型为 raw 或者 embstr,那么这个 ptr 指向的将会是一个 sdshdr 结构的变量
sds.h
struct sdshdr { unsigned int len; // 字符串长度 unsigned int free; // buf空闲数 char buf[]; // 字符数组 };
既然都是指向同一个结构,那是怎么优化的呢?那就得进入以下两个方法具体看看了
object.c
robj *createStringObject(char *ptr, size_t len) { if (len <= 39) return createEmbeddedStringObject(ptr,len); else return createRawStringObject(ptr,len); }
你看,这段代码很是清晰,字符串长度 <=39 时,就建立 embstr 类型的字符串对象,不然建立 raw 类型的字符串对象。那么这两个建立方式的区别,必定就隐藏在这两个方法里,咱们点进去!
embstr 类型
robj *createEmbeddedStringObject(char *ptr, size_t len) { robj *o = zmalloc(sizeof(robj)+sizeof(struct sdshdr)+len+1); struct sdshdr *sh = (void*)(o+1); o->type = REDIS_STRING; o->encoding = REDIS_ENCODING_EMBSTR; o->ptr = sh+1; ... (一些赋值操做) return o; }
raw 类型
robj *createRawStringObject(char *ptr, size_t len) { return createObject(REDIS_STRING,sdsnewlen(ptr,len)); } sds sdsnewlen(const void *init, size_t initlen) { ... struct sdshdr *sh = zmalloc(sizeof(struct sdshdr)+initlen+1); ... } robj *createObject(int type, void *ptr) { robj *o = zmalloc(sizeof(*o)); o->type = type; o->encoding = REDIS_ENCODING_RAW; o->ptr = ptr; ...(一些赋值操做) return o; }
对于阅读源码比较多的同窗,可能马上就察觉到了他们的区别。其实很简单,就是 raw 类型这种方式,为 redisObject 和 sdshdr 结构分别申请了内存空间,而 embstr 只申请了一次内存空间,而后将这两个结构紧挨着放。除此以外没有其余任何区别了。直观图以下:
看到这,一切就都解释通了,很是简单,就只是申请内存这一步的区别而已。但对于咱们这些什么简单的事情都要包装成高端大气话术的程序员来讲,仍是要想办法装一下,咱们总结出使用 embstr 编码相比于 raw 编码的好处:
怎么样,源码级的理解,加上迷倒面试官的总结话术,够意思吧。
上个部分咱们经过字符串,观察了不一样的编码类型,也理解了为何要有不一样的编码类型的实现。接下来咱们总结下其余的对象与编码类型,原理就不深刻源码分析了,和字符串的基本思想是同样的。
因为不展开讲解,纯记忆的东西我以为用最干净的办法描述给你们便可,无多余部分。具体数据结构的细节,我会用其余文章来说解。
此时,通过一番修炼的小明,再次遇到了一位专业的面试官
专业的面试官:小明呀,redis 有几种数据结...
进化的小明:面试官面试官,你这个问题分两种状况,redis 的对象类型,也就是咱们常说的对外暴露的数据类型,有 5 种,分别是.... 底层对应的编码类型,在 3.0.0 源码中有 8 种,分别是....
专业的面试官:谁让你抢答了?
进化的小明:...
专业的面试官:行了,今天的面试先到这里,你回去等通知吧
进化的小明:...
完