经过学习Redis服务端设计这篇文章,相信你们对redis的总体架构有了最基本的认识,下面来学习Redis的基本结构,你们知道redis性能很高的缘由其中之一即是数据结构简单。redis的数据结构支持多种类型,在内存使用方面处理的可谓是“锱铢必较”。那么redis是如何设计的呢?c++
如今经过服务接收客户端请求及处理流程为例进行分析redis的基础结构 以“set lemon coder”为例:redis
经过上图,能够看到服务在处理客户端请求的时候 主要为两个步骤 1. 处理输入流(解析请求) 2. 处理命令(将请求存储db,以写命令为例)bash
下面经过源码来分析 服务端实现的总体流程,本文源码基于Redis版本5.0.5数据结构
第一个须要了解的是客户端对象结构,每个客户端链接,服务端都会建立一个client来与其对应。架构
src/server.h
/* 服务端建立的客户端对象,只保留了本文须要的字段 */
typedef struct client {
sds querybuf; /* 输入缓冲区 */
int argc; /* 参数的个数 */
robj **argv; /* 具体参数 */
struct redisCommand *cmd, *lastcmd; /* 命令处理方法 */
} client;
复制代码
下面根据这几个字段的处理来分析redis服务如何处理输入流的函数
实现方法为processInlineBuffer()源码分析
querybuf为sds类型性能
argv为robj类型学习
src/networking.c
processInlineBuffer(){
/* 使用\r\n分割参数 */
querylen = newline-(c->querybuf+c->qb_pos);
aux = sdsnewlen(c->querybuf+c->qb_pos,querylen);
// 将入参进行拆分为参数
argv = sdssplitargs(aux,&argc);
/* 为全部的参数建立redisObject对象 */
for (c->argc = 0, j = 0; j < argc; j++) {
if (sdslen(argv[j])) {
// 将参数进行转换为robj
c->argv[c->argc] = createObject(OBJ_STRING,argv[j]);
c->argc++;
} else {
sdsfree(argv[j]);
}
}
}
复制代码
src/object.c
robj *createObject(int type, void *ptr) {
robj *o = zmalloc(sizeof(*o));
o->type = type;
o->encoding = OBJ_ENCODING_RAW;
o->ptr = ptr;
o->refcount = 1;
/* 设置lru信息*/
if (server.maxmemory_policy & MAXMEMORY_FLAG_LFU) {
o->lru = (LFUGetTimeInMinutes()<<8) | LFU_INIT_VAL;
} else {
o->lru = LRU_CLOCK();
}
return o;
}
复制代码
查找命令对应的处理函数,好比set会寻找到setCommandui
对key进行robj+sds类型转换处理
key保存到全局字典dict中
value放入dict中
src/server.c
int processCommand(client *c) {
/* 当前文件下的 setCommand */
c->cmd = c->lastcmd = lookupCommand(c->argv[0]->ptr);
/* 执行命令 */
call(c,CMD_CALL_FULL);
return C_OK;
}
复制代码
setCommand为set指令的处理方法,若是指令为hset,那么对应的方法就是hsetCommand
src/t_string.c
/* SET key value [NX] [XX] [EX <seconds>] [PX <milliseconds>] */
void setCommand(client *c) {
/* 判断过时时间设置等逻辑*/
.....
/* 尝试类型encoding */
c->argv[2] = tryObjectEncoding(c->argv[2]);
/* 执行基本命令 */
setGenericCommand(c,flags,c->argv[1],c->argv[2],expire,unit,NULL,NULL);
}
复制代码
设置key value到字典中
若是有过时属性,设置过时信息
void setGenericCommand(client *c, int flags, robj *key, robj *val, robj *expire, int unit, robj *ok_reply, robj *abort_reply) {
/* 设置key val 到dict中*/
setKey(c->db,key,val);
/* 若是有过时属性,设置过时信息 */
if (expire) setExpire(c,c->db,key,mstime()+milliseconds);
addReply(c, ok_reply ? ok_reply : shared.ok);
}
复制代码
此处为源码3中setKey的实现,流程为 1. 插入kv(若是key已经存在覆盖设值),2. 移除过时信息,其中插入字典的方法为dbAdd,其中包含sdsup方法即选择合适的结构。
src/db.c
void setKey(redisDb *db, robj *key, robj *val) {
if (lookupKeyWrite(db,key) == NULL) {
dbAdd(db,key,val);
} else {
dbOverwrite(db,key,val);
}
incrRefCount(val);
removeExpire(db,key);
signalModifiedKey(db,key);
}
src/db.c
void dbAdd(redisDb *db, robj *key, robj *val) {
sds copy = sdsdup(key->ptr);
int retval = dictAdd(db->dict, copy, val);
}
复制代码
src/db.c
void dbAdd(redisDb *db, robj *key, robj *val) {
sds copy = sdsdup(key->ptr);
int retval = dictAdd(db->dict, copy, val);
serverAssertWithInfo(NULL,key,retval == DICT_OK);
if (val->type == OBJ_LIST ||
val->type == OBJ_ZSET)
signalKeyAsReady(db, key);
if (server.cluster_enabled) slotToKeyAdd(key);
}
src/sds.c
/* 对sds类型进行转换为合适的结构 */
sds sdsdup(const sds s) {
return sdsnewlen(s, sdslen(s));
}
src/dict.c
/* 添加一个元素到字典中 */
int dictAdd(dict *d, void *key, void *val)
{
dictEntry *entry = dictAddRaw(d,key,NULL);
if (!entry) return DICT_ERR;
dictSetVal(d, entry, val);
return DICT_OK;
}
src/dict.h
/* 对val转换为合适的结构 */
define dictSetVal(d, entry, _val_)
do {
if ((d)->type->valDup)
(entry)->v.val = (d)->type->valDup((d)->privdata, _val_);
else
(entry)->v.val = (_val_);
} while(0)
复制代码
以上就是服务处理请求的流程,主要包含:处理输入流(解析参数)、存储(确认类型、插入全局字典)。
经过上面的对过时时间的设置,会对过时时间进行removeExpire(db,key)操做,操做完成以后会检测是否配置了过时时间,若是没有设置则不过时。看个示例:
127.0.0.1:6379> set lemon coder ex 100
OK
127.0.0.1:6379> pttl lemon
(integer) 95426
127.0.0.1:6379> set lemon coder
OK
127.0.0.1:6379> pttl lemon
(integer) -1
复制代码
经过上面的针对字符串的setCommand命令的分析,能够看到查找命令过程,不一样的指令会对应不一样的处理流程,分别建立不一样的类型,并根据值的大小及个数选择合适的数据结构。下面来看下redis有哪些类型和数据结构,以及他们之间的关系。
类型
src/server.h:492
#define OBJ_STRING 0 /* String object. */
#define OBJ_LIST 1 /* List object. */
#define OBJ_SET 2 /* Set object. */
#define OBJ_ZSET 3 /* Sorted set object. */
#define OBJ_HASH 4 /* Hash object. */
复制代码
数据结构(内部编码)
/* 内部编码*/
#define OBJ_ENCODING_RAW 0 /* Raw 字符串 */
#define OBJ_ENCODING_INT 1 /* int 字符串(所有为数字的状况) */
#define OBJ_ENCODING_HT 2 /* 哈希表 */
#define OBJ_ENCODING_ZIPMAP 3 /* zipmap */
#define OBJ_ENCODING_LINKEDLIST 4 /* linkedlist */
#define OBJ_ENCODING_ZIPLIST 5 /* 压缩列表ziplist */
#define OBJ_ENCODING_INTSET 6 /* intset */
#define OBJ_ENCODING_SKIPLIST 7 /* 跳跃列表skiplist */
#define OBJ_ENCODING_EMBSTR 8 /* 字符串 */
#define OBJ_ENCODING_QUICKLIST 9 /* 快速列表 quickList(linkedList+ziplist) */
#define OBJ_ENCODING_STREAM 10 /* stream */
复制代码
对应关系
上图为redis的结构及内部编码,后续做者的文章将详细介绍每一种结构,以及每一种结构如何进行编码的转换和扩容及缩容。
以上就是本篇文章的所有内容,感谢您的阅读,若是您在其中发现任何不正确或者不严谨的描述,欢迎指正。
原文地址:Redis数据结构概览(源码分析)
欢迎关注做者公众号: