【一天一个知识点系列】- Redis Cluser之数据分布

数据分布

简述

• 分布式数据库首先要解决把整个数据集按照分区规则映射到多个节点的问题，即把数据集划分到多个节点上，每一个节点负责总体数据的一个子集

分区及限制

分区规则

• 常见的分区规则
  • 顺序分区
  • 哈希分区，Redis Cluser使用此种分区规则

• 哈希分区和顺序分区对比
• 分布式存储数据分区图

① 哈希分区类型

• 1. 节点取余分区
  • 规则：使用特定的数据，如Redis的键或用户ID，再根据节点数量N使用公式：hash（key）%N计算出哈希值，用来决定数据映射到哪个节点上
  • 优势：简单性
  • 缺点： 当节点数量变化时，如扩容或收缩节点，数据节点映射关系须要从新计算，会致使数据的从新迁移
  • 使用场景：数据库的分库分表规则，通常采用预分区的方式，提早根据数据量规划好分区数，好比划分为512或1024张表，保证可支撑将来一段时间的数据量，再根据负载状况将表迁移到其余数据库中，扩容时一般采用翻倍扩容，避免数据映射所有被打乱致使全量迁移的状况

  • 翻倍扩容迁移约50%数据

• 2. 一致性哈希分区
  • 规则：为系统中每一个节点分配一个token，范围通常在0~232，这些token构成一个哈希环。数据读写执行节点查找操做时，先根据key计算hash值，而后顺时针找到第一个大于等于该哈希值的token节点
  • 优势：加入和删除节点只影响哈希环中相邻的节点，对其余节点无影响
  • 缺点：
    • 加减节点会形成哈希环中部分数据没法命中，须要手动处理或者忽略这部分数据
    • 当使用少许节点时，节点变化将大范围影响哈希环中数据映射
    • 普通的一致性哈希分区在增减节点时须要增长一倍或减去一半节点才能保证数据和负载的均衡
  • 使用场景：
    • 缓存
    • 大量数据节点的分布式方案

  • 一致性哈希数据分布

• 3. 虚拟槽分区，Redis Cluser使用此种分区类型
  • 规则：虚拟槽分区巧妙地使用了哈希空间，使用分散度良好的哈希函数把全部数据映射到一个固定范围的整数集合中，整数定义为槽（slot），这个范围通常远远大于节点数，好比Redis Cluster槽范围是0~16383。槽是集群内数据管理和迁移的基本单位。采用大范围槽的主要目的是为了方便数据拆分和集群扩展

    • 槽集合与节点关系

② Redis数据分区

• Redis Cluser采用虚拟槽分区， 全部的键根据哈希函数映射到0~16383整数槽内， 计算公式： slot=CRC16（key） &16383。 每个节点负责维护一部分槽以及槽所映射的键值数据
  • 特色
    • 解耦数据和节点之间的关系， 简化了节点扩容和收缩难度
    • 节点自身维护槽的映射关系， 不须要客户端或者代理服务维护槽分区元数据
    • 支持节点、 槽、 键之间的映射查询， 用于数据路由、 在线伸缩等场景

  • 使用CRC16（key） &16383将键映射到槽上

③ Redis集群功能限制

• Redis集群相对单机在功能上存在一些限制
  • key批量操做支持有限。如mset、 mget， 目前只支持具备相同slot值的key执行批量操做。 对于映射为不一样slot值的key因为执行mget、 mget等操做可能存在于多个节点上所以不被支持
  • key事务操做支持有限，只支持多key在同一节点上的事务操做，当多个key分布在不一样的节点上时没法使用事务功能
  • key做为数据分区的最小粒度， 所以不能将一个大的键值对象如hash、 list等映射到不一样的节点
  • 不支持多数据库空间，单机下的Redis能够支持16个数据库， 集群模式下只能使用一个数据库空间， 即db0
  • 复制结构只支持一层， 从节点只能复制主节点， 不支持嵌套树状复制结构

总结

• 数据分区是分布式存储的核心， 理解和灵活运用数据分区规则对于掌握Redis Cluster很是有帮助