Apache Cassandra 数据存储模型

咱们在《Apache Cassandra 简介》文章中介绍了 Cassandra 的数据模型相似于 Google 的 Bigtable，对应的开源实现为 Apache HBase，并且咱们在 《HBase基本知识介绍及典型案例分析》 文章中简单介绍了 Apache HBase 的数据模型。按照这个思路，Apache Cassandra 的数据模型应该和 Apache HBase 的数据模型很相似，那么这二者的数据存储模型是否是同样的呢？本文将为你们解答这些问题。咱们从 KeySpace -> Table -> Partition -> Row -> Cell 顺序介绍。本文基于 Apache Cassandra 3.11.4 源码进行介绍的，不一样版本可能有些不同。

Table & KeySpace

Cassandra 中的 KeySpace 概念和 RDBMS 里面的 DataBase 概念很相似，一个 KeySpace 包含多张表，通常将有关联的数据表放到同一个 KeySpace 下面。KeySpace 建立的时候能够指定副本策略，副本因子以及是否启用 CommitLog 机制（相似 HBase 中的 WAL）。

Cassandra 中表的概念和 RDBMS 很相似。不一样的是在 Cassandra 中属于同一张表的数据在物理上是分布在不一样节点上存储的，同一张表由多个 Partition 组成。

Partitions

Cassandra 通常是由多台节点组成的，每台节点负责必定范围的，若是使用 Murmur3hash 的时候，每一个节点负责的 Token 相似于下面那样：

因此 Token 范围为 -9223372036854775808 ~ -4611686018427387904 的数据存储在 A 节点；同理，Token 范围为 -4611686018427387903 ~ -1 之间的数据存储在 B节点，其余相似；每一个 Token 范围由多个 Partition 构成，每一个 Partition 由一行或多行数据组成，Partition 相似下面的：

其中，username 为 Partition key；type 为 Clustering key。那么在这种状况下，username = iteblog 的两条数据构成一个 Partition；另外两条构成分别构成两个 Partitions。在底层存储每一个 Partition 格式以下：

从上图能够看出，一个 Partition 是由 PartitionHeader、零个或多个 Row （格式在后面介绍）以及 EndPartition 三部分组成的。EndPartition 这个用于标记 Partition 结束，只占用一个字节，并使用 0x00000001 标记。PartitionHeader 的格式以下：

• Partition Key 就是咱们建表的时候指定的，因为 Partition Key 长度使用两字节表示，因此 Cassandra 中 Partition Key 长度必须小于等于 65535 字节。
• Local Delete Time 是删除发生时的服务器时间（以秒为单位），与 gc_grace_seconds 进行比较以肯定什么时候能够清除它。当与 TTL 一块儿使用时，localDeletionTime 是数据到期的时间。共占四个字节；
• Marked For Delete At 记录删除的时间戳，时间戳小于此值的数据被视为已删除，共占用八字节。
• Static Row：若是咱们建表的时候有 Static 字段，那么标记为 Static 的列会在这里存储。从这里也能够看出，partition key 相同的数据 Static 列只会保存一份数据。

在底层存储中，多个 Partition 组成一个 SSTable（Sorted-String Table）文件。那么同一个 SSTable 文件中的数据数据是如何组织的呢？答案是按照 Partition Key 计算获得的 Token 升序排序的。

Row

上面看出，Partition 里面包含了零个或多个 Row，这些 Row 对应的 Partition Key 是同样的。非 Static 的 Row 在磁盘存储的格式以下：

上面除了 flags 、Row Body Size 、 Previous Row Body Size 以及 Primary Key Liveness Timestamp 这四个字段必定会存在，其余字段须要知足条件才会存储。下面对上面字段进行介绍：

• flags：Row 的标记信息，主要用于标记当前 Row 是否存在时间戳、TTL、被删除、是否包含全部的列等信息。flag 字段占用一个字节，
• hasExtendedFlags：当前 Row 是否含有 Static 列，存在才会有数据；
• Clustering info：每一个 Row 包含零个或多个 Clustering 相关的信息。Clustering 信息就是咱们建立表的时候指定的 Clustering key 信息。每一个 Clustering Info 在持久化的时候会先存储头部信息，标记当前 Clustering key 是否为空、是否为 null 以及是否有值等信息；而后根据数据类型将值存下来，若是当前 Clustering key 的值占用字节非固定，还须要存储当前 Clustering key 值的字节数。
• Row Body Size：当前 Row Body 的大小，Row Body 包含 primary key 的 liveness 信息、Row 是否删除等信息以及 Cell 的信息。
• Previous Row Body Size：前一个 Row Body 的大小，这个主要用于加速反向查询的，不过当前并无使用；
• Primary Key Liveness Timestamp：primary key 的 Liveness 用于肯定行是否还活着或已经死了（没有 live cells 而且 liveness 为空）。这个字段主要用于存储当前 Row 的 Liveness 时间戳。注意，持久化到磁盘的时间戳是相对于当前 Memtable 最小时间戳的值。
• Primary Key Liveness TTL：这个字段主要用于存储当前 Row 的 Liveness TTL 信息。也是相对于当前 Memtable 最小 TTL 的值
• Primary Key Liveness LocalExpirationTime：当前 Liveness 的 ExpirationTime，也是相对时间；
• Row Marked For Delete At：当前 Row 的删除时间，也是相对时间，精确到毫秒；
• Row Local Deletion Time：当前被标记为 tombstone 时服务器的时间，也是相对时间，精确到秒；
• Columns Bitmap：从 Cassandra 3.x 开始，列的信息已经不保存到数据文件里面了，列的信息是保存在对应 SSTable 的 md-X-big-Statistics.db 文件中。这个字段是用于标记当前行哪些列存在，哪些列不存在。若是列存在则标记为0；若是列不存在则标记为1；若是列所有存在，直接标记为0。当表的字段数小于64个的时候，直接使用一个 long 类型的数据来存储这个 bitmap。若是大于等于64个，处理方案稍微复杂一些：
  先保存一个标记位，标记当前表拥有的字段个数大于等于64；

若是存在的列没有占总列数的一半，则按照所有列的顺序保存存在的列在排序后列的索引位置；
若是存在的列占总列数超过一半，则按照所有列的顺序保存不存在的列在排序后列的索引位置。
可见，Cassandra 经过将列的信息（包括列的名称、类型、表名、keySpace等信息）保存到对应 SSTable 的 md-X-big-Statistics.db 文件中，相应的行只保存列是否存在的标记信息，这个能够节省存储空间的占用。注意，HBase 存储数据的时候每一个 Cell 都须要保存列名称和列族名称的。

非 Static Row 的底层存储格式已经在前面描述过，对于 Static Row 除了没有上图的 Clustering info 信息，其他都同样，因此这里就不介绍了。

上图中最后有 N 个 Cell，那多个 Cell 之间的顺序是如何保证的呢？答案是按照列的名称字典顺序升序排序的。好比咱们表的定义以下：

CREATE TABLE iteblog (
  user_id text,
  type text,
  action text,
  username text,
  age text,
  email text,
  PRIMARY KEY(user_id)
);

那么 Cell 的顺序排列以下：

action -> age -> email -> type -> username

这个排序是经过 BTree 实现的，Row 的实现类为 BTreeRow。

Cell

Cell 就是每列数据的底层实现，Cell 里面包含了列的定义信息，好比是否被删除、是否过时、是否设置了时间戳等。在 Cassandra 里面，Column 有 Simple 和 Complex（CASSANDRA-8099引入的） 之分。non-frozen collection 或 UDT（用户自定义类型）的列是 ComplexColumn（Complex Cell）。

Simple Cell（Simple Column）的底层格式

咱们正常使用的列就是属于这种类型的，它的底层存储格式以下：

• flags：这个 Cell 的 flag 标记，主要用于标记当前 Cell 是否有值、是否被删除、是否过时、是否使用 Row 时间戳、是否使用 Row TTL 等信息。flag 字段占用一个字节，每位的含义表明以下：
• timestamp：当前 Cell 的时间戳，Cassandra 中咱们能够对每列设置时间戳；
• deletion time：当前 Cell 的删除时间；
• ttl：当前 Cell 的 TTL，Cassandra 中咱们能够对每列设置 TTL，表明这个 Cell 保留多长时间；
• value：当前 Cell 的值；

Complex Cell（Complex Column）的底层格式

若是列属于 non-frozen collection 或 UDT（用户自定义类型），那么这个属于 Complex Cell，它的底层存储格式以下：

能够看出，Complex Cell 和 Simple Cell 大部分很相似，下面只介绍不同的地方：

• Complex Cell Marked For Delete At & Complex Cell Local Deletion Time：这两个属性和前面的相似，只不过针对 Complex Cell 而言的。
• Complex Cell Counts：Complex Cell 的个数；
• path：当前 Cell 的路径。

在 Cassandra 中， Complex Cell 的实现类是 ComplexColumnData。

原文连接 本文为云栖社区原创内容，未经容许不得转载。