分布式ID设计方案

分布式ID的定义:

  1. 全局惟一
  2. 有序性
  3. 有意义
  4. 高可用
  5. 紧凑性
  6. 序列号的可预测性

方案1:使用数据库递增的顺序

最多见的方式。利用数据库,全数据库惟一。html

 优势:java

1)简单,代码方便,性能能够接受。node

2)数字ID自然排序,对分页或者须要排序的结果颇有帮助。git

缺点:github

1)不一样数据库语法和实现不一样,数据库迁移的时候或多数据库版本支持的时候须要处理。算法

2)在单个数据库或读写分离或一主多从的状况下,只有一个主库能够生成。有单点故障的风险。数据库

3)在性能达不到要求的状况下,比较难于扩展。服务器

4)若是碰见多个系统须要合并或者涉及到数据迁移会至关痛苦。微信

5)分表分库的时候会有麻烦。并发

优化方案:

1)针对主库单点,若是有多个Master库,则每一个Master库设置的起始数字不同,步长同样,能够是Master的个数。好比:Master1 生成的是 1,4,7,10,Master2生成的是2,5,8,11 Master3生成的是 3,6,9,12。这样就能够有效生成集群中的惟一ID,也能够大大下降ID生成数据库操做的负载。

方案2:使用UUID(Universally Unique Identifier)

常见的方式。能够利用数据库也能够利用程序生成,通常来讲全球惟一。

优势:

1)简单,代码方便。

2)生成ID性能很是好,基本不会有性能问题。

3)全球惟一,在碰见数据迁移,系统数据合并,或者数据库变动等状况下,能够从容应对。

缺点:

1)没有排序,没法保证趋势递增。

2)UUID每每是使用字符串存储,查询的效率比较低。

3)存储空间比较大,若是是海量数据库,就须要考虑存储量的问题。

4)传输数据量大

5)不可读。-->生成的id序列比较复杂,不具备可读性

方案3:UUID的变种

为了解决UUID不可读,可使用UUID to Int64的方法。即

/// <summary>
/// 根据GUID获取惟一数字序列
/// </summary>
public static long GuidToInt64()
{
    byte[] bytes = Guid.NewGuid().ToByteArray();
    return BitConverter.ToInt64(bytes, 0);
}

 2)为了解决UUID无序的问题,NHibernate在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。

/// <summary> 
/// Generate a new <see cref="Guid"/> using the comb algorithm. 
/// </summary> 
private Guid GenerateComb()
{
    byte[] guidArray = Guid.NewGuid().ToByteArray();
 
    DateTime baseDate = new DateTime(1900, 1, 1);
    DateTime now = DateTime.Now;
 
    // Get the days and milliseconds which will be used to build    
    //the byte string    
    TimeSpan days = new TimeSpan(now.Ticks - baseDate.Ticks);
    TimeSpan msecs = now.TimeOfDay;
 
    // Convert to a byte array        
    // Note that SQL Server is accurate to 1/300th of a    
    // millisecond so we divide by 3.333333    
    byte[] daysArray = BitConverter.GetBytes(days.Days);
    byte[] msecsArray = BitConverter.GetBytes((long)
      (msecs.TotalMilliseconds / 3.333333));
 
    // Reverse the bytes to match SQL Servers ordering    
    Array.Reverse(daysArray);
    Array.Reverse(msecsArray);
 
    // Copy the bytes into the guid    
    Array.Copy(daysArray, daysArray.Length - 2, guidArray,
      guidArray.Length - 6, 2);
    Array.Copy(msecsArray, msecsArray.Length - 4, guidArray,
      guidArray.Length - 4, 4);
 
    return new Guid(guidArray);
}

 方案4:Redis生存ID

当使用数据库来生成ID性能不够要求的时候,咱们能够尝试使用Redis来生成ID。这主要依赖于Redis是单线程的,因此也能够用生成全局惟一的ID。能够用Redis的原子操做 INCR和INCRBY来实现。

可使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。能够初始化每台Redis的值分别是1,2,3,4,5,而后步长都是5。各个Redis生成的ID为:

A:1,6,11,16,21

B:2,7,12,17,22

C:3,8,13,18,23

D:4,9,14,19,24

E:5,10,15,20,25

这个,随便负载到哪一个机肯定好,将来很难作修改。可是3-5台服务器基本可以知足器上,均可以得到不一样的ID。可是步长和初始值必定须要事先须要了。使用Redis集群也能够方式单点故障的问题。

另外,比较适合使用Redis来生成天天从0开始的流水号。好比订单号=日期+当日自增加号。能够天天在Redis中生成一个Key,使用INCR进行累加。

优势:

1)不依赖于数据库,灵活方便,且性能优于数据库。

2)数字ID自然排序,对分页或者须要排序的结果颇有帮助。

缺点:

1)若是系统中没有Redis,还须要引入新的组件,增长系统复杂度。

2)须要编码和配置的工做量比较大。

方案5:基于Twitter的Snowflake实现

snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。其核心思想是:使用41bit做为毫秒数,10bit做为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit做为毫秒内的流水号(意味着每一个节点在每毫秒能够产生 4096 个 ID),最后还有一个符号位,永远是0。

snowflake算法能够根据自身项目的须要进行必定的修改。好比估算将来的数据中心个数,每一个数据中心的机器数以及统一毫秒能够能的并发数来调整在算法中所须要的bit数。

优势:

1)不依赖于数据库,灵活方便,且性能优于数据库。

2)ID按照时间在单机上是递增的。

缺点:

1)在单机上是递增的,可是因为涉及到分布式环境,每台机器上的时钟不可能彻底同步,也许有时候也会出现不是全局递增的状况。

Snowflake官方版本:https://github.com/twitter-archive/snowflake

java版本:https://github.com/relops/snowflake

方案6:MongoDB 的ObjectId

MongoDB的ObjectId和snowflake算法相似。它设计成轻量型的,不一样的机器都能用全局惟一的同种方法方便地生成它。MongoDB 从一开始就设计用来做为分布式数据库,处理多个节点是一个核心要求。使其在分片环境中要容易生成得多。

其格式以下:

前4 个字节是从标准纪元开始的时间戳,单位为秒。时间戳,与随后的5 个字节组合起来,提供了秒级别的惟一性。因为时间戳在前,这意味着ObjectId 大体会按照插入的顺序排列。这对于某些方面颇有用,如将其做为索引提升效率。这4 个字节也隐含了文档建立的时间。绝大多数客户端类库都会公开一个方法从ObjectId 获取这个信息。
接下来的3 字节是所在主机的惟一标识符。一般是机器主机名的散列值。这样就能够确保不一样主机生成不一样的ObjectId,不产生冲突。
为了确保在同一台机器上并发的多个进程产生的ObjectId 是惟一的,接下来的两字节来自产生ObjectId 的进程标识符(PID)。
前9 字节保证了同一秒钟不一样机器不一样进程产生的ObjectId 是惟一的。后3 字节就是一个自动增长的计数器,确保相同进程同一秒产生的ObjectId 也是不同的。同一秒钟最多容许每一个进程拥有2563(16 777 216)个不一样的ObjectId。

方案7:利用zookeeper生成惟一ID

zookeeper主要经过其znode数据版原本生成序列号,能够生成32位和64位的数据版本号,客户端可使用这个版本号来做为惟一的序列号。
不多会使用zookeeper来生成惟一ID。主要是因为须要依赖zookeeper,而且是多步调用API,若是在竞争较大的状况下,须要考虑使用分布式锁。所以,性能在高并发的分布式环境下,也不甚理想。

参考连接:https://www.cnblogs.com/haoxinyue/p/5208136.html

https://time.geekbang.org/column/article/12806

方案8:其它方案设计:

百度uid-generator: https://github.com/baidu/uid-generator/  有对比测试记录

腾讯微信序列号生成器:https://github.com/nebula-im/seqsvr

美团的Leaf-Segment: https://tech.meituan.com/MT_Leaf.html

snowflake 的erlang版本:https://github.com/boundary/flake

时间位数限制的解决方案:时间戳减去常量,对于已经生成的历史id,能够导入表刷id

时间数据位数的限制

极客时间版权全部: https://time.geekbang.org/column/article/12806

提供了一个 12 byte(96 位)的 ID 定义,其中 ...

极客时间版权全部: https://time.geekbang.org/column/article/1280

分布式 ID 定义

极客时间版权全部: https://time.geekbang.org/column/article/12806

相关文章
相关标签/搜索