常见的全局ID生成方案

时间  2019-11-09
标签 常见的 全局 生成 方案 繁體版
原文   原文链接

在分布式系统架构中，常常都须要一个全局的ID生成器，来保证系统中某些业务场景中对于主键的要求，当前实现ID生成的方式仍是挺多的。本文咱们来谈谈常见的ID生成方式。 全局ID该有的特性html

  1. 惟一性: 确保生成的ID为全网惟一
  2. 有序性: 确保ID对于某项业务来讲是有序性递增的
  3. 时间戳: 可清楚知道ID生成的时间点
  4. 高可用性: 确保任什么时候间都能生成有效ID

##常见的ID生成方式java

一. UUID

UUID是由一组32位数的16进制数字所构成，是故UUID理论上的总数为16^32=2^128，约等于3.4 x 10^38。也就是说若每纳秒产生1兆个UUID，要花100亿年才会将全部UUID用完。mysql

UUID的标准型式包含32个16进制数字，以连字号分为五段，形式为8-4-4-4-12的32个字符。示例：550e8400-e29b-41d4-a716-446655440000git

JAVAgithub

package com.mytest;
import java.util.UUID;
 
public class UTest {
     
    public static void main(String[] args) {
        UUID uuid = UUID.randomUUID();
        System.out.println(uuid);
     }
}
复制代码

优势:

  • 简单, 通常开发语言中都会自带生成方式。
  • 本地生成, 不须要额外的网络消耗
  • 性能高
  • 水平扩展能力强

缺点:

  • 不易于存储, ID有128bit,占用空间大
  • 无序性, 若是做为数据库主键会影响性能
  • 无心义, UUID是一串无规则字符串, 无任何业务含义, 无时间戳。

二. 数据库自增

mysql数据库使用auto_increment 字段来辅助为ID自增。 oracle数据库经过建立sequence 来生成ID自增。redis

--ORACLE
-- 建立sequence
create sequence seq_test
minvalue 1
maxvalue 9999999
start with 1
increment by 1
cache 50;

--建表 
drop table test; 
create table test( 
ID integer 
,stu_name nvarchar2(4) 
,stu_age number 
); 

--插入数据 
insert into test values(seq_test.nextval,'Mary',15); 
insert into test values(seq_test.nextval,'Tom',16); 
复制代码

优势:

  • 简单,无需任何额外程序操做

缺点:

  • 高并发状况下性能不佳
  • 水平扩展困难,分布式环境下没法确保ID全局惟一

三. snowflake

snowflake是Twitter开源的分布式ID生成算法，结果是一个long型的ID。其核心思想是：使用41bit做为毫秒数，10bit做为机器的ID（5个bit是数据中心，5个bit的机器ID），12bit做为毫秒内的流水号（意味着每一个节点在每毫秒能够产生 4096 个 ID），最后还有一个符号位，永远是0。算法

snowflake算法的组成部分:spring

  1. 41位的时间序列（精确到毫秒，41位的长度可使用69年）
  2. 10位的机器标识（10位的长度最多支持部署1024个节点）
  3. 12位的计数顺序号（12位的计数顺序号支持每一个节点每毫秒产生4096个ID序号） 最高位是符号位，始终为0。

java 实现方式sql

/** * Twitter_Snowflake<br> * SnowFlake的结构以下(每部分用-分开):<br> * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br> * 1位标识，因为long基本类型在Java中是带符号的，最高位是符号位，正数是0，负数是1，因此id通常是正数，最高位是0<br> * 41位时间截(毫秒级)，注意，41位时间截不是存储当前时间的时间截，而是存储时间截的差值（当前时间截 - 开始时间截) * 获得的值），这里的的开始时间截，通常是咱们的id生成器开始使用的时间，由咱们程序来指定的（以下下面程序IdWorker类的startTime属性）。41位的时间截，可使用69年，年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br> * 10位的数据机器位，能够部署在1024个节点，包括5位datacenterId和5位workerId<br> * 12位序列，毫秒内的计数，12位的计数顺序号支持每一个节点每毫秒(同一机器，同一时间截)产生4096个ID序号<br> * 加起来恰好64位，为一个Long型。<br> * SnowFlake的优势是，总体上按照时间自增排序，而且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID做区分)，而且效率较高，经测试，SnowFlake每秒可以产生26万ID左右。 */
public class SnowflakeIdWorker {

    // ==============================Fields===========================================
    /** 开始时间截 (2015-01-01) */
    private final long twepoch = 1420041600000L;

    /** 机器id所占的位数 */
    private final long workerIdBits = 5L;

    /** 数据标识id所占的位数 */
    private final long datacenterIdBits = 5L;

    /** 支持的最大机器id，结果是31 (这个移位算法能够很快的计算出几位二进制数所能表示的最大十进制数) */
    private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

    /** 支持的最大数据标识id，结果是31 */
    private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

    /** 序列在id中占的位数 */
    private final long sequenceBits = 12L;

    /** 机器ID向左移12位 */
    private final long workerIdShift = sequenceBits;

    /** 数据标识id向左移17位(12+5) */
    private final long datacenterIdShift = sequenceBits + workerIdBits;

    /** 时间截向左移22位(5+5+12) */
    private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

    /** 生成序列的掩码，这里为4095 (0b111111111111=0xfff=4095) */
    private final long sequenceMask = -1L ^ (-1L << sequenceBits);

    /** 工做机器ID(0~31) */
    private long workerId;

    /** 数据中心ID(0~31) */
    private long datacenterId;

    /** 毫秒内序列(0~4095) */
    private long sequence = 0L;

    /** 上次生成ID的时间截 */
    private long lastTimestamp = -1L;

    //==============================Constructors=====================================
    /** * 构造函数 * @param workerId 工做ID (0~31) * @param datacenterId 数据中心ID (0~31) */
    public SnowflakeIdWorker(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
            throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    // ==============================Methods==========================================
    /** * 得到下一个ID (该方法是线程安全的) * @return SnowflakeId */
    public synchronized long nextId() {
        long timestamp = timeGen();

        //若是当前时间小于上一次ID生成的时间戳，说明系统时钟回退过这个时候应当抛出异常
        if (timestamp < lastTimestamp) {
            throw new RuntimeException(
                    String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }

        //若是是同一时间生成的，则进行毫秒内序列
        if (lastTimestamp == timestamp) {
            sequence = (sequence + 1) & sequenceMask;
            //毫秒内序列溢出
            if (sequence == 0) {
                //阻塞到下一个毫秒,得到新的时间戳
                timestamp = tilNextMillis(lastTimestamp);
            }
        }
        //时间戳改变，毫秒内序列重置
        else {
            sequence = 0L;
        }

        //上次生成ID的时间截
        lastTimestamp = timestamp;

        //移位并经过或运算拼到一块儿组成64位的ID
        return ((timestamp - twepoch) << timestampLeftShift) //
                | (datacenterId << datacenterIdShift) //
                | (workerId << workerIdShift) //
                | sequence;
    }

    /** * 阻塞到下一个毫秒，直到得到新的时间戳 * @param lastTimestamp 上次生成ID的时间截 * @return 当前时间戳 */
    protected long tilNextMillis(long lastTimestamp) {
        long timestamp = timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = timeGen();
        }
        return timestamp;
    }

    /** * 返回以毫秒为单位的当前时间 * @return 当前时间(毫秒) */
    protected long timeGen() {
        return System.currentTimeMillis();
    }

    //==============================Test=============================================
    /** 测试 */
    public static void main(String[] args) {
        SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
        for (int i = 0; i < 1000; i++) {
            long id = idWorker.nextId();
            System.out.println(Long.toBinaryString(id));
            System.out.println(id);
        }
    }
}

复制代码

优势:

  • 性能好,低延时, 能知足Twitter每秒上万条请求
  • 独立部署, 稳定性高
  • 可根据自身业务分配bit位, 灵活性好

缺点:

  • 强依赖机器时间, 若是机器上时间回拨,会致使发号重复或者服务会处于不可用状态。

四. Redis实现全局ID生成器

定义一个通用的key，该key的规则是时间格式，精确到秒，保证每秒都是不一样的key(固然key的规则能够根据自身业务需求进行定制)，value的值是一个long型的整数，前半部分是当前时间精确到秒，后面是自增的值，设计成5位，不够的补0，这样基本就是每秒最多能生成99999个ID，基本能知足大部分的需求，若是须要更多，能够多保留几位就行。 java 实现方式数据库

/** * 使用redis生成分布式ID */
public interface IdGeneratorService {

    /** * @param biz 业务名称 */
    long generatorId(String biz);

    /** * * @return */
    long generatorId();
}
复制代码
package com.test;

import com.google.common.base.Strings;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.core.ValueOperations;
import org.springframework.stereotype.Service;

import java.util.Calendar;
import java.util.Date;
import java.util.concurrent.TimeUnit;

import lombok.extern.slf4j.Slf4j;

@Service
@Slf4j
public class RedisIdGeneratorService implements IdGeneratorService {

    private static final String keyPrefix = "smart";

    /** * JedisClient对象 */
    @Autowired
    private RedisTemplate<String, Object> redisTemplate;


    /** * @Description * @author butterfly */
    private String getIDPrefix() {
        Date date = new Date();
        Calendar c = Calendar.getInstance();
        c.setTime(date);
        int year = c.get(Calendar.YEAR);
        int day = c.get(Calendar.DAY_OF_YEAR); // 今天是第多少天
        int hour = c.get(Calendar.HOUR_OF_DAY);
        int minute = c.get(Calendar.MINUTE);
        int second = c.get(Calendar.SECOND);
        String dayFmt = String.format("%1$03d", day); // 0补位操做 必须知足三位
        String hourFmt = String.format("%1$02d", hour);  // 0补位操做 必须知足2位
        String minuteFmt = String.format("%1$02d", minute);  // 0补位操做 必须知足2位
        String secondFmt = String.format("%1$02d", second);  // 0补位操做 必须知足2位
        StringBuffer prefix = new StringBuffer();
        prefix.append((year - 2000)).append(dayFmt).append(hourFmt).append(minuteFmt).append(secondFmt);
        return prefix.toString();
    }


    /** * @author butterfly */
    private long incrDistrId(String biz) {
        String prefix = getIDPrefix();
        String orderId = null;
        String key = "#{biz}:id:".replace("#{biz}", biz).concat(prefix); // 00001
        try {
            ValueOperations<String, Object> valueOper = redisTemplate.opsForValue();
            Long index = valueOper.increment(key, 1);
            orderId = prefix.concat(String.format("%1$05d", index)); // 补位操做 保证知足5位
        } catch (Exception ex) {
            log.error("分布式订单号生成失败异常。。。。。", ex);
        } finally {
            redisTemplate.expire(key, 600, TimeUnit.SECONDS);//保留10分钟内的key
        }
        if (Strings.isNullOrEmpty(orderId)) return 0;
        return Long.parseLong(orderId);
    }

    /** * @Description 生成分布式ID * @author butterfly */
    @Override
    public long generatorId(String biz) {
        // 转成数字类型，可排序
        return incrDistrId(biz);
    }

    @Override
    public long generatorId() {
        return incrDistrId(keyPrefix);
    }
}
复制代码

优势:

  • 可以必定程度上保持Id具备必定的增加规律，有利于索引和排序
  • 比较灵活，能够根据本身的须要，定制不一样的ID的格式

缺点:

  • 依赖于Redis，须要引入Redis中间件的配置
  • 增长运维成本

五. 美团Leaf

Leaf是美团基础研发平台推出的一个分布式ID生成服务，名字取自德国哲学家、数学家莱布尼茨的一句话：“There are no two identical leaves in the world.”Leaf具有高可靠、低延迟、全局惟一等特色。

Leaf能保证全局惟一性、趋势递增、单调递增、信息安全，里面也提到了几种分布式方案的对比，但也须要依赖关系数据库、Zookeeper等中间件,这里就再也不详细展开,有兴趣可参考此前美团技术博客的一篇文章：《Leaf美团分布式ID生成服务》 Leaf项目Github地址: github.com/Meituan-Dia…

总结

这篇文章列举了几种常见的全局ID生成方案, 每种方式有各自的优缺点和适用的场景。在实际的工做中，须要结合自身的工做环境和业务需求, 进行合理选型。 没有最好的方案，只有最适合的方案。

欢迎长按下图关注公众号: 终身幼稚园

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程