分布式系统中的ID生成

问题

在分布式系统中常遇到ID生成问题:java

  • 场景1,在分库分表中须要保证某类ID惟一,这样使用主键自增的策略就再也不合适node

  • 场景2,须要某类ID须要具备同一特性来标识git

诸如此类。github

方案

有不少解决方案,好比数据库

  1. 基于数据库主键自增策略(及其变种,如分片生成以提升效率、分库分表生成以解决单点问题等)并发

  2. UUID(简单但比较丑陋,生成的ID无规律,也有方案是基于UUID,但更简短less

  3. 基于MongoDB的id策略分布式

  4. DIY的ID(以不一样用途的字符组装到一块儿,而后作编码转换以知足须要)性能

这里介绍一种方案4的实现,基本思想源于twitter的Snowflake方案,该实现可提供高性能、低延迟、高可用的ID生成。this

每一个ID是一个long类型的整数,结构以下:


0           41     51          64
+-----------+------+------------+

|timestamp  |node  |increment   |
+-----------+------+------------+

前42位是timestamp,这样可使ID生成变得有序。以中间10位标识节点,这样能够有1024个节点。最后12位为了解决并发冲突问题,并发请求时以此12位做累加,这样在同一个前42位内最多能够生成2的12次方个ID。

经过以上方案,能够快速生成时间有序的,带节点标识的ID。基于这个思想,咱们能够作各类变形以知足自身须要,好比能够调整这三部分的顺序和每一部分的位数以知足具体场景;能够开启多个进程,每一个进程负责某些node节点的ID生成以免单点;能够精简位数,并作编码转换以减小ID长度等等。

【问题】 该方案严重依赖于系统时间,若是系统时钟发生错误,生成的ID就可能有问题。

代码实现

按照以上描述的策略的基本代码实现可参看:

/**
 * 42位的时间前缀+10位的节点标识+12位的sequence避免并发的数字(12位不够用时强制获得新的时间前缀)
 * <p>
 * <b>对系统时间的依赖性很是强,须要关闭ntp的时间同步功能,或者当检测到ntp时间调整后,拒绝分配id。
 * 
 * @author sumory.wu
 * @date 2012-2-26 下午6:40:28
 */
public class IdWorker {
    private final static Logger logger = LoggerFactory.getLogger(IdWorker.class);

    private final long workerId;
    private final long snsEpoch = 1330328109047L;// 起始标记点,做为基准
    private long sequence = 0L;// 0,并发控制
    private final long workerIdBits = 10L;// 只容许workid的范围为:0-1023
    private final long maxWorkerId = -1L ^ -1L << this.workerIdBits;// 1023,1111111111,10位
    private final long sequenceBits = 12L;// sequence值控制在0-4095

    private final long workerIdShift = this.sequenceBits;// 12
    private final long timestampLeftShift = this.sequenceBits + this.workerIdBits;// 22
    private final long sequenceMask = -1L ^ -1L << this.sequenceBits;// 4095,111111111111,12位

    private long lastTimestamp = -1L;

    public IdWorker(long workerId) {
        super();
        if (workerId > this.maxWorkerId || workerId < 0) {// workid < 1024[10位:2的10次方]
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", this.maxWorkerId));
        }
        this.workerId = workerId;
    }

    public synchronized long nextId() throws Exception {
        long timestamp = this.timeGen();
        if (this.lastTimestamp == timestamp) {// 若是上一个timestamp与新产生的相等,则sequence加一(0-4095循环),下次再使用时sequence是新值
            //System.out.println("lastTimeStamp:" + lastTimestamp);
            this.sequence = this.sequence + 1 & this.sequenceMask;
            if (this.sequence == 0) {
                timestamp = this.tilNextMillis(this.lastTimestamp);// 从新生成timestamp
            }
        }
        else {
            this.sequence = 0;
        }
        if (timestamp < this.lastTimestamp) {
            logger.error(String.format("Clock moved backwards.Refusing to generate id for %d milliseconds", (this.lastTimestamp - timestamp)));
            throw new Exception(String.format("Clock moved backwards.Refusing to generate id for %d milliseconds", (this.lastTimestamp - timestamp)));
        }

        this.lastTimestamp = timestamp;
        // 生成的timestamp
        return timestamp - this.snsEpoch << this.timestampLeftShift | this.workerId << this.workerIdShift | this.sequence;
    }

    /**
     * 保证返回的毫秒数在参数以后
     * 
     * @param lastTimestamp
     * @return
     */
    private long tilNextMillis(long lastTimestamp) {
        long timestamp = this.timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = this.timeGen();
        }
        return timestamp;
    }

    /**
     * 得到系统当前毫秒数
     * 
     * @return
     */
    private long timeGen() {
        return System.currentTimeMillis();
    }

    public static void main(String[] args) throws Exception {
        IdWorker iw1 = new IdWorker(1);
       
        for (int i = 0; i < 10; i++) {
            System.out.println(iw1.nextId());
        }
    }
}

实际应用

一个用于处理分布式系统中ID生成,惟一性字段值管理的通用模块UC

能够考虑用分布式锁来实现

http://roadrunners.iteye.com/blog/2225563 

相关文章
相关标签/搜索