【算法】snowflake算法学习

参考:Twitter的分布式自增ID算法snowflake (Java版)

应用场景

分布式系统需要一个id生成服务,让全局的id是唯一的,并且是有序的。如果用UUID或者是字符串很容易实现,但是公司的DBA说是最好用long型,这方便数据库层的操作,取模进行分库分表等。查了网上关于这方面的内容,发现了这个Twitter的snowflake算法,取这个名字大概也是有世界上没有两片相同的雪花的意思吧。

位数说明

long型一共是64位,其实就是将这64分成几个部分进行相关的赋值。总的来说是 1 + 41 + 5 + 5 + 12 五个部分。如:

0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000
  1. 1的部分

long型的第一个位置是标识位,是决定这个long型数字是正数还是负数,其中0为正1为负。在默认情况下这个位置就是0,所以不需要我们处理。

  1. 41的部分

41的部分是时间戳,但是这个时间戳不是当前时间的时间戳,而是与一个指定时间的差值。总共可以使用而不产生重复的时间是:

2^41 / (1000 * 60 * 60 * 24 * 365) = 69.7

经过计算就是69年,超过69年这个时间戳就会开始出现重复,不过考虑到没有哪个程序会跑69年,只要开始的设定时间不要设定的很小,这个时间已经足够了。

  1. 5的部分

这个5的部分是存放机器序号,如一个服务器一个序号,最大为2^5为31。

  1. 5的部分

这个5的部分是存放机房序号,如一号机房为一个序号,最大为2^5为31。这两个5共组成了一个机器识别码,不一定机房需要那么长,这个具体的位数的分配可以按照实际的需求进行。

  1. 12的部分

这是一个毫秒内的计数,相同的机器识别码最多可以存放2^12即4095个数。

Java实现

/**
 * Twitter_Snowflake<br>
 * SnowFlake的结构如下(每部分用-分开):<br>
 * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br>
 * 1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正数,最高位是0<br>
 * 41位时间截(毫秒级),注意,41位时间截不是存储当前时间的时间截,而是存储时间截的差值(当前时间截 - 开始时间截)
 * 得到的值),这里的的开始时间截,一般是我们的id生成器开始使用的时间,由我们程序来指定的(如下下面程序IdWorker类的startTime属性)。41位的时间截,可以使用69年,年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
 * 10位的数据机器位,可以部署在1024个节点,包括5位datacenterId和5位workerId<br>
 * 12位序列,毫秒内的计数,12位的计数顺序号支持每个节点每毫秒(同一机器,同一时间截)产生4096个ID序号<br>
 * 加起来刚好64位,为一个Long型。<br>
 * SnowFlake的优点是,整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分),并且效率较高,经测试,SnowFlake每秒能够产生26万ID左右。
 */
public class SnowflakeIdWorker {

    // ==============================Fields===========================================
    /** 开始时间截 (2015-01-01) */
    private final long twepoch = 1420041600000L;

    /** 机器id所占的位数 */
    private final long workerIdBits = 5L;

    /** 数据标识id所占的位数 */
    private final long datacenterIdBits = 5L;

    /** 支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数) */
    private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

    /** 支持的最大数据标识id,结果是31 */
    private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

    /** 序列在id中占的位数 */
    private final long sequenceBits = 12L;

    /** 机器ID向左移12位 */
    private final long workerIdShift = sequenceBits;

    /** 数据标识id向左移17位(12+5) */
    private final long datacenterIdShift = sequenceBits + workerIdBits;

    /** 时间截向左移22位(5+5+12) */
    private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

    /** 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095) */
    private final long sequenceMask = -1L ^ (-1L << sequenceBits);

    /** 工作机器ID(0~31) */
    private long workerId;

    /** 数据中心ID(0~31) */
    private long datacenterId;

    /** 毫秒内序列(0~4095) */
    private long sequence = 0L;

    /** 上次生成ID的时间截 */
    private long lastTimestamp = -1L;

    //==============================Constructors=====================================
    /**
     * 构造函数
     * @param workerId 工作ID (0~31)
     * @param datacenterId 数据中心ID (0~31)
     */
    public SnowflakeIdWorker(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
            throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    // ==============================Methods==========================================
    /**
     * 获得下一个ID (该方法是线程安全的)
     * @return SnowflakeId
     */
    public synchronized long nextId() {
        long timestamp = timeGen();

        //如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
        if (timestamp < lastTimestamp) {
            throw new RuntimeException(
                    String.format("Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }

        //如果是同一时间生成的,则进行毫秒内序列
        if (lastTimestamp == timestamp) {
            sequence = (sequence + 1) & sequenceMask;
            //毫秒内序列溢出
            if (sequence == 0) {
                //阻塞到下一个毫秒,获得新的时间戳
                timestamp = tilNextMillis(lastTimestamp);
            }
        }
        //时间戳改变,毫秒内序列重置,这里取随机数,如果都是0的话,0出现的概率会很大
        else {
            sequence = (long)(Math.random() * 10);
        }

        //上次生成ID的时间截
        lastTimestamp = timestamp;

        //移位并通过或运算拼到一起组成64位的ID
        return ((timestamp - twepoch) << timestampLeftShift) //
                | (datacenterId << datacenterIdShift) //
                | (workerId << workerIdShift) //
                | sequence;
    }

    /**
     * 阻塞到下一个毫秒,直到获得新的时间戳
     * @param lastTimestamp 上次生成ID的时间截
     * @return 当前时间戳
     */
    protected long tilNextMillis(long lastTimestamp) {
        long timestamp = timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = timeGen();
        }
        return timestamp;
    }

    /**
     * 返回以毫秒为单位的当前时间
     * @return 当前时间(毫秒)
     */
    protected long timeGen() {
        return System.currentTimeMillis();
    }

    //==============================Test=============================================
    /** 测试 */
    public static void main(String[] args) {
        SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
        for (int i = 0; i < 1000; i++) {
            long id = idWorker.nextId();
            System.out.println(Long.toBinaryString(id));
            System.out.println(id);
        }
    }
}

生成结果:

11010010010001101110000111100101011100000000000000000000001
473501449121169409
11010010010001101110000111100101011110000000000000000001000
473501449125363720
11010010010001101110000111100101011110000000000000000001001
473501449125363721
11010010010001101110000111100101011110000000000000000001010
473501449125363722
11010010010001101110000111100101011110000000000000000001011
473501449125363723
11010010010001101110000111100101011110000000000000000001100
473501449125363724
11010010010001101110000111100101011110000000000000000001101
473501449125363725
11010010010001101110000111100101011110000000000000000001110
473501449125363726
11010010010001101110000111100101011110000000000000000001111
473501449125363727
11010010010001101110000111100101011110000000000000000010000
473501449125363728

补充

后来看到了架构师的代码,其实这个方法可以做一个拓展,就是生成的这个64位二进制数,不是按照10进制转换,而是进行16进制的转化就可以获得一个字符串,也是一个全局唯一的字符串。相同的还可以是其他进制的方式进行转换,可以得到不同的字符。

猜你喜欢

转载自blog.csdn.net/ColdFireMan/article/details/81285007