漫画:什么是SnowFlake算法?







————— 第二天 —————












方法一:UUID

UUID是通用唯一识别码 (Universally Unique Identifier),在其他语言中也叫GUID,可以生成一个长度32位的全局唯一识别码。

String uuid = UUID.randomUUID().toString()

结果示例:

046b6c7f-0b8a-43b9-b35d-6489e6daee91





为什么无序的UUID会导致入库性能变差呢?

这就涉及到 B+树索引的分裂




众所周知,关系型数据库的索引大都是B+树的结构,拿ID字段来举例,索引树的每一个节点都存储着若干个ID。

如果我们的ID按递增的顺序来插入,比如陆续插入8,9,10,新的ID都只会插入到最后一个节点当中。当最后一个节点满了,会裂变出新的节点。这样的插入是性能比较高的插入,因为这样节点的分裂次数最少,而且充分利用了每一个节点的空间。




但是,如果我们的插入完全无序,不但会导致一些中间节点产生分裂,也会白白创造出很多不饱和的节点,这样大大降低了数据库插入的性能。






方法二:数据库自增主键

假设名为table的表有如下结构:

id feild

35 a

每一次生成ID的时候,访问数据库,执行下面的语句:

begin;

REPLACE INTO table ( feild ) VALUES ( 'a' );

SELECT LAST_INSERT_ID();

commit;

REPLACE INTO 的含义是插入一条记录,如果表中唯一索引的值遇到冲突,则替换老数据。

这样一来,每次都可以得到一个递增的ID。

为了提高性能,在分布式系统中可以用DB proxy请求不同的分库,每个分库设置不同的初始值,步长和分库数量相等:




这样一来,DB1生成的ID是1,4,7,10,13....,DB2生成的ID是2,5,8,11,14.....








————————————













初识SnowFlake

snowflake算法所生成的ID结构是什么样子呢?我们来看看下图:




SnowFlake所生成的ID一共分成四部分:

1.第一位

占用1bit,其值始终是0,没有实际作用。

2.时间戳

占用41bit,精确到毫秒,总共可以容纳约140年的时间。

3.工作机器id

占用10bit,其中高位5bit是数据中心ID(datacenterId),低位5bit是工作节点ID(workerId),做多可以容纳1024个节点。

4.序列号

占用12bit,这个值在同一毫秒同一节点上从0开始不断累加,最多可以累加到4095。

SnowFlake算法在同一毫秒内最多可以生成多少个全局唯一ID呢?只需要做一个简单的乘法:

同一毫秒的ID数量 = 1024 X 4096 = 4194304

这个数字在绝大多数并发场景下都是够用的。



SnowFlake的代码实现






  1. //初始时间截 (2017-01-01)
  1. private static final long INITIAL_TIME_STAMP = 1483200000000L;
  1. //机器id所占的位数
  1. private static final long WORKER_ID_BITS = 5L;
  1. //数据标识id所占的位数
  1. private static final long DATACENTER_ID_BITS = 5L;
  1. //支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数)
  1. private static final long MAX_WORKER_ID = ~(-1L << WORKER_ID_BITS);
  1. //支持的最大数据标识id,结果是31
  1. private static final long MAX_DATACENTER_ID = ~(-1L << DATACENTER_ID_BITS);
  1. //序列在id中占的位数
  1. private final long SEQUENCE_BITS = 12L;
  1. //机器ID的偏移量(12)
  1. private final long WORKERID_OFFSET = SEQUENCE_BITS;
  1. //数据中心ID的偏移量(12+5)
  1. private final long DATACENTERID_OFFSET = SEQUENCE_BITS + SEQUENCE_BITS;
  1. //时间截的偏移量(5+5+12)
  1. private final long TIMESTAMP_OFFSET = SEQUENCE_BITS + WORKER_ID_BITS + DATACENTER_ID_BITS;
  1. //生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095)
  1. private final long SEQUENCE_MASK = ~(-1L << SEQUENCE_BITS);
  1. //工作节点ID(0~31)
  1. private long workerId;
  1. //数据中心ID(0~31)
  1. private long datacenterId;
  1. //毫秒内序列(0~4095)
  1. private long sequence = 0L;
  1. //上次生成ID的时间截
  1. private long lastTimestamp = -1L;
  1. /**
  1. * 构造函数
  1. *
  1. * @param workerId 工作ID (0~31)
  1. * @param datacenterId 数据中心ID (0~31)
  1. */
  1. public SnowFlakeIdGenerator(long workerId, long datacenterId) {
  1. if (workerId > MAX_WORKER_ID || workerId < 0) {
  1. throw new IllegalArgumentException(String.format("WorkerID 不能大于 %d 或小于 0", MAX_WORKER_ID));
  1. }
  1. if (datacenterId > MAX_DATACENTER_ID || datacenterId < 0) {
  1. throw new IllegalArgumentException(String.format("DataCenterID 不能大于 %d 或小于 0", MAX_DATACENTER_ID));
  1. }
  1. this.workerId = workerId;
  1. this.datacenterId = datacenterId;
  1. }
  1. /**
  1. * 获得下一个ID (用同步锁保证线程安全)
  1. *
  1. * @return SnowflakeId
  1. */
  1. public synchronized long nextId() {
  1. long timestamp = System.currentTimeMillis();
  1. //如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
  1. if (timestamp < lastTimestamp) {
  1. throw new RuntimeException("当前时间小于上一次记录的时间戳!");
  1. }
  1. //如果是同一时间生成的,则进行毫秒内序列
  1. if (lastTimestamp == timestamp) {
  1. sequence = (sequence + 1) & SEQUENCE_MASK;
  1. //sequence等于0说明毫秒内序列已经增长到最大值
  1. if (sequence == 0) {
  1. //阻塞到下一个毫秒,获得新的时间戳
  1. timestamp = tilNextMillis(lastTimestamp);
  1. }
  1. }
  1. //时间戳改变,毫秒内序列重置
  1. else {
  1. sequence = 0L;
  1. }
  1. //上次生成ID的时间截
  1. lastTimestamp = timestamp;
  1. //移位并通过或运算拼到一起组成64位的ID
  1. return ((timestamp - INITIAL_TIME_STAMP) << TIMESTAMP_OFFSET)
  1. | (datacenterId << DATACENTERID_OFFSET)
  1. | (workerId << WORKERID_OFFSET)
  1. | sequence;
  1. }
  1. /**
  1. * 阻塞到下一个毫秒,直到获得新的时间戳
  1. *
  1. * @param lastTimestamp 上次生成ID的时间截
  1. * @return 当前时间戳
  1. */
  1. protected long tilNextMillis(long lastTimestamp) {
  1. long timestamp = System.currentTimeMillis();
  1. while (timestamp <= lastTimestamp) {
  1. timestamp = System.currentTimeMillis();
  1. }
  1. return timestamp;
  1. }
  1. public static void main(String[] args) {
  1. final SnowFlakeIdGenerator idGenerator = new SnowFlakeIdGenerator(11);
  1. //线程池并行执行10000次ID生成
  1. ExecutorService executorService = Executors.newCachedThreadPool();;
  1. for (int i = 0; i < 10000; i++) {
  1. executorService.execute(new Runnable() {
  1. @Override
  1. public void run() {
  1. long id = idGenerator.nextId();
  1. System.out.println(id);
  1. }
  1. });
  1. }
  1. executorService.shutdown();
  1. }

这段代码改写自网上的SnowFlake算法实现,有几点需要解释一下:

1.获得单一机器的下一个序列号,使用Synchronized控制并发,而非CAS的方式,是因为CAS不适合并发量非常高的场景。

2.如果当前毫秒在一台机器的序列号已经增长到最大值4095,则使用while循环等待直到下一毫秒。

3.如果当前时间小于记录的上一个毫秒值,则说明这台机器的时间回拨了,抛出异常。但如果这台机器的系统时间在启动之前回拨过,那么有可能出现ID重复的危险。


SnowFlake的优势和劣势






SnowFlake算法的优点:

1.生成ID时不依赖于DB,完全在内存生成,高性能高可用。

2.ID呈趋势递增,后续插入索引树的时候性能较好。


SnowFlake算法的缺点:

依赖于系统时钟的一致性。如果某台机器的系统时钟回拨,有可能造成ID冲突,或者ID乱序。




—————END—————





————— 第二天 —————












方法一:UUID

UUID是通用唯一识别码 (Universally Unique Identifier),在其他语言中也叫GUID,可以生成一个长度32位的全局唯一识别码。

String uuid = UUID.randomUUID().toString()

结果示例:

046b6c7f-0b8a-43b9-b35d-6489e6daee91





为什么无序的UUID会导致入库性能变差呢?

这就涉及到 B+树索引的分裂




众所周知,关系型数据库的索引大都是B+树的结构,拿ID字段来举例,索引树的每一个节点都存储着若干个ID。

如果我们的ID按递增的顺序来插入,比如陆续插入8,9,10,新的ID都只会插入到最后一个节点当中。当最后一个节点满了,会裂变出新的节点。这样的插入是性能比较高的插入,因为这样节点的分裂次数最少,而且充分利用了每一个节点的空间。




但是,如果我们的插入完全无序,不但会导致一些中间节点产生分裂,也会白白创造出很多不饱和的节点,这样大大降低了数据库插入的性能。






方法二:数据库自增主键

假设名为table的表有如下结构:

id feild

35 a

每一次生成ID的时候,访问数据库,执行下面的语句:

begin;

REPLACE INTO table ( feild ) VALUES ( 'a' );

SELECT LAST_INSERT_ID();

commit;

REPLACE INTO 的含义是插入一条记录,如果表中唯一索引的值遇到冲突,则替换老数据。

这样一来,每次都可以得到一个递增的ID。

为了提高性能,在分布式系统中可以用DB proxy请求不同的分库,每个分库设置不同的初始值,步长和分库数量相等:




这样一来,DB1生成的ID是1,4,7,10,13....,DB2生成的ID是2,5,8,11,14.....








————————————













初识SnowFlake

snowflake算法所生成的ID结构是什么样子呢?我们来看看下图:




SnowFlake所生成的ID一共分成四部分:

1.第一位

占用1bit,其值始终是0,没有实际作用。

2.时间戳

占用41bit,精确到毫秒,总共可以容纳约140年的时间。

3.工作机器id

占用10bit,其中高位5bit是数据中心ID(datacenterId),低位5bit是工作节点ID(workerId),做多可以容纳1024个节点。

4.序列号

占用12bit,这个值在同一毫秒同一节点上从0开始不断累加,最多可以累加到4095。

SnowFlake算法在同一毫秒内最多可以生成多少个全局唯一ID呢?只需要做一个简单的乘法:

同一毫秒的ID数量 = 1024 X 4096 = 4194304

这个数字在绝大多数并发场景下都是够用的。



SnowFlake的代码实现






  1. //初始时间截 (2017-01-01)
  1. private static final long INITIAL_TIME_STAMP = 1483200000000L;
  1. //机器id所占的位数
  1. private static final long WORKER_ID_BITS = 5L;
  1. //数据标识id所占的位数
  1. private static final long DATACENTER_ID_BITS = 5L;
  1. //支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数)
  1. private static final long MAX_WORKER_ID = ~(-1L << WORKER_ID_BITS);
  1. //支持的最大数据标识id,结果是31
  1. private static final long MAX_DATACENTER_ID = ~(-1L << DATACENTER_ID_BITS);
  1. //序列在id中占的位数
  1. private final long SEQUENCE_BITS = 12L;
  1. //机器ID的偏移量(12)
  1. private final long WORKERID_OFFSET = SEQUENCE_BITS;
  1. //数据中心ID的偏移量(12+5)
  1. private final long DATACENTERID_OFFSET = SEQUENCE_BITS + SEQUENCE_BITS;
  1. //时间截的偏移量(5+5+12)
  1. private final long TIMESTAMP_OFFSET = SEQUENCE_BITS + WORKER_ID_BITS + DATACENTER_ID_BITS;
  1. //生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095)
  1. private final long SEQUENCE_MASK = ~(-1L << SEQUENCE_BITS);
  1. //工作节点ID(0~31)
  1. private long workerId;
  1. //数据中心ID(0~31)
  1. private long datacenterId;
  1. //毫秒内序列(0~4095)
  1. private long sequence = 0L;
  1. //上次生成ID的时间截
  1. private long lastTimestamp = -1L;
  1. /**
  1. * 构造函数
  1. *
  1. * @param workerId 工作ID (0~31)
  1. * @param datacenterId 数据中心ID (0~31)
  1. */
  1. public SnowFlakeIdGenerator(long workerId, long datacenterId) {
  1. if (workerId > MAX_WORKER_ID || workerId < 0) {
  1. throw new IllegalArgumentException(String.format("WorkerID 不能大于 %d 或小于 0", MAX_WORKER_ID));
  1. }
  1. if (datacenterId > MAX_DATACENTER_ID || datacenterId < 0) {
  1. throw new IllegalArgumentException(String.format("DataCenterID 不能大于 %d 或小于 0", MAX_DATACENTER_ID));
  1. }
  1. this.workerId = workerId;
  1. this.datacenterId = datacenterId;
  1. }
  1. /**
  1. * 获得下一个ID (用同步锁保证线程安全)
  1. *
  1. * @return SnowflakeId
  1. */
  1. public synchronized long nextId() {
  1. long timestamp = System.currentTimeMillis();
  1. //如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
  1. if (timestamp < lastTimestamp) {
  1. throw new RuntimeException("当前时间小于上一次记录的时间戳!");
  1. }
  1. //如果是同一时间生成的,则进行毫秒内序列
  1. if (lastTimestamp == timestamp) {
  1. sequence = (sequence + 1) & SEQUENCE_MASK;
  1. //sequence等于0说明毫秒内序列已经增长到最大值
  1. if (sequence == 0) {
  1. //阻塞到下一个毫秒,获得新的时间戳
  1. timestamp = tilNextMillis(lastTimestamp);
  1. }
  1. }
  1. //时间戳改变,毫秒内序列重置
  1. else {
  1. sequence = 0L;
  1. }
  1. //上次生成ID的时间截
  1. lastTimestamp = timestamp;
  1. //移位并通过或运算拼到一起组成64位的ID
  1. return ((timestamp - INITIAL_TIME_STAMP) << TIMESTAMP_OFFSET)
  1. | (datacenterId << DATACENTERID_OFFSET)
  1. | (workerId << WORKERID_OFFSET)
  1. | sequence;
  1. }
  1. /**
  1. * 阻塞到下一个毫秒,直到获得新的时间戳
  1. *
  1. * @param lastTimestamp 上次生成ID的时间截
  1. * @return 当前时间戳
  1. */
  1. protected long tilNextMillis(long lastTimestamp) {
  1. long timestamp = System.currentTimeMillis();
  1. while (timestamp <= lastTimestamp) {
  1. timestamp = System.currentTimeMillis();
  1. }
  1. return timestamp;
  1. }
  1. public static void main(String[] args) {
  1. final SnowFlakeIdGenerator idGenerator = new SnowFlakeIdGenerator(11);
  1. //线程池并行执行10000次ID生成
  1. ExecutorService executorService = Executors.newCachedThreadPool();;
  1. for (int i = 0; i < 10000; i++) {
  1. executorService.execute(new Runnable() {
  1. @Override
  1. public void run() {
  1. long id = idGenerator.nextId();
  1. System.out.println(id);
  1. }
  1. });
  1. }
  1. executorService.shutdown();
  1. }

这段代码改写自网上的SnowFlake算法实现,有几点需要解释一下:

1.获得单一机器的下一个序列号,使用Synchronized控制并发,而非CAS的方式,是因为CAS不适合并发量非常高的场景。

2.如果当前毫秒在一台机器的序列号已经增长到最大值4095,则使用while循环等待直到下一毫秒。

3.如果当前时间小于记录的上一个毫秒值,则说明这台机器的时间回拨了,抛出异常。但如果这台机器的系统时间在启动之前回拨过,那么有可能出现ID重复的危险。


SnowFlake的优势和劣势






SnowFlake算法的优点:

1.生成ID时不依赖于DB,完全在内存生成,高性能高可用。

2.ID呈趋势递增,后续插入索引树的时候性能较好。


SnowFlake算法的缺点:

依赖于系统时钟的一致性。如果某台机器的系统时钟回拨,有可能造成ID冲突,或者ID乱序。




—————END—————

猜你喜欢

转载自blog.csdn.net/onceing/article/details/80625598