1、Snowflake简介

        互联网快速发展的今天,分布式应用系统已经见怪不怪,在分布式系统中,我们需要各种各样的ID,既然是ID那么必然是要保证全局唯一,除此之外,不同当业务还需要不同的特性,比如像并发巨大的业务要求ID生成效率高,吞吐大;比如某些银行类业务,需要按每日日期制定交易流水号;又比如我们希望用户的ID是随机的,无序的,纯数字的,且位数长度是小于10位的。等等,不同的业务场景需要的ID特性各不一样,于是,衍生了各种ID生成器,但大多数利用数据库控制ID的生成,性能受数据库并发能力限制,那么有没有一款不需要依赖任何中间件(如数据库,分布式缓存服务等)的ID生成器呢?本着取之于开源,用之于开源的原则,今天,特此介绍Twitter开源的一款分布式自增ID算法snowflake。

snowflake算法是一款本地生成的(ID生成过程不依赖任何中间件,无网络通信),保证ID全局唯一,并且ID总体有序递增,性能每秒生成300w+。

优点:

  • 趋势递增:毫秒数在高位,序列号在低位
  • 性能高无单点:本地计算不依赖数据库等第三方
  • 使用灵活:三个组成部分的位数可按需求调整

缺点:

  • 序列不连续
  • 无法控制生成规则(比如序列起始等)
  • 强依赖机器时钟,如果时钟回拨,会导致序列重复或者系统不可用

2、Snowflake算法原理

snowflake生产的ID二进制结构表示如下(每部分用-分开):

0 - 00000000 00000000 00000000 00000000 00000000 0 - 00000 - 00000 - 00000000 0000


第一位未使用,接下来的41位为毫秒级时间(41位的长度可以使用69年,从1970-01-01 08:00:00),然后是5位datacenterId(最大支持2^5=32个,二进制表示从00000-11111,也即是十进制0-31),和5位workerId(最大支持2^5=32个,原理同datacenterId),所以datacenterId*workerId最多支持部署1024个节点,最后12位是毫秒内的计数(12位的计数顺序号支持每个节点每毫秒产生2^12=4096个ID序号)。

所有位数加起来共64位,恰好是一个Long型(转换为字符串长度为18)。

单台机器实例,通过时间戳保证前41位是唯一的,分布式系统多台机器实例下,通过对每个机器实例分配不同的datacenterId和workerId避免中间的10位碰撞。最后12位每毫秒从0递增生产ID,再提一次:每毫秒最多生成4096个ID,每秒可达4096000个。理论上,只要CPU计算能力足够,单机每秒可生产400多万个,实测300w+,效率之高由此可见。

3、Snowflake源码(Java版本)


   
  1. /**
  2. * Twitter_Snowflake<br>
  3. * SnowFlake的结构如下(每部分用-分开):<br>
  4. * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 -
  5. * 000000000000 <br>
  6. * 1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正数,最高位是0<br>
  7. * 41位时间截(毫秒级),注意,41位时间截不是存储当前时间的时间截,而是存储时间截的差值(当前时间截 - 开始时间截)
  8. * 得到的值),这里的的开始时间截,一般是我们的id生成器开始使用的时间,由我们程序来指定的(如下下面程序IdWorker类的startTime属性)。
  9. * 41位的时间截,可以使用69年,年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
  10. * 10位的数据机器位,可以部署在1024个节点,包括5位datacenterId和5位workerId<br>
  11. * 12位序列,毫秒内的计数,12位的计数顺序号支持每个节点每毫秒(同一机器,同一时间截)产生4096个ID序号<br>
  12. * 加起来刚好64位,为一个Long型。<br>
  13. * SnowFlake的优点是,整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分),并且效率较高,经测试,
  14. * SnowFlake每秒能够产生26万ID左右。
  15. */
  16. public class SnowflakeIdWorker {
  17. // ==============================Fields===========================================
  18. /** 开始时间截 (2015-01-01) */
  19. private final long twepoch = 1420041600000L;
  20. /** 机器id所占的位数 */
  21. private final long workerIdBits = 5L;
  22. /** 数据标识id所占的位数 */
  23. private final long datacenterIdBits = 5L;
  24. /** 支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数) */
  25. private final long maxWorkerId = -1L ^ ( -1L << workerIdBits);
  26. /** 支持的最大数据标识id,结果是31 */
  27. private final long maxDatacenterId = -1L ^ ( -1L << datacenterIdBits);
  28. /** 序列在id中占的位数 */
  29. private final long sequenceBits = 12L;
  30. /** 机器ID向左移12位 */
  31. private final long workerIdShift = sequenceBits;
  32. /** 数据标识id向左移17位(12+5) */
  33. private final long datacenterIdShift = sequenceBits + workerIdBits;
  34. /** 时间截向左移22位(5+5+12) */
  35. private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
  36. /** 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095) */
  37. private final long sequenceMask = -1L ^ ( -1L << sequenceBits);
  38. /** 工作机器ID(0~31) */
  39. private long workerId;
  40. /** 数据中心ID(0~31) */
  41. private long datacenterId;
  42. /** 毫秒内序列(0~4095) */
  43. private long sequence = 0L;
  44. /** 上次生成ID的时间截 */
  45. private long lastTimestamp = -1L;
  46. // ==============================Constructors=====================================
  47. /**
  48. * 构造函数
  49. *
  50. * @param workerId
  51. * 工作ID (0~31)
  52. * @param datacenterId
  53. * 数据中心ID (0~31)
  54. */
  55. public SnowflakeIdWorker(long workerId, long datacenterId) {
  56. if (workerId > maxWorkerId || workerId < 0) {
  57. throw new IllegalArgumentException(
  58. String.format( "worker Id can't be greater than %d or less than 0", maxWorkerId));
  59. }
  60. if (datacenterId > maxDatacenterId || datacenterId < 0) {
  61. throw new IllegalArgumentException(
  62. String.format( "datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
  63. }
  64. this.workerId = workerId;
  65. this.datacenterId = datacenterId;
  66. }
  67. // ==============================Methods==========================================
  68. /**
  69. * 获得下一个ID (该方法是线程安全的)
  70. *
  71. * @return SnowflakeId
  72. */
  73. public synchronized long nextId() {
  74. long timestamp = timeGen();
  75. // 如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过这个时候应当抛出异常
  76. if (timestamp < lastTimestamp) {
  77. throw new RuntimeException(String.format(
  78. "Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
  79. }
  80. // 如果是同一时间生成的,则进行毫秒内序列
  81. if (lastTimestamp == timestamp) {
  82. sequence = (sequence + 1) & sequenceMask;
  83. // 毫秒内序列溢出
  84. if (sequence == 0) {
  85. // 阻塞到下一个毫秒,获得新的时间戳
  86. timestamp = tilNextMillis(lastTimestamp);
  87. }
  88. }
  89. // 时间戳改变,毫秒内序列重置
  90. else {
  91. sequence = 0L;
  92. }
  93. // 上次生成ID的时间截
  94. lastTimestamp = timestamp;
  95. // 移位并通过或运算拼到一起组成64位的ID
  96. return ((timestamp - twepoch) << timestampLeftShift) //
  97. | (datacenterId << datacenterIdShift) //
  98. | (workerId << workerIdShift) //
  99. | sequence;
  100. }
  101. /**
  102. * 阻塞到下一个毫秒,直到获得新的时间戳
  103. *
  104. * @param lastTimestamp
  105. * 上次生成ID的时间截
  106. * @return 当前时间戳
  107. */
  108. protected long tilNextMillis(long lastTimestamp) {
  109. long timestamp = timeGen();
  110. while (timestamp <= lastTimestamp) {
  111. timestamp = timeGen();
  112. }
  113. return timestamp;
  114. }
  115. /**
  116. * 返回以毫秒为单位的当前时间
  117. *
  118. * @return 当前时间(毫秒)
  119. */
  120. protected long timeGen() {
  121. return System.currentTimeMillis();
  122. }
  123. }

3.1、测试case


   
  1. /*==============================Test start=========================*/
  2. /**
  3. * 多线程-测试多个生产者同时生产N个id, 全部id在全局范围内是否会重复
  4. *
  5. * @param dataCenterId
  6. * @param workerId
  7. * @param n
  8. * @throws InterruptedException
  9. */
  10. public static void testProductIdByMoreThread(int dataCenterId, int workerId, int n) throws InterruptedException {
  11. List<Thread> tlist = new ArrayList<>();
  12. Set<Long> setAll = new HashSet<>();
  13. CountDownLatch cdLatch = new CountDownLatch( 10);
  14. long start = System.currentTimeMillis();
  15. int threadNo = dataCenterId;
  16. Map<String, SnowflakeIdWorker> idFactories = new HashMap<>();
  17. for ( int i = 0; i < 10; i++) {
  18. // 用线程名称做map key.
  19. idFactories.put( "snowflake" + i, new SnowflakeIdWorker(workerId, threadNo++));
  20. }
  21. for ( int i = 0; i < 10; i++) {
  22. Thread temp = new Thread( new Runnable() {
  23. @ Override
  24. public void run( ) {
  25. Set<Long> setId = new HashSet<>();
  26. SnowflakeIdWorker idWorker = idFactories. get(Thread.currentThread().getName());
  27. for ( int j = 0; j < n; j++) {
  28. setId. add(idWorker.nextId());
  29. }
  30. synchronized (setAll) {
  31. setAll.addAll(setId);
  32. System. out
  33. .println( "{" + Thread.currentThread().getName() + "}生产了{" + n + "}个id,并成功加入到setAll中.");
  34. }
  35. cdLatch.countDown();
  36. }
  37. }, "snowflake" + i);
  38. tlist. add(temp);
  39. }
  40. for ( int j = 0; j < 10; j++) {
  41. tlist. get(j).start();
  42. }
  43. cdLatch. await();
  44. long end1 = System.currentTimeMillis() - start;
  45. System. out.println( "共耗时:{" + end1 + "}毫秒,预期应该生产{" + 10 * n + "}个id, 实际合并总计生成ID个数:{" + setAll.size() + "}");
  46. }
  47. /**
  48. * 单线程-测试多个生产者同时生产N个id,验证id是否有重复
  49. *
  50. * @param dataCenterId
  51. * @param workerId
  52. * @param n
  53. */
  54. public static void testProductId(int dataCenterId, int workerId, int n) {
  55. SnowflakeIdWorker idWorker = new SnowflakeIdWorker(workerId, dataCenterId);
  56. SnowflakeIdWorker idWorker2 = new SnowflakeIdWorker(workerId + 1, dataCenterId);
  57. Set<Long> setOne = new HashSet<>();
  58. Set<Long> setTow = new HashSet<>();
  59. long start = System.currentTimeMillis();
  60. for ( int i = 0; i < n; i++) {
  61. setOne. add(idWorker.nextId()); // 加入set
  62. }
  63. long end1 = System.currentTimeMillis() - start;
  64. System. out.println( "第一批ID预计生成{" + n + "}个,实际生成{" + setOne.size() + "}个<<<<*>>>>共耗时:{" + end1 + "}");
  65. for ( int i = 0; i < n; i++) {
  66. setTow. add(idWorker2.nextId()); // 加入set
  67. }
  68. long end2 = System.currentTimeMillis() - start;
  69. System. out.println( "第二批ID预计生成{" + n + "}个,实际生成{" + setTow.size() + "}个<<<<*>>>>共耗时:{" + end2 + "}");
  70. setOne.addAll(setTow);
  71. System. out.println( "合并总计生成ID个数:{" + setOne.size() + "}");
  72. }
  73. /**
  74. * 测试每秒生成id个数
  75. */
  76. public static void testPerSecondProductIdNums() {
  77. SnowflakeIdWorker idWorker = new SnowflakeIdWorker( 1, 2);
  78. long start = System.currentTimeMillis();
  79. int count = 0;
  80. for ( int i = 0; System.currentTimeMillis() - start < 1000; i++, count = i) {
  81. /** 测试方法一: 此用法纯粹的生产ID,每秒生产ID个数为300w+ */
  82. idWorker.nextId();
  83. /**
  84. * 测试方法二: 在log中打印,同时获取ID,此用法生产ID的能力受限于log.error()的吞吐能力. 每秒徘徊在10万左右.
  85. */
  86. System. out.println( "{" + idWorker.nextId() + "}");
  87. }
  88. long end = System.currentTimeMillis() - start;
  89. System. out.println(end);
  90. System. out.println(count);
  91. }
  92. public static void main(String[] args) {
  93. /**
  94. * case1: 测试每秒生产id个数? 结论: 每秒生产id个数300w+
  95. */
  96. // testPerSecondProductIdNums();
  97. /**
  98. * case2: 单线程-测试多个生产者同时生产N个id,验证id是否有重复? 结论: 验证通过,没有重复.
  99. */
  100. // testProductId(1, 2, 10000);// 验证通过!
  101. // testProductId(1, 2, 20000);// 验证通过!
  102. /**
  103. * case3: 多线程-测试多个生产者同时生产N个id, 全部id在全局范围内是否会重复? 结论: 验证通过,没有重复.
  104. */
  105. // 单机测试此场景,性能损失至少折半!
  106. /*try {
  107. testProductIdByMoreThread(1, 2, 100000);
  108. } catch (InterruptedException e) {
  109. e.printStackTrace();
  110. }*/
  111. }
  112. /*==============================Test end=========================*/

参考:

        IT虾米网

        IT虾米网

IT虾米网
原文地址:https://blog.csdn.net/chen_changying/article/details/79454901

发布评论
IT序号网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!

关于分布式唯一ID,snowflake的一些思考及改进(完美解决时钟回拨问题)知识解答
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。