分布式系统唯一ID的生成方案讨论
                                                                                        </h2> 
  
 
 
 
                                                                     
                                                            <div class="content" id="articleContent"> 
                                                <div class="ad-wrap"> 
                                                    <p style="margin:0 0 10px 0;"><a data-traceid="blog_detail_above_text_link_1" data-tracepid="blog_detail_above_text_link" style="color:#A00;font-weight:bold;" href="https://gio.ren/w/GPnE1LRY" target="_blank">撸了今年阿里、头条和美团的面试,我有一个重要发现.......&gt;&gt;&gt; </a>  <img src="https://www.oschina.net/img/hot3.png" align="absmiddle" style="max-height: 32px; max-width: 32px;"></p> 
                                    </div> 
                                            <p>在分布式系统下唯一id问题,就是id咋生成?比如分表分库,因为要是一个表分成多个表之后,每个表的id都是从1开始累加自增长,那是不对的。举个例子,一个表拆分为了2张表,每个表的id都从1开始累加,这个肯定有问题了!你的系统就没办法根据表主键来查询了,比如id = 10这个记录,在两个表里都有!所以此时就需要分布式架构下的全局唯一id生成的方案了,保证每个表内的某个id,全局唯一。全局唯一id主要有以下几种方案。</p>  

分布式ID的生成方案

1. UUID

算法的核心思想是结合机器的网卡、当地时间、一个随记数来生成UUID。

  • 优点:本地生成,生成简单,性能好,没有高可用风险
  • 缺点:长度过长,存储冗余,且无序不可读,查询效率低(在数据库里不利于索引树的构建,不适合用作主键)

2. 数据库自增ID

使用数据库的id自增策略,如 MySQL 的 auto_increment。并且可以使用两台数据库分别设置不同步长,生成不重复ID的策略来实现高可用。

  • 优点:数据库生成的ID绝对有序,高可用实现方式简单
  • 缺点:需要独立部署数据库实例,成本高,有性能瓶颈

3. 批量生成ID

一次按需批量生成多个ID,每次生成都需要访问数据库,将数据库修改为最大的ID值,并在内存中记录当前值及最大值。

  • 优点:避免了每次生成ID都要访问数据库并带来压力,提高性能
  • 缺点:属于本地生成策略,存在单点故障,服务重启造成ID不连续

4. Redis生成ID

Redis的所有命令操作都是单线程的,本身提供像 incr 和 increby 这样的自增原子命令,所以能保证生成的 ID 肯定是唯一有序的。

  • 优点:不依赖于数据库,灵活方便,且性能优于数据库;数字ID天然排序,对分页或者需要排序的结果很有帮助。

  • 缺点:如果系统中没有Redis,还需要引入新的组件,增加系统复杂度;需要编码和配置的工作量比较大。

考虑到单节点的性能瓶颈,可以使用 Redis 集群来获取更高的吞吐量。假如一个集群中有5台 Redis。可以初始化每台 Redis 的值分别是1, 2, 3, 4, 5,然后步长都是 5。各个 Redis 生成的 ID 为:

A:1, 6, 11, 16, 21 
B:2, 7, 12, 17, 22 
C:3, 8, 13, 18, 23 
D:4, 9, 14, 19, 24 
E:5, 10, 15, 20, 25

随便负载到哪个机确定好,未来很难做修改。步长和初始值一定需要事先确定。使用 Redis 集群也可以方式单点故障的问题。

另外,比较适合使用 Redis 来生成每天从0开始的流水号。比如订单号 = 日期 + 当日自增长号。可以每天在 Redis 中生成一个 Key ,使用 INCR 进行累加。

5. Twitter的snowflake算法

Twitter 利用 zookeeper 实现了一个全局ID生成的服务 Snowflake:IT虾米网

如上图的所示,Twitter 的 Snowflake 算法由下面几部分组成:

  • 1位符号位:

由于 long 类型在 java 中带符号的,最高位为符号位,正数为 0,负数为 1,且实际系统中所使用的ID一般都是正数,所以最高位为 0。

  • 41位时间戳(毫秒级):

需要注意的是此处的 41 位时间戳并非存储当前时间的时间戳,而是存储时间戳的差值(当前时间戳 - 起始时间戳),这里的起始时间戳一般是ID生成器开始使用的时间戳,由程序来指定,所以41位毫秒时间戳最多可以使用 (1 << 41) / (1000x60x60x24x365) = 69年

  • 10位数据机器位:

包括5位数据标识位和5位机器标识位,这10位决定了分布式系统中最多可以部署 1 << 10 = 1024 s个节点。超过这个数量,生成的ID就有可能会冲突。

  • 12位毫秒内的序列:

这 12 位计数支持每个节点每毫秒(同一台机器,同一时刻)最多生成 1 << 12 = 4096个ID

加起来刚好64位,为一个Long型。

  • 优点:高性能,低延迟,按时间有序,一般不会造成ID碰撞
  • 缺点:需要独立的开发和部署,依赖于机器的时钟

代码实现:

public class IdWorker { 
    /** 
     * 起始时间戳 2017-04-01 
     */ 
    private final long epoch = 1491004800000L; 
    /** 
     * 机器ID所占的位数 
     */ 
    private final long workerIdBits = 5L; 
    /** 
     * 数据标识ID所占的位数 
     */ 
    private final long dataCenterIdBits = 5L; 
    /** 
     * 支持的最大机器ID,结果是31 
     */ 
    private final long maxWorkerId = ~(-1L << workerIdBits); 
    /** 
     * 支持的最大数据标识ID,结果是31 
     */ 
    private final long maxDataCenterId = ~(-1 << dataCenterIdBits); 
    /** 
     * 毫秒内序列在id中所占的位数 
     */ 
    private final long sequenceBits = 12L; 
    /** 
     * 机器ID向左移12位 
     */ 
    private final long workerIdShift = sequenceBits; 
    /** 
     * 数据标识ID向左移17(12+5)位 
     */ 
    private final long dataCenterIdShift = sequenceBits + workerIdBits; 
    /** 
     * 时间戳向左移22(12+5+5)位 
     */ 
    private final long timestampShift = sequenceBits + workerIdBits + dataCenterIdBits; 
    /** 
     * 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095) 
     */ 
    private final long sequenceMask = ~(-1L << sequenceBits); 
    /** 
     * 数据标识ID(0~31) 
     */ 
    private long dataCenterId; 
    /** 
     * 机器ID(0~31) 
     */ 
    private long workerId; 
    /** 
     * 毫秒内序列(0~4095) 
     */ 
    private long sequence; 
    /** 
     * 上次生成ID的时间戳 
     */ 
    private long lastTimestamp = -1L; 
<span class="hljs-function"><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">public</span></span></span><span class="hljs-function"> </span><span class="hljs-title"><span class="hljs-function"><span class="hljs-title">IdWorker</span></span></span><span class="hljs-params"><span class="hljs-function"><span class="hljs-params">(</span></span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-params"><span class="hljs-keyword">long</span></span></span></span><span class="hljs-function"><span class="hljs-params"> dataCenterId, </span></span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-params"><span class="hljs-keyword">long</span></span></span></span><span class="hljs-function"><span class="hljs-params"> workerId)</span></span></span><span class="hljs-function"> </span></span>{ 
    <span class="hljs-keyword"><span class="hljs-keyword">if</span></span> (dataCenterId &gt; maxDataCenterId || dataCenterId &lt; <span class="hljs-number"><span class="hljs-number">0</span></span>) { 
        <span class="hljs-keyword"><span class="hljs-keyword">throw</span></span> <span class="hljs-keyword"><span class="hljs-keyword">new</span></span> IllegalArgumentException(String.format(<span class="hljs-string"><span class="hljs-string">"dataCenterId can't be greater than %d or less than 0"</span></span>, maxDataCenterId)); 
    } 
    <span class="hljs-keyword"><span class="hljs-keyword">if</span></span> (workerId &gt; maxWorkerId || workerId &lt; <span class="hljs-number"><span class="hljs-number">0</span></span>) { 
        <span class="hljs-keyword"><span class="hljs-keyword">throw</span></span> <span class="hljs-keyword"><span class="hljs-keyword">new</span></span> IllegalArgumentException(String.format(<span class="hljs-string"><span class="hljs-string">"worker Id can't be greater than %d or less than 0"</span></span>, maxWorkerId)); 
    } 
    <span class="hljs-keyword"><span class="hljs-keyword">this</span></span>.dataCenterId = dataCenterId; 
    <span class="hljs-keyword"><span class="hljs-keyword">this</span></span>.workerId = workerId; 
} 
 
<span class="hljs-comment"><span class="hljs-comment">/** 
 * 获得下一个ID (该方法是线程安全的) 
 * </span><span class="hljs-doctag"><span class="hljs-comment"><span class="hljs-doctag">@return</span></span></span><span class="hljs-comment"> snowflakeId 
 */</span></span> 
<span class="hljs-function"><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">public</span></span></span><span class="hljs-function"> </span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">synchronized</span></span></span><span class="hljs-function"> </span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">long</span></span></span><span class="hljs-function"> </span><span class="hljs-title"><span class="hljs-function"><span class="hljs-title">nextId</span></span></span><span class="hljs-params"><span class="hljs-function"><span class="hljs-params">()</span></span></span><span class="hljs-function"> </span></span>{ 
    <span class="hljs-keyword"><span class="hljs-keyword">long</span></span> timestamp = timeGen(); 
    <span class="hljs-comment"><span class="hljs-comment">//如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过,这个时候应当抛出异常</span></span> 
    <span class="hljs-keyword"><span class="hljs-keyword">if</span></span> (timestamp &lt; lastTimestamp) { 
        <span class="hljs-keyword"><span class="hljs-keyword">throw</span></span> <span class="hljs-keyword"><span class="hljs-keyword">new</span></span> RuntimeException(String.format(<span class="hljs-string"><span class="hljs-string">"Clock moved backwards.  Refusing to generate id for %d milliseconds"</span></span>, lastTimestamp - timestamp)); 
    } 
    <span class="hljs-comment"><span class="hljs-comment">//如果是同一时间生成的,则进行毫秒内序列</span></span> 
    <span class="hljs-keyword"><span class="hljs-keyword">if</span></span> (timestamp == lastTimestamp) { 
        sequence = (sequence + <span class="hljs-number"><span class="hljs-number">1</span></span>) &amp; sequenceMask; 
        <span class="hljs-comment"><span class="hljs-comment">//毫秒内序列溢出</span></span> 
        <span class="hljs-keyword"><span class="hljs-keyword">if</span></span> (sequence == <span class="hljs-number"><span class="hljs-number">0</span></span>) { 
            <span class="hljs-comment"><span class="hljs-comment">//阻塞到下一个毫秒,获得新的时间戳</span></span> 
            timestamp = nextMillis(lastTimestamp); 
        } 
    } <span class="hljs-keyword"><span class="hljs-keyword">else</span></span> {<span class="hljs-comment"><span class="hljs-comment">//时间戳改变,毫秒内序列重置</span></span> 
        sequence = <span class="hljs-number"><span class="hljs-number">0L</span></span>; 
    } 
    lastTimestamp = timestamp; 
    <span class="hljs-comment"><span class="hljs-comment">//移位并通过按位或运算拼到一起组成64位的ID</span></span> 
    <span class="hljs-keyword"><span class="hljs-keyword">return</span></span> ((timestamp - epoch) &lt;&lt; timestampShift) | 
            (dataCenterId &lt;&lt; dataCenterIdShift) | 
            (workerId &lt;&lt; workerIdShift) | 
            sequence; 
} 
 
<span class="hljs-comment"><span class="hljs-comment">/** 
 * 返回以毫秒为单位的当前时间 
 * </span><span class="hljs-doctag"><span class="hljs-comment"><span class="hljs-doctag">@return</span></span></span><span class="hljs-comment"> 当前时间(毫秒) 
 */</span></span> 
<span class="hljs-function"><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">protected</span></span></span><span class="hljs-function"> </span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">long</span></span></span><span class="hljs-function"> </span><span class="hljs-title"><span class="hljs-function"><span class="hljs-title">timeGen</span></span></span><span class="hljs-params"><span class="hljs-function"><span class="hljs-params">()</span></span></span><span class="hljs-function"> </span></span>{ 
    <span class="hljs-keyword"><span class="hljs-keyword">return</span></span> System.currentTimeMillis(); 
} 
 
<span class="hljs-comment"><span class="hljs-comment">/** 
 * 阻塞到下一个毫秒,直到获得新的时间戳 
 * </span><span class="hljs-doctag"><span class="hljs-comment"><span class="hljs-doctag">@param</span></span></span><span class="hljs-comment"> lastTimestamp 上次生成ID的时间截 
 * </span><span class="hljs-doctag"><span class="hljs-comment"><span class="hljs-doctag">@return</span></span></span><span class="hljs-comment"> 当前时间戳 
 */</span></span> 
<span class="hljs-function"><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">protected</span></span></span><span class="hljs-function"> </span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-keyword">long</span></span></span><span class="hljs-function"> </span><span class="hljs-title"><span class="hljs-function"><span class="hljs-title">nextMillis</span></span></span><span class="hljs-params"><span class="hljs-function"><span class="hljs-params">(</span></span><span class="hljs-keyword"><span class="hljs-function"><span class="hljs-params"><span class="hljs-keyword">long</span></span></span></span><span class="hljs-function"><span class="hljs-params"> lastTimestamp)</span></span></span><span class="hljs-function"> </span></span>{ 
    <span class="hljs-keyword"><span class="hljs-keyword">long</span></span> timestamp = timeGen(); 
    <span class="hljs-keyword"><span class="hljs-keyword">while</span></span> (timestamp &lt;= lastTimestamp) { 
        timestamp = lastTimestamp; 
    } 
    <span class="hljs-keyword"><span class="hljs-keyword">return</span></span> timestamp; 
}  

}


6. 美团Leaf

Leaf 是美团开源的分布式ID生成器,能保证全局唯一性、趋势递增、单调递增、信息安全,里面也提到了几种分布式方案的对比,但也需要依赖关系数据库、Zookeeper等中间件。官网链接:IT虾米网

                                    </div> 
                                        </div> 
                <div class="ui hidden divider"></div> 
                <p style="text-align:center;"> 
                                                © 著作权归作者所有 
                                        </p> 

原文地址:IT虾米网


发布评论
IT序号网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!

分布式ID的雪花算法及坑知识解答
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。