缓存雪崩

  什么是缓存雪崩?

  缓存在同一时间大面积的失效,后面的请求都直接落到了数据库上,造成数据库短时间内承受大量请求。 这就好比雪崩一样,数据库的压力可想而知,可能直接就被这么多请求弄宕机了。

  举个例子:系统的缓存模块出了问题比如宕机导致不可用。造成系统的所有访问,都要走数据库。

  还有一种缓存雪崩的场景是:有一些被大量访问数据(热点缓存)在某一时刻大面积失效,导致对应的请求直接落到了数据库上。 这样的情况,有下面几种解决办法:

  举个例子 :秒杀开始12个小时之前,我们统一存放了一批商品到 Redis 中,设置的缓存过期时间也是12个小时,那么秒杀开始的时候,这些秒杀的商品的访问直接就失效了。导致的情况就是,相应的请求直接就落到了数据库上,就像雪崩一样可怕。

  解决办法:

    针对Redis服务不可用的情况:

     1.redis集群

     2.限流

    针对热点缓存失效:

     1.设置不同的失效时间(比如随机设置失效时间)

     2.永不失效

缓存穿透

  什么是缓存穿透?  

  大量请求的key不存在缓存中,从而请求数据库。举个例子:某个黑客故意制造我们缓存中不存在的 key 发起大量请求,导致大量请求落到数据库。

  缓存穿透情况的处理流程是怎样的?

  

   解决办法:

  最基本的就是首先做好参数校验,一些不合法的参数请求直接抛出异常信息返回给客户端。比如查询的数据库 id 不能小于 0、传入的邮箱格式不对的时候直接返回错误消息给客户端等等。

  1)缓存无效 key

  如果缓存和数据库都查不到某个 key 的数据就写一个到 Redis 中去并设置过期时间.比如:set key value ex 1024.

  这种方式可以解决请求的 key 变化不频繁的情况,如果黑客恶意攻击,每次构建不同的请求 key,会导致 Redis 中缓存大量无效的 key 。很明显,这种方案并不能从根本上解决此问题。如果非要用这种方式来解决穿透问题的话,尽量将无效的 key 的过期时间设置短一         点比如 1 分钟。

  一般情况下我们是这样设计 key 的: 表名:列名:主键名:主键值

  如果用 Java 代码展示的话,差不多是下面这样的:

public Object getObjectInclNullById(Integer id) { 
    Object cachValue = cach.get(id);//从缓存中获取数据 
    if(cachValue ==null){ 
      // 从数据库中获取 
        Object storageValue = storage.get(key); 
        cachValue.set(key, storageValue); 
        // 如果存储数据为空,需要设置一个过期时间(300秒) 
        if(storageValue ==null){ 
         cache.expire(key,60*50); 
        } 
         return storageValue; 
    }      
      return cacheValue; 
     
}         

  2)布隆过滤器

  布隆过滤器是一个非常神奇的数据结构,通过它我们可以非常方便地判断一个给定数据是否存在于海量数据中。我们需要的就是判断 key 是否合法,有没有感觉布隆过滤器就是我们想要找的那个“人”。

  具体是这样做的:把所有可能存在的请求的值都存放在布隆过滤器中,当用户请求过来,先判断用户发来的请求的值是否存在于布隆过滤器中。不存在的话,直接返回请求参数错误信息给客户端,存在的话才会走下面的流程。

  但是,需要注意的是布隆过滤器可能会存在误判的情况。总结来说就是: 布隆过滤器说某个元素存在,小概率会误判。布隆过滤器说某个元素不在,那么这个元素一定不在。

   为什么会出现误判的情况呢?我们还要从布隆过滤器的原理来说!  

  我们先来看一下,当一个元素加入布隆过滤器中的时候,会进行哪些操作:

  1. 使用布隆过滤器中的哈希函数对元素值进行计算,得到哈希值(有几个哈希函数得到几个哈希值)。
  2. 根据得到的哈希值,在位数组中把对应下标的值置为 1。

  我们再来看一下,当我们需要判断一个元素是否存在于布隆过滤器的时候,会进行哪些操作:

  1. 对给定元素再次进行相同的哈希计算;
  2. 得到值之后判断位数组中的每个元素是否都为 1,如果值都为 1,那么说明这个值在布隆过滤器中,如果存在一个值不为 1,说明该元素不在布隆过滤器中。

  然后,一定会出现这样一种情况:不同的字符串可能哈希出来的位置相同。 (可以适当增加位数组大小或者调整我们的哈希函数来降低概率)

  更多关于布隆过滤器的内容可以看这篇:《不了解布隆过滤器?一文给你整的明明白白!》 ,强烈推荐,个人感觉网上应该找不到总结的这么明明白白的文章了。

参考文档:

  IT虾米网


发布评论
IT序号网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!

reids补充7之Redis 内存淘汰机制(MySQL 里有 2000w 数据,Redis 中只存 20w 的数据,如何保证 Redis 中的数据都是热点数据)知识解答
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。