Redis 缓存击穿和缓存雪崩

简介: Redis 缓存击穿和缓存雪崩

缓存击穿(查得到但是量太大,缓存过期)

缓存击穿可以想象:一堵墙,把全部的火力点集中到某个位置,造成单方面突破
缓存击穿是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,当这个key失效的瞬间,持续的大并发就击穿了缓存,直接请求数据库瞬间压力过大
当某个key过期的瞬间,有大量的请求并发访问,这类数据一般是热点数据,由于缓存过期,会同时访问数据库来查询最新数据,并且会写缓存,导致数据库瞬间压力过大
场景:热搜微博:微博服务器宕机,有一个热搜新闻我们会共同访问它,把所有的流量到攻击到这个点上,比如设置60s过期,但是我们60.1秒把它恢复,巨大的请求会直接访问我们的数据库
解决方案
1 设置热点数据永不过期,从缓存的层面上看,没有设置过期的时间,所以不会出现热点key过期后产生的问题(不过这种方案也是万能的,redis有内存上限的问题,需要考虑删除过期的key)
2 加互斥锁(分布式锁)setnx,使用分布式锁,保证对于每一个key同时只有一个线程去查询后端服务,其他线程没有获得分布式锁的权限,因此只需要等待即可,这种方式将高并发的压力转移到了分布式锁(使用分布式锁也非常麻烦,对分布式锁的考验很大)
拿微博热搜进行图示

暂时无法在文档外展示此内容

3 缓存雪崩

缓存雪崩是指:在某一个时间段,缓存集中过期失效(redis集群宕机 停电)
场景:,比如在写文本的时候,马上就要到双12的零点,很快就会迎来一波抢购,把热点数据全部放在缓存中,设置时候为1小时,但是过了凌晨一点,这些缓存就过期了,而对这批商品的访问查询,都落在了数据库上面,对于数据库而言,就会产生周期性的压力,于是所有的请求都会到达存储层,存储层的调用者会暴增,造成存储层也会挂掉的情况

网络异常,图片无法展示
|

其实集中过期,倒不是非常致命,比较致命的缓存雪崩,是服务器的某个节点和断网,因为自然形成的缓存雪崩,一定是个某个时间段集中创建缓存,这个时候,数据库也是可以顶住压力大,无非就是对数据库产生周期性的压力而已,而缓存服务节点的宕机,对数据库造成的压力是不可预知的,很有可能把数据库瞬间就把数据库压垮
比如:双十一会停掉一些服务(保证主要的服务可用),比如双11当天退款是很困难的,就是因为相关服务被停了,为我们的主要服务去让路,保证服务器的高可用
解决方案:
1 redis高可用:,这个思想的含义是,既然redis有可能挂掉,那我就多准备几台redis,这样一台挂掉之后就可以继续工作,其实就是搭建的集群(异地多活)
2 限流降级: 这个解决方案的思路是,在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量,比如对某个key只允许一个线程查询数据和写缓存,其他线程进行等待(降级就是把一些不是主要的服务停下来给我们的主要的服务让路,双十一不能退款就是例子)
3 数据预热:数据预热的含义就是在正式部署之前,我先把可能的数据先预热先访问一遍,这样部分可能大量的访问的数据就会加载到缓存中,在即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间尽量均匀一些,避免同时失效这种情况

2.Nosql

相关文章
|
7月前
|
缓存 NoSQL 关系型数据库
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
美团面试:MySQL有1000w数据,redis只存20w的数据,如何做 缓存 设计?
|
5月前
|
缓存 数据库连接 数据库
缓存三剑客(穿透、击穿、雪崩)
缓存穿透指查询数据库和缓存中都不存在的数据,导致请求直接冲击数据库。解决方案包括缓存空对象和布隆过滤器。缓存击穿是大量请求访问同一个失效的热点数据,使数据库瞬间压力剧增,解决方法有提前预热、设置永不过期、加锁限流等。缓存雪崩是大量key同时失效,导致所有请求直达数据库,可通过引入随机过期时间缓解。三者分别对应单点爆破、全面崩塌等问题,需根据场景选择合适策略优化系统性能与稳定性。
351 0
|
5月前
|
存储 缓存 NoSQL
如何解决缓存击穿?
缓存击穿是指热点数据失效时大量请求直接冲击数据库,可能导致系统崩溃。解决方案包括:永不过期策略避免缓存失效瞬间的穿透;互斥锁控制并发访问;热点预热提前刷新缓存;熔断降级在数据库压力大时返回默认值;二级缓存降低Redis压力。实际中常组合使用多种方案,如热点预热+互斥锁+熔断降级,以提升系统稳定性与性能。
663 0
|
2月前
|
缓存 负载均衡 监控
135_负载均衡:Redis缓存 - 提高缓存命中率的配置与最佳实践
在现代大型语言模型(LLM)部署架构中,缓存系统扮演着至关重要的角色。随着LLM应用规模的不断扩大和用户需求的持续增长,如何构建高效、可靠的缓存架构成为系统性能优化的核心挑战。Redis作为业界领先的内存数据库,因其高性能、丰富的数据结构和灵活的配置选项,已成为LLM部署中首选的缓存解决方案。
|
3月前
|
存储 缓存 NoSQL
Redis专题-实战篇二-商户查询缓存
本文介绍了缓存的基本概念、应用场景及实现方式,涵盖Redis缓存设计、缓存更新策略、缓存穿透问题及其解决方案。重点讲解了缓存空对象与布隆过滤器的使用,并通过代码示例演示了商铺查询的缓存优化实践。
219 1
Redis专题-实战篇二-商户查询缓存
|
2月前
|
缓存 运维 监控
Redis 7.0 高性能缓存架构设计与优化
🌟蒋星熠Jaxonic,技术宇宙中的星际旅人。深耕Redis 7.0高性能缓存架构,探索函数化编程、多层缓存、集群优化与分片消息系统,用代码在二进制星河中谱写极客诗篇。
|
7月前
|
缓存 NoSQL Java
Redis+Caffeine构建高性能二级缓存
大家好,我是摘星。今天为大家带来的是Redis+Caffeine构建高性能二级缓存,废话不多说直接开始~
1030 0
|
3月前
|
缓存 NoSQL 关系型数据库
Redis缓存和分布式锁
Redis 是一种高性能的键值存储系统,广泛用于缓存、消息队列和内存数据库。其典型应用包括缓解关系型数据库压力,通过缓存热点数据提高查询效率,支持高并发访问。此外,Redis 还可用于实现分布式锁,解决分布式系统中的资源竞争问题。文章还探讨了缓存的更新策略、缓存穿透与雪崩的解决方案,以及 Redlock 算法等关键技术。
|
4月前
|
缓存 监控 安全
告别缓存击穿!Go 语言中的防并发神器:singleflight 包深度解析
在高并发场景中,多个请求同时访问同一资源易导致缓存击穿、数据库压力过大。Go 语言提供的 `singleflight` 包可将相同 key 的请求合并,仅执行一次实际操作,其余请求共享结果,有效降低系统负载。本文详解其原理、实现及典型应用场景,并附示例代码,助你掌握高并发优化技巧。
354 0
|
5月前
|
缓存 NoSQL 数据库
什么是缓存击穿
缓存击穿是指热点缓存key突然失效,导致大量并发请求直接冲击数据库,造成巨大压力。常见于高并发场景,如热门商品信息失效时。解决方法包括设置热点key永不过期、使用分布式锁、预热数据、熔断降级等,以保障系统稳定性。
639 0