目录
缓存击穿
概念
缓存击穿是指缓存中不存在但数据库中存在的数据请求,由于缓存没有命中,导致请求直接落到数据库上,造成数据库压力骤增。缓存击穿常常发生在某些热点数据上,比如某个高访问频率的热点键突然失效时,大量请求直接穿透缓存访问数据库。
缓存击穿的原因
热点数据缓存失效:高访问频率的热点数据在缓存中失效,导致大量请求直接访问数据库。
缓存设置不当:如缓存策略不合理,过期时间设置过短等
突发流量:突发性的大量请求几种访问某个热点数据,导致缓存来不及重建,直接击穿到数据库。
缓存击穿的影响
数据库压力骤增:大量请求直接访问数据库,可能导致数据库负载过高甚至崩溃。
响应延迟增加:缓存击穿会导致请求需要经过数据库查询,响应时间变长,影响用户体验。
系统稳定性降低:数据库过载可能引发系统不稳定,甚至导致服务不可用。
缓存击穿的应对措施
设置分布式锁
在缓存失效时,通过加锁机制,确保只有一个线程去加载数据并更新缓存,其他线程等待锁释放后再读取缓存。
提前更新缓存
在缓存失效前主动更新缓存。可以使用定时任务或异步任务,在缓存即将过期时提前刷新缓存。
请求分级和降级
- 针对缓存击穿的情况,可以对请求进行分级处理,优先保证核心请求。
- 对非核心请求进行降级处理,如返回默认值或错误提示。
缓存穿透
概念
缓存穿透是指请求的数据既不在缓存中,也不存在于数据库中,导致每次请求都直接达到数据库。由于这些请求无法通过缓存过滤掉,所有的请求都到达数据库。可能会对数据库造成巨大压力。
缓存穿透的原因
恶意攻击:攻击者故意构造大量不存在的key进行请求,绕过缓存,直接打到数据库,造成数据库压力骤增。
业务设计缺陷:正常业务逻辑中,存在大量的不存在的数据请求,未合理处理,导致频繁穿透缓存。
用户错误输入:用户输入错误或者不规范的数据,导致请求的数据在缓存和数据库中都不存在。
缓存穿透的应对措施
缓存空值
- 对于查询结果为空的数据,也将其缓存起来,避免下一次请求再次穿透过数据库。
java
String key = "nonExistingKey";
String value = redis.get(key);
if (value == null) {
value = db.get(key);
if (value == null) {
// 将空值写入缓存,并设置合理的过期时间
redis.set(key, "", 60); // 60秒过期
} else {
redis.set(key, value, 300); // 300秒过期
}
}
布隆过滤器
- 使用布隆过滤器在缓存前进行一次快速判断,如果布隆过滤器判断该 key 不存在,则直接返回,不再查询缓存和数据库。
java
// 初始化布隆过滤器
BloomFilter<String> bloomFilter = BloomFilter.create(Funnels.stringFunnel(Charset.defaultCharset()), expectedInsertions);
// 添加存在的key到布隆过滤器
bloomFilter.put("existingKey1");
bloomFilter.put("existingKey2");
String key = "nonExistingKey";
if (!bloomFilter.mightContain(key)) {
return null; // 直接返回,不查询缓存和数据库
}
// 正常的缓存和数据库查询流程
String value = redis.get(key);
if (value == null) {
value = db.get(key);
redis.set(key, value);
}
限流和黑名单
- 对于明显的恶意请求,可以采取限流和黑名单策略,限制其访问频率或直接拒绝其请求。
java
String clientIp = getClientIp();
if (isBlacklisted(clientIp)) {
return null; // 直接返回,不查询缓存和数据库
}
// 正常的缓存和数据库查询流程
String key = "someKey";
String value = redis.get(key);
if (value == null) {
value = db.get(key);
redis.set(key, value);
}
缓存雪崩
缓存雪崩概念
缓存雪崩是指由于大量缓存数据在同一时间过期或失效,导致后续的所有请求都直接访问数据库,瞬间增加数据库的负载。与缓存击穿不同,缓存雪崩通常影响的是大批量的缓存数据,而不是单个热点数据。
缓存雪崩的原因
- 缓存过期时间设置不合理:大批量缓存键设定了相同或相近的过期时间,导致它们在同一时间点失效。
- 突发流量:在流量高峰期,如果缓存失效,短时间内会有大量请求同时涌入数据库。
- 缓存服务宕机:缓存服务(如 Redis 实例)出现宕机或重启,导致所有缓存失效,所有请求直接击中数据库。
应对措施
缓存过期时间随机化:
- 在设置缓存过期时间时,添加一定的随机时间,使得不同的缓存键有不同的过期时间,避免大量缓存键在同一时间失效。
java
// 伪代码示例
int baseExpireTime = 600; // 基础过期时间600秒
int randomTime = new Random().nextInt(300); // 随机附加300秒
int expireTime = baseExpireTime + randomTime;
redis.set(key, value, expireTime);
多级缓存架构
- 通过引入本地缓存(如 Guava Cache)和分布式缓存(如 Redis)相结合的多级缓存架构,减少直接访问数据库的请求数量。
java
// 伪代码示例
String key = "someKey";
String value = localCache.get(key);
if (value == null) {
value = redis.get(key);
if (value == null) {
value = db.get(key);
redis.set(key, value);
}
localCache.put(key, value);
}
限流
- 通过限流机制控制高并发请求的流量,防止因大量请求同时访问数据库而导致数据库崩溃。
java
// 伪代码示例
if (!rateLimiter.tryAcquire()) {
return "Service is busy, please try again later.";
}
String key = "someKey";
String value = redis.get(key);
if (value == null) {
value = db.get(key);
redis.set(key, value);
}
return value;
预热缓存
- 在高峰期来临之前,预先将热点数据加载到缓存中,避免在流量高峰期缓存失效导致的雪崩。
java
// 伪代码示例
@Scheduled(fixedRate = 60000) // 每分钟执行一次
public void preheatCache() {
String key = "hotKey";
String value = db.get(key);
redis.set(key, value);
}
希望本文能帮助大家更好地理解和应对 Redis 缓存击穿,缓存穿透,缓存雪崩问题。