大厂面试真题-如果使用guava limiter实现实例级别的缓存

Guava库中的RateLimiterCache是两个不同的组件,分别用于控制访问频率和实现缓存功能。RateLimiter用于流量控制,确保系统在处理请求时不会超过指定的速率,而Cache则用于存储数据以加快访问速度。

由于RateLimiter本身并不直接支持实现缓存功能,因此你无法直接使用RateLimiter来实现实例级的本地缓存。但是,你可以结合Guava的CacheRateLimiter来实现一个既具有缓存功能又受流量控制的系统。

以下是一个使用Guava的CacheRateLimiter来实现实例级本地缓存的示例:

java 复制代码
import com.google.common.cache.Cache;  
import com.google.common.cache.CacheBuilder;  
import com.google.common.util.concurrent.RateLimiter;  
  
import java.util.concurrent.TimeUnit;  
  
public class CachedService {  
    // 创建一个缓存实例,设置缓存的最大容量为100,并且设置写入后5分钟过期  
    private Cache<String, String> cache = CacheBuilder.newBuilder()  
            .maximumSize(100)  
            .expireAfterWrite(5, TimeUnit.MINUTES)  
            .build();  
  
    // 创建一个RateLimiter实例,设置每秒允许2个请求  
    private RateLimiter rateLimiter = RateLimiter.create(2.0);  
  
    // 模拟从某个数据源获取数据的方法  
    private String fetchDataFromSource(String key) {  
        // 这里可以是数据库查询、HTTP请求等  
        return "Data for " + key;  
    }  
  
    // 获取数据的方法,首先尝试从缓存中获取,如果缓存中没有则通过RateLimiter控制后从数据源获取  
    public String getData(String key) {  
        // 尝试从缓存中获取数据  
        String cachedData = cache.getIfPresent(key);  
        if (cachedData != null) {  
            System.out.println("Cache hit for key: " + key);  
            return cachedData;  
        }  
  
        // 如果缓存中没有数据,则通过RateLimiter获取许可  
        rateLimiter.acquire(); // 这会阻塞当前线程直到获取到许可  
  
        // 尝试再次从缓存中获取数据(以防在获取许可期间有其他线程已经更新了缓存)  
        cachedData = cache.getIfPresent(key);  
        if (cachedData != null) {  
            return cachedData;  
        }  
  
        // 如果仍然没有数据,则从数据源获取  
        System.out.println("Fetching data from source for key: " + key);  
        String newData = fetchDataFromSource(key);  
  
        // 将新数据放入缓存中  
        cache.put(key, newData);  
  
        return newData;  
    }  
  
    public static void main(String[] args) {  
        CachedService service = new CachedService();  
  
        // 模拟多个线程同时访问数据  
        for (int i = 0; i < 10; i++) {  
            new Thread(() -> {  
                String key = "exampleKey";  
                String data = service.getData(key);  
                System.out.println("Thread " + Thread.currentThread().getId() + " got data: " + data);  
            }).start();  
        }  
    }  
}

在这个示例中,CachedService类有一个Cache实例用于存储数据,并且有一个RateLimiter实例用于控制对数据源的访问频率。getData方法首先尝试从缓存中获取数据,如果缓存中没有数据,则通过RateLimiter获取许可,然后再次检查缓存(因为可能在获取许可期间有其他线程已经更新了缓存),如果仍然没有数据,则从数据源获取并更新缓存。

请注意,这个示例中的RateLimiter是全局的,意味着它会限制所有对getData方法的调用。如果你想要对每个不同的键或每个不同的实例有独立的流量控制,你需要为每个键或实例创建单独的RateLimiter实例。然而,这通常不是推荐的做法,因为它可能会增加复杂性和资源消耗。相反,你应该根据业务需求和系统架构来选择合适的流量控制策略。

相关推荐
qq_2816842137 分钟前
Apt-Serve:基于混合缓存与自适应调度突破LLM推理KV缓存瓶颈,吞吐量提升8.8倍
缓存
肆忆_37 分钟前
【面试】手撕线程池
面试
wangfpp38 分钟前
性能优化,请先停手:为什么我劝你别上来就搞优化?
前端·javascript·面试
野犬寒鸦1 小时前
JVM垃圾回收机制面试常问问题及详解
java·服务器·开发语言·jvm·后端·算法·面试
奕成则成2 小时前
面试被问:MySQL 与 Doris/SelectDB 的架构区别。 大数据为什么禁止select *。
mysql·面试·架构
AlunYegeer2 小时前
面试问题controller和service能不能互相替换
面试·职场和发展
1104.北光c°2 小时前
深入浅出 Elasticsearch:从搜索框到精准排序的架构实战
java·开发语言·elasticsearch·缓存·架构·全文检索·es
MSTcheng.2 小时前
【优选算法必修篇——位运算】『面试题 01.01. 判定字符是否唯一&面试题 17.19. 消失的两个数字』
java·算法·面试
FakeOccupational2 小时前
【电路笔记 STM32】Cortex-M7 内核上的数据缓存结构图 + MPU内存保护单元 + Cache基本操作 + Cache&DMA 时序图
笔记·stm32·缓存
AMoon丶3 小时前
Golang--内存管理
开发语言·后端·算法·缓存·golang·os