[python]实现可以自动清除过期条目的缓存

由于有缓存图片验证码的需要,所以我找了一些开源的缓存想直接使用,结果要么太老旧,要么太复杂,要么和 fastAPI 整合有问题,所以才想到自己写一个简单的,够用就好。

本文讲述了如何实现一个简单的内存缓存,他可以把过期的键值自动清除,在缓存验证码等场合应该很好用。

它的基本实现思路是:在初始化的时候自动启动一个清理线程,轮询删除过期的键值。

在实现的过程中使用了 lock ,以保证多线程安全。

主要代码如下:

python 复制代码
class Cache:
    def __init__(self, max_size, ttl):
        """
        初始化缓存类
        :param max_size: 缓存最大容量
        :param ttl: 每个缓存元素的生存时间(秒)
        """
        self.max_size = max_size
        self.ttl = ttl
        self.cache = {}  # 存储缓存数据
        self.lock = Lock()  # 保证线程安全
        self._start_cleanup_thread()  # 启动自动清理线程

    def _start_cleanup_thread(self):
        """启动后台线程定期清理过期缓存"""
        def cleanup():
            while True:
                time.sleep(1)
                self._remove_expired_keys()

        thread = Thread(target=cleanup, daemon=True)
        thread.start()

    def _remove_expired_keys(self):
        """移除过期的缓存键"""
        with self.lock:
            current_time = time.time()
            expired_keys = [
                key for key, (_, expire_at) in self.cache.items()
                if expire_at <= current_time
            ]
            for key in expired_keys:
                del self.cache[key]
                print(f"清理过期键:{key}")

    def add(self, key, value):
        """
        添加缓存元素
        :param key: 缓存键
        :param value: 缓存值
        :raises CacheFullError: 当缓存已满时抛出
        """
        with self.lock:
            if key in self.cache:
                # 如果键已存在,更新值和过期时间
                self.cache[key] = (value, time.time() + self.ttl)
                return
            if len(self.cache) >= self.max_size:
                print("缓存已满,无法添加新元素")  
                return Error.FULL
            self.cache[key] = (value, time.time() + self.ttl)
            return Error.OK

    def get(self, key):
        """
        获取缓存值
        :param key: 缓存键
        :return: 缓存值
        :raises KeyError: 当键不存在或过期时抛出
        """
        with self.lock:
            if key in self.cache:
                value, expire_at = self.cache[key]
                if time.time() < expire_at:
                    return Error.OK, value
                else:
                    del self.cache[key]  # 自动清除过期键
                    return Error.EXPIRED,None
            return Error.NOT_FOUND,None

以上是主要的逻辑,下面是全部代码下载地址:

它已经实际应用在 langchain+llama3+Chroma RAG demo 中,有兴趣您也体验实际应用,并欢迎指正。


🪐祝您好运🪐

相关推荐
Csvn1 天前
🌟 LangChain 30 天保姆级教程 · Day 13|OutputParser 进阶!让 AI 输出自动转为结构化对象,并支持自动重试!
python·langchain
Wenweno0o1 天前
0基础Go语言Eino框架智能体实战-chatModel
开发语言·后端·golang
chenjingming6661 天前
jmeter线程组设置以及串行和并行设置
java·开发语言·jmeter
cch89181 天前
Python主流框架全解析
开发语言·python
不爱吃炸鸡柳1 天前
C++ STL list 超详细解析:从接口使用到模拟实现
开发语言·c++·list
十五年专注C++开发1 天前
RTTR: 一款MIT 协议开源的 C++ 运行时反射库
开发语言·c++·反射
Momentary_SixthSense1 天前
设计模式之工厂模式
java·开发语言·设计模式
sg_knight1 天前
设计模式实战:状态模式(State)
python·ui·设计模式·状态模式·state
好运的阿财1 天前
process 工具与子agent管理机制详解
网络·人工智能·python·程序人生·ai编程
‎ദ്ദിᵔ.˛.ᵔ₎1 天前
STL 栈 队列
开发语言·c++