一文说清LRU算法

LRU算法

一、1.什么是LRU算法?

LRU算法(Least Recently Used)是一种替换最近最少使用的页面置换算法,在计算机内存管理中经常使用。它的基本思想是将最近没有被使用的页面从内存中淘汰出去,留下最近被使用的页面在内存中,以达到缓解内存紧张的目的。

算法原理:

LRU算法是一种基于时间局部性原理的页面置换算法,其核心思想是淘汰最近最少使用的页面,仅保留最近被使用的页面。

当需要装入一个新的页面时,LRU算法会检查现有内存块中是否有该页面,如果有,则直接使用;如果没有,则需要淘汰最近最少使用的页面,并将新页面装入内存。

具体来说,LRU算法通过维护一个"页面访问历史链表"来跟踪内存中的页面使用情况。其中,链表头表示最近被使用的页面,链表尾表示最近未被使用的页面。当需要淘汰页面时,LRU算法会选择链表尾的页面进行淘汰。

举个简单的例子,安卓手机都可以吧软件放在后台运行,比如我先后打开了"设置"、"手机管家"、"日历",那么现在他们在后台排列的顺序是这样的:

但是这时候如果我访问了一下"设置"界面,那么"设置"就会被提前到第一个,变成这样:

假设我的手机只允许我同时打开3个应用程序,现在已经满了。那么如果我新开了一个应用"时钟",就必须关闭一个应用为"时钟"腾出一个位置,那么关闭哪个呢?

按照LRU的策略,就关最底下的"手机管家",因为那是最久未使用的,然后把新开的应用放到最上面:

现在你应该理解LRU策略了,当然还有其他缓存策略,比如不要按访问的时序来淘汰,而是按访问频率(LFU策略)来淘汰等等,各有应用场景。

二、LRU算法设计原理:

我们可以总结出 LRU算法数据结构必要的条件:查找快,插入快,删除快,有顺序之分。

因为必须有顺序之分,以区分最近使用的和久未使用的数据;而且我们要在 cache 中查找键是否已存在;如果容量满了要删除最后一个数据;每次访问还要把数据插入到队头。

那么,什么数据结构同时符合上述条件呢?

1、哈希表查找快,但是数据无固定顺序;

2、链表有顺序之分,插入删除快,但是查找慢。

所以结合一下,形成一种新的数据结构:哈希 链表。

LRU 缓存算法的核心数据结构就是哈希链表,双向链表和 哈希表 的结合体。这个数据结构长这样:

借助哈希表赋予了链表快速查找的特性嘛:可以快速查找某个 key 是否存在缓存(链表)中,同时可以快速删除、添加节点。

举例插入(set)

L_LEN: 快速表的最大长度

此处涉及三点:

(1)List 的长度 < L_LEN 时,尾部的插入,这个没什么好说的,创捷节点,指针连接即可;

(2)但当 List 的长度 > L_LEN 时,尾部插入的同时,还需要释放第一个节点;

(3)List 插入或删除的同时,还需要在哈希表中进行同步操作。

插入操作如图所示,

第(1)种只需要尾端插入即可。

第(2)种则还需释放第一个节点。

AndroidX之LruCache库内部也是使用LinkedHashMap对数据进行管理:
arduino 复制代码
public class LruCache<K, V> {
    private final LinkedHashMap<K, V> map;
    /** Size of this cache in units. Not necessarily the number of elements. */
    private int size; // 当前大小
    private int maxSize; // 最大容量
    private int putCount; // put次数
    private int createCount; // 创建次数
    private int evictionCount; // 回收次数
    private int hitCount; // 命中次数
    private int missCount; // 未命中次数
    

    public LruCache(int maxSize) {
        if (maxSize <= 0) {
            throw new IllegalArgumentException("maxSize <= 0");
        }
        this.maxSize = maxSize;
        //accessOrder为true,即按访问排序
        this.map = new LinkedHashMap<K, V>(0, 0.75f, true);
    }

}
LinkedHashMap

LinkedHashMap继承自HashMap,它的多种操作都是建立在HashMap操作的基础上的。同HashMap不同的是,LinkedHashMap维护了一个Entry的双向链表,保证了插入的Entry中的顺序。这也是Linked的含义。结构图如下:

插入顺序为key1,key2,key3,key4,那么就会维护一个红线所示的双向链表。

可以说,LinkedHashMap=HashMap+双向链表利用LinkedHashMap的特点,既可以很方便的实现LRU算法,又可以高效的访问元素,即每次命中元素,都将该元素置于链表尾部(先删除,再添加),这样就能保证头部元素是最久未使用的元素,一旦缓存空间占满,则可替换掉头部元素,而LinkedHashMap也为我们提供了标志位accessOrder和removeEldestEntry(eldest)方法来实现LRU算法。

  • 如果accessOrder为true的话,则会把访问过的元素放在链表后面,放置顺序是访问的顺序
  • removeEldestEntry(eldest)供用户覆写,如果返回true,则删除最久未使用的元素

三、LRU算法流程:

LRU算法的流程可以概括为以下几个步骤:

  1. 初始化内存页面访问历史链表为空。
  2. 读取输入的页面请求,检查该页面是否在内存中。
  3. 如果页面在内存中,则将该页面移到链表头,表示该页面是最近使用的页面。
  4. 如果页面不在内存中,则淘汰链表尾的页面,并将新页面插入链表头。
  5. 重复步骤2-4,直到所有页面请求都被处理完毕。

四、LRU算法优点:

  1. LRU算法能够最大限度地利用内存,因为它仅保留最近被使用的页面。
  2. LRU算法能够较好地预测未来的页面使用情况,因为它利用了时间局部性原理。

五、LRU算法缺点:

如果一个不是经常使用的数据,偶尔或者周期性的被使用,那么该数据会被加到LRU链表头部,而这种不经常使用的数据,放在链表头部,占用了空间;一直等到LRU淘汰完,才会被剔除链表; 如果这种数据一次性过多,那么链表数据都是这种无用的数据,从而会导致缓存命中率低下,影响系统性能;

六、LRU算法应用场景:

  1. Web浏览器缓存:在浏览网页时,Web浏览器会默认将最近访问的网页保存在缓存中,以便快速响应用户的后续请求。当缓存空间不足时,可以使用LRU算法清除最近最少使用的缓存。
  2. 数据库查询缓存:为了加快数据库查询的响应速度,常常会使用缓存技术。当使用LRU算法来替换缓存中的数据时,可以使最常使用的数据保留在缓存中,从而提高数据库查询的性能。
  3. 图像处理:在进行图像处理操作时,比如图像缩放、旋转等,经常需要对图像进行操作,每次操作需要对图像进行一次读写操作。当内存不足时,使用LRU算法可以将最少使用的图像淘汰,释放出空间给正在处理的图像。
  4. 垃圾回收器:在Java等语言的垃圾回收算法中,使用LRU算法来优化堆内存的管理。当堆内存不足时,可以通过LRU算法清理最近最少使用的对象,释放内存空间。
相关推荐
前端小万21 分钟前
思考,行动,复盘|2026
前端·后端·面试
Sailing1 小时前
🚀客户端都超时了,你的 Go 服务还在查库?Context 取消链路不打通,连接池迟早被打爆
后端·面试·go
青少儿编程课堂1 小时前
蓝桥杯·全国青少年信息素养大赛·电子学会Python/C++考级:Dinic最大流解析
c++·python·算法·bfs·信息学竞赛
拖孩1 小时前
# 我又用 AI 做了个小程序:24 天,记录我这辈子认识的人
前端·后端·微信小程序
Csvn1 小时前
Nginx rewrite 与 server_name:last/break 语义、多域名匹配与伪静态
后端·nginx
开开心心就好1 小时前
显示器关不掉怎么办,用小工具一键息屏
算法·智能手机·pdf·计算机外设·ocr·lua·1024程序员节
专注仿真1 小时前
基于 AFSIM 的智能体训练:多智能体强化学习篇 —— QTRAN 算法实战
开发语言·python·算法·php·强化学习·afsim智能体·仿真训练
AAA修煤气灶刘哥2 小时前
32 GB 内存跑起 1800 亿参数模型,代价是什么?
人工智能·后端·架构
FR02EN7772 小时前
[LeetCode] 26、80.删除有序数组中的重复项 题解
数据结构·算法