高效设计一个 LRU

作者：bigsai

2021 年 12 月 09 日
本文字数：4759 字
阅读完需：约 16 分钟

首发公众号：bigsai 转载请放置作者和原文(本文)链接

前言

大家好，我是 bigsai，好久不见，甚是想念！

最近有个小伙伴跟我诉苦，说他没面到 LRU，他说他很久前知道有被问过 LRU 的但是心想自己应该不会遇到，所以暂时就没准备。

奈何不巧，这还就真的考到了！他此刻的心情，可以用一张图来证明：

他说他最终踉踉跄跄的写了一个效率不是很高的 LRU，面试官看着不是很满意……后来果真 GG 了。

防止日后再碰到这个坑，今天和大家一起把这个坑踩了，这道题我自身刚开始也是用较为普通的方法，但是好的方法虽然不是很难但是想了真的很久才想到，虽然花了太多时间不太值，总算是自己想出来了，将这个过程给大家分享一下(只从算法的角度，不从操作系统的角度)。

理解 LRU

设计一个 LRU，你得知道什么是 LRU 吧？

LRU，英文全称为 Least Recently Used，翻译过来就是最近最久未使用算法，是一种常用的页面置换算法。

说起页面置换算法，这就是跟 OS 关系比较大的了，我们都知道内存的速度比较快，但是内存的容量是非常有限的，不可能给所有页面装到内存中，所以就需要一个策略将常用的页面预放到内存中。

但是吧，谁也不知道进程下次会访问哪个内存，并不能很有效的知道(我们在当前并没有预测未来的功能)，所以有些页面置换算法只是理想化但是没法真实实现的(没错就是最佳置换算法(Optimal)),然后常见必回的算法就是 FIFO(先进先出)和 LRU(最近最久未使用)。

LRU 理解不难，就是维护一个有固定大小的容器，核心就是 get()和 put()两个操作。

我们先看一下 LRU 会有的两个操作：

初始化：LRUCache(int capacity) ，以正整数作为容量 capacity 初始化 LRU 缓存。

查询：get(int key),从自己的设计的数据结构中查找是否有当前 key 对应的 value，如果有那么返回对应值并且要将 key 更新记录为最近使用，如果没有返回-1。

插入/更新：put(int key,int value)，可能是插入一个 key-value，也可能是更新一个 key-value，如果容器中已经存才这个 key-value 那么只需要更新对应 value 值，并且标记成最新。如果容器不存在这个值，那么要考虑容器是否满了，如果满了要先删除最久未使用的那对 key-value。

这里的流程可以给大家举个例子，例如

容量大小为2：[ "put",  "put", "get", "put","get", "put","get","get","get"][ [1, 1], [2, 2], [1], [3, 3], [2], [4, 4], [1],  [3], [4]]

复制代码

这个过程如下：

大家容易忽略的细节有：

put()存在更新的操作,例如 put(3,3),put(3,4)会更新 key 为 3 的操作。
get()可能查询不到，但是查询到也会更新最久未使用的顺序。
如果容器未使用满，那么 put 可能更新可能插入，但是不会删除；如果容器满了并且 put 插入，就要考虑删除最久未使用的 key-value 了。

对于上面的这么一个规则，我们该如何处理呢？

如果单单用一个 List 类似的列表，可以顺序存储键值对，在 List 前面的(0 下标为前)我们认为它是比较久的，在 List 后我们认为它是比较新的。我们考虑下各种操作可能会这样设计：

如果来 get 操作：

遍历 List 一个个比对，查看是否有该 key 的键值对，如果有直接返回对应 key 的 value，如果没有那么返回-1.

如果来 put 操作：

遍历 List，如果有该 key 的键值对，那么果断删除这个 key-value，最后在末尾统一插入该键值对。
如果没有对应的 key 并且 List 容器已经到达最满了，那么果断删除第一个位置的 key-value。

用 List 可能需要两个(一个存 key 一个存 value)，或者一个存 Node 节点(key，value 为属性)的 List，考虑下这个时间复杂度：

put 操作：O(n)，get 操作：O(n) 两个操作都需要枚举列表线性复杂度，效率属实有点拉胯，肯定不行，这样的代码我就不写了。

哈希初优化

从上面的分析来看，我们已经可以很自信的将 LRU 写出来了，不过现在要考虑的是一个优化的事情。

如果说我们将程序中引入哈希表，那么肯定会有一些优化的。用哈希表存储 key-value，查询是否存在的操作都能优化为 O(1),但是删除或者插入或者更新位置的复杂度可能还是 O(n),我们一起分析一下：

最久未使用一定是一个有序的序列来储存，要么是顺序表(数组)要么是链表，如果是数组实现的 ArrayList 存储最久未使用这个序列。

如果是 ArrayList 进行删除最久未使用(第一个)key-value，新的 key 被命中变成最新被使用(先删除然后插入末尾)操作都是 O(n)。

同理如果是 LinkedList 的一些操作大部分也是 O(n)的，像删除第一个元素这个是因为数据结构原因 O(1)。

你发现自己的优化空间其实非常非常小，但是确实还是有进步的，只是被卡住不知道双 O(1)的操作究竟怎么优化，这里面我把这个版本代码放出来，大家可以参考一下(如果面试问到实在不会可以这么写)

class LRUCache {
    Map<Integer,Integer>map=new HashMap<>();    List<Integer>list=new ArrayList<>();    int maxSize;    public  LRUCache(int capacity) {        maxSize=capacity;    }
    public int get(int key) {        if(!map.containsKey(key))//不存在返回-1            return -1;        int val=map.get(key);        put(key,val);//要更新位置 变成最新 很重要！        return val;    }
    public void put(int key, int value) {        //如果key存在，直接更新即可        if (map.containsKey(key)) {            list.remove((Integer) key);            list.add(key);        } else {//如果不存在 要插入到最后，但是如果容量满了需要删除第一个(最久)            if (!map.containsKey(key)) {                if (list.size() == maxSize) {                    map.remove(list.get(0));                    list.remove(0);                }                list.add(key);            }        }        map.put(key, value);    }}

复制代码

哈希+双链表

上面我们已经知道用哈希能够直接查到有木有这个元素，但是苦于删除！用 List 都很费力。

更详细的说，是苦于 List 的删除操作，Map 的删除插入还是很高效的。

在上面这种情况，我们希望的就是能够快速删除 List 中任意一个元素，并且效率很高，如果借助哈希只能最多定位到，但是无法删除啊！该怎么办呢？

哈希+双链表啊！

我们将 key-val 的数据存到一个 Node 类中，然后每个 Node 知道左右节点，在插入链表的时候直接存入 Map 中，这样 Map 在查询的时候可以直接返回该节点，双链表知道左右节点可以直接将该节点在双链表中删除。

当然，为了效率，这里实现的双链表带头结点(头指针指向一个空节点防止删除等异常情况)和尾指针。

对于这个情况，你需要能够手写链表和双链表啦，双链表的增删改查已经写过清清楚楚，小伙伴们不要担心，这里我已经整理好啦：

单链表：https://mp.weixin.qq.com/s/Cq98GmXt61-2wFj4WWezSg

双链表：https://mp.weixin.qq.com/s/h6s7lXt5G3JdkBZTi01G3A

也就是你可以通过 HashMap 直接得到在双链表中对应的 Node，然后根据前后节点关系删除，期间要考虑的一些 null、尾指针删除等等特殊情况即可。

具体实现的代码为：

class LRUCache {    class Node {        int key;        int value;        Node pre;        Node next;
        public Node() {        }
        public Node( int key,int value) {            this.key = key;            this.value=value;        }    }    class DoubleList{        private Node head;// 头节点        private Node tail;// 尾节点        private int length;        public DoubleList() {            head = new Node(-1,-1);            tail = head;            length = 0;        }        void add(Node teamNode)// 默认尾节点插入        {            tail.next = teamNode;            teamNode.pre=tail;            tail = teamNode;            length++;        }        void deleteFirst(){            if(head.next==null)                return;            if(head.next==tail)//如果删除的那个刚好是tail  注意啦 tail指针前面移动                tail=head;            head.next=head.next.next;
            if(head.next!=null)                head.next.pre=head;            length--;        }        void deleteNode(Node team){
            team.pre.next=team.next;            if(team.next!=null)                team.next.pre=team.pre;            if(team==tail)                tail=tail.pre;           team.pre=null;           team.next=null;            length--;        }        public String toString() {            Node team = head.next;            String vaString = "len:"+length+" ";            while (team != null) {                vaString +="key:"+team.key+" val:"+ team.value + " ";                team = team.next;            }            return vaString;        }    }    Map<Integer,Node> map=new HashMap<>();    DoubleList doubleList;//存储顺序    int maxSize;    LinkedList<Integer>list2=new LinkedList<>();
    public   LRUCache(int capacity) {        doubleList=new DoubleList();        maxSize=capacity;    }    public  void print(){        System.out.print("maplen:"+map.keySet().size()+" ");        for(Integer in:map.keySet()){            System.out.print("key:"+in+" val:"+map.get(in).value+" ");        }        System.out.print("              ");        System.out.println("listLen:"+doubleList.length+" "+doubleList.toString()+" maxSize:"+maxSize);    }
    public int get(int key) {        int val;        if(!map.containsKey(key))            return  -1;        val=map.get(key).value;        Node team=map.get(key);        doubleList.deleteNode(team);        doubleList.add(team);        return  val;    }
    public void put(int key, int value) {        if(map.containsKey(key)){// 已经有这个key 不考虑长短直接删除然后更新           Node deleteNode=map.get(key);            doubleList.deleteNode(deleteNode);        }        else if(doubleList.length==maxSize){//不包含并且长度小于            Node first=doubleList.head.next;            map.remove(first.key);            doubleList.deleteFirst();        }       Node node=new Node(key,value);        doubleList.add(node);        map.put(key,node);
    }}

复制代码

就这样，一个 get 和 put 都是 O(1)复杂度的 LRU 写出来啦！

尾声

后来看了题解，才发现，Java 中的 LinkedHashMap 也差不多是这种数据结构！几行解决，但是一般面试官可能不会认同，还是会希望大家能够手写一个双链表的。

class LRUCache extends LinkedHashMap<Integer, Integer>{    private int capacity;        public LRUCache(int capacity) {        super(capacity, 0.75F, true);        this.capacity = capacity;    }
    public int get(int key) {        return super.getOrDefault(key, -1);    }
    public void put(int key, int value) {        super.put(key, value);    }
    @Override    protected boolean removeEldestEntry(Map.Entry<Integer, Integer> eldest) {        return size() > capacity;     }}

复制代码

哈希+双链表虽然在未看题解的情况想出来，但是真的花了挺久才想到这个点，以前见得确实比较少，高效手写 LRU 到今天算是真真正正的完全掌握啦！

不过除了 LRU,其他的页面置换算法无论笔试还是面试也是非常高频啊，大家有空自己梳理一下哦。

个人技术公众号：bigsai ,定期分享，欢迎一起打卡力扣、学习交流！

发布于: 2 小时前阅读数: 11

原文链接:【http://xie.infoq.cn/article/f235e67e08be71c3cdeb467d0】。文章转载请联系作者。

bigsai

关注

前方唯有坚持不懈！ 2020.10.29 加入

原创公众号：bigsai 回复bigsai获取大厂进阶资料！

发布

暂无评论

创作场景

高效设计一个 LRU

前言

理解 LRU

哈希初优化

哈希+双链表

尾声

bigsai

评论