链表(上):如何实现LRU缓存淘汰算法?
缓存是一种提高数据读取性能的技术。那么当缓存满的时候如何决定清理哪些数据,就需要由缓存淘汰策略来决定。常见的策略有三种:先进先出策略 FIFO(First In,First Out)、最少使用策略 LFU(Least Frequently Used)、最近最少使用策略 LRU(Least Recently Used)。
链表基本知识
链表底层存储结构是通过“指针”将一组零散的内存块串联起来使用。三种最常见的链表结构,它们分别是:单链表、双向链表和循环链表。
链表中的内存块称为链表的“结点”,记录下个结点地址的指针叫作后继指针 next。
三种常见链表类型
单链表
单链表的头结点用来记录链表的基地址。而尾结点是指向一个空地址 NULL。
链表随机访问的性能没有数组好,需要 O(n) 的时间复杂度。但是插入删除操作是O(1)的时间复杂度。
循环链表
循环链表是一种特殊的单链表。循环链表的尾结点指针是指向链表的头结点。
双向链表
双向链表,顾名思义,它支持两个方向,每个结点不止有一个后继指针 next 指向后面的结点,还有一个前驱指针 prev 指向前面的结点。
双向链表需要额外的两个空间来存储后继结点和前驱结点的地址。所以,如果存储同样多的数据,双向链表要比单链表占用更多的内存空间。
对比删除操作,在找到指定节点的情况下,单链表删除操作需要 O(n) 的时间复杂度,而双向链表因为保存了前驱结点的指针,不需要像单链表那样遍历,只需要在 O(1) 的时间复杂度内就搞定了。这是一种以空间换时间的思路。
链表 VS 数组性能
时间复杂度 | 数组 | 链表 |
---|---|---|
插入删除 | O(n) | O(1) |
随机访问 | O(1) | O(n) |
数组简单易用,在实现上使用的是连续的内存空间,可以借助 CPU 的缓存机制,预读数组中的数据,所以访问效率更高。而链表在内存中并不是连续存储,所以对 CPU 缓存不友好,没办法有效预读。
数组的缺点是大小固定,一经声明就要占用整块连续内存空间。链表本身没有大小的限制,天然地支持动态扩容。
如果你的代码对内存的使用非常苛刻,那数组就更适合你。因为链表中的每个结点都需要消耗额外的存储空间去存储一份指向下一个结点的指针,所以内存消耗会翻倍。而且,对链表进行频繁的插入、删除操作,还会导致频繁的内存申请和释放,容易造成内存碎片,如果是 Java 语言,就有可能会导致频繁的 GC(Garbage Collection,垃圾回收)。
用链表实现LRU
- 如果此数据之前已经被缓存在链表中了,我们遍历得到这个数据对应的结点,并将其从原来的位置删除,然后再插入到链表的头部。
- 如果此数据没有在缓存链表中,又可以分为两种情况:如果此时缓存未满,则将此结点直接插入到链表的头部;如果此时缓存已满,则链表尾结点删除,将新的数据结点插入链表的头部。