LRU cache 算法的实现

什么是LRU

LRU Cache是一个Cache置换算法，含义是“最近最少使用”，当Cache满（没有空闲的cache块）时，把满足“最近最少使用”的数据从Cache中置换出去，并且保证Cache中第一个数据是最近刚刚访问的。由“局部性原理”，这样的数据更有可能被接下来的程序访问。

LRU基本算法

要求

1. 提供两个接口：一个获取数据int get(int key),一个写入数据void set(int key, int value)。
2. 无论获取数据还是写入数据，这个数据要保持在最容易访问的位置。
3. 缓存的数据大小有限，当缓存满时置换出最长时间没有被访问的数据，否则直接把数据加入缓存即可。

算法

1. 使用list来保存缓存数据的访问序列，头指针指向刚刚访问过的数据。

2. 使用map保存数据的key和数据所在链表中的位置。map主要用于加速查找（log(n)的时间复杂度）。

3. 每次获取数据时，遍历map判断数据（使用数据的key）是否在缓存中，在则返回数据（存在则通过数据所在链表中的位置返回数据值）；不在则返回-1。

4. 每次写入新的数据时，可能有三种情况：

   1. 数据已在缓存中
      遍历map判断数据是否已在缓存中，在则更新数据值，并置数据缓存在链表头。
   2. 数据不在缓存中，缓存已满
      剔除掉链表末尾的数据和map指定的数据key，并把新的数据加入到缓存链表的头，并更新map；
   3. 数据不在缓存中，缓存未满
      直接把新的数据加入到缓存链表的头，并更新map。

LRU实现

实现方案：使用stl的map和list
这里map使用unordered_map（hashmap）+list(双向链表），因此本质上使用hashmap和双向链表

class LRUCache{
    int m_capacity;
    unordered_map<int,  list<pair<int, int>>::iterator> m_map; //m_map_iter->first: key, m_map_iter->second: list iterator;
    list<pair<int, int>> m_list;                              //m_list_iter->first: key, m_list_iter->second: value;
public:
    LRUCache(int capacity): m_capacity(capacity) {

    }

    int get(int key) {
        auto found_iter = m_map.find(key);
        if (found_iter == m_map.end()) //key doesn't exist
            return -1;
        m_list.splice(m_list.begin(), m_list, found_iter->second); //move the node corresponding to key to front
        return found_iter->second->second;                         //return value of the node
    }

    void set(int key, int value) {
        auto found_iter = m_map.find(key);
        if (found_iter != m_map.end()) //key exists
        {
            m_list.splice(m_list.begin(), m_list, found_iter->second); //move the node corresponding to key to front
            found_iter->second->second = value;                        //update value of the node
            return;
        }
        if (m_map.size() == m_capacity) //reached capacity
        {
           int key_to_del = m_list.back().first; 
           m_list.pop_back();            //remove node in list;
           m_map.erase(key_to_del);      //remove key in map
        }
        m_list.emplace_front(key, value);  //create new node in list
        m_map[key] = m_list.begin();       //create correspondence between key and node
    }
};