缓存的替换策略

缓存替换策略

在计算中，缓存（经常被称为缓存替换策略）是一些优化的指令或者算法，使得计算程序或者一个持有硬件的结构能统一有秩序的管理缓存信息。什么是缓存？缓存是什么？缓存和内存的区别缓存可以提高性能，因为它将经常使用的数据项保存在一个内存块，这个内存块的访问和读写速度非常快。当缓存区满了，此时缓存的算法就会被调用，删除一些不用的，放置进新的。

概览

平均的存储参考时间是：
$T=m*T_m+T_h+E$
这里，
$m$是错失率，即缓存中没有项的百分率=1-hit比率
$T_m$ time to make a main memory access when there is a miss.当出现缓存中没有的项目时，为了从主内存中获得这个项目，所花费的时间。
$T_h$the latency: the time to reference the cache when there is a hit 等待时间：在命中时引用缓存的时间
$E$其他的二级效应

高速缓存有两个主要的优点：延迟和命中率。还有一些影响缓存性能的次要因素。高速缓存的“命中率”描述了在高速缓存中实际找到搜索项的频率。更有效的替换策略跟踪更多的使用信息，以提高命中率（对于给定的缓存大小）。高速缓存的“延迟”描述了在请求一个期望的项后缓存可以返回那个项目（当有一个命中）的时间。较快的替换策略通常跟踪较少的使用信息-或者，在直接映射高速缓存的情况下，没有信息-以减少更新该信息所需的时间。每个替换策略是命中率和等待时间之间的折衷。

命中率测量通常是在基准应用程序上执行的。实际命中率从一个应用到另一个应用变化很大。特别是，视频和音频流应用程序往往命中率接近于零，因为流中的每一位数据是第一次读取（强制错过），使用，然后再也不读或再写。更糟糕的是，许多缓存算法（特别是LRU）允许这种流式数据填充缓存，推导出将很快再次使用的缓存信息（Cache污染）。

策略

• Bélády’s algorithm
  最有效的缓存算法是总是丢弃在未来最长时间内不需要的信息。这个最优结果称为Béldy最优算法/简单最优替换策略或透视算法。由于通常无法预测未来需要多远的信息，因此在实践中通常无法实现。实际最小值只能通过实验来计算，并且可以比较实际选择的缓存算法的有效性。
  
  在出现页面错误的时候，一些页面在内存中。在该示例中，分别由帧1、帧2、帧3访问“5”、“0”、“1”的序列。然后，当访问“2”时，它替换值“5”，该值在帧1中，因为它预测值“5”在不久的将来将不被访问。因为现实生活中的通用操作系统不能实际预测何时“5”将被访问，所以Béldy的算法不能在这样的系统上实现。

• FIFO
  -使用此算法，缓存的行为与FIFO队列的方式相同。缓存首先删除第一个块，而不考虑它以前访问的次数或次数。

• LIFO
  -使用此算法，缓存的行为与FIFO队列正好相反。缓存首先删除最近访问的块，而不考虑它以前访问的次数或次数。

• LRU
  -丢弃the least recently used项第一。该算法需要保持track of what was used，这是昂贵的.General implementations of this technique require keeping “age bits” for cache-lines and track the “Least Recently Used” cache-line based on age-bits。下面的示例的访问顺序是B C D D E D F.
  在上面的示例中，一旦将B C D安装到具有序列号的块中（对于每个新Access，增量1），并且当访问E时，它就是未命中，并且需要将其安装在其中一个块中。根据LRU算法，由于A具有最低秩（A（0）），E将替换A。

• TLRU原网址解释连接
  -时间感知最近最少使用（TLRU）[5]是LRU的变体，设计用于缓存中存储的内容具有有效生存时间的情况。该算法适用于以信息为中心的网络缓存（ICN）、内容分发网络（CDN）和分布式网络。TLRU引入了一个新的术语TTU（使用时间）。TTU是内容/页面的时间戳，它基于内容的位置和内容发布者公告规定内容的可用性时间。TTU由于本地性的时间戳，为本地管理员在网络存储中提供了更多的控制。在TLRU算法中，当一段内容到达时，缓存节点根据内容发布者分配的TTU值计算本地TTU值。本地TTU值是通过使用局部定义函数来计算的。一旦计算本地TTU值，就对缓存节点中存储的总内容的子集执行内容替换。TLRU确保不受欢迎的和小的生活内容应该被传入的内容取代。## 标题

• MRU

• 原网址解释连接
  -