- 高速缓存的工作原理
- 高速缓存的替换策略
高速缓存的工作原理
字：存放在一个存储单元中的二进制代码组合
字块：存储在连续的存储单元中而被看作是一个单元的一组字
- 一个字有32位
- 一个字块共B个字
- 主存共M个字块
B*M = 主存总字数
B*M*32 = 主存总容量（bits）
字的地址包含 前m位指定字块的地址 后b位指字在字块中的地址
2^m = M 2^b = B
例子：
假设主存用户空间容量为4G，字块大小为4M，字长为32位，则对于字地址中的块地址m和块内地址b的位数，至少应该是多少？
4 G = 4096 M
字块数 4096 / 4 = 1024
字块地址m log2 1024 = 10
块内字数 4 M / 32 bit = 1048576
块内地址b log2 1048576 = 20
m >= 10 b >= 20
- 存储的逻辑结构类似
- 缓存的容量较小
- 缓存的速度更快
- 一个字有32位
- 一个字块共B个字
- 缓存共C个字块
命中率
- CPU需要的数据在缓存里
- CPU需要的数据不在缓存里
- 不在缓存的数据需要去主存拿
命中率是衡量缓存的重要性能指标
理论上CPU每次都从高速缓存取数据的时候，命中率为1
访问主存次数：Nm
访问Cache次数：Nc
访问效率：e
访问主存时间：tm
访问缓存时间：tc
访问Cache—主存系统平均时间：ta
例子：
假设CPU在执行某段程序时，共访问了Cache命中2000次，访问主存50次，已知Cache的存取时间为50ns，主存的存取时间为200ns，求Cache-主存系统的命中率、访问效率和平均访问时间。
命中率 h = 2000/（2000 + 50）= 0.97
访问效率 e = 50 /（0.97 * 50 + (1 - 0.97) * 200） = 91.7%
平均访问时间 ta = 0.97 * 50 + (1 - 0.97) * 200 = 54.5ns
高速缓存的替换策略
需要性能良好的缓存替换策略
- 随机算法
- 先进先出算法（FIFO）
- 最不经常使用算法（LFU）
- 最近最少使用算法（LRU）
先进先出算法（FIFO）
- 把高速缓存看做是一个先进先出的队列
- 优先替换最先进入队列的字块
最不经常使用算法(LFU)
- 优先淘汰最不经常使用的字块
- 需要额外的空间记录字块的使用频率
最近最少使用算法 (LRU)
- 优先淘汰一段时间内没有使用的字块
- 有多种实现方法，一般使用双向链表
- 把当前访问节点置于链表前面（保证链表头部节点是最近使用的）
例子：
缓存4个字块，（）表示使用的字块， []表示淘汰的字块
