计算机系统结构总结_Memory Hierarchy and Memory Performance

Textbook:

《计算机组成与设计——硬件/软件接口》  　　HI

《计算机体系结构——量化研究方法》       　　QR

---

这是youtube上一个非常好的memory system的课。

1. Physical Memory

这里我们重点关注DRAM

• 从概念上分为：Channel > DIMM > Rank > Chip > Bank > Row/Column
  • Channel：一个主板上可能有多个插槽，用来插多根内存。这些槽位分成两组或多组，组内共享物理信号线。这样的一组数据信号线、对应几个槽位（内存条）称为一个channel（通道）。
  • DIMM是主板上的一个内存插槽。一个Channel可以包括多个DIMM
  • Rank是一组内存芯片的集合。当芯片位宽x芯片数=64bits（内存总位宽）时，这些芯片就组成一个Rank。一般是一个芯片位宽8bit，然后内存每面8个芯片，那么这一面就构成一个Rank（为了提高容量，有些双面内存条就有两个rank。在DDR总线上可以用一根地址线来区分当前要访问的是哪一组）。同一个Rank中的所有芯片协作来共同读取同一个Address（一个Rank8个芯片 * 8bit = 64bit），这个Address的数据分散在这个Rank的不同芯片上。设计Rank的原因是这样可以使每个芯片的位宽小一些，降低复杂度。
  • Chip是内存条上的一个芯片
  • Bank：Bank是一个逻辑上的概念。一个Bank可以分散到多个Chip上，一个Chip也可以包含多个Bank。Bank和Chip的关系可以参考下面的图，每次读数据时，选定一个Rank，然后同时读取每个chip上的同一bank
  • Row/Column：Bank可以理解为一个二维数组bool Array[Row][Column]。而Row/Column就是指示这个二维数组内的坐标。注意读取时每个Bank都读取相同的坐标（Ch5 PPT P3）

以淘宝某廉价内存条南亚易胜 Elixir DDR3 1600 4G 2R*8 PC3-12800S 1.5V 笔记本内存 双面16颗粒为例：

这个内存一共双面16芯片，芯片型号为N2CB2G80BN，查datasheet可知每个芯片有8 Internal memory banks，位宽也是8bit。这样每一面的8个芯片就构成一个Rank，整个内存条一共两个Rank。

那么CPU是如何读取内存的呢？• CPU一次需要访问64bit的数据（也叫做一个字）。那么对于上面这根内存，一个Rank可以提供8bit per chip * 8 chips per Rank = 64bit的带宽，就正好对接上啦。每个chip的同一bank（bank=k ）的同一地点（row=i, col=j）都会被读出8bit，那么8个chip就会同时读出64bit，然后由memory controllers传送给cpu。如图：

为了保证和CPU的沟通（要满64bit），一个内存至少要有一个RANK。但是为了保证大容量，DDR3内存经常是采用一个内存两个RANK的架构，一般也就是双面16颗粒。（过去也有用几个模组组成一个RANK的情况。比如老古董EDO内存的带宽只有32bit，但586及以上cpu的数据总线都是64bit，所以就需要成对使用）

扫描二维码关注公众号，回复： 7430453 查看本文章

Ref：

https://zhuanlan.zhihu.com/p/33479194
https://blog.51cto.com/10914132/1733629
https://zhuanlan.zhihu.com/p/25863918
http://lzz5235.github.io/2015/04/21/memory.html

那么对于一个chip上的某个DRAM Bank，又是怎么读取的呢？我们以读取Row0, Column0为例：

• STEP1：开始读，send row address
• STEP2：open this row
• STEP3：copy the whole row into Row Buffer
• STEP4：send column address, and get the data

这几步读取完成后，Row Buffer暂时不会被清空。下次如果读同一个Row上的不同Column（比如Row0, Column23），就直接去Row Buffer拿就行啦，相当于只执行STEP4的操作。这次就叫做Row Buffer Hit。

如果下次读的是不同的Row（比如Row1, Column0），那就得先把Row Buffer里的数据写回内存中的Row0（因为可能被改写过），然后close Row0。然后对Row1再执行一下STEP1--STEP4的所有操作。这次叫做Row Buffer Miss。

如果每次都读不同的row，那么row buffer miss就会比较多，性能就会下降。

。。。。