为什么要设立高速缓冲存储器 （Cache）？
Cache是介于CPU和主存之间的小容量存储器，存取速度比主存快。它能高速地向CPU提供指令和数据，加快程序的执行速度。它是为了解决CPU和主存之间速度不匹配而采用的一项重要技术。
不过计算机本身是不知道自己是这样的执行，它只知道用
Cache工作原理
在计算机中，我们访问的速度快有个重要的原因，就是引入了cache
他提前，把主存的内容下载好，然后让我们快速访问，通常cache会比主存小很多
Cache与主存之间的数据交换是以块为单位
所为块，我们把主存和cache里面，我们分成一个一个的小房间，也就是块，这样你需要什么我们可以直接找到房间号，去拿出我们要的东西
Cache的基本概念
- 命中 hit: CPU访问数据在cache中（上层存储器）
- 缺失 miss: CPU访问数据不在cache中
- 块 block: cache与主存交换最小单位
块大小多少合适？？？ 实现预读 - 行/槽 Line/Slot：标记、标志位、数据块容器
有效位、查找标记、脏标志位、置换标志、数据块副本 - Cold Cache、Warm Cache
Cache的性能参数
如果考到以下的例题那就是送分题
Cache的命中率
增加cache的目的，就是在性能上使主存的平均访问时间尽可能接近Cache的访问时间。因此,Cache的命中率应接近于1。由于程序访问的局部性，这是可能的。在一个程序执行期间，设Nc表示Cache完成存取的总次数，Nm表示主存完成存取的总次数，h定义为命中率（Hit Ratio），则有
平均访问时间（等效访问时间）ta
若tc表示命中时的Cache访问时间，tm表示未命中时的主存访问时间，1-h表示为缺失率（Miss Ratio），则Cache/主存系统的平均访问时间ta为：
访问效率
设立Cache/主存系统的目标，是以较小的硬件代价，使系统的平均访问时间ta越接近tc越好。设r=tm/tc表示主存慢于Cache的倍数,e表示访问效率，则有:
由上式可以看出，为提高访问效率，命中率h越接近1越好，r值以5---10为宜，不宜太大。
命中率h与程序的行为、Cache的容量、组织方式、块的大小有关。
Cache读、写流程与关键技术
- CPU给出主存地址（块地址，块内地址）
- 主存块地址为关键字进行查找
- 如相符表示副本在cache中，命中，访问cache
- 否则数据缺失，访问主存
将数据所在块副本调入cache（块交换---局部性）
载入副本过程可能引起替换
更新查找表，记录当前数据块地址
cache缺失时系统等待数据调入
- CPU给出主存地址
- 主存块地址为关键字进行查找
相符则表示命中，数据副本在cache中
缺失根据写分配策略决定是否将该主存地址对应数据块调入 - 写入数据到cache
- 根据写策略决定是否写入主存
CPU cache基本组织方式
- CPU cache由较快的SRAM构成
- cache与主存均分为固定大小的数据块，以块为单位交换数据
- 相联存储器存放查找表
表项：(有效位，调入cache的主存块地址，cache块地址）
容量 = cache块数 * 表项大小 - CPU给出的块地址与查找表中某单元相同且有效位为1表示命中
全相联：硬件多路并发比较可以提升查找速度
下图是块与块内地址
重点
全相联
查找表和缓存副本一体（CPU片内缓存）
存放cache行
有效位，主存块地址，数据块副本，标志位（Dirty bit），置换标记
存储容量＝ cache行大小 × 行数
查找表和缓存副本分离（片内查找表，片外缓存）
存放查找信息
有效位，主存块地址， cache块地址，标志位（Dirty bit），置换标记
存储容量＝查找表表项大小 × 行数
解释：根据上图，我们看到1F转换为二进制，就是000011111，至于为什么一共是9位，这是因为主存块的大小2的9次方
直接相连
cache容量 = 行大小 × 行数
=（标志位+标记位+数据块+置换标记） × 行数
标记位=区地址
标志位（有效标志位，脏数据位）
无相联存储器，一个比较器
组相连
SRAM
存放数据副本
多个相联存储器共享一个多路比较器
相对于全相联 多路比较器复杂度低
查找表表项内容（valid位，标记，dirty位，置换标记位）
相联存储器总容量
cache行数*（1+标记宽度+1+置换标记位）
片外缓存如果查找表在CPU内部？
查找表中必须增加cache行地址？ why
例题
对于初学的难题
这道题的难点
1.脑子对字和字节要转换过来
2.对于倍数，2进制的运算，要理解清楚
