計系第六章-存儲-

1、Shenzhen University1Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲器層次結(jié)構(gòu)存儲器層次結(jié)構(gòu)Shenzhen University2Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲技術(shù)及其趨勢存儲技術(shù)及其趨勢局部性局部性存儲器層次結(jié)構(gòu)中的高速緩存存儲器層次結(jié)構(gòu)中的高速緩存Shenzhen University3Bryant and OHallar

2、on, Computer Systems: A Programmers Perspective, Third Edition存儲器存儲器層次結(jié)構(gòu)舉例層次結(jié)構(gòu)舉例寄存器L1高速緩存(SRAM)主存(DRAM)本地二級存儲(本地磁盤)更大, 更慢, 更廉價 (每字節(jié))的存儲器遠(yuǎn)程二級存儲(分布式文件系統(tǒng)、Web服務(wù)器)本地磁盤保存著從遠(yuǎn)程本地磁盤保存著從遠(yuǎn)程網(wǎng)絡(luò)服務(wù)器磁盤上取出網(wǎng)絡(luò)服務(wù)器磁盤上取出的文件的文件L2 高速緩存 (SRAM)L1 高速緩存保存著從高速緩存保存著從 L2 高速緩高速緩存取出的緩存行存取出的緩存行.CPU 寄存器保存著從高速緩存存寄存器保存著從高速緩存存儲器取出的字儲器取出

3、的字L2 高速緩存保存著從高速緩存保存著從L3高速緩高速緩存取出的緩存行存取出的緩存行 L0:L1:L2:L3:L4:L5:更小,更快,更貴(每字節(jié))的存儲器L3 高速緩存 (SRAM)L3 高速緩存保存著從主存高速緩高速緩存保存著從主存高速緩存取出的緩存行存取出的緩存行L6:主存保存著從本地磁盤取主存保存著從本地磁盤取出的磁盤塊出的磁盤塊Shenzhen University4Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition隨機訪問存儲器隨機訪問存儲器 (RAM)關(guān)鍵特征關(guān)鍵特征R

4、AM 封裝在芯片上.基本存儲單位成為一個單元 (每個單元存儲1 比特).RAM 的兩種類型的兩種類型:SRAM (靜態(tài)RAM Static RAM)DRAM (動態(tài)RAM Dynamic RAM)需要不斷刷新Shenzhen University5Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionSRAM vs DRAM 總結(jié)總結(jié)芯片類型芯片類型 晶體管數(shù)晶體管數(shù)相對訪問相對訪問時間時間持續(xù)的持續(xù)的敏感的敏感的相對花相對花費費應(yīng)用應(yīng)用SRAM4 或 6個1X是否100X高速緩存存儲器D

5、RAM1個10X否是1X主存，幀緩沖區(qū)Shenzhen University6Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition增強版增強版 DRAMs自自1966年年DRAM發(fā)明以來，其基本單元從未改變。發(fā)明以來，其基本單元從未改變。Intel公司于1970將其推向市場。 DRAM集成了更好的邏輯接口和更快的集成了更好的邏輯接口和更快的I/O傳輸接口傳輸接口 :同步DRAM (SDRAM)采用常見的時鐘信號代替異步控制信號 允許復(fù)用行地址 (比如： RAS, CAS, CAS, CA

6、S)雙倍數(shù)據(jù)速率同步DRAM (DDR SDRAM)每個周期每個引腳使用兩個時鐘沿傳送兩比特的控制信號通過使用提高有效帶寬的預(yù)取緩沖區(qū)的大小來劃分DDR SDRAM類型: DDR (2 bits), DDR2 (4 bits), DDR3 (8 bits)截止到2010, 多數(shù)服務(wù)器和桌面系統(tǒng)均支持該標(biāo)準(zhǔn)Intel Core i7 僅支持DDR3 SDRAMShenzhen University7Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition非易失性存儲器非易失性存儲器DRAM 和

7、和SRAM為易失性存儲器為易失性存儲器斷電數(shù)據(jù)丟失非易失性存儲器斷電后，仍然保存數(shù)據(jù)非易失性存儲器斷電后，仍然保存數(shù)據(jù)只讀存儲器(ROM): 生產(chǎn)時寫入程序，只能寫一次Programmable ROM (PROM): 可以重新一次編程Eraseable PROM (EPROM): 可用紫外線或X光整塊擦除Electrically eraseable PROM (EEPROM): 可用電子整塊擦除Flash memory: EEPROMs. 以塊為單位進行擦除10,0000次擦除后即磨損壞非易失性存儲器的應(yīng)用非易失性存儲器的應(yīng)用存儲固件程序的ROM(BIOS, 磁盤控制器, 網(wǎng)卡, 圖形加速器,

8、 安全子系統(tǒng),)固態(tài)硬盤 (閃存盤, 智能手機, mp3 播放器, 平板電腦, 筆記本電腦,)磁盤高速緩沖存儲器Shenzhen University8Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition典型的連接典型的連接CPU和主存的總線結(jié)構(gòu)和主存的總線結(jié)構(gòu)一條總線是由多條并排的電線組成的一束線，其傳輸?shù)匾粭l總線是由多條并排的電線組成的一束線，其傳輸?shù)刂?、?shù)據(jù)和控制信號址、數(shù)據(jù)和控制信號多個設(shè)備共享多條總線多個設(shè)備共享多條總線主存主存I/O 橋接口橋接口總線接口總線接口算術(shù)算術(shù)邏輯邏

9、輯單元單元寄存器文件寄存器文件CPU 芯片芯片系統(tǒng)總線系統(tǒng)總線存儲器總線存儲器總線Shenzhen University9Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤驅(qū)動器里有什么磁盤驅(qū)動器里有什么?旋轉(zhuǎn)軸旋轉(zhuǎn)軸傳動臂傳動臂驅(qū)動器驅(qū)動器盤片盤片電子器件電子器件(包括處理器包括處理器和內(nèi)存和內(nèi)存!)SCSI接口接口圖片由圖片由Seagate Technology提供提供Shenzhen University10Bryant and OHallaron, Computer Sys

10、tems: A Programmers Perspective, Third Edition磁盤結(jié)構(gòu)磁盤結(jié)構(gòu)磁盤由雙面的磁盤由雙面的盤片盤片組成組成每張盤面上密集地排布著環(huán)形每張盤面上密集地排布著環(huán)形磁道磁道每條磁道上有多個每條磁道上有多個扇區(qū)扇區(qū)，每個扇區(qū)由，每個扇區(qū)由間隙間隙隔開隔開旋轉(zhuǎn)軸旋轉(zhuǎn)軸盤面盤面磁道磁道磁道磁道k扇區(qū)扇區(qū)間隙間隙Shenzhen University11Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤結(jié)構(gòu)磁盤結(jié)構(gòu) (多個盤片多個盤片) 對齊的磁道形成一

11、個柱面對齊的磁道形成一個柱面盤面盤面0盤面盤面1盤面盤面2盤面盤面3盤面盤面4盤面盤面5柱面柱面 k旋轉(zhuǎn)軸旋轉(zhuǎn)軸盤片盤片0盤片盤片1盤片盤片2Shenzhen University12Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤容量磁盤容量容量容量: 可存儲的最多比特數(shù)可存儲的最多比特數(shù).銷售商以10進制度量存儲大小，即1 GB = 109 Bytes. 容量由以下參數(shù)度量容量由以下參數(shù)度量:記錄密度(位/英寸):磁道一英寸的段可放入的位數(shù)磁道密度 (道/英寸):從盤片中心出

12、發(fā)半徑上一英寸的段內(nèi)可以有的磁道數(shù)面密度 (位/平方英寸): 記錄密度與磁道密度的乘積Shenzhen University13Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition 計算磁盤容量計算磁盤容量磁盤容量磁盤容量 = (字節(jié)數(shù)字節(jié)數(shù)/扇區(qū)扇區(qū)) x (平均扇區(qū)數(shù)平均扇區(qū)數(shù)/磁道磁道) x (磁道數(shù)磁道數(shù)/盤面盤面) x (盤面數(shù)盤面數(shù)/盤片盤片) x (盤片盤片/磁盤磁盤)Example:512 字節(jié)/扇區(qū)300 扇區(qū)/磁道 (平均值)20,000 磁道/盤面2 盤面/盤片5

13、盤片/磁盤容量容量 = 512 x 300 x 20000 x 2 x 5 = 30,720,000,000 = 30.72 GB Shenzhen University14Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤操作磁盤操作 (單盤片視圖單盤片視圖)磁盤表面以固定磁盤表面以固定旋轉(zhuǎn)速率旋轉(zhuǎn)旋轉(zhuǎn)速率旋轉(zhuǎn)通過在半徑方向上移動，傳動通過在半徑方向上移動，傳動臂可以將讀寫頭定位在任何磁臂可以將讀寫頭定位在任何磁道上道上讀寫磁頭連到傳動臂的讀寫磁頭連到傳動臂的末端，在磁盤表面上一

14、層末端，在磁盤表面上一層薄薄的氣墊上飛翔薄薄的氣墊上飛翔spindlespindlespindlespindle轉(zhuǎn)動軸轉(zhuǎn)動軸Shenzhen University15Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤操作（多盤片視圖）磁盤操作（多盤片視圖）傳動臂傳動臂多個讀寫磁頭從一個多個讀寫磁頭從一個柱面移動到另一個柱柱面移動到另一個柱面面旋轉(zhuǎn)軸旋轉(zhuǎn)軸Shenzhen University16Bryant and OHallaron, Computer Systems: A Pr

15、ogrammers Perspective, Third Edition磁道分成若干扇區(qū)磁道分成若干扇區(qū)磁盤結(jié)構(gòu)磁盤結(jié)構(gòu)單盤片俯視圖單盤片俯視圖盤面由多條磁道組成盤面由多條磁道組成Shenzhen University17Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問磁頭在磁道上磁頭在磁道上Shenzhen University18Bryant and OHallaron, Computer Systems: A Programmers Perspective, T

16、hird Edition磁盤訪問磁盤訪問逆時針旋轉(zhuǎn)逆時針旋轉(zhuǎn)Shenzhen University19Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問讀操作讀操作讀取藍色扇區(qū)讀取藍色扇區(qū)Shenzhen University20Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問讀操作讀操作讀完藍色扇區(qū)后讀完藍色扇區(qū)后讀完藍色扇區(qū)后讀完藍色扇區(qū)后

17、Shenzhen University21Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問讀操作讀操作讀完藍色扇區(qū)后讀完藍色扇區(qū)后請求讀取紅色扇區(qū)請求讀取紅色扇區(qū)Shenzhen University22Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問讀操作讀操作藍色讀完后藍色讀完后尋找紅色扇區(qū)尋找紅色扇區(qū)尋找紅色所在磁道尋找紅色所在磁道Sh

18、enzhen University23Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問旋轉(zhuǎn)延遲旋轉(zhuǎn)延遲讀完藍色扇區(qū)后讀完藍色扇區(qū)后尋找紅色扇區(qū)尋找紅色扇區(qū)旋轉(zhuǎn)延遲旋轉(zhuǎn)延遲旋轉(zhuǎn)到紅色扇區(qū)處旋轉(zhuǎn)到紅色扇區(qū)處Shenzhen University24Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問讀操作讀操作藍色扇區(qū)讀完后藍色扇區(qū)讀完后尋找紅色扇區(qū)

19、尋找紅色扇區(qū)旋轉(zhuǎn)延遲旋轉(zhuǎn)延遲讀完紅色扇區(qū)后讀完紅色扇區(qū)后完成紅色扇區(qū)讀操作完成紅色扇區(qū)讀操作Shenzhen University25Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問磁盤訪問服務(wù)時間的組成服務(wù)時間的組成讀完藍色扇區(qū)后讀完藍色扇區(qū)后尋找紅色扇區(qū)尋找紅色扇區(qū)旋轉(zhuǎn)延遲旋轉(zhuǎn)延遲讀完紅色扇區(qū)后讀完紅色扇區(qū)后數(shù)據(jù)傳輸數(shù)據(jù)傳輸尋道尋道旋轉(zhuǎn)延遲旋轉(zhuǎn)延遲數(shù)據(jù)傳輸數(shù)據(jù)傳輸（讀（讀/寫時間）寫時間）Shenzhen University26Bryant and OHallaron,

20、 Computer Systems: A Programmers Perspective, Third Edition磁盤訪問時間磁盤訪問時間訪問某個扇區(qū)的平均時間為訪問某個扇區(qū)的平均時間為 :訪問時間 = 尋道時間 + 旋轉(zhuǎn)時間 + 數(shù)據(jù)傳輸時間 尋道時間尋道時間磁頭由一個柱面移動到另一個柱面的時間通常尋道時間為： 39 ms旋轉(zhuǎn)時間旋轉(zhuǎn)時間經(jīng)過磁盤旋轉(zhuǎn)，目標(biāo)扇區(qū)到達磁頭下的時間最大旋轉(zhuǎn)延遲 = 1/RPMs x 60 sec/1 min平均旋轉(zhuǎn)延遲 = 0.5 x 最大旋轉(zhuǎn)延遲 通常旋轉(zhuǎn)時間 = 7200 RPMs數(shù)據(jù)傳輸時間數(shù)據(jù)傳輸時間傳輸每個扇區(qū)所需時間數(shù)據(jù)傳輸時間 = 1/RPM x

21、 1/(平均扇區(qū)數(shù)/磁道) x 60 秒/1 分鐘.Shenzhen University27Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition磁盤訪問時間示例磁盤訪問時間示例給定條件給定條件:旋轉(zhuǎn)速度 = 7,200 RPM平均尋道時間 = 9 ms.平均扇區(qū)數(shù)/磁道 = 400.計算結(jié)果計算結(jié)果:平均旋轉(zhuǎn)時間 = 1/2 x (60 secs/7200 RPM) x 1000 ms/sec = 4 ms.數(shù)據(jù)傳輸時間 = 60/7200 RPM x 1/400 secs/track

22、 x 1000 ms/sec = 0.02 ms服務(wù)總時間 = 9 ms + 4 ms + 0.02 ms = 13.02 ms重點重點:訪問時間主要由尋道時間和旋轉(zhuǎn)時間組成.訪問扇區(qū)的第一個bit比較消耗時間，剩余bit較快.SRAM 訪問時間為 4 ns/雙字, DRAM 為 60 ns/雙字磁盤比SRAM慢4,0000倍, 磁盤比 DRAM慢2500倍.Shenzhen University28Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition邏輯磁盤塊邏輯磁盤塊現(xiàn)代磁盤將復(fù)雜的

23、物理結(jié)構(gòu)轉(zhuǎn)換成簡單的抽象視圖現(xiàn)代磁盤將復(fù)雜的物理結(jié)構(gòu)轉(zhuǎn)換成簡單的抽象視圖:一組連續(xù)扇區(qū)被封裝成一個b-sized大小的邏輯盤塊 邏輯塊與物理塊之間的映射邏輯塊與物理塊之間的映射由磁盤控制器（硬件和固件組成）來維護將讀寫請求地址轉(zhuǎn)換成三元組：(盤面,磁道,扇區(qū)) .允許控制器從每個區(qū)域中保留一部分空閑柱面允許控制器從每個區(qū)域中保留一部分空閑柱面區(qū)分“格式化容量”和“最大容量 Shenzhen University29Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionI/O 總線總線主存主

24、存I/O 橋接器橋接器總線接口總線接口算術(shù)算術(shù)邏輯邏輯單元單元寄存器文件寄存器文件CPU 芯片芯片系統(tǒng)總線系統(tǒng)總線存儲器總線存儲器總線磁盤控制器磁盤控制器圖形適配器圖形適配器USB控制器控制器鼠標(biāo)鼠標(biāo)鍵盤鍵盤顯示器顯示器磁盤磁盤I/O 總線總線針對諸如網(wǎng)絡(luò)適配器針對諸如網(wǎng)絡(luò)適配器這樣的其他設(shè)備的這樣的其他設(shè)備的擴展插槽擴展插槽Shenzhen University30Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition讀取一個磁盤扇區(qū)讀取一個磁盤扇區(qū) (1)主存主存算術(shù)算術(shù)邏輯邏輯單元單

25、元寄存器文件寄存器文件CPU 芯片芯片磁盤控制器磁盤控制器圖形適配器圖形適配器USB控制器控制器鼠標(biāo)鼠標(biāo)鍵盤鍵盤顯示器顯示器磁盤磁盤I/O 總線總線總線接口總線接口CPU通過將命令、邏輯塊號和目的存儲器地址寫到與磁盤相關(guān)聯(lián)的存儲器映射地址，發(fā)起一個磁盤讀請求操作Shenzhen University31Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition讀取一個磁盤扇區(qū)讀取一個磁盤扇區(qū) (2)主存主存算術(shù)算術(shù)邏輯邏輯單元單元寄存器文件寄存器文件CPU 芯片芯片磁盤控制器磁盤控制器圖形適配

26、器圖形適配器USB控制器控制器鼠標(biāo)鼠標(biāo)鍵盤鍵盤顯示器顯示器磁盤磁盤I/O 總線總線總線接口總線接口磁盤控制器讀取扇區(qū)，并執(zhí)行到主存的DMA傳送Shenzhen University32Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition讀取一個磁盤扇區(qū)讀取一個磁盤扇區(qū) (3)主存主存算術(shù)算術(shù)邏輯邏輯單元單元寄存器文件寄存器文件CPU chip磁盤控制器磁盤控制器圖形適配器圖形適配器USB控制器控制器鼠標(biāo)鼠標(biāo)鍵盤鍵盤顯示器顯示器磁盤磁盤I/O總線總線總線接口總線接口當(dāng)DMA傳送完成時，磁盤

27、控制器用中斷方式通知CPU (需要一個特殊引腳與CPU相連)Shenzhen University33Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固態(tài)硬盤固態(tài)硬盤 (SSD)頁大小頁大小: 512B to 4KB, 塊大小塊大小: 32 to 128 pages數(shù)據(jù)以頁單位讀寫。數(shù)據(jù)以頁單位讀寫。只有在某頁所屬塊整個被擦除后，才可寫該頁。只有在某頁所屬塊整個被擦除后，才可寫該頁。在進行大約在進行大約10,0000次重復(fù)寫后，塊會磨損壞。次重復(fù)寫后，塊會磨損壞。閃存翻譯層I/O 總

28、線頁 0頁 1頁P-1塊 0頁0頁1頁P-1塊 B-1閃存固態(tài)硬盤 (SSD)讀寫邏輯磁盤塊Shenzhen University34Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固態(tài)硬盤性能特點固態(tài)硬盤性能特點順序訪問比隨機訪問塊順序訪問比隨機訪問塊典型存儲器層次結(jié)構(gòu)問題隨機寫會較慢隨機寫會較慢擦除塊需要較長時間 (1 ms)修改一頁需要塊內(nèi)所有頁復(fù)制到新塊中早起固態(tài)硬盤讀寫時間差距更大順序讀速度順序讀速度550 MB/s 順序?qū)懰俣软樞驅(qū)懰俣?70 MB/s隨機讀速度隨機讀速度

29、365 MB/s 隨機寫速度隨機寫速度303 MB/s平均讀時間平均讀時間50 us 平均寫時間平均寫時間60 us來源來源: Intel SSD 730 產(chǎn)品參數(shù)產(chǎn)品參數(shù)Shenzhen University35Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition固態(tài)硬盤固態(tài)硬盤 vs 機械磁盤機械磁盤優(yōu)勢優(yōu)勢無移動部件 隨機訪問快, 低功耗, 更結(jié)實劣勢劣勢會磨損 在flash translation layer 閃存轉(zhuǎn)換層用算法減少平均磨損率比如 Intel SSD 730 保證在

30、其磨損壞前可寫入 128 petabyte (128 x 1015 bytes) 在2015年, 每byte比磁盤貴30倍應(yīng)用應(yīng)用MP3播放器, 智能手機, 筆記本電腦開始在臺式機和服務(wù)器中應(yīng)用Shenzhen University36Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲技術(shù)及其趨勢存儲技術(shù)及其趨勢局部性局部性存儲器層次結(jié)構(gòu)中的高速緩存存儲器層次結(jié)構(gòu)中的高速緩存Shenzhen University37Bryant and OHallaron, Computer Sy

31、stems: A Programmers Perspective, Third Edition用局部性原理來解決用局部性原理來解決!解決解決CPU-存儲速度差距問題的關(guān)鍵是利用程序中特有的存儲速度差距問題的關(guān)鍵是利用程序中特有的局部性特點。局部性特點。Shenzhen University38Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition局部性局部性局部性原理局部性原理: 程序傾向于使用最近一段時間，距離其較程序傾向于使用最近一段時間，距離其較近地址的數(shù)據(jù)和指令。近地址的數(shù)據(jù)和指令

32、。時間局部性時間局部性: 最近被訪問的數(shù)據(jù)或指令在未來可能還會被訪問空間局部性空間局部性: 當(dāng)前訪問地址附近的區(qū)域在不久還有可能被訪問Shenzhen University39Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲器層次結(jié)構(gòu)存儲器層次結(jié)構(gòu)軟硬件的基礎(chǔ)穩(wěn)定特性軟硬件的基礎(chǔ)穩(wěn)定特性:高速存儲器技術(shù)費用高，容量小，且耗電量大，易發(fā)熱. CPU與主存的速度差別越來越大.設(shè)計良好的程序有更好的局部性.這些基礎(chǔ)特性相互補充這些基礎(chǔ)特性相互補充.以上特性給出一條組織主存和存儲系統(tǒng)的途

33、徑，稱作以上特性給出一條組織主存和存儲系統(tǒng)的途徑，稱作存存儲器層次結(jié)構(gòu)儲器層次結(jié)構(gòu).Shenzhen University40Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲技術(shù)及其趨勢存儲技術(shù)及其趨勢局部性局部性存儲器層次結(jié)構(gòu)中的高速緩存存儲器層次結(jié)構(gòu)中的高速緩存Shenzhen University41Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲器存儲器層次

34、結(jié)構(gòu)舉例層次結(jié)構(gòu)舉例寄存器L1高速緩存(SRAM)主存(DRAM)本地二級存儲(本地磁盤)更大, 更慢, 更廉價 (每字節(jié))的存儲器遠(yuǎn)程二級存儲(分布式文件系統(tǒng)、Web服務(wù)器)本地磁盤保存著從遠(yuǎn)程本地磁盤保存著從遠(yuǎn)程網(wǎng)絡(luò)服務(wù)器磁盤上取出網(wǎng)絡(luò)服務(wù)器磁盤上取出的文件的文件L2 高速緩存 (SRAM)L1 高速緩存保存著從高速緩存保存著從 L2 高速緩高速緩存取出的緩存行存取出的緩存行.CPU 寄存器保存著從高速緩存存寄存器保存著從高速緩存存儲器取出的字儲器取出的字L2 高速緩存保存著從高速緩存保存著從L3高速緩高速緩存取出的緩存行存取出的緩存行 L0:L1:L2:L3:L4:L5:更小,更快,更貴

35、(每字節(jié))的存儲器L3 高速緩存 (SRAM)L3 高速緩存保存著從主存高速緩高速緩存保存著從主存高速緩存取出的緩存行存取出的緩存行L6:主存保存著從本地磁盤取主存保存著從本地磁盤取出的磁盤塊出的磁盤塊Shenzhen University42Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third EditionCachesCache: 一種更小，速度更快的存儲設(shè)備。作為更大、更慢一種更小，速度更快的存儲設(shè)備。作為更大、更慢存儲設(shè)備的緩沖區(qū)存儲設(shè)備的緩沖區(qū). 解決解決CPU與主存之間速度匹配的問題與主存之

36、間速度匹配的問題存儲器層次結(jié)構(gòu)的基本思想存儲器層次結(jié)構(gòu)的基本思想:對于每個k，位于k層的更快更小的存儲設(shè)備作為位于k+1等的更大更慢的存儲設(shè)備的緩存為什么存儲器層次結(jié)構(gòu)行得通為什么存儲器層次結(jié)構(gòu)行得通?由于局部性原理，程序訪問第k層的數(shù)據(jù)比第k+1層的數(shù)據(jù)要頻繁 因此，第k+1層存儲設(shè)備更慢且更大、更廉價.重要觀點重要觀點: 存儲器層次結(jié)構(gòu)構(gòu)建了一個大容量的存儲池，像存儲器層次結(jié)構(gòu)構(gòu)建了一個大容量的存儲池，像底層存儲器一樣低廉，而又可以達到頂層存儲器的速度。底層存儲器一樣低廉，而又可以達到頂層存儲器的速度。Shenzhen University43Bryant and OHallaron, C

37、omputer Systems: A Programmers Perspective, Third Edition高速緩存基本概念高速緩存基本概念012345678910111213141589143高速緩存高速緩存主存主存第第k+1層更大、更慢、更便宜的層更大、更慢、更便宜的設(shè)備被劃分成塊設(shè)備被劃分成塊數(shù)據(jù)以塊大小為傳輸單元數(shù)據(jù)以塊大小為傳輸單元在層與層之間拷貝在層與層之間拷貝第第k層更小、更快、更昂貴的設(shè)備緩存層更小、更快、更昂貴的設(shè)備緩存著第著第k+1層塊的一個子集層塊的一個子集444101010Shenzhen University44Bryant and OHallaron, Com

38、puter Systems: A Programmers Perspective, Third Edition基本高速緩存概念基本高速緩存概念: 命中命中012345678910111213141589143高速緩存高速緩存主存主存需要塊需要塊b中的數(shù)據(jù)中的數(shù)據(jù)請求請求: 1414塊塊b在高速緩存中在高速緩存中:命中命中!Shenzhen University45Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition基本高速緩存概念基本高速緩存概念: 不命中不命中0123456789101

39、11213141589143高速緩存高速緩存主存主存需要塊需要塊b中的數(shù)據(jù)中的數(shù)據(jù)請求請求: 12塊塊b不在高速緩存中不在高速緩存中:不命中不命中!塊塊b從主存中讀取從主存中讀取請求請求: 12121212塊塊b存儲在高速緩存中存儲在高速緩存中替換策略:決定塊b去向替換策略:決定哪一塊被換出Shenzhen University46Bryant and OHallaron, Computer Systems: A Programmers Perspective, Third Edition存儲器結(jié)構(gòu)層次中高速緩存應(yīng)用舉例存儲器結(jié)構(gòu)層次中高速緩存應(yīng)用舉例Hardware MMU0On-Chip

40、TLBAddress translationsTLBWeb browser10,000,000Local diskWeb pagesBrowser cacheWeb cacheNetwork buffer cacheBuffer cache虛擬內(nèi)存虛擬內(nèi)存L2 cacheL1 cache寄存器寄存器Cache 類型類型Web pagesParts of filesParts of files4-KB pages64-byte blocks64-byte blocks4-8 bytes wordscache中存儲內(nèi)容中存儲內(nèi)容Web 代理服務(wù)代理服務(wù)器器1,000,000,000Remote server disksOS100Main memoryHard