第13周大課 存儲系統(tǒng)(2)

1、1/30計算機(jī)組成原理計算機(jī)組成原理存儲器概述存儲器概述存儲器訪問的局部性原理存儲器訪問的局部性原理半導(dǎo)體存儲器半導(dǎo)體存儲器2/30計算機(jī)組成原理計算機(jī)組成原理提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法Cache的工作原理的工作原理3/30計算機(jī)組成原理計算機(jī)組成原理理解雙端口和多模塊的存儲器理解雙端口和多模塊的存儲器熟練掌握熟練掌握Cache的工作原理的工作原理4/30計算機(jī)組成原理計算機(jī)組成原理6. 4 主存儲器主存儲器 6. 4. 1 主存儲器組成主存儲器組成 雖然人們在不斷地研制更高速度的存儲器，但是仍雖然人們在不斷地研制更高速度的存儲器，但是仍然趕不上高性能計算機(jī)對主存儲器

2、訪問帶寬的需求。所然趕不上高性能計算機(jī)對主存儲器訪問帶寬的需求。所以需要立足于現(xiàn)有的存儲器，通過引入并行處理技術(shù)來以需要立足于現(xiàn)有的存儲器，通過引入并行處理技術(shù)來提高主存儲器訪問帶寬。提高主存儲器訪問帶寬。 常用的并行存儲器有多端口常用的并行存儲器有多端口RAM（如雙口（如雙口RAM）和多模塊存儲器和多模塊存儲器 。 6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法5/30計算機(jī)組成原理計算機(jī)組成原理1. 雙口雙口RAM 這是具有兩套獨(dú)立的讀這是具有兩套獨(dú)立的讀/寫控制邏輯的寫控制邏輯的RAM，具有兩，具有兩個獨(dú)立的端口：左端口個獨(dú)立的端口：左端口( L )和右端口和右端口

3、( R )。 分別具有各自的地址總線、數(shù)據(jù)總線和控制總線，可分別具有各自的地址總線、數(shù)據(jù)總線和控制總線，可對存儲器中任何地址單元中的數(shù)據(jù)進(jìn)行獨(dú)立的存取操作。對存儲器中任何地址單元中的數(shù)據(jù)進(jìn)行獨(dú)立的存取操作。 當(dāng)兩個端口的訪存地址不同時，這兩個訪問可以同時當(dāng)兩個端口的訪存地址不同時，這兩個訪問可以同時進(jìn)行，否則發(fā)生訪問沖突。這時就由片內(nèi)仲裁邏輯決定哪進(jìn)行，否則發(fā)生訪問沖突。這時就由片內(nèi)仲裁邏輯決定哪個端口先進(jìn)行訪問。個端口先進(jìn)行訪問。 6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法6/30計算機(jī)組成原理計算機(jī)組成原理 雙端口雙端口RAM常作為流水線處理器的計算機(jī)主存常作為流

4、水線處理器的計算機(jī)主存儲器。在多機(jī)系統(tǒng)中，常采用雙端口儲器。在多機(jī)系統(tǒng)中，常采用雙端口RAM甚至多甚至多端口端口RAM，實(shí)現(xiàn)多處理器對主存儲器的共享。，實(shí)現(xiàn)多處理器對主存儲器的共享。 6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法7/30計算機(jī)組成原理計算機(jī)組成原理2. 多模塊存儲器多模塊存儲器n根據(jù)組成技術(shù)不同，多模塊存儲器又分為根據(jù)組成技術(shù)不同，多模塊存儲器又分為n單體多字存儲器單體多字存儲器n多體并行存儲器多體并行存儲器 6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法8/30計算機(jī)組成原理計算機(jī)組成原理2. 多模塊存儲器多模塊存儲器 6. 4.

5、 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法 單體多字存儲器單體多字存儲器 由于程序訪問存在著局部性，所以對相鄰存儲信由于程序訪問存在著局部性，所以對相鄰存儲信息（如指令和數(shù)組元素）的使用往往是連續(xù)的。若讓多息（如指令和數(shù)組元素）的使用往往是連續(xù)的。若讓多個存儲器模塊共用一套地址邏輯。這樣一個訪存地址就個存儲器模塊共用一套地址邏輯。這樣一個訪存地址就可以把存儲于多個存儲器模塊中相同地址單元的多個字可以把存儲于多個存儲器模塊中相同地址單元的多個字一并讀出，然后依次將它們送給處理器。一并讀出，然后依次將它們送給處理器。9/30計算機(jī)組成原理計算機(jī)組成原理 存儲字存儲字存儲體存儲體 存

6、儲字存儲字存儲體存儲體 存儲字存儲字存儲體存儲體 存儲字存儲字存儲體存儲體MARM D RM D RM D RM D R寄存器寄存器前提：指令或數(shù)據(jù)在主存中必須是前提：指令或數(shù)據(jù)在主存中必須是連續(xù)存放連續(xù)存放的，一旦遇到轉(zhuǎn)的，一旦遇到轉(zhuǎn)移指令或者操作數(shù)不能連續(xù)存放，這種方法的效果就不明顯移指令或者操作數(shù)不能連續(xù)存放，這種方法的效果就不明顯單體多字存儲器單體多字存儲器10/30計算機(jī)組成原理計算機(jī)組成原理2. 多模塊存儲器多模塊存儲器 6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法 多體并行存儲器多體并行存儲器 由由N個容量相同、字長相同的存儲器模塊組成。個容量相同、字長相

7、同的存儲器模塊組成。各個存儲器模塊分別擁有獨(dú)立的地址邏輯。各個存儲器模塊分別擁有獨(dú)立的地址邏輯。 只要連續(xù)訪問的存儲單元不在同一個存儲器模塊只要連續(xù)訪問的存儲單元不在同一個存儲器模塊中，這些模塊就可以相互錯開中，這些模塊就可以相互錯開1/N周期啟動、交叉（輪周期啟動、交叉（輪流）占用系統(tǒng)的地址總線、數(shù)據(jù)總線和控制總線。流）占用系統(tǒng)的地址總線、數(shù)據(jù)總線和控制總線。 多體并行存儲器也叫多體并行存儲器也叫“模模N交叉存儲器交叉存儲器”。 11/30計算機(jī)組成原理計算機(jī)組成原理四體交叉存儲器的工作示意圖四體交叉存儲器的工作示意圖 啟動啟動體體0單體訪存周期單體訪存周期單體訪存周期單體訪存周期 啟動啟動

8、體體1 啟動啟動體體2 啟動啟動體體312/30計算機(jī)組成原理計算機(jī)組成原理2. 多模塊存儲器多模塊存儲器6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法 由于模由于模N交叉存儲器提供的存儲容量為單體存儲器交叉存儲器提供的存儲容量為單體存儲器的的N倍，所以系統(tǒng)的地址總線寬度要大于單體存儲器的倍，所以系統(tǒng)的地址總線寬度要大于單體存儲器的地址總線寬度，多出的那部分地址將用于生成不同存儲地址總線寬度，多出的那部分地址將用于生成不同存儲體的體選信號。體的體選信號。 根據(jù)選擇訪存地址的高端還是低端來生成體選信號根據(jù)選擇訪存地址的高端還是低端來生成體選信號，可以將模，可以將模N交叉存儲

9、器分為交叉存儲器分為“高位交叉編址存儲器高位交叉編址存儲器”和和“低位交叉編址存儲器低位交叉編址存儲器” 。 13/30計算機(jī)組成原理計算機(jī)組成原理模塊模塊0 模塊模塊1 模塊模塊2 模塊模塊3 00000000010001000011010000100101010010111000010001100101001111000110011101011011高位是模塊號高位是模塊號, 低位是塊內(nèi)地址低位是塊內(nèi)地址 主存地址主存地址高位交叉編址高位交叉編址14/30計算機(jī)組成原理計算機(jī)組成原理高位交叉編址存儲器高位交叉編址存儲器 優(yōu)點(diǎn)是可靠性高優(yōu)點(diǎn)是可靠性高，一個存儲器模，一個存儲器模塊失效只會影響

10、塊失效只會影響存儲空間的存儲空間的1/N部分，不在這一部分，不在這一部分的程序和數(shù)部分的程序和數(shù)據(jù)照常工作。問據(jù)照常工作。問題是，發(fā)生訪問題是，發(fā)生訪問沖突的概率高。沖突的概率高。 15/30計算機(jī)組成原理計算機(jī)組成原理模塊模塊0 模塊模塊1 模塊模塊2 模塊模塊3 00000000010001000011001000100001100高位是塊內(nèi)地址高位是塊內(nèi)地址, 低位是模塊號低位是模塊號 主存地址主存地址001010100101101001100101001110001110101101111低位交叉編址低位交叉編址16/30計算機(jī)組成原理計算機(jī)組成原理低位交叉編址存儲器低位交叉編址存儲器

11、 低位交叉存儲器低位交叉存儲器可以將連續(xù)的指可以將連續(xù)的指令和數(shù)據(jù)存儲在令和數(shù)據(jù)存儲在不同的存儲器模不同的存儲器模塊中，有利于減塊中，有利于減少訪問沖突。但少訪問沖突。但是可靠性差，一是可靠性差，一旦一個存儲體失旦一個存儲體失效，整個存儲空效，整個存儲空間將崩潰。間將崩潰。 17/30計算機(jī)組成原理計算機(jī)組成原理6. 4. 2 提高主存儲器訪問帶寬的方法提高主存儲器訪問帶寬的方法3、采用更高速器件技術(shù)（如雙極型、采用更高速器件技術(shù)（如雙極型MOS）生產(chǎn)的存）生產(chǎn)的存儲芯片；儲芯片；4、信息按整數(shù)邊界存儲；、信息按整數(shù)邊界存儲；5、引入高速緩存、引入高速緩存Cache 。18/30計算機(jī)組成原理

12、計算機(jī)組成原理 例例6-14 某計算機(jī)存儲器按字節(jié)編址，采用小端方式存放數(shù)據(jù)。某計算機(jī)存儲器按字節(jié)編址，采用小端方式存放數(shù)據(jù)。假定編譯器規(guī)定假定編譯器規(guī)定int和和short型長度分別為型長度分別為32位和位和16位，并且數(shù)位，并且數(shù)據(jù)按邊界對齊存儲。某據(jù)按邊界對齊存儲。某C語言程序段如下：語言程序段如下：struct int a;charb;short c; record;record.a=273; 若變量若變量record的首地址為的首地址為0 xC008，則地址，則地址0 xC008中的內(nèi)容中的內(nèi)容及及record.c的地址分別為的地址分別為 。 A0 x00、0 xC00D B0 x0

13、0、0 xC00E C0 x11、0 xC00D D0 x11、0 xC00E D19/30計算機(jī)組成原理計算機(jī)組成原理 計算機(jī)存儲系統(tǒng)的層次結(jié)構(gòu)中，最重要的兩計算機(jī)存儲系統(tǒng)的層次結(jié)構(gòu)中，最重要的兩個層次是采用高速緩沖存儲器的個層次是采用高速緩沖存儲器的“Cache 主存主存”層次層次，以及基于虛擬存儲器的，以及基于虛擬存儲器的“主存主存 輔存輔存”層層次次。 前者能提高存儲系統(tǒng)的等效訪問速度，即彌前者能提高存儲系統(tǒng)的等效訪問速度，即彌補(bǔ)主存儲器在速度上的不足；后者擴(kuò)大了存儲系補(bǔ)主存儲器在速度上的不足；后者擴(kuò)大了存儲系統(tǒng)的容量，即彌補(bǔ)主存儲器在容量上的不足。統(tǒng)的容量，即彌補(bǔ)主存儲器在容量上的不

14、足。20/30計算機(jī)組成原理計算機(jī)組成原理6. 1 存儲器的分類與性能評價存儲器的分類與性能評價 6. 2 存儲器訪問的局部性原理與層次結(jié)構(gòu)存儲系統(tǒng)存儲器訪問的局部性原理與層次結(jié)構(gòu)存儲系統(tǒng) 6. 3 半導(dǎo)體存儲器半導(dǎo)體存儲器 6. 4 主存儲器主存儲器 6. 5 高速緩沖存儲器高速緩沖存儲器Cache 為了解決為了解決“主存儲器的速度始終趕不上處理器的速主存儲器的速度始終趕不上處理器的速度度”的問題，在主存和處理器之間增設(shè)的問題，在主存和處理器之間增設(shè)“高速緩沖存儲高速緩沖存儲器器Cache”是一種非常有效的辦法。是一種非常有效的辦法。 Cache采用靜態(tài)采用靜態(tài)RAM實(shí)現(xiàn)，容量小于主存容量，

15、實(shí)現(xiàn)，容量小于主存容量，但速度大大高于基于動態(tài)但速度大大高于基于動態(tài)RAM的大容量主存。的大容量主存。 21/30計算機(jī)組成原理計算機(jī)組成原理6. 5 高速緩沖存儲器高速緩沖存儲器Cache 6. 5. 1 Cache的工作原理的工作原理 CPUCPU發(fā)出訪問主存的地址發(fā)出訪問主存的地址MM不久目標(biāo)數(shù)據(jù)將肯定從主存送往不久目標(biāo)數(shù)據(jù)將肯定從主存送往CPUCache沒有沒有Cache，計算機(jī)，計算機(jī)照常工作，有了照常工作，有了Cache, 計算機(jī)工作得計算機(jī)工作得快一點(diǎn)！快一點(diǎn)！22/30計算機(jī)組成原理計算機(jī)組成原理CPUCacheMMCPU發(fā)出訪問主存的地址發(fā)出訪問主存的地址這個主存地這個主存地

16、址址Cache也也同時收到同時收到若目標(biāo)數(shù)據(jù)在若目標(biāo)數(shù)據(jù)在Cache中中(命中命中)則則Cache將先于將先于主存把數(shù)據(jù)送往主存把數(shù)據(jù)送往CPU若若Cache沒命中沒命中則主存遲早會把則主存遲早會把目標(biāo)數(shù)據(jù)送往目標(biāo)數(shù)據(jù)送往CPU23/30計算機(jī)組成原理計算機(jī)組成原理 事實(shí)上，對于事實(shí)上，對于M體交叉訪問的主存儲器，給出一個體交叉訪問的主存儲器，給出一個主存地址在一個訪存周期內(nèi)能夠讀出主存地址在一個訪存周期內(nèi)能夠讀出M個字。根據(jù)程序個字。根據(jù)程序訪問的局部性原理，訪問的局部性原理，CPU將會繼續(xù)訪問這將會繼續(xù)訪問這M個字。個字。 所以在主存與所以在主存與Cache之間，設(shè)置一個多字寬的局部數(shù)據(jù)線

17、。之間，設(shè)置一個多字寬的局部數(shù)據(jù)線。 當(dāng)當(dāng)Cache不命中時，不命中時，CPU將在訪問目標(biāo)數(shù)據(jù)的同時，一并從將在訪問目標(biāo)數(shù)據(jù)的同時，一并從主存主存讀出來的讀出來的M個字，并將其作為一個個字，并將其作為一個 塊塊 傳送給傳送給Cache。 這樣這樣CPU的下一次訪問基本上能夠在的下一次訪問基本上能夠在Cache中命中了。中命中了。24/30計算機(jī)組成原理計算機(jī)組成原理 當(dāng)當(dāng)Cache不命中，不命中，CPU正常訪問主存時，主存一方面正常訪問主存時，主存一方面將將目標(biāo)數(shù)據(jù)目標(biāo)數(shù)據(jù)通過通過系統(tǒng)數(shù)據(jù)總線系統(tǒng)數(shù)據(jù)總線送往送往CPU； 同時，通過同時，通過CacheMM局部多字寬數(shù)據(jù)線局部多字寬數(shù)據(jù)線將附帶

18、讀將附帶讀出的出的一個字塊一個字塊送往送往Cache。CPUCacheMM25/30計算機(jī)組成原理計算機(jī)組成原理 隨著隨著CPU不斷地訪問主存，越來越多的不斷地訪問主存，越來越多的 主存字塊被裝入主存字塊被裝入Cache。 Cache的容量有限，遲早會出現(xiàn)的容量有限，遲早會出現(xiàn)Cache裝滿的情況。裝滿的情況。 所以當(dāng)一個新字塊要裝入所以當(dāng)一個新字塊要裝入Cache時，它將要判斷時，它將要判斷Cache是否已滿？是否已滿？ 未滿則直接裝入，未滿則直接裝入， 否則將啟動否則將啟動Cache內(nèi)部的替換控制機(jī)構(gòu)，從內(nèi)部的替換控制機(jī)構(gòu)，從Cache存儲存儲體中選擇一個舊的字塊，將其通過體中選擇一個舊的字塊，將其通過CacheMM局部多字局部多字寬數(shù)據(jù)線寫回主存，以騰出空間接納新送來的字塊。寬數(shù)據(jù)線寫回主存，以騰出空間接納新送來的字塊。26/30計算機(jī)組成原理計算機(jī)組成原理 由于程序訪問局部性原理的存在，由于程序訪問局部性原理的存在，Cache的命中的命中率通常都在率通常都在90%以上。以上。 所以，增設(shè)所以，增設(shè)Cache后，后，CPU的平均訪存速度明顯的平均訪存速度明顯提高，基本上接近提高，基本上接近Cache 的速度。的速度。 在在CPU看來，它只付出了少許成本，就擁有了看來，它只付出了少許成本，就擁有了一個與主存儲器容量相當(dāng)，速度幾乎等于一個與主存儲器容量相當(dāng)，