第五章重疊流水和向量計(jì)算機(jī)1

1、整理ppt 第五章流水和指令級(jí)高度并行的超級(jí)機(jī) 整理ppt加速機(jī)器語(yǔ)言解釋的兩種方式 n通過(guò)選用更高速的器件，采用更好的運(yùn)算方法、提高指令內(nèi)各微操作的并行程度，減少解釋過(guò)程所需要的拍數(shù)，以加快每條指令的解釋。n通過(guò)控制機(jī)構(gòu)采用同時(shí)解釋兩條、多條以至整段程序的控制方式，加快整個(gè)機(jī)器語(yǔ)言程序的解釋。n重疊、流水。 整理pptWhat Is PipeliningnLaundry（洗衣） ExamplenAnn, Brian, Cathy, Dave each have one load of clothes to wash, dry, and foldnWasher takes 30 minutes

2、nDryer takes 40 minutesn“Folder” takes 20 minutesABCD整理pptWhat Is PipeliningSequential laundry takes 6 hours for 4 loadsIf they learned pipelining, how long would laundry take? ABCD3040 20 3040 20 3040 20 3040 206 PM7891011MidnightTaskOrderTime整理pptWhat Is Pipelining Start work ASAPnPipelined laundr

3、y takes 3.5 hours for 4 loads ABCD6 PM7891011MidnightTaskOrderTime3040404040 20整理pptPipelining LessonsnPipelining doesnt help latency of single task, it helps throughput of entire workloadnPipeline rate limited by slowest pipeline stagenMultiple tasks operating simultaneouslynPotential speedup = Num

4、ber pipe stagesnUnbalanced lengths of pipe stages reduces speedupnTime to “fill” pipeline and time to “drain（排出）” it reduces speedupABCD6 PM789TaskOrderTime3040404040 20What Is Pipelining整理ppt目錄n重疊方式 n流水方式 n向量的流水處理與向量流水處理機(jī) n指令級(jí)高度并行的超級(jí)處理機(jī) 整理ppt1 重疊方式 n基本思想和一次重疊 n相關(guān)處理 取指令分析執(zhí)行對(duì)一條機(jī)器指令的解釋整理ppt順序解釋與重疊解釋順序

5、解釋取指令k執(zhí)行k分析k取指令k+1執(zhí)行k+1分析k+1取指令k執(zhí)行k分析k取指令k+1執(zhí)行k+1分析k+1取指令k+2執(zhí)行k+2分析k+2重疊解釋的一種方式整理ppt一次重疊的工作方式執(zhí)行k分析k執(zhí)行k+1分析k+1執(zhí)行k+2分析k+2整理ppt基本思想和一次重疊 n順序解釋：各條機(jī)器指令之間順序串行地執(zhí)行，執(zhí)行完一條指令后采取出下條指令來(lái)執(zhí)行，而且每條指令內(nèi)部的各個(gè)微操作也是順序串行地執(zhí)行。 n優(yōu)點(diǎn)：控制簡(jiǎn)單。n重疊解釋：在解釋第k條指令的操作完成之前，就可開(kāi)始解釋第k+1條指令n不能加快一條指令的實(shí)現(xiàn)n但能加快相鄰兩條以至一段程序的解釋 整理ppt時(shí)間重疊，解決訪存沖突 n操作數(shù)和指令分

6、存于兩個(gè)獨(dú)立編址且可同時(shí)訪問(wèn)的存儲(chǔ)器，有利于實(shí)現(xiàn)指令保護(hù)，增加總線控制和軟件設(shè)計(jì)的復(fù)雜性n混存，采用多體交叉主存結(jié)構(gòu)n增設(shè)指令緩沖寄存器整理ppt解決訪存沖突（續(xù)）n在硬件上，保證又獨(dú)立的指令分析部件和指令執(zhí)行部件； n兩部分執(zhí)行的時(shí)間常常不相同，在硬件上解決好控制上的同步；n 控制上的其他問(wèn)題n指令轉(zhuǎn)移，下圖整理ppt分析k+1執(zhí)行k+1分析k+1執(zhí)行m分析m分析k執(zhí)行k取指m執(zhí)行m分析m結(jié)果取指k+1取指k+1取指m當(dāng)轉(zhuǎn)移不成功時(shí)：當(dāng)轉(zhuǎn)移成功且指令m在指緩中時(shí)：當(dāng)轉(zhuǎn)移成功且指令m不在指緩中時(shí)：當(dāng)?shù)趉條指令使條件轉(zhuǎn)移時(shí)整理ppt相關(guān)問(wèn)題n數(shù)相關(guān)：第k、k+1條指令的數(shù)據(jù)地址之間有了關(guān)聯(lián)。n數(shù)

7、相關(guān)不僅發(fā)生在主存空間，還會(huì)發(fā)生在通用寄存器空間n指令相關(guān)：采用Von Neumann型機(jī)器上指令可修改的辦法經(jīng)第k條指令的執(zhí)行來(lái)形成第k+1條指令整理ppt指令相關(guān)的處理 n原因：Von Neumann型機(jī)器的指令允許修改。n解決：在程序執(zhí)行過(guò)程中，不準(zhǔn)修改指令，除可解決指令相關(guān)，也可實(shí)現(xiàn)程序的可再入性和程序的遞歸調(diào)用。 整理ppt主存空間數(shù)相關(guān)的處理 n相鄰兩條指令之間要求對(duì)主存同一單元線寫(xiě)入而后再讀出的關(guān)聯(lián)。n解決：延遲。 整理ppt主存數(shù)相關(guān)的處理分析k執(zhí)行k（寫(xiě)數(shù)）分析k+1（讀數(shù)）執(zhí)行k+1寫(xiě)入m讀m退后一個(gè)主存周期分析k執(zhí)行k（寫(xiě)數(shù)申請(qǐng)）寫(xiě)入m分析k（讀數(shù)申請(qǐng)）執(zhí)行k需讀m主存數(shù)

8、相關(guān)的時(shí)間關(guān)系整理ppt通用寄存器數(shù)相關(guān)處理 n延遲和設(shè)置“相關(guān)專用通路”是解決重疊方式相關(guān)處理的兩種基本方法。n前者設(shè)備不變，降低速度；n后者增加設(shè)備，效率不變。 整理ppt舉例n假設(shè)指令：操作碼 L1 L3 B2 d2nL1,L3分別指明存放第一操作數(shù)和結(jié)果數(shù)的通用寄存器號(hào)nB2為形成第二操作數(shù)地址的基址值所在的通用寄存器號(hào)nD2為相對(duì)位移量整理ppt指令解釋過(guò)程中與通用寄存器內(nèi)容有關(guān)的微操作時(shí)間關(guān)系分 析執(zhí) 行用基/變址值取操作數(shù)用操作數(shù)存結(jié)果整理ppt“執(zhí)行”、“分析”重疊時(shí)，訪問(wèn)通用寄存器組的時(shí)間關(guān)系執(zhí)行k結(jié)果送入L3分析k+1第1拍第2拍第3拍第4拍(L1)送入B(L2)送入C整理

9、pptn當(dāng)程序執(zhí)行過(guò)程中出現(xiàn)L1(k+1)=L3(k),就發(fā)生L1相關(guān)；n而當(dāng)L2(k+1)=L3(k),就發(fā)生L2相關(guān)；n解決：n退后，延遲n設(shè)備不增加，速度降低，適合于相關(guān)概率低n設(shè)置“相關(guān)專用通路”n增加設(shè)備，效率不會(huì)明顯下降，適合于相關(guān)概率高整理ppt用相關(guān)專用通路解決通用寄存器組的數(shù)相關(guān)通用寄存器組運(yùn)算器BC相關(guān)專用通路數(shù)據(jù)總線運(yùn)算結(jié)果整理ppt順序執(zhí)行方式n執(zhí)行n條指令所用的時(shí)間為：n如每段時(shí)間都為t，則執(zhí)行n條指令所用的時(shí)間為：T=3ntn主要優(yōu)點(diǎn)：控制簡(jiǎn)單，節(jié)省設(shè)備n主要缺點(diǎn)：執(zhí)行指令的速度慢，功能部件的利用率很低。取指令k 分析k 執(zhí)行k 取指令k+1 分析k+1執(zhí)行k+1n

10、iiiitttT1(）執(zhí)行分析取指令整理ppt一次重疊執(zhí)行方式(一種最簡(jiǎn)單的流水線方式)n如果兩個(gè)過(guò)程的時(shí)間相等，則執(zhí)行n條指令的時(shí)間為：T=(1+2n)tn主要優(yōu)點(diǎn)：n指令的執(zhí)行時(shí)間縮短n功能部件的利用率明顯提高n主要缺點(diǎn)：n需要增加一些硬件n控制過(guò)程稍復(fù)雜取指 分析 執(zhí)行取指 分析 執(zhí)行取指 分析 執(zhí)行整理ppt二次重疊執(zhí)行方式n如果三過(guò)程的時(shí)間相等，執(zhí)行n條指令的時(shí)間為：T=(2+n)tn理想情況下同時(shí)有三條指令在執(zhí)行n處理機(jī)的結(jié)構(gòu)要作比較大的改變，必須采用先行控制方式取指k+2 分析k+2 執(zhí)行k+2取指k+1 分析k+1 執(zhí)行k+1取指k分析k執(zhí)行k整理ppt先行控制方式的原理n采用

11、二次重疊執(zhí)行方式，必須解決兩個(gè)問(wèn)題：n有獨(dú)立的取指令部件、指令分析部件和指令執(zhí)行部件 獨(dú)立的控制器：存儲(chǔ)控制器、指令控制器、運(yùn)算控制器n要解決訪問(wèn)主存儲(chǔ)器的沖突問(wèn)題 取指令、分析指令、執(zhí)行指令都可能要訪問(wèn)存儲(chǔ)器n解決訪存沖突的方法：n采用低位交叉存取方式：n這種方法不能根本解決沖突問(wèn)題。整理ppt先行控制方式的原理（續(xù)）n兩個(gè)獨(dú)立的存儲(chǔ)器：獨(dú)立的指令存儲(chǔ)器和數(shù)據(jù)存儲(chǔ)器。n如果再規(guī)定，執(zhí)行指令所需要的操作數(shù)和執(zhí)行結(jié)果只寫(xiě)到通用寄存器，那么，取指令、分析指令和執(zhí)行指令就可以同時(shí)進(jìn)行。 在許多高性能處理機(jī)中，有獨(dú)立的指令Cache和數(shù)據(jù)Cache。 這種結(jié)構(gòu)被稱為哈佛結(jié)構(gòu)(Harvard archi

12、tecture)。整理ppt先行控制方式的原理（續(xù)）n采用先行控制技術(shù)。n先行控制技術(shù)的關(guān)鍵是緩沖技術(shù)和預(yù)處理技術(shù)。n緩沖技術(shù)是在工作速度不固定的兩個(gè)功能部件之間設(shè)置緩沖棧，用以平滑它們的工作。n在采用了緩沖技術(shù)和預(yù)處理技術(shù)之后，運(yùn)算器能夠?qū)Ｐ挠跀?shù)據(jù)的運(yùn)算，從而大幅度提高程序的執(zhí)行速度。整理ppt(a)重疊方式分析k+1分析k執(zhí)行k執(zhí)行k+1分析k+2執(zhí)行k+2分析部件空閑執(zhí)行部件空閑分析k+1分析k執(zhí)行k分析k+2(b)先行控制執(zhí)行k+1執(zhí)行k+2niiniinittTttttT11121),max(執(zhí)分先執(zhí)執(zhí)分分重整理pptn結(jié)果：解決了分析與執(zhí)行時(shí)間不等長(zhǎng)問(wèn)題。n與重疊區(qū)別：分析和執(zhí)行部件可同時(shí)處理兩條不相鄰指令。n采用技術(shù)：緩沖技術(shù)+預(yù)處理技術(shù)n硬件要