體系結(jié)構(gòu)第六章課件

1、第6章 向量處理機(jī)計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)6.1 向量處理機(jī)的基本概念 6.2 向量處理機(jī)的結(jié)構(gòu)6.3 向量處理機(jī)的存取模式和數(shù)據(jù)結(jié)構(gòu) 6.4 提高向量處理機(jī)性能的方法6.5 向量處理機(jī)實(shí)例第6章 向量處理機(jī)6.1 向量處理機(jī)的基本概念具有向量數(shù)據(jù)表示和向量指令系統(tǒng)的處理機(jī)向量處理機(jī)是解決數(shù)值計(jì)算問題的一種高性能計(jì)算機(jī)向量處理機(jī)屬大型或巨型機(jī)，也可以用微機(jī)加一臺(tái)向量協(xié)處理器組成向量處理機(jī)一般都采用流水線結(jié)構(gòu)，通常有有多條并行工作的流水線必須把要解決的問題轉(zhuǎn)化為向量運(yùn)算，才能發(fā)揮向量處理機(jī)的效率for (i = 10;i= 1010; i+ ) ci = ai + bi;標(biāo)量處理機(jī)上的實(shí)現(xiàn):START:L

2、OADR0, ST ;讀循環(huán)初值10LOADR1, ED ;讀循環(huán)終值1010LOADR2, L ;讀內(nèi)存地址增量4MOVR3, R2MULR3, R0 ;計(jì)算向量偏移量, ;初始值為40LOOP:LOADR4, A(R3) ;讀A向量的一個(gè)元素LOADR5, B(R3) ;讀B向量的一個(gè)元素ADDR4, R5 ;加一個(gè)元素 STORER4, C(R3) ;寫C向量的一個(gè)元素ADDR3, R2 ;改變向量偏移量 INCR0 ;循環(huán)次數(shù)增1 CMPR0, R1 ;循環(huán)是否結(jié)束 BLELOOP ;循環(huán)未結(jié)束轉(zhuǎn)LOOP;否則繼續(xù) HALT ;停機(jī)ST: 10 ;循環(huán)初值ED: 1010 ;循環(huán)終值L

3、: 4 ;內(nèi)存地址增量三種處理方式： 橫向處理方式，又稱為水平處理方式、橫向加工方式等。向量計(jì)算是按行的方式從左至右橫向地進(jìn)行?？v向處理方式，又稱為垂直處理方式、縱向加工方式等。向量計(jì)算是按列的方式自上而下縱向地進(jìn)行?？v橫處理方式，又稱為分組處理方式、縱橫向加工方式等。橫向處理和縱向處理相結(jié)合的方式。6.1.2 向量處理方式要根據(jù)向量運(yùn)算的特點(diǎn)和向量處理機(jī)的類型選擇向量的處理方式。以一個(gè)簡(jiǎn)單的C語(yǔ)言編寫的程序?yàn)槔?，說明向量的三種處理方式的工作原理。for (i = 1；i =n2 同一列相鄰元素在并行存儲(chǔ)體中錯(cuò)開d1個(gè)位置存放；3 同一行相鄰元素在并行存儲(chǔ)體中錯(cuò)開d2個(gè)位置存放；4 d1，d2

4、，m滿足 p為任意數(shù)17個(gè)存儲(chǔ)體存放4*4數(shù)組13121110222120既可按行訪問，也可按列訪問列距d1=4，行距 d2=1 無沖突訪問03024323303132330142004140存取模式： 利用高速緩沖存儲(chǔ)器來提高向量處理機(jī)的速度。數(shù)據(jù)結(jié)構(gòu)： 調(diào)整步距、重定格式。6.4 提高向量處理機(jī)性能的方法6.4.1 向量處理機(jī)系統(tǒng)結(jié)構(gòu)的設(shè)計(jì)目標(biāo)研制高性能向量處理機(jī)要解決以下幾個(gè)主要問題： 1.較好地維持向量/標(biāo)量性能平衡。 向量平衡點(diǎn)：為了使向量硬件設(shè)備和標(biāo)量硬件設(shè)備的利用率相等，一個(gè)程序中向量代碼所占的百分比。 關(guān)鍵問題：希望向量硬件和標(biāo)量硬件都能夠充分利用，不要空閑。例如：一個(gè)系統(tǒng)的向

5、量運(yùn)算速度為90Mflolps，標(biāo)量運(yùn)算速度為10Mfolps，如果程序的90是向量運(yùn)算，10是標(biāo)量運(yùn)算，則向量平衡點(diǎn)為0.9，此時(shí)硬件利用率最高。機(jī)器型號(hào)幾種超級(jí)計(jì)算機(jī)的向量性能和標(biāo)量性能Fujitsu VP400Cray ISCray 2SCray X-MPCray Y-MPHitachi S820NEC SX2向量性能Mflops標(biāo)量性能Mflops向量平衡點(diǎn)85.09.80.90151.511.20.93143.313.10.92201.617.00.92737.317.80.98424.29.50.98207.16.60.972.可擴(kuò)展性隨處理機(jī)數(shù)目的增加而提高。 1）規(guī)?？蓴U(kuò)展性：

6、其資源部件個(gè)數(shù)從小到大可擴(kuò)展； 2）換代可擴(kuò)展性：與新硬件系統(tǒng)兼容和移植的軟件/算法 是可擴(kuò)展； 3）問題可擴(kuò)展性：?jiǎn)栴}規(guī)模擴(kuò)展到相當(dāng)大時(shí)計(jì)算機(jī)仍能高效地運(yùn)行；3.增加存儲(chǔ)器系統(tǒng)的容量和性能 大規(guī)模存儲(chǔ)器系統(tǒng)必須為標(biāo)量處理提供低時(shí)延、為向量處理提供高頻寬、為解決大型復(fù)雜問題提供大容量和高吞吐率的性能。4.提供高性能的I/O和易訪問的網(wǎng)絡(luò)。 I/O是指大型機(jī)和外圍設(shè)備或網(wǎng)絡(luò)之間的數(shù)據(jù)傳輸。6.4.2 提高向量處理機(jī)性能的常用技術(shù)一、鏈接技術(shù)將一條流水線的結(jié)果直接送入另一個(gè)功能流水線的操作數(shù)寄存器，可以實(shí)現(xiàn)多種向量指令的重疊執(zhí)行，這種技術(shù)稱為兩條流水線的鏈接。鏈接允許當(dāng)前條流水線的第一個(gè)結(jié)果（結(jié)果

7、向量的第一個(gè)元素）可用時(shí)，就馬上發(fā)出相繼的操作（即第二條流水線開始工作）。流水線鏈接沒有鏈接技術(shù)的情況下，必須等到上一個(gè)操作的結(jié)果寫入之后才能開始下一個(gè)獨(dú)立的指令使用鏈接技術(shù)的情況下，可以在第一個(gè)結(jié)果出現(xiàn)之后就啟動(dòng)各個(gè)獨(dú)立指令1 向量指令的類型： 以CRAY1向量處理機(jī)為例，有四類指令，每種指令格式： （1）向量與向量操作，Vi Vj OP Vk （2）向量與標(biāo)量操作，Vi Sj OP Vk （3）向量取， Vi 存儲(chǔ)器 （4）向量存， 存儲(chǔ)器 Vi可以將上述向量存和取操作分別看成具有固定時(shí)延的向量讀流水線和向量寫流水線；向量與向量操作和向量與標(biāo)量的操作均為流水線方式。向量運(yùn)算中的數(shù)據(jù)相關(guān)和功

8、能部件沖突： 指令采用順序發(fā)射順序完成方式 (1)寫讀數(shù)據(jù)相關(guān)。 (2)讀讀數(shù)據(jù)相關(guān)，或向量寄存器沖突。 (3)運(yùn)算部件沖突。 V0 V1V2V0 V1V2 V3 V4 V5V3 V0 V4 (a)不相關(guān)的指令(b)寫讀數(shù)據(jù)相關(guān) V0 V1V2 V0 V1V2 V3 V4V5 V3 V1 V4 (c)功能部件沖突(d)讀讀數(shù)據(jù)相關(guān) 例如：有如下3條向量指令： 1： V3 A 2： V2 V0V1 3： V4 V2 x V3第1、2條指令沒有數(shù)據(jù)相關(guān)和功能部件沖突，可以并發(fā)執(zhí)行。第3條指令與第1、2條指令均存在寫讀數(shù)據(jù)相關(guān)，可以鏈接執(zhí)行。主存儲(chǔ)器V0(64L)123456123456654321

9、7V1(64L)V2(64L)V3(64L)V4(64L)V3 AV2 V0V1V4 V2V3向量讀流水線向量乘流水線 三種執(zhí)行方式比較：(1) 如果向量長(zhǎng)度為N，三條指令采用串行方法 執(zhí)行的時(shí)間為： (1+6+1)+N-1+(1+6+1)+N-1+(1+7+1)+N-1 = 3N+22 拍(2) 如果前兩條指令并行執(zhí)行，第三條指令串行執(zhí)行，則執(zhí)行時(shí)間為： (1+6+1)+N-1+(1+7+1)+N-1 = 2N+15 拍(3) 如果采用鏈接技術(shù)，則執(zhí)行時(shí)間為： (1+6+1)+(1+7+1)+(N-1)=17+N-1 = N+16 拍 實(shí)現(xiàn)鏈接的條件：(1)沒有向量寄存器沖突和運(yùn)算部件沖突；

10、(2)只有第一個(gè)結(jié)果送入向量寄存器的那一個(gè) 周期(節(jié)拍)可以鏈接；(3)先行的兩條指令產(chǎn)生運(yùn)算結(jié)果的時(shí)間必須 相等；(4)兩條向量指令的向量長(zhǎng)度必須相等。 二 向量循環(huán)或分段開采技術(shù) 當(dāng)向量的長(zhǎng)度大于向量寄存器的長(zhǎng)度時(shí)，必須把長(zhǎng)向量分成長(zhǎng)度固定的段。處理長(zhǎng)向量的程序結(jié)構(gòu)稱為向量循環(huán)。這種技術(shù)也稱為分段開采，一次處理一個(gè)向量段。例6.2：A和B為長(zhǎng)度N的向量。 for (i=1; iN; i+) ai=bi+ci;當(dāng)向量長(zhǎng)度N為64或更小時(shí)，計(jì)算A數(shù)組的7條指令序列是：3.向量遞歸技術(shù) 在向量操作中，結(jié)果通常是不送回到作為源操作數(shù)使用的同一個(gè)向量寄存器中的。有一類特殊的向量循環(huán)，其流水線功能部件

11、的輸出可能要回送到它的一個(gè)源向量寄存器。換句話說，一個(gè)向量寄存器用來同時(shí)存放源操作數(shù)和結(jié)果操作數(shù)。4.稀疏矩陣的處理技術(shù) 在計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)方面已經(jīng)采用了一些方法來解決稀疏矩陣問題。CDC STAR采用稀疏向量方法。 6.5 向量處理機(jī)實(shí)例6.5.1 典型向量處理機(jī)6.5.2 CRAY Y-MP向量處理機(jī)6.5.3 向量協(xié)處理器向量處理機(jī)主要出自美國(guó)和日本。美國(guó)著名的向量計(jì)算機(jī)公司有： CDC CRAY(Silicon Graphics (SGI)等日本公司有： NEC Fujitsu Hitachi等6.5.1 典型的向量處理機(jī)機(jī)器型號(hào)美國(guó)和日本制造的向量處理機(jī)Cray IS配置特點(diǎn)有10條流

12、水線的單處理機(jī)，12.5ns，COS/CF7 2.1第一臺(tái)基于ECL的超級(jí)計(jì)算機(jī)，1976年問世 典型向量處理機(jī)Cray2S/4-256256M字存儲(chǔ)器的4臺(tái)處理機(jī)，4.lns, COS或UNIX/CF77 3.016K字的本地存儲(chǔ)器，移植了UNIXV，1985問世機(jī)器型號(hào)Cray X-MP 416配置特點(diǎn)16M字存儲(chǔ)器的4臺(tái)處理機(jī)，128M字SSD, 8.5ns, COS CF77 5.0使用共享寄存器組用于IPC，1983年問世Cray Y-MP 832128M字存儲(chǔ)器的8臺(tái)處理機(jī), 6ns, CF77 5.0XMP的改進(jìn)型，1988年問世每臺(tái)處理機(jī)2條向量流水線, 16臺(tái)處理機(jī), 4.2

13、ns, Unicos/CF77 5.0CrayY-MPC-90最大的Cray機(jī)器1991年問世機(jī)器型號(hào)CDC Cyber 205配置特點(diǎn)有4條流水線的單處理機(jī), 20ns, 虛擬OS/FTN200存儲(chǔ)器到存儲(chǔ)器系統(tǒng)結(jié)構(gòu)，1982年問世ETA 10E單處理機(jī), 10.5ns, ETAV/FTN 200Cyber 205的后繼型號(hào)，1985年問世每臺(tái)處理機(jī)4組流水線, 4臺(tái)處理機(jī), 2.9ns, F77SX,22GflopsNECSX-X/441991年問世機(jī)器型號(hào)FujitsuVP2600/10配置特點(diǎn)5條流水線的單處理機(jī)和雙標(biāo)量處理機(jī), 3.2ns, MSP. EX/F77 EX/VP使用可重

14、構(gòu)微向量寄存器和屏蔽，1991年問世512MB存儲(chǔ)器，18條流水線的單處理機(jī)，4ns，F(xiàn)ORT77/HAPV23-OCHitachi 820/8064個(gè)通道，最大傳輸速率288MB/S，1988年問世6.5.2 CRAY Y-MP向量處理機(jī)由1至8個(gè)CPU組成，共享中央存儲(chǔ)器、I/O子系統(tǒng)、處理機(jī)通信子系統(tǒng)和實(shí)時(shí)鐘。中央存儲(chǔ)器由256個(gè)交叉訪問的存儲(chǔ)體組成。每個(gè)處理機(jī)對(duì)4個(gè)存儲(chǔ)器端口交叉訪問。CPU的時(shí)鐘周期為6ns。每個(gè)CPU由14個(gè)功能部件組成，分為向量、標(biāo)量、地址和控制四個(gè)子系統(tǒng)。使用了大量地址寄存器、標(biāo)量寄存器、向量寄存器、中間寄存器和臨時(shí)寄存器?？梢詫?shí)現(xiàn)功能流水線靈活的鏈接。I/O子

15、系統(tǒng)支持三類通道，傳輸速率分別為6兆字節(jié)/秒，100兆字節(jié)/秒和1G字節(jié)/秒。6.5.3 向量協(xié)處理器以中小型機(jī)或微機(jī)作主機(jī)，向量處理部件作為外圍設(shè)備，加速向量的處理速度。向量協(xié)處理器是為中小型用戶設(shè)計(jì)的，解決科學(xué)計(jì)算中大量向量處理任務(wù)的一種裝置。FPS-164是最典型的向量協(xié)處理器，美國(guó)浮點(diǎn)系統(tǒng)公司生產(chǎn)。它有自己的主存，高速標(biāo)量運(yùn)算部件和臺(tái)數(shù)可變的流水結(jié)構(gòu)向量處理器 FPS-164向量協(xié)處理器的結(jié)構(gòu) 每個(gè)向量處理器有兩個(gè)乘加部件，兩組向量寄存器，兩組標(biāo)量寄存器。向量寄存器有2組4個(gè)個(gè)操作數(shù)（向量元素），每個(gè)操作數(shù)個(gè)字節(jié)。各向量處理器同步地運(yùn)算，但它們處理的數(shù)據(jù)各不相同。向量操作可以和標(biāo)量處理

16、器中的標(biāo)量操作同時(shí)進(jìn)行6.6 向量處理機(jī)的性能評(píng)價(jià)衡量向量處理機(jī)性能的主要指標(biāo)有：向量指令處理時(shí)間Tvp、最大性能R、半性能向量長(zhǎng)度n1/2等。1. 向量指令處理時(shí)間Tvp 執(zhí)行一條向量長(zhǎng)度為n的向量指令的時(shí)間Tvp表示為： TvpTs + Tvf + (n - 1) Tc 其中：Ts為向量流水線的建立時(shí)間。 Tvf為向量流水線的流過時(shí)間。 Tc為流水線“瓶頸”段的執(zhí)行時(shí)間。如果每段執(zhí)行時(shí)間都等于一個(gè)時(shí)鐘周期，則有： Tvps + e + (n - 1) 其中：s為向量流水線建立所需的時(shí)鐘周期數(shù)。 e為向量流水線流過所需的時(shí)鐘周期數(shù)。 n為向量長(zhǎng)度。為時(shí)鐘周期長(zhǎng)度。通常把幾條能在一個(gè)時(shí)鐘周期內(nèi)

17、同時(shí)開始執(zhí)行的向量指令稱為一個(gè)編隊(duì) (Chime)。同一個(gè)編隊(duì)中的指令一定不存在功能部件沖突和數(shù)據(jù)相關(guān)。例6.3：假設(shè)一臺(tái)向量處理機(jī)中功能部件的啟動(dòng)開銷為：取數(shù)和存數(shù)部件12個(gè)時(shí)鐘周期、乘法部件7個(gè)時(shí)鐘周期、加法部件6個(gè)時(shí)鐘周期。先把下列向量操作分成編隊(duì)，然后計(jì)算每個(gè)編隊(duì)的開始時(shí)間、獲得第一個(gè)結(jié)果元素的時(shí)間和獲得最后一個(gè)結(jié)果元素的時(shí)間。 LV V1，Rx ；取向量x MULTSV V2，F(xiàn)0，V1 ；向量和標(biāo)量相乘 LV V3，Ry ；取向量Y ADDV V4，V2，V3 ；加法 SV Ry，V4 ；存結(jié)果解：第一條指令LV為第1個(gè)編隊(duì)。MULTSV指令和第2條LV指令為第2個(gè)編隊(duì)。ADDV指

18、令為第3個(gè)編隊(duì)。SV指令為第4個(gè)編隊(duì)。如果向量長(zhǎng)度為n，則每個(gè)編隊(duì)的開始時(shí)間、獲得第一個(gè)結(jié)果元素和最后一個(gè)結(jié)果元素時(shí)間如表6.4所示：如果有3個(gè)訪問存儲(chǔ)器部件，并且不考慮控制的復(fù)雜性，采用向量鏈接技術(shù)，只需要： 12 + 7 + 6 + 12 + n 136 + n個(gè)周期。如果考慮向量長(zhǎng)度大于向量寄存器長(zhǎng)度時(shí)，則需要分段開采。向量長(zhǎng)度為n的一組向量操作的整個(gè)執(zhí)行時(shí)間為： 其中：Tloop為執(zhí)行標(biāo)量代碼的開銷， Tstart為每個(gè)編隊(duì)的向量啟動(dòng)開銷， MVL是向量寄存器的長(zhǎng)度， Tloop是一個(gè)常數(shù)，在Cray 1中機(jī)為15。例6.5：在一臺(tái)向量處理機(jī)上實(shí)現(xiàn)ABs操作，其中A和B是長(zhǎng)度為200的

19、向量，s是一個(gè)標(biāo)量。向量寄存器長(zhǎng)度為64。各功能部件的啟動(dòng)時(shí)間與上例相同。求總的執(zhí)行時(shí)間。解：因?yàn)橄蛄块L(zhǎng)度超過了向量寄存器的長(zhǎng)度，所以要采取分段開采方法。每次循環(huán)主要由下面三條向量指令組成： LV V1， Rb ;取向量B MULTVS V2，V1，F(xiàn)s ;向量和標(biāo)量相乘 SV Ra，V2 ;存向量 假設(shè)A和B分別放在Ra和Rb之中，s放在Fs中三條指令之間存在有寫讀數(shù)據(jù)相關(guān)，因此必須把它們分成3個(gè)編隊(duì)，Tchime= 3。 T2004(15 + Tstart) + 2003 60（4Tstart）+ 600 660（4Tstart）其中：Tstart=12 + 7 + 12 = 31， 因此

20、，T200660 + 431784 每個(gè)結(jié)果元素的平均執(zhí)行時(shí)間為： 768/200 3.9個(gè)周期。例6.6：在某臺(tái)向量處理機(jī)上的執(zhí)行代碼由如下5條指令組成：1：LV V1，Rx;取向量x2：MULTSV V2，F(xiàn)0，V1;向量和標(biāo)量相乘3：LV V3，Ry;取向量Y4：ADDV V4，V2，V3;加法5：SV Ry，V4;存結(jié)果主要參數(shù)與上例相同，求總的執(zhí)行時(shí)間。解：指令1、2，指令3、4和指令5分成三個(gè)編隊(duì)，前兩個(gè)編隊(duì)中兩條指令采用向鏈接技術(shù)執(zhí)行。Tchime=3， Tloop=15， Tstart=12+7+12+6+12=49， MVL=64。2. 最大性能RR表示當(dāng)向量長(zhǎng)度為無窮大時(shí)的向量流水線的最大性能。常在評(píng)價(jià)峰值性能時(shí)使用。其中：n為向量長(zhǎng)度； Tn為一組向量操作的整個(gè)執(zhí)行時(shí)間。對(duì)于例6.6，假設(shè)時(shí)鐘頻率為200MHZ。每個(gè)循環(huán)有2個(gè)浮點(diǎn)操作，則有：3.半性能向量長(zhǎng)度n1/2為達(dá)到一半R值所需的向量長(zhǎng)度稱為半性能向量長(zhǎng)度n1/2。主要用來評(píng)價(jià)向量流水線的建立時(shí)間對(duì)性能的影響。CRAY-1的n1/21020， CYBER 205的n1/2100。由MFLOPS定義可知：對(duì)于例6.6，如果向量處理機(jī)的時(shí)鐘頻率為200MHz。因?yàn)椋篟=100MFLOPS，因此有： 1002 2 n1/2Tn1/2 200