流水線性能指標ppt課件

1、一、吞吐率（一、吞吐率（TP, Though put rateTP, Though put rate） 二、加速比（二、加速比（S S，Speedup ratioSpeedup ratio） 三、效率三、效率(E(E，Efficiency)Efficiency) 四、吞吐率、加速比和效率之間的關系四、吞吐率、加速比和效率之間的關系 五、流水線最佳段數(shù)的選擇五、流水線最佳段數(shù)的選擇第三節(jié)第三節(jié) 線性流水線的性能分析線性流水線的性能分析 1；.一、吞吐率（一、吞吐率（TP, Though put rateTP, Though put rate） 1. 吞吐率的定義 流水線的吞吐率是指在單位時間內(nèi)流

2、水線所完成的任務數(shù)量或輸出的結(jié)果數(shù)量。即： TP = n / Tk 式中：n為任務數(shù)，Tk是處理完成n個任務所用的時間，（3.1）式是計算流水線吞吐率最基本公式。 2；. 2. 流水線各段的執(zhí)行時間相等的吞吐率 若有一條k段的線性流水線，各段的執(zhí)行時間相等，均為t。當n個任務是連續(xù)的理想情況下輸入到流水線，流水線的時空圖如圖所示?？臻g S4 1 2 3 n-1 n S3 1 2 3 n-1 n S2 1 2 3 n-1 n S1 1 2 3 n-1 n 時間 kt （n-1）t nt （k-1）t Tk各段執(zhí)行時間均相等的流水線時空圖 3；. 流水線完成n個任務所需要的總時間可從兩方面來分析。

3、一是從流水線的輸出端看，用k個t輸出第一任務，即kt為“裝入時間”，其余n-1個任務，每個t輸出一個任務，即用n-1個時期周期輸出n-1個任務。二是從流水線的輸入端看，用n個t向流水線輸入n個任務，另外還要用k-1個t作為流水線的“排空時間”。因此，流水線完成n個任務需要的總時間為： Tk = （n + k -1）t 代入式得到流水線各段時間均相等，連續(xù)輸入n個任務的一條k段線性流水線的實際吞吐率為： nTP = （n + k -1）t m a xnn1T Plim( nk1)tt m axnT PT Pnk14；. 3. 流水線各段的執(zhí)行時間不相等的吞吐率 若有一條k段的線性流水線，各段的執(zhí)

4、行時間不相等，且分別為t1、t2、tk，即流水線中存在“瓶頸”流水段，連接圖如圖3.16所示，相應的時空圖如圖3.17所示。那么，除第一個任務外，其余（n-1）個任務必須按“瓶頸”流水段的時間間隔maxt1、t2、tk連續(xù)流入流水線。因此，流水線存在“瓶頸”流水段時，連續(xù)輸入n個任務的一條k段線性流水線的實際吞吐率為：S2S1S4S3輸入輸出t 3t t t5；. 1 2 3 n 1 2 3 n 1 2 3 n 1 2 3 nS4S3S2S1時間i1tki(n-1)t2Tk6；.i12k=1nTPt(n1) max tt t ki、 、max12k1TPmax t t t 、7；. 4. 流水

5、線“瓶頸”問題的兩種解決方法（1）分離“瓶頸” 流水段將流水線的“瓶頸”功能段部分再細分，分解成幾個獨立的子功能段，消除執(zhí)行時間不相等而帶來的“瓶頸” 段。例如，把圖3.16所示的第二個流水段再細分為三個子流水段，分別為S2-1、S2-2和S2-3，如圖所示。這樣，每個流水段及子流水段的延遲時間均為t。（2）重復設置“瓶頸” 流水段 如果由于結(jié)構(gòu)等方面的原因，瓶頸流水段難以再細分，則可以通過重復設置瓶頸流水段，讓多個瓶頸流水段并行工作，消除執(zhí)行時間不相等而帶來的“瓶頸” 段。例如，把圖所示的第二個流水段重復設置，流水線連接圖如圖所示。但是，采用瓶頸流水段重復設置的方法，其控制邏輯比較復雜。 8

6、；.S1S2-2S2-3S3S4S2-1S2-1S2-2S2-3S4S3S19；.1 2 3 4 5 6 7 8 9 n-2 n-1 n1 2 3 4 5 6 7 8 9 n-2 n-1n 1 4 7 n-2 2 5 8 n-1 3 6 9 n1 2 3 4 5 6 7 8 9 n-2n-1 n10；. 1. 加速比的定義 流水線的加速比是指完成同樣一批任務，不使用流水線即順序執(zhí)行所用的時間與使用流水線所用的時間之比。如果不使用流水線所用的時間為T0，使用流水線的執(zhí)行時間為Tk，則流水線的加速比為：S = T0 / Tk 是計算流水線加速比的基本公式。二、加速比（二、加速比（S S，Speed

7、up ratioSpeedup ratio） 2. 流水線各段的執(zhí)行時間相等的加速比nktnkS=(k+n1) tkn1maxnnks= lim =knk 11；.3. 流水線各段的執(zhí)行時間不相等的加速比 i=1i12k=1ntSt(n1) m axt t t 、 、kiki12；.三、效率三、效率(E(E，Efficiency)Efficiency) 1. 效率的定義 流水線的效率是指流水線的設備利用率。在時空圖上，流水線的效率定義為n個任務占用的時空區(qū)與k個流水段占用的總時空區(qū)之比。即： E=n個任務占用的時空區(qū)/k個流水段占用的總時空區(qū)式是計算流水線效率的基本公式，其分母是n個任務所用的

8、時間與k個流水段所圍成的時空總面積，分子是n個任務實際上占用的有效時空面積。因此，流水線的效率包含時間和空間兩方面的因素，通過時空圖來計算流水線的效率非常方便。13；.kt n k tnktnE=k(k+n)tk+n1 maxnnE= lim =1k+n1 2. 流水線各段的執(zhí)行時間相等的效率 各段的執(zhí)行時間相等，均為t的k段的線性流水線，完成n個連續(xù)任務所需要的時間見式，每個功能段在這段時間內(nèi)都被占用，則時空圖的總面積為。一個任務占用的時空區(qū)為，n個任務實際占用的有效面積為各段的執(zhí)行時間相等的流水線效率為： 相應的流水線的最大效率為： 從式中可以看出，當nk時，流水線的效率達到最大值1。這時

9、，流水線的各段均處于忙碌狀態(tài)。從時空圖中看，每一塊都是有效的。k (k+n) t 14；. 3. 流水線各段的執(zhí)行時間不相等的效率 i=1i12k=1ntEkt(n1) maxt t t kiki、 、15；.四、吞吐率、加速比和效率之間的關系四、吞吐率、加速比和效率之間的關系E=TPtTP=E/ tE=S/kS = kE 說明流水線的效率是流水線實際加速比S與它的最大加速比Smax=k之比。只有當流水線的效率達到其最大值，即E=1時，才能使實際加速比達到最大，即S=k。 各段的執(zhí)行時間不相等時，即流水線中存在“瓶頸”流水段，那么，除了瓶頸流水段一直處于忙碌狀態(tài)之外，其他各個流水段都有空閑時間，這些流水段的效率沒有得到充分發(fā)揮。因此，整個流水線的吞吐率、加速比和效率也比較低。采用兩種提高流水線吞吐率的方法，由于能夠使流水線中的各個流水段始終處于忙碌狀態(tài)，沒有空閑時間。因此，流水線的吞吐率、加速比和效率也就顯著提高了。 16；.五、流水線最佳段數(shù)的選擇五、流水線最佳段數(shù)的選擇假設在非流水線的機器上采用順序執(zhí)行方式完成一個任務所需要的時間為t，那么，在同等速度的有k段流水線的機器上執(zhí)行一個任務需要的時間為：t/k+d，其中d為鎖存器的延遲時間。流水線的最大吞吐率為：TP=1/(t/k+d)。