同時多線程技術及應用

1、同時多線程技術及應用同步多線程技術分析同步多線程技術 (SMT) 的誕生研究人員一直在致力于提高程序的運行速度，擴大內存容量，提升處理器的工作頻率 , 提供 緩存等等 ?其中處理器的頻率提升是最直觀的， 但是其瓶頸和散熱量的問題也已非常明顯 . 多線程 和多核處理器成為另外一種提升性能的方式。 通過查閱資料， 我們發(fā)現如果要發(fā)揮多 核處理器的 優(yōu)勢，很多時候程序員需要修改已有的代碼(特別是那些卓越的大型程序 )，而處 理器內部的多線程是對指令的優(yōu)化，無需再次編程，這使得它更容易投入使用，這也許意味 著它比多核更容易給 開發(fā)人員提供幫助。同步多線程技術 (SMT) 正是這樣一種可以提高處理 器的

2、效率和性能體系結構 模型，其目的是在現有硬件條件下，通過提高計算能力來提高處理 器的性能。SMT 是對以前技術的改良，下面是幾個同步多線程技術出現之前的處理器技術： 多重啟動處理器 (M U Itip 1 eIssue Proce S s o rs) : 運用在超標量和 VLIW 上的多重啟動 處理 器，其目的是為了降低平均 CPI ,通過在一個周期內啟動多條指令， 充分利用處理器的 功能單元。 多線程處理器 ( Multi t h readedPr ocessor s ): 多線程處理器主要通過降低操作延遲 以提高處理 器的效率，比方說 cache 失效和需要長執(zhí)行周期的指令。一個多線程處理

3、器通 過分配給每個線 程獨立的 PC(p r ogram co u nte r ) 和存放器來保持線程間相互獨立的 狀態(tài)。由于每個處理器在 切換上下文時幾乎沒有延遲，所以每個周期可以啟動來自不同線程 的指令。由于存在別離的、獨 立的上下文和指令資源，多線程體系結構才能利用線程級并行性(TLP),從而提高處理器的效率？就如同多重啟動結構依賴于指令級并行性(ILP)樣，多線程處理器更依賴于線程級并行性(TLP).但是多線程處理器不能在同一個周期內啟動來自不同線程的指令。因此 , 當一個周期內，單線程無法找到足夠的指令級并行性，處理器資源就被浪費了。多處理器 Multiprocessors (CMP

4、 and SMP): 多處理器結構可能是一個包含了多處 理器核心 (AKA 芯片多處理器或者 CMP) 的包，也可能是在同一個計算機上的兩個或多個 物理處理器包 (AKA 對稱多處理器 SMP) 。多處理器結構通過允許線程同步執(zhí)行來提高 總體的性能 ?就如同多 線程處理器， 多處理器也要依賴于線程級并行性來提高性能但是多處 理器結構并沒有提高總體的 處理器資源利用率，因為在當前線程沒有足夠的并行性時，處理 器資源還是閑置了 .在這些處理器有缺陷的情況下 , 'simultaneous multi - t h r e ad i ng “的概念由一些 科研人員 提出。同步多線程技術(SMT

5、)的原理同步多線程技術試圖解決上面提到的幾種缺點。同步多線程技術通過兩種途徑來提高處理器的總體性能。1)同步多線程技術允許處理器在一個周期內執(zhí)行多個線程的指令而不需要切換上下文一因為，我們可以在這種模型中，同時利用線程級并行性 (TLP) 和指令級并行性 (ILP)o 我們可以 在任何一個 周期內，更有效地利用處理器的資源從而減少水平浪費 .In miaRiv:rsiruui o nsIrwium 小同時多線程技術及應用2 同時多線程技術不會由于不同的處于激活狀態(tài)的線程的結合而阻止指令的啟動。也就是說如果由于產生了高延遲的操作或資源沖突，而使得一個線程掛起，僅有一個線程處于激活狀態(tài)，那該線程就

6、可以使用所有可用的發(fā)射槽 .由于在這個線程中的指令沒有被阻塞，結 果垂直浪費就 消除了 .個基于同時多線程技術的處理器，每個周期都從所有線程中挑選指令，啟動并執(zhí)行更多的指令,這樣能夠更好的利用處理器資源口多重啟動處理器能夠在每個周期內執(zhí)行多條指令，當單個時鐘周期內指令級并行性很低時，這種處理器的效率是很低的。多線程和多處理器結構減少了由于長延遲操作和資源沖突而產生的限制，但是也增加了開銷經濟上的和規(guī)模上的開銷，還未必能夠十分有效的使用處理器資源.Multiple Lsuc(4 iosue slots) (2-thrc*c同時多線程技術融合了多線程處理器和超標量體系結構處理器技術，既具有超標量體

7、系 結構的每個時鐘周期執(zhí)行多條指令的性能，又具有硬件多線程處理器的同時能執(zhí)行多個程序線程的性能從而在一個時鐘周期內既能執(zhí)行來自同一線程的多個指令，也能執(zhí)行多條來自不同線程的指令。所以當某一線程指令級并行程度高時，處理器可以滿足它的要求。而當每個線程都是低指令級并行時，處理器可以從不同的線程中選擇指令來執(zhí)行，并且能夠在這些指令中動態(tài)地安排機器資源，使機器資源得到最有效的利用。同步多線程技術SMT的優(yōu)勢 指令級和線程級并行操作由于SMT有成功的支持指令級和線程級并行操作，所以SMT能夠更有效的利用資源，既 加大了吞吐量，也提高了速度。 低功耗多線程處理器由于它的高吞吐率這一原因，使得它在很多低功耗

8、和功率受限設備的設計和 應用中具有很大的吸引力。首先，它通過多線程提供了額外的并行性，使得處理器并不太依賴于大量的指令預測，因此，它在預測和從不提交指令上消耗很??；其次，當運行多線程時，由 于它較高而且更多的并行性，使得沒有被充分利用的資源的能耗也減少了。另外，多線程結構允許線程選擇機制和指令動態(tài)分配機制有更大的設計調整和權衡空間，以適應降低功耗的需求目標。在編譯器和操作系統(tǒng)設計時可以充分利用多線程結構的優(yōu)勢和對低功耗的支持對應用程序進行低功耗優(yōu)化和線程調度，以獲得通過軟件和體系結構相結合來隆低功耗的效果。同步多線程技術SMT的缺點在共拿資源使得SMT獲得性能提高的同時，它也存在著潛在的缺點。

9、由于它的同時多線程指令發(fā)射，SMT可能更強調了片內硬件的共享，這就有可能帶來沖突的增加和競爭現象。當多個線程或進程的操作集在共拿結構和分支預測表上發(fā)生沖突時，就會出現第一種現象；這種共拿結構的主要任務是“暫存線程的某些執(zhí)行狀態(tài)，包括存儲狀態(tài)、尋址變換、或分支歷史？隨著多個線程的執(zhí)行，沖突會降低硬件資源的有效性，由于操作系統(tǒng)要在多個線程之間進同時多線程技術及應用理器可能加劇共享資源的沖突，因而降低了局部性?最突出的可能就是對共拿 C ache 命中率的影響 ?當多個線程產生過分的資源競爭而不是沖突時, 就會引起第二種現象的出現 ? SMT 可能要比傳統(tǒng)的處理器經歷更多的競爭，因為，多 個線 程要競爭共拿功能部件，比方 cache 、端口等資源 ?現代的軟件很可能加劇這一問題 , 因為這些應 用程序并沒有為要在 SMT 上運行而設計 ?因此，軟件不可能有效地共拿資源， 甚至更壞的情況是 在 SMT 上引起劇烈的資源競爭；結論從處理器工業(yè)的今天的走