多核處理器體系結(jié)構(gòu)及并行程序設(shè)計

多核處理器體系結(jié)構(gòu)及并行程序設(shè)計天津大學(xué)于策yuce_air@1編輯課件Outline多核處理器簡介并行程序設(shè)計方法學(xué)（PCAM）科研及技術(shù)（天津大學(xué)SRDC及IBM技術(shù)中心）2編輯課件Outline多核處理器簡介并行程序設(shè)計方法學(xué)（PCAM）科研及技術(shù)（天津大學(xué)SRDC及IBM技術(shù)中心）3編輯課件什么是多核處理器？兩個或多個獨立運行的內(nèi)核集成于同一個處理器上面雙核處理器=一個處理器上包含2個內(nèi)核多核處理器=一個處理器上包含2個或多個內(nèi)核Core0Core1FrontSideBus4編輯課件為什么要采用多核技術(shù)？5編輯課件最終目標:提升用戶的體驗?zāi)柖伞粩喟l(fā)展和改進處理器的性能最大限度地利用越來越多的晶體管實現(xiàn)最優(yōu)的價值縮減處理時間，提高計算能力開發(fā)平臺的新特性和新功能6編輯課件通過并行方式改進處理器的性能2005+Dual-andMulti-core2-waySMPsystem4Cores>4Threads2001Hyper-Threading2-waySMPsystem2Cores4Threads1995Multi-processing2-waySMPsystem2Cores2Threads7編輯課件多核技術(shù)的發(fā)展CacheExecutionStateStateBusCacheExecutionStateBusCacheExecutionStateBusCacheExecutionStateBusCacheExecutionStateBusPentium4withHTDualXeonProcessorsDualCore2Threads1Package2Threads2Packages2Threads1PackageTwoindependentexecutioncoresinthesameprocessor8編輯課件幾種不同的技術(shù)HT–HyperThreading:

2threadsrunningonthesameprocessorcore處理器上的某些資源會被共享使用相同的緩存和運算器DC–DualCore:

2executioncoresinthesameprocessorpackage共享系統(tǒng)總線與雙處理器的性能相同DP/MP–Dual/Multi-Processing:

2ormoreprocessorsinthesamesystem只共享系統(tǒng)總線，獨立緩存高性能，資源沖突少9編輯課件雙核技術(shù)VS.超線程技術(shù)雙核是真正意義上的雙處理器不會發(fā)生資源沖突每個線程擁有自己的緩存、寄存器和運算器一個3.2GHzSmithfiled在性能上并非等同于3.2GHzP4withHT的2倍HT使處理器的性能至少提升了1/3雙核的性能相當于2塊non-HT處理器雙核技術(shù)與HT技術(shù)在性能上的對比Ex1:兩個floatingpoint線程(Smithfieldclient)每個線程擁有自己的FPU,沒有資源沖突盡管性能上沒有提升太多，但仍然優(yōu)于HTEx2:一個integer線程與一個floatingpoint線程性能大幅度提升沒有資源沖突10編輯課件Singlecore,WithHT(Eg.Pentium4ProcessorWithHT)IntegerandFloatingPointThreadsL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPoint2threadscanbeexecutedatthesametime(perprocessor)ifthey’renotcompetingforthesameexecutionresource11編輯課件Singlecore,WithHT(Eg.Pentium4ProcessorwithHT)TwoFloatingPointThreadsL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPoint2threadsCANNOTbeexecutedatthesametime(perprocessor)ifthey’recompetingforthesameexecutionresource(eg.2floatingpointthreadsinaP4Parchitecture)12編輯課件Dualcore,WithoutHT(Eg.PentiumDProcessor)TwoFloatingPointThreadsL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPointL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPointEven2floatingpointthreadscanbeexecutedatthesametimenow(perprocessor)astherearemultiplefloatingpointexecutionunits13編輯課件Dualcore,WithHT(Eg.DualCorePentiumProcessorExtremeEdition)SupportsHTMultipleIntegerandFloatingPointThreadsL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPointL2CacheandControlL2CacheandControlL1D-CacheandD-TLBSchedulersIntegerTraceCacheRename/AllocuopQueuesBTBuCodeROM33DecoderBTB&I-TLBFloatingPointWithdualcore&HTtogether,maximum#ofthreadsthatcanbeexecutedatatimeis4perprocessor14編輯課件多核技術(shù)與超線程技術(shù)的結(jié)合產(chǎn)量…多功能…功效Core0Core1FrontSideBusDualCorewithHyper-Threading4threads/socket

Core0Core1FrontSideBusDualCore2threads/socket

15編輯課件AMD與Intel雙核架構(gòu)的對比AMDOpteron雙核架構(gòu)示意圖

Intel奔騰至尊版雙核架構(gòu)示意圖

16編輯課件多核面臨的困難如何計算軟件授權(quán)？按CPU個數(shù)收取軟件授權(quán)費用按芯片個數(shù)收取軟件授權(quán)費用應(yīng)用軟件是否支持？如果應(yīng)用程序是基于多處理器編寫的如果應(yīng)用程序是基于單處理器編寫的雙核發(fā)熱大，散熱是難題17編輯課件DualCore、SMP、Cluster

體系結(jié)構(gòu)特性SMP（對稱多處理機）Cluster（集群）DualCore處理器單一主機，多個處理器多臺主機，有各自的處理器（一或多）單一主機，單一處理器，多個核心操作系統(tǒng)單一多個單一主要并行計算方式多進程，內(nèi)存共享多進程，基于消息傳遞多線程18編輯課件Outline多核處理器簡介并行程序設(shè)計方法學(xué)（PCAM）科研及技術(shù)（天津大學(xué)SRDC及IBM技術(shù)中心）19編輯課件PCAM設(shè)計方法學(xué)劃分(Partitioning)通訊(Communication)組合(Agglomeration)映射(Mapping)20編輯課件PCAM設(shè)計方法學(xué)設(shè)計并行算法的四個階段劃分(Partitioning)通訊(Communication)組合(Agglomeration)映射(Mapping)劃分：分解成小的任務(wù)，開拓并發(fā)性；通訊：確定諸任務(wù)間的數(shù)據(jù)交換，監(jiān)測劃分的合理性；組合：依據(jù)任務(wù)的局部性，組合成更大的任務(wù)；映射：將每個任務(wù)分配到處理器上，提高算法的性能。21編輯課件PCAM設(shè)計過程22編輯課件域分解劃分的對象是數(shù)據(jù)，可以是算法的輸入數(shù)據(jù)、中間處理數(shù)據(jù)和輸出數(shù)據(jù)；將數(shù)據(jù)分解成大致相等的小數(shù)據(jù)片；劃分時考慮數(shù)據(jù)上的相應(yīng)操作；如果一個任務(wù)需要別的任務(wù)中的數(shù)據(jù)，則會產(chǎn)生任務(wù)間的通訊；23編輯課件域分解示例：三維網(wǎng)格的域分解，各格點上計算都是重復(fù)的。下圖是三種分解方法：24編輯課件功能分解劃分的對象是計算，將計算劃分為不同的任務(wù)，其出發(fā)點不同于域分解；劃分后，研究不同任務(wù)所需的數(shù)據(jù)。如果這些數(shù)據(jù)不相交的，則劃分是成功的；如果數(shù)據(jù)有相當?shù)闹丿B，意味著要重新進行域分解和功能分解；功能分解是一種更深層次的分解。25編輯課件劃分判據(jù)劃分是否具有靈活性？劃分是否避免了冗余計算和存儲？劃分任務(wù)尺寸是否大致相當？任務(wù)數(shù)與問題尺寸是否成比例？功能分解是一種更深層次的分解，是否合理？26編輯課件通訊通訊是PCAM設(shè)計過程的重要階段；劃分產(chǎn)生的諸任務(wù)，一般不能完全獨立執(zhí)行，需要在任務(wù)間進行數(shù)據(jù)交流；從而產(chǎn)生了通訊；功能分解確定了諸任務(wù)之間的數(shù)據(jù)流；諸任務(wù)是并發(fā)執(zhí)行的，通訊則限制了這種并發(fā)性；27編輯課件通訊判據(jù)所有任務(wù)是否執(zhí)行大致相當?shù)耐ㄓ?是否盡可能的局部通訊？通訊操作是否能并行執(zhí)行?同步任務(wù)的計算能否并行執(zhí)行？28編輯課件組合組合是由抽象到具體的過程，是將組合的任務(wù)能在一類并行機上有效的執(zhí)行；合并小尺寸任務(wù)，減少任務(wù)數(shù)。如果任務(wù)數(shù)恰好等于處理器數(shù)，則也完成了映射過程；通過增加任務(wù)的粒度和重復(fù)計算，可以減少通訊成本；保持映射和擴展的靈活性，降低軟件工程成本；29編輯課件組合判據(jù)增加粒度是否減少了通訊成本？重復(fù)計算是否已權(quán)衡了其得益？是否保持了靈活性和可擴放性？組合的任務(wù)數(shù)是否與問題尺寸成比例?是否保持了類似的計算和通訊？有沒有減少并行執(zhí)行的機會？30編輯課件映射每個任務(wù)要映射到具體的處理器，定位到運行機器上；任務(wù)數(shù)大于處理器數(shù)時，存在負載平衡和任務(wù)調(diào)度問題；映射的目標：減少算法的執(zhí)行時間并發(fā)的任務(wù)不同的處理器任務(wù)之間存在高通訊的同一處理器映射實際是一種權(quán)衡，屬于NP完全問題31編輯課件映射判據(jù)采用集中式負載平衡方案，是否存在通訊瓶頸？采用動態(tài)負載平衡方案，調(diào)度策略的成本如何？32編輯課件Outline多核處理器簡介并行程序設(shè)計方法學(xué)（PCAM）科研及技術(shù)（天津大學(xué)SRDC及IBM技術(shù)中心）33編輯課件技術(shù)力量天津大學(xué)IBM新技術(shù)中心（）共享大學(xué)研究（SUR）軟件技術(shù)培訓(xùn)Lotu