1cpuarchreview了解現(xiàn)代CPU架構(gòu)和性能優(yōu)化

斌@NVIDIA&USTC2014年3看圖本節(jié)課了解現(xiàn)代CPU流水分支預(yù)量亂序執(zhí)器層多核處

MemoryHierarchy什么是完成基本的邏輯和算術(shù)指現(xiàn)在增加了復(fù)雜功內(nèi)存接外部設(shè)備接非常多（上億指舉例算術(shù)：addr3,r4r4訪存：load[r4]->r7控制：jzend對(duì)于一個(gè)編譯好的程序，最優(yōu)化目標(biāo) seconds CPI每條指令的時(shí)鐘&鐘周期5桌面應(yīng)用Desktop大量 真正用于數(shù)值運(yùn)算的指令分支Conditional訪存Memory矢量運(yùn)算VectoronSource: 7摩爾定律Moore’s “Thecomplexityforoftwoperyear”這些晶體管都干什么 Source: 簡(jiǎn)單的CPU結(jié)構(gòu)指寄存s1d數(shù)控制邏Image:Penn 簡(jiǎn)單的s1dD$取指Image:Penn 流水線s1d Image:Penn –增加一些延遲 SXSXsubaddBOBAaOD Image:Penn SXSXloadaddBOBAaOD SXSXnop BOBAaOD jeq

分支預(yù)測(cè)Branch基于過(guò)去的分支記舉例Maintainhistorytableofall 讓很多人絞盡腦汁的工作，培養(yǎng)了無(wú)數(shù)博分支預(yù)測(cè)Branch提升性能及能量效Area面積增可能會(huì)增加延分支斷Anotheroption;if(r1==0)cmoveqr1,r2->+不使用分支預(yù)測(cè)器提升–Image:Penn 量+峰值IPC為N(N 量分支和調(diào)度會(huì)產(chǎn)生開(kāi)需要一些技巧 近峰增加了面AreaN倍資源使旁路網(wǎng)絡(luò)N2需 的寄存器 器帶Sandy 指令調(diào)度考慮如下指---addir3,1->subandaddi互相依賴(RAW)xorandsub不依賴(Write-After-WriteWAW)寄存器重命Register---addip8,1->xorandsub可以并行執(zhí)亂序執(zhí)行Out-of-Order(OoO)重排緩沖區(qū)ReorderBuffer記錄所有執(zhí)行中的指令狀選擇下一條執(zhí)行的指OoOSandy亂序執(zhí)+IPC ARMCortex-A8(AppleA4,TIOMAPm m器架構(gòu)/層次Memory器越大越粗略的估延帶大SRAM(L1,L2,DRAMFlashHDDSRAM&DRAMlatency,andDRAMbandwidthforSandyBridgefromLostcircuitsFlashandHDDlatenciesfromAnandTechFlashandHDDbandwidthfromAnandTechSRAMbandwidth緩存將數(shù)據(jù)放在盡可能接近的位利用時(shí) 剛剛使用過(guò)的數(shù)據(jù)很可能會(huì)被再使空 傾向于使用周圍 的數(shù)MainMain量度 量度(notto Source: 分區(qū)避免多端一致性控制器Memory多個(gè)通道，增加帶CPU內(nèi)部的并行量亂序執(zhí)行Out-of-矢量計(jì)算向量運(yùn)Vectorsfor(inti=0;i<N;i++)A[i]=B[i]+C[i];數(shù)據(jù)級(jí)并Data-level執(zhí)行單(ALU)很寄存器也很for(inti=0;i<N;i+=4)inparallel并行同時(shí)計(jì)A[i]=B[i]+=+=+}=+x86的向量運(yùn)4寬度浮點(diǎn)或整數(shù)指 AMDAthlon64AVX8寬度浮點(diǎn)或整數(shù)指 AMD線程級(jí)并Thread-Level線程組程序員可以創(chuàng)建和銷程序員或者OS多核將流水線完+完整的核，除了最后一級(jí)緩存外，不共享其他資+繼續(xù)保持摩爾定多核程序和利用率問(wèn)andConsistency問(wèn)題:多線程讀寫(xiě)同一塊數(shù)解決方法:加問(wèn)題:誰(shuí)的數(shù)據(jù)是正確的解決方法緩存一致性協(xié)議問(wèn)題:什么樣的數(shù)據(jù)是正確的 新時(shí)代的計(jì)算技術(shù):并行計(jì)常規(guī)傳統(tǒng)單核處理器遇到物理約免費(fèi)的午餐 新摩爾定單核的