體系結(jié)構(gòu)第4章 第4講

第四章指令級并行主要內(nèi)容4.1 指令級并行的概念4.2 指令的動態(tài)調(diào)度4.3 控制相關(guān)的動態(tài)解決技術(shù)4.4 多指令流出技術(shù)4.3 控制相關(guān)的動態(tài)解決技術(shù)4.3.1 分支預(yù)測緩沖4.3.2 分支目標(biāo)緩沖動態(tài)分支預(yù)測動態(tài)分支預(yù)測的兩個理由n流出的處理器加速上限為n倍Amdahl定律提示：在較低CPI機(jī)器上，控制相關(guān)導(dǎo)致的空轉(zhuǎn)對機(jī)器性能影響大前面解決控制相關(guān)的靜態(tài)策略需要編譯器將一條或多條指令移動到流水線產(chǎn)生的分支延遲槽中關(guān)于分支預(yù)測策略的兩部分工作預(yù)測的分支是否成功執(zhí)行分支目標(biāo)指令分支預(yù)測的效率預(yù)測的準(zhǔn)確率分支的開銷預(yù)測正確的開銷預(yù)測錯誤的開銷分支預(yù)測緩沖(BPB):原理最簡單的分支預(yù)測策略分支預(yù)測緩沖是一個小的存儲器陣列每個單元只有1位，記錄最近一次分支是否成功的信息預(yù)測位為1則預(yù)測分支成功，并從目標(biāo)位置開始取指令單元由分支指令地址的低位索引進(jìn)行尋址BPB的預(yù)測位會被具有相同低位地址的分支設(shè)置BPB也被稱為BHP（branchhistorybuffer分支歷史緩沖）1位BPB狀態(tài)圖這種單位預(yù)測策略有大約80%左右的準(zhǔn)確率當(dāng)分支不成功時，單位預(yù)測會失敗兩次2位預(yù)測策略能夠改善這種情況2位BPB工作原理在2位預(yù)測策略中，一個預(yù)測必須錯誤兩次才會改變。對于一個4096條記錄的BPB，利用2位預(yù)測策略，用SPEC89測試，命中率為82%到99%準(zhǔn)確率最高的測試程序一般包含大量循環(huán)線性代碼一般準(zhǔn)確率最差2位BPB狀態(tài)轉(zhuǎn)換圖2位BPB另一種狀態(tài)轉(zhuǎn)換圖預(yù)測成功預(yù)測不成功預(yù)測不成功預(yù)測成功成功成功不成功成功不成功不成功不成功成功4096單元2位BPB的預(yù)測準(zhǔn)確率測試程序為SPEC89整數(shù)測試程序:平均11%gcc,espresso,eqntott,li浮點測試程序:平均4%nasa7,matrix300,tomcatv為什么?4096單元2位BPB:預(yù)測錯誤率n位BPB1位或2位BPB是n位BPB的特殊情況n位策略使用計數(shù)器，表示0~2n的值與2位策略類似，對于n位BPB，每次分支成功，計數(shù)器+1，反之則-1如果計數(shù)器值大于其最大值的一半，則做成功預(yù)測，反之則做失敗預(yù)測2位BPB:4Kvs.無窮多BPB實現(xiàn)BPB的實現(xiàn)方案實現(xiàn)一個小而特殊的“cache”，利用指令地址進(jìn)行索引，在IF流水段訪問?；蛘?，為指令cache中每一塊增加附加位，與指令一起取出若一個指令在ID段被譯碼為分支指令，且對應(yīng)的BPB標(biāo)志位預(yù)測其成功，則一旦PC已知，立刻從分支目標(biāo)位置開始取指或者，繼續(xù)順序取指分支目標(biāo)緩沖(BTB)另一個動態(tài)分支預(yù)測方法：分支目標(biāo)緩沖BranchTargetBuffer,BTB為了減小或消除流水線的分支開銷，我們需要在IF段結(jié)束前知道從哪個地址開始取下一條指令換句話說，我們在IF段就需要知道這條未譯碼的指令是否為分支指令，并且如果它是分支指令，要盡快知道NPC值應(yīng)當(dāng)為多少BTB實現(xiàn)分支目標(biāo)緩存BTB每個單元應(yīng)該包括分支指令的地址分支目標(biāo)的地址分支預(yù)測標(biāo)識取指階段，所有指令地址都與BTB中保存的分支指令的地址做比較，一旦相同，就認(rèn)為本指令是分支指令，并且分支成功它的目標(biāo)地址就是保存在緩沖區(qū)中的分支目標(biāo)地址取出后直接送入NPCBTB結(jié)構(gòu)BTB執(zhí)行過程BTBVs.BPB分支預(yù)測技術(shù)受限于預(yù)測精度，以及預(yù)測失效后產(chǎn)生的開銷根據(jù)不同程序特點以及緩沖區(qū)的大小，典型的BTB可以實現(xiàn)80%到95%的預(yù)測精度降低失效開銷技術(shù)：在一個時鐘周期內(nèi)同時取出不同分支路徑的指令會引入其他開銷，比如存儲系統(tǒng)的端口加倍降低失效開銷的唯一方法，比如AS/400PowerPC處理器分支預(yù)測局限性預(yù)測