基于多核的程序優(yōu)化技術(shù)研究報(bào)告

基于多核的程序優(yōu)化技術(shù)

多核架構(gòu)及編程技術(shù)內(nèi)容1、編譯回顧2、基于多核的程序優(yōu)化技術(shù)編譯回顧什么是編譯？用高級語言編制的程序，計(jì)算機(jī)不能立即執(zhí)行，必須通過一個“翻譯程序”加工，轉(zhuǎn)化為與其等價(jià)的機(jī)器語言程序，機(jī)器才能執(zhí)行。編譯過程是指將高級語言程序翻譯為等價(jià)的目標(biāo)程序的過程。編譯的作用？源程序編譯程序源程序的中間形式輸入數(shù)據(jù)解釋程序輸出數(shù)據(jù)詞法分析語法分析語義分析、生成中間代碼代碼優(yōu)化生成目標(biāo)程序編譯過程的5個基本階段：編譯過程是指將高級語言程序翻譯為等價(jià)的目標(biāo)程序的過程。優(yōu)化的分類從優(yōu)化的層次，與機(jī)器是否有關(guān)：獨(dú)立于機(jī)器的優(yōu)化與目標(biāo)機(jī)無關(guān)的優(yōu)化，通常是在中間代碼上進(jìn)行的優(yōu)化。與機(jī)器有關(guān)的優(yōu)化：充分利用系統(tǒng)資源（指令系統(tǒng)，寄存器資源）。從優(yōu)化涉及的范圍，可以分為：局部優(yōu)化：是指在基本塊內(nèi)進(jìn)行的優(yōu)化。循環(huán)優(yōu)化：對循環(huán)語句所生成的中間代碼序列上所進(jìn)行的優(yōu)化。 全局優(yōu)化：跨越多個基本塊的全局范圍內(nèi)的優(yōu)化。并行編譯基礎(chǔ)并行編譯系統(tǒng)：就是能夠處理并行程序設(shè)計(jì)語言，能夠?qū)崿F(xiàn)串行程序并行化，具有并行優(yōu)化能力的編譯系統(tǒng)。并行編譯技術(shù)的主要內(nèi)容：串行程序的向量化和并行化。向量化：將串行程序中可向量化部分改寫成用向量運(yùn)算表示的等價(jià)程序；其編譯技術(shù)已趨成熟并行化：將串行程序中可并行化部分改寫成在多處理機(jī)上并行執(zhí)行的等價(jià)程序；難度大，涉及數(shù)據(jù)的私有化、分布和通信，以及并行任務(wù)劃分等問題。借助于OpenMP?；诙嗪说某绦騼?yōu)化技術(shù)并行編程模型并行語言并行編譯器并行語言運(yùn)行時可伸縮的執(zhí)行環(huán)境多核處理器。多核軟件棧普遍并行編程多核編程和編譯是一重大挑戰(zhàn)：一般的程序員經(jīng)常需要為多核處理器編程，即使對專家來說，并行編程也是一件難事。如何使并行編程變得容易?并發(fā)控制并行化。并發(fā)控制通常會使用鎖。——鎖不可取。鎖存在根本性的問題:容易出錯：忽略關(guān)鍵鎖、死鎖、有限級倒置、護(hù)送問題。難以優(yōu)化性能：粗粒度鎖會妨礙并行，細(xì)粒鎖會導(dǎo)致高開銷。鎖的程序/庫線程不能隨意構(gòu)成。事務(wù)型內(nèi)存：基本的原子結(jié)構(gòu):HPCS語言(Fortress、X10、chapel)提供原子結(jié)構(gòu)以取代鎖。多線程的兩種方法本地線程（NativeThreading）OpenMP線程優(yōu)化關(guān)鍵選擇關(guān)鍵的代碼(費(fèi)時間的代碼)進(jìn)行多線程設(shè)計(jì)。如果不能確定程序的主要計(jì)算部分(?)借助于Intel?VTune?Analyzers來進(jìn)行程序分析。一些要點(diǎn)建議使用IntelC++編譯器進(jìn)行編譯程序。使用Intel?MathKernelLibrary(IntelMKL)

IntelMKL函數(shù)庫中提供了VML函數(shù),這些函數(shù)可以對超越函數(shù)(sin,cos,exp,log等)進(jìn)行優(yōu)化。提高程序性能?，F(xiàn)在串行上要調(diào)試通過，然后再進(jìn)行多核多線程的編程工作。多線程后，用Intel線程監(jiān)測器進(jìn)行查找線程錯誤：資源競爭、線程死鎖等問題。用IntelThreadProfiler工具開定位程序中負(fù)載不失衡或開銷過大的問題。首先用OpenMP進(jìn)行并行編程。前面講過，這里不再詳細(xì)描述。VTune?PerformanceAnalyzer6.0優(yōu)化過程－IntelVTuneTM的使用有助于：找到算法的瓶頸由數(shù)據(jù)規(guī)劃引起的瓶頸應(yīng)用結(jié)構(gòu)的瓶頸系統(tǒng)級以及硬件的瓶頸術(shù)語－熱點(diǎn)(hotspot)hotspot是你的代碼花費(fèi)很長時間執(zhí)行的區(qū)域。通過定位hotspot，VTune性能分析工具可以幫助你分析應(yīng)用程序的性能。但是簡單的知道hotspot的位置是不夠的，你必須知道什么導(dǎo)致hotspot的產(chǎn)生，怎樣改進(jìn)通過對熱區(qū)的進(jìn)一步分析，你可以跟蹤關(guān)鍵的函數(shù)調(diào)用，監(jiān)控特殊的處理器事件，如cachemissHotspot與Bottleneck的區(qū)別Bottleneck是系統(tǒng)中性能受到約束的位置VTune?PerformanceAnalyzer幫助你找到并刪除Bottlenecks.找到軟件Hotspots是一個分析方法，幫助你定位Bottlenecks.性能優(yōu)化方法有三種數(shù)據(jù)收集器Sampling取樣callgraph調(diào)用曲線圖countermonitor計(jì)數(shù)器監(jiān)控器兩種跟蹤位置的方法Problem:

我需要知道你在哪花費(fèi)了多長時間StatisticalSolution:我每30分鐘呼叫你InstrumentationSolution:

每個地方有一個特殊的電話點(diǎn)，你每到一個地點(diǎn)向我報(bào)告第一種方法：我固定時間間隔給你電話優(yōu)點(diǎn):低開銷:沒有太多的中斷沒有建站點(diǎn)的開銷無論你在那里都能精確定位缺點(diǎn):如果你的雙手拿滿東西，我必須等待你可能第一次沒有聽到鈴聲，所以我不能精確確定我呼叫你時，你在那里由于你不經(jīng)常去有一些地方，我可能根本不知道你去過第二種方法：

當(dāng)你到了，你打電話給我。優(yōu)點(diǎn):你到達(dá)新的地方我能立刻知道我知道你在一個地方呆了多長時間我知道你到達(dá)同一個地方多少次缺點(diǎn):不知道你在街道內(nèi)做了什么粒度：站點(diǎn)浪費(fèi)了大量時間打電話建立站點(diǎn)擴(kuò)大了街道空間如何識別熱點(diǎn)？SamplingDataCollector–TheStatisticalSolution描述執(zhí)行的一個側(cè)面（柱狀圖）低開銷CallGraphDataCollector–TheInstrumentationSolution函數(shù)的時間信息函數(shù)調(diào)用者和被調(diào)用者的關(guān)系比sampling的開銷高三種性能監(jiān)控方式的比較VTune?Projects（項(xiàng)目）什么是Project

?

Project由一個或多個Activities組成什么是Activity?包含你應(yīng)用程序的信息和希望運(yùn)行的數(shù)據(jù)收集器信息。項(xiàng)目的組織如下MyCoolProject1

Activity1(CallGraph) CallGraphResults-3Apr,2007,3:30PM CallGraphResults-4Apr,2007,3:30PM

Activity2(CounterMonitor) CounterMonitorResults-3Apr,2007,4:30PM

Activity3(Sampling) SamplingResults-5Apr,2007,8:30AM Runo Clockticks InstructionsRetired Run1 MispredictedBranchesRetired取樣打斷處理器的執(zhí)行，獲得執(zhí)行上下文中斷可以是周期性的,如每秒1,000次采樣采樣的觸發(fā)EventBasedSampling(EBS).采樣事件：處理器相關(guān)事件，如L2CacheMisses,BranchMispredictions,Floating-pointinstructionsretired,etc.舉例：gzip采樣分析介紹EBS與Sampling用戶界面gzip是一個開放源壓縮程序文件選擇一個新的項(xiàng)目選擇“SamplingWizard”，點(diǎn)擊OK選擇Win32*/Win64*/Linux*Profiling選擇按鈕，然后確定記住：每個活動都有自己的應(yīng)用/模塊輪廓（profile）打開應(yīng)用程序:gzip.exe命令行選項(xiàng):-ftestfile.dat選中Modifydefaultc