并行計算 (2)ppt課件

1、并行計算、集群與網(wǎng)格技術(shù)在虛擬天文臺中應(yīng)用探討天津大學(xué)IBM中心 于策2004-121;.2內(nèi)容大綱n并行計算技術(shù)n集群及相關(guān)技術(shù)n網(wǎng)格計算3如何滿足不斷增長的計算力需求？n用速度更快的硬件，也就是減少每一條指令所需時間n優(yōu)化算法（或者優(yōu)化編譯）n用多個處理機用多個處理機(器器)同時解決一個問題同時解決一個問題q并行計算并行計算4串行計算與并行計算5并行的層次n程序級并行n子程序級并行n語句級并行n操作級并行n微操作級并行并行粒度粗細6共享內(nèi)存與分布式內(nèi)存P=處理器M=內(nèi)存S=網(wǎng)絡(luò)交換設(shè)備PMPPMPMS7局部共享內(nèi)存SPMPPMPNodeNode8實現(xiàn)并行計算的常見方法n1、多線程程序n2、

2、基于OpenMP的并行程序n3、基于消息傳遞的并行程序qPVMqMPI9XPVM10XPVM11并行計算環(huán)境簡介nPVP（Parallel Vector Processor）q使用專用向量處理器q銀河I，CrayT90，NEC的地球模擬器。nSMP（Symmetric Multiprocessor）q同一主板上多個處理器可以等同訪問共享存儲器、I/O設(shè)備和操作系統(tǒng)服務(wù)qIBM RS6000。nClusterq由很多連接在一起的獨立計算機組成，像一個單獨的集成的計算機一樣協(xié)同工作q集群的節(jié)點可以是SMP（或者PVP）qCluster1350，藍色基因。12在虛擬天文臺中的應(yīng)用情形n處理實時性要求

3、很高的大量觀測數(shù)據(jù)n觀測數(shù)據(jù)的并行可視化處理n并行數(shù)據(jù)挖掘n并行數(shù)據(jù)服務(wù)提供n。13集群技術(shù)n集群概念最早由IBM于20世紀60年代提出n集群一般由高速網(wǎng)絡(luò)連接起來的高性能工作站或PC機組成。集群在工作中像一個統(tǒng)一的整合資源，所有節(jié)點使用單一界面。14集群 Not a Cluster Cluster15集群計算系統(tǒng)體系結(jié)構(gòu)16集群相關(guān)技術(shù)n網(wǎng)絡(luò)層q網(wǎng)絡(luò)互聯(lián)結(jié)構(gòu)、通信協(xié)議、信號技術(shù)等。 n節(jié)點機及操作系統(tǒng)層q高性能PC或工作站、分層或基于微內(nèi)核的操作系統(tǒng)等。 n集群系統(tǒng)管理層q資源管理、資源調(diào)度、負載平衡、并行I/O、安全等。 n應(yīng)用層q并行程序開發(fā)環(huán)境、串行應(yīng)用、并行應(yīng)用等。17Cluster

4、1350nCluster1350是IBM公司目標定位于高性能計算市場的Linux集群，包括一套完整的解決方案，集成了眾多IBM與非IBM的先進的軟硬件技術(shù)，有其特有的技術(shù)優(yōu)勢與強大的服務(wù)支持。18Cluster1350邏輯結(jié)構(gòu)19Cluster1350節(jié)點硬件、網(wǎng)絡(luò)和操作系統(tǒng)(天津大學(xué)IBM中心）n管理節(jié)點qIBM eServer xSeries 345 (1)n計算節(jié)點qIBM eServer xSeries 335 (16)n網(wǎng)絡(luò)q千兆以太網(wǎng)n操作系統(tǒng)qRed Hat Linux 7.320CSM（Cluster System Management）nCSM是IBM公司開發(fā)，專門用于集群系

5、統(tǒng)管理的中間件，在Cluster1350解決方案集成。qCSM的設(shè)計思想與體系結(jié)構(gòu)來自PSSP (IBM Parallel System Support Programs for AIX)與其它一些開源的集群管理軟件。還有一些中間件及技術(shù)，雖然不直接為用戶服務(wù)，但構(gòu)成了CSM的不可或缺的基礎(chǔ)，包括RMC、SRC、RSCT等。21CSM22Cluster1350系統(tǒng)管理n整個集群由單一結(jié)點控制q所有結(jié)點的n開機、關(guān)機、狀態(tài)查詢n顯示遠程控制臺n安裝操作系統(tǒng)n升級(安裝)各結(jié)點系統(tǒng)及應(yīng)用軟件n。q一個完整的集群只需一套外置輸入/輸出設(shè)備(鍵盤、鼠標、顯示器)23Linux 集群上可用的任務(wù)調(diào)度系統(tǒng)

6、nMosix（Multicomputer Operating System for UnIX ）q可以自動完成節(jié)點間進程遷移q需要重新編譯Linux內(nèi)核q對用戶來說是透明的nPBS（Portable Batch System）q由NASA的Ames研究中心開發(fā) q為了達到集群系統(tǒng)整體上的負載平衡，對各個節(jié)點上的任務(wù)進行調(diào)度，但不進行節(jié)點間任務(wù)遷移q不需要重新編譯內(nèi)核24集群上的應(yīng)用程序（計算）開發(fā)n適于開發(fā)基于消息傳遞的并行應(yīng)用程序q可以使用PVM/MPIn步驟：q配置并行計算的編譯與運行環(huán)境n主要是rsh/sshq設(shè)計、編寫、編譯程序n使用PVM/MPI提供的程序庫及編譯環(huán)境q部署應(yīng)用程序n

7、ftp、rcp、scp、CSM、NFS、GPFS等方式q運行程序25配置高可用集群n最大程度地減少服務(wù)中斷，而不是容錯。qHearbeatqLVS（Linux Virtual Sever）qIBM 的 Tivoli 和 WebSphere 系列軟件q26Heartbeat 集群27LVS集群28集群在虛擬天文臺中的角色n高性能計算q構(gòu)成虛擬天文臺網(wǎng)格環(huán)境中強有力的計算資源n高可用服務(wù)q在網(wǎng)格環(huán)境中提供穩(wěn)定、可靠的數(shù)據(jù)、計算、調(diào)度等服務(wù)29網(wǎng)格計算 “Resource sharing & coordinated problem solving in dynamic, multi-inst

8、itutional virtual organizations”30On Demand31理想的網(wǎng)格32理想的網(wǎng)格Storage ElementComputingElementWorker NodeUser InterfaceReplica Catalog+Replica ManagerResource Broker+Information IndexCertification AuthorityUser InterfaceTESTBED SITE 1TESTBED SITE 2Job Status:Front EndCertificate ServerTESTBED SITE 3Storag

9、e ElementComputingElementWorker NodeUser InterfaceReplica Catalog+Replica ManagerResource Broker+Information IndexCertification AuthorityUser InterfaceTESTBED SITE 1TESTBED SITE 2Job Status:Front EndCertificate ServerTESTBED SITE 3Storage ElementComputingElementWorker NodeUser InterfaceReplica Catal

10、og+Replica ManagerResource Broker+Information IndexCertification AuthorityUser InterfaceTESTBED SITE 1TESTBED SITE 2Job Status:Front EndCertificate ServerTESTBED SITE 3Storage ElementComputingElementWorker NodeUser InterfaceReplica Catalog+Replica ManagerResource Broker+Information IndexCertificatio

11、n AuthorityUser InterfaceTESTBED SITE 1TESTBED SITE 2Job Status:Front EndCertificate ServerTESTBED SITE 3Storage ElementComputingElementWorker NodeUser InterfaceReplica Catalog+Replica ManagerResource Broker+Information IndexCertification AuthorityUser InterfaceTESTBED SITE 1TESTBED SITE 2Job Status:Front EndCertificate ServerTESTBED SITE 338網(wǎng)格計算環(huán)境示例GridWANClusterGridSMPGridSMPGridClusterUI/APIGridLANGridSMP