云計(jì)算中的HPC高性能計(jì)算

1、背景：O云計(jì)算的優(yōu)勢(shì)共享的計(jì)算設(shè)備多租戶的使用模型可高度適配的資源分配O按需定 制的HPC環(huán)境開(kāi)始流行挑戰(zhàn)O虛擬化的開(kāi)銷(xiāo)CPU,內(nèi)存，驅(qū)動(dòng)等O通信網(wǎng)絡(luò)的區(qū)別萬(wàn)兆以太網(wǎng)vs. InfinibandO并行IO的配置選項(xiàng)設(shè)備，文件系統(tǒng)和IO庫(kù)的選擇CCI: Amazon的HPC解決方案?jìng)鹘y(tǒng)云計(jì)算平臺(tái)(EC2)集群云計(jì)算平臺(tái)(CCI)成千上萬(wàn)的服務(wù)器，分布在全球大約1000臺(tái)左右集中部署的服務(wù)器低端的，共享的處理器高端的計(jì)算用處理器千兆以太網(wǎng)，網(wǎng)絡(luò)競(jìng)爭(zhēng)嚴(yán)重非阻塞的萬(wàn)兆以太網(wǎng)每個(gè)服務(wù)器多個(gè)虛擬機(jī)每個(gè)服務(wù)器一個(gè)虛擬機(jī)類(lèi)虛擬化硬件虛擬化任意的虛擬機(jī)放置策略放置組每個(gè)虛擬機(jī)實(shí)例每小時(shí)$0.085-$2.40每

2、個(gè)虛擬機(jī)實(shí)例每小時(shí)$1.60虛擬化對(duì)HPC的影響O 虛擬設(shè)備和物理設(shè)備有巨大的性能差別O虛擬機(jī)并沒(méi)有引入很大的開(kāi)銷(xiāo)對(duì)于直接分配給客戶機(jī)的千兆網(wǎng)卡結(jié)論如此，我們正在研究萬(wàn)兆網(wǎng)卡和IB 網(wǎng)卡的性能結(jié)果 性能評(píng)價(jià)結(jié)論O 本地集群在通信上有巨大優(yōu)勢(shì)O對(duì)于CPU和內(nèi)存密集型程序，CCI的性能和本地集群相似O究竟使用云還是本地集群，需要研究二者的性價(jià)比I/O系統(tǒng)的可配置性：背景O I/O是很多高性能應(yīng)用程序的性能瓶頸應(yīng)用程序的讀寫(xiě)密集和并發(fā)度差別較大傳統(tǒng)高性能平臺(tái)只提供通用的、統(tǒng)一的I/O系統(tǒng)O 一些高性能程序開(kāi)始考慮向云計(jì)算平臺(tái)遷移O云計(jì)算平臺(tái)可以帶來(lái)I/O系統(tǒng)的高可配性完全受控的虛擬機(jī)環(huán)境，自定義配置

3、成為可能彈性的資源申請(qǐng)和方便的部署方式可選多種存儲(chǔ)資源進(jìn)行搭配O I/O系統(tǒng)的可配置性在于可以在虛擬集群上選擇不同的文件系統(tǒng)可以利用多種底層存儲(chǔ)設(shè)備進(jìn)行組合可以充分調(diào)節(jié)文件系統(tǒng)參數(shù)，專(zhuān)門(mén)為特定的某一個(gè)高性能應(yīng)用程序進(jìn)行配置O I/O系統(tǒng)可配置性的挑戰(zhàn)最優(yōu)配置需要根據(jù)不同應(yīng)用程序進(jìn)行選擇需要平衡性能和總成本I/O系統(tǒng)的可配置性：文件系統(tǒng)O網(wǎng)絡(luò)文件系統(tǒng)(NFS)使用簡(jiǎn)單，只有POSIX系統(tǒng)調(diào)用接口對(duì)I/O需求較低的應(yīng)用程序已經(jīng)足夠存在單點(diǎn)瓶頸，擴(kuò)展性差O 并行文件系統(tǒng)(如PVFS)MPI-IO接口，對(duì)并行讀寫(xiě)支持良好可以使用更多的IO節(jié)點(diǎn)，擴(kuò)展性好I/O系統(tǒng)的可配置性：存儲(chǔ)設(shè)備、O單實(shí)例臨時(shí)存儲(chǔ)設(shè)

4、備(Ephemeral)塊設(shè)備，每節(jié)點(diǎn)2*800 GB,非持久化存儲(chǔ)O彈性塊設(shè)備(EBS)每個(gè)實(shí)例可掛載任意多塊，可跨實(shí)例掛載持久化，生命期與虛擬機(jī)實(shí)例無(wú)關(guān)O云端數(shù)據(jù)庫(kù)存儲(chǔ)服務(wù)(S3)鍵值存儲(chǔ)，面向數(shù)據(jù)庫(kù)和互聯(lián)網(wǎng)應(yīng)用I/O系統(tǒng)的可配置性：文件系統(tǒng)參數(shù)參數(shù)描述服務(wù)器端同步模式NFS可以在服務(wù)器端在異步模式下服務(wù)客戶端請(qǐng)求設(shè)備數(shù)目將多塊磁盤(pán)做成軟RAID0，提高讀寫(xiě)帶寬I/O服務(wù)器數(shù)目并行文件系統(tǒng)可以米用多個(gè)I/O服務(wù)器并行工作元數(shù)據(jù)服務(wù)器數(shù)目 元數(shù)據(jù)服務(wù)器數(shù)目可以調(diào)節(jié)，滿足海量小文件需求元數(shù)據(jù)服務(wù)器分布元數(shù)據(jù)服務(wù)器可以和I/O服務(wù)器復(fù)用，或獨(dú)立存放I/O服務(wù)器分布可以在I/O服務(wù)器上部署計(jì)算任務(wù)，提高利用率數(shù)據(jù)分布條帶化參數(shù)，數(shù)據(jù)塊大小等10. I/O系統(tǒng)的可配置性：結(jié)論O 針對(duì)不同的HPC應(yīng)用配置I/O系統(tǒng)很有必要 不同HPC應(yīng)用對(duì)I/O的需求不一樣性能和價(jià)格需要折中O I/O配置的挑戰(zhàn)應(yīng)用的I/O行為決定了系統(tǒng)參數(shù)的選擇領(lǐng)域?qū)＜覍?duì)文件系統(tǒng)知識(shí)缺乏，缺少經(jīng)驗(yàn)O自動(dòng)化的IO優(yōu)化配置是有實(shí)際意義的11.結(jié)論O高端處理器讓HPC的云計(jì)算變得更加現(xiàn)實(shí)虛擬化的低開(kāi)銷(xiāo)可以忍受對(duì)于計(jì)算密集型的HP