項目4 MPI—面向計算集群技術(shù)

1、項目四 MPI面向計算的集群技術(shù)項目內(nèi)容：4.1實訓(xùn)一 配置ssh實現(xiàn)節(jié)點間無密碼訪問4.2實訓(xùn)二 網(wǎng)絡(luò)文件系統(tǒng)NFS4.3實訓(xùn)三 mpich編譯安裝4.1實訓(xùn)一 配置ssh實現(xiàn)節(jié)點間無密碼訪問4.1.1實訓(xùn)內(nèi)容由于MPI并行程序需要在各節(jié)點間進(jìn)行信息傳遞，所以必須實現(xiàn)所有節(jié)點兩兩之間能無密碼訪問。節(jié)點間的無密碼訪問是通過配置ssh證書認(rèn)證來實現(xiàn)的。配置ssh是集群系統(tǒng)配置的常用操作，MPI、Hadoop等系統(tǒng)均需配置ssh。本實訓(xùn)要求配置ssh實現(xiàn)MPI節(jié)點間無密碼訪問。4.1.2實訓(xùn)目的1、了解非對稱加密算法；2、了解數(shù)字證書的作用；3、掌握ssh的使用；4、掌握ssh無密碼訪問配置。4.

2、1.3實訓(xùn)步驟本實訓(xùn)采用四個節(jié)點機組成集群進(jìn)行環(huán)境搭建，每個節(jié)點機上安裝Linux操作系統(tǒng)，本例子中Linux版本采用的是CentOS6.5（64位）。為每個節(jié)點機分配好IP地址，本節(jié)點機使用的IP地址分別為：11、12、13、14，對應(yīng)節(jié)點主機名為：node1、node2、node3、node4。步驟1：創(chuàng)建用戶，在四臺節(jié)點機分別創(chuàng)建用戶mpi，uid=600，設(shè)置mpi用戶無密碼相互訪問，密碼分別為mpi1111,mpi2222,mpi3333,mpi4444。操作命令如下：步驟2：生產(chǎn)證書，打

3、開node1節(jié)點機，以用戶mpi登錄。操作命令如下：或者以root登錄后使用命令su 切換到mpi用戶。操作命令如下：步驟3：使用ssh-keygen生成證書密鑰，證書密鑰有兩種算法：dsa和rsa。操作命令如下：執(zhí)行后，顯示如下信息，按回車就可以。操作信息如下：步驟4：使用ssh-copy-id分別拷貝證書公鑰到node1，node2，node3，node4節(jié)點機上。操作命令如下：第一次拷貝需要輸入“yes”；再輸入密碼后拷貝，下面是拷貝公鑰到節(jié)點機node1的提示信息。步驟5：分別使用ssh登錄node1、node2、node3、node4測試，測試ssh無密碼登錄node1和node2。

4、操作命令如下：步驟6：使用scp分別拷貝證書私鑰到node2，node3，node4節(jié)點機上，實現(xiàn)相互無密碼登錄。操作命令如下：步驟7：測試相互登錄，在node2節(jié)點機上測試ssh登錄node3節(jié)點機，第一次等需要輸入“yes”，其他測試相同。如下所示：第二次登錄不需要輸入“yes”。退出使用命令：exit 或 按 CTRL+D 或 logout 。至此，ssh無密碼相互登錄配置成功。4.2實訓(xùn)二 網(wǎng)絡(luò)文件系統(tǒng)NFS4.2.1實訓(xùn)內(nèi)容 由于MPICH的安裝目錄和用戶可執(zhí)行程序在并行計算時需要在所有節(jié)點存副本，而且目錄要相互對應(yīng)，每次一個節(jié)點一個節(jié)點地復(fù)制非常麻煩，采用NFS（Netword F

5、ile Systom，網(wǎng)絡(luò)文件系統(tǒng)）后可以實現(xiàn)所有節(jié)點內(nèi)容與主節(jié)點內(nèi)容同步更新，并自動實現(xiàn)目錄的對應(yīng)。NFS使得所有機器都能以同樣的路徑（假設(shè)為/home/mpi）訪問服務(wù)器上保存的文件，訪問方法如同對本地文件的訪問。這對于部分采用MPI進(jìn)行并行計算的用戶來說可能是必須的，通常我們會將MPICH的安裝目錄及并行程序存放目錄配置為NFS共享目錄，這樣可以省去將文件向各個節(jié)點復(fù)制的麻煩，大大提高工作效率。 本實訓(xùn)完成NFS安裝配置與掛載，節(jié)點機node1設(shè)為NFS服務(wù)器，設(shè)置共享目錄/home/mpi，可讀寫。節(jié)點機node2、node3、node4為客戶機，共享NFS服務(wù)。4.2.2實訓(xùn)目的1、

6、了解NFS服務(wù)器的基本概念；2、掌握NFS服務(wù)器的配置方法；3、掌握NFS服務(wù)器的訪問。4.2.3實訓(xùn)步驟步驟1：檢查系統(tǒng)是否安裝nfs-utils和rpcbind兩軟件包，下面表示系統(tǒng)已經(jīng)安裝了軟件包。操作命令如下：如果沒有安裝，則安裝命令如下：步驟2：編輯配置文件“/etc/exports”。操作命令如下： 編輯內(nèi)容如下：rw表示讀寫，sync表示同步操作，no_all_squash表示遠(yuǎn)程普通用戶不映射到nfsnobody。步驟3：啟動rpcbind服務(wù)和nfs服務(wù)。如果服務(wù)已經(jīng)啟動，則不提示信息。操作命令如下：如果服務(wù)原先沒啟動，則顯示內(nèi)容如下：步驟4：使用exportfs命令，對NF

7、S服務(wù)進(jìn)行一些操作。1）輸出所有目錄。操作命令如下：2）重新輸出共享目錄。操作命令如下：3）停止輸出所有共享目錄。操作命令如下：步驟5： 查看NFS服務(wù)器共享。1）查看共享目錄。操作命令如下：2）查看客戶機或IP地址及其在主機中的目錄。操作命令如下：步驟6：分別在node2，node3，node4節(jié)點機上掛載nfs共享目錄，參數(shù)“-t nfs”可以省略。操作命令如下：步驟7：測試NFS寫操作。1）在node4節(jié)點機上寫文件和列文件操作。操作命令如下：2）在node1節(jié)點機上檢查文件是否存在。操作命令如下：至此，NFS共享設(shè)置成功。4.3實訓(xùn)三 mpich編譯安裝4.3.1實訓(xùn)內(nèi)容 MPICH是

8、MPI（Message-Passing Interface）的一個應(yīng)用實現(xiàn)，是用于并行運算的工具。因特網(wǎng)提供開源代碼下載，需要相應(yīng)的編譯包編譯，需要安裝GNU編譯器套件（GNU Compiler Collection），gcc包括C、C+、Objective-C、Fortran、Java、Ada和Go語言的前端，也包括了這些語言的庫（如libstdc+、libgcj等等）。 本實訓(xùn)主要完成開發(fā)包的安裝、mpich的編譯、安裝和運行，使用的mpich為mpich-3.1.3（stable release）版本。4.3.2實訓(xùn)目的1、掌握開發(fā)工具的安裝；2、掌握mpich的編譯與安裝；3、掌握mp

9、ich的測試與運行。4.3.3實訓(xùn)步驟分別在node1、node2、node3、node4節(jié)點機上安裝開發(fā)工具。步驟1：安裝開發(fā)包，本實訓(xùn)使用CentOS系統(tǒng)光盤/ISO安裝。1）安裝gcc開發(fā)包。操作命令如下：2）安裝gcc-c+開發(fā)包。操作命令如下：3）安裝gcc-gfortran開發(fā)包。操作命令如下：4）安裝Java-1.7.0開發(fā)包。操作命令如下：Java-1.7.0默認(rèn)的工作目錄為：/usr/lib/jvm/java-1.7.0。 另外，如果連上因特網(wǎng)，則開發(fā)包可以使用yum安裝。安裝命令如下：步驟2：MPICH下載地址為：/static/dow

10、nloads/3.1.3/mpich-3.1.3.tar.gz。如果在Windows系統(tǒng)下載，可以使用WinSCP或FlashFXP上傳mpich-3.1.3.tar.gz軟件包到node1節(jié)點機的root目錄下。WINSCP上傳文件操作如下。1）打開WinSCP，輸入主機名或IP地址和用戶名密碼登錄。2）登錄后進(jìn)入操作界面，直接把mpich-3.1.3.tar.gz拖到右邊窗口即可。FlashFXP上傳文件操作如下。1）打開FlashFXP，單擊“快速連接”圖標(biāo)，選擇連接類型，輸入IP地址，用戶名密碼。2）連接上后，直接把mpich-3.1.3.tar.gz拖到右上側(cè)窗口。3）如果右邊Lin

11、ux窗口漢字出現(xiàn)亂碼，則是漢字編碼問題，直接單擊“站點站點管理”，字符編碼改為UTF-8即可。步驟3：解壓mpich壓縮包。操作命令如下：步驟4：進(jìn)入MPICH解壓后的目錄，執(zhí)行配置操作。操作命令如下： 配置主要的作用是對即將安裝的軟件進(jìn)行配置，檢查當(dāng)前的環(huán)境是否滿足要安裝軟件的依賴關(guān)系。參數(shù)：-prefix=PREFIX 表示把所有文件裝在目錄PREFIX下而不是默認(rèn)目錄下。本系統(tǒng)安裝目錄為/home/mpi。配置時間較長，請稍等，配置成功后，則最后一行提示顯示“Configuration completed”。步驟5：執(zhí)行make指令進(jìn)行編譯，編譯時間較長。操作命令如下：編譯后，最后顯示信息如下：步驟6：執(zhí)行make install進(jìn)行安裝。操作命令如下：安裝后，最后顯示信息所示：步驟7：復(fù)制測試?yán)拥?home/mpi目錄下。操作命令如下：步驟8：修改/home/mpi文件的用戶/組屬性。操作命令如下：步驟9：運行examples中自帶的一個簡單的測試程序cpi。1）登錄node1節(jié)點機