服務(wù)器集群與負(fù)載均衡服

從集群系統(tǒng)到負(fù)載均衡匯報(bào)人：張學(xué)佩1精品PPT|借鑒參考第一頁(yè)，共二十五頁(yè)。內(nèi)容簡(jiǎn)介集群系統(tǒng)代理服務(wù)器負(fù)載均衡系統(tǒng)2精品PPT|借鑒參考第二頁(yè)，共二十五頁(yè)。集群系統(tǒng)一、什么是集群技術(shù)？(Cluster)

舉個(gè)例子來(lái)說(shuō)，我們架設(shè)了一臺(tái)網(wǎng)絡(luò)服務(wù)器，上面構(gòu)建了一個(gè)電子商務(wù)網(wǎng)站，然而隨著時(shí)間的推移，名聲越來(lái)越大，這時(shí)點(diǎn)擊率也就越來(lái)越高，服務(wù)器的負(fù)載也就越來(lái)越高。這種情況下，我們就必須提升服務(wù)器的能力，以滿(mǎn)足日益增長(zhǎng)的服務(wù)請(qǐng)求。這時(shí)，我們就面臨兩種選擇：1）升級(jí)網(wǎng)絡(luò)服務(wù)器，采用更快的CPU，增加更多的內(nèi)存，使其具有更強(qiáng)的性能；但日益增長(zhǎng)的服務(wù)請(qǐng)求又會(huì)使服務(wù)器再次過(guò)載，需要再次升級(jí)，這樣就陷入了升級(jí)的怪圈。還有，升級(jí)時(shí)還得考慮到服務(wù)如何接續(xù)，能否中止。2）增加更多的服務(wù)器，讓多臺(tái)服務(wù)器來(lái)完成相同的服務(wù)?；旌闲头?wù)器集群系統(tǒng)3精品PPT|借鑒參考第三頁(yè)，共二十五頁(yè)。集群系統(tǒng)二、集群技術(shù)的目的

1提高性能一些計(jì)算密集型應(yīng)用，如：天氣預(yù)報(bào)、核試驗(yàn)?zāi)M等，需要計(jì)算機(jī)要有很強(qiáng)的運(yùn)算處理能力，現(xiàn)有的技術(shù)，即使普通的大型機(jī)其計(jì)算也很難勝任。這時(shí)，一般都使用計(jì)算機(jī)集群技術(shù)，集中幾十臺(tái)甚至上百臺(tái)計(jì)算機(jī)的運(yùn)算能力來(lái)滿(mǎn)足要求。提高處理性能一直是集群技術(shù)研究的一個(gè)重要目標(biāo)之一。2降低成本通常一套較好的集群配置，其軟硬件開(kāi)銷(xiāo)要超過(guò)10W美元。但與價(jià)值上百萬(wàn)美元的專(zhuān)用超級(jí)計(jì)算機(jī)相比已屬相當(dāng)便宜。在達(dá)到同樣性能的條件下，采用計(jì)算機(jī)集群比采用同等運(yùn)算能力的大型計(jì)算機(jī)具有更高的性?xún)r(jià)比。4精品PPT|借鑒參考第四頁(yè)，共二十五頁(yè)。集群系統(tǒng)3提高可擴(kuò)展性用戶(hù)若想擴(kuò)展系統(tǒng)能力，不得不購(gòu)買(mǎi)更高性能的服務(wù)器，才能獲得額外所需的CPU和存儲(chǔ)器。如果采用集群技術(shù)，則只需要將新的服務(wù)器加入集群中即可，對(duì)于客戶(hù)來(lái)看，服務(wù)無(wú)論從連續(xù)性還是性能上都幾乎沒(méi)有變化，好像系統(tǒng)在不知不覺(jué)中完成了升級(jí)。4增強(qiáng)可靠性集群技術(shù)使系統(tǒng)在故障發(fā)生時(shí)仍可以繼續(xù)工作，將系統(tǒng)停運(yùn)時(shí)間減到最小。集群系統(tǒng)在提高系統(tǒng)的可靠性的同時(shí)，也大大減小了故障損失。二、集群技術(shù)的目的5精品PPT|借鑒參考第五頁(yè)，共二十五頁(yè)。PPT內(nèi)容概述從集群系統(tǒng)到負(fù)載均衡。還有，升級(jí)時(shí)還得考慮到服務(wù)如何接續(xù)，能否中止。這時(shí)，一般都使用計(jì)算機(jī)集群技術(shù)，集中幾十臺(tái)甚至上百臺(tái)計(jì)算機(jī)的運(yùn)算能力來(lái)滿(mǎn)足要求。集群技術(shù)使系統(tǒng)在故障發(fā)生時(shí)仍可以繼續(xù)工作，將系統(tǒng)停運(yùn)時(shí)間減到最小。集群系統(tǒng)在提高系統(tǒng)的可靠性的同時(shí)，也大大減小了故障損失。集群中所有的節(jié)點(diǎn)都處于活動(dòng)狀態(tài)，它們分?jǐn)傁到y(tǒng)的工作負(fù)荷。服務(wù)器集群系統(tǒng)就是指通過(guò)集群技術(shù)將很多服務(wù)器集中起來(lái)一起進(jìn)行同一種服務(wù)，在客戶(hù)端看來(lái)就像是只有一個(gè)服務(wù)器?，F(xiàn)在的中大型企業(yè)都用到了服務(wù)器集群系統(tǒng)，比如：百度、新浪、網(wǎng)易、騰訊等。如果有很多訪問(wèn)請(qǐng)求，那么集群系統(tǒng)到底怎么分配這些請(qǐng)求任務(wù)給集群中的每臺(tái)服務(wù)器。那么這個(gè)時(shí)候，服務(wù)器C稱(chēng)為代理服務(wù)器，這種訪問(wèn)方式叫做正向代理。軟件可以很方便的安裝在服務(wù)器上，并且能實(shí)現(xiàn)一定的負(fù)載均衡功能。本地負(fù)載均衡技術(shù)是對(duì)本地服務(wù)器集群進(jìn)行負(fù)載均衡處理。全局負(fù)載均衡技術(shù)適用于擁有多個(gè)地域的服務(wù)器集群的大型網(wǎng)站系統(tǒng)。24第六頁(yè)，共二十五頁(yè)。集群系統(tǒng)1、高性能計(jì)算集群(HPCCluster)

也叫科學(xué)集群，充分利用集群中的每一臺(tái)計(jì)算機(jī)的資源，實(shí)現(xiàn)復(fù)雜運(yùn)算的并行計(jì)算，以解決復(fù)雜的科學(xué)問(wèn)題。通常用于科學(xué)計(jì)算領(lǐng)域，比如基因分析，化學(xué)分析等。2、高可用性集群(HACluster)

高可用性集群的主要目的是為了使集群的整體服務(wù)盡可能持續(xù)可用，當(dāng)主服務(wù)器故障時(shí)，備份服務(wù)器能夠自動(dòng)接管主服務(wù)器的工作，并及時(shí)切換過(guò)去，以實(shí)現(xiàn)對(duì)用戶(hù)的不間斷、不停機(jī)服務(wù)。3、負(fù)載均衡集群(LBCluster)

負(fù)載均衡集群的每個(gè)節(jié)點(diǎn)都可以承擔(dān)一定的處理負(fù)載，并且可以實(shí)現(xiàn)處理負(fù)載在節(jié)點(diǎn)之間的動(dòng)態(tài)分配，以實(shí)現(xiàn)負(fù)載均衡。集群中所有的節(jié)點(diǎn)都處于活動(dòng)狀態(tài)，它們分?jǐn)傁到y(tǒng)的工作負(fù)荷。三、集群系統(tǒng)的分類(lèi)7精品PPT|借鑒參考第七頁(yè)，共二十五頁(yè)。集群系統(tǒng)

服務(wù)器集群系統(tǒng)就是指通過(guò)集群技術(shù)將很多服務(wù)器集中起來(lái)一起進(jìn)行同一種服務(wù)，在客戶(hù)端看來(lái)就像是只有一個(gè)服務(wù)器。現(xiàn)在的中大型企業(yè)都用到了服務(wù)器集群系統(tǒng)，比如：百度、新浪、網(wǎng)易、騰訊等。

然而，對(duì)于服務(wù)器集群系統(tǒng)來(lái)說(shuō)，用戶(hù)訪問(wèn)的域名網(wǎng)址都是一樣的，那么用戶(hù)的具體訪問(wèn)請(qǐng)求會(huì)交給集群中的哪個(gè)服務(wù)器來(lái)處理？如果有很多訪問(wèn)請(qǐng)求，那么集群系統(tǒng)到底怎么分配這些請(qǐng)求任務(wù)給集群中的每臺(tái)服務(wù)器？

這里涉及到兩個(gè)概念——反向代理和負(fù)載均衡。四、服務(wù)器集群系統(tǒng)8精品PPT|借鑒參考第八頁(yè)，共二十五頁(yè)。代理服務(wù)器

我們有時(shí)候，用自己的計(jì)算機(jī)A想訪問(wèn)國(guó)外的某個(gè)網(wǎng)站B，但是訪問(wèn)不了，此時(shí)，有一臺(tái)中間服務(wù)器C可以訪問(wèn)國(guó)外的網(wǎng)站B，那么，我們可以用自己的電腦訪問(wèn)服務(wù)器C，通過(guò)C來(lái)訪問(wèn)B這個(gè)網(wǎng)站。那么這個(gè)時(shí)候，服務(wù)器C稱(chēng)為代理服務(wù)器，這種訪問(wèn)方式叫做正向代理。正向代理有一個(gè)特點(diǎn)，就是我們明確知道要訪問(wèn)哪個(gè)網(wǎng)站。再如，當(dāng)我們有一個(gè)服務(wù)器集群，并且服務(wù)器集群中的每臺(tái)服務(wù)器的內(nèi)容一樣都一致，同樣的，我們想要直接從個(gè)人電腦訪問(wèn)到服務(wù)器集群管理的網(wǎng)站，但是此時(shí)我們并不知道是哪一臺(tái)服務(wù)器提供的內(nèi)容，通過(guò)第三方服務(wù)器傳遞了請(qǐng)求后依然得到了想要的頁(yè)面，此時(shí)的代理方式稱(chēng)為反向代理。

什么是代理？9精品PPT|借鑒參考第九頁(yè)，共二十五頁(yè)。代理服務(wù)器

正向代理網(wǎng)站B訪問(wèn)不了怎么辦？服務(wù)器C計(jì)算機(jī)A10精品PPT|借鑒參考第十頁(yè)，共二十五頁(yè)。代理服務(wù)器

反向代理計(jì)算機(jī)A可是我自身沒(méi)有數(shù)據(jù)怎么辦數(shù)據(jù)A數(shù)據(jù)B數(shù)據(jù)C服務(wù)器E11精品PPT|借鑒參考第十一頁(yè)，共二十五頁(yè)。負(fù)載均衡

當(dāng)一臺(tái)服務(wù)器的單位時(shí)間內(nèi)的訪問(wèn)量越大的時(shí)候，服務(wù)器的壓力會(huì)越大。當(dāng)一臺(tái)服務(wù)器壓力大得超過(guò)自身的承受能力的時(shí)候，服務(wù)器會(huì)崩潰。為了避免服務(wù)器崩潰，讓用戶(hù)有更好地體驗(yàn)，我們通常通過(guò)負(fù)載均衡的方式來(lái)分擔(dān)服務(wù)器的壓力。那么什么是負(fù)載均衡呢？當(dāng)用戶(hù)訪問(wèn)我們網(wǎng)站的時(shí)候，先訪問(wèn)一個(gè)中間服務(wù)器，再讓這個(gè)中間服務(wù)器在服務(wù)器集群中選擇一個(gè)壓力較小的服務(wù)器，然后將該訪問(wèn)請(qǐng)求引入該選擇的服務(wù)器。這樣，用戶(hù)的每次訪問(wèn)，都會(huì)保證服務(wù)器集群中的每個(gè)服務(wù)器的壓力趨于平衡，分擔(dān)了服務(wù)器的總體壓力，避免了服務(wù)器崩潰的情況。

一、什么是負(fù)載均衡(LoadBalance)？12精品PPT|借鑒參考第十二頁(yè)，共二十五頁(yè)。負(fù)載均衡二、負(fù)載均衡算法

一般來(lái)說(shuō)，企業(yè)可依需求自行設(shè)定負(fù)載平衡規(guī)則，而網(wǎng)絡(luò)存取可參照所設(shè)定的規(guī)則，執(zhí)行網(wǎng)絡(luò)流量負(fù)載平衡算法。常見(jiàn)的算法則有：◎輪詢(xún)

◎加權(quán)輪詢(xún)

◎散列法

◎動(dòng)態(tài)輪詢(xún)◎最少連接法◎最快響應(yīng)法負(fù)載均衡結(jié)構(gòu)圖13精品PPT|借鑒參考第十三頁(yè)，共二十五頁(yè)。負(fù)載均衡三、負(fù)載均衡的實(shí)現(xiàn)方式軟件負(fù)載均衡技術(shù)該技術(shù)適用于一些中小型網(wǎng)站系統(tǒng)，可以滿(mǎn)足一般的均衡負(fù)載需求。軟件負(fù)載均衡技術(shù)是指在服務(wù)器集群中的代理服務(wù)器上安裝一個(gè)相應(yīng)的負(fù)載均衡軟件來(lái)實(shí)現(xiàn)的一種負(fù)載均衡技術(shù)。軟件可以很方便的安裝在服務(wù)器上，并且能實(shí)現(xiàn)一定的負(fù)載均衡功能。軟件負(fù)載均衡技術(shù)配置簡(jiǎn)單、操作也方便，最重要的是成本很低。硬件負(fù)載均衡技術(shù)由于硬件負(fù)載均衡技術(shù)需要額外的增加負(fù)載均衡器，成本比較高，適用于流量高的大型網(wǎng)站系統(tǒng)。不過(guò)在現(xiàn)在較有規(guī)模的企業(yè)、政府網(wǎng)站，一般來(lái)說(shuō)都會(huì)部署有硬件負(fù)載均衡設(shè)備（原因：1.硬件設(shè)備更穩(wěn)定2.效率高、更合規(guī)達(dá)標(biāo)）硬件負(fù)載均衡技術(shù)是在多臺(tái)服務(wù)器間安裝相應(yīng)的負(fù)載均衡設(shè)備(負(fù)載均衡器)來(lái)完成均衡負(fù)載技術(shù)，與軟件負(fù)載均衡技術(shù)相比，能達(dá)到更好的負(fù)載均衡效果。14精品PPT|借鑒參考第十四頁(yè)，共二十五頁(yè)。負(fù)載均衡三、負(fù)載均衡的實(shí)現(xiàn)方式本地負(fù)載均衡技術(shù)本地負(fù)載均衡技術(shù)是對(duì)本地服務(wù)器集群進(jìn)行負(fù)載均衡處理。該技術(shù)通過(guò)對(duì)服務(wù)器進(jìn)行性能優(yōu)化，使流量能夠平均分配在服務(wù)器群中的各個(gè)服務(wù)器上，其能有效地解決數(shù)據(jù)流量過(guò)大、網(wǎng)絡(luò)負(fù)荷過(guò)重的問(wèn)題，并且不需花費(fèi)昂貴開(kāi)支購(gòu)置性能卓越的服務(wù)器，充分利用現(xiàn)有設(shè)備，避免服務(wù)器單點(diǎn)故障造成數(shù)據(jù)流量的損失。全局負(fù)載均衡技術(shù)(廣域負(fù)載均衡)全局負(fù)載均衡技術(shù)適用于擁有多個(gè)地域的服務(wù)器集群的大型網(wǎng)站系統(tǒng)。全局負(fù)載均衡技術(shù)是對(duì)分布在全國(guó)各個(gè)地區(qū)的多個(gè)服務(wù)器進(jìn)行負(fù)載均衡處理，該技術(shù)可以通過(guò)對(duì)訪問(wèn)用戶(hù)的IP地理位置判定，自動(dòng)轉(zhuǎn)向地域最近點(diǎn)的服務(wù)器集群。很多大型網(wǎng)站都使用的這種技術(shù)。15精品PPT|借鑒參考第十五頁(yè)，共二十五頁(yè)。負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用1.DNS負(fù)載均衡

最早的負(fù)載均衡技術(shù)是通過(guò)DNS來(lái)實(shí)現(xiàn)的，在DNS中為多個(gè)地址配置同一個(gè)名字，因而查詢(xún)這個(gè)名字的客戶(hù)機(jī)將得到其中一個(gè)地址，從而使得不同的客戶(hù)訪問(wèn)不同的服務(wù)器，達(dá)到負(fù)載均衡的目的。DNS負(fù)載均衡是一種簡(jiǎn)單而有效的方法，但是它不能區(qū)分服務(wù)器的差異，也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài)。2.NAT負(fù)載均衡

支持負(fù)載均衡的地址轉(zhuǎn)換網(wǎng)關(guān)，可以將一個(gè)外部IP地址映射為多個(gè)內(nèi)部IP地址，對(duì)每次TCP連接請(qǐng)求動(dòng)態(tài)使用其中一個(gè)內(nèi)部地址，達(dá)到負(fù)載均衡的目的。16精品PPT|借鑒參考第十六頁(yè)，共二十五頁(yè)。負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用3.反向代理負(fù)載均衡

反向代理（ReverseProxy）負(fù)載均衡技術(shù)是把將來(lái)自Internet上的連接請(qǐng)求以反向代理的方式動(dòng)態(tài)地轉(zhuǎn)發(fā)給內(nèi)部網(wǎng)絡(luò)上的多臺(tái)服務(wù)器進(jìn)行處理，從而達(dá)到負(fù)載均衡的目的。17精品PPT|借鑒參考第十七頁(yè)，共二十五頁(yè)。負(fù)載均衡四、負(fù)載均衡的主要應(yīng)用4.混合型負(fù)載均衡

在有些大型網(wǎng)絡(luò)，由于多個(gè)服務(wù)器群內(nèi)硬件設(shè)備、各自的規(guī)模、提供的服務(wù)等的差異，可以考慮給每個(gè)服務(wù)器群采用最合適的負(fù)載均衡方式，然后又在這多個(gè)服務(wù)器群間再一次負(fù)載均衡或群集起來(lái)以一個(gè)整體向外界提供服務(wù)。18精品PPT|借鑒參考第十八頁(yè)，共二十五頁(yè)。精品PPT·收集整理第十九頁(yè)，共二十五頁(yè)。負(fù)載均衡五、負(fù)載均衡產(chǎn)品1.負(fù)載均衡器（硬件）

負(fù)載均衡器也稱(chēng)為負(fù)載均衡設(shè)備，其效果比軟件實(shí)現(xiàn)的負(fù)載均衡要高效、穩(wěn)定，而且還擁有很多其他的重要功能，如：1）基礎(chǔ)防火墻功能——數(shù)據(jù)包過(guò)濾 2）資源隱藏和內(nèi)容安全3）定制的應(yīng)用攻擊過(guò)濾 4）隔離協(xié)議攻擊5）網(wǎng)絡(luò)攻擊防護(hù) 6）Cookie加密7）高級(jí)SSL加密標(biāo)準(zhǔn) 8）抓包工具

常見(jiàn)的產(chǎn)商有：F5、Radware、Array、A10等國(guó)外著名品牌；北京華夏創(chuàng)新、深圳深信服、上海云速等國(guó)內(nèi)領(lǐng)軍品牌；20精品PPT|借鑒參考第二十頁(yè)，共二十五頁(yè)。負(fù)載均衡五、負(fù)載均衡產(chǎn)品2.負(fù)載均衡服務(wù)器（軟件）

1、ngnix——俄羅斯人開(kāi)發(fā)的一個(gè)高性能的HTTP和反向代理服務(wù)器。由于Nginx超越Apache的高性能和穩(wěn)定性，使得國(guó)內(nèi)使用Nginx作為Web服務(wù)器的網(wǎng)站也越來(lái)越多，其中包括新浪博客、網(wǎng)易新聞、騰訊網(wǎng)、搜狐博客等門(mén)戶(hù)網(wǎng)站頻道等，在3w以上的高并發(fā)環(huán)境下，ngnix處理能力相當(dāng)于Apache的10倍。2、lvs——LinuxVirtualServer的簡(jiǎn)寫(xiě)，意即Linux虛擬服務(wù)器，由畢業(yè)于國(guó)防科技大學(xué)的章文嵩博士于1998年5月創(chuàng)立。特點(diǎn)：抗負(fù)載能力強(qiáng)，配置性低，工作穩(wěn)定，無(wú)流量。21精品PPT|借鑒參考第二十一頁(yè)，共二十五頁(yè)。負(fù)載均衡五、負(fù)載均衡產(chǎn)品2.負(fù)載均衡服務(wù)器（軟件）

3、HAProxy——HAProxy提供高可用性、負(fù)載均衡以及基于TCP和HTTP應(yīng)用的代理，支持虛擬主機(jī)，它是免費(fèi)、快速并且可靠的一種解決方案。HAProxy特別適用于那些負(fù)載特大的web站點(diǎn)，這些站點(diǎn)通常又需要Session保持或七層處理。HAProxy運(yùn)行的硬件上，完全可以支持?jǐn)?shù)以萬(wàn)計(jì)的并發(fā)連接，同時(shí)可以保護(hù)你的web服務(wù)器不被暴露到網(wǎng)絡(luò)上。22精品PPT|借鑒參