可調節(jié)負荷資源分類算法

可調節(jié)負荷資源分類算法負載均衡可以根據(jù)網(wǎng)絡協(xié)議的層數(shù)進行分類，我們這里以ISO模型為準，從下到上分為：物理層，數(shù)據(jù)鏈路層，網(wǎng)絡層，傳輸層，會話層，表示層，應用層。當客戶端發(fā)起請求，會經過層層的封裝，發(fā)給服務器，服務器收到請求后經過層層的解析，獲取到對應的內容。接收端每通過一層則刪除首部■iJutJblL接收端每通過一層則刪除首部每通過一層則增加首部HTTP報文應用層傳輸層網(wǎng)絡層鎰銘層HTTP數(shù)據(jù)TCP報文段TCP應用層傳輸層網(wǎng)絡層鎰銘層HTTP數(shù)據(jù)TCP報文段TCP首部HTTP數(shù)據(jù) |JIP數(shù)據(jù)包IP首部TCP首部HTTP數(shù)據(jù) |J劇絡架構以太網(wǎng)首部IP首部TCP酋部HTTP數(shù)據(jù)|HTTP數(shù)據(jù)|ttcp首部HTTP數(shù)據(jù)|IP首部TCP首部IHTTP數(shù)據(jù)]以太網(wǎng)首部IP首部TCP首部HTTP數(shù)據(jù)|l丨「一測勅二層負債均衡是基于數(shù)據(jù)鏈路層的負債均衡，即讓負債均衡服務器和業(yè)務服務器綁定同一個虛擬IP（即VIP）,客戶端直接通過這個VIP進行請求，那么如何區(qū)分相同IP下的不同機器呢？沒錯，通過MAC物理地址，每臺機器的MAC物理地址都不一樣，當負載均衡服務器接收到請求之后，通過改寫HTTP報文中以太網(wǎng)首部的MAC地址，按照某種算法將請求轉發(fā)到目標機器上，實現(xiàn)負載均衡。這種方式負載方式雖然控制粒度比較粗，但是優(yōu)點是負載均衡服務器的壓力會比較小，負載均衡服務器只負責請求的進入，不負責請求的響應（響應是有后端業(yè)務服務器直接響應給客戶端），吞吐VIP：203.1BfM7.223□0量會比較高。LoadBalancer(L日｝V1P：23IP內：70三層負載均衡是基于網(wǎng)絡層的負載均衡，通俗的說就是按照不VIP：203.1BfM7.223□0量會比較高。LoadBalancer(L日｝V1P：23IP內：70三層負載均衡是基于網(wǎng)絡層的負載均衡，通俗的說就是按照不EP：10.0,8.171IP：10.0.B172VIP：23VIP23Server^IP：W.0.8J73SeFverlServer2同機器不同IP地址進行轉發(fā)請求到不同的機器上。這種方式雖然比二層負載多了一層，但從控制的顆粒度上看，并沒有比二層負載均衡更有優(yōu)勢，并且，由于請求的進出都要經過負載均衡服務器，會對其造成比較大的壓力，性能也比二層負載均衡要差。四層負載均衡是基于傳輸層的負載均衡，傳輸層的代表協(xié)議就是TCP/UDP協(xié)議，除了包含IP之外，還有區(qū)分了端口號，通俗的說就是基于IP+端口號進行請求的轉發(fā)。相對于上面兩種，控制力度縮小到了端口，可以針對同一機器上的不用服務進行負載。這一層以LVS為代表。七層負載均衡是基于應用層的負載均衡，應用層的代表協(xié)議有HTTP，DNS等，可以根據(jù)請求的url進行轉發(fā)負載，比起四層負載，會更加的靈活，所控制到的粒度也是最細的，使得整個網(wǎng)絡更"智能化"。例如訪問一個網(wǎng)站的用戶流量，可以通過七層的方式，將對圖片類的請求轉發(fā)到特定的圖片服務器并可以使用緩存技術；將對文字類的請求可以轉發(fā)到特定的文字服務器并可以使用壓縮技術?？梢哉f功能是非常強大的負載。這一層以Nginx為代表。在普通的應用架構中，使用Nginx完全可以滿足需求，對于一些大型應用，一般會采用DNS+LVS+Nginx的方式進行多層次負債均衡，以上這些說明都是基于軟件層面的負載均衡，在一些超大型的應用中，還會在前面多加一層物理負載均衡，比如知名的F5。負載均衡算法分為兩類：一種是靜態(tài)負載均衡，一種是動態(tài)負載均衡。靜態(tài)均衡算法：1、輪詢法將請求按順序輪流地分配到每個節(jié)點上，不關心每個節(jié)點實際的連接數(shù)和當前的系統(tǒng)負載。優(yōu)點：簡單高效，易于水平擴展，每個節(jié)點滿足字面意義上的均衡；缺點：沒有考慮機器的性能問題，根據(jù)木桶最短木板理論，集群性能瓶頸更多的會受性能差的服務器影響。廠岔3「4|5[6亍89\1/2、隨機法將請求隨機分配到各個節(jié)點。由概率統(tǒng)計理論得知，隨著客戶端調用服務端的次數(shù)增多，其實際效果越來越接近于平均分配，也就是輪詢的結果。優(yōu)缺點和輪詢相似。3、源地址哈希法源地址哈希的思想是根據(jù)客戶端的IP地址，通過哈希函數(shù)計算得到一個數(shù)值，用該數(shù)值對服務器節(jié)點數(shù)進行取模，得到的結果便是要訪問節(jié)點序號。采用源地址哈希法進行負載均衡，同一IP地址的客戶端，當后端服務器列表不變時，它每次都會落到到同一臺服務器進行訪問。優(yōu)點：相同的IP每次落在同一個節(jié)點，可以人為干預客戶端請求方向，例如灰度發(fā)布；缺點：如果某個節(jié)點出現(xiàn)故障，會導致這個節(jié)點上的客戶端無法使用，無法保證高可用。當某一用戶成為熱點用戶，那么會有巨大的流量涌向這個節(jié)點，導致冷熱分布不均衡，無法有效利用起集群的性能。所以當熱點事件出現(xiàn)時，一般會將源地址哈希法切換成輪詢法。

6514365143295432地址h日sh落點HAHBHCHD4、加權輪詢法不同的后端服務器可能機器的配置和當前系統(tǒng)的負載并不相同，因此它們的抗壓能力也不相同。給配置高、負載低的機器配置更高的權重，讓其處理更多的請；而配置低、負載高的機器，給其分配較低的權重，降低其系統(tǒng)負載，加權輪詢能很好地處理這一問題，并將請求順序且按照權重分配到后端。加權輪詢算法要生成一個服務器序列，該序列中包含n個服務器。n是所有服務器的權重之和。在該序列中，每個服務器的出現(xiàn)的次數(shù)，等于其權重值。并且，生成的序列中，服務器的分布應該盡可能的均勻。比如序列｛a,a,a,a,a,b,c｝中，前五個請求都會分配給服務器a，這就是一種不均勻的分配方法，更好的序列應該是：｛a,a,b,a,c,a,a｝。優(yōu)點：可以將不同機器的性能問題納入到考量范圍，集群性能最優(yōu)最大化；

缺點：生產環(huán)境復雜多變，服務器抗壓能力也無法精確估算，靜態(tài)算法導致無法實時動態(tài)調整節(jié)點權重，只能粗糙優(yōu)化。5、加權隨機法與加權輪詢法一樣，加權隨機法也根據(jù)后端機器的配置，系統(tǒng)的負載分配不同的權重。不同的是，它是按照權重隨機請求后端服務器，而非順序。6、鍵值范圍法根據(jù)鍵的范圍進行負債，比如0到10萬的用戶請求走第一個節(jié)點服務器，10萬到20萬的用戶請求走第二個節(jié)點服務器……以此類推。優(yōu)點：容易水平擴展，隨著用戶量增加，可以增加節(jié)點而不影響舊數(shù)據(jù)；缺點：容易負債不均衡，比如新注冊的用戶活躍度高，舊用戶活躍度低，那么壓力就全在新增的服務節(jié)點上，舊服務節(jié)點性能浪費。而且也容易單點故障，無法滿足高可用。654654Llj23456789動態(tài)均衡算法：1、最小連接數(shù)法根據(jù)每個節(jié)點當前的連接情況，動態(tài)地選取其中當前積壓連接數(shù)最少的一個節(jié)點處理當前請求，盡可能地提高后端服務的利用效率，將請求合理地分流到每一臺服務器。俗稱閑的人不能閑著，大家一起動起來。優(yōu)點：動態(tài)，根據(jù)節(jié)點狀況實時變化；缺點：提高了復雜度，每次連接斷開需要進行計數(shù)；實現(xiàn)：將連接數(shù)的倒數(shù)當權重值。2、最快響應速度法根據(jù)請求的響應時間，來動態(tài)調整每個節(jié)點的權重，將響應速度快的服務節(jié)點