HC1209103 HCNP-Storage_SSAM 第三章 SAN存儲系統(tǒng)性能測試和調(diào)優(yōu) V1.0

1、Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 0修訂記錄課程編碼課程編碼適用產(chǎn)品適用產(chǎn)品產(chǎn)品版本產(chǎn)品版本課程版本課程版本ISSUE開發(fā)開發(fā)/優(yōu)化者優(yōu)化者時間時間審核人審核人開發(fā)類型（新開發(fā)開發(fā)類型（新開發(fā)/優(yōu)化）優(yōu)化）本頁不打印Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. 第三章 SAN存儲系統(tǒng)性能測試和調(diào)優(yōu)Copyright 2010 Huawei Technologies Co., Ltd. All right

2、s reserved. Page 2目標l學完本課程后，您將能夠:p熟悉存儲系統(tǒng)性能的指標和意義p熟悉影響存儲系統(tǒng)性能的因素p熟悉提高存儲系統(tǒng)性能的方法Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 3目錄l性能指標和性能指標和IO流程流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 4性

3、能指標簡介波動率波動率l從IO下發(fā)到IO處理完成的時間l常以ms為單位l常用指標：平均響應(yīng)時間、最大響應(yīng)時間響應(yīng)時間響應(yīng)時間l常以MB/s為單位l即每秒存儲可以處理的數(shù)據(jù)量lI/O per secondl每秒鐘存儲可以處理的IO數(shù)目IOPSl衡量方式：最大值、最小值、均方差l最常用的方式：均方差/平均值 * 100%帶寬帶寬Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 5負載模型簡介4K100%寫寫100%隨機隨機持續(xù)持續(xù)4K對齊對齊256Copyright 2010 Huawei Technolo

4、gies Co., Ltd. All rights reserved. Page 6IO訪問方式應(yīng)用進程通用塊設(shè)備層塊設(shè)備驅(qū)動層用戶空間內(nèi)核空間用戶緩沖區(qū)disk內(nèi)核緩沖區(qū)write同步read同步同步同步IO異步異步IOl關(guān)于同步與異步應(yīng)用進程通用塊設(shè)備層塊設(shè)備驅(qū)動層用戶空間內(nèi)核空間用戶緩沖區(qū)disk內(nèi)核緩沖區(qū)發(fā)出write、read請求返回Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 7目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因素 2.1 RAID組級別組級別 2.2 成員盤個

5、數(shù) 2.3 分條深度 2.4 cache技術(shù) 2.5 負載均衡和接口性能 2.6 高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 8Raid0和Raid1沒有太多的實際使用場景 Raid6處理方式類似于Raid5，但性能與Raid5存在一些差異應(yīng)用中主要使用的RAID級別是Raid10和Raid5RAID組級別l Raid組級別作為一種算法，有機的將各個分散的磁盤通過某種方式組合到了一起，并

6、進行條帶化的處理。使得多個磁盤可以同時有效的工作，提升了系統(tǒng)整體處理IO的能力，提高了數(shù)據(jù)的安全性；Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 9RAID組級別RAID5l對讀操作而言，按照下發(fā)IO的大小處理請求；l為保證數(shù)據(jù)一致性，Raid5在寫入一個數(shù)據(jù)的時候，需要重新更新該數(shù)據(jù)所在的分條的校驗數(shù)據(jù)；因此Raid5下的寫操作的最小操作單元是分條單元的大小。讀寫Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Pa

7、ge 10RAID組級別RAID5RAID5RAID5stripestripeRAIDRAID處理模塊處理模塊XORXOR下發(fā)數(shù)據(jù)1）下發(fā)數(shù)據(jù)塊（數(shù)據(jù)塊大小小于分條深度）5）RAID寫數(shù)據(jù)2）RAID讀數(shù)據(jù)4）計算新校驗數(shù)據(jù)（小寫模式）3）覆蓋寫目標分條單元l小寫操作步驟Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 11RAID組級別RAID5RAID5RAID5stripestripeRAIDRAID處理模塊處理模塊下發(fā)數(shù)據(jù)1）下發(fā)數(shù)據(jù)塊（數(shù)據(jù)塊跨分條深度）5）RAID寫數(shù)據(jù)2）RAID讀數(shù)據(jù)4）

8、計算新校驗數(shù)據(jù)（大寫模式）3）覆蓋寫目標分條單元l大寫操作步驟XORXORXORXORCopyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 12RAID組級別RAID10l前提條件：假設(shè)有N塊磁盤組成了一個Raid10（N為偶數(shù)），且該Raid10的鏡像盤個數(shù)為2。l因為不需要生成校驗位信息，因此Raid10下的最小操作單元：IO數(shù)據(jù)塊的大小l由于每個鏡像盤組內(nèi)的數(shù)據(jù)完全相同， 因此Raid10下的讀操作從這其中的N/2塊磁盤即可獲取數(shù)據(jù)l對寫操作，需要對鏡像組內(nèi)的所有盤都寫該數(shù)據(jù)，分別寫到鏡像組內(nèi)的兩塊磁

9、盤上l因為不需要生成校驗位信息，因此Raid10下的最小操作單元：IO數(shù)據(jù)塊的大小Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 13RAID組級別RAID10RAID10RAID10stripestripeRAIDRAID處理模塊處理模塊下發(fā)數(shù)據(jù)1）下發(fā)數(shù)據(jù)塊2）生成鏡像數(shù)據(jù)3）同時寫入成員盤和鏡像盤l寫操作步驟Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 14RAID組級別順序性能對比RAID5與RAI

10、D10順序性能對比l持續(xù)順序讀性能pRAID5性能略高于RAID10l持續(xù)順序?qū)懶阅躳前端壓力足夠的情況下，RAID5性能明顯高于RAID10Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 15RAID組級別隨機性能對比RAID5與RAID10隨機性能對比l持續(xù)隨機讀性能pRAID5與RAID10性能基本相當l持續(xù)隨機寫性能pRAID5性能明顯低于RAID10Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 1

11、6空間利用率:Raid5明顯優(yōu)于Raid10性能:業(yè)務(wù)是一些大文件的讀寫操作時，Raid5的性能會明顯好于Raid10業(yè)務(wù)以隨機的小數(shù)據(jù)塊讀 寫 為 主 的 時 候 ，Raid10是最優(yōu)的選擇安全性:Raid5低于Raid10RAID5/RAID10RAID5/RAID10對比對比RAID組級別RAID選擇Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 17l重構(gòu)對資源的占用:p由于重構(gòu)過程中RAID5涉及到多塊盤的計算操作，而RAID10不涉及額外的數(shù)據(jù)恢復操作，因此RAID5的重構(gòu)對資源占用比RA

12、ID10大RAID組級別重構(gòu)的影響如果如果RAID10壞了一塊盤壞了一塊盤在RAID5一塊成員盤出現(xiàn)故障后，可以通過其他成員盤和校驗盤重新計算出故障盤的數(shù)據(jù)如果RAID10出現(xiàn)一塊成員盤故障，RAID組不會有任何額外的操作如果如果RAID5壞了一塊盤壞了一塊盤Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 18目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因素 2.1 RAID組級別 2.2 成員盤個數(shù)成員盤個數(shù) 2.3 分條深度 2.4 cache技術(shù) 2.5 負載均衡和接口性能 2.6

13、 高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 19 單個RAID組磁盤數(shù)選擇上 ，8-12塊是用的比較多的配置，RAID組成員盤不能跨框RAID5RAID5RAID10RAID10成員盤個數(shù) RAID10在單個RAID組磁盤數(shù)選擇上,并無限制.在磁盤成為瓶頸時,磁盤數(shù)越多該RAID組性能越好Copyright 2010 Huawei Technologies Co., Ltd. All

14、rights reserved. Page 20目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因素 2.1 RAID組級別 2.2 成員盤個數(shù) 2.3 分條深度分條深度 2.4 cache技術(shù) 2.5 負載均衡和接口性能 2.6 高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 21如果分條單元太小，很有可能出現(xiàn)一個IO橫跨了兩個甚至多個分條單元的情況。隨著分條深度的增大，一個IO

15、跨盤的幾率逐漸減小。因此，隨著分條深度的增加，隨機讀IOPS會逐漸的增加當分條深度的大小能夠超過數(shù)據(jù)塊的大小達到一定程度時，由于再出現(xiàn)IO數(shù)據(jù)塊跨盤情況的幾率已經(jīng)非常的小了，則數(shù)據(jù)塊的大小已經(jīng)不再是影響性能的關(guān)鍵因素了，此時隨機讀IOPS會基本保持一個穩(wěn)定的水平分條深度對隨機讀性能影響分條深度隨機讀性能Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 22RAID10性能規(guī)律性能規(guī)律隨著分條深度的增加，隨機寫IOPS先會不斷的增加，到達一定程度之后，隨機寫IOPS會不斷的遞減;.隨著分條深度的增加，隨機

16、寫IOPS不斷的增長，當分條深度增大到一定程度后，隨機寫IOPS保持一個較為穩(wěn)定的狀態(tài);RAID5性能規(guī)律性能規(guī)律分條深度隨機寫性能Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 23目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因素 2.1 RAID組級別 2.2 成員盤個數(shù) 2.3 分條深度 2.4 cache技術(shù)技術(shù) 2.5 負載均衡和接口性能 2.6 高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright

17、2010 Huawei Technologies Co., Ltd. All rights reserved. Page 24讀預取與寫緩存讀預取l讀預取的作用p在處理一個讀IO請求時，從磁盤側(cè)按順序讀取除該IO數(shù)據(jù)以外更多的數(shù)據(jù)，預先緩存到Cache中，以便下一個順序讀IO請求到達時，可直接在Cache中獲取，得到更高的性能表現(xiàn)。p當讀IO很隨機時，不當?shù)淖x預取策略會給存儲系統(tǒng)帶來額外的資源開銷，不但無法保證后續(xù)IO在Cache中的命中，而且會帶來性能的降低。l四種預取算法：p固定預取、可變預取、智能預取和不預取。Copyright 2010 Huawei Technologies Co.,

18、 Ltd. All rights reserved. Page 25讀預取與寫緩存讀預取預取策略預取策略 策略說明策略說明適用場景適用場景固定預取按系統(tǒng)設(shè)置的固定預取窗口大小進行預取 1. 適用于業(yè)務(wù)單一，IO順序性強的場景，如：DSS和數(shù)據(jù)備份等業(yè)務(wù)2. 建議預取窗口大小與LUN分條對齊 可變預取按系統(tǒng)設(shè)置的倍數(shù)，預?。鹤xIO長度*倍數(shù) 適用于IO順序性強，但IO大小呈規(guī)律性變化的業(yè)務(wù)智能預取按IO順序程度，動態(tài)起停預取，動態(tài)調(diào)整預取窗口大小 適用于IO特性比較復雜的場景，如：OLTP應(yīng)用中數(shù)據(jù)文件訪問 不預取減少因預取無效數(shù)據(jù)引起系統(tǒng)額外開銷 適用于可明確的IO隨機場景 Copyright

19、 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 26讀預取與寫緩存寫緩存lCache的寫策略包括三種：透寫，回寫鏡像和回寫不鏡像。鏡像Cache示意圖Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 27讀預取與寫緩存寫緩存l需仔細評估實際業(yè)務(wù)對性能和可靠性的需求，選擇恰當?shù)膶懖呗裕簩懖呗詫懖呗?可靠性可靠性性能性能透寫高低回寫鏡像中中回寫不鏡像低高Copyright 2010 Huawei Technologies Co.,

20、Ltd. All rights reserved. Page 28讀預取與寫緩存高低水位l高低水位用于設(shè)置存儲寫策略為回寫時，Cache模塊對臟數(shù)據(jù)的存儲容量和刷盤速率；Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 29目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因素 2.1 RAID組級別 2.2 成員盤個數(shù) 2.3 分條深度 2.4 cache技術(shù) 2.5 負載均衡和接口性能負載均衡和接口性能 2.6 高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能

21、故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 30負載均衡l負載均衡的目的：p根據(jù)業(yè)務(wù)的IO特性，保證所有資源得到公平的利用，提高并行處理能力，消除資源熱點；p在硬件環(huán)境和軟件代碼無法優(yōu)化的情況下，負載均衡是性能調(diào)優(yōu)的精髓；l負載均衡分類p前端主機通道負載均衡p控制器負載均衡p后端通道負載均衡p硬盤單元負載均衡Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 31主流接口協(xié)議的

22、性能比較接口類型接口類型目前速率目前速率應(yīng)用場景應(yīng)用場景備注備注iSCSI1G、10G華賽全系列存儲陣列產(chǎn)品的主機接口只S5000T支持10G主機接口SAS3G、6G1、S2600、S5000T的主機接口或級聯(lián)接口2、硬盤接口FC2G、4G、8G1、華賽S2600、S5000、S6800E和S5000T陣列的主機接口或級聯(lián)接口2、硬盤接口S2600級聯(lián)口只支持SASSATA3G、6G硬盤接口Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 32目錄l性能指標和IO流程l影響性能的關(guān)鍵因素影響性能的關(guān)鍵因

23、素 2.1 RAID組級別 2.2 成員盤個數(shù) 2.3 分條深度 2.4 cache技術(shù) 2.5 負載均衡和接口性能 2.6 高級性能特性高級性能特性l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 33支持SSD技術(shù)l響應(yīng)時間短p傳統(tǒng)硬盤的機械特性導致大部分時間浪費在尋道、查找數(shù)據(jù)和機械延遲上。數(shù)據(jù)傳輸受到嚴重影響。而SSD硬盤由于采用固態(tài)芯片作為存儲介質(zhì)，內(nèi)部沒有機械結(jié)構(gòu)，因此沒有數(shù)據(jù)查找時間、延遲時

24、間和尋道時間，可提供比 15K rpm FC硬盤快 30 倍的 IOPSl讀寫效率高p傳統(tǒng)硬盤在進行隨機讀寫時需要把磁頭不斷地移來移去，導致效率低下，而SSD沒有磁頭，省去了機械操作的時間，只需計算數(shù)據(jù)存放在哪塊Flash芯片的哪個位置，然后再對該位置進行讀寫即可 SSDSSD技術(shù)性能優(yōu)勢技術(shù)性能優(yōu)勢VSVSIP/FC SANIP/FC SAN傳統(tǒng)傳統(tǒng)HDDHDD存儲系統(tǒng)存儲系統(tǒng)SSDSSD存儲系統(tǒng)存儲系統(tǒng)指令到達時間尋道時間I/OI/OI/OI/O數(shù)據(jù)查找時間機械延遲時間數(shù)據(jù)查找時間Copyright 2010 Huawei Technologies Co., Ltd. All rights

25、 reserved. Page 34SmartCache（智能緩存）l技術(shù)簡介技術(shù)簡介p把陣列中的一個或多個SSD硬盤組成SmartCache資源池，通過將陣列中其他傳統(tǒng)機械硬盤中的熱點數(shù)據(jù)周期性的刷新到SmartCache中，使主機在訪問熱點數(shù)據(jù)時，直接從SmartCache中讀取，利用SSD硬盤的讀性能優(yōu)勢，極大的提升陣列系統(tǒng)的整體讀性能。l技術(shù)優(yōu)勢技術(shù)優(yōu)勢p高性能：高性能：針對Web Server應(yīng)用隨機讀性能最大提升5倍，針對File Server應(yīng)用隨機讀性能最大提升2倍p高可靠性：高可靠性：SSD硬盤中的數(shù)據(jù)是用于加速的副本，所有數(shù)據(jù)都保存在傳統(tǒng)硬盤中p高可用性：高可用性：多個SS

26、D硬盤組成SmartCache時，單個SSD硬盤失效不影響SmartCache的功能p高可擴展性：高可擴展性：支持SSD硬盤在線添加l說明：說明：推薦配置4塊SSD硬盤作為SmartCache，SmartCache資源池中的SSD硬盤總數(shù)不能超過24個 。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 35排序LUN編號塊編號訪問量1LUN13242LUN12113LUN22104LUN1155LUN2136LUN23112693SmartCache實現(xiàn)原理l按照塊的方式對SSD硬盤進行劃分，為每一個

27、塊進行編號，塊的大小默認為1MB，不能更改l主機從機械硬盤中讀取數(shù)據(jù)時，系統(tǒng)會及時對開啟SmartCache功能LUN中的數(shù)據(jù)塊訪問量進行統(tǒng)計，并建立這些LUN中數(shù)據(jù)塊的訪問量列表l每隔半小時系統(tǒng)會對SmartCache資源池中的數(shù)據(jù)塊和機械硬盤中開啟該功能的LUN中的數(shù)據(jù)塊按照訪問量大小排序l系統(tǒng)根據(jù)該排序列表將排名靠前的數(shù)據(jù)更新至SmartCache中，若SmartCache中原有的數(shù)據(jù)塊訪問量排名仍然在前面，則保留不進行更新l主機讀IO時，若全命中SmartCache中的塊，則從SmartCache中讀取l讀IO不全命中SmartCache時，仍然從機械硬盤中讀取l機械硬盤中的數(shù)據(jù)更新時

28、，SmartCache中對應(yīng)該機械硬盤中的熱點數(shù)據(jù)同步進行更新HDDHDDLUN編號塊編號訪問量LUN115LUN1211LUN1324LUN213LUN2210LUN231讀IO寫IOHDDHDDHDDHDDSSDSSD1 12 2SSDSSD3 34 4LUN1LUN1LUN2LUN21 12 23 31 12 23 31LUN13242LUN12113LUN22104LUN1155LUN22106LUN1152LUN12153LUN21124LUN23112 21 12 23 31 12 23 31 13 3SmartCacheSmartCache實現(xiàn)原理實現(xiàn)原理Copyright 20

29、10 Huawei Technologies Co., Ltd. All rights reserved. Page 36動態(tài)優(yōu)先級控制技術(shù)動態(tài)優(yōu)先級控制技術(shù)動態(tài)流優(yōu)先級控制技術(shù)l業(yè)務(wù)流類型p主機業(yè)務(wù)流p陣列重構(gòu)流l存儲控制器側(cè)p存儲控制器在任務(wù)處理時，保證主機IO任務(wù)得到優(yōu)先處理p嚴格限制陣列重構(gòu)流的資源占用l技術(shù)優(yōu)勢p盡量降低其他流對主機業(yè)務(wù)流的影響p合理的資源分配，從整體上保持各個業(yè)務(wù)流都可以得到調(diào)度，避免有些流得不到系統(tǒng)資源p與硬盤預拷貝技術(shù)結(jié)合，可以充分降低陣列重構(gòu)對主機性能的影響IP/FC SANIP/FC SAN控制器控制器硬盤硬盤控制器進行動態(tài)流優(yōu)先級控制未使用動態(tài)流優(yōu)先級控制

30、技術(shù)1 12 2主機業(yè)務(wù)流優(yōu)先得到處理，嚴格限制陣列重構(gòu)流的資源占用3 3主機業(yè)務(wù)流陣列重構(gòu)流Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 37目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)性能問題診斷和性能調(diào)優(yōu) 3.1 性能調(diào)優(yōu)簡介性能調(diào)優(yōu)簡介 3.2 性能調(diào)優(yōu)概述 3.3 存儲側(cè)性能調(diào)優(yōu) 3.4 主機側(cè)性能調(diào)優(yōu) 3.5 性能調(diào)優(yōu)案例 l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologie

31、s Co., Ltd. All rights reserved. Page 38性能調(diào)優(yōu)簡介性能的決定因素系統(tǒng)的性能是由系統(tǒng)中出現(xiàn)短板的環(huán)節(jié)決定的性能短板更多表現(xiàn)在硬件資源和針對請求軟件并發(fā)限制上但短板環(huán)節(jié)并不一定是造成性能瓶頸的元兇, 系統(tǒng)業(yè)務(wù)流程上的處理機制，已經(jīng)為短板的出現(xiàn)埋下了伏筆性能瓶頸的出現(xiàn)往往是由系統(tǒng)架構(gòu)和軟件設(shè)計決定的Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 39性能調(diào)優(yōu)簡介Copyright 2010 Huawei Technologies Co., Ltd. All righ

32、ts reserved. Page 40性能調(diào)優(yōu)簡介l主要硬件資源Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 41目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)性能問題診斷和性能調(diào)優(yōu) 3.1 性能調(diào)優(yōu)簡介 3.2 性能調(diào)優(yōu)概述性能調(diào)優(yōu)概述 3.3 存儲側(cè)性能調(diào)優(yōu) 3.4 主機側(cè)性能調(diào)優(yōu) 3.5 性能調(diào)優(yōu)案例 l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. Al

33、l rights reserved. Page 42性能調(diào)優(yōu)概述成本分析架構(gòu)優(yōu)化架構(gòu)優(yōu)化硬件升級硬件升級代碼優(yōu)化代碼優(yōu)化配置調(diào)優(yōu)配置調(diào)優(yōu)調(diào)優(yōu)順序調(diào)優(yōu)順序成本最高最有成效成本最低但是收效最少Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 43性能調(diào)優(yōu)概述調(diào)優(yōu)流程Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 44性能調(diào)優(yōu)概述配置調(diào)優(yōu)思路Copyright 2010 Huawei Technologies Co.

34、, Ltd. All rights reserved. Page 45目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)性能問題診斷和性能調(diào)優(yōu) 3.1 性能調(diào)優(yōu)簡介 3.2 性能調(diào)優(yōu)概述 3.3 存儲側(cè)性能調(diào)優(yōu)存儲側(cè)性能調(diào)優(yōu) 3.4 主機側(cè)性能調(diào)優(yōu) 3.5 性能調(diào)優(yōu)案例 l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 46存儲側(cè)性能調(diào)優(yōu)l檢查主機對IO的拆分情況；l明確主機能支持的最大IO大小。l明確主機最大

35、能支持的IO并發(fā)數(shù)；l確認主機是否正常把壓力傳遞給存儲。找準調(diào)優(yōu)方向，明確瓶頸是否在主機側(cè)IO的大小的大小IO并發(fā)數(shù)并發(fā)數(shù)l檢查瓶頸是否由主機造成Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 47存儲側(cè)性能調(diào)優(yōu) RAID類型選擇l存儲主流RAID類型選擇lLUN歸屬時，需考慮控制器負載均衡RAID級別級別應(yīng)用場景應(yīng)用場景RAID 10OLTP、Email、Database等RAID 5Backup、IPTV、視頻監(jiān)控等RAID 6對數(shù)據(jù)可靠性有較高要求的應(yīng)用Copyright 2010 Huawei

36、 Technologies Co., Ltd. All rights reserved. Page 48存儲側(cè)性能調(diào)優(yōu) CACHE策略選擇lCACHE策略選擇RAID級別級別推薦配置推薦配置讀策略順序業(yè)務(wù)推薦開啟預取，預取窗口根據(jù)實際情況調(diào)整明確的純隨機隨機業(yè)務(wù)推薦關(guān)閉預取IO特性較復雜的業(yè)務(wù)推薦采用自適應(yīng)的預取策略寫策略如無特殊需求，建議采用回寫Cache高低水位建議根據(jù)實際情況調(diào)整Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 49存儲側(cè)性能調(diào)優(yōu)網(wǎng)絡(luò)優(yōu)化l存儲與服務(wù)器相連網(wǎng)絡(luò)交換設(shè)備調(diào)整p為避免存

37、儲系統(tǒng)與服務(wù)器間的網(wǎng)絡(luò)傳輸通道成為瓶頸或受到其他業(yè)務(wù)干擾，最佳情況下建議采 用直連或搭建私有網(wǎng)絡(luò)將其與服務(wù)器連接；p保證網(wǎng)絡(luò)連接類型和端口數(shù)與實際業(yè)務(wù)需求性能匹配如下是常見物理通道實測的最大帶寬。端口類型端口類型 最大帶寬最大帶寬 1Gbps iSCSI口 120MB/s左右4Gbps FC接口 780MB/s左右 （其中最大讀、寫帶寬各390MB/s左右）43Gbps SAS接口 1200MB/s左右Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 50存儲側(cè)性能調(diào)優(yōu)磁盤優(yōu)化不同類型磁盤單盤性能差異傳

38、統(tǒng)硬盤內(nèi)外道性能差異磁盤內(nèi)外道順序性能對比磁盤內(nèi)外道隨機性能對比Performance OverviewSATA硬盤硬盤7200 RPMSAS硬盤硬盤15K RPMFC 硬盤硬盤15K RPMSSD SLCSequential Read133 MB/s152 MB/s161 MB/s255 MB/sSequential Write130 MB/s152 MB/s161 MB/s200 MB/sRandom Read I/OPS8K12340134530,000Random Write I/OPS8K1073272975,500Copyright 2010 Huawei Technologies

39、 Co., Ltd. All rights reserved. Page 51目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)性能問題診斷和性能調(diào)優(yōu) 3.1 性能調(diào)優(yōu)簡介 3.2 性能調(diào)優(yōu)概述 3.3 存儲側(cè)性能調(diào)優(yōu) 3.4 主機側(cè)性能調(diào)優(yōu)主機側(cè)性能調(diào)優(yōu) 3.5 性能調(diào)優(yōu)案例 l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 52主機側(cè)性能調(diào)優(yōu)文件系統(tǒng)l文件系統(tǒng)容器主要負責處理由上層模塊下發(fā)的針對文件或目錄的

40、操作l選擇恰當?shù)奈募到y(tǒng)業(yè)務(wù)場景業(yè)務(wù)場景具體業(yè)務(wù)具體業(yè)務(wù)適用文件系統(tǒng)適用文件系統(tǒng)小文件，隨機操作database server，Mail server，小規(guī)模電子商務(wù)系統(tǒng)，金融系統(tǒng)Ext3，Reiserfs大文件，多路順序讀Video server，XFS大文件，多路順序?qū)懸曨l監(jiān)控系統(tǒng)XFS服務(wù)器服務(wù)器CPU個數(shù)個數(shù)適用文件系統(tǒng)適用文件系統(tǒng)8XFSCopyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 53主機側(cè)性能調(diào)優(yōu)卷管理模塊l卷管理模塊能對存儲映射的多個LUN進行條帶化操作，確保業(yè)務(wù)負載均勻的分擔到不同

41、的LUN上，同時還可設(shè)定相應(yīng)的RAID級別，保證數(shù)據(jù)可靠性l建議在創(chuàng)建LVM卷時，保證所有LUN的分條一致，容量相等，磁盤數(shù)相等，RAID級別一樣，并歸屬不同的存儲控制器，所有LUN分條大小等于LVM分條單元大小，做到負載均衡。l用戶下發(fā)的請求從數(shù)據(jù)容器到達卷管理與塊設(shè)備模塊時，已被拆分為多個實際的讀寫IO請求這些IO請求有的負責索引節(jié)點的查找，有的負責實際數(shù)據(jù)的訪問，還有的則負責日志文件的記錄卷管理模塊調(diào)優(yōu)Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 54主機側(cè)性能調(diào)優(yōu)多路徑優(yōu)化l多路徑模塊:p多

42、路徑模塊用來控制對存儲設(shè)備的訪問，實現(xiàn)服務(wù)器到存儲設(shè)備之間的路徑p選擇，提高主機與存儲設(shè)備之間的路徑可靠性與性能。l 一般包含如下策略: 選路策略選路策略策略說明策略說明適用場景適用場景ROUND_ROBIN靜態(tài)負載均衡，輪流在最優(yōu)路徑上下發(fā)I/O，以減小單條路徑的I/O負荷適用于I/O負載較小的應(yīng)用最小隊列深度動態(tài)負載均，優(yōu)先選擇下發(fā)I/O過程中未完成I/O數(shù)量最少的路徑下發(fā)I/O適用于I/O負載較大且對I/O延遲有較高需求的應(yīng)用，如OLTP應(yīng)用最小數(shù)據(jù)量動態(tài)負載均，優(yōu)先選擇數(shù)據(jù)量最小的路徑下發(fā)I/O適用于I/O負載較大且對傳輸帶寬有較高需求的應(yīng)用，如OLAP及Multimedia應(yīng)用Cop

43、yright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 55主機側(cè)性能調(diào)優(yōu)HBA卡優(yōu)化l HBA卡模塊:pHBA卡模塊負責IO向存儲的下發(fā)，需要重點關(guān)注如下四個指標：性能指標性能指標指標描述指標描述4G FC HBA卡性能狀況卡性能狀況最大并發(fā)數(shù)用于描述HBA卡在一個時間片能傳輸?shù)淖畲驣O數(shù)該參數(shù)可調(diào)，建議調(diào)整為最大，避免IO在HBA卡模塊出現(xiàn)阻塞1.單口最大并發(fā)為2562.可通過Execution Throttle參數(shù)調(diào)整最大IO大小HBA卡在不拆分IO的情況下，最大可發(fā)送的IO大小1.通常為MB2.可通過Fra

44、me Size參數(shù)調(diào)整最大帶寬輸出描述HBA卡單口最大的帶寬輸出需要根據(jù)實際應(yīng)用的存儲帶寬需求，動態(tài)添加HBA卡和網(wǎng)絡(luò)連接端口數(shù)4G FC HBA卡單口單向帶寬為390MB左右最大IOPS輸出描述HBA卡單口最大的IOPS輸出需要根據(jù)實際應(yīng)用的存儲IOPS需求，動態(tài)添加HBA卡和網(wǎng)絡(luò)連接端口數(shù)4G FC HBA卡單口IOPS輸出為20萬Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 56目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)性能問題診斷和性能調(diào)優(yōu) 3.1 性能調(diào)優(yōu)簡介 3

45、.2 性能調(diào)優(yōu)概述 3.3 存儲側(cè)性能調(diào)優(yōu) 3.4 主機側(cè)性能調(diào)優(yōu) 3.5 性能調(diào)優(yōu)案例性能調(diào)優(yōu)案例 l性能測試工具和方法lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 57案例l某視頻點播項目，業(yè)務(wù)特點是多路順序讀，重點關(guān)注的是在畫面流暢情況下所最大能支持的視頻監(jiān)控的路數(shù)。l組網(wǎng)如右圖所示：Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 58案例l優(yōu)化

46、前的存儲配置說明：l測試結(jié)果：最多支持1600路視頻信號，離客戶需求差距很遠。RAID類型RAID5硬盤數(shù) 11個成員盤+1個熱備盤單盤容量 300G硬盤類型 SASLUN個數(shù) 1LUN分條深度256K Cache預取策略不預取Cache寫策略回寫；不鏡像Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 59案例l使用存儲自帶IO特性分析工具得出如下結(jié)論： IO分布較隨機，但仍然有部分IO是連續(xù)下發(fā)的。l調(diào)整預取策略:l調(diào)整之后的測試結(jié)果為：最多支持1800路視頻信號；有一定的提升，但是仍然達不到客戶的

47、需求。Cache預取策略預取策略可變預取: 4倍Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 60案例l再獲取更多的IO特性，仔細分析后發(fā)現(xiàn)連續(xù)的IO的規(guī)律性并不是太強，那么使用可變預取將會導致部分預取的IO實際并不可用。l由于智能預取在IO離散的時候并不會啟動預取，因此更加適用于視頻點播場景，將預取算法更改為智能預取。l調(diào)整之后的測試結(jié)果為：最多支持接近2000路視頻信號；性能進一步得到提升，離客戶需求的差距越來越小。Cache預取策略預取策略智能預取Copyright 2010 Huawei T

48、echnologies Co., Ltd. All rights reserved. Page 61目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法性能測試工具和方法 4.1 IO性能測試性能測試 4.2 業(yè)務(wù)場景測試 4.3 性能基準測試lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 62測試工具分類IO測試工具測試工具業(yè)務(wù)測試工具業(yè)務(wù)測試工具基準測試工具基準測試工具Copyright 2010 Huaw

49、ei Technologies Co., Ltd. All rights reserved. Page 63IO性能測試測試工具測試工具適用范圍適用范圍缺陷缺陷Iometer適用操作系統(tǒng)：Windows,Linux,Solaris,Netware,Mac OSX適用場景：提供非常全面的IO特性配置參數(shù),可作為IO壓力測試工具，能在IO層面模擬一些簡單的業(yè)務(wù)場景,支持聯(lián)機測試1.Linux存在異步IO壓力不足的問題2.無法進行數(shù)據(jù)一致性驗證3.聯(lián)機測試中容易出錯XDD適用操作系統(tǒng)：Windows,Linux,Solaris,Mac OSX,AIX,HP UNIX,IRIX適用場景：可作為IO壓力

50、測試工具,目前在AIX下使用最多1.存在一些兼容性bug,在某些主機或操作系統(tǒng)上運行會報錯2.無法設(shè)置測試時間3.測試時工具本身有一些性能波動4.不支持聯(lián)機測試IORate適用操作系統(tǒng)：Linux,Solaris,AIX,HP UNIX適用場景：可作為IO壓力測試工具，可以模擬相同IO特性的不同壓力等級1.IO特性配置參數(shù)不夠豐富2.不支持在Windows平臺上測試3.不支持聯(lián)機測試Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 64IO性能測試IOmeter訪問IOmeter官方網(wǎng)站Copyrigh

51、t 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 65IO性能測試IOmeterl測試范圍設(shè)置Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 66IO性能測試IOmeterl測試用例配置Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 67IOmeter測試時間設(shè)置l測試時間設(shè)置Copyright 2010 Huawei Technol

52、ogies Co., Ltd. All rights reserved. Page 68IOmeter測試結(jié)果查詢l測試結(jié)果查詢Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 69目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法性能測試工具和方法 4.1 IO性能測試 4.2 業(yè)務(wù)場景測試業(yè)務(wù)場景測試 4.3 性能基準測試lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd

53、. All rights reserved. Page 70業(yè)務(wù)場景測試測試工具測試工具 適用范圍適用范圍 缺陷缺陷 IOZone 適用操作系統(tǒng)：Windows,Linux適用場景：測試不同類型文件系統(tǒng)在Read, write, re-read, re-write, read backwards, read strided, fread, fwrite, random read, pread ,mmap, aio_read, aio_write 時的性能狀況測試對象：文件系統(tǒng)，計算機CPU，內(nèi)存和存儲設(shè)備1.只能作為測試存儲產(chǎn)品與特定主機和文件系統(tǒng)搭配時的性能測試工具，基本不具備場景模擬功能2

54、.不具備對文件創(chuàng)建刪除遍列和對目錄操作的能力3.無法聯(lián)機測試4.不具備數(shù)據(jù)一致性校驗能力Postmark適用操作系統(tǒng)：Windows,Linux,Solaris適用場景：Email Server，小文件應(yīng)用場景和文件系統(tǒng)老化測試測試對象：文件系統(tǒng)，計算機CPU，內(nèi)存和存儲設(shè)備1.單線程程序，壓力不充分2.通過隨機函數(shù)實現(xiàn)文件的讀/寫及創(chuàng)建/刪除，操作不可控，不具備目錄操作能力3.只適用于小文件操作場景的模擬4.無法聯(lián)機測試5.不具備數(shù)據(jù)一致性校驗能力Boine+ 適用操作系統(tǒng)：Linux和UNIX相關(guān)平臺適用場景：測試文件各種讀寫方式性能，測試大量文件創(chuàng)建刪除測試對象：主要是文件系統(tǒng)和存儲設(shè)備

55、類似IOZone，但支持的文件操作和可控操作比IOZone更少一般不使用OrionOracle性能測試基準工具，針對Oracle數(shù)據(jù)的OLTP，Backup和OLTP+Backup混合業(yè)務(wù)進行模擬無須安裝oracle數(shù)據(jù)庫即可用于測試存儲在oracle下的性能1.無法聯(lián)機測試2.無法模擬Oracle各特定區(qū)域的IO特性Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 71IOZONE安裝和使用安裝lIozone在windows操作系統(tǒng)下的安裝界面按照軟件的提示默認安裝。lWindows系統(tǒng)默認安裝在 C

56、:Program FilesBenchmarks目錄下。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 72IOZONE安裝和使用使用l典型的測試命令./iozone -a -n 1g -g 4g -i 0 -i 1 -i 5 -f /mnt/iozone -Rb ./iozone.xls l進行全面測試.最小測試文件為1g直到測試到4G.測試read,write,和Strided Read.l測試的地方在mnt下，生成Excel的文件. 具體參數(shù)代表的含義可以參考相應(yīng)的文檔和資料測試的時候請注意，設(shè)

57、置的測試文件的大小一定要大過你的內(nèi)存(最佳為內(nèi)存的兩倍大小)，否則可能會使數(shù)值非常不真實。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 73業(yè)務(wù)場景測試OrionlOrion是一款由Oracle公司提供，專門用于模擬數(shù)據(jù)庫運行機制來測試存儲的IO負載工具，可以在不運行Oracle數(shù)據(jù)庫的情況下，仿真OLTP（在線事務(wù)處理）、OLAP（數(shù)據(jù)備份、數(shù)據(jù)恢復）業(yè)務(wù)；lOrion可以在oracle的官方網(wǎng)站上下載；loracle不對orion進行技術(shù)支持。Copyright 2010 Huawei Tech

58、nologies Co., Ltd. All rights reserved. Page 74Orion安裝Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 75Orion使用l典型配置命令C:Program Files (x86)OracleOrionorion -run simple -testname dave -num_disks 1l結(jié)果文件的查看，請參考相應(yīng)的資料和文檔Copyright 2010 Huawei Technologies Co., Ltd. All rights reserv

59、ed. Page 76目錄l性能指標和IO流程l影響性能的關(guān)鍵因素l性能問題診斷和性能調(diào)優(yōu)l性能測試工具和方法性能測試工具和方法 4.1 IO性能測試 4.2 業(yè)務(wù)場景測試 4.3 性能基準測試性能基準測試 lSAN存儲系統(tǒng)常見性能故障排除存儲系統(tǒng)常見性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 77性能測試基準測試工具測試工具 工具描述工具描述 SPC-1SPC-1性能基準配套測試工具用于評估存儲產(chǎn)品在OLTPEmailDatabase三種應(yīng)用場景下的性能狀況SPC-2SPC-2性能基

60、準配套測試工具用于評估存儲產(chǎn)品在BackupVODOLAP三種應(yīng)用場景下的性能狀況SPC-3SPC-3BR:基于存儲管理軟件的性能測試基準，度量數(shù)據(jù)備份和恢復的性能，該基準暫未正式公布SPC-3ILM:基于存儲管理軟件的性能測試基準，度量多存儲系統(tǒng)節(jié)點所組成的大型存儲解決方案的性能目前該基準還處于構(gòu)想階段TPC-C 構(gòu)造一個典型的批發(fā)商應(yīng)用模型，驗證由服務(wù)器、數(shù)據(jù)庫、存儲所搭建的一整套業(yè)務(wù)系統(tǒng)在OLTP業(yè)務(wù)下的性能TPC-C規(guī)范只提供了規(guī)范和工具的實現(xiàn)方式，并未提供實際測試工具 SPEC-SFS2008 驗證服務(wù)器和存儲搭建的業(yè)務(wù)系統(tǒng)在NAS業(yè)務(wù)下的性能.支持CIFS和NFSCopyright