HCNPCBDS產(chǎn)品組網(wǎng)規(guī)劃和性能調(diào)優(yōu)性能調(diào)優(yōu)

產(chǎn)品組網(wǎng)規(guī)劃和性能調(diào)優(yōu)-性能調(diào)優(yōu)

2目標(biāo)學(xué)完本課程后，您將能夠：掌握OceanStor9000典型組網(wǎng)類型和應(yīng)用場景。掌握10GE組網(wǎng)典型部署方案。掌握IB組網(wǎng)典型部署方案。了解產(chǎn)品組網(wǎng)助手工具使用方法。了解OceanStor9000各項(xiàng)性能指標(biāo)。掌握影響OceanStor9000性能的主要因素。了解性能監(jiān)控工具OceanStorSystemReporter。掌握OceanStor9000通用的調(diào)優(yōu)方法。3性能指標(biāo)及性能監(jiān)控工具影響性能的因素及調(diào)優(yōu)思路性能調(diào)優(yōu)方法4性能指標(biāo)OceanStor9000的性能主要由OPS和帶寬來衡量，小文件場景關(guān)注OPS，大文件場景關(guān)注帶寬。OPS：即每秒操作次數(shù)，指OceanStor9000每秒可以處理客戶端業(yè)務(wù)請求的個數(shù)，如讀、寫，此處統(tǒng)計與IOPS(Input/OutputOperationsPerSecond)每秒進(jìn)行讀寫操作的次數(shù)的含義相同。帶寬：指OceanStor9000每秒的吞吐量，即每秒可以完成讀/寫的數(shù)據(jù)量，單位為MB/s。5性能監(jiān)控工具—Devicemanager6性能監(jiān)控工具—SystemReporterOceanStor9000提供專用性能與容量報表分析工具OceanStorSystemReporter。該報表分析工具為可選安裝組件，且無License限制。7性能監(jiān)控指標(biāo)SystemReporter實(shí)時的采集資源對象的相關(guān)性能指標(biāo)數(shù)值后，經(jīng)過分析處理呈現(xiàn)在界面上。資源對象包括：集群、節(jié)點(diǎn)、網(wǎng)口、硬盤、客戶端。資源對象性能指標(biāo)集群平均CPU利用率、最大CPU利用率、平均內(nèi)存利用率、最大內(nèi)存利用率帶寬、寫帶寬、讀帶寬、總?cè)萘?、已用容量、空閑容量、容量利用率已連接客戶端數(shù)量、NFS已連接客戶端數(shù)量、CIFS已連接客戶端數(shù)量節(jié)點(diǎn)平均CPU利用率、平均內(nèi)存利用率帶寬、寫帶寬、讀帶寬總?cè)萘俊⒁延萌萘?、空閑容量、容量利用率NFS協(xié)議時延相關(guān)指標(biāo)、CIFS協(xié)議時延相關(guān)指標(biāo)、NFS協(xié)議讀操作時延連續(xù)過大發(fā)生次數(shù)、CIFS協(xié)議讀操作時延連續(xù)過大發(fā)生次數(shù)已連接客戶端數(shù)量、NFS已連接客戶端數(shù)量、CIFS已連接客戶端數(shù)量吞吐量、讀吞吐量、寫吞吐量、總IOPS、讀IOPS、寫IOPS8性能監(jiān)控指標(biāo)(續(xù))資源對象性能指標(biāo)網(wǎng)口帶寬、寫帶寬、讀帶寬網(wǎng)絡(luò)包流速、網(wǎng)絡(luò)包入流速、網(wǎng)絡(luò)包出流速、利用率硬盤吞吐量、讀吞吐量、寫吞吐量總IOPS、讀IOPS、寫IOPS平均I/O響應(yīng)時間、平均讀I/O響應(yīng)時間、平均寫I/O響應(yīng)時間、平均I/O大小、寫I/O平均大小、讀I/O平均大小利用率、隊(duì)列長度、繁忙度客戶端帶寬、寫帶寬、讀帶寬、OPS、讀OPS、寫OPS時延相關(guān)指標(biāo)協(xié)議讀操作時延連續(xù)過大發(fā)生次數(shù)客戶端文件訪問量協(xié)議類型、文件寫入總量、文件下載總量文件類型、文件讀取次數(shù)、文件寫入次數(shù)、文件下載次數(shù)、文件讀取總量9報表功能類型功能預(yù)置報表系統(tǒng)已預(yù)定義的常用報表統(tǒng)計項(xiàng)。管理員在首頁的控制面板中選擇要查看的預(yù)置報表后，即可在每次登錄后在首頁快速查看這些報表數(shù)據(jù)。自定義報表指管理員自行選擇、組合感興趣的性能指標(biāo)后，生成的性能和容量報表。自定義報表可對資源對象和統(tǒng)計時段進(jìn)行自定義。任務(wù)報表利用自定義報表、輔助周期執(zhí)行策略，定期執(zhí)行用戶關(guān)心的性能與容量報表，并將報表執(zhí)行結(jié)果自動發(fā)送到指定管理員。10報表示例-覽-熱點(diǎn)報表11報表示例-集群實(shí)時監(jiān)控報表12報表示例-網(wǎng)口實(shí)時監(jiān)控報表13報表示例-客戶端實(shí)時監(jiān)控報表14性能指標(biāo)及性能監(jiān)控工具影響性能的因素及調(diào)優(yōu)思路性能調(diào)優(yōu)方法15業(yè)務(wù)處理流程客戶端的讀寫請求業(yè)務(wù)的處理流程為：“客戶端>業(yè)務(wù)網(wǎng)絡(luò)>OceanStor9000節(jié)點(diǎn)”，性能分析可以根據(jù)數(shù)據(jù)的處理流程，逐一分析。OceanStor9000的整體性能主要受到客戶端配置，網(wǎng)絡(luò)狀況，系統(tǒng)配置的影響。16影響性能的因素和調(diào)優(yōu)思路客戶端因素：業(yè)務(wù)應(yīng)用特征因素配置因素網(wǎng)絡(luò)因素：包括速率協(xié)商，延時，丟包等。OceanStor9000配置因素OceanStor9000節(jié)點(diǎn)硬件配置OceanStor9000的文件系統(tǒng)的配置調(diào)優(yōu)思路：做性能分析調(diào)整的時候，需要根據(jù)性能監(jiān)控工具的監(jiān)控結(jié)果，按照“排除外部干擾因素，優(yōu)化配置”的順序逐一調(diào)整，然后觀測性能監(jiān)控工具的報表監(jiān)控調(diào)整后的結(jié)果。17性能指標(biāo)及性能監(jiān)控工具影響性能的因素及調(diào)優(yōu)思路性能調(diào)優(yōu)方法18網(wǎng)絡(luò)調(diào)優(yōu)-ifconfig網(wǎng)絡(luò)調(diào)優(yōu)需要從存儲節(jié)點(diǎn)、客戶端、交換機(jī)三個方面進(jìn)行檢查和調(diào)整。存儲節(jié)點(diǎn)和客戶端的調(diào)優(yōu)主要方法有：ifconfig,ethtool,Ping三個命令ifconfig查看接口狀態(tài)是否正常。查看IP地址是否正常?！癳rrors”、“overruns”、“frame”計數(shù)應(yīng)該為0。B3-0、A0-0收發(fā)包數(shù)差距應(yīng)該很小。19網(wǎng)絡(luò)調(diào)優(yōu)-ethtoolethtool：主要看“Speed”速率協(xié)商是否是網(wǎng)口對應(yīng)速率，“Linkdetected”是否為yes，“duplex”是否是full。20網(wǎng)絡(luò)調(diào)優(yōu)-ethtool(續(xù))ethtool

-i

A0-1：看網(wǎng)口驅(qū)動版本，可以識別接口類型和廠商，比如cxgb4是Chelsio卡，ixgbe是Intel10GE卡。lspci|grepEther：確認(rèn)用的是什么型號的網(wǎng)卡。21網(wǎng)絡(luò)調(diào)優(yōu)-Ping指定地址ping：ping-I出接口地址目的地址10GE網(wǎng)絡(luò)直連，部署前ping延時0.03ms左右，部署后0.05-0.08ms左右，如果有ping經(jīng)常超過0.5ms需檢查線纜、光模塊、光纖、網(wǎng)卡。22網(wǎng)絡(luò)調(diào)優(yōu)-交換機(jī)調(diào)優(yōu)交換機(jī)側(cè)主要介紹三條命令檢測網(wǎng)絡(luò)。displayinter10ge1/0/16能看到接口統(tǒng)計數(shù)，查看交換機(jī)是否記錄接口丟包，此處僅為舉例，實(shí)際應(yīng)用中找到對應(yīng)連接的交換機(jī)接口。displaytrapbuf：確認(rèn)交換機(jī)發(fā)送的trap有沒有異常，比如up和down。displaylogbuf：如果看到關(guān)注的接口有頻繁up和down，或者這個交換機(jī)中有大量的stpforwarding和discarding，要關(guān)注后端組網(wǎng)是否存在環(huán)路，是否不斷有存儲節(jié)點(diǎn)上線下線。23網(wǎng)絡(luò)調(diào)優(yōu)-交換機(jī)調(diào)優(yōu)交換機(jī)側(cè)主要介紹三條命令檢測網(wǎng)絡(luò)。displayinter10ge1/0/16能看到接口統(tǒng)計數(shù)，查看交換機(jī)是否記錄接口丟包，此處僅為舉例，實(shí)際應(yīng)用中找到對應(yīng)連接的交換機(jī)接口。displaytrapbuf：確認(rèn)交換機(jī)發(fā)送的trap有沒有異常，比如up和down。displaylogbuf：如果看到關(guān)注的接口有頻繁up和down，或者這個交換機(jī)中有大量的stpforwarding和discarding，要關(guān)注后端組網(wǎng)是否存在環(huán)路，是否不斷有存儲節(jié)點(diǎn)上線下線。24OceanStor9000配置調(diào)優(yōu)OceanStor9000側(cè)的配置調(diào)優(yōu)包括：分析與調(diào)整NAS服務(wù)參數(shù)分析與調(diào)整客戶端接入負(fù)載分配分析與調(diào)整熱點(diǎn)數(shù)據(jù)布局分析與調(diào)整冗余配比（數(shù)據(jù)保護(hù)級別）和條帶大小后臺任務(wù)對性能有影響，請避開業(yè)務(wù)繁忙階段啟動。25分析與調(diào)整NAS服務(wù)參數(shù)參數(shù)名稱影響范圍參數(shù)描述調(diào)整建議NFS傳輸塊大小NFS文件共享在NFS文件共享中，NFS客戶端與OceanStor9000之間單次業(yè)務(wù)請求中攜帶的數(shù)據(jù)塊大小。該值過小，將增加交互次數(shù)；該值過大，將浪費(fèi)交互雙方的資源。因此，請分析需要存儲到OceanStor9000中的文件大小比例得出存儲文件模型，然后選取一個合適大小的數(shù)值。如有必要，可嘗試多次后依據(jù)業(yè)務(wù)表現(xiàn)選定。調(diào)整傳輸塊大小需要同時調(diào)整客戶端和OceanStor9000端。如不一致，則以雙方所設(shè)置值中的最小值為準(zhǔn)。由于OceanStor9000中該參數(shù)值缺省已被設(shè)置為最大值，因此僅需要將客戶端該參數(shù)值調(diào)整為目標(biāo)值。CIFS傳輸塊大小CIFS文件共享在CIFS文件共享中，CIFS客戶端與OceanStor9000之間單次業(yè)務(wù)請求中攜帶的數(shù)據(jù)塊大小。26分析與調(diào)整NAS服務(wù)參數(shù)（續(xù)）參數(shù)名稱影響范圍參數(shù)描述調(diào)整建議Notify啟用CIFS文件共享勾選后，一個客戶端針對一個目錄內(nèi)的變更操作（如新增目錄、新增文件、修改目錄、修改文件等），可被其他正在訪問此目錄及其父目錄的客戶端感知，如自動刷新顯示。如果無需啟用此功能，請去勾選此參數(shù)。注意：關(guān)閉Notify變更通知會導(dǎo)致一些應(yīng)用無法感知文件變化。簽名啟用CIFS文件共享當(dāng)客戶端采用SMB1.0時有效，勾選后OceanStor9000將支持簽名功能；對SMB1.0后續(xù)版本，OceanStor9000固定支持簽名功能。是否實(shí)際采用簽名功能，還受客戶端注冊表設(shè)置影響。如未更改注冊表設(shè)置，則缺省不采用此功能。采用簽名功能后，發(fā)送方將針對待發(fā)送報文計算并生成校驗(yàn)數(shù)據(jù)，然后一并發(fā)送給接收方，接收方通過算法確認(rèn)所接收報文的數(shù)據(jù)完整性與有效性。如果無需啟用此功能，請去勾選這兩個參數(shù)。如果客戶端已設(shè)置啟用該功能，請同時恢復(fù)為缺省設(shè)置。強(qiáng)制簽名CIFS文件共享勾選后，將強(qiáng)制要求客戶端采用簽名功能。如客戶端不設(shè)置為啟用狀態(tài)，則OceanStor9000將拒絕此客戶端的數(shù)據(jù)訪問請求。27分析與調(diào)整NAS服務(wù)參數(shù)（續(xù)）參數(shù)名稱影響范圍參數(shù)描述調(diào)整建議訪問時間跟蹤NFS文件共享、CIFS文件共享即每次讀取文件時將更新讀取時間。缺省處于啟用狀態(tài)。如果無需啟用此功能，則可關(guān)閉此功能以提升性能。注意：關(guān)閉“訪問時間跟蹤”會導(dǎo)致一些應(yīng)用無法感知文件變化，比如應(yīng)用基于“最后一次訪問時間”的文件遷移功能，就不能關(guān)閉此功能。28分析與調(diào)整客戶端接入負(fù)載分配InfoEqualizer特性可讓NFS/CIFS客戶端連接以負(fù)載均衡方式分配給多個存儲節(jié)點(diǎn)處理。當(dāng)客戶端接入負(fù)載分配不均時，通過調(diào)整InfoEqualizer配置可提升系統(tǒng)性能。29接入負(fù)載分配調(diào)整流程步驟通過收集客戶端應(yīng)用需求并持續(xù)觀察在線客戶端數(shù)據(jù)，分析是否存在負(fù)載分配不均的情況。例如，極端情況下所有客戶端未采用分配的域名，而直接以某個存儲節(jié)點(diǎn)的IP地址接入OceanStor9000，將導(dǎo)致該存儲節(jié)點(diǎn)成為性能瓶頸。如果存在分配不均的情況，需要根據(jù)收集到的各客戶端負(fù)載數(shù)據(jù)規(guī)劃分區(qū)，為每個分區(qū)選擇合適的負(fù)載均衡策略，然后為每個客戶端分配對應(yīng)分區(qū)的訪問域名。步驟為：登錄DeviceManager觀測各節(jié)點(diǎn)負(fù)載情況調(diào)整分區(qū)在各客戶端中卸載已共享目錄并以分配的域名重新掛載30接入負(fù)載分配調(diào)整-觀測各節(jié)點(diǎn)負(fù)載正?，F(xiàn)象：單個節(jié)點(diǎn)的讀寫帶寬都在性能規(guī)格的60%以下無需關(guān)注，此時的業(yè)務(wù)壓力不足，各節(jié)點(diǎn)負(fù)載不均是正?，F(xiàn)象。單個節(jié)點(diǎn)的CPU利用率都在60%以下無需關(guān)注，此時的業(yè)務(wù)壓力不足，各節(jié)點(diǎn)負(fù)載不均是正?，F(xiàn)象。需要調(diào)整分區(qū)：單個節(jié)點(diǎn)的讀寫帶寬達(dá)到性能規(guī)格的80%，而其它節(jié)點(diǎn)的讀寫帶寬還在性能規(guī)格的60%以下，此時出現(xiàn)了負(fù)載分配不均，需要調(diào)整分區(qū)。單個節(jié)點(diǎn)的CPU利用率達(dá)到80%，而其它節(jié)點(diǎn)的CPU利用率還在60%以下，此時出現(xiàn)了負(fù)載分配不均，需要調(diào)整分區(qū)。31接入負(fù)載分配調(diào)整-觀測各節(jié)點(diǎn)負(fù)載通過InfoEqualizer特性，調(diào)整負(fù)載策略遵循如下原則：單純是CPU利用率高，集群平均CPU負(fù)載超過60%時，建議設(shè)置為“CPU使用率”。單純是讀寫超過性能規(guī)格60%，建議設(shè)置為“節(jié)點(diǎn)吞吐量”。其它場景，建議設(shè)置為“節(jié)點(diǎn)綜合負(fù)載”。32分析與調(diào)整熱點(diǎn)數(shù)據(jù)布局思路：節(jié)點(diǎn)和硬盤讀寫性能存在差異，讀寫性能由高到低：P25NodeSSD硬盤>P25NodeSAS硬盤>P36NodeSATA硬盤>P12SATA硬盤>C36SATA硬盤。當(dāng)同時存在不同類型存儲節(jié)點(diǎn)時，如啟用了分級存儲功能，可通過定義文件池策略識別熱點(diǎn)數(shù)據(jù)，并將這些數(shù)據(jù)存放到由讀寫性能更好的節(jié)點(diǎn)組成的節(jié)點(diǎn)池或分級中；還可通過定義文件池策略識別熱點(diǎn)數(shù)據(jù)并將這些數(shù)據(jù)存放到SSD硬盤中，從而實(shí)現(xiàn)SSD加速功能；通過業(yè)務(wù)相關(guān)的分析來設(shè)置文件池策略，如果發(fā)現(xiàn)自己的業(yè)務(wù)特征變了，需要同步調(diào)整文件池策略。33分析與調(diào)整冗余配比和條帶大小當(dāng)目錄的冗余配比和條帶大小設(shè)置不當(dāng)時，通過調(diào)整設(shè)置可提升系統(tǒng)性能。條帶大小的不同，影響性能和硬盤利用率，區(qū)別在于數(shù)據(jù)切片時每個分片的大小。條帶越大，性能越好；反之，硬盤利用率越高。同等條件下，讀寫性能由高到低：冗余配比：N+1>N+2=N+2:1>N+3=N+3:1>N+4條帶：512KB>256KB>128KB>32KB>16KB34分析與調(diào)整冗余配比和條帶大小為保證性能和提升硬盤利用率，建議根據(jù)預(yù)期一個目錄內(nèi)平均文件大小設(shè)置條帶值。當(dāng)平均文件大小小于等于64KB時，設(shè)置條帶值為16KB。當(dāng)平均文件大小大于64KB且小于等于128KB時，設(shè)置條帶值為32KB。當(dāng)平均文件大小大于128KB且小于等于2048KB時，設(shè)置條帶值為128KB。當(dāng)平均文件大小大于2048KB且小于等于4096KB時，設(shè)置條帶值為256KB。當(dāng)平均文件大小大于4096KB時，設(shè)置條帶值為512KB。35客戶端調(diào)優(yōu)Linux客戶端的調(diào)整包括以下方面：TCP參數(shù)調(diào)整支持巨幀NFS并發(fā)數(shù)調(diào)整NFS掛載參數(shù)調(diào)整dirty_bytes參數(shù)調(diào)整Windows客戶端的調(diào)整包括以下方面：TCP參數(shù)調(diào)整支持巨幀CIFS讀寫大小設(shè)置下面將以Linux客戶端調(diào)整參數(shù)為例，說明客戶端參數(shù)調(diào)整方法。36Linux客戶端調(diào)優(yōu)-TCP參數(shù)調(diào)整和支持巨幀TCP參數(shù)調(diào)整：NFS使用TCP協(xié)議來進(jìn)行數(shù)據(jù)的收發(fā)，適當(dāng)增大緩存區(qū)大小可以加快TCP傳輸速度。在10GE網(wǎng)絡(luò)下，TCP收發(fā)緩存區(qū)大小建議增大為下述值，GE網(wǎng)絡(luò)下，可以不做調(diào)整。net.ipv4.tcp_rmem='4000000800000016000000'net.ipv4.tcp_wmem='4000000800000016000000’支持巨幀：開啟巨幀可以減少TCP損耗，提升性能。前提是要確認(rèn)從OceanStor9000前端網(wǎng)絡(luò)接口到客戶端接口之間所有網(wǎng)絡(luò)設(shè)備都要支持巨幀，而且MTU都要配置成匹配的值才可以使用該功能。為了支持巨幀，對應(yīng)的OceanStor9000所有節(jié)點(diǎn)同時也需要執(zhí)行該操作，將前端IP地址對應(yīng)的配置文件修改為MTU=‘9000’。37Linux客戶端調(diào)優(yōu)-NFS并發(fā)數(shù)和dirty_baytes參數(shù)調(diào)整NFS并發(fā)數(shù)調(diào)整：增大NFS協(xié)議客戶端與服務(wù)讀的并發(fā)消息處理數(shù)，同一時刻內(nèi)，可以將更多的客戶端請求傳遞