HC1209204 第四章 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管理2.0_第1頁(yè)
HC1209204 第四章 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管理2.0_第2頁(yè)
HC1209204 第四章 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管理2.0_第3頁(yè)
HC1209204 第四章 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管理2.0_第4頁(yè)
HC1209204 第四章 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管理2.0_第5頁(yè)
已閱讀5頁(yè),還剩120頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 0修訂記錄課程編碼課程編碼適用產(chǎn)品適用產(chǎn)品產(chǎn)品版本產(chǎn)品版本課程版本課程版本ISSUEHC1209204 OceanStor9000V1R1C00V2.0開發(fā)開發(fā)/優(yōu)化者優(yōu)化者時(shí)間時(shí)間審核人審核人開發(fā)類型(新開發(fā)開發(fā)類型(新開發(fā)/優(yōu)化)優(yōu)化)張博2013-09-20余雷新開發(fā)本頁(yè)不打印Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. HC1209204 大數(shù)據(jù)存儲(chǔ)系統(tǒng)部署與管

2、理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 2目標(biāo)l學(xué)完本課程后,您將能夠:p描述大數(shù)據(jù)存儲(chǔ)硬件組成和軟件特性p掌握9000系統(tǒng)典型組網(wǎng)p掌握9000軟硬件安裝p熟悉NFS和CIFS配置部署p熟悉Info系列特性原理與配置Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 3目錄1.1. 大數(shù)據(jù)存儲(chǔ)大數(shù)據(jù)存儲(chǔ) OceanStor9000OceanStor9000簡(jiǎn)介簡(jiǎn)介2. 系統(tǒng)硬件3. 系統(tǒng)軟件4. 組網(wǎng)

3、與連接5. 軟硬件安裝6. 文件系統(tǒng)NFS和CIFS共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 4大數(shù)據(jù)存儲(chǔ)OceanStor9000介紹l大數(shù)據(jù)存儲(chǔ)特點(diǎn)p彈性空間p卓越性能p簡(jiǎn)化管理p高可靠性l應(yīng)用場(chǎng)景p廣電媒資p高性能計(jì)算p大型企業(yè)數(shù)據(jù)中心p互聯(lián)網(wǎng)運(yùn)營(yíng)P P節(jié)點(diǎn)機(jī)柜節(jié)點(diǎn)機(jī)柜CC節(jié)點(diǎn)機(jī)柜節(jié)點(diǎn)機(jī)柜Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 5OceanStor 9000硬件節(jié)點(diǎn)2

4、U設(shè)備12個(gè)數(shù)據(jù)硬盤槽位(3.5“盤)標(biāo)配標(biāo)配:2路4核CPU,32G內(nèi)存,12*2TB SATA盤(數(shù)據(jù)盤)前視圖后視圖Mini-Capacity nodeMini-Capacity node小容量應(yīng)用場(chǎng)景Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 6OceanStor 9000家族硬件Performance nodePerformance nodeOPS密集型應(yīng)用場(chǎng)景2U設(shè)備25個(gè)硬盤槽位(2.5“盤)標(biāo)配標(biāo)配:2路6核CPU,48G內(nèi)存,支持SSD、SAS盤,按需配置前視圖后視圖Copyri

5、ght 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 7OceanStor 9000家族硬件Capacity nodeCapacity node大容量應(yīng)用場(chǎng)景4U設(shè)備36個(gè)硬盤槽位(3.5“盤)標(biāo)配標(biāo)配:2路6核CPU ,48G內(nèi)存支持SSD、NL SAS、SATA盤,按需配置前視圖后視圖Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 8目錄1. 大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2.2. 系統(tǒng)硬件系統(tǒng)硬件3. 系統(tǒng)軟

6、件4. 組網(wǎng)與連接5. 軟硬件安裝6. 文件系統(tǒng)NFS和CIFS共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 9硬件組件M節(jié)點(diǎn)(2U)10GE交換機(jī)C節(jié)點(diǎn)(4U)GE交換機(jī)IB交換機(jī)類型類型可選型號(hào)可選型號(hào)說明說明存儲(chǔ)節(jié)點(diǎn)M節(jié)點(diǎn)2U存儲(chǔ)節(jié)點(diǎn)P節(jié)點(diǎn)2U存儲(chǔ)節(jié)點(diǎn)C節(jié)點(diǎn)4U存儲(chǔ)節(jié)點(diǎn)網(wǎng)絡(luò)設(shè)備CE6850-48S4Q-EI10GE以太網(wǎng)交換機(jī)S5700-52C-SIGE以太網(wǎng)交換機(jī)S5352C-SIGE以太網(wǎng)交換機(jī)IS5023IB(InfiniBand)交換機(jī)8口KVM控制器提供8路鍵盤

7、、鼠標(biāo)和視頻端口P節(jié)點(diǎn)(2U)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 10lMini-Capacity node,支持小容量應(yīng)用場(chǎng)景M節(jié)點(diǎn)硬件形態(tài)高度2U最大功耗526.6WCPU2Intel E5 2403 4核 1.8GHz內(nèi)存24GB96GB,32GB操作系統(tǒng)硬盤2300GB 10K rpm 2.5寸 SAS (RAID1)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 11P節(jié)點(diǎn)形態(tài)1機(jī)框2電

8、源模塊3主控板插框4業(yè)務(wù)硬盤模塊5業(yè)務(wù)硬盤背板-Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 12P節(jié)點(diǎn)端口4 PCI-E擴(kuò)展插槽5 SAS卡6 GE網(wǎng)口7 IPMI管理網(wǎng)口8 USB端口9 系統(tǒng)串口10 VGA端口11 系統(tǒng)告警指示燈12 系統(tǒng)定位指示燈18 硬盤告警/定位指示燈20 10GE SFP+以太網(wǎng)光接口Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 13C節(jié)點(diǎn)形態(tài)1機(jī)框2電源模塊3主控板插框4

9、業(yè)務(wù)硬盤模塊5業(yè)務(wù)硬盤背板 6風(fēng)扇模塊Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 14C節(jié)點(diǎn)端口4 PCI-E擴(kuò)展插槽5 SAS卡6 GE網(wǎng)口7 IPMI管理網(wǎng)口8 USB端口9 系統(tǒng)串口10 VGA端口20 10GE SFP+以太網(wǎng)光接口Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 15附:硬件特性參考型號(hào)型號(hào) P P節(jié)點(diǎn)節(jié)點(diǎn) CC節(jié)點(diǎn)節(jié)點(diǎn) 系統(tǒng)架構(gòu) 全對(duì)稱分布式架構(gòu) 節(jié)點(diǎn)數(shù) 3288 CPU/節(jié)點(diǎn)

10、2Intel E5系列 緩存/節(jié)點(diǎn) 標(biāo)配48GB,可擴(kuò)展至192GB 硬盤類型 數(shù)據(jù)盤支持2.5寸SSD、SAS硬盤(根據(jù)客戶實(shí)際性能需求,可調(diào)整SSD/HD的配比) 數(shù)據(jù)盤支持3.5寸SSD、SATA、NL SAS硬盤(根據(jù)客戶實(shí)際性能需求,可調(diào)整SSD/HD的配比) 硬盤數(shù)/節(jié)點(diǎn) 標(biāo)配42.5 200G SSD + 212.5 600G SAS 標(biāo)配13.5 200G SSD + 353.5 4TB SATA 前端網(wǎng)絡(luò)10GE Ethernet或40GE Infiniband或1GE Ethernet 內(nèi)部互聯(lián) 10GE Ethernet或40GE Infiniband或1GE Ether

11、net 應(yīng)用場(chǎng)景 OPS密集型應(yīng)用場(chǎng)景 高帶寬應(yīng)用場(chǎng)景 Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 16目錄1. 大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2. 系統(tǒng)硬件3.3. 系統(tǒng)軟件系統(tǒng)軟件4. 組網(wǎng)與連接5. 軟硬件安裝6. 文件系統(tǒng)NFS和CIFS共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 179000系統(tǒng)組成Copyright 2013 Huawei Technolo

12、gies Co., Ltd. All rights reserved. Page 18系統(tǒng)服務(wù)交互Page 18Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 19Info系列軟件InfoEqualizerInfoEqualizerInfoAllocatorInfoAllocatorInfoTierInfoTierl集群負(fù)載均衡軟件l多種負(fù)載策略支持l可選軟件,單獨(dú)購(gòu)買licensel配額管理,可對(duì)目錄或用戶進(jìn)行空間限制l可選軟件,單獨(dú)購(gòu)買licensel自動(dòng)分級(jí)存儲(chǔ)l基于策略的自動(dòng)遷移l可選軟件,單

13、獨(dú)購(gòu)買licenseWushanFSWushanFSWushanFS:Wushan File SystemWushanFSWushanFSlWushan FS:分布式文件系統(tǒng)lInfo Data Protection 高可靠數(shù)據(jù)保護(hù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 20單一文件系統(tǒng)l統(tǒng)一文件系統(tǒng)命名空間應(yīng)用服務(wù)器WushanFSCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 21按需擴(kuò)展3-28

14、8節(jié)點(diǎn)線性擴(kuò)展60秒之內(nèi)完成單節(jié)點(diǎn)擴(kuò)容無(wú)需人為干預(yù),無(wú)需任何改動(dòng)應(yīng)用服務(wù)器Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 22智能負(fù)載均衡nodenodenodenodeOceanStor9000InfoEqualizerInfoEqualizerInfoEqualizerInfoEqualizerWushanFS01234Copyright 2013 Huawei Technologies

15、Co., Ltd. All rights reserved. Page 23智能負(fù)載均衡l負(fù)載均衡實(shí)現(xiàn)過程:1、訪問系統(tǒng)一級(jí)/二級(jí)域名,如:2、OceanStor 9000對(duì)域名進(jìn)行解析,根據(jù)負(fù)載策略,返回IP地址3、業(yè)務(wù)請(qǐng)求nodenodenodenodenodenodeZone 1:基于CPU使用情況二級(jí)域名:Zone 2:基于網(wǎng)絡(luò)連接數(shù)二級(jí)域名:WushanFSWushanFSNFS ClientCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 24熱數(shù)據(jù)冷數(shù)據(jù)普通數(shù)據(jù)Tier 2高OPS節(jié)點(diǎn)Ti

16、er 3高帶寬節(jié)點(diǎn)Tier 1SSD分級(jí)存儲(chǔ)l不同節(jié)點(diǎn)的分級(jí)滿足了用戶不同的需求,滿足用戶既需要高性能訪問也需要大帶寬存儲(chǔ)的矛盾。l允許用戶把自行規(guī)劃自己的業(yè)務(wù),把對(duì)自己的業(yè)務(wù)進(jìn)行分級(jí),把某些重要的業(yè)務(wù)放在性能較高的節(jié)點(diǎn)上。 Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 25高效全局緩存1storageCPUMemorystorageCPUMemorystorageCPUMemory全局緩存ABC應(yīng)用服務(wù)器nodenodenodeWushanFSCopyright 2013 Huawei Techn

17、ologies Co., Ltd. All rights reserved. Page 26高效全局緩存2l利用分布式鎖,實(shí)現(xiàn)全局緩存l同一數(shù)據(jù)塊所在節(jié)點(diǎn)的緩存只緩存一份l任意節(jié)點(diǎn)緩存中的數(shù)據(jù)都能被其他節(jié)點(diǎn)訪問時(shí)在緩存中命中Node ANode BNode CstorageCPUMemorystorageCPUMemorystorageCPUMemory應(yīng)用服務(wù)器WushanFSWushanFS服務(wù)器向Node C申請(qǐng)鎖LOCK返回鎖在Node A已經(jīng)申請(qǐng)從Node A緩存中讀取數(shù)據(jù)Copyright 2013 Huawei Technologies Co., Ltd. All rights

18、reserved. Page 27統(tǒng)一資源管理l支持目錄配額、用戶配額、用戶組配額l支持基于 NFS/CIFS的軟硬配額l軟配額生效時(shí)間可以在創(chuàng)建配額時(shí)設(shè)置l以小時(shí)為單位;硬配額立即生效l支持嵌套的配額設(shè)置,最多嵌套8層l天然支持自動(dòng)精簡(jiǎn)配置,實(shí)現(xiàn)超額配置100TB20TB用戶30TB用戶組40TB用戶組10TB用戶20TB用戶10TB用戶Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 28NFS/CIFS集群lCIFS/NFS SERVER采用集群部署形式lCIFS/NFS SERVER部署在各個(gè)存

19、儲(chǔ)服務(wù)器上,是分布式、全對(duì)稱集群架構(gòu)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 29附:軟件特性參考型號(hào)型號(hào) P P節(jié)點(diǎn)節(jié)點(diǎn) CC節(jié)點(diǎn)節(jié)點(diǎn) 數(shù)據(jù)保護(hù)級(jí)別 N+1,N+2,N+3,N+4 文件系統(tǒng) Wushan分布式文件系統(tǒng)支持全局命名空間,可動(dòng)態(tài)擴(kuò)展,最大40PB 增值特性 動(dòng)態(tài)分級(jí)存儲(chǔ) (InfoTier)/客戶端連接自動(dòng)負(fù)載均衡 (InfoEqualizer)/空間配額管理 (InfoAllocator) 自動(dòng)精簡(jiǎn)配置 支持自動(dòng)精簡(jiǎn)配置,無(wú)需配置 數(shù)據(jù)自愈 數(shù)據(jù)自動(dòng)化并行快速恢復(fù),最高恢復(fù)速度

20、達(dá)1TB/Hr 系統(tǒng)擴(kuò)展 “一鍵式”在線擴(kuò)展,單節(jié)點(diǎn)擴(kuò)展小于60秒 全局緩存 支持全局緩存,最大可支持55TB 支持的操作系統(tǒng) Windows,Linux,Mac OS 協(xié)議支持 NFS,CIFS,NIS,Microsoft Active Directory,LDAP,SNMP 免及時(shí)維護(hù) 系統(tǒng)自動(dòng)壞盤率檢測(cè)及告警通知,壞盤可批量集中更換,無(wú)須即時(shí)更換,減少人力維護(hù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 30目錄1. 大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2. 系統(tǒng)硬件3. 系統(tǒng)軟件4.4

21、. 組網(wǎng)與連接組網(wǎng)與連接5. 軟硬件安裝6. 文件系統(tǒng)NFS和CIFS共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 31后端后端IBIB,前端,前端10GE10GE組網(wǎng)組網(wǎng)前后端全前后端全GEGE組網(wǎng)組網(wǎng)前端前端GEGE后端后端10GE10GE組網(wǎng)組網(wǎng)10GE10GEIBIBIBIB交換機(jī)交換機(jī)10GE10GE交換機(jī)交換機(jī)(客戶提供)(客戶提供)GEGE交換機(jī)交換機(jī)管理服務(wù)器應(yīng)用服務(wù)器900010GE10GE交交換機(jī)換機(jī)GEGE交換機(jī)交換機(jī)(客戶提供)(客戶提供)GEGE交換機(jī)

22、交換機(jī)管理服務(wù)器應(yīng)用服務(wù)器9000GEGE交換交換機(jī)機(jī)GEGE交換機(jī)交換機(jī)(客戶提供)(客戶提供)GEGE交換機(jī)交換機(jī)管理服務(wù)器應(yīng)用服務(wù)器90009000典型組網(wǎng)方式1GE1GE后端網(wǎng)絡(luò)后端網(wǎng)絡(luò)前端網(wǎng)絡(luò)前端網(wǎng)絡(luò)10GE10GE1GE1GE推薦組網(wǎng)推薦組網(wǎng)IB10GEGEGECopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 32前端GE后端10GE典型組網(wǎng)l組網(wǎng)介紹: p10GE后端存儲(chǔ)互聯(lián)p1GE前端業(yè)務(wù)互聯(lián)p1GE管理網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co.,

23、Ltd. All rights reserved. Page 33IB組網(wǎng)l組網(wǎng)介紹: p40GE IB 后端存儲(chǔ)互聯(lián)p10GE前端業(yè)務(wù)互聯(lián)p1GE管理網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 34GE組網(wǎng)l組網(wǎng)介紹: p1GE后端存儲(chǔ)互聯(lián)p1GE前端業(yè)務(wù)互聯(lián)p1GE管理網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 35P節(jié)點(diǎn)端口Copyright 2013 Huawei Technologi

24、es Co., Ltd. All rights reserved. Page 3610GE互聯(lián)組件l10GE交換機(jī)CE6850-48S4Q-EICopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 3740G互聯(lián)組件lIB交換機(jī)IS5023Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 381GE互聯(lián)組件lGE交換機(jī)S5700-52C-SI/S5352C-SICopyright 2013 Huawei Techno

25、logies Co., Ltd. All rights reserved. Page 39組網(wǎng)連接舉例客戶交換機(jī)客戶交換機(jī)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 40IP地址規(guī)劃1段類段類型型網(wǎng)段屬性網(wǎng)段屬性組網(wǎng)類組網(wǎng)類型型a aIPIP地址地址數(shù)目數(shù)目建議建議前端業(yè)務(wù)網(wǎng)段為向存儲(chǔ)節(jié)點(diǎn)存取文件的網(wǎng)絡(luò)10GE組網(wǎng)節(jié)點(diǎn)數(shù)量6+11.2個(gè)接口IP地址2.4個(gè)預(yù)留作為InfoEqualizer的動(dòng)態(tài)前端IP地址3.InfoEqualizer DNS IP地址1個(gè) (不論是否購(gòu)買InfoEqualize

26、r特性License均需要)IB組網(wǎng)節(jié)點(diǎn)數(shù)量6+1GE組網(wǎng)節(jié)點(diǎn)數(shù)量6+21.2個(gè)接口IP地址2.4個(gè)預(yù)留作為InfoEqualizer的動(dòng)態(tài)前端IP地址3.InfoEqualizer DNS IP地址1個(gè) (不論是否購(gòu)買InfoEqualizer特性License均需要) 4. 管理IP地址1個(gè)a:OceanStor 9000的組網(wǎng)類型以后端存儲(chǔ)網(wǎng)絡(luò)交換機(jī)的類型區(qū)分,如后端存儲(chǔ)網(wǎng)絡(luò)交換機(jī)采用10GE交換機(jī),則稱此OceanStor 9000組網(wǎng)為10GE組網(wǎng)。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Pa

27、ge 41IP地址規(guī)劃2網(wǎng)段類網(wǎng)段類型型網(wǎng)段屬網(wǎng)段屬性性組網(wǎng)類型組網(wǎng)類型a aIPIP地址數(shù)目地址數(shù)目備注備注管理網(wǎng)段系統(tǒng)管理控制網(wǎng)絡(luò)10GE組網(wǎng)節(jié)點(diǎn)數(shù)量+管理網(wǎng)絡(luò)交換機(jī)數(shù)量+2存儲(chǔ)節(jié)點(diǎn)IPMI接口分配1個(gè)每臺(tái)管理網(wǎng)絡(luò)交換機(jī)分配1個(gè),OceanStor 9000管理IP地址1個(gè),后端存儲(chǔ)網(wǎng)絡(luò)交換機(jī)1個(gè)IB組網(wǎng)節(jié)點(diǎn)數(shù)量+管理網(wǎng)絡(luò)交換機(jī)數(shù)量+1GE組網(wǎng)節(jié)點(diǎn)數(shù)量+后端存儲(chǔ)網(wǎng)絡(luò)與管理網(wǎng)絡(luò)交換機(jī)總數(shù)量/2每個(gè)存儲(chǔ)節(jié)點(diǎn)IPMI接口分配1個(gè),每2臺(tái)后端存儲(chǔ)網(wǎng)絡(luò)與管理網(wǎng)絡(luò)交換機(jī)分配1個(gè)后端存儲(chǔ)網(wǎng)段存儲(chǔ)節(jié)點(diǎn)間通信網(wǎng)絡(luò)10GE組網(wǎng)節(jié)點(diǎn)數(shù)量3每個(gè)存儲(chǔ)節(jié)點(diǎn)分配2-3個(gè),軟件安裝時(shí)通過DHCP分配臨時(shí)IP地址時(shí)每個(gè)存儲(chǔ)

28、節(jié)點(diǎn)再分配1個(gè)。IB組網(wǎng)節(jié)點(diǎn)數(shù)量3GE組網(wǎng)節(jié)點(diǎn)數(shù)量2Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 42IP地址規(guī)劃舉例-10GE組網(wǎng)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 43網(wǎng)絡(luò)配置-10GE交換機(jī)配置l管理網(wǎng)絡(luò)交換機(jī)采用S5752/S5353l后端存儲(chǔ)網(wǎng)絡(luò)交換機(jī)通常兩臺(tái),存儲(chǔ)節(jié)點(diǎn)小于等于32是,采用CE6850Copyright 2013 Huawei Technologies Co., Ltd

29、. All rights reserved. Page 44網(wǎng)絡(luò)配置-IB交換機(jī)配置l管采用兩臺(tái)理網(wǎng)絡(luò)交換機(jī)為S5752/S5352l后端存儲(chǔ)網(wǎng)絡(luò)交換機(jī)數(shù)量為2臺(tái),存儲(chǔ)節(jié)點(diǎn)小于等于16臺(tái)時(shí),采用2臺(tái)IS5023l存儲(chǔ)節(jié)點(diǎn)數(shù)量大于16時(shí),采用更高端型號(hào)。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 45網(wǎng)絡(luò)配置-GE交換機(jī)配置l后端存儲(chǔ)網(wǎng)絡(luò)與管理網(wǎng)絡(luò)通過交換機(jī)內(nèi)的VLAN隔離l后端存儲(chǔ)網(wǎng)絡(luò)與管理網(wǎng)絡(luò)交換機(jī)采用一對(duì)S5752/S5352Copyright 2013 Huawei Technologies

30、 Co., Ltd. All rights reserved. Page 46目錄1. 大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2. 系統(tǒng)硬件3. 系統(tǒng)軟件4. 組網(wǎng)與連接5.5. 硬件安裝與軟件安裝硬件安裝與軟件安裝6. 文件系統(tǒng)NFS和CIFS共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 479000硬件安裝流Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 48設(shè)備上下電與開關(guān)l

31、設(shè)備上電順序接通PDU電源 接通機(jī)柜電源交換機(jī)上電KVM上電存儲(chǔ)節(jié)點(diǎn)上電短信調(diào)制解調(diào)器上電l各設(shè)備電源開關(guān)S5700-52C-SI/S5352C-SICE6850-48S4Q-EIP節(jié)點(diǎn)C節(jié)點(diǎn)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 49系統(tǒng)上電后狀態(tài)110GE交換機(jī)CE6850-48S4Q-EIC節(jié)點(diǎn)的指示燈與P節(jié)點(diǎn)的指示燈完全相同,此處以P節(jié)點(diǎn)為例。P節(jié)點(diǎn)(2U)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved.

32、 Page 50系統(tǒng)上電后狀態(tài)1InfiniBand交換機(jī)IS5023GE交換機(jī)S5700-52C-SI/S5352C-SICopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 519000系統(tǒng)軟件安裝Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 52軟件安裝流程1Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 53安裝

33、流程2Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 54軟件與工具準(zhǔn)備準(zhǔn)備項(xiàng)目準(zhǔn)備項(xiàng)目說明說明軟件包OceanStor ISM-N V100R00 xC0 x.tar.gzOceanStor 9000部署工具APP_OceanStor 9000_V100R00 xC0 x.tar.gzOceanStor 9000系統(tǒng)軟件mysql-x.x.xx.msi、ISM-N V100R001Cxx.zip可選報(bào)表工具工具FTP文件上傳工具,如FileZilla用于上傳文件到存儲(chǔ)節(jié)點(diǎn)。如采用FileZilla,

34、僅需客戶端版本,無(wú)需Server版本。SSH Client軟件,如PuTTY遠(yuǎn)程訪問工具線纜一根網(wǎng)線連接PC到存儲(chǔ)設(shè)備管理網(wǎng)口。一根RS-232串口線纜連接PC到存儲(chǔ)設(shè)備串口Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 55軟件安裝前檢查1置項(xiàng)置項(xiàng)要求要求檢查方法檢查方法不符合要求時(shí)的處理不符合要求時(shí)的處理措施措施存儲(chǔ)節(jié)點(diǎn)a操作系統(tǒng)SUSE Linux Enterprise Server 11 (x86_64) SP11.通過KVM登錄存儲(chǔ)節(jié)點(diǎn)2.執(zhí)行命令cat cat /etc/SuSE-rele

35、ase/etc/SuSE-release安裝符合版本要求的操作系統(tǒng),或聯(lián)系技術(shù)服務(wù)支持工程師預(yù)裝部署代理程序參見OceanStor 9000 版本說明書1.通過KVM登錄存儲(chǔ)節(jié)點(diǎn)2.執(zhí)行命令rpm -qa|grep deploy執(zhí)行升級(jí)存儲(chǔ)節(jié)點(diǎn)中預(yù)裝的部署代理程序安裝PC操作系統(tǒng)Windows 7及以上版本,且已關(guān)閉防火墻-Web瀏覽器Internet Explorer 8及以上版本,或Firefox 11及以上版本-a:首次安裝時(shí),您可以只抽檢13個(gè)存儲(chǔ)節(jié)點(diǎn)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Pa

36、ge 56安裝前檢查控制臺(tái)要求2置項(xiàng)置項(xiàng)要求要求檢查方法檢查方法不符合要求時(shí)的處理不符合要求時(shí)的處理(可選)OceanStor SystemReporter報(bào)表服務(wù)器操作系統(tǒng)Windows Server 2008 R2 Enterprise SP1 64位-Web瀏覽器Internet Explorer 8及以上版本,或Firefox 11及以上版本-TCP端口下列TCP端口未被占用:44380330610091961690029003在Windows命令行窗口中執(zhí)行命令netstat -netstat -anoano查看當(dāng)前端口占用情況。停止或卸載對(duì)應(yīng)服務(wù)。如果443或80端口已被占用,且不

37、便通過上述方法規(guī)避,則可在軟件安裝過程中手工更改為使用其他端口。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 57部署工具安裝設(shè)置部署IP地址Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 58部署工具安裝l上傳后安裝成功后登錄Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 59通過部署工具部署9000系統(tǒng)(1)C

38、opyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 60通過部署工具部署9000系統(tǒng)(2)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 61配置文件舉例110GE網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 62配置文件舉例210GE網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co.,

39、 Ltd. All rights reserved. Page 63配置文件舉例210GE網(wǎng)絡(luò)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 64通過部署工具部署9000系統(tǒng)(3)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 65登錄9000存儲(chǔ)系統(tǒng)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 66附:9000系

40、統(tǒng)登錄信息系統(tǒng)系統(tǒng)入口地址入口地址默認(rèn)賬號(hào)默認(rèn)賬號(hào)/ /密碼密碼備注備注OceanStor Toolkithttps:/xx.xx.xx.xx:8088/toolsadmin/Adminstorage完成安裝OceanStor Toolkit后可登錄OceanStor DeviceManagerhttps:/xx.xx.xx.xx:8088/webui 其中,“xx.xx.xx.xx”表示基礎(chǔ)柜中最下方存儲(chǔ)節(jié)點(diǎn)NIC0接口的IP地址。此IP地址為驗(yàn)證時(shí)臨時(shí)使用。軟件安裝完成后,請(qǐng)以配置文件中的“管理IP”代替。admin/Adminstorage完成使用OceanStor Toolkit批量部

41、署OceanStor 9000軟件后可登錄存儲(chǔ)節(jié)點(diǎn)IPMIhttps:/xx.xx.xx.xx。其中,“xx.xx.xx.xx”表示存儲(chǔ)節(jié)點(diǎn)IPMI接口的IP地址。admin/Adminstorage-存儲(chǔ)節(jié)點(diǎn)Linux操作系統(tǒng)-root/Rootstorage通過KVM登錄存儲(chǔ)節(jié)點(diǎn)或通過PuTTY遠(yuǎn)程登錄存儲(chǔ)節(jié)點(diǎn)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 67安裝后檢查Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved

42、. Page 68目錄1. 大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2. 系統(tǒng)硬件3. 系統(tǒng)軟件4. 組網(wǎng)與連接5. 軟硬件安裝6.6. 文件系統(tǒng)文件系統(tǒng)NFSNFS和和CIFSCIFS共享配置共享配置7. 高級(jí)特性Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 69CIFS/NFS文件共享基本特性l同時(shí)支持CIFS和NFS協(xié)議l兼容多種操作系統(tǒng),可以實(shí)現(xiàn)異構(gòu)網(wǎng)絡(luò)環(huán)境下的文件資源共享lCIFS/NFS共享的單位是目錄,所共享的目錄可被多個(gè)客戶端訪問l以集群方式對(duì)外提供共享服務(wù),節(jié)點(diǎn)間可相互監(jiān)控服務(wù)狀

43、態(tài)l可根據(jù)業(yè)務(wù)和節(jié)點(diǎn)狀態(tài)實(shí)現(xiàn)負(fù)載均衡,數(shù)據(jù)訪問在集群內(nèi)均勻分布lNFS支持V3,V4協(xié)議lSMB支持V1.0,V2.0Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 70CIFS支持的認(rèn)證方式l本地用戶認(rèn)證p由OceanStor 9000本地進(jìn)行接入認(rèn)證,允許規(guī)劃的本地用戶/用戶組接入。當(dāng)啟用了Guest用戶接入權(quán)限后, 允許用戶匿名訪問共享目錄,即用戶無(wú)需輸入用戶名和密碼即可接入OceanStor 9000lAD(Active Directory)域用戶認(rèn)證p用戶網(wǎng)絡(luò)中配置AD域服務(wù)器,由AD域服務(wù)

44、器進(jìn)行接入認(rèn)證,允許合法的AD域用戶接入Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 71CIFS共享實(shí)現(xiàn)過程Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 72添加本地認(rèn)證用戶組與用戶(可選)B3121234512345Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 73加入域(可選)l先通過OceanStor

45、DeviceManager登錄系統(tǒng)l域環(huán)境下,需要先將OceanStor 9000加入域環(huán)境1234Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 74設(shè)置CIFS服務(wù)參數(shù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 75創(chuàng)建目錄1212Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 76共享目錄1C1123Cop

46、yright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 77共享目錄251234Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 78共享目錄312Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 79共享目錄45 5123421Copyright 2013 Huawei Technologies Co., Ltd. All righ

47、ts reserved. Page 80共享目錄51 12 2Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 81訪問共享目錄11212Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 82訪問共享目錄21 12 22 21Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 83NFS共享概述Copyright 2013

48、Huawei Technologies Co., Ltd. All rights reserved. Page 849000加入LDAP域(可選)1 111 12 24 43 3Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 859000加入NIS域(可選)1234Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 86創(chuàng)建FS目錄13C42Copyright 2013 Huawei Technologies C

49、o., Ltd. All rights reserved. Page 87NFS共享目錄的權(quán)限管理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 88共享FS23OceanStor 9000對(duì)外提供訪問的文件共享目錄1Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 89共享FS1 12 23 3Copyright 2013 Huawei Technologies Co., Ltd. All rights re

50、served. Page 90共享FS2 2C2C2C3C3312451Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 91共享FS1Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 92Linux客戶端訪問共享表明已掛載成功。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 93目錄1.大數(shù)據(jù)存儲(chǔ) OceanStor9

51、000簡(jiǎn)介2.系統(tǒng)硬件3.系統(tǒng)軟件4.組網(wǎng)與連接5.軟硬件安裝6.文件系統(tǒng)NFS和CIFS共享配置7.7.高級(jí)特性高級(jí)特性 7.1 7.1 InfoTierInfoTier 7.2 InfoAllocator7.3 InfoEqualizer技術(shù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 94InfoTier特性lInfoTier特性包括的主要功能如下:p存儲(chǔ)級(jí)別:在OceanStor 9000內(nèi)部根據(jù)節(jié)點(diǎn)類型和硬盤類型對(duì)硬盤分級(jí),相同等級(jí)的硬盤組成一個(gè)存儲(chǔ)級(jí)別。 p高低水位策略:高低水位是指存儲(chǔ)

52、級(jí)別中空閑空間占用硬盤存儲(chǔ)總?cè)萘康陌俜直?,OceanStor 9000通過設(shè)置全局統(tǒng)一的高低水位,限制每個(gè)存儲(chǔ)級(jí)別中的文件遷移,避免硬盤存儲(chǔ)容量不足造成的故障。 p文件池策略:通過設(shè)置文件屬性與各個(gè)存儲(chǔ)級(jí)別間的對(duì)應(yīng)關(guān)系,定義文件在不同存儲(chǔ)級(jí)別中存儲(chǔ)和遷移的策略。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 95InfoTier原理與概念2l節(jié)點(diǎn)池p具有某一相同物理特征的節(jié)點(diǎn)集合 p系統(tǒng)自動(dòng)根據(jù)物理節(jié)點(diǎn)形成節(jié)點(diǎn)池p不允許手工調(diào)整節(jié)點(diǎn)池l使用節(jié)點(diǎn)池的前提p點(diǎn)池內(nèi)至少有3個(gè)正常工作的節(jié)點(diǎn) l節(jié)點(diǎn)池的分類p

53、高性能節(jié)點(diǎn)池p高帶寬節(jié)點(diǎn)池Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 96InfoTier原理與概念3l文件池p具有共同特征的文件集合p各個(gè)特征之間是“與”的關(guān)系p同一個(gè)文件可以屬于多個(gè)文件池 l文件池策略 p文件池如何在節(jié)點(diǎn)池存放的規(guī)則 p文件池策略具有優(yōu)先級(jí)p購(gòu)買license才允許配置l文件池策略的使用p系統(tǒng)中最多可配置128條文件池策略p文件對(duì)應(yīng)的最高優(yōu)先級(jí)的文件池策略才會(huì)生效 Copyright 2013 Huawei Technologies Co., Ltd. All rights

54、reserved. Page 97InfoTier原理與概念4l高低水位p節(jié)點(diǎn)池中空閑空間占用總空間的百分比p可在ISM上配置,對(duì)所有節(jié)點(diǎn)池生效p高水位默認(rèn)為10%,低水位默認(rèn)為5%l高低水位使用場(chǎng)景p處于低水位以下時(shí),禁止文件寫入/遷入該節(jié)點(diǎn)池p恢復(fù)到高水位時(shí),才允許文件遷入該節(jié)點(diǎn)池p處于低水位以上時(shí),允許文件寫入該節(jié)點(diǎn)池Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 98文件初始存放l匹配文件池策略p只匹配文件池特征包含且僅包含文件路徑的文件池策略p如果同時(shí)匹配到多個(gè)文件池策略,選擇優(yōu)先級(jí)最高的p

55、通過文件池策略確定存放的節(jié)點(diǎn)池 ;如未匹配到,選擇空閑空間最大的l確定節(jié)點(diǎn)池p查詢對(duì)應(yīng)的節(jié)點(diǎn)池當(dāng)前空閑容量p高于低水位,使用該節(jié)點(diǎn)池p低于低水位,使用系統(tǒng)中空閑空間最大的節(jié)點(diǎn)池p節(jié)點(diǎn)池全部處于低水位以下,拒絕該文件的寫入Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 99文件遷移l遷移掃描p掃描起始和結(jié)束時(shí)間可配置,缺省關(guān)閉掃描p讀取系統(tǒng)內(nèi)文件的屬性,得到文件當(dāng)前所在的節(jié)點(diǎn)池p匹配系統(tǒng)內(nèi)的文件池策略,確定文件的目標(biāo)節(jié)點(diǎn)池p判斷文件是否需要遷移,生成遷移任務(wù)l文件遷移p逐chunk進(jìn)行遷移p在遷移過程中

56、,不影響文件的正常讀寫p遷移前后,文件的保護(hù)級(jí)別不會(huì)降低p目標(biāo)文件池空閑空間高于低水位Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 100InfoTier的配置l配置之前的準(zhǔn)備工作p確認(rèn)是否購(gòu)買了licensep是否存在不同類型的節(jié)點(diǎn),且每種類型的節(jié)點(diǎn)至少3個(gè) p配置規(guī)劃p文件初始存放位置n有明確規(guī)劃的按照路徑配置文件池策略n無(wú)明確規(guī)劃的不配置對(duì)應(yīng)的文件池策略,由系統(tǒng)自動(dòng)分配p文件后期存放位置n確定節(jié)點(diǎn)池對(duì)應(yīng)文件應(yīng)具有的屬性:熱度,存放路徑n根據(jù)文件的屬性配置對(duì)應(yīng)的文件池策略Copyright 20

57、13 Huawei Technologies Co., Ltd. All rights reserved. Page 101InfoTier的配置流程Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 102高低水位的配置參數(shù)名稱參數(shù)名稱參數(shù)說明參數(shù)說明高水位通過高水位閾值定義存儲(chǔ)分級(jí)空閑容量超過規(guī)定數(shù)值后,是否可以恢復(fù)數(shù)據(jù)寫入或遷入操作。低水位通過低水位閾值定義數(shù)據(jù)是否可以初次寫入或遷入指定的存儲(chǔ)分級(jí)。Copyright 2013 Huawei Technologies Co., Ltd. All ri

58、ghts reserved. Page 103掃描時(shí)間配置參數(shù)名稱參數(shù)名稱參數(shù)說明參數(shù)說明起始時(shí)間掃描節(jié)點(diǎn)時(shí),從監(jiān)控模塊讀取文件池策略、文件掃描起始時(shí)間和結(jié)束時(shí)間,到達(dá)起始時(shí)間時(shí)系統(tǒng)自動(dòng)啟動(dòng)掃描結(jié)束時(shí)間掃描節(jié)點(diǎn)時(shí),從監(jiān)控模塊讀取文件池策略、文件掃描起始時(shí)間和結(jié)束時(shí)間,到達(dá)結(jié)束時(shí)間時(shí)無(wú)論掃描是否全部完成系統(tǒng)均強(qiáng)制停止掃描操作Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 104文件池策略的配置參數(shù)名稱參數(shù)名稱參數(shù)說明參數(shù)說明名稱通過文件池策略的名稱標(biāo)識(shí)不同的文件屬性掃描規(guī)則。分級(jí)通過級(jí)別定義每個(gè)文件池策

59、略對(duì)應(yīng)的存儲(chǔ)分級(jí)。件名通過定義文件名稱中具有代表意義的部分,指定具有相同屬性文件的存儲(chǔ)策略。文件路徑通過合理規(guī)劃文件系統(tǒng)目錄結(jié)構(gòu),定義特定路徑對(duì)應(yīng)的存儲(chǔ)級(jí)別。文件大小通過文件大小定義對(duì)應(yīng)的存儲(chǔ)級(jí)別修改時(shí)間通過文件最近一次修改時(shí)間與當(dāng)前時(shí)間的間隔定義對(duì)應(yīng)的存儲(chǔ)級(jí)別創(chuàng)建時(shí)間通過文件創(chuàng)建時(shí)間與當(dāng)前時(shí)間的間隔定義對(duì)應(yīng)的存儲(chǔ)級(jí)別最后一次訪問時(shí)間通過文件最近一次訪問時(shí)間與當(dāng)前時(shí)間的間隔定義對(duì)應(yīng)的存儲(chǔ)級(jí)別I/O次數(shù)通過監(jiān)控在統(tǒng)計(jì)周期內(nèi)對(duì)文件的訪問次數(shù)定義對(duì)應(yīng)的存儲(chǔ)級(jí)別I/O熱度通過監(jiān)控在統(tǒng)計(jì)周期內(nèi)對(duì)文件的訪問熱度定義對(duì)應(yīng)的存儲(chǔ)級(jí)別Copyright 2013 Huawei Technologies Co.,

60、 Ltd. All rights reserved. Page 105目錄1.大數(shù)據(jù)存儲(chǔ) OceanStor9000簡(jiǎn)介2.系統(tǒng)硬件3.系統(tǒng)軟件4.組網(wǎng)與連接5.軟硬件安裝6.文件系統(tǒng)NFS和CIFS共享配置7.7.高級(jí)特性高級(jí)特性 7.1 InfoTier 7.2 7.2 InfoAllocatorInfoAllocator7.3 InfoEqualizer技術(shù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 106InfoAllocator技術(shù)背景l(fā)配額技術(shù)是一種基于用戶、用戶組文件存儲(chǔ)管理l還支持

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論