DDN高性能存儲WOS云存儲解決方案

李若甫ruofu.li@WOS?云存儲系統(tǒng)超大規(guī)模、面向?qū)ο?、地理分?014年6月18genda公司簡介傳統(tǒng)方案的困境WOS?定位與典型應用場景WOS?技術(shù)細節(jié)Q&ADDN公司簡介規(guī)模實力外部存儲的品牌廠商

–按收入排名DDN是世界上最大的私人持有的存儲廠商DDN是全球第四大存儲廠商Source:行業(yè)認證World’sLargestPrivately-HeldStorageCo.Fast500TechnologyCompanyInc.500|5000High-GrowthCompanyBestHPCStoragePlatformsBestPracticeforDigitalMediaHotTechnologyfor2012關(guān)鍵統(tǒng)計數(shù)據(jù)公司定位：提供高度可擴展和高效的存儲解決方案，幫助客戶快速成功、隨數(shù)據(jù)集的持續(xù)增長輕易擴展、解決性能和容量擴展問題從而獲得競爭優(yōu)勢。1998年成立，總部位于Chatsworth,CaliforniaUSA；全球約700名雇員，覆蓋4大洲15個國家；擁有超1000家客戶，分布在50個國家，已交貨容量超過1EB(1ExaByte=1000PetaByte=106TeraByte)市場營銷策略:全球合作伙伴,增值分銷商,分銷商重點關(guān)注高性能計算與生命科學、云&網(wǎng)頁內(nèi)容、富媒體、情報及監(jiān)控等細分市場在大數(shù)據(jù)系統(tǒng)上的投資超過1億美元DDN|

全球大數(shù)據(jù)解決方案領(lǐng)導者大數(shù)據(jù)產(chǎn)品家族EXAScaler?10KsofClients1TB/s+,HSMLinux/WindowsClientsNFS&CIFSWOS?256BillionObjectsGeoReplicated8MillionObjects/SecondSelf-HealingMobileCloudAccessDirectMon大數(shù)據(jù)平臺管理方案SFA12K40GB/s/1.7MIOPS1,680Drives:16U-2RacksEmbeddedComputingSFA770010GB/s,600KIOPS60Drivesin4U;396Drivesin20UStorageFusionArchitecture?

CoreStoragePlatformsFlexibleDriveConfigurationSFXAutomatedFlashCachingReadWriteContextCommitInstantCommithScaler?50-2000Nodes200+DataSourcesHighSpeedETLUpto500%FasterResults企業(yè)級Hadoop一體機PB級Lustre?

存儲企業(yè)級水平擴展文件存儲GRIDScaler?1KsofClients1TB/s+,HSMLinux/WindowsClientsNFS&CIFSCloudTieringSASSATASSDCloudFoundation高性能計算與生命科學超算基因排序地震資料處理金融建模大學和實驗室研究DDN|目標市場：大數(shù)據(jù)媒體電視廣播后期處理數(shù)字中期動漫視頻點播政府/數(shù)字安全地理空間情報視頻監(jiān)控大規(guī)模偵聽堅固耐用(rugged)解決方案云/互聯(lián)網(wǎng)/服務提供商網(wǎng)頁內(nèi)容托管服務提供商存儲服務提供商個人云存儲DDN|1000+家世界領(lǐng)先的客戶傳統(tǒng)方案的困境NAS的不足NAS性能低下NAS設(shè)備管理了大量目錄元數(shù)據(jù)如果在每個目錄下存儲幾千個文件，讀一個幾KB的文件可能需要10個以上磁盤操作；即使將每個目錄下的文件數(shù)量削減為幾百個，為獲取1個小文件NAS系統(tǒng)仍然需要至少3個磁盤操作：將目錄元數(shù)據(jù)加載到內(nèi)存并將文件名轉(zhuǎn)換為inodenumber、從磁盤上讀取inode、讀取文件本身NAS+NFS/CIFS成本高昂緩存文件句柄對longtail數(shù)據(jù)的性能幫助很小傳統(tǒng)CDN面臨的困境云備份、iCloud、電信運營商的話單日志、Facebook等SNS網(wǎng)站…上述海量數(shù)據(jù)中，longtail數(shù)據(jù)占很大比例傳統(tǒng)CDN使用RAM緩存實現(xiàn)低延遲、高并發(fā)，為熱點數(shù)據(jù)提供了高性能；但對longtail數(shù)據(jù)無能為力SizeofHDDSizeofRAMCDN的價值＝如何降低海量數(shù)據(jù)的存儲成本，降低訪問longtail數(shù)據(jù)的延遲，提高IO性能？LongtailCIO的困境BYOD、Cloud、Social、Mobile…BigData！預算有限，分身無術(shù)，客戶需要一個簡化的IT數(shù)據(jù)與應用系統(tǒng)緊密耦合，“牽一發(fā)動全身”擴容、改造、升級常受制于系統(tǒng)現(xiàn)狀及軟件開發(fā)商故障點多，管理復雜，TCO高，新增應用困難，擴容升級困難現(xiàn)有應用新增應用票據(jù)影像數(shù)據(jù)存儲票據(jù)影像數(shù)據(jù)存儲票據(jù)影像數(shù)據(jù)存儲數(shù)據(jù)索引索引索引索引Harddisk：第一次購買時最優(yōu)RAID/LUN：安裝時用PND算法設(shè)定Filesystem:對現(xiàn)有應用優(yōu)化VolumeManager：對現(xiàn)有數(shù)據(jù)優(yōu)化DataFlow?安裝即過時——WOS?典型應用場景

及其生態(tài)系統(tǒng)2/7/1212WOS?：顛覆性的海量非結(jié)構(gòu)化數(shù)據(jù)存儲方案對象被存儲在幾乎無限大的平面地址空間內(nèi)；將數(shù)據(jù)保存在被稱為Object的容器里每個Object都有data和metadata沒有文件系統(tǒng)的復雜性1MB以內(nèi)對象的每次讀寫只執(zhí)行1次硬盤IO對不同大小的文件自動優(yōu)化IO性能無中心管理DataMetadataDataMetadataDataMetadata平面命名空間FullFile/Object>1MBObjectsSegmented

into1MBChunksUserMetadata(<64MB)Key-valueorbinaryTag=Beach;ThumbnailsReplication/ProtectionPolicyAsync,Sync,ObjectAssureCodingSecuritySignature64bitChecksumObjectID(OID):ACuoBKmWW3Uw1W2TmVYthAZone2Zone1WOS?

|讀寫數(shù)據(jù)流應用/Web服務器(1)一個文件被上傳到應用服務器或者web服務器(2)應用程序調(diào)用WOS客戶端保存(PUT)一個新對象D.應用程序返回文件給用戶(3)WOS客戶端在節(jié)點中保存該對象；后續(xù)的對象在云中被自動負載均衡。LAN/WAN內(nèi)容數(shù)據(jù)庫(5)WOS客戶端返回唯一的標識符OID；應用程序保存該OID而不是傳統(tǒng)的文件路徑，然后應用程序在內(nèi)容數(shù)據(jù)庫中注冊該OID。B.應用程序調(diào)用WOS客戶端讀取(GET)該對象；OID被傳遞給WOS客戶端.A.某用戶需要讀取一個文件C.WOS客戶端自動判斷哪個節(jié)點擁有被請求的對象，從延遲最低的數(shù)據(jù)源讀取該對象，并迅速將該文件返回給應用程序(4)系統(tǒng)根據(jù)WOS的策略復制數(shù)據(jù)。本例中，該文件被復制到Zone2。OID=5718a36143521602OID=5718a36143521602WOS?用于數(shù)據(jù)源&數(shù)據(jù)加速（CDN）ApplicationServer內(nèi)容源WOSCacheServer內(nèi)容源內(nèi)容源ApplicationServerWOSCacheServerEdgeCacheWOSCacheServer內(nèi)容上傳內(nèi)容上傳AutomaticPolicy-based

SynchronizationApplicationServerEdgeCache城市1城市2城市3內(nèi)容上傳中心管理WOS?用于數(shù)據(jù)采集與圖像處理Store&AnalyzeStore&processmonthsofdatainthefieldIn-CountryLocalIn-CountryanalysisIn-Countryprotection1In-CountryRemoteReplicatetoremoteIn-countrycontainerCollaboratebetweensites1境內(nèi)采集分析Highperformanceaccessforanalysison-siteTotallyhands-off&selfhealingPetabytescapacity,smallfootprintBetterthanRAIDdurability&availabilityAnalyze,Search&ManageStoreanddeeparchiveexabytesofdatainasingleyear3長期高速歸檔AutomaticallyjoinstoragepoolMassiveScalabilityLowTCOHighreliability,durability,&availabilityAutomaticmanagement,migration&upgrades2TransportTransfercontainersfromthefield現(xiàn)有應用WOS?用于非結(jié)構(gòu)化數(shù)據(jù)管理平臺分布式存儲、集中管理、就近訪問、水平擴展、確保數(shù)據(jù)安全精簡架構(gòu)，去掉多余組件，減少了故障點，精準管理完全橫向擴展話單查詢、醫(yī)療云…新增應用RESTHarddisk：每次購買時最優(yōu)RAID/LUNFilesystemVolumeManager專屬索引專屬索引DataMetadataDataMetadataDataMetadata…平面命名空間網(wǎng)關(guān)WOS?用于提供類似Dropbox的云存儲服務某公立大學有40,000名學生要提供經(jīng)認可的“類似Dropbox”的解決方案要求一個合法的內(nèi)部解決方案，發(fā)現(xiàn)其他競爭解決方案對自己不利文件共享服務提供商，搭售了他們的數(shù)據(jù)中心和人員DDN的安全WOS?云文件共享解決了上述問題向?qū)W生和教職員提供安全的文件存儲和共享學生畢業(yè)后，除一個永久的電子郵件帳號外，還包括該服務LoadBalancerReplicated,GlobalNamespaceScale-OutObjectStorageCloudGatewaysProvisioning&BillingMulti-tenantAccessviaS3&RESTWOSStorageSmartDevicesBrowserAccessAPIAccess基于策略的自動數(shù)據(jù)復制Zone2Zone3Zone1中心管理WOS?用于私有云(協(xié)同)WOS?技術(shù)細節(jié)WOS?Core

|主要技術(shù)指標市場上最高的存儲密度每機柜1.98PB、660個磁頭、220億個對象最高的擴展能力單一命名空間，每集群2560億個對象小規(guī)模起步,輕松擴展到30PB以上;按需在線擴展，集群性能線性提升性能200MB-500MB/node低延遲，1MB以內(nèi)對象的每次讀寫只執(zhí)行1次硬盤I/O用于保存任意比例的大小從512字節(jié)到5TB的文件，且存儲效率高達99%WOS60004U,60-driveWOSNode(SAS/SATA)1.98PB/11UnitsperRack典型拓撲圖(物理連接)Loadbalance注:非DDN產(chǎn)品IP網(wǎng)絡(luò)注:非DDN產(chǎn)品WOS6000云網(wǎng)關(guān)(提供各種協(xié)議支持）身份管理平臺注:非DDN產(chǎn)品WOSCloudClusterInterconnectService當前版本可水平擴展到256個節(jié)點……WOS?

|快速部署十分鐘或者更短時間內(nèi)將WOS節(jié)點、接入網(wǎng)絡(luò)給WOS節(jié)點分配IP地址，并制定集群名字(“AcmeWOS1”)進入WOS管理界面。WOS節(jié)點出現(xiàn)在“PendingNodes”清單中。拖放該節(jié)點到所需的Zone如果需要，指定復制策略SanFranciscoNewYorkLondonTokyo拖放新節(jié)點到任何需要擴展的Zone恭喜！WOS集群增加了180TB！WOS?

|易于管理數(shù)十PB的部署管理只需要1名全職工程師

單一、全局的命名空間，易于配置和擴展自動、透明、策略驅(qū)動的數(shù)據(jù)復制零干預——通過（按規(guī)劃）故障點平滑降級數(shù)據(jù)保護

|ObjectAssure?技術(shù)工作特性O(shè)bjectAssure(OA)支持WOS-Lib和RESTAPIOA在WOS的單一節(jié)點內(nèi)運行在WOS的保存策略中，指定“單一副本”時，OA功能開啟

在WOS集群中，OA和多副本復制保存方法可以混合使用以每個WOS節(jié)點為基礎(chǔ)，OA偵測多磁盤并發(fā)錯誤，并能糾正2個不同磁盤的并發(fā)錯誤ObjectAssure流程在PUT操作其間,OA將對象切片保存到8個磁盤上，并生成2份校驗數(shù)據(jù)(8+2)如果驅(qū)動器發(fā)生故障或?qū)ο笠褤p壞,WOS使用校驗數(shù)據(jù)重建被損壞的數(shù)據(jù)（自愈合）。注意故障磁盤上的數(shù)據(jù)將散布到節(jié)點內(nèi)的多塊磁盤上。WOSOA根據(jù)需要在讀(GETs)操作期間快速糾正數(shù)據(jù)5678P1P21234X1ClientApp``WOS-Lib“PUT”SelfHealing“GET”數(shù)據(jù)保護

|ObjectAssure的技術(shù)優(yōu)勢傳統(tǒng)RAID重建容量損失——備盤容量被擱置重建時間長-必須重建整個驅(qū)動器，即使發(fā)生故障的驅(qū)動器上只有少部分數(shù)據(jù)數(shù)據(jù)丟失風險高——如果備用驅(qū)動器不可用就不能重建增加支持成本——在備件數(shù)量少時，需要立即請求維修降低寫性能——RAID降低磁盤寫性能，尤其是小文件…x……x…x…x立即請求維修傳統(tǒng)RAID存儲整個驅(qū)動器被重建xxxReplicatedorObjectAssureFS+RAID6WOSWOS在各個驅(qū)動器之間重新平衡數(shù)據(jù)負載充分利用所有驅(qū)動器–任何驅(qū)動器上的任何可用容量都是備用池的一部分恢復時間縮短50％-只實際數(shù)據(jù)被復制更快的恢復數(shù)倍地提升了整體性能，并降低了數(shù)據(jù)丟失的風險驅(qū)動器故障僅使總?cè)萘繐p失故障驅(qū)動器自身的容量在定期維護時，通過更換故障驅(qū)動器恢復總?cè)萘考磿r資源調(diào)配可用容量:116TB可用容量:118TB可用容量:120TB為恢復容量，可選的計劃內(nèi)維修請求恢復RAID備盤1數(shù)據(jù)保護

|同步PUT操作同步PUTw/ReplicationWOSLib選擇“最短路徑”節(jié)點

Zone“SanFran”中的節(jié)點保存對象到磁盤，并按照策略復制該對象到NewYork和LondonSanFran節(jié)點收到來自NewYork和Londonzones的應答SanFran節(jié)點返回OID給應用程序ZoneSanFranWOSNodes…WOSNodes…ZoneNewYork01..0501..05ClientAppWOS-LibWOSClusterGroupMapWOSNodes…ZoneLondon01..05234AAAClientApp11數(shù)據(jù)保護|異步PUT操作PUT帶異步復制WOSLib選擇“最短路徑”節(jié)點Zone“SanFran”的節(jié)點保存對象的2份副本到不同的驅(qū)動器(節(jié)點)SanFran節(jié)點返回OID給應用程序然后集群(盡快)將對象復制到NewYork&London收到來自NewYork&London的應答，在SanFran的額外副本被立即刪除ZoneSanFranWOSNodes…WOSNodes…ZoneNewYork01..0501..05WOS-LibWOSClusterGroupMapWOSNodes…ZoneLondon01..0543AAAA240ms80ms10msLatencyMap在WOS的管理界面中可以查看數(shù)據(jù)復制的狀態(tài)高達4路復制1ZoneSanFranWOSNodes…2WOS?|GET

操作(WOS-Lib)Get操作——常規(guī)WOS-Lib選擇具有最小延遲路徑的副本，并發(fā)送GET請求Zone“SanFran”中的節(jié)點返回對象A給應用程序WOSNodes…ZoneNewYork01..0501..05WOSNodes…ZoneLondon01..05AAAGet操作——修復受損數(shù)據(jù)WOS-Lib選擇具有最小延遲路徑的副本，并發(fā)送GET請求Zone“SanFran”節(jié)點檢測到對象損壞WOS-Lib找到下一個最近的副本并讀取、返回給客戶端應用程序在后臺,