H3C大數(shù)據(jù)產(chǎn)品技術(shù)白皮書3

1、H3c大數(shù)據(jù)產(chǎn)品技術(shù)白皮書杭州華三通信技術(shù)有限公司2020年5月H3c大數(shù)據(jù)產(chǎn)品介紹1.1 產(chǎn)品簡介11.2 產(chǎn)品架構(gòu)11.2.1 數(shù)據(jù)處理21.2.2 數(shù)據(jù)分層31.3 產(chǎn)品技術(shù)特點4.先進的混合計算架構(gòu)4高性價比的分布式集群4.云化ETL4數(shù)據(jù)分層和分級存儲5數(shù)據(jù)分析挖掘5.數(shù)據(jù)服務(wù)接口5.可視化運維管理51.4 產(chǎn)品功能簡介.6.管理平面功能：7業(yè)務(wù)平面功能：82 DataEngineHDP核心、技術(shù)93 DataEngineMPPCluster核心技術(shù)93.1 MPP+SharedNothing架構(gòu)9.3.2 核心組件103.3 高可用113.4 高性能擴展能力1.1.3.5 高性能數(shù)

2、據(jù)加載123.6 OLAP函數(shù)1.33.7 行列混合存儲13.1 H3c大數(shù)據(jù)產(chǎn)品介紹1.1 產(chǎn)品簡介H3C大數(shù)據(jù)平臺采用開源社區(qū)ApacheHadoop2.0和MPP分布式數(shù)據(jù)庫混合計算框架為用戶提供一套完整的大數(shù)據(jù)平臺解決方案，具備高性能、高可用、高擴展特性，可以為超大規(guī)模數(shù)據(jù)管理提供高性價比的通用計算存儲能力。H3C大數(shù)據(jù)平臺提供數(shù)據(jù)采集轉(zhuǎn)換、計算存儲、分析挖掘、共享交換以及可視化等全系列功能，并廣泛地用于支撐各類數(shù)據(jù)倉庫系統(tǒng)、BI系統(tǒng)和決策支持系統(tǒng)幫助用戶構(gòu)建海量數(shù)據(jù)處理系統(tǒng)，發(fā)現(xiàn)數(shù)據(jù)的內(nèi)在價值。1.2 產(chǎn)品架構(gòu)rrtia Kettle秋珊iruL m.而工阻回七手加夫拳帆團爭助Flu

3、meSqoopH3c大象瞰t理等占前通溪埠鞋5家裝翁？需竽習(xí)節(jié)假簍SH田虎素防叫過可安空apt去轉(zhuǎn)吞WE=ULffU:m二噬網(wǎng)源實罰M集U鑒I巨全器后后的日上交魏率 首領(lǐng)化故理 叼守醋 地"島三日箭 EFP CRU SGM 主產(chǎn)記承H3C大數(shù)據(jù)平臺包含4個部分：第一部分是運維管理，包括：安裝部署、配置管理、主機管理、用戶管*F三會占二蘭拉當(dāng)些理、服務(wù)管理、監(jiān)控告警和安全管理等。第二部分是數(shù)據(jù)ETL,即獲取、轉(zhuǎn)換、加載，包括：關(guān)系數(shù)據(jù)庫連接Sqoop、日志采集Flume、ETL工具Kettle。第三部分是數(shù)據(jù)計算。MPP采用分析型分布式數(shù)據(jù)庫，存儲高價值密度的結(jié)構(gòu)化數(shù)據(jù)；Hadoop存

4、儲非結(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)和低價值密度結(jié)構(gòu)化數(shù)據(jù)。計算結(jié)果都存到數(shù)據(jù)倉庫，數(shù)據(jù)倉庫中的數(shù)據(jù)可直接用于分析和展示。數(shù)據(jù)倉庫是面向主題的、集成的、穩(wěn)定的且隨時間不斷變化的數(shù)據(jù)集合，用以支持經(jīng)營管理中的決策制定過程。第四部分?jǐn)?shù)據(jù)服務(wù)，包括：機器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)檢索、數(shù)據(jù)可視化、即席分析、SQL和API,為應(yīng)用層提供服務(wù)和中間件調(diào)用。1.2.1 數(shù)據(jù)處理對于大數(shù)據(jù)管理平臺，應(yīng)該建立一套標(biāo)準(zhǔn)化、規(guī)范化的數(shù)據(jù)處理流程，例如:如何采集內(nèi)部和外部數(shù)據(jù)、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)；如何清洗采集來的臟數(shù)據(jù)和無效數(shù)據(jù)；如何對不同來源的數(shù)據(jù)進行打通；如何對非結(jié)構(gòu)化的數(shù)據(jù)進行結(jié)構(gòu)化加工；如何在結(jié)構(gòu)化數(shù)據(jù)的基礎(chǔ)上進行商業(yè)建模

5、和數(shù)據(jù)挖掘等等。大數(shù)據(jù)管理層在一條數(shù)據(jù)總線上構(gòu)建了一條完整的大數(shù)據(jù)處理流水線。這條流水線從數(shù)據(jù)的采集、清洗到加工處理，把原始雜亂無章的數(shù)據(jù)加工成結(jié)構(gòu)化的數(shù)據(jù)組件，供上層的大數(shù)據(jù)應(yīng)用來拼裝調(diào)用，讓企業(yè)擁有創(chuàng)造數(shù)據(jù)資產(chǎn)的能力。1.2.2 數(shù)據(jù)分層ODS層：數(shù)據(jù)來源于各生產(chǎn)系統(tǒng)，通過ETL工具對接口文件數(shù)據(jù)進行編碼替換和數(shù)據(jù)清洗轉(zhuǎn)換，不做關(guān)聯(lián)操作。未來也可用于準(zhǔn)實時數(shù)據(jù)查詢。輕度匯總層：主題域內(nèi)部基于明細(xì)層數(shù)據(jù)，進行多維度的、用戶級的匯總明細(xì)數(shù)據(jù)層：主題域內(nèi)部進行拆分、關(guān)聯(lián)。是對ODS操作型數(shù)據(jù)按照主題域劃分規(guī)則進行的拆分及合并。信息子層：報表數(shù)據(jù)、多維數(shù)據(jù)、指標(biāo)庫等數(shù)據(jù)來源于匯總層。匯總層：主題域

6、之間進行關(guān)聯(lián)、匯總計算。匯總數(shù)據(jù)服務(wù)于信息子層，目的是為了節(jié)約信息子層數(shù)據(jù)計算成本和計算時間。應(yīng)用層：應(yīng)用系統(tǒng)的私有數(shù)據(jù)，應(yīng)用的業(yè)務(wù)數(shù)據(jù)。精細(xì)化營銷做為大數(shù)據(jù)平臺的一個上層應(yīng)用，由大數(shù)據(jù)平臺提供數(shù)據(jù)支撐。1.3 產(chǎn)品技術(shù)特點先進的混合計算架構(gòu)?采用Hadoop和MPP融合技術(shù)架構(gòu)，對半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)支持并行計算和低成本存儲，提供低時延、高并發(fā)的查詢和分析功能；對結(jié)構(gòu)化數(shù)據(jù)采用MPP分布式列存儲，支持分布式計算、智能索引等功能，實現(xiàn)高性能結(jié)構(gòu)化數(shù)據(jù)分析處理。集成MapReduce、Spark、Storm、Tez等多種計算框架，利用YARN資源管理做統(tǒng)一管理，可在同一份數(shù)據(jù)集上運行多種計算。

7、離線計算、內(nèi)存計算和流式計算并存，能滿足高吞吐、大數(shù)據(jù)量和低時延實時處理等多方面的數(shù)據(jù)計算要求。高性價比的分布式集群?基于x86服務(wù)器本地的計算與存儲資源，計算集群可以動態(tài)調(diào)整，從數(shù)臺到數(shù)千臺之間彈性擴展，按需構(gòu)建應(yīng)用，減少總體成本；同時，在設(shè)計時充分考慮了硬件設(shè)備的不可靠因素，在軟件層面提供計算和存儲的高可靠保證，具備較強的容錯性。云化ETL?將不同業(yè)務(wù)系統(tǒng)中分散、零亂、標(biāo)準(zhǔn)不統(tǒng)一的各種源數(shù)據(jù)中的數(shù)據(jù)進行匯聚。支持從DBMS、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、企業(yè)生產(chǎn)系統(tǒng)等各種數(shù)據(jù)源中提取數(shù)據(jù)。各類數(shù)據(jù)經(jīng)過抽取、清洗和轉(zhuǎn)化后，實現(xiàn)多對多地加載到包含但不限于大數(shù)據(jù)集群和各類關(guān)系型數(shù)據(jù)庫中。該過程由一個統(tǒng)一的操作

8、接口封裝，經(jīng)過無代碼的可視化配置后，可實現(xiàn)自動化地、分布式地執(zhí)行整個ETL乍業(yè)流程。數(shù)據(jù)分層和分級存儲把數(shù)據(jù)按照不同階段分為ODS(OperationalDataStore)數(shù)據(jù)、輕度匯總數(shù)據(jù)、信息子層數(shù)據(jù)和應(yīng)用數(shù)據(jù)，分別存儲在Hadoop平臺、MPP分布式數(shù)據(jù)庫和數(shù)據(jù)倉庫，滿足不同階段的計算需求；按照在線數(shù)據(jù)、歷史數(shù)據(jù)等來管理數(shù)據(jù)生命周期，滿足在線數(shù)據(jù)的高性能存儲的需求；將核心模型數(shù)據(jù)通過改造融入到數(shù)據(jù)倉庫的核心模型中，減少數(shù)據(jù)冗余，提升數(shù)據(jù)質(zhì)量；將數(shù)據(jù)倉庫中的歷史數(shù)據(jù)遷移到低成本分布式數(shù)據(jù)庫，減輕數(shù)據(jù)倉庫的計算與存儲壓力并支撐深度數(shù)據(jù)分析。數(shù)據(jù)分析挖掘支持R語言，集成機器學(xué)習(xí)算法庫Maho

9、ut和SparkMLlib,包含聚類分析、分類算法、頻度關(guān)聯(lián)分析和推薦系統(tǒng)在內(nèi)的常用機器學(xué)習(xí)算法。滿足批處理統(tǒng)計分析、在線數(shù)據(jù)檢索、R語言數(shù)據(jù)挖掘、實時流處理、全文搜索等全方位需求。可幫助企業(yè)建立高速可擴展的數(shù)據(jù)倉庫和數(shù)據(jù)集市，結(jié)合多種報表工具提供交互式數(shù)據(jù)分析、即時報表和BI可視化展示能力。數(shù)據(jù)服務(wù)接口提供交互式SQL和可編程API,提取數(shù)據(jù)存儲計算平臺的數(shù)據(jù)處理結(jié)果，屏蔽底層細(xì)節(jié)，為上層應(yīng)用提供數(shù)據(jù)服務(wù)。主要包括SQL接口、MapReduce/Spark/Storm計算接口等多種可編程APN全文實時搜索接口、業(yè)務(wù)定向接口、關(guān)聯(lián)查詢接口，滿足數(shù)據(jù)查詢、可視化B展示、數(shù)據(jù)交換、數(shù)據(jù)分析、目錄服

10、務(wù)、綜合查詢等業(yè)務(wù)應(yīng)用的需要?？梢暬\維管理提供Web圖形化界面實現(xiàn)運集群的管理和監(jiān)控，集群的節(jié)點、主機和服務(wù)的運行狀態(tài)都能在界面上顯示，操作友好，功能豐富。提供集群快速安裝部署、機架展示、用戶權(quán)限管理、主機與服務(wù)管理、監(jiān)控及告警通知等多方面支持，在可管理性方面優(yōu)勢顯著。服務(wù)分類服務(wù)名稱服務(wù)功能說明系統(tǒng)服務(wù)YARN一種全新的通用的Hadoop資源管理器，為集群在利用率和資源統(tǒng)一管理等方面帶來了巨大便利?？墒筂apReduce、Spark、Storm等共存。ZooKeeper分布式應(yīng)用程序協(xié)調(diào)服務(wù)，保證集群的一致性。提供的功能包括：配置維護、名字服務(wù)、分布式同步、組服務(wù)等。Slider將已存在服

11、務(wù)部署在YARN集群上，而不用修改已存在服務(wù)。Oozie提供Hadoop作業(yè)工作流管理功能，可管理MR、Hive、Pig、Sqoop和HDFS等任務(wù)。Kafka一種低時延高吞吐量的分布式發(fā)布/訂閱消息系統(tǒng)，同時滿足在線和離線處理海量消息數(shù)據(jù)派發(fā)。Kerberos一個基于共享密鑰對稱加密的安全網(wǎng)絡(luò)認(rèn)證系統(tǒng)，可防止對集群的惡意使用和篡改，保障Hadoop集群的安全可靠。計算服務(wù)MapReduce批處理框架，將一個大任務(wù)分成多個獨立的小任務(wù)，最后匯總各個小任務(wù)的結(jié)果。用戶只需關(guān)注上層應(yīng)用的邏輯，完全不用關(guān)注底層分布式細(xì)節(jié)，大大提升了分布式應(yīng)用開發(fā)的效率和質(zhì)量。主要用于離線計算和計算密集型應(yīng)用。Spa

12、rk迭代計算框架，基于內(nèi)存計算。性能比MR快10-100倍，通用性好，支持批處理、流處理、SQL查詢、機器學(xué)習(xí)、圖計算等。Storm流處理框架，具有效率高、能保證每條消息都能被處理和實踐應(yīng)用很多等優(yōu)點。TezMapReduce程序性能優(yōu)化器。將MR程序轉(zhuǎn)化為有向無環(huán)圖，大大提升性能。存儲服務(wù)HDFSHadoop分布式文件系統(tǒng)，具有高容錯性，可以部署在廉價的機器上。提供高吞吐量來訪問應(yīng)用程序的數(shù)據(jù)，適合存儲超大數(shù)據(jù)集。HBase分布式、面向列數(shù)據(jù)庫，利用HDFS作為持久化數(shù)據(jù)存儲，使用Zookeeper作為協(xié)同服務(wù)組件。具有容量巨大、面向列存儲和權(quán)限控制、稀疏性、高可用和高性能等特點。數(shù)據(jù)處理S

13、qoopHadoop和關(guān)系型數(shù)據(jù)庫之間進行批量數(shù)據(jù)轉(zhuǎn)移的工具。Flume一個高可用的，高可靠的，分布式的海量日志采集、聚合和傳輸?shù)南到y(tǒng)。Hive基于Hadoop的數(shù)據(jù)倉庫工具，可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，采用HiveQL作為查詢語言。將HiveQL轉(zhuǎn)換為MapReduce任務(wù)，從而完成海量數(shù)據(jù)的查詢和分析。Pig基于Hadoop的數(shù)據(jù)流處理引擎，將類SQL的數(shù)據(jù)分析請求轉(zhuǎn)換為Map/Reduce任務(wù)。Mahout機器學(xué)習(xí)算法庫，3個主要應(yīng)用場景是協(xié)作篩選、集群和分類，可使用MR、Scala、Spark來提交Mahout接口。數(shù)據(jù)即服務(wù)提供機器學(xué)習(xí)Mahout、數(shù)據(jù)挖掘、數(shù)據(jù)檢索、

14、R語言、交互式SQL（SQLonHadoop）、可編程API等功能，滿足上次應(yīng)用開發(fā)需求。MPP分布式數(shù)據(jù)庫H3cMPP關(guān)系型數(shù)據(jù)庫集群，良好的SQL語言支持。高性能、高容錯、高可用。1.4產(chǎn)品功能簡介服務(wù)名稱服務(wù)功能說明安裝部署提供定制部署、Zero部署和虛機部署等多種集群部署方式，滿足用戶不用應(yīng)用場景需求。提供Web圖形化界面和快速向?qū)?，引?dǎo)用戶快捷高效地建立集群。機架管理實現(xiàn)HDFS副本存放策略的可視化管理。配置管理實現(xiàn)集群各項服務(wù)配置參數(shù)的歷史快照功能，記錄配置變更，方便性能調(diào)優(yōu)。用戶和組管理支持單用戶和用戶組管理，便捷的用戶和組的增刪操作，提供不同級別的訪問權(quán)限控制；主機管理實時監(jiān)控

15、主機各項硬件資源（CPU、內(nèi)存、磁盤、網(wǎng)絡(luò)等）及其上承載的服務(wù)的運行狀態(tài)。執(zhí)行主機級別操作如停止、運行主機上的服務(wù)等。服務(wù)管理對集群的各項服務(wù)做集中式管理，提供啟動服務(wù)、停止服務(wù)、修改屬性和設(shè)定運行參數(shù)等功能。實現(xiàn)集群各項服務(wù)運行狀態(tài)（基本信息、告警、運行健康狀態(tài)）實時監(jiān)控。監(jiān)控和告警監(jiān)控集群運行的健康狀態(tài)，在特定的情況下發(fā)出信息，幫助識別和定位問題原因?？勺远x告警的監(jiān)控間隔和閾值、觸發(fā)條件、告警通知方式。版本管理實現(xiàn)HDPStack可用服務(wù)和軟件版本的管理功能。多租戶支持多租戶訪問集群資源。安全管理支持本地、LDAP和Kerberos多種身份認(rèn)證方式，實現(xiàn)訪問權(quán)限控制。支持對文件、目錄、表

16、、歹U、行等細(xì)粒度的訪問控制，可防止對集群的惡意使用和篡改，保證集群的可安全可靠。數(shù)據(jù)管理實現(xiàn)數(shù)據(jù)的壓縮、備份、交換及數(shù)據(jù)ETL的管理。管理平面功能:業(yè)務(wù)平面功能:2DataEngineHDP核心技術(shù)Sha.rk品咋/后由41FH+SeTIUKZ3E itormSpftrkDataEngine HDP基于X86服務(wù)器本地的計算與存儲資源提供了分布式并行計算和低成本存儲，提供低時延、高并發(fā)的查詢功能，集群可以擴展到上千臺服務(wù)器。開源組件的封裝和增強，對外提供數(shù)據(jù)分布式計算存儲、數(shù)據(jù)分析能力。H3c通過對Hadoop資源管理YARN:改進的YARN統(tǒng)一資源管理，在同一物理主機 運行多種計算框架，包

17、括離線計算、內(nèi)存計算和實時計算。/虛擬主機和數(shù)據(jù)集上分布式文件系統(tǒng) HDFS:分布式文件系統(tǒng)，有較強的容錯性，可在 少總體成本，可擴展，能構(gòu)建大規(guī)模的應(yīng)用。x86平臺上運行，減數(shù)據(jù)庫 HBase： HBase 是一種構(gòu)建在 HDFS (Hadoop Distributed File System )之上的分布式、面向列的存儲系統(tǒng)，它具有高可靠、高性能、面向列和可伸縮的特性。HBase適合于存儲大表數(shù)據(jù) （表的規(guī)模可以達到數(shù)十億行以及數(shù)百萬列） 讀、寫訪問可以達到實時級別。,并且對大表數(shù)據(jù)的離線計算：MapReduce是一種離線計算框架，將一個算法抽象成 階段進行處理，適合數(shù)據(jù)密集型計算場景。M

18、ap和Reduce兩個內(nèi)存計算：Spark是一種內(nèi)存計算框架，它將數(shù)據(jù)盡可能放到內(nèi)存中以提高迭代應(yīng)用 和交互式應(yīng)用的計算效率。實時計算：Storm擅長流式計算、實時分析，比如廣告點擊計算、它在實時性要遠(yuǎn)遠(yuǎn) 好于MapReduce計算框架。3 DataEngine MPP Cluster 核心技術(shù)3.1 MPP + Shared Nothing 架構(gòu)DataEngine MPP Cluster采用完全并行的 MPP + Shared Nothing的分布式扁平架構(gòu),這種架構(gòu)中的每一個節(jié)點（node）都是獨立的、自給的、節(jié)點之間對等，而且整個系統(tǒng)中不存在單點瓶頸，具有非常強的擴展性。圖3-1Sha

19、redNothing+MPP架構(gòu)示意圖3.2 核心組件DataEngineMPPCluster產(chǎn)品總共包含三大核心組件，即GCluster、GCware和GNode。GCWare用于各節(jié)點GCluster實例間共享信息，GCluster負(fù)責(zé)集群調(diào)度，每個GNode就是最基本的存儲和計算單元。GCluster:GCluster負(fù)責(zé)SQL的解析、SQL優(yōu)化、分布式執(zhí)行計劃生成、執(zhí)行調(diào)度。GCWare:GCWare用于各節(jié)點GCluster實例間共享信息（包括集群結(jié)構(gòu)，節(jié)點狀態(tài)，節(jié)點資源狀態(tài)等信息），以及控制多副本數(shù)據(jù)操作時，提供可操作節(jié)點，并在多副本操作中，控制各節(jié)點數(shù)據(jù)一致性狀態(tài)。GCWare對

20、于集群的管理工作是以節(jié)點為基本單位的。GNode:GNode是GCluster中最基本的存儲和計算單元。GNode是由GCWare管理的一個8a實例，每個GCluster節(jié)點上有一個GNode實例運行。GNode負(fù)責(zé)集群數(shù)據(jù)在節(jié)點上的實際存儲，并從GCluster接收和執(zhí)行經(jīng)分解的SQL執(zhí)行計劃，執(zhí)行結(jié)果返回給GCluster。數(shù)據(jù)加載時，GNode直接從集群加載服務(wù)接收數(shù)據(jù)，寫入本地存儲空間。GCMonit:GCMonit用于定期監(jiān)測DataEngineMPPCluster服務(wù)程序的運行狀態(tài),一旦發(fā)現(xiàn)某個服務(wù)程序的進程狀態(tài)發(fā)生變化，就會根據(jù)配置文件中的內(nèi)容來執(zhí)行相應(yīng)的命令。GCMonit進程

21、監(jiān)控程序為集群中的每個組件提供各自的啟停腳本，提供的總腳本可以一次性啟停所有模塊的服務(wù)。3.3 高可用DataEngineMPPCluster通過SafeGroup組內(nèi)冗余機制來保證集群的高可用特性:1) 每個SafeGroup可提供1個或2個副本數(shù)據(jù)冗余；2) SafeGroup內(nèi)數(shù)據(jù)副本自動同步；3)復(fù)制引擎自動管理數(shù)據(jù)同步；圖3-2SafeGroup高可用性管理示意圖3.4 高性能擴展能力DataEngineMPPCluster具備高性能擴展能力:1) 通過SafeGroup動態(tài)擴展集群節(jié)點；2)每個節(jié)點可以處理10TB有效數(shù)據(jù)，同時提供計算和存儲能力;3) GCware負(fù)責(zé)新節(jié)點的數(shù)據(jù)同步。圖3-3DataEngineMPPCluster擴展技術(shù)示意圖因為DataEngineMPPCluster采用高性能單節(jié)點的MPP扁平架構(gòu)，因此進行集群擴展時，可以保證平滑擴展和性能的線性增長特性。Scale up I