Spark技術(shù)模塊簡(jiǎn)介_第1頁
Spark技術(shù)模塊簡(jiǎn)介_第2頁
Spark技術(shù)模塊簡(jiǎn)介_第3頁
Spark技術(shù)模塊簡(jiǎn)介_第4頁
Spark技術(shù)模塊簡(jiǎn)介_第5頁
已閱讀5頁，還剩10頁未讀， 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

Spark技術(shù)模塊1.了解Spark模塊

2.掌握Spark各模塊功能01Spark模塊圖02Spark模塊功能分析Spark模塊圖01模塊圖Spark模塊功能分析02模塊功能分析

最底層是Mesos和Yarn，Mesos和Yarn都是資源調(diào)度框架，Spark應(yīng)用程序都可以運(yùn)行在Mesos或者Yarn上。模塊功能分析

再向上一層是數(shù)據(jù)存儲(chǔ)系統(tǒng)，HDFS是分布式的文件存儲(chǔ)系統(tǒng)，數(shù)據(jù)存儲(chǔ)在磁盤上，最小的持久化單位是block。Tachyon和HDFS類似，是基于內(nèi)存的分布式文件系統(tǒng)，Spark可以讀取HDFS中的數(shù)據(jù)也可以讀取Tachyon上的數(shù)據(jù)。模塊功能分析

SparkCore是Spark技術(shù)的核心，SparkCore中包含Spark的編程模式，處理數(shù)據(jù)模式及任務(wù)資源調(diào)度過程，Spark處理批次數(shù)據(jù)可以使用SparkCore。模塊功能分析

SparkSQL是Spark針對(duì)結(jié)構(gòu)化數(shù)據(jù)進(jìn)行SQL查詢提供的模塊。模塊功能分析

SparkStreaming是Spark中針對(duì)流式場(chǎng)景數(shù)據(jù)處理開發(fā)的模塊。模塊功能分析

SparkGraphX是一個(gè)分布式的圖處理框架。社交網(wǎng)絡(luò)中，用戶與用戶之間會(huì)存在錯(cuò)綜復(fù)雜的聯(lián)系，如微信、QQ、微博的用戶之間的好友、關(guān)注等關(guān)系，構(gòu)成了一張巨大的圖，單機(jī)無法處理，只能使用分布式圖處理框架處理，SparkGraphX就是一種分布式圖處理框架。模塊功能分析

SparkMachineLearning提供了Mllib機(jī)器學(xué)習(xí)庫，MLlib（machinelearninglibrary）是Spark提供的可擴(kuò)展的機(jī)器學(xué)習(xí)庫，MLlib中已經(jīng)包含了一些通用的學(xué)習(xí)算法和工具，如：分類、回歸、聚類、協(xié)同過濾、降維以及底層的優(yōu)化原語等算法和工具，可以針對(duì)機(jī)器學(xué)習(xí)的場(chǎng)景使用SparkMllib庫進(jìn)行數(shù)據(jù)挖掘。

Spark各功能模塊的介紹和功能分析：

Mesos和Yarn、HDFS和Tachyon、SparkCore、SparkSQL、SparkStream

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間，僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請(qǐng)與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論