大數(shù)據(jù)挖掘常用方法

1、.數(shù)據(jù)挖掘常用的方法在大數(shù)據(jù)時代， 數(shù)據(jù)挖掘 是最關(guān)鍵的工作。 大數(shù)據(jù)的挖掘是從海量、 不完全的、有噪聲的、模糊的、隨機的大型數(shù)據(jù)庫中發(fā)現(xiàn)隱含在其中有價值的、潛在有用的信息和知識的過程， 也是一種決策支持過程。 其主要基于人工智能， 機器學(xué)習(xí)，模式學(xué)習(xí)，統(tǒng)計學(xué)等。通過對大數(shù)據(jù)高度自動化地分析， 做出歸納性的推理，從中挖掘出潛在的模式，可以幫助企業(yè)、商家、用戶調(diào)整市場政策、減少風(fēng)險、理性面對市場，并做出正確的決策。目前，在很多領(lǐng)域尤其是在商業(yè)領(lǐng)域如銀行、電信、電商等，數(shù)據(jù)挖掘可以解決很多問題， 包括市場營銷策略制定、 背景分析、企業(yè)管理危機等。大數(shù)據(jù)的挖掘常用的方法有分類、 回歸分析、聚類、關(guān)聯(lián)

2、規(guī)則 、神經(jīng)網(wǎng)絡(luò)方法、 Web 數(shù)據(jù)挖掘等。這些方法從不同的角度對數(shù)據(jù)進行挖掘。(1) 分類。分類是找出數(shù)據(jù)庫中的一組數(shù)據(jù)對象的共同特點并按照分類模式將其劃分為不同的類， 其目的是通過分類模型， 將數(shù)據(jù)庫中的數(shù)據(jù)項映射到摸個給定的類別中。 可以應(yīng)用到涉及到應(yīng)用分類、 趨勢預(yù)測中， 如淘寶商鋪將用戶在一段時間內(nèi)的購買情況劃分成不同的類， 根據(jù)情況向用戶推薦關(guān)聯(lián)類的商品， 從而增加商鋪的銷售量。(2) 回歸分析。回歸分析反映了數(shù)據(jù)庫中數(shù)據(jù)的屬性值的特性，通過函數(shù)表達數(shù)據(jù)映射的關(guān)系來發(fā)現(xiàn)屬性值之間的依賴關(guān)系。 它可以應(yīng)用到對數(shù)據(jù)序列的預(yù)測及相關(guān)關(guān)系的研究中去。 在市場營銷中， 回歸分析可以被應(yīng)用到各

3、個方面。 如通過對本季度銷售的回歸分析， 對下一季度的銷售趨勢作出預(yù)測并做出針對性的營銷改變。(3) 聚類。聚類類似于分類，但與分類的目的不同，是針對數(shù)據(jù)的相似性和差異性將一組數(shù)據(jù)分為幾個類別。 屬于同一類別的數(shù)據(jù)間的相似性很大， 但不同類別之間數(shù)據(jù)的相似性很小，跨類的數(shù)據(jù)關(guān)聯(lián)性很低。(4) 關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則是隱藏在數(shù)據(jù)項之間的關(guān)聯(lián)或相互關(guān)系，即可以根據(jù)一個數(shù)據(jù)項的出現(xiàn)推導(dǎo)出其他數(shù)據(jù)項的出現(xiàn)。 關(guān)聯(lián)規(guī)則的挖掘過程主要包括兩個階段：第一階段為從海量原始數(shù)據(jù)中找出所有的高頻項目組; 第二極端為從這些高頻項目組產(chǎn)生關(guān)聯(lián)規(guī)則。 關(guān)聯(lián)規(guī)則挖掘技術(shù)已經(jīng)被廣泛應(yīng)用于金融行業(yè)企業(yè)中用以預(yù)測客戶的需求，各銀行

4、在自己的 ATM 機上通過捆綁客戶可能感興趣的信息供用戶了解并獲取相應(yīng)信息來改善自身的營銷。(5) 神經(jīng)網(wǎng)絡(luò)方法。神經(jīng)網(wǎng)絡(luò)作為一種先進的人工智能技術(shù)，因其自身自行處理、分布存儲和高度容錯等特性非常適合處理非線性的以及那些以模糊、 不完整、不嚴(yán)密的知識或數(shù)據(jù)為特征的處理問題， 它的這一特點十分適合解決數(shù)據(jù)挖掘的問題。典型的神經(jīng)網(wǎng)絡(luò)模型主要分為三大類： 第一類是以用于分類預(yù)測和模式識別的前饋式神經(jīng)網(wǎng)絡(luò)模型，其主要代表為函數(shù)型網(wǎng)絡(luò)、感知機 ; 第二類是用于聯(lián)想記憶和優(yōu)化算法的反饋式神經(jīng)網(wǎng)絡(luò)模型， 以 Hopfield 的離散模型和連續(xù)模型為代表。第三類是用于聚類的自組織映射方法，以 ART 模型為代

5、表。雖然神經(jīng)網(wǎng)絡(luò)有多種模型及算法， 但在特定領(lǐng)域的數(shù)據(jù)挖掘中使用何種模型及算法并沒有統(tǒng)一的規(guī)則，而且人們很難理解網(wǎng)絡(luò)的學(xué)習(xí)及決策過程。.(6)Web 數(shù)據(jù)挖掘。 Web數(shù)據(jù)挖掘是一項綜合性技術(shù)，指 Web 從文檔結(jié)構(gòu)和使用的集合 C 中發(fā)現(xiàn)隱含的模式 P，如果將 C看做是輸入， P 看做是輸出， 那么 Web 挖掘過程就可以看做是從輸入到輸出的一個映射過程。當(dāng)前越來越多的 Web 數(shù)據(jù)都是以數(shù)據(jù)流的形式出現(xiàn)的，因此對 Web 數(shù)據(jù)流挖掘就具有很重要的意義。目前常用的 Web數(shù)據(jù)挖掘算法有： PageRank算法， HITS 算法以及 LOGSOM算法。這三種算法提到的用戶都是籠統(tǒng)的用戶， 并沒有區(qū)分用戶的個體。目前 Web 數(shù)據(jù)挖掘面臨著一些問題