淺析大數(shù)據(jù)時(shí)代數(shù)據(jù)管理面臨的新挑戰(zhàn)

1、    淺析大數(shù)據(jù)時(shí)代數(shù)據(jù)管理面臨的新挑戰(zhàn)    陳婧?王蘭花?郭鵬程伴隨物聯(lián)網(wǎng)、云計(jì)算和人工智能等技術(shù)的快速發(fā)展，以微博、微信等為代表的新型信息發(fā)布平臺(tái)的出現(xiàn)，數(shù)據(jù)正以前所未有的速度增長(zhǎng)，在數(shù)據(jù)出現(xiàn)多源異構(gòu)、動(dòng)態(tài)增長(zhǎng)等特點(diǎn)后，傳統(tǒng)的數(shù)據(jù)管理方式已經(jīng)不能滿足海量數(shù)據(jù)的需求，新的挑戰(zhàn)應(yīng)運(yùn)而生。一、大數(shù)據(jù)概述大數(shù)據(jù)（big data）術(shù)語(yǔ)早在20世紀(jì)80年代就已經(jīng)提出，nature雜志于2008年刊登了一篇題為“big data：science in the petabyte era”的文章后，大數(shù)據(jù)的概念才漸漸被人知曉。近年來(lái)，大數(shù)據(jù)的價(jià)值逐漸得到體現(xiàn)，成

2、為人們研究的重點(diǎn)領(lǐng)域。2008年，馬云通過(guò)整合旗下電子商務(wù)網(wǎng)站中的消費(fèi)者訂單數(shù)據(jù)等信息，發(fā)現(xiàn)海外企業(yè)的采購(gòu)量急劇下降，提前6個(gè)月的時(shí)間準(zhǔn)確地預(yù)測(cè)出世界金融危機(jī)。2009年，google公司利用人們網(wǎng)上搜索的相關(guān)詞條，如咳嗽、發(fā)熱等，并依據(jù)檢索的頻率、時(shí)間和空間建立分析預(yù)測(cè)系統(tǒng)，成功預(yù)測(cè)出甲型h1n1流感病毒的爆發(fā)，及時(shí)發(fā)出預(yù)警信息。此類例子不勝枚舉。二、大數(shù)據(jù)時(shí)代面臨的新挑戰(zhàn)（一）數(shù)據(jù)集成的挑戰(zhàn)大數(shù)據(jù)背景下，數(shù)據(jù)集成有新的需求：1.廣泛的異構(gòu)性。傳統(tǒng)的數(shù)據(jù)一般是結(jié)構(gòu)性數(shù)據(jù)，處理技術(shù)也非常成熟，但在大數(shù)據(jù)時(shí)代，數(shù)據(jù)的類型出現(xiàn)了新的變化。2.數(shù)據(jù)從以往的多以結(jié)構(gòu)化的形式體現(xiàn)逐漸向結(jié)構(gòu)化、半結(jié)構(gòu)化和

3、非結(jié)構(gòu)化這三者的融合過(guò)度。3.數(shù)據(jù)越來(lái)越多樣，而多樣性的變化源于數(shù)據(jù)源的變化。傳統(tǒng)數(shù)據(jù)一般產(chǎn)生于個(gè)人pc或者服務(wù)器，這些設(shè)備較固定。隨著web 2.0技術(shù)的發(fā)展，移動(dòng)智能終端（如智能手機(jī)、平板和gps導(dǎo)航儀等）的普及，數(shù)據(jù)量呈爆炸式增長(zhǎng)，并開始具備跨時(shí)空的特性。（二）數(shù)據(jù)分析的挑戰(zhàn)傳統(tǒng)數(shù)據(jù)分析一般是在結(jié)構(gòu)化數(shù)據(jù)上展開的，已經(jīng)形成了一套成熟的分析體系，例如聯(lián)機(jī)分析處理（on-line analytic processing，olap）模式。隨著大數(shù)據(jù)時(shí)代的到來(lái)，半結(jié)構(gòu)化甚至非結(jié)構(gòu)化的數(shù)據(jù)量猛增，傳統(tǒng)的分析技術(shù)已經(jīng)無(wú)法應(yīng)付這些海量：1.數(shù)據(jù)處理的實(shí)時(shí)性。大數(shù)據(jù)時(shí)代，數(shù)據(jù)往往是具有時(shí)效性要求的，時(shí)間

4、越短，能夠從中獲得的數(shù)據(jù)價(jià)值越高。而在大數(shù)據(jù)分析方法上，沒有一個(gè)通用的實(shí)時(shí)處理框架。2.在動(dòng)態(tài)變化環(huán)境中進(jìn)行索引。大數(shù)據(jù)環(huán)境中，數(shù)據(jù)量是海量的，利用傳統(tǒng)的索引方式從海量不同類型的數(shù)據(jù)中找到一條想要的記錄是非常困難的，因此設(shè)計(jì)一種新的索引方式勢(shì)在必行。3.先驗(yàn)知識(shí)的缺乏。大數(shù)據(jù)時(shí)代，數(shù)據(jù)多以半結(jié)構(gòu)化和非結(jié)構(gòu)化的形式存在，這些數(shù)據(jù)之間難以建立直接建立聯(lián)系，很多實(shí)時(shí)數(shù)據(jù)是以流的形式流入數(shù)據(jù)分析系統(tǒng)中，因此難有時(shí)間去建立先驗(yàn)知識(shí)。（三）數(shù)據(jù)隱私與安全的挑戰(zhàn)個(gè)人隱私問(wèn)題始終貫穿互聯(lián)網(wǎng)時(shí)代，在大數(shù)據(jù)時(shí)代，數(shù)據(jù)的隱私與安全問(wèn)題更為嚴(yán)重。1.隱性數(shù)的暴露。在互聯(lián)網(wǎng)時(shí)代，隱私信息的保護(hù)一直是用戶擔(dān)憂的問(wèn)題，尤其

5、是在社交網(wǎng)絡(luò)出現(xiàn)以后，使得用戶在不同地點(diǎn)和時(shí)間產(chǎn)生了越來(lái)越多的數(shù)據(jù)足跡。這種數(shù)據(jù)在一定程度的關(guān)聯(lián)和積累，將用戶在不同地點(diǎn)的行為聚集起來(lái)，用戶的隱私信息能夠被輕易的暴露出來(lái)，隱私信息泄露風(fēng)險(xiǎn)大大增加。2.數(shù)據(jù)公開與隱私保護(hù)之間存在的矛盾。若是為了保護(hù)隱私而將數(shù)據(jù)隱藏起來(lái)，數(shù)據(jù)就無(wú)法體現(xiàn)其價(jià)值。為了更有效的利用數(shù)據(jù)，需要進(jìn)行數(shù)據(jù)公開，包括政府機(jī)構(gòu)和一些企業(yè)在內(nèi)，都可以通過(guò)這些公開的數(shù)據(jù)知悉社會(huì)的需求和狀況，從而更好的利用大數(shù)據(jù)技術(shù)，例如阿里巴巴可以利用公開的數(shù)據(jù)了解客戶的需求，在線上進(jìn)行更有針對(duì)性的產(chǎn)品推薦和銷售。大數(shù)據(jù)時(shí)代下，怎樣在保護(hù)隱私的前提下進(jìn)行有效的數(shù)據(jù)分析和挖掘，是很難把握的。3.數(shù)據(jù)具備的動(dòng)態(tài)性。之前的隱私保護(hù)多針對(duì)于靜態(tài)數(shù)據(jù)集，而在大數(shù)據(jù)時(shí)代下，數(shù)據(jù)類型的變化除了要有新的數(shù)據(jù)處理技術(shù)外，還給隱私保護(hù)帶來(lái)了巨大的挑戰(zhàn)。三、結(jié)語(yǔ)大數(shù)據(jù)時(shí)代的到來(lái)是技術(shù)發(fā)展的必然趨勢(shì)，利用大數(shù)據(jù)技術(shù)能夠獲得巨大的價(jià)值，為人們提供便利。但它也是一把雙刃劍。大數(shù)據(jù)環(huán)境下，數(shù)據(jù)量和數(shù)據(jù)類型與以往不一樣