非結(jié)構(gòu)化數(shù)據(jù)分析與應(yīng)用 課件 第1章 非結(jié)構(gòu)數(shù)據(jù)分析概述

非結(jié)構(gòu)化數(shù)據(jù)分析和應(yīng)用非結(jié)構(gòu)化數(shù)據(jù)分析和應(yīng)用孔祥維管理學(xué)院數(shù)據(jù)系kongxiangwei@目錄和內(nèi)容第一章

非結(jié)構(gòu)數(shù)據(jù)化分析和應(yīng)用導(dǎo)論第二章非結(jié)構(gòu)數(shù)據(jù)化獲取和表示第三章文本數(shù)據(jù)的表示和分析第四章圖像數(shù)據(jù)的表示和分析第五章音樂(lè)數(shù)據(jù)的表示和分析第六章非結(jié)構(gòu)數(shù)據(jù)化分析應(yīng)用案例和挑戰(zhàn)第一章非結(jié)構(gòu)化數(shù)據(jù)分析概論第一部分背景篇-導(dǎo)論第1章非結(jié)構(gòu)數(shù)據(jù)分析概論1.1非結(jié)構(gòu)數(shù)據(jù)的概念1.2非結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)1.3管理視角的非結(jié)構(gòu)數(shù)據(jù)分析1.4非結(jié)構(gòu)數(shù)據(jù)分析的應(yīng)用典例即評(píng)即測(cè)1.1非結(jié)構(gòu)數(shù)據(jù)的概念

數(shù)據(jù)可以分為結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)結(jié)構(gòu)化數(shù)據(jù)是以數(shù)值、字符串等形式記錄的定量數(shù)據(jù)可以存入到關(guān)系型數(shù)據(jù)庫(kù)里，用二維邏輯表記錄下來(lái)。該類(lèi)型的數(shù)據(jù)結(jié)構(gòu)清晰，通過(guò)基本的查找匹配就能處理數(shù)據(jù)。姓名性別證件號(hào)銀行卡號(hào)手機(jī)號(hào)用戶等級(jí)張三男110。。。101.。。1301.。。1李四女230。。。202.。。1305.。。2王五男420。。。303.。。1881.。。3。。。。。。。。。。。。。。。。。。1.2非結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)大數(shù)據(jù)5V特點(diǎn)：Volume（大量）Velocity（高速）Variety（多樣）Value（低價(jià)值密度）Veracity（真實(shí)）非結(jié)構(gòu)化數(shù)據(jù)特點(diǎn)：海量動(dòng)態(tài)多源異構(gòu)多模語(yǔ)義1.2非結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)-海量動(dòng)態(tài)2020年世界上一分鐘里發(fā)生的數(shù)據(jù)：Youtube：3000分鐘的視頻被上傳Facebook：15萬(wàn)條信息被分享，14.7萬(wàn)張圖像被上傳Twitter：新增319個(gè)用戶抖音：2704次下載亞馬遜：6659個(gè)包裹被遞送Zoom：208333位用戶身處會(huì)議中網(wǎng)飛：404444小時(shí)的視頻被觀看1.2非結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)-多源異構(gòu)多種傳感器的數(shù)據(jù)類(lèi)型：文本、音頻、圖像、視頻、點(diǎn)擊流、傳感器數(shù)據(jù)、日志文件等。多種組織產(chǎn)生的多種來(lái)源數(shù)據(jù)：包括企業(yè)內(nèi)部和外部的數(shù)據(jù)不同數(shù)據(jù)類(lèi)型多樣、結(jié)構(gòu)多樣不同形式可能描述同一件事情1.2非結(jié)構(gòu)數(shù)據(jù)的特點(diǎn)-多模語(yǔ)義多種模態(tài)數(shù)據(jù)之間存在相互不理解的鴻溝多模態(tài)對(duì)齊可挖掘子元素間的細(xì)粒度交互解釋和挖掘多模態(tài)數(shù)據(jù)的子元素間的關(guān)聯(lián)性多模態(tài)的商品數(shù)據(jù)1.3管理視角的非結(jié)構(gòu)數(shù)據(jù)分析從組織管理角度：企業(yè)決策者缺乏采納非結(jié)構(gòu)數(shù)據(jù)分析的意識(shí)，有可能從戰(zhàn)略上錯(cuò)失良機(jī)如果目標(biāo)和戰(zhàn)略制定中包含非結(jié)構(gòu)數(shù)據(jù)分析，可以拓展將業(yè)務(wù)價(jià)值提高從企業(yè)決策角度：企業(yè)研發(fā)、計(jì)劃、組織、生產(chǎn)、協(xié)調(diào)、銷(xiāo)售、服務(wù)和創(chuàng)新等運(yùn)營(yíng)業(yè)務(wù)鏈用數(shù)據(jù)反映戰(zhàn)略的決策和規(guī)劃的執(zhí)行，最終可由流程驅(qū)動(dòng)轉(zhuǎn)變?yōu)閿?shù)據(jù)驅(qū)動(dòng)，可導(dǎo)致企業(yè)的變革從分析能力角度：掌握非結(jié)構(gòu)化數(shù)據(jù)分析能力，對(duì)大多數(shù)企業(yè)組織來(lái)說(shuō)是一個(gè)主要障礙企業(yè)提供需求場(chǎng)景，利用非結(jié)構(gòu)數(shù)據(jù)分析工具構(gòu)建數(shù)據(jù)分析和決策系統(tǒng)文本數(shù)據(jù)：企業(yè)積累了大量業(yè)務(wù)文檔和資料，文本數(shù)據(jù)分析可以為其定義新價(jià)值文本數(shù)據(jù)、客服系統(tǒng)的語(yǔ)音、商品文字描述、用戶議價(jià)的對(duì)話等數(shù)據(jù)數(shù)據(jù)分析后可以掌握用戶的反應(yīng)、評(píng)論的情感和商品的評(píng)價(jià)可以對(duì)網(wǎng)民的意圖及早研判，掌握網(wǎng)絡(luò)輿情的演化發(fā)展音頻數(shù)據(jù)：對(duì)電商售后出現(xiàn)的用戶常規(guī)問(wèn)題，數(shù)據(jù)量大、重復(fù)性高利用音頻助理回答問(wèn)題，緩解人工忙線，節(jié)省人力財(cái)力分析大型發(fā)電機(jī)的振動(dòng)信號(hào)，可利用傳感器采集音頻信號(hào)、分析檢測(cè)出異常后及時(shí)報(bào)修。1.3管理視角的非結(jié)構(gòu)數(shù)據(jù)分析圖像數(shù)據(jù)：拍攝現(xiàn)實(shí)中的物體和事件，分享到微信、微博、抖音等網(wǎng)絡(luò)平臺(tái)上圖像數(shù)據(jù)分析可以實(shí)時(shí)審核并判斷用戶和商家上傳的圖像是否滿足行業(yè)規(guī)范，及時(shí)攔截違規(guī)圖像在電商平臺(tái)選品中，對(duì)商品圖像進(jìn)行自定義的過(guò)濾、選優(yōu)和排序和推薦在電商APP中用圖搜圖，輕松發(fā)現(xiàn)同類(lèi)商品，用戶方便地獲得搜索服務(wù)視頻數(shù)據(jù)：視頻可以用于各行各業(yè)的監(jiān)控和安全檢測(cè)例如智能視頻分析，對(duì)指定區(qū)域內(nèi)的可疑人員進(jìn)行自動(dòng)發(fā)現(xiàn)和報(bào)警在鐵路、公路、銀行等重要的公共安全區(qū)域提供預(yù)報(bào)警。圖像視頻分析識(shí)別工件缺陷，實(shí)現(xiàn)質(zhì)量和安全控制過(guò)程的自動(dòng)化。1.3管理視角的非結(jié)構(gòu)數(shù)據(jù)分析1.3管理視角的非結(jié)構(gòu)數(shù)據(jù)分析多模態(tài)數(shù)據(jù)：每一種信息的來(lái)源或者形式，都可以稱為一種模態(tài)（Modality），當(dāng)研究問(wèn)題包括多種這樣的形式時(shí)，研究問(wèn)題被描述為多模態(tài)。例如視頻、圖像、語(yǔ)音、紅外、聲譜、遙感、超聲、CT等。不同模態(tài)數(shù)據(jù)從不同角度反映場(chǎng)景，可以獲得更具有廣度的信息。其他數(shù)據(jù)：股票數(shù)據(jù)、出租車(chē)軌跡數(shù)據(jù)、運(yùn)動(dòng)實(shí)時(shí)數(shù)據(jù)等序列數(shù)據(jù)識(shí)別數(shù)據(jù)隱藏規(guī)律、提供預(yù)測(cè)分析，為及早采取具體行動(dòng)爭(zhēng)取時(shí)間非結(jié)構(gòu)數(shù)據(jù)分析的方法非結(jié)構(gòu)數(shù)據(jù)分析包含三大類(lèi)方法描述性分析（DescriptiveAnalytics）預(yù)測(cè)性分析（Predictiveanalytics）指導(dǎo)性規(guī)定性分析（Prescriptiveanalytics）數(shù)據(jù)驅(qū)動(dòng)的決策

維基百科對(duì)數(shù)據(jù)驅(qū)動(dòng)的定義：

數(shù)據(jù)驅(qū)動(dòng)指的是流程中的行為是被數(shù)據(jù)驅(qū)動(dòng)而不是被人的直覺(jué)和經(jīng)驗(yàn)驅(qū)動(dòng)的

表2流程驅(qū)動(dòng)和數(shù)據(jù)驅(qū)動(dòng)的不同點(diǎn)流程驅(qū)動(dòng)數(shù)據(jù)驅(qū)動(dòng)輸入：人的經(jīng)驗(yàn)、直覺(jué)輸入：結(jié)構(gòu)和非結(jié)構(gòu)數(shù)據(jù)過(guò)程：文檔設(shè)計(jì)，流程分析過(guò)程：數(shù)據(jù)建模，人工智能設(shè)計(jì)過(guò)程可解釋?zhuān)^(guò)程可視化模型訓(xùn)練過(guò)程不可見(jiàn)非自動(dòng)化可自動(dòng)化迭代慢學(xué)習(xí)迭代輸出：規(guī)則體系輸出：決策體系流程驅(qū)動(dòng)和數(shù)據(jù)驅(qū)動(dòng)的不同點(diǎn)1.4非結(jié)構(gòu)數(shù)據(jù)分析的應(yīng)用典例經(jīng)濟(jì)案例1:分析衛(wèi)星圖像衡量制造業(yè)活躍程度SpaceKnow公司的衛(wèi)星圖像感興趣的區(qū)域SpaceKnow是一家美國(guó)公司，該公司基于衛(wèi)星圖像數(shù)據(jù)和機(jī)器學(xué)習(xí)算法，創(chuàng)建了經(jīng)濟(jì)學(xué)新概念

“中國(guó)衛(wèi)星制造業(yè)指數(shù)”(ChinaSatelliteManufacturingIndex)—SMI，用于評(píng)估中國(guó)制造業(yè)活躍程度。數(shù)據(jù)源自22億個(gè)衛(wèi)星圖像，反映了50萬(wàn)平方公里下6000個(gè)工業(yè)區(qū)里的商品庫(kù)存、房地產(chǎn)以及表面材料等，通過(guò)AI算法，分析經(jīng)濟(jì)活動(dòng)的某些特征。例如，一塊原先被草覆蓋的土地后來(lái)變成了水泥地面，可以說(shuō)明這期間該地區(qū)制造業(yè)在擴(kuò)張。

SpaceKnow的中國(guó)衛(wèi)星制造業(yè)指數(shù)(CNSMI)SMI以50為分界線，低于50為收縮，高于50為擴(kuò)張。金融案例:衛(wèi)星圖像用于原油儲(chǔ)備監(jiān)測(cè)OrbitalInsights分析儲(chǔ)油罐衛(wèi)星圖像的影子變化，監(jiān)測(cè)原油儲(chǔ)備美國(guó)數(shù)據(jù)服務(wù)提供商O(píng)rbitalInsights對(duì)分析衛(wèi)星圖像的儲(chǔ)油罐的影子變化，以監(jiān)測(cè)原油儲(chǔ)備。為減少蒸發(fā)儲(chǔ)油罐上有個(gè)漂浮蓋子，儲(chǔ)油量高低不同蓋子會(huì)隨之上下浮動(dòng)，導(dǎo)致反射在儲(chǔ)油庫(kù)墻上的月牙形的影子大小有變化，當(dāng)儲(chǔ)油罐滿的，影子最小，當(dāng)儲(chǔ)油罐空的，影子最大。市場(chǎng)不透明是導(dǎo)致油價(jià)波動(dòng)的主要因素之一，通過(guò)監(jiān)控的原油儲(chǔ)備情況，可為客戶提供更精確的原油數(shù)據(jù)，幫助顧客做出更好的市場(chǎng)決策。金融案例：生物識(shí)別+金融

金融是生物識(shí)別技術(shù)應(yīng)用典型且重要的領(lǐng)域。為金融管理和服務(wù)提供安全保障和用戶體驗(yàn)。以指紋、人臉、虹膜、靜脈、聲紋為主流。金融案例：資產(chǎn)管理的另類(lèi)數(shù)據(jù)分析在市場(chǎng)競(jìng)爭(zhēng)中占得先機(jī)進(jìn)行投資決策，從非結(jié)構(gòu)化數(shù)據(jù)中提取信息，將成為資產(chǎn)管理領(lǐng)域的重要發(fā)展方向之一。對(duì)沖基金增加了對(duì)“另類(lèi)數(shù)據(jù)”(alternativedata)的研究。“另類(lèi)數(shù)據(jù)”指可能影響投資決策，但不屬于市場(chǎng)統(tǒng)計(jì)數(shù)據(jù)和公財(cái)報(bào)類(lèi)傳統(tǒng)信息的數(shù)據(jù)，大部分是本文提到的非結(jié)構(gòu)化數(shù)據(jù)。另類(lèi)數(shù)據(jù)分為個(gè)體產(chǎn)生的數(shù)據(jù)、商業(yè)過(guò)程的數(shù)據(jù)和傳感器產(chǎn)生的數(shù)據(jù)等個(gè)體數(shù)據(jù)包括在社交媒體、專(zhuān)業(yè)網(wǎng)站、新聞、搜索引擎上產(chǎn)生的數(shù)據(jù)；商業(yè)數(shù)據(jù)包括交易數(shù)據(jù)、企業(yè)、行業(yè)、政府機(jī)構(gòu)的數(shù)據(jù)等傳感器產(chǎn)生的數(shù)據(jù)包括衛(wèi)星圖像、定位數(shù)據(jù)、物聯(lián)網(wǎng)數(shù)據(jù)等金融案例：另類(lèi)數(shù)據(jù)的24種類(lèi)型傳統(tǒng)金融數(shù)據(jù):指通過(guò)常規(guī)渠道獲得的數(shù)據(jù)例如股票、債券等的交易數(shù)據(jù)上市公司年報(bào)和財(cái)務(wù)數(shù)據(jù)銀行用戶的貸數(shù)據(jù)等另類(lèi)數(shù)據(jù)典型特點(diǎn)數(shù)據(jù)體量大，體現(xiàn)在規(guī)模和傳輸量；流動(dòng)速度大，數(shù)據(jù)實(shí)時(shí)獲取和傳輸；數(shù)據(jù)種類(lèi)多，數(shù)據(jù)結(jié)構(gòu)形式多樣。金融案例：另類(lèi)數(shù)據(jù)的來(lái)源

個(gè)人產(chǎn)生的數(shù)據(jù)如社交網(wǎng)絡(luò)信息、產(chǎn)品評(píng)價(jià)、搜索記錄、購(gòu)物喜好等；商業(yè)過(guò)程數(shù)據(jù)如物流數(shù)據(jù)、支付數(shù)據(jù)等；如大型百貨公司客流量、大型游樂(lè)場(chǎng)客流量等數(shù)據(jù)；傳感器數(shù)據(jù)如利用衛(wèi)星數(shù)據(jù)通過(guò)光感和熱感采集鋼廠、化工廠、原油等的開(kāi)工、采集、運(yùn)輸情況；來(lái)自GPS定位、車(chē)輛軌跡和個(gè)人穿戴設(shè)備的另類(lèi)數(shù)據(jù)。商業(yè)案例：Amazon新零售無(wú)人購(gòu)物新零售是一種以互聯(lián)網(wǎng)為依托，通過(guò)運(yùn)用大數(shù)據(jù)、人工智能等先進(jìn)技術(shù)手段，對(duì)商品的生產(chǎn)、流通與銷(xiāo)售過(guò)程進(jìn)行升級(jí)改造，進(jìn)而重塑業(yè)態(tài)結(jié)構(gòu)與生態(tài)圈，并對(duì)線上服務(wù)、線下體驗(yàn)以及現(xiàn)代物流進(jìn)行深度融合的零售新模式。無(wú)人零售業(yè)包括開(kāi)放貨架、自動(dòng)販賣(mài)機(jī)、無(wú)人便利店和無(wú)人超市AmazonGo無(wú)人超市是亞馬遜推出的用戶體驗(yàn)較好的自動(dòng)化無(wú)人便利店，2018年1月正式向公眾開(kāi)放超市中有大量的圖像和視頻數(shù)據(jù)分析產(chǎn)品用于數(shù)據(jù)監(jiān)控和場(chǎng)景測(cè)量，基于人工智能和數(shù)據(jù)分析，AmazonGo實(shí)現(xiàn)了即拿即走的無(wú)人零售。Amazon新零售無(wú)人購(gòu)物購(gòu)物流程

其購(gòu)物流程包括:1)客戶通過(guò)二維碼、NFC等方式進(jìn)入商店；2)基于AmazonRekognition深度學(xué)習(xí)技術(shù)識(shí)別圖像和體態(tài)，聲音傳感器輔助店內(nèi)定位；3)貨架頂部圖像傳感器、商品下方壓力傳感器，精準(zhǔn)識(shí)別商品拿放；4)商場(chǎng)內(nèi)裝有聲音傳感器，協(xié)助確定顧客位置；5)自動(dòng)追蹤商品結(jié)算、推送賬單，用戶實(shí)現(xiàn)即拿即走。商業(yè)案例：數(shù)據(jù)分析改變你的購(gòu)物方式要改變消費(fèi)者的購(gòu)物行為是很難的，通過(guò)數(shù)據(jù)分析挖掘客戶數(shù)據(jù)的價(jià)值可能是一條新的路徑。創(chuàng)業(yè)公司Celect預(yù)測(cè)購(gòu)物者的行為方式，以確定在商店的哪個(gè)部分進(jìn)行什么樣的促銷(xiāo)，效果更好，哪些產(chǎn)品放在哪里，會(huì)獲得最佳效果。受圖像分析和增強(qiáng)現(xiàn)實(shí)等技術(shù)驅(qū)動(dòng)，公司打造了數(shù)據(jù)分析、挖掘和預(yù)測(cè)相關(guān)算法如：虛擬試妝、顏色匹配、個(gè)性化推薦、虛擬卸妝、面部追蹤和膚色檢測(cè)。這些均可應(yīng)用于手機(jī)、平板和電腦端，再配備高清增強(qiáng)技術(shù)的智能鏡，探索了一條改變傳統(tǒng)的購(gòu)物方式的新途徑。商業(yè)案例：數(shù)據(jù)分析改變你的購(gòu)物方式服務(wù)案例：攜程的酒店圖像智能化分析

攜程是中國(guó)領(lǐng)先的綜合性旅行服務(wù)公司擁有全球百萬(wàn)家酒店數(shù)以億計(jì)的酒店圖像酒店圖像數(shù)量還在以每天數(shù)十萬(wàn)的速度增長(zhǎng)。酒店圖像主要有如下四個(gè)來(lái)源：商家拍攝工作人員采集合作方提供用戶上傳圖像變化多端的酒店圖像酒店圖像智能服務(wù)服務(wù)案例：Airbnb利用圖像分析增加吸引力如何成規(guī)模地指導(dǎo)房東提升其房源圖片的吸引力？Airbnb利用了圖像分析，其中一項(xiàng)是將房源圖片按照不同的房間類(lèi)型進(jìn)行分類(lèi)。一方面，分類(lèi)能將同種房間的圖片分到一組，讓用戶更為順暢地參觀房源；另一方面，分類(lèi)大大簡(jiǎn)化了校驗(yàn)每種房間數(shù)量以及房源基本信息的工作。對(duì)優(yōu)化用戶體驗(yàn)而言，將給定房源圖片按房間類(lèi)型正確分類(lèi)，對(duì)用戶端，能按不同的房間類(lèi)型對(duì)房源照片進(jìn)行重新排序和布局，優(yōu)先展示用戶最感興趣的照片。在房東端，能自動(dòng)審核房源，保證它們符合平臺(tái)的高標(biāo)準(zhǔn)。房間類(lèi)型包括臥室、浴室、客廳、廚房、泳池和房源景觀，Airbnb內(nèi)部研發(fā)模型的表現(xiàn)整體上要優(yōu)于第三方通用模型。服務(wù)案例：Airbnb利用圖像分析增加吸引力

左邊兩張圖被正確地預(yù)測(cè)為臥室；右邊兩張圖被正確地預(yù)測(cè)為不是臥室醫(yī)療案例：首款人工智能醫(yī)療設(shè)備IDx-DR

2018年4月11日美國(guó)衛(wèi)生監(jiān)管機(jī)構(gòu)食品藥品監(jiān)督管理局(FDA)已經(jīng)批準(zhǔn)了世界上第一款使用人工智能檢測(cè)糖尿病患者視網(wǎng)膜病變的醫(yī)療設(shè)備IDx-DR上市IDx-DR將用于檢測(cè)糖尿病視網(wǎng)膜病變，高血糖會(huì)導(dǎo)致視網(wǎng)膜血管損傷和視力下降，糖尿病性視網(wǎng)膜病變是導(dǎo)致患者失明的最常見(jiàn)原因，也是導(dǎo)致處于工作年齡階段的成年人視力障礙和失明的主要原因。內(nèi)置攝像頭用于拍攝患者眼睛的照片，通過(guò)算法評(píng)估拍攝的圖像，確定患者是否有糖尿病視網(wǎng)膜病變的跡象。IDx-DR對(duì)于輕度以上的糖尿病視網(wǎng)膜病變的準(zhǔn)確識(shí)別率為87.4%對(duì)輕度及以下的糖尿病視網(wǎng)膜病變的識(shí)別率為89.5%。該軟件可向醫(yī)生提供以下結(jié)果之一：1）發(fā)現(xiàn)輕度以上的糖尿病性視網(wǎng)膜病變，轉(zhuǎn)診至眼科醫(yī)生。2）未發(fā)現(xiàn)輕度以上的糖尿病性視網(wǎng)膜病變，12個(gè)月內(nèi)復(fù)查。3）如檢測(cè)結(jié)果為陽(yáng)性，患者應(yīng)盡快聯(lián)系眼科醫(yī)生診斷評(píng)估及治療。醫(yī)療案例：使腦卒中患者更快得到精準(zhǔn)治療2018年2月，舊金山的醫(yī)療公司Viz.AI獲得FDA腦卒中護(hù)理應(yīng)用的營(yíng)銷(xiāo)授權(quán)。提供臨床決策支持，