決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用.ppt_第1頁
決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用.ppt_第2頁
決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用.ppt_第3頁
決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用.ppt_第4頁
決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用.ppt_第5頁
已閱讀5頁,還剩14頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)

文檔簡介

1、決策樹方法在數(shù)據(jù)挖掘中的應(yīng)用,KnowledgeSEEKER簡介,KnowledgeSEEKER是一個由Angoss公司開發(fā)的基于決策樹的數(shù)據(jù)分析程序。該程序具有相當(dāng)完整的分類樹分析功能。 KnowledgeSEEKER采用了兩種著名的決策樹分析算法:CHAID和CART算法。CHAID算法可以用來對于分類性數(shù)據(jù)進行挖掘。CART算法則可以對連續(xù)型因變量進行處理。Angoss公司在增強這些算法的用戶友好性方面作了大量的工作。 優(yōu)點:響應(yīng)快,模型,文檔易于理解,決策樹分析直觀,性能良好 缺點:決策樹不能編輯打印,缺乏數(shù)據(jù)預(yù)處理階段的函數(shù),沒有示例代碼 應(yīng)用行業(yè)案例: Frost National

2、銀行CRM收益率、客戶滿意度、產(chǎn)品功效 SASI公司利用其開發(fā)行業(yè)數(shù)據(jù)挖掘應(yīng)用軟件(零售行業(yè)) Montreal銀行客戶分片、越區(qū)銷售模型、市場站的準(zhǔn)備、抵押支付的預(yù)測、信用風(fēng)險的分析,數(shù)據(jù)準(zhǔn)備,使用的樣例數(shù)據(jù)集是從一個團體健康檢查中有關(guān)高血壓的研究項目中得到的。Angoss公司已將這一數(shù)據(jù)集包括在產(chǎn)品演示中。 有關(guān)高血壓研究方面的數(shù)據(jù)(表中給出數(shù)據(jù)集中各個數(shù)據(jù)列的取值范圍及其含義說明),數(shù)據(jù)準(zhǔn)備,數(shù)據(jù)預(yù)處理: 需要標(biāo)注的區(qū)域: Hypertension域中可以出現(xiàn)整數(shù)值1,2,3,這幾個值將分別被標(biāo)注為低,正常,高。 TypeOfMilk域中包含整數(shù)值15,將分別標(biāo)注為純牛奶、2%,脫脂牛奶

3、,奶粉及根本不喝牛奶 處理導(dǎo)出型的數(shù)據(jù)域 字段Age中包含的值1,2,3分別表示3250歲、5162歲及6373歲。然而,字段Age中通常包含的都是某個人的實際年齡而非整數(shù)值1,2,3,因此,字段Age中的值是在數(shù)據(jù)挖掘開始之前就已經(jīng)導(dǎo)出了,即按照實際年齡的范圍3250歲、5162歲及6373歲對該字段選擇適當(dāng)?shù)闹怠?定義研究對象,1、定義挖掘目標(biāo) 在開始使用KnowledgeSEEKER之前,有必要定義出挖掘的目標(biāo)。在給定的數(shù)據(jù)集的例子中展示了哪些飲食因素會對人的血壓高低有關(guān)鍵性的影響。其挖掘的目標(biāo)可以明確地描述為: 分析出飲食因素對血壓偏低、正常及偏高所產(chǎn)生的影響。,定義研究對象,2、啟動

4、,定義研究對象,3、設(shè)置因變量 一開始,字段Hypertension就已經(jīng)被自動設(shè)置為因變量。稍后,還將改變因變量的設(shè)置。打開bpress數(shù)據(jù)集之后將出現(xiàn)如圖所示的屏幕,定義研究對象,圖中的根結(jié)點對應(yīng)的是因變量。在根節(jié)點中血壓已經(jīng)分別被分為3類:偏低、正常和偏高。我們現(xiàn)在要了解的是血壓偏低、正常和偏高的人都分別具有哪些特征。從圖中可以看出: 研究對象中有18%的人(即66個人)血壓偏低 研究對象中有60%的人(即217個人)血壓正常 研究對象中有21%的人(即77個人)血壓偏高,建立模型,目前KnowledgeSEEKER已經(jīng)構(gòu)造出模型樹的下一層分支。當(dāng)然,模型樹還可以自動生成出多層分支。 圖

5、中的模型樹的下一層分支表明上一層的雙親節(jié)點是按年齡(age)進行分叉的。年齡只是影響血壓的一個變量,但是在目前這個例子中,年齡似乎是導(dǎo)致一個人的血壓是否偏高的最重要因素。 如圖所示,研究對象按年齡分為以下3組: 3250歲,5162歲,6373歲 它們分別對應(yīng)于模型樹的三個葉節(jié)點。 此外,還可以用除Age以外的其他字段為模型樹創(chuàng)建新的葉節(jié)點。在模型樹上通過指定其它字段以創(chuàng)建新的葉節(jié)點稱為分叉。對于當(dāng)前這個數(shù)據(jù)集,系統(tǒng)會自動發(fā)現(xiàn)12個分叉。,理解模型,1、觀察其分叉 觀察其分叉將使我們可以看到除年齡以外對血壓還有影響的其他重要變量的作用。KnowledgeSEEKER可以計算出所有變量對血壓影響

6、的大小并將使它們按順序排列起來。用另一個變量直接在根節(jié)點下面構(gòu)造葉節(jié)點即可進入模型樹的另一個分叉。這樣,我們就可以很容易地觀察到其他數(shù)據(jù)元素對血壓的影響。 對于自動生成的每一個分叉所作的概述將為我們考慮下一步的研究方向提供有益的線索。很明顯,上面所獲得的信息中有一些符合我們的預(yù)先估計。例如,一個人年齡越大,患高血壓的可能性也就越高;一個人參加體育活動越多,換高血壓的可能性也就越低。這些都是我們預(yù)先估計到的。然而,我們從數(shù)據(jù)集中也發(fā)現(xiàn)了一些預(yù)先沒有估計到的結(jié)果,如人的身高與其高血壓之間的關(guān)系就是我們預(yù)先沒有估計到的。,理解模型,2、進入特定分叉 3、擴展模型樹 以smoking為分叉變量構(gòu)造的模

7、型樹目前還只有一層。我們可以對這棵模型樹作進一步擴展。在模型樹的第二層中選擇經(jīng)常吸煙者相對應(yīng)的節(jié)點,然后,在Grow下拉菜單中選擇Find Split,既可以看到如圖所示的屏幕。,理解模型,KnowledgeSEEKER發(fā)現(xiàn)對于描述經(jīng)常吸煙者特征最為有效的分組變量就是年齡。也就是說,對于經(jīng)常吸煙的人而言,年齡將是確定其是否患高血壓的最關(guān)鍵的指標(biāo),數(shù)據(jù)表明年齡在6373歲之間經(jīng)常吸煙的人當(dāng)中有56.7%患有高血壓,而年齡在3251歲之間且經(jīng)常吸煙的人當(dāng)中患有高血壓的比例僅為4.8%。 為進一步描述經(jīng)常吸煙者的特征,KnowledgeSEEKER總共發(fā)現(xiàn)了6個分叉變量,分別是Age,Height,

8、PorkLastWeek,DrinkPattern,Gender以及SaltConsumption。其中以年齡最為有效。,理解模型,4、強制分叉 有時我們還想觀察一下那些沒有自動發(fā)現(xiàn)的變量的作用。例如,我們可能想知道PoultryLastWeek對人們患有高血壓有什么影響。為此,我們可以在模型樹上作強制分叉。,理解模型,5、對模型進行驗證 當(dāng)我們從一個數(shù)據(jù)集中發(fā)現(xiàn)某些結(jié)果之后,總是希望能夠用另外一個數(shù)據(jù)計再對其進行驗證。Angoss將那些用于驗證的數(shù)據(jù)集又稱為測試分區(qū)(Test Partition)。 KnowledgeSEEKER允許我們用另一個數(shù)據(jù)集(即測試分區(qū))對新發(fā)現(xiàn)的結(jié)果進行驗證。,

9、理解模型,6、重新定義挖掘?qū)ο?前面所作的演示都是有關(guān)“高血壓”這一研究對象的,即都是以Hypertension為模型樹的因變量。假如我們想要改變所研究的內(nèi)容(例如,想要研究飲酒數(shù)量不同的人之間的差別),那么就需要重新定義研究對象。 改變模型樹的根節(jié)點為DrinkPattern,即新的模型樹的根節(jié)點對應(yīng)的因變量為DrinkPattern,其中可以含有下列值: Regular(經(jīng)常飲酒) Occasional(偶然飲酒) Former(以前曾經(jīng)飲酒) Never(從不飲酒) 同前面一樣,可以對這棵以DrinkPattern為因變量的模型樹作進一步的擴展。雖然這期間使用KnowledgeSEEKER的工作方式與前面是一樣的,但所要研究的內(nèi)容與前面完全不同了。即現(xiàn)在要研究的是人們的飲酒方式及其影響,而前面的研究對象是高血壓。,理解模型,7、模型樹的自動擴展 前面所演示的都是如何一個一個節(jié)點地擴展模型樹。此外,還可以讓系統(tǒng)對模型樹作自動擴展。 8、數(shù)據(jù)分布 KnowledgeSEEKER提供了若干種方法以便我們能夠?qū)φ谕诰虻臄?shù)據(jù)的狀態(tài)進行觀察。首先,我們能夠通過KnowledgeSEEKER對正在挖掘的原始數(shù)據(jù)進行詳細(xì)觀察。 另外,還可以通過KnowledgeSEEKER對數(shù)據(jù)幾種不同數(shù)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論