數(shù)據(jù)挖掘?qū)д揑ris KDD分析(DOC)

5/5數(shù)據(jù)挖掘?qū)д揑risKDD分析(DOC)`

題目iris數(shù)據(jù)集的KDD實(shí)驗(yàn)學(xué)院名稱信息科學(xué)與技術(shù)學(xué)院專業(yè)名稱計(jì)算機(jī)科學(xué)與技術(shù)學(xué)生姓名何東升

學(xué)生學(xué)號(hào)201413030119指導(dǎo)教師

實(shí)習(xí)地點(diǎn)成都理工大學(xué)

實(shí)習(xí)成績(jī)

二〇一六年9月

iris數(shù)據(jù)集的KDD實(shí)驗(yàn)

第1章、實(shí)驗(yàn)?zāi)康募皟?nèi)容

1.1實(shí)習(xí)目的

知識(shí)發(fā)現(xiàn)（KDD：KnowledgeDiscoveryinDatabase）是從數(shù)據(jù)集中識(shí)別出有效的、新穎的、潛在有用的，以及最終可理解的模式的非平凡過(guò)程。知識(shí)發(fā)現(xiàn)將信息變?yōu)橹R(shí)，從數(shù)據(jù)礦山中找到蘊(yùn)藏的知識(shí)金塊，將為知識(shí)創(chuàng)新和知識(shí)經(jīng)濟(jì)的發(fā)展作出貢獻(xiàn)。該術(shù)語(yǔ)于1989年出現(xiàn)，F(xiàn)ayyad定義為"KDD"是從數(shù)據(jù)集中識(shí)別出有效的、新穎的、潛在有用的，以及最終可理解的模式的非平凡過(guò)程”。

KDD的目的是利用所發(fā)現(xiàn)的模式解決實(shí)際問(wèn)題，“可被人理解”的模式幫助人們理解模式中包含的信息，從而更好的評(píng)估和利用。

1.2算法的核心思想

作為一個(gè)KDD的工程而言,KDD通常包含一系列復(fù)雜的挖掘步驟.

Fayyad,Piatetsky-Shapiro和Smyth在1996年合作發(fā)布的論文中總結(jié)出了KDD包含的5個(gè)最基本步驟(如圖).

1:selection:在第一個(gè)步驟中我們往往要先知道什么樣的數(shù)據(jù)可以應(yīng)用于我們的

KDD工程中.

2:pre-processing:當(dāng)采集到數(shù)據(jù)后,下一步必須要做的事情是對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,盡

量消除數(shù)據(jù)中存在

的錯(cuò)誤以及缺失信息.

3:transformation:轉(zhuǎn)換數(shù)據(jù)為數(shù)據(jù)挖掘工具所需的格式.這一步可以使得結(jié)果更加理想化.

4:datamining:應(yīng)用數(shù)據(jù)挖掘工具.

5:interpretation/evaluation:了解以及評(píng)估數(shù)據(jù)挖掘結(jié)果.

1.3

實(shí)驗(yàn)軟件：Weka3-9.

數(shù)據(jù)集來(lái)源：http://./doc/393e3f1e842458fb770bf78a6529647d2628346b.html/ml/datasets/Iris

第2章、實(shí)驗(yàn)過(guò)程

2.1數(shù)據(jù)準(zhǔn)備

1.從uci的數(shù)據(jù)集官網(wǎng)下載iris的數(shù)據(jù)源

2.抽取數(shù)據(jù)，清洗數(shù)據(jù)，變換數(shù)據(jù)

3.iris的數(shù)據(jù)集如圖

Iris也稱鳶尾花卉數(shù)據(jù)集，是一類多重變量分析的數(shù)據(jù)集。通過(guò)花萼長(zhǎng)度，花萼寬度，花瓣長(zhǎng)度，花瓣寬度4個(gè)屬性預(yù)測(cè)鳶尾花卉屬于（Setosa，Versicolour，Virginica）三個(gè)種類中的哪一類。

2.2實(shí)驗(yàn)過(guò)程

2.2.1.建模

(1)C4.5數(shù)據(jù)挖掘算法

使用weka進(jìn)行有指導(dǎo)的學(xué)習(xí)訓(xùn)練，選擇C4.5數(shù)據(jù)挖掘算法，在Weka中名為J48，將testoptions設(shè)置為Percentagesplit，使用默認(rèn)百分比66%。選擇class作為輸出屬性。如圖所示：

2.設(shè)置完成后點(diǎn)擊start開始執(zhí)行

(2)SimpleKMeans算法

1加載數(shù)據(jù)到Weka，切換到Cluster選項(xiàng)卡，選擇SimpleKMeans算法、

2.設(shè)置算法參數(shù)，顯示標(biāo)準(zhǔn)差，迭代次數(shù)設(shè)為5000次，其他默認(rèn)。簇?cái)?shù)選擇3，因?yàn)榛ǖ姆N類為3。如下圖所示

3.在ClusterMode面板選擇評(píng)估數(shù)據(jù)為Usetraininset，并單擊Ignoreattribu，忽略class屬性。

4.點(diǎn)擊start按鈕，執(zhí)行程序

第三章實(shí)驗(yàn)結(jié)果及分析

3.1C

4.5結(jié)果分析

1.運(yùn)行結(jié)果

===Runinformation===

Scheme:weka.classifiers.trees.J48-C0.25-M2

Relation:iris

Instances:150

Attributes:5

sepallength

sepalwidth

petallength

petalwidth

class

Testmode:split66.0%train,remaindertest

===Classifiermodel(fulltrainingset)===

J48prunedtree

petalwidth0.6

|petalwidth4.9

|||petalwidth1.5:Iris-versicolor(3.0/1.0)

|petalwidth>1.7:Iris-virginica(46.0/1.0)

NumberofLeaves:5

Sizeofthetree:9

Timetakentobuildmodel:0.01seconds

===Evaluationontestsplit===

Timetakentotestmodelontrainingsplit:0seconds

===Summary===

CorrectlyClassifiedInstances4996.0784%

IncorrectlyClassifiedInstances23.9216%

Kappastatistic0.9408

Meanabsoluteerror0.0396

Rootmeansquarederror0.1579

Relativeabsoluteerror8.8979%

Rootrelativesquarederror33.4091%

TotalNumberofInstances51

===DetailedAccuracyByClass===

TPRateFPRatePrecisionRecallF-MeasureMCCROCAreaPRCAreaClass

1.0000.0001.0001.0001.0001.0001.0001.000Iris-setosa

1.0000.0630.9051.0000.9500.9210.9690.905Iris-versicolor

0.8820.0001.0000.8820.9380.9130.9670.938Iris-virginica

WeightedAvg.0.9610.0230.9650.9610.9610.9420.9770.944

===ConfusionMatrix===

abc<--classifiedas

1500|a=Iris-setosa

0190|b=Iris-versicolor

0215|c=Iris-virginica

從上述結(jié)果可以看出正確率為96.0784%所以petalwidth和petallength可以很好的判斷花的類別。

3.1SimpleKMeans算法結(jié)果

===Runinformation===

Scheme:weka.clusterers.SimpleKMeans-init0-max-candidates100-periodic-pruning10000-min-density2.0-t1-1.25-t2-1.0-V-N3-A"weka.core.EuclideanDistance-Rfirst-last"-I500-num-slots1-S10

Relation:iris

Instances:150

Attributes:5

sepallength

sepalwidth

petallength

petalwidth

Ignored:

class

Testmode:evaluateontrainingdata

===Clusteringmodel(fulltrainingset)===

kMeans

======

Numberofiterations:6

Withinclustersumofsquarederrors:6.998114004826762

Initialstartingpoints(random):

Cluster0:6.1,2.9,4.7,1.4

Cluster1:6.2,2.9,4.3,1.3

Cluster2:6.9,3.1,5.1,2.3

Missingvaluesgloballyreplacedwithmean/mode

Finalclustercentroids:

Cluster#

AttributeFullData012

(150.0)(61.0)(50.0)(39.0)

===========================================================sepallength5.84335.88855.0066.8462

+/-0.8281+/-0.4487+/-0.3525+/-0.5025

sepalwidth3.0542.73773.4183.0821

+/-0.4336+/-0.2934+/-0.381+/-0.2799

petallength3.75874.39671.4645.7026

+/-1.7644+/-0.5269+/-0.1735+/-0.5194

petalwidth1.19871.4180.2442.0795

+/-0.7632+/-0.2723+/-0.1072+/-0.2811

Timetakentobuildmodel(fulltrainingdata):0seconds

===Modelandevaluationontrainingset===

ClusteredInstances

061(41%)

150(33%)

239(26%)

從實(shí)驗(yàn)結(jié)果可以看出分出的類為3個(gè)且比例與元數(shù)據(jù)的class的比例1:1:1的比例不是很相近。從C4.5的結(jié)果來(lái)看pentalwidth和pentallength更加符合，重新選擇屬性，僅選擇pentalwidth和pentallength結(jié)果如下

===Runinformation===

Scheme:weka.clusterers.SimpleKMeans-init0-max-candidates100-periodic-pruning10000-min-density2.0-t1-1.25-t2-1.0-V-N3-A"weka.core.EuclideanDistance-Rfirst-last"-I5009-num-slots1-S10

Relation:iris

Instances:150

Attributes:5

petallength

petalwidth

Ignored:

sepallength

sepalwidth

class

Testmode:evaluateontrainingdata

===Clusteringmodel(fulltrainingset)===

kMeans

======

Numberofiterations:6

Withinclustersumofsquarederrors:1.7050986081225123

Initialstartingpoints(random):

Cluster0:4.7,1.4

Cluster1:4.3,1.3

Cluster2:5.1,2.3

Missingvaluesgloballyreplacedwithmean/mode

Finalclustercentroids:

Cluster#

AttributeFullData012

(150.0)(52.0)(50.0)(48.0)

====