




版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、第四章 示例學(xué)習(xí)的實(shí)用化4.1 定量屬性的定性化1.2. 決策樹(shù)連續(xù)屬性值處理(二分離散法)1) 切點(diǎn)法:T類(lèi)熵(class entropy)kEnt(s) = - p(ci , s) log( p(ci , s)i=1類(lèi)信息熵(class information entropy)E( A,T ; s) = | s1 | Ent(s ) + | s2 | Ent(s )N1N2S1: 切點(diǎn)T左邊的例子集S2:切點(diǎn)T右邊的例子集. |s| 集合s中的例子數(shù)N=|s|2) 界點(diǎn)法:T1T2T3T4T53) 多切點(diǎn)法:TrTr+1erer+1E(Tr) - E(Tr +1 ) 2 log 2 (n
2、+1) - log 2 r n= max_diff (Tr )Emin是目前為止得到的最小信息熵,如果E(Tr)-max_diff(Tr) Emin, 則E(Tr+1) Emin Max_diff(Tr)隨著r的增加單調(diào)遞減.啟發(fā)式1: 設(shè)Emin是迄今為止得到的最小信息熵,則從Tr開(kāi)始下一個(gè)需要計(jì)算熵的切點(diǎn)是Tr+DD = max(1, E(Tr ) -Emin)max_ diff (T ) r1) D與Emin有關(guān),因此,被忽略的結(jié)點(diǎn)數(shù)與屬性被處理的順序有關(guān),如果最相關(guān)的屬性被首先處理,Emin就會(huì)被早些得到,因此,以后計(jì)算中D值就會(huì)較大,所以省略的結(jié)點(diǎn)數(shù)就多,為減少算法的運(yùn)行時(shí)間,最相關(guān)
3、的屬性應(yīng)首先被處理.2) Max_diff(Tr)是單調(diào)遞減的,所以連續(xù)屬性排序后,屬性值域的后半部分D值較高.3) 通常,如果相關(guān)屬性先被處理,對(duì)不相關(guān)屬性使用啟發(fā)式1,將是較有效的.啟發(fā)式2. 對(duì)于每個(gè)屬性Ai,Tmi是其一個(gè)切點(diǎn),把例子集分成兩個(gè)例子數(shù)相等的子集, E(Tmi)是Tmi的熵,對(duì)各屬性按E(Tmi)從小到大的順序使用啟發(fā)式1進(jìn)行離散化.3. 多區(qū)間劃分停止標(biāo)準(zhǔn)(最小描述長(zhǎng)度)Gain( A,T ; s) log 2 ( NN-1) +D(a ,T ; s)NGain( A,T ; s) =Ent(s) -E( A,T ; s)= Ent(s) - | S1N|Ent(S1)
4、 - | S2N| Ent(S)22D(A,T; s) = log(3k- 2) -kEnt(s) - k1Ent(s1) - k2Ent(s2 )K1,k2分別是T左右兩邊例子的類(lèi)別數(shù)4. Bayes離散法 設(shè)有兩類(lèi)W1和W2狀態(tài)先驗(yàn)概率P(wi),條件概率p(x|Wi)i=1,2p(wi| x) =p(x |2wi ) p(wi )i =1p(x |wj ) p(wj )P(Gj)=|Gj|/|sGs| P(x|Gj)=(k/mj)/A(k,x)mj=|Gj|, k=mj間長(zhǎng)度.A(k,x)以x為中心,恰好包含了k個(gè)例子的區(qū)算法1)對(duì)I=1,2,.,n;求Gi類(lèi)例子的個(gè)數(shù)2) 所有例子的個(gè)數(shù)|UsGs|3) 對(duì)I=1,2,n;求P(Gi)=|Gi|/|UsGs|4) 從區(qū)間左端開(kāi)始,按某步長(zhǎng)step向右走,對(duì)于每一點(diǎn)x計(jì)算A(k,x),具體辦法是:以x為中心點(diǎn),以step為步長(zhǎng)向兩端擴(kuò)展,直到包含k個(gè)例子為止,然后計(jì)算該點(diǎn)的P(x|Gj)=(k/mj)/A(k,x),如果有兩個(gè)值Xs、Xs+1(Xs+1=Xs+step), 使 得 P(Xs|Gi1)P(Gi1)=maxP(Xs|Gj)P(Gj), P(Xs+1|Gi2)P(Gi2)=maxP(Xs+1|Gj)P(Gj), j=1,2,n, i1i2, 則
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 沖壓件質(zhì)檢員崗位面試問(wèn)題及答案
- 消費(fèi)金融風(fēng)控建模師崗位面試問(wèn)題及答案
- 四川省成都石室天府2025年高一下化學(xué)期末學(xué)業(yè)質(zhì)量監(jiān)測(cè)模擬試題含解析
- 2025屆安徽省舒城龍河中學(xué)化學(xué)高二下期末聯(lián)考模擬試題含解析
- 吉林省長(zhǎng)春市“BEST合作體”2025屆化學(xué)高二下期末綜合測(cè)試試題含解析
- 2025屆廣州協(xié)和中學(xué)高二化學(xué)第二學(xué)期期末檢測(cè)模擬試題含解析
- 機(jī)械非標(biāo)造價(jià)管理辦法
- 區(qū)內(nèi)惡意挖人管理辦法
- 區(qū)縣撥付資金管理辦法
- 安全行為量化分析-洞察及研究
- 2025年廣州市中考物理試題(含答案)
- 2024年漳州市常山開(kāi)發(fā)區(qū)招聘筆試真題
- 2024年09月年中國(guó)農(nóng)業(yè)發(fā)展銀行江蘇省分行秋季校園招聘(86人)筆試歷年參考題庫(kù)附帶答案詳解
- 2025年江蘇省揚(yáng)州市中考作文4篇范文:“尊重”“誠(chéng)實(shí)”“創(chuàng)造性”“美好生活”
- 2025年輔警招聘考試試題庫(kù)含完整答案
- 2025年吉林省中考語(yǔ)文試卷及答案
- 2024-2025學(xué)年度天津鐵道職業(yè)技術(shù)學(xué)院?jiǎn)握小墩Z(yǔ)文》真題附答案詳解(突破訓(xùn)練)
- 快遞行業(yè)市場(chǎng)發(fā)展分析及投資前景研究報(bào)告2025-2028版
- 禮儀培訓(xùn)ptt課件
- 2025年國(guó)情與形勢(shì)政策教育綱要
- 《基本樂(lè)理》師范與學(xué)前教育專(zhuān)業(yè)基本樂(lè)理相關(guān)知識(shí)全套教學(xué)課件
評(píng)論
0/150
提交評(píng)論